AirSOTA
Air School of Thoughts AtoZAirSOTA 知识矩阵:聚合大模型算法架构、科学育儿情境成长、加州地产考牌实战与全球数字化商业出海的权威专栏。
TalentMe · AI 学习与系统架构
工业级 AI 算法核心 69 题、前沿大模型系统架构演进与北美技术面试全流程备考深度长文。
【AI 核心深度 M5-092】解释 Agent 的上下文管理与压缩。(Agent Context Management and Window Compression Strategies)深度数理推导与工程落地解析
长任务的上下文会超出窗口且成本 O(R²);用摘要、检索、分层与外部存储管理’放什么进上下文’。
【AI 核心深度 M5-093】解释 MCP 与工具生态标准化。(Model Context Protocol (MCP) and Tool Ecosystem Standardization)深度数理推导与工程落地解析
MCP(Model Context Protocol)标准化’模型如何连接工具与数据源’,使工具可复用、解耦模型与工具实现。
【AI 核心深度 M5-066】解释 Chain-of-Thought 为什么有效。(Why Chain-of-Thought (CoT) Works: A Computational Perspective)深度数理推导与工程落地解析
CoT 让模型生成中间步骤,把串行计算从’网络深度’搬到’序列长度’,从而突破常数深度的表达力限制。
【AI 核心深度 M5-067】解释 Self-Consistency 与多数投票。(Self-Consistency and Majority Voting in LLM Reasoning)深度数理推导与工程落地解析
对同一问题采样多条 CoT 路径,取答案的多数投票;利用’正确路径多样、错误路径分散’提升准确率。
【AI 核心深度 M5-068】解释 Tree-of-Thought 与 ReAct 的差异。(Tree-of-Thought (ToT) vs. ReAct: Internal Deliberation vs. External Interaction)深度数理推导与工程落地解析
ToT 在推理空间做树搜索(探索+回溯,无外部动作);ReAct 交替推理与外部工具调用(有外部动作与观察)。
【AI 核心深度 M5-069】解释 few-shot 示例的选择与排序影响。(Few-Shot Example Selection and Ordering Effects in In-Context Learning)深度数理推导与工程落地解析
示例的选择(相似性/多样性)与顺序(近因效应)显著影响效果;随机顺序不可靠,需按任务设计。
【AI 核心深度 M5-070】解释提示的脆弱性与鲁棒性问题。(Prompt Brittleness and Robustness in Large Language Models)深度数理推导与工程落地解析
微小改动(措辞、顺序、格式)可导致性能大幅波动;成因包括分布敏感、注意力位置效应与评测噪声。
【AI 核心深度 M5-071】解释自反思(reflection / self-critique)的机制与局限。(Self-Reflection and Self-Critique Mechanisms and Limitations in LLMs)深度数理推导与工程落地解析
让模型检查自己的输出并修订;能修正显式错误,但对’自信的错误’无效,且可能’改错’。
【AI 核心深度 M5-072】解释 prompt 的格式敏感性与 chat template 的影响。(Prompt Formatting Sensitivity and the Impact of Chat Templates)深度数理推导与工程落地解析
同一语义的不同格式(标点、角色标记、换行)会改变输出;chat template 的差异会造成跨模型性能显著变化。
【AI 核心深度 M5-073】描述一个完整 RAG 系统的组成。(Architecture and Components of a Complete RAG System)深度数理推导与工程落地解析
索引(切分+嵌入+建库)、检索(召回+重排)、生成(上下文拼接+生成)、以及评估与监控。
【AI 核心深度 M5-074】解释分块(chunking)策略与取舍。(Document Chunking Strategies and Trade-offs in RAG)深度数理推导与工程落地解析
固定长度、递归、语义、按结构切分;粒度影响召回与上下文质量,常配重叠与元数据。
【AI 核心深度 M5-075】解释混合检索与融合(BM25 + 稠密 + RRF)。(Hybrid Search and Reciprocal Rank Fusion (BM25 + Dense + RRF))深度数理推导与工程落地解析
BM25 擅长精确匹配(术语/编号),稠密擅长语义;用 RRF 或加权融合两者排名,兼顾精确与语义。
【AI 核心深度 M5-076】解释重排(reranking)的作用与代价。(Cross-Encoder Reranking: Value, Trade-offs, and Compute Cost)深度数理推导与工程落地解析
用交叉编码器对候选精排,比双塔更准但更慢;通常召回 top-100 → 重排 top-5,兼顾效率与精度。
【AI 核心深度 M5-077】解释 RAG 的评估维度与方法。(Evaluation Dimensions and Frameworks for RAG Systems)深度数理推导与工程落地解析
分检索层(Recall@k/MRR/NDCG)与生成层(忠实度/答案相关性/上下文利用)评估,并做端到端与失败分析。
【AI 核心深度 M5-078】解释 Self-RAG 与自适应检索。(Self-RAG and Adaptive Retrieval Mechanisms)深度数理推导与工程落地解析
让模型自己决定’是否需要检索、检索什么、是否采信’;用反思 token 训练,避免’无差别检索’的浪费。