Tag: module-m5
-
【AI 核心深度 M5-105】列举缓解幻觉的主要手段。（Comprehensive Mitigation Strategies for LLM Hallucinations）深度数理推导与工程落地解析
检索增强（RAG）、工具调用、约束（要求引用/允许不知道）、解码策略、训练（RLHF/偏好数据）、以及后验校验。
-
【AI 核心深度 M5-106】解释不确定性量化与校准在幻觉检测中的作用。（Uncertainty Quantification and Probability Calibration for Hallucination Detection）深度数理推导与工程落地解析
让模型输出置信度并使其’校准’（置信度≈正确率）；用语义熵、自一致性、logit 熵检测高幻觉风险的回答。
-
【AI 核心深度 M5-107】解释越狱（jailbreak）与提示注入的攻击面。（Attack Vectors of Jailbreaking and Indirect Prompt Injection）深度数理推导与工程落地解析
越狱：诱导模型绕过安全限制（角色扮演/编码/多轮）；注入：把恶意指令藏在数据里（网页/文档/工具返回）。
-
【AI 核心深度 M5-080】解释 embedding 模型的选择与微调。（Embedding Model Selection, Dimensions, and Domain Fine-Tuning）深度数理推导与工程落地解析
按语言/领域/最大长度选基座；用对比学习在领域数据上微调可显著提升召回，需构造难负样本。
-
【AI 核心深度 M5-081】解释 query 改写与 HyDE。（Query Transformation Techniques: HyDE, Multi-Query, and Step-Back Prompting）深度数理推导与工程落地解析
用 LLM 改写/扩展查询以弥合’查询-文档’的表达差异；HyDE 先生成假设答案再检索（用答案的嵌入更接近文档）。
-
【AI 核心深度 M5-082】解释 GraphRAG 与结构化检索。（GraphRAG and Structured Knowledge Retrieval）深度数理推导与工程落地解析
用知识图谱/实体关系组织文档，支持多跳与全局问题；代价是构建成本高、维护复杂。
-
【AI 核心深度 M5-083】解释长上下文 vs RAG 的取舍。（Long Context Windows vs. RAG: Comparative Trade-offs）深度数理推导与工程落地解析
长上下文保持全局连贯但成本 ∝L²；RAG 精确且便宜但不保证全局；按’任务是否需全局整合’选择或组合。
-
【AI 核心深度 M5-084】解释 RAG 的失败模式与调试。（Common RAG Failure Modes and Systematic Debugging）深度数理推导与工程落地解析
检索失败（未召回/召回无关）、生成失败（忽略证据/幻觉）、以及系统性问题（切分/嵌入/组装）。
-
【AI 核心深度 M5-085】描述 ReAct 循环与它的设计动机。（ReAct Loop Architecture and Design Motivations）深度数理推导与工程落地解析
交替’思考→行动→观察’，用外部工具获取信息并修正推理；动机是弥补 LLM 的’知识静态、无法执行动作’。
-
【AI 核心深度 M5-086】解释工具调用（function calling）的实现要点。（Implementation Essentials of Function Calling in LLMs）深度数理推导与工程落地解析
用 JSON Schema 描述工具，模型输出结构化调用，系统执行后回填结果；关键是 schema 设计、错误处理与并行调用。