Tag: module-m5
-
【AI 核心深度 M5-133】解释 Prefix/Prompt Tuning 与 LoRA 的差异。（Mechanisms and Architectural Differences: Prefix/Prompt Tuning vs. LoRA）深度数理推导与工程落地解析
Prompt/Prefix Tuning 在输入/每层加可学习前缀（改激活）；LoRA 改权重（加低秩增量）；后者更通用且可合并。
-
【AI 核心深度 M5-134】解释 PEFT 方法的选择依据。（Systematic Decision Framework for Parameter-Efficient Fine-Tuning (PEFT) Selection）深度数理推导与工程落地解析
按’显存约束、任务距离、数据量、部署要求（延迟/多任务）’四维选择：LoRA 为默认，QLoRA 省显存，全参用于远域。
-
【AI 核心深度 M5-135】解释 PEFT 与灾难性遗忘、模型合并的交互。（Interaction of PEFT with Catastrophic Forgetting and Model Merging）深度数理推导与工程落地解析
PEFT 冻结基座天然缓解遗忘；适配器可合并（多任务/任务算术）或分别部署（多 LoRA 服务）。
-
【AI 核心深度 M5-136】解释 LoRA 的变体（DoRA / LoRA+ / rsLoRA）与秩的选择。（LoRA Architectural Variants (DoRA, LoRA+, rsLoRA) and Rank Selection Strategies）深度数理推导与工程落地解析
DoRA 分解为幅度与方向（更接近全参）；LoRA+ 给 B 更大 lr；rsLoRA 修正缩放；秩按任务距离选。
-
【AI 核心深度 M5-121】解释推理算力与模型规模的等价性研究结论。（Equivalence Laws of Inference-Time Compute and Pre-training Model Parameter Scaling）深度数理推导与工程落地解析
在某些任务上’小模型 + 更多推理算力’可匹配’大模型’；但依赖任务类型（可分解/可验证），且不能替代知识。
-
【AI 核心深度 M5-122】如何为推理时计算做成本-收益决策？（Cost-Benefit Decision Framework for Inference-Time Compute Allocation）深度数理推导与工程落地解析
比较’增加推理算力’与’换更大模型’的边际收益；按难度分层、按任务类型选形式，并用 goodput 评估。
-
【AI 核心深度 M5-108】解释护栏（guardrails）的分层设计。（Multi-Layer Defense-in-Depth Guardrail Architectures for LLMs）深度数理推导与工程落地解析
输入过滤 → 模型对齐 → 输出过滤 → 运行时监控，多层互补；单层都可能被绕过，故需纵深防御。
-
【AI 核心深度 M5-109】解释对齐税（alignment tax）与安全-能力权衡。（The Alignment Tax and the Pareto Frontier of Safety vs Capability）深度数理推导与工程落地解析
对齐（安全/RLHF）可能损害能力与多样性；需通过混合数据、KL 约束、多目标优化减轻’税’。
-
【AI 核心深度 M5-110】解释幻觉检测的方法（检索一致性 / 自一致性 / 不确定性）。（Hallucination Detection Methodologies: Retrieval Consistency, Self-Consistency, and Uncertainty）深度数理推导与工程落地解析
三类：外部证据核查（检索/工具验证）、内部一致性（多次采样/多模型）、不确定性（语义熵/P(True)）。
-
【AI 核心深度 M5-111】解释约束解码（constrained decoding）的原理。（Principles and Mechanics of Grammar-Constrained Decoding）深度数理推导与工程落地解析
在每个解码步把’不合语法的 token’的 logits 置为 −∞，使采样只落在合法 token 上，从而保证输出符合语法。