Category: AI & 机器学习 (AI & Machine Learning)

> **核心摘要**：大语言模型（LLM）的开放交互特性带来了前所未有的安全挑战。**Prompt 注入攻击** 能够绕过系统设定劫持模型行为，**PII 泄露** 可能引发严重的合规危机。通过在输入输出端部署 **Guardrails (安全护栏)**，并在模型微调阶段引入 **差分隐私 (DP-SGD)** 与 *

> **核心摘要**：优化器与训练工程是连接神经网络结构设计与显存硬件物理限制的坚实桥梁。从自适应学习率优化器的演进（SGD $to$ Momentum $to$ RMSprop $to$ Adam $to$ AdamW）、打破对称性迷局的权重初始化数理推导（Xavier/Glorot 方差守恒与 Kaimin

> **核心摘要**：随着大语言模型 (LLM) 参数量达到百亿至千亿级，全精度 FP16/BF16 模型的显存占用与访存带宽成为实时低延迟推理的致命瓶颈。**模型量化 (Quantization)** 技术通过将连续高精度浮点数映射为低精度整数（如 INT8、INT4），在显存占用缩减 50%~75% 的同时实现显着

> **核心摘要**：概率图模型 (Probabilistic Graphical Models, PGM) 结合了概率论与图论，是处理不确定性与序列标注任务的数理基石。本指南系统剖析从朴素贝叶斯 (Naive Bayes) 的条件独立性假设与拉普拉斯平滑，到隐马尔可夫模型 (HMM) 的状态转移/发射概率矩阵与 Vi

> **核心摘要**：语音是人类最自然、最便捷的交互媒介。传统语音识别 (ASR) 强依赖于复杂的声学模型与语言模型分工。随着 **OpenAI Whisper** 与 **Native Audio-LLM (如 GPT-4o Audio)** 的崛起，音频处理全量迈向了 Encoder-Decoder 大模型与离散

> **核心摘要**：基于模型的强化学习 (Model-Based RL, MBRL) 为智能体配备一个内部**世界模型**——对环境的动态转移 $hat{P}_phi(s’ mid s, a)$ 与奖励函数 $hat{R}_phi(s, a)$ 的近似学习——并利用该模型进行**规划 (Planning)*

> **导读与全景视野**：现代人工智能与大模型技术已经演进为一个极其庞大、跨学科且数理严密的工程科学体系。从最底层的线性代数与概率卡方分布，到经典机器学习的多项式回归与 SVM，从深度学习的卷积与自注意力机制，到千亿大语言模型 (LLM)、多模态生成、具身智能 Agent 以及 GPU 分布式并行系统。本文档作为 T

> **Core Executive Summary**: High-dimensional vector search powers RAG and recommendation systems. Exact flat search $O(N cdot D)$ fails at scale. **Vector Da