AirSOTA
Air School of Thoughts AtoZAirSOTA 知识矩阵：聚合大模型算法架构、科学育儿情境成长、加州地产考牌实战与全球数字化商业出海的权威专栏。
TalentMe · AI 学习与系统架构
工业级 AI 算法核心 69 题、前沿大模型系统架构演进与北美技术面试全流程备考深度长文。
DS 统计与实验设计：假设检验、功效分析、样本量计算、多重比较、SRM 与 CUPED 全景全解
> **核心摘要**：随机化线上实验是产品因果决策的金标准，DS 面试几乎必考其背后的统计学。本指南完整串起实验全链路：假设设定 (H₀/H₁)、α/β 权衡与功效 power = 1−β、均值与比率两类样本量公式、多重比较校正 (Bonferroni/Holm/FDR-BH)、p-hacking 与 peeking
Vector DB 向量数据库全景：HNSW 图索引、IVF-PQ 乘积量化与 ANN 相似度检索原理解构
> **核心摘要**：随着 Embedding 模型的普及，高维海量向量检索成为了大模型 RAG 与推荐系统的基石。传统暴力遍历 (FLAT) 检索复杂度为 $O(N cdot D)$，在数十亿规模向量下无法做到毫秒级响应。**向量数据库 (Vector DB)** 通过 **ANN (Approximate Nea
序列模型演进全景：RNN 随时间反向传播 (BPTT)、LSTM/GRU 门控机制、xLSTM 矩阵内存、HiPPO 矩阵与 Mamba 选择性状态空间模型 (S6) 极客指南
> **核心摘要**：处理变长序列与捕捉时间长程依赖是自然语言处理、语音识别与时序预测的核心课题。从早期的循环神经网络 (RNN)、解决梯度消失的门控机制 (LSTM / GRU)，到近年重新焕发生机的 xLSTM，再到突破 Transformer $mathcal{O}(N^2)$ 复杂度与 KV Cache 显存
支持向量机 (SVM)：最大间隔几何推导、对偶变换、KKT 条件与高斯 RBF 核技巧全解
> **核心摘要**：支持向量机 (Support Vector Machine, SVM) 是经典统计学习中最具数学美感的分类算法之一。本指南系统化剖析从线性可分几何间隔最大化到软间隔松弛变量、拉格朗日对偶极值转换、KKT 条件下支持向量的稀疏性特征，再到高维核技巧 (Kernel Trick) 的映射原理与选型策略
离线强化学习与模仿学习：分布偏移、行为克隆、CQL、IQL 与 RLHF/DPO 全景全解
> **核心摘要**：离线强化学习 (Offline RL) 旨在从**固定、预收集的数据集** $mathcal{D} = {(s, a, r, s’)}$ 中学习策略，且**不再与环境交互**。其核心障碍是**分布偏移 (Distribution Shift)**：学到的策略会访问与数据分布不一致的状态-动作
MLE 算法手写实战：零基础 Pure Numpy 手写 LR、K-Means、Self-Attention 与 NMS
> **核心摘要**：全量拆解 MLE 面试高频机器学习算法手写 (Whiteboard / Live Coding) 实战。深入剖析零依赖 Pure Numpy 实现逻辑回归 (Logistic Regression)、K-Means 迭代聚类、Softmax 数值防溢出技巧与 Self-Attention / NM
集群调度与 Ray：K8s 调度管线、Raylet 架构、分布式对象存储、弹性扩缩容与 GPU 调度全景
> **核心摘要**：任何 ML 平台都要回答同一个核心问题：给定 $N$ 台节点（CPU/GPU/内存），如何为 $M$ 个任务分配资源，使利用率最高、用户之间公平、且故障不拖垮整个作业？本指南从第一性原理拆解集群调度基本问题（资源分配/优先级/公平性），深入 Kubernetes 调度管线（过滤/打分两阶段、污点/
大模型偏好对齐全景：RLHF 3 阶段、PPO 截断损失、DPO 隐式奖励代换、GRPO 与 PRM/ORPO 深度剖析
> **核心摘要**：预训练与 Supervised Fine-Tuning (SFT) 赋予了大语言模型 (LLM) 强大的语言建模与指令遵循能力，但模型依然可能生成有害、偏见或不符合人类期望的回复（即 **Alignment Tax 现象**）。人类偏好对齐技术通过引入人类或 AI 反馈，引导模型向**有用性 (H
泛化理论全景：归纳偏置 (Inductive Bias)、Double Descent 双重下降与 PAC 学习范式
> **核心摘要**：为什么深度学习模型（如 700 亿参数大模型）拥有远超训练样本数的参数量，却不会发生严重的过拟合，反而展现出惊人的泛化能力？**泛化理论 (Generalization Theory)** 解释了这一现代 AI 奇迹。通过 **Inductive Bias (归纳偏置)** 注入先验架构约束，借助
业界经典 System Case Studies：Pinterest 视觉搜索与 Netflix 推荐系统
> **核心摘要**：学习 System Design 的最高境界是研读业界顶级科技巨头的真实架构。本指南全量解构两个经典工业案例——**Pinterest**（视觉搜索与推荐：图像嵌入、PinSage 式图神经网络表征、HNSW 近似最近邻检索、混合检索、多模态表征）与 **Netflix**（流媒体推荐：显式 +
MLE 机器学习工程师核心地图：高频八股、竞赛经验与 Pinterest 案例
> **核心摘要**：MLE 面试核心是一套高频复现的知识点闭环——**正则化与偏差方差权衡、过拟合诊断、特征工程、评估指标 (AUC / PR / F1)、类别不平衡、梯度消失、交叉验证、模型选型与集成方法**。在生产落地（如 Pinterest 规模推荐系统）中，它们汇成一条流水线：过滤万亿级原始日志 → 以无穿越
分布式并行训练全景：TP 张量并行、PP 流水线并行、DP 数据并行与 DeepSpeed ZeRO 1/2/3
> **核心摘要**：单张 GPU 的显存（如 H100 80GB）远不足以装载千亿参数大模型的权重、梯度和优化器状态（70B 模型 FP16 训练至少需要 1.12TB 显存）。**分布式 4D 并行体系 (DP, TP, PP, EP)** 与 **DeepSpeed ZeRO** 实现了跨千卡 GPU 集群的高效
大模型幻觉与真实性全景：内在/外在幻觉分类、FActScore 评估、RAGAS 框架与 RoPE 位置插值 (PI/NTK/YaRN) 扩展技术
> **核心摘要**：大语言模型 (LLM) 在生成文本时常出现看似合理但违背事实或上下文逻辑的现象，称为**幻觉 (Hallucination)**。幻觉是阻碍 LLM 在医疗、法律、金融等高风险场景落地的最大瓶颈。本指南系统剖析**内在 (Intrinsic)** 与 **外在 (Extrinsic)** 幻觉分类
线性代数核心：向量空间、四大子空间、SVD/EVD、投影与最小二乘、Jacobian/Hessian 全景
> **核心摘要**：线性代数是机器学习和深度学习的底层基座——每个张量都是矩阵，每一层都是矩阵乘法，每一条损失曲面都是矩阵运算的函数。本指南覆盖 AI 工程师不可妥协的数理核心：向量空间与矩阵运算、带有秩-零化度定理的四大子空间、特征值分解 EVD 与奇异值分解 SVD 的几何意义、正交投影与最小二乘的几何（正规方程
大模型 RAG 与 Agent 生产级系统架构：多租户隔离、流式服务与高可用
> **核心摘要**：将 RAG 知识库与 Agent 应用从 Demo 推向企业生产环境，本质上是分布式系统工程与机器学习工程的交叉问题。本指南自上而下拆解完整技术栈：离线索引流水线（解析 → 分块 → 向量化 → ANN 建索引）、在线服务链路（查询改写 → 混合检索 → 交叉编码重排 → 带引用的流式生成）、Ag