AirSOTA
Air School of Thoughts AtoZAirSOTA 知识矩阵：聚合大模型算法架构、科学育儿情境成长、加州地产考牌实战与全球数字化商业出海的权威专栏。
TalentMe · AI 学习与系统架构
工业级 AI 算法核心 69 题、前沿大模型系统架构演进与北美技术面试全流程备考深度长文。
【AI 核心深度 M2-035】CatBoost 解决了什么问题？什么是 ordered boosting。（Explain Prediction Shift in GBDT and How CatBoost Resolves It via Ordered Boosting and Target Statistics）深度数理推导与工程落地解析
解决目标编码的泄漏与预测偏移；ordered boosting 用有序排列生成无偏的梯度估计。
【AI 核心深度 M2-036】解释 SVM 的间隔最大化思想与支持向量的作用。（Explain the Maximum Margin Principle in Support Vector Machines and the Role of Support Vectors）深度数理推导与工程落地解析
寻找最大间隔超平面；只有位于间隔边界上的支持向量决定解。
【AI 核心深度 M2-037】写出软间隔 SVM 的目标，并解释 C 的作用。（Formulate Soft-Margin SVM, Slack Variables, and the Regularization Role of Parameter C）深度数理推导与工程落地解析
引入松弛变量允许违反间隔；C 控制对违反的惩罚强度。
【AI 核心深度 M2-038】解释核技巧，为什么它能在不显式计算高维映射的情况下工作。（Explain the Kernel Trick, Mercer’s Condition, and Implicit High-Dimensional Inner Products）深度数理推导与工程落地解析
对偶形式只依赖样本内积，用核函数直接算高维内积，避免显式映射。
【AI 核心深度 M2-039】比较 RBF 核、多项式核与线性核的适用场景。（Compare Linear, Polynomial, and RBF Kernels and Their Decision Boundaries）深度数理推导与工程落地解析
线性核高维稀疏快；RBF 适合中小规模非线性；多项式核可建模特征交互但参数敏感。
【AI 核心深度 M2-040】SVM 对类别不平衡与噪声标签敏感吗？如何缓解。（Assess the Sensitivity of SVM to Class Imbalance and Label Noise and Industrial Mitigations）深度数理推导与工程落地解析
敏感：少数类支持向量少、噪声点被当作支持向量。缓解：类权重、软间隔、清理噪声。
【AI 核心深度 M2-027】比较 Bagging 与 Boosting 的核心差异。（Compare the Core Theoretical and Architectural Differences Between Bagging and Boosting）深度数理推导与工程落地解析
Bagging 并行训练独立模型降方差；Boosting 串行拟合残差降偏差。
【AI 核心深度 M2-028】随机森林的两个随机性来源是什么？各自作用。（Explain the Two Sources of Randomness in Random Forests and How They Decorrelate Trees）深度数理推导与工程落地解析
行采样（bootstrap）+ 特征子采样；前者降方差，后者降低树间相关性。
【AI 核心深度 M2-029】如何得到随机森林的特征重要度？它有什么缺陷。（Detail Mean Decrease Impurity (MDI) vs. Permutation Importance (MDA) in Random Forests and Their Known Biases）深度数理推导与工程落地解析
基于不纯度下降（MDI）或置换重要度（permutation）；MDI 偏向高基数特征且受相关特征稀释。
【AI 核心深度 M2-030】解释 out-of-bag（OOB）估计，它有什么用。（Explain Out-of-Bag (OOB) Error Estimation and Its Practical Utility in Random Forests）深度数理推导与工程落地解析
每棵树未采样到的样本构成 OOB 集，可免费作为验证集估计泛化误差。
【AI 核心深度 M2-031】什么是 Stacking？它与 Blending 的区别是什么。（Define Stacking vs. Blending in Heterogeneous Ensembles and Compare Their Information Leakage Safeguards）深度数理推导与工程落地解析
Stacking 用元学习器组合基模型输出（交叉验证生成元特征）；Blending 用固定留出集，简单但数据利用低。
【AI 核心深度 M2-032】解释 GBDT 的核心思想：为什么是’拟合负梯度’。（Explain the Core Concept of GBDT: Why Sequential Trees Fit the Negative Gradient）深度数理推导与工程落地解析
每轮拟合当前模型损失函数的负梯度（伪残差），等价于在函数空间做梯度下降。
【AI 核心深度 M2-012】正则化系数 λ 如何选择？过大过小分别会怎样。（Explain Hyperparameter Selection for Regularization Strength Lambda and Diagnostic Extremes）深度数理推导与工程落地解析
用交叉验证选择；λ 过大 → 欠拟合（高偏差），过小 → 过拟合（高方差）。
【AI 核心深度 M2-013】Dropout 为什么能起到正则化作用？给出两种解释。（Explain Why Dropout Acts as a Regularizer Through Ensemble and Feature Noise Perspectives）深度数理推导与工程落地解析
① 集成视角：等价于指数级子网络的 bagging；② 破坏共适应，迫使特征独立有用。
【AI 核心深度 M2-014】BatchNorm 为什么也有正则化效果？它和 Dropout 能一起用吗。（Explain the Regularization Effect of Batch Normalization and the Disharmony When Combined with Dropout）深度数理推导与工程落地解析
BN 引入 mini-batch 统计噪声，起轻微正则作用；但与 Dropout 同用会互相干扰（方差偏移）。