AirSOTA
Air School of Thoughts AtoZAirSOTA 知识矩阵：聚合大模型算法架构、科学育儿情境成长、加州地产考牌实战与全球数字化商业出海的权威专栏。
TalentMe · AI 学习与系统架构
工业级 AI 算法核心 69 题、前沿大模型系统架构演进与北美技术面试全流程备考深度长文。
【AI 核心深度 M2-111】解释 GBDT 的特征重要度与 SHAP 值的差异（Differences Between GBDT Built-in Feature Importance and TreeSHAP Values）深度数理推导与工程落地解析
MDI 基于不纯度下降（快但偏向高基数）；SHAP 基于博弈论（一致、逐样本，但计算贵）。
【AI 核心深度 M2-093】解释回归中的交互项与多项式项，以及如何避免过拟合（Interaction and Polynomial Terms in Regression: Formulations and Regularization）深度数理推导与工程落地解析
交互项捕捉’一个特征的效应依赖另一特征’；多项式项捕捉非线性；需标准化与正则化。
【AI 核心深度 M2-094】解释多项逻辑回归（softmax 回归）与它的参数辨识性问题（Multinomial Logistic Regression (Softmax Regression) and Parameter Identifiability）深度数理推导与工程落地解析
用 softmax 输出 K 类概率；K 组参数不可唯一辨识，需固定参照类或加约束。
【AI 核心深度 M2-095】解释逻辑回归与最大熵模型的关系（Relationship Between Logistic Regression and the Maximum Entropy Model）深度数理推导与工程落地解析
在给定特征期望约束下，最大熵解的形式恰是逻辑回归；两者是同一模型的不同推导路径。
【AI 核心深度 M2-096】解释 L1 与 L2 正则化的贝叶斯解释（Bayesian Interpretation of L1 and L2 Regularization）深度数理推导与工程落地解析
L2 = 高斯先验下的 MAP；L1 = Laplace 先验下的 MAP；正则强度 = 先验方差的倒数。
【AI 核心深度 M2-097】解释权重衰减在 Adam 中为什么要解耦（AdamW）（Why Weight Decay Must Be Decoupled in Adam (AdamW)）深度数理推导与工程落地解析
耦合时衰减被自适应学习率扭曲；解耦后衰减与学习率独立，正则效果更可预测。
【AI 核心深度 M2-084】温度缩放（temperature scaling）如何校准深度网络？（Temperature Scaling for Calibrating Deep Neural Networks）深度数理推导与工程落地解析
在 logits 上除以温度 T，用验证集拟合 T；不改预测类别，只调整置信度。
【AI 核心深度 M2-085】校准在哪些场景至关重要？举两个例子（Scenarios Where Calibration is Critical: Core Use Cases and Concrete Examples）深度数理推导与工程落地解析
概率被下游使用时：医疗风险、金融定价、广告出价、级联系统的阈值决策。
【AI 核心深度 M2-086】列举分类、回归、排序的常用评估指标（Common Evaluation Metrics for Classification, Regression, and Ranking）深度数理推导与工程落地解析
分类：Accuracy/P/R/F1/AUC/PR-AUC/LogLoss；回归：MSE/MAE/RMSE/R²/分位数损失；排序：NDCG/MRR/MAP/Recall@K。
【AI 核心深度 M2-087】比较网格搜索、随机搜索与贝叶斯优化（Comparing Grid Search, Random Search, and Bayesian Optimization）深度数理推导与工程落地解析
网格穷举但指数爆炸；随机搜索在高维更高效；贝叶斯优化用代理模型指导采样。
【AI 核心深度 M2-088】什么是超参的重要度排序？如何高效调参（Hyperparameter Importance Hierarchy and Efficient Tuning Strategies）深度数理推导与工程落地解析
用 fANOVA/消融估计各超参对性能的贡献，优先调重要超参（学习率、正则、深度）。
【AI 核心深度 M2-089】如何处理调参中的随机性（种子方差）？（Handling Randomness and Seed Variance in Hyperparameter Tuning）深度数理推导与工程落地解析
多次随机种子重复评估，报告均值与标准差；用配对检验比较模型。
【AI 核心深度 M2-090】线上评估与离线评估为什么会不一致？如何缩小差距（Why Offline and Online Evaluations Diverge: Causes and Mitigation Strategies）深度数理推导与工程落地解析
离线数据分布、指标代理、反馈回路、延迟效应都与线上不同；需回放评估、反事实评估与在线小流量验证。
【AI 核心深度 M2-091】在神经网络中如何评估特征重要性？与树模型的方法有何不同？（Evaluating Feature Importance in Neural Networks vs Tree Models）深度数理推导与工程落地解析
用梯度/输入×梯度、置换、消融、或注意力/门控；比树模型更贵且更不稳定，需多种子重复。
【AI 核心深度 M2-092】解释加权最小二乘（WLS）与它处理异方差的方式（Weighted Least Squares (WLS) and Handling Heteroscedasticity）深度数理推导与工程落地解析
给每个样本乘权重再最小化加权残差平方和；权重取方差的倒数时达到最小方差。