AirSOTA
Air School of Thoughts AtoZAirSOTA 知识矩阵:聚合大模型算法架构、科学育儿情境成长、加州地产考牌实战与全球数字化商业出海的权威专栏。
TalentMe · AI 学习与系统架构
工业级 AI 算法核心 69 题、前沿大模型系统架构演进与北美技术面试全流程备考深度长文。
【AI 核心深度 M2-015】解释早停(early stopping)为什么等价于某种正则化。(Explain Why Early Stopping is Mathematically Equivalent to L2 Regularization)深度数理推导与工程落地解析
限制参数从初始点出发的’有效搜索半径’,与 L2 约束的可行域类似。
【AI 核心深度 M2-016】数据增强作为正则化手段的原理是什么?举例说明。(Explain the Principles of Data Augmentation as a Regularization Technique with Concrete Examples)深度数理推导与工程落地解析
通过构造保持标签不变的新样本,扩充有效数据分布,降低方差、提升不变性。
【AI 核心深度 M2-017】如何用学习曲线诊断高偏差与高方差?(Detail How to Diagnose High Bias vs. High Variance Using Learning Curves and Remediation Strategies)深度数理推导与工程落地解析
训练与验证误差都高且接近 → 高偏差;训练低、验证高且差距大 → 高方差。
【AI 核心深度 M2-018】比较 K 折交叉验证、留一法(LOO)与留出法的取舍。(Compare K-Fold Cross-Validation, Leave-One-Out (LOO), and Holdout Splits in Bias, Variance, and Compute)深度数理推导与工程落地解析
K 折平衡偏差与计算;LOO 偏差最小但方差大且昂贵;留出法快但方差大。
【AI 核心深度 M2-019】解释嵌套交叉验证,它解决了什么问题。(Explain Nested Cross-Validation and How It Resolves Hyperparameter Selection Optimism Bias)深度数理推导与工程落地解析
外层评估性能、内层调参;避免用同一份数据调参又评估造成的乐观偏差。
【AI 核心深度 M2-020】解释双重下降(double descent)现象。(Explain the Double Descent Phenomenon in Modern Machine Learning)深度数理推导与工程落地解析
模型复杂度超过插值阈值后,测试误差先升后降;与经典 U 型曲线不同。
【AI 核心深度 M2-021】什么是模型选择中的’选择性偏差’?如何避免。(Define Selection Bias in Model Selection and How to Prevent Leakage in Predictive Pipelines)深度数理推导与工程落地解析
在大量模型/超参中挑验证集最好的,会高估真实性能;需用独立测试集或嵌套 CV。
【AI 核心深度 M2-022】解释决策树的分裂准则(信息增益 / 基尼不纯度)。(Explain Decision Tree Splitting Criteria: Information Gain, Gain Ratio, and Gini Impurity)深度数理推导与工程落地解析
选择使子节点不纯度下降最多的特征;ID3 用信息增益,CART 用基尼。
【AI 核心深度 M2-023】决策树如何防止过拟合?列出主要手段。(Detail Pre-Pruning and Post-Pruning Strategies to Prevent Overfitting in Decision Trees)深度数理推导与工程落地解析
预剪枝(最大深度/最小样本/最小增益)+ 后剪枝(代价复杂度)+ 集成。
【AI 核心深度 M2-024】决策树为什么不需要特征缩放?它的归纳偏置是什么。(Explain Why Decision Trees are Invariant to Monotonic Transformations and Their Inductive Bias)深度数理推导与工程落地解析
分裂基于阈值比较,对单调变换不敏感;归纳偏置是轴平行分割,难以建模线性/旋转关系。
【AI 核心深度 M2-025】解释树的偏差-方差特性,以及为什么单棵树容易过拟合。(Explain the Bias-Variance Profile of Decision Trees and Why Individual Trees Suffer from High Variance)深度数理推导与工程落地解析
深树低偏差高方差(对训练数据扰动敏感);浅树高偏差低方差。
【AI 核心深度 M2-026】如何处理缺失值与类别特征?对比常见做法。(Compare Industrial Strategies for Handling Missing Values and Categorical Features in Tree Models)深度数理推导与工程落地解析
缺失值可用代理分裂(CART)、按缺失率分流、或缺失指示变量;类别特征可用 one-hot、目标编码、或原生类别分裂(LightGBM/CatBoost)。
【AI 核心深度 M1-087】解释如何评估实验的长期效应(超越短期指标)。(Explain Methodologies for Measuring Long-Term Treatment Effects Beyond Short-Term Metrics)深度数理推导与工程落地解析
用长期 holdout、反向实验、DID/合成控制或指标代理;短期与长期效应常不一致。
【AI 核心深度 M1-088】解释断点回归(RDD)与它的关键假设。(Explain Regression Discontinuity Design (RDD) and Its Core Continuity Assumption)深度数理推导与工程落地解析
利用某个连续变量在阈值处的’跳跃’识别因果;关键假设是阈值附近个体除处理外无系统性差异。
【AI 核心深度 M1-089】解释合成控制法(Synthetic Control)的思路与适用场景。(Explain the Synthetic Control Method and Its Application in Geo-Testing and Policy Evaluation)深度数理推导与工程落地解析
用多个未处理单位的加权组合构造’合成对照’,拟合处理单位处理前的轨迹;适用于单一处理单位。