Tag: decision-trees
-
【AI 核心深度 M2-022】解释决策树的分裂准则（信息增益 / 基尼不纯度）。（Explain Decision Tree Splitting Criteria: Information Gain, Gain Ratio, and Gini Impurity）深度数理推导与工程落地解析
选择使子节点不纯度下降最多的特征；ID3 用信息增益，CART 用基尼。
-
【AI 核心深度 M2-023】决策树如何防止过拟合？列出主要手段。（Detail Pre-Pruning and Post-Pruning Strategies to Prevent Overfitting in Decision Trees）深度数理推导与工程落地解析
预剪枝（最大深度/最小样本/最小增益）+ 后剪枝（代价复杂度）+ 集成。
-
【AI 核心深度 M2-024】决策树为什么不需要特征缩放？它的归纳偏置是什么。（Explain Why Decision Trees are Invariant to Monotonic Transformations and Their Inductive Bias）深度数理推导与工程落地解析
分裂基于阈值比较，对单调变换不敏感；归纳偏置是轴平行分割，难以建模线性/旋转关系。
-
【AI 核心深度 M2-026】如何处理缺失值与类别特征？对比常见做法。（Compare Industrial Strategies for Handling Missing Values and Categorical Features in Tree Models）深度数理推导与工程落地解析
缺失值可用代理分裂（CART）、按缺失率分流、或缺失指示变量；类别特征可用 one-hot、目标编码、或原生类别分裂（LightGBM/CatBoost）。