Tag: bagging-rf
-
【AI 核心深度 M2-105】解释 AdaBoost 的算法与它的损失函数（The AdaBoost Algorithm and Its Exponential Loss Function）深度数理推导与工程落地解析
串行训练弱分类器，按错误率调整样本权重与分类器权重；等价于最小化指数损失。
-
【AI 核心深度 M2-106】比较模型融合的三种策略：简单平均、加权平均与 Stacking（Comparing Model Ensembling Strategies: Simple Average, Weighted Average, and Stacking）深度数理推导与工程落地解析
简单平均无参数最稳；加权平均需学权重（易过拟合）；Stacking 学组合函数（最灵活但需防泄漏）。
-
【AI 核心深度 M2-027】比较 Bagging 与 Boosting 的核心差异。（Compare the Core Theoretical and Architectural Differences Between Bagging and Boosting）深度数理推导与工程落地解析
Bagging 并行训练独立模型降方差；Boosting 串行拟合残差降偏差。
-
【AI 核心深度 M2-028】随机森林的两个随机性来源是什么？各自作用。（Explain the Two Sources of Randomness in Random Forests and How They Decorrelate Trees）深度数理推导与工程落地解析
行采样（bootstrap）+ 特征子采样；前者降方差，后者降低树间相关性。
-
【AI 核心深度 M2-029】如何得到随机森林的特征重要度？它有什么缺陷。（Detail Mean Decrease Impurity (MDI) vs. Permutation Importance (MDA) in Random Forests and Their Known Biases）深度数理推导与工程落地解析
基于不纯度下降（MDI）或置换重要度（permutation）；MDI 偏向高基数特征且受相关特征稀释。
-
【AI 核心深度 M2-031】什么是 Stacking？它与 Blending 的区别是什么。（Define Stacking vs. Blending in Heterogeneous Ensembles and Compare Their Information Leakage Safeguards）深度数理推导与工程落地解析
Stacking 用元学习器组合基模型输出（交叉验证生成元特征）；Blending 用固定留出集，简单但数据利用低。