所属模块：
M2 · 经典机器学习 (Classical Machine Learning)| 专题分类：类别不平衡 (Class Imbalance Learning)| 难度等级：Easy
一、核心一句话结论 (One-Sentence Summary)
重采样（过/欠采样）、代价敏感、阈值调整、集成、异常检测视角。
Address imbalance at the data level (re-sampling), algorithmic level (cost-sensitive loss, Focal Loss), and post-processing level (threshold tuning).
二、核心考点要义 (Key Insights)
- 📌 先问’指标是否合适’（用 PR-AUC 而非 ROC-AUC）
- 📌 重采样需在 CV 折内做
English Insights:
– Data-level: random undersampling, oversampling, SMOTE, ADASYN
– Algorithm-level: class-weighted loss, Focal Loss, balance cascade ensembling
– Post-processing: probability calibration followed by cost-optimal threshold shifting
三、核心数学原理与机理推导 (Mathematical Principles & Derivation)
$$text{class weight}: w_c=frac{N}{2N_c}$$
五个层次的解法（从数据到决策）：① 指标层面——首先改用对不平衡敏感的指标（PR-AUC、F1、召回@固定精度），而非 accuracy 或 ROC-AUC（它们在不平衡下过于乐观）；这是最容易被忽视但最重要的一步。② 数据层面——过采样（复制少数类、SMOTE 合成）或欠采样（丢弃多数类）；过采样不丢信息但增加训练时间与过拟合风险（复制样本），欠采样快但丢信息；两者都必须在 CV 折内做（否则合成/复制的样本会跨越折边界导致泄漏）。③ 算法层面——代价敏感（给少数类更高的损失权重，如 class_weight=’balanced’）、Focal Loss（降低易分类样本的权重）、或专门的不平衡学习方法。④ 决策层面——调整阈值：训练后用验证集选使业务目标（如代价矩阵最小化）最优的阈值，而非默认 0.5。⑤ 问题重构——把少数类检测视为异常检测（单类分类、孤立森林），或用集成（BalancedBagging、EasyEnsemble）。
📖 查看英文严格数学推导 (English Mathematical Derivation)
Taxonomy of Class Imbalance Solutions: ① Re-sampling: Adjust the empirical class distribution $P(y)$ to $P'(y)$. Undersampling drops majority samples (discards data); Oversampling replicates minority samples (risks overfitting); Synthetic generation (SMOTE) interpolates between nearest minority neighbors. ② Cost-Sensitive Learning: Modify the loss objective $mathcal{L} = – sum_i w_{y_i} ell(y_i, hat{y}_i)$ with inverse-frequency weights $w_c = frac{N}{K cdot N_c}$. ③ Focal Loss: $mathcal{L}_{text{FL}} = – alpha_t (1 – p_t)^gamma log p_t$, dynamically downweighting easy negative examples. ④ Threshold Moving: Adjust decision boundary $tau$ based on Bayes risk or business trade-offs.
四、工业级落地权衡与工程考量 (Industrial Trade-offs)
实践要点：① 过采样 vs 欠采样——多数场景下代价敏感/类权重优于重采样（不改变数据分布、更稳定）；若必须重采样，过采样（SMOTE）通常优于欠采样（不丢信息），但 SMOTE 在高维/类别重叠区会生成错误样本。② SMOTE 的适用与风险——在少数类近邻间线性插值；适合数值特征且类别可分的场景；风险是 (a) 在类别边界生成’侵入’多数类的样本，(b) 高维下近邻不可靠，(c) 对类别特征不适用（需 SMOTE-NC）。③ 不要对验证/测试集重采样——只在训练折上做，验证/测试集保持原始分布（否则评估失真）。④ 类权重的等价性——类权重 ≈ 按权重重采样，但更稳定（不改变样本数、无重复）；这是首选方案。⑤ 阈值优化的前提——模型需输出校准良好的概率（否则阈值无意义）；若模型过自信（如深度网络），应先做温度缩放等校准。⑥ 业务视角——最终应以业务代价决定权衡（如欺诈检测漏判代价 >> 误判代价，则优先召回）。
⚙️ 查看英文落地权衡分析 (English Systems & Trade-offs)
Engineering decision matrix: In massive datasets ($N > 10^8$), Random Undersampling combined with ensembling (e.g., EasyEnsemble) is computationally optimal. In medium datasets, Class Weights or Focal Loss are preferred because they preserve original data distribution and maintain consistent sample sizes. For business KPIs, always couple model training with rigorous post-calibration threshold optimization.
五、常见面试避坑陷阱 (Common Pitfalls & Traps)
- ⚠️ 对验证/测试集做重采样（评估失真）
- ⚠️ 在不平衡数据上用 accuracy 或 ROC-AUC 作为主指标
English Pitfalls:
– Evaluating models on imbalanced data using accuracy instead of PR-AUC, F1, or cost-weighted matrices
– Applying SMOTE to the entire dataset before train/test splitting, leaking synthetic test points into training
六、高频深度面试追问与预测 (Follow-Up Questions)
- 为什么重采样必须放进 CV？
- When is random undersampling strictly superior to SMOTE in large-scale production systems?
- 过采样与欠采样的取舍？
- Why does modifying class weights during training distort predicted probabilities, and how do you calibrate them?
七、知识图谱对齐 (Knowledge Graph Anchor)
- 🔗 关联底层卡片：
类别不平衡求解：SMOTE 过采样、Focal Loss 与阈值调整(Class Imbalance: SMOTE, Focal Loss & Threshold Moving) - 🗺️ 知识图谱模块：
机器学习工程师高频考点导图
🔬 算法科学家与机器学习深度考察全量题库 (Science Depth)
本题收录于 TalentMe 算法科学家深度考察真题库 (Science Depth)。全库共 856 道硬核考点，深度覆盖数学统计、经典ML、深度学习、Transformer、大语言模型、多模态、推荐系统与 MLOps。支持 Jev 面经智能匹配、一键离线单文件 HTML 手册导出并直连 Obsidian 本地记忆。