AirSOTA
Air School of Thoughts AtoZAirSOTA 知识矩阵:聚合大模型算法架构、科学育儿情境成长、加州地产考牌实战与全球数字化商业出海的权威专栏。
TalentMe · AI 学习与系统架构
工业级 AI 算法核心 69 题、前沿大模型系统架构演进与北美技术面试全流程备考深度长文。
【AI 核心深度 M2-042】为什么需要拉普拉斯平滑?给出公式。(Explain Laplace (Additive) Smoothing and Why It Prevents Zero-Probability Catastrophes in Naive Bayes)深度数理推导与工程落地解析
防止某特征未在类中出现导致概率为 0、整乘积归零。
【AI 核心深度 M2-043】比较高斯、多项式、伯努利三种朴素贝叶斯。(Compare Gaussian, Multinomial, and Bernoulli Naive Bayes Models and Their Respective Likelihoods)深度数理推导与工程落地解析
高斯适合连续特征;多项式适合计数(词频);伯努利适合二值出现/不出现。
【AI 核心深度 M2-044】朴素贝叶斯为什么常用对数域计算?(Explain Why Naive Bayes Operates in the Log-Probability Domain to Prevent Underflow)深度数理推导与工程落地解析
大量小概率相乘会下溢为 0;取对数把乘积变求和。
【AI 核心深度 M2-045】朴素贝叶斯与逻辑回归的关系是什么?何时各占优。(Contrast Naive Bayes and Logistic Regression as a Generative-Discriminative Model Pair (Ng & Jordan, 2001))深度数理推导与工程落地解析
NB 生成式(建模联合分布),LR 判别式(直接建模后验);小样本 NB 占优,大样本 LR 占优。
【AI 核心深度 M2-046】比较 XGBoost 与 LightGBM 的工程差异。(Compare XGBoost and LightGBM: Histogram Binning, GOSS, EFB, and Tree Growth Strategies)深度数理推导与工程落地解析
LightGBM 用直方图分裂 + 叶子优先生长(leaf-wise)+ GOSS + EFB,更快但更易过拟合。
【AI 核心深度 M2-047】描述 KNN 的算法流程与复杂度。(Describe the K-Nearest Neighbors (KNN) Algorithm Workflow and Computational Complexity)深度数理推导与工程落地解析
找最近 k 个邻居投票;预测 O(nd)(暴力)或 O(d log n)(KD 树/近似索引),训练 O(1)。
【AI 核心深度 M2-048】K 的取值如何影响偏差与方差?(Explain How Hyperparameter K Governs the Bias-Variance Tradeoff in K-Nearest Neighbors)深度数理推导与工程落地解析
K 小 → 低偏差高方差(对噪声敏感);K 大 → 高偏差低方差(过度平滑)。
【AI 核心深度 M2-049】为什么 KNN 需要特征缩放?不同距离度量有何差异。(Explain Why KNN Strictly Requires Feature Scaling and Contrast Common Distance Metrics)深度数理推导与工程落地解析
距离对量纲敏感,需标准化;欧氏/L1/余弦/马氏距离适应不同数据结构。
【AI 核心深度 M2-050】KNN 如何用于回归与异常检测?(Detail How K-Nearest Neighbors Extends to Continuous Regression and Unsupervised Anomaly Detection)深度数理推导与工程落地解析
回归取邻居均值;异常检测用第 k 距离或局部离群因子(LOF)。
【AI 核心深度 M2-051】解释维度灾难对 KNN 的具体影响。(Explain the Curse of Dimensionality and Its Pathological Consequences on Distance-Based Models)深度数理推导与工程落地解析
高维下最近邻与最远邻距离趋同,’最近’失去区分度,需要样本量指数增长。
【AI 核心深度 M2-052】描述 K-means 算法,说明它的目标函数与收敛性。(Formulate the K-Means Algorithm, Coordinate Descent Objective, and Convergence Guarantees)深度数理推导与工程落地解析
交替’分配最近中心’与’更新中心为均值’,单调下降目标直至收敛到局部最优。
【AI 核心深度 M2-053】如何选择聚类数 K?列出主要方法。(Detail Methodologies for Selecting the Optimal Number of Clusters K in Unsupervised Learning)深度数理推导与工程落地解析
肘部法、轮廓系数、Gap 统计量、BIC/AIC(模型法)、业务可解释性。
【AI 核心深度 M2-054】比较 K-means、GMM(EM)与 DBSCAN。(Compare K-Means, Gaussian Mixture Models (GMM), and DBSCAN Across Assumptions, Geometry, and Complexity)深度数理推导与工程落地解析
K-means 硬分配+球形;GMM 软分配+椭圆+概率模型;DBSCAN 密度聚类,可发现任意形状与噪声。
【AI 核心深度 M2-033】XGBoost 相比传统 GBDT 有哪些改进?(Survey the Core Algorithmic and Systems Innovations of XGBoost Over Traditional GBDT)深度数理推导与工程落地解析
二阶泰勒近似 + 显式正则项 + 加权分位点分裂 + 稀疏感知 + 列块并行。
【AI 核心深度 M2-034】XGBoost 的增益公式是什么?它如何选择分裂点。(Formulate the XGBoost Split Gain Equation and Explain Its Candidate Split Selection Mechanics)深度数理推导与工程落地解析
增益 = 左右子节点梯度和的贡献减去父节点再减去复杂度惩罚。