Tag: science-depth
-
【AI 核心深度 M1-055】CTR 上升但 CVR 没动，如何用统计方法分析原因。（Analyze the Statistical Diagnostics When CTR Increases but CVR Remains Flat in an Online Experiment）深度数理推导与工程落地解析
先做指标一致性检查（分流/口径/延迟），再用分层与中介分析判断是’流量结构变化’还是’转化链路被削弱’。
-
【AI 核心深度 M1-030】解释次梯度与近端算子（proximal operator），以及它们在 L1 优化中的应用。（Explain Subgradients and Proximal Operators, and How Proximal Gradient Descent Optimizes Non-Smooth L1 Penalties）深度数理推导与工程落地解析
次梯度是凸函数不可导点的梯度集合；近端算子把’梯度步’与’正则项收缩’解耦，软阈值即 L1 的近端算子。
-
【AI 核心深度 M1-031】为什么 softmax 必须先减最大值？（Explain Why Softmax Must Subtract the Maximum Value and How It Prevents Numerical Overflow）深度数理推导与工程落地解析
exp 对大正数溢出为 inf；减去最大值后指数最大为 0，结果不变但数值安全。
-
【AI 核心深度 M1-033】解释混合精度训练中的 loss scaling，为什么它能防梯度下溢。（Explain Loss Scaling in Mixed Precision (FP16/BF16) Training and How It Prevents Underflow）深度数理推导与工程落地解析
FP16 最小正规数很小，梯度易下溢为 0；把 loss 放大 S 倍，梯度同比放大，更新前再除回。
-
【AI 核心深度 M1-035】列举深度学习中常见的数值不稳定来源，以及各自的缓解手段。（Enumerate Common Sources of Numerical Instability in Deep Learning and Their Standard Industrial Mitigations）深度数理推导与工程落地解析
来源：指数溢出、除零、log(0)、梯度爆炸/下溢、FP16 范围、方差过小归一化。