Tag: science-depth
-
【AI 核心深度 M1-022】解释链式法则与反向传播的关系。（Explain the Mathematical Relationship Between the Chain Rule and Backpropagation on Computation Graphs）深度数理推导与工程落地解析
反向传播是链式法则在计算图上的高效实现：前向存中间值，反向按拓扑逆序累乘局部梯度。
-
【AI 核心深度 M1-023】什么是雅可比矩阵与向量-雅可比积（VJP）？为什么框架都用 VJP。（Define the Jacobian Matrix and Vector-Jacobian Product (VJP), and Explain Why ML Frameworks Rely on VJP）深度数理推导与工程落地解析
雅可比是多元函数的偏导矩阵；VJP 直接算’向量×雅可比’而不显式构造雅可比，省内存。
-
【AI 核心深度 M1-025】解释二阶充分条件与鞍点，以及深度学习为何不怕鞍点。（Explain Second-Order Sufficient Conditions and Saddle Points, and Why Deep Learning Escapes Saddle Points）深度数理推导与工程落地解析
海森正定 → 严格局部极小；不定 → 鞍点。高维空间中鞍点远多于局部极小，但 SGD 噪声能逃离鞍点。
-
【AI 核心深度 M1-026】定义凸集、凸函数，并说明凸性为什么重要。（Define Convex Sets and Convex Functions, and Explain Why Convexity Guarantees Global Optimality）深度数理推导与工程落地解析
凸集内任两点连线仍在集合内；凸函数在两点连线之上。凸问题的局部最优即全局最优。
-
【AI 核心深度 M1-027】写出 KKT 条件，并说明互补松弛的含义。（Formulate the Karush-Kuhn-Tucker (KKT) Conditions and Explain the Physical Meaning of Complementary Slackness）深度数理推导与工程落地解析
KKT = 平稳性 + 原始可行 + 对偶可行 + 互补松弛；互补松弛说明’不起作用的约束乘子为 0’。