Tag: convex-optimization-kkt
-
【AI 核心深度 M1-030】解释次梯度与近端算子(proximal operator),以及它们在 L1 优化中的应用。(Explain Subgradients and Proximal Operators, and How Proximal Gradient Descent Optimizes Non-Smooth L1 Penalties)深度数理推导与工程落地解析
次梯度是凸函数不可导点的梯度集合;近端算子把’梯度步’与’正则项收缩’解耦,软阈值即 L1 的近端算子。
-
【AI 核心深度 M1-026】定义凸集、凸函数,并说明凸性为什么重要。(Define Convex Sets and Convex Functions, and Explain Why Convexity Guarantees Global Optimality)深度数理推导与工程落地解析
凸集内任两点连线仍在集合内;凸函数在两点连线之上。凸问题的局部最优即全局最优。
-
【AI 核心深度 M1-027】写出 KKT 条件,并说明互补松弛的含义。(Formulate the Karush-Kuhn-Tucker (KKT) Conditions and Explain the Physical Meaning of Complementary Slackness)深度数理推导与工程落地解析
KKT = 平稳性 + 原始可行 + 对偶可行 + 互补松弛;互补松弛说明’不起作用的约束乘子为 0’。
-
【AI 核心深度 M1-028】什么是强对偶与 Slater 条件?对偶问题有什么用。(Define Strong Duality and Slater’s Condition, and Explain the Practical Utility of Dual Formulations)深度数理推导与工程落地解析
强对偶指原问题最优值等于对偶最优值;Slater 条件(存在严格可行点)是凸问题强对偶的充分条件。
-
【AI 核心深度 M1-029】解释 L1 为什么产生稀疏解,而 L2 不会。(Explain Geometrically and Algebraically Why L1 Regularization Promotes Sparsity While L2 Does Not)深度数理推导与工程落地解析
L1 的约束区域是菱形,其顶点在坐标轴上;最优解易落在顶点 → 部分系数恰为 0。L2 是圆,无顶点。