Tag: mle-map
-
【AI 核心深度 M1-074】解释 Fisher 信息量与 Cramér-Rao 下界。(Explain Fisher Information and the Cramér-Rao Lower Bound (CRLB))深度数理推导与工程落地解析
Fisher 信息是对数似然关于参数的曲率(二阶导期望);CRB 给出无偏估计方差的下界。
-
【AI 核心深度 M1-075】什么是收缩估计(shrinkage)与 James-Stein 现象?(Explain Shrinkage Estimators and the James-Stein Phenomenon)深度数理推导与工程落地解析
把估计向先验/均值收缩以降低方差;James-Stein 表明在高维中收缩估计可优于无偏估计。
-
【AI 核心深度 M1-036】定义最大似然估计(MLE),并给出一个完整例子。(Define Maximum Likelihood Estimation (MLE) with a Complete End-to-End Derivation)深度数理推导与工程落地解析
MLE 选择让观测数据出现概率最大的参数;对高斯似然求导即得样本均值与方差。
-
【AI 核心深度 M1-037】定义 MAP 估计,并说明它与 MLE、正则化的关系。(Define Maximum A Posteriori (MAP) Estimation and Explain Its Exact Connection to MLE and Regularization)深度数理推导与工程落地解析
MAP 最大化后验 = 似然 × 先验;高斯先验的 MAP 等价于 L2 正则,Laplace 先验等价于 L1。
-
【AI 核心深度 M1-038】解释偏差-方差分解,并写出期望泛化误差的分解式。(Explain the Bias-Variance Decomposition and Write the Decomposition for Expected Generalization Error)深度数理推导与工程落地解析
期望误差 = 偏差² + 方差 + 不可约噪声;模型复杂度上升降低偏差但抬高方差。
-
【AI 核心深度 M1-039】什么是一致性与有效性?MLE 具备这两个性质吗。(Define Statistical Consistency and Asymptotic Efficiency, and Assess Whether MLE Satisfies Both)深度数理推导与工程落地解析
一致性指 n→∞ 时收敛到真值;有效性指达到 Cramér-Rao 下界。MLE 在正则条件下两者兼有(渐近)。