Tag: module-m4
-
【AI 核心深度 M4-004】解释双向 RNN 与它的适用限制(Bidirectional RNNs: Formulation, Information Flow, and Operational Constraints)深度数理推导与工程落地解析
双向 RNN 用前向与后向两条链拼接隐状态,能同时利用左右上下文;但要求整条序列可见,不能用于自回归生成。
-
【AI 核心深度 M4-005】解释梯度裁剪在 RNN 中的必要性(The Absolute Necessity of Gradient Clipping in Recurrent Neural Networks)深度数理推导与工程落地解析
RNN 的梯度含同一矩阵的 T 次幂,谱半径略大于 1 即指数爆炸;裁剪把全局范数限制在上界,是训练稳定的必要条件。