增强拉格朗日预测编码（PC-ALM）作为反向传播局部替代训练残差多层感知机达1000层近乎匹配性能。深度学习靠反向传播，大脑无法精确实现，如何无反向传播解决多层信用分配仍是神经科学未解问题。原因之一为相位锁定，反向传播按前向、反向、权重更新三阶段运行，权重更新被锁定至前两段完成，早期神经元须等误差，大脑无机制强制时序协调。

我们提出 PC-ALM，一种反向传播的局部替代方法。PC-ALM 能训练多达1000层的残差 MLP，尽管只用层局部动力学，性能仍接近反向传播。PC-ALM 给每一层配备一个反馈控制动力系统，把监督信用分配并传播到整个网络。

标准深度学习依赖反向传播。大脑不能实现精确反向传播，至少不能精确实现。大脑如何在不显式使用反向传播的情况下解决多层信用分配，仍是神经科学的基本未解问题之一，尽管已有进展。

大脑不能实现精确反向传播有几个原因。其一是“相位锁定”。反向传播按严格顺序运行三个阶段：1）前向传播，2）后向传播，3）权重更新。权重更新被锁定，直到前向和后向完成——早期层的神经元必须保持激活，等待误差信号到达。大脑没有已知机制能在整个网络中强制这种严格时序协调。

我们提出 PC-ALM（增广拉格朗日预测编码），一种训练网络的方法，用层局部动力系统替代反向传播的前向和后向传播。每层只与邻居耦合。不是先前向再后向，而是让每层随时间向前运行。收敛时，整个系统的动态快速而准确地把监督信用信号分布到整个网络。

PC-ALM 是标准预测编码（PC）的扩展。PC 使用扩散式、能量式或“热流”式的层间耦合。与 PC 相比，PC-ALM 每层引入对偶神经元（拉格朗日乘子），使每层的局部递归成为 PI 反馈控制器。在线性网络的极限情况下，对偶神经元收敛到精确的反向传播信用信号，尽管只用局部计算。

我们在一组实验中比较 PC-ALM、PC 和反向传播。局部训练方法如 PC 历史上难以扩展。遵循 PC 文献，我们使用简单任务（Fashion-MNIST、CIFAR-10 等）和残差 MLP 等网络。

我们展示 PC-ALM 能成功在1000层神经网络中传播监督信用，克服标准 PC 的信号衰减问题，同时保持层局部。

我们关注深而窄的网络，这是 PC 往往表现很差的区域。

最终，我们的动机是理解分布式系统（如大脑）如何不靠反向传播实现梯度计算。除科学动机外，这项研究可能启发神经形态硬件上的节能深度学习，因为动力系统仿真在那里比在 GPU 上更便宜。

• 论文：https://arxiv.org/abs/2605.31022
• 代码：https://github.com/SakanaAI/pc-alm

预测编码：每一层作为动力系统

在解释 PC-ALM 前，先解释 PC，从动力系统角度强调它作为反向传播替代的角色。

预测编码

预测编码根源于 Helmholtz 的无意识知觉理论。Rao & Ballard（1999）为 PC 作为视觉皮层模型开发了数学框架。PC 的思想是每层试图建模其输入信号，只把预测误差（该层未能建模的部分）向上发送到下一层。

数学上，预测编码使用一个通用模式：取一个状态，更新它以减少下一步的预测误差。状态{t+1} = 状态t - η(状态t - 目标t)。把这个更新规则应用到每层激活向量（状态是层激活 hi；目标是来自下层的预测 σ(Wi h_{i-1})），PC 框架绕开了反向传播对同步前向和后向的需求。

更详细地，把前馈网络写成约束优化问题：最小化 1/2 ||y - WL h{L-1}||^2，约束 hi = σ(Wi h{i-1})，i=1...L-1。L 是深度，h0:=x 输入，y 目标，θ={Wi} 权重，hi 层激活，σ 如 ReLU。注意每个 hi 都是优化变量。然后构造新损失，包含原始监督损失和每层约束违反的二次惩罚：FPC(h,θ)=1/2||y-WL h{L-1}||^2 + 1/2 Σ{i=1}^{L-1}||hi - σ(Wi h{i-1})||^2。这是约束问题的二次松弛，F_PC 称为网络的“自由能”。

训练时 PC 交替推理和学习。每个 mini-batch，前向传播初始化激活，然后 T 步推理和一次权重更新。推理中，对 i=1...L-1，hi ← hi - ηh ∇{hi} FPC；学习中，Wi ← Wi - ηθ ∇{Wi} FPC。T 与网络深度成比例；下面1000层实验用 T=2L。

每个 hi 更新减少相邻层之间的预测误差，因为 ∇{hi} FPC 只依赖 h{i-1}、hi 和 h{i+1}。推理只需要层间最近邻通信，即消息传递。把层 i-1 和 i 之间的预测误差写成 ri = hi - σ(Wi h{i-1})，推理更新为 hi ← hi - ηh (ri - W{i+1}^T (σ' ⊙ r{i+1}))，i=1...L-1。底部 h0 被钳制到输入，顶部被钳制到目标 y。运行 T 步后，网络在每个层稳定到状态 hi，然后对同一 FPC 关于权重 W 做梯度下降：Wi ← Wi + ηθ (σ' ⊙ ri) h_{i-1}^T，i=1...L-1。推理步骤和权重更新都是层局部的。权重更新类似 Hebbian：突触后误差乘以突触前活动，即 delta 规则，动力学可映射到具有显式误差神经元的神经回路。

PC 能训练深层网络，但出现信号衰减

在权重初始化时，32层残差 MLP（宽16，ReLU）中的 PC 推理。信用=每层预测误差 r_i 的范数。虚线参考=反向传播伴随的范数，即损失对该层激活的梯度。

由于对每个 h_i 最小化自由能不会精确强制层约束，PC 导致与标准反向传播不同的学习轨迹。

尽管如此，PC 已被证明能在简单任务上成功训练网络。例如，MNIST 和 Fashion-MNIST 上的128层残差 MLP，层宽较宽，每层512个神经元。但 PC 在更复杂任务和网络上挣扎。此外，如果网络宽度小于深度，PC 即使在简单网络或任务上也表现不佳。

每层调整活动以减少与邻居的预测误差。监督从输出进入，但必须通过这一连串局部妥协才能影响早期层。在深而窄的网络中，产生的信用信号在到达输入前很早就变得很弱。这导致已记录的 PC 信号衰减问题。增大 T 能让信用传播更远，但每次训练更新需要更多计算。

我们的方法 PC-ALM 引入一种改进 PC 网络信号传播的方式，保留 PC 的层局部动力学，并让推理预算 T 仍与网络深度成比例。

增广拉格朗日预测编码

我们提出增广拉格朗日预测编码（PC-ALM），一种 PC 变体，用增广拉格朗日（AL）替代 PC 的 FPC：L(h,θ,λ)=1/2||y-WL h{L-1}||^2 + Σ{i=1}^{L-1} λi^T(hi - σ(Wi h{i-1})) + 1/2 Σ{i=1}^{L-1}||hi - σ(Wi h{i-1})||^2，即监督损失+拉格朗日项+PC 能量。每层中，增广拉格朗日引入一个拉格朗日乘子，也就是对偶变量，λi ∈ R^{ni}，与 h_i 同维。

增广拉格朗日在分布式优化中广泛使用，并启发许多训练深度网络的分布式方法。LeCun（1988）表明，约束网络的拉格朗日乘子在平衡时编码其反向传播信用信号。增广拉格朗日把这一经典构造与 PC 已使用的二次预测误差惩罚结合起来。这提示一个简单可能：如果加入乘子，PC 的局部动力学能否恢复那些信用信号？

为了用增广拉格朗日训练，我们对 PC 做简单修改。推理中，对 i=1...L-1，先做原始更新 hi ← hi - ηh ∇{hi} L；然后对偶更新 λi ← λi + α(hi - σ(Wi h{i-1}))。学习阶段，Wi ← Wi - ηθ ∇{W_i} L。这里 α 是对偶步长。PC-ALM 是增广拉格朗日上的原始下降、对偶上升，而 PC 是在能量上下降。

通过累积局部预测误差，对偶变量在深层线性网络中恢复精确的反向传播信用信号。我们在论文中推导了这个结果。因此，至少对线性网络，PC-ALM 给出一种方法，仅用层局部动力学计算精确的监督损失梯度并把它们分布到整个网络。下面实验中，我们测试这一优势能否延续到非线性网络。

机制解释

为机制上理解 PC-ALM，考虑简单标量网络，隐藏单元 h=w1 x，输出 ŷ=w2 h。我们想把监督损失 1/2(y-ŷ)^2 的梯度传播到 w1。我们在约束 h=w1 x 上附加乘子 λ，初始化 λ=0，并把 h 初始化为前向传播值。

PC-ALM 第一步与 PC 步完全一致。之后 λ 每步累积该层的预测误差，反馈进 h 更新。每个 h 更新现在是在能量上走梯度步，但预测目标被对偶偏移。收敛时激活 h 回到前向传播值，恢复约束 h=w1 x，而 λ 累积到该层的反向传播信用信号：λ=w2(y-ŷ)。

在两层线性标量网络 ŷ=w2 w1 x 中，x、y 被钳制到数据值。左图显示 BP、PC、PC-ALM 在权重空间中的训练轨迹。在这个简单模型中，PC 和 PC-ALM 都工作并收敛到解流形。PC 与 PC-ALM 的性能差异在深窄网络中变得明显。

控制理论与信用分配

PC-ALM 提供了一种信用分配的控制论视角。每层把当前预测误差与累积误差信号结合起来——PI 反馈控制器的比例项和积分项。全局信用分配从一个局部反馈控制器网络涌现。我们认为这一视角为设计新的局部学习算法提供了有用原则。

结果

下面给出 PC-ALM 的一些结果。

PC-ALM：一种训练1000层神经网络的局部学习方法

PC-ALM 成功在 MNIST 上训练1000层 MLP。我们使用 Innocenti 等（2026）的残差 MLP 设置。训练五个 epoch。架构是简单 MLP 加残差跳连，使用在此深度稳定反向传播训练的权重参数化。结果如下图；PC-ALM 仅用层局部动力学达到接近 BP 的性能。

MNIST 测试准确率 vs 深度，宽 N=32，ReLU 激活。PC-ALM 在整个范围内与反向传播相差约2个百分点以内，包括1000层。

图像分类基准

我们在少量图像分类任务上测试 PC-ALM，发现它在每个任务上都优于 PC，包括在 CIFAR-10 和 Tiny ImageNet 上训练 ResNet-18。

跨基准。PC-ALM 持续缩小标准 PC 与全局反向传播之间的差距。随着深度增加，PC 的准确率下降比 PC-ALM 快得多。

PC-ALM 的传播动态

除图像识别任务上的性能外，我们发现 PC-ALM 表现出令人惊讶的动力学特性。在 PC 和 PC-ALM 推理中，隐藏激活 h_i 的移动最初只出现在网络最后几层。随着推理进行，早期层收到信用信号，形成向输入推进的波前。PC-ALM 的原始-对偶动力学驱动这一波前通过网络的速度比 PC 更快。我们称之为“弹道式”信用传播，以对比 PC 的扩散式、热流式传播。

弹道式 vs 扩散式信用传播。推理期间各层信用幅度。PC 的信用随深度衰减；PC-ALM 的信用均匀分布到整个网络。

稳定的振荡瞬态响应

PC-ALM 中的单个神经元在推理期间也表现出阻尼振荡。

振荡推理动态。考虑深度 L=8、宽 N=1 的深层线性网络，σ=identity。权重固定时，所有层的耦合推理动态形成线性系统，其特征值如左图，论文 Equation (17)。右图：推理期间一个神经元的活动和对偶变量。参数 α 是对偶步长。设 α=0 精确恢复 PC，所有特征值为实数；增大 α 引入复特征值和振荡动力学。α 增加太多最终会使网络不稳定，论文 Equation (14)。

讨论

这项工作提出 PC-ALM，一种训练深度网络的层局部反向传播替代方法。据我们所知，这是第一个被证明能成功训练多达1000层网络的层局部方法。

总结

预测编码仍是皮层功能理论的有吸引力候选。它根植于 Helmholtz 的无意识处理思想。后来表明，预测编码可视为训练深度网络的反向传播层局部替代。标准形式的 PC 能在简单任务上成功训练网络，但信号衰减限制了它在深窄网络中的性能。通过引入拉格朗日乘子并在增广拉格朗日上运行原始-对偶推理，相对于 PC 在能量上的梯度流，PC-ALM 让各层仅通过相邻层通信计算全局损失函数的梯度信号。这项工作的主要动机是更深入理解真实物理系统，如大脑，中的信用分配机制。

约束与提升优化

PC-ALM 与一大类用约束优化训练深度网络的工作相关。这些方法把训练“提升”到更大的优化问题，将激活 h 与权重 W 一起视为变量。这包括辅助坐标方法、深度网络的 ADMM 训练、BlockProp、ProxProp、其他若干变体，以及用于网络训练的增广拉格朗日方法。PC-ALM 借鉴这一优化谱系来回答一个神经科学问题：局部神经动力学如何计算并分配全局目标的信用？

前瞻配置权衡

在 PC 中，稳定后的激活不同于前向传播。Song 等称之为前瞻配置，并表明它可提高样本效率，优于反向传播。PC-ALM 改善了信用传播，但在收敛时放弃前瞻配置。我们怀疑两者之间存在基本权衡，中间设置的 T、α 和对偶泄漏可能保留前瞻配置的好处，同时大幅改善信用传播。

动机

这项工作始于三个观察：

1. Neuro-AI 和分布式优化社区都关心局部性，但两者之间交流相对很少。
2. PC 能量与分布式和约束/提升优化中常用的增广拉格朗日的增广项可疑地相似。
3. LeCun（1988）将标准拉格朗日的乘子识别为反向传播信用信号，提示这些乘子可作为局部信用信号。

PC-ALM 的工作把这些线索联系起来。

未来工作

还有大量工作要做。特别是将 PC-ALM 扩展到带时间信用分配的时间任务、自监督损失，当然还有更大网络和更难任务。我们希望这项工作激发增广拉格朗日方法与生物可行信用分配之间更多联系。

部分人质疑该方法作为反向传播替代的实用性与生物合理性，另一部分人则兴奋于神经科学联系并看好其在持续学习与模型微调中的应用。

怀疑其作为反向传播替代的实用性与生物合理性

• 指出在 MNIST 上仅约85%准确率，且方法仍需在 mini-batch 内做时间积分，保留了反向传播的一些生物不可行限制如灾难性遗忘和高计算成本（较多人） > 有趣的研究，但不确定它能否成为反向传播的替代（@cs702）

认为该研究为神经科学和预测编码提供新视角

• 认为工作可能对应大脑中的预测编码或 Friston 的 Markov Blanket 自由能原理，为更符合生物实际的信用分配提供线索（较多人） > 其神经科学理论含义令人兴奋，可能是 Friston 的 Markov Blanket 概念的一个模型（@AIorNot）

看好在持续学习与大模型微调中的潜在应用

• 认为允许不暂停系统更新，可能适用于持续学习；也可用于对预训练 LLM 微调，以较低资源介于 LoRA 与全微调之间（少数人） > 或可将此方法用于微调反向传播训练的 LLM，预计更省内存算力，成为 LoRA 与全微调间的选项（@rao-v）

欣赏其简单思想及在离散组件上的潜力

• 认为 Lagrangian 作为时间平滑优化方向状态可置于任何连线甚至不可微边界，有望改进 argmax、MoE 等离散组件训练（少数人） > 这介绍了一个简单有用的思想，拉格朗日像时间平滑优化方向，可放在不可微边界，或能更好训练离散部件（@txhwind）

有价值的补充

• 有论文显示预测编码学习规则在任意网络中能产生与反向传播完全相同的梯度（@lukeinator42 提及）