反向传播技术是深度学习的核心，驱动了AI在视觉、语音、自然语言处理、游戏、生物预测等诸多领域的成功。反向传播的运行机制是通过反向的方式计算预测误差对神经网络连接权重的梯度，并通过微调每一层的权重来减少预测误差。尽管反向传播非常高效，是目前人工智能成功的关键，但是相当一部分研究人员并不认为反向传播的学习方法同大脑的工作方式是一致的。

随着深度学习技术的发展，大家也逐步看到了反向传播的一些弊端，例如对于标签数据和算力的过度依赖、存在一系列的对抗安全问题、只能针对特定的任务等，而且也引发了大家对发展大模型的一些顾虑。

例如反向传播提出的作者之一也是深度学习先驱Hinton就多次表示，“如果要想实现实质进展，必须摈弃反向传播，从头再来[2]”，“我目前的信念是，反向传播，也即目前深度学习的工作方式，与大脑所作的完全不同，大脑是以不同的方式来获得梯度的[3]”, “我相信大脑使用了很多局部小的目标函数，它不是一种端到端的系统链，通过训练来优化目标函数[3]”。

同是图灵奖得主的LeCun则表示“目前的深度学习模型可能是未来智能系统的一个组成部分，但我认为它缺少必要的部分。我认为它们是必要的，但还不够[4]”。他的老对头，纽约大学教授Gary Marcus表示同样的内容之前都说过“如果我们要实现通用人工智能，深度学习必须得到其他技术的补充[4]”。

如何从头再来? 人工智能技术的发展无疑离不开理解大脑对我们的启发。尽管我们还远不能完全理解大脑的工作机制-其核心是如何根据外部信息调整神经元之间的连接权重，我们依然可以得到一些关于大脑的初步认知，能够启发我们设计新的模型。

首先，大脑的学习过程跟赫布规则(Hebb’s rule)有着千丝万缕的联系，即同时激活的神经元之间的连接权重会加强，这可以说是神经科学的最重要的一个基本规则，得到了大量的生物实验验证。

其次，大脑中的学习主要以无监督学习为主，能够从少量样本中获取丰富的局部表征和表征之间的关联，反馈信号也在学习过程中起到比较重要的作用。此外，大脑是一个支持通用任务的学习系统，大脑学习到的特征与特定的任务应该是相对对立的，一个合理的目标是大脑能够很好的学习到各类输入信号的统计分布以及不同内容之间的关联。

近日，山东大学的研究者周洪超在arXiv上提交了一篇文章，“Activation Learning by Local Competitions”, 提出了一个受到大脑启发的AI模型，称之为激活学习(activation learning)。它的核心是构建多层神经网络使得网络输出激活强度能反映输入的相对概率大小。

论文链接: https://arxiv.org/pdf/2209.13400.pdf

赫布学习在反向传播出现之前一直是神经网络学习研究的一个核心方向，启发了一系列学习系统的工作，但是最终并没有成为一个广泛实际应用的方法。

一个可能的原因是人们对赫布规则中的一些机制尤其是神经元之间的竞争机制并没有完全了解，而竞争在神经网路特征学习和权重调整过程中起到非常重要的作用。

一个直观的理解是如果每一个神经元都尽力在竞争激活，而同时有某种抑制使得不同神经元表征的特征尽量不同，那么神经网络会趋近于将最多的有用信息传递到下一层（是不是跟社会经济学很像? 当一个大的社会群体里每个个体都实现收益最大化而且这个群体足够大的时候，在一定的规则限制下整个群体的总收益趋向于最大化，这时候每个个体表现出了不同的行为）。

事实上，大脑中存在着大量的抑制神经元，神经元之间的竞争和抑制在大脑学习过程中发挥重要的作用。反向传播的第一作者 Rumelhart (认知科学领域的最高奖就是Rumelhart奖) 就是这个想法的推动者，他在提出反向传播的同期（1985年）也提出一种叫竞争学习(Competitive Learning)的模型 [5], 它的核心在将每一层的神经元分成若干簇，每一簇只有最强的一个神经元会被激活(称之为赢者通吃)并通过赫布规则进行训练。但是相比之下，反向传播在实际应用中表现出了更好的网络训练效率，并在此后吸引了绝大部分AI研究人员的注意力，推动了深度学习的出现和成功。

但是依然有一部分研究者相信生物启发的学习方法的潜力，2019年Krotov和Hopfield (没错，就是Hopfield网络的提出者) 展示了赢者通吃规则结合赫布学习可能可以达到同反向传播相比拟的性能[6]。但是赢者通吃的规则，即只允许一个神经元被激活的方式，在一定程度上也限制了神经网络的学习和表达能力。

本文工作研究者将竞争机制直接引入到赫布学习规则中，得到了一个简洁的本地学习规则:

这里假设神经元i是它上面一层神经元j的输入,  是神经元i和神经元j的连接权重，是该权重在某一训练样本下的调整量，是神经元i的输出也是神经元j的一个输入, 是神经元j的总加权输入(或者神经元j的输出), 是一个较小的学习率, 遍历了与神经元j同层的所有神经元。如果仅考虑 , 就是最原始的赫布规则。这里的一个关键就是引入了一个来自于同层的输出反馈项 。它起到了两个作用：第一是保证所有的权重不会无限增大，学习的过程是收敛的；第二是引入了神经元j同本层其他神经元之间的竞争，提升特征表达的多样性。

对上面的本地学习规则进行数学分析(假设学习率足够小、学习步数足够多)，可以得到一些很有意思的结论。

(1) 给定每层的, 通过 可以重构出输入 使得重构误差尽量小。这种逐层的重构能力可以提升模型对于对抗攻击的安全性，防止在一些物体图片上加入对抗噪音被识别成其它的物体。

(2) 基于本地学习规则的每层特征提取跟主成分分析(PCA)具有一定相似性，他们的重构损失是一样的，但是与主成分分析不同的是本地学习规则得到的各个成分是不需要正交的。这是一件很合理的事情，因为主成分分析就是来提取每一层主要的信息，但是如果最主要成分对应的神经元失效将会影响整个网络的性能，而本地学习规则解决了这个鲁棒性的问题。

(3) 每一层的连接权重的平方和趋向于不超过该层的神经元个数，保证了网络学习过程的收敛性。

（4）每一层的输出强度（输出的平方和）趋向于不高于该层的输入强度(输入的平方和)，而且对于约典型的输入其输出强度一般就会越高，所以可以通过输出强度来近似的比较输入的概率大小。这个结论对将要提出的激活学习模型是非常关键的一个点。

这里实验的神经网络有两层构成，第一层是一个本地连接层，它跟卷积核大小9的卷积层具有同样的连接结构，但是每个位置具有自己的权重参数；第二层是一个全连接层，每一层的节点个数是 , 同输入图片的维度是一致的。

此前的生物启发模型的基准是由Krotov和Hopfield建立的，报告了49.25%的错误率。他们使用了一个双层的神经网络，第一层包含了2000个节点并通过生物启发的方法进行无监督训练，第二层输出层是通过反向传播进行监督训练的。作为比较，同样的网络如果完全通过反向传播训练可以达到44.74%的错误率，而激活学习是完全没有使用反向传播而且获得了更好的结果。如果使用数据增强包括随机裁剪等并将第一层的节点数增加到 , 激活学习的识别错误率可以降低到37.52%。

参考文献

[1] ArXiv, https://arxiv.org/pdf/2209.13400.pdf

[2] 机器之心, Geoffrey Hinton: 放弃反向传播，我们的人工智能需要重头再来

[3] AI科技评论, Geoffrey Hinton 最新访谈: 不出五年，我们就会破解大脑的运作机制，但不是通过反向传播

[4] 新智元, LeCun再炮轰Marcus：他是心理学家，不是搞AI的

[5] D. E. Rumelhart and D. Zipser, “Feature discovery by competitive learning,” Cognitive science, vol. 9, no. 1, pp. 75–112, 1985.

[6] D. Krotov and J. J. Hopfield, “Unsupervised learning by competing hidden units,” Proceedings of the National Academy of Sciences, vol. 116, no. 16, pp. 7723–7731, 2019.