MIT 研究：人工神经网络如何自组织出自身学习机制

随着人工智能变得越来越强大，其处理类人任务的能力不可否认。人工神经网络可以学习识别图像、使用语言或编写计算机代码。就像大脑的回路一样，它们在学习过程中会自我重组，调整连接的强度以提高性能。

对于许多神经科学家来说，问题是：这些机器系统能教给他们关于大脑如何学习的什么知识？什么样的模型可能提供最有价值的信息？

在10月9日发表于《PNAS》期刊的一篇论文中，麻省理工学院麦戈文脑研究所和K. Lisa Yang整合计算神经科学（ICoN）中心的科学家认为，评判人工神经网络学习方法生物学合理性的一个关键指标，是该网络在没有开发者指导的情况下自我组织的能力。他们表明，人工神经网络有可能构建自己的学习机制。只需一些关于连接应如何以及何时改变的简单指令，一组随机连接的单元就能重塑自身，成为一个有效的信息处理网络，从训练数据中学习。

生物学学习

“当前的人工智能技术运行得非常好，但它不一定使用大脑所用的学习算法，”麻省理工学院教授、麦戈文研究所成员Tomaso Poggio和Mark Harnett实验室的K. Lisa Yang ICoN中心博士后研究员、与麻省理工学院研究科学家Liu Ziyin和研究生Yulu Gan共同担任《PNAS》论文第一作者的Qianli Liao说。Liao解释说，工程师们设计了人工神经网络在处理训练数据和接收错误反馈时连接如何变化的规则。

在训练AI完成其工作方面，这种方法非常强大。但Liao及其同事警告说，以这种方式设计的网络可能无法为生物学学习提供太多洞见。“大脑没有外部设计师或建筑师，”Liao说。“大脑必须自我组织。我们需要知道简单的规则将如何使大脑组织起来。”

随着动物学习而重塑神经连接的规则在大脑的不同部位可能不同，或者可能随着大脑变得更加成熟而改变。神经科学家正在努力理解这些规则如何运作，以及它们如何可能被衰老或疾病破坏——这是开发新疗法和预防策略的关键一步。Liao指出，脑机接口的发展是一个潜在应用，其目标是当大脑的语言能力丧失时恢复交流，或让瘫痪患者控制神经假肢。

“如果不了解神经元-神经元相互作用背后的规则，这些都无法实现，”他说。“仅仅设计一个运行良好的回路是无法做到这一点的。”人工神经网络对神经科学的价值应该以其自我组织的程度来评判——不仅是其连接，还包括调整这些连接的机制。

自组织人工学习

Liao与Poggio、Harnett、Ziyin和Gan合作，着手开发并验证一种能够学习的自组织计算网络。Liao解释说，该网络的结构始于多层随机互连的类神经元单元。在每一层内，每个类神经元组件都遵循相同的连接调整规则。“它们只是按照那条规则相互作用，然后发展出某种行为，”他说。

该团队的网络实现了那种被认为能在人类和其他动物从经验中学习时重新连接大脑回路的简单规则。例如，在大脑和机器网络中，“一起激发的神经元连接在一起。”换句话说，当两个相连的神经元同时被激活时，它们之间的连接会增强。 

团队证明，一个由这类规则支配的自组织网络可以学会识别模式和分类图像。他们解释说，在他们的模型中，学习是通过自组装基元实现的，这些基元根据简单规则涌现，然后作为功能回路的构建模块。随着网络学习，这些基元利用一种类似于大多数现代机器学习系统内置方法的优化策略——称为梯度下降——进行自我重组，即根据误差逐渐调整连接以提高性能。

大多数现代AI通过某种形式的反向传播算法实现梯度下降，而神经科学家表示大脑不太可能使用这种算法。团队将其自组织网络与以这种方式设计的学习网络进行了比较，发现其表现水平相当。

连接大脑与机器

Poggio表示，找到反向传播的生物学对应物可能会在AI和神经科学领域引发重大进展。 

“如果我们提出的突触基元实际上被大脑用来完成反向传播对人工神经网络所做的工作，那么我们将在人工网络与自然网络——机器与大脑——之间的基本机制层面建立起强有力的联系，”他说。

Liao表示，自组织网络不一定以与大脑相同的方式学习——但它是生物合理性的关键起点。 

“自组织是第一个高层次框架，”他说。“一旦我们以自组织作为衡量标准做好了，我们就可以谈论下一步了。”

虽然该团队的主要目标是更好地理解大脑，但Liao表示，这些知识最终也可能改进机器学习系统，使工程师能够开发出性能更好或更像人类方式的网络。