江苏龙网

  1. 主页 > 生活百科 > >

机器之心的进化 / 理解 AI 驱动的软件 2.0 智能革命(12)

人工智能


尽管研究在突飞猛进，但 Transformer 这种通用化的模型只是朝着大脑工作的精准模型迈出的一小步， 这是起点而不是探索的终点 。Schrimpf 也指出，即使是性能最好的 Transformer 模型也是有限的，它们在单词和短语的组织表达上可以很好地工作，但对于像讲故事这样的大规模语言任务就不行了 。这是一个很好的方向，但这个领域非常复杂！
6.2 千脑理论
Jeff Hawkins 是 Palm Computing 和 Handspring 的创始人，也是 PalmPilot 和 Treo 的发明人之一 。创办企业之后，他转向了神经科学的工作，创立了红木理论神经科学中心（Redwood Center），从此专注人类大脑工作原理的研究 。《A Thousand Brains》这本书详细的解释了他最重要的研究成，湛庐文化在今年九月推出了中文版《千脑智能》 。
大脑新皮层（Neocortex）是智力的器官 。几乎所有我们认为是智力的行为，如视觉、语言、音乐、数学、科学和工程，都是由新皮层创造的 。Hawkins 对它工作机理采取了一种新的解释框架，称为 "Thousand Brains Theory"，即你的大脑被组织成成千上万个独立的计算单元，称为皮质柱（Cortical Columns） 。这些柱子都以同样的方式处理来自外部世界的信息，并且每个柱子都建立了一个完整的世界模型 。但由于每根柱子与身体的其他部分有不同的联系，所以每根柱子都有一个独特的参考框架 。你的大脑通过进行投票来整理出所有这些模型 。因此，大脑的基本工作不是建立一个单一的思想，而是管理它每时每刻都有的成千上万个单独的思想 。
我们可以把运行 Transformer 训练的神经网络的电脑想象成一个及其简陋的 人工皮质柱，给它灌输各种数据，它输出预测数据（参考第四、五两章的讲解来理解） 。但大脑新皮层有 20 多万个这样的小电脑在分布式计算，他们连接着各种感知器官输入的数据，最关键的是大脑无需预训练，神经元自己生长就完成了学习，相当于把人造的用于训练的超级电脑和预测数据的电脑整合了 。在科学家没有给大脑完成逆向工程之前，AGI 的进展还举步维艰 。
要像大脑一样学习
自我监督：新皮层的计算单位是 皮质柱，每个柱子都是一个完整的感觉-运动系统，它获得输入，并能产生行为 。比如说，一个物体移动时的未来位置，或者一句话中的下一个词，柱子都会预测它的下一次输入会是什么 。预测是 皮质柱 测试和更新其模型的方法 。如果结果和预测不同，这个错误的答案就会让大脑完成一次修正，这种方式就是自我监督 。现在最前沿的神经网络正 BERT、RoBERTa、XLM-R 正在通过预先训练的系统来实现“ 自我监督” 。
持续学习：大脑通过 神经元组织来完成持续学习 。当一个神经元学一个新的模式时，它在一个树突分支上形成新的突触 。新的突触并不影响其他分支上先前学到的突触 。因此，学新的东西不会迫使神经元忘记或修改它先前学到的东西 。今天，大多数 Al 系统的人工神经元并没有这种能力，他们经历了一个漫长的训练，当完成后他们就被部署了 。这就是它们不灵活的原因之一，灵活性要求不断调整以适应不断变化的条件和新知识 。
多模型机制的：新皮层由数以万计的皮质柱组成，每根柱子都会学物体的模型，使多模型设计发挥作用的关键是投票 。每一列都在一定程度上独立运作，但新皮层中的长距离连接允许各列对其感知的对象进行投票 。智能机器的 "大脑 "也应该由许多几乎相同的元素（ 模型）组成，然后可以连接到各种可移动的传感器 。
有自己的参考框架：大脑中的知识被储存在参考框架中 。参考框架也被用来进行预测、制定计划和进行运动，当大脑每次激活参考框架中的一个位置并检索相关的知识时，就会发生思考 。机器需要学会一个世界的模型，当我们与它们互动时，它们如何变化，以及彼此之间的相对位置，都需要参考框架来表示这类信息 。 它们是知识的骨干 。
为什么需要通用人工智能（AGI）
AI 将从我们今天看到的专用方案过渡到更多的通用方案，这些将在未来占据主导地位，Hawkins 认为主要有两个原因：
第一个就和通用电脑战胜专用电脑的原因一样 。通用电脑有更好的成效比，这导致了技术的更快进步 。随着越来越多的人使用相同的设计，更多的努力被用于加强最受欢迎的设计和支持它们的生态系统，导致成本降低和性能的提升 。这是算力指数式增长的基本驱动力，它塑造了二十世纪后半叶的工业和社会 。


推荐阅读


上一篇：Windows为啥难以摆脱隔代升级的魔咒？

下一篇：情人节礼物送什么给老婆女朋友好？ 情人节送老婆什么？