ChatGPT之父承认GPT-5并不存在，为什么OpenAI总是这么实诚？( 六 ) _ChatGPT

OpenAI 的最大秘密之一是接下来要开展的项目。消息人士向我描述了它的大致内容：使用大量的算力资源训练一种能够处理图像、文本和其他类型数据的 AI 系统（多模态模型）。
一小组人正在进行初步尝试，预计其他团队和工作最终也会加入其中。在宣布这个项目的全公司会议上，实习生被禁止参加。熟悉计划的人提供了一个解释：管理层认为这是最有希望达成 AGI 的方式。
负责 OpenAI 战略的人是前谷歌员工、现任研究总监 Dario Amodei 。他给我留下了一个更加焦虑版的 Brockman 印象，他同样真诚而敏感，但是带着一股不稳定的紧张的能量。他在讲话时看起来有些疏离，眉头紧锁，一只手不自觉地拽着他的卷发。
Amodei 将实验室的战略分为两部分。第一部分规定了 OpenAI 如何实现先进的 AI 能力，他将其比作投资者的‘投资组合’，不同的 OpenAI 团队正在下不同的注，例如，语言团队在一项理论上押注，认为 AI 可以通过纯语言学习对世界有深刻的理解，而机器人团队正在推进一种相反的理论，认为智能需要有‘身体’作为介质才能发展。
也正像投资组合一样，不是每个投注都有同等的权重，但为了科学严谨性，所有投注都应该在被放弃之前得到测试。Amodei 以 GPT-2 举例阐释了为什么要保持开放的态度：‘纯语言领域甚至是我们中的一些人都有些怀疑的方向。但现在我们看到，这真的很有前途。’
随着时间的推移，有的投注权重会有所升级，会吸引团队更多的精力。然后它们会相互交叉组合，目标是逐渐减少小团队的数量，最终合并为面向 AGI 的单一技术团队 —— 这正是 OpenAI 最新的顶级秘密项目所经历的过程。

文章插图
Amodei 还解释说，策略的第二部分着重于如何使不断进步的 AI 系统变得安全。这包括确保它们反映人类价值观、能够解释其决策背后的逻辑，并且在学习的过程中不会伤害人类。专门致力于实现这些安全目标的团队正在寻求开发可应用于不同项目的方法。例如，可解释性团队开发的技术可以用来揭示 GPT-2 的句子构造或机器人运动背后的逻辑。
Amodei 承认，这部分策略有些杂乱无章，更多建立在直觉而非已有理论基础上。‘在某个时刻，我们将实现 AGI，在那之前我希望这些系统在运行时能让我感觉良好。’他说，‘任何令我感到不好的事情，我都会建立和招募专注于解决这些问题的团队。’
尽管 Amodei 在追求曝光率和保密性方面有点矛盾，但当他说这句话时，他看起来很真诚 —— 失败的可能性似乎让真的他感到不安。
‘我们处于一个尴尬的位置：我们不知道 AGI 会是什么样子，也不知道它会在何时出现。’他说，‘任何人的思维都有局限性，我发现最好的方法是聘请其他安全研究人员，他们通常有不同于我的视角，我希望有这种差异和多样性，因为这是发现并解决所有问题的唯一方法。’
问题在于，现实中的 OpenAI 缺乏‘差异和多样性’，这一事实在我待的第三天得到了印证。在唯一一次被允许与员工一起用午餐的时候，我选择了看起来最具多样性的餐桌。不到一分钟，我意识到在那里用餐的人实际上并非 OpenAI 员工，而是 Musk 创立的 Neuralink，该公司专注于脑机接口技术，与 OpenAI 共用一栋大楼和餐厅。

文章插图
OpenAI 受访人称，在 120 多名员工中，25% 为女性或非二元性别人士。她说，执行团队中有两名女性，管理团队中有 30% 的女性，但她没有具体说明这些团队的成员是谁（包括 Brockman 和 Altman 在内的四位高管都是白人男性，在我在 LinkedIn 和其他来源上找出的 112 多名员工中，白人或亚洲人为压倒式的大多数 -- _注：目前这个信息有变化）_ 。
公平地说，这种缺乏多样性在 AI 领域很普遍。去年，纽约研究机构 AI Now 的一份报告发现，女性仅占领先 AI 会议作者的 18%，教职的 20%，分别占 Facebook 和谷歌研究人员总数的 15% 和 10% 。OpenAI 的受访人说：‘在学术界和行业中，仍有很多工作要做，多样性和包容性是我们认真对待并不断努力改进的事情，我们通过与 WiML，Girl Geek 和我们的学者计划等倡议合作来实现这一目标。’
确实，OpenAI 已经在尝试扩大其人才库以增加多样性，他们在 2018 年启动了针对少数族裔的远程学者计划。虽然所报告的过程均为积极正面的，但最初的八名学者中只有两名成为全职员工，拒绝留下的最常见原因是需要在缺乏多样性的旧金山居住。例如 Nadja Rhodes，现在是一家总部位于纽约的公司的机器学习工程师。