江苏龙网

  1. 主页 > 生活百科 > >

ChatGPT之父承认GPT-5并不存在，为什么OpenAI总是这么实诚？( 四 )

ChatGPT


- 你将如何组织自己来向人类平均分配 AGI？‘我认为公共事业是我们的愿景的最佳类比 。但是再一次强调，它完全受章程的约束 。’
- 你将如何竞争率先实现 AGI 而不损害安全性？‘我认为绝对存在这种重要的平衡，我们最好的方法就是依照章程 。’
对 Brockman 来说，严格遵守这份文件是 OpenAI 的组织结构保持有效性的关键 。内部一致性至关重要：除了极少数例外，所有全职员工都必须在同一个办公室工作 —— 对于政策团队，尤其是主管 Jack Clark 来说，这个规定让他的生活需要在旧金山和华盛顿特区之间高频流转，但他不介意，事实上，他认同这种做法 。他说，正是那些一起度过的空闲时间，比如和同事一起吃午饭，帮助所有人保持共识 。
在许多方面，这种方法显然取得了成功：公司拥有令人印象深刻的一致性文化 。员工工作时间长，用餐和社交时间不断地谈论工作；许多人参加同一个派对，订阅理性哲学杂志‘有效利他主义’；他们用机器学习术语开玩笑来描述自己的生活：‘你的生命是函数的一部分吗？’‘你优化什么？’‘一切基本上都是一个最小最大函数 。’
公平地说，其他 AI 研究者也喜欢这样做，但熟悉 OpenAI 的人们都同意：与该领域的其他人相比，它的员工更多地将 AI 研究视为身份而非工作（2019 年 11 月，Brockman 在 OpenAI 的标志性的花朵背景下在办公室里迎娶了他交往一年的女友 Anna，Sutskever 担任主持人，戒指传递者是一个机械手） 。
但在 2019 年年中，章程不再仅是午餐时间的谈资 。在转为有限利润后不久，管理层推出了一种新工资结构，部分基于每个员工对使命的理解程度 。在一个名为‘统一技术阶梯（Unified Technical Ladder）’的电子表格中，除了‘工程专业知识’和‘研究方向’等板块外，最后一个板块概述了每个级别的文化相关期望：
- 第三级：‘你理解并内化了 OpenAI 的章程 。’
- 第五级：‘你确保你和你的团队成员所参与的所有项目与章程一致 。’
- 第七级：‘你负责维护和改进章程，并要求组织中的其他人也做到 。’
大多数人第一次听说 OpenAI 是在 2019 年 2 月 14 日 。当天，实验室宣布了令人印象深刻的新研究成果：一种可以轻松生成令人信服的文章和报道的模型 —— 只需输入《指环王》中的一句话或者一条关于 Miley Cyrus 扒窃的（虚假）新闻报道的开头，它就会输出大量相同风格的段落 。
但也有一个问题：研究人员表示，这种名为 GPT-2 的模型因过于危险而无法发布 。如果这么强大的技术落入了坏人手中，就很容易被武器化，用于大规模生产虚假信息 。
科学家们的反对声音立即出现了 。一些人说，OpenAI 只是在做公关噱头，GPT-2 根本不足以构成威胁，如果是威胁，为什么要公布其存在却不向公众开放以逃避公众审查？‘OpenAI 似乎是在利用人们对 AI 的恐慌进行营销 。’研究 AI 生成的虚假信息的罗格斯大学助理教授 Britt Paris 说 。

ChatGPT之父承认GPT-5并不存在，为什么OpenAI总是这么实诚？

文章插图
到了 5 月，OpenAI 改变了主意，宣布了‘分阶段发布’的计划 。在接下来的几个月里，它逐步推出了越来越强大的 GPT-2 版本 。在此期间，它还与几个研究机构合作，审查算法的滥用可能性，并制定反制措施 。最终，OpenAI 在 11 月发布了完整代码，称‘到目前为止没有强有力的滥用证据’ 。
在公众持续指责公司是为了追求公关效果的情况下，OpenAI 坚称 GPT-2 并不是噱头，相反，这是经过一系列内部讨论和辩论后达成共识的谨慎思考的实验 。共识是，即使这次有些过度，这样的行动也会为应对更危险的研究设立先例 。此外，章程预测，‘安全问题’将逐渐迫使实验室‘将来减少发布的产品’ 。
这也是政策团队在连续的六个月的博客文章中仔细阐述的论点，我也参加了一次讨论会 。政策研究科学家 Miles Brundage 在谷歌文档中强调说：‘我认为这肯定是成功故事框架的一部分 。这一节的主题应该是：我们做了一件伟大的事情，现在有些人正在复制它，这是其有益的一个证据 。’
但是，OpenAI 与 GPT-2 的媒体宣传也遵循了一个既定模式，这让更广泛的 AI 社区感到警惕 。多年来，实验室的重大研究公告已多次被指责是为了推动 AI 炒作周期 。批评者还曾多次指责实验室将其结果夸大到了错误的程度，因此，AI 领域的许多人倾向于与 OpenAI 保持距离 。


推荐阅读


上一篇：GPT冲击了哪些科技从业者的饭碗？程序员较“惨” 创意类、知识类从业者受益

下一篇：OpenAI CEO：大语言模型规模已接近极限，并非越大越好