江苏龙网

  1. 主页 > 生活百科 > >

ChatGPT之父承认GPT-5并不存在，为什么OpenAI总是这么实诚？( 七 )

ChatGPT


但如果多样性对于整个 AI 行业来说是一个问题，那么对于一个使命是将技术公平地传播给每个人的公司来说，这是更加根本的问题 。事实上，OpenAI 是缺乏少数群体成员的代表 。
OpenAI 计划如何‘把 AGI 的好处分配给所有人’？在 Brockman 经常引用的组织使命中，这阐述的并不太清晰，管理层也倾向于含糊地谈论这个问题（2020 年 1 月，牛津大学未来人类研究所与 OpenAI 合作发布了一份报告，建议通过分配一定比例的利润来共享收益，但作者们也提到‘有关如何实施’是‘重大未解决问题’） 。一位曾在 OpenAI 工作过的前职员匿名表示：‘这是我认为 OpenAI 最大的问题 。’

ChatGPT之父承认GPT-5并不存在，为什么OpenAI总是这么实诚？

文章插图
‘他们正在用复杂的技术实践来尝试用 AI 解决社会问题 。’罗德斯大学的 Britt Paris 说，‘似乎他们实际上没有能力真正理解社会问题，他们只是知道这是个赚钱的好出发点 。’
Brockman 同意，OpenAI 最终需要技术和社会专业知识结合才能实现其使命 。但他不同意需要从一开始就解决社会问题 。他说：‘你要如何将伦理学或其他观点融入进来？什么时候，如何引入？可以践行的一种策略是，从一开始就尝试把可能需要的所有东西融入进来 —— 但我认为这种策略不太可能成功 。’
他说，首先需要弄清楚 AGI 会是什么样子，那时才是‘确保我们理解后果的时候’ 。
2019 年夏天，在实行盈利上限模式和微软投资 10 亿美元之后的几周后，OpenAI 的管理层向员工保证，这些变化不会从实质上改变 OpenAI 的研究方法 。微软与实验室的价值观高度一致，任何商业化的努力都很遥远，探索基本问题仍是工作的核心 。
有一段时间，这些保证似乎是真的，项目继续进行 。许多员工甚至不知道公司是否有向微软作出过任何承诺 。
但 2020 年，商业化压力加剧，盈利性项目的需求不再像是遥远的未来 。Altman 私下与员工分享了实验室 2020 年的愿景，他传递的信息很清楚：OpenAI 需要赚钱才能进行研究，反之则不行 。
管理层表示，这是一种艰难但必需的权衡，因为缺乏富有的慈善捐赠者，实验室必须做出这个选择 。相比之下，位于西雅图的非营利组织 AI2 是一个雄心勃勃的推进基础 AI 研究的组织，它的资金来自于已故亿万富翁 Paul Allen 留下的自维持（至少在可预见的未来）的资金池，Paul Allen 因与 Bill Gates 共同创立微软而闻名 。
但事实是，OpenAI 面临这种权衡，不仅是因为它没钱，还因为它做出了要最先实现 AGI 的战略选择 。这种压力迫使它做出看起来越来越远离初衷的决定 。它急于吸引资金和人才，倾向于舆论炒作，希望保密以使其研究保持优势，追求算力密集的策略 —— 不是因为这是实现 AGI 的唯一方式，而是因为这也许是最快的方式 。
然而，OpenAI 仍然是 AI 人才和前沿研究的堡垒，聚集了真诚地努力为人类福利而工作的人 —— 换句话说，它仍然拥有最重要的根基，而且还有时间去改变 。
采访前远程研究员 Rhodes 时，我问她这篇文章中最不能跳过的一个话题是什么，她犹豫地说：‘我想，在我看来，其中一些问题可能来自于它面临的环境，还有一些来自于它倾向于吸引的和排除的人 。’
‘但在我看来，它做了一些正确的事情，我感觉那里的人是真诚地在努力 。’




推荐阅读


上一篇：GPT冲击了哪些科技从业者的饭碗？程序员较“惨” 创意类、知识类从业者受益

下一篇：OpenAI CEO：大语言模型规模已接近极限，并非越大越好