江苏龙网

  1. 首页 > 资讯 > 科技 > >

新智元|GPT-3为什么怼起了前老板？马斯克：和OpenAI道不同不相为谋( 三 )


用业界专家的话说 ， 「应试成绩还不错 ， 但是对于很多科目都需要监督式学习 ， 东家 OpenAI 对此并不满意 ， 成绩也没有在业界引起特别的反响 。 」
正是GPT-1 开创了「先预训练、后微调」的教学先河 。
2019年 ， 第二代已经初具自由写作的能力 ， 惊艳世人；如今第三代的表现更是震惊四座 。
而且 ， 大热的GPT-3将成为OpenAI的第一个商业产品 ， Reddit也已经注册成为第一个客户 。
遥想在五年前 ， OpenAI还是个非营利组织呢！
OpenAI由Elon Musk、Sam Altman、Ilya Sutskever、Greg Brockman、Wojciech Zaremba和John Schulman共同创立 ， 他们共同捐赠了10亿美元 。
2018年 ， OpenAI通过博客宣布 ， 马斯克将离开董事会 ， 但仍将担任顾问和捐赠者 。
当时很多人猜测 ， 马斯克离开OpenAI的真正原因是利益冲突 。 知情人士表示 ， 「我认为他离开的主要原因是利益冲突他挖走了OpenAI的顶级科学家Andrej Kaparthy ， 让他成为特斯拉的自动驾驶部门的负责人 。 」
新智元|GPT-3为什么怼起了前老板？马斯克：和OpenAI道不同不相为谋
本文插图

不过呢 ， 马斯克也似乎把OpenAI的「初心」带走了 。 他离开后 ， OpenAI开始「大转型」 ， 从非营利组织变为营利性组织。
新智元|GPT-3为什么怼起了前老板？马斯克：和OpenAI道不同不相为谋
本文插图

一年后 ， 担任SpaceX和特斯拉首席执行官的马斯克在推特上证实 ， 他在一年多的时间里没有「密切」参与OpenAI 。
不过马斯克似乎没赶上好时候 。 就在他走后不久 ， 也就是在2019年 ， OpenAI开始盈利 ， 并从微软公司又筹集了10亿美元来资助其研究 。 这是总部位于旧金山的研究实验室从其AI模型中获利的第一步 。
培养GPT-3 花了460万美元 ， 未来训练GPT-4会越来越便宜
用GPT-3开始盈利似乎也合乎常理 ， 毕竟训练他可是花了460万美元！
经济学人的文章认为 ， 不久之后 ， GPT-3很可能会被一个更加复杂和数据饥渴的模型所取代 。
新智元|GPT-3为什么怼起了前老板？马斯克：和OpenAI道不同不相为谋
本文插图

有人对GPT的未来进行了描绘 。 「GPT-4 将会比人类写得更好 ， 而且 ， 当它对自己的答案不确定时 ， 还可以进行研究 。 」GPT-4作为进阶版 ， 将更有钻研精神 。
此前Open AI的论文中曾经提到 ， 自2012年以来 ， 要训练一个人工智能模型在基准测试ImageNet图像分类任务中达到同等的分类效果 ， 所需的算力每16个月就会减少1/2 。 算法演进速度吊打摩尔定律 。
也就是说 ， 在过去的7年内 ， 训练神经网络的效率每16个月就会翻一番 。 照这个速度 ， 新一代的GPT或许会cheap&good！
MIT研究员Lex Fridman预测 ， 训练GPT-4预计会花费26亿美元 。 2024年 ， 训练GPT-4只需要花费4000万美元 ， 到2032年 ， 估计只需要花费500万美元 。
新智元|GPT-3为什么怼起了前老板？马斯克：和OpenAI道不同不相为谋
本文插图

看来之后 ， Open AI这笔生意还挺划算...
参考链接：
https://www.businessinsider.com/elon-musk-poem-tweets-gpt-3-openai-2020-8
https://www.economist.com/science-and-technology/2020/08/08/a-new-ai-language-model-generates-poetry-and-prose
新智元|GPT-3为什么怼起了前老板？马斯克：和OpenAI道不同不相为谋
本文插图


推荐阅读


上一篇：智能穿戴|小巧袖珍，方便携带——南卡lite评测

下一篇：群众网|三场三球，老将荣昊再“青春”？看看他的花样人生，就能窥得一二