江苏龙网

  1. 主页 > 生活百科 > >

OpenAI遭遇滑铁卢，ChatGPT正在走向失控的原因是什么？

OpenAI

如果AI target=_blank class=infotextkey>OpenAI有最想划掉的经历，那么大概率就是推出AI Classifier了 。
作为轰动全球的ChatGPT的研发者，OpenAI在AI时代所获得的关注无人能比 。然而，就是这么一家在AI领域让人难以望其项背的公司，最近却遭遇了滑铁卢 。
今年1月，OpenAI推出了可以识别文本来源类别的应用AI Classifier 。OpenAI原打算用它来检测某个文本的来源是人工智能编写还是人类编写 。然而，它的表现出乎意料的差 。
AI Classifier的正确识别率不仅不尽如人意，甚至比不上其它毫不知名的小公司所开发的工具，短短半年时间就被停止了服务 。
自知面上无光的OpenAI甚至把停止服务的公告都隐藏在1月份发布的文章里面，采用内容更新的方式编辑的旧闻 。

OpenAI遭遇滑铁卢，ChatGPT正在走向失控的原因是什么？

文章插图
AI Classifier的失败从侧面证实了，目前，OpenAI并没有有效的办法控制ChatGPT所造成的影响 。
而这件“停服小事”已经淹没在信息海洋中，并没有引发大家足够的重视 。
AI Classifier诞生背景：教育界的集体抵制2022年11月底，ChatGPT一经推出就火遍全球，短短5天时间吸引了上百万用户，仅用两个月就达到上亿月活，蹿红速度前无古人，甚至在并没有开通服务的大洋彼岸引发了一次大模型进化风潮 。无数的中小公司改头换面，套壳蹭热度，甚至一时之间在BOSS上新诞生出了ChatGPT运营、ChatGPT提示词工程师等等岗位 。一波又一波的新媒体人通过视频、图文等方式，教网友怎么靠AI赚钱 。
B端企业更是嗷嗷待哺，一系列与AI有关的公司突然成为当红炸子鸡 。前脚还骂百度错过了移动时代的人，后脚就夸百度是个有远见的长期主义者 。在某些“大厂”内部，更是全员开脑洞，集体研究大模型可以如何运用，怎么和现有业务相结合 。甚至有车企表示，把大模型集成到车机系统中，也是正在考虑的事项 。
而身在ChatGPT核心地带的小孩们，则成为首批通过ChatGPT获益的人 。Study的一项调查显示，有超过89%的学生通过ChatGPT做作业，这引发了教育界的普遍担忧 。而这些担忧中，也包含部分老师的惊讶 。有美国教师表示，尝试用ChatGPT为学生评估作业，发现ChatGPT迅速的提供了比他自己更详细更有用的反馈 。
相比于鼓吹AI能力的科技作者，教育界的担忧还体现在传统教育思维有可能被打破的困扰上 。美国权利法案研究所的一项投票显示，有52.8%的人认为应该禁止ChatGPT进入课堂 。他们认为，人工智能对传统学习构成了威胁 。此外，ChatGPT还有被剽窃、给出错误答案和误导人的嫌疑 。有人留言警告称，ChatGPT开始取代批判性思维 。
根据报道，包括美国在内，多地多所学校曾禁止学校设备和网络对ChatGPT的访问，英国的伦敦帝国理工大学和剑桥大学等顶尖大学也都发表声明，警告学生不要使用ChatGPT作弊 。而对于ChatGPT究竟是改变教育还是摧毁教育，网络上的争辩此起彼伏，但提及最多的，还是这种工具的依赖性会摧毁人们的批判性思维和创造力 。
此外，来自科学界的声音也将矛头对准了ChatGPT 。《科学》杂志明确禁止将ChatGPT列为合著者，且不允许在论文中使用ChatGPT所生产的文本 。《自然》杂志表示，可以在论文中使用大型语言模型生成的文本，但不能将其列为论文合著者 。
【OpenAI遭遇滑铁卢，ChatGPT正在走向失控的原因是什么？】而在文本之外，由AI生产的图片和视频则更具欺骗性，有关于此前AI换脸所带来的道德问题被重新提及 。在这种情况下，如何分辨内容来自人类还是AI就变得尤为重要 。
拜登：你们要给AI生产的内容加个水印如果说，教育和科研界对于ChatGPT的担心更多的是用户使用层面，那么来自于国家政策方面的阻力以及对安全性的担忧则对OpenAI生存造成了极大挑战 。
在今年3月底，意大利个人数据保护局宣布，暂时禁止使用ChatGPT，并表示已对ChatGPT背后的OpenAI公司展开调查，这也是首个禁止ChatGPT的西方国家 。其后，包括德国、加拿大等国也开始调查OpenAI相关问题 。
甚至，包括图灵奖得主约书亚·本吉奥、特斯拉CEO埃隆·马斯克、苹果公司联合创始人史蒂夫•沃兹尼亚克等数千名AI领域企业家、学者、高管发出公开信，建议所有AI研究室立刻暂停训练比GPT-4更加强大的AI系统，为期至少6个月，并建议各大企业、机构共同开发一份适用于AI研发的安全协议，同时信中还提到各国政府应当在必要的时候介入其中 。


推荐阅读


上一篇：Midjourney API怎么接入、调用、申请，4步快速解决

下一篇：网易胡志鹏：从游戏到产业，AI大模型价值正显现