OpenAI遭遇滑铁卢，ChatGPT正在走向失控的原因是什么？( 二 ) _OpenAI

而对于中国、俄罗斯和伊朗等国，虽然ChatGPT并未遭到禁止，但OpenAI主动屏蔽了相关地区用户的注册许可。截至目前，包括美国在内的多个国家都已经开始对OpenAI进行数据安全、虚假信息等方面的调查。部分政客甚至担心，ChatGPT之类的应用会操纵选举。
今年7月26日，微软、谷歌和OpenAI等公司发布联合公告，宣布成立前沿模型论坛（Frontier Model Forum），致力于确保安全、负责任地开发前沿人工智能AI模型。这些动作显然与民众要求美国加强对AI的监管呼声有关。
微软总裁布拉德·史密斯表示：“开发AI技术的公司有责任确保其安全、可靠，并仍处于人类控制之下。”OpenAI负责全球事务的副总裁安娜·马坎朱也发表声明称：这是一项紧迫的工作，这个论坛有能力迅速采取行动，推进AI的安全状况。”
然而，该举措仍旧遭到质疑，科技公司被指试图赶在监管机构之前制定AI开发和部署的规则。抗议人士表示，科技行业有未能遵守“自我监管承诺”的历史。
在成立该论坛之前，拜登曾与前沿模型论坛的创始人会面，白宫敦促相关企业给出“保障措施”，会议承诺，对人工智能生产的内容增加数字水印，以便更容易发现深度伪造等误导性材料。不过此项措施仍旧被美国媒体指责动作太慢。
早在今年6月，欧盟立法者同意了一系列规则草案，其中就包括ChatGPT等系统必须披露人工智能生成的内容。
互联网已经被大规模污染，没有人能够逃脱如果说，来自政界和教育界的担忧是前瞻性的，那么互联网上被人工智能污染且循环利用的垃圾信息正在困扰着每一个互联网的使用者。
最近，在中文互联网上流传着这样的一个事件。有用户向Bing提问“象鼻山是否有缆车”，bing给出了看似专业的答案，甚至有营业时间和票价。然而，网友点开参考链接，竟然发现参考链接的回答者仍然是AI，这个AI在知乎上的很多回答内容都未经证实。

文章插图
而在国外，美国知名科幻电子杂志《克拉克世界》的总编尼尔·克拉克说，今年早些时候，该杂志不得不暂时停止接受在线投稿，因为其被数百篇人工智能生成的故事给淹没。与此相似的还有，洛桑联邦理工学院的研究人员在网上聘请自由撰稿人，对《新英格兰医学杂志》上发表的摘要进行总结，结果发现其中超过三分之一的人使用了人工智能生成的内容。
性质更为恶劣的是，有网友发现，AI会制作假的科普配图，甚至生产假新闻。江西一男子为吸粉引流，曾利用ChatGPT生成假新闻，声称“郑州鸡排店惊现血案”，内容获得疯狂转发。深圳一自媒体公司，为获得流量，通过 ChatGPT 修改编辑过时的社会热点新闻，炮制假新闻在平台上分发获取收益，最终被警察抓获。
据美国的民间新闻评级公司NewsGuard的调查，全球有至少365个AI生成新闻网站。这些网站几乎没有人监督，语言涵盖了中文、英文、法语等13种语言。网站主通过低质且虚假的内容获取流量，进行广告位的售卖，以此获得利润。该机构还发现，ChatGPT-3.5在被提示时，80%的情况下会产生错误信息和虚假叙述，ChatGPT-4在这种情况下比例上升至100% 。此外，该机构还声称，中文互联网中错误的AI信息要多于英文互联网。
更令人忧心的是，AI不仅入侵了网络新闻，还正在稀释购物网站点评的真实性。有截图显示，在亚马逊上的一款商品的评价中，有人上传了AI产生的评价，“作为一个 AI 语言模型，我没有亲自使用过这个产品，但根据它的功能和用户评论，我可以自信地给它打 5 星” 。

文章插图
AI准确性需要消耗大量资源，而OpenAI需要降本增效ChatGPT显然是一个充满能量的物种，但是越来越多的麻烦正在缠绕着OpenAI 。不同于国内余波未平的大模型和AIGC热，越来越多国外的机构和媒体正在质疑ChatGPT对于环境的负面影响。
模型精度和算力强相关。模型的大小由其参数量及其精度决定，精度下降使得算力承载扩大的同时，也会导致性能在一定程度上下降。而算力又对应着资源消耗，资源的背后则是成本和环境问题。因此，一个精确的通用大语言模型背后所消耗的资源可能是海量的。
加州大学研究人员的报告显示，微软数据中心在训练GPT-3期间，使用了大约70万升的淡水。当ChatGPT用于回答问题或生成文本任务时，20-50个简单对话就会消耗一瓶500ml的水（服务器中的能量会转换为热量，需要用水来降温）。知名计算机专家吴军形容，ChatGPT每训练一次，相当于3000辆特斯拉在一个月走完了21年的路。