江苏龙网

  1. 首页 > 人文 > >

GPT-3可怕，GPT-3论坛跟帖灌水一周无人发现，专挑热搜，秒秒钟长文( 二 )


GPT-3可怕，GPT-3论坛跟帖灌水一周无人发现，专挑热搜，秒秒钟长文
本文插图
这么拙劣的回答 ， 发出不久就被网友识破 ， 还被喝倒彩——到现在已收获449赞 ， 成为thegentlemetre被点赞最高的回帖 。
大家能把它顶这么高 ， 肯定不是因为认同 ， 无非是想让所有人看看 ， 他有多蠢 。 因为发出当天 ， 绝大部分网友就意识到 ， 这是个机器人 。
GPT-3可怕，GPT-3论坛跟帖灌水一周无人发现，专挑热搜，秒秒钟长文
本文插图
这种怪异的行为让作家Philip Winston感到怀疑 ， 他系统整理回答内容发现：这位thegentlemetre几乎每个回答都是6段话 ， 非常符合GPT-3的生成模式 。
Winston开始向thegentlemetre ， 直接发帖说 ， 这就是GPT-3在“作妖” 。
一位“哲学家AI”在帖子中回应 ， 确认这些回答内容确实出自其App 。
GPT-3可怕，GPT-3论坛跟帖灌水一周无人发现，专挑热搜，秒秒钟长文
本文插图
黯淡收场
之后 ， 外媒Gizmodo联系到了“哲学家AI”的开发者Murat Ayfer ， 他在邮件中确认 ， 自己的产品被人利用了 。
有人逆向工程了“哲学家AI”的iOS应用 ， 从而绕过验证码 ， 批量生成回帖 。
现在Ayfer已经升级App修补了漏洞 。
而Reddit官方也开始封杀thegentlemetre的部分回帖 。 thegentlemetre近乎销声匿迹 ， 已经好几天没有发帖了 。
直到昨天 ， 有人说机器人回帖破坏了论坛的公平 ， 它一改往日长篇大论说废话 ， 只说了一句话：你也许是对的 。
一场GPT-3在论坛灌水的闹剧就这样草草收场 。
如果不是利用它的人去不是“广撒网” ， 又或者是精心筛选结果 ， 恐怕这个回帖机器人还很难被发现 。
好在这个“哲学家AI”的三观没有太大问题 ， 在回答关于“自杀”的问题时 ， 没有太过消极 ， 造成不可挽回的后果 。
但是谁又能保证AI以后不会出岔子呢？
参考链接：
https://www.reddit.com/user/thegentlemetre
https://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253
【GPT-3可怕，GPT-3论坛跟帖灌水一周无人发现，专挑热搜，秒秒钟长文】https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html


推荐阅读


上一篇：光明网著名物理化学家刘若庄院士逝世

下一篇：养生知多少|配色中关系疏远却一见就“燃”的3组互补色（蓝橙篇）