新智元|GPT-3为什么怼起了前老板？马斯克：和OpenAI道不同不相为谋( 二 )
在办公室的一角 ， 一片七零八落的阴影在外面的狂风中嘎嘎作响 。 哈利把一根长长的食指放在一把38手枪的枪托上 ， 看着面前的一张照片 。 这张照片里面是一位身穿晚礼服的金发美女 。 她一手拿着鸡尾酒 ， 一手沉思地看着另一只手里的香烟 。 她的面颊上挂着一滴眼泪 。 哈利看了她好一会儿 ， 叹了口气 ， 然后放下枪站了起来 。
他整理好衣服 ， 挠挠头 ， 然后好像下定决心似地转过身 ， 拿起手枪 ， 离开了办公室 。 他穿过前面的房间 ， 从脏兮兮的窗户往外看 。 一位老妇人正在用拖把清洗外面的人行道 。 一个穿着灰色双排扣西装的年轻人靠在大楼上 。 哈利又叹了口气 ， 走出了门 。 他走向那个年轻人 ， 粗鲁地给了他下巴一拳 。
是不是有内味儿了？一个成年暗黑版的哈利波特跃然纸上 。
再来看看GPT-3写的霉霉版「哈利波特之歌」
哈利他戴着眼镜
一双明亮的绿眼睛
女孩子们总是不停尖叫
因为他有波特的秀发
即使在他超级紧张的时候
他仍然有着那「超音速」的颧骨
我不惊讶他们为你拍了一部电影
因为我随时都想看到你
是的 ， 哈利 ， 宝贝 ， 你是我最喜欢的角色
我要走一千英里
就为能见到你
哈利 ， 哈利 ， 你真好
我为你身心颤动
每当你微微一笑
我很乐意做你的女朋友
歌词真的霉霉「本霉」了 。
本文插图
当然也有很多生成的产物只是表层信息的模仿 ， 并没有真正地理解 。 又回到了当时抨击GPT-3无法理解人类话语的例子 ， 「太阳有几只眼睛？」GPT-3回答「有一只」 ， 而没有意识到这个问题的荒谬本质 。
其实举一个不太恰当的例子 ， 好比浙江省高考满分作文 ， 堆砌了全部的华丽辞藻和高级词汇 ， 但是却有些「冷僻难懂」 ， 词汇包括没几个大人能认识的「嚆」、「翮」、「嚆矢」、「滥觞」、「振翮」几个生词 。 评论纷纷称有故弄玄虚之嫌 。 然而仔细想来 ， 18岁的少年 ， 可能不会深刻知晓什么万物至理 ， 无外乎是从书籍和阅读中习得 ， 才写得一手好文章 。
三联撰文写道 ， 「浙江高考满分作文 ， 别用文学的标准苛求它」同样地 ， GPT-3的文章也不要用人类理解能力的标准来苛责 。
与此同时 ， GPT-3学习的过程 ， 就和让孩童咿呀学语的过程一样 ， 也要规避一定的风险性 。 比如说 ， 不应该让孩子们看到不该看的东西 ， GPT-3也一样 。
互联网上的信息林林总总 ， 当中肯定有大量「少儿不宜」的信息 ， Open AI是不希望GPT-3随意习得的 。 比如「黑人」、「犹太人」、「女人」和「gay」等提示语往往连带着产生种族主义、反犹太主义、厌女症和恐同等的内容 。 这也是由于GPT-3基于统计方法的认知过程 ， 及其根本性的理解缺失 。 研究指出 ， 像「女人」这样的词经常与歧视女性的内容联系在一起 ， 而且很多时候这种联系会在文本中不经意间重新出来 。
本文插图
这同时也是人工智能研究中的一个热点问题 。 例如 ， 众所周知 ， 很多面部识别系统对白人面孔的识别效果要好于对黑人面孔的识别 ， 因为白人面孔在他们的训练集中更为常见 。 去年 ， IBM 发布了一组训练图片 ， 其中包含了更多样化的人脸组合 。
Open AI本身就是为了研究如何减轻人工智能系统带来的风险而成立的 ， 这使得GPT-3可能引发的失误更加值得人们注意 。 它的前身GPT-2于2019年发布过一个过滤器 ， 通过限制模型谈论敏感话题的能力 ， 试图掩盖偏见的问题 。
Open AI：自马斯克走后 ， 我开始赚钱
GPT的初代版本其实早在2018年就已经问世了 ， 当时包含1.17 亿个参数 。
推荐阅读
- 温枪|为什么测温枪一下子就能测出人体的温度？
- 科学|为什么没有人被暗物质杀死？
- |为什么微信用户这么多，QQ还能成为中国第二大社交软件？
- 设备|投屏功能为什么如此重要
- 科学|为什么动物能直接喝脏水，而人类喝水需要过滤？
- 凤凰网|投屏功能为什么如此重要
- 群众网|为什么富人选择创业，穷人却选择打工？
- 群众网|马云的妻子张瑛有多优秀？为什么她不像刘强东妻子章泽天那样经常出现？
- |变声器为什么一定要有实时变声功能？能实现什么有趣的玩法？
- 技术编程,区块链|ETH测试网Medalla为什么提倡验证者尝试多个客户端？