太平洋电脑网|《连线》:AI 生成的文字将是最可怕的 Deepfake 内容( 二 )


现在 , 可以检测到重复或回收的评论 , 这些评论使用相同的文本片段 , 以淹没评论区 , 游戏Twitter标签 , 或通过Facebook帖子说服观众 。 在过去的一系列操纵活动中都观察到了这种策略 , 包括针对美国政府就发薪日贷款和联邦通信委员会的网络中立性政策等话题征集公众意见的活动 。 《华尔街日报》对其中一些案例进行了分析 , 发现了数十万条可疑的评论 , 这些评论之所以被认定为可疑 , 是因为它们包含了重复的长句子 , 不太可能是由不同的人自发撰写的 。 如果这些评论是由人工智能独立生成的 , 比如说 , 这些操纵活动就很难被抽出来 。
在未来 , deepfake视频和音频很可能被用来创造独特的、耸人听闻的时刻 , 以占据新闻周期 , 或者转移其他更有机的丑闻的注意力 。 但不易察觉的deepfake文字--伪装成Twitter、Facebook、Reddit等网站上的常规聊天内容--则有可能更微妙、更普遍、更险恶 。 制造多数人意见的能力 , 或者创造一个虚假的参与者军备竞赛的能力--而被发现的可能性微乎其微--将使复杂的、广泛的影响活动成为可能 。 无孔不入的生成文本有可能扭曲社交传播生态系统:算法生成的内容会收到算法生成的回应 , 而这些回应又会反馈到以算法为媒介的策划系统中 , 这些系统会根据参与度浮现信息 。
【太平洋电脑网|《连线》:AI 生成的文字将是最可怕的 Deepfake 内容】《连线》称 , 随着各种类型的合成媒体--文字、视频、照片和音频--的普及 , 以及检测变得越来越困难 , 人们会发现越来越难以信任自己看到的内容 。


推荐阅读