视点·观察|《连线》杂志:AI生成的文字将是最可怕的Deepfake内容( 二 )


在未来,deepfake视频和音频很可能被用来创造独特的、耸人听闻的时刻,以占据新闻周期,或者转移其他更有机的丑闻的注意力 。但不易察觉的deepfake文字--伪装成Twitter、Facebook、Reddit等网站上的常规聊天内容--则有可能更微妙、更普遍、更险恶 。制造多数人意见的能力,或者创造一个虚假的参与者军备竞赛的能力--而被发现的可能性微乎其微--将使复杂的、广泛的影响活动成为可能 。无孔不入的生成文本有可能扭曲社交传播生态系统:算法生成的内容会收到算法生成的回应,而这些回应又会反馈到以算法为媒介的策划系统中,这些系统会根据参与度浮现信息 。
《连线》称,随着各种类型的合成媒体--文字、视频、照片和音频--的普及,以及检测变得越来越困难,人们会发现越来越难以信任自己看到的内容 。


推荐阅读