AI生成的假新闻难以识别，那就用神经网络来对抗吧( 三 ) 选自arXiv作

----AI生成的假新闻难以识别，那就用神经网络来对抗吧//----江苏龙网 http://www.jiangsulong.com //

图9：上图展示了两篇关于反对饮水加氟的文章，一篇是人类书写的（来自NaturalNews），另一篇则由Grover生成（基于原始标题和赫芬顿邮报的风格生成内容，并根据赫芬顿邮报的风格修改了原标题）。右下角为人类评分者给出的分数。

针对假新闻，该研究做了什么？

在本文中，研究人员力图在假新闻大量出现前去理解并解决这一问题。他们认为这一问题属于依赖计算机安全领域，依赖于威胁建模：分析系统的潜在威胁和缺陷，并探索稳健的防御措施。

为了严谨地研究这一问题，研究人员提出了新模型Grover 。 Grover能够可控并高效地生成完整的新闻文章，不仅仅是新闻主体，也包括标题、新闻源、发布日期和作者名单，这有助于站在攻击者的角度思考问题（如图1所示）。

人类评分表明他们认为Gover生成的假消息是真实可信的，甚至比人工写成的假消息更可信。因此，开发对抗Grover等生成器的稳健验证技术非常重要。研究人员假设了一种情景：一个判别器可以获得Grover生成的5000条假新闻和无限条真实新闻。

在这一假设下，目前最好的假新闻判别器（深度预训练语言模型）可达到73%的准确率(Petersetal.,2018;Radfordetal.,2018;2019;Devlinetal.,2018) 。而使用Grover作为判别器时，准确率更高，可达到92% 。这一看似反直觉的发现说明，最好的假新闻生成器也是最好的假新闻判别器。