江苏龙网

  1. 首页 > 人文看点 > >

AI生成的假新闻难以识别，那就用神经网络来对抗吧(12)

AI生成的假新闻难以识别，那就用神经网络来对抗吧

----AI生成的假新闻难以识别 ， 那就用神经网络来对抗吧//----江苏龙网 http://www.jiangsulong.com //

本文原始标题为：AI生成的假新闻难以识别 ， 那就用神经网络来对抗吧---来源是：

本文原始标题为：AI生成的假新闻难以识别 ， 那就用神经网络来对抗吧---来源是：

图7：在设定了不同的方差缩减阈值时（如p对应原子采样和k对应top-k采样方式） ， 将GroverMega生成的新文章与真实文章区分开的未配对的验证准确率 。 因p的不同 ， 结果也有所不同 。 当p在0.92-0.96之间时 ， 区分假消息的难度最高 。

总之 ， 本文的分析表明 ， Grover可能最擅长捕捉Grover生成的假新闻 ， 因为它最了解假新闻的长尾分布在哪里 ， 也因此知道AI假新闻的长尾分布是否被不自然地截断 。

开源策略

生成器的发布很关键 。 首先 ， 似乎不开源像Grover这样的模型对我们来说更安全 。 但是 ， Grover能够有效检测神经网络生成的假新闻 ， 即使生成器比其大多了（如第5部分所示） 。 如果不开源生换器 ， 那针对对抗攻击的手段就很少了 。

最后 ， 研究人员计划公开发布Grover-Base和Grover-Large ， 感兴趣的研究者也可以申请下载Grover-Mega和RealNews 。

本文为机器之心编译 ， 转载请联系本公众号获得授权 。


推荐阅读


上一篇：原创 10岁二哈跟德牧抢妈妈，结果德牧赢了，谁还不是宝宝呢？

下一篇：中国房企未来发展之路：香港租售混合模式经验