机器人水军、视频篡改…这些“AI造假术”要当心( 二 )

据统计 , 大量的合成信息占据了互联网 , 如合成声音、生成图像、AI合成不存在的人像等 , 约占网络信息的30% 。 “眼见为实”很可能已经靠不住了 。

机器人水军已经很成规模

人们判断真假 , 经常会说“真的自然” 。 而人工智能造假 , 将在尽可能“自然”的前提下 , 完成自动生成 。

“淘宝上的机器人水军已经很成规模了 。 ”浙江大学管理学院教授孔祥维举例道 , 例如商品评价已经由机器自动生成 , 不再需要雇人“灌水” 。

“自动生成带来的危机是规模性、密集度的大幅增加 。 ”孔祥维说 。 以淘宝评价为例 , 如果虚假评价如潮水般涌入 , 它甚至不需要做到真假难辨 , 就能将真实评价淹没 。


推荐阅读