AI换脸技术暗藏法律风险( 四 )

deepfakes催生于色情产业 , 当红女星“出演”的成人电影已让国内外多位女星深受其扰 。 同时 , 这项技术还存在向其他领域延伸的风险 , 让人深感担忧 。 例如 , 向政治领域延伸 , 制作虚假新闻 , 引起公众愤怒 , 掀动民族仇恨;假冒公众人物演讲 , 利用其威望组织传销或传播邪教思想;伪造受害人不雅视频进行敲诈勒索;伪造身份取得受害人信任进行网络诈骗等 。 可见 , 名人和普通人均难以逃脱可能被AI换脸技术侵害的风险 。

还有很多人担心 , 这项技术如果用于伪造诉讼证据为自己开罪或诬陷对方怎么办?比如伪造通奸视频起诉离婚并要求高额赔偿 , 伪造不在场证据为自己洗脱嫌疑等 。 视频证据属于我国证据法中的视听资料 , 具有直观生动性特点 , 但是又容易被伪造、变造 , 存在疑点的视听资料更是不能被单独作为定案依据 。 一方当事人如果质疑对方视听资料的真实性 , 可以向法院申请司法鉴定 , 而此时又对鉴定机构的技术水平提出了较高要求 。 不得不说 , AI换脸技术的发展的确为司法带来了新挑战 。


推荐阅读