日本小海豹酷似大叔脸爆红意味着什么?日本小海豹酷似大叔脸爆红事件始末( 二 )


而针对AI媒体合成 , 即深度造假对社会造成的巨大影响 , 杨子江认为 , 比如利用合成熟人语音进行诈骗、视频是否可以成为法庭证据、媒体网站收到群众爆料是否可以刊登、领导人的讲话如何核实 , 这些衍生的问题如何解决已成当务之急 。
“一次正常的AI换脸 , 将产生0.5至1元的成本(GPU算力消耗+电费) , 随着上百万级别的互联网用户大规模参与 , 很容易滋生黑产和诈骗 , 或者在各种人像识别场景盗用、甚至刷脸支付 。 ”杨子江说 , 具体来看 , AI换脸的负面影响主要体现在以下场景:虚假视频合成——对名人、普通人的肖像权、隐私权侵犯 , 获得经济利益;虚假广告——用名人换脸做虚假的广告代言 , 获得经济利益;电信诈骗——用社交网络素材制作虚假视频进行诈骗 , 获得经济利益;市场操纵——散播恶意的经济界名人视频与言论 , 做空/做多标的 , 达到经济目的;更严重的可能涉及国家安全的场景等 。
负面影响如何化解
当前 , 金融业数字化转型深入推进 , 人工智能已成为有效提升金融服务水平与效率的关键技术 。 央行在近日发布的《金融科技(FinTech)发展规划(2019年-2021年)》中提出 , 要根据不同场景的业务特征创新智能金融产品与服务 , 探索相对成熟的人工智能技术在身份识别、风险防控等领域的应用路径和方法 , 构建全流程智能金融服务模式 。
那么 , 在人工智能与金融业务深度融合的现阶段 , 如何规避技术自身可能带来的隐患?
“技术使用行为受到刑法、民法等法律规制 。 将换脸技术用于非法途径 , 获取非法利益 , 可能涉嫌盗窃、诈骗等刑事犯罪 , 从而承担刑事、民事赔偿等 。 ”北京市东元律师事务所合伙人、律师焦景收认为 , 换脸等新技术的使用和普及应在法律框架内 , 通过提升人脸识别技术以及活体检测技术 , 减少因技术漏洞带来的各种风险 。
杨子江的观点是换脸技术有很多正当的应用 , 也有很多灰色的应用 , 不能仅仅用法律解决 , 关键还是要技术来解决技术问题 。
就在近日 , 马上金融自主研发的唇语识别活体检测系统正式上线 , 该系统实现对用户读错指定信息低容忍度的同时 , 保持了较高的通过率 。
AI换脸一夜爆红 , 刷脸支付是否还安全 , 支付宝霸气回应
8月30日晚 , 一款名为"ZAO"的AI换脸软件在社交媒体刷屏 , 用户只需要一张正脸照就可以将视频中的人物替换为自己的脸 。 上线不到一天 , 服务器宕机 。 AI换脸软件一夜刷爆引发大众对刷脸支付安全的担忧 。
ZAO应用的AI换脸是否会让刷脸支付变得不安全 ?成为大众最担心的问题 。 8月31日 , 蚂蚁金服方面霸气回应称 , 这项技术无法突破刷脸支付 , 被冒用概率极小 , 如果有这样的情况发生 , 一定会全额补偿用户 , 用户不用担心支付宝刷脸支付的安全性 。
据了解 , 刷脸支付采用的是3D人脸识别技术 , 在进行人脸识别前 , 会通过软硬件结合的方式进行检测 , 来判断采集到的人脸是否由照片、视频或者软件模拟生成的 。 此外 , 如刷脸支付功能需要用户进行开通操作 , 开通之后才能进行支付 , 用户也可以随时关闭 , 且只有在输入过密码的支付宝App上才能开通刷脸支付 。 也许这正是支付宝可以霸气回应能全额赔付的底气吧!
日本小海豹酷似大叔脸爆红意味着什么?日本小海豹酷似大叔脸爆红事件始末
文章图片
?
随后 , AI换脸软件ZAO公开致歉称 , 作为一个初创产品 , 在大家核心关切的问题上确实考虑不周 。 “ZAO”设置了真人验证环节 , 不会存储个人面部生物识别特征信息 , 也不会产生支付风险 。 8月31日晚 , “ZAO”修改了此前的用户协议 , “免费用用户肖像权”内容被删 。 在协议开始 , 增加“特别提示”称 , 用户上传的短视频及人脸等相关的内容将严格按相关法律法规的规定保留在“ZAO”上 。 “ZAO”表示 , 除非为了改善“ZAO”提供的服务或另行取得用户的再次同意 , 否则“ZAO”不会以任何其他形式或目的使用上述内容 。


推荐阅读