比赛|首个图像检测对抗赛开赛，25万寻赏安全ai挑战者
_原题为 首个图像检测对抗赛开赛 ， 25万寻赏安全ai挑战者
鞭牛士报道 9月14日消息 ， 日前 ， 由阿里安全、清华大学主办的第五期“安全AI挑战者计划”竞赛开启 ， 本期“安全AI挑战者计划”为双赛道竞赛 ， 总奖金为254000元 ， 并包含近10万的奖品福利 。
文章图片
据悉 ， 第五期“安全AI挑战者计划”为全球首个针对证件文档类图像伪造检测的对抗攻击竞赛 。 旨在发现图像取证技术的不足 ， 推进该技术更广泛的应用 。
随着各种P图工具的普及 ， 篡改伪造的门槛大幅降低 ， 许多假图用于散播谣言、编造虚假新闻等 。 而随着反取证技术的出现 ， 图像的真伪鉴定问题进入攻防博弈的阶段 。 区别于传统图像取证比赛专注于自然内容图像 ， 此次竞赛更关注能够用于表征权利人权益的证明材料图像 。
此次比赛 ， 将采用真实的证书文档类图像数据 ， 参赛者需通过对原始图像的特定候选区域进行伪造篡改（P图） ， 做到视觉无伪造痕迹 ， 并且让提供的图像取证模型无法识别篡改 。
据介绍 ， 2019年8月-2020年6月 ， 安全AI挑战者计划已成功举办四期 ， 共吸引全球200多所高校100多家企业的5000多支队伍参加 。
第一期人脸对抗识别比赛模拟了人脸场景下的对抗攻击 ， 在不知道模型详细信息的前提下 ， 选手在线下对测试样本进行修改 ， 然后提交至线上做攻击测试 。 入围奖项的队伍提交了11份原创的方案材料 ， 其中很多方案具有创新性 ， 提出了适合攻击人脸识别的对抗样本生成方法 。 从比赛的结果来看 ， 前10的选手生成的扰动都很小 ， 人脸无法区分 ， 而且具有很强的攻击性 。 产生了至少1万左右的非常非常具有欺骗性的人脸图片样本 ， 这些对抗样本能够很好的衡量人脸识别系统的安全性、帮助提升人脸识别系统的鲁棒性和防御能力 。
第二期ImageNet图像对抗比赛赛题是ImageNet图像分类对抗攻击 ， 有了第一期的经验 ， 这一期参赛队伍超过1000支 ， 超过10支队伍分享了参赛方案 ， 贡献了7000多次提交 ， 且比赛结束转为长期赛后 ， 日均也能收到3-5左右的提交 。 每次提交平均能收集到约1300个经过选手特殊处理的恶意样本 ， 而所有的提交样本都已被收集下来 ， 用来提升业务人员在模型防御和对抗样本检测方向的能力 。
而这次比赛选手提交的方案中 ， 有不少使用了AI安全方向比较前沿的技术 。 如第一名队伍在黑盒情况下 ， 仅仅对图像上下32像素的改动 ， 就以接近100%的概率有目标的攻破了线上的防御模型 。 另外从攻击手段上 ， 大部分高分选手都使用了输入变换（Input Diversity）和模型融合的方式增加黑盒情况下 ， 对抗样本的迁移能力 ， 这些都反向给了业务人员启发 。
此外 ， 第三期辱骂场景文本对抗比赛、第四期通用目标检测的对抗攻击几场竞赛也都针对行业现象与难题 ， 展示了非常前沿的技术和方法 ， 提供了问题解决思路与启发 ， 并积累了大量样本与经验 。
安全AI挑战者计划的最大特点是 ， 以系列竞赛贯穿全年 ， 主打高难度、高创新、高趣味、高回报的题目任务和运营玩法 。 每一期差异化的呈现 ， 既满足年轻技术爱好者猎奇求新的偏好 ， 又激发了选手剑走偏锋的奇思妙想 ， 将思路方法持续的沉淀到技术社区 ， 将互联网大企业、优秀科研院校的私有经验公有化 ， 每一期都能够实现超预期的累加技术成就 。
在第四期比赛中蝉联4周第一名的队伍表示：“这是一个能让你学到很多技能 ， 更加深刻地理解深度神经网络是如何工作的比赛 ， 这系列的比赛覆盖的领域非常广 ， 从人脸识别 ， 到图像分类 ， 文本分类 ， 目标检测 ， 再到以后的视频 ， 和声音的领域 ， 可以说深度神经网络能做什么这里就能学什么 ， 如果你能来参加这个比赛 ， 绝对收获非常丰富 。 ”
阿里安全图灵实验室高级算法专家觉奥在采访中介绍了阿里和清华举办“安全AI挑战者计划”的背景 ， 他表示：“国家在提倡数字新基建 ， 安全是新基建重要的领域 ， 对阿里的业务也是如此 ， 安全AI挑战者计划是阿里做安全基建的手段之一 。 目前为止 ， 中国AI安全人才缺口达到140万 ， 通过安全AI挑战者计划这类公开竞赛 ， 结合实际业务场景 ， 让参赛者‘放手’攻击 ， 锻炼技术 ， 培养人才 ， 对阿里安全以及整个安全行业都会有积极的贡献和影响 。 ”
在阿里平台 ， 内容安全的应用很多 ， 包括多媒体 ， 如声音、视频、文本、图象等内容的判别与处理 。 觉奥举例 ， 如果有人试图在阿里平台售卖违禁商品 ， 靠人力审核根本审核不过来 ， 一个好办法是依赖AI技术 ， 让模型和算法自动挖掘和识别这些违禁商品 ， 以便清除下架 。 同样 ， 面对假货威胁 ， 也可以用AI技术从多维度信息来自动判别和处理假货 ， 如综合分析Logo、价格、退货行为、评价等信息 。 通过安全AI挑战者计划这样的竞赛 ， 将积累更多的对抗样本 ， 有利于升级防控模型 ， 并给予安全从业人员更多的启发 。
当然 ， 安全AI挑战者计划是面向全互联网行业 ， 为中国培养新基建安全人才的比赛 。 第三期挑战者计划题目就以清洁网络环境为目的 ， 针对当下论坛、视频等平台评论场景中存在的如辱骂、色情等污染网络环境的内容 ， 首次设置了“辱骂文本对抗”赛题 。
推荐阅读
- 终止比赛|王一博摔车，尹正为此发文，原来是这么回事
- 冠军|最惨《中国好声音》冠军？比赛结束后便被人遗忘，形同路人
- 每日科学|NASA将大量银河图像编织成了一首壮丽的音乐
- 比赛|CFSI｜GV豪华阵容见效，2：0击败LZR
- 未来|MATE 40首个宣传视频曝光，主题飞越未来，拍照又是大杀器
- 不少观众|鹿晗和吴亦凡一起参与某节目的录制，并表示希望能够帮其赢下比赛。
- 就位|《演员求就位2》：是演员还是偶像，丁程鑫首个单人综艺值得期待
- 王一博|王一博摩托赛，意外飞出赛道，比赛仲裁出结果
- 华夏航空|华夏航空首个大连-延安“红色旅游团”首发成功
- 比赛|常德市中职教师职业能力竞赛在桃源县职业中等专业学校圆满落幕