江苏龙网

  1. 首页 > 资讯 > 资讯 > >

技术|讲座｜黑爪：AI技术与大时代下的个人隐私

_原题为 讲座｜黑爪：AI技术与大时代下的个人隐私
前不久 ， 由寻麓书馆发起的传灯人线上分享会第十期 ， 邀请了大数据专家黑爪为读者分享“AI技术与大时代下的个人隐私” 。 活动中 ， 黑爪从简单的技术原理与应用、法律与伦理等方面 ， 对AI技术现状进行了梳理和探讨 。 以下是对此次分享内容的整理 。
技术|讲座｜黑爪：AI技术与大时代下的个人隐私
文章图片

过去20年 ， 我一直从事数据挖掘和机器学习方面的工作 ， 具体的工作是自然语言处理在电子商务和客户服务方面的应用 ， 广泛一点地说 ， 就是具体行业的机器翻译 。 我在业余时间也做文学翻译 ， 目前为止有六本译著已经出版 。
今天我将从广泛的机器学习原理与大家交流关于“人脸识别”这个主题 。 “人脸识别”这个主题涉及面很广 ， 专业性也比较强 ， 我将从三个部分进行分享：AI热点、热点背后的讨论、AI技术原理 。
AI人脸识别的热点
6月8日 ， IBM首席执行官Arvind Krishna就种族平等议题给加州参众两院写了一封公开信 ， 引起了不小的轰动 。 按照技术巨头CEO的做派来看 ， 这封信的笔调和语气都比较戏剧化 ， 信中充满激情 ， 一提笔就以IBM的光荣历史开场 。 信里写道 ， IBM比民权法案（Civil Rights Act）通过的历史都早了十年 。 民权法案于1964年通过 ， 而IBM于1953年就迈出了这勇敢的一步 ， 他们拒绝在公司执行吉姆·克劳法 ， 他们要给不同种族、肤色、信仰的人才提供平等的机会 。
接着他写道 ， 70年以来一直到今天 ， 人们还在为不平等而抗争 ， 本不应如此 。 他提议要与国会一起努力共同推进正义与和平 。 这里我们可以注意两点：一是要和国会一起 ， 他认为 ， 单凭企业的力量已经不够 ， 需要国会的支持并立法；二是企业的责任和义务 ， 包括企业监督和提醒立法机构的义务 。
具体如何推进呢？他提出 ， 集中于三个关键的政策领域 。 除了警察改革之外 ， 另外两点谈的都是作为高科技企业相关的本分 。 其中一点是拓展技能教育机会 ， 另外一点是强调了企业应负责任地使用技术 ， 这点引发了大量的关注 。 同时他宣布 ， IBM将彻底放弃人脸识别及分析软件 ， 并且强调 ， 他们坚决反对使用包括人脸识别在内的技术进行大规模监控 ， 进行种族划分 ， 以及对基本人权和自由的侵犯 。 这些宣称在有人看来会觉得算不了什么大事 ， IBM从来就不是人脸识别的大玩家 ， 宣布放弃自身的利益对社会的影响也不会太大 。
这件事过了两天 ， 亚马逊紧接着宣布：暂停向警察机构提供人脸识别技术服务 ， 并且表示 ， 希望为期一年的暂停可以使国会有充足的时间执行修改适当的规则 ， 通过更好的法律对技术的应用加以规范 。
IBM、亚马逊这些科技巨头的宣告无疑将此事推向了高潮 。
几天后 ， 微软也加入了要求对人脸识别技术应用进行严格限制的企业行列 。 微软声明 ， 在国会对人脸识别技术使用进行规范之前 ， 将不会向警察部门出售面部识别技术 。 微软总裁布拉德·史密斯在接受《华盛顿邮报》采访时说道：这件事已经不能单靠企业来完成 ， 只有这样（通过国会立法）我们才能保证保护民众的生命安全 。
我们不妨想想 ， 三个行业巨头能用这种严肃和强硬的态度说到保护民众生命这一点 ， 绝不是一夜之间发生的事 。 2019年的旧金山、伯克利、奥克兰市议会已经断然禁止警察部门使用FRT（Facial Reconciliation Technology ， 人脸识别技术） 。
技术|讲座｜黑爪：AI技术与大时代下的个人隐私
文章图片

人脸识别（图片来自网络）
人脸识别技术到底经历了哪些讨论呢？去年4月 ， 微软研究院的研究员卢克·斯塔克发表了一篇题目为《人脸识别是AI领域的“钚”元素》的文章 。 钚元素是1941年美国化学家西博格发现的重要元素 ， 可以用于核爆炸、核反应堆的燃料 ， 它在元素周期表中的符号是Pu ， 钚元素本身只在极为专业的领域才有用 ， 风险极大 ， 因此在国际上被严格控制 ， 只要用不到就绝不生产 。 人脸识别技术的危险性用钚元素来比喻也非常贴切 ， 它对人类社会的健康危害极大 ， 所以对其使用应当严格控制 。
此言一出 ， 各方面对类比的反对声音也非常多 。 有人认为这个说法不仅是危言耸听 ， 也有人认为根本是无稽之谈 。 斯塔克和他的研究伙伴霍夫曼（华盛顿大学信息学院的副教授）一起对它的危害性进行研究 ， 想要证明类比是有道理的 。 通过将人脸识别技术与钚元素作比较 ， 这两位学者在原本的争论上补充了两点 ， 我认为还是挺有见地的 。 技术层面上 ， 人脸识别技术具有无法克服的漏洞 ， 漏洞的产生与这项技术怎样系统化地处理人脸直接相关 ， 这个漏洞的产生加强了性别和种族的分类错误 ， 就注定了对社会有害 。 这样的风险超过它能给我们带来的利益 ， 很容易让人联想到核技术 。
在美国现有的执法部门、私营企业以及政府所部署的大量大规模的监控工具中 ， 人脸识别技术对种族的正义、不受干扰等这种最简单基本的权利都构成了威胁 ， 这种技术如果掌握在执法部门的手中 ， 对异议、公民概念、民主概念都会构成一定威胁 ， 甚至削减人们维护个人隐私的能力 。 人脸识别技术从发明伊始就与社会的各种问题纠缠在一起 ， 这与技术发明者、实践者的初衷无关 。 正因为这个技术的先天缺陷 ， 政府应当对它进行严格的条例规范 ， 严格到可以禁止它进入任何实际应用的地步 。


推荐阅读


上一篇：安所|币安的价值，最终取决于币安所做之事

下一篇：家居|柏厨品牌全面升级 将探索社区店发展模式