IBM宣布退出人脸识别，是道德楷模还是商业投机 ？( 二 )
根据市场研究机构Gartner的数据 ， 2019年 ， 全球云计算市场中份额最高的公司是亚马逊（45%） ， 其次是微软（17.9%）和阿里云（9.1%） ， Google拥有5.3%的份额 ， 剩余23.7%的份额由“其他”数家公司共享——IBM属于“其他”这部分 。
IBM在这一领域其实失意已久 ， 尽管它原本算得上人工智能时代的领头羊 。 早在2008年 ， 时任CEO彭明盛就提出了“智慧地球”这一概念 ， 并建议当时的奥巴马政府投资新一代的智慧型基础设施 。 这个概念成为后来“智慧城市”的雏形 ， 其标配就是智能摄像头、传感器、图像识别以及人脸识别 。
而在更早的1997 年 ， IBM的人工智能程序“深蓝”就战胜了国际象棋冠军卡斯帕洛夫 。
但IBM一直缺乏为这些技术寻找落地场景、将它们进一步商业化的能力 。
与其对照 ， 亚马逊通过不断在新拓展的场景中应用新技术 ， 拿到了从云计算到人工智能的实际市场份额 。 就人工智能而言 ， 这个零售商除了可以直接向警察销售的人脸识别软件Rekognition ， 还有面向普通消费者的智慧门铃Ring、智能音箱Echo等 。
文章图片
被回避的问题：
AI滥用及其对隐私的侵犯
IBM在信中呼吁对用于执法的人工智能系统做“偏见测试（bias test）” 。
不过 ， 尚没有证据表明5月25日当天警察之所以执法过当 ， 跟George Floyd曾有的犯罪记录或者警察是否使用了相应的AI工具有什么关联 。
IBM下了一步险棋 。 它表现了一家老牌技术公司在消除歧视方面的社会责任 ， 将反思之火烧到比人脸识别、比偏见更深远的领域 ， 直到到达问题的核心——
人们对AI滥用及其侵犯隐私的担忧 。
当今美国最严厉的隐私法是《加利福尼亚消费者隐私法》（California Consumer Privacy Act） ， 这项法律刚刚于2020年1月1日生效 。 根据法律 ， 加利福尼亚的消费者不仅有权知道自己的数据是出售还是转让给第三方 ， 而且他们还有权阻止交易 。
但是交易只是数据价值的一部分 ， 即使这项“最严厉”的法律也没有对技术公司可以如何获取数据、使用用户数据做出规定 。 更遑论执法上的难度 ， 技术作者Charlie Warzel在《纽约时报》今年1月的一份评论中称：有关公司只是虚假地声称他们遵守隐私法 ， 因为他们知道监管机构根本不会对其审查 。
文章图片
并不中立的AI
在BLM运动爆发前 ， 有关AI偏见、AI歧视的研究和讨论已持续数年 。
AI并不像外界料想的那般中立
， “它能增强现有偏见和歧视 。 ”普华永道咨询公司的AI道德专家（AI ethics expert）Maria Axente说 。
这种被强化的偏见危害深远 。 使用AI推荐Spotify上的歌曲或Netflix上的电影 ， 即使推荐不合口味也不会有多糟糕的后果 ， 但如果一个AI可以决定贷款给谁、或者对患者究竟患了何种疾病做出诊断 ， 那它是否有偏见就事关生存和生命 。
2017年 ， 算法正义联盟（Algorithmic Justice League）创始人Joy Buolamwini 对IBM、微软、旷视3家公司的人脸识别算法做了偏见测试 。 他收集了来自3个非洲国家和3个欧洲国家的1270张人脸照片 ， 交给三家公司的产品识别 ， 结果显示 ， 三个产品对女性的识别率低于男性、对深色人种的识别准确率远低于白种人 。 其中 ， IBM的算法准确率误差最大 ， 其对浅肤色男性和深肤色女性的错误率相差达到了34.4% 。
推荐阅读
- 中证网@蚂蚁宣布上市：寻求A+H上市 A股迎来互联网巨头中证网2020-07-20 19:44:060阅
- 上话|强挤笑容插不上话，老成员陆续退出后，王迅仿佛成了《极挑》多余的人
- 新浪科技■eBay拟90亿美元售出分类广告业务 今日或宣布交易新浪科技2020-07-20 17:54:150阅
- 澎湃新闻：神州租车重投北汽怀抱：优车退出，后者为第一大股东澎湃新闻2020-07-20 17:15:030阅
- 印度首富宣布研发出“完整5G”，明年将全球出口，网友：您家4G网速不如人家2G
- 通信技术|印度首富宣布成功研发5G技术：献给莫迪“自力更生的印度”计划
- 鲍毓明退出中兴通讯董事，“性侵”风波后辞职，近日被司法部点名
- 神州租车接盘者再生变，上汽退出，北汽回归？
- 特斯拉|特斯拉宣布与《和平精英》联动
- 杨润雄|疫情紧急，香港教育局刚刚宣布多项教育措施