江苏龙网

  1. 首页 > 资讯 > 资讯 > >

社会学|AI社会学｜我们为什么抵制蛇油AI？( 二 )


第三类就是所谓的“蛇油AI”了 ， 这类AI的主要特征是它们都企图对人类社会的未来作出某种预测（predicting social outcomes) 。 它们涉及的领域包括犯罪率预测、工作表现预测、预防性执法等等等等 。 本文开头的对应聘者人格特征和工作合适程度进行预测的AI系统 ， 就是其中一种 。 再比如 ， 我们之前讨论过的COMPAS系统 ， 通过对一系列变量的计算来预测某个被告未来再次被逮捕的机率 ， 也是社会性预测的一种 。
这类AI之所以被冠之以“蛇油”之名 ， 有两大原因：
其一 ， 计算机学家和统计学家们发现 ， 即使号称运用了复杂的机器学习算法 ， 采用了多达上百种变量 ， 这类AI在准确率上的表现其实并无显著提高 。 比如 ， 收集和使用了137种变量的犯罪率预测系统COMPAS ， 其预测准确率跟之前用“年龄”和“曾经犯罪的次数” 两个变量来判断未来再次犯罪概率的人工统计系统并无很大区别 。 也就是说 ， 在准确率上 ， 相对过往人工记分的系统 ， 这类AI并无显著提升；有些时候 ， 可能还有倒退 。
其二 ， 或许也是更重要的是 ，当我们寄望于使用此类AI算法来对人类社会的未来进行种种预测之时 ， 我们往往会掉入如下陷阱——对于个人信息毫无节制的收集 ， 对于科技系统近乎盲从的信任 ， 缺少可以对黑箱模型进行阐释的方法 ， 无法进行有效的社会和政策干预 ， 以及巨大和毫无约束的权力从领域专家到科技公司的转移 。
【社会学|AI社会学｜我们为什么抵制蛇油AI？】纳拉亚南最后总结到 ， 就目前人工智能和机器学习的发展而言 ，AI系统或许在某些特定领域的表现优于人类 ， 但它无法预测人类社会的未来 。 在大多时候 ， 过往的人工系统或许一样准确 ， 并且更加透明 。
在所谓的AI奇点到来之前 ， 至少此时此刻 ， 只有人类才能对人类社会的未来负责 。 作为社会学家和计算机学家 ， 我们需要一起抵制那些想把这一事实抹去的巨大商业利益 。
【参考资料】
[1] Raghavan, Manish, Solon Barocas, Jon Kleinberg, and Karen Levy. "Mitigating bias in algorithmic hiring: Evaluating claims and practices." In Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, pp. 469-481. 2020.
[2] Narayanan, Arvind. "How to recognize AI snake oil." Princeton University, Department of Computer Science, accessed November 20 (2019).
-----
作者沈虹 ， 毕业于美国伊利诺伊大学香槟分校传播学系 ， 现任职于美国卡内基梅隆大学 。 她用社会学的方法研究新兴科技 。
(本文来自澎湃新闻 ， 更多原创资讯请下载“澎湃新闻”APP)


推荐阅读


上一篇：全球|[公司]深天马：公司LTPS智能手机出货量持续保持全球第一且市占份额还在增长

下一篇：效果|换季衣服发黄？你需要换洗衣液了！