互联网如何让我们不高兴 | 世界读书日书单(内附福利)( 五 )


那么 , 为何自动化的数据系统会如此歧视和排斥穷人呢?尤班克斯指出 , 在历史上 , 美国社会一直有歧视穷人的传统 , 穷人被主流社会视为能力低下、游手好闲、易于犯罪 , 对社会有害无益 。 1820年代 , 有政客提议美国每个郡都至少要有一座“穷人屋”(poorhouse) , 把穷人安置在其中 , 从事近乎苦役的工作 , 与主流社会相隔绝 。 尽管这个提议由于开销太大而未能全面推行 , 只在部分地区试点后便不了了之 , 但是它所体现的思路一直是美国资本主义的基本信条 。

1960年代风起云涌的民权运动在表面上改变了美国的主流文化 。 民权运动的一个后果就是将穷人的社会福利视为基本人权 , 每一个穷人都有权通过正当程序获取应得的社会福利 。 穷人的处境有了很大改善 。 然而 , 美国社会有很强大的力量反对社会福利的扩张 。 在新的时代背景下 , 他们无法直接反对将社会福利视为穷人的人权 , 于是便通过数据技术来达成目标 。 从1980年代开始 , 美国社会福利系统逐渐走向了电脑技术主导的自动化数据管理 , 政客们宣称新技术可以减少舞弊 , 提高效率 , 但事实是社会福利的覆盖面自此开始日趋缩减 。 1973年 , 有近一半生活在贫困线下的美国家庭可以领取“未成年儿童家庭援助”(Aid to Families with Dependent Children) , 今天这个数字只有10% 。 虽然存在政策变迁的因素 , 但是这种变化主要是通过数据化的政治技术治理悄然无息地实现的 。

尤班克斯指出 , 自动化数据治理所导致的对穷人的歧视和排斥 , 远比19世纪曾经一度在美国部分地区试点的“穷人屋”更为可怕 。 “穷人屋”固然将穷人排斥在主流社会之外 , 但同时也使得穷人们聚集和团结在一起 , 可以提出集体诉求来主张自己的权利 。
而自动化数据治理所排斥的穷人是“碎片化”的 , 他们难以彼此联系 , 难以通过集体的力量来争取权利 。

另一方面 , 自动化数据治理会在很大程度上减少公众对穷人的同情心 。
在历史上 , 来自相对富裕的公众的同情心是推动穷人获得权利和社会福利的关键动力 。 那些关于穷人受到官僚系统不公正对待的故事总是能够打动人心 , 激起强烈的反应 。 然而 , 自动化数据治理却使得相关机构和人员可以轻易卸责 , 让公众相信电脑系统所歧视和排斥的穷人真的就是咎由自取 , 不值得同情 。

这正如清朝学者戴震在《孟子字义疏证》中的感叹:“人死于法 , 犹有怜之者 , 死于理者 , 其谁怜之!”
自动化数据治理的最大危害就在于它制造出了一个虚幻的“理” , 用貌似中立的技术掩盖和助长了实质上的不公平 。

总而言之 , 大数据技术所引发的伦理危机 , 不仅在于它会给私人领域带来前所未有的侵犯 , 而且在于它有可能对公共社会造成严重的威胁 。 这一危机正在成为人类面临的重大考验 。

03 《效率悖论:枉费大数据》
互联网如何让我们不高兴 | 世界读书日书单(内附福利)
文章图片
作者:爱德华·坦纳(Edward Tenner)
出版社:Knopf
出版时间:2018年4月
定价:27.95美元
爱德华·坦纳是美国Smithsonian's Lemelson Center的“杰出学者” 。
互联网如何让我们不高兴 | 世界读书日书单(内附福利)
文章图片




大数据如何妨碍大图景


近年来 , 人工智能与大数据技术的发展可谓一日千里;与此同时 , 越来越多的人对于大数据技术的后果表示担忧 。 这种担忧主要集中在两个方面 , 一是从“自由”的角度出发 , 担心大数据技术对传统私人领域和个人自由的威胁;二是从“公平”的角度出发 , 忧虑大数据技术对社会公平的妨碍 。


推荐阅读