江苏龙网

  1. 首页 > 社会 > >

算法是怎样一步步毁掉年轻人的世界的

徐远 北京大学国家发展研究院金融学副教授 。昨天中午和北大数字金融中心的同事吃饭 ， 这个中心居然已经成立五年 ， 颇有感概 。 我在这个中心也已经5年 ， 贡献的产品却几乎没有 。 幸得有黄益平老师这样的领导 ， 容得我闲云野鹤 ， 慢慢思量 ， 不催促“学术成果” 。不完全是因为懒散 。 对数字金融的图景 ， 我至今没有完全看清 。 7年前P2P如火如荼的时候 ， 我是不看好的 ， 算是清醒过 。 但是数字金融会怎样 ， 数字经济会怎样 ， 网络世界会怎样 ， 心里并没有清楚的判断 ， 一直如芒在背 ， 很不舒服 。 文章 ， 当然也写不出来 。从饭桌上下来 ， 看到这篇文章 ， 和思路有诸多契合之处 。 网络的世界充斥着算法 ， 充斥着套路 。 网络无疑在改变我们的生活 ， 改变我们生活的世界 。 可是 ， 我一直不确定这种改变的方向 。 改变与改善 ， 一字之差 ， 差别很大的 。网络就在那里 ， 算法就在那里 ， 套路就在那里 ， 我们喜不喜欢都一样 。 我们不得不直面这个网络的世界 ， 即便这个世界只是一场梦境 ， 只是一场虚无 。作者：雷慢来源：新金融洛书（ID：FintechBook）原始标题：对抗硅谷 ， 为了“楚门的世界”里的27亿人2016年 ， 特里斯坦·哈里斯——这位谷歌的内部道德设计师决定离职 ， 此时的他已经意识到 ， Facebook、谷歌（YouTube、谷歌搜索）、推特这样的互联网科技公司为了商业利益 ， 利用算法吸引人上瘾的产品设计 ， 是不道德的 。 这已经成为：“人类生存的一大威胁” 。他想到了对抗 。 实际上 ， 特里斯坦·哈里斯任职谷歌期间 ， 谷歌有知名的“不作恶”准则 。 但这一准则并没有阻挡住算法基于商业利益走向偏路 。 离职两年后 ， 特里斯坦·哈里斯拉着Facebook和Google等大公司离职或在职的技术专家 ， 建立了一个叫“人道科技中心”（Center for Humane Technology）的组织 ， 这个组织在2018年成立 ， 用来——对抗硅谷互联网公司让人上瘾的设计理论 。除了特里斯坦·哈里斯 ， 参与这个中心工作的人 ， 还有前Facebook运营经理；苹果公司和谷歌前通讯主管林恩·福克斯；前Facebook高管戴夫·莫林；Facebook早期投资人罗杰·麦克纳米 。2017年前后 ， 很多硅谷公司的高管 ， 感觉到了算法操持的互联网平台 ， 出现了道德伦理危机 ， 纷纷离开了所在公司 ， 2020年 ， 网飞（Netflix）公司拍摄了一部纪录片叫《监视资本主义：智能陷阱》 。 片中 ， Pinterest 的前总经理、Facebook的前盈利总监Tim Kkendall说他担心算法操纵的世界最终导致美国内战；一个从谷歌出来的工程师 ， 担心整个互联网产业的道德沦丧……曾与马克·扎克伯格（Mark Zuckerberg）一起创办了Facebook的克里斯·休斯(Chris Hughes)离职后多年后 ， 批评Facebook说 ， “扎克伯格是个好人 。 但令我感到愤怒的是 ， 他对增长的关注导致他为了点击而牺牲了安全和道德底线” 。这样严重的担忧 ， 是什么导致的 ， 问题出在哪儿呢？一2018年 ， 推特CEO Jack Dorsey在一次听证会上说 ， 12年前创办推特时 ， 他没想到推特会变成今天这样……这段话 ， 与《黑镜》第五季第二集的剧情正相契合 ， 该剧正好也是网飞公司拍摄的 。 男主Chris Gillhaney因为在一次和女友驾车的过程中看手机社交消息 ， 导致车祸 ， 女友当场死亡 。 当他恢复过来后 ， 他做了一个类似UBER产品的司机 ， 每天在这家叫“碎片”的社交网站公司楼下接客 。 终于有一天 ， 他接到了一个这家公司员工 ， 绑架了他 ， 通过要挟这个员工 ， 逐层上接 ， 和“碎片”公司CEO接上了电话 ， 而他只是想告诉这个CEO ， 社交网站是怎样绑架了人们的生活而导致种种悲剧的 。 这家CEO的回答和推特CEO的回答很相似：我当初创办这家公司的时候 ， 没有想到它会变成这样 。“碎片”公司CEO阐述了一种逻辑：一个产品成型后 ， 它的走势就不再是他能决定的 ， 每一次更新和功能改进 ， 都是因为用户喜欢、希望得到的结果 ， 这并不一定是一个CEO想要的 。上瘾 ， 几乎成了所有社交App追求的东西 。《监视资本主义：智能陷阱》采访了很多前硅谷科技公司的前高管和投资人 。作为谷歌前道德伦理设计师的特里斯坦说 ， 当年他在谷歌做邮箱设计时 ， 意识到一个问题 ， 历史上从来没有过50个左右的20-35岁的加州工程设计师做出一个决定 ， 就能影响20亿人 ， 影响他们做出从来没有预想到的想法或决定——当用户早上醒来 ， 谷歌邮箱就告诉他 ， 应该这样工作 。 工作、文化、生活的意义 ， 都来自一个鬼鬼祟祟的第三方操纵 。 而谷歌内部 ， 没有一个人想把邮箱做得不那么致瘾 。算法是怎样一步步毁掉年轻人的世界的
纪录片截图：特里斯坦·哈里斯——谷歌前内部道德设计师后来他做了一个呼吁：我们这些工程师 ， 有道德责任去审视、讨论致瘾问题 。特里斯坦发出这个呼吁后 ， 很多工程师都赞同 ， 然后 ， 就没有然后了……作为Facebook 的早期投资者罗杰·麦克纳米说 ， 硅谷的前50年 ， IBM、谷歌、英特尔都制造软件或硬件产品卖给顾客 ， 商业模式简单而良好 。 但过去十年 ， 硅谷最大的公司一直在“贩卖顾客” 。互联网时代以前 ， 人们所发明的东西 ， 都是为大众服务的 ， 自行车、汽车、计算器 ， 它们是简单而中性的工具；当互联网时代兴起后 ， 技术慢慢演变为向人类索取、引诱甚至操纵并从人身上获利的工具 ， 已经由以人为主动型技术环境 ， 转变为以人被动接受的、致瘾操纵型的技术环境 。 社交媒体不再是等在仓库里等着人去骑行的自行车 ， 或驾驶的汽车 ， 而是会自我学习、分析、操纵、致瘾的东西 。硅谷大公司的高管们就很警惕这个问题 ， 比如比尔·盖茨和史蒂夫·乔布斯的小孩 ， 童年就被要求与电子产品完全隔离 。这正是《纽约时报》2018年的一篇文章所说的 ， “技术专家知道手机的真面目 ， 所以他们很多人决定让自己的孩子远离这些东西 。 ”雷慢曾说过 ， 互联网是一个喂养型的社会 。 这种喂养是经过大数据分析、机器学习决策后 ， 推送给人的 。这也是马克思、弗洛伊德等人对“异化”一次观点所说的 ， 人作为客体被动地接受体验世界和自身；“物凌驾于人之上” 。 就像系统算法凌驾于外卖快递员之上 。 机器流水线凌驾于工人之上一样 。二现在 ， 互联网公司提供了大量的免费产品 ， FaceBook、微信、抖音、推特 ， 大家都不为使用的社交产品付费 。 为这些社交App付费的是那些广告商 ， 广告商就是社交App的顾客 ， 而用户成了被销售的商品 。 这就出现了一种现象：如果你没有花钱买产品 ， 那你就是被卖的产品 。所以FaceBook、推特这些公司的商业模式就是 ， 怎样让你最大程度的上瘾 ， 花更多的时间在这些App上 ， 付出你人生的时间 。人生值多少钱呢？哈佛商学院教授Shoshana Zuboff被采访时说 ， 在商业上 ， FaceBook、推特们为了卖出更多的广告 ， 需要给与顾客确定性 ， 所以 ， 商业广告卖的就是确定性 ， 这个“确定性”就来自用户上瘾背后的“数据分析” 。这就是纪录片标题所说的核心：监视资本主义 。为了获得数据 ， 这些公司需要监视用户去过的每个地方 ， 每种喜好 ， 每种行为数据 ， 无限追踪、分析、评估 ， 无限逐利 。你喜欢看NBA的视频？好的 ， 在你看下一个同类视频前 ， 给你插播一条篮球鞋的广告 。


推荐阅读


上一篇：侯安扬：国家又放大招了

下一篇：性格内向的人，也有一碗饭吃