AI拦截自杀: “生命是最大的伦理”
推荐阅读
- 『荔枝新闻』男子酒后殴打公交车司机 被判刑两年
- 「天津政法」140万元差点被骗!天津公安紧急拦截!
- 『大众网滨州』博兴交警:生命接力 守一方平安
- #猛犸安阳#河南安阳:热血重铸生命 再现人间真情
- #布丁逗趣#小伙撞伤老人请不起护工,亲自照顾老人3天后跳楼自杀,原因未知
- 「江西省胸科医院」生命的守护,温暖的传递
- #江西都市现场TB#男子深夜拎着液化气罐,拿着打火机自杀,却另有目的?
- #生命之重#如何讲述生命之重?《人生第一次》直面“左眼的悲伤,右眼的倔强”
- 【中尉】台媒:台军一名中尉排长营区内身亡,疑自杀
- #中山新闻#悲剧!这起意外,夺去了一条年轻的生命

 社交网络陌生化、虚拟化的时空特性 , 为悲观厌世者提供了倾囊倾诉的场所 , 也让救援行为意外获得可贵的缓冲余地 。 眼瞅着物流即将进入派送流程 , 店家通知了电商平台的“自杀干预团队” , 启动订单拦截程序 , 几个加急电话打过去 , 最终在小区门口截住快递员 。 黄智生困惑的地方在于 , 对自杀者的短期干预 , 消除的只是眼前危机 , 志愿者组织有没有能力长期跟踪、监控他们的状况? 本文首发于南方周末 未经授权 不得转载文 | 南方周末采访人员 李在磊 南方周末实习生 宋思静 连紫嫣 责任编辑 | 何海宁 2019年12月15日 , 南京女孩“走饭”最后一条微博关闭 。 7年前 , 她自杀离世 , 在随后的日子里 , 不断有被生活困住的网友云集于她的微博下吐露内心苦闷 , 评论区逐渐演变为有自杀倾向者诉说秘密的“树洞” 。 与此同时 , 基于AI技术的自杀干预机制日趋成熟 。 国内数家研究团队、公益机构殊途同归 , 利用人工智能抓取关键词 , 从茫茫数据中甄别出来高危自杀人群 , 想方设法将其从生死边缘拉回 。 AI工程师、心理咨询师、电商商家客服、志愿者等 , 凭借各自的知识、经验 , 描摹出这些亟待挽救群体的特征 , 并归纳出系列应对措施 , 训练AI机器人学习进化 。 他们有身居海外的理科教授、活跃在行动一线的年轻公益人 , 也有电商平台的普通员工 , 有心或者无意 , 发觉了这片一度被外界忽略的伤痕空间 。 AI拦截救助 , 虽然技术层面日益成型 , 但是组织机构框架并不完善 , 后期与社区的联动仍然不够畅通 。 而且 , 因为涉及生死大事 , 自杀干预游走在被误解的边缘 , 时刻接受着公众关于技术与伦理边界的拷问 。 然而 , “生命为大”是行动派遵循的基本原则 。 社交网络陌生化、虚拟化的时空特性 , 为悲观厌世者提供了倾囊倾诉的场所 , 也让救援行为意外获得可贵的缓冲余地 。 预防自杀AI机器人的开发者们 , 小心翼翼地搭建起外界进入这个封闭空间的桥梁 。 1一次不成功的人工救援 “我有抑郁症 , 所以就去死一死 , 没什么重要的原因 , 大家不必在意我的离开 。 拜拜啦 。 ”2012年3月18日 , “走饭”发出这条微博不久后 , 引发全网关注 。 大V们动用线上线下资源找人 , 微博接力救助 , 但为时已晚 。 此后 , 这条“遗言”长期悬挂在不再更新的ID页面顶部 , 有着同样心理困扰的网友陆续盖起百万条评论的“高楼” 。 自然而然 , 这成为关注大众心理健康问题的人士着重筛查的角落 。 2018年4月底 , 人工智能专家黄智生在“走饭”的微博评论下 , 留意到一条扎眼的信息 , 一位女孩子说要在五一假期烧炭自杀 。 他心口为之一颤 , 随手将信息转发到了自己所在的“医学人工智能”微信群里 , 先发动大家找到她 , 再想办法救助 。 黄智生是荷兰阿姆斯特丹自由大学教授 , 因为机缘巧合 , 接触到心理健康领域 , 并与相关医疗机构展开合作研究 。 他向南方周末采访人员回忆 , 循着评论 , 逐条翻看这名女孩的微博 , 找到了可能的自杀缘由 , 以及在现实中“人肉搜索”的蛛丝马迹 。 女孩“情绪往死胡同里钻”早有征兆 , 很早之前便在微博上长篇累牍表述悲观心态 。 中科院心理研究所研究员朱廷劭主持另外一个干预自杀的志愿组织 , 他向南方周末采访人员解释 , 从心理学、病理学的角度来看 , 自杀倾向行为被视为精神层面的症状 , 这些人产生自杀念头后 , 通常会伴随“病耻感” , 担心遭到周围人的“歧视” , 所以并不太愿意与现实生活中的熟人讲述遭际 。 但是 , 他们往往又有很强烈的倾诉欲望 , 朱廷劭介绍 , 他们更倾向于向网络“树洞”或者陌生网友表达 , 把最后的话语留给网络空间 。 这些语言残片 , 或晦涩笼统或单刀直入 , 总能留下些许现实处境中容易被忽视的线索 。 上文中黄智生发现异常的微博里 , 女生写道 , “从来没有人真心爱我 , 也从来没有人给我送过花” 。 大家初步分析得出 , 女孩子是为情所困 , 而且 , 从只言片语中还找出了那个男孩子的名字 。 齐心协力检索公开信息 , 意外找到了这名男生的学校名称 , 与之取得电话联系 。 对方回应十分冷漠 , 声称两人已经分手 , 不愿意介入对方现在的生活 , 不过 , 还是提供了女方的联系方式 , 并且透露 , 女孩因为患有抑郁症 , 已经办理休学回了老家 。 拿到女孩电话号码后 , 医学人工智能群里的一位女性成员 , 以相同性别的口吻 , 发出去一则短信 。 第二天中午 , 女孩回复了信息:你好 , 我挺好的 。 你是谁?你从哪里得到我的手机号? 密切关注进展的群友们得知小女孩在世的消息后 , 终于松了口气 。 随后 , 大家委托学校每周给其送一次鲜花 , 还在花束中插上爱心卡 , 鼓励她积极生活 , 几位救援人员与小女孩成了知心朋友 。 女孩会拍下鲜花上传朋友圈 , 而且 , 表达了返校复课的意愿 。 当时还缺乏网上救助经验的黄智生认为 , 事态在向着好转的迹象发展 。 出人意料 , 一个多月后 , 小女孩还是吞药自杀了 。 “非常震惊 , 这件事对我们触动非常大 。 ”黄智生说 , 他们复盘整个事件 , 重新检验女孩留下来的微博内容 , 发现了一些没有被重视的信息 。 查明真相后 , 他们判断 , 这些含义模糊的字句 , 隐含着女孩家庭内部一个重大秘密 , 而这才是女孩子痛苦的真正原因 , 失恋只不过是表象而已 。 这样一则重要信息 , 此前竟然被不经意间忽略了 。 2如何阻击自杀 此后 , 黄智生又陆续参与了一些救助 , 情况千差万别 , 但还是摸索出了规律 。 他们制定了一份救援指南 , 依据“自杀方式的确定性”和“时间紧迫性”等因素 , 进行自杀风险分级 , 例如 , 10级意味着自杀可能正在进行中 , 9级自杀方式已确定 , 近日内可能进行 , 以此类推 。 只要风险在6级以上 , 自杀倾向者的基本资料 , 就会发送到救援团群里 。 朱廷劭总结出的规律与之大同小异 。 他说 , 有相当比例的自杀行为为临时起意 。 紧要关头 , 并非不想求助 , 只是不想麻烦别人 , 或者太在意别人的看法 , 对能否获得帮助没有信心 。 这个时候 , 自杀者在生与死的界线摇摆 , 如果倾诉渴求得到满足 , 便很大程度上往生的方向靠近 。 通常而言 , 身边遇到情绪有较大波动的人 , 忽然间表露出热衷讨论人生意义、生命价值等表象 , 是较为明显的反常信号 。 与他们交流 , 主要以倾听为主 , 切忌讲太多大道理 , “大道理没用 , 听不进去” 。 不要刻意回避敏感字眼 , 尽量保护他们的隐私 , “不要弄得人尽皆知 , 这样会增加压力” 。 最让朱廷劭触动的一点在于 , 他们的精神状态并非通常想象的那样错乱 , 表现得相对冷静 。 经历过微博“树洞”倾诉后 , 没有及时被发现的自杀倾向者 , 接下来进入实操阶段 , 不少人选择网购自杀工具 。 2019年底 , 一位顾客在网店持续下单某款产品的行为 , 引起了店家注意 。 交流后客服才知道 , 年仅20岁的顾客刚刚经历母亲去世、父亲瘫痪的悲惨遭遇 , 一时无法承受打击 。 眼瞅着物流即将进入派送流程 , 店家通知了电商平台的“自杀干预团队” , 启动订单拦截程序 , 几个加急电话打过去 , 最终在小区门口截住快递员 。 电商平台的一名自杀干预师武纲介绍 , 医院、学校周边购买特殊商品的客户 , 要多加注意 。 乡镇休息时间早 , 凡是在深夜购买一些商品类目的订单 , 也要暂时列入危险情况 。 安眠药属于处方药 , 网上早已禁售 , 但药品电商的经营者仍然经常被咨询到此类问题 。 通过电商平台购买各种商品寻求自杀的人 , 以年轻群体为主 , 女性居多 , 不乏一些高中生、初中生 。 武纲告诉南方周末采访人员 , 所购商品五花八门、难以归类 。 听闻了武纲他们的“自杀干预计划”后 , 线下卖了10年农药、自称“从没发生过意外”的一名商家 , 主动找来传授“秘诀” 。 在这名商家的观察中 , 只要在售卖过程中多问几句“买来做什么” , 对方便会暴露真实意图 , 甚至忍不住主动倾诉 。 武纲也反复强调了倾诉的重要性 , 他在给商家客服做培训时 , 提到最多的词汇是“耐心” 。 自杀者往往需要自己的痛苦被倾听、被理解 , 客服经过培训后 , 可以先对有自杀倾向的人进行安抚 , “激情自杀”的情绪节点过去 , 初级自杀者大多会放弃行动 。 3AI和电商两种预防机制 微博抓取信息与电商平台联系客户的两套预防机制有所区别 。 黄智生介绍 , 他们的AI机器人已经开发到第六代 , 最早的只在“走饭”微博评论区爬梳信息 , 后来 , 升级为可以监控微博广场上其它重点区域 。 之前一天只能巡视一次 , 现在每隔6个小时可以重新跑一次数据 。 根据新情况 , 团队不断覆盖新的知识面、核心词条 , 以增加功能 , 提升准确率 。 据他们介绍 , 现在的准确率可以达到82% , 甚至可以识别出目标对象的性别 。 黄智生给这款AI取名为“树洞行动机器人” , 往AI知识库添加时间、空间、自杀方式等数据 , 提高AI机器人检索、对比、翻译、识别功能 。 2019年2月13日18时 , 树洞行动机器人耗费1分钟时间巡视、检索 , 过滤掉百分之九十多的不相干信息 , 最后将目标锁定在一名小男孩身上 。 这名男生在微博上描述了自杀未遂的过程 , AI很快便识别出自杀时间、方式以及微博ID地址 , 发出警报 。 临时救援小组的志愿者嘉仪线上线下几经周折 , 找到了小男孩 。 这个案例中 , 风险级别超出了6级 。 黄智生介绍 , 当机器人同时识别出具体的自杀方式和较为接近的实施时间 , 会启动高级别的“紧急预警” , 值班志愿者迅速介入进行干预 , “实际情况往往没有这么紧急” 。 自杀当事人的性别、年龄与地理位置 , 需要在救援行动中 , 进一步核实准确性 。 而在电商平台 , 一家网店负责人告诉南方周末采访人员 , 行进至网购步骤 , 自杀倾向者想法接近成熟 , 所购物品的用途表达准确、清晰 , 很容易识别出异常者目标 , “难度在于怎么拦截 , 以及后续的维护” 。 这位店家说 , 一旦进入订单拦截环节 , 消耗的人力、物力成本 , 单个商户无法承担 , 一些大型电商平台开始接过职责 。 为了保障、鼓励商家救人行动 , 平台开通一键报警功能 , 凡是有关自杀拦截的订单 , 损失将由平台承担 。 2019年 , 经过几个月的筹划 , 武纲和同事们构建了所在电商平台一整套人工智能技术 , 并联动商家、公安、第三方机构的干预机制 , 拉来几十位同事 , 在本职工作外担任“自杀干预师” 。 2020年1月 , 该平台对外通报:“守护生命”项目运行半年来 , 已经联合社会各方力量劝阻上千人自杀 。 当消费者购买商品 , 商家客服会咨询其购买用途并指导使用 , 交流中若发现异常 , 客服会及时安抚、劝阻、不发货 , 并通知平台的“自杀干预师” , 再视情况决定是否联动警方快速干预劝阻 。 平台的人工智能机器人也会反向操作 , 提醒自杀干预师联动商家 , 予以关注 。 不过 , 无论电子商务为主的商业机构 , 还是由AI工程师、心理咨询师组成的志愿者小组 , 只能在技术层面设立基本预防机制 , 仍有许许多多待解难题 , 超出了他们能力范畴 。 4道德困境 “现在你是我的支柱 。 ”有一次 , 被救者向志愿者发来信息 , 重拾对生活的信心 , 这名心理咨询师瞬间觉得救援过程中的误解和情绪反噬 , 似乎可以忽略不计 。 被救助对象事后的反应也有所不同 , 有的与志愿者成了紧密的朋友 , 有的仍然自我封闭 , 不过他们的家属多数持感谢态度 。 “心理危机干预对自杀者而言帮助有限 , 因为太晚了 。 ”在朱廷劭看来 , 自杀干预的行为仍然力有不逮 。 他说 , 生活当中的际遇才是自杀之源 。 同时 , 对于救援的时机、效果和对自杀倾向者的实际影响 , 以及平台抓取用户搜索关键词 , 外界一直有不同看法 。 而对于志愿者在线下能否深度介入 , 这些救援团队也在小心翼翼建立规则 。 朱廷劭一直存在着困扰 , 一是作为个体的人 , 有没有权利决定自己的生死 , 另外便是 , 现实处境中人们仍对自杀者存在偏见 , 即便紧急干预暂时取得效果 , 自杀者的生存环境没有改善 , 仍然找不到人生的出口 。 黄智生也进行过哲学层面的思考 。 不过 , 他后来还是认为 , 生命才是最大的伦理 , 于是 , 并不会对干预的道德正当性产生怀疑 。 他困惑的地方在于 , 对自杀者的短期干预 , 消除的只是眼前危机 , 而诱发自杀的因素非常复杂 , 获救者依然可能是一个存在高自杀风险的人 。 志愿者组织有没有能力长期跟踪、监控他们的状况? 而且 , 除了冲动型自杀行为之外 , 还有少量人群赴死的决心更大 , 没有在社交网络上留下任何痕迹 , 连短期挽救的余地也没有留下来 。 “有些人不断告诉我们他想自杀 , 有些人不会告诉我们他想去死 , 但却悄无声息死去了 。 ” 武纲则认为 , 大型互联网公司可以承担起更多的公共服务责任 , 例如 , 他们此前与政府有关部门合作 , 开发了防拐骗和防诈骗系统 , 都有不错的社会效应 。 不过 , 自杀预防计划的实施仍让他们倍感压力 , “捏一把汗” 。 “因为涉及人命 , 很容易出问题 。 ”他说 , 自杀毫无疑问是社会问题 , 当互联网和数字经济已经贯通线上线下 , 社会问题的解决也要依靠线上线下一体的力量来解决 。 “我们在尝试 , 用技术和发起社会共治 , 这样的带有数字经济治理特征的方式 , 去解决更多社会问题 。 ” 嘉仪是一名心理咨询师 , 她向南方周末采访人员提醒说 , 心理咨询师也需要心理疏导 , 负面情绪极易传染 , 心理咨询师如果没有很好的心理建设 , 会出现被救助对象“反噬”的现象 , 这在心理学上称为“被卷人” 。 为此 , 黄智生成立了树洞救援快乐营群 , 他们分享美食美景 , 发搞笑的动图 , 调节气氛 。 黄智生经常会发送一些荷兰的美景和家中藏有近三万册图书的照片 , 他想告诉大家 , 这个世界仍旧十分美好 。</p>
<div class=)