江苏龙网

  1. 首页 > 资讯 > 财经 > >

中国新闻周刊|电商平台的“生死订单”：“问你件事，怎样死才不疼？”

“问你件事 ， 怎样死才不疼？”
8月1日晚上 ， 阿里安全专家武纲和同事接到消息：山东一位16岁的女孩向淘宝商家咨询购买商品 ， 聊天中女孩说自己在线下药店买了大量药物 ， 并问道怎样死才不会疼 。
武纲和同事们收到风险信息后 ， 赶紧放下手头工作 ， 启动紧急预案 。
作为国内最大的电商平台 ， 淘宝已成为感知社会情绪的一个触角 ， 加上各种App和网络社区 ， 不可避免地会留下人们的心情痕迹 ， 开心的、悲伤的、无聊的、发泄的 ， 当然也包括抑郁甚至自杀倾向的话语等等 。
这使得一切都有迹象可查 。 而武纲和同事们隶属的阿里安全的“守护生命”项目 ， 正是希望借助于互联网平台 ， 利用人工智能技术联动商家、公安、第三方机构建立自杀干预机制 。 这个项目在去年7月上线 ， 至今已经对2500余人进行了自杀干预 。
大数据、人工智能自杀干预早已经开始 ， 但自杀干预的主体转换为互联网“大厂” ， 还是近年两来的事情 ， 众多大型互联网公司都纷纷成立了相似的部门 。 而处于水面之下的青少年自杀和相关的心理问题 ， 也因此慢慢浮现出来 。
自杀干预师
8月1日 ， 山东女孩在淘宝店家下单后 ， 商家从后续聊天中发现女孩不太正常 ， 有自杀企图 。 当即联系了“守护生命”小组 。
武纲的判断是这可能是一名学生 ， 由于高考失利导致的自杀倾向 。 直至晚上10点 ， 小组成员多次拨打女孩电话 ， 一直没人接听 。
当晚 ， 小组成员联系了当地派出所报警 。 女孩确实因为想不开有轻生的念头 ， 在警方上门前 ， 家里人对此并不知情 。
这是“守护生命”项目上线一年多以来自杀干预案例中的一个 。 项目由阿里安全七八位全职员工和兼职员工组成 ， 每天早9点到晚10点 ， 他们都在随时待命处理此类风险 ， 晚上10点后也会有人在线值班 。 全年365天都有人坚持在岗位上 ， 春节和疫情期间项目组也安排人员正常值班 ， 以备需要立即采取紧急预案干预 。
武纲原本是药学专业出身 ， 工作中才发现很多正常售卖的商品都可能被消费者用于自杀 。 出于学药时的习惯和情结 ， 武纲对关乎人生命的事情很敏感 。 也正是由于自己曾经的专业背景和当下工作所遇到的现实情形 ， 2019年3月 ， 武纲开始在阿里内部试行“守护生命”项目 。 7月 ， 项目正式上线 。
这是一个心理危机干预机制 。
当用户在淘宝手机端搜索与自杀相关的内容时 ， 会自动跳出“守护生命”宣导页面 ， 在显著位置提示12355青少年服务热线及国家免费心理咨询热线 。 页面还设置了心理健康知识板块 ， 引导有焦虑、失眠、情感障碍等特征的人士 ， 通过自我学习 ， 掌握科学应对的方法 。 更重要的是 ， 这个机制还通过一套业务模型 ， 对潜在自杀者进行人为干预 。
一方面利用人工智能技术感知风险 ， 另一方面对商家开展专业培训 。 当商家发现风险 ， 会及时安抚、劝阻 ， 筑起第一道保护屏障 ， 并通知阿里安全“自杀干预师” 。 紧急情况下 ， 平台联动警方及时介入 。
最开始 ， 是通过商户与消费者聊天内容进行判断 ， 触发预警机制 ， 但这个方法准确度并不高 。 此后 ， 阿里的工程师开始通过构建多模态神经网络算法模型识别用户是否真的存在自杀风险 。 为此 ， 阿里的一位工程师特意收集了一万多句关于自杀的文字 ， 用以优化算法 。
项目上线后 ， 先是对上千名淘宝商家进行了培训 ， 要求商家在遇到奇怪的订单和买家沟通时主动多问一句购买用途 ， 发现风险时就要求商家拦截订单 。 刚开始的时候 ， 大多数商家是不太主动参与这个项目的 。 有人计算过 ， 为了拦截这样一单订单所花费的成本 ， 相当于要付出该件商品两天的营业额 。
为了调动商户在第一道防线的积极性 ， “守护生命”向客服团队申请了2万元的预算补偿 。 后来 ， 一些头部商家在拦截了几单网购商品 ， 发现自己的行为确实能够“救命”时 ， 参与“守护生命”项目的商家越来越多了 。 陆续有商家告诉武纲 ， 他们觉得这件事有意义 ， 还有的商家在拦截订单之后表示 ， 不要补偿 。


推荐阅读


上一篇：中新经纬|农夫山泉香港IPO定价21.5港元/股，募资81.5亿港元

下一篇：中国新闻周刊|职工医保新政为何要动个人账户的“钱袋子”？