江苏龙网

  1. 首页 > 资讯 > 科技 > >

算法许可 朱悦 | 算法解释权：科技与法律的双重视角( 二 )


但是 ， 正如古老的法谚所言：“法律不强人所难 。 ”算法解释权在立法层面的确立 ， 不得不面临着大量实践的质疑——“将解释权形诸纸面 ， 是一回事；将之付诸实践 ， 则是另一回事” 。 具言之 ， 可解释性的范围相当模糊：算法何时需要解释 ， 具体需要何种解释 ， 难言充分明确；其次 ， 即便“解释”之范围已经明晰 ， 立法者眼中的“解释” ， 也时常超出当前技术的边界；最后 ， 假设可解释性得以理想方式实践 ， 提供解释是否能保障个体相应权益 ， 同样充满争议 。 不仅如此 ， 可解释性还有可能带来便利恶意攻击、侵害商业秘密等消极后果 。 职是之故 ， 无论是在欧盟层面 ， 还是法国国内 ， 目前算法解释权均无执法实例 ， 处于边缘位置 。
立法和实践的背离使得我们深思：在我国迈向智慧城市、建构数字中国的宏大背景下 ， 是否以及如何设计我国的算法解释权制度 ， 不但是确保人工智能安全、可靠、可控发展的基石 ， 而且是数字时代社会、经济、文化、政治复合风险预防的关键 。 考虑到正在制定《个人信息保护法》可能借鉴欧盟GDPR ， 引入对自动化算法决策的解释权 。 这一问题显得更为迫切 。 为此 ， 本文试图追根溯源 ， 从科学解释的基础理论出发 ， 探寻解释算法的技术边界 ， 最终构造出理论性和操作性兼具的“算法解释权”制度 。
一、何为“解释”：算法解释权之基
作为科学解释（Scientific Explanation）的子类别 ， 把握算法解释权离不开既有解释理论的支持 。 在此 ， 我们将从传统解释理论开始 ， 尝试着为算法解释权奠定扎实的理论基础 。
（一）传统解释理论
传统解释理论中 ， 值得算法解释考虑者有三：“演绎-律则”（Deductive-nomological model）解释、“因果机制”（Causal mechanical model）解释及“统计相关”（Statistical-relevance model）解释 。
在“演绎-律则解释”角度看 ， “解释”分为“解释项”与“被解释项” ， 并需同时满足以下条件：首先 ， 由解释项出发 ， 经历演绎论证 ， 可推得被解释项；其次 ， 解释项中应当至少包含一条恒真定律；再次 ， 对上述推理过程 ， 相应定律应当是“必不可少的” ， 或者说 ， 脱离相应定律 ， 则上述演绎推理无法成立；最后 ， “解释项”中应当包含可由经验证实的成分 。 兹举一例 ， 对被解释项“海平面上升”的解释如下：一旦气候变化 ， 冰川将部分融化；其次 ， 冰川部分融化导致海平面上升 ， 这一点可由实证工作检验之；最后 ， 结合演绎两解释项 ， 即可解释海平面上升 。 值得注意的是 ， 定律未必要是确定的；将相应部分换成统计意义上的定律 ， 亦可成为此类理论下的解释 。 不过 ， 这一解释尚无法直接运用于算法解释中 。 这是因为 ， 尽管算法已在“发现高维数据中的精细结构”等复杂问题上取得显著成就 ， 但仍无法达到理论上对“推理”的要求 。 目前 ， 算法几乎完全“由统计学驱动” ， 在因果推理方面仍“相当缺乏” 。 如此 ， 则很难在算法场景下定位此处理论所需的“定律” 。
“因果机制”解释理论的核心 ， 是事物的“过程” 。 该理论假定：事物具备特定的“恒量”（Invariant quantity） 。 、由恒量出发 ， 事物可能经历“因果过程” ， 即在特定时空范围内 ， 连续地显现相应恒量 ， 或者经历“因果交互” ， 即不同事物间发生恒量的转移或交换 。 以网球为例 ， 我们可以将恒量取作球的动量 ， 并考虑球的运动轨迹因撞击球拍而改变的情形 ， 由上述因果过程及因果交互定义出发 ， 即可解释为何球的轨迹会发生改变 。 因果机制的直观性无法在算法解释中凸显 ， 实际上 ， 我们往往无法在算法解释中确定对应的“事物”或“恒量” 。 诚然 ， 借助近年迅速发展的可视化理论 ， 我们可以定义“变量”或“特征” ， 并观察算法训练中相应变量或指标变动的过程 。 但这些高度依赖具体模型、又随时可能因相应领域进展发生变化的定义 ， 恐怕很难（至少在一般的场景下）担任类似“恒量”的角色 。


推荐阅读


上一篇：直播直播+短视频，中小企业乘风破浪的新引擎

下一篇：植物名录“隐世”百年的植物再现身 上一次被采集记录已是1912年