江苏龙网

  1. 首页 > 资讯 > 科技 > >

算法许可 朱悦 | 算法解释权：科技与法律的双重视角( 五 )


第（3）层解释方案即“反事实解释”理论 ， 相应研究已经成为法学与计算机科学交叉领域的热点 。 然而 ， 无论是相应理论本身 ， 还是后续跟进的研究 ， 都存在仅适用于特定模型、仅适用于特定数据和/或不稳健等特性 。 在考虑相应解释方案时 ， 当较前两层面而言更加谨慎 ， 也更为可行 。
（二）打开黑盒的解释
较诸模拟、近似或预测“算法将如何决策”的黑盒解释 ， 触及模型内在机理、探讨“算法为何如此决策”的“打开黑盒解释”方案 ， 可能更符合人们对“解释权”的通常理解 。 在一些风险高度敏感的场景中 ， 如果不能从原理层面解释算法 ， 必然被人诟病 。 因此 ， 我们不妨大胆预测 ， 简要讨论相应研究 ， 并在法律规制中为技术进展预留空间 。
打开黑盒的解释可分为：（1）不寻求完全揭示算法工作原理 ， 而仅致力于以个体能够理解的方式 ， 展示算法部分内在细节的解释；（2）寻求建立能够充分解释“算法为何正当”的理论 。
第（1）层解释方案固然迅速发展 ， 但针对具体算法 ， 则存有四个方面限制：首先 ， 不具备相应专业知识的个体 ， 不太可能理解此类解释 。 其次 ， 盖因此类解释多用于协助研究者或开发者训练、调试或加固模型 ， 类似方案常仅针对特定模型之参数 ， 未必具备普适性；再次 ， 倘若解释过度暴露算法的特定内部细节 ， 算法安全性可能因此显著下降 。 例如 ， 有不少研究意在充分展示神经网络中的“梯度”（Gradient） ， 以便利开发者训练其间参数；然而 ， 借助梯度信息 ， 攻击者可能据此推断用于训练算法的原始数据 ， 从而造成严峻的隐私风险 。 类似信息 ， 亦有可能用于构造用于欺骗算法的对抗样本 ， 进而带来难以忽视的安全问题 。 总之 ， 该解释方案 ， 未必能有效地促进个人权益 ， 还有可能带来幅度相当不确定的负面影响 。 损益相权 ， 总体宜持保守态度 。
至于第（2）层解释方案 ， 至今仍无实质进展 。 针对深度学习的工作原理 ， 即使是近两年来最具影响力的“信息瓶颈”理论 ， 也无法很好地解释其他学者对算法内部运行的观察 。 若将解释权锚定在这一层面上 ， 无疑是“不可能完成的任务” 。 不过 ， 在思考可解释性的中长期愿景时 ， 其可以是考量因素之一 。
（三）另类的解释
除上述以“黑盒”为中心的解释分类外 ， 还有一些解释属于帮助个体理解的算法的辅助性方案 ， 如可视化、可交互以及举例解释 。 这些解释方案均可与前述“黑盒之内的解释”和“打破黑盒的解释”并行不悖 ， 同时 ， 凭借着工具性质 ， 它们还能更有效地实现拟议的解释方案 。
“可视化、可交互”使得算法解释的输出更显“用户友好” 。 在未经恰当方式展示前 ， 信息和逻辑必然是“冷冰冰”的、难以为个体所释读的数字 。 为此 ， 算法可以在适当的情形下 ， 以图像、动画、表格展示解释；对满足特定形式的解释 ， 可以转化为自然语言 ， 以谈话形式与个体沟通算法解释；至于老年人、残障人士及儿童等通常需要特别关注的情形 ， 更需要以特别方式予以交互 。 反观个体层面 ， 在感知并评估算法解释时 ， 个体可能会考虑以下因素中的一种或多种：解释是否令人满意；解释是否完整；解释是否足够细致；解释是否便利操作；解释是否具备足够细节；解释是否有用；鉴于相应解释 ， 算法是否值得信任 ， 等等 。 同时 ， 亦有部分衡量个体“好奇”或“理解”特定算法程度的指标：是否希望理解算法；是否希望知晓自己的理解是否正确；是否为算法之决策感到惊奇；是否期待理解算法的后续决策；是否希望理解 ， 算法如何对不同输入作出反应 ， 等等 。 研究者可以借鉴心理学中用以评估的量表 ， 绘制出“解释满意度量表” 。 放宽视野看 ， 如何增强解释方案的“用户友好化”和“场景化” ， 以及评估相应趋势指标的“进化” ， 理应纳入解释方案的构想之中 。 此外 ， “举例解释”是选取少量算法决策实例 ， 并通过说明相应决策的方式解释算法的方案 ， 其优势在于充分契合了个体认知规律 。 一个有效的举例解释 ， 应当与实用主义解释类似 ， 具备“对照性”及“选择性” 。 当算法决策出现异常、不符个体预期时 ， 个体对解释的需求通常尤为迫切 ， 相应解释效果如何 ， 也会影响后续对算法的信任 。 因此 ， 举例也是解释方案应当考虑的重要组分 。


推荐阅读


上一篇：直播直播+短视频，中小企业乘风破浪的新引擎

下一篇：植物名录“隐世”百年的植物再现身 上一次被采集记录已是1912年