江苏龙网

  1. 首页 > 资讯 > 科技 > >

算法许可 朱悦 | 算法解释权：科技与法律的双重视角( 八 )


这一层次的解释权有助于个体对算法产生较为全面的理解 ， 从而促进人格尊严、知情信任和理性选择 。 此外 ， 要求算法主体全面展现算法所处理的个人信息与个人敏感信息 ， 既有利个体及时发现个人信息保护中的风险 ， 又有利观察算法中是否可能存在需要不合理的歧视现象 。 同时 ， 鉴于此处仅要求说明主体很可能本来便需要展示的内容 ， 并对具体展示形式赋予了较高程度的灵活性 ， 不太可能造成安全或侵犯秘密的风险 。 而在解释理论层面 ， 将要求限缩至个人信息、尤其是个人敏感信息层面 ， 符合解释的“选择性”要求 。
对此 ， 近年判决的NJCM cs/ De Staat der Nederlanden案可资佐证 。 在该案中 ， 荷兰政府采取算法 ， 根据工作、税收、教育、住房、养老金等多种个人信息 ， 预测个体在领取社会救济时舞弊的概率 ， 但却没有公开这一算法使用的任何具体信息 。 海牙地区法院在援引ECHR第8条后判决：由于这一系统不够透明、无法验证 ， 对算法可能造成的隐私侵害缺乏足够防护 ， 荷兰政府侵犯了公民的隐私权 ， 应当立即停用这一系统 。
2.算法逻辑的解释权
个人有权要求信息控制者（一般为算法使用者）在合理的范围内 ， 说明相应算法变量（个人信息）对自动化决策结果产生何种影响的权利 。 在具体实施层面 ， 可作如下四方面展开 。 （1）这里的“相应变量”仅包括上一层次已经涵盖的个人信息中参与实际分析推断的信息；（2）决策结果需要在具体场景中界定 ， 包括但不限于诊疗结果、信用分数、信贷决定 ， 等等；（3）“影响”有必要进一步细化 。 在输入（个人信息）与输出（决策结果）均可排序的场合 ， 个人信息控制者可以展示数字化变量间的“正相关”与“负相关” ， 说明当输入信息（在一定范围内）上升/下降时 ， 输出结果的高低变化 。 而在输入或输出无法排序的场合 ， 可允许其灵活处理 ， 既能显示全局相关 ， 也可展示局部相关 ， 只需说明相应相关性的作用范围即可 。 （4）个人信息控制者应选择用户友好形式解释说明 。 针对个人 ， 信息控制者应帮助其理解特定信息如何影响决策结果 ， 从而成为后续知晓并对抗算法歧视问题的重要依据；针对公众 ， 信息控制者应帮助其了解富含不同社会价值的信息类型以何种方向影响输出 ， 有利于更精细地评估算法是否恰当平衡了各方社会利益 。 在解释理论层面 ， 此处要求的统计相关解释 ， 可作为过于灵活、难以准确界定的实用主义解释的补充 。
在K.W. ex rel. D.W. v. Armstrong一案中 ， 爱达荷州联邦地区法院已采取了上述解释进路 。 多年来 ， 爱达荷州政府对智力或发育残疾的个体进行评估 ， 基于多项问卷数据 ， 计算个体每年领取的救济金数目 。 2012年前后 ， 相关算法缺陷致使救济金计算错误 ， 严重影响被救济人生活 ， 4000余人由此发起集体诉讼 。 法院判定 ， 州政府需要充分告知民众救济金数目发生变化的具体原因 ， 如问卷特定项目的答案发生变化 ， 或者是其它解释和根据（Explanation/Justification） 。
3.算法审计的解释权
“算法审计”要求个人信息控制者（一般为算法使用者）针对模型、数据和决策结果留有明确记录 ， 从而在变动对应因素后 ， 使算法输出特定决策 ， 以备监管部门、第三方机构或法院的核查 ， 最终判断算法是否将会导致歧视性或其他不当后果 。 与之前两个层次的权利不同 ， 该权利更倾向于事后的验证、测试和问责 。 为此算法主体应当建构出一套具有交互诊断分析能力的系统 ， 通过检视输入数据和重现执行过程 ， 来化解人们可能的质疑 。 “反事实解释”成为这一层面解释权的核心 。 具体而言 ， 个人信息控制者应根据“若非 A 则无 B”的反事实解释原则 ， 允许个体选取希冀达到之决策结果 ， 并告知个体如何变动现有输入信息 ， 可以实现所选输出结果 。


推荐阅读


上一篇：直播直播+短视频，中小企业乘风破浪的新引擎

下一篇：植物名录“隐世”百年的植物再现身 上一次被采集记录已是1912年