江苏龙网

  1. 首页 > 资讯 > 科技 > >

算法许可 朱悦 | 算法解释权：科技与法律的双重视角( 七 )


既有案例彰显了上述解释主体和解释范围的正当性 。 在卢米斯诉威斯康星州一案（Loomis v. Wisconsin）中 ， 卢米斯通过辩诉交易承认了没有得到主人同意的情况下驾驶摩托车和企图逃离交管员管控这两项轻罪 ， 最终却被判决6年徒刑和5年延期监督（Extended Supervision） 。 这是因为在量刑阶段 ， 威斯康辛惩教署引用了“罪犯矫正替代性制裁分析管理系统”（COMPAS）的风险评估结果 ， 将卢米斯的危险等级认定为“高风险” 。 卢米斯不服 ， 向初审法院提交了定罪后的缓解动议 ， 认为被告人有权知道被控告的理由 ， 法院依据COMPAS的评估对其加以判决侵犯其正当程序权利 。 在“个人信息控制者”和“个人信息处理者”二分架构下 ， 开发COMPAS系统的Nortpointe公司并不负有解释算法的义务 ， 其商业秘密得以保护 ， 而威斯康辛惩教署作为决定卢卡斯个人信息使用方式和用途的控制者 ， 应说明其算法原理 。 与此类似 ， 在我国健康码的争议中 ， 腾讯、蚂蚁金服等科技企业的角色亦为个人信息处理者 ， 对民众无解释义务 ， 相反 ， 使用健康码的政府机关实为个人信息控制者 ， 须承担算法解释的义务和解释不能的后果 。
算法解释权和个人信息保护的整合 ， 既避开了在技术话语中精确界定主体的困难 ， 又可直接参照个人信息保护中已相对成熟的概念体系 ， 尚可循个人信息保护在“场景性”方面的扩展而不断调整 。 从实践面观察 ， 该等整合将显著便利解释主体及监管机构 。 对前者而言 ， 算法解释权可因此成为个人信息合规的一部分 ， 而不必分别实施 。 对后者而言 ， 监管工作亦可自然纳入现有个人信息违法违规治理实践 。 诚然 ， 如此设想 ， 可能在一定程度上限制了解释权的范围；不过 ， 相比理论层面之完备 ， 基于实用主义的立场 ， 以及“于现有规制框架下以审慎态度探索”的经验教训 ， 尽力使算法解释权平滑“嵌入”现有规制思路与实践 ， 应是更加务实的选择 。
（二）算法解释权的权利内容
围绕着算法解释权的权利配置 ， 国内学界已有相当的研究 。 例如 ， 张恩典认为 ， 基于算法模型的建模阶段和算法模型运用于特定主体两阶段 ， 可以将算法解释权分为以“算法功能为中心”的解释权和以“具体决策为中心”的解释权 ， 前者要求提供的信息包括自动化决策系统的逻辑、意义、设想后果和一般功能 ， 后者提供的信息包括特定自动化决策的基本原理、理由和个体情况 。 而张凌寒则立足于具体决策的解释 ， 将解释权分为“事后的具体解释”、“事后更新解释” ， 以及对自动化决策者拒不提供解释或没有提供充分解释的救济 。 在本文的脉络下 ， 之前的研究或者忽视了技术条件对解释权的强烈制约 ， 或者忽视了解释权普适性的要求 。 在此基础上 ， 本文试图从“黑盒内之解释”出发 ， 贴合技术场景和个体需求 ， 提出三层次的算法解释权构造 。
1.算法数据的解释权
个人有权要求信息控制者（一般为算法使用者）在合理范围内 ， 展示输入算法变量（个人信息）的权利 。 详言之 ， （1）此处输入变量的“合理范围” ， 由相应算法所处理的个人信息所准确界定 。 在某种意义上 ， 这可视为个人信息保护中已有规定的延伸——解释主体需告知用户 ， 收集或处理个人信息的目的 ， 是用于优化上述目标 ， 并进而达到采用算法的目的 。 如果算法之输入包含非个人信息变量 ， 解释主体可灵活决定是否展示；（2）对需要展示的个人信息 ， 可分为“个人敏感信息”和“其他个人信息” 。 对于后者 ， 解释主体可以灵活选择展示方式 。 比如 ， 对多个性质详尽的变量（如工作单位、社交网络、关注与点赞清单等） ， 以主成分分析或其它方式 ， 概括为同一变量（“社交”）展示 。 对其间“个人敏感信息” ， 主体宜单独展示每一变量 。 （3）展示过程中 ， 主体既可以采取简单的文字列表方式 ， 也可以采取符合认知特点的可视化方式 。 对儿童、老年人或残疾人等或有不便的群体 ， 鼓励专门设计符合认知特点的展示方式 。


推荐阅读


上一篇：直播直播+短视频，中小企业乘风破浪的新引擎

下一篇：植物名录“隐世”百年的植物再现身 上一次被采集记录已是1912年