江苏龙网

  1. 首页 > 资讯 > 资讯 > >

隐私|共享智能是如何保护数据安全与人们隐私的？( 三 )


【隐私|共享智能是如何保护数据安全与人们隐私的？】隐私|共享智能是如何保护数据安全与人们隐私的？
文章图片

为了解决这个问题 ， 我们搭出了这样一个架构 。 主要分了这么几层 ， 最底层是密码学的原语 ， 通过秘密分享、同态加密、混淆电路密码学的原语 ， 同时对底下密码学原语进行了工程效率优化 ， 使得原语本身有更高的效率 。 基于密码学原理之上 ， 测算出来像矩阵加法、矩阵乘法、数值比较、安全求交的安全算子层 ， 在这之上通过DSL的分装提供了类似Python语言给算法层实现类似于线性模型、树模型、深度模型和图神经网络先进模型 ， 从而更好利用底下三层能力 ， 实现安全版本保护的隐私学习 。
隐私|共享智能是如何保护数据安全与人们隐私的？
文章图片

我们来看一个具体神经网络的例子 ， 业界在这个问题上主要有两种做法 。 一种称为安全神经网络 ， 这种方法把训练数据转成密态存储 ， 所有的训练过程都由密态完成 ， 这个方法当然很安全 ， 但是计算效率非常低 ， 不具实用性 。 另一种方法称为拆分学习 ， 这个方法是数据提供方基于自己的数据单独训练几层网络 ， 之后集中到一个中心化节点上做后续网络的联合训练 ， 这个方法虽然效率高 ， 但是由于浅层网络由数据提供方自己训练 ， 无法联通全局数据 ， 所以在模型效果上大打折扣 。
我们提出的基于共享智能的神经网络学习框架方案能够更好保护隐私 ， 并且效率也比较高 ， 在安全、效率、效果之间取得比较好的折中 。
具体方式是 ， 数据拥有方之间通过多方计算能够更安全计算出一个中间结果 ， 对这个中间结果能够比较好实现特征之间交互 ， 有了特征之间交互放到一个服务器上 ， 进行隐层相关计算 。
我们提出了基于对抗学习的防御机制 。 该防御机制目的是让数据拥有者自己训练一个防御者模型 ， 目的是模拟攻击者的行为 ， 即尽可能的训练一个模型用于恢复出各自的输入 ， 如上图所示 。 基于这个框架能搭出DNN、CNN、RNN、GNN等深度学习的模型 ， 并且也有多篇高质量顶会论文产出 ， 有了这个框架之后能够更好实现隐私保护神经网络 。
隐私|共享智能是如何保护数据安全与人们隐私的？
文章图片

前面讲了MPC下共享智能主要依赖于混合协议密态计算 ， 怎么设计出来更高效的混合协议密态计算呢？这是我们设计出来相应密态计算协议框架 ， 相对已经有框架如ABY框架 ， 一是比较灵活 ， 可以在同态加密和秘密分享之下进行相应转换 。 第二比较高效 ， 提供DSL的语言提高开发效率 ， 自动进行转换 ， 不需要关注在哪个协议进行转换 ， 这样算法开发同学可以很好屏蔽密态计算特性 。 第三 ， 给出算法分析和证明 ， 有了这样一个设计之后能够很好支持各式各样机器学习的算法 。
隐私|共享智能是如何保护数据安全与人们隐私的？
文章图片

介绍完共享智能技术架构进展后 ， 下面来介绍一下共享智能在技术影响力方面的一些进展 。
首先是专利方面 ， 今年5月份第三方机构发布全球新兴隐私技术发明专利数量 ， 可以看到阿里巴巴加上支付宝有419个专利 ， 共享智能团队贡献了其中的165个 。 同时 ， 这两年共享智能受到中国计算机协会、世界人工智能大会等专业机构、权威学术团队和科研机构的认可 ， 在国际标准和联盟标准 ， 以及国家层面取得相关认证 ， 让技术更好地在行业落地 。
共享智能落地案例探讨 在过去几年 ， 共享智能在多个实际项目中得到应用 。 在共享智能业务落地的用户关注点方面 ， 比较TEE和MPC的训练和预测方案 ， 可以看到它们各有优劣 。 在用户感受到的安全感方面 ， MPC方面数据不用出域 ， 安全感更强 ， 但在成本、性能和功能方面 ， TEE方案的表现要比MPC方案更好 。
在我们的实践过程中发现 ， TEE和MPC在同一个项目中可以做一些结合 。 比如用TEE训练接MPC预测 ， 可以降低前期评估成本；用TEE为MPC加速 ， 可以提升MPC的性能；甚至我们还可以把MPC协议放到TEE里执行 ， 可以进一步的提升安全等级 。 通过选择不同方案 ， 可以给用户提供更安全 ， 成本更低 ， 性能跟效果更好的隐私计算方案 。
隐私|共享智能是如何保护数据安全与人们隐私的？
文章图片

在具体案例方面 ， 首先介绍一下共享智能×中和农信案例 。 中和农信是中国农村做普惠金融最大机构之一 ， 主要服务比较偏远山区的农民 ， 大部分农民以前没有享受过金融服务 ， 我们通过中和农信希望能够让它服务更多偏远山区农民 。
原来传统方法是让信贷员通过线下信贷走访方式 ， 去收集信息 ， 然后去判定这个用户是不是应该享受这个服务 ， 这种方式人力成本高、速度比较慢 ， 一个用户大概需要花一个多月时间才能看能不能得到服务 ， 同时可拓展范围比较有限 。


推荐阅读


上一篇：大熊猫七七两岁了！体重已超67公斤，粉丝还送来玩具

下一篇：山东一女子被丈夫砍伤，嫌犯藏匿附近小区被当场抓获