数据不出门,结果却能算出来:隐私计算到底在玩什么把戏

前几天跟一个在南京某三甲医院信息科干活的老同学吃饭。他说他们想跟另一家医院合起来训个模型,看能不能提前识别某种并发症。数据呢?两家的都不能出院。领导问了一句特别朴素的话:那能不能让算法跑过去,数据别动?

他当时觉得这是做梦。现在,这事儿有名字了。

数据的尴尬:不用是浪费,用了怕出事

数据这东西挺拧巴的。搁在硬盘里,它就是一堆占地方的字节,谁也用不上。可一旦拉出来用,问题全来了——谁授权了?用在哪儿?用完删没删?中间经了几手?

《个人信息保护法》2021年落地,欧盟的GDPR更早,后来还有那份被叫做“数据二十条”的文件。法规把红线画出来了,可没告诉你技术层面怎么走。于是企业卡在中间,数据是资产,也是雷。

隐私计算的想法很直白:把数据的使用权和持有权拆开。你手里那点原始数据,不出你的机房;但我需要的那部分“信息”,可以算出来。就这么一句话,背后是一大堆看着挺怪的手艺。

三个人比工资:四十多年前的一个脑筋急转弯

1982年,姚期智提了个问题,后来被叫做“百万富翁问题”。两个有钱人想知道谁更富,但谁也不想告诉对方自己到底有多少钱。

听着像抬杠。可这恰恰是隐私计算的原始模型——我想从你的数据里得到结论,但我既不想看到你的数据,你也不想让我看到。

怎么做到?

比较老的一招叫秘密分享。一把钥匙拆成三截,你拿一截,我拿一截,老张拿一截。单看任何一截都是废铁。可三截一拼,锁就开了。计算过程就这么拆开、分发、各自算一点。没有哪一方手里握着完整的东西,但合起来答案是对的。

还有同态加密。这词拗口,画面感其实不错——你戴着一副橡胶手套去捏一块泥,泥的形状变了,但你的手没碰过它。密文状态下直接做加减乘除,算完再解密,中间那台机器全程只看见一堆乱码。代价呢?慢。慢到什么程度,后面说。

安全多方计算秘密分享拆分密钥原理示意图
安全多方计算秘密分享拆分密钥原理示意图

联邦学习是另一条路。模型从服务器出发,挨个跑到各家本地去训练,参数留下,数据留下,只把梯度或者模型更新带回去。听着完美。但2019年有篇论文给了大家一巴掌,标题大概叫《Deep Leakage from Gradients》。梯度里也能反推出原始数据,严重的时候能还原出人脸的轮廓。所以现在的联邦学习基本都得叠加加密或者加噪,裸奔是不行的。

差分隐私走的是“撒盐”路线。统计数据里掺一点噪声,单个个体的信息就模糊了。2020年美国人口普查用了这套。它的哲学挺诚实:不追求零泄露,只追求“我在不在这个数据集里,你分辨不出来”。

再就是可信执行环境,TEE。芯片里划出一块黑匣子,数据进去之后连操作系统都偷看不了。Intel SGX、ARM的TrustZone都是这个思路。快,但依赖硬件厂商——你得信那块芯片真的没留后门。

联邦学习本地训练模型参数加密聚合架构图
联邦学习本地训练模型参数加密聚合架构图

这几个东西,真不是一回事

这几个东西,真不是一回事
这几个东西,真不是一回事

几个常被问到的误解,聊一聊。

“我们用了HTTPS,够了吧?” 不够。TLS保护的是路上,数据到了服务器就是明文。隐私计算管的是落地之后那一段,“你算可以,看你不行”。

“是不是就是区块链?” 不是。区块链解决的是“大家信不过彼此,谁来记账”,它压根不隐藏数据内容,链上很多东西反而是公开的。隐私计算解决的是计算过程本身保密。两件事经常被凑一块儿用,但别混。

“上了隐私计算就万事大吉。” 也不是。每一套方案背后都有一个威胁模型,模型之外就是攻击面。TEE有过侧信道攻击的历史,联邦学习有梯度反演,多方安全计算在参与方串通的情况下防护会打折。这句话挺重要:隐私计算给你的是“在某个假设下成立的安全”,不是“绝对安全”。

那它到底贵不贵

说实话,贵。

同态加密的运算是明文运算的好几个数量级慢,具体差多少得看方案和场景,但“慢很多”基本是共识。多方安全计算呢,参与方越多,通信轮数越多,网络稍微抖一下你就得干等。所以眼下落地比较集中的场景,往往是对时延不那么敏感的:联合风控、联合营销名单匹配、医疗科研、政务数据核验。

还有个更现实的问题——不同厂商的平台,互相跑不通。你在A家建的节点,跟B家的节点,协议层对不上。这几年行业一直在推互联互通的标准,进度嘛……慢工出细活吧。

有人问,我试着答

有人问,我试着答
有人问,我试着答

Q:那我的手机是不是已经在用这东西了?

大概率是。输入法的联想词、系统里的表情符号使用统计,苹果从2016年就开始用本地差分隐私来收集。数据在你手机上先加点噪声,再上传。它知道“这个词今天被敲了一万次”,但不知道是谁敲的。

Q:小公司有必要搞吗?

看你手里有没有别人没有的数据。有,那它就是筹码;没有,那你可能是当“算力提供方”的那一端。别为了赶时髦硬上,算力成本和沟通成本都不低。

Q:跟“数据脱敏”什么关系?

脱敏是前置动作,把姓名身份证号抹掉。可抹掉身份不等于无法识别——几个字段一交叉,人照样被认出来,这叫重识别。隐私计算往前多走了一步,它连“你参与了这次计算”这件事都想藏起来。

泼点冷水

这两年“隐私计算”成了个筐。什么东西都往里装。有的产品其实就是个加密数据库,有的就是个权限管理系统,贴上这个标签身价就上去了。

判断办法也简单,就问三句话:原始数据在哪儿?谁能看见它?如果参与方串通会怎样?答不上来的,大概率是包装。

另外,隐私计算能解决技术层的“看不见”,解决不了动机层的“不想给”。很多数据合作谈崩,不是因为技术做不到,是两边都怕对方拿了就跑。这东西啊,技术只是一半,另一半是合同、审计,还有一点很难量化的信任。

我那个同学后来真去调研了一圈,回来跟我说:能跑通,但预算比他想的高。我说那你上不上?他喝了口鸭血粉丝汤,说:“数据不出门,我领导睡得着觉,这钱就值。”

作者|科技

排版|科技

审核|见微

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:数据不出门,结果却能算出来:隐私计算到底在玩什么把戏
文章链接:https://www.lfdjt.com/p/keji/a/24790.html