数据不肯出门,账还得算——聊聊隐私计算里那些别扭的地方

上周在南京新街口一家咖啡馆,朋友老周把手机推到我面前。屏幕上是他刚装好的一家银行App,隐私政策那页长得像外卖小票。他划了大概三秒,点了同意。

我说,你点得挺快。

他说,看了也白看。

这话不假。他真正想聊的是另一件事——他所在的医院想跟一家保险公司做联合建模。病历不能出院门,理赔数据也不想外流。可两边都馋那个模型结果。两头都想占,这账怎么算?

隐私计算,说白了就是从这种别扭里长出来的东西。它不是一款软件,也不是一个能买回来的盒子,更像是一堆互相打架的技术凑出来的一个立场:数据可以不出门,但计算必须完成。

医院与保险公司联合建模隐私计算系统架构示意图
医院与保险公司联合建模隐私计算系统架构示意图

先别急着谈原理,想想那个“三个朋友”的难题

三个人想知道彼此的工资平均数,可谁都不想说出自己的数字。这不是段子,这是密码学里一个很老的问题的通俗版本。

1982年,姚期智提出了“百万富翁问题”:两个富翁想比谁更富,又不愿意透露各自财产。这个问题后来撑起了整个安全多方计算(MPC)的地基。四十多年过去,这套东西才慢慢从论文里挪到工程上。

怎么做到的……大概有这么几条路。

秘密分享。一个人把自己的数字拆成几块,分给不同的人,单看任何一块都毫无意义,合起来才能还原。计算过程中大家手里攥的都是碎片,谁也没见过完整的原值。

说实话,我第一次看这套东西的时候觉得像魔术。

同态加密更狠。数据加密之后还能直接在上面做加法甚至乘法,算完解密,结果跟明文算出来一样。代价是慢,慢到开销可能是明文的几千倍,工程里得反复掂量值不值。

还有三条路,走的是另一个方向

联邦学习。2016年谷歌为了改进手机输入法提出来的。思路反过来:不让数据去找模型,让模型去找数据。模型下发到各家,本地训练,只把梯度或者参数更新传回去。

听上去干净利落。但这里有个坑——梯度本身会泄露信息。学术界已经证明过,从多轮梯度里能反推出训练样本的大致样子,图像重建那种。所以联邦学习通常还得配上别的加固手段,光靠它自己不够。

联邦学习本地训练梯度聚合流程示意图
联邦学习本地训练梯度聚合流程示意图

可信执行环境,也就是TEE。思路更简单粗暴:在CPU里划一块隔离区,数据进去算,外面连操作系统都看不见。Intel的SGX是个代表。可这片区域历史上被侧信道攻击打穿过好几回,Spectre、Foreshadow那一类都算。硬件的承诺,得看它兑现到什么程度。

差分隐私不太一样,它管的是输出。往统计结果里掺噪声,掺到没人能判断某一个人到底在不在数据集里,但整体趋势还站得住。2006年Dwork把这套理论化,2020年美国人口普查真的用了它来发布数据。代价是精度——小地方的统计数字会失真,这事当年还吵过一阵。

差分隐私噪声添加前后统计分布对比示意图
差分隐私噪声添加前后统计分布对比示意图

误会挺多的,挑几个说

有个误会,是把隐私计算当成一种更高级的加密。

不是。加密保护的是传输中和存储中的数据,也就是躺在硬盘上、跑在网线上的那部分。隐私计算管的是使用中——数据正在被算的那一刻。这三态在安全圈里算老生常谈,可落到具体项目上,很多人还是把它们混成一锅粥。

另一个误会,是觉得上了这套东西,结果就一定安全。

未必。模型输出的一个分数、一个标签,有时候足以反推出这个人是谁。成员推断攻击就是干这个的。所以输出端要不要再加一层差分隐私,是个独立的问题,得单独想。

还有一个误会更麻烦——有人以为用了隐私计算就等于合规了。

我听到过这种说法:“我们数据都不出域了,个保法应该管不到我们了吧。”想多了。《个人信息保护法》盯的是告知、同意、最小必要、单独同意这些环节。技术手段再花哨,该拿的授权一样得拿,该说清楚的目的还得说清楚。技术合规和法律合规,两条并行线,不互相抵扣。

一段真实的对话,我记了很久

去年有家做征信的团队来问我,说他们想接两家银行的信贷数据做联合风控。

“技术上能做吗?”

能。

“那为什么一直推不动?”

我反问他们一句:模型跑出来,谁的收益更大?

对方沉默了几秒。这个问题不好答。联合建模的效果对双方都有好处,但好处不是均等的。出数据多的一方往往觉得自己吃亏,尤其当它没法核实对方到底用了多少、用了什么。隐私计算把计算过程保护起来了,但也顺手把审计的窗口关小了。

这是个挺讽刺的地方。技术越好,越难监督。

所以现在不少项目会额外引入一个审计方,或者用可信第三方做密钥托管。可这么一来,信任又回到一个具体的人或者机构身上。绕了一圈。

慢下来的那些环节

性能是一方面。同态加密的乘法开销能到明文的上万倍,MPC的通信轮数在跨机构场景里被网络延迟拖着走,TEE的隔离区内存有限,装不下大模型。这些都是真实的工程约束,绕不过去。

但我觉得真正卡住的地方不在性能。

在动机。

你去看那些落地得还算顺的案例,往往有个共同点:参与方之间存在明确的、互相制衡的诉求。比如医疗多中心研究,各家医院都想发论文、都想拿课题,谁也不比谁强势,反而容易谈成。反过来,如果一方明显占优,另一方图什么呢?

于是就有了不少“合规表演”式的项目。系统搭起来了,数据接进来了,跑过两次演示,然后就没有然后了。验收报告很漂亮。业务上什么都没变。

这事我不觉得是技术的错。

要不要押注它

我的看法偏保守。隐私计算不会像云计算那样一夜之间铺满,它更像电子签名,用了很多年才在日常场景里变得不显眼。金融、医疗、政务这几个领域会先走一步。其他行业大概是等着被合规压力推着走。

但有一个判断我比较确定:数据要素这个盘子要做大,绕不开它。只要数据还被锁在各自的机房里互相干瞪眼,所谓的数据流通就只能停在文件和会议纪要里。

至于老周那份隐私政策……我最后跟他说,该扫还是扫一眼,尤其是“共享给第三方”那一段。技术能替你把计算过程藏起来,替不了你做那个点“同意”的决定。

他点了点头,把手机收进口袋,说:那我回去再想想。

作者|科技

排版|科技

审核|乐乐

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:数据不肯出门,账还得算——聊聊隐私计算里那些别扭的地方
文章链接:https://www.lfdjt.com/p/keji/a/25208.html