PrimiHub一款由密碼學(xué)專家團(tuán)隊(duì)打造的開源隱私計(jì)算平臺(tái)，專注于分享數(shù)據(jù)安全、密碼學(xué)、聯(lián)邦學(xué)習(xí)、同態(tài)加密等隱私計(jì)算領(lǐng)域的技術(shù)和內(nèi)容。

目前，數(shù)字經(jīng)濟(jì)正面臨著一個(gè)巨大的問(wèn)題。一方面?zhèn)€人數(shù)據(jù)處理能力的指數(shù)級(jí)增長(zhǎng)創(chuàng)造了一系列前所未有的可能性，人類可以通過(guò)人工智能獲得非常有價(jià)值的信息。另一方面這些人工智能技術(shù)正在給我們帶來(lái)新的隱私威脅。

在此背景下，大多數(shù)關(guān)于隱私發(fā)展的會(huì)議都提出了新的隱私增強(qiáng)技術(shù)（PETs）如何在人工智能和機(jī)器學(xué)習(xí)背景下去保護(hù)隱私數(shù)據(jù)。人工智能成為2022-2023年IAPP隱私、安全風(fēng)險(xiǎn)會(huì)議的主題，也是2022年IAPP數(shù)據(jù)保護(hù)大會(huì)的主導(dǎo)話題。在數(shù)據(jù)保護(hù)機(jī)構(gòu)年度會(huì)議上——全球隱私大會(huì)的分論文“隱私的未來(lái)論壇”舉辦了三場(chǎng)關(guān)于隱私增強(qiáng)技術(shù)的會(huì)外活動(dòng)，一些業(yè)界知名人士也分享了他們的觀點(diǎn)。

新興的隱私增強(qiáng)技術(shù)也受到了各國(guó)*和監(jiān)管機(jī)構(gòu)的重視，他們圍繞 PETs的制定了大量的政策，這也從側(cè)面印證了隱私增強(qiáng)技術(shù)領(lǐng)域的飛速發(fā)展。

本文我們將從技術(shù)定義、技術(shù)目的、隱私監(jiān)管、技術(shù)分類、政策支持和未來(lái)趨勢(shì)六個(gè)方面來(lái)一覽全球隱私計(jì)算技術(shù)現(xiàn)狀。

技術(shù)定義：什么是隱私增強(qiáng)技術(shù)？

隱私增強(qiáng)技術(shù)（隱私保護(hù)機(jī)器學(xué)習(xí)）嘗試將數(shù)據(jù)挖掘、利用與隱私和道德相結(jié)合，涵蓋越來(lái)越多的新方法，包括聯(lián)邦學(xué)習(xí)、差異隱私、可信執(zhí)行環(huán)境、多方計(jì)算、同態(tài)加密、零知識(shí)證明和合成數(shù)據(jù)。這些技術(shù)有著相同的目標(biāo)：在協(xié)作訓(xùn)練、使用機(jī)器學(xué)習(xí)模型時(shí)保護(hù)個(gè)人信息的安全和隱私，同時(shí)保持信息的可用性。

隱私增強(qiáng)技術(shù)不是一個(gè)新概念，其可以追溯到一份題為“隱私增強(qiáng)技術(shù)（PETs）：匿名之路”的報(bào)告，該報(bào)告由加拿大和荷蘭隱私當(dāng)局于 1995 年首次發(fā)布。該報(bào)告表示，“隱私增強(qiáng)指的是：通過(guò)最大限度地減少或消除可識(shí)別數(shù)據(jù)的收集來(lái)保護(hù)個(gè)人隱私的各種技術(shù)”。另一個(gè)早期定義源于經(jīng)濟(jì)合作與發(fā)展組織 2002 年發(fā)布的《隱私增強(qiáng)技術(shù)清單》，其中將隱私增強(qiáng)技術(shù)定義為“有助于保護(hù)個(gè)人隱私的廣泛技術(shù)”。

而目前的各大公司對(duì)隱私增強(qiáng)技術(shù)的定義強(qiáng)調(diào)了它們富有的獨(dú)特的數(shù)據(jù)協(xié)作機(jī)會(huì)。

技術(shù)目的：維護(hù)數(shù)據(jù)效用

目前，通常把隱私增強(qiáng)技術(shù)定位為解決“隱私與公用事業(yè)平衡”的重要方案。這表明隱私增強(qiáng)技術(shù)提供隱私數(shù)據(jù)的保護(hù)能力，同時(shí)可以從數(shù)據(jù)中分析出有價(jià)值的信息。一般來(lái)說(shuō)，想減輕披露風(fēng)險(xiǎn)就會(huì)對(duì)數(shù)據(jù)效用產(chǎn)生不利影響，損害數(shù)據(jù)集的分析完整性和有效性。

歐盟網(wǎng)絡(luò)安全局 2022 年關(guān)于數(shù)據(jù)保護(hù)工程的報(bào)告中包括 2001 年對(duì)隱私增強(qiáng)技術(shù)的定義，將隱私增強(qiáng)技術(shù)描述為“一個(gè)連貫的信息通信技術(shù)系統(tǒng)，通過(guò)消除或減少個(gè)人數(shù)據(jù)或防止不必要或不期望被收集的個(gè)人數(shù)據(jù)來(lái)保護(hù)隱私” 。

這些新興的隱私增強(qiáng)技術(shù)也包括多方計(jì)算（MPC），MPC 允許多方根據(jù)個(gè)人數(shù)據(jù)計(jì)算共同結(jié)果，而無(wú)需向彼此透露各自的數(shù)據(jù)輸入，其計(jì)算過(guò)程是基于加密協(xié)議，因此不會(huì)影響計(jì)算結(jié)果的準(zhǔn)確性。

同樣，差異隱私使一種用于數(shù)據(jù)分析或查詢系統(tǒng)的獨(dú)特方法。其目標(biāo)是盡可能多地了解數(shù)據(jù)集，同時(shí)保持任何結(jié)果的“合理的否認(rèn)性”，這意味著答案無(wú)法確定地追溯到任何特定的受訪者。這是通過(guò)向數(shù)據(jù)集添加隨機(jī)噪聲來(lái)實(shí)現(xiàn)的，以保護(hù)個(gè)人隱私而不影響查詢結(jié)果。

而合成數(shù)據(jù)是由在真實(shí)數(shù)據(jù)集上訓(xùn)練出的模型二次生成的，創(chuàng)建的出類比真實(shí)數(shù)據(jù)的模擬數(shù)據(jù)，從而取代原始數(shù)據(jù)，同時(shí)再現(xiàn)原始數(shù)據(jù)集的統(tǒng)計(jì)屬性和模式。

這些方法都非常有用，例如在衛(wèi)生部門，根據(jù)美國(guó)健康保險(xiǎn)流通和責(zé)任法案等隱私法規(guī)規(guī)定：共享數(shù)據(jù)必須要?jiǎng)冸x特定標(biāo)識(shí)符的數(shù)據(jù)。去標(biāo)識(shí)化旨在降低身份泄露風(fēng)險(xiǎn)，但也可能導(dǎo)致信息丟失，使數(shù)據(jù)集不再用于研究目的。此外，去標(biāo)識(shí)化的健康數(shù)據(jù)仍然可以定期重新識(shí)別。相比之下，新興的隱私增強(qiáng)技術(shù)可以改善披露和重新識(shí)別風(fēng)險(xiǎn)緩解，同時(shí)保持?jǐn)?shù)據(jù)信息價(jià)值的有效性。

隱私監(jiān)管：隱私監(jiān)管背景下的隱私增強(qiáng)技術(shù)

由于隱私法規(guī)與技術(shù)無(wú)關(guān)，因此隱私法規(guī)中很少明確提及隱私增強(qiáng)技術(shù)的解決方案。

隱私設(shè)計(jì)框架最初由加拿大安大略省前隱私專員 Ann Cavoukian 于 2010 年以七項(xiàng)基本原則的形式建立，如今隱私保護(hù)設(shè)計(jì)已慢慢融入世界各地的隱私和數(shù)據(jù)保護(hù)法。

最突出的例子是歐盟《通用數(shù)據(jù)保護(hù)條例》第 25 條（英國(guó) GDPR 也包含相同的措辭），其中規(guī)定數(shù)據(jù)控制者有義務(wù)“考慮現(xiàn)有技術(shù)水平、實(shí)施成本以及性質(zhì)、范圍、 處理的背景和目的，以及處理對(duì)自然人的權(quán)利和*造成的不同可能性和嚴(yán)重程度的風(fēng)險(xiǎn)。” 此外，第 25 條要求以有效的方式實(shí)施“旨在實(shí)施數(shù)據(jù)保護(hù)原則（例如數(shù)據(jù)最小化）的適當(dāng)技術(shù)和組織措施（……）”，“在確定保護(hù)數(shù)據(jù)的方法時(shí)” 處理以及處理本身時(shí)。”

在美國(guó)，聯(lián)邦貿(mào)易委員會(huì)十多年前就非常重視隱私保護(hù)框架設(shè)計(jì)。在 2012 年的一份報(bào)告中，聯(lián)邦貿(mào)易委員會(huì)提出了基本原則：“公司應(yīng)在整個(gè)組織內(nèi)以及在產(chǎn)品和服務(wù)開發(fā)的每個(gè)階段促進(jìn)消費(fèi)者隱私。”

在世界各地的隱私法中也有類似的規(guī)定。巴西《通用數(shù)據(jù)保護(hù)法》第 46 條規(guī)定“代理人應(yīng)采取能夠保護(hù)個(gè)人數(shù)據(jù)的安全、技術(shù)和管理措施。” 印度擬議的《2022 年數(shù)字個(gè)人數(shù)據(jù)保護(hù)法案》第 9.3 章規(guī)定“數(shù)據(jù)受托人應(yīng)實(shí)施適當(dāng)?shù)募夹g(shù)和組織措施。”

法律法規(guī)沒有對(duì)隱私保護(hù)設(shè)計(jì)的實(shí)施進(jìn)行詳細(xì)定義，因此適當(dāng)措施的指導(dǎo)原則是目前實(shí)踐中被描述為“最先進(jìn)”的原則。這句話的含義并不是一成不變的。相反，它依賴于技術(shù)進(jìn)步和一定程度的主觀性。

ENISA 與德國(guó) TeleTrust 最近將最先進(jìn)的技術(shù)定義為“市場(chǎng)上可實(shí)現(xiàn)合法 IT 安全目標(biāo)的 IT 安全措施的最佳性能”。當(dāng)“現(xiàn)有科學(xué)知識(shí)和研究”達(dá)到市場(chǎng)成熟度或在市場(chǎng)上推出并盡可能引用國(guó)際標(biāo)準(zhǔn)時(shí)，通常會(huì)出現(xiàn)這種情況。

適當(dāng)?shù)募夹g(shù)和組織措施在不同時(shí)間、不同背景下可能意味著不同的事情。幾年前足夠好的東西可能不符合當(dāng)今最終用戶和數(shù)據(jù)處理者的最佳利益。一個(gè)典型的例子是在線安全的演變。以前的行業(yè)標(biāo)準(zhǔn)（使用未加密的 HTTP 連接訪問(wèn)網(wǎng)站）已不再適用。當(dāng)前“最先進(jìn)”的安全性需要帶有 TLS 證書的 HTTPS，這意味著在訪問(wèn)網(wǎng)站時(shí)與網(wǎng)絡(luò)服務(wù)器的加密連接。

因此，數(shù)據(jù)控制者必須考慮現(xiàn)有技術(shù)的當(dāng)前進(jìn)展，并及時(shí)了解最新的技術(shù)進(jìn)步，為其特定功能選擇侵入性最小的系統(tǒng)設(shè)計(jì)，同時(shí)保持遵守適當(dāng)?shù)碾[私法規(guī)。這也是隱私專業(yè)人士調(diào)查新興隱私增強(qiáng)技術(shù)的主要原因之一。

技術(shù)分類：隱私增強(qiáng)技術(shù)的分類

一些組織和倡議已經(jīng)接受了根據(jù)新興隱私增強(qiáng)技術(shù)的基礎(chǔ)技術(shù)、應(yīng)用或功能對(duì)其進(jìn)行分類的挑戰(zhàn)。示例包括：

• 英國(guó)皇家學(xué)會(huì)關(guān)于隱私增強(qiáng)技術(shù)在數(shù)據(jù)治理和協(xié)作分析中的作用的新報(bào)告
• 舊金山聯(lián)邦儲(chǔ)備銀行關(guān)于隱私增強(qiáng)技術(shù)的報(bào)告
• 英國(guó)數(shù)據(jù)倫理與創(chuàng)新中心基于用例的 PET 采用指南
• 聯(lián)合國(guó)4月份發(fā)布的隱私增強(qiáng)技術(shù)使用指南
• 至于如何分類，英國(guó)信息專員辦公室去年提出的草案針對(duì)隱私增強(qiáng)技術(shù)指出：
• 可以降低個(gè)人的可識(shí)別性并有助于實(shí)現(xiàn)數(shù)據(jù)最小化原則，例如差異隱私和合成數(shù)據(jù)生成。
• 專注于隱藏和屏蔽數(shù)據(jù)以實(shí)現(xiàn)更好的安全性，例如同態(tài)加密、零知識(shí)證明和可信執(zhí)行環(huán)境。
• 可以分割或控制對(duì)個(gè)人數(shù)據(jù)的訪問(wèn)，滿足數(shù)據(jù)最小化和更強(qiáng)的安全原則，例如聯(lián)邦學(xué)習(xí)和 MPC。

政策支持：隱私增強(qiáng)技術(shù)的全球趨勢(shì)和政策支持

過(guò)去幾年隱私增強(qiáng)技術(shù)領(lǐng)域的快速發(fā)展在隱私工程和數(shù)據(jù)科學(xué)界引發(fā)了大量討論。由于隱私增強(qiáng)技術(shù)在保護(hù)或匿名化數(shù)據(jù)和數(shù)據(jù)最小化方面的增強(qiáng)能力，同時(shí)保持?jǐn)?shù)據(jù)實(shí)用性，因此也越來(lái)越受到立法者和公共當(dāng)局的關(guān)注。

在歐洲，ENISA 強(qiáng)調(diào)了幾種新興的隱私增強(qiáng)技術(shù)作為數(shù)據(jù)保護(hù)工程的新技術(shù)，并特別強(qiáng)調(diào) MPC 和零知識(shí)證明作為先進(jìn)的假名化技術(shù)。歐洲數(shù)據(jù)保護(hù)委員會(huì)也認(rèn)可 MPC 作為國(guó)際個(gè)人數(shù)據(jù)傳輸?shù)难a(bǔ)充技術(shù)措施。歐盟委員會(huì)聯(lián)合研究中心發(fā)表了一份關(guān)于研究過(guò)程中合成數(shù)據(jù)有用性的分析報(bào)告。

2021年初，美國(guó)參議院出臺(tái)了《促進(jìn)數(shù)字隱私技術(shù)法案》，計(jì)劃支持隱私技術(shù)的研究、部署和標(biāo)準(zhǔn)化。美國(guó)國(guó)土安全部也表示有興趣用技術(shù)術(shù)語(yǔ)定義隱私，并舉辦了一次研討會(huì)，重點(diǎn)展示新興隱私增強(qiáng)技術(shù)的案例。在加拿大，隱私專員辦公室最近也發(fā)布了有關(guān)合成數(shù)據(jù)各個(gè)方面的需要考慮的因素。

2022 年 7 月，新加坡信息通信媒體發(fā)展局啟動(dòng)了一項(xiàng)為期六個(gè)月的沙盒計(jì)劃，以支持有興趣采用新興隱私增強(qiáng)技術(shù)的企業(yè)。2022 年 5 月，韓國(guó)個(gè)人信息保護(hù)委員會(huì)牽頭開發(fā)了 11 項(xiàng)核心隱私增強(qiáng)技術(shù)，并將在未來(lái)四年內(nèi)繼續(xù)開發(fā)。

發(fā)展不僅僅是國(guó)內(nèi)的。2022 年，聯(lián)合國(guó)發(fā)起了隱私增強(qiáng)技術(shù)驗(yàn)室倡議，這是一項(xiàng)全球黑客馬拉松，旨在應(yīng)對(duì)安全和負(fù)責(zé)任地使用隱私增強(qiáng)技術(shù)方面的挑戰(zhàn)。2021 年，美國(guó)和英國(guó)贊助了一項(xiàng)雙邊有獎(jiǎng)挑戰(zhàn)賽，以促進(jìn)隱私增強(qiáng)技術(shù)的采用。新加坡 IMDA 和蒙特利爾國(guó)際人工智能促進(jìn)中心于 2022 年 6 月簽署了一份關(guān)于隱私增強(qiáng)技術(shù)跨境合作的諒解備忘錄。韓國(guó)和法國(guó)數(shù)據(jù)保護(hù)當(dāng)局很快也簽署了一項(xiàng)協(xié)議， 共同研究隱私增強(qiáng)技術(shù)。

技術(shù)未來(lái)：挑戰(zhàn)與展望

隨著更多隱私增強(qiáng)技術(shù)的開發(fā)和實(shí)施，挑戰(zhàn)將變得越來(lái)越明顯。隱私增強(qiáng)技術(shù)處于起步階段，還需要更多的技術(shù)專家，尤其是*在未來(lái)使用更加嚴(yán)格的數(shù)據(jù)管理方法。同樣，用例示例或現(xiàn)成的解決方案也很少，這使得隱私工程師很難確定隱私增強(qiáng)技術(shù)在日常操作中的適用性。

而且，隱私增強(qiáng)技術(shù)并不是保護(hù)個(gè)人信息的“靈丹妙藥”解決方案。當(dāng)然，隱私保護(hù)框架設(shè)計(jì)不能簡(jiǎn)化為具體技術(shù)的實(shí)現(xiàn)。正如 ENISA 所說(shuō)，隱私保護(hù)框架設(shè)計(jì)“是一個(gè)涉及各種技術(shù)和組織組件的過(guò)程，通過(guò)部署包括隱私增強(qiáng)技術(shù)的技術(shù)和組織措施來(lái)實(shí)施隱私原則。”

新興的隱私增強(qiáng)技術(shù)缺乏監(jiān)管指南可能會(huì)使隱私增強(qiáng)技術(shù)處理的數(shù)據(jù)陷入不穩(wěn)定狀態(tài)；結(jié)果是否可以被視為匿名、去識(shí)別化或假名化？當(dāng)數(shù)據(jù)處理跨越多個(gè)司法管轄區(qū)時(shí)，這個(gè)問(wèn)題可能會(huì)變得更加難以回答。理想情況下，監(jiān)管機(jī)構(gòu)和數(shù)據(jù)權(quán)威機(jī)構(gòu)將繼續(xù)圍繞這些技術(shù)展開討論和標(biāo)準(zhǔn)化，以使它們更容易在全球范圍內(nèi)采用和使用。

原文地址：Cheering emerging PETs: Global privacy tech support on the rise
原文作者：Brandon Lalonde Katharina Koerner
翻譯 & 整理：開放隱私計(jì)算 & PrimiHub

總結(jié)

以上是生活随笔為你收集整理的全球隐私计算技术发展概览的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。