差分隱私與其他隱私計算技術(shù)的聯(lián)系

• 寫在前面的話
• 隱私計算
• • 什么是隱私計算？
  • 隱私計算發(fā)展趨勢
  • 隱私計算的技術(shù)
  • 隱私計算體系結(jié)構(gòu)
  • • 安全多方計算
    • 聯(lián)邦學(xué)習(xí)
    • 可行執(zhí)行環(huán)境
    • 差分隱私
    • 比較
  • 應(yīng)用場景
  • 發(fā)展趨勢
  • 發(fā)展展望
• 總結(jié)
• 補充

寫在前面的話

本文純屬個人筆記，僅供參考。

隱私計算

什么是隱私計算？

隱私計算（Privacy-preserving computation）是指在保證數(shù)據(jù)提供方不泄露原始數(shù)據(jù)的前提下，對數(shù)據(jù)進(jìn)行分析計算的一系列信息技術(shù)，保障數(shù)據(jù)在流通與融合過程中的“可用不可見”。

簡單來說就是一個技術(shù)體系，其目的是實現(xiàn)數(shù)據(jù)可用不可見。下面是隱私計算流程圖。

數(shù)據(jù)方：提供數(shù)據(jù)的組織或個人。
計算方：提供算力的組織或個人。
結(jié)果方：接收計算結(jié)果的組織或個人。

隱私保護計算的目標(biāo)是在完成計算任務(wù)的基礎(chǔ)上，實現(xiàn)數(shù)據(jù)計算過程和數(shù)據(jù)計算結(jié)果的隱私保護。數(shù)據(jù)計算過程的隱私保護指參與方在整個計算過程中難以得到除計算結(jié)果以外的額外信息，數(shù)據(jù)計算結(jié)果的隱私保護指參與方難以基于計算結(jié)果逆推原始輸入數(shù)據(jù)和隱私信息。

隱私計算發(fā)展趨勢

1、多方安全計算：基于密碼學(xué)的隱私計算技術(shù)；
2、聯(lián)邦學(xué)習(xí)：人工智能與隱私保護技術(shù)融合衍生的技術(shù)；
3、可信執(zhí)行技術(shù)（TEE）：代表的基于可信硬件的隱私計算技術(shù)。

隱私計算的技術(shù)

混淆電路、秘密分享、不經(jīng)意傳輸?shù)茸鳛榈讓用艽a學(xué)技術(shù)，同態(tài)加密、零知識證明、差分隱私等作為輔助技術(shù)的相對成熟的技術(shù)體系。

隱私計算體系結(jié)構(gòu)

底層硬件角度：
1、多方安全計算與聯(lián)邦學(xué)習(xí)通常從軟件層面設(shè)計安全框架，以通用硬件作為底層基礎(chǔ)架構(gòu)。
2、可信執(zhí)行環(huán)境則是以可信硬件為底層技術(shù)實現(xiàn)的隱私計算方案。
算法構(gòu)造角度：
1、多方安全計算技術(shù)基于各類基礎(chǔ)密碼學(xué)工具設(shè)計不同的安全協(xié)議。
2、聯(lián)邦學(xué)習(xí)除可將多方安全計算協(xié)議作為其隱私保護的技術(shù)支撐外，基于噪聲擾動的差分隱私技術(shù)也廣泛應(yīng)用于聯(lián)邦學(xué)習(xí)框架中
3、可信執(zhí)行環(huán)境通常與一些密碼學(xué)算法、安全協(xié)議相結(jié)合為多方數(shù)據(jù)提供保護隱私的安全計算。
算法應(yīng)用角度：
1、聯(lián)邦學(xué)習(xí)技術(shù)方案主要應(yīng)用于聯(lián)合建模和預(yù)測場景中。
2、多方安全計算和可信執(zhí)行環(huán)境則可作為更加通用的技術(shù)方案，可設(shè)計用于聯(lián)合統(tǒng)計、聯(lián)合查詢、聯(lián)合建模及聯(lián)合預(yù)測等諸多場景。

安全多方計算

注：安全多方計算可以去看看《阿里巴巴集團安全總監(jiān)洪澄：安全多方計算技術(shù)及其在阿里巴巴的應(yīng)用》有助于理解安全多方計算。
優(yōu)點：
1、基于密碼學(xué)安全，其安全性有嚴(yán)格密碼理論證明。
2、同時計算準(zhǔn)確度高。
3、支持可編程通用計算。

缺點：
1、密碼學(xué)操作產(chǎn)生計算性能問題，運算時延以及參與方數(shù)量增加也會導(dǎo)致應(yīng)用無法落地等相關(guān)問題。
2、傳統(tǒng)安全問題無法解決，如訪問控制、傳輸安全等。
3、不同技術(shù)間的加密數(shù)據(jù)不能互通造成的新的數(shù)據(jù)孤島問題。

聯(lián)邦學(xué)習(xí)

優(yōu)點：
1、解決訓(xùn)練階段數(shù)據(jù)特征單一的問題，從而獲得一個性能更好的、優(yōu)于利用自己本身數(shù)據(jù)集所訓(xùn)練出的模型
2、算力成本壓力小。

缺點：
1、安全問題，當(dāng)神經(jīng)網(wǎng)絡(luò)的模型較大時不會從頭開始編碼，而是用開源的基礎(chǔ)模型，存在病毒植入的安全問題。以及傳輸?shù)奶荻群蜋?quán)重可能被逆推泄露信息。參與方不一定可行。
2、通信效率問題。分布式參與節(jié)點計算能力不一致、網(wǎng)絡(luò)連接狀態(tài)不穩(wěn)定、數(shù)據(jù)通信非獨立分布等現(xiàn)實因素。

可行執(zhí)行環(huán)境

優(yōu)點：
1、通用和高效的優(yōu)勢（支持通用計算框架和應(yīng)用，計算性能高）。
2、可單獨用于隱私計算，也可以與其他技術(shù)結(jié)合在一起來保護隱私（對于安全可信云計算、大規(guī)模數(shù)據(jù)保密協(xié)作、隱私保護的深度學(xué)習(xí)等涉及大數(shù)據(jù)、高性能、通用隱私計算的場景，是重要的技術(shù)手段）。

缺點：
1、TEE 信任鏈跟CPU 廠商綁定，目前硬件技術(shù)被掌握在英特爾、高通、ARM等少數(shù)外國核心供應(yīng)商中，從而影響到機密計算技術(shù)的可信度。
2、實現(xiàn)在理論上存在側(cè)信道攻擊的可能性，因為TEE與其它非可信執(zhí)行環(huán)境空間共享了大量的系統(tǒng)資源。

差分隱私

優(yōu)點：
1、嚴(yán)格的數(shù)據(jù)理論，能夠?qū)崿F(xiàn)數(shù)據(jù)資源的最大利用
2、在多方安全計算中，采用可計算的差分隱私能大大降低多方安全計算的計算復(fù)雜度和通訊量。

缺點：
1、噪聲回對模型可用性和準(zhǔn)確性造成一定程度影響（對于準(zhǔn)確度要求較高的場景如人臉識別、金融風(fēng)險計量，目前無法大規(guī)模應(yīng)用該項技術(shù)）。
2、差分隱私保護目標(biāo)是計算結(jié)果而不是計算過程（以機器學(xué)習(xí)建模為例，差分隱私可以在建模結(jié)果上加入噪聲，保證攻擊者難以從建模結(jié)果反推出樣本信息，但差分隱私依然需要計算方顯式的訪問訓(xùn)練數(shù)據(jù)，因此沒有保護建模過程，因此與前面三種方案有根本不同）。

比較

應(yīng)用場景

聯(lián)合營銷：跨行業(yè)數(shù)據(jù)融合重構(gòu)用戶畫像

聯(lián)合風(fēng)控：引入外部數(shù)據(jù)優(yōu)化金融風(fēng)控模型

智慧醫(yī)療：數(shù)據(jù)互通發(fā)揮醫(yī)學(xué)數(shù)據(jù)價值

電子政務(wù)：促進(jìn)政務(wù)數(shù)據(jù)安全共享開放

發(fā)展趨勢

國外
從隱私計算本身的發(fā)展歷程來看，國外企業(yè)布局隱私計算較早。早在2008年第一家專攻多方安全計算解決方案的技術(shù)廠商Partisia就已在丹麥成立，為商務(wù)合同、加密拍賣等場景提供安全方案科技巨頭中，微軟從2011年開始深入研究多方安全計算、谷歌在全球率先提出聯(lián)邦學(xué)習(xí)的概念、Intel打造SGX成為絕大部分可信執(zhí)行環(huán)境實現(xiàn)方案的底座，均已成為各條技術(shù)路線主要的領(lǐng)路人。其他如IBM致力于將同態(tài)加密與云服務(wù)結(jié)合，幫助用戶數(shù)據(jù)安全上云；Facebook則是專攻基于隱私計算的機器學(xué)習(xí)。創(chuàng)業(yè)公司中，Sharemind、Privitar致力于搭建自研的多方安全計算平臺；Duality基于密碼學(xué)開發(fā)的SecurePlus平臺在新冠疫情中支撐了醫(yī)學(xué)機構(gòu)進(jìn)行病毒基因分析。此外，AI公司Zama、區(qū)塊鏈公司Enigma等均在推進(jìn)多方安全計算、同態(tài)加密等方向的技術(shù)研發(fā)。但從總體的應(yīng)用場景來看，目前國外隱私計算項目中的很大一部分都是面向區(qū)塊鏈和加密虛擬貨幣的場景。如美國的Unbound Tech和丹麥的Sepior均集中于將多方安全計算應(yīng)用于分布式密鑰管理領(lǐng)域。
國內(nèi)
跟國外相比，我國企業(yè)開始布局隱私計算的時間要更晚，大致在2016年之后才開始出現(xiàn)獨立的隱私計算商業(yè)項目，但國內(nèi)產(chǎn)業(yè)化發(fā)展的速度較快。伴隨著各行業(yè)企業(yè)對合規(guī)數(shù)據(jù)流通的需求日益強烈，越來越多的行業(yè)客戶開始愿意進(jìn)行嘗試，整體行業(yè)從概念驗證到全面實施趨勢明顯。根據(jù)調(diào)研，目前超過81%的隱私計算產(chǎn)品進(jìn)入了試點部署或?qū)嵤╇A段。
1）從技術(shù)路線上看，多方安全計算的復(fù)雜度高、開發(fā)難度大，龍頭企業(yè)多致力于此，力圖打造以多方安全計算為底座的數(shù)據(jù)流通基礎(chǔ)設(shè)施，26%的企業(yè)布局了這類技術(shù)方案
2）可信執(zhí)行環(huán)境對于硬件的局限及國外芯片的強依賴，使得其在國內(nèi)的產(chǎn)品選型相對較少，提供此類方案的企業(yè)占比約為21%，較集中于互聯(lián)網(wǎng)大廠和部分初創(chuàng)企業(yè)，但目前已出現(xiàn)一些技術(shù)企業(yè)與芯片企業(yè)在國產(chǎn)化硬件研發(fā)上的合作探索；
3）對于聯(lián)邦學(xué)習(xí)，由于機器學(xué)習(xí)類應(yīng)用需求的突出，且有較成熟的開源社區(qū)為基礎(chǔ)，開發(fā)難度相對輕松，因而，運營商、金融科技公司等自營業(yè)務(wù)需求方大多專注在基于聯(lián)邦學(xué)習(xí)的隱私計算產(chǎn)品化中，提供聯(lián)邦學(xué)習(xí)方案的企業(yè)數(shù)量占比約為52%。此外，由于各類技術(shù)方案各有優(yōu)勢，面對用戶的不同應(yīng)用需求，21%的企業(yè)提供多種技術(shù)方案供用戶選擇?！峨[私計算白皮書》

發(fā)展展望

可用性提升：
1、算法優(yōu)化（算法加速，減低子模塊耦合度，流程重新編排，減少節(jié)點通信次數(shù)實現(xiàn)通信加速，底層語言實現(xiàn)代碼加速）。
2、硬件加速。

多元技術(shù)融合：
1、聯(lián)邦學(xué)習(xí)與多方安全計算融合能夠滿足對等網(wǎng)絡(luò)無可信第三方的聯(lián)合建模應(yīng)用需求。
2、聯(lián)邦學(xué)習(xí)與差分隱私融合能夠增強對梯度參數(shù)的保護程度，進(jìn)一步防止中間梯度信息泄露。
3、聯(lián)邦學(xué)習(xí)與可信執(zhí)行環(huán)境融合能夠提升隱私數(shù)據(jù)或模型的安全等級等。
4、隱私計算與區(qū)塊鏈等其他領(lǐng)域技術(shù)的融合拓展應(yīng)用邊界。

應(yīng)用落地：
1、完善的隱私計算相關(guān)標(biāo)準(zhǔn)有助于產(chǎn)品規(guī)范。
2、成熟的檢測和驗證手段有助于產(chǎn)品落地應(yīng)用。

多方生態(tài)融合：
1、法規(guī)體系需加速完善。
2、應(yīng)用體系需進(jìn)一步加強。
3、開源協(xié)同加速隱私計算技術(shù)迭代，技術(shù)開源。

總結(jié)

回到本博客的標(biāo)題，差分隱私與其他隱私計算的聯(lián)系是什么？
1、差分隱私是隱私計算中技術(shù)的一種，與同態(tài)加密，數(shù)據(jù)脫敏，混淆電路等算法同級別。每種技術(shù)側(cè)重點不同，前面也提到了，差分隱私更關(guān)注結(jié)果，對于隱私計算的過程沒有保護。
2、安全多方計算，聯(lián)邦學(xué)習(xí)都可以用差分隱私，它們相當(dāng)于是隱私計算的一個子集，差分隱私是這個子集中的一個元素，或者說是子集的子集。
3、安全多方計算在我看來更像是一個協(xié)議，可被用于聯(lián)邦學(xué)習(xí)中。聯(lián)邦學(xué)習(xí)更像是一個隱私計算的框架，可用其他技術(shù)，包括TEE。在隱私計算體系結(jié)構(gòu)中我感覺算法應(yīng)用基本都是描述聯(lián)邦學(xué)習(xí)的。

補充

差分隱私來自于密碼學(xué)的安全語義：

即對于任意等長的消息m，只要這個m屬于消息空間（就是說用這個加密算法可以加密m），那么用加密密鑰k加密后，加密結(jié)果“看起來都一樣”，沒法看出來這是從m，還是從其他什么消息加密得來的。
差分隱私用隨機化的方法實現(xiàn)了這個安全語義，更直白的說是用了加噪的方法。不管是隨機響應(yīng)還是拉普拉斯機制都對原始結(jié)果進(jìn)行擾動，可以理解為密碼學(xué)中的加密。只是差分隱私?jīng)]有解密的方法，或者說是沒有解密成明文的方法，但是可以通過概率估計的方法滿足需求。

總結(jié)

以上是生活随笔為你收集整理的差分隐私？联邦学习？安全多方计算？它们之间是什么关系？的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。