Deepfake，這一 AI 領域的“大毒瘤”，正在引起越來越多來自行業的反擊。

當地時間2020年1月6日，Facebook 全球政策管理副總裁 Monika Bickert 在博客中表示，Facebook 將刪除滿足其標準的 Deepfake 視頻。這是 Facebook 打擊平臺上「操縱媒體」（Manipulated Media）的最新動作。

Monika Bickert 表示：

雖然 Deepfake 視頻當前在互聯網上仍然很少見，但其數量的增加將會對行業和社會構成重大挑戰。

何為 Deepfake？

Deepfake，大家可能或多或少聽過名字。

2017年底，美國社交新聞網站 Reddit 的一位用戶 Deepfakes 運用人工智能技術，制作了一段“假”色情視頻，把《神奇女俠》女主角 Cal Gadot 的臉嫁接到一個成人電影女星身上，一時間引起轟動。

實際上，換臉在計算機視覺領域頗為常見，提到 AI 換臉的方法，一個繞不開的話題便是 Cycle GAN——人臉轉換在早期的一個重要嘗試。 Cycle GAN 由深度學習模型 GAN（Generative Adversarial Networks，即生成對抗網絡）衍生而來，可以便捷地學習兩個類別之間的轉換關系，因而天然地適用于「圖像到圖像轉換」。

不過，Cycle GAN 保證了語義上的轉變，卻沒法保證一些細節問題，而最主要的兩點便是表情無法一一對應、會出現混雜無意義的像素。

不同于 Cycle GAN，Deepfake 是一種深度自動編解碼器模型（Autoencoder-Decoder），通過用源人物和目標人物的至少幾百張照片，訓練模型分別識別、還原兩人面部的能力，最后用源人物的照片搭配目標人物的解碼器，從而完成轉換。

當然，Deepfake 也有局限——無法在小樣本上工作，也就是說無法憑一兩張照片就替換兩張臉，模型的訓練過程也需要消耗大量資源。

由于用戶 Deepfakes 制作并上傳的換臉視頻涉及色情內容，且侵犯了他人隱私，Reddit 官方將其封號，而作為報復，Deepfakes 也將換臉視頻的 AI 代碼免費公開。

潘多拉的魔盒一打開，Deepfake 開始憑借著驚人的發展速度、逼真的換臉效果，并最終造成了惡劣的社會的消極影響。荷蘭網絡安全初創公司 Deeptrace 曾于2019年10月發布了一份關于 Deepfake 現狀的報告，并指出網絡上現有的 Deepfake 視頻中有96% 涉及色情，各大色情網站上流傳的 Deepfake 視頻中，所有受害者均為女性；同時，娛樂圈名人成為 Deepfake 視頻的主要惡搞對象。

另外，Deepfake 對政局的影響也不容小覷，其中最為典型的兩個例子是：

• 2018年，由 Deepfake 合成的加蓬總統 Ali Bongo 新年致辭視頻曾引起了兵變；

• 2019年，馬來西亞經濟部長 Azmin Ali 與男性發生性關系的視頻攪動了馬來西亞政局（雷鋒網(公眾號：雷鋒網)注：同性性關系在馬來西亞屬違法行為，Azmin Ali 聲稱視頻是由 Deepfake 技術偽造，屬政治陰謀）；

正如荷蘭網絡安全初創公司 Deeptrace創始人兼首席科學官 Giorgio Patrini所說：

無論是視頻、音頻還是文本，我們一直以來依賴和信任的多個數字通信渠道都已遭到了顛覆。

政府、企業、學界聯合發力

Deepfake 視頻的發展自然而然引發了人們的恐慌與深思。因此，各大科技企業也開始聯合學術界做出行動，避免造成更深的負面影響。

正如紐約州立大學工程與應用科學學院呂思偉教授所說：

解決這一問題需要技術人員、政府機構、媒體、公司以及每一個在線用戶的共同努力。

2019年9月5日，Facebook CTO Mike Schroepfer 宣布，Facebook 正與微軟公司聯合包括麻省理工學院、牛津大學、康奈爾科技校區和伯克利大學在內的多所大學研究檢測 Deepfake 的方法，同時非營利性研究組織 Partnership on AI 也參與其中，該組織的成員包括 Google、蘋果、亞馬遜、IBM 等大型科技公司。

另外，Facebook 投入了1000萬美元發起“Deepfake 檢測挑戰賽”（Deepfake Detection Challenge，DFDC），競賽于2019年末在溫哥華舉行的 NeurIPS 2019上正式啟動，并于2020年春季結束，進而激勵研究人員以及業余愛好者尋找解決方案。

當月，Google AI 開源 Deepfake 視頻檢測數據集，該數據集共包含來自28個不同場景的由真人演員歷時1年現場拍攝的3000多段視頻。

2019年10月初，美國參議院情報委員會的 Mark Warner 和 Marco Rubio 召集了包括 Facebook、Twitter、YouTube、Reddit 和領英在內的11家科技公司負責人，旨在加快制定行業標準，規范 AI 合成內容的分享、移除及存檔。月末，Twitter 發布了平臺擬將執行的草案，并公開征集用戶意見。

正如本文開頭提到的，Facebook 近日發布博客，公開了針對 Deepfake 視頻的新政策。

博客提到，Facebook 將刪除符合以下標準的操縱媒體：

• 過度編輯或合成的視頻，誤導觀眾以為視頻中的人物說了他們實際并沒有說過的話；

• 通過 AI 或機器學習技術對原有視頻素材進行整合、替換或疊加生成的視頻。

值得一提的是，對于不符合上述標準的視頻，第三方事實核查員也會審查（包括 Facebook 的全球50多個合作伙伴，將使用40多種語言進行核查）。如果視頻被評定為虛假或部分虛假，Facebook 將明顯減少其在 News Feed 信息流中的傳播，用戶在分享該視頻時也會收到提醒。

同時，Facebook 指出，新政策不適用于涉及模仿或諷刺內容的視頻，以及僅作了刪減或改變了說話順序的視頻。

Facebook 新政策充滿爭議

美智庫新美國安全中心 CNAS 技術與國家安全項目主任 Paul Scharre 曾警告說：

Deepfake 具有極大的破壞性，利用它來操控選舉只是時間問題。

因此，進入2020年，隨著本屆美國總統大選臨近，作為全球最大的社交媒體平臺，Facebook 此舉自然也考慮了政治方面的因素。

雷鋒網了解到，Monika Bickert 的博客于她即將出席國會關于網絡操縱和欺騙的聽證會之前發出，這可能并非巧合——距離2020年大選只剩10個月時間，很少有哪個政治階層的人對 Facebook 在民主進程中發揮的作用感到滿意，此次政策的宣布似乎是 Facebook 在向當局證明自己的能力。

談到政治，猶記得，2019年一段美國民主黨議員 Nancy Pelosi 的演講視頻遭到惡搞（視頻倍速降低至0.75X，Nancy Pelosi 音調也被調高），使其看上去很像是醉酒狀態。很快，這段視頻就傳遍了各大社交網絡，對當事人形象造成了極大影響。

對此，Facebook 表示，由于視頻屬于常規剪輯，并未違反平臺的任何規定，因此不會刪除；不過鑒于其負面影響，Facebook 減少了該視頻在平臺的傳播。

這一做法招致了廣泛批評，而 Facebook 此次推出的“新政”也未針對類似去年 Nancy Pelosi 視頻的虛假內容給出令人信服的策略，因此充滿爭議，爭議的主要原因有以下幾條：

第一，第1條標準只適用于那些「讓觀眾誤以為視頻中的人物說了他們實際上沒有說過的話」的視頻，也就是說不包含那些讓觀眾誤以為視頻中的人物做了他們實際上沒有做過的事情的 Deepfake 視頻。

其實這是個很大的漏洞。按照 Facebook 的說法，哪怕一個 Deepfake 視頻里面有政客焚燒美國國旗，參加白人民族主義集會，或與恐怖分子握手，Facebook 也不會刪除視頻。雖然以上都是「極端情況」，但在外交政策、國家安全和選舉誠信方面，這些往往是最緊要的。尷尬的是，Facebook 一位發言人的確向美國付費媒體 OneZero 證實，這些情況下平臺不會刪除視頻。

第二，第2條標準對于控制虛假信息的傳播效果有限，因為現階段絕大多數此類視頻依然是通過視頻剪輯軟件來編輯的，通過手動刪除背景信息或調整語序，視頻剪輯者便到達了“斷章取義”的目的。正如紐約大學斯特恩商業和人權中心副主任、政治虛假信息專家 Paul Barrett 所說：

根據 Facebook 的新政策，即便是虛假視頻，但因為篡改的手段不先進，所以不會被刪除。

第三，Facebook 在博客里提到的「事實核查政策」有嚴重的局限性。美國《連線》雜志作家 Renée DiResta 認為：

事實核查政策的一個主要問題就是太慢了，在查明事實之前，視頻一直在病毒式傳播；而且如果涉及到政治，大多數人并不會相信事實核查的結果，這甚至還會升級為黨派之爭。

一個很好的例證便是——2019年 Facebook 的事實核查機制啟動時，Nancy Pelosi 的視頻已經廣為傳播，而且最終也沒被刪除，負面影響并未降低；面對網絡暴力，Nancy Pelosi 還指責 Donald Trump 團隊也有不可推卸的責任（雷鋒網注：視頻中 Nancy Pelosi 在談論 Donald Trump）。

第四，該政策僅針對視頻。近日，美國亞利桑那州共和黨眾議員 Paul Gosar 在 Twitter 上發了一張前總統 Barack Obama 與伊朗總統握手的偽造照片。Facebook 證實，這確實也不在新政策針對的范圍內。

第五，該政策最大的漏洞是不適用于涉及模仿或諷刺的視頻。實際上，虛假信息制造者往往是利用“諷刺”的標簽做幌子，一次次順利通過 Facebook 的事實核查，病毒式傳播著帶有明顯誤導性的消息。除非 Facebook 明確定義什么才算“諷刺”，否則 Deepfake 視頻借著“諷刺”的名號蒙混過關也不是不可能。

第六，該政策可能有向權貴低頭之嫌。據《紐約時報》報道，Facebook 的一位發言人發郵件稱：

如果政治演講符合公眾利益，Facebook 不會對其進行審查。 如果是政治人物違反了平臺規定，我們將通過權衡「公共利益價值和損害風險」來進行評估。

對此，《紐約時報》認為，所謂的「公共利益價值和損害風險」定義模糊，但可以確定的是，政治人物是受到保護的階級。如此看來，政治人物操縱社交媒體，似乎比普通人更容易。

在批評聲不絕于耳之時，也有一些人士表示了對這一政策的肯定。

比如非營利組織 WITNESS 的項目主管 Sam Gregory 表示：

我認為這個政策很好，在 Deepfake 成為一個普遍的問題之前，社交平臺首先要清楚地表明立場，宣布他們的具體政策，這是很重要的。

總結

以上是生活随笔為你收集整理的AI行业反击：向 Deepfake 宣战！的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。