0
| 本文作者： 付靜 | 2020-06-13 15:39 |
不否認已有的成績，但問題還沒解決。
為應對自 2017 年起引起全球恐慌的「AI 大毒瘤」Deepfake，政府、企業(yè)、學界聯合發(fā)力。
2019 年，Facebook 斥巨資發(fā)起“Deepfake 檢測挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC）。最近，Deepfake 檢測挑戰(zhàn)賽首個結果新鮮出爐，識別準確率最高可達 82.56%，黑盒測試準確率最高為 65.18%。
故事源于 2017 年。
美國社交新聞網站 Reddit 一位名為 Deepfakes 的用戶利用 AI 把《神奇女俠》女主角 Cal Gadot 的臉嫁接到一個成人電影女主身上，偽造了一段色情視頻 po 上網絡。
視頻火了，Deepfake 技術也火了。
從技術角度來看，Deepfake 是種深度自動編解碼器模型（Autoencoder-Decoder），通過用源人物和目標人物的至少幾百張照片，訓練模型分別識別、還原兩人面部的能力，最后用源人物的照片搭配目標人物的解碼器，從而完成轉換。
毫無疑問，用戶 Deepfakes 上傳的視頻涉及色情內容，且侵犯到了他人隱私，Reddit 官方自然而然地將其封號。不過，Deepfakes 也很剛，作為報復，直接把視頻的 AI 代碼免費公開。
此后，AI 大毒瘤開始迅速發(fā)酵——荷蘭網絡安全初創(chuàng)公司 Deeptrace 2019 年 10 月發(fā)布的關于 Deepfake 現狀的報告指出，Deepfake 視頻中 96% 涉及色情，在各大色情網站上瘋傳，所有受害者均為女性，娛樂圈名人成為主要被惡搞的對象。
可見，Deepfake 有著極其惡劣的影響，指不定哪天登上奇奇怪怪的網站連自己都不知道，真是細思極恐。
這還沒完，Deepfake 也被卷入了政治中——比如，由于同性性關系在馬來西亞屬違法行為，2019 年一段馬來西亞經濟部長 Azmin Ali 與男性發(fā)生性關系的視頻曝光后攪動了政局，不過 Azmin Ali 表示視頻屬 Deepfake 技術偽造，認為“這是場政治陰謀”。
基于此，政府、企業(yè)、學界下定決心聯合起來清除毒瘤。
2019 年 9 月 5 日，Facebook CTO Mike Schroepfer 宣布，Facebook 正與微軟聯合包括麻省理工學院、牛津大學、康奈爾科技校區(qū)和伯克利大學在內的多所大學研究檢測 Deepfake 的方法，同時非營利性研究組織 Partnership on AI 也參與其中，該組織的成員包括 Google、蘋果、亞馬遜、IBM 等大型科技公司。
同時，Facebook 投入了 1000 萬美元發(fā)起“Deepfake 檢測挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC），競賽于 2019 年末在溫哥華舉行的 NeurIPS 2019 上正式啟動，旨在激勵研究人員以及業(yè)余愛好者尋找能夠識別出由 AI 操縱的視頻算法。
具體來講，Facebook 雇傭了 3000 多名不同性別、膚色、種族、年齡的演員錄制了大約 10 萬個視頻片段數據集，其中一部分經過了 AI 的修改，把別人的臉貼在視頻里。
雷鋒網了解到，Facebook 利用了多種 Deepfake 生成模型、諸如圖像增強之類的細化技術以及諸如模糊、幀率修改和覆蓋之類的增強和干擾。這樣做的目的就是，使數據集能夠涵蓋實際可能存在的任何類型視頻。
為確保挑戰(zhàn)賽能達到預期的效果，Facebook 與康奈爾大學、麻省理工學院、慕尼黑技術大學、加州大學伯克利分校、奧爾巴尼桑尼大學、馬里蘭大學、那不勒斯費德里科二世大學以及牛津大學的專家合作，收集反饋和建議。
下圖是 Facebook AI 官方給出的挑戰(zhàn)賽時間節(jié)點。
可以看出，自 2019 年 12 月 11 日正式啟動以來，比賽如火如荼地展開，截止 2020 年 3 月 31 日，約 2114 名參賽者提交了超過 35000 種檢測算法。隨后的 4-5 月，研究人員對參賽者識別視頻的能力進行測試，從而評選獲勝者。
終于，當地時間 2020 年 6 月 12 日，Facebook AI 團隊公布 Deepfake 檢測挑戰(zhàn)賽首個結果——視頻識別算法準確率最高可達 82.56%，不過在黑盒測試（black box）中準確率最高為 65.18%，這表明特定場景的 Deepfake 視頻仍具有挑戰(zhàn)性。
實際上，檢測 Deepfake 的一個核心挑戰(zhàn)就是將新的場景歸到已知的例子中，因此難度升級，參賽者須設計即使在不可預見的情況下也可能有效的模型。每個參賽隊伍的方案都必須經過黑盒測試，黑盒數據集包括 10000 個比賽參與者無法獲得的視頻，既有可以在網上找到的視頻（有真有假），也包含專門為挑戰(zhàn)賽制作的視頻。
經過 2 個月重重篩選，排名總算出爐。
獲勝者的 ID 都不簡單，比如第四名【Eighteen years old】一不小心暴露了年齡，第七名【All Faces Are Real】表達了美好愿望，第九名【名偵探柯西】也是業(yè)務能力過硬。
還有推特小伙激動地表示：
仍然不敢相信我們榜上有名！
與此同時，Facebook AI 官方表示，參賽者已經做出了喜人的成績，但離自動化系統(tǒng)可靠地識別出 Deepfake 內容確實還有一段距離。
Facebook CTO Mike Schroepfer 也在新聞發(fā)布會上表示，他對這項挑戰(zhàn)賽的結果感到滿意，他認為這將為研究人員建立標準，有利于之后的進一步研究：
老實說，這場比賽比我想象的更成功。
實際上，Mike Schroepfer 還表示：
Facebook 目前正在獨立開發(fā)自己的 Deepfake 檢測技術，我們也會根據比賽過程中得到的一些經驗對我們的技術進行改進。
另外雷鋒網了解到，在即將到來的的計算機視覺領域“奧斯卡”CVPR 2020（2020 年國際計算機視覺與模式識別會議）上，Facebook 還將分享后續(xù)的計劃、公開挑戰(zhàn)賽的原始數據集，并開放獲勝算法的源代碼，從而為其他參賽隊伍提供借鑒，但 Facebook 將對自己的檢測技術保密，防止逆向工程。
目前看來，想要完全關上 Deepfake 潘多拉的魔盒，還有很長的路要走。后續(xù)研究進展如何，雷鋒網將持續(xù)關注。
引用來源：
https://ai.facebook.com/blog/deepfake-detection-challenge-results-an-open-initiative-to-advance-ai
雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。
