9月5日，美國社交巨頭Facebook（臉書）CTO（首席技術(shù)官）Mike Schroepfer發(fā)布的一篇博客文章宣布，F(xiàn)acebook正和微軟聯(lián)合來自牛津、伯克利等大學(xué)的人工智能研究者，研究如何檢測“deepfakes”換臉視頻。

行業(yè)聯(lián)盟Partnership on AI（人工智能合作伙伴）、康奈爾科技校區(qū)（Cornell Tech）、麻省理工學(xué)院（MIT）等機(jī)構(gòu)也一道參與了這項工作。Partnership on AI的成員中包括谷歌、蘋果、亞馬遜、IBM等大型科技公司。

據(jù)英國金融時報9月5日報道，Deepfake換臉視頻的擴(kuò)散會威脅正常的政黨競選。專家擔(dān)憂，這項技術(shù)可能會在2020年美國總統(tǒng)大選之前創(chuàng)造出更多換臉政客的假新聞。此次的聯(lián)合行動，是Facebook試圖解決這一令人擔(dān)憂的問題所做的努力。

為此，F(xiàn)acebook貢獻(xiàn)出了1000萬美元，以完成“檢測deepfake挑戰(zhàn)”，希望能夠激發(fā)新工具的創(chuàng)造，能夠用低成本的技術(shù)檢測出人工合成的假視頻。

作為該項目的一部分，F(xiàn)acebook正在委托研究人員制造一系列逼真的deepfakes換臉視頻，以創(chuàng)建用于測試檢測工具的數(shù)據(jù)集。公司表示，視頻將采用付費演員出演，不會使用任何用戶數(shù)據(jù)。這些視頻將在2019年12月份公開發(fā)布。

據(jù)路透社9月5日報道，雖然在美國，目前還沒有質(zhì)量極高的換臉視頻引發(fā)重大政治后果，但最近有關(guān)美國眾議院議長Nancy Pelosi的劣質(zhì)編輯視頻片段已經(jīng)證明，這種合成視頻可能會引發(fā)動蕩。上述視頻中，Pelosi的演講被人為降速，讓她看上去含混不清。

上述報道介紹，一些研究人員正研究在捕獲點通過數(shù)字水印驗證視頻或圖像真實性的系統(tǒng)，但是，deepfake技術(shù)的迅速發(fā)展，讓合成視頻制作者和檢測人員之間展開了一場軍備競賽。

“這是一場貓鼠游戲，如果我設(shè)計一個deepfakes檢測器，我就直接給了這些黑客一個新的模擬器進(jìn)行反測試?！奔~約大學(xué)Tendon學(xué)院計算機(jī)工程助理教授Siddharth Garg表示。

路透社的報道也提到了正在中國引發(fā)爭議的換臉應(yīng)用ZAO，稱這一應(yīng)用迅速登上了中國App store免費下載榜的首位，讓不懂技術(shù)的創(chuàng)造者更易換臉，現(xiàn)在ZAO由于隱私擔(dān)憂面臨了強(qiáng)烈反對。

而且，當(dāng)下的互聯(lián)網(wǎng)上，通過讓這類合成視頻更易制作，一些deepfake創(chuàng)造者發(fā)現(xiàn)了新的市場機(jī)遇。從波蘭到日本，人工智能深度學(xué)習(xí)愛好者在Youtube上發(fā)布手把手教程，并把人工智能合成的美國總統(tǒng)特朗普聲音以每50個單詞30美元的價格叫價銷售。他們還運營自助服務(wù)的網(wǎng)站，讓用戶能夠制作出deepfakes視頻。

Facebook目前還沒有出臺關(guān)于deepfake視頻的具體政策。2019年6月，一則Facebook創(chuàng)始人馬克·扎克伯格的換臉視頻引發(fā)爭議，不過Facebook的做法不是撤下該視頻，而是以對待假新聞一樣的方法處理這個內(nèi)容，并最終對其進(jìn)行了限流。

2019年6月，美國眾議院對deepfakes展開聽證會。2019年7月，眾議院情報委員會主席Adam Schiff要求Facebook、Twitter、YouTube母公司谷歌等科技公司提供對抗deepfakes視頻的方法。

9月5日當(dāng)天，Schiff發(fā)布聲明表示，F(xiàn)acebook此次發(fā)起的行動是“有意義的一步”。