在互聯(lián)網(wǎng)上沖浪的時候，你可能看過這樣的視頻
范冰冰換臉韓國女團
也有可能看過這樣的視頻：
換臉惡搞視頻
這樣的技術叫做深度偽造，英文叫做deepfake。它不只包括AI換臉，甚至連聲音都能偽造。
隨著技術一步步的提升，你真的能分清一個視頻究竟有沒有換臉嗎？我們挑選了幾個難以辨別的偽造過的視頻和沒有偽造過的視頻混在一起，來自我檢驗一下辨別能力吧~
答案：NO.2和NO.6是沒有偽造過的，你答對了嗎？（歡迎在評論區(qū)分享你的答案，以及判斷依據(jù)）
那究竟一個深度偽造視頻是如何被生產(chǎn)出來的？
深度偽造來源于“深度學習（Deep learning）”和“偽造（fake）”。其操作過程為將圖像、視頻、音頻片段進行合并、替換或疊加，從而創(chuàng)建出作者需要的看起來是真實的，但事實上從未說過和做過的假的音頻、視頻等。
深度偽造技術主要基于“生成式對抗網(wǎng)絡”（Generative Adversarial Networks，簡稱 GAN）的機器學習模型的人工智能技術。同時搭載生成模型和判別模型兩大神經(jīng)網(wǎng)絡。簡單來說就是一個生成，一個反饋，兩種算法在零和博弈中不斷改進。這使得 deepfakes 難以對抗，因為它們在不斷發(fā)展，任何時候確定一個缺陷，它都可以被糾正。
用魔法打敗魔法？那我們在監(jiān)測方面的技術進步呢？
2020年臉書（Facebook）公司贊助并發(fā)起了一項人臉視頻深度偽造檢測挑戰(zhàn)賽（DFDC）。最優(yōu)的算法模型在已知的訓練數(shù)據(jù)集中識別偽造視頻的準確率達80%以上，但是，在更真實的、不可預見的黑盒測試中，最優(yōu)算法模型的識別準確率只有65%，遠低于在已知訓練數(shù)據(jù)集中的識別準確性。Facebook公司發(fā)言人表示：“比賽結果顯示的較低準確率強調(diào)了一點，即建立一套能夠概括歸納深度偽造技術未知領域的系統(tǒng)，仍然是一個亟待解決的難題。”
南洋理工ROSE Lab: Deepfake檢測
深度偽造對我們的生活又有什么影響呢？
深度偽造的力量借助名人的面孔和聲音被放大。2018年，美國網(wǎng)媒媒體Buzzfeed發(fā)布一段短視頻，利用人工智能技術來模仿前總統(tǒng)奧巴馬，在視頻中批評時任美國總統(tǒng)特朗普“是個完完全全的蠢豬”。今年6月24日，有人用“深偽”假扮成烏克蘭首都基輔市長，先后與歐洲三個城市柏林、馬德里和維也納市長進行了視頻通話，但柏林市長在通話15分鐘后發(fā)現(xiàn)此人是假冒。
模仿奧巴馬的深度偽造視頻
當然“雙刃劍”也有好的一方面：2018 年 2 月 14 日，在校園槍擊案中失去生命的華金在深度偽造技術的幫助下起死回生，以鼓勵人們支持槍支安全立法。
2020年10月29日，金·卡戴珊在她的生日發(fā)布了她已故父親羅伯特·卡戴珊的深度偽造祝福視頻，說這是她收到過最感動的禮物。我們在國內(nèi)的短視頻平臺上也會看到將逝者的面孔復活的正面案例。
深度偽造后的華金鼓勵人們支持槍支安全立法
金卡戴珊發(fā)推表達對于坎爺送她父親“死而復生”視頻的感謝
深度偽造技術最初興起時技術門檻較高，且需要依賴海量源素材進行機器學習，因此初始階段深度偽造技術惡意使用的受害者主要是政客及明星等公眾人物。如今隨著深度偽造技術的不斷成熟，機器學習模型僅需少量素材，甚至只需一張照片或一段音頻即可進行樣本分析，并完成高精準度的模擬成果輸出。而且相關應用工具能夠免費獲取、簡單易操作，技術工具愈加智能，所有個體都有可能成為深度偽造技術的使用者和受害者。
深度偽造也帶來了很多法律、道德和倫理層面的問題。犯罪分子利用AI換臉和AI語音合成技術進行詐騙的案例屢見不鮮，未經(jīng)本人允許創(chuàng)作或傳播的色情視頻更是一個巨大威脅。而對社交網(wǎng)絡而言，深度偽造技術可能傳播錯誤信息、影響公眾輿論，進而降低公眾對互聯(lián)網(wǎng)內(nèi)容的信任度，并醞釀著更大的信任危機。想象這樣的場景，如果你站在法庭上，錄音錄像若不能形成證據(jù)，那我們的真實證據(jù)又來自哪里？
即便牽扯到種種錯綜復雜的問題也并不影響一個趨勢即將成為事實：在不遠的未來，“深度偽造”技術將走進千家萬戶，每個人說不定都可以通過AI合成克隆自己的人臉和聲音，并用于短視頻、直播、交互媒體等更廣闊的領域。然而，無限接近于真實，卻依然不是真實，在這宏偉藍圖背后可能暗藏的隱患和還未浮現(xiàn)的新挑戰(zhàn)，仍然有待書寫和填補。
參考文獻：
田少波,田騫.深度偽造技術：倫理挑戰(zhàn)與反思
毛寧,楊會.深度偽造技術的監(jiān)管困境及其法律應對
文字：李欣怡 皮尹婷
視頻剪輯：付光圓
圖片素材來源于網(wǎng)絡
暫無評論，快來評論吧!