近日，荷蘭議會外交事務委員會在視頻會議軟件Zoom上被AI換臉技術所騙，對方利用Deepfake（深度偽造技術）冒名頂替俄羅斯反對派領導人阿列克謝·納瓦爾尼的參謀長列昂尼德·沃爾科夫（Leonid Volkov）。

▲列昂尼德·沃爾科夫

這樣的事情并非第一次發(fā)生。此前，沃爾科夫的冒名頂替者還與拉脫維亞和烏克蘭政治家進行了交談，與英國、愛沙尼亞和立陶宛的政治人物進行了接觸。

荷蘭國眾議院在一份聲明中說到，眾議院對此次Deepfake換臉事件感到憤慨，并正在研究如何防止此類事件再次發(fā)生。

一、單張照片即可換臉，Deepfake成政治武器

Deepfake由深度機器學習和假照片組合而成，本質(zhì)是一種AI深度學習模型在圖像合成、替換領域的技術框架，屬于深度圖像生成模型的一次成功應用。

Deepfake技術出現(xiàn)于2017年，給影視制作等方面帶去高效、低成本制作等好處，但隨之而來也存在造假、造謠、欺詐等倫理問題，真假混淆使得人們愈發(fā)缺乏安全感。

去年，俄羅斯的兩位研究員推出了一款名為Avatarify的軟件，可以與Zoom或Skype等視頻會議軟件配合使用，將視頻會議中用戶的面容變成任意指定名人的樣子。通過Avatarify的使用，用戶只需要一張制定照片就可以完成臉部替換。

▲使用Avatarify軟件換臉（右下）

AI換臉技術運用于視頻通話存在潛在風險，惡作劇者可能會欺騙政府做出糟糕的政策決定，還會成為政客間相互攻擊的武器。

在2020年美國大選期間，特朗普4月在推特上轉發(fā)了一個偽造拜登吐舌頭的視頻，當晚視頻播放量超過1000萬次。隨后特朗普在5月又轉發(fā)了用自己臉替換科幻電影《獨立日》中總統(tǒng)托馬斯·懷特摩爾、發(fā)表“我們要為我們的生存而戰(zhàn)”演講的視頻。

▲特朗普推特轉發(fā)拜登換臉惡搞視頻

二、商學政界積極應對Deepfake風險

目前，針對Deepfake，谷歌、微軟、Facebook等眾多科技巨頭都在開發(fā)各種檢測技術。但目前比較進階的Deepfake仍然可以騙過大多數(shù)AI檢測模型。

2019年6月13日，美國眾議院情報委員會召開關于人工智能深度偽造的聽證會，公開談論了深度偽造技術對國家、社會和個人的風險及防范和應對措施。這是美國眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術的聽證會。

會議邀請了四位來自不同領域的專家，分別是美國外交政策研究所研究員克林特·瓦茨（Clint Watts）、馬里蘭大學法學教授丹尼爾 · 希特倫（Danielle Citron）、布法羅大學人工智能研究所所長大衛(wèi)·多爾曼（David Doermann）和Open AI政策總監(jiān)杰克·克拉克（Jack Clark），以系統(tǒng)介紹深度偽造技術及解答議員的疑惑，共同探討“深度偽造”的風險及應對之策。

在我國，相關監(jiān)管政策也在不斷完善。我國《民法典》第1019條明確指出，任何組織或個人不得利用信息技術手段偽造等方式侵害他人的肖像權。

結語：警惕視頻通話中的AI換臉技術

荷蘭視頻會議遭AI換臉，表明當前AI換臉技術風險已滲透到安全性較高的政界，各界應當加大AI換臉技術的監(jiān)管。

未來，可能需要嚴格的篩查流程來識別AI換臉技術，以此確保視頻通話中每個參與者都是真實的。

來源：Engadget