網紅小玉去年 7 月起，利用 AI Deepfake（人工智慧換臉）技術，盜用多位臺灣女性網紅、明星名人、政治人物人臉，置換成性愛影片角色，並透過加密通訊軟體 Telegram 開設群組招收會員販售牟利。
本次新型犯罪行為造成的受害者初估百人，連總統蔡英文都被換臉製成影片，國安局長陳明通也證實此事，赴立院備詢時強調這是「國安危機」，一出現時國安局便已經掌控狀況，也組成專家小組，集結一流學者、專家商討對策、加強偵防。
國內部分網友訕笑道，是因為總統本人被換臉套上色情影片，才會把這次視為國安危機並呼籲修法。但 Deepfake 被武器化的嚴重性似乎遠遠超過一般人的想像，除了非自願色情的形式外，未來我們還得開始小心商業上的詐騙，以及政治活動上的干擾。
臺灣總統不是第一個 Deepfake 受害者，卻也不會是最後一個。2020 世界各地的選舉中，Deepfake 尚未取代 Facebook 廣告成為主流，但已經悄悄生根並開始蔓延。這也不單只是一次性的刑事犯罪，它有可能成為網路世界裡的新型病毒，在民眾缺乏警戒心和防範策略的情況下，隨時入侵體內，殘害民主的健康和國家安全。
<h2>「被代言」的兩位美國前總統</h2>
最知名的案例是 2018 年，美國前總統歐巴馬（Barack Obama）的假影片敲響 Deepfake 的警鐘。影片裡歐巴馬語出驚人地說出「川普總統完全是個笨蛋」吸引 870 萬觀看，而他本人未曾在公開場合說過這句話，整段不過是影星喬登．皮爾（Jordan Peele）模仿歐巴馬說話、再經過 Deepfake 加工。
<img src="https://lh5.googleusercontent.com/MEnFnJoa4I6rsNG0aCLTIk3rwTqmistTtJaxYPg8dnbcDWrgPDyHkRNdTXO5NmPh901QdLbZo8hO6wmEc-HHe7A-EmhGkmlc07D4O6zRlVVpAKjJMbSeaGtTewufA8y4hsDXxL6F" width="602" height="333">
（出處：<a href="https://www.youtube.com/watch?v=cQ54GDm1eL0">You Won’t Believe What Obama Says In This Video! 😉</a>）
Deepfake 要先有當事人大量的影像，用機器學習找出臉部表情特徵，資料越完備越是擬真關鍵，時常在公開場合露面的政治人物及明星網紅，便因此淪為實驗對象，美國前總統川普（Donald Trump）也成為目標之一。
<img src="https://lh5.googleusercontent.com/HCYWOP3MKzRpQykOu52QB4pKSW_hCMqbnKBjnYbq2Ez3-WkcdA1P6RYHwaMt7rGxEnLhmm8HqOEY0TlcLio2MkTttXoe_1QBFHUE2Y46g_XjOCttAZW9M8r9GYhEgjJEt4pQR4Ny" width="471" height="568">
（出處：<a href="https://twitter.com/vooruit_nu/status/998089909369016325?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E998089909369016325%7Ctwgr%5E%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.juicyapp.com%2Fe38090e79cbce8a68be69caae782bae79c9fefbc9adeepfakee4babae5b7a5e699bae883bde68f9be88789e68a80e8a193e38091%2F">Vooruit Twitter</a>）
片段中他以一貫的神情和動作發表演講，批評比利時對全球暖化的問題、無理攻擊、最後再自吹自擂。但這其實是比利時的一個政黨在社群軟體上發布的 Deepfake 影片，他們的發言人解釋，片段內的低水準效果是為了提醒網友影片是假的，希望能宣傳氣候議題。
儘管五官、肢體語言、語氣都極為相似，熟悉美國政治的觀眾，還是能從歐巴馬不自然的面部表情和乍聽之下有些奇怪的川普嗓音發現這並非本尊。但僅隔一年，全世界的 Deepfake <a href="https://www.vice.com/en/article/jgedjb/the-first-use-of-deepfakes-in-indian-election-by-bjp">數量翻了一倍</a>，技術越發成熟，對政治的影響力日益加劇。
<h2>2020 年選舉，Deepfake 扮演什麼角色？</h2>
印度德里議員選舉前一天，人民黨德里主席 Manoj Tiwari 兩段批評政府的影像在 WhatsApp 上廣為流傳，一部影片是英語，另一部則是哈里亞納語。
<img src="https://lh6.googleusercontent.com/Su7_xLWlfMbjVPhLCfmLmVuyV8_02B4KkFPOZ0e9Ise-ODzKhf-CBw1R8j2RBSka2Bhtqb4ktIOVg8mnpoGfm52fMRGuiZNwWF04p_Nuu7tl7-LSDh2bymY3X7UM2_exBI9qG6_C" width="513" height="312">
（出處：<a href="https://www.youtube.com/watch?v=2Tar2O4q0qY">MT Original</a>、<a href="https://www.youtube.com/watch?v=88GUbuL89bQ">MT English</a>）
正如在臺灣不會方言的候選人，很難在特定選區獲得青睞一樣，印度光是認定的國家語言就有 22 種，為候選人競選創造了極高的門檻。<a href="https://www.vice.com/en/article/jgedjb/the-first-use-of-deepfakes-in-indian-election-by-bjp">印度人民黨透露</a>，德里有相當大量的哈里亞納語移工，他們和政治傳播公司合作，透過這支 Deepfake 影片打入選民心中，成績也確實斐然。這支影片在德里及大首都圈近 6,000 個 WhatsApp 群組傳播，觸及民眾高達 1,500 萬人，印度人民黨聲稱，「Deepfake 幫我們把競選活動推展到前所謂有的規模。」
到了 10 月，美國佛羅里達州民主黨眾議院候選人菲爾．埃爾（Phil Ehr）也發布了 Deepfake 製作的競選廣告，讓他的對手麥特．蓋茨（Matt Gaetz）說出「福斯新聞很爛」和「歐巴馬比我還要酷」等與當事人意願無關的話，埃爾在貼文中聲稱，他是試圖讓選民意識到俄羅斯等境外勢力，如何用新科技影響美國選民認知和選舉結果。

<img src="https://lh4.googleusercontent.com/LZf3G25aDmEmJpKS2E3Zp0uT98fD_aqrCiBjpneU2_LwTA3VmbMHLoJkKyBcI316tkzynK3gVbs4UGdkHRv2m5ygW9OF5DI0ZyJsarFtp2oWT2iafxXbH5DdujGCWI5YnWUkETNq" width="519" height="288" style="width: 519px; max-width: 519px; height: 288px;">
（出處：<a href="https://www.facebook.com/watch/?v=776319482935304">Phil Ehr Facebook</a>）
美國總統大選另一個知名的 Deepfake 廣告來自非營利組織 RepresentUs，他們製作模仿北韓領導人金正恩、俄羅斯總統普丁（Vladimir Putin）的假對談，和埃爾的初衷一樣，RepresentUs 試圖警告 Deepfake 對民主造成的威脅，<a href="https://www.abc.net.au/news/2021-06-24/tom-cruise-deepfake-chris-ume-security-washington-dc/100234772">但他們也坦承</a>，美國電視台拒播這些影片，因為影片實在太真實了。
<img src="https://lh4.googleusercontent.com/kPy5sdUC0mv2McGWK3JrwgMSfuPsHXOGrE7DxswFiCxmlSWRoNpu2H0DpJ9iDEvm3I8Z0l6NIUbKS2YCqhZ6L3Yts5_CVmHRyYCLqO5kFJI5p5tm32v9FH98X2zSOaPQz0t27tZ0" width="513" height="286" style="width: 513px; max-width: 513px; height: 286px;">
（出處：<a href="https://www.youtube.com/watch?v=sbFHhpYU15w">RepresentUs Youtube</a>）
甚至在台灣 2020 總統大選前一週，YouTube 頻道<a href="https://www.youtube.com/watch?v=iLoq02XE1Jo">「哈囉樓主Lucid Film」</a>就曾上傳利用 Deepfake 製作，由「新店周星馳」和「景美吳孟達」主講的影片，包括片中短暫現身的國民黨候選人韓國瑜，也是被 Deepfake 出來的。
<img src="https://lh4.googleusercontent.com/69nUheddu715sqC5bIdBrNHUcQ0C323A4pMApXSOiGKul_NpvnzP6CkkyVMUVFYWP11uft2oqKuDiZGGV2PxToys0aK79zDHv2ExCbdQM-4FxPS20UFLvtV5AEe5kG5JaCNYRA30" width="512" height="286">
（出處：<a href="https://www.youtube.com/watch?v=iLoq02XE1Jo">哈囉樓主Lucid Film Youtube</a>）
<h2>真理還在穿鞋，謊言已經殺遍半個地球</h2>
截至 2020 年 12 月，<a href="https://sensity.ai/reports/">Sensity 檢測到</a>的 Deepfake 影片數量超過 8 萬 5,000 支，一年增長遠超過 300%，根本性地挑戰網路世界，其潛力已經得到證明，<a href="https://www.npr.org/2020/10/01/918223033/where-are-the-deepfakes-in-this-presidential-election">專家們認為</a>，公共領域出現如此強大的假消息工具，它被更普及地運用只是時間問題。
前 CIA 情報官麥特．費拉羅（Matt Ferraro）<a href="https://www.abc.net.au/news/2021-06-24/tom-cruise-deepfake-chris-ume-security-washington-dc/100234772">受訪時指出</a>，他想得到的噩夢場景，諸如在朝鮮半島局勢緊張之際，用 Deepfake 偽造美國總統拜登對北韓宣戰、駭客接著盜入白宮 Twitter 帳號，廣撒以國家元首之臉、行動亂不安之實的影片等情況，這絕對會在短短幾分鐘內造成大規模混亂，等到徹查清楚，興許早已造成不可逆的衝突和傷亡。
低成本的 Deepfake 擴散已經不可避免，令人不安的，是它逐漸影響我們閱讀資訊、瞭解真相的能力。學者 Bobby Chesney 和 Danielle Citron <a href="https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3213954">指出</a> Deepfake 這些看似現實但有誤導性的內容，有足夠的能力扭曲民主，不僅僅是對知名人士造成的聲譽損害，更多是在操縱選舉結果的同時，也削弱民眾對機構、新聞的信任，加劇社會分裂。
把場景拉回臺灣，蔡英文總統已經宣示將針對本次事件研擬修法，<a href="https://www.facebook.com/JihoTiun/posts/4683877441662287">基隆市議員張之豪</a>則在臉書表示，要對 Deepfake 本身立法。讀到這裡，讀者們不妨想像一下，如果 Deepfake 技術可以拿來製作偽證，法院該如何公正判決？台積電執行長若被盜臉，發布不實的假影片，股價和企業運作該如何維繫？如果今天總統的臉，被拿來用在宣戰影片上，會造成多大的問題？
這些目前只是假設性問題，一旦為真，結果都會不堪設想。
臺灣的民主一直面臨許多挑戰，需要所有人來捍衛，此時此刻的國際政治、傳播訊息的方式都在發生劇烈變化，世界各國都有所警覺，臺灣也不能置身事外。文章最後，我們想邀請你一起捍衛，花一點心力關注這個議題、瞭解修法進度、分享闢謠資訊，就有機會遏止科技犯罪，甚至幫助臺灣，守住民主、自由，讓這片土地上的人，能安穩地生活下去。

網紅小玉去年 7 月起，利用 AI Deepfake（人工智慧換臉）技術，盜用多位臺灣女性網紅、明星名人、政治人物人臉，置換成性愛影片角色，並透過加密通訊軟體 Telegram 開設群組招收會員販售牟利。本次新型犯罪行為造成的受害者初估百人，連總統蔡英文都被換臉製成影片，國安局長陳明通也證實此事，赴立院備詢時強調這是「國安危機」，一出現時國安局便已經掌控狀況，也組成專家小組，集結一流學者、專家商討對策、加強偵防。

觀點實驗室

當假消息進化成 Deepfake 影片，如何導致各國國安危機？