小宇的“變臉懸疑片”高嘉宇和黃潔犧牲，“黑天鵝”和“女超人”的女主角全部被殺。

YouTuber 小宇利用 Deepfake 的換臉技術，用色情主角代替了許多著名女性，並在網上出售，其中包括立委高家宇。 （圖片提供/新聞媒體編輯部）

主播“小宇”（真名朱雨辰）經營“挖台灣網紅”粉絲團，昨天被警方逮捕。他涉嫌利用AI（人工智能）技術，將名人的臉移植到色情明星的臉上，通過秘密社區和會員機制謀取巨額利潤。名單上有數十名受害者。列入名單的人和許多藝術家。 鄭家純、黃潔、龍龍、高家瑜、學姐黃瑩瑩等網紅、政客均上榜。

用假和真改變面部技術

這是國內首例“換臉”電影的刑事案件，但實際上國外已經層出不窮，惡搞、誣陷甚至侮辱特定主題，正在被利用。 2017年底，“換臉”代碼技術首次出現在國外論壇Reddit上，並被擁有Deepfakes ID的用戶曝光。這個 ID 也將是未來這項技術的名稱。

這種代碼技術在發布後不久就名聲大噪。此後不久，一些人在移植色情視頻時利用他們的頭腦濫用技術。原來，只有海外相關的案例。沒想到，從去年8月開始，台語就出現了色情網站。 .Kong 黑客團隊使用 Deepfake 技術將色情視頻女演員的臉替換為台灣女演員、直播者或網紅的臉。

秘密社區出售合成圖像

去年10月，大量合成色情視頻開始在互聯網上流傳，“台灣網紅挖臉”粉絲群由推特和電報等社交網站試圖加入的人發起。已收取費用。除了出售換臉視頻外，我們還出售計劃外的業餘洩密私人圖像。 團員近6000人，傷亡不計其數。只要提供足夠的照片和視頻，即使是業餘面孔也可以移植到色情視頻中。

群參與製度嚴密，需要為朋友推薦和付費，並仔細交換秘密社區合成的女性色情圖片。如此嚴苛的性犯罪，就像是韓國“N號房”案的翻版。

去年年底，網紅奎丁收到一位影迷的色情視頻，詢問影片女主角是不是她，揭開了影迷群的冰山一角。 在趣丁一案中，數字女子聯盟WIDI聯合鏡報周刊和蘋果日報媒體，報導了其揭露台灣網紅粉絲團不法行為的行動。

YouTuber 小宇利用推特開辦了一個“挖台灣網紅”的粉絲群，並引導他們到 Telegram 群出售合成色情視頻。 （照片/來自推特）

政客和著名女演員都是受害者

然而，凱丁並不是唯一的受害者。知名外國人曾被 deepfake 技術虐待、誹謗甚至性羞辱。

Facebook 創始人扎克伯格的臉被移植到一個視頻中，使用他的聲音和臉，說“我想控制數百萬 Facebook 用戶竊取的數據。”不是。在美國大選前夕，有人惡意將前總統奧巴馬和特朗普的面孔改編成另一部電影，說侮辱或搞笑的話。在不知不覺中措手不及的過程中，形象悄然移動，覆蓋著從未說過或做過的一切。

此外，女演員的性羞辱更為普遍，我們經常在色情視頻網站上看到某些女演員撓頭的片段。事實上，它們並不是我實際拍攝的，它們是由對使用 Deepfake 技術感興趣的人組成的。許多外國女演員都受到了這種攻擊，包括《黑天鵝》中的娜塔莉·波特曼、《美女與野獸》中的艾瑪·沃特森、《超女》中的蓋爾·加朵。隨著換臉視頻的氾濫，“我相信看”這句話似乎不再適用。因為你看到和聽到的可能是人工智能模擬數據合成的錯覺。

中美簽署法案遏制核擴散

鑑於換臉APP的猖獗，假新聞很可能會更加猖獗，在國內政治中更加無孔不入，展開一場惡戰。美國前總統特朗普於 2019 年 12 月簽署了一項聯邦法令，以解決這一新興技術問題，該法令是 2020 年五角大樓授權法案 (NDAA) 的一部分。 兩項規定要求報告deepfake在國外武器化的情況，政府將向國會通報本次大選外國軍隊偽造信息的情況，以及商業或研究機構檢測deepfake的技術。要求設置相關獎勵以鼓勵發展。

除美國外，中國也針對該技術提出相關立法，明確規定在發布或上傳包含AI或VR技術的產品時需要自我披露。未能正確披露信息是一種犯罪行為，將於 2020 年 1 月 1 日生效。

根據人工智能初創公司 Deeptrace 的報告，目前互聯網上超過 96% 的 Deepfakes 視頻都是未經當事人許可合成的。這一次，小魚通過社區出售合成視頻的情況變得明顯。這在中國尚屬首次，但在海外卻屢見不鮮。最初，許多國家和社交平台如Facebook和Twitter都採取了應對措施。我們宣布刪除 deepfake 視頻，但無法阻止。小宇通過推特吸引大眾，然後轉發到Telegram Group進行分發和銷售。

台灣現在不能被懲罰

更令人擔憂的是，知名藝人和網紅有話語權，可以公開表態，但如果普通大眾受到合成色情電影的威脅，還有駁斥的餘地。台灣有沒有什麼措施可以防止這種網絡性暴力？

蔡英文總統昨晚深夜在社區發表講話，宣布將推動立法改革，打擊網絡犯罪。今年3月，數字婦女聯盟WIDI邀請黃允、賴品玉、萬婉瑜、葉玉蘭等跨黨派議員“起草防止未經同意傳播成人性圖片”和“跟踪騷擾” .《預防》等法案，希望填補現有立法的漏洞，遏製網絡性騷擾。

然而，在這些草案通過之前，台灣目前沒有具體的立法來控制。 數字婦女聯盟在 5 月的一次採訪中指出，傳播合成色情圖片只能被起訴不到兩年的輕罪，傳播危險和淫穢的材料，但色情圖片可能會危及生命。

其他新聞媒體報導
民進黨2022年版圖徵詢六市市長候選人，希望林家龍當選台北市長。
Jhy-Wey Shim 差點成為一孔軍校的校長？ 陳奕欣出手不讓蔡適應緊急撤離
多麼巧合！國泰ATM外包影響超過40,000筆交易