什麼是深度偽造？Deepfake視頻可以偷你的錢，網銀用戶要小心

YouTuber 小宇利用 Deepfake 的換臉技術，將蔡英文總統、藝術家鄭家春、國會議員高家宇等化身轉移到色情視頻中，從而爆發並獲利。違法所得超千萬新台幣，震驚社會。究竟什麼是 deepfake？您在有爭議的灰色區域使用什麼？您目前的預防措施是什麼？

什麼是深度偽造？

“deepfake”一詞是在 2017 年引入的。這是一個結合了深度學習和fake的詞。具體而言，它指的是源自人工智能（AI）的“生成對抗網絡”。 , GAN) 仿冒技術。 Deepfake 可用於偽造圖像和音頻。只有針對特定對象的大量視聽材料才能從現有數據中生成更多新數據，從而製作出逼真的假冒電影。在圖像合成領域使用這種技術可以節省電影和遊戲製作的時間，但在現實中，當與虛假信息結合時，它會氾濫虛假內容圖像的製作……

積極使用 Deepfake 技術

Deepfake 技術具有積極的價值。例如，迪士尼使用這項技術來幫助創建逼真的電影合成圖像。還有一個新的創作團隊，重現愛因斯坦的原始聲音。知名家譜公司MyHeritage推出了一款名為“Deep Nostalgia”的在線工具。只需在電話頁面上點擊幾下，您就可以讓古代人的照片栩栩如生，甚至可以創建已故親人的照片。 “直播”，不僅可以轉，還可以轉頭，眨眼、微笑。

然而，與正面價值相比，Deepfake 的負面爭議仍在繼續。

Deepfake Deepfake爭議1：色情損害人格聲譽

2017 年，一位擁有 Deepfake 賬戶的用戶在美國社交網站 Reddit 上發布了一系列色情視頻。他利用人工智能技術，用女演員蓋爾·加朵·巴爾薩諾 (Gal Gadot Barsano) 等名人代替色情視頻的面孔。 ，斯嘉麗約翰遜和艾瑪沃特森都是受害者。

日前，台灣YouTuber小宇和同事利用深度偽技術，將網紅、網紅、名人的面孔“移植”到色情電影中，通過Telegram建群，招募會員，獲利了結。目的。 ，並嚴重損害當事人的形象和聲譽。該案件的解決是為了調查有關淫穢物品傳播和聲譽損失的指控。這是台灣公安史上第一起因使用人工智能計算技術而引發的新型犯罪。

除了可能對名人造成傷害外，戀人因“報復色情”的威脅而分手的情況並不少見。隨著 Deepfake 技術門檻的降低，公眾也可能面臨風險。未來“換臉”。

Deepfake Deepfake爭議2：改變言論和形象可能引發大的政治動盪

除了色情應用，deepfake技術也充斥著政壇。 2018年4月，外媒Buzzfeed利用人工智能技術，將美國前總統奧巴馬的演講內容改為“唐納德特朗普總統完全是愚蠢的”。 2019年5月，社交媒體傳播稱，聯邦議長南希·佩洛西(Nancy Pelosi)發表演講時，製作了一段經過模糊修改的視頻，讓他看起來喝醉了。

（注意以下是DeepFake修改的視頻）

2020 年 8 月，當時的美國民主黨總統候選人喬拜登在家裡接受記者的電視採訪時睡著了。 26秒的改編電影非常真實。 9月，美國總統特朗普和國務卿邁克·蓬佩奧在抖音上合唱《我愛你中國》。這部電影非常真實。

假裝政治家，說你沒說的，做你沒做的，對於那些有興趣操縱網絡信息戰政治動向的人來說很重要，它成為了一種武器。它不僅會影響利益相關者的形象，還會在政治、社會、經濟和外交層面引起巨大動盪。

Deepfake Deepfake 爭議 3：虛假雇主聲明、頻繁欺詐或妨礙業務

2019年9月，該團伙利用深度造假技術，模仿一家英國能源公司德國母公司CEO的聲音，與該公司的收銀員交談，以22萬歐元（約合716萬新台幣）的價格成功被黑客盜走。跨國公司。國家。帳戶。 2020年，有人用視頻會議軟件“偽裝”了特斯拉CEO埃隆·馬斯克。這種篡改企業高層言論的行為，當惡意發佈為正面或負面的公司新聞時，會擾亂企業運營，導致投資者蒙受損失，甚至存在性行為。

Deepfake Deepfake 爭議 4：網上銀行應用程序的影響可以擴展到個人

隨著深度造假技術的飛速發展，相關犯罪領域也在不斷擴大。以打擊社交平台上的虛假賬號開始的以色列初創公司Cyabra的全球業務副總裁Assaf Danby表示：“越來越多的用戶通過視頻通話開戶。誰是深層假視頻？視頻通話可以成功審核銀行的人臉識別系統，因為它可以偽造他們的身份。“因此，他說，下一波深度假冒攻擊鎖定了網上銀行用戶。人們需要小心，因為他們認為他們可能會這樣做。

參考

科技界的領軍者，用AI開發防偽技術

深度造假技術的傳播對政治、國家安全、經濟和輿論產生了重大影響。西方執法機構和科技巨頭正在積極開發防偽技術，以檢測和屏蔽可疑視頻。例如，微軟和布法羅大學 (UB) 等公司已經開發並使用角膜的光反射圖像來識別圖像的可靠性。有效率為94%。與此同時，Facebook 和密歇根州立大學 (MSU) 發現了對假照片進行逆向工程、生成模型並使用它們來檢測假照片的能力。

此外，Facebook還開發了“換臉視頻識別和審核機制”，以防止虛假換臉視頻的傳播。 推特也跟進，明確將換臉視頻標記為虛假信息。 YouTube 的當前社區準則禁止更改其垃圾郵件、欺詐和欺詐政策中的媒體信息。

台灣“換臉”色情片仍無法掌控立法會和總統推動立法變革

近期台灣發生的面對面色情事件可謂是一種新型的數字化性暴力犯罪，但中國目前對此沒有任何規定或處罰。未來，高嘉瑜將致力於建立獨立的網絡圖像真實性驗證單元，增加網絡平台對用戶內容監控的責任，並將濫用人工智能面部變化視為獨立犯罪行為。 . ，並對其處罰和處罰作出明確規定。民事責任和其他責任。蔡英文總統也強調要重新思考立法，推動立法變革研究。