AI轉身對app撒謊，林俊杰和我們都害怕

就在前幾天，B站（嗶哩嗶哩) 隨後，B站UP主被林俊傑起訴，林俊傑勝訴。目前，UP業主需要得到林俊傑的27.5萬元賠償金。這是因為UP主利用AI換臉技術製作了多段林俊傑的鬼片視頻，侵犯了林俊傑的肖像權。

資料來源：天眼檢查

林俊傑既不是第一個起訴AI的明星，也不是最後一個。

比起明星，普通人就更慘了。名人可以憑藉自己的光環吸引全社會的目光，但如果普通大眾的臉被“偷”了怎麼辦？在成千上萬普通人的生物信息被使用之後國民服役傳播和出售個人隱私的鏈只會在黑暗中被追捧。

來源：網絡

01 名人常被聘用

早在2019年，中國就掀起了一波“換臉”潮。

B站UP主力《換臉兄弟》在94版《射雕英雄傳》的一段電影片段中，用楊冪換了演員朱茵的臉，迅速發酵，在網上引發爭議，稻田。 B站視頻播放量超過20萬次才被刪除。微博話題閱讀量1.3億。

林俊傑的這段惡搞視頻也來自B站。 B站的鬼畜區是“換臉區”之一。 當《IT時代》記者打開B站搜索“變臉”、“宋小寶變臉和彭媛”、“賈玲和沈騰女兒國橋段”、“上千條相關視頻”時，包括復仇者聯盟。我玩的是武俠傳。”除了特寫鏡頭，還有膚色、光線、陰影等細微的划痕，這些換臉視頻整體看起來幾乎是假的，把偶像的臉變成了相應的角色和有趣的“新口味” ”。對於網友來說。

: 嗶哩嗶哩

就在林俊傑起訴劉昊然的UP主之前，8月28日，藝人劉昊然的工作室利用​​AI變身技術侮辱劉昊然，並在視頻和畫面中添加了誹謗言論，我們已經發表聲明，我們已經發布了這一消息。聊天記錄。該工作室現已向警方報告了這一事件，稱其已於今年 1 月惡意傳播。

外媒的報導也讓外國明星感到不安，泰勒·斯威夫特、艾瑪·沃特森等眾多女星都變成了淫穢電影女主角。

02 “改變”很容易

AI換臉技術為何如此強大？原因是技術經濟成本門檻不高。

不需要先進的設備。軟件就夠了。例如桃旗幟下的“ZAO”在面部合成視頻中非常受歡迎。只需上傳您自己的照片，您就可以將您的臉變成名人的頭像。融合效果很好，但是這個軟件不行。它長期以來一直很受歡迎，因為公眾輿論批評了隱私和道德等問題。

在B站，除了UP主製作的換臉視頻，換臉教程也是最熱門的內容之一，瀏覽量超過20萬。

《IT時代》記者在QQ群裡搜索“變臉”。有數百個相關組。最受歡迎的團體之一使用自定義視頻面部變化和照片面部變化作為他們的主要業務。已發展近400名團體成員。 QQ小程序“80換臉”微信小程序“換臉秀”。

來源：QQ

03 欺騙了肉眼

以低成本、低門檻獲取和使用，不法分子發起了“AI翻臉”騙局的想法。最近，“人臉識別”的案例很多。

南京警方曾被舉報被小李（化名）詐騙3000元。小李介紹，一位大學同學通過QQ向她借錢，對方進行了4-5秒的視頻通話。看到錢，小李鬆了一口氣。然而，在第二次轉賬時發現異常，再次撥打對方的電話，發現該學生的賬號被盜。警方已確定視頻的面孔可能會發生變化。

江蘇常州的一位90後男子，知道自己可能因為好奇心和詭計被11萬人忽悠，遇到了裸聊騙局，但出於好奇心他是個騙子，想知道他是如何實施騙局的。畢竟，他只是因為露了臉，就被騙子的AI換臉技術給害了。騙子轉過身，偽造了一段“裸聊視頻”，稱自己“不花錢就無法擺脫災難”。無奈男子將11萬元的錢全部寄出後，騙子放棄了。

04 逃離系統

對於普通人來說，每個人都是用肉眼死去的。 AI換臉後獲得這些視頻當然很難區分，但更矛盾的是還不夠好一些需要面部識別的應用程序也可以通過移動“假臉”來愚弄。 當AI換臉時，可以欺騙開卡環節的人臉識別系統。

據媒體報導，上海市虹口區人民檢察院近日通報。一起我們將發布使用人臉識別技術增值稅總額超過5億元的案例。犯罪分子通過相關政府業務平台完成了“皮包公司”的註冊。平台上的人臉識別是註冊成功的關鍵。

App Store 上的“Live Photo App”

據一個專門從事人臉識別和破解的犯罪集團成員介紹，他們通常以30元一個的價格購買他人的高分辨率頭像和身份證信息，並使用“Live Photo”等應用程序處理高分辨率。定義頭像。該平台的人臉識別驗證系統被騙到點頭、搖晃、眨眼、張嘴等“動”照片，形成動作視頻。據犯罪分子稱，被破解的應用程序包括政府運營、安全、金融、支付和消費者支出。大多數應用程序市場都可以下載這些應用程序。最終，涉案人以侵犯公民個人信息罪被追究刑事責任。

05 需要改進應用的活體檢測標準

互聯網上充斥著為犯罪分子提供“營養”的面孔和身份。此外，一些應用程序在技術管理上並不嚴格，只是令人困惑。

GeekLabs 的安全研究員宋雨浩可以做這樣的實驗，並通過破譯一些應用程序的面部識別系統來欺騙他們。

“技術上不難。首先選擇一張要偽造的人的照片，提供給特定的化身AI程序，然後攻擊者使用連接到AI程序的攝像頭告訴自己。面對面和跟踪app人臉識別提示，當你進行眨眼或張嘴等動作時，照片會跟踪攻擊者並同步學習這些動作，從而導致一些app人臉欺騙識別系統。使用人臉識別動作進行活體檢測的方法比較容易破譯。

宋雨浩還表示，一些在安全領域表現最好的廠商已經改進了他們的活體檢測技術，使破解更加困難。 “比如，在進行應用代碼等人臉識別驗證時，人臉周圍會出現紅、綠、藍三色閃爍，難以破解。”

有的燈主要捕捉雲紋、反射、面部畸變等信息，有的燈捕捉手機邊界、紙張邊界等明顯的攻擊信息，有的則捕捉相關的背景信息，據了解也有。

資料來源：東方IC

技術的不斷重複，使得利用“深度造假”技術製造肉眼看不見的“假臉”成為可能。數據隱私和技術濫用導致的安全問題日益增多，對社會公共治理提出了嚴峻挑戰。談到面部識別的發展，一些專家將其描述為“壓倒性的災難”。

清華大學法學院教授老東陽曾表示，人臉識別應用的最大受益者不是普通用戶和消費者，而是給企業、行業和相關部門帶來的便利，企業在媒體上獲利. 告訴。風險主要傳遞給作為用戶的個人，這對公眾是不公平的。推廣人臉識別技術必須謹慎。

業內人士建議，監管部門可以引入應用活檢的技術標準和門檻，以防止因假臉造成的資產損失，尤其是在金融等與個人資產相關的領域。

這篇文章來自微信民眾《IT時代》（ID：vittimes），作者：潘少英姜立文，編輯：王欣踢姐妹，36氪經授權發布。

本文允許發表，不代表36氪立場。

轉載請註明出處。醬：36氪