文／VR陀螺 林德

數(shù)字人，是構(gòu)成元宇宙的要素之一。隨著AI、面部識(shí)別以及3D建模和動(dòng)作／表情捕捉相關(guān)技術(shù)的發(fā)展，近兩年，虛擬數(shù)字人以各種身份形象出現(xiàn)在我們的視野中。然而當(dāng)Avatar與真人越來(lái)越接近，不只看起來(lái)像，連表情、聲音都能和真人一摸一樣，那未來(lái)這些技術(shù)被用來(lái)作惡的風(fēng)險(xiǎn)也將大大提升。

前段時(shí)間，憑一言之力左右?guī)湃Φ墓饭穾胖�父馬斯克以新身份“幣圈慈善家”的形象在Youtube、推特發(fā)起一個(gè)送錢項(xiàng)目－－給我你的幣，我給你每天30％的回報(bào)率。

圖源：網(wǎng)絡(luò)

科技企業(yè)家變大慈善家？事出反常必有妖，做慈善這顯然是不可能的。

“名人”詐騙層出不窮，

以假亂真的DeepFake

這一片段是詐騙團(tuán)隊(duì)利用DeepFake，也就是深偽技術(shù)換臉“導(dǎo)”出的一場(chǎng)戲。通過(guò)截取馬斯克在TED采訪的視頻，并為其配音，為的就是推出BitVex比特幣詐騙平臺(tái)。（BitMex是一個(gè)正規(guī)比特幣交易平臺(tái)）

“絕對(duì)不是我本人！”馬斯克本尊辟謠（圖片：推特）

除此之外，詐騙分子還偽造了方舟投資（Ark Invest）CEO凱瑟琳·伍德、以太坊聯(lián)合創(chuàng)始人查爾斯·霍斯金森等多位幣圈名人推薦BitVex的視頻。

圖源：worldnews

雖然此騙局很快被拆穿，但作為幣圈大粉頭，馬斯克也不是第一次因被假冒而下場(chǎng)辟謠了，從去年5月至今年年初，假冒馬斯克的視頻層出不窮。

去年，SpaceX詐騙案斂金超1000萬(wàn)美元，今年年初光是靠DeepFake技術(shù)換臉馬斯克喊出“給我一個(gè)幣，我給你兩個(gè)”的騙局在一周內(nèi)就達(dá)到24．3萬(wàn)美元，光是年初到現(xiàn)在詐騙總額高達(dá)3000萬(wàn)美元（約人民幣2億）。

假冒交易網(wǎng)站中有馬斯克的換臉視頻圖源：網(wǎng)絡(luò)

比起過(guò)去單純的利用文字、語(yǔ)音包這類詐騙手段，動(dòng)態(tài)視頻顯然更具有說(shuō)服力，這一樁樁假名人詐騙事件都再次把DeepFake騙局推上熱搜。

什么是Deepfake？

Deepfake深偽技術(shù)指深度學(xué)習(xí)（Deep Learning）＋Fake（偽造）的合成詞，現(xiàn)在專門指基于AI的圖像、音頻等合成技術(shù)的應(yīng)用，其中最為大眾熟知的形式就是AI換臉。

Deepfake技術(shù)的發(fā)展，離不開(kāi)一個(gè)于2014年提出的關(guān)鍵深度學(xué)習(xí)技術(shù)GAN，生成對(duì)抗網(wǎng)絡(luò)。GAN由兩個(gè)互相博弈的神經(jīng)網(wǎng)絡(luò)組成，可以簡(jiǎn)單地把這項(xiàng)技術(shù)理解成一種無(wú)監(jiān)督，用來(lái)訓(xùn)練生成模型的框架。在這個(gè)自動(dòng)訓(xùn)練框架下，加以結(jié)合其他圖像深度學(xué)習(xí)模型、自動(dòng)編碼器等可以實(shí)現(xiàn)通過(guò)大量的圖片對(duì)目標(biāo)人臉替換。

根據(jù)目前主流說(shuō)法，Deepfake技術(shù)主要分為四類：重現(xiàn)、替換、編輯和合成。

重現(xiàn)：對(duì)目標(biāo)人物表情、身體、五官、頭部等運(yùn)動(dòng)的圖像的重新生成；替換：面部轉(zhuǎn)移，面部交換等；編輯：通過(guò)添加、更改或刪除目標(biāo)身份的屬性。例如，更換目標(biāo)對(duì)象的衣服、胡子、年齡、體重、顏值和甚至種族、膚色；合成：沒(méi)有目標(biāo)人物的基礎(chǔ)上由AI創(chuàng)建角色。  

圖源：網(wǎng)絡(luò)

在GAN被提出的三年后，一名Reddit用戶deepfakes于2017年12月發(fā)布了轟動(dòng)一時(shí)的當(dāng)紅女演員斯嘉麗·約翰遜等的非法色情換臉視頻，Deepfake一詞開(kāi)始被大眾熟知。

同時(shí)，比起一幀一幀換臉的傳統(tǒng)模式，2019年開(kāi)始以Deepfake技術(shù)為主的開(kāi)源軟件FaceApp、ZAO、Github開(kāi)源代碼等的興起，一經(jīng)發(fā)布便在網(wǎng)絡(luò)掀起第一輪“換臉”熱潮。

至此之后，網(wǎng)絡(luò)上開(kāi)始出現(xiàn)大量Deepfake技術(shù)生成的換臉視頻。

觸手可及，Deepfake是把雙刃劍

Deepfake的開(kāi)源技術(shù)、以及“傻瓜式”實(shí)時(shí)換臉軟件的興起使得極具娛樂(lè)性的一些應(yīng)用，例如換臉Cosplay火爆全網(wǎng)。自2019年興起的以ZAO為代表的換臉視頻軟件開(kāi)始，Deepfake變得觸手可及。根據(jù)創(chuàng)業(yè)公司Deeptrace的數(shù)據(jù)，從2019年10月到2020年6月，網(wǎng)絡(luò)上的Deepfake視頻的數(shù)量增加了330％。

ZAO的換臉視頻，一夜之間“全民Cosplay”

圖源：北美生活引擎

不僅是影視劇的制作例如換角、補(bǔ)拍，在對(duì)已故之人的“重現(xiàn)”上Deepfake技術(shù)也能大展身手。

重現(xiàn)愛(ài)因斯坦（圖源：PARTIPOST）

在國(guó)內(nèi)目前主流的各大社交媒體平臺(tái)，微博、抖音、快手、B站等，也可以看到Deepfake技術(shù)無(wú)處不在。

病毒式傳播，B站上的明星換臉二創(chuàng)視頻圖源：bilibili

比起國(guó)內(nèi)流行的換臉二創(chuàng)形式，在海外社交媒體上，扛起海外流行大旗是披著AR濾鏡外衣的Deepfake應(yīng)用。從哭臉濾鏡到笑臉濾鏡，魔性的濾鏡讓用戶陷入“惡搞狂歡派對(duì)”。

Tiktok上超熱門哭臉濾鏡圖源：mashable

從個(gè)人發(fā)散到明星，這些二次創(chuàng)作都在一定程度上為明星、作品帶來(lái)新的熱度的同時(shí)，也為平臺(tái)帶來(lái)了更多的流量，Deepfake技術(shù)在推動(dòng)娛樂(lè)文化的發(fā)展上有著非常大的優(yōu)勢(shì)。

除了娛樂(lè)化應(yīng)用之外，在元宇宙的相關(guān)版塊上，Deepfake技術(shù)也能發(fā)揮其積極價(jià)值。

目前元宇宙賽道中，除硬件、軟件之外，還有一條熱門賽道——元宇宙原住民，虛擬人，虛擬主播、虛擬偶像、虛擬主持人、虛擬記者等各色職業(yè)的虛擬人層出不窮。

今年新任的韓國(guó)總統(tǒng)尹錫悅使用Deepfake創(chuàng)建虛擬形象AI Yoon在網(wǎng)絡(luò)走紅圖源：SCMP

Deepfake的技術(shù)特點(diǎn)正好符合創(chuàng)造虛擬人、虛擬化身的要點(diǎn)。Deepfake技術(shù)在GAN的加持下，可以對(duì)虛擬人的面部運(yùn)動(dòng)進(jìn)行進(jìn)一步優(yōu)化，并且基于圖像深度學(xué)習(xí)模型使得Deepfake技術(shù)擁有大量面部信息，這對(duì)優(yōu)化未來(lái)虛擬化身而言無(wú)疑提供了大量的學(xué)習(xí)范本。

但在這項(xiàng)技術(shù)變得越來(lái)越普及且越來(lái)越難辨真假的同時(shí)，人們對(duì)Deepfake技術(shù)的擔(dān)憂也越來(lái)越多。根據(jù)2021年的韓國(guó)成均館大學(xué)的研究論文，Microsoft的Azure認(rèn)知服務(wù)對(duì)高達(dá)78％的Deepfake視頻均無(wú)法辨認(rèn)。

Deepfake的威脅

除了前文提到的馬斯克等名人詐騙案之外，Deepfake被用于非法謀利的案件日益增多。

不正當(dāng)競(jìng)爭(zhēng)：今年年初在領(lǐng)英上，70多家公司被曝利用Deepfake技術(shù)生成的虛擬人物作虛假銷售賬戶，以此擴(kuò)展業(yè)務(wù)同時(shí)減少在雇用人員上的支出；詐騙：犯罪分子通過(guò)Deepfake技術(shù)偽造母公司負(fù)責(zé)人聲音導(dǎo)致英國(guó)新能源公司的CEO被詐騙超20萬(wàn)美元；造假：國(guó)外選舉期間，網(wǎng)絡(luò)上出現(xiàn)大量“政治視頻”，其中許多利用Deepfake技術(shù)發(fā)表政治聲明，從而動(dòng)搖、影響選舉局面等。

假特朗普呼吁采取行動(dòng)應(yīng)對(duì)氣候變化，說(shuō)服人們?cè)谡?qǐng)?jiān)笗?shū)簽字。雖然很假，但上當(dāng)者頗多

圖源：InfoQ

報(bào)復(fù)：不僅是個(gè)人，對(duì)于企業(yè)以及明星而言，Deepfake影片成為新興的報(bào)復(fù)性工具，Deepfake編造的不實(shí)消息，讓人們的肖像權(quán)、名譽(yù)權(quán)等權(quán)益受到危害。例如，Deepfake 色情影片也已經(jīng)被用來(lái)勒索女性記者和新聞工作者，印度記者 Rana Ayyub曾經(jīng)曝光過(guò)被Deepfake視頻勒索的行為。

某馬來(lái)西亞政治家因一段涉嫌從事同性戀活動(dòng)的影片而被判入獄，但后來(lái)證實(shí)影片為Deepfake偽造．．．．．．諸如此類的故事正在不斷上演。

Tiktok上的假阿湯哥圖源：Tiktok

去年，德國(guó)媒體Mixed曾發(fā)表過(guò)一篇文章，關(guān)于創(chuàng)建一個(gè)Deepfake視頻需要多長(zhǎng)時(shí)間。根據(jù)作者的實(shí)驗(yàn)，他使用DeepFaceLab開(kāi)源軟件進(jìn)行測(cè)試，從提取視頻中的人臉照片到驗(yàn)證人臉（大約650張照片），再到約17個(gè)小時(shí)的AI訓(xùn)練，將鋼鐵俠小羅伯特唐尼與馬斯克進(jìn)行換臉。

圖源：Mixed

雖然換臉效果相對(duì)較粗糙，但作為一個(gè)非專業(yè)人士在沒(méi)有專業(yè)工具，龐大的數(shù)據(jù)集和預(yù)訓(xùn)練模型的基礎(chǔ)下，在幾天時(shí)間內(nèi)制造出上述程度的Deepfake視頻意味著如今人工智能進(jìn)化的腳步使得Deepfake技術(shù)變得更加容易。除了自己摸索之外，更是有賣家在某二手交易平臺(tái)出售相關(guān)技術(shù)、教程等，Deepfake技術(shù)的門檻一降再降。

圖源：燃財(cái)經(jīng)

即使有些Deepfake視頻并沒(méi)有出神入化到足以令人信服的地步，但想象一下，在Deepfake技術(shù)的升級(jí)，以及如今信息泄露的情況，如果不法分子利用你身邊人的照片，從而導(dǎo)演出一場(chǎng)無(wú)限逼真的戲，那會(huì)有多可怕？

因此為了解決不斷升級(jí)的Deepfake技術(shù)帶來(lái)的隱私和安全問(wèn)題，軟件、平臺(tái)和政策都在積極地采取措施。

從2019年開(kāi)始，各國(guó)、各平臺(tái)便開(kāi)始針對(duì)Deepfake出臺(tái)一些新的保障政策：

今年6月，Google 修改平臺(tái)政策，禁止開(kāi)發(fā)者使用其 Colaboratory 平臺(tái)的服務(wù)進(jìn)行 Deepfake 項(xiàng)目的研究；2020年，Meta全面禁止 deepfake 類視頻的傳播；2020年，國(guó)內(nèi)印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要（2020 － 2025年）》進(jìn)一步要求，對(duì)深度偽造等新技術(shù)應(yīng)用，制定和完善規(guī)范管理辦法；美國(guó)2019年正式簽署生效的2020財(cái)年國(guó)防批準(zhǔn)法當(dāng)中包含了和 deepfake 相關(guān)的條文。．．．．．．

不過(guò)即使是在政策加持下，Deepfake偽造視頻就像是打地鼠一般，平臺(tái)的監(jiān)管往往趕不上生成視頻的速度，為此Meta、微軟、谷歌等科技公司都開(kāi)始使用“魔法打敗魔法”策略，著手開(kāi)發(fā)監(jiān)測(cè)Deepfake技術(shù)的內(nèi)容模型。

但這場(chǎng)AI之間的攻防戰(zhàn)，同時(shí)會(huì)使Deepfake技術(shù)再次升級(jí)，根據(jù)數(shù)據(jù)表示，Deepfake技術(shù)的檢測(cè)仍然具有3％的錯(cuò)誤率。在海量的生成視頻中，3％也將造成大量的偽造視頻的傳播。未來(lái)的Deepfake將迎來(lái)更多的挑戰(zhàn)，如何保障Deepfake技術(shù)的合理運(yùn)用的道路還需要更多的探索。

       原文標(biāo)題 : 數(shù)字人的最大“隱憂”！半年詐騙2億，Deepfake騙局再次引爆互聯(lián)網(wǎng)