數(shù)字人的最大“隱憂”!半年詐騙2億,Deepfake騙局再次引爆互聯(lián)網(wǎng)
文/VR陀螺 林德
數(shù)字人,是構(gòu)成元宇宙的要素之一。隨著AI、面部識(shí)別以及3D建模和動(dòng)作/表情捕捉相關(guān)技術(shù)的發(fā)展,近兩年,虛擬數(shù)字人以各種身份形象出現(xiàn)在我們的視野中。然而當(dāng)Avatar與真人越來(lái)越接近,不只看起來(lái)像,連表情、聲音都能和真人一摸一樣,那未來(lái)這些技術(shù)被用來(lái)作惡的風(fēng)險(xiǎn)也將大大提升。
前段時(shí)間,憑一言之力左右?guī)湃Φ墓饭穾胖格R斯克以新身份“幣圈慈善家”的形象在Youtube、推特發(fā)起一個(gè)送錢項(xiàng)目--給我你的幣,我給你每天30%的回報(bào)率。
圖源:網(wǎng)絡(luò)
科技企業(yè)家變大慈善家?事出反常必有妖,做慈善這顯然是不可能的。
“名人”詐騙層出不窮,
以假亂真的DeepFake
這一片段是詐騙團(tuán)隊(duì)利用DeepFake,也就是深偽技術(shù)換臉“導(dǎo)”出的一場(chǎng)戲。通過(guò)截取馬斯克在TED采訪的視頻,并為其配音,為的就是推出BitVex比特幣詐騙平臺(tái)。(BitMex是一個(gè)正規(guī)比特幣交易平臺(tái))
“絕對(duì)不是我本人!”馬斯克本尊辟謠(圖片:推特)
除此之外,詐騙分子還偽造了方舟投資(Ark Invest)CEO凱瑟琳·伍德、以太坊聯(lián)合創(chuàng)始人查爾斯·霍斯金森等多位幣圈名人推薦BitVex的視頻。
圖源:worldnews
雖然此騙局很快被拆穿,但作為幣圈大粉頭,馬斯克也不是第一次因被假冒而下場(chǎng)辟謠了,從去年5月至今年年初,假冒馬斯克的視頻層出不窮。
去年,SpaceX詐騙案斂金超1000萬(wàn)美元,今年年初光是靠DeepFake技術(shù)換臉馬斯克喊出“給我一個(gè)幣,我給你兩個(gè)”的騙局在一周內(nèi)就達(dá)到24.3萬(wàn)美元,光是年初到現(xiàn)在詐騙總額高達(dá)3000萬(wàn)美元(約人民幣2億)。
假冒交易網(wǎng)站中有馬斯克的換臉視頻圖源:網(wǎng)絡(luò)
比起過(guò)去單純的利用文字、語(yǔ)音包這類詐騙手段,動(dòng)態(tài)視頻顯然更具有說(shuō)服力,這一樁樁假名人詐騙事件都再次把DeepFake騙局推上熱搜。
什么是Deepfake?
Deepfake深偽技術(shù)指深度學(xué)習(xí)(Deep Learning)+Fake(偽造)的合成詞,現(xiàn)在專門指基于AI的圖像、音頻等合成技術(shù)的應(yīng)用,其中最為大眾熟知的形式就是AI換臉。
Deepfake技術(shù)的發(fā)展,離不開(kāi)一個(gè)于2014年提出的關(guān)鍵深度學(xué)習(xí)技術(shù)GAN,生成對(duì)抗網(wǎng)絡(luò)。GAN由兩個(gè)互相博弈的神經(jīng)網(wǎng)絡(luò)組成,可以簡(jiǎn)單地把這項(xiàng)技術(shù)理解成一種無(wú)監(jiān)督,用來(lái)訓(xùn)練生成模型的框架。在這個(gè)自動(dòng)訓(xùn)練框架下,加以結(jié)合其他圖像深度學(xué)習(xí)模型、自動(dòng)編碼器等可以實(shí)現(xiàn)通過(guò)大量的圖片對(duì)目標(biāo)人臉替換。
根據(jù)目前主流說(shuō)法,Deepfake技術(shù)主要分為四類:重現(xiàn)、替換、編輯和合成。
重現(xiàn):對(duì)目標(biāo)人物表情、身體、五官、頭部等運(yùn)動(dòng)的圖像的重新生成;替換:面部轉(zhuǎn)移,面部交換等;編輯:通過(guò)添加、更改或刪除目標(biāo)身份的屬性。例如,更換目標(biāo)對(duì)象的衣服、胡子、年齡、體重、顏值和甚至種族、膚色;合成:沒(méi)有目標(biāo)人物的基礎(chǔ)上由AI創(chuàng)建角色。
圖源:網(wǎng)絡(luò)
在GAN被提出的三年后,一名Reddit用戶deepfakes于2017年12月發(fā)布了轟動(dòng)一時(shí)的當(dāng)紅女演員斯嘉麗·約翰遜等的非法色情換臉視頻,Deepfake一詞開(kāi)始被大眾熟知。
同時(shí),比起一幀一幀換臉的傳統(tǒng)模式,2019年開(kāi)始以Deepfake技術(shù)為主的開(kāi)源軟件FaceApp、ZAO、Github開(kāi)源代碼等的興起,一經(jīng)發(fā)布便在網(wǎng)絡(luò)掀起第一輪“換臉”熱潮。
至此之后,網(wǎng)絡(luò)上開(kāi)始出現(xiàn)大量Deepfake技術(shù)生成的換臉視頻。
觸手可及,Deepfake是把雙刃劍
Deepfake的開(kāi)源技術(shù)、以及“傻瓜式”實(shí)時(shí)換臉軟件的興起使得極具娛樂(lè)性的一些應(yīng)用,例如換臉Cosplay火爆全網(wǎng)。自2019年興起的以ZAO為代表的換臉視頻軟件開(kāi)始,Deepfake變得觸手可及。根據(jù)創(chuàng)業(yè)公司Deeptrace的數(shù)據(jù),從2019年10月到2020年6月,網(wǎng)絡(luò)上的Deepfake視頻的數(shù)量增加了330%。
ZAO的換臉視頻,一夜之間“全民Cosplay”
圖源:北美生活引擎
不僅是影視劇的制作例如換角、補(bǔ)拍,在對(duì)已故之人的“重現(xiàn)”上Deepfake技術(shù)也能大展身手。
重現(xiàn)愛(ài)因斯坦(圖源:PARTIPOST)
在國(guó)內(nèi)目前主流的各大社交媒體平臺(tái),微博、抖音、快手、B站等,也可以看到Deepfake技術(shù)無(wú)處不在。
病毒式傳播,B站上的明星換臉二創(chuàng)視頻圖源:bilibili
比起國(guó)內(nèi)流行的換臉二創(chuàng)形式,在海外社交媒體上,扛起海外流行大旗是披著AR濾鏡外衣的Deepfake應(yīng)用。從哭臉濾鏡到笑臉濾鏡,魔性的濾鏡讓用戶陷入“惡搞狂歡派對(duì)”。
Tiktok上超熱門哭臉濾鏡圖源:mashable
從個(gè)人發(fā)散到明星,這些二次創(chuàng)作都在一定程度上為明星、作品帶來(lái)新的熱度的同時(shí),也為平臺(tái)帶來(lái)了更多的流量,Deepfake技術(shù)在推動(dòng)娛樂(lè)文化的發(fā)展上有著非常大的優(yōu)勢(shì)。
除了娛樂(lè)化應(yīng)用之外,在元宇宙的相關(guān)版塊上,Deepfake技術(shù)也能發(fā)揮其積極價(jià)值。
目前元宇宙賽道中,除硬件、軟件之外,還有一條熱門賽道——元宇宙原住民,虛擬人,虛擬主播、虛擬偶像、虛擬主持人、虛擬記者等各色職業(yè)的虛擬人層出不窮。
今年新任的韓國(guó)總統(tǒng)尹錫悅使用Deepfake創(chuàng)建虛擬形象AI Yoon在網(wǎng)絡(luò)走紅圖源:SCMP
Deepfake的技術(shù)特點(diǎn)正好符合創(chuàng)造虛擬人、虛擬化身的要點(diǎn)。Deepfake技術(shù)在GAN的加持下,可以對(duì)虛擬人的面部運(yùn)動(dòng)進(jìn)行進(jìn)一步優(yōu)化,并且基于圖像深度學(xué)習(xí)模型使得Deepfake技術(shù)擁有大量面部信息,這對(duì)優(yōu)化未來(lái)虛擬化身而言無(wú)疑提供了大量的學(xué)習(xí)范本。
但在這項(xiàng)技術(shù)變得越來(lái)越普及且越來(lái)越難辨真假的同時(shí),人們對(duì)Deepfake技術(shù)的擔(dān)憂也越來(lái)越多。根據(jù)2021年的韓國(guó)成均館大學(xué)的研究論文,Microsoft的Azure認(rèn)知服務(wù)對(duì)高達(dá)78%的Deepfake視頻均無(wú)法辨認(rèn)。
Deepfake的威脅
除了前文提到的馬斯克等名人詐騙案之外,Deepfake被用于非法謀利的案件日益增多。
不正當(dāng)競(jìng)爭(zhēng):今年年初在領(lǐng)英上,70多家公司被曝利用Deepfake技術(shù)生成的虛擬人物作虛假銷售賬戶,以此擴(kuò)展業(yè)務(wù)同時(shí)減少在雇用人員上的支出;詐騙:犯罪分子通過(guò)Deepfake技術(shù)偽造母公司負(fù)責(zé)人聲音導(dǎo)致英國(guó)新能源公司的CEO被詐騙超20萬(wàn)美元;造假:國(guó)外選舉期間,網(wǎng)絡(luò)上出現(xiàn)大量“政治視頻”,其中許多利用Deepfake技術(shù)發(fā)表政治聲明,從而動(dòng)搖、影響選舉局面等。
假特朗普呼吁采取行動(dòng)應(yīng)對(duì)氣候變化,說(shuō)服人們?cè)谡?qǐng)?jiān)笗?shū)簽字。雖然很假,但上當(dāng)者頗多
圖源:InfoQ
報(bào)復(fù):不僅是個(gè)人,對(duì)于企業(yè)以及明星而言,Deepfake影片成為新興的報(bào)復(fù)性工具,Deepfake編造的不實(shí)消息,讓人們的肖像權(quán)、名譽(yù)權(quán)等權(quán)益受到危害。例如,Deepfake 色情影片也已經(jīng)被用來(lái)勒索女性記者和新聞工作者,印度記者 Rana Ayyub曾經(jīng)曝光過(guò)被Deepfake視頻勒索的行為。
某馬來(lái)西亞政治家因一段涉嫌從事同性戀活動(dòng)的影片而被判入獄,但后來(lái)證實(shí)影片為Deepfake偽造......諸如此類的故事正在不斷上演。
Tiktok上的假阿湯哥圖源:Tiktok
去年,德國(guó)媒體Mixed曾發(fā)表過(guò)一篇文章,關(guān)于創(chuàng)建一個(gè)Deepfake視頻需要多長(zhǎng)時(shí)間。根據(jù)作者的實(shí)驗(yàn),他使用DeepFaceLab開(kāi)源軟件進(jìn)行測(cè)試,從提取視頻中的人臉照片到驗(yàn)證人臉(大約650張照片),再到約17個(gè)小時(shí)的AI訓(xùn)練,將鋼鐵俠小羅伯特唐尼與馬斯克進(jìn)行換臉。
圖源:Mixed
雖然換臉效果相對(duì)較粗糙,但作為一個(gè)非專業(yè)人士在沒(méi)有專業(yè)工具,龐大的數(shù)據(jù)集和預(yù)訓(xùn)練模型的基礎(chǔ)下,在幾天時(shí)間內(nèi)制造出上述程度的Deepfake視頻意味著如今人工智能進(jìn)化的腳步使得Deepfake技術(shù)變得更加容易。除了自己摸索之外,更是有賣家在某二手交易平臺(tái)出售相關(guān)技術(shù)、教程等,Deepfake技術(shù)的門檻一降再降。
圖源:燃財(cái)經(jīng)
即使有些Deepfake視頻并沒(méi)有出神入化到足以令人信服的地步,但想象一下,在Deepfake技術(shù)的升級(jí),以及如今信息泄露的情況,如果不法分子利用你身邊人的照片,從而導(dǎo)演出一場(chǎng)無(wú)限逼真的戲,那會(huì)有多可怕?
因此為了解決不斷升級(jí)的Deepfake技術(shù)帶來(lái)的隱私和安全問(wèn)題,軟件、平臺(tái)和政策都在積極地采取措施。
從2019年開(kāi)始,各國(guó)、各平臺(tái)便開(kāi)始針對(duì)Deepfake出臺(tái)一些新的保障政策:
今年6月,Google 修改平臺(tái)政策,禁止開(kāi)發(fā)者使用其 Colaboratory 平臺(tái)的服務(wù)進(jìn)行 Deepfake 項(xiàng)目的研究;2020年,Meta全面禁止 deepfake 類視頻的傳播;2020年,國(guó)內(nèi)印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要(2020 - 2025年)》進(jìn)一步要求,對(duì)深度偽造等新技術(shù)應(yīng)用,制定和完善規(guī)范管理辦法;美國(guó)2019年正式簽署生效的2020財(cái)年國(guó)防批準(zhǔn)法當(dāng)中包含了和 deepfake 相關(guān)的條文。......
不過(guò)即使是在政策加持下,Deepfake偽造視頻就像是打地鼠一般,平臺(tái)的監(jiān)管往往趕不上生成視頻的速度,為此Meta、微軟、谷歌等科技公司都開(kāi)始使用“魔法打敗魔法”策略,著手開(kāi)發(fā)監(jiān)測(cè)Deepfake技術(shù)的內(nèi)容模型。
但這場(chǎng)AI之間的攻防戰(zhàn),同時(shí)會(huì)使Deepfake技術(shù)再次升級(jí),根據(jù)數(shù)據(jù)表示,Deepfake技術(shù)的檢測(cè)仍然具有3%的錯(cuò)誤率。在海量的生成視頻中,3%也將造成大量的偽造視頻的傳播。未來(lái)的Deepfake將迎來(lái)更多的挑戰(zhàn),如何保障Deepfake技術(shù)的合理運(yùn)用的道路還需要更多的探索。
原文標(biāo)題 : 數(shù)字人的最大“隱憂”!半年詐騙2億,Deepfake騙局再次引爆互聯(lián)網(wǎng)
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
推薦專題
- 1 【一周車話】沒(méi)有方向盤和踏板的車,你敢坐嗎?
- 2 特斯拉發(fā)布無(wú)人駕駛車,還未迎來(lái)“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 6 馬斯克致敬“國(guó)產(chǎn)蘿卜”?
- 7 神經(jīng)網(wǎng)絡(luò),誰(shuí)是盈利最強(qiáng)企業(yè)?
- 8 比蘋果偉大100倍!真正改寫人類歷史的智能產(chǎn)品降臨
- 9 諾獎(jiǎng)進(jìn)入“AI時(shí)代”,人類何去何從?
- 10 Open AI融資后成萬(wàn)億獨(dú)角獸,AI人才之爭(zhēng)開(kāi)啟
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市