AI換臉時代 當(dāng)心換掉你的安全
從先前的P圖,到如今的換臉,人工智能飛速發(fā)展,在方便人們生活的同時,也增添了很多樂趣。AI換臉一時爽,但是歡樂背后帶來的往往是更深的警惕:技術(shù)的更新?lián)Q代,最終也將釋放人性陰暗的一面。
AI換臉背后映射巨大的網(wǎng)絡(luò)安全問題
首先,AI 換臉面臨的一大風(fēng)險,是對信息真實性的嚴(yán)峻挑戰(zhàn)。俗話說“耳聽為虛,眼見為實”,實時監(jiān)控早已成為現(xiàn)實中記錄事件真相的重要手段,在監(jiān)控攝像頭的保護(hù)下,我們活得越來越安全似乎已經(jīng)變成共識。然而,隨著AI換臉技術(shù)的發(fā)展,監(jiān)控視頻開始面臨被篡改影像的風(fēng)險,在本來就假消息滿天飛的互聯(lián)網(wǎng)時代,這無疑將造成更嚴(yán)重的信任崩塌;蛟S未來某一天,任何人發(fā)布或者引用的資料,都有可能被大眾質(zhì)疑其真實性,而比這更可怕的是,我們尚不自知自己是否正在被欺騙。
其次,AI換臉也會大大增加侵犯肖像權(quán)的可能性,讓任何一個人成為這項技術(shù)的攻擊目標(biāo)只是時間問題。和靜態(tài)的ps修圖不同,AI 是動態(tài)的換臉,從這個角度來說,其存在本身就是對肖像權(quán)的一種威脅。國外已有類似案例:過去兩年,就有人通過這項技術(shù),將好萊塢著名影星的臉疊加到其他演員身上,憑借“杜撰明星影片”而走紅。換臉儼然已變成一種赤裸裸的“技術(shù)不法行為”,雖然后來類似的換臉視頻遭到了封殺,但顯然,“潘多拉的魔盒”已經(jīng)被打開,包括ZAO等軟件開始大行其道。
第三,隨著AI換臉技術(shù)的大規(guī)模流行,AI變聲也開始嶄露頭角。早些年谷歌就曾研究過AI變聲的相關(guān)技術(shù),雖只停留在論文層面。但國內(nèi)廠商卻是更為激進(jìn),不少研究輸入法的廠商已開始將該項技術(shù)應(yīng)用到產(chǎn)品中并嘗試進(jìn)行推廣。在輸入一段語音后,等待片刻即可生成特定音色和音調(diào)的語音,擬真程度可謂是相當(dāng)出色。而與此同時,近年來借助AI語音構(gòu)成的詐騙案也開始層出不窮,其中有就一項嫌煩利用人工智能模仿公司高層聲音騙走1000萬美元的案例。
第四,當(dāng)今一些銀行基于人工智能,推出人臉識別的網(wǎng)絡(luò)支付轉(zhuǎn)賬系統(tǒng)來進(jìn)行大額轉(zhuǎn)賬,目前這項技術(shù)看起來似乎很安全、很“完美”,但在AI變臉技術(shù)面前,或許也會成為最脆弱的安防技術(shù)。
AI換臉技術(shù)不能一刀切
當(dāng)然,AI 換臉技術(shù)也不能一棍子打死。不可否認(rèn)的是,AI技術(shù)發(fā)展到當(dāng)下階段,在醫(yī)療、出行等各行各業(yè)也為用戶帶來更多希望和驚喜。例如《速度與激情 7》中的演員保羅 · 沃克在拍攝前意外去世,制作方利用替身+動態(tài)捕捉+CGI 動畫的方式,把保羅的臉換在替身演員身上。這類技術(shù)讓電影得以上映,也為藝術(shù)創(chuàng)作提供了更多的可能性、創(chuàng)造力及想象力。還有類似“AI復(fù)活張國榮”這種致敬作品在粉絲之間廣為流傳。甚至有人將自己逝去親人的面容,使用同類技術(shù),換在視頻中,以此來緬懷先人。
AI應(yīng)用是未來發(fā)展的大趨勢,為了保護(hù)數(shù)據(jù)安全就“粗暴一刀切”全部封殺并不現(xiàn)實。
保護(hù)信息安全需要共同努力
為了規(guī)范AI換臉,防止技術(shù)被不當(dāng)利用,社會各方需要共同努力:
·監(jiān)管部門需要加強(qiáng)立法和監(jiān)管,以適應(yīng)社會發(fā)展要求;
·互聯(lián)網(wǎng)平臺需要建立防治虛假信息的機(jī)制,承擔(dān)起監(jiān)督和管理責(zé)任;
·企業(yè)和研究機(jī)構(gòu),不但需要在管理上完善各項保密制度,更需要通過開發(fā)有效的技術(shù)手段來識別虛假的AI信息以保護(hù)企業(yè)內(nèi)部重要數(shù)據(jù)的安全;
·網(wǎng)絡(luò)音視頻信息服務(wù)使用者,應(yīng)依法使用網(wǎng)絡(luò)音視頻信息服務(wù),當(dāng)自己的權(quán)利受到侵犯時應(yīng)立即舉報,維護(hù)個人的合法權(quán)益;
·公眾應(yīng)該及時了解技術(shù)發(fā)展的趨勢,增加自身防騙意識和能力,在面對網(wǎng)絡(luò)信息時,做到不信謠、不傳謠。
結(jié)語:水能載舟亦能覆舟,AI只是一項技術(shù),它的存在不分善惡,但使用該技術(shù)的人是有立場的;蛟SAI換臉這類技術(shù)正在以我們難以預(yù)見的方式發(fā)展、演變,但永遠(yuǎn)別忘了,它只是一個工具,背后操控它的,始終還是人心。
最新活動更多
-
11月20日火熱報名中>> 2024 智能家居出海論壇
-
11月28日立即報名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
精彩回顧立即查看>> 【在線會議】多物理場仿真助跑新能源汽車
推薦專題
-
10 臺積電7nm停供中國大陸
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市