訂閱
糾錯
加入自媒體

AI換臉時代 當(dāng)心換掉你的安全

從先前的P圖,到如今的換臉,人工智能飛速發(fā)展,在方便人們生活的同時,也增添了很多樂趣。AI換臉一時爽,但是歡樂背后帶來的往往是更深的警惕:技術(shù)的更新?lián)Q代,最終也將釋放人性陰暗的一面。

AI換臉背后映射巨大的網(wǎng)絡(luò)安全問題

首先,AI 換臉面臨的一大風(fēng)險,是對信息真實性的嚴(yán)峻挑戰(zhàn)。俗話說“耳聽為虛,眼見為實”,實時監(jiān)控早已成為現(xiàn)實中記錄事件真相的重要手段,在監(jiān)控攝像頭的保護(hù)下,我們活得越來越安全似乎已經(jīng)變成共識。然而,隨著AI換臉技術(shù)的發(fā)展,監(jiān)控視頻開始面臨被篡改影像的風(fēng)險,在本來就假消息滿天飛的互聯(lián)網(wǎng)時代,這無疑將造成更嚴(yán)重的信任崩塌;蛟S未來某一天,任何人發(fā)布或者引用的資料,都有可能被大眾質(zhì)疑其真實性,而比這更可怕的是,我們尚不自知自己是否正在被欺騙。

其次,AI換臉也會大大增加侵犯肖像權(quán)的可能性,讓任何一個人成為這項技術(shù)的攻擊目標(biāo)只是時間問題。和靜態(tài)的ps修圖不同,AI 是動態(tài)的換臉,從這個角度來說,其存在本身就是對肖像權(quán)的一種威脅。國外已有類似案例:過去兩年,就有人通過這項技術(shù),將好萊塢著名影星的臉疊加到其他演員身上,憑借“杜撰明星影片”而走紅。換臉儼然已變成一種赤裸裸的“技術(shù)不法行為”,雖然后來類似的換臉視頻遭到了封殺,但顯然,“潘多拉的魔盒”已經(jīng)被打開,包括ZAO等軟件開始大行其道。

第三,隨著AI換臉技術(shù)的大規(guī)模流行,AI變聲也開始嶄露頭角。早些年谷歌就曾研究過AI變聲的相關(guān)技術(shù),雖只停留在論文層面。但國內(nèi)廠商卻是更為激進(jìn),不少研究輸入法的廠商已開始將該項技術(shù)應(yīng)用到產(chǎn)品中并嘗試進(jìn)行推廣。在輸入一段語音后,等待片刻即可生成特定音色和音調(diào)的語音,擬真程度可謂是相當(dāng)出色。而與此同時,近年來借助AI語音構(gòu)成的詐騙案也開始層出不窮,其中有就一項嫌煩利用人工智能模仿公司高層聲音騙走1000萬美元的案例。

第四,當(dāng)今一些銀行基于人工智能,推出人臉識別的網(wǎng)絡(luò)支付轉(zhuǎn)賬系統(tǒng)來進(jìn)行大額轉(zhuǎn)賬,目前這項技術(shù)看起來似乎很安全、很“完美”,但在AI變臉技術(shù)面前,或許也會成為最脆弱的安防技術(shù)。

AI換臉技術(shù)不能一刀切

當(dāng)然,AI 換臉技術(shù)也不能一棍子打死。不可否認(rèn)的是,AI技術(shù)發(fā)展到當(dāng)下階段,在醫(yī)療、出行等各行各業(yè)也為用戶帶來更多希望和驚喜。例如《速度與激情 7》中的演員保羅 · 沃克在拍攝前意外去世,制作方利用替身+動態(tài)捕捉+CGI 動畫的方式,把保羅的臉換在替身演員身上。這類技術(shù)讓電影得以上映,也為藝術(shù)創(chuàng)作提供了更多的可能性、創(chuàng)造力及想象力。還有類似“AI復(fù)活張國榮”這種致敬作品在粉絲之間廣為流傳。甚至有人將自己逝去親人的面容,使用同類技術(shù),換在視頻中,以此來緬懷先人。

AI應(yīng)用是未來發(fā)展的大趨勢,為了保護(hù)數(shù)據(jù)安全就“粗暴一刀切”全部封殺并不現(xiàn)實。

保護(hù)信息安全需要共同努力

為了規(guī)范AI換臉,防止技術(shù)被不當(dāng)利用,社會各方需要共同努力:

·監(jiān)管部門需要加強(qiáng)立法和監(jiān)管,以適應(yīng)社會發(fā)展要求;

·互聯(lián)網(wǎng)平臺需要建立防治虛假信息的機(jī)制,承擔(dān)起監(jiān)督和管理責(zé)任;

·企業(yè)和研究機(jī)構(gòu),不但需要在管理上完善各項保密制度,更需要通過開發(fā)有效的技術(shù)手段來識別虛假的AI信息以保護(hù)企業(yè)內(nèi)部重要數(shù)據(jù)的安全;

·網(wǎng)絡(luò)音視頻信息服務(wù)使用者,應(yīng)依法使用網(wǎng)絡(luò)音視頻信息服務(wù),當(dāng)自己的權(quán)利受到侵犯時應(yīng)立即舉報,維護(hù)個人的合法權(quán)益;

·公眾應(yīng)該及時了解技術(shù)發(fā)展的趨勢,增加自身防騙意識和能力,在面對網(wǎng)絡(luò)信息時,做到不信謠、不傳謠。

結(jié)語:水能載舟亦能覆舟,AI只是一項技術(shù),它的存在不分善惡,但使用該技術(shù)的人是有立場的;蛟SAI換臉這類技術(shù)正在以我們難以預(yù)見的方式發(fā)展、演變,但永遠(yuǎn)別忘了,它只是一個工具,背后操控它的,始終還是人心。


聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標(biāo)題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號