奧巴馬會(huì)和特朗普說(shuō)一樣的話，信不信？有視頻為證。在一個(gè)對(duì)比視頻中，二人不僅話語(yǔ)一致，連話語(yǔ)節(jié)奏甚至面部肌肉的動(dòng)作都是一致的，但談吐風(fēng)格卻能保持各自特點(diǎn)。

“這是一種被稱為GAN（生成對(duì)抗網(wǎng)絡(luò)）的新興技術(shù)�！比涨埃�香山會(huì)議召開(kāi)以“信息隱藏與人工智能”為主題的學(xué)術(shù)討論會(huì)，北京電子技術(shù)應(yīng)用研究所副研究員李鵬超介紹，GAN是一種生成模型，通過(guò)將兩個(gè)神經(jīng)網(wǎng)絡(luò)的對(duì)抗作為訓(xùn)練準(zhǔn)則，可以自動(dòng)生成圖像，包括自動(dòng)篡改圖像。實(shí)際上早在2015年，GAN就被用于制作教皇表演“抽桌布”戲法的假視頻，由于過(guò)于逼真，很快就火遍網(wǎng)絡(luò)。

據(jù)統(tǒng)計(jì)，大量的合成信息占據(jù)了互聯(lián)網(wǎng)，如合成聲音、生成圖像、AI合成不存在的人像等，約占網(wǎng)絡(luò)信息的30％�！把垡�(jiàn)為實(shí)”很可能已經(jīng)靠不住了。

機(jī)器人水軍已經(jīng)很成規(guī)模

人們判斷真假，經(jīng)常會(huì)說(shuō)“真的自然”。而人工智能造假，將在盡可能“自然”的前提下，完成自動(dòng)生成。

“淘寶上的機(jī)器人水軍已經(jīng)很成規(guī)模了。”浙江大學(xué)管理學(xué)院教授孔祥維舉例道，例如商品評(píng)價(jià)已經(jīng)由機(jī)器自動(dòng)生成，不再需要雇人“灌水”。

“自動(dòng)生成帶來(lái)的危機(jī)是規(guī)模性、密集度的大幅增加�！笨紫榫S說(shuō)。以淘寶評(píng)價(jià)為例，如果虛假評(píng)價(jià)如潮水般涌入，它甚至不需要做到真假難辨，就能將真實(shí)評(píng)價(jià)淹沒(méi)。

在社會(huì)事件的輿論方面，“機(jī)器人水軍如果操縱輿論，將使國(guó)家安全置于風(fēng)險(xiǎn)之中�！笨紫榫S說(shuō)。

除了自動(dòng)生成之外，GAN的開(kāi)源性也帶來(lái)巨大的隱患。開(kāi)源代碼，意味著誰(shuí)都可以用，代碼一經(jīng)開(kāi)源將“變幻無(wú)窮”。相關(guān)研究人員表示：“這就意味著對(duì)這一代碼的研究必須比對(duì)手更透徹，才能以不變應(yīng)萬(wàn)變。”

防造假需嵌入抗編輯水印

抖音等微視頻APP的普及，使得視頻的發(fā)布非常頻繁。有沒(méi)有辦法讓公眾的自拍不像前文提到的視頻一樣被篡改？清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系副教授王道順表示，非法用戶除了借助視頻編輯工具復(fù)制后再修改，甚至未經(jīng)授權(quán)轉(zhuǎn)拍視頻內(nèi)容。這些操作都是為了得到可以任意修改的“白板”，“我們正在探索基于深度學(xué)習(xí)的抗編輯視頻水印技術(shù)�！蓖醯理樥f(shuō)。

這就要求水印在視頻中是隱藏著的，而且不能夠被編輯，人工智能的深度學(xué)習(xí)技術(shù)被用來(lái)嵌入這些“入木三分”的水印。王道順表示，他的團(tuán)隊(duì)希望能夠完成嵌入和檢測(cè)兩方面的技術(shù)輸出。

網(wǎng)絡(luò)對(duì)抗進(jìn)化為智能化平臺(tái)間的對(duì)抗

GAN的魔力在于兩個(gè)神經(jīng)網(wǎng)絡(luò)之間的競(jìng)爭(zhēng)，通過(guò)讓兩個(gè)神經(jīng)網(wǎng)絡(luò)對(duì)抗，人工智能深度學(xué)習(xí)從識(shí)別事物升級(jí)到有能力創(chuàng)造事物。

技術(shù)都有兩面性，人工智能的“造假術(shù)”也可被加以利用。信息隱藏技術(shù)可以借用人工智能技術(shù)和思路，例如利用神經(jīng)網(wǎng)絡(luò)的對(duì)抗生成隱藏信息，獲得人工智能相關(guān)技術(shù)與生俱來(lái)的自適應(yīng)、海量等特點(diǎn)。相關(guān)專家表示，深度學(xué)習(xí)在許多模式識(shí)別領(lǐng)域取得了巨大的成功，給信息隱寫和隱寫分析帶來(lái)新的方法和挑戰(zhàn)。

對(duì)于信息隱藏的基礎(chǔ)研究者來(lái)說(shuō)，因?yàn)椤八悸凡煌�”，傳統(tǒng)的分析手段難以發(fā)現(xiàn)的隱藏信息很可能在人工智能的深度學(xué)習(xí)模式下被輕易破解。香山會(huì)議就新課題的緊迫性進(jìn)行了討論，專家認(rèn)為：人工智能的發(fā)展使得網(wǎng)絡(luò)對(duì)抗從人與人的對(duì)抗進(jìn)化為智能化、自動(dòng)化的平臺(tái)間對(duì)抗，作為數(shù)據(jù)保護(hù)和隱蔽通信中的關(guān)鍵技術(shù)，信息隱藏技術(shù)必須有所改變。