訂閱
糾錯
加入自媒體

新火種AI|用AI技術(shù)“復(fù)活”親人,是全新機(jī)遇還是倫理挑戰(zhàn)?

2024-03-13 17:43
新火種
關(guān)注

作者:小巖

編輯:彩云

近日,著名音樂人包小柏用AI技術(shù)“復(fù)活”了已經(jīng)去世的女兒,惹得全網(wǎng)熱議。因病去世了幾年的女兒忽然獲得了“數(shù)字生命”,鮮活的存在于電腦里,她不僅可以唱歌,還能與家人進(jìn)行對話。這樣的狀況與《流浪地球2》中的情景幾乎毫無二致。也正因此,這條新聞無論是在技術(shù)層面,還是從情感層面,都給了大家極大的觸動。

圖片7.png

當(dāng)然,因此而引起的評論也呈現(xiàn)出了兩極化的趨勢。有人認(rèn)為,讓親人的音容笑貌得以延續(xù),這恰恰是AI存在的偉大意義。也有人對“數(shù)字生命”持保留態(tài)度,生老病死是生命的普遍規(guī)律,很無奈,但沒有人可以阻止。通過技術(shù)不斷的“復(fù)原”逝者,只會是自欺欺人,給在世的親人帶來更大的痛苦。

關(guān)于道德與倫理方面的爭論還沒有一個確定的結(jié)果,可科技發(fā)展的車輪卻如此迅速,全然沒有要停下來的意思。

上海00后小伙用AIA技術(shù)“復(fù)活”奶奶:只是希望用AI技術(shù)彌補(bǔ)遺憾。

用AI技術(shù)“復(fù)活”親人的,遠(yuǎn)不止包小柏一個人。

就在最近,上海的00后視覺設(shè)計師,B站UP主吳伍六用AI技術(shù)生成了去世奶奶的虛擬數(shù)字人,并和自己開展了對話。這段視頻在B站上引發(fā)了網(wǎng)友的廣泛關(guān)注。

吳伍六在接受媒體采訪時表示,之所以用AI“復(fù)活”奶奶,是因為自己不能接受奶奶的突然離去。吳伍六平時從事AI工作,就想到了用AI技術(shù)“復(fù)活”奶奶。他導(dǎo)入了奶奶生前的照片,制作出了奶奶的動態(tài)頭像,又將奶奶生前的通話音頻導(dǎo)入AI,訓(xùn)練AI模擬出奶奶的聲音和語氣。他這么做的初衷只是希望用AI技術(shù)彌補(bǔ)與奶奶沒有好好告別的遺憾,并希望大家珍惜當(dāng)下,現(xiàn)實的陪伴永遠(yuǎn)是最重要的。

圖片8.png

值得一提的是,吳伍六還在視頻中分享了整個“AI奶奶”的制作流程,主要就是使用了最近大火的AI繪圖網(wǎng)站Midjourney以及AI語言模型ChatGPT等。其中的語音素材,源自吳伍六和奶奶連續(xù)兩年的手機(jī)通話錄音,他以此為數(shù)據(jù)訓(xùn)練AI模擬出奶奶的聲音和語氣。照片則是從殯儀館要來的,上傳到Midjourney進(jìn)行優(yōu)化,制作出了奶奶的動態(tài)頭像,然后在ChatGPT中輸入關(guān)于奶奶的信息,從而生成虛擬數(shù)字人。

打破真實和虛擬的邊界,用AI“復(fù)活”親人極有可能成為未來的熱門賽道。

如果說博主吳伍六用AI“復(fù)活”奶奶是為了寄托自己對逝去親人的思念,那么有些人則是因此窺見了商機(jī),純純打起了生意經(jīng)。

電商平臺上就存在不少做AI“復(fù)活”生意的商家。在某電商平臺,AI“復(fù)活”的商品標(biāo)價從幾元,幾十元,到上百元乃至數(shù)千元不等。有的商家甚至掛出了“只需要52.1元,就能還原逝去親人的容貌并和ta聊天”的噱頭。

譬如一位網(wǎng)友認(rèn)為自己最大的遺憾就是身在異鄉(xiāng),沒能見到父親的最后一面。他在辦完父親的身后事后,還是會止不住的思念父親,會把自己關(guān)在房間里一遍又一遍的翻看自己和父親的聊天記錄。直到某一天,他在短視頻平臺上刷到有商家提供AI“復(fù)活”親人的服務(wù),他感覺自己好像是抓住了救命稻草,趕緊支付了200多元并提供了父親生前的錄音和照片。隨后,網(wǎng)友收到了一段短視頻。視頻里,父親微笑著對他說著話,視頻只有短短幾十秒的時間。

圖片9.png

想必大家都能意識到,說是用AI“復(fù)活”逝者,其實生成的內(nèi)容與逝者本身一點關(guān)系都沒有。商家只是利用AI技術(shù),將逝去親人的文字描述,圖片,視頻和聲音資料輸入AI算法模型,從而模擬生成一個數(shù)字形象,這個形象具備了逝者的某些典型特質(zhì)(性格,聲音,容貌等),僅此而已。

就連“AI奶奶”的博主吳伍六都說,“這件事的本質(zhì)就是要求AI當(dāng)演員,去扮演一個人,如今的AI可以很好的去模仿一個人的相貌和聲音,但就目前的科學(xué)水平而言,它無法模仿一個人的靈魂”。很多想AI“復(fù)活”親人的網(wǎng)友,也不過是想謀求一個心理安慰。

全新技術(shù)引發(fā)爭議:緬懷固然重要,保護(hù)隱私謹(jǐn)防被騙也是要緊事。

一直以來,針對AI應(yīng)用,特別是“AI復(fù)活” 應(yīng)用的爭論就從未停止。即便現(xiàn)在,“AI復(fù)活”的技術(shù)已經(jīng)突飛猛進(jìn),形成了井噴式的發(fā)展,也依然無法幫助其在倫理,道德以及法律方面找到一個足夠有力的支撐點。

一方面,“AI復(fù)活”這件事對于社會倫理和社會道德產(chǎn)生了不小的沖擊。很多人認(rèn)為人死不能復(fù)生,一味的沉湎于過去,只會讓自己更加痛苦。更重要的是,那個克隆出來的,所謂的“親人”與逝者是毫無關(guān)系的。

另一方面,盡管目前還沒有明確的法律法規(guī)對于“AI復(fù)活”的行為進(jìn)行明確規(guī)范,但制作方在利用數(shù)字技術(shù)行“復(fù)活”時,是需要承擔(dān)一些法律責(zé)任的,諸如“制作出來的形象與實際偏差太大”“侵害逝者名譽權(quán),肖像權(quán)”等相關(guān)權(quán)益。

2023年7月,中國頒布了《生成式人工智能服務(wù)管理暫行辦法》,要求研發(fā)方要在生成式AI技術(shù)研發(fā)過程中進(jìn)行數(shù)據(jù)標(biāo)注的,提供者應(yīng)當(dāng)制定符合本辦法要求的清晰,具體,可操作的標(biāo)注規(guī)則;開展數(shù)據(jù)標(biāo)注質(zhì)量評估,抽樣核驗標(biāo)注內(nèi)容的準(zhǔn)確性;對標(biāo)注人員進(jìn)行必要培訓(xùn),提升守法意識,監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開展標(biāo)注工作。誠然,這個法規(guī)可以對當(dāng)下興起的“AI復(fù)活”技術(shù)起到一定的監(jiān)管和威懾作用,但它畢竟不是專門監(jiān)管“AI復(fù)活”的具體法案,無法做到面面俱到,百分百貼合。畢竟,立法都是略微滯后的,特別是在新技術(shù)領(lǐng)域。

不可否認(rèn),科技是把雙刃劍,AI也不例外。我們可以利用飛速發(fā)展的AI技術(shù)實現(xiàn)一系列的革新和突破,諸如人臉識別,語音識別,提高安防效果等。而備受關(guān)注的“AI復(fù)活”,還能夠彌補(bǔ)一些人沒能“好好和親人告?zhèn)別”的遺憾。但是,一旦這些技術(shù)被壞人利用,就可能成為滋生詐騙,邪惡,丑陋的溫床。

歷史的每一次巨大革新和變革,總會伴隨著對于社會規(guī)則,道德和倫理方面的挑戰(zhàn)。在不久的未來,如何去把握科技倫理與社會發(fā)展的邊界,在加速發(fā)展和審慎規(guī)范之間找到平衡點,這將會成為全人類關(guān)注的焦點。

       原文標(biāo)題 : 新火種AI|用AI技術(shù)“復(fù)活”親人,是全新機(jī)遇還是倫理挑戰(zhàn)?

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標(biāo)題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號