你敢相信嗎，一個(gè)普通的視頻聊天，竟然讓一位福州市民損失了430萬元！這就是最近發(fā)生的一起利用AI技術(shù)實(shí)施電信詐騙的驚人案例，它引發(fā)了全國(guó)網(wǎng)友的熱議和關(guān)注。

而在國(guó)外，有關(guān)AI造假的問題也是層出不窮。有人用AI技術(shù)制造了美國(guó)前總統(tǒng)特朗普“被捕”的假新聞，也有人用AI技術(shù)模仿了歐盟委員會(huì)主席的聲音，向德國(guó)總理打了個(gè)騙局電話。

這些新聞表明，AI技術(shù)的濫用和誤用已經(jīng)成為一個(gè)全球性的問題，在這種情況下，人們?cè)絹碓綋?dān)心 ChatGPT 等人工智能的發(fā)展可能對(duì)社會(huì)帶來嚴(yán)重的威脅。對(duì)此，包括“ChatGPT之父”Sam Altman在內(nèi)的350位AI權(quán)威自發(fā)簽署了一封聯(lián)名公開信，警告AI可能會(huì)對(duì)人類構(gòu)成滅絕性風(fēng)險(xiǎn)。

此前，深度學(xué)習(xí)之父Hinton也曾為了警告AI的風(fēng)險(xiǎn)，不惜從谷歌離職。的確，AI技術(shù)的發(fā)展和應(yīng)用不僅給人們帶來了便利和福祉，也帶來了巨大的挑戰(zhàn)和危機(jī)。

如何識(shí)別和應(yīng)對(duì)AI的潛在風(fēng)險(xiǎn)，已經(jīng)成為當(dāng)下亟待解決的問題，而我們將在以下內(nèi)容中針對(duì)這些問題做詳細(xì)的闡述。

AI有哪些風(fēng)險(xiǎn)？

? 倫理和道德風(fēng)險(xiǎn)

想象一下，如果有一天，AI技術(shù)發(fā)展到了超越人類智慧的水平，它會(huì)怎么對(duì)待我們？它會(huì)尊重我們的價(jià)值觀和利益嗎？它會(huì)保護(hù)我們的主體地位和自由嗎？科幻小說中人類的機(jī)器大戰(zhàn)的場(chǎng)面是否會(huì)成為現(xiàn)實(shí)？

這是我們需要認(rèn)真思考的一個(gè)非常重要的問題，因?yàn)樵贏I技術(shù)的發(fā)展和應(yīng)用中，倫理和道德風(fēng)險(xiǎn)已經(jīng)悄然出現(xiàn)。

一方面，AI系統(tǒng)可能成為人類偏見的鏡子或放大器，導(dǎo)致不公平的決策或行為；另一方面，AI系統(tǒng)可能區(qū)別對(duì)待不同的個(gè)人或群體，比如有些招聘系統(tǒng)可能會(huì)針對(duì)某些性別或種族，從而影響他們的就業(yè)前景。

? 經(jīng)濟(jì)風(fēng)險(xiǎn)

AI技術(shù)所引發(fā)的經(jīng)濟(jì)風(fēng)險(xiǎn)也與我們的生活息息相關(guān)。詐騙分子通過“換臉”和“擬聲”等技術(shù)模仿受害人的朋友或親戚的聲音和外貌，讓受害人完全分不清真假，這便是利用AI技術(shù)進(jìn)行詐騙的典型方式。

據(jù)報(bào)道，這種詐騙的成功率高達(dá)100%，已經(jīng)造成了多起重大財(cái)產(chǎn)損失，給人們帶來了嚴(yán)重的經(jīng)濟(jì)風(fēng)險(xiǎn)。

目前，AI詐騙包括以下幾種常用手法：

聲音合成：詐騙者通過騷擾電話錄音等來提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過對(duì)方。

AI程序篩選受害人和換臉技術(shù)：詐騙分子首先分析公眾發(fā)布在網(wǎng)上的各類信息，然后根據(jù)所要實(shí)施的騙術(shù)，通過AI技術(shù)篩選目標(biāo)人群，最后在視頻通話中利用AI換臉騙取信任。在短時(shí)間內(nèi)便可生產(chǎn)出定制化的詐騙腳本，從而實(shí)施精準(zhǔn)詐騙。

轉(zhuǎn)發(fā)微信語音：詐騙分子在盜取微信號(hào)后，便向其好友“借錢”，為取得對(duì)方的信任，他們會(huì)通過提取語音文件來實(shí)現(xiàn)語音轉(zhuǎn)發(fā)，進(jìn)而實(shí)施詐騙。

? 技術(shù)風(fēng)險(xiǎn)

作為一種改變?nèi)藗兩�活方式和工作方式的技術(shù)，AI的廣泛應(yīng)用為人們帶來了極大的便利，但同時(shí)AI技術(shù)的發(fā)展也給人類帶來了一系列的技術(shù)危害和技術(shù)風(fēng)險(xiǎn)。

首先是數(shù)據(jù)隱私和安全問題。AI技術(shù)需要處理的數(shù)據(jù)通常涉及到用戶的個(gè)人信息，如果這些數(shù)據(jù)處理不當(dāng)或泄露，將給用戶帶來巨大的損失和安全隱患。

其次，AI技術(shù)往往采用黑箱技術(shù)，以獲得更高的預(yù)測(cè)能力和效率，這使得AI系統(tǒng)不能向人類提供足夠的可解釋性，使得AI系統(tǒng)無法“解釋”其行為或決策的標(biāo)準(zhǔn)，可能產(chǎn)生誤導(dǎo)性和歪曲性。

除了以上技術(shù)問題以外，清華大學(xué)教授陶建華曾表示，大模型的安全漏洞威脅大模型的應(yīng)用生態(tài)和國(guó)家安全，如數(shù)據(jù)投毒攻擊、對(duì)抗樣本攻擊，以及模型竊取攻擊國(guó)家、企業(yè)、個(gè)人信息竊取等。

? 社會(huì)風(fēng)險(xiǎn)

AI技術(shù)的不斷發(fā)展還導(dǎo)致了越來越多的工作被自動(dòng)化取代，部分人失去了工作機(jī)會(huì)，從而使得富人和窮人之間的差距越來越大。

在某些行業(yè)中，AI可能會(huì)取代人類工作崗位，如制造業(yè)、商業(yè)、金融和法律，這會(huì)導(dǎo)致失業(yè)、職業(yè)轉(zhuǎn)移和社會(huì)經(jīng)濟(jì)的重大變化，進(jìn)一步造成失業(yè)率上升，并對(duì)整個(gè)社會(huì)產(chǎn)生負(fù)面影響。

除此之外，AI可能對(duì)人類的社交和人際交往能力產(chǎn)生影響。在未來，人類可能會(huì)傾向于與機(jī)器對(duì)話，而不是與真正的人進(jìn)行交流，這將對(duì)我們的社會(huì)聯(lián)系和人類身份認(rèn)同帶來重要的改變。

如果AI技術(shù)變得足夠智能，可能會(huì)超出人類的控制范圍，從而導(dǎo)致不可預(yù)測(cè)的人類控制喪失。最后，由于人工智能技術(shù)的發(fā)展需要大量投資和技術(shù)資源，可能會(huì)導(dǎo)致一些國(guó)家或組織比其他國(guó)家或組織更具競(jìng)爭(zhēng)力，從而加劇社會(huì)不平等。

該如何應(yīng)對(duì)？

? 國(guó)家層面

盡管人工智能技術(shù)具有跨國(guó)性質(zhì)，并且圍繞它的擔(dān)憂程度很高。在AI監(jiān)管方面，自2017年以來，69個(gè)國(guó)家共通過了800多項(xiàng)人工智能法規(guī)。

但在人工智能監(jiān)管或數(shù)據(jù)使用方面仍然沒有統(tǒng)一的政策方法，那么，世界各地的政府機(jī)構(gòu)是如何處理這個(gè)問題的呢?

世界各地的政府機(jī)構(gòu)正在努力制定人工智能監(jiān)管和數(shù)據(jù)使用方面的政策。例如，英國(guó)宣布將舉辦世界首個(gè)人工智能峰會(huì)，呼吁加強(qiáng)AI管制。美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院也已經(jīng)制定了負(fù)責(zé)任地使用人工智能的方法框架，并試圖在政府的AI監(jiān)管工作方面扮演突出角色。

歐盟委員會(huì)提出了一項(xiàng)旨在加強(qiáng)人工智能（AI）技術(shù)監(jiān)管的法規(guī)草案，擬創(chuàng)建一個(gè)所謂“AI高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景”的清單，并對(duì)AI技術(shù)在關(guān)鍵基礎(chǔ)設(shè)施、大學(xué)招生、申請(qǐng)貸款等被認(rèn)定為“高風(fēng)險(xiǎn)”應(yīng)用領(lǐng)域的開發(fā)和使用制定新的標(biāo)準(zhǔn)，并進(jìn)行有針對(duì)性的監(jiān)管。

此外，中國(guó)政府也在積極推進(jìn)人工智能監(jiān)管和數(shù)據(jù)使用方面的政策，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《人工智能安全評(píng)估規(guī)范》等文件，以加強(qiáng)對(duì)人工智能安全性的監(jiān)管。

在近日國(guó)務(wù)院辦公廳印發(fā)的《國(guó)務(wù)院2023年度立法工作計(jì)劃》中，人工智能法草案等也將預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議。

由此可見，國(guó)家政府機(jī)構(gòu)在處理人工智能監(jiān)管或數(shù)據(jù)使用方面問題時(shí)，通常會(huì)制定一些法規(guī)或指南來規(guī)范相關(guān)行為。這些法規(guī)或指南通常會(huì)涉及到人工智能技術(shù)的安全性、隱私保護(hù)、公平性、透明度等方方面面。

? 企業(yè)層面

為了更好地應(yīng)對(duì)AI所帶來的風(fēng)險(xiǎn)，不只是國(guó)家層面，還需要使用AI技術(shù)的相關(guān)企業(yè)也做出努力。

如今，AI已在許多企業(yè)內(nèi)外納入應(yīng)用層面，其中的一個(gè)重要布局是與大數(shù)據(jù)相結(jié)合，能夠?qū)崿F(xiàn)智能營(yíng)銷、分析需求、提升服務(wù)、改進(jìn)供應(yīng)鏈等。

但應(yīng)用該技術(shù)也暴露出不少弊端，即使是ChatGPT也存在不知道實(shí)時(shí)信息的局限性，更多依賴AI可能會(huì)招致黑客攻擊。最優(yōu)的選擇便是用最新的算法更新系統(tǒng)，實(shí)現(xiàn)“技術(shù)為王”。

此外，針對(duì)AI技術(shù)衍生的部分道德倫理問題，比如自動(dòng)篩選與分類容易導(dǎo)致歧視與偏見，以及面部識(shí)別技術(shù)可能會(huì)暴露人的隱私等，企業(yè)在其中往往扮演主要角色。

不可否認(rèn)，逐利是企業(yè)的天性，但作為社會(huì)的一員，企業(yè)還應(yīng)承擔(dān)相應(yīng)的社會(huì)責(zé)任，合法使用用戶數(shù)據(jù)并保障知情權(quán)，主動(dòng)建立企業(yè)內(nèi)部監(jiān)管機(jī)制，主動(dòng)接受國(guó)家與社會(huì)的監(jiān)督。竭澤而漁，顯然不是市場(chǎng)競(jìng)爭(zhēng)的長(zhǎng)遠(yuǎn)選擇。

? 個(gè)人層面

目前AI詐騙的新聞大多集中于個(gè)人案例，因此每個(gè)人都應(yīng)當(dāng)提高防范能力，包括反詐意識(shí)與技術(shù)知識(shí)。

我們不僅要對(duì)陌生網(wǎng)址、短信、電話、好友保持警惕，更要對(duì)熟人在網(wǎng)絡(luò)上突如其來的匯款請(qǐng)求與提供個(gè)人隱私信息的要求提高警覺。

當(dāng)無法見面核實(shí)真實(shí)情況時(shí)，請(qǐng)拒絕涉及隱私與財(cái)產(chǎn)的要求，一旦發(fā)現(xiàn)風(fēng)險(xiǎn)，請(qǐng)第一時(shí)間尋找有關(guān)部門的幫助。

（在某社交平臺(tái)查詢到的個(gè)人經(jīng)歷分享）

了解AI前沿技術(shù)同樣能夠提高個(gè)人反詐能力。一個(gè)人很難賺到認(rèn)知之外的錢，同樣，也難以丟掉認(rèn)知之內(nèi)的錢。雖然中老年人容易因不熟悉網(wǎng)絡(luò)而被詐騙，但實(shí)際上AI詐騙早已滲透年輕一代里。詐騙者往往利用被詐騙者的自信自負(fù)、虛榮愛面子、撿漏撈偏門等心理，從而達(dá)到其目的。

理性對(duì)待AI風(fēng)險(xiǎn)

我們必須要意識(shí)到，人工智能的發(fā)展對(duì)人類社會(huì)是一把雙刃劍。AI到今天已成為不可逆的社會(huì)潮流，但現(xiàn)有與潛在的風(fēng)險(xiǎn)需要我們提前預(yù)防。

英國(guó)阿斯頓大學(xué)學(xué)者大衛(wèi)·科林格里奇曾提出，創(chuàng)新技術(shù)如果因?yàn)閾?dān)心后果采取提早控制，那么很可能就不會(huì)爆發(fā)，如果控制過晚，就很可能會(huì)走向失控。AI失控此前只存在于科幻作品中，但近來諸如“AI將會(huì)毀滅人類”的言論甚囂塵上，引發(fā)的詐騙、隱私等問題也暴露無遺。

想要突破AI的科林格里奇困境，需要國(guó)際組織、國(guó)家機(jī)關(guān)、企業(yè)團(tuán)體與個(gè)人聯(lián)合努力，攜手并進(jìn)。

在社會(huì)高速公路上急馳AI，急停只會(huì)造成難以估量的損失，我們要做的，唯有勻速向前。

【聲明】：本文為元宇宙之心運(yùn)營(yíng)團(tuán)隊(duì)原創(chuàng)，未經(jīng)允許嚴(yán)禁轉(zhuǎn)載，如需轉(zhuǎn)載請(qǐng)聯(lián)系我們，文章版權(quán)和最終解釋權(quán)歸元宇宙之心所有。

       原文標(biāo)題 : AI風(fēng)險(xiǎn)堪比核能？詐騙、失控等眾多黑暗面，我們?cè)撊绾螒?yīng)對(duì)？