人工智能帶來了難以置信的機(jī)會(huì)，但任何技術(shù)都有可能被惡意使用。AI 工具的獲取和使用變得越來越容易，也讓網(wǎng)絡(luò)犯罪分子能夠以更加難以識(shí)破的方式進(jìn)行詐騙。

文丨阿秋

編輯丨張飛 

近日，網(wǎng)絡(luò)安全公司 McAfee發(fā)布的一份報(bào)告顯示，越來越多的人被人工智能（AI）詐騙。調(diào)查發(fā)現(xiàn)，10% 的成年人曾經(jīng)被這種詐騙方式針對(duì)，另外 15% 的人認(rèn)識(shí)有人被騙過。

亞利桑那州立大學(xué)AI領(lǐng)域的教授坎巴姆帕蒂稱，只需獲得某人3秒鐘的原聲，就能迅速?gòu)?fù)制出完全相同的聲音。這給了不法分子利用該項(xiàng)技術(shù)詐騙的機(jī)會(huì)，即給受害者留下假的語音郵件，或者冒充他們的好友打電話給他們。據(jù)悉，在受害者中，有 77% 的人表示在詐騙中損失了錢財(cái)，其中三分之一的人損失超過 1000 美元，還有 7% 的人損失了5000 -15000 美元。

McAfee 首席技術(shù)官 Steve Grobman 稱，“人工智能帶來了難以置信的機(jī)會(huì)，但任何技術(shù)都有可能被惡意使用。AI 工具的獲取和使用變得越來越容易，也讓網(wǎng)絡(luò)犯罪分子能夠以更加難以識(shí)破的方式進(jìn)行詐騙。”

AI助力騙子橫行 

“最近ChatGPT引爆AI風(fēng)潮，刷新了人們對(duì)AI的認(rèn)知。AI技術(shù)是把雙刃劍‘’，在給人們生活提供便利的同時(shí)，也給不法分子留下了可乘之機(jī)，眼見不一定為真，耳聽也不一定為實(shí)。”

日前，據(jù)南通反詐消息，小劉的初中同學(xué)“小韓”通過QQ聯(lián)系小劉，準(zhǔn)備借6000元錢。小劉向來謹(jǐn)慎，擔(dān)心“小韓”不是本人，沒想到“小韓”發(fā)來一條聲音很像本人的語音。后來“小韓”又給小劉打了一通視頻電話，看到對(duì)方的臉后，小劉便相信了對(duì)方，于是給“小韓”提供的銀行卡轉(zhuǎn)了6000元。

不過，小劉轉(zhuǎn)完錢后越想越不對(duì)勁，覺得“小韓”表情僵硬，于是撥打小韓的電話，沒想到小韓的QQ賬號(hào)被盜了，這才意識(shí)到被騙，隨后立即報(bào)警。警方初步判斷，通話的視頻極有可能是詐騙分子通過AI技術(shù)“變聲”“換臉”詐騙手段合成的。

這并非個(gè)例，4月2日，央視網(wǎng)報(bào)道稱，加拿大犯罪分子利用AI合成親人聲音實(shí)施詐騙，3天時(shí)間內(nèi)至少有8人上當(dāng)，涉案金額約100萬元。這些受害者多為老年人，他們表示，“電話里的聲音簡(jiǎn)直和親人一模一樣”。

早在2019年，《華爾街日?qǐng)?bào)》曾報(bào)道過一名詐騙犯用AI語音合成來冒充老板，讓一家分公司的總經(jīng)理給他打了22萬歐元。但在當(dāng)時(shí)，詐騙者還得準(zhǔn)備被模仿者的語料進(jìn)行訓(xùn)練打磨。而現(xiàn)在，AI讓克隆聲音幾乎沒什么門檻，連方言和語氣的模仿都不在話下。

此外，以往被認(rèn)為安全的“聲紋”系統(tǒng)如今也能被輕易破解。

3月，《衛(wèi)報(bào)》澳大利亞版記者尼克·伊夫賽德稱，他用人工智能做出自己的聲音，成功進(jìn)入了自己的Centrelink自助服務(wù)賬戶。而就在兩年前，澳大利亞服務(wù)局在一份報(bào)告中聲稱“聲紋與指紋一樣安全”。

提高警惕是自我防范的首要

據(jù)了解，當(dāng)下不法分子利用AI主要通過AI合成聲音、AI換臉展開詐騙活動(dòng)。所謂AI合成聲音，是指騙子通過撥打騷擾電話等方式，錄音提取詐騙對(duì)象及其重要關(guān)系人的聲音特征，然后利用AI技術(shù)進(jìn)行語音合成，進(jìn)而用偽造的聲音實(shí)施詐騙。

因?yàn)槿四樞Ч�更易取得�?duì)方信任，所以不法分子還會(huì)利用AI換臉技術(shù)，即通過合成視頻或照片“以假亂真”，冒充詐騙對(duì)象的親人、朋友等重要關(guān)系人，擾亂詐騙對(duì)象的視線進(jìn)而實(shí)施詐騙。

此外，不法分子還會(huì)使用AI技術(shù)篩選和鎖定受騙人群。他們會(huì)分析詐騙對(duì)象在網(wǎng)絡(luò)平臺(tái)發(fā)布的個(gè)人信息，根據(jù)所要實(shí)施的騙術(shù)利用AI技術(shù)對(duì)人群進(jìn)行篩選，從而選出目標(biāo)對(duì)象，制定詐騙計(jì)策。

那么，面對(duì)如此強(qiáng)勢(shì)的技術(shù)騙局，個(gè)人該如何保護(hù)自己不受詐騙的侵害呢？

南通反詐提示，一方面，在涉及錢款時(shí)，大家要提高安全意識(shí)，通過電話、視頻等方式確認(rèn)對(duì)方是否為本人，在不能確定真實(shí)身份時(shí)，要格外留意、不要著急匯款，避免上當(dāng)受騙，建議將到賬時(shí)間設(shè)定為“2小時(shí)到賬”或“24小時(shí)到賬”，以預(yù)留處理時(shí)間。

另一方面，個(gè)人應(yīng)當(dāng)加強(qiáng)個(gè)人信息保護(hù)意識(shí)，切勿接聽任何陌生人邀請(qǐng)的視頻驗(yàn)證或語音聊天，謹(jǐn)防騙子利用AI技術(shù)搜集人臉、聲音等素材，掌握大量個(gè)人信息并對(duì)人物性格、需求傾向等進(jìn)行刻畫，從而有針對(duì)性地實(shí)施詐騙。

泰和泰律師事務(wù)所律師劉青在接受媒體采訪時(shí)建議，若遭遇詐騙應(yīng)第一時(shí)間報(bào)警尋求警方幫助，注意保留相關(guān)材料以供警方盡快掌握案情、嚴(yán)懲犯罪分子。

如發(fā)現(xiàn)自己的肖像被盜用或者“被換臉”，劉青建議，用戶應(yīng)當(dāng)?shù)谝粫r(shí)間保留證據(jù)，以便后續(xù)維權(quán)。“同時(shí)，用戶還可以向網(wǎng)絡(luò)平臺(tái)運(yùn)營(yíng)商提出投訴，要求強(qiáng)制下架侵權(quán)圖片或視頻，也可以提起人格權(quán)訴訟，用法律武器維護(hù)自己的合法權(quán)益。”

用魔法打敗魔法？ 

2018年，紐約州立大學(xué)曾開發(fā)出一款“反換臉”AI刑偵工具，通過預(yù)測(cè)眼睛是否眨動(dòng)的狀態(tài)來識(shí)別偽造人臉，準(zhǔn)確率宣稱能夠達(dá)到99%，但這款工具很快便失效了，因?yàn)樯疃葌卧旒夹g(shù)的進(jìn)化速度更快。

隨著AI的技術(shù)演進(jìn)，人們所聽所見將越來越不可信，對(duì)了應(yīng)對(duì)先進(jìn)技術(shù)帶來的負(fù)面影響，科技企業(yè)也在希冀使用技術(shù)手段攔截和防范AI帶來的語言合成、AI換臉、內(nèi)容虛假等深度偽造問題。

2019年，谷歌開始有意識(shí)地防御，先是招募了一群演員錄制視頻，然后利用網(wǎng)上的深度偽造技術(shù)進(jìn)行換臉等操作，并對(duì)這些數(shù)據(jù)進(jìn)行全面地分析，讓開發(fā)者們研究深度偽造技術(shù)的算法和邏輯，在“知己知彼”的基礎(chǔ)上，更準(zhǔn)確地識(shí)別和防治深度偽造內(nèi)容。

此后，微軟推出了名為“Video Aunthenticator”的工具，其能夠?qū)Ξ嬅嬷袖秩具吔绾突叶鹊燃?jí)進(jìn)行逐幀的實(shí)時(shí)分析進(jìn)而生成可靠指數(shù)，幫助用戶鑒別內(nèi)容真實(shí)性。

不久前，OpenAI 公司發(fā)布了一款A(yù)I分類器，可識(shí)別人工智能生成的文本。AI分類器基于一個(gè)語言模型，通過對(duì)同一話題的人類文稿和AI文稿數(shù)據(jù)集的大量學(xué)習(xí)和訓(xùn)練，以識(shí)別文本是否由AI生成。但博客數(shù)據(jù)顯示，檢測(cè)成功率只有26%，對(duì)英文以外的語言，檢測(cè)效果要差很多。

在2022世界人工智能大會(huì)治理論壇上，上海交通大學(xué)凱原法學(xué)院院長(zhǎng)、特聘教授彭誠(chéng)信曾指出：“數(shù)字社會(huì)中倫理之治的根本還在于人，企業(yè)倫理、科技的可信向善，歸根結(jié)底還是人的可信向善，因此需要完善法律監(jiān)管、厘清法律基本責(zé)任，確立人們的行為規(guī)范。”

為對(duì)AI技術(shù)進(jìn)行快速有效地監(jiān)管，國(guó)際方面，白宮官員近日向美國(guó)科技公司發(fā)出邀請(qǐng)，希望與行業(yè)企業(yè)領(lǐng)導(dǎo)者共同探討針對(duì)人工智能的監(jiān)管問題。參加的科技公司包括谷歌、微軟和OpenAI等公司高管。

上個(gè)月，歐洲數(shù)據(jù)保護(hù)委員會(huì)已經(jīng)成立了一個(gè)專門針對(duì)ChatGPT的工作組，并朝著制定人工智能隱私規(guī)則的共同政策邁出的重要一步。

“我們希望人工智能的能力成為改善人類生活、促進(jìn)人類文明發(fā)展的’助推器’，以及人類走向星際文明的’擺渡人’。”

上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院教授史占中在近期一場(chǎng)媒體沙龍上表示，從國(guó)家的層面來講，要加快AI相關(guān)領(lǐng)域的立法，特別在金融、安全、健康等領(lǐng)域嚴(yán)格監(jiān)管，厘清AI的設(shè)計(jì)者、使用者、內(nèi)容生成者的權(quán)責(zé)關(guān)系，完善AI決策的問責(zé)機(jī)制，保護(hù)大眾合法權(quán)益；而從社會(huì)層面來講，應(yīng)加強(qiáng)AI技術(shù)的監(jiān)管，推進(jìn)AI研發(fā)者遵守倫理準(zhǔn)則與規(guī)范AI的發(fā)展。

國(guó)內(nèi)方面，相關(guān)監(jiān)管政策也在細(xì)化落實(shí)中。為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國(guó)家網(wǎng)信辦起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，并于4月11日向社會(huì)公開征求意見。

征求意見稿要求，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，履行算法備案和變更、注銷備案手續(xù)等。

       原文標(biāo)題 : 眼見和耳聽或都不能為實(shí)！更多人正在被AI變聲”“換臉”合成騙取錢財(cái)