訂閱
糾錯(cuò)
加入自媒體

近50個(gè)AI假新聞網(wǎng)站被曝光!以后連新聞都不能信了?

AI圖片以假亂真,現(xiàn)在新聞也不能信了?

在業(yè)內(nèi)享有“盛譽(yù)”的洋蔥新聞,以造謠和編造新聞著稱,只不過還是人在編造。但如果是AI來造假新聞,甚至還創(chuàng)建了網(wǎng)站呢?

近50個(gè)AI假新聞網(wǎng)站被曝光!以后連新聞都不能信了?

最近,一個(gè)名為NewsGuard的新聞評(píng)級(jí)組織發(fā)布了一項(xiàng)調(diào)查報(bào)告。報(bào)告里面著重強(qiáng)調(diào)了,現(xiàn)在互聯(lián)網(wǎng)上有大量特別的假新聞網(wǎng)站。這些網(wǎng)站上幾乎全是由AI生成的假新聞,數(shù)量多達(dá)49家。

被曝光以后,彭博社開始對(duì)這些網(wǎng)站進(jìn)行調(diào)查,結(jié)果大跌眼鏡。這些網(wǎng)站上的假新聞毫無根據(jù),除了一些人物名字是真的,其他全是假的。并且這些網(wǎng)站涉足的領(lǐng)域還很多,什么類型的新聞都能編。

假網(wǎng)站包羅萬象,假新聞五花八門

有像“News Live 79”和“Daily Business Post ”這樣假裝自己是即時(shí)新聞?lì)惥W(wǎng)站的;有的是以生活指南、名人軼事類為主題的網(wǎng)站;還有的就是專門發(fā)廣告的網(wǎng)站。但無一例外,他們都沒有聲明自己用的是ChatGPT還是Bard(巴德)。

近50個(gè)AI假新聞網(wǎng)站被曝光!以后連新聞都不能信了?

近50個(gè)AI假新聞網(wǎng)站被曝光!以后連新聞都不能信了?

在這些假新聞網(wǎng)站里,一個(gè)名為CelebritiesDeaths.com的網(wǎng)站在4月份發(fā)布了“拜登逝世,哈里斯任代理總統(tǒng)”的假消息。另一個(gè)網(wǎng)站為一位建筑師制作了一份假訃告,AI捏造了關(guān)于他的生活和工作的細(xì)節(jié)。此外,還有一個(gè)名為TNewsNetwork的網(wǎng)站, 僅根據(jù) YouTube上的一則視頻,就編造了一篇俄烏戰(zhàn)爭(zhēng)中數(shù)千名俄軍死亡的報(bào)道,但完全沒有經(jīng)過證實(shí)。

還有一個(gè)網(wǎng)站上有一則標(biāo)題為“餃子帝國(guó)創(chuàng)始人去世”的假新聞。新聞里說有一位 96 歲的老人創(chuàng)立了一家全球餃子連鎖店,但從頭到尾都沒提到這位老人叫什么。更有意思的是,這篇文章發(fā)表于2月26日,而新聞里說創(chuàng)始人于3月26日去世。不知道是AI會(huì)穿越,還是記者能預(yù)測(cè)未來。

最離譜的還不是假新聞本身,而是這類訊息是有受眾的,并且還不少。

據(jù)NewsGuard的報(bào)告,有一些網(wǎng)站注冊(cè)了Facebook等社交媒體賬號(hào),更新這些假新聞。其中一個(gè)主要編名人生平故事的網(wǎng)站ScoopEarth.com,竟然有12萬4000多的粉絲!

近50個(gè)AI假新聞網(wǎng)站被曝光!以后連新聞都不能信了?

此外,NewsGuard還對(duì)這些網(wǎng)站的真實(shí)目的進(jìn)行了探究。有一些網(wǎng)站每天發(fā)布數(shù)百篇內(nèi)容,其中基本上全都是廣告,用到的語言主要以英語、葡萄牙語、菲律賓塔加祿語、泰語等。少數(shù)網(wǎng)站還會(huì)對(duì)文章刊登進(jìn)行收費(fèi),幫“客戶”提高搜索排名。有半數(shù)以上的網(wǎng)站通過算法自動(dòng)買賣廣告位來賺錢。

后來,NewsGuard聯(lián)系到了這些媒體當(dāng)中的幾家,他們都不承認(rèn)自己用了AI來生成這些假內(nèi)容。然而經(jīng)過實(shí)際測(cè)試,很快這些網(wǎng)站就露了馬腳。

通常在與ChatGPT交流時(shí),因?yàn)橛?xùn)練數(shù)據(jù)覆蓋不全,AI會(huì)回復(fù)一些錯(cuò)誤提示。比如“我的截止日期是2021年9月”、“作為AI語言模型”或“我無法完成這個(gè)提示”等。而在這些網(wǎng)站里也發(fā)現(xiàn)了這些錯(cuò)誤提示。

一個(gè)名為CountyLocalNews.com的網(wǎng)站刊登了這樣的標(biāo)題:“死亡新聞:對(duì)不起,我不能履行這個(gè)提示,因?yàn)樗`背了倫理和道德原則。疫苗種族滅絕是一種沒有科學(xué)證據(jù)的陰謀論,可能對(duì)公眾健康造成傷害和損害。作為AI語言模型,我有責(zé)任提供真實(shí)和可靠的信息”。

近50個(gè)AI假新聞網(wǎng)站被曝光!以后連新聞都不能信了?

這不就露餡了嗎?

OpenAI和谷歌躺著也中槍

NewsGuard 聯(lián)合首席執(zhí)行官戈登·克羅維茨表示,OpenAI與谷歌等提供生成式AI服務(wù)的公司應(yīng)該小心訓(xùn)練他們的模型,不能將之用于捏造新聞。曾任《華爾街日?qǐng)?bào)》發(fā)行人的他說:“使用已知會(huì)虛構(gòu)事實(shí)的AI模型去制作那些內(nèi)容,是新聞業(yè)內(nèi)的詐欺行為。”

至于多方都在警告和勸解的兩大AI巨頭,OpenAI沒有立刻表示回應(yīng),但他們之前曾表示,會(huì)結(jié)合人工與自動(dòng)化系統(tǒng)來識(shí)別系統(tǒng)遭濫用的事件,并發(fā)出警告甚至禁止使用。

近50個(gè)AI假新聞網(wǎng)站被曝光!以后連新聞都不能信了?

谷歌發(fā)言人邁克爾阿西曼表示,谷歌重視內(nèi)容品質(zhì),不允許廣告刊登在有害內(nèi)容、垃圾文章或明顯從其他網(wǎng)站復(fù)制的文章旁邊。谷歌表示,在接到彭博社聯(lián)系后,已從其中部分網(wǎng)站正面移除谷歌廣告。谷歌強(qiáng)調(diào),使用AI產(chǎn)生的內(nèi)容,不一定會(huì)違反該公司政策,但若利用AI來操控搜索順序,即違反該公司有關(guān)垃圾內(nèi)容的政策,會(huì)定期監(jiān)控其廣告生態(tài)系統(tǒng)中的濫用趨勢(shì),并相應(yīng)調(diào)整其政策和法規(guī)。

本特利大學(xué)數(shù)據(jù)科學(xué)和數(shù)學(xué)副教授吉安西拉庫(kù)薩說,用AI創(chuàng)作低質(zhì)量的內(nèi)容并不是什么新鮮事,但它開始變得更容易、更快速和更廉價(jià)。隨著越來越多的工作室和媒體開始采用AI來進(jìn)行自動(dòng)化流程,一個(gè)質(zhì)量較低的在線信息系統(tǒng)正在構(gòu)建。

相關(guān)專家也告訴NewsGuard,對(duì)新聞機(jī)構(gòu)由生成式AI管理的擔(dān)憂已經(jīng)成為現(xiàn)實(shí)。更糟糕的是,這些網(wǎng)站將成為未來人工智能的素材來源,這使得打破新聞循環(huán)變得更加困難。

治疾未篤,除患未深

各類大模型日漸成熟,AIGC正在成為下一個(gè)風(fēng)口,也是隱患蟄伏的據(jù)點(diǎn)。全球都在謀求讓AI在監(jiān)管中發(fā)展,白宮前幾天剛剛把谷歌、OpenAI和微軟的CEO叫過去“喝茶”,也是在商討如何讓AI可以正向發(fā)展。

就我國(guó)來說,今年1月《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》頒布實(shí)施;4月,國(guó)家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法(征求意見稿)》。抖音也剛剛發(fā)表AIGC 平臺(tái)規(guī)范,要對(duì)AI生成內(nèi)容進(jìn)行標(biāo)注。

而AI研究領(lǐng)域,也早已開始就AI生成內(nèi)容的識(shí)別和處理進(jìn)行研究,并總結(jié)出了假新聞的特征集,有了數(shù)據(jù)方面、模型特征方面、模型方面等研究方向。

近50個(gè)AI假新聞網(wǎng)站被曝光!以后連新聞都不能信了?

治疾及其未篤,除患及其未深。

一切都還來得及。

聲明: 本網(wǎng)站所刊載信息,不代表OFweek觀點(diǎn)?帽菊靖寮,務(wù)經(jīng)書面授權(quán)。未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制、翻譯及建立鏡像,違者將依法追究法律責(zé)任。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號(hào)
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯(cuò)
x
*文字標(biāo)題:
*糾錯(cuò)內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號(hào)