訂閱
糾錯
加入自媒體

如果人工智能擁有了自主意識,科學家怎樣才能發(fā)現?

2023-08-29 10:46
元宇宙之心
關注

長期以來,科幻小說中一直存在人工智能產生意識的想法,回想1968年的電影《2001:太空漫游》中從超級計算機變成惡棍的HAL 9000。隨著人工智能的飛速發(fā)展,這種可能性正變得越來越不那么離奇,甚至得到了人工智能領軍人物的認可。

去年,聊天機器人ChatGPT背后的公司OpenAI首席科學家伊利亞·蘇茨凱弗(Ilya Sutskever)發(fā)推文稱,一些最先進的人工智能網絡可能會 “略有意識”。

許多研究人員表示,人工智能系統(tǒng)尚未達到有意識的地步。但人工智能的進化速度讓他們陷入了沉思:我們如何知道人工智能是否產生意識?

為了回答這個問題,一個由19位神經科學家、哲學家和計算機科學家組成的團隊提出了一份標準清單,如果符合這些標準,就表明一個系統(tǒng)有很大可能是有意識的。他們于本周早些時候在arXiv預印版庫中發(fā)布了臨時指南,該指南尚未經過同行評審。

合著者之一、位于加利福尼亞州舊金山的AI安全中心的哲學家羅伯特·朗(Robert Long)表示,他們進行這項工作是因為“似乎確實缺乏對人工智能意識進行詳細、以經驗為基礎、深思熟慮的討論”。

該研究團隊表示,無法識別人工智能系統(tǒng)是否有意識,這可能會產生重大的道德影響。該研究的神經科學家和合著者梅根·彼得斯(Megan Peters)表示,如果某個東西被貼上了 “有意識 ”的標簽,“那一定會極大地改變我們作為人類對待它的方式。”

朗(Long) 補充說,據他所知,構建先進人工智能系統(tǒng)的公司并沒有付出足夠的努力來評估這些模型的意識,并制定相應的計劃。他說:“盡管聽取了一些領先實驗室負責人的發(fā)言,他們確實表示人工智能意識或者人工智能知覺是值得思考的問題,只是我認為還不夠。”

《自然》雜志聯系了推動人工智能發(fā)展的主要兩家科技公司——微軟和谷歌。微軟的一位發(fā)言人稱,該公司開發(fā)人工智能的核心是以負責任的方式協助人類提高生產力,而不是復制人類智能。

該發(fā)言人表示,自從推出GPT-4(ChatGPT公開發(fā)布的最新版本)以來,可以明確的是,“我們在探索如何實現人工智能的全部潛力以造福整個社會,這需要新的方法來評估這些人工智能模型的能力”。谷歌則未回應。

01.意識是什么?

在研究人工智能意識時,面臨的一個挑戰(zhàn)是定義什么是意識。彼得斯表示,為了報告的目的,研究人員將重點放在了“現象意識”上,也就是主觀體驗。即存在于人、動物或人工智能系統(tǒng)系統(tǒng)(如果其中之一被證明具有意識)的感覺。

有許多基于神經科學的理論描述了意識的生物學基礎。但哪一種才是 “正確 ”的,目前還沒有達成共識。因此,作者采用了一系列理論來創(chuàng)建他們的框架。他們的想法是,如果一個人工智能系統(tǒng)的功能與這些理論的多個方面相匹配,那么它具有意識的可能性就更大。

他們認為,這種評估意識的方法比簡單地進行行為測試更好,例如詢問ChatGPT是否有意識,或者對其進行挑戰(zhàn)并觀察其反應。因為人工智能系統(tǒng)在模仿人類方面已經取得了令人難以置信的進展。

英國蘇塞克斯大學意識科學中心主任、神經科學家阿尼爾-塞思(Anil Seth)的認為,該團隊所采用的理論嚴密的方法是一個不錯的選擇。然而,他表示,“我們還需要更精確、經過充分測試的意識理論。”

02.一種理論密集型方法

為了制定他們的標準,作者假設意識與系統(tǒng)如何處理信息有關,而不管它們是由神經元、計算機芯片還是其他材料構成。這種方法被稱為計算功能主義。他們還假設,以神經科學為基礎的意識理論可以應用于人工智能,這些理論是通過對人類和動物的大腦掃描和其他技術研究而得出。

在這些假設的基礎上,團隊選擇了其中的六種理論,并從中提取了一系列意識指標

其中之一是全局工作空間理論,它聲稱人類和其他動物使用許多專門的系統(tǒng)(也稱為模塊)來執(zhí)行諸如視覺和聽覺等認知任務。這些模塊獨立但并行地工作,并整合成一個單一系統(tǒng)來共享信息。

朗(Lo ng ) 表示,"通過觀察系統(tǒng)的架構以及信息在其中的流動方式",人們就能評估某個特定的人工智能系統(tǒng)是否顯示了這一理論所衍生的指標。

塞思(Seth)對該團隊的提案印象深刻。他表示:“它非常深思熟慮,沒有夸夸其談,并且清楚地表明其假設。”盡管我不同意其中一些假設,但這完全沒關系,因為有可能是我錯了。"

作者表示,該論文遠未對如何評估具有意識的人工智能系統(tǒng)做出最終結論,他們希望其他研究人員能夠幫助完善他們的方法論。但這些標準已經可以應用于現有的人工智能系統(tǒng)。

例如,報告對ChatGPT等大型語言模型進行了評估,發(fā)現這類系統(tǒng)可以說具有與全局工作空間理論相關的一些意識指標。不過,這項工作并未暗示任何現有的人工智能系統(tǒng)是意識的強有力候選者,至少目前還沒有。

原文由Mariana Lenharo撰寫,中文內容由元宇宙之心(MetaverseHub)團隊編譯,如需轉載請聯系我們。

       原文標題 : 如果人工智能擁有了自主意識,科學家怎樣才能發(fā)現?

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關注公眾號
OFweek人工智能網
獲取更多精彩內容
文章糾錯
x
*文字標題:
*糾錯內容:
聯系郵箱:
*驗 證 碼:

粵公網安備 44030502002758號