重磅:清華團隊提出類腦計算系統(tǒng)新框架,通用人工智能或不再科幻
人腦,是自然界中最完美的信息處理系統(tǒng),它可以執(zhí)行各種各樣的復(fù)雜任務(wù),其計算效能要比現(xiàn)有數(shù)字計算系統(tǒng)高出幾個數(shù)量級,被認為是目前唯一的“通用智能體”。
一直以來,通過模擬人腦信息處理方式,仿制像人腦一樣具有“思維”、在工作性能上超越人腦的“類腦系統(tǒng)”,實現(xiàn)通用人工智能,是眾多科學(xué)家畢生追求的夢想。
如今,來自清華大學(xué)、北京信息科學(xué)與技術(shù)國家研究中心、美國特拉華大學(xué)(University of Delaware)科研團隊的一項突破性研究,或?qū)⒓铀兕惸X計算和通用人工智能(Artificial General Intelligence,AGI)的到來。
研究人員在類腦計算通用系統(tǒng)層次結(jié)構(gòu)方向取得突破性進展,并提出了“神經(jīng)形態(tài)完備性”(neuromorphic completenes)的最新概念。
(來源:Nature)
相關(guān)論文于 10 月 14 日在線發(fā)表在頂級科學(xué)期刊《自然》(Nature)上,清華大學(xué)教授、清華大學(xué)類腦計算中心主任施路平和清華大學(xué)計算機系研究員張悠慧為該論文的共同通訊作者。
更具魯棒性與通用性的通用人工智能
通用人工智能是具備與人類同等智慧或超越人類的人工智能,通常把人工智能和意識、感性、知識和自覺等人類的特征互相連結(jié),能表現(xiàn)正常人類所具有的所有智能行為,是人工智能研究的主要目標之一,同時也是科幻小說和未來學(xué)家都在討論的主要議題。
業(yè)內(nèi)認為,當前的人工智能成果大都是“狹隘”的,即面向特定任務(wù),只能解決特定問題。目前基于馮·諾依曼架構(gòu)的計算機擅長解決有充足大數(shù)據(jù)、完整靜態(tài)知識的確定性問題(比如深度學(xué)習(xí)在圍棋比賽、圖像識別等領(lǐng)域的應(yīng)用)已經(jīng)不遜于人類,但并沒有能力很好地解決沒有那么多數(shù)據(jù)、動態(tài)知識尚不足的模糊性問題。
未來,人工智能的發(fā)展必將從“狹隘”的弱人工智能走向更具魯棒性與通用性的通用人工智能,但當前的人工智能技術(shù)距離達到人類水平的通用人工智能還有很長的路要走。
一直以來,類腦計算都被認為是打開通用人工智能的鑰匙。去年 10 月,施路平在北京智源大會“智能體系架構(gòu)與芯片專題論壇”中的主題演講中曾表示,“基于碳基已經(jīng)發(fā)展出現(xiàn)有的人類智能,基于硅芯片已經(jīng)發(fā)展出強大的機器智能,一旦實現(xiàn)人類的全腦解析,采用類腦計算構(gòu)建通用人工智能是完全沒有障礙的!
他還表示,通用人工智能的研究,從根本上來講,不同于把很多的窄人工智能加在一起,其主要研究思路是把類腦的彈性和計算機的剛性結(jié)合起來,把數(shù)據(jù)驅(qū)動和知識推動結(jié)合起來,把通用知識和推理結(jié)合起來,這是一個非常有挑戰(zhàn)的長期的研究。
如今,盡管類腦計算系統(tǒng)已與人工智能技術(shù)結(jié)合,并被業(yè)內(nèi)專家認為可能提供一條通向通用人工智能的途徑,在更通用算法的應(yīng)用層面也有著一定的突破和發(fā)展,但要保證類腦計算系統(tǒng)的性能、可編程性和生產(chǎn)效率,仍然面臨著不小的挑戰(zhàn)和極高的要求。
尤其是,當前類腦計算的系統(tǒng)和芯片,雖然具體類型有所不同,但都比較側(cè)重于端到端的軟硬件協(xié)同設(shè)計方法,缺乏一種可以將算法、芯片和器件等不同領(lǐng)域技術(shù)和需求有機結(jié)合起來的軟硬件系統(tǒng)層次結(jié)構(gòu)設(shè)計。
而此次這一最新研究成果的提出,或許為通用人工智能的加速到來提供了可能。
全新概念:神經(jīng)形態(tài)完備性
當前,幾乎所有現(xiàn)有的編程語言都是圖靈完備的,馮·諾依曼結(jié)構(gòu)通過圖靈完備的接口(即通用指令集)支持圖靈機,通過引入圖靈完備性以及基于圖靈完備性的層次結(jié)構(gòu)和馮·諾依曼體系結(jié)構(gòu),避免了當前計算系統(tǒng)中軟件和硬件之間的緊密耦合,實現(xiàn)了高效、兼容和獨立的進程,通過設(shè)置硬件(圖靈完備性)的最低要求,在任何馮·諾依曼處理器(編譯)上將任何高級語言的程序轉(zhuǎn)換成等效的指令序列變得可行。
相比之下,類腦計算目前缺乏一個簡單但健全的系統(tǒng)層次結(jié)構(gòu)來支持整體開發(fā),神經(jīng)形態(tài)軟件和硬件之間沒有清晰完備的接口,不同研究方面之間的交互也比較復(fù)雜。
盡管各種基于類腦計算的算法、計算模型和軟件設(shè)計不斷出現(xiàn),科研人員也研發(fā)出了各類神經(jīng)形態(tài)芯片,但它們通常都需要特定的軟件工具鏈才能正常運行。其結(jié)果是,類腦計算系統(tǒng)(包括應(yīng)用程序模型、系統(tǒng)軟件和神經(jīng)形態(tài)設(shè)備)的各個層被緊密綁定在了一起,影響了軟件和硬件之間的兼容性,損害了類腦計算系統(tǒng)的編程靈活性和開發(fā)效率。
一些研究試圖通過特定領(lǐng)域的語言或開發(fā)框架連接各種軟件和硬件,但這些研究通常沒有考慮系統(tǒng)的圖靈完備性,在解決諸如硬件完備性、編程語言完備性和類腦計算的系統(tǒng)層次結(jié)構(gòu)等更基本的問題上,近年來也幾乎沒有什么大的進展。而且,由于許多類腦芯片不是為通用計算而設(shè)計的,而且它們中很少提供傳統(tǒng)的指令集,因此不清楚它們是否是圖靈完備的,甚至不清楚圖靈完備是否是必要的。
為解決上述問題,施路平、張悠慧等人在這項研究中提出了"神經(jīng)形態(tài)完備性"的概念,這是一種更具適應(yīng)性、更廣泛的類腦計算完備性的定義,它降低了系統(tǒng)對神經(jīng)形態(tài)硬件的完備性要求,提高了不同硬件和軟件設(shè)計之間的兼容性,并通過引入一個新的維度——近似粒度(the approximation granularity)來擴大設(shè)計空間。
同時,他們也提出了一種全新的系統(tǒng)層次結(jié)構(gòu),這一結(jié)構(gòu)包括軟件、硬件和編譯三個層次,具有圖靈完備的軟件抽象模型和通用的抽象神經(jīng)形態(tài)結(jié)構(gòu)。在該系統(tǒng)層次結(jié)構(gòu)下,各種程序可以用統(tǒng)一的表示來描述,在任何神經(jīng)形態(tài)完備的硬件上都能轉(zhuǎn)換為等效的可執(zhí)行程序,從而確保編程語言的可移植性、硬件的完備性和編譯的可行性。
圖|類腦計算系統(tǒng)和傳統(tǒng)計算系統(tǒng)的層次結(jié)構(gòu)(來源:Nature)
軟件指的是編程語言或框架以及建立在它們之上的算法或模型。在這個層次上,他們提出了一種統(tǒng)一的、通用的軟件抽象模式——POG 圖(programming operator graph)——以適應(yīng)各種類腦算法和模型設(shè)計。POG 由統(tǒng)一的描述方法和事件驅(qū)動的并行程序執(zhí)行模型組成,該模型集成了存儲和處理,描述了什么是類腦程序,并定義了如何執(zhí)行。由于 POG 是圖靈完備的,它最大程度地支持各種應(yīng)用程序、編程語言和框架。
硬件方面,則包括所有類腦芯片和架構(gòu)模型。他們設(shè)計了抽象神經(jīng)形態(tài)體系結(jié)構(gòu)(ANA)作為硬件抽象,包括一個 EPG 圖(execution primitive graph),作為上層的接口來描述它可以執(zhí)行的程序。EPG 具有控制-流-數(shù)據(jù)流的混合表示,最大化了它對不同硬件的適應(yīng)性,且符合當前硬件的發(fā)展趨勢,即混合架構(gòu)。
編譯層,是將程序轉(zhuǎn)換為硬件支持的等效形式的中間層。為實現(xiàn)可行性,研究人員提出了一套被主流類腦芯片廣泛支持的基本硬件執(zhí)行原語(hardware execution primitives),并證明配備這套硬件的神經(jīng)形態(tài)是完備的,并以一個工具鏈軟件作為編譯層的實例,論證了該層次結(jié)構(gòu)的可行性、合理性和優(yōu)越性。
對此,研究人員認為,這一層次結(jié)構(gòu)促進了軟硬件的協(xié)同設(shè)計,可以避免硬件和軟件之間的緊密耦合,確保任何類腦程序都可以由圖靈完備的 POG 在任何神經(jīng)形態(tài)完備硬件上編譯成一個等效和可執(zhí)行的 EPG,也確保了類腦計算系統(tǒng)的編程可移植性、硬件完備性和編譯可行性。
此外,他們也實現(xiàn)了工具鏈軟件的設(shè)計,以支持不同類型的程序在各種典型的硬件平臺上執(zhí)行,證明了這一系統(tǒng)層次結(jié)構(gòu)的優(yōu)勢。結(jié)合所提出的系統(tǒng)架構(gòu)(包括軟件和硬件抽象模型),擴充的完備性定義使圖靈完備性軟件與神經(jīng)形態(tài)完備性硬件的等效轉(zhuǎn)換成為可能,即實現(xiàn)了軟件和硬件的去耦合。(學(xué)術(shù)君注:軟硬件去耦合是計算機系統(tǒng)結(jié)構(gòu)中非常重要的設(shè)計方法論,基于此,軟件研發(fā)人員不需要考慮如何設(shè)計底層硬件,硬件開發(fā)人員也只需要遵循一定指令集規(guī)范,不用擔心兼容性和上層軟件開發(fā)的問題。)
這一設(shè)計理念使得系統(tǒng)不同方面之間的接口和劃分更加清晰,他們希望在當前層次結(jié)構(gòu)的基礎(chǔ)上繼續(xù)攻關(guān),進一步提高類腦計算系統(tǒng)的效率和可兼容性,從而促進包括通用人工智能在內(nèi)的各個應(yīng)用方向的發(fā)展。
神經(jīng)形態(tài)計算領(lǐng)域“重要一步”
對于這一最新研究成果,英國曼徹斯特大學(xué)(University of Manchester)計算機科學(xué)系博士奧利弗·羅茲(Oliver Rhodes)給出了高度評價,認為“這一方法讓我們更接近利用類腦硬件所能取得的巨大成就”。
在他看來,這項研究的一個亮點為,施路平和張悠慧等人提出了具有完備性的連續(xù)統(tǒng)一體(continuum of completeness)——根據(jù)神經(jīng)形態(tài)系統(tǒng)執(zhí)行基本操作的準確性,可接受不同級別的算法性能,意味著新的層次結(jié)構(gòu)可以使用所有可用的模擬和數(shù)字神經(jīng)形態(tài)系統(tǒng)來實現(xiàn),包括那些為執(zhí)行速度或能源效率而犧牲精度的系統(tǒng)。
羅茲還表示,這一層次結(jié)構(gòu)可以比較實現(xiàn)相同算法的等效版本的不同硬件平臺,以及比較在同一硬件上實現(xiàn)的不同算法,這些都是對神經(jīng)形態(tài)體系結(jié)構(gòu)進行有效基準測試的關(guān)鍵任務(wù),在原理證明實驗中包括傳統(tǒng)圖靈完備的硬件(GPU)也是非常有價值的,因為這表明,在某些應(yīng)用中,該層次結(jié)構(gòu)可能被用來證明神經(jīng)形態(tài)設(shè)備優(yōu)于主流系統(tǒng)的優(yōu)勢。
另外,這一層次結(jié)構(gòu)還可以將算法和硬件開發(fā)分割成獨立的研究,如果要獲得底層神經(jīng)形態(tài)架構(gòu)的好處,算法的規(guī)模和復(fù)雜性將需要隨著時間的推移而增加,因此這種分離將幫助未來的研究人員專注于研究問題的特定方面,而不是試圖找到完整的端到端解決方案。
盡管在神經(jīng)形態(tài)計算領(lǐng)域,要把許多工業(yè)和學(xué)術(shù)研究小組的工作結(jié)合起來,還有很多工作要做,但羅茲認為,施路平和張悠慧等人此次提出這一層次結(jié)構(gòu),是朝著這個方向邁出的重要一步。
群雄角逐“類腦計算”
近年來,隨著摩爾定律逐漸失效,馮·諾依曼結(jié)構(gòu)帶來的局限日益明顯,存儲墻、功耗墻、智能提升等問題,讓當前計算機發(fā)展面臨重大挑戰(zhàn)。人們普遍認為,數(shù)字計算機能力的進步速度正在放緩,以摩爾定律為特征的計算機時代即將結(jié)束。
而從人類大腦中汲取靈感的類腦計算或神經(jīng)形態(tài)計算,是一種有潛力打破馮·諾伊曼瓶頸并推動下一波計算機工程的計算模型和架構(gòu)。
類腦計算的概念最早由美國計算機科學(xué)家、美國加州理工學(xué)院榮譽退休教授卡弗·米德(Carver Mead)于 1989 年出,但當時摩爾定律下的“計算危機”并未顯現(xiàn),相關(guān)研究也就并沒有引起太多人的關(guān)注。直到 2004 年單核處理器主頻停止增長,人們開始轉(zhuǎn)向多核,尋求非馮諾依曼架構(gòu)的替代技術(shù),類腦計算這一概念才開始引起人們的關(guān)注。
如今,人工智能賦能下的類腦計算技術(shù)被認為是可能提供一條通向通用人工智能的途徑,世界各國的科研學(xué)者和研究機構(gòu)也相繼開展腦相關(guān)研究并取得了一系列成果。國外主要有 IBM 的 TrueNorth、英特爾的 Loihi,以及 Braindrop、SpiNNaker 和 BrainScales 等,而中國在這一領(lǐng)域也處于世界前列。
自 2013 年 3 月全職入職清華大學(xué)、組建清華大學(xué)類腦計算研究中心后,施路平團隊就始終從基礎(chǔ)理論、類腦計算系統(tǒng)芯片和軟件系統(tǒng)全方位進行類腦計算研究。
去年 8 月,施路平團隊攜手第三代“天機芯”登上《自然》雜志封面(《面向人工通用智能的異構(gòu)天機芯片架構(gòu)》(Towards artificial general Intelligence with hybrid Tianjic chip architecture),這是世界上首款異構(gòu)融合類腦芯片,并通過自動駕駛自行車成功驗證了通用智能的可行性。此次研究成果是施路平團隊在類腦計算與通用人工智能領(lǐng)域的進一步探索。
今年 9 月,浙江大學(xué)聯(lián)合之江實驗室共同研制成功了我國首臺基于自主知識產(chǎn)權(quán)類腦芯片的類腦計算機(Darwin Mouse),是目前國際上神經(jīng)元規(guī)模最大的類腦計算機。
未來,隨著人工智能與腦科學(xué)研究進一步發(fā)展,具有人類智慧的類腦系統(tǒng)和通用人工智能,或許并不是遙不可及的夢想。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月28日立即報名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
-
精彩回顧立即查看>> 【限時免費下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
推薦專題
-
5 夾縫中的文遠知行
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市