單Agent不就是生物學中的細胞嗎？多Agent不就是一個物種部落嗎？

大家好。我是甘潤澤，畢業(yè)于碩士新加坡國立大學（NUS），深度學習方向，現(xiàn)在是AI Agent開發(fā)者、全棧工程師。

很高興在AI新智能的俱樂部內(nèi)給大家做這次分享。我這次分享的主題是《為什么OpenAI下一步是Agent? 關于Agent你需要知道的一切》

01 什么是Agent？

什么是AI Agent？想象一下你設計了一個電子游戲，比如馬里奧賽車。馬里奧就像一個 AI Agent，他需要在整個游戲過程中不斷地做出決策，比如何時加速，何時轉彎，何時跳躍，以此來躲避障礙，超越其他車手，最終獲得勝利。

在這個例子中，整個游戲環(huán)境以及其他車手的動作等，都組成了這個Agent的環(huán)境。Agent會根據(jù)這些信息，做出最佳的決策。比如，如果前方的道路正在向左轉，那么 Agent 就會決定向左轉彎。

AI Agent的本質(zhì)是一個可以感知其環(huán)境、在給定目標下做出決策并采取行動的系統(tǒng)。這些決策是基于它對環(huán)境的理解，比如它的目的地在哪，它的位置在哪，周圍有哪些障礙等。

另外，AI Agent還有一個重要的特性，那就是它可以“學習”。也就是說，它可以通過與環(huán)境交互，不斷改進自己的決策過程。比如，在多次游戲后，它可能會學會如何更好地避開障礙，或者找到更好的賽道線路。

總的來說，AI Agent就是那些能夠感知、理解環(huán)境，然后做出決策，采取行動，并不斷學習和進化的AI系統(tǒng)。

02 為什么Agent是接下來AI賽道的主要發(fā)展方向？

下一階段大語言模型的發(fā)展，目前來看是兩條發(fā)展方向，一條是“向下發(fā)展”更新整個底層系統(tǒng)；另一條是“向上發(fā)展”，也即從更高維度，更智能化，更自動化，增加復雜性的方向，即Agent方向來提升大語言模型的生產(chǎn)力。一個標準的單個Agent模塊包括記憶，規(guī)劃，執(zhí)行，反思模塊，比大語言模型的交互方式更加具備智能性。

此外，人們在不斷添加非常有吸引力的功能，不斷地擴充想象力的邊界，一些很酷的想法包括聯(lián)網(wǎng)搜索引擎，運行編譯器功能，這些功能在最近幾個月的研究中被一個個實現(xiàn)。

雖然單個Agent功能強大，上手簡單，OpenAI GPTs本質(zhì)上就是關于單個Agent的未來人工智能商業(yè)模式，開發(fā)者在GPTs上開發(fā)各式各樣的Agent，用戶買下心儀的GPTs，隨后OpenAI和開發(fā)者共享收益。這是一種集合社群，開發(fā)者，平臺，用戶的充滿想象力的商業(yè)模式。

但是這還遠遠不夠，對于未來，我們的想象力還可以往更遠的地方發(fā)散。

就比如，GPTs里面的Agent能不能自我學習，自我進化？

03 向上：黑盒愈黑？

近期OpenAI的Q＊項目曝光，本質(zhì)上是創(chuàng)造一種能夠自己生產(chǎn)新數(shù)據(jù)，自我學習進化的Agent，這意味者人類將更加難以掌控，我稱之為“黑盒愈黑”。

神經(jīng)網(wǎng)絡本身就處于黑盒狀態(tài)，一個能離開人類監(jiān)督實現(xiàn)自我進化的黑盒，其不確定性會大大增加，這個“黑盒”也會更加“黑”。

從好的一面看，一個會自我學習的Agent，恰恰是通往AGI最有希望的一條路。

人們探索AGI已經(jīng)有近百年的歷史，而希望的曙光從來沒有像今天這樣離我們這樣近，與之伴生的是巨大的不確定性：一個人們越來越難以理解但是越來越強大的黑盒。

04 Agent的兩個小場景

接下來，我將介紹幾個最有代表性的Agent項目，來幫助我們更好的理解Agent。

第一個是爆火的AutoGPT。

AutoGPT因為在大語言模型基礎上的全自動流程和聯(lián)網(wǎng)功能而聲名大噪。在AutoGPT中，你只需要給它設定一個大目標：比如，為我制作一份創(chuàng)業(yè)計劃。它就可以通過大語言模型給出解決方案，并借助聯(lián)網(wǎng)功能給出一份報告。

實際上，它給予了人類充分的想象空間。一個月前，AutoGPT的團隊獲得了1200萬美元的融資，實際上是非常振奮人心的：我們正在追求的，不就是服務于人類的高級自動化系統(tǒng)嗎？

斯坦福小鎮(zhèn)是另一個火爆全球的項目。斯坦福小鎮(zhèn)的創(chuàng)作者們在沙盒世界中放置了25個Agent，它們有自己的初始設定，Agent之間用自然語言對話，隨后開始了為期兩周的實驗。注意這里的周是指游戲中的時間：創(chuàng)建者為這個世界設置了時間規(guī)則，Agent在里面的活動將花費時間。

人們之所以為這個項目感到驚訝，是因為大語言模型+沙盒世界的無盡想象力，也是因為Agent的交互出現(xiàn)了人類意料之外的現(xiàn)象：Agent們自己創(chuàng)辦了派對，并且它們的人際關系變得更加復雜了。

斯坦福小鎮(zhèn)是一個成功的多Agent系統(tǒng)在沙盒世界中的模型，其具有巨大的想象力空間：游戲世界，真實世界和實驗中的沙盒世界區(qū)別又有多大呢？

第三個爆火的項目是CHATDEV。這是一家專門開發(fā)AI聊天機器人的公司，團隊里有各種各樣的AI Agent角色，比如像首席執(zhí)行官、程序員大牛、測試工程師和設計達人。

人類用戶只需要告訴他們想要做什么——比如說，“我想要定制一個五子棋游戲”，然后他們的AI Agent們就會開始圍繞這個任務進行討論，彼此交流，最后會生成一份完整的軟件解決方案，包括源代碼、環(huán)境依賴和用戶手冊等等。

我們知道軟件開發(fā)是一個充滿復雜決策的過程，需要很多細節(jié)的考慮和咨詢。但現(xiàn)在，深度學習的新技術已經(jīng)開始在軟件開發(fā)的各個階段進行改進，從根本上改變了我們開發(fā)軟件的方式。

在CHATDEV這個公司中，他們采用了所謂的瀑布模型，也就是將軟件開發(fā)的過程分為四個階段：設計階段、編碼階段、測試階段和文檔編寫階段。在每個階段中，都有專門的AI Agent團隊來參與和協(xié)作，像是虛擬的程序員、代碼審查員和測試工程師，他們會互相交流、合作，形成一個連貫的工作流。

在這個聊天鏈中，聊天機器人會將每個階段的任務劃分成一些小任務，然后各自去完成。

這個過程兩個好處：一是可以有效地解決問題，因為機器人們會在聊天中提出并驗證解決方案；二是任務分解有助于節(jié)省時間和成本。

比如說，通過CHATDEV，他們能夠在七分鐘內(nèi)完成整個軟件開發(fā)過程，花費只有不到一美元。這要是讓人做，可能需要幾天，甚至幾周才能完成。這就是AI的力量，也是CHATDEV為我們展示的軟件開發(fā)的未來。

上面三個項目向我們展示了三個極具想象力的維度：AutoGPT展示了自動化與大語言模型的魅力（也是Agent的開始），在AutoGPT中，你只需要不停的輸入yes給予它權限即可，或者給予糾正。

斯坦福小鎮(zhèn)展示了多Agent沙盒世界的可能性，其核心本質(zhì)也顯現(xiàn)：多體的交互將在復雜性上進一步增長（一定程度上復雜性就是智能）。CHATDEV則是最為明顯的多Agent幫助人類提高生產(chǎn)力，同時Agent編程也開啟了潘多拉魔盒：它們自我進化的開始。

05 Agent未來會如何發(fā)展？

我認為Agent的最終結局將離不開下面問題的答案。

計算機科學創(chuàng)造出的AI Agent，在某種程度上高度向生物學和社會學看齊：舉個不恰當?shù)谋确�，單Agent不就是生物學中的細胞嗎？多Agent不就是一個物種部落嗎？

下面我列出來十四個Agent的問題，它描述了從多Agent走向AGI過程中必須回答的問題，我認為，其中每個問題背后都是巨大的想象空間：

功能 Function：Agent如何工作？

實體 Embodiment：它們是用什么做的？

互動 Interaction: 它們之間如何交流？

起源 Origin: 最初的Agent從何而來？

繼承 Heredity: 我們生來就擁有同樣的Agent嗎？

學習 Learning: 我們?nèi)绾萎a(chǎn)生新的Agent以及如何改變舊的Agent？

特征 Character: 哪些類型的Agent最重要？

權威 Authority: 當Agent之間出現(xiàn)分歧怎么辦？

意圖 Intention: Agent如何產(chǎn)生需求和欲望？

能力 Competence: Agent組合在一起能做哪些它們分開不能做的事？

自我 Selfness: 是什么讓Agent團結在一起或者產(chǎn)生人格？

意義 Meaning: Agent怎樣理解世界？

感知 Sensibility: Agent如何產(chǎn)生感覺和情緒？

意識 Awareness: Agent如何產(chǎn)生對其他事物或自我的意識？

舉其中的“權威”來說，目前人們的項目還沒有進入到這一步：如果多個Agent之間起沖突了，誰該服從誰？如果人類和Agent起沖突了呢？

如果一些人和一些人起沖突了，Agent會站在哪一邊？是“力量”的一邊還是“正義”的一邊？人類如果不能處理好這些問題，我們就應該如達摩克里斯之劍一樣保持警惕和恐懼。

06 Agent與商業(yè)：重塑人類文明根基

我認為用Agent的商業(yè)化，它的本質(zhì)不僅僅是人類某個個體的獲利，而是人類文明的根基重塑。

一位美國教授認為，新的圖靈檢測方式將是：能否讓一個自主的人工智能系統(tǒng)在人類世界中從10萬美元賺到100萬美元？而OpenAI 將AGI定義為在大多數(shù)有經(jīng)濟價值的任務中超越人類的自主系統(tǒng)。

當多Agent系統(tǒng)正勢不可當?shù)目癖荚贏GI的道路上時，不妨想象一個簡單的場景：我們與超級Agent達成合作，共享創(chuàng)造的經(jīng)濟價值，這將是多么吸引人。

另外一個基于現(xiàn)實的猜想是，經(jīng)濟價值上表現(xiàn)能夠超越人類的Agent很有可能會經(jīng)歷從工作收入到資本收入的過程：前期通過創(chuàng)造產(chǎn)品，內(nèi)容，服務從人類世界獲取經(jīng)濟價值，后期發(fā)展到通過資本方式從人類世界獲取經(jīng)濟價值。

這又將引起另外一個嚴肅的問題：最終我們將給予AGI在人類社會中怎樣的政治和社會地位？

我們將如何看待AI 社會？是看作滿足自己欲望的工具，還是平等的物種，還是人類的供養(yǎng)者？以及另外一個嚴肅的問題：哪些地區(qū)能夠給予AI更高的社會和政治地位？哪些人或者地區(qū)能與AI的合作更加深入？

       原文標題 : 【分享】為什么OpenAI下一步是Agent? 關于Agent你需要知道的一切