專訪ChatGPT背后的科學家:OpenAI的300人工作方法論
ChatGPT掀起了一股全球范圍內(nèi)的AI浪潮,OpenAI也隨之成為最炙手可熱的明星公司。
我們不禁好奇,為什么是OpenAI這樣名不見經(jīng)傳的小公司,而不是谷歌這種大公司創(chuàng)造了ChatGPT?OpenAI有何獨特的工作方法論?
目前國內(nèi)大模型創(chuàng)業(yè)如火如荼,但不得不承認,各家產(chǎn)品與ChatGPT-4相比還有很大差距,為什么在技術(shù)創(chuàng)新方面我們總是慢人一步?
為此,商隱社專訪了肯尼斯·斯坦利(Kenneth Stanley),他此前在OpenAI領(lǐng)導了一個開放式研究小組。再之前,他是中佛羅里達大學計算機科學專業(yè)的教授。
通過這次對話,我們得以窺見OpenAI崛起的底層邏輯。這些思維方式不僅關(guān)乎人工智能創(chuàng)新,也關(guān)乎我們?nèi)绾螕碛懈杂傻娜松?/p>
以下文字根據(jù)我們與肯尼斯·斯坦利教授的談話內(nèi)容,以及他的新書《為什么偉大不能被計劃》整理而成。
文 | 肯尼斯·斯坦利 OpenAI研究員、人工智能科學家
采訪及整理 | 阿空
商隱社研究團隊商業(yè)組本文為商隱社原創(chuàng)文章,轉(zhuǎn)載請聯(lián)系后臺
放棄對目標的神話
或許你該升個職、跳個槽、減減肥、找個對象、賺個幾百萬、買個房子。
上述社會追求的背后,存在這樣一個設想:任何值得追求的社會成就,最好先將其設定為目標,再堅定不移地朝著這個目標努力。
這不禁讓人發(fā)問:這世界上是否存在不需要設定目標就能完成的事情?
縱觀大部分行業(yè),答案似乎是“沒有”。
我們已經(jīng)太習慣于通過“目標”來界定所有的努力,甚至忘了我們可以去質(zhì)疑目標的價值。
目標提供了一種安全感,當我們感到迷惘時,機械地逐步推進目標,起碼可以讓我們擁有一種固定且可靠的生活。
因為“設定目標”這一行為本身,暗含著一種可能性假設:只要你用心去做,便有可能事成。只要目標明確,努力和付出必有回報。
某些時候,目標確實能為我們提供生活的意義或方向。但它同樣限制了我們的自由,成為禁錮我們探索欲望的牢籠。
我們常常因過分執(zhí)迷于目標而錯失良多。目標論導致我們只關(guān)注終點的收獲,而忽視了每一條探索道路本身的特殊性和獨特性價值。
我們的世界充斥著為了獲得成功而設置的各種目標,這使我們的生活變得機械化,壓抑了我們的生活熱情。
但事實上,若想實現(xiàn)更多所謂的豐功偉業(yè),目標往往會成為絆腳石,比如與探索發(fā)現(xiàn)、創(chuàng)造力、發(fā)明或創(chuàng)新,或者找到真正的幸福。
這是因為,如果將我們所做的每件事,看作實現(xiàn)一個或另一個目標的踏腳石,那么探索任何復雜問題的過程都將是充斥無數(shù)欺騙性的踏腳石。
欺騙性往往是目標不能帶來偉大成就的關(guān)鍵原因。如果目標具有欺騙性,那么設定目標,并以此為努力方向的做法對實現(xiàn)目標沒有什么幫助。
因此,實現(xiàn)遠大目標的最佳方式就是放棄對目標的神話,進而忽略目標。
聽起來不可思議,但OpenAI確實如此。這家公司成立的前15個月,都沒有一個明確的研究目標。
2016年5月,時任谷歌首席AI研究員參觀OpenAI,對其工作方式相當困惑。他詢問OpenAI的目標是什么,沒想到難倒了OpenAI:“我們現(xiàn)在的目標,就是....做點好事。”
然而數(shù)月之后,這位研究員卻毅然辭職加入了OpenAI,他想一起做點好事。
尋找一塊可能成功的踏腳石
放棄目標的困難之處在于,意味著放棄“存在正確道路”的想法。但如果目的地本就不存在,那么所謂的正確道路也不應該存在。
其實,改變世界的神奇公式并不存在。偉大的成就并沒有所謂的成功腳本,它們往往沒有經(jīng)過周密的計劃便誕生。
通往成功的踏腳石,往往是未知的。因此,當進入一個充滿不確定性的世界時,對未知的機會秉持開放和靈活的態(tài)度,有時候比明確地知道自己要做什么更重要。
所有人都應該開始尋找可能通往成功的踏腳石,且無需事先設定任何特定的終點。
你必須先找到一塊正確的踏腳石來站穩(wěn)腳跟,再加上足夠的運氣和頭腦,才有可能發(fā)現(xiàn)通向目標的道路。
在AI研究的眾多方向中,AGI(通用人工智能),便是OpenAI找到的一塊踏腳石。
所謂AGI,即“超級智能”,接近科幻電影中萬能的人工智能。與之形成對比的是人臉識別、翻譯、下圍棋等只能完成單一任務的人工智能。
但以那時候的科研基礎(chǔ)而言,談論AGI,就像談論如何長生不老一樣荒謬。
科學家all in AGI,賭贏,可以在教科書里比肩牛頓;賭輸,則成為美版知乎Quaro的民科代表。
但企業(yè)all in AGI,大概率會成為先烈。龐大的資本支出,讓無論是相信“專家算法”的IBM,還是“深度學習”的谷歌、百度,巨頭們的一切AI研究,都為產(chǎn)業(yè)化服務。
愿意成為這個冤大頭的,只有OpenAI一家。
很多時候,盲目地堅持最初的目標并不會帶來偉大的成就。恰恰因為帶來最偉大成果的踏腳石是未知的,所以不試圖尋找特定的東西,往往會帶來最令人興奮的發(fā)現(xiàn)。
踏腳石不一定意味著通往最終的目的地,它自身也無關(guān)對錯,只涉及探索的過程和無限的可能性。
我們需要接受的現(xiàn)實是:很多事情,是無法單純地通過努力實現(xiàn)的。
只有在明確的目標被忽視、探索的韁繩被徹底松開時,我們才有可能征服最遙遠的未知邊界。
順著有趣和新奇的方向前進
事實上,與其追求某個最終目標,不如轉(zhuǎn)而尋求新奇的事物。因為后者的回報,將是一連串的、無窮無盡的踏腳石,即一項新奇事物的產(chǎn)生,將帶來更多的新奇事物。
這樣一來,未來就不再是某個特定的終點,而是一條沒有盡頭、未被定義、潛力無限的道路。
新奇事物的重要性在于,它們往往可以成為踏腳石探測器,因為任何新奇的東西,都是催生更新奇事物的潛在踏腳石。
換句話說,新奇性是識別趣味性的一條“簡單粗暴”的捷徑,而有趣的想法往往能夠開辟全新的可能性。
新奇有趣的想法不僅遠非微不足道,而且往往還會帶來新的思維方式,進而觸發(fā)更偉大的創(chuàng)新和發(fā)現(xiàn)。
更重要的一點是,通過不斷地使新事物成為可能,新奇性以及趣味性能隨著時間的推移產(chǎn)生聚合效應。
但追逐新奇性往往意味著一種漫無目的的不確定性,我們又該怎么知道要去哪里?
這其實就是關(guān)鍵所在。最偉大的創(chuàng)新過程之所以會成功,正是因為它們并不試圖去往任何特定的地方。
按照這個邏輯,我們需要放棄目標帶來的虛假安全感,轉(zhuǎn)而去擁抱未知的、瘋狂的可能性。
當然,我們?nèi)匀挥欣碛蓳,這種對新奇性的探索令人不踏實,甚至可能有點聽天由命。
但事實并非如此。新奇性的概念不要求我們依賴一個具有欺騙性的指南針,只要求我們將當前的位置與過去進行比較。
與其擔心我們不知道要去什么地方,不如將我們現(xiàn)在所處的位置,與我們曾經(jīng)到過的位置進行比較。
與未來不同的是,過去不存在模糊性或欺騙性。這種比較不會讓我們判斷自己朝向目標的進展如何,但可以讓我們判斷在多大程度上擺脫了過去事物的束縛。
這種比較將問題從“我們正在接近什么”,變成“我們正在逃離什么”。
而逃離過去的有趣之處在于,它能夠開啟全新的可能性。
雖然人類的直覺和預感往往促使我們朝著沒有任何目標的方向前行,但我們最終依然能發(fā)現(xiàn)一些與眾不同或有趣的東西。
因此,在討論新奇性時,趣味性的概念會自然而然地出現(xiàn),這并不是巧合。當一個想法真正讓人感到新奇時,它就足以讓我們產(chǎn)生好奇心。
如果我們選擇了一條有趣的道路,它可能會通往重要的目的地,盡管我們可能并不知道這個目的地確切在哪里。
鮮有人知的是,在OpenAI不斷迭代升級的過程中,電子游戲也曾發(fā)揮過舉足輕重的作用。
早期的OpenAI 曾在2019年打造出名為OpenAI Five的游戲AI,并成功擊敗了兩屆DOTA2國際邀請賽的世界冠軍OG戰(zhàn)隊。
這并非不務正業(yè)。
盡管當時的人工智能已經(jīng)在“聽、說、看”等方面取得了一定突破,而且基于強化學習的Alpha Go也剛剛擊敗了人類圍棋世界冠軍。
但在OpenAI團隊看來,這些突破依舊沒有跳出“弱人工智能”的范疇,并不具備理解問題的和解決問題的能力。
OpenAI團隊認為,要想讓人工智能具備這種能力,就必須將其置于更為廣泛和復雜的環(huán)境中進行訓練,這樣才能讓人工智能發(fā)展出可以有效遷移復用的知識和解決問題的策略,而電子游戲就是這個“訓練環(huán)境”的絕佳選擇。
而以規(guī)則復雜、要素眾多、環(huán)境多變,同時也是全球擁有超高人氣的電子游戲DOTA 2,順理成章地成為了OpenAI的首選。
正如OpenAI團隊所言:“相比標準的開發(fā)環(huán)境,DOTA 2顯得更加有趣,也更加困難。但是,如果一個AI能在像DOTA這樣復雜的游戲里超越人類,那這個AI本身就是一個里程碑。”
相較于AI之前在國際象棋和圍棋里取得的成就,像DOTA 2這類復雜的游戲能更好地捕捉現(xiàn)實世界中的混亂和連續(xù)性,使其訓練出的AI能夠擁有更好的通用性,從而更有可能應用于游戲之外的人類社會。
最終,OpenAI在DOTA 2上的嘗試,為AI強化學習效率提升提供了方向,這些都成為了ChatGPT的養(yǎng)分。
可以說,正是OpenAI團隊順著有趣的方向探索,才獲得了ChatGPT這樣創(chuàng)新的產(chǎn)品。
許多參與ChatGPT 創(chuàng)立的人并沒有想到它會成為一個世界性的產(chǎn)品,引起如此大規(guī)模的反應。相反,他們只是覺得聊天很有趣,因為聊天是一種很自然的與智能進行交互的方式。所以這不是計劃好的,純粹是一個意外。
但這并不等于說“偉大的發(fā)現(xiàn)都來自偶然”。這種說法的謬誤之處在于將偶然性看成一種意外。
如果偶然性發(fā)現(xiàn)純屬意外事件,那就意味著沒有任何特殊的教育背景或智力水平的人,也能夠得出同樣的發(fā)現(xiàn)。
我們或許會假設,凌亂無序或瘋狂甚至是開啟偉大發(fā)現(xiàn)之旅的最佳方式。但在現(xiàn)實世界中,情況似乎并非如此。
大多數(shù)重大的偶然性發(fā)現(xiàn),都不是外行人的瘋狂想法推動的。事實上,這些偉大的發(fā)現(xiàn),大多數(shù)都出自智力超群、受過良好教育,且在各自行業(yè)內(nèi)頗有建樹的人之手。
在任何偶然性發(fā)現(xiàn)的背后,幾乎總有一位心態(tài)開放的思想家,他們對怎樣會產(chǎn)生最有趣的結(jié)果往往有著強烈的直覺。
歸根結(jié)底,我們必須獲得某種知識,才能繼續(xù)創(chuàng)造新奇事物,這就意味著新奇性探索是一種信息收集器,用于不斷積累關(guān)于世界的知識。
探索的時間越長,最終積累的信息越多,就越容易創(chuàng)新。
成為一個尋寶者
創(chuàng)新并非少數(shù)人的專利。對許多人來說,創(chuàng)新是可能的,因為我們都有不同領(lǐng)域的經(jīng)驗,在任何你有經(jīng)驗的領(lǐng)域,你都可以創(chuàng)新。例如,你會找到一種創(chuàng)新的方式來裝飾你的家。
然而,不是每個人都需要或者應該創(chuàng)新。人們應該做他們想做的事情。如果你喜歡安全的適度的目標,過著沒有風險的生活,那也可以是一種美好的生活。
如果你更喜歡探險冒險和不確定的目標,那也是一條合理的道路,只要你接受它可能走不通的風險。簡而言之,就個人而言,每個人應該有選擇自己喜歡的道路的自由。
對于后者而言,我們需要從目標的“一招鮮,吃遍天”的虛妄幻想中解放出來,繼而擁抱現(xiàn)實,讓自己成為一名擁有“即便沒有目標,也能發(fā)現(xiàn)意外之喜”這種強大能力的“尋寶者”。
在漫無目標的新奇性探索中,你不一定能找到心中想要的寶藏,反而可能發(fā)現(xiàn)許多意料之外的寶藏,這將使整個過程充滿驚喜。
本質(zhì)上,尋寶者又可以說是秉持機會主義的探險家,他們致力于尋找任何有價值的東西,而不在乎這些東西具體是什么。
要想成為一名合格的尋寶者,我們就必須盡可能多地積累踏腳石,因為我們永遠不知道哪塊踏腳石可能通往有價值的地方。
也就是說,我們需要保持多樣化的思維。因為一心一意地追求某個特定目標太有欺騙性,所以我們應該盡可能保留不同選擇的可能性,以防一開始看起來最靠譜的路徑,到后來反而行不通。
這種看法聽起來或許很悲哀,因為人類沒有關(guān)于未來的確切指南針。我們?yōu)閯?chuàng)造確定性和有目標的努力所做的一切,都可能是徒勞無功的。
但我們完全不必失望,也許探索和發(fā)現(xiàn)本身就不應該專注于具體的目標,而是應著眼于一些更偉大的東西。
很反常識的一點是,達成共識并不是尋寶者的工作方式。有時候通往創(chuàng)造性想法的最佳路徑,就是遵循個人喜好,而無需任何共識和目標。
事實上,沒人能對2022年ChatGPT的爆發(fā)胸有成竹。過去5年,30多名中高層離開OpenAI,各自開辟AI創(chuàng)業(yè)項目。
他們的創(chuàng)業(yè)項目清單里,囊括了語言理解、計算機視覺、視覺搜索引擎、計算機任務自動化、太空技術(shù)、人工智能安全等AI各個領(lǐng)域,既包括AI大模型的底層技術(shù),也有中間層和具體的應用層。
這無疑都是推動AI發(fā)展的有益探索。
OpenAI創(chuàng)始人薩姆·阿爾特曼曾篤定地表示,在公司內(nèi)部,即使是管理層,也不一定有工程師了解這個300多人的團隊。
OpenAI作為平臺給這些工程師提供充分的自由和自信,包括他們在離開公司后獨立創(chuàng)業(yè),也得益于OpenAI長期形成的公司文化。
OpenAI內(nèi)部研究小組之間的“不團結(jié)”,有時候反而可以推動進步。這樣一來,“不團結(jié)”的力量,可以幫助更好地組織科學探索和其他創(chuàng)造性的工作。
總結(jié)
當探索的目的地變得未知,我們必須放下對最終目的地的執(zhí)念。
這就是“踏腳石原則”,即一個好的想法會帶來另一個好的想法;一處寶藏會指向更多的寶藏,在可能發(fā)現(xiàn)的無限的踏腳石上,形成源源不斷的連鎖和分支。因此,你需要做的,就是成為一個熟練的尋寶者。
如果你想成為一名行事無須設置特定目標的尋寶者,那么就要遵循一種特殊的線索,即當某些東西讓你感覺有趣時,尋寶的旅程就可以開啟。
“踏腳石原則”反映在工作中,就是讓我們更有信心跟隨自己的直覺,僅僅是因為它們看起來很有趣,即使不確定回報會是什么。
實際上,目標驅(qū)動的公司往往因為在幾年內(nèi)沒有推出創(chuàng)新的產(chǎn)品而萎靡不振。在人工智能的商業(yè)化領(lǐng)域,充斥著不少雄心勃勃的公司,它們最后不得不降低自己的期望值。還有很多公司陷入到了爭分奪秒的軍備競賽中,數(shù)據(jù)積累和技術(shù)耐心成為難以避免的犧牲品。
成功的人往往會問的是,我們能夠從這里走到哪里,而不是我們?nèi)绾文軌虻诌_遙遠的那里。他們并沒有將精力浪費在遙遠而宏偉的愿景上,而是專注于當前可能發(fā)生的前沿事件。
根據(jù)當前所處的位置,決定應該去哪里,往往比根據(jù)想要去哪里,來決定前進的方向要更明智。
原文標題 : 專訪ChatGPT背后的科學家:OpenAI的300人工作方法論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
10月31日立即下載>> 【限時免費下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月28日立即報名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
推薦專題
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市