強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT
前言:
ChatGPT一次運(yùn)算的成本高達(dá)450萬美元,OpenAI公司凈虧損高達(dá)5.45億美元,如若不是背后大股東微軟源源不斷的輸血支撐,OpenAI的ChatGPT早黃了。
作者 | 方文三
圖片來源 | 網(wǎng) 絡(luò)
新春佳節(jié)后,巨頭們宣布類ChatGPT進(jìn)展
2月,微軟宣布推出由ChatGPT支持的最新版本人工智能搜索引擎必應(yīng)和Edge瀏覽器。
微軟股價(jià)大漲4.2%,市值飆升800億美元。
幾乎同時(shí),谷歌也將整合新的人工智能到搜索引擎中。
宣布人工智能對話式機(jī)器人Bard正在內(nèi)測,并在未來幾周內(nèi)向大眾提供服務(wù)。
百度將于3月在中國推出類似ChatGPT的人工智能聊天機(jī)器人[文心一言]。
百度港股漲幅快速擴(kuò)大,截至收盤大漲15.33%。
騰訊、阿里、華為也紛紛宣布正在申請人工智能人機(jī)對話專利。
360也于近期在互動(dòng)平臺(tái)上表示,計(jì)劃盡快推出類ChatGPT技術(shù)的demo版產(chǎn)品。
ChatGPT的出現(xiàn)提升了自然語言處理能力的上限,打開了人工智能技術(shù)商業(yè)化落地且成為消費(fèi)端爆款的大門,因此具有劃時(shí)代的意義。
差異化戰(zhàn)略,股價(jià)兩重天
2022年12月底,谷歌深感來自ChatGPT的壓力,迅速抽調(diào)員工開展ChatGPT競品產(chǎn)品的研究。
谷歌已向AI初創(chuàng)公司Anthropic投資了近4億美元,Anthropic正在進(jìn)行ChatGPT競爭產(chǎn)品的測試,這家公司成立于2021年,創(chuàng)始團(tuán)隊(duì)正是來自于ChatGPT的開發(fā)商OpenAI。
谷歌宣布將推出名為Bard的AI聊天機(jī)器人,這款產(chǎn)品是基于對話應(yīng)用語言模型(LaMDA)的實(shí)驗(yàn)性AI程序,目前已經(jīng)開展測試,并在幾周內(nèi)向公眾開放。
微軟更是迅速響應(yīng),加快了相關(guān)應(yīng)用的研發(fā)。
近日,微軟宣布將ChatGPT整合至全線產(chǎn)品中,并擴(kuò)大與ChatGPT所有者OpenAI的深度合作。
推出由ChatGPT支持的,融入GPT-3.5語言技術(shù)的最新版本人工智能搜索引擎Bing(必應(yīng))和Edge瀏覽器。
微軟推出了集成ChatGPT技術(shù)的新版搜索引擎New Bing和瀏覽器Edge,這也成為微軟在搜索引擎領(lǐng)域?qū)构雀璧闹匾淦鳌?/p>
像谷歌和Meta這樣的大公司肯定會(huì)有一定優(yōu)勢,因?yàn)樗麄儞碛腥肆、技術(shù)和財(cái)力資源。
因此,這些公司在市場上有足夠的空間,這將是一場新的比賽,尤其是在深度和正確性方面。
相較之下,微軟和亞馬遜選擇的應(yīng)對策略是與OpenAI結(jié)盟,試圖借其東風(fēng)。
Bard作為對抗ChatGPT而推出的關(guān)鍵對標(biāo)產(chǎn)品,可謂是備受關(guān)注。
按照谷歌的宣傳,Bard是一項(xiàng)實(shí)驗(yàn)性對話式AI服務(wù),由LaMDA提供支持,并運(yùn)用到了谷歌的大型語言模型和網(wǎng)絡(luò)信息構(gòu)建。
可萬萬沒想到,趕了個(gè)晚集的谷歌卻在自己的發(fā)布會(huì)上翻車了。
發(fā)布會(huì)中展現(xiàn)的錯(cuò)誤答案后,谷歌股價(jià)大跌7.68%,一夜之間市值縮水約7202億元,是截止到目前AI犯過的最貴的錯(cuò)誤。
出圈背后有AIGC的功勞
AIGC的核心變革,發(fā)生在內(nèi)容層,位于數(shù)據(jù)層之上。
AIGC在繪畫和會(huì)話等方面突破的重要性,在人工智能領(lǐng)域相當(dāng)于2016年,阿爾法狗戰(zhàn)勝人類圍棋冠軍的價(jià)值。
ChatGPT最大的意義是讓人們看到了一個(gè)更加智能高效時(shí)代的輪廓。
ChatGP本身也是AI技術(shù)迭代到一定階段后的產(chǎn)物。
服務(wù)器+網(wǎng)絡(luò)開啟了人人上網(wǎng)的時(shí)代,而算力+算法將開啟人人上算的時(shí)代。
AI將以場景、應(yīng)用、內(nèi)容來創(chuàng)造用戶的新需求。
AIGC技術(shù)主要涉及兩個(gè)方面,自然語言處理(NLP)和AIGC生成算法,AIGC投資方向主要包括軟硬件與數(shù)據(jù)集。
以ChatGPT為代表的大型語言模型(LLM)將會(huì)成為未來巨頭爭奪的重點(diǎn)。
ChatGPT展示了巨大的應(yīng)用潛力,完全不局限于創(chuàng)作文本或者圖像。
距離AIGC真正落地以及實(shí)際應(yīng)用還有很遠(yuǎn)的路。
目前ChatGPT更像一個(gè)[玩具],還不是生產(chǎn)力工具。
西部證券則預(yù)測,AIGC或在2023年迎來發(fā)展大年,來到兩年前自動(dòng)駕駛的應(yīng)用突破拐點(diǎn)。
實(shí)現(xiàn)ChatGPT的最大亮點(diǎn)也是最大難點(diǎn)
ChatGPT需要把大模型盡量變成小模型或者稀疏模型,且大模型的訓(xùn)練和使用成本都很高。
除了模型之外的另一個(gè)難點(diǎn)在于如何實(shí)現(xiàn)ChatGPT后半段的人工過程變成自動(dòng)訓(xùn)練。
ChatGPT是在大模型的基礎(chǔ)上,加入了很多人類反饋。這需要大量的人工,而這部分工作目前是至關(guān)重要的。
截至目前,OpenAI已經(jīng)總計(jì)獲得超過110億美元的融資,微軟、谷歌風(fēng)投、馬斯克等均曾出手投資,而且其目前并未盈利。
如此巨額的投入恐怕今天的互聯(lián)網(wǎng)巨頭也只能望而卻步。
但從另一個(gè)角度來說,這也給了創(chuàng)業(yè)型團(tuán)隊(duì)機(jī)會(huì)。通過不斷深入挖掘某項(xiàng)技術(shù),瞄準(zhǔn)特定的細(xì)分賽道能夠切到一塊蛋糕。
高算力帶火芯片行業(yè)
ChatGPT的注冊用戶便已經(jīng)過億,海量的用戶訪問曾多次導(dǎo)致ChatGPT官網(wǎng)因?yàn)樵L問數(shù)太多而宕機(jī)。
這意味著,OpenAI要想保證用戶體驗(yàn),它就必須得加大算力的投入。
而這就需要大量芯片的支持了,這無疑直接給本已快陷入沉寂的芯片市場注入了一劑猛藥。
ChatGPT的總算力消耗約為3640PF-days,ChatGPT已導(dǎo)入了至少1萬顆英偉達(dá)高端GPU。
而花旗集團(tuán)預(yù)估,ChatGPT將可能促使英偉達(dá)相關(guān)產(chǎn)品在12個(gè)月內(nèi)銷售額達(dá)到30億至110億美元。
ChatGPT的大火將促使算力需求大大增加,350瓦推理芯片會(huì)成為常態(tài),技術(shù)上會(huì)推動(dòng)大模型壓縮到達(dá)一個(gè)新高潮,同時(shí)企業(yè)和個(gè)人的服務(wù)有許多可以基于類似技術(shù)構(gòu)建。
高性能計(jì)算芯片是一切AI的底層基礎(chǔ),目前AI芯片主要有通用GPU算力芯片和ASIC專用芯片兩大類型。
或許在ChatGPT的幫助下,芯片行業(yè)將迎來新一輪的市場紅利期。
ChatGPT帶來AI技術(shù)范式革新
相比其他大模型,ChatGPT在AI的技術(shù)路線和訓(xùn)練方式上的變革,帶來了業(yè)界意料之外的突破。
①ChatGPT有一個(gè)非常強(qiáng)大的技術(shù)底座,也就是InstructGPT模型。
此前,GPT與BERT模型路線一直在競爭,2018年時(shí)BERT模型先贏了,但GPT模型參數(shù)和數(shù)據(jù)規(guī)模越做越大。
最終結(jié)合人工反饋增強(qiáng)學(xué)習(xí)(RLHF),在ChatGPT上取得了重大突破,效果上反超了BERT模型路線。
②ChatGPT引入了強(qiáng)化學(xué)習(xí)機(jī)制,在新版本上引入了人工標(biāo)注的數(shù)據(jù),通過人類的反饋,有針對性地進(jìn)行優(yōu)化。
其中的難度在于,建立怎樣的強(qiáng)化學(xué)習(xí)機(jī)制。過去業(yè)界也嘗試了強(qiáng)化學(xué)習(xí)機(jī)制,但很多都不太成功,ChatGPT在這件事上取得了突破。
③ChatGPT在數(shù)據(jù)質(zhì)量和多樣性上非常講究。
ChatGPT強(qiáng)化學(xué)習(xí)的數(shù)據(jù)量并不大,但對數(shù)據(jù)多樣性、標(biāo)注體系都有精巧的設(shè)計(jì),讓數(shù)據(jù)發(fā)揮出了強(qiáng)大的作用。
成本導(dǎo)致國內(nèi)與國外路線不同
ChatGPT的重點(diǎn)在于創(chuàng)造,通過大量的語料訓(xùn)練和強(qiáng)大的糾錯(cuò)能力,對素材進(jìn)行消化、整理和再輸出,這和過去國內(nèi)關(guān)注的云計(jì)算或視覺技術(shù)是完全不同的思考方式。
而導(dǎo)致上述分別的原因也很直接,那就是成本。
ChatGPT背后有著海量的資料庫和龐大的算力做支撐,變現(xiàn)方式目前來看卻只有向企業(yè)提供服務(wù),替代部分人工作業(yè)這一種。
對于產(chǎn)品化而言,即使再將成本下降10倍,這個(gè)商業(yè)模式也是無法成立的,因?yàn)檫@個(gè)成本與人類相比沒有優(yōu)勢。
背后的支撐是人工智能大模型
當(dāng)前的人工智能大多是針對特定的場景應(yīng)用進(jìn)行訓(xùn)練,生成的模型難以遷移到其他應(yīng)用, 屬于[小模型]的范疇。
整個(gè)過程不僅需要大量的手工調(diào)參,還需要給機(jī)器喂養(yǎng)海量的標(biāo)注數(shù)據(jù),這拉低了人工智能的研發(fā)效率,且成本較高。
[大模型]通常是在無標(biāo)注的大數(shù)據(jù)集上,采用自監(jiān)督學(xué)習(xí)的方法進(jìn)行訓(xùn)練。
在其他場景的應(yīng)用中,開發(fā)者只需要對模型進(jìn)行微調(diào),就可以滿足新應(yīng)用場景的需要。
這意味著,對大模型的改進(jìn)可以讓所有的下游小模型受益,大幅提升人工智能的適用場景和研發(fā)效率。
因此大模型成為業(yè)界重點(diǎn)投入的方向,Open AI、谷歌、臉書、微軟, 國內(nèi)的百度、阿里、騰訊、華為和智源研究院等紛紛推出超大模型。
特別是OpenAI GPT 3大模型在翻譯、問答、內(nèi)容生成等領(lǐng)域的不俗表現(xiàn),讓業(yè)界看到了達(dá)成通用人工智能的希望。
當(dāng)前ChatGPT的版本為GPT 3.5,是在GPT3之上的調(diào)優(yōu),能力進(jìn)一步增強(qiáng)。
業(yè)界普遍預(yù)測,GPT4將在今年推出,并具備更強(qiáng)大的通用能力。
ChatGPT的產(chǎn)業(yè)未來與投資機(jī)會(huì)
①ChatGPT模型的出現(xiàn)對于文字/語音模態(tài)的 AIGC 應(yīng)用具有重要意義,會(huì)對AI產(chǎn)業(yè)上下游產(chǎn)生重大影響。
從下游相關(guān)受益應(yīng)用來看,包括但不限于無代碼編程、小說生成、對話類搜索引擎、語音陪伴、語音工作助手、對話虛擬人、人工智能客服、機(jī)器翻譯、芯片設(shè)計(jì)等。
從上游增加需求來看,包括算力芯片、數(shù)據(jù)標(biāo)注、自然語言處理(NLP)等。
②隨著算法技術(shù)和算力技術(shù)的不斷進(jìn)步,ChatGPT也會(huì)進(jìn)一步走向更先進(jìn)功能更強(qiáng)的版本,在越來越多的領(lǐng)域進(jìn)行應(yīng)用,為人類生成更多更美好的對話和內(nèi)容。
核心技術(shù)之一是Transformer
Transformer技術(shù)是近幾年人工智能技術(shù)最大的亮點(diǎn)之一。
谷歌于2017年提出的一種采用注意力機(jī)制的深度學(xué)習(xí)模型,可以按輸入數(shù)據(jù)各部分重要性的不同,而分配不同的權(quán)重。
Transformer的精度和性能上都要優(yōu)于之前流行的CNN(卷積神經(jīng)網(wǎng)絡(luò))、RNN(循環(huán)神經(jīng)網(wǎng)絡(luò))等模型。
大幅提升了模型訓(xùn)練的效果,讓人工智能得以在更大模型、更多數(shù)據(jù)、更強(qiáng)算力的基礎(chǔ)上進(jìn)一步增強(qiáng)能力。
目前人工智能已經(jīng)找到解決方案的問題,也只是可計(jì)算問題的一小部分。
如果說傳統(tǒng)的機(jī)器學(xué)習(xí)或人工智能是在水下一米的深處探索,那么深度學(xué)習(xí)的出現(xiàn)將人們帶到了一百米的深水區(qū);
而在Transformer、GPT等架構(gòu)后,從業(yè)者們直接能抵達(dá)深度超過萬米的馬里亞納海溝。
過去5年中,大規(guī)模預(yù)訓(xùn)練語言模型受到業(yè)內(nèi)越來越多的重視。
今天,全世界的人工智能研究有很多方向,也產(chǎn)生了大量的成果。
但是嚴(yán)格來說,所有這些最令人驚艷的結(jié)果, 90%以上是基于Transformer迭代來的這些大模型技術(shù)得到的。
目前幾乎所有的AI任務(wù)和項(xiàng)目,都會(huì)和大語言模型技術(shù)有關(guān)聯(lián),它已經(jīng)代表了AI界最主流的科研和技術(shù)迭代方向。
未來,ChatGPT與更多的AI、云計(jì)算等信息技術(shù)的集成創(chuàng)新,將創(chuàng)造改變生產(chǎn)力曲線的工具,成為經(jīng)濟(jì)發(fā)展新動(dòng)力。
結(jié)尾:
ChatGPT勾起人們對步入強(qiáng)人工智能時(shí)代的聯(lián)想,即人工智能具有自己的意向性來設(shè)定目標(biāo)。
雖然強(qiáng)人工智能本身還存在諸多爭論,但是分析人士普遍認(rèn)可,人工智能的發(fā)展大年與信息時(shí)代新階段將至。
原文標(biāo)題 : AI芯天下丨深度丨強(qiáng)人工智能的第一步?巨頭混戰(zhàn)ChatGPT
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動(dòng)更多
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場仿真助跑新能源汽車
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國智造CIO在線峰會(huì)
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 【一周車話】沒有方向盤和踏板的車,你敢坐嗎?
- 2 特斯拉發(fā)布無人駕駛車,還未迎來“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 大模型“新星”開啟變現(xiàn)競速
- 6 海信給AI電視打樣,12大AI智能體全面升級大屏體驗(yàn)
- 7 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 8 馬斯克致敬“國產(chǎn)蘿卜”?
- 9 神經(jīng)網(wǎng)絡(luò),誰是盈利最強(qiáng)企業(yè)?
- 10 比蘋果偉大100倍!真正改寫人類歷史的智能產(chǎn)品降臨
- 高級軟件工程師 廣東省/深圳市
- 自動(dòng)化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市