ChatGPT背后的算力博弈,中國(guó)企業(yè)亟待打破美國(guó)桎梏
作者|孫鵬越
編輯|大 風(fēng)
如今AIGC市場(chǎng)一片鮮花著棉烈火烹油,不論是ChatGPT、AUTOGPT,或者國(guó)內(nèi)的文心一言,市場(chǎng)亂烘烘你方唱罷我登場(chǎng),不斷登上熱搜。 華西證券預(yù)測(cè),全球AI軟件市場(chǎng)規(guī)模將在2025年達(dá)到1260億美元,2021年到2025年復(fù)合增長(zhǎng)率為41.02%。 ChatGPT繁榮的背后,是堪稱(chēng)天文數(shù)字的算力支持。 據(jù)測(cè)算,AI訓(xùn)練服務(wù)器方面,單個(gè)大語(yǔ)言模型訓(xùn)練驅(qū)動(dòng)AI訓(xùn)練服務(wù)器需求約2億美元;AI推理服務(wù)器方面,如ChatGPT在初期便可帶動(dòng)推理服務(wù)器需求約45億美元。 一時(shí)間,ChatGPT們層出不窮,而它們背后的AI服務(wù)器賽道也開(kāi)始隨之水漲船高。
算力決定ChatGPT
算力作為大模型的核心引擎,它的計(jì)算公式很簡(jiǎn)單:有多少枚GPU芯片就能產(chǎn)生多大的算力,高端GPU芯片的數(shù)量,能直接影響算力的大小。 ChatGPT所需要的算力并不是固定的,反而是逐次遞增。
ChatGPT越聰明,背后的代價(jià)是所需算力越來(lái)越多。 據(jù)媒體推測(cè),GPT-3訓(xùn)練成本預(yù)計(jì)在500萬(wàn)美元/次,GPT-3模型需花費(fèi)訓(xùn)練成本約140萬(wàn)美元,Google的PaLM模型需花費(fèi)訓(xùn)練成本約1120萬(wàn)美元。
據(jù)微軟高管透露,為ChatGPT提供算力支持的AI超級(jí)計(jì)算機(jī),是微軟在2019年投資10億美元建造的一臺(tái)大型頂尖超級(jí)計(jì)算機(jī),配備了數(shù)萬(wàn)個(gè)英偉達(dá)A100 GPU,還配備了60多個(gè)數(shù)據(jù)中心總共部署了幾十萬(wàn)個(gè)英偉達(dá)GPU輔助。
為了滿足與日俱增的ChatGPT算力需求,微軟宣布將推出基于英偉達(dá)最新旗艦芯片H100 GPU和英偉達(dá)Quantum-2 InfiniBand網(wǎng)絡(luò)互連技術(shù),推出Azure可大規(guī)模擴(kuò)展的AI虛擬機(jī)系列,以顯著加速AI模型的開(kāi)發(fā)。 看上去,ChatGPT的背后就是滿篇的英偉達(dá)、英偉達(dá)和英偉達(dá)。
英偉達(dá)
實(shí)際上,英偉達(dá)作為硬件霸主,不僅在消費(fèi)級(jí)市場(chǎng)占據(jù)大部分市場(chǎng),也是AI服務(wù)器芯片領(lǐng)域的頭號(hào)選擇。
物以稀為貴,目前英偉達(dá)的旗艦芯片H100,在一周時(shí)間漲價(jià)近7萬(wàn)元人民幣,售價(jià)普遍高達(dá)30萬(wàn)元左右;次旗艦A100芯片在短短三個(gè)月多時(shí)間里,從6萬(wàn)元一路漲至9萬(wàn)元,漲幅超過(guò)50%。 不僅漲價(jià)買(mǎi)不到,甚至美國(guó)還禁止英偉達(dá)賣(mài)芯片。
在去年8月,美國(guó)政府發(fā)布出口管制政策,禁止英偉達(dá)將A100、H100兩款芯片售往中國(guó)。 為了不丟掉中國(guó)市場(chǎng),又符合美國(guó)出口管制,英偉達(dá)隨后推出“性能閹割版”A800、H800芯片。
但這兩款芯片同樣被供不應(yīng)求的市場(chǎng)一搶而空,價(jià)格也隨之水漲船高。
以百度阿里騰訊為首,國(guó)內(nèi)大部分互聯(lián)網(wǎng)公司都已經(jīng)宣布進(jìn)軍大模型。市場(chǎng)統(tǒng)計(jì),從ChatGPT之后,中國(guó)年內(nèi)即將推出的大模型數(shù)量已超10個(gè)。 如果想要達(dá)到ChatGPT的水準(zhǔn),至少需要3000枚A100芯片,以9萬(wàn)/枚的價(jià)格來(lái)算就是2.7億人民幣才能完成一個(gè)大模型部署;10個(gè)大模型就需要3萬(wàn)枚A100芯片,27億人民幣。
加上后期訓(xùn)練成本,所需要的芯片更是天文數(shù)字。但按照目前英偉達(dá)的交貨時(shí)間來(lái)看,想要買(mǎi)到足夠的芯片,可不是一件容易的事情。 恍惚間,礦卡時(shí)代又再次來(lái)臨。
再次坐在風(fēng)口的英偉達(dá)
在前些年虛擬貨幣火熱的時(shí)候,作為挖礦必備的顯卡提供商,英偉達(dá)幾年時(shí)間大賺特賺了48億美元。
如今又靠著ChatGPT活出第二世,讓歷史再次重演。 面對(duì)市場(chǎng)需求激增,借AI浪潮翻身的英偉達(dá)很雞賊的推出“算力租賃”服務(wù)。
3月21日,2023年GTC大會(huì)上,英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛推出NVIDIA DGX Cloud™,可以為企業(yè)提供訓(xùn)練生成式AI高級(jí)模型所需的基礎(chǔ)設(shè)施和軟件。
DGX Cloud每個(gè)實(shí)例配有8個(gè)H100或A100 80GB GPU,企業(yè)可以“云租賃”的形式按月租用DGX Cloud集群,價(jià)格為每實(shí)例3.7萬(wàn)美元/月起。
英偉達(dá)真的沒(méi)有替代品嗎?為什么企業(yè)寧愿選擇租賃,也不選擇其他GPU芯片商?
來(lái)源:網(wǎng)絡(luò)
IDC數(shù)據(jù)顯示,國(guó)內(nèi)GPU服務(wù)器在2021年占國(guó)內(nèi)服務(wù)器市場(chǎng)規(guī)模的比例超過(guò)88.4%,使用英偉達(dá)的產(chǎn)品占比超80%。 AI大模型所需要的芯片在處理信息的精細(xì)度和算力速度要求更高,在超算領(lǐng)域,雙精度浮點(diǎn)計(jì)算能力FP64是進(jìn)行高算力計(jì)算的硬性指標(biāo)。
而英偉達(dá)的H100、A100是目前唯一具備這些能力的芯片。 美國(guó)卡脖子的并不只有英偉達(dá)芯片的售賣(mài),從技術(shù)、設(shè)備、材料都限制中國(guó)企業(yè)的研發(fā)。但在美國(guó)的重重限制下,中國(guó)企業(yè)仍然頂著壓力跑出幾匹黑馬。
根據(jù)IDC最新發(fā)布的《中國(guó)加速計(jì)算市場(chǎng)(2021年下半年)跟蹤報(bào)告》,2021年全年中國(guó)AI服務(wù)器市場(chǎng)規(guī)模達(dá)350.3億元,同比增長(zhǎng)68.6%。
在企業(yè)級(jí)GPU芯片領(lǐng)域,中國(guó)廠商壁仞科技在2022年推出“BR100”芯片、天數(shù)智芯推出了“智鎧100”芯片、寒武紀(jì)推出了“思元270”芯片。
其中壁仞科技稱(chēng),BR100擁有全球最高算力,峰值算力達(dá)到了市場(chǎng)在售旗艦產(chǎn)品的三倍以上,16位浮點(diǎn)算力達(dá)到1000T以上、8位定點(diǎn)算力達(dá)到2000T以上,單芯片峰值算力達(dá)到PFLOPS級(jí)別。
雖然數(shù)據(jù)良好,但缺少至關(guān)重要的處理FP64的能力,依然無(wú)法完全取代英偉達(dá)H100、A100倆兄弟。 并且,英偉達(dá)使用的CUDA平臺(tái)早已成為應(yīng)用最為廣泛的AI開(kāi)發(fā)生態(tài)系統(tǒng),只支持英偉達(dá)的Tesla架構(gòu)GPU,在現(xiàn)階段根本無(wú)法用國(guó)產(chǎn)芯片取代。
雖然中國(guó)芯片廠商正在對(duì)GPU芯片領(lǐng)域奮起直追,但技術(shù)差距和美國(guó)卡脖子仍是關(guān)鍵性問(wèn)題,還需要一段時(shí)間的努力。
不止AI服務(wù)器
借著大模型東風(fēng)一路上揚(yáng)的不止AI服務(wù)器和GPU芯片,還有儲(chǔ)存器市場(chǎng)。 ChatGPT的運(yùn)行條件包括訓(xùn)練數(shù)據(jù)、模型算法和高算力,其中高算力的底層基礎(chǔ)設(shè)施是完成對(duì)海量數(shù)據(jù)、訓(xùn)練的基礎(chǔ)。
最顯而易見(jiàn)的特點(diǎn)就是ChatGPT經(jīng)歷數(shù)次迭代之后,參數(shù)量從1.17億增加到1750億,近乎兩千倍的增長(zhǎng),也給計(jì)算存儲(chǔ)帶來(lái)極大的挑戰(zhàn)。 AI新時(shí)代開(kāi)啟,預(yù)計(jì)全球數(shù)據(jù)生成、儲(chǔ)存、處理量將呈等比級(jí)數(shù)增長(zhǎng),存儲(chǔ)器將顯著受益。
而計(jì)算存儲(chǔ)是ChatGPT的重要基石,隨著阿里、百度等科技巨頭類(lèi)ChatGPT項(xiàng)目入局,整體計(jì)算存儲(chǔ)市場(chǎng)需求將進(jìn)一步快速提升。
文心一言 隨著AIGC持續(xù)火熱,北京、上海、廣州等數(shù)字經(jīng)濟(jì)發(fā)達(dá)地區(qū)也出臺(tái)了政策推進(jìn)智算中心建設(shè)。
比如,北京市提出“新建一批計(jì)算型數(shù)據(jù)中心和人工智能算力中心,到2023年,培育成為人工智能算力樞紐”;上海市提出“布局建設(shè)一批具有高性能、高吞吐的人工智能算力中心,推動(dòng)公共算力服務(wù)平臺(tái)建設(shè)”等。
而各行各業(yè)都將面臨著ChatGPT的洗禮,在迎新一輪人工智能的浪潮下,和AI相關(guān)的行業(yè)將會(huì)迎來(lái)廣闊的市場(chǎng)空間。 而中國(guó)企業(yè)也勢(shì)必會(huì)沖破美國(guó)掣肘,打破不公平的桎梏。
原文標(biāo)題 : ChatGPT背后的算力博弈,中國(guó)企業(yè)亟待打破美國(guó)桎梏
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車(chē)
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
推薦專(zhuān)題
- 1 【一周車(chē)話】沒(méi)有方向盤(pán)和踏板的車(chē),你敢坐嗎?
- 2 特斯拉發(fā)布無(wú)人駕駛車(chē),還未迎來(lái)“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 6 馬斯克致敬“國(guó)產(chǎn)蘿卜”?
- 7 神經(jīng)網(wǎng)絡(luò),誰(shuí)是盈利最強(qiáng)企業(yè)?
- 8 比蘋(píng)果偉大100倍!真正改寫(xiě)人類(lèi)歷史的智能產(chǎn)品降臨
- 9 諾獎(jiǎng)進(jìn)入“AI時(shí)代”,人類(lèi)何去何從?
- 10 Open AI融資后成萬(wàn)億獨(dú)角獸,AI人才之爭(zhēng)開(kāi)啟
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷(xiāo)售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷(xiāo)售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專(zhuān)家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市