曾經很長一段時間里,業(yè)界都在談論是否有必要設立AI基準測試。如今看來,隨著人工智能對于算力的強烈渴求,如何發(fā)揮AI最大潛能、賦能數(shù)字化轉型正成為全行業(yè)最大挑戰(zhàn),以 MLPerf? 為代表的AI基準測試的價值則愈發(fā)凸顯,在推動AI軟硬件發(fā)展、AI系統(tǒng)落地等方面發(fā)揮著重要作用。

近日,在最新的2021 MLperf? AI基準評測里,英偉達、浪潮、英特爾、高通、阿里巴巴等17家業(yè)界頂尖廠商在42個賽道參與角逐,競爭極為激烈,最終結果卻呈現(xiàn)出一邊倒的情況: 浪潮獲得18項性能第一, 英偉達獲得10項性能第一,兩家廠商占據了70%的冠軍榜單,浪潮更是創(chuàng)造了中國公司在 MLPerf? 基準測試中最佳成績。

有人說,計算產業(yè)正在加速從計算躍遷智算,從此次MLperf? AI基準評測中,我們不僅看到了人工智能算力快速發(fā)展的一角,更讀懂了智算時代的未來。

MLPerf?測試為何愈發(fā)重要

毫無疑問,人工智能進入到比拼算力的時代。專家直言,近年來人工智能對于算力的強烈渴求正在加速形成新摩爾定律,即在數(shù)據爆炸性增長和模型日趨復雜的驅動下,人工智能系統(tǒng)所需算力每3．43個月翻一倍。

例如,去年,OpenAI發(fā)布的超大模型GPT-3以1750億個模型參數(shù)、45TB預訓練數(shù)據、最大96層數(shù)驚艷了世界。與上一代模型相比,GPT-3模型在各方面迎來了指數(shù)級的變化,對于算力的需求也呈現(xiàn)出指數(shù)級的增長。

與傳統(tǒng)服務器成熟的SPC等測試體系相比,AI基準測試處于起步階段,卻在幫助AI開發(fā)者了解AI系統(tǒng)、開發(fā)AI系統(tǒng)產品、推動市場良性競爭和AI應用落地方面發(fā)揮著重要作用,這也是 MLPerf? AI基準測試近年來受到廣受業(yè)界關注的核心原因。

MLPerf? AI基準測試大有來頭,由圖靈獎得主David ?Patterson聯(lián)合斯坦福、哈佛大學等頂尖學術機構發(fā)起成立,近年來已經有英特爾、英偉達、谷歌、亞馬遜、阿里巴巴、微軟、百度、浪潮等70多個知名企業(yè)和機構積極參與,成為全球權威性最大、影響力最廣的AI性能基準測試。

某種程度而言,MLPerf?在以可復制的、公平可靠的基準測量方法推動機器學習行業(yè)和研究的發(fā)展,促進AI系統(tǒng)之間的良性競爭與長遠發(fā)展。例如,最新MLPerf? Inference V1．0基準,涵蓋了圖像分類、目標檢測、醫(yī)療圖像分割、自然語言處理、語音轉文字和推薦系統(tǒng)6類AI應用場景,分為數(shù)據中心和邊緣兩類處理場景,每類場景都包含固定任務(Closed)和開放優(yōu)化(Open)兩類性能競賽,對于AI系統(tǒng)在行業(yè)中的落地極富參考價值。

可以說,以浪潮為代表的中國廠商在此次MLPerf? AI基準測試取得的成績極富含金量,標志著中國廠商在AI算力的創(chuàng)新探索和系統(tǒng)產品落地方面走在了業(yè)界最前沿。

厚積薄發(fā),18項冠軍的背后

在本次MLPerf? AI基準測試中,浪潮NF 5488A5服務器和浪潮NE5260邊緣服務器,分別斬獲數(shù)據中心場景11項冠軍和邊緣場景7項冠軍。

具體來看,在數(shù)據中心固定任務競賽中,一共有13家廠商提交了584項競賽成績,競爭極為激烈,浪潮NF5488A5在其中全部16條賽道中斬獲11項冠軍,在全部21項基準測試中,浪潮同樣以11項獲得第一。

值得關注的是,NF5488A5屬于再次衛(wèi)冕“性能王”。作為業(yè)界率先實現(xiàn)500W 80GB A100GPU的液冷散熱AI服務器,NF5488A5在系統(tǒng)拓撲上采用了超低延遲設計,并通過深度優(yōu)化系統(tǒng)結構設計,實現(xiàn)在高溫、高負載環(huán)境中穩(wěn)定運行,將2020年MLPerf? DLRM的最高推理性能提升了23．4%,同比2019年MLPerf? Resnet50的單機最高推理性能提升326%。

浪潮NF5488A5衛(wèi)冕“性能王”

而在邊緣場景固定任務賽道中,一共有11家廠商提交326項競賽成績,競爭同樣異常激烈,浪潮NE5260首次亮相就一戰(zhàn)成名,斬獲7項目冠軍,在邊緣場景21項基準測試中,同樣獲得7項第一。

浪潮NE5260 采用專門針對邊緣計算出行家的設計,完美兼容CPU和GPU、FPGA等多種異構加速器,在追求邊緣場景極致AI性能的同時,打破物理空間限制,最大限度提升邊緣計算場景的部署體驗。

此外,參與評測的NF5488 M6也收獲了同等配置跡象9項最好成績,居同類服務器性能幫助。

事實上,浪潮此次在MLPerf? AI基準測試取得如此出色的成績,并不是為了打榜成績而做的“一蹴而就”行為,背后是其對于AI算力趨勢洞察、戰(zhàn)略布局、創(chuàng)新投入等長期積累的結果。

早在2016年AlphGo給世界一大彩蛋、AI計算方興未艾之際,浪潮就敏銳洞察到新型計算類型--智慧計算,認為隨著AI技術的迅猛發(fā)展,物理世界數(shù)字化、數(shù)字世界智能化進程進一步加速,智慧計算也開始崛起。

為此,浪潮在2016年首次提出了“智慧計算”戰(zhàn)略,明確智慧計算的框架:以云計算為平臺、以大數(shù)據為認知方法,以深度學習為優(yōu)化工具,三者相互促進、相互融合、共同發(fā)展,衍生出一種新的計算類型為智慧計算。

此后,浪潮圍繞“智慧計算”戰(zhàn)略,不僅陸續(xù)提出“計算力就是生產力”、“人工智能是智慧計算的核心”、“智算中心”等先進理念,還在AI產品創(chuàng)新和生態(tài)建設上也不遺余力,成為業(yè)界擁有最為廣泛和極富競爭力AI產品線的廠商,并且連續(xù)多年位列全球AI服務器市場第一。

“冰凍三尺非一日之寒”。浪潮斬獲MLPerf? 18項冠軍,看似是一次打榜的偶然,恰恰是浪潮智慧計算戰(zhàn)略長期執(zhí)行的必然。

從MLPerf?讀懂智算的未來

從MLPerf?最新榜單很難不讓人想到剛剛結束的浪潮IPF 2021大會。

隨著智慧場景在各個行業(yè)遍地開花,從計算到智算的變革正在加速,計算產業(yè)迎來新的格局,多元算力融合將成為關鍵,算力供給基建化將成為社會創(chuàng)新的支撐。為此,浪潮集團首席科學家王恩東院士在本次IPF大會上直指三大艱巨挑戰(zhàn):計算場景復雜多元,訓練模型巨大與應用規(guī)模海量,產業(yè)鏈脫節(jié)與生態(tài)離散,需要在架構、產品、生態(tài)進行全面創(chuàng)新,來應對智算多元化、巨量化和生態(tài)挑戰(zhàn)。

此時的浪潮,已經不僅僅著眼于某些產品的創(chuàng)新,而是在積極構建云腦生態(tài),聯(lián)合技術開放組織、部件上游廠商、模型數(shù)據伙伴等左手合作伙伴,以及智慧應用伙伴、行業(yè)方案伙伴、平臺供應商等右手合作伙伴,共同推動智算產品、技術的落地與應用。

可以說,浪潮此次在MLPerf?霸榜,不僅是其長期致力于AI產品創(chuàng)新的成果,更是從計算到智算的產業(yè)躍遷中,新模式、新技術、新生態(tài)的結晶。

面對未來,隨著多元算力需求的不斷提升,計算產業(yè)真正進入到創(chuàng)新大周期,無論是體系結構還是產品形態(tài),都將迎來百花齊放的時代,聯(lián)合生態(tài)力量來加速AI在行業(yè)場景中的落地將成為必然之路。也正因為如此,浪潮堅持多年的智慧計算戰(zhàn)略才顯得極富前瞻性和彌足珍貴。

相信在未來,在計算產業(yè)新模式、新生態(tài)的加持下,浪潮在AI算力上必定能不斷突破,再攀高峰。