機(jī)器人能否“說人話”?
利用英特爾AVX-512技術(shù)和bfloat16指令,騰訊的科學(xué)家們確保了GRU模塊和Dense運(yùn)算符中粗略部分/精細(xì)部分的所有SGEMV計(jì)算都使用512位矢量進(jìn)行矢量化,并采用bfloat16點(diǎn)積指令;對(duì)于按元素逐個(gè)加/乘等運(yùn)算以及其他非線性激活,都使用最新的英特爾AVX-512 指令運(yùn)行。
在最終都性能測(cè)試中,通過優(yōu)化,相同質(zhì)量水平(MOS4.5)的文本轉(zhuǎn)語音速度比FP32提升了高達(dá)1.54倍。
此外,騰訊還以 GAN 和 Parallel WaveNet (PWaveNet)為基礎(chǔ),推出了一種改進(jìn)后的模型,并基于第三代英特爾至強(qiáng)可擴(kuò)展處理器對(duì)模型性能進(jìn)行了優(yōu)化,最終使性能與采用FP32相比提升了高達(dá)1.89倍,同時(shí)質(zhì)量水平仍保持不變 (MOS4.4)。
騰訊在TTS領(lǐng)域的進(jìn)展顯示出了人工智能領(lǐng)域的一個(gè)趨勢(shì),那就是科學(xué)家們?cè)絹碓蕉嚅_始利用英特爾深度學(xué)習(xí)加速技術(shù)在CPU平臺(tái)上開展工作。
就像騰訊在針對(duì)TTS的探索中獲得了性能提升那樣,第二代和第三代英特爾至強(qiáng)可擴(kuò)展處理器在集成了加速技術(shù)后,已經(jīng)顯著提升了人工智能工作負(fù)載的性能。
在更廣泛的領(lǐng)域內(nèi),我們已經(jīng)能夠清楚地看到這種變化——在效率表現(xiàn)上,由于針對(duì)常見人工智能軟件框架,如TensorFlow和PyTorch、庫和工具所做的優(yōu)化,CPU平臺(tái)可以幫助保持較高的性能功耗比和性價(jià)比。
尤其是擴(kuò)展性上,用戶在設(shè)計(jì)系統(tǒng)時(shí)可以利用如英特爾以太網(wǎng)700系列,和英特爾傲騰內(nèi)存存儲(chǔ)技術(shù),來優(yōu)化網(wǎng)絡(luò)和內(nèi)存配置。這樣一來,他們就可以在充分利用現(xiàn)有硬件投資的情況下,輕松擴(kuò)展人工智能訓(xùn)練的工作負(fù)載,獲得更高的吞吐量,甚至處理巨大的數(shù)據(jù)集。
不止于處理器平臺(tái)本身,英特爾目前在面向人工智能優(yōu)化的軟件,以及市場(chǎng)就緒型人工智能解決方案兩個(gè)維度,都建立起了差異化的市場(chǎng)優(yōu)勢(shì)。
例如在軟件方面,英特爾2019年2月進(jìn)行的 OpenVINO/ResNet50 INT8 性能測(cè)試顯示,使用 OpenVINO或TensorFlow和英特爾深度學(xué)習(xí)加速技術(shù)時(shí),人工智能推理性能可提高多達(dá) 3.75 倍。
今天,英特爾已經(jīng)攜手解決方案提供商,構(gòu)建了一系列的精選解決方案。這些方案預(yù)先進(jìn)行了配置,并對(duì)工作負(fù)載進(jìn)行了優(yōu)化。這就包括了如基于人工智能推理的英特爾精選解決方案,以及面向在面向在Apache Spark上運(yùn)行的BigDL的英特爾精選解決方案等。
這些變化和方案的出現(xiàn)對(duì)于那些希望能從整體業(yè)務(wù)視角,去觀察人工智能進(jìn)展的機(jī)構(gòu)或企業(yè)的管理層顯然也很有意義——如果只通過優(yōu)化,就能在一個(gè)通用平臺(tái)上完成所有人工智能的探索和落地,那么投資的價(jià)值就能夠?qū)崿F(xiàn)最大化。
許多企業(yè)做出了這樣的選擇,GE醫(yī)療就是其中一家。作為GE集團(tuán)旗下的醫(yī)療健康業(yè)務(wù)部門,它構(gòu)建了一個(gè)人工智能醫(yī)學(xué)影像部署架構(gòu)。
通過采用英特爾至強(qiáng)可擴(kuò)展處理器,和英特爾固態(tài)盤,以及多項(xiàng)英特爾關(guān)鍵技術(shù)——例如英特爾深度學(xué)習(xí)開發(fā)工具包,和面向深度神經(jīng)網(wǎng)絡(luò)的英特爾數(shù)學(xué)核心函數(shù)庫等;GE醫(yī)療收獲了未曾預(yù)料到的成果:
這一解決方案最終比基礎(chǔ)解決方案的推理速度提升了多達(dá)14倍,且超過了GE原定推理目標(biāo)5.9倍。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
精彩回顧立即查看>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
推薦專題
- 1 【一周車話】沒有方向盤和踏板的車,你敢坐嗎?
- 2 特斯拉發(fā)布無人駕駛車,還未迎來“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 6 馬斯克致敬“國(guó)產(chǎn)蘿卜”?
- 7 神經(jīng)網(wǎng)絡(luò),誰是盈利最強(qiáng)企業(yè)?
- 8 比蘋果偉大100倍!真正改寫人類歷史的智能產(chǎn)品降臨
- 9 諾獎(jiǎng)進(jìn)入“AI時(shí)代”,人類何去何從?
- 10 Open AI融資后成萬億獨(dú)角獸,AI人才之爭(zhēng)開啟
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市