2019年5月27日，NVIDIA宣布推出NVIDIA EGX加速計算平臺，能夠幫助企業(yè)在邊緣（edge）實現(xiàn)低延遲的人工智能，即基于5G基站、倉庫、零售商店、工廠及其他地點之間的連續(xù)的數(shù)據(jù)流實現(xiàn)實時感知、理解和執(zhí)行。

NVIDIA EGX旨在滿足對即時、高吞吐量的邊緣人工智能，即數(shù)據(jù)產(chǎn)生之處不斷增長的需求，在確保反饋時間的同時能夠減少需要發(fā)送至云端的數(shù)據(jù)量。

2025年，預計將會有1500億臺機器傳感器和物聯(lián)網(wǎng)設備持續(xù)輸出數(shù)據(jù)[1]，這比當今使用智能手機的個人用戶所產(chǎn)生的數(shù)據(jù)要高出幾個數(shù)量級。像基于NVIDIA EGX平臺這樣的邊緣服務器將分布在全球各地，對來自這些傳感器的數(shù)據(jù)進行實時處理。

NVIDIA副總裁兼企業(yè)與邊緣計算總經(jīng)理Bob Pette表示： “企業(yè)需要更加強大的邊緣計算能力，以處理來自于與客戶和設施的無數(shù)交互中產(chǎn)生的海量原始數(shù)據(jù)，從而快速制定人工智能增強型決策以驅動業(yè)務發(fā)展。像NVIDIA EGX這樣具有可擴展性的平臺讓他們能夠輕松地部署系統(tǒng)，以滿足本地或云端的需求” 。

可擴展性

EGX可從僅需幾瓦就能為圖像識別等任務提供0.5 TOPS處理性能的小巧NVIDIA Jetson Nano，一直擴展至可為實時語音識別和其他實時人工智能任務提供10，000 TOPS性能的整機架NVIDIA T4服務器。

企業(yè)級

NVIDIA已與紅帽開展合作，利用領先的企業(yè)級Kubernetes容器編排平臺OpenShift對NVIDIA Edge Stack進行集成和優(yōu)化。

NVIDIA Edge Stack是優(yōu)化型軟件堆棧，包括NVIDIA驅動程序、CUDA Kubernetes插件、CUDA容器運行時、CUDA-X庫和容器化人工智能框架及應用程序，并包括TensorRT、TensorRT推理服務器和DeepStream。NVIDIA Edge Stack針對經(jīng)認證的服務器進行了優(yōu)化，可通過NVIDIA NGC注冊下載。

紅帽首席技術官Chris Wright表示：“紅帽致力于為從混合云到邊緣的任何工作負載、封裝和位置提供一致的體驗。通過將紅帽O(jiān)penShift和支持NVIDIA EGX的平臺相結合，客戶能夠在一致、高性能、以容器為中心的環(huán)境中更好地優(yōu)化其分布式操作。”

“把云放進以一個盒子里”的本地部署AI

EGX將一系列的NVIDIA人工智能計算技術與紅帽O(jiān)penShift相結合，并將NVIDIA Edge Stack與Mellanox和思科的安全、網(wǎng)絡和存儲技術相結合，以助力制造、零售、醫(yī)療健康和交通運輸?shù)却笮彤a(chǎn)業(yè)內的公司快速建立最先進且安全的企業(yè)級人工智能基礎設施。

Mellanox Technologies首席技術官Michael Kagan表示：“Mellanox Smart NICs 和交換機為數(shù)據(jù)訪問提供了理想的I/O連接，可實現(xiàn)邊緣乃至超大規(guī)模數(shù)據(jù)中心的數(shù)據(jù)訪問。高性能、低延遲和加速網(wǎng)絡的組合實現(xiàn)了一種全新的基礎架構計算層，其對于NVIDIA EGX等邊緣平臺上的新一代更先進的人工智能解決方案所需的高效數(shù)據(jù)訪問和供給至關重要�！�

思科計算系統(tǒng)副總裁Kaustubh Das 表示：“思科很高興與NVIDIA合作。借助NVIDIA EGX賦力的思科平臺，和思科計算、結構、存儲和管理軟件，以及思科領先的以太網(wǎng)和基于IP的網(wǎng)絡技術，我們能夠為客戶提供從邊緣到核心的全棧解決方案�！�

實現(xiàn)混合云和多云物聯(lián)網(wǎng)

NVIDIA人工智能計算通過主要的云服務平臺提供，在架構上與NVIDIA EGX兼容。在云端開發(fā)的人工智能應用程序可在NVIDIA EGX上運行，反之亦然。NVIDIA Edge Stack可連接至主要的云IoT服務，客戶可通過AWS IoT Greengrass和Microsoft Azure IoT Edge對其服務進行遠程管理。

Azure IoT Edge總監(jiān)Sam George表示：“Azure IoT Edge可助力客戶快速、安全地將云服務部署至其物聯(lián)網(wǎng)設備。我們期待在Azure IoT Edge設備端提供對NVIDIA EGX邊緣平臺的支持，以便客戶針對兼容EGX的硬件進行人工智能工作負載的部署�！�

來自于開發(fā)者的廣泛支持

NVIDIA EGX正致力于優(yōu)化邊緣人工智能，以支持不斷成長的軟件解決方案生態(tài)系統(tǒng)。

這些解決方案包括AnyVision、DeepVision、IronYun和碼隆科技等軟件供應商推出的適用于大型零售連鎖店和城市智能等視頻分析應用程序，以及圖瑪深維、推想科技、Qunatib和Subtle Medical等公司針對醫(yī)療健康領域的軟件產(chǎn)品。

全球頂級計算機制造商紛紛采用

EGX服務器現(xiàn)已通過以下全球企業(yè)級計算提供商供貨：ATOS、思科、戴爾EMC、富士通、HPE、浪潮和聯(lián)想。此外，也通過以下主要服務器和IoT系統(tǒng)制造商供貨：Abaco、宏碁、凌華科技、研華科技、ASRock Rack、華碩、圓剛科技、Cloudian、Connect Tech、Curtiss-Wright、技嘉科技、Leetop、米文動力、Musashi Seimitsu、QCT、中科曙光、超微、泰安、WiBase和緯穎科技。

NVIDIA EGX服務器針對NVIDIA Edge Stack和NGC-Ready進行了調優(yōu)，經(jīng)過CUDA加速容器的驗證。

來自于40多家企業(yè)組織的廣泛支持

率先采用該平臺的行業(yè)領先企業(yè)及組織已超過40家。

其中就包括BMW Group Logistics。借助于NVIDIA EGX邊緣計算和Isaac機器人平臺，其能夠將人工智能的強大功能直接帶入到其物流流程的邊緣，為日益復雜的物流提供實時效率。

其它采用EGX的行業(yè)領導者還包括：

“富士康PC生產(chǎn)線受限于當前的手動檢測速度，每個零件檢測需4秒鐘。我們的目標是使用NVIDIA EGX平臺將PC生產(chǎn)線的吞吐量提高40％以上，在邊緣實現(xiàn)實時智能決策。我們的模型使用運行于NVIDIA GPU上的快速神經(jīng)網(wǎng)絡，可對16種缺陷類型和位置進行檢測和分類，在實現(xiàn)非凡的吞吐率的同時確保98％的準確率�！�

—富士康 D Group總經(jīng)理Mark Chien

“人工智能是實現(xiàn)精準健康的基礎，必須從云端至邊緣全覆蓋，且能夠在醫(yī)療設備上直接使用。借助NVIDIA EGX，GE Healthcare能夠通過將NVIDIA T4 GPU直接嵌入到我們的醫(yī)療設備中，進而實現(xiàn)快速的MR采集，提高圖像質量并降低可變性——所有這些都是為了進一步提升患者治療效果。實時重癥監(jiān)護需要邊緣人工智能。這就是我們創(chuàng)建Edison智能產(chǎn)品并與NVIDIA合作將人工智能引入我們的醫(yī)療設備和Edison邊緣應用，以及我們與ACR AI-LAB合作以實現(xiàn)人工智能大眾化的原因�！�

—GE Healthcare MR應用總經(jīng)理Jason Polzin博士

“醫(yī)院越來越多地采用人工智能來預測患者的健康風險，為臨床決策制定提供支持并提高運作效率。但這些人工智能應用程序有賴于患者數(shù)據(jù)。NVIDIA EGX人工智能邊緣計算平臺為醫(yī)院提供了簡易的人工智能基礎設施，能夠保護患者數(shù)據(jù)安全，實現(xiàn)實時人工智能，并擴展至成千上萬的人工智能應用程序，進而改善患者護理方式并降低護理成本�！�

—Partners Healthcare首席數(shù)據(jù)科學官、哈佛醫(yī)學院放射學副教授Keith Dreyer博士

“希捷在制造工廠部署了基于GPU的智能邊緣視覺解決方案，以對硬盤讀寫磁頭的質量進行檢測。NVIDIA EGX平臺能夠在邊緣實現(xiàn)推理的大幅加速，使我們能夠看到過去人類操作員無法看到的細微缺陷。我們希望通過更高的效率和質量，實現(xiàn)高達10％的制造吞吐量提升和高達300％的投資回報率�！�

— 希捷科技高級首席數(shù)據(jù)科學家Bruce King