NVIDIA 利用 NVIDIAEGX 平臺驅使企業將人工智能推向邊緣
NVIDIA 宣布全球領先的技術公司廣泛采用 NVIDIA egx Ai 平臺,為企業和邊緣數據中心帶來安全、新的 GPU 加速軟件、服務和服務器。
數百家 visual Ai、5g、cloudran、安全和互聯網公司以及業界領先的服務器制造商,如戴爾技術、浪潮、聯想和超級微,以及業界領先的軟件基礎設施提供商,如 canonical、cloudera、Red hat,SUSE 和 VMware 利用 NVIDIA egx 平臺幫助企業將 Ai 推向邊緣。
全球主要行業將受益于 egx 人工智能平臺,包括制造業、醫療保健業、零售業、物流業、農業、電信業、公共安全和廣播電視媒體,以快速高效地部署人工智能。
NVIDIA 還宣布,egx 平臺正在將 NVIDIA 安培 GPU 和 bluefield-2 DPU 功能集成到一張 PCIe 卡中,為企業構建安全、快速的數據中心提供了一個通用平臺。bluefield-2dpu 包含一個強大的 armcpu 內核,可以用來為運行在 GPU 上的 Ai 推理模型創建可信區域。
英偉達創始人兼首席執行官黃仁勛在 GTC 大會上發表主題演講時宣布了這一消息,他說:“全球所有公司都將采用人工智能來改善業務的各個方面。為了支持這一巨大的變化,NVIDIA 創建了一個加速計算平臺,幫助公司實現數據中心現代化,并在任何地方部署人工智能。”
為邊緣和數據中心優化的人工智能軟件
EGX 平臺的核心是一個優化的人工智能軟件棧,可以在 NVIDIANGC 上使用。該軟件目錄提供了一系列特定于行業的人工智能工具包和預培訓模型,使在 NVIDIA 認證系統上構建和部署人工智能應用程序變得更加容易。
NVIDIA 的人工智能應用框架被領先的人工智能軟件供應商使用,如 DeepNorth、Eversight 和 Whiteboard 協調員,用于構建和部署醫療、零售、物流和智能城市解決方案。
NVIDIAvGPU 軟件產品和 GPUDirectRDMA 技術使 NVIDIAGPU 能夠以全帶寬發送和接收數據,以達到最佳性能。
為了確保企業能夠大規模部署 Ai、NVIDIA,它們正在與領先的平臺企業合作,如 Canonical、Cloudera、Red Hat、SUSE 和 VMware,以確保它們的旗艦虛擬化解決方案、操作系統、Kubernetes 和數據分析平臺在裸金屬或虛擬環境中運行時,為 NVIDIAAI 軟件充分優化。
部署和管理本地 EGX 服務器
將來,企業數據中心將部署在不同地點,包括辦公樓、工廠、倉庫、基站、學校、商店和銀行,而不是集中在一個地點。
為了簡化和保護這些服務器上的人工智能應用程序和模型的大規模部署和管理,NVIDIA 公司宣布了一個名為 NVIDIAStreetCommand 的早期試驗項目。該混合云平臺集成了邊緣計算的安全性、實時處理能力、遠程管理和 SaaS 簡單性。
艦隊司令部可以通過一個統一的控制平面集中管理所有地方的服務器,包括工廠、醫院、零售店,甚至城市街道。關鍵配置、無線軟件更新、遠程訪問和詳細監控儀表板的功能幫助運營團隊減輕 IT 工作的負擔,以便充分利用人工智能應用程序,并最大限度地提高運營效率。
KION 集團是全球供應鏈解決方案的領先企業之一,是最早參與艦隊司令部早期試驗的公司之一。它利用 NVIDIAEGXAI 平臺為其智能倉庫系統開發人工智能應用程序,從而提高了零售配送中心的吞吐量和效率。
此外,伊利諾伊州領先的西北紀念醫院(美國排名前 10 位)正與 Whiteboard 協調員合作,為其物聯網傳感器平臺使用艦隊司令部,該平臺用于診所和醫療中心,具有計算機視覺、語音識別和藍牙跟蹤功能。
Whiteboard 協調員首席執行官 AndrewGostine 博士說:"Whiteboard 協調員與領先的醫療服務提供商合作,隨時隨地從云端管理其應用程序、服務器和軟件部署。只需點擊幾下 NVIDIAStreetCommand,您就可以在當地醫院遠程部署醫療 Ai 應用程序,并實現安全管理。這使我們能夠更專注于為病人提供治療,而不必花費大量時間在管理基礎設施上。
現在支持 NVIDIAAI 軟件的服務器可以通過 Asustek(ASUS)、Source(Atos)、Dell 技術(DellTechnologies)、Fujitsu(富士通)、gigabyte( 千兆字節)、新華網 III(H3C)、Wave(Inspl)、聯想(聯想)、Quanta/QCT 技術(Quanta/QCT) 和 Super-microte(Supermicroty) 獲得。
NVIDIAStreetCommand 早期試驗計劃向符合條件的客戶開放。