NVIDIA 與軟銀公司合作，利用 Grace Hopper 超級芯片建設面向生成式 AI 和 5G/6G 的軟銀下一代數據中心

基于 Arm 架構的超級芯片和 BlueField-3 DPU 帶來革命性的架構，以實現生成式 AI 驅動的無線通信

COMPUTEX—2023 年 5 月 29 日—NVIDIA 和軟銀公司今天宣布，雙方正在合作打造一個基于 NVIDIA GH200 Grace Hopper 超級芯片、面向生成式 AI 和 5G/6G 應用的開創性平臺。軟銀計劃在日本各地的全新分布式 AI 數據中心采用該平臺。

為在全球范圍內快速部署生成式 AI 應用和服務鋪平道路，通過與 NVIDIA 合作，軟銀將打造能夠在多租戶通用服務器平臺上托管生成式 AI 和無線應用的數據中心，以降低成本和更節能。

該平臺將使用全新 NVIDIA MGX 參考架構和基于 Arm Neoverse 的 GH200 超級芯片，有望提高應用程序工作負載的性能、可擴展性和資源利用率。

軟銀公司總裁兼首席執行官 Junichi Miyakawa 表示：“隨著我們進入一個社會與 AI 共存的時代，對數據處理和電力的需求將不斷增長。軟銀將提供下一代社會基礎設施，以支持日本的超級數字化社會。與 NVIDIA 的合作將幫助我們的基礎設施利用 AI 實現更高的性能，包括對 RAN 的優化。我們期待這也可以幫助我們降低能耗，創建一個互連的數據中心網絡，用于共享資源并托管一系列生成式 AI 應用?！?/p>

NVIDIA 創始人兼首席執行官黃仁勛表示：“對加速計算和生成式 AI 的需求正在推動數據中心架構的根本性變革。NVIDIA Grace Hopper 是一個革命性的計算平臺，專為處理和擴展生成式 AI 服務而設計。與以往富有遠見的其它舉措一樣，軟銀正在引領世界創建一個電信網絡來承載生成式 AI 服務?！?/p>

相比以往的數據中心，這些新數據中心的分布將更加均衡，并能夠同時處理 AI 和 5G 工作負載。這將讓它們更好地保持峰值運行，同時保持低時延并大幅降低總體能源成本。

軟銀正在為自動駕駛、AI 工廠、增強現實和虛擬現實、計算機視覺和數字孿生開發 5G 應用。

虛擬 RAN 的吞吐量破紀錄

NVIDIA Grace Hopper 和 NVIDIA BlueField-3 DPU 將加速軟件定義的 5G vRAN 以及生成式 AI 應用，而無需定制硬件加速器或專用 5G CPU。此外，配備 BlueField-3 的 NVIDIA Spectrum 以太網交換機將為 5G 提供高精度時間同步協議。

該解決方案在 NVIDIA 加速的 1U MGX 服務器設計上實現了突破性的 5G 速度，根據公開的 5G 加速器數據，它實現了業內吞吐量最高的 36Gbps 下行鏈路容量。運營商一直難以通過行業標準服務器實現如此高的下行鏈路容量。

全新參考架構

NVIDIA MGX 是一個模塊化參考架構，讓系統制造商和超大規模企業客戶能夠快速、經濟地構建 100 多種服務器機型，適用于各種 AI、HPC 和 NVIDIA Omniverse應用。

通過將 NVIDIA Aerial軟件引入到高性能的軟件定義的云原生 5G 網絡中，這些 5G 基站將允許運營商動態地分配計算資源，并實現比競品高 2.5 倍的能效。

Arm 首席執行官 Rene Haas 表示：“生成式 AI 的未來發展需要高性能、節能的計算，就像 NVIDIA 基于 Arm Neoverse 的 Grace Hopper 超級芯片那樣。結合 NVIDIA BlueField DPU，Grace Hopper 使軟銀新的 5G 數據中心能夠運行最苛刻的計算和內存密集型應用，并為 Arm 上的軟件定義 5G 和 AI 帶來指數級的能效提升?！?/p>

點擊 “閱讀原文”，或掃描下方海報二維碼，觀看 NVIDIA 創始人兼 CEO 黃仁勛為 COMPUTEX 2023 帶來的主題演講直播回放，了解 AI、圖形及其他領域的最新進展！