浪潮推出的極致設計AI服務器產品,你知道哪些?

浪潮是全球領先的AI計算力專業廠商，擁有業界最豐富的AI服務器產品陣列，致力于通過創新設計，為用戶提供適用于不同領域、不同場景的領先計算設備，以更好地應對當前海量數據爆發與復雜模型所帶來的巨大的計算挑戰，助推實現AI化轉型。據國際咨詢機構IDC數據，浪潮AI服務器連續多年在中國的市場份額超過50%。下面我們就一起回顧浪潮推出的極致設計的AI服務器產品。

最快AI訓練服務器NF5488A5

2020年，浪潮全新發布自研的新一代AI服務器NF5488A5，提供極致的AI性能和超高速帶寬，支持圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景，幫助AI用戶高效完成AI基礎設施和開發環境的構建，縮短開發周期，顯著提升AI開發和應用效率。這款AI服務器在最新公布的MLPerf全球權威AI測試榜單中，僅用時33.37分鐘，就在包含128萬張圖片的ImageNet數據集上完成Resnet50模型的訓練，相當于每秒訓練23000多張圖片，單機計算性能排名第一。

NF5488A5單機訓練性能可達5 PetaOPS，相比上一代服務器計算性能提升234%。兩年前Facebook的科學家用32臺GPU服務器、256塊GPU花了1個小時完成了ImageNet上的Resnet50訓練，而現在僅需一臺NF5488A5，即可在33分鐘完成同樣的訓練，單臺設備訓練效率提升近60倍。同時，浪潮優化了NF5488A5的拓撲結構，采用NUMA綁定策略，可實現CPU與最近GPU的指定通信，大幅提升CPU與GPU之間的數據傳輸效率，實現更低的數據傳輸延遲和更高的帶寬，滿足各種AI負載高效數據通信需求。

全球首款在 2U 空間內高速互聯集成 8 顆最高性能 GPU 加速器的服務器AGX-2

2017年，浪潮在GTC大會期間發布了加速人工智能計算的超高密度服務器AGX-2，它將是全球首款在2U空間內高速互聯集成8顆最高性能GPU加速器的服務器，全面加速人工智能和科學工程計算等領域的研究應用效率。

AGX-2在2U空間內支持部署8塊NVLink或PCI-E 接口的NVIDIA Tesla P100 GPU，并在業界率先支持NVLink 2.0和最新發布的NVIDIA Tesla V100， GPU間互聯帶寬高達150GB/s。AGX-2具備良好的I/O擴展能力，提供8塊NVMe/SAS/SATA熱插拔硬盤，可支持最多4塊100Gbps的EDR InfiniBand接口卡的高速集群互聯;AGX-2不僅支持通常的風冷散熱方式，還可支持片上水冷以提供更高的計算能效比。

最強 AI 超級服務器AGX-5

2018年，在2018人工智能計算大會AICC上，浪潮發布了AI計算性能高達每秒2千萬億次的AI超級服務器AGX-5，這是全球最強大的AI計算主機之一。

浪潮創新研發設計的AI服務器AGX-5，可在單機內支持16顆高速NVSwitch無阻塞互聯的Tesla V100 Tensor Core GPUs和新一代GPU加速器，提供2 PFlops的強大單機AI計算性能，與之前同類GPU服務器相比，AGX-5可支持4倍超大規模深度神經網絡模型且訓練速度提高10倍。AGX-5在計算性能、芯片互聯、數據吞吐等多方面實現了極大提升，由此帶來AI計算能力的革命性的進步，為全球致力于領先AI科技的商業公司、科研創新機構提供前所未見的AI創新加速體驗。

最強Transformer 訓練服務器NF5488M5

2019年，浪潮在2019 GPU技術大會（GTC2019）上發布AI服務器NF5488M5，在業界首次實現了4U空間內集成8顆通過高速NVSwitch無阻塞全互聯的最新一代NVIDIA Tesla V100 Tensor Core 32GB GPUs，高擴展、高性能、高能效，可靈活部署，AI計算性能可達每秒一千萬億次，適用于圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景。

NF5488M5還配置2顆28核的頂配CPU，配合3UPI連接設計，提供頂級通用計算性能。4U尺寸、6KW供電設計使其適用于更廣泛的數據中心部署環境，特別適合于功耗受限的機柜上架場景。同時使用更加靈活的集群部署方案，能實現從硬件到應用的集成部署。

Transformer是主流 NLP模型，參數規?？蛇_數億，對計算、通信的要求非常高。性能數據顯示，相比同類服務器，NF5488M5大幅提升了Transformer的訓練性能，GLUE 基準訓練至 80.4%的時間相比同類產品大幅減少 67%。NF5488M5進一步豐富和優化用戶的AI基礎架構選擇，幫助用戶縮短AI模型開發周期，加速AI技術創新與應用落地。

責任編輯：YYX