ChatGPT熱潮引發(fā)AI服務(wù)器爆單

電子發(fā)燒友網(wǎng)報道（文/李彎彎）近日消息，隨著(zhù)ChatGPT的熱潮，華為昇騰AI服務(wù)器、拓維信息兆瀚RA5900-A系列AI訓練服務(wù)器等詢(xún)單量及預定量爆發(fā)式增長(cháng)。

AI服務(wù)器通常搭載GPU、FPGA、ASIC等加速芯片，利用CPU與加速芯片的組合可以滿(mǎn)足高吞吐量互聯(lián)的需求，為自然語(yǔ)言處理、計算機視覺(jué)、機器學(xué)習等AI應用場(chǎng)景提供強大的算力支持，支撐AI算法訓練和推理。

AI服務(wù)器與普通服務(wù)器的區別

服務(wù)器是一種高性能計算機，作為網(wǎng)絡(luò )的節點(diǎn)，存儲、處理網(wǎng)絡(luò )上80%的數據、信息，因此也被稱(chēng)為網(wǎng)絡(luò )的靈魂。普通服務(wù)器是以CPU為計算能力的提供者，采用串行架構，擅長(cháng)邏輯計算和浮點(diǎn)計算。由于邏輯判斷需要大量的分支跳轉，使得CPU的結構復雜，計算能力的提高主要靠堆積更多的核心數來(lái)實(shí)現。

在大數據、云計算、人工智能、元宇宙、數據孿生和物聯(lián)網(wǎng)等網(wǎng)絡(luò )技術(shù)的應用中，互聯(lián)網(wǎng)上的數據呈現出幾何倍數的增長(cháng)，這對以CPU為主要計算能力來(lái)源的傳統服務(wù)是巨大的考驗。目前，CPU的制程工藝和單個(gè)CPU的核心數接近極限，但數據的增加仍在繼續，因此有必要提高服務(wù)器的數據處理能力。在這種環(huán)境下，AI服務(wù)器應運而生。

AI服務(wù)器與普通服務(wù)器的區別：在服務(wù)器的硬件架構方面，AI服務(wù)器是異構服務(wù)器，可以根據應用范圍采用不同的組合方式，如CPU + GPU、CPU + TPU、CPU + 其他加速卡等。與普通服務(wù)器相比，內存、存儲、網(wǎng)絡(luò )沒(méi)有區別，主要是大數據、云計算、人工智能等方面需要更多的內存，滿(mǎn)足各種數據的收集整理。

普通GPU服務(wù)器一般是單卡或者雙卡，AI服務(wù)器需要承擔大量計算，一般配置四塊以上的GPU卡，甚至搭建一個(gè)AI服務(wù)器集群；AI服務(wù)器需要獨特的設計，由于A(yíng)I服務(wù)器有多個(gè)GPU卡，需要對系統結構、散熱和拓撲進(jìn)行專(zhuān)門(mén)設計，以滿(mǎn)足AI服務(wù)器長(cháng)期穩定運行的要求。

目前市場(chǎng)上的AI服務(wù)器普遍采用CPU + GPU，由于GPU和CPU形式不同所以AI服務(wù)器采用并行計算模式，善于梳理圖形渲染、機器學(xué)習等密集數據操作。在GPU上，NVIDIA優(yōu)勢明顯，GPU單卡核心數可達近千個(gè)，如配置16張NVIDIATesla V100 Tensor Core 32GB GPUs核心數可超過(guò)10240個(gè)，計算性能高達每秒2千萬(wàn)億次。而且經(jīng)過(guò)近幾年市場(chǎng)的發(fā)展，也證實(shí)了CPU +GPU異構服務(wù)器在當前環(huán)境下確實(shí)有很大的發(fā)展空間。

AI服務(wù)器市場(chǎng)現狀及主要玩家

近幾年，中國市場(chǎng)的AI服務(wù)器出貨量和滲透率都在提升。未來(lái)預計隨著(zhù)AI模型訓練和應用的興起，需要支持AI功能的服務(wù)器將持續增加。IDC預計，中國AI服務(wù)器2021年的市場(chǎng)規模為57億美元，同比增長(cháng)61.6%，到2025年市場(chǎng)規模將增長(cháng)到109億美元，CAGR為17.5%。

根據其此前發(fā)布的《中國加速計算市場(chǎng)（2021年下半年）跟蹤報告》，2021年全年中國AI服務(wù)器市場(chǎng)規模達350.3億元，同比增長(cháng)68.6%。浪潮信息、寧暢、新華三、華為、安擎位居前五，占據了82.6%的市場(chǎng)份額。其中，浪潮AI服務(wù)器市場(chǎng)占有率達52.4%。

近日，浪潮信息在某平臺上表示，公司在人工智能服務(wù)器領(lǐng)域的市占率位居全球AI服務(wù)器市場(chǎng)第一，在ChatGPT和AIGC相關(guān)方向上已有布局相關(guān)業(yè)務(wù)。日前消息，淮海智算中心攜手浪潮信息進(jìn)行了超大規模參數AI大模型訓練性能測試，實(shí)測數據表明，千億參數規模的自然語(yǔ)言AI單體大模型在淮海智算中心計算平臺上的訓練算力效率達53.5%，刷新了業(yè)內AI大模型訓練算力效率新高。

寧暢在A(yíng)I服務(wù)器方面已經(jīng)發(fā)布多款產(chǎn)品，比如X620 G50，這是一款基于第四代英特爾至強可擴展處理器的高端2U機架式服務(wù)器?？筛鶕I(yè)務(wù)需求對資源進(jìn)行靈活配置，滿(mǎn)足各種各行業(yè)應用需求。完美適用于機器學(xué)習、AI推理、云計算、高性能計算、云存儲、大數據、虛擬化、辦公系統等應用場(chǎng)景。

還有上文提到的拓維信息，早在ChatGPT爆發(fā)之前，就已布局了一系列人工智能產(chǎn)品。該公司表示，旗下兆瀚智能計算產(chǎn)品包括AI推理、AI訓練、AI集群等，具有超強AI算力、更優(yōu)AI能效、最佳AI拓展等產(chǎn)品特點(diǎn)，在行業(yè)內有領(lǐng)先優(yōu)勢。

未來(lái)，拓維信息將持續重點(diǎn)關(guān)注先進(jìn)計算、人工智能等前沿技術(shù)領(lǐng)域，加大在人工智能產(chǎn)業(yè)的規劃布局及基礎軟硬件產(chǎn)業(yè)投入，充分發(fā)揮自身在人工智能領(lǐng)域的影響力。通過(guò)與華為的全方位深入合作，推出基于昇騰處理器的兆瀚AI產(chǎn)品，努力構筑業(yè)界超強AI算力平臺。

中科曙光在A(yíng)I服務(wù)器上也有布局。據介紹，中科曙光已推出“全浸沒(méi)式液冷AI訓練專(zhuān)用服務(wù)器”，與百度、復旦大學(xué)等企業(yè)及科研院所深度合作，形成了諸多基于A(yíng)I模型的聯(lián)合解決方案，支持了國內多個(gè)千億級以上參數規模的AI大模型訓練，攻克類(lèi)腦智能、基因技術(shù)、自動(dòng)駕駛等多個(gè)前沿領(lǐng)域AI難題。

此外還有中國長(cháng)城、神州數碼、廣電運通等。中國長(cháng)城在芯片、整機、服務(wù)器、網(wǎng)絡(luò )交換機、路由器、工業(yè)控制系統、容災備份產(chǎn)品等自主安全產(chǎn)品譜系逐步成為相關(guān)市場(chǎng)的主導產(chǎn)品，AI服務(wù)器已實(shí)現量產(chǎn)。神州數碼之前推出了神州鯤泰人工智能推理服務(wù)器，以“鯤鵬+昇騰”為核心，可提供128個(gè)處理核心的算力，同時(shí)最大可支持8張華為Atlas 300推理卡，提供256GB推理緩存，以及最大704 TOPS INT8的AI算力。

小結

過(guò)去幾年人工智能發(fā)展迅速，作為算力支撐的AI服務(wù)器市場(chǎng)在不斷增加。如今在ChatGPT爆火下，人工智能訓練和推理尋求將持續擴大，預計未來(lái)AI服務(wù)器市場(chǎng)規模將繼續保持高速增長(cháng)趨勢。而在其中布局已久的浪潮、中科曙光、寧暢、拓維信息等無(wú)疑將更具優(yōu)勢。