一文解析AI服務器技術 AI服務器和傳統通用服務器的區別

AI 服務器有望加速增長。根據 TrendForce，在自動駕駛汽車、AIoT 與邊緣運算等新興應用的帶領下，自 2018 年起諸多大型云端業者開始大量投入 AI 相關的設備建設，預計 2022 年搭載 GPGPU（General Purpose GPU）的 AI 服務器年出貨量占整體服務器比重近 1%，而 2023 年 ChatGPT 相關應用有望再度刺激 AI 相關領域，預計 2023 年出貨量增長率可達 8%，2022-2026 年復合成長率將達 10.8%。2022年北美四大 CSP（云服務提供商）Google、AWS、Meta、Microsoft 的 AI 服務器采購占比合計 66.2%，而中國近年來隨著國產化進程加速，AI 建設浪潮升溫，字節跳動的采購量最大，年采購占比達 6.2%，其次則是騰訊、阿里巴巴與百度，分別約為2.3%、1.5%與 1.5%。?

AI服務器和傳統通用服務器在設計方案上主要區別在于對高性能計算資源、內存和存儲、網絡連接（PCB）、電源管理等。AI服務器為應對AI工作負載需求，對資源進行了優化。

計算資源方面：總體而言：AI服務器通常具有更強的計算能力，不僅包括高性能的CPU（通用服務器及AI服務器均以配置INTEL 5318為例），還包括一個或多個高性能GPU以處理大量并行計算，從而強化深度學習和機器學習任務上的優勢。尤其GPU自身數目的提高（如從兩張升級到八張），或升級到H800等，都會使得計算能力進一步強化（同時在BOM表的占比也會持續提高）。

通用服務器：假設雙路服務器（一臺服務器中含兩個CPU）。由于無需含GPU，其CPU可能占BOM的近30%。

AI服務器：分為訓練服務器和推理服務器:?

訓練服務器：由于CPU數量與型號不變，CPU的占比從近30%下降到10%以下；AI芯片方面，假設使用A800，相對應的增加的GPU，會占成本的50%以上，如果后續升級，不管是使用更多張A800（從兩張到8張），或者升級到H800，GPU在BOM表的占比會更高。以8張A800為例，單機價值量高達76萬，占比80%以上?。

推理服務器：以搭載GPU為T4卡（單價3500$），單機掛4個GPU為例，單機價值量近10萬，成本占比約42%。

AI服務器和傳統通用服務器在設計方案上主要區別在于對高性能計算資源、內存和存儲、網絡連接（PCB）等。AI服務器為應對AI工作負載需求，對資源進行了優化。

存儲資源方面：?

普通服務器：12根內存條，單價150美金，對應價值量12420元。SSD需要5-10塊，單塊500美金，對應約2.4萬元。存儲整體占比56%左右。

訓練服務器方面，使用32G的內存，滿插24根內存條，價值量約24800元，占比約3%；SSD 500美金/塊，需要20塊，對應價值量69000元，占比7.6%。存儲整體占比下降到10%左右，但價值量提高1.5倍，主要原因是GPU價值量提高幅度大導致占比被動下滑。推理服務器存儲用量與訓練服務器差別不大。

服務器中使用RAID卡的主要原因是為了提高數據的可靠性和存儲性能。通過使用RAID卡對磁盤陣列進行管理，服務器可以更有效地存儲和訪問數據，同時在硬盤出現故障時保護關鍵數據。RAID卡的滲透率在通用服務器的滲透率約30%，而AI服務器滲透率可能是80%，甚至是標配，帶來價值量提升。

網絡連接方面：

網卡：假設低配為主，通用服務器使用1張雙口萬兆網卡，870元，對應占服務器價值量1.3%（若25G則均價可上升為1360元）；AI服務器以兩張雙口萬兆網卡，對應總價1740元拉平計算，占訓練服務器比例不足1%。實際隨著客戶提出200G網卡需求，乃至8塊DPU配套8張A800制程大模型的需求，會使得網卡價值量有較大提升空間?

PCB：通用服務器PCB 8-10層M6板為主，價值量約3400元，占比5%；訓練服務器PCB 18-20層M8板為主，價值量約10350元；推理型服務器PCB 14-16層M6，價值量約7140元；整體增幅明顯。由于以下需求，PCB層數及型號都持續上升。

復雜性：高性能服務器通常具有更復雜的設計，需要處理更多的信號和電源路徑多層板有利于路徑布局。

信號完整性：高層PCB板可以提供更多的屏蔽層，減少信號干擾和反射，在高速數據傳輸中提高信息傳遞質量。

電源管理及散熱：高層PCB板提供更多的電源平面和散熱通道，更好實現電源分布和管理，并將熱量傳輸到散熱器。

電磁兼容性：多層PCB可以更好地控制電磁干擾和射頻噪聲，從而提高設備的EMC性能。

服務器 PCB 性能要求高，單機價值量持續上升。高端服務器所用 PCB 一般要求具有高層數、高縱橫比、高密度和高傳輸速度，常規服務器一般層數在 8-24 層，板厚2-4mm，厚徑比最高達到 15:1；高端服務器層數為 28-46 層，板厚 4-5mm，厚徑比最高達到 20:1。服務器產品具有高電氣性能和高可靠性，在高端服務器中的應用主要包括背板、高層數線卡、HDI 卡、GF 卡等。目前，目前普遍使用的 PCIe 4.0 接口的傳輸速率為 16Gbps，服務器 PCB 層數為 12-16 層。隨著服務器平臺升級到PCIe 5.0，傳輸速率達到 36Gbps，PCB 的層數將達到 18 層以上，層數的提高也會帶來板厚的升級，從 12 層板的 2 毫米逐漸升級到 3 毫米以上。此外，信號頻率越高，PCB 傳輸損耗越大，服務器 PCB 產品的材料亦會從低損耗材料升級為超低損耗材料。PCle5.0 要求 CCL 材料升級到 Very Low Loss 等級，為了滿足高速高頻，減少信號在傳輸過程中的介質損耗，介電常數 Dk、介質損耗因子 Df 進一步下降。根據 Prismark 數據，2021 年全球服務器領域 PCB 市場規模為 78.04 億美元，預計2026 年達到 132.94 億美元，復合增長率為 11.2%。服務器 PCB 單機價值量有望由2021 年的 576 美元上升到 2026 年的 705 美元。

目前，目前普遍使用的 PCIe 4.0 接口的傳輸速率為 16Gbps，服務器 PCB 層數為 12-16 層。隨著服務器平臺升級到 PCIe 5.0，傳輸速率達到 36Gbps，PCB 的層數將達到 18 層以上，層數的提高也會帶來板厚的升級，從 12 層板的 2 毫米逐漸升級到 3 毫米以上。此外，信號頻率越高，PCB 傳輸損耗越大，服務器 PCB 產品的材料亦會從低損耗材料升級為超低損耗材料。PCle5.0 要求 CCL 材料升級到 Very Low Loss 等級，為了滿足高速高頻，減少信號在傳輸過程中的介質損耗，介電常數 Dk、介質損耗因子 Df 進一步下降，將進一步提升服務器 PCB 的價值量。

目前滬電股份、深南電路、生益電子等國內 PCB 廠商已具備相關技術能力，產品最高層數可達到40 層，PCB 龍頭鵬鼎控股在高階 HDI 領域有深厚技術積累和顯著優勢，同時積極擴張服務器PCB 產能，有望受益于 AI 技術升級帶來的算力需求增長。

編輯：黃飛

?