GB200關于PCB相關的問答

昨天分享了GB200關于線纜的一些問題，今天給大家分享下GB200關于PCB相關的問答。GB200中信號的速率比較高，鏈路也比較長，所以采用了比較低損的材料和高端的制造工藝，據悉PCB采用了M8級別的PCB材料以及20層HDI設計。再加上其預計在2025年將達到5.8W個機架，所以總量會爆發式增長。

Q1：GB200PCB板塊的架構有哪些核心更新？

答：GB200 PCB板塊的架構帶來了一些重要的更新，這些更新對于整個PCB行業的價值有著顯著的影響。首先，GB200的結構中PCB的使用量預計將顯著增加。在一個擁有72個GPU的機架配置中，每個機架包含多個基礎組件，其中Compute Tray結構是核心部分，每個Tray包含兩個PCB單元，每個單元裝有兩個GPU和一個CPU。此外，NV Switch Tray作為GPU間信息交換的中介，以及InfiniBand(IB)交換機用于網絡連接，這些都是PCB應用的關鍵領域。

Q2：銅線是否會替代PCB，這兩者之間的價量關系如何？

答：雖然市場上有專家探討銅線可能替代PCB的話題，但我們認為這種看法過于簡化。在GB200的架構中，盡管引入了銅線，但ASIC芯片必須使用PCB。隨著電子產品集成度的提高，PCB的作用不可替代。此外，從經濟角度來看，PCB的價值量預計將顯著提升，尤其是在交換機ASIC的帶寬增加方面。

Q3：市場上關于銅線可能取代PCB的說法有何依據？ 答：市場上關于銅線可能取代PCB的說法主要基于銅線在某些應用中的使用。然而，這種看法忽略了PCB在高性能計算、高速數據傳輸等方面的不可替代性。機架式服務器從未普遍采用PCB背板，而且英偉達的GB200架構已經開始使用銅線，但這并不意味著PCB將被徹底取代。隨著電子產品集成度的提高，PCB的重要性將進一步凸顯。

Q4：GB200架構的推廣對PCB廠商有何影響？

答：GB200架構的推廣將對PCB廠商產生積極影響。隨著GB200架構增強了GPU間的連接層，導致交換機ASIC數量增加，從而推動了PCB價值量提升。單個GPU對應的PCB價值量大約為0.3萬元，相比H100的Super Pod提升了150%。這意味著主流PCB廠商在未來值得期待，并將受益于GB200架構的推廣以及相應產品規格的提升。

Q5：在更大規模的集群中，PCB的價值量如何變化？

答：在更大規模的集群中，例如8個機架相連的配置，整體PCB價值量可達三百多萬元，每個GPU對應的PCB價值量約為0.53萬元。這比單個機架的配置提升了近300%，主要得益于L2層的增加及更多級別的IB Switch網絡。這一變化表明，隨著集群規模的擴大，PCB的價值量也隨之增加。

Q6：GB200架構中PCB的價值量提升主要受哪些因素影響？

答：GB200架構中PCB的價值量提升主要受到交換機ASIC帶寬增加的影響。隨著帶寬的提升，對PCB的性能要求也相應提高，從而推動了PCB的價值量上漲。此外，由于GB200架構增強了GPU間的連接層，導致交換機ASIC數量增加，這也是PCB價值量提升的一個重要因素。

Q7：GB200架構中PCB的價值量如何計算？ 答：在GB200架構中，我們通過分析每個板上的帶寬來確定相應的PCB規格和價值量。例如，承載GPU和CPU的PCB帶寬大約是900GB/s，需要采用高密度互連(HDI)工藝。而交換機PCB的帶寬約為57.6TB，計算得出，一個機架包含兩個IB Switch。一個機架的主要PCB組成包括36個PCB單元，每個單元帶寬0.9TB，價格約為2萬元人民幣每平方米，價值量72,000元。NV Link Switch的PCB單價約為6萬元每平方米，價值量超過10萬元。每兩臺IB Switch的總價值量為18,000元。

Q8：GB200架構的電源供電需求是否有變化？

答：關于GB200架構的電源供電問題，目前沒有明顯的跡象表明其電源供電需求與之前相比有顯著變化。電源供電的設計通常會根據硬件的功耗和性能需求進行調整。由于GB200架構在GPU數量和性能上的提升，可能會對電源供電系統提出更高的要求，但具體的供電需求還需根據實際的產品規格和設計來確定。

Q9：GB100和GB200的PCB供應商有哪些？ 答：GB100的PCB供應商主要是繼續利用之前H100的供應鏈。GB200的PCB供應商目前還不完全確定，但主流廠商特別是像滬電、欣興這樣的交換機供應商應該會有較大的增量機會。聽說擅長做卡的PCB廠也有可能有機會。 Q10：GB200架構中PCB用量增加的原因是什么？

答：GB200架構中PCB用量增加主要與NV Link和NV Switch相關。雖然GPU的數量由過去的每個單元對應一個GPU提升到現在的每個單元對應兩個GPU，但整體價值量的提升并不像預期的那么大。規格上，PCB達到了六階HDI水平，盡管帶寬有所下降，但規格的提升使得整體價值量確實有所增加。

Q11：GB200NVL72rack和機柜之間的配置關系是怎樣的？

答：在一個機柜中，有18個節點，按照72個GPU滿配，一個NV Link Switch將使用九個ASIC芯片，每個芯片的總帶寬為57.6T。這里主要講述的是下行鏈路的配置，至于上行鏈路，在一個rack中需配置2個IB的Switch，這就是GB200NVL72rack和機柜之間的基本配置關系。

Q12：機柜內部互連是否會減少對外部交換機的使用量，以及整體機架質量如何變化？

答：在討論GB200架構時，我們需要明確網絡架構的關系。機柜內部互連使用的NV Link Switch并不是傳統意義上的交換機，而是一種專門用于GPU之間下行互連的交換板。由于它需要連接72個GPU，因此互連鏈路的數量和帶寬要求都非常高。這就要求使用更高帶寬的ASIC進行連接，相應地，作為載體的PCB也需要提升其質量和性能。另一方面，外部交換機的架構與H100的Super Pod的外部IB網絡架構相同。隨著總帶寬的提升，外部IB網絡的交換機帶寬也相應提升，從而提高了整體的動態性能。因此，整體機架的質量得到了提升，以滿足更高的性能要求。

Q13：GB200架構中PCB價值量如何計算？

答：在GB200架構中，整個機柜的PCB用量可以分為四個主要部分：Compute Node、NV Link Switch、IB leaf Switch和IB spine Switch。這四個部分的合計PCB用量大約為21.6萬人民幣的價值量，其中Compute Node部分大約為7萬人民幣，NV Link Switch部分大約為10萬人民幣，而IB的兩個Switch部分加起來大約為3.6萬人民幣。

如果將8個rack連接在一起，由于L2層的連接和spy網絡帶寬的新增，整體的PCB用量將達到超過300萬元人民幣。按照每個GPU計算，相當于0.553萬元人民幣的PCB用量水平。

Q14：GB200與GH200以及B100與H100的PCB用量有何不同？

答：在比較GB200與GH200，以及B100與H100的PCB用量時，我們需要注意的是，B100與H100之間的比較主要與帶寬提升和網絡接口C×8或C×7的使用有關，因此PCB用量的增加并不會太大。而GB200的PCB用量則顯著增加，這是因為雖然GPU帶寬只增加了兩倍，但連接數量增加了數倍。

Q15：GB200的市場滲透率預期如何？

答：GB200的市場滲透率受到廣泛關注，因為預期其滲透率較高。如果滲透率能達到50%，那么整個AI服務器PCB的價值量有可能會翻倍增長。這表明GB200架構的市場潛力巨大，對PCB行業的影響深遠。

Q16：對GB200的GPU和Rack數量有何預測？

答：目前對GPU方面的預測可能有超過百萬片，因此對應的rack數量應該有幾萬臺。關于GB200的數量及分布預期，目前看來大約有100萬片GB200，200萬片B100，以及一些H系列產品。明年的B100和B200系列的預期是200萬張。

Q17：GB200的機柜數量預估是多少？

答：如果以100多萬片CPU計算，按照每個機柜配置18個GB200，那么能夠出貨的機柜數量將是5.8萬個。這只是一個初步估計，有信號顯示這個數字可能會上調。這表明GB200架構的推廣將為PCB行業帶來大量需求，對行業的發展具有積極影響。

Q18：根據計算，明年的PCB產量預計只有三百多萬張，這個數量是否偏少？

答：盡管這個數字可能看起來較為保守，但我們需要考慮到PCB主要用于推理任務，而推理需求的增長速度可能較快。目前還沒有一個明確的數字來預測具體的數量能增長到多少，但推理用PCB的市場潛力不容忽視。

Q19：如果PCB僅用于訓練，三百多萬張是否已足夠？

答：實際上，如果PCB僅用于訓練任務，三百多萬張的數量確實可能已經足夠。然而，由于部分訓練用PCB也被用于推理任務應用，這可能導致市場對PCB的需求增加，從而成為上調預期的一個因素。隨著AI技術的發展和應用領域的擴大，推理任務應用對PCB的需求也在不斷上升。

Q20：推理用PCB與訓練用PCB的價值有何區別？

答：推理用PCB與訓練用PCB在價值上存在顯著差異。同規格的PCB在價格上可能會有很大的差距。例如，如果以70美元來估算H版PCB的價格，那么L40可能只有十幾到二十美元。從表面上看，推理PCB的價格并不高。但關鍵在于，隨著越來越多的訓練用PCB被用于推理任務，推理PCB的價值正在逐漸上升。這是當前AI硬件市場換代的一個主要因素，也是推動市場對推理用PCB需求增長的關鍵驅動力。

Q21：推理用PCB的市場前景如何？

答：推理用PCB的市場前景非常廣闊。隨著人工智能技術的不斷進步和應用領域的不斷擴大，推理任務應用在各個行業中的作用越來越重要。從自動駕駛到智能家居，從醫療診斷到金融服務，推理PCB在支持這些智能應用中扮演著關鍵角色。因此，推理用PCB的需求預計將隨著AI技術的普及而持續增長。

Q22：GB200PCB版塊的增長動力是什么？

答：GB200PCB版塊的增長動力主要來自于幾個方面。首先是AI技術的快速發展，特別是在深度學習和機器學習領域，對高性能計算硬件的需求不斷增加。其次，隨著AI應用在各個行業的滲透，推理任務應用對PCB的需求也在不斷上升。此外，隨著GB200產品的市場滲透率提高，預計將帶來更多的PCB需求。最后，由于訓練用PCB也被用于推理任務，這將進一步推動GB200PCB版塊的增長。

審核編輯：黃飛