Arm篤定服務器市場，定制化芯片構建基礎設施的未來

近日，Arm Tech Symposia 年度技術大會國內首站落地深圳。作為Arm最重要、規模最盛大的技術活動之一，Arm Tech Symposia 年度技術大會以“Arm 正在構建計算的未來”為主題，圍繞人工智能、機器學習、物聯網、基礎設施、汽車、終端、移動計算等行業熱點話題展開。在此次大會上，Arm傳遞出對于服務器市場的處理器技術以及合作生態的最新洞察，并介紹了所推出的相關技術產品以大力支持基礎設施的加速建設。

AI時代，定制化芯片改變服務器架構

人工智能的大潮已經涌現，基礎設施融入AI這一趨勢對于數據中心、服務器提出更高的算力和性能需求。Arm在服務器市場呈現快速發展的態勢，此外，Arm還幫助合作伙伴實現服務器架構上的創新。

圖：Arm高級副總裁兼基礎設施事業部總經理 Mohamed Awad 在大會中與媒體進行訪談

Arm高級副總裁兼基礎設施事業部總經理 Mohamed Awad解析，在傳統的服務器系統架構中，左邊是內存，然后內存連接到一個通用的現成CPU，這個 CPU 又負責管理多個加速器。這樣的傳統架構是過去市場上唯一可用的架構，但這個架構的問題在于，這個通用的現成CPU 以及加速器之間的接口直接限制了產品最終的性能水平，因為所有的加速器都必須要通過一個 CPU 訪問額外的內存，這樣就無法達到內存的一致性，也就意味著加速器的性能無法被充分利用，也就無法很好地支持生成式 AI 時代的需求。

基礎設施領域的傳統系統架構

在Arm展現的一例新架構中，加入了CPU的數量并為整個系統架構提供更高的性能。具體來看，這種現代的系統架構中，CPU 是根據實際需求進行定制化設計，每一個定制化的CPU 都可以單獨和一個加速器相連，會有較強的內存一致性?！霸谶@樣的架構下，設計方根據用戶的實際場景和用例進行 CPU 設計，方能將加速器的使用效率提到最高?！盡ohamed Awad說道。新的架構設計能夠更好地支持包括生成式 AI在內的基礎設施的市場需求。

面向新的應用需求，基礎設施領域出現了現代化的系統架構

這個架構的重點是強調了CPU的定制化，以及對于鏈路上數據傳輸性能的提升。

Mohamed Awad解析，在過去的架構中，一個CPU 需要對應多個加速器或者多個 GPU，但是這個 CPU本身不是一個定制化的CPU。這種CPU是通過 PCIe的接口和加速器連在一起的，其數據傳輸的吞吐率和鏈路帶寬是直接受限于有多少數據可以進入到加速器。如果鏈路不佳，只有少量的數據進入加速器，影響加速器的性能發揮。但在新架構中，不僅是一個 CPU 對應一個加速器，更重要的是該 CPU 是一個定制的 CPU，跟加速器實現一對一組合后，它的整體鏈路以及數據吞吐率會達到最高，以提高加速器本身的利用水平。

這個新架構說來也不算新，因為這就是NVIDIA GH200 Grace Hopper 超級芯片所使用的架構。

NVIDIA GH200 Grace Hopper 超級芯片采用 Arm Neoverse 搭配 NVIDIA GPU，滿足 AI 性能的需求

在這樣的架構當中，72 顆 Arm Neoverse 核心加上來自 NVIDIA 的 GPU的組合，其AI 性能較基于x86架構的系統可提升 10 倍。

不過，未來的新架構還會有很多可能。Mohamed Awad表示，現在判斷一個CPU對應一個 GPU這樣的結構是不是未來的趨勢，仍為時尚早。但鑒于我們正處于計算加速的時代，在未來的架構當中任何的通用 CPU 旁邊都一定會有一個加速器。也就是說，不管是通過緊密耦合、中度耦合或者是分散耦合的方式，都一定會存在一個加速器。但具體這個加速器是什么樣，采用什么樣的架構，目前業界也還在不斷探索過程中。

從他的話語中可以判斷出CPU+加速器這種演進的方向是確定的。至于Arm將如何引領這樣的方向，相信會有更多新技術新產品的出現。

簡化定制芯片研發，Arm升級Neoverse計算子系統CSS

目前，Arm在服務器市場以Neoverse 平臺為主，為了簡化客戶基于這一IP設計服務器芯片，近期 Arm不僅推出Neoverse 計算子系統(CSS)，還推出一項全面設計(Arm Total Design) 生態項目，目標是集行業生態之力，加速基于Neoverse 計算子系統(CSS) 的定制系統級芯片(SoC) 的開發與交付。

Arm Neoverse CSS預集成了 Arm Neoverse 平臺并完成驗證配置，可降低開發成本并加速產品上市進程?；?Arm Neoverse N2 平臺所開發的Arm Neoverse CSS N2 為Arm Neoverse CSS的第一代產品。據介紹，在一家合作伙伴的實現中，Arm NeoverseCSS 不但可降低SoC設計復雜性，并且節省了長達80人/年的工程師時間。

Arm 全面設計 (Arm Total Design) 生態項目助力合作伙伴加速基于 Neoverse CSS 的芯片開發

Arm 全面設計匯集了專用集成電路(ASIC) 設計公司、IP 供應商、EDA 工具提供商、代工廠和固件開發者等行業領先企業，以加快并簡化基于Neoverse CSS 的系統開發。

例如，楷登電子(Cadence)、Rambus 和新思科技(Synopsys) 等合作伙伴的預集成、經過驗證的IP 和EDA 工具；ADTechnology、Alphawave Semi、博通(Broadcom)、凱捷(Capgemini)、智原科技、Socionext 和Sondrel 等合作伙伴的設計服務；來自英特爾代工服務(IFS) 和臺積公司(TSMC) 等代工廠合作伙伴的技術，專為領先工藝節點和先進封裝技術進行優化；來自AMI 等基礎設施固件提供商，針對Neoverse CSS 提供商業軟件和固件支持。

引入這么多合作伙伴到這個生態系統中來，這意味著Arm已經為IC設計公司做好了前期大量的準備工作，而IC設計公司只需要聚焦于本身的產品創新即可。

Mohamed Awad表示，Arm 全面設計也進一步提高了 Neoverse CSS生態系統中可供合作伙伴使用的可能性，不管是專用集成電路 (ASIC) 設計公司、IP 供應商、EDA 工具提供商、代工廠和固件開發者，Arm 都能進一步支持和幫助他們的產品研發。

另外，Mohamed Awad強調，Arm 全面設計生態系統沒有排他性，歡迎更多的相關產業鏈伙伴加入其中。同時Neoverse CSS 還在不斷迭代發展，以支持新興的芯粒 (chiplet) 技術。

微軟 Azure Cobalt 100

近期，微軟發布的Cobalt 100 CPU，便是基于Neoverse CSS進行研發的。此外也有中國的合作伙伴正在基于 CSS 進行開發。很多合作伙伴將會在 2024 年將第一代CSS設計投入生產。

加強生態，與國內廠商推進服務器芯片

現如今，所有主要的公有云都提供基于 Neoverse 的云實例，Arm Neoverse 平臺在整個市場中增速顯著。比較典型的合作伙伴包括超大規模云服務商亞馬遜云服務 (AWS)、阿里巴巴，以及本土初創企業鴻鈞微電子、遇賢微電子與云豹智能等。

從超大規模云服務商到初創企業，在 Arm 平臺上賦能創新

據介紹，阿里巴巴的倚天 710 就是基于 Arm Neoverse 平臺打造的 CPU。另外鴻鈞微電子以及遇賢微電子，這兩家都是來自中國的本土初創企業，他們都基于 Arm 平臺打造服務器 SoC 解決方案。同時，中國本土的公司云豹智能，也借助 Arm Neoverse 平臺來創建云計算與數據中心的 DPU 解決方案。而聯想則更多地是將Arm架構部署到 5G 領域。Mohamed Awad說，通過攜手中國本土的強有力的合作伙伴，我們將在中國進一步地推動 Neoverse 的發展。

Arm Neoverse 計算子系統 (CSS)

Arm中國區業務全球副總裁鄒挺表示，在中國市場，Arm Neoverse 特別是在基礎設施領域擁有很多客戶。在過去的三、四年當中，整個 Neoverse 在中國的發展非常強勁。同時，Arm 也積極參與數據中心、云計算等本土的生態、開源軟件社區，包括龍蜥社區等，幫助這些社區能更好地融入Arm全球生態系統中。


小結：

半導體的創新往往是從源頭開始的，Arm的IP以及生態往往引領著一個潮流的方向。在移動終端領域Arm是當之無愧的霸主，在今年早前手機SoC廠商基于Armv9架構推出全大核芯片，將高端手機推向新的高度。

對于這樣的集群配置，Arm 產品營銷副總裁 Ian Smythe表示，在目前的高端智能手機市場，我們往往可以看到許多不同的創意，各家手機廠商在選擇其 CPU 集群的配置時，是根據他們最終面向的目標受眾的用戶場景，來選擇合適的 CPU 進行配置，這也正是 Arm CPU戰略的一部分，通過Arm IP的靈活配置帶來多元化與差異化。

而移動終端上，Arm通過為移動平臺提供的Arm全面計算解決方案，持續賦能移動設備上 AI 的實現。此外，在物聯網領域，Arm擁有種類豐富的邊緣 AI 產品組合。憑借 Arm Cortex-M55、Cortex-M85 以及新推出的 Cortex-M52，持續提供合作伙伴所需的各種性能，從而滿足 AI 時代人們對物聯網日漸增長的需求。

在AI時代，計算基礎設施也在迎來變革。在當今 70% 的機器學習工作負載運行在 Arm 平臺之上。Mohamed Awad表示，AI的關鍵在于硬件和軟件的緊密集成，以及性能和計算能力的提升。未來AI 將存在于邊緣、網絡、數據端、存儲、服務器，它將融入每一個過程當中。Arm 正在不斷地加速推動和賦能 AI 所帶來的變化和革新。