中科馭數分享DPU在AI大模型時代下面臨的機遇

“云擎未來，智信天下”——2023移動云大會正式舉辦，中科馭數正式加入“移動云信息技術融合應用創新產業生態聯合體”，創始人、CEO鄢貴海應邀在“磐石算力底座”論壇圓桌對話發言，分享DPU在AI大模型時代下面臨的機遇。 中國移動副總經理趙大春在“磐石算力底座論壇”致辭中表示，算力作為云的基石，既是數字經濟發展的重要基礎，也是科技競爭的新焦點。在技術和行業的雙重驅動下，未來的算力發展將呈現出三個方面的特點，使得算力將變成像水、電一樣隨取隨用的社會級服務。一是算力多樣化需求呈指數級增長。二是算力泛在化和融合化服務需求日益增強。三是算網內生安全體系亟需構建。

■DPU將成為支撐高性能計算和人工智能的基石

本論壇圓桌對話討論了AI大模型時代下高性能計算和存儲系統所面臨的挑戰和機遇。中科馭數創始人、CEO鄢貴海提出ChatGPT將為底層芯片或算力基礎設施的廠商帶來巨大機會，并且預計DPU將成為支持高性能計算和人工智能的基石。DPU擁有低時延、高吞吐、以及強大的網絡功能，這將促進下一代高性能計算實現規?；头植际交?，有望成為未來大型算力基礎設施的核心組件。 從系統的角度看，如何解決ChatGPT應用帶來的大算力問題，可以分為兩個層次。首先，需要提高單顆芯片的性能，這方面業界已經提出了各種方法論。其次，需要打通各種基礎設施，將局部算力連成網，解決網絡端產生的各種瓶頸，以滿足未來萬億級參數大模型的算力要求。這是當前的難點，也是DPU備受關注的原因。 作為數據專用處理器，DPU主要承擔網絡、存儲、計算和安全等基礎設施層應用服務，是提升算力服務、提高計算、網絡和存儲服務的關鍵。這使得DPU在大型語言模型中扮演著重要角色，特別是在數據交換和通信方面。

鄢貴海表示，無論是CPU、GPU還是DPU，都需要基于上層應用需求來實現芯片結構，這樣底層基礎設施層資源才能夠更高效地釋放。在這種情況下，中國移動是一個非常好的集成平臺，擁有龐大的用戶數量、先進的應用和豐富的場景，不同廠商可以通過中國移動這一平臺將原本不同的技術打磨到一個體系中，共同打造自主可控的算力基礎設施。 中國移動云能力中心劉軍衛也在論壇主題演講中分享到，中國移動將助力打造國家級自主可控的高性能算力基礎設施，通過布局國產化智算生態、共建自主GPU+DPU產業聯盟、聯創高性能網絡技術三大舉措，帶動國產化智算產業成熟發展，抓住云計算技術定義權，引領云計算市場下一個黃金十年。到2024年，打通DPU、GPU、HPN三大單元，面向大模型場景打造一套全棧自主可控的系統。

■中科馭數正式加入“移動云信息技術融合應用創新產業生態聯合體”

大會期間，由工信部推動的“移動云信息技術融合應用創新產業生態聯合體”（簡稱“聯合體”）正式發布，旨在攜手移動產業鏈上下游企業、高校、科研院所等相關創新單位，積極開展適配驗證，標準研究、技術培訓、解決方案孵化、創新成果推廣和人才教育培訓等關鍵合作。

中科馭數作為國內DPU領軍企業，正式加入“移動云信息技術融合應用創新產業生態聯合體”，將與各成員單位凝聚合力，推動信息技術應用創新解決方案和產業項目落地，共同構建開放包容、合作共贏的產業生態。

編輯：黃飛