<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

ChatGPT高算力推動DPU步入快車道,國產DPU蓄勢待發

Robot Vision ? 來源:電子發燒友網 ? 作者:李寧遠 ? 2023-03-12 06:53 ? 次閱讀

電子發燒友網報道(文/李寧遠)OpenAI旗下的智能聊天機器人程序ChatGPT自去年年末發布后,在全球范圍內掀起了人工智能熱潮,熱度持續至今。ChatGPT超出人們預期的智能化表現也帶火了相關人工智能產業鏈。

ChatGPT的GPT,本質是生成型預訓練變換模型,這種AI模型經過海量的數據訓練,才有了高質量的內容輸出。ChatGPT的出現,離不開背后龐大的基礎算力做支持。高度依賴AI計算能力的ChatGPT也推高了算力需求。

爆火的ChatGPT,高算力需求推動DPU發展

隨著眾多國內外廠商入局智能聊天機器人行業的競爭,可以預見市場上類似于ChatGPT的機器人程序會如雨后春筍一般冒出來,而全球對于算力的需求也將隨著此類技術應用的鋪開出現快速的增長。

數據處理芯片DPU,被認為是繼 CPUGPU 之后的 “第三顆主力芯片”。DPU是最近幾年發展起來的專用處理器大類,是繼CPU、GPU之后數據中心場景中重要的算力芯片,能夠為高帶寬、低延遲、數據密集的計算場景提供計算引擎,是未來處理超算流量和安全網絡存儲的核心硬件。

DPU市場現在處于百家爭鳴的早期發展階段,各廠商給出的定義有略有不同,這里選擇市場上比較主流的英偉達給出的定義,“DPU是集數據中心基礎架構于芯片的通用處理器,結合了標準的、高性能及軟件可編程的多核CPU,與其它的SoC組件密切配合。同時結合了高性能網絡接口,能以線速或網絡中的可用速度解析、處理數據,并高效地將數據傳輸到GPU和CPU”。

相比于CPU和GPU典型的馮諾依曼架構,基于數據流驅動技術的DPU采用的是非馮諾依曼架構,不需要結束一階段的計算任務后將數據輸送到外部的DDR計數器存儲,而是可以利用軟件可動態重構處理器CGRA技術,合理分配和使用算力的同時,節約數據存儲和傳輸帶寬。當CPU算力達到瓶頸,DPU能夠幫助CPU卸載低效應用的算力,當GPU專注數據加速計算,DPU可以幫助進行數據解析和處理提高數據接發效率。

在ChatGPT高算力需求的推動下,DPU開始進入發展快車道。

DPU市場將迎來爆發式增長,國產DPU蓄勢待發

根據據賽迪顧問《中國DPU行業發展白皮書》對全球以及中國DPU市場的統計,預計到2025年全球DPU產業市場規模將超過245.3億美元,復合增速達51.73%。而中國市場預計到2025年DPU產業規模將超過565.9億元,復合增速達170.6%。

白皮書中特別提到,中國DPU市場在2022-2023年將會有爆發式的增長,而全球市場的爆發式增長階段將會出現在2023-2024年。

DPU在行業內其實早已有了雛形,早在2013年,Amazon就研發過一款名為Nitro的輕量化Hypervisor配合定制化硬件,能將虛擬機的計算和 I/O子系統分離開來。直到2020年英偉達將基于Mellanox的Smart NIC命名為DPU并將其定位為繼CPU和GPU之后數據中心的“第三顆主力芯片”,才算真正走到大家眼前被重視起來并掀起行業熱潮。

根據賽迪顧問《中國DPU行業發展白皮書》中的數據,2020年國內的DPU市場僅有3.9億元。而到了2021年,國內市場規模迅速發展到75.3億元,可見這一賽道的火熱。

從目前入局的廠商來看,英偉達、Intel、AMD、Marvell、Broadcom、Amazon、Microsoft等國際廠商在近年來都有DPU或相似架構產品發布,入局早具備一定的先發優勢,在底層能力上無疑要領先國內廠商。

國內華為,阿里等老牌廠商也在近幾年針對服務器需求自研DPU,主要功能偏向于數據,存儲與安全方面。同時國內還有一批初創企業加入了DPU賽道,如云豹智能、星云智聯、芯啟源、云脈芯聯、中科馭數、大禹智芯等。

主要DPU廠商動態

英偉達:先進BlueField系列占據行業高點

在全球DPU市場,英偉達占據了超半數市場份額。目前英偉達的BlueField系列DPU已經發展至第三代,BlueField-3 是首款以線速處理軟件定義網絡、存儲和網絡安全的 DPU,速度可達400 Gb/s。BlueField-3可以搭載最多16個Armv8.2+ A78 Hercules核心,包含220億個晶體管,擁有16GB板載DDR5顯存,能夠在I/O路徑中提供強大的計算能力和多種可編程加速引擎。相比BlueField-2系列8 顆ARM A72 CPU 內核,處理性能提升了近10倍。

而BlueField-4根據英偉達官方消息,有望在2024年推出。除此之外,英偉達還將DPU與 Ampere架構的強大功能結合成融合加速器,進一步為AI驅動的工作負載帶來出色的性能和強大的安全性。

英特爾:預計2024年推出400G IPU,2025年推出800G IPU

英特爾的IPU被業界視為英特爾版本的DPU,同樣可以加速網絡基礎設施,釋放CPU內核,實現應用程序性能的提升。E2000是目前英特爾處理性能最高的IPU,是英特爾利用從多代FPGA SmartNIC 中積累的經驗和谷歌共同設計的,擁有多達16個Arm Neoverse N1核心,具備高度可編程性的數據包處理引擎。

從去年Intel Vision 2022大會上公布的最新的IPU路線圖來看,2024年400 Gbps IPU有望面世,800G IPU則定在2025年。

芯啟源:布局下一代7nm以下DPU產品

芯啟源是目前國內唯一一家能夠提供基于SoC架構的國產化25G智能網卡的供應商,已經推出了量產的DPU芯片4000及3800系列產品,并且已實現商業化落地。芯啟源的下一個布局是7000系列DPU,根據相關信息,下一代DPU芯片將采用7nm以下工藝,能達到400G的吞吐量,具有600Mpps,RDMA/RoCEv2,國密SM3/SM4等的功能及性能。

星云智聯:實力強勁的國內初創DPU芯片公司

星云智聯是一家專注于數據中心通信互聯架構、DPU芯片和解決方案研發的國內初創公司,其自主研發的NebulaX D1055AS是一款50G DPU芯片。NebulaX D1055AS在高速數據轉發上,以純硬件方式實現對數據流處理,以獲得高吞吐量和低延時性能,在國內DPU賽道上有著強勁的實力。

云豹智能:DPU SoC有望今年量產

云豹智能主張軟件定義芯片,此前發布過基于FPGA版本的DPU云霄,在可編程性上非常靈活。目前云豹智能的第一款DPU SoC正在設計研發階段,根據相關消息,該DPU SoC有望在今年量產。

中科馭數:基于自研KPU架構布局DPU

中科馭數的KPU架構是基于中科馭數首創的軟件定義加速器技術路線而研發的領域專用技術芯片架構,并基于該架構打造了首個擁有網絡數據庫一體化加速功能的DPU芯片,能提供高效能的算力支撐。在目前的產品進度上,根據相關報道,第三代12nm 400G DPU芯片的研發迭代已近尾聲。

寫在最后

DPU的誕生就是為了應對數據量以及計算復雜性的指數級增長,在ChatGPT將算力需求再推上一個新臺階后,DPU有力支撐起了算力效率的提升,在原本火熱的市場里又一次加快了發展速度。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • DPU
    DPU
    +關注

    關注

    0

    文章

    300

    瀏覽量

    23979
  • 算力
    +關注

    關注

    1

    文章

    679

    瀏覽量

    14392
  • ChatGPT
    +關注

    關注

    27

    文章

    1452

    瀏覽量

    5110
收藏 人收藏

    評論

    相關推薦

    明天線上見!DPU構建高性能云算力底座——DPU技術開放日最新議程公布!

    算力,是數字經濟時代的新質生產力。隨著人工智能、智算中心建設等需求不斷拓展,DPU在各行各業數據中心的應用逐步深入。異構算力代表DPU在新質生產力建設中,能否給出別開生面的答案,應戰算力難題?DPU
    的頭像 發表于 04-03 18:12 ?756次閱讀

    《數據處理器:DPU編程入門》DPU計算入門書籍測評

    來說,DPU的需求也越來越大,大量邊緣計算的力需求在飆升,邊緣數據預測,邊緣決策,邊緣圖像識別,一個個需求都在暴增著未來Xlinx的業務肯定是會增長的,當然,有了國產替代就不一定了。 2、云計算 在云計算
    發表于 12-24 10:54

    《數據處理器:DPU編程入門》讀書筆記

    。以DPU為技術代表的新力架構,正在重新定義數據中心和云原生技術的基礎架構。 DPU的出現,是隨著數據中心的高速發展,通信能力和計算能力成為數據中心基礎設施的相輔相成的兩個重要發展方向。若數據中心僅
    發表于 12-21 10:47

    《數據處理器:DPU編程入門》+初步熟悉這本書的結構和主要內容

    dpu:推出的主要意義是為了減輕CPU的數據處理負擔,使得cpu可以更具專注自己的通用計算處理運算。 1、DPU數據處理器,演進的核心驅動力是什么? 計算工作負載的不斷增長是DPU演進的核心驅動力
    發表于 12-08 18:03

    DPU國產生態版圖又雙叒擴大了!

    DPU 朋友圈迎來 30+ 新伙伴! 近期, 中科馭數已與聯想、中科可控、 統信 、歐拉 、龍蜥社區 、新支點、 亞信科技、人大金倉、瀚高、南大通用、 Gr eatSQL、阿里云、曙光云等超30
    的頭像 發表于 11-03 11:20 ?296次閱讀
    <b class='flag-5'>DPU</b><b class='flag-5'>國產</b>生態版圖又雙叒擴大了!

    什么是DPU?

    什么是DPU? 相信很多人對于CPU(中央處理器)已經非常熟悉了。靈活、響應迅速的CPU多年來一直是大多數計算機中唯一的可編程元件。 近年來,GPU(圖形處理單元)逐漸成為了計算的中心。最初GPU
    發表于 11-03 10:55

    解碼 DPU 編程,投稿贏取好禮!

    NVIDIA 發布首部 DPU 和 DOCA 編程入門書籍 前不久 NVIDIA 推出了備受業界好評的首部 DPU 處理器編程入門書籍 —— 《數據處理器:DPU 編程入門》 ,許多讀者紛紛留言
    的頭像 發表于 11-01 20:25 ?240次閱讀
    解碼 <b class='flag-5'>DPU</b> 編程,投稿贏取好禮!

    【書籍評測活動NO.23】數據處理器:DPU編程入門

    資格! “DPU將是未來計算的三大支柱之一。CPU用于通用計算,GPU用于加速計算,而DPU在數據中心移動數據,進行數據處理?!? ——NVIDIA 創始人兼首席執行官黃仁勛于 GTC 2020
    發表于 10-24 15:21

    NVIDIA 發布首部 DPU 和 DOCA 編程入門書籍

    為使用NVIDIA? BlueField? 系列? DPU 和 NVIDIA DOCA? 開發環境的開發者提供實用指南 ? 北京時間 2023 年 10 月 17 日,NVIDIA 今日宣布
    發表于 10-18 11:34 ?231次閱讀
    NVIDIA 發布首部 <b class='flag-5'>DPU</b> 和 DOCA 編程入門書籍

    【KV260視覺入門套件試用體驗】部署DPU鏡像并開發一個圖像識別程序

    一.部署DPU鏡像到KV260 DPU鏡像有關介紹:DPU(Data Processing Unit)鏡像是一個包含特定配置和預安裝軟件的虛擬化環境,用于運行數據處理任務。它可以幫助工程師快速部署
    發表于 09-18 14:15

    2023中國算力大會 | 中科馭數加入DPU推進計劃,探討DPU如何激活算網融合新基建

    分論壇發表主題演講《釋放極致算力 DPU激活算網融合新基建》,并于會上正式加入“DPU推進計劃”, 共同推動算力產業向 前邁進 。 本次盛會以“算領新產業潮流 力賦高質量發展”為主題,聚焦算力前沿技術領域,匯聚了行業領袖、專家學
    的頭像 發表于 08-18 17:55 ?350次閱讀
    2023中國算力大會 | 中科馭數加入<b class='flag-5'>DPU</b>推進計劃,探討<b class='flag-5'>DPU</b>如何激活算網融合新基建

    在不同應用場景下DPU不同的性能要求闡述

    DPU本質上是通過DPU卡上資源,解耦計算、控制、存儲,利用CPU、GPU、FPGA加速器等異構處理單元,通過以智能卡為接口的網絡實現高效的數據分發和調度。市面上流行的DPU產品基本上都實現了3類功能卸載,包括網絡功能卸載、存儲
    的頭像 發表于 08-09 16:40 ?1731次閱讀
    在不同應用場景下<b class='flag-5'>DPU</b>不同的性能要求闡述

    《揭秘 NVIDIA DPU &amp; DOCA》 第二講上線!

    由 NVIDIA 專家主講的 《揭秘 NVIDIA DPU DOCA》 系列視頻在知乎重磅推出! 在總共八期的視頻中,專家將帶您深度了解 NVIDIA BlueField DPU 及其靈魂伴侶
    的頭像 發表于 06-16 11:45 ?355次閱讀
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 第二講上線!

    《揭秘 NVIDIA DPU &amp; DOCA》 開講啦!

    由 NVIDIA 專家主講的 《揭秘 NVIDIA DPU DOCA》 系列視頻在知乎 重磅推出 ! 在總共八期的視頻中,專家將帶您深度了解 NVIDIA BlueField DPU 及其靈魂伴侶
    的頭像 發表于 06-08 20:55 ?369次閱讀
    《揭秘 NVIDIA <b class='flag-5'>DPU</b> &amp; DOCA》 開講啦!

    DPU,云廠商的節約成本的王牌

    電子發燒友網報道(文/周凱揚)隨著AI計算在數據中心逐漸占據主導地位,整個服務器系統架構中的虛擬化、網絡交換對硬件提出了更高的需求,為了降低進一步CPU的負載,DPU也就應運而生。通過使用DPU
    的頭像 發表于 06-08 09:19 ?1724次閱讀
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>