<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI芯片、光模塊和光芯片的發展趨勢

智能計算芯世界 ? 來源:智能計算芯世界 ? 2023-12-29 10:07 ? 次閱讀

根據 OpenAI 官網,AI 模型訓練計算量自 2012 年起每 3.4 個月就增長一倍。以 GPT-3 模型為例,根據 lambdalabs 數據,該模型參數規模達 1750 億,完整訓練運算量達3640PFlop/s-days(以 3640PFlop/s 速度進行運算,需要 3640 天)。模型完成單次訓練約需要 355 個 CPU 年并耗費 460 萬美元(假設采用 Nvidia Tesla V100 芯片)。

高算力需求迫切,推動AI基礎設施建設。高訓練算力需要與相應基礎設施匹配,根據《2022—2023中國人工智能算力發展評估報告》預計,2023 年全球 AI 支出增速有望達 27.9%,而中國智能算力規模將達 427EFlop/s,同比增長 59%。

AI 芯片:算力核心構成,自主可控推動國產化

人工智能芯片是 AI 算力的核心構成。目前主流的 AI 芯片中 GPU 占據絕對百分比,根據IDC 數據,2022 年 GPU 在中國人工智能芯片市場中占有率為 89%。根據我們測算,假設國內每日訪問單個語言大模型的人數達到 3 億的情況下,對 GPU 需求臺數為 13889 塊。

Nvidia H100 是目前最先進的人工智能芯片。2023 年 3 月 22 日 Nvidia 推出新款人工智能芯片 GPU H100,與公司上一代產品 A100 相比性能得到大幅提升,在主流 AI 和 HPC模型中,采用 InfiniBand 互連技術的 H100 性能最高可達 A100 的 30 倍。

9ff4262a-a5df-11ee-8b88-92fbcf53809c.png

國產AI芯片短板明顯,下一代產品推進順利。通過對國內寒武紀、華為昇騰和沐曦等國產公司旗下的 AI 旗艦芯片與 Nvidia H100 SXM 的性能指標對比,可以看到國產 AI 芯片與 Nvidia H100 在性能上仍存在較大差距。同時國產芯片公司仍在加快研發推進下一代 AI芯片產品,并有望在未來對標Nvidia H100,如寒武紀在研的思元590、沐曦在研的MXC500等。

a0061196-a5df-11ee-8b88-92fbcf53809c.png

美國對 AI 芯片出口管制,自主可控要求下國產芯片需求迫切。2022 年 10 月 7 日美國商務部工業安全局(BIS)發布《美國商務部對中華人民共和國(PRC)關于先進計算和半導體實施新的出口管制制造》細則,其中管制物項 3A090、4A090 包含高性能 AI 芯片產品,而Nvidia A100 和 H100 均符合管制要求。在此背景下,Nvidia 推出性能閹割的中國特供版芯片 A800 和 H800。我們認為在國內自主可控大背景下,國內 AI 產業對國產芯片需求迫切,或加大對國產芯片公司支持力度,國產 AI 芯片有望迎來技術進步和市場機遇。

a0217454-a5df-11ee-8b88-92fbcf53809c.png

光模塊:新型網絡架構對高端光模塊用量增加

高算力需要與高效傳輸架構相匹配。AI 大模型通常由多個服務器作為節點,并通過高速網絡架構組成集群合作完成模型訓練。因此在模型中東西向流量(數據中心服務器間的傳輸流量)大幅增加,而模型訓練過程中南北向流量(客戶端與服務器間的傳輸流量)較少,由于葉脊網絡架構相較傳統三層架構更適用于東西向流量傳輸,成為現代數據中心主流網絡架構。

a036ea32-a5df-11ee-8b88-92fbcf53809c.png

葉脊網絡架構大幅增加對光模塊數量需求。由于葉脊網絡架構中東西向流量大,因此服務器與交換機相連均需使用光模塊,從而大幅增加對光模塊數量需求。同時 AI 大模型的高流量對帶寬提出更高要求,800G 光模塊相較 200G/400G 光模塊具有高帶寬、功耗低等優點,有望在 AI 大模型網絡架構中滲透率提升。

a04acd72-a5df-11ee-8b88-92fbcf53809c.png

以 Nvidia DGX H100 網絡架構為例。該架構適配 Nvidia H100 GPU,采用葉脊網絡架構,分為 1-4 個 SU 單元類型(8 個 GPU 組成一個 H100 服務器節點,32 個服務器節點組成一個 SU 單元)。其中 4-SU 單元架構由 127 個服務器節點組成(其中一個節點用于安裝 UFM 網絡遙測裝置),具有 1016 個 H100 GPU、32 個葉交換機、16 個脊交換機。

以 Nvidia DGX H100 架構為例測算 GPU 與光模塊的對應數量。在 4-SU 的 Nvidia DGX H100 架構中,每 32 臺服務器節點組成一個 SU 單元,并與 8 臺葉交換機相連,因此服務器節點與葉交換機之間共有 1024 個連接(32×8×4);32 臺葉交換機需分別與 16 臺脊交換機相連,因此葉交換機與脊交換機之間共有 512 個連接(32×16);

在 Nvidia DGX H100 的目前方案中,脊-葉連接采用 800G 光模塊,需要 1024 個 800G 光模塊;葉-服務器連接中,每個服務器節點通過一個 800G 光模塊與兩臺葉交換機向上連接,需要 512 個 800G 光模塊(128×4),同時每臺葉交換機通過一個 400G 光模塊與一個服務器節點連接,需要 1024 個 400G 光模塊(128×8)。

國產光模塊廠商在 2022 年全球光模塊企業 TOP10 排名中占據 7 席。TOP10 中國內企業為中際旭創(Innolight)、華為(Huawei)、光迅科技(Accelink)、海信(Hisense)、新易盛(Eoptolink)、華工正源(HGG)、索爾思光電(已被華西股份收購)。而在高端光模塊領域,中際旭創已在 2022 年實現 800G 光模塊批量出貨。光芯片:光模塊核心部件,國產化空間開闊

通信是指通過電光轉換以光信號為介質的傳輸系統。光通信系統的傳輸過程中首先發射端(TOSA)通過激光器芯片將電信號轉換為光信號,經過光纖傳輸至接收端(ROSA),接收端通過探測器芯片將光信號轉換為電信號,最終實現信號傳輸。

a05ab9da-a5df-11ee-8b88-92fbcf53809c.png

光芯片是決定光通信系統信號傳輸效率和網絡可靠性的關鍵。光芯片是實現光電信號轉換的基礎元件,按照功能可以分為激光器芯片(LD)和探測器芯片(PD)。按細分型號分:激光器芯片可分為 VCSEL、FP、DFB 和 EML;探測器芯片可分為 PIN 和 APD。

a079624a-a5df-11ee-8b88-92fbcf53809c.png

高端光芯片市場國產化率仍有待提高。目前在 10G 及以下光芯片市場中,源杰科技等國內公司已占據較高市場份額(部分高技術難度領域如 10G VCSEL/EML 激光器芯片市場國產化率低于 40%),但在 25G 及以上光芯片市場,市場份額仍大多由Ⅱ-Ⅳ、Lumentum 和Broadcom 等國外公司占據。伴隨國內光模塊企業在全球市場中占據主導地位,出于保供的安全考慮,或為國內光芯片企業在高端領域發展迎來新機遇。

審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    27

    文章

    4478

    瀏覽量

    127195
  • 光模塊
    +關注

    關注

    72

    文章

    1164

    瀏覽量

    58295
  • 光芯片
    +關注

    關注

    3

    文章

    90

    瀏覽量

    10772
  • AI芯片
    +關注

    關注

    17

    文章

    1731

    瀏覽量

    34508

原文標題:算力競賽,開啟AI芯片、光模塊和光芯片需求

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    AI芯片哪里買?

    AI芯片
    芯廣場
    發布于 :2024年05月31日 16:58:19

    深圳恒興隆機電|高玻璃電主軸:精工細作,從電主軸開始.

    的璀璨明星。本文深圳恒興隆機電小編將探討高玻璃電主軸的概述、特點、應用及其在未來制造業中的未來發展趨勢等方面的內容,大家一起來看看吧。一、高玻璃電主軸的概述高玻璃電主軸,作為一種
    發表于 05-20 09:45

    深圳恒興?。圃鞓I的新星:高超精電主軸的崛起...

    成為精密制造領域的璀璨明星。本文深圳恒興隆小編將探討高超精電主軸的技術特點、應用領域及未來發展趨勢等方面的內容,看看其魅力。一、高超精電主軸的技術特點高超精電主軸采用先進的電機技
    發表于 05-13 09:55

    DC電源模塊發展趨勢和前景展望

    BOSHIDA ?DC電源模塊發展趨勢和前景展望 隨著電子產品的普及和多樣化,對電源模塊的需求也越來越大。其中,DC電源模塊作為一種重要的電源供應方式,在各個領域有著廣泛的應用。在過
    的頭像 發表于 04-18 13:37 ?137次閱讀
    DC電源<b class='flag-5'>模塊</b>的<b class='flag-5'>發展趨勢</b>和前景展望

    中國網絡交換芯片市場發展趨勢

    中國網絡交換芯片市場的發展趨勢受多種因素影響,包括技術進步、政策推動、市場需求以及全球產業鏈的變化等。以下是對該市場發展趨勢的一些分析。
    的頭像 發表于 03-18 14:02 ?344次閱讀

    新一代高性能DC電源模塊發展趨勢

    BOSHIDA ? 新一代高性能DC電源模塊發展趨勢 隨著電子設備的不斷發展和需求的增加,對高性能DC電源模塊的需求也越來越大。因此,新一代高性能DC電源
    的頭像 發表于 02-23 13:32 ?179次閱讀
    新一代高性能DC電源<b class='flag-5'>模塊</b>的<b class='flag-5'>發展趨勢</b>

    國產隔離芯片的質量控制與發展趨勢

    本文將從結構、制造工藝、測試手段等方面對國產隔離芯片的質量控制進行分析,并展望其未來的發展趨勢。
    的頭像 發表于 02-02 16:14 ?465次閱讀
    國產隔離<b class='flag-5'>芯片</b>的質量控制與<b class='flag-5'>發展趨勢</b>

    靜壓主軸的應用、優勢及發展趨勢?|深圳恒興隆機電a

    靜壓主軸是用于機械加工中的一種設備,它通過靜壓平衡的原理,實現高速旋轉并保持較高的精度和穩定性。本文將介紹靜壓主軸的應用、優勢及發展趨勢,并整理相關知識。接下來就跟著深圳恒興隆機電小編一起來看下吧
    發表于 01-22 10:32

    1023與1224與模塊電路問題

    1023與1224與模塊電路問題 項目是利用cpld芯片處理4路數字量信號,經曼徹斯特編碼后發送到1023串化器芯片,串化后發送到
    發表于 12-02 17:16

    UWB芯片模塊市場的崛起與趨勢

    隨著物聯網和智能化技術的快速發展,超寬帶(Ultra-Wideband, UWB)技術成為推動這一趨勢的關鍵因素之一。UWB芯片模塊在實現高精度定位、數據傳輸和物聯網連接方面發揮著重
    的頭像 發表于 10-26 17:36 ?318次閱讀

    語音芯片基礎知識 什么是語音芯 他有什么作用 發展趨勢是什么

    語音芯片基礎知識: 什么是語音芯片? 他有什么作用? 發展趨勢是什么?。這里我們簡單描述一下 1、什么是語音芯片? 一句話,簡單來說,語音芯片
    的頭像 發表于 10-09 14:12 ?428次閱讀
    語音<b class='flag-5'>芯片</b>基礎知識 什么是語音芯 他有什么作用 <b class='flag-5'>發展趨勢</b>是什么

    AI芯片的誕生和發展背景 AI芯片發展的技術方向 AI芯片發展趨勢

    高算力需求正催生AI芯片的快速迭代,“無芯片,不AI”,以AI芯片為載體實現的算力正成為人工智能
    發表于 08-16 10:11 ?2824次閱讀

    AI芯片的應用場景和發展趨勢

    AI芯片也被稱為AI加速器或計算卡,即專門用于處理人工智能應用中的大量計算任務的模塊(其他非計算任務仍由CPU負責)。當前,AI
    的頭像 發表于 08-06 16:18 ?1168次閱讀

    一文解讀AI未來發展趨勢、影響和挑戰

    人工智能(AI)是一項重要的技術領域,已經在許多領域中取得了顯著的進展。AI的未來充滿了無限的可能性和挑戰,這篇文章將探討AI的未來發展趨勢、影響和挑戰。
    的頭像 發表于 06-28 17:21 ?3692次閱讀
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>