<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大模型對算力需求指數級增長,集群成必然選擇

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2024-01-23 00:21 ? 次閱讀

電子發燒友網報道(文/李彎彎)近年來,AIGC技術的火爆,代表著AI正在從感知理解世界向生成創造世界躍遷。在近日舉辦的全球人工智能算力論壇上,寶德計算信創BU副總裁鄧克武談到,AIGC產業發展創新正在加速,預計到2030年市場規模會到達萬億。然而隨著AI技術的飛速發展,算力也成為了制約AI大模型應用普及的關鍵因素。

大模型重塑產業格局

在鄧克武看來,AIGC產業發展預計將會經歷三個階段。第一個階段是2023年到2025年,屬于培育摸索期,該階段主要以遵循指令性加工和拼接式為主,例如,播報類(語音合成的電子書)、數字人(支持多種類型任務的數字人)、營銷推廣等。

第二個階段是2025年到2027年,這個時期會是AIGC的應用蓬勃期,該階段主要以人機聯合共創的模式為主,例如,各種類型的生成任務,以AI生成為基礎進行迭代;行業生態完善,底層大模型對外開發。

第三階段是2028年以后,這個時期為AIGC增長期,到這個時候,產業鏈逐漸完善,商業化場景持續拓展拓深,深入變革各行業,預計2030年市場規模超萬億。

鄧克武認為,大模型將重構人工智能生產范式。他還提到“人工智能行業的二八定律”,即進入大模型時代,未來軟件80% 的價值將由AI大模型提供,剩余20% 會由提示工程和傳統業務開發組成。

同時,他認為,MaaS將重構商業化生態,大模型“訓練基礎設施-底層技術-基礎應用-垂直應用”發展路線逐漸清晰。MaaS,即Model as a Service,模型即服務,能夠降低AI應用開發門檻,重構AI產業的商業化結構生態,激發新的產業鏈分工和商業模式不斷涌現。MaaS將可能成為未來大模型的主流商業模式。

wKgaomWuQcWAK2UiAAOkfzX9rA0549.jpg

隨著大模型的發展,其應用也會逐步拓展,從初期To C現象級應用向通用To B應用,再向場景化To B應用發展。當然,這個過程也面臨不同的挑戰,To C應用的挑戰在于用戶商業付費挑戰大:使用門檻較低,用戶量大且接受度高,落地及成長速度快,但客戶付費意愿偏低,商業閉環挑戰大。To B應用的挑戰在于和行業數據&應用的深度融合:行業數據積累、模型調測和行業應用集成均需要時間,但客戶付費能力強,未來增長及盈利空間廣闊。

wKgZomWuQc2AR164AANGfIPU7Rc847.jpg

算力集群化發展是必然趨勢

目前,國內已有超100+企業在戰略布局大模型機會。對于企業來說,需要準備迎接產業變革,構筑新的競爭優勢。如何做呢?其一,對內提升自身業務效率與感知,即與自身行業、業務特點和需求等深度結合;其二,面向中小企業提供AI模型服務,通過API/三方插件吸引更多應用及數據,通過提供模型開發服務,深度切入行業,掌握行業經驗和數據;其三,面向AI創業者/企業提供算力服務,滿足企業AI算力需求,構筑數字基礎設施格局。

算力方面,大算力集群是業界廠家AI模型開發的共同選擇,如騰訊數萬卡規模的星星海AI集群,阿里巴巴12EFLOPS的靈駿AI集群,百度4EFLOPS 百舸AI集群,商湯3.7EFLOPS AIDC集群,華為數萬卡規模昇騰AI集群等。

在鄧克武看來,大模型對算力的需求將指數級增長,AI算力將從單機走向集群時代。據鄧克武介紹,大模型算力需求每兩年以750倍增長,而硬件算力供給每兩年僅增長3倍。比如,從ResNet-50(2500萬參數),到GPT-1(1.7億參數),再到GPT-4(萬億級參數),計算需求需要十倍,到千倍的增長,存儲需求經歷百倍,到千倍的增長。AI算力和數據中心集群發展,可以加速產業創新。

wKgaomWuQdeAEc6VAAMNjqXMsYk852.jpg

寶德計算作為中國領先的計算產品方案提供商,構建了自強昇騰高密算力平臺,以支撐大模型系統工程建設。在上述論壇上,鄧克武詳細介紹了公司的兩款服務器:PR420KI G2訓練服務器和PR410EI 訓練服務器。

PR420KI G2訓練服務器CPU采用了4顆鯤鵬920處理器,NPU采用了8顆昇騰910,節點內互聯采用HCCS Full mesh互聯高速網絡;PR410EI 訓練服務器CPU采用2顆第四代Intel至強可拓展處理器Sapphire Rapids,NPU采用8顆昇騰910,節點內互聯采用HCCS Full mesh互聯高速網絡。

同時,他還介紹了公司的Pod集群組網,以256臺訓練服務器為例,共計2048顆Ascned910芯片。分成16組,每組16臺服務器,里面放置一個完整的模型,每組之間采用數據并行;每組16臺服務器,采用模型并行,每臺服務器放1/16的模型。

wKgZomWuQeGAHZa7AANDrZbF8yY786.jpg

據鄧克武介紹,寶德面向多種大模型部署方式,還構建了差異化解決方案。此外,公司聯合生態伙伴不斷深化合作,成功實踐了100多個AI項目,涵蓋了電力、安平、教育、金融、互聯網、智慧城市等行業,寶德將繼續探索更多行業和細分領域智能化實踐,共同加速AI行業智能化升級和落地。

寫在最后

經過一年多時間的發展,大模型商業化應用已經成為業界探索的焦點,并且已經進展明顯。與此同時,隨著大模型訓練和部署的持續加速,這對算力的需求也會大幅增長。為了滿足大模型訓練和部署需求,集群成為廠家模型開發的共同選擇。而能夠為各種大模型部署提供算力支持的企業也必然會乘風而起。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    27061

    瀏覽量

    264835
  • 算力
    +關注

    關注

    1

    文章

    709

    瀏覽量

    14428
  • AIGC
    +關注

    關注

    1

    文章

    279

    瀏覽量

    1167
  • 大模型
    +關注

    關注

    2

    文章

    1804

    瀏覽量

    1393
收藏 人收藏

    評論

    相關推薦

    萬卡集群解決大模型訓算力需求,建設面臨哪些挑戰

    解決大模型訓練對算力需求的巨大增長問題,尤其是現在模型參數量從百億級、千億級邁向萬億級。 ? 國內外企業積極構建萬卡集群 ? 目前,在國際上
    的頭像 發表于 06-02 06:18 ?3096次閱讀
    萬卡<b class='flag-5'>集群</b>解決大<b class='flag-5'>模型</b>訓算力<b class='flag-5'>需求</b>,建設面臨哪些挑戰

    存內計算WTM2101編譯工具鏈 資料

    工藝條件下將AI計算效率提升2個數量級,充分滿足快速發展的神經網絡模型指數增長
    發表于 05-16 16:33

    液冷是大模型對算力需求必然選擇?|英偉達 GTC 2024六大亮點

    在這個以高性能計算和大模型推動未來通用人工智能時代,算力已成為科技發展的隱形支柱。本文將重點探討算力的演進,深入分析在不同領域中算力如何成為推動進步的基石;著眼于液冷如何突破算力瓶頸成為引領未來
    的頭像 發表于 04-10 12:57 ?129次閱讀
    液冷是大<b class='flag-5'>模型</b>對算力<b class='flag-5'>需求</b>的<b class='flag-5'>必然選擇</b>?|英偉達 GTC 2024六大亮點

    能RADXA微服務器試用體驗】Radxa Fogwise 1684X Mini 規格

    通過網絡可以了解到,能RADXA微服務器的具體規格: 處理器:BM1684X :高達32Tops INT8峰值 內存:16GB L
    發表于 02-28 11:21

    iBeLink KS MAX 10.5T大領跑KAS新領域

    打造。這種芯片可以在存儲和計算之間實現高速的數據交換,從而提高了運算效率和穩定性。iBeLink ks max10.5T還擁有三檔可調的性能模式,可以根據不同的局域網難度和電價,選擇合適的和功耗
    發表于 02-20 16:11

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發布于 :2024年01月25日 14:54:52

    小家電健康智能電源管理ic的必然選擇—U6205D

    曾經頭部的傳統家電品牌市場占有量已趨于成熟,難以滿足消費者日益變化的產品需求。因此,在科技升級和消費需求提升的雙驅動之下,具備新功能的集成化、智能化、健康化的產品成為了小家電產品升級的必然方向
    的頭像 發表于 12-12 16:04 ?522次閱讀

    2G/3G退網是移動通信網更新換代的必然選擇

    對此,工信部對于2G/3G退網給出了明確的答案:自2019年6月我部頒發了5G牌照,中國5G商用正式商用。我國移動通信步入2G、3G、4G、5G“四代同堂”階段。按照工信部的說法,2G/3G退網是移動通信網更新換代的必然選擇,也是當前國際上的主要做法。
    的頭像 發表于 12-06 15:59 ?361次閱讀

    工信部:2G/3G退網是移動通信網更新換代的必然選擇

    第一,2G/3G退網是移動通信網更新換代的必然選擇,也是當前國際上的主要做法。據不完全統計,全球已有100多個運營商實施了2G/3G退網,將2G/3G騰退的頻率用于4G/5G的部署。
    的頭像 發表于 12-05 15:37 ?323次閱讀
    工信部:2G/3G退網是移動通信網更新換代的<b class='flag-5'>必然選擇</b>

    400G方案能滿足AI大模型需求嗎?

    從2022年以來,隨著AIGC應用在業內的關注度呈指數增長。國內已經有上百家公司紛紛投入資源,推出自己的大模型,號稱“百模大戰”。AIGC應用對互聯網速度及帶寬的需求也在日益
    發表于 10-19 09:42 ?138次閱讀

    碳化硅(SiC)需求迎來指數增長

    由于政府對氣候變化的要求以及可能更重要的是消費者需求指數增長,汽車原始設備制造商(OEMs)計劃將電池電動車型轉為未來10至15年主要銷售的汽車。這種電氣化轉型正日益定義了汽車動力半導體的整體
    的頭像 發表于 09-28 11:23 ?577次閱讀
    碳化硅(SiC)<b class='flag-5'>需求</b>迎來<b class='flag-5'>指數</b>級<b class='flag-5'>增長</b>

    Kubernetes集群中如何選擇工作節點

    簡要概述: 本文討論了在Kubernetes集群選擇較少數量的較大節點和選擇較多數量的較小節點之間的利弊。
    的頭像 發表于 08-28 15:46 ?387次閱讀
    Kubernetes<b class='flag-5'>集群</b>中如何<b class='flag-5'>選擇</b>工作節點

    用于快速模型模型調試器11.20版用戶指南

    用于快速模型模型調試器是用于可擴展集群軟件開發的完全可重定目標的調試器。它旨在滿足SoC軟件開發人員的需求。 Model Debugger具有易于使用的GUI前端,并支持: ?源代碼
    發表于 08-10 06:33

    用于快速模型模型調試器11.21版用戶指南

    用于快速模型模型調試器是用于可擴展集群軟件開發的完全可重定目標的調試器。它旨在滿足SoC軟件開發人員的需求。 Model Debugger具有易于使用的GUI前端,并支持: ?源代碼
    發表于 08-09 07:57

    適用于快速模型模型調試器用戶指南

    用于快速模型模型調試器是用于可擴展集群軟件開發的完全可重定目標的調試器。它旨在滿足SoC軟件開發人員的需求。 Model Debugger具有易于使用的GUI前端,并支持: ?源代碼
    發表于 08-08 06:28
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>