<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

國產GPU在AI大模型領域的應用案例一覽

Carol Li ? 來源:電子發燒友網原創 ? 作者:李彎彎 ? 2024-04-01 09:28 ? 次閱讀
電子發燒友網報道(文/李彎彎)近一年多時間,隨著大模型的發展,GPUAI領域的重要性再次凸顯。雖然相比英偉達等國際大廠,國產GPU起步較晚、聲勢較小。不過近幾年,國內不少GPU廠商成長非???,并且不斷推出新品,產品也逐漸在各個領域取得應用,而且在大模型的訓練和推理方面,也有所建樹。

國產GPU在大模型上的應用進展

電子發燒友此前就統計過目前國內主要的GPU廠商,也介紹了這些廠商主要的產品及產品發布、量產進展情況??梢钥吹?,其實近幾年已經有不少產品面世并應用。

如沐曦集成,其N系列用于AI推理的GPU芯片早已量產。去年9月,該公司宣布,其與眸瑞科技聯合發布了首個AI模型“貼圖超分”技術。該技術依托曦思N系列AI推理GPU首款產品曦思N100的強大算力,結合眸瑞科技豐富的算法庫資源和先進的AI超分算法,首次將AI超分成功應用到了3D模型領域。

曦思N100是沐曦面向人工智能推理場景推出的高效能GPU產品,針對AI推理及AI應用場景中大量的視頻圖像處理任務,提供強大的AI算力和視頻/圖像編解碼功能。據稱,目前沐曦已聯合合作伙伴打造了多種基于曦思N100 的解決方案,如高密度視頻結構化分析解決方案、高并發智能轉碼解決方案、光電混合異構計算解決方案等,這些方案可廣泛應用于城市安防、智慧交通、工業視覺、短視頻、云計算和智算中心等多個領域。

再如天數智芯,其提供的算力集群具有支持百億級參數大模型訓練的能力。早前有消息,天數智芯與智源研究院、愛特云翔合作,開展基于自主通用GPU的大模型CodeGen(高效編碼)項目,通過中文描述來生成可用的C、Java、Python代碼以實現高效編碼。

智源研究院負責算法設計、訓練框架開發、大模型的訓練與調優,天數智芯負責提供天垓100加速卡、構建算力集群及全程技術支持,愛特云翔負責提供算存網基礎硬件及智能化運維服務。在天垓100加速卡的算力集群,基于智源研究院70億參數的Aquila語言基礎模型,使用代碼數據進行繼續訓練,穩定運行19天,模型收斂效果符合預期。

近一年多來,隨著大模型的發展,國產GPU公司都在朝著大模型領域布局。摩爾線程此前也透露,公司已經可以支持3億參數量模型的訓練,2022年底就提前布局了自然語言模型預訓練,自研了MusaBert模型。

還有登臨科技,該公司此前也表示,公司首款產品Goldwasser已規?;\用在多家行業知名企業的主營業務中,新一代Goldwasser產品針對基于Transformer的網絡和生成式AI類大模型的應用在性能有大幅提升。

國產GPU應用于AI領域的多個方面

除了上述談到應用案例,國產GPU在AI領域的應用案例還有很多,主要涉及到深度學習、自然語言處理以及計算機視覺等多個方面。

如,在計算機視覺領域,國產GPU被廣泛應用于圖像識別和目標檢測等任務。例如,利用GPU加速的深度學習模型可以大幅提升算法的準確性和實時性,這在安防監控、自動駕駛等實際應用中具有重要的價值。

在自然語言處理方面,國產GPU也在發揮重要作用。通過GPU加速的循環神經網絡、Transformer等模型,可以實現高效的機器翻譯、文本生成等任務。這對于提升智能客服、智能寫作等應用的性能具有關鍵作用。

國產GPU還在強化學習領域得到了應用。強化學習是AI領域的一個重要分支,其目標是通過與環境的交互來學習策略。GPU加速的價值網絡、策略網絡等模型可以應用于游戲AI、機器人控制等領域,從而提高智能體的學習效率和性能。

另外值得關注的還有,國產GPU在自動駕駛領域的應用也比較多。自動駕駛系統需要處理大量的傳感器數據,包括來自攝像頭、雷達、激光雷達等的信息。GPU通過其強大的并行計算能力和高效的內存管理,可以實時處理這些數據,并為自動駕駛系統提供準確的決策依據。

例如,一些國產汽車廠商已經開始在其自動駕駛系統中采用國產GPU。這些GPU不僅用于圖像處理和計算機視覺任務,如目標檢測、車道線識別等,還用于深度學習模型的推理和決策。通過GPU的加速,自動駕駛系統可以更快地識別交通信號、障礙物以及其他重要信息,從而提高行車安全性。

此外,國產GPU還在自動駕駛的地圖構建和定位方面發揮了重要作用。通過利用GPU進行高效的地圖數據處理和實時定位計算,自動駕駛系統可以更加準確地感知周圍環境,并實現精確的導航和路徑規劃。

具體來說,百度Apollo、小馬智行等自動駕駛技術公司,都在其自動駕駛解決方案中采用了國產GPU。這些解決方案不僅應用于乘用車,還擴展到商用車、物流車等多個領域。

寫在最后

從目前的情況來看,國內外GPU廠商都在追逐大模型應用帶來的機會。當前無論是大模型訓練還是推理,英偉達GPU都占據了絕大部分市場。對于國產廠商來說,為了在大模型方面擁有更多自主權,仍然需要持續在大模型訓練方面發力,同時相對大模型訓練來說,大模型接下來大面積的部署,對于推理芯片的需要將會很大,這將是一個更容易把握的機會。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    27

    文章

    4422

    瀏覽量

    126711
  • AI
    AI
    +關注

    關注

    87

    文章

    26459

    瀏覽量

    264079
  • 大模型
    +關注

    關注

    2

    文章

    1532

    瀏覽量

    1130
  • AI大模型
    +關注

    關注

    0

    文章

    197

    瀏覽量

    92
收藏 人收藏

    評論

    相關推薦

    模型時代,國產AI芯片最新進展!算力集群化是必然趨勢

    、算力提供商也針對大模型展示了相應的方案。 ? 大模型時代,國產AI 芯片進展如何? ? 在這次大會上,瀚博半導體、燧原科技、登臨科技、天數智芯等紛紛展示了針對大
    的頭像 發表于 07-11 09:05 ?1418次閱讀
    大<b class='flag-5'>模型</b>時代,<b class='flag-5'>國產</b><b class='flag-5'>AI</b>芯片最新進展!算力集群化是必然趨勢

    模型時代,國產GPU面臨哪些挑戰

    ,國產GPU在不斷成長的過程中也存在諸多挑戰。 ? 在大模型訓練上存在差距 ? 大語言模型是基于深度學習的技術。這些模型通過在海量文本數據上
    的頭像 發表于 04-03 01:08 ?3127次閱讀
    大<b class='flag-5'>模型</b>時代,<b class='flag-5'>國產</b><b class='flag-5'>GPU</b>面臨哪些挑戰

    盤點國產GPU在支持大模型應用方面的進展

    ,近些年國內也有不少GPU企業在逐步成長,雖然在大模型的訓練和推理方面,與英偉達GPU差距極大,但是不可忽視的是,不少國產GPU企業也在
    的頭像 發表于 03-29 00:27 ?3077次閱讀
    盤點<b class='flag-5'>國產</b><b class='flag-5'>GPU</b>在支持大<b class='flag-5'>模型</b>應用方面的進展

    FPGA深度學習應用中或將取代GPU

    上漲,因為事實表明,它們的 GPU 訓練和運行 深度學習模型 方面效果明顯。實際上,英偉達也已經對自己的業務進行了轉型,之前它是家純粹做 GPU
    發表于 03-21 15:19

    防止AI模型被黑客病毒入侵控制(原創)聆思大模型AI開發套件評測4

    訓練只聰明的AI小動物解決實際問題,通過構建神經網絡模型并進行推理,讓電腦也能像人樣根據輸入信息做出決策。 在上述示例中,我創建了
    發表于 03-19 11:18

    【書籍評測活動NO.30】大規模語言模型:從理論到實踐

    。國內的文心言就屬于這類。 垂直大模型,聚焦解決垂直領域問題,是通用大模型的基礎上訓練行業
    發表于 03-11 15:16

    谷歌發布基礎世界模型Genie,世界模型領域競爭升溫

    繼OpenAI和Meta之后,谷歌也在世界模型領域公布了其最新進展。據谷歌官網介紹,Genie是一個基于互聯網視頻訓練的基礎世界模型,能夠從合成圖像、照片、草圖等多種來源生成多種動作可控的環境。
    的頭像 發表于 02-28 18:20 ?1058次閱讀

    AI模型怎么解決芯片過剩?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:42:05

    AI模型可以設計電路嗎?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:09:29

    【KV260視覺入門套件試用體驗】Vitis AI 構建開發環境,并使用inspector檢查模型

    Vitis AI 的所有工具和庫,而不需要在本地安裝任何依賴。CPU版本的Vitis AI docker 可以沒有 GPU 的機器上運行,但是
    發表于 10-14 15:34

    沐曦首次將AI超分成功應用到3D模型領域

    算力,結合眸瑞科技豐富的算法庫資源和先進的AI超分算法,首次將AI超分成功應用到了3D模型領域,實力打造自主可控、安全可信的國產軟硬件一體化解決方案,為企業單位和專業創作者提供一個安全
    的頭像 發表于 09-06 14:11 ?599次閱讀

    盤古ai模型用的什么芯片?

    ,具有自學能力,能夠自動從大量數據中提取并學習規律,從而實現人工智能的基礎。 盤古AI模型采用了GPU(圖形處理器)加速技術,GPU優化的算法使其在短時間內能夠完成非常龐大的數據集的
    的頭像 發表于 08-31 09:01 ?2411次閱讀

    沐曦基于曦云C500發布國產首臺GPU千億參數大模型訓推一體機

    首臺GPU千億參數大模型訓推一體機由數字寧夏倡議發起技術攻關,基于沐曦最新發布的曦云C500旗艦GPU芯片提供的算力支持、智譜華章的AI模型
    的頭像 發表于 08-21 14:41 ?2921次閱讀

    模型AI算力劇增,誰來扛國產GPU大旗?

    眾所周知,人工智能(尤其是大模型新興應用領域)對AI算力需求超過了通用CPU的摩爾定律的發展速度,而異構計算的性能增長恰恰能夠滿足這些新興領域的算力需求發展方向和趨勢。
    的頭像 發表于 08-15 16:51 ?1127次閱讀
    大<b class='flag-5'>模型</b><b class='flag-5'>AI</b>算力劇增,誰來扛<b class='flag-5'>國產</b><b class='flag-5'>GPU</b>大旗?

    AI模型在醫療領域起飛

    模型,包括在醫療領域。 ? 眾多企業宣布推出醫療大模型 ? 日前,京東發布了京東言犀大模型、言犀AI開發計算平臺,同時基于京東言犀通用大
    的頭像 發表于 07-25 00:12 ?1495次閱讀
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>