第七屆集微半導體峰會于6月初在廈門成功舉辦,上海天數智芯半導體有限公司(以下簡稱“天數智芯”)產品線總裁鄒翾受邀參加“集微通用芯片行業應用峰會”,發表了題為“國產GPU助力大模型的實踐”的主題演講,全面介紹了天數智芯基于自研通用GPU的全棧式集群解決方案及其在支持大模型上的具體實踐。
天數智芯產品線總裁鄒翾
鄒翾指出,順應大模型的發展潮流,天數智芯依托通用GPU架構,從訓練和推理兩個角度為客戶提供支撐,全力打造高性價比、通用性的全棧式集群解決方案,為大模型時代提供強大算力底座。
據介紹,天數智芯的天垓、智鎧系列通用GPU產品具有高性能、廣通用、開發成本低的特點,廣泛支持DeepSpeed、Colossal、BM Train等各種大模型框架,基于天垓、智鎧加速卡的算力集群方案不僅能夠有效支持LLaMa、GPT-2、CPM、GLM等主流AIGC大模型的Pretrain和Finetune,還適配了清華、智源、復旦等在內的國內多個研究機構的開源項目,為行業伙伴提供一站式的大模型算力及賦能服務。同時面向大模型推理側的一體機,性價比超過國內現有市場主流產品。
為全面助力大模型的發展,天數智芯還圍繞底層技術支撐做了大量功課。鄒翾介紹說,一方面天數智芯通過最大化數據復用、可擴展大矩陣計算和存算異步、混合精度Transformer加速、高效高帶寬顯存及P2P等方式來提升芯片性能。另一方面,持續提升基礎軟件實力,在支持前沿大模型、混合并行策略、新型Att加速、兼容APIs、模型壓縮等輕量化部署方面開展布局。
鄒翾表示,不論從應用還是研發角度來看,大模型需求會持續走高,天數智芯將堅持以服務國家戰略為主線,始終致力于自主開發用戶易用的高性能通用GPU產品,不斷升級算力解決方案,適配支持更高效、更復雜算法的大模型,為我國大模型創新發展、應用落地提供更加堅實的算力支撐。
關于天數智芯
上海天數智芯半導體有限公司(簡稱“天數智芯”)是中國領先的通用GPU 高端芯片及超級算力系統提供商。天數智芯以“服務國家戰略”為己任,堅持“四個面向”,致力于開發自主可控、國際領先的高性能通用GPU產品,探索通用GPU趕超發展道路,加快建設自主產業生態,為全產業提供高端算力解決方案。未來,天數智芯將堅持中國特色的自主自強創新發展道路,打造更可信、更高效、更綠色的世界一流算力引擎,賦能千行百業數字化轉型,促進我國數字經濟高質量發展,開啟中國引領世界走向元宇宙、數字孿生的嶄新一頁。
END
原文標題:天數智芯通用GPU產品為大模型時代提供強大算力底座
文章出處:【微信公眾號:天數智芯】歡迎添加關注!文章轉載請注明出處。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
原文標題:天數智芯通用GPU產品為大模型時代提供強大算力底座
文章出處:【微信號:IluvatarCoreX,微信公眾號:天數智芯】歡迎添加關注!文章轉載請注明出處。
相關推薦
來自一位用戶的咨詢,麻煩幫忙解答,越詳細越好,有圖有真相,可以適當提供一些英飛凌解決方案和產品推薦。
用算力強大的SOC來控制汽車是不是能夠
發表于 02-02 07:16
算力
Rykj365
發布于 :2024年01月25日 14:54:52
基于英偉達混合資源及天數智芯混合資源完成訓練的大模型, 也是智源研究院與天數智芯合作取得的最新成果,再次證明了天數智芯通用
發表于 11-30 13:10
?1560次閱讀
)
M4N-Dock開發板(已安裝好風扇、適配器接口)
產品基本介紹
? ?M4N-Dock 是 Sipeed 公司推出的端側混合精度高算力邊緣計算盒子,搭載愛芯元智第三代高能效比
發表于 11-12 10:58
城興科技發展有限公司(以下簡稱“ 邵陽城興 科技 ”)進行了邵陽市數字產業重大項目簽約。 天數智芯致力于開發自主可控、國際領先的高性能通用 GPU 產品,先后發布了天垓100、智鎧10
發表于 09-27 16:05
?1212次閱讀
大模型落地實踐》的主題演講,深入介紹了天數智芯通用GPU產品以及自主算力解決方案,為大模型創新發
發表于 09-07 17:15
?710次閱讀
生態共創計劃,天數智芯作為重要合作伙伴參與此次發布儀式。 飛槳+ 文心大模型硬件生態共創計劃發布儀式 天數智芯是國內首家實現通用GPU量產的
發表于 08-17 22:15
?996次閱讀
近日,上海天數智芯半導體有限公司(簡稱 “天數智芯”)與 上海愛可生信息技術股份有限公司(以下簡稱 “愛可生”) 完成產品兼容性 互 認證。 結論顯示: 天數智芯
發表于 08-12 14:30
?1634次閱讀
《 國產 GPU的大模型實踐 》 的主題演講 , 全面介紹了天數智芯 通用 GPU產品特色 以
發表于 07-17 22:25
?442次閱讀
7月6日-8日,為期三天的2023世界人工智能大會(WAIC)圓滿落幕!作為國內率先實現通用GPU量產應用的硬科技企業,天數智芯重磅展示了天垓、智鎧系列通用
發表于 07-11 23:05
?961次閱讀
訊飛星火和華為昇騰強強聯合,推動我國通用智能新底座的建設。這是一次強有力的沖擊,對于人工智能產業的發展來說,可謂是意義重大。你有沒有想過,大模型能力躍遷背后,到底需要怎樣的支撐呢? 訊飛星火大
發表于 07-11 10:56
?262次閱讀
而言,核心三要素是算法、數據和算力,其中算力是底座。 ?對于算力而言,目前行業基本的共識是基于通用GPU來構建AI大模型的算力集群,上海天數
發表于 07-11 01:07
?3146次閱讀
媒體、參會代表、專業觀眾駐足圍觀,人氣爆表,反響熱烈! 展臺現場 國產GPU落地問題一直是困擾產業界的挑戰。天數智芯先后發布了通用GPU訓練產品
發表于 07-07 08:20
?479次閱讀
近日,上海天數智芯半導體有限公司(簡稱“天數智芯”)與上海云脈芯聯科技有限公司(簡稱“云脈芯聯”)完成產品兼容性認證。在AI大模型智算中心場景下,雙方共同對
發表于 06-30 17:50
?1035次閱讀
的Aquila語言基礎模型,使用代碼數據進行繼續訓練,穩定運行19天,模型收斂效果符合預期,證明天數智芯有支持百億級參數大模型訓練的能力。 在北京市海淀區的大力支持下,智源研究院、
發表于 06-12 15:23
?729次閱讀
評論