GPU如何突破算力供需瓶頸

近日，2023中國算力大會(huì )在寧夏銀川舉行，沐曦集成電路（上海）有限公司（下稱(chēng)“沐曦”）聯(lián)合創(chuàng )始人、CTO兼首席硬件架構師彭莉受邀出席由中國信息通信研究院、中國互聯(lián)網(wǎng)協(xié)會(huì )聯(lián)合舉辦的智能計算論壇，并擔任演講嘉賓，探討后GPT時(shí)代算力需求激增帶來(lái)的挑戰以及GPU如何突破算力供需瓶頸、推動(dòng)人工智能產(chǎn)業(yè)普惠化發(fā)展。

沐曦聯(lián)合創(chuàng )始人、CTO兼首席硬件架構師彭莉

發(fā)表主題演講

在題為“后GPT時(shí)代的算力需求”的演講中，彭莉預測大模型商業(yè)模式將分為通用計算市場(chǎng)和專(zhuān)用定制化市場(chǎng)兩大類(lèi)：在通用計算市場(chǎng)，大語(yǔ)言模型將終結多數NLP任務(wù)，NLP技術(shù)水平被強行拉平，通用大模型或被大廠(chǎng)“壟斷”；而在專(zhuān)用定制化市場(chǎng)，開(kāi)源大模型將呈現百花齊放的發(fā)展態(tài)勢，可針對私有數據、敏感數據進(jìn)行快速定制和領(lǐng)域對齊，大模型開(kāi)發(fā)和部署能力將趨于普及化。

彭莉指出，區別于傳統AI，生成式AI技術(shù)可以借助接入類(lèi)ChatGPT應用發(fā)揮顯著(zhù)的技術(shù)優(yōu)勢，為大語(yǔ)言模型的開(kāi)發(fā)降本增效，同時(shí)也對算力提出更高和更迫切的要求。由于大模型訓練的一次性成本被大規模推理攤薄，大模型盈利的一大難點(diǎn)是降低推理成本。沐曦致力于打造高效通用的GPU芯片及軟硬件一體的生態(tài)解決方案，通過(guò)GPU軟件生態(tài)優(yōu)勢、硬件架構優(yōu)勢、先進(jìn)封裝等方面全面提升GPU算力，降低大模型訓練和推理的算力成本，在產(chǎn)品路線(xiàn)和生態(tài)戰略上均可滿(mǎn)足大模型對算力基礎設施的大規模需求，為推進(jìn)智能產(chǎn)業(yè)可持續發(fā)展打造堅實(shí)的算力底座。

審核編輯：彭菁