GPT-4全面接入Office！人工智能迎來發展高潮，國內算力芯片、接口IP、服務器的機會和挑戰！

電子發燒友網報道（文/李彎彎、吳子鵬）從OpenAI去年底推出ChatGPT以來，人工智能領域持續火熱。近日，高潮更是一波接著一波，首先是OpenAI繼ChatGPT之后又推出了更強大的大型多模態模型GPT-4，接著是國內百度終于正式發布了其大型語言模型文心一言。昨日，微軟宣布將GPT-4全面接入所有辦公軟件，更是炸翻全場。

種種跡象表明，大模型的應用即將走進千家萬戶，人工智能產業發展迎來高潮。大家知道，無論是ChatGPT、文心一言，還是其他生成式AI模型的訓練和部署，對算力都有很高的要求。那么目前國內在這方面具備怎樣的條件？大模型的發展將帶來怎樣的機會和挑戰？帶著這些問題，電子發燒友最近對多家大算力芯片、接口IP、服務器企業做了深度調研。

大算力芯片的機會和挑戰

目前，全球大模型的訓練基本都是采用英偉達的GPU。OpenAI之前推出的ChatGPT，以及最近發布的GPT-4，都是在大量英偉達A100的基礎上訓練而成。據說微軟的Azure云服務為ChatGPT構建了超過1萬枚英偉達A100GPU芯片的AI計算集群。

國內大模型的訓練也基本倚賴英偉達的GPU，業內人士認為，想要做好AI大模型，1萬枚英偉達A100芯片是門檻。然而國內擁有1萬枚英偉達A100芯片的企業少之又少。從這個層面來看，國內企業想要布局類似ChatGPT這樣大規模的模型短期來看還很難。

從長遠來看，未來大模型的研發和部署是必然趨勢，而每個大模型訓練和部署的背后，都有幾萬個GPU在支持?？上攵?，未來隨著這方面的研發和應用的普及，通用GPU市場需求將會迎來爆發式增長。這對GPU企業來說將會是巨大的機會。

登臨科技聯合創始人王平在接受電子發燒友采訪的時候表示：“以電力為例，可以很清楚的看到這個市場未來的變化。幾十年前，電力只是用在一些小用量的場景，隨著電力的供給越來越多，電器也越來越多的時候，最后電力就成了一個基本設施?？梢哉f，算力也是朝著基礎設施的方向在發展。而現在通用GPU還遠沒有到爆炸式需求的階段?！?br />
然而從目前的情況來看，國內的GPU還難以在大模型的訓練中承擔起重要責任，不過可以看到有不少企業在該領域持續耕耘。對于國內的GPU企業可以怎么做，才能在抓住ChatGPT帶來的這波機會，如何為國內大模型的發展提供算力支持？

在接受電子發燒友采訪的時候，燧原科技創始人兼COO張亞林談到了幾點：首先，企業需要能夠提供更高性價比的算力，從ChatGPT訓練就能看到算力的成本有多高，從這個角度來看，并不是所有人都能玩得起這場游戲。

其次，大算力芯片企業需要能夠站到系統的角度思考問題，最終算力的呈現是一個集群系統，這里面包含幾千張加速卡，幾千顆芯片，大量的互聯和存儲，很多服務器。整個系統的設計、調動能力、是否易用跟芯片的設計會不太一樣。這樣更能夠提供滿足用戶需求的產品。

在人工智能算力領域，燧原科技已經有很深的積累。目前已經迭代兩代訓練和推理產品，第三代在研發中。此外，燧原科技已經在科研領域和智慧城市的應用中落地了訓練和推理的超千卡算力集群。張亞林表示，類似ChatGPT這樣的AIGC生成式模型，對于燧原科技而言是個機遇，公司可以把已經積累的系統集群的經驗推廣到更多的客戶賽道上，幫助客戶使能更多大模型的生成。

面對與國際巨頭的差距，天數智芯對電子發燒友表示，堅持通用GPU發展的路線，全面覆蓋訓練和推理兩條產品發展主線。結合行業解決方案為各行業、各產業發展提供完整成熟的軟硬件一體化方案。在未來的產品發展上，逐步縮小和國際先進產品的差距，為國內人工智能發展提供強有力的支持。

天數智芯自2021年3月推出云端訓練通用GPU產品--天垓100，并于2022年12月推出云端推理通用GPU產品--智鎧100，截止目前，天數智芯訂單規模就已經突破5億元。目前，基于天垓100訓練的模型種類超過了兩百種。天數智芯表示，公司在訓練芯片上堅持通用GPU架構、主流生態兼容等發展路線，對于通用性、兼容性、安全性等方面都進行了支持，可以為ChatGPT的發展提供有效安全的算力底座。

對于以ChatGPT為代表的大模型訓練和部署，對通用GPU或者算力的高要求，登臨科技聯合創始人王平談到，從ChatGPT用戶數超1億，日訪問量幾千萬的數據來看，它的運營成本相當高，每天的電費達到幾十萬人民幣量級。他認為，這時候計算效率很重要，如果計算架構相比于傳統的GPGPU更有優勢的話，它在計算效率上也就會更有優勢。

就比如登臨科技的一些計算密度更大的產品。登臨科技是一家專注于高性能通用計算平臺的芯片研發與技術創新的公司，登臨自主研發的GPU+架構正式采用了軟件定義的片內異構體系，目前首款基于GPU+的系列產品—Goldwasser已在云至邊緣的各個應用場景實現規?；涞?。據王平介紹，登臨科技希望通過異構，從由點及面在一些足夠大的市場領域，把產品做到比英偉達同系列產品更具性價比優勢，甚至超過英偉達。

高速接口IP的機會和挑戰

就如上文所言，大模型的訓練需要大量的GPU，ChatGPT的訓練就使用了1萬張英偉達的高端GPU。然而從訓練的角度來看，計算性能再好的GPU芯片如A100如果無法集群在一起去訓練，那么訓練一個類ChatGPT的大模型可能需要上百年。因此，AI大模型的訓練對高速接口IP是一個巨大的挑戰，也是一個巨大的機遇。

在以ChatGPT為代表的生成式AI大模型產業中，接口IP能夠發揮哪些作用呢？奎芯科技市場及戰略副總裁唐睿在接受電子發燒友網采訪時談到了幾點：

首先是芯片上的互聯接口，也就是Die to Die類型的互聯接口IP，包括UCIe等，用以擴充單芯片的計算能力；其次是Chip to Chip類型的互聯接口IP，包括SerDes/PCIe/CXL等，能夠加快芯片之間的互聯和數據交換，滿足更高帶寬的需求；此外還有內存接口IP，包括SATA、DDR、HBM等，能夠用于打造更高性能的存儲產品，幫助類ChatGPT存儲和交換大規模的數據；再上一層就是數據通訊接口的接口IP。因此，從訓練的角度來看，類ChatGPT應用的爆發，能夠帶來非常大的接口IP需求。

奎芯科技成立于2021年，目前已經推出的高速接口IP組合包括USB、PCIe、SATA、SerDes、MIPI、DDR、HDMI、DP、HBM等豐富的類型。唐睿指出，從技術上來看，國產接口IP廠商確實還處于追趕的位置，不過這種差距已經越來越小。2023年，奎芯科技將會推出一系列性能達到國際領先水平的接口IP產品，包括HBM3以及其他領先的D2D類型的互聯接口IP。

當前，AI大模型訓練所用到的算力集群基本上都是基于英偉達通用算力芯片來打造，在這方面國產通用算力芯片還存在一定的性能差距。唐睿表示，國產高性能計算芯片還是有機會的，AI大模型并不是一個近期出現的新鮮事物，近些年國內AI產業已經在跟進這一趨勢，只是類ChatGPT類型應用背后的大模型參數規模更大。

針對這方面的需求，國內芯片產業也早就啟動了這方面的布局，包括奎芯科技所在的接口IP賽道，都在向這個方向努力。不過，從IP研發到芯片設計，再到應用落地，這中間會有一個時間差。實際上，國外的公司也是在用之前的芯片通過互聯在做這方面的硬件支持。

服務器廠商的機會和挑戰

大模型的訓練和部署離不開服務器的支持。微軟Azure AI基礎設施總經理尼迪·卡佩爾表示，他們構建了一個系統架構，可以在非常大的范圍內運行且十分可靠，這是ChatGPT成功的重要原因。云服務依賴于數千個不同的部件，包括服務器、管道、不同的金屬和礦物等。

近年來，在全球數字化、智能化的浪潮下，智能手機、自動駕駛、數據中心、圖像識別等應用推動AI服務器市場迅速成長。根據IDC數據，2021年全球AI服務器市場規模已達到 145億美元，并預計2025年將超過260億美元。

近段時間ChatGPT概念的火熱，更是對算力基礎設施的需求起到了帶動作用。寧暢副總裁兼CTO趙雷此前在接受媒體采訪的時候表示，ChatGPT的訓練和部署，都需要大量智能計算數據存儲以及傳輸資源，計算機基礎設施、算力等上游技術將因此受益。

寧暢是一家集研發、生產、部署、運維一體的服務器廠商，及IT系統解決方案提供商。該公司很早就開始著重發力于人工智能服務器和液冷服務器。趙雷表示，公司目前在用的、在研的人工智能和液冷服務器，包括今年推出的浸沒液冷服務器，剛好跟上算力高速增長的市場需求。公司隨時準備著為客戶提供合適的高算力產品和解決方案。

在人工智能服務器方面，寧暢已經推出多款產品，包括X620 G50、X660 G45、X640 G40、X620 G40。日前，百度正式發布大型語言模型文心一言，隨后寧暢聯合百度宣布寧暢AI服務器支持百度文心一言，寧暢憑借AI服務器產品及定制化服務，為百度文心一言提供算力保障。

目前國內有不少優秀的服務器廠商，除了上述提到的寧暢，還有浪潮信息、中科曙光等。不過整體來看，國內在算力的提供商仍然存在瓶頸，比如總體算力不夠，算力分布不均。也就是說存在部分客戶算力過剩，部分客戶算力不足，或者A時間算力過剩，B時間算力不足的情況。短期來看，這個問題要靠云技術解決，長期來看是要提供過剩的算力。也就是說，需要云技術去平衡協調算力不均勻的問題，還需要提高算力、算力效率等。

另外還有算力成本的問題，雖然目前每單位算力單價已經下降，但是過去幾年服務器的平均售價一直上漲。趙雷認為，可能算力類型單一，不太能夠有效地支撐高速增長的模式，可能要有各種各樣不同類型的算力。比如ChatGPT，是不是可以做針對GPT模型專門的ASIC。算力的應用類型越窄，它的效率就會越高，越通用效率就越低。

總結

顯然，隨著ChatGPT、GPT-4及文心一言等大型語言模型的發布，以及未來大模型在各個領域中實現部署應用，人們離期待已久的通用人工智能也就越來越近。而大模型的研發和應用部署，也將給算力芯片、接口IP、服務器等產業帶來前所未有的機會。同時國內在這些領域具備自己的獨特優勢，也面臨著諸多挑戰。這將會是一場持久戰。