大模型引爆市場，訓推一體機成算力行業趨勢

電子發燒友網報道（文/李彎彎）2022年底，以ChatGPT為標志的生成式AI場景引爆市場，引發了全行業對于AI大模型等技術的關注，AI發展跨越拐點，大模型逐漸成為新一輪科技革命和產業變革的重要驅動力量。然而大模型的訓練和部署需要大量的計算資源。

訓推一體機成為算力行業趨勢

今年7月，華為攜手伙伴聯合發布昇騰AI大模型訓推一體化解決方案，加速大模型在各行業應用落地，并有23家昇騰AI伙伴推出AI服務器、智能邊緣與終端新品，共同為行業智能化升級提供豐富的產品與解決方案。

昇騰一體機主要是為特定的AI應用設計的集成解決方案。它們整合了昇騰AI處理器、軟件平臺、開發工具和其他關鍵組件，如存儲和網絡設施，以提供針對特定AI任務（如深度學習、圖像處理）的優化性能。這類設備通常更加用戶友好，支持即插即用，特別適合于那些需要快速部署并立即投入使用AI技術的場景。

業界認為，訓推一體機是適合我國市場的優選解決方案。當前我國大模型產業正高速發展，與此同時，技術變革帶來的大模型應用研發周期長、研發門檻高、業務安全隱患等問題一定程度上阻礙里技術落地，尤其是在中國存在大量的G 端和B 端客戶，而訓推一體機很好地解決了這些痛點：

開箱即用，直接享用新技術成果。訓推一體機可實現定制化的大模型應用軟硬一體解決方案，一般可集成優選的成熟大模型產品，廠家可以協助大模型預訓練定制、微調定制、訓練標注、技術培訓等；

2、簡化部署，一般一體機均會提前做好適配調優，算法遷移，幫助客戶簡化大模型部署；3、數據安全，我國高度重視數據安全，尤其是政企客戶，常規鏈接通用大模型存在數據泄露安全隱患，政府等客戶更希望能本地化部署，訓推一體機可完成本地訓練和推理，解決大模型應用數據安全難題，試用于高安全要求場景和客戶。

對于訓推一體機市場需求情況，云從科技此前對媒體表示，對于國產信創需求的增加和對合規、私有化部署的重視，對數據要素和基于大模型的應用側變化的重視，預計將會涌現出較大的應用場景，市場規模龐大，尤其在IT部分的升級和場景需求明確的私有化部署方面，將有巨大的市場機會。

訓推一體機已在多個場景實現落地

據介紹，昇騰AI訓推一體機單體價值量比昇騰服務器提高了很多，可以將其理解為昇騰服務器疊加大模型私有化部署遷移。根據中國招標投標公共服務平臺公告，中貝通信和恒為科技分別中標了AI算力一體機采購項目，該項目采購總價為21.12億元，單價為440萬元。

眾多廠商與華為攜手推出大模型訓推一體機。云從科技表示，公司正在與華為合作推出大模型訓推一體機，方式是共同打造產品。華為的代工廠會將芯片與云從的大模型集成，然后共同推廣給客戶。云從在這個合作中不僅賣產品，還會提供其他應用開發相關的服務。

整個市場空間不同于以往的分成模式，而是通過聯合推廣的方式，與華為各地銷售團隊一起推廣。價格上訓推一體機大約在三四百萬元的范圍內，在中檔旗艦訓練部分報價大致在一百萬元以下，更低端的一體機報價大約在30萬左右。

云天勵飛近日表示，公司聯合華為于今年9月推出了大模型訓推一體化產品—云天天書大模型訓推一體機。該產品內置了公司自主研發的天書千億級大模型。通過與昇騰硬件加速平臺的聯合深度優化，并集成“開箱即用”系列訓推工具，產品可滿足面向多業務場景的大模型高并發高能效處理、業務快速上線的需求。同時，產品具有豐富的接口，支持靈活的二次開發和敏捷部署。

智譜AI、昇騰、華鯤振宇在今年9月也聯合預發布了三款智譜GLM昇騰大模型一體機，包括智譜-昇騰ChatGLM訓推一體機、智譜-昇騰CodeGeeX代碼生成一體機、智譜-昇騰ChatGLM推理一體機，旨在推動千行百業數字化轉型升級。

智譜AI CEO張鵬表示，智譜AI專注于大模型的自主創新，一方面通過人工智能助手產品智譜清言將大模型能力開放給公眾，另一方面也踐行“模型即服務”的理念，讓大模型應用落地千行百業。本次基于昇騰AI打造的大模型一體機，相信將為各行各業帶來更便捷、更安全的大模型軟硬件協同解決方案，推動建設更完善、健全的大模型應用生態。

此外，軟通動力、科大訊飛、醫渡科技、安恒信息、中軟國際此前都陸續發布了其昇騰一體機解決方案，有望賦能千行百業。并且不少方案已經在諸多場景中實現落地，例如AI訓練開發一體機解決方案賦能山東大學科研創新、軟通動力AI機器人昇騰一體機助力深圳機場國際快件海關監管EIMS系統智能化升級等。

總結

隨著科技的不斷發展，人工智能已經逐漸滲透到我們生活的方方面面，從智能手機、智能家居到自動駕駛汽車、醫療診斷等，都離不開人工智能技術的支持。大模型的出現更是為更多領域帶來助力，然而算力也因此面臨挑戰。而訓推一體機讓企業能夠便捷的構建解決方案。