從訓練到推理，AI 大模型發展有哪五大趨勢？IDC專家最新解讀

2024年兩會召開后，兩會報告把加快發展新質生產力列為十大任務舉措之首。新質生產力的核心是用新技術促進產業高端化、智能化和綠色化。ICT產業是發展新質生產力的核心支撐要求，ICT產業正在進入AI無處不在的大轉型階段。

縱觀全球，2024年中國GDP增長預期5%，全球平均增長率達到2.6%，美國預期增長2%，印度最為樂觀預期今年的GDP增長達到6.2%。從科教興國的戰略看，新質生產力主要涉及的是數字中國的底層基礎技術，AI 無處不在，從2022年，ChateGPT3.5發布以來，全球掀起了生成式AI 的熱潮。到了2024年，大家都在考慮生成式AI到底給企業帶來了哪些價值。

IDC最新的調研顯示，28%的受訪者標識在過去投資了生成是AI不到一年時間就看到了投資回報，每投資1美元，平均可以獲得3.5倍的投資回報，投資回報率最高的用例是自動化IT任務，達到46.5%，也有高達27.1%受訪者選擇產品與服務創新。AI大模型在使用當中，實際應用開發過程中，開源大模型和商業化模型同時并存，開發者更加傾向于使用開源模型。而且IDC調研顯示，數據倉庫作為生成是AI 的數據平臺發揮著主導作用。

生成式AI支出在全球和中國有什么差異？2024年AI大模型將呈現哪些新的發展趨勢？全球AI基礎設施市場規模預測？4月16日，在IDC的ICT產業趨勢峰會上，來自IDC中國區副總裁兼首席分析師武連和IDC中國區副總裁鐘振山做了詳細的解讀。

生成式AI在全球和中國高速增長

IDC中國區副總裁兼首席分析師武連峰表示，IDC預測，2024年全球生成式AI支出將會達到387.9億美元，占整體AI比例為16.7%，未來到2027年，生成式AI的全球支持將達到1454.2億美元，年復合增長率會達到55.3%。2024年，中國生成式AI支出將達到35.3億美元，占整體AI比例達到16%，未來到2027年中國生成式AI支出預測將達到129.3億美元。

武連峰指出，整體ICT市場從以增量市場為主轉向以存量市場為主，存量市場是小幅度增長的特征，其中企業移動軟件、IoT連接、可穿戴設備、移動數據服務增長率在10%以下，增量市場主要包括AI平臺、機器人相關的OT服務、AI相關的商業服務等，增長率達到18%到40%之間。

AI大模型未來發展五大趨勢

IDC中國區副總裁鐘振山表示，2024年AI大模型發展呈現五大趨勢。一、中國基礎大模型數量趨于收斂，2024年將卷向產業。去年發布的國內大通用大模型發布達到百款，今年我們調研發現更多面向行業或者場景的大模型出現，關注大模型在行業或者企業應用場景的落地，比如網易有道的子曰、好未來的MathGPT、孩子王的KidsGPT面向教育行業，螞蟻集團推出貞儀、百靈面向金融，還有中科聞歌的雅意大模型面向媒體行業，京東的言犀ChatJD模型面向商業應用場景，加速AI大模型在行業場景的落地。

AI大模型趨勢二、開源和閉源共存，共同促進大模型應用生態走向繁榮。鐘振山表示，更多企業選擇開源的AI大模型來構建自身的應用，現有的開源模型參數大多數是十億到千億之間，基于MoE架構的稀疏大模型參數可以達到萬億參數，微調和多種計算資源并行技術變得十分重要。他強調，AI 進入一個變革期，大家關注三個方向：第一、如何快速部署和開發模型；第二、大模型的壓縮量化蒸餾；第三、如何搭建一套有效的開源生態，以及不同CPU、GPU和XPU的分配。

AI大模型趨勢三、大模型向端側轉移，AI推理引起廣泛關注。蘋果計劃推出更智能的Siri, 為端側大模型生態做積極準備，國內手機廠商華為、小米、Vivo、OPPO和榮耀都推出了手機端大模型，華為手機適配盤古大模型，小米推出MiLM大模型，Vivo適配藍心大模型，OPPO和榮耀分別推出了安第斯大模型和魔方大模型。AI推理將在手機、PC、耳機、音箱、XR、汽車，以及其他可穿戴新型終端上運行。

鐘振山分析說，端側大模型帶來三大優勢：1、本地數據處理效率更高，節省云端服務器帶寬和算力成本；2、對用戶數據可以形成更好的隱私保護；3、端側大模型可以帶來更多交互方式和新體驗。

AI大模型趨勢四、多模態發展可能會促進市場出現殺手級應用?，F在生成式AI 主要在文本、視頻、圖像、音頻領域應用。GPT是基于自然語言技術，對話聊天機器人已經普遍出現，現場他也介紹一家公司通過訓練AI垂類模型，初步實現文字生成劇本+漫畫+動態視頻。

AI大模型趨勢五、新一代AI基礎設施可能成為下一個戰場。新架構主要指靈活調配CPU和GPU資源，邊緣計算將云服務擴展到遠程，私有云解決數據和運營的合規性問題，高性能主要針對高性能計算和人工智能優化的計算和存儲服務，多云集成促進管理和安全的工具，深化合作伙伴關系，主要與行業用戶、基礎設施提供商和ISV搭建橋梁。

鐘振山指出，AI主要用于訓練和推理，從訓練看，還是云上和本地部署為主的投資方式，推理市場主要是云上算力為主，但是本地、邊緣層面都有大量推理算力的需求。推理市場需要一種面向AI工作負載的混合架構模式。

未來隨著生成式AI和大模型在企業內部落地之后，在推理方面的需求會大于訓練的需求。面向AI的基礎架構，包括高性能處理器、下一代存儲、超融合系統、高性能AI網絡，甚至精密計算、數據中心技術，未來的量子計算都可能成為AI基礎架構市場的基石。IDC預測，到2027年，用于邊緣推理的AI服務器價值將超過用于本地推理的服務器價值。

本文由電子發燒友原創，轉載請注明以上來源。微信號zy1052625525。需入群交流，請添加微信elecfans999，投稿爆料采訪需求，請發郵箱zhangying@huaqiu.com。