生成式AI加速向終端側演進，NPU、異構計算提供強大算力支持

電子發燒友網報道（文/李彎彎）生成式AI是一種通過學習大規模數據集生成新的原創內容的新型AI。Bloomberg Intelligence最新報告預測，未來10年內，生成式AI市場規模將從2022年的400億美元，增長至2032年的1.3萬億美元，年復合增速達到42%。

生成式AI向終端快速演進

當前大部分生成式AI的開發工作都集中在云端，然而生成式AI正朝著直接在終端上運行的方向快速演進。高通公司總裁兼CEO安蒙前不久談到，生成式AI將變革終端側的用戶體驗，具備生成式AI能力的PC能夠更好地理解用戶需求，生成式AI還將帶來全新的人車交互方式，支持用戶與汽車直接進行對話。他認為，生成式AI將為各行各業帶來全新機遇。

近段時間，生成式AI在手機、PC等終端設備上已經有不少用例。最近推出的新手機，就有不少生成式AI的應用，比如，OPPO Find X7Ultra的AIGC消除功能，即可極大幅度的降低拍照廢片率，一些路人突然出現的照片，就可以通過該功能成功拯救。三星Galaxy S24系列的通話實時語音翻譯和同傳功能，支持了13種語言之間的無縫翻譯，出國旅行也可輕松交流。

在前不久的MWC展會期間，高通也在現場展示了大量生成式AI的應用案例。相比此前發布的一些手機的AI功能，高通在MWC現場所展示的AI功能更為神奇。如，在圖像生成上，完全不需要一長串的文字標簽，只要給出一個比較準確的描述，Stable Diffusion即可快速生成圖片，與描述相差無幾。比如輸入“一只可愛的卷毛貓”，小龍手機僅耗時不到7秒，就生成了一張卷毛貓在室內的照片，效果十分真實。

另外，圖片生成還能根據個人或藝術偏好，加入自定義元素來展現風格效果。比如在加入“水晶”關鍵詞，并設定好風格權重后，模型就會添加水晶元素，最終生成的圖片就很有賽博風格了。這種使用方式很具想象力，它可以用來制作表情包，甚至在創作平面、視頻內容缺素材時，也能運用AI快速生成符合要求的素材。

異構計算對端側生成式AI的重要性

而這些生成式AI功能在終端設備上的應用離不開芯片的支持。高通認為，對于端側生成式AI來說，異構計算是必要條件。高通在此次MWC 展示的Stable Diffusion快速生成圖片，完全依靠端側算力，它需要NPU進行推理，需要GPU進行圖像渲染，也正是在異構運算的幫助下，才能快速里完成圖片生成，并且能夠保持低功耗，保持手機終端的高電池續航。

近日，高通在其發布的《通過NPU和異構計算開啟終端側生成式AI》報告中，深入闡述了NPU與異構計算，對端側生成式AI使用的重要性。

高通公司提出，隨著生成式AI用例需求在有著多樣化要求和計算需求的垂直領域不斷增加，需要專為AI定制設計的全新計算架構。這首先需要一個面向生成式AI全新設計的神經網絡處理器(NPU)，同時要利用異構處理器組合，比如中央處理器(CPU)和圖形處理器(GPU)。通過結合NPU使用合適的處理器，異構計算能夠實現最佳應用性能、能效和電池續航，賦能全新增強的生成式AI體驗。

NPU專為實現以低功耗加速AI推理而全新打造，其架構隨著新AI算法、模型和用例的發展不斷演進。AI運算上的主要負載是由標量、向量和張量的數學運算，雖說CPU也能對此進行處理，不過處理速度和功耗方面都不理想。NPU正是針對AI運算所打造的新處理單元，高通在2015年推出的第一代AI引擎，在Hexagon NPU集成了標量和向量運算核心，之后又加入了張量運算核心，從而極大加快了AI處理速度，并使AI運算處理的功耗大幅度降低。

寫在最后

如今，生成式AI已經在終端側展示出它的價值，隨著生成式AI在終端側運行的加速，這一趨勢也將推動終端的進一步創新，有望為手機、PC等消費電子市場帶來新一輪生機。同時，生成式AI在終端側的運行需要極大的算力，這也是目前業界需要解決的重大問題。