高通支持Meta Llama 3大語言模型在驍龍旗艦平臺上實現終端側執行

要點

?高通和Meta合作優化Meta Llama 3大語言模型，支持在未來的驍龍旗艦平臺上實現終端側執行。

?開發者將能夠訪問高通AI Hub中的資源和工具，以實現在驍龍平臺上優化運行Llama 3，從而縮短產品上市時間并充分發揮終端側AI的優勢。

?高通技術公司的終端側AI能力包括行業領先的NPU、CPU和GPU技術組合，賦能生成式AI應用實現即時性、增強的可靠性、隱私性、情境感知個性化和成本效益。

今日，高通技術公司和Meta宣布合作，以優化Meta Llama 3大語言模型（LLM）直接在智能手機、PC、VR/AR頭顯和汽車等終端上的執行。在終端側運行Llama 3具有顯著優勢，包括出色的響應能力、增強的隱私性和可靠性，以及為用戶帶來更加個性化的體驗。

高通技術公司高級副總裁兼技術規劃和邊緣解決方案業務總經理馬德嘉（Durga Malladi）表示：

我們贊賞Meta針對Meta Llama 3的開放策略，高通和Meta都致力于賦能開發者，激發AI創新。高通的終端側AI領導力，結合跨不同邊緣終端的廣泛市場布局，使我們能夠在全球范圍內擴大Llama生態系統優勢，賦能客戶、合作伙伴和開發者打造新一代開創性AI體驗。

此次合作旨在賦能OEM廠商和開發者，在搭載未來旗艦驍龍平臺的終端上支持Llama 3,推動生成式AI功能的普及。高通技術公司強大的異構計算能夠無縫利用行業領先的CPU、GPU和NPU處理器，并結合先進的內存架構，賦能客戶、合作伙伴和開發者實現最佳應用性能、能效和電池續航。

開發者可通過高通AI Hub訪問相關資源和工具，以實現在驍龍平臺上優化運行Llama 3。高通AI Hub目前可提供約100個優化AI模型，能夠為開發者縮短產品上市時間，并使他們的應用能夠發揮終端側AI的優勢。

高通技術公司和Meta致力于驅動創新，打造下一代AI體驗。此次合作是雙方持續合作關系的重要里程碑，彰顯了雙方以強大AI能力賦能開發者和用戶的不懈努力。

審核編輯：劉清