<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

聯發科創新技術加速AI生態布局,天璣9300重新定義AI移動體驗

科技快報 ? 來源:科技快報 ? 作者:科技快報 ? 2023-11-10 14:37 ? 次閱讀

全新一代的旗艦級5G生成式AI移動芯片天璣9300已由聯發科發布,其獨特的全大核架構設計,結合新一代AI處理器APU和聯發科的先進技術,為生成式AI應用提供強勁的性能,給用戶帶來精彩紛呈的生成式AI體驗。此外,聯發科還與眾多AI公司進行深度合作,共同構建了在移動環境中的AI生態。

wKgaomVNz7WAAUPXAAQ3TenYVuU999.png

全新第七代AI處理器APU 790,為生成式AI而生

隨著用戶對生成式AI應用需求日益增長,端側生成式AI便捷、安全性等優勢便凸顯出來。當然,部署端側AI大語言模型需要強大的AI算力支撐。

天璣9300搭載聯發科第七代AI處理器APU 790,為生成式AI而設計,擁有硬件級的生成式AI引擎,可以實現更加高速且安全的邊緣AI計算,深度適配Transformer模型進行算子加速,速度是上一代的8倍。

wKgZomVNz7WAdfNmAACAKjC3qno56.jpeg

同時APU 790的性能和能效得到顯著提升,整數運算和浮點運算能力提升至前一代的2倍,蘇黎世ETHZv5.1 AI-Benchmark Mobile Soc跑分2109 分,AI性能成功霸榜,功耗更是降低了45%。在強大的AI性能支持下,1秒以內即可生成圖片。天璣9300強悍的AI算力、創新的全大核CPU架構和Immortalis-G720 GPU都為端側運行生成式AI打下堅實的性能基礎。

wKgaomVNz7WAb2tCAADeRBHfMik368.png

同時,基于億級參數大語言模型的特性,聯發科開發了混合精度 INT4 量化技術,結合聯發科特有的內存硬件壓縮技術NeuroPilot Compression,可以更高效地利用內存帶寬,大幅減少AI大模型占用終端內存,為端側運行AI大語言模型突破手機內存限制,助力更大參數模型在端側落地。

基于以上,天璣9300首次在vivo旗艦手機端側落地70億參數AI大語言模型,處理速度可達20 Tokens每秒。不僅如此,聯發科突破了行業極限,已經與vivo成功在端側運行了130億參數的大語言模型。甚至,天璣9300已率先實現在移動芯片上成功運行330億參數的AI大語言模型,領跑業界。

wKgZomVNz7aADOArAAPPtwbJuWc067.png

天璣9300還支持多模態生成式AI大模型,打造出“文生詩”“文生圖”“文生趣圖”等豐富有趣的端側體驗。

wKgaomVNz7aAKzI3AAGaCv5Plyo389.png

可見,天璣9300的AI算力和端側生成式AI能力已領先行業,足以讓用戶隨時隨地AI創造力全飆。

生成式AI模型端側技能擴充,帶來全面、豐富的端側生成式AI體驗

與云側生成式AI解決方案不同,由于硬件環境的差異,部署端側生成式AI也需要考慮手機內存、存儲容量、負載上限等因素。為此,聯發科率先提出了先進的解決方案。

APU 790 支持生成式AI模型端側技能擴充技術NeuroPilot Fusion,它可以基于基礎大模型持續在端側進行低秩自適應(LoRA,Low-Rank Adaptation)融合,在混合式AI的賦能下,可以基于1個基礎大模型,通過云端訓練,在端側完成N個功能的融合,賦予基礎大模型更全面、更豐富的生成式AI應用能力。

wKgZomVNz7aAKSZYAABaWKSYnzQ697.png

比如基于AI模型端側技能擴充技術的“圖生GIF動圖”功能,用戶可以根據一張照片更換不同的風格甚至表情,玩出個人專屬風格的表情包,秒變表情包小達人。

wKgaomVNz7eALNt1AACRrudsS3I35.jpeg

AI開發平臺NeuroPilot加速端側生成式AI生態布局

基于強大的AI算力和先進的內存硬件壓縮技術、AI模型端側技能擴充等技術,天璣9300的APU 790將端側生成式AI的速度和廣度提升到了全新的水平。同時,為加速生成式AI在端側部署和普及,聯發科也憑借其AI開發平臺NeuroPilot構建了豐富的AI生態,從底層硬件到工具鏈、模型中心以及開發生態,助力生態快速、高效地部署端側生成式AI應用。

wKgZomVNz7eAJrk7AAFtyqnYvf411.jpeg

AI開發平臺NeuroPilot支持Android、Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

wKgaomVNz7eAat6bAAA8z6By0Gs601.png

更為重要的是,NeuroPilot擁有一套完整且先進的工具鏈,除了NeuroPilot Compression低秩自適應融合,還有Speculative Decoding推測解碼加速和模型優化與轉化技術。

wKgZomVNz7eAIcNqAADSWumX36o81.jpeg

聯發科的天璣開發者中心還可提供端側生成式AI落地一站式開發者資源,分享端側模型部署案例提升開發效率。目前已有20多個生成式AI合作伙伴加入生態共建。

聯發科還攜手業界合同伙伴打造精彩的生成式AI應用體驗。虹軟的生成式AI超級分辨率技術基于天璣9300 APU 邊緣計算能力,相比前代,性能可提升30%。在25倍放大的拍攝時,利用生成式AI超級分辨率技術,可以拍出細節更真實的圖像效果。

wKgaomVNz7iANVhKAABQdQkk4sE535.png

極感科技的生成式AI語意搜索技術也基于天璣9300 APU邊緣計算能力,對比前代,性能可提升260%。比如在手機的相冊中搜索照片,描述照片的內容即可在毫秒內精準搜到對應的照片。而且在斷網狀態下也能搜索,隱私也不會泄露。

Morpho的視頻通話實時數字分身生成技術,同樣基于天璣9300 APU邊緣計算能力,對比前代,性能提升26%。一般的虛擬人像生成器需手動選取容貌樣式花費時間。但基于視頻通話實時數字分身生成技術,用戶操作容易,僅需打開攝像頭單幀圖片即可瞬間生成數字分身。

基于天璣9300 APU邊緣計算能力,慧鯉生成式AI防眩光技術性能可提升60%。在此技術加持下,無論是室外還是室內,在拍攝時如有眩光,只要輕松一暗即可消除眩光干擾。

可以看到,在AI端云融合的趨勢下,天璣9300在AI算力、生成式AI用戶體驗和生態方面展現出全面的優勢,為新一代旗艦級端側生成式AI體驗樹立了新的標桿,強大生成式AI就要用天璣。

wKgZomVNz76AckBEAAQBOXjl-Yk662.png

與此同時,以聯發科為典型的生成式AI領先者們正攜手并進,通過不間斷的技術創新和周全的生態布局來推進混合式AI計算,為端側生成式AI部署找出一條獨特且高效的道路,全力以赴的推廣生成式AI在端側應用,旨在讓更多普通用戶享受到個性化的端側AI體驗,進而構建出全場景智能新體驗,讓科技的益處觸及更大的民眾。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 手機
    +關注

    關注

    34

    文章

    6699

    瀏覽量

    155781
  • AI
    AI
    +關注

    關注

    87

    文章

    27178

    瀏覽量

    264953
  • 天璣9000
    +關注

    關注

    1

    文章

    46

    瀏覽量

    4508
收藏 人收藏

    評論

    相關推薦

    XY6833 5G AI 智能模塊

    模塊
    jf_87063710
    發布于 :2024年05月24日 11:30:51

    MT6983_9000 5G移動芯片

    芯片
    jf_87063710
    發布于 :2024年05月21日 09:57:28

    XY6853 5G AI 智能模塊

    模塊
    jf_87063710
    發布于 :2024年05月16日 14:41:00

    聯發科天璣9300+登場,端側生成式AI刷新業界最高速

    聯發科旗艦芯的新一代力作,天璣9300+秉承了天璣系列的突破創新精神,不僅延續了先進的全大核架構和強大的生成式AI能力,更是首次在端側實現了Speculative Decoding AI
    的頭像 發表于 05-08 21:24 ?813次閱讀
    聯發科天璣<b class='flag-5'>9300</b>+登場,端側生成式<b class='flag-5'>AI</b>刷新業界最高速

    MediaTek天璣9300+ ,全大核性能拉滿,生成式AI能力更強

    設計,令其性能突破。這一次,9300+不僅提升全大核CPU性能,還重新定義了生成式AI的端側能力。只有手機SoC廠商引領軟硬件和生態構建,生成式AI
    的頭像 發表于 05-08 11:02 ?411次閱讀
    MediaTek天璣<b class='flag-5'>9300</b>+ ,全大核性能拉滿,生成式<b class='flag-5'>AI</b>能力更強

    天璣9300+正式亮相,生成式AI能力堪稱旗艦天花板!

    力作,天璣9300+以先進的全大核架構和強大生成式AI引擎,帶來頂級端側AI算力,在端側支持AI 推測解碼加速
    的頭像 發表于 05-07 18:25 ?535次閱讀
    天璣<b class='flag-5'>9300</b>+正式亮相,生成式<b class='flag-5'>AI</b>能力堪稱旗艦天花板!

    XY6833 5G AI 智能模塊

    智能模塊
    jf_87063710
    發布于 :2024年04月28日 09:30:28

    1200雙5G

    芯片
    jf_87063710
    發布于 :2024年03月21日 10:28:02

    墨芯人工智能CEO王維:需要重新定義和設計AI計算機

    AI時代,我們需要重新定義和設計AI計算機。僅依靠硅基的摩爾定律,2年翻一倍的線性增長的算力供給遠不能滿足指數級增長的需求問題。
    的頭像 發表于 01-12 11:12 ?742次閱讀

    MT6877( 900)平臺 —— XY6877 5G AI 智能模塊

    模塊
    jf_87063710
    發布于 :2024年01月12日 09:37:42

    5G AI 智能芯片—XY6877

    智能芯片
    jf_87063710
    發布于 :2024年01月03日 10:12:51

    AI重新定義PC體驗

    我們正在進入生成式AI時代。 生成式AI 將利用神經網絡賦能全新體驗和應用場景,這是一個巨大飛躍,但僅依靠云端是無法高效實現的。生成式AI將通過打造全新品類的高性能、高能效AI PC變
    的頭像 發表于 12-06 10:15 ?311次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>重新定義</b>PC體驗

    強悍全大核重新定義游戲體驗!天璣9300就是旗艦標桿

    ?00的全大核CPU架構設計,帶來性能、能效的全面升級,同時這次還在游戲技術和游戲生態方面帶來了不少驚喜。通過在硬件、軟件、生態等多方面的大力投入,聯發科已成功地將天璣9300打造為手
    的頭像 發表于 11-10 15:10 ?360次閱讀
    強悍全大核<b class='flag-5'>重新定義</b>游戲體驗!天璣<b class='flag-5'>9300</b>就是旗艦標桿

    技術生態贏未來,第二屆OpenHarmony技術大會圓滿舉行

    ,OpenHarmony一直聚焦技術創新,持續迭代升級技術版本,并通過開源生態共建,不斷提升數字經濟“根技術”在萬物智時代的影響力,讓Op
    發表于 11-04 14:59

    8788WA-F MTK 4G AI核心板

    核心板
    jf_87063710
    發布于 :2023年10月07日 09:43:24
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>