<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI大模型會顛覆手機嗎?AI大模型會如何顛覆手機?

阿爾法工場研究院 ? 來源:阿爾法工場研究院 ? 2023-07-24 17:36 ? 次閱讀

導語:大模型在手機端的落地,不僅僅是AI進入人類生活的開始,也是行業發生顛覆,新老巨頭進行更替的時刻。

將大模型變小,再塞進手機,會給人們的生活帶來怎樣的影響?

最近,榮耀成為了國內率先的破局者。

7月12日,榮耀了發布一款“革命性”的大模型手機Magic V2。成為全球首個實現大模型與手機系統融合的廠商。

在榮耀的宣傳中,更加個性化、更注重隱私,并且具備多模態功能的大模型,將會給用戶帶來全新的體驗。

實際上,不只是榮耀,身為手機芯片龍頭企業的高通,也在近期發布了自身的大模型。

在7月初召開的上海WAIC上,人們看到搭載高通第二代驍龍8芯片的安卓手機直接運行參數規模超過10億的Stable Diffusion,且只需要15秒左右就可以出圖。

更重要的是,這樣的運行,是完全本地化的,只依賴手機本身的算力。

從GPT-3.5到GPT-4.0,曾經需要高昂算力,或者只能跑在云端的AI大模型,也開始在智能終端設備中落地。

不過,在興奮之余,冷靜的人總不免會問:我真的需要一個在部署在手機大模型么?還是說這只是手機廠商為挽救疲軟的市場而制造的噱頭?

打破APP的壁壘

在人們討論“大模型手機”之前,一個不可忽略的事實是:當今的各類大模型AI,如chatGPT、新必應等,實際上早已推出了各自的手機版APP。

通過這一個個APP,在手機上運行大模型,早已不是什么難事,且與本地部署的方式相比,這些調用云端算力的APP,并不會對手機配置造成額外負擔。

那既然如此,那人們為什么還要費盡心機地開發一個專用的“手機版”大模型呢?

對于這個問題,谷歌之前的做法似乎給出了一個可能的答案。

今年5月,在ChatGPT 3.5發布半年后,Google終于公布了全新一代大語言模型PaLM2,用以對抗ChatGPT。作為一種差異化競爭,PaLM2可以被部署在智能手機上。

當時,PaLM2包含四個大模型,按照參數規模從大到小,分別命名為:獨角獸(Unicorn)、野牛(Bison)、水獺(Otter)和壁虎(Gecko)。

只有參數最小的“壁虎”可以在手機上運行,Google稱,它的運行速度足夠快,不聯網也能正常工作。

但問題是:人們為什么要以犧牲參數、性能為代價,在手機上使用這樣一個“縮水版”的小模型呢?

一個最重要的原因是:與那些以APP形態出現在手機上的大模型相比,一個融入手機系統中的大模型,可以打破各應用之間的壁壘,讓其他App也自帶大模型特性。

例如,融入手機中壁虎(Gecko),可以通過Gmail,實現自動寫郵件的功能。

用戶只需在Gmail的“Help me write”(幫我寫)中輸入需求,它就會結合此前郵件中的信息,寫出完整的郵件。

通過這樣與手機系統深入融合的大模型,人們不僅可以實現AI對各類APP的賦能,甚至還能將大模型作為通用接口,像“膠水”一樣,將各類APP的能力實現組合,實現更多具有想象力的擴展。

例如,倘若人們在一個陌生的地點出行,想尋找某個罕見、偏僻,在地圖上并不顯眼的位置,這時,手機上的大模型,就可以調用語音+識圖+導航的多模態功能,十分接地氣地告訴你:“在前面的蘭州拉面往左拐,看到城市便捷酒店后再右拐300米”,而不是簡單地說出“直行”、“右拐”等機械的回答。

然而,要實現這樣的組合,一個難以繞開的問題,就是算力。

同樣的,開始在手機上部署大模型的高通,也意識到了這個問題。在高通日前發布的《混合AI是AI的未來》技術白皮書中,首次提出了混合AI架構的概念。

而這一概念,簡而言之,就是讓AI能夠在云端和終端側進行分布式處理,并根據不同的模型和需求靈活分配負載。

改造現實的肢體

也許有人認為,與在手機上部署大模型的做法相比,在云端進行計算的方法,才是既省力又劃算的。

然而,實際上隨著日活用戶數量及其使用頻率的增長,云端推理的成本會顯著增加,而這樣的高成本,也會讓生成式AI的規?;瘮U展陷入瓶頸。

畢竟,單個AI超算的服務器帶寬,以及消耗的電力,終歸是有上限的,而用戶的增長卻并沒有一個固定的上限。

這就是為什么混合AI架構,即在云端和終端側進行分布式處理的AI,會成為AI的未來趨勢,因為它能夠利用終端側的計算能力,降低云端推理的依賴和成本。

而在混合A架構的基礎上,高通還提到,為實現生成式AI的規?;瘮U展,AI處理的重心正在向邊緣轉移。

也就是說,將來會有越來越多的AI數據,會在手機、攝像頭、傳感器等終端側進行處理。

那這對大模型的發展來說意味著什么?

截至目前為止,大部分大模型所能處理的任務,仍舊停留在文字生成、繪制圖片、編寫代碼這些工作上。

這樣的任務,本質上都是屬于出不了辦公室的“案頭工作”。

而AI如果要真正地走進社會,為更多的行業、群體帶來改變,而不僅僅是一個存在于網頁中的“秘書”,那它就必須具有改造現實世界的“肢體”。

而這樣的“肢體”,正是一個個嵌入各個行業的邊緣端設備。

舉例來說,在醫療領域,AI可以通過智能攝像頭,評估帕金森患者的狀態;

工業行業,邊緣化的AI可以提高生產過程的智能化和自動化,高效地完成零部件瑕疵檢測等任務。

在農業領域,邊緣化的AI可以通過智能傳感器或無人機,實現對農作物的精準種植和管理,如實現農業病蟲害識別、農作物品質評估等任務。

所有這一切,都是僅存在于網頁中的大模型所無法完成的。

也正因如此,大模型“邊緣化”所帶來的顯著后果,就是AI橫向應用范圍的極大擴展。

如何讓GPT助力農業,已經成為人們思考的方向之一

而隨著邊緣化的到來,聯邦計算等與之匹配的模型訓練方式,也將打破原本數據中心化的格局。

因為到了那時,數據并不總是在某一個云端服務器完成計算,而是由多個參與方在本地訓練機器學習模型,之后再將模型參數或梯度上傳到中心服務器進行聚合。

但詭異的是,依據科技行業發展的邏輯,這樣一種去中心化的、可以實現跨行業或跨領域數據共享的技術,非但不會弱化原有的壟斷行為,甚至還會進一步將其強化。

新巨頭的崛起

在前網絡時代,人們認為個人網站可以消解大傳統媒體的信息壟斷,但后來互聯網霸主的規模,早已傳統媒體的市值的天花板。

如果將這些科技巨頭的市值,換算成國家的GDP,那么在2022年,微軟的市值就超過了五常之一的俄羅斯(1.7萬億),全球能與之匹敵的經濟體屈指可數。

究其原因,是因為任何“技術平權”的進行,在讓科技變得更加低廉化、平民化的同時,都會反向地催生出一批技術壁壘更高,集中性更強的超級巨頭。

因為正是有了這些“高壁壘”的技術進行支撐,巨頭們的規模擴張才成為可能。

例如Meta正是通過一系列數據、算法的優勢,才能對眾多用戶投其所好,并構筑了Facebook和Twitter等龐大的社交帝國。

英偉達也正是通過自身核心的GPU技術,和壁壘頗高的CUDA生態,才讓今天的大模型得以完成海量的計算,才得以讓AI成為人人觸手可及的技術。

而同樣的,當混合計算的AI,通過云端與終端側相結合的方式,降低了大模型的推理的成本后,其造成的“技術平權”,至少會造就兩個方向上的巨頭。

其一,就是邊緣化芯片的提供者。

因為芯片層的AI運算處理能力,是AI落地終端的必要條件。

雖然在邊緣化時代,AI的算力場景是多樣化的,例如工業、醫療、娛樂等,但其中最重要的“七寸”,仍然是在用戶量最多的手機端。

誰若是能圍繞手機端的大模型,形成一套從設計、生產、到軟件生態一體化的完整體系,誰就將成為新一代的巨頭。

在這方面,身為行業龍頭的高通,早已開始了提前布局。

目前,搭載驍龍平臺的已發布XR終端已經超過65款,其中Meta、PICO等頭部廠商的旗艦產品均采用的是高通芯片。

第二個方向的巨頭,就是能為行業提供全套解決方案的玩家。

畢竟AI在終端側的落地,需要的不僅是硬件,還有軟件端的優化。

在同樣的硬件基礎上,誰的AI引擎能比其他競品具有更高的效能,能更快地完成計算,誰就將在軟件棧方面更具優勢。

而要想實現這點,就必須在大模型的量化、壓縮、條件計算、神經網絡架構搜索和編譯方面進行突破,在不犧牲太多精度的前提下對AI模型進行縮減。

因此,誰能在大模型的壓縮、小型化技術上取得突破,誰就能率先構建起自身基于終端的軟件生態。

綜上所述,大模型在手機端的落地,不僅僅是AI真正具備“肢體”,進入人類生活的開始,也是行業發生顛覆,新老巨頭進行更替的時刻。

在這樣的時代,變革的風暴遠比我們想象的要猛烈。





審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 傳感器
    +關注

    關注

    2528

    文章

    48298

    瀏覽量

    741144
  • 手機芯片
    +關注

    關注

    9

    文章

    349

    瀏覽量

    48210
  • 機器學習
    +關注

    關注

    66

    文章

    8155

    瀏覽量

    130772
  • AI芯片
    +關注

    關注

    17

    文章

    1684

    瀏覽量

    34468
  • ChatGPT
    +關注

    關注

    27

    文章

    1451

    瀏覽量

    5097
  • AI大模型
    +關注

    關注

    0

    文章

    227

    瀏覽量

    125

原文標題:AI大模型會如何顛覆手機?

文章出處:【微信號:alpworks,微信公眾號:阿爾法工場研究院】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    開發者手機 AI - 目標識別 demo

    Lite的API接口實現主要功能; Mindspore Lite為Openharmony AI推理框架,為上層應用提供統一的AI推理接口,可以完成在手機等端側設備中的模型推理過程;
    發表于 04-11 16:14

    防止AI模型被黑客病毒入侵控制(原創)聆思大模型AI開發套件評測4

    個神奇的深度學習推理過程... # 練習一次預測功夫 predict(model_data) 防止 AI模型被黑客病毒入侵控制需要綜合考慮多個方面的安全措施。由于具體的實現模型
    發表于 03-19 11:18

    cubemx ai導入onnx模型后壓縮失敗了怎么解決?

    cubemx ai導入onnx模型后壓縮失敗。請問我怎么解決
    發表于 03-19 07:58

    AI模型遠程控制啟動車輛(原創)

    AI模型
    還沒吃飯
    發布于 :2024年03月18日 15:18:29

    使用cube-AI分析模型時報錯的原因有哪些?

    使用cube-AI分析模型時報錯,該模型是pytorch的cnn轉化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.
    發表于 03-14 07:09

    是德科技如何賦能醫療AI模型應用呢?

    自從ChatGPT爆火以來,各種AI模型紛紛亮相,如百度科技的文心一言,科大訊飛的訊飛星火,華為的盤古AI模型,騰訊的混元AI
    的頭像 發表于 02-28 09:35 ?2013次閱讀

    AI模型可以取代大學教育嗎?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 16:27:52

    AI模型怎么解決芯片過剩?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:42:05

    AI模型會不會取代電子工程師?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:11:43

    AI模型可以設計電路嗎?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:09:29

    AI模型接入手機,行業迎來新一輪競賽

    選擇端側部署,看上去最劃算 當前,AI模型接入手機存在兩種選擇:云端部署和端側部署。 目前,大多數廠商選擇在端側部署輕量級大模型,而在云端部署的則是千億級
    發表于 12-05 10:11 ?454次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>接入<b class='flag-5'>手機</b>,行業迎來新一輪競賽

    【KV260視覺入門套件試用體驗】Vitis AI 構建開發環境,并使用inspector檢查模型

    支持。需要做的不只是執行幾條命令,還需要了解賽靈思硬件平臺的特點,選擇合適的模型和框架,使用 Vitis AI 提供的工具和庫進行優化和編譯,最后在目標設備上運行您的 AI 應用。這個過程可能
    發表于 10-14 15:34

    AI模型和小模型是什么?AI模型和小模型的區別

      隨著人工智能的不斷發展和應用,機器學習模型的大小越來越成為一個重要的問題。在機器學習中,我們通常將模型分為兩類:大模型和小模型。本文將介紹AI
    發表于 08-08 16:55 ?6057次閱讀

    訓練好的ai模型導入cubemx不成功怎么解決?

    訓練好的ai模型導入cubemx不成功咋辦,試了好幾個模型壓縮了也不行,ram占用過大,有無解決方案?
    發表于 08-04 09:16

    AI、5G+開啟智能手機創新周期 榮耀提出端側大模型

    AI、5G+開啟智能手機創新周期? 榮耀提出端側大模型? 智能手機的創新瓶頸或者被AI打破,榮耀CEO趙明智能
    的頭像 發表于 06-29 21:19 ?715次閱讀
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>