<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

步步向前,曙光已現:百度的大模型之路

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2023-08-21 09:04 ? 次閱讀

大模型,是今年全球科技界最火熱,最耀眼的關鍵詞。在幾個月的狂飆突進中,全球主要科技公司紛紛加入了大模型領域。中國AI產業更是開啟了被戲稱為“百模大戰”的盛況。

但喧囂與熱鬧之后,新的問題也隨之而來:大模型的力量究竟能否持續發展?在擁有了許多大模型之后,我們又該做些什么?

簡單來說,面向機遇與挑戰并重的大模型時代,中國AI需要從拼參數、拼數量的“短期主義”中走出來,走向長期發展與生態凝聚。

有大模型并不難,難的是讓大模型走向遠方。

8月16日,由深度學習技術及應用國家工程研究中心主辦的WAVE SUMMIT深度學習開發者大會2023在北京舉行。百度首席技術官、深度學習技術及應用國家工程研究中心主任王海峰表示,大語言模型具備了理解、生成、邏輯、記憶等人工智能的核心基礎能力,為通用人工智能帶來曙光。

wKgZomTfk62AeqTBAAC9xD8IFCo538.jpg

如果要總結這一屆WAVE SUMMIT,那么在我看來,最重要的價值是百度展示了大模型如何走向“長期主義”發展模式。通過文心加飛槳,為產業伙伴與開發者構建可持續發展的AI基礎設施,為產業智能化提供源源不絕的動力。

大模型不是終點,而是起點

隨著“百模大戰”的興起,大模型以最高效率抵達了產業繁榮狀態。但隨之到來的是很多疑慮,比如在有了大模型之后,我們究竟如何讓它發揮價值?比如,大模型的技術能力,還能不能進一步突破,如何突破?再比如大模型之間的競爭,會不會變成低價、低質的競底游戲?

這些疑慮背后的關鍵,是產業界目前傳遞出的信號,過分強調“要有大模型”。反而很少提及大模型如何長期發展,如何擺脫零和博弈。

我們關注大模型,難道不是驚艷于它的表現,于是開始暢想它的未來嗎?難道我們真的滿足于“有很多大模型”就是終局嗎?

換言之,大模型應該是起點,而非終點。

目前來看,大模型的技術、產業與生態都還處在發展的萌芽期。各方應該攜手共建,描畫大模型的美好未來。大模型之路,至少需要完成三個目標:

1.向產業價值,完成大模型向C端與B端的應用落地,推動AI原生應用走向時代前沿。

2.向眾智生態,大模型應該是各行各業、萬千開發者的大模型,集眾智才能立高遠。

3.向技術突破,大模型目前的表現僅是開端,我們需要有方法、有路徑來驅動大模型持續發生技術突破,直到走向AGI的遠景目標。

如何鋪這條大模型路?百度在WAVE SUMMIT深度學習開發者大會2023,展示了他們一直以來都在做的三件事。

指南針:AGI曙光已現

如果說,大模型還能向前走,那么它應該向哪里走?百度為大模型時代鋪路,做的第一件事,是向各界展示了關于大語言模型方向的“指南針”。

AI開發者們都知道,WAVE SUMMIT深度學習開發者大會,歷來是呈現百度對深度學習技術未來洞察的舞臺。

2019年,王海峰在首屆WAVE SUMMIT中提出,深度學習具有很強的通用性,并具備標準化、自動化和模塊化的工業大生產特征,推動人工智能進入工業大生產階段。

四年來,AI工業大生產的方向不斷得到了充分驗證,更引導了AI產業的發展與AI開放生態的繁榮。今天,AI技術在各領域展現出了充沛的生產力釋放效應,證明AI工業大生產階段已經正式到來。

面對大模型時代新的方向性問題,王海峰也給出了清晰明確的洞察。本屆WAVE SUMMIT,王海峰首次對外表示,人工智能具有多種典型能力,理解、生成、邏輯、記憶是其中的核心基礎能力,這四項能力越強,越接近通用人工智能,而大語言模型具備了這四項能力,為通用人工智能(AGI)帶來曙光。

也就是說,大模型持續向前發展,實現技術突破是可預見、可期待、可實現的。以理解、生成、邏輯、記憶四項核心技術作為向量,我們可以規劃出大模型長期發展的路標與路徑。

這樣的論斷,建立于百度扎實的技術探索之上。

wKgZomTfk66AJhR6AAJSvlMtmxY304.jpg

以文心一言為例,它首先從數萬億數據和數千億知識中融合學習得到預訓練大模型,在此基礎上采用有監督精調、人類反饋的強化學習和提示等技術,并具備知識增強、檢索增強和對話增強等技術優勢。進一步地,文心一言通過多種策略優化數據源及數據分布、基礎模型長文建模、多類型多階段有監督精調、多任務自適應有監督精調、多層次多粒度獎勵模型等技術創新,全面提升基礎通用能力。在檢索增強和知識增強的基礎上,通過知識點增強,提升對世界知識的掌握和運用;通過大規模邏輯數據構建、邏輯知識建模、多粒度語義知識組合以及符號神經網絡,提升邏輯能力;通過構建數據、內容、模型和系統安全的全面安全體系,保障大模型的安全性??梢哉f,其具備了理解、生成、邏輯、記憶等核心基礎能力。

王海峰的闡釋既解答了各界對大模型長期發展動力的期待,更直接點明了AGI這一長期目標的實現方式。將目前的大模型技術基礎,與人類科技的星辰大海聯接在了一起。

除此之外,王海峰還分享了百度在大模型效率、應用等方面的最新進展。

所有遠大航程都始于找到正確的航海圖。大語言模型具備了理解、生成、邏輯、記憶四項核心基礎能力,帶來AGI的曙光,正是這樣一張值得各界深度思考的航圖。

筑路基:文心加飛槳的步步向前

知道了要向哪里走,接下來的問題是應該如何走?面對這個問題,百度為大模型時代做的第二件事,就是通過文心加飛槳,為大模型發展鋪設新的路基。

百度集團副總裁、深度學習技術及應用國家工程研究中心副主任吳甜表示,文心一言熟練掌握的創作體裁超過 200 種,涵蓋了幾乎所有寫作需求,內容豐富度是初期的 1.6 倍、思維鏈長度是初期的 2.1 倍,知識點覆蓋是初期的 8.3 倍。

這樣的進展效率背后,是百度在核心技術、開發平臺、應用部署等領域協同發力的成果。而百度在大模型領域得到的先驅者經驗,也將通過文心加飛槳打造的AI基礎設施,面向開發者與千行百業進行落地。

在本屆WAVE SUMMIT當中,我們可以看到百度圍繞大模型的開發、優化、應用,取得了許多關鍵性、基礎性的進展,我們可以從中試舉幾項加以說明:

1.擴展大模型能力邊界的插件生態

面對全新的大模型機遇,插件機制是開發者急切期待的。為了填補這一需求,文心大模型在 3.5 版本中新增了插件機制,已上線了百度搜索、覽卷文檔、一鏡流影、說圖解畫、E言易圖五種官方原生插件。王海峰表示,未來百度將與開發者共建插件生態,共享技術創新成果。

wKgaomTfk66ACt-jAABwK6k_-nk742.jpg

從WAVE SUMMIT的反饋來看,各界對這些插件的認可達到了很高指數。

比如說,覽卷文檔可以借助文檔智能模型及搜索系統,實現對文檔的格式、布局等信息充分理解及定位,從而幫助用戶實現文檔摘要、問答及創作的需求。

再比如,一鏡流影依托文心跨模態大模型,突破了不同模態之間語義對齊等技術難題。用戶僅需簡單輸入文字,即可在1分鐘內獲得高質量的AIGC視頻,為大模型+視頻帶來了全新的效率升級與想象力突破。

E言易圖則實現了將文字需求轉化為可視化圖表的需求。僅需簡單的數據圖表需求,或輸入待生成圖表的數據內容,即可生成可交互圖表,協助用戶完成數據分析、洞察及圖表信息的交互演示,從而實現大模型與辦公、財務、數據統計等領域更為緊密、有針對性的結合。

2.深度學習平臺與大模型的聯合優化

在大模型成為各界關注重點之后,如何更好更快地訓練大模型,提升大模型推理效率,成為了產業中至關重要的挑戰。為此,經過緊密的技術升級,百度已經將文心與飛槳聯合優化這條路跑通、跑順,成為了整個大模型產業可以參考的升級范本。

本屆 WAVE SUMMIT 上正式發布了飛槳開源框架v2.5,其全面完成了架構升級,同時在大模型訓練、推理和多硬件適配方面帶來了新的功能。其中,文心與飛槳聯合優化最為關鍵,通過協同優化,文心大模型 3.5 訓練速度是優化前的3 倍,推理速度更是達到了30倍以上。

大模型效率的提升離不開飛槳的加持,在訓練方面,百度總結了一套打法:

從硬件資源層面看,飛槳與文心在硬件集群上進行協同優化,提升了有效訓練時間占比;通過芯片、存儲、網絡協同優化,提升了模型的訓練吞吐速度,從而全面實現了以更小資源消耗實現大模型訓練目標;與模型算法協同優化,提高收斂效率。在大模型訓練中,優化收斂效率和穩定性,可大幅度減少訓練時間,達到事半功倍的效果。

在推理方面,飛槳則是從模型壓縮、推理引擎、服務部署三個關鍵環節進行協同優化。作為深度學習開發平臺,飛槳可以支持AI模型從訓練到推理的全流程落地。舉例來看,飛槳模型推理服務就可以有效支持大模型推理效率提升。其在業內首創了支持動態插入的分布式推理引擎,從而可以更有效完成龐大數據規模的AI模型進行推理部署。在這些關鍵環節的協同推理能力提升下,飛槳不斷幫助文心大模型提升推理效率與推理性能,讓模型的學習效果與魯棒性更強,從而取得更強的應用效果。

到目前為止,文心與飛槳的聯合優化路徑被持續驗證,進而打通了大模型低成本、高效率落地的大門。

3.應用側的先導示范。

面對著大模型的能力與機遇,各界不僅關注大模型基礎技術,同時也希望在應用側直接獲得大模型支持,以及通過有效的AI原生應用來探索自身的應用落地方案。

wKgZomTfk6-Ae_KhAABXZn_RpKU364.jpg

在這一方面,WAVE SUMMIT 上展示了文心一言的能力,通過智能工作平臺如流進入辦公場景,全面提升辦公效率。百度集團副總裁、百度集團首席信息官李瑩發布了如流的“超級助理”。 在代碼智能化場景,百度Comate系列產品全新升級,重磅發布智能編程助手ComateX和Comate Stack工具套件,實現了代碼解釋、代碼生成、行間注釋生成、單元測試用例等能力。

wKgaomTfk6-AF9AMAACeHkfC2J4389.jpg

文心加飛槳,通過不斷升級技術、完善工具、落地應用,讓大模型的路基沿著正確方向一路鋪設開去,從而讓更多開發者、更多行業伙伴能夠走上這條路,走近大模型的時代機遇。只有在眾力眾行之下,中國AI才能滾滾向前。

開航道:為開發者,為產業,為生態

在定準方向,夯實技術之后,下一個問題是如何讓更多人加入進來,分享大模型紅利。為此,百度為大模型時代做的第三件事,是把大模型變成繁榮的生態航道。讓更多行業、更多開發者以高效率、低門檻的方式融入進來,駛向自己的目標。

生態與技術并重,始終是百度發展AI技術的立足根本。經過多年發展,產業級深度學習開源開放平臺飛槳,已經凝聚了800萬開發者,服務于22萬家企事業單位,基于飛槳創建的AI模型達到80萬個。

wKgZomTfk7CAMBXiAACDdo3ka-o687.jpg

而面向大模型的機遇,百度同樣也廣開生態之門,注重社區發展。WAVE SUMMIT 期間,王海峰發布了飛槳開發者社區AI Studio中文名“星河社區”,寓意“文心加飛槳,翩然赴星河”。

與此同時,正式推出了星河大模型社區。在社區,開發者可以獲得一體化的大模型開發支持。飛槳+文心貫通全開發流程,與開發者持續共創大模型項目和應用。目前,星河大模型社區已上線了超過 300 個大模型創意應用,還提供了豐富的功能方便開發者進行交流。百度還發布了文心大模型“星河”共創計劃,提供生態和產業資源,與廣大開發者共同推動人工智能應用創新。

而在作為AI產業底座的硬件領域,文心大模型最新與英偉達、寒武紀、華為等12家硬件伙伴開展了適配,覆蓋了云和端側多種硬件類型。目前,已經有25家硬件伙伴參與到了星河社區硬件生態專區的共建當中。

wKgaomTfk7GAZFZNAACW1wd9eEg521.jpg

從產業落地的角度來看,文心大模型的落地規模在國內保持領先,已經有15 萬家企業申請了文心一言內測,其中超過 300 家生態伙伴在 400 多個具體場景取得了測試成效,覆蓋辦公提效、知識管理、智能客服、智能營銷等領域。同時,百度聯合國家電網、浦發銀行、泰康、吉利等企業聯合發布了 11 個行業大模型。

不難看出,百度開辟的大模型航道,已經實現了落地廣泛、生態繁榮、伙伴眾多。百度的大模型之路,正在這樣的航道上徐徐展開。

相比于以“有大模型”作為全部目標,百度的大模型之路目光更遠,看向AGI的星辰大海。

相比于堆積參數和技術務虛,百度的大模型之路更加腳踏實地,它是在一個個插件,一次次優化中走通的,每一個腳印清晰可見。

相比于短期利益與劣幣競爭,百度的大模型之路堅持生態互利,它是行業的路,開發者的路,更多人的路。

中國AI的大模型之路,當如是也。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 百度
    +關注

    關注

    9

    文章

    2211

    瀏覽量

    89145
  • 深度學習
    +關注

    關注

    73

    文章

    5257

    瀏覽量

    120079
  • 飛槳
    +關注

    關注

    0

    文章

    32

    瀏覽量

    2129
  • 文心一言
    +關注

    關注

    0

    文章

    120

    瀏覽量

    984
  • AIGC
    +關注

    關注

    1

    文章

    279

    瀏覽量

    1165
  • 大模型
    +關注

    關注

    2

    文章

    1804

    瀏覽量

    1393
收藏 人收藏

    評論

    相關推薦

    百度文心大模型擴展合作領域

    百度創始人兼CEO李彥宏在2024年第一季度財報電話會上宣布,文心大模型API在繼與中國三星、榮耀成功合作后,本季度再度實現重要突破。小米、OPPO、vivo等主流手機廠商已全面接入文心大模型API,此舉標志著
    的頭像 發表于 05-17 11:17 ?274次閱讀

    【機器視覺】歡創播報 | 百度智能云發布千帆大模型一體機

    1 百度智能云發布千帆大模型一體機 編輯 ? 4月9日上午,百度智能云GENERATE全球生態大會在成都召開。會上,百度智能云發布千帆大模型
    的頭像 發表于 04-11 10:49 ?273次閱讀
    【機器視覺】歡創播報 | <b class='flag-5'>百度</b>智能云發布千帆大<b class='flag-5'>模型</b>一體機

    一圖講透百度智能云千帆大模型平臺全面升級!

    【一圖講透】百度智能云千帆大模型平臺全面升級!
    的頭像 發表于 03-22 10:44 ?194次閱讀
    一圖講透<b class='flag-5'>百度</b>智能云千帆大<b class='flag-5'>模型</b>平臺全面升級!

    百度智能云大模型應用產品發布會定檔

    百度智能云官方宣布,備受矚目的“AI Cloud Day:百度智能云大模型應用產品發布會”已正式定檔于3月27日。
    的頭像 發表于 03-21 11:37 ?504次閱讀

    百度財報告訴你:2024想賺錢,搞大模型

    百度財報里,看見大模型的成績與新篇
    的頭像 發表于 03-01 09:39 ?1986次閱讀
    <b class='flag-5'>百度</b>財報告訴你:2024想賺錢,搞大<b class='flag-5'>模型</b>

    新品上市,公有云輕安防就選目凌云! #人工智能 #目 #目凌云 #百度智能云

    人工智能百度智能云
    jf_98614062
    發布于 :2024年02月19日 11:39:42

    百度世界2023看點 文心大模型4.0正式發布 百度文庫變身生產力工具

    百度世界2023看點 文心大模型4.0正式發布 百度文庫變身生產力工具 百度世界大會2023于10月17日,以“生成未來(PROMPT THE WORLD)”為主題在北京首鋼園舉辦。在
    的頭像 發表于 10-17 18:49 ?890次閱讀
    <b class='flag-5'>百度</b>世界2023看點 文心大<b class='flag-5'>模型</b>4.0正式發布 <b class='flag-5'>百度</b>文庫變身生產力工具

    百度發布首個量子領域大模型,依托量子平臺、文心大模型

    據報道,百度雙邊平臺和文新大型模式的雙重底的優勢為基礎,百度是芯片層、框架層、模型層以及應用層等整個堆棧技術雙邊技術和大型模式加快深度融合為目標的首次雙邊領域發表了大模型。
    的頭像 發表于 09-26 11:09 ?819次閱讀

    百度發布首個量子領域大模型百度量子助手

    ? 9月23-24日,以“協同創新 量點未來”為主題,2023量子產業大會在安徽合肥召開。量子領域院士專家、智庫機構、產業界嘉賓匯聚一堂,探討量子產業化之路。 作為主旨報告嘉賓,百度量子計算研究所
    的頭像 發表于 09-26 09:53 ?549次閱讀

    百度千帆大模型2.0一天可跑通大模型效果驗證

    百度千帆大模型2.0一天可跑通大模型效果驗證 今天的2023百度云智大會上,百度智能云宣布千帆大模型
    的頭像 發表于 09-05 16:17 ?748次閱讀

    鴻蒙升級3.0.0,百度導著航,系統中途會關閉我的定位

    然后百度顯示沒有定位了,就自動開啟智能導航。系統決定我的定位開關設置在哪里,我記得以前開定位是手動開關的。升級后,下拉菜單打開定位,百度導航開著一會系統定位就被關閉了。害得我跑錯了好多路?,F在就是我的百度導航根本沒法用
    發表于 09-03 23:34

    百度年底將推出文心大模型4.0

    百度年底將推出文心大模型4.0 百度創始人、董事長兼CEO李彥宏稱目前百度文心大模型更新至3.5版本,
    發表于 08-23 17:53 ?253次閱讀

    中科曙光百度飛槳共同發起飛槳+文心大模型硬件生態共創計劃

    近日,WAVE SUMMIT 2023深度學習開發者大會在北京舉行。會上,中科曙光百度飛槳宣布共同發起飛槳+文心大模型硬件生態共創計劃。雙方將共同在中科曙光硬件上實現飛槳+文心大
    的頭像 發表于 08-22 09:47 ?1354次閱讀

    AI大模型的存儲焦慮,如何被曙光消除?

    模型
    腦極體
    發布于 :2023年07月21日 22:37:10
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>