0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學(xué)習在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區
會(huì )員中心
創(chuàng )作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內不再提示

科技云報道:大模型的火燒到了AI服務(wù)器上

科技云報到 ? 來(lái)源:jf_60444065 ? 作者:jf_60444065 ? 2023-07-27 08:50 ? 次閱讀

科技云報道原創(chuàng )。

大模型的紛爭已經(jīng)隨著(zhù)各大入局者公布產(chǎn)品后,熱度逐漸退去,但是由大模型帶來(lái)的產(chǎn)業(yè)鏈高頻共振,已經(jīng)傳遞了算力層。

表現最為激烈的,就是AI服務(wù)器市場(chǎng)。大模型帶來(lái)的算力需求,直接引發(fā)了一波AI服務(wù)器搶購潮和漲價(jià)潮。

據《證券時(shí)報》報道,一家檢測企業(yè)透露,他們在去年6月購買(mǎi)的8臺AI服務(wù)器到今年三月已經(jīng)漲價(jià)到130萬(wàn)每臺,到現在價(jià)格飆升至160萬(wàn)每臺。不到一年的時(shí)間,價(jià)格漲幅近20倍。

另外,AI服務(wù)器需求量大漲也直接引發(fā)了上游材料PPO(聚苯醚,用作高速覆銅板增強材料)的搶購潮,此前有業(yè)內相關(guān)人士坦言,由于全球PPO主流廠(chǎng)商僅一家,隨著(zhù)AI服務(wù)器的放量,PPO未來(lái)很有可能成為產(chǎn)業(yè)鏈上的緊缺環(huán)節之一。

在這樣的背景下,AI服務(wù)器廠(chǎng)商擴產(chǎn)的消息也層出不窮。

鴻海集團旗下負責AI服務(wù)器業(yè)務(wù)的鴻佰科技就曾被曝出規劃新增五到六條生產(chǎn)線(xiàn),以應對AI服務(wù)器客戶(hù)要求的消息。

市場(chǎng)火熱度可見(jiàn)一斑,這也直接點(diǎn)燃了資本市場(chǎng)。

從1月份開(kāi)始,以浪潮信息、中際旭創(chuàng )、工業(yè)富聯(lián)為首的AI服務(wù)器概念股扶搖直上,多次漲停,甚至連長(cháng)期虧損的寒武紀,股價(jià)都一路飄紅。

爆火的“AI服務(wù)器”

AI服務(wù)器是什么?

AI服務(wù)器是一種專(zhuān)門(mén)設計用于執行人工智能(AI)、機器學(xué)習(ML)、深度學(xué)習(DL)等計算密集型任務(wù)的高性能服務(wù)器。

AI服務(wù)器通常配備有高效能的中央處理器CPU)、圖形處理器(GPU)、張量處理器(TPU)或專(zhuān)用的AI加速器,以及大量的內存和存儲空間。

在異構方式上,AI服務(wù)器可以為CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多種加速卡。

具體的設計和配置可以根據需要進(jìn)行大量并行處理的具體任務(wù)來(lái)進(jìn)行調整。

目前,使用比較廣泛的AI服務(wù)器是CPU+GPU。這也與傳統的服務(wù)器區分開(kāi)來(lái)。

據悉,傳統服務(wù)器主要以CPU為算力提供者,但是在運作的過(guò)程中需要引入大量分支跳轉中斷處理,這使得CPU的內部結構復雜,并不能滿(mǎn)足AI時(shí)代的需求。

而采用GPU并行計算的AI服務(wù)器,單卡核心數達到上千個(gè),擅長(cháng)處理密集型運算應用,如圖形渲染、計算視覺(jué)和機器學(xué)習。

上述提及的檢測企業(yè)使用的AI服務(wù)器,基礎配置就包括8顆英偉達A100GPU和80G存儲器。

AI服務(wù)器對于A(yíng)I、ML和DL的計算密集型任務(wù)來(lái)說(shuō)非常有用。主要功能包括:

大數據處理:AI服務(wù)器能夠處理和分析大量數據,這是訓練AI和ML模型的關(guān)鍵。

并行計算:由于A(yíng)I和ML算法需要對大量數據進(jìn)行復雜的計算,AI服務(wù)器通常使用可以并行處理大量數據的硬件,如GPU。

存儲和內存:AI服務(wù)器通有大量的存儲空間和內存,以便存儲和處理大量的數據。

網(wǎng)絡(luò )能力:AI服務(wù)器需要高速和低延遲的網(wǎng)絡(luò )連接,以便快速傳輸大量的數據。

其實(shí),這也解釋了為什么在大模型熱浪后,會(huì )引發(fā)AI服務(wù)器的搶購浪。大模型中包含著(zhù)海量的數據參數、訓練、運行都需要更多的計算資源來(lái)處理,這就需要更高性能的AI服務(wù)器來(lái)支持。

當然,這一次AI服務(wù)需求大漲最直接的原因是大模型時(shí)代的到來(lái),但是實(shí)際上,AI服務(wù)器在這個(gè)節點(diǎn)爆發(fā),與AI技術(shù)、大數據的發(fā)展都有關(guān)。

總的來(lái)說(shuō),AI服務(wù)器的爆火可以歸結為以下幾個(gè)關(guān)鍵因素。

首先,大數據的崛起?,F代社會(huì )的每個(gè)角落,無(wú)論是社交媒體、電子商務(wù)還是互聯(lián)網(wǎng)搜索,都在產(chǎn)生大量的數據。

這些數據需要通過(guò)復雜的算法進(jìn)行分析和解讀,以發(fā)現有用的模式和信息,而AI服務(wù)器就能提供足夠的計算能力來(lái)處理這些任務(wù)。

其次,AI和ML的普及也推動(dòng)了AI服務(wù)器的需求。AI和ML現在已經(jīng)廣泛應用于各種行業(yè),包括醫療保健、金融、零售和交通等。

這些領(lǐng)域的進(jìn)步需要強大的計算能力來(lái)處理和分析數據,訓練和運行復雜的AI和ML模型。

最后,云計算和邊緣計算的發(fā)展也為AI服務(wù)器的爆火提供了動(dòng)力。

云計算使得企業(yè)和組織能夠無(wú)需購買(mǎi)和維護昂貴的硬件就能獲得強大的計算能力,而邊緣計算則需要在接近數據產(chǎn)生地點(diǎn)的服務(wù)器上進(jìn)行數據處理和分析。

AI服務(wù)器國內市場(chǎng)格局

AI服務(wù)器市場(chǎng)在過(guò)去的幾年里一直在持續增長(cháng),到現今,在大模型的加持下,AI服務(wù)器市場(chǎng)盤(pán)子越來(lái)越大。

據北京研精畢智信息咨詢(xún)發(fā)布的最新數據顯示,2022年全年,全球AI服務(wù)器行業(yè)市場(chǎng)出貨量達到85萬(wàn)臺,同比增長(cháng)約11%,到2023年中旬,AI服務(wù)器市場(chǎng)出貨量接近60萬(wàn)臺,相比上年同期增長(cháng)約39%。

未來(lái),隨著(zhù)自然語(yǔ)言處理和圖像、視頻等AI大模型的發(fā)展,算力需求的持續增長(cháng),預計到今年年底,全球AI服務(wù)器市場(chǎng)規模將超過(guò)200億美元。

到2025年,預計市場(chǎng)出貨量將提升至190萬(wàn)臺左右,2022-2025年期間年平均增長(cháng)率達41.2%。

就具體產(chǎn)業(yè)鏈來(lái)說(shuō),AI服務(wù)器產(chǎn)業(yè)鏈上游為CPU、GPU、內存和硬盤(pán)等核心零部件,以及數據庫、操作系統和基礎管理軟件等軟件供應;下游為應用市場(chǎng),包括互聯(lián)網(wǎng)、云計算和數據中心服務(wù)商等。

目前,主導市場(chǎng)的是一些主要的AI服務(wù)器制造商,包括華為、浪潮、聯(lián)想和中科曙光等,這些公司的服務(wù)器被廣泛應用于A(yíng)I和ML的研究和商業(yè)應用。

不過(guò),值得注意的是,浪潮信息于近日發(fā)布了一份營(yíng)收凈利潤雙雙下滑的半年度業(yè)績(jì)預告。

其中,浪潮信息2023年上半年扣非凈利潤同比下滑88%-99%。對此,浪潮信息方面稱(chēng),2023年上半年,受全球GPU及相關(guān)專(zhuān)用芯片供應緊張等因素的影響,營(yíng)業(yè)收入出現下滑。

實(shí)際上,有行業(yè)人士分析,在A(yíng)I服務(wù)器大火的背景下,浪潮信息業(yè)績(jì)不及預期,深層次原因還是在于傳統服務(wù)器行業(yè)整體不景氣,而目前浪潮信息AI服務(wù)器實(shí)際所占比例并不大。

浪潮信息此前曾表示,總體來(lái)看,公司AI服務(wù)器的整體業(yè)務(wù)占比在上升。AI服務(wù)器需求大漲帶來(lái)的業(yè)績(jì),或許能在浪潮信息2023年年報才能體現。

不過(guò),根據IDC發(fā)布的《2022年第四季度中國服務(wù)器市場(chǎng)跟蹤報告Prelim》,目前,在整個(gè)服務(wù)器市場(chǎng)(涵蓋AI服務(wù)器和傳統服務(wù)器)浪潮份額依舊以28.1%領(lǐng)先,但相比于去年30.8%的份額,還是有所下滑。

其實(shí)這也與說(shuō)明一點(diǎn),傳統CPU服務(wù)器行業(yè)受到AI的影響,市場(chǎng)逐漸萎靡。未來(lái)以AI服務(wù)器為代表的異構服務(wù)器或是大勢所趨。

在應用市場(chǎng),數據顯示,全球市場(chǎng)中以Microsoft、Google、Meta和AWS為代表的四家北美云端供應商采購量相對比較高。

2022年末,Microsoft以接近20%的采購量占據當年首位;Google、Meta和AWS采購量占比排在之后,分別達到17%、15%和14%。

在國內,隨著(zhù)科技廠(chǎng)商入局大模型已經(jīng)大模型創(chuàng )業(yè)的興起,AI算力基礎設施的加快建設,對AI服務(wù)器的采購量占比也在相應升高。

2022年年末,字節跳動(dòng)的AI服務(wù)器采購量大幅度提高,市場(chǎng)占比達到6%。

然而,市場(chǎng)也面臨著(zhù)一些挑戰。首先,是能源消耗的問(wèn)題。盡管AI服務(wù)器的性能在不斷提高,但其能耗也在增加。這對于環(huán)保和電力供應來(lái)說(shuō)都是一個(gè)問(wèn)題。

其次,AI和ML的快速發(fā)展和變化要求服務(wù)器制造商必須持續投入研發(fā),以確保他們的產(chǎn)品能夠滿(mǎn)足最新的需求。

關(guān)于未來(lái),國內的AI服務(wù)器市場(chǎng)有很大的潛力。隨著(zhù)AI、ML和DL的進(jìn)一步發(fā)展和應用,預計對AI服務(wù)器的需求將繼續增長(cháng)。

此外,隨著(zhù)5G物聯(lián)網(wǎng)技術(shù)的普及,未來(lái)在邊緣計算領(lǐng)域對AI服務(wù)器的需求將會(huì )增加。

總的來(lái)說(shuō),盡管市場(chǎng)面臨著(zhù)一些挑戰,但AI服務(wù)器的快速發(fā)展和廣泛應用表明,這是一個(gè)充滿(mǎn)活力和潛力的市場(chǎng)。

【關(guān)于科技云報道】

專(zhuān)注于原創(chuàng )的企業(yè)級內容行家——科技云報道。成立于2015年,是前沿企業(yè)級IT領(lǐng)域Top10媒體。獲工信部權威認可,可信云、全球云計算大會(huì )官方指定傳播媒體之一。深入原創(chuàng )報道云計算、大數據、人工智能、區塊鏈等領(lǐng)域。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權轉載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習之用,如有內容侵權或者其他違規問(wèn)題,請聯(lián)系本站處理。 舉報投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    12

    文章

    8300

    瀏覽量

    83222
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    27203

    瀏覽量

    264961
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    1824

    瀏覽量

    1421
收藏 人收藏

    評論

    相關(guān)推薦

    差分晶振在AI服務(wù)器中的應用案例

    隨著(zhù)ChatGPT技術(shù)不斷發(fā)展和應用,我國AI服務(wù)器市場(chǎng)保持較快增速(預計 2023年我國服務(wù)器市場(chǎng)規模將增至308億美元),而AI服務(wù)器
    發(fā)表于 06-17 15:15 ?0次下載

    新手小白怎么學(xué)GPU服務(wù)器跑深度學(xué)習?

    新手小白想用GPU服務(wù)器跑深度學(xué)習應該怎么做? 用個(gè)人主機通常pytorch可以跑但是LexNet,AlexNet可能就直接就跑不動(dòng),如何實(shí)現更經(jīng)濟便捷的實(shí)現GPU服務(wù)器深度學(xué)習?
    發(fā)表于 06-11 17:09

    通過(guò)STM32+ESP8266 Wifi模塊 +服務(wù)器,做一個(gè)數據收發(fā)控制的板子服務(wù)器方面該如何選擇?

    通過(guò)STM32+ESP8266 Wifi模塊 +服務(wù)器 做一個(gè)數據收發(fā)控制的板子 服務(wù)器方面該如何選擇?
    發(fā)表于 04-25 08:16

    服務(wù)器遠程不服務(wù)器怎么辦?服務(wù)器無(wú)法遠程的原因是什么?

    、安全軟件問(wèn)題 被安全軟件屏蔽了 解決辦法:檢查鎖和安全狗類(lèi)安全軟件有沒(méi)有把電腦本地IP加入服務(wù)器白名單中,如果沒(méi)有的話(huà)就把電腦本地IP加入白名 單就可以了
    發(fā)表于 02-27 16:21

    linux服務(wù)器和windows服務(wù)器

    ,這在滿(mǎn)足個(gè)性化需求和增強服務(wù)器安全 性具有優(yōu)勢。 Linux服務(wù)器還具有出色的性能和穩定性。相比之下,Windows服務(wù)器在性能和穩定性方面稍有不足。特別是在處理高負載和 大數據量
    發(fā)表于 02-22 15:46

    GPU交期緩解,AI服務(wù)器廠(chǎng)商營(yíng)收暴漲

    電子發(fā)燒友網(wǎng)報道(文/周凱揚)AIGC在應用軟件掀起的這股熱潮背后,卻隱藏著(zhù)AI服務(wù)器組件缺貨的難題。在云服務(wù)廠(chǎng)商和互聯(lián)網(wǎng)廠(chǎng)商大肆采購AI
    的頭像 發(fā)表于 02-20 00:17 ?2373次閱讀
    GPU交期緩解,<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>廠(chǎng)商營(yíng)收暴漲

    春節想開(kāi)黑幻獸帕魯?先把的專(zhuān)屬服務(wù)器部署好!

    服務(wù)器
    腦極體
    發(fā)布于 :2024年02月07日 00:16:05

    如何遠程登錄服務(wù)器?登錄失敗是什么原因?

    我用Linux服務(wù)器,遇到了有關(guān)遠程登錄的一些問(wèn)題,于是搜索了一些資料,整理了一篇文檔,作為記錄。如果你也遇到過(guò) 相似的問(wèn)題,歡迎一起探討! 一、Linux
    發(fā)表于 02-01 15:32

    AI服務(wù)器簡(jiǎn)介及晶振應用

    AI服務(wù)器,是一種專(zhuān)門(mén)用于處理人工智能相關(guān)任務(wù)的高性能計算機。它具備強大的計算能力和存儲能力,能夠快速處理大量的數據和復雜的算法。與傳統的計算設備相比,AI服務(wù)器具有更高的計算效率和更
    的頭像 發(fā)表于 12-25 10:45 ?617次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>簡(jiǎn)介及晶振應用

    YXC晶振解決方案AI服務(wù)器中的應用

    AI服務(wù)器常用頻點(diǎn):50MHZ、125MHZ、156.25MHZ,適用于AI服務(wù)器的YXC差分晶振
    的頭像 發(fā)表于 12-18 18:06 ?243次閱讀
    YXC晶振解決方案<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>中的應用

    模型算驅動(dòng)AI服務(wù)器行業(yè)報告

    AI服務(wù)器按芯片類(lèi)型可分為CPU+GPU、CPU+FPGA、CPU+ASIC等組合形式,CPU+GPU是目前國內的主要選擇(占比91.9%);AI服務(wù)器的成本主要來(lái)自CPU、GPU等芯
    發(fā)表于 11-28 09:18 ?131次閱讀
    大<b class='flag-5'>模型</b>算驅動(dòng)<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>行業(yè)報告

    服務(wù)器數據恢復—服務(wù)器常見(jiàn)故障&amp;服務(wù)器發(fā)生故障后如何恢復服務(wù)器數據?

    服務(wù)器常見(jiàn)故障: 硬件故障:磁盤(pán)、板卡、電源故障等。 軟件故障:操作系統崩潰、程序運行錯誤等。 入侵破壞:加密、刪除服務(wù)數據等。 不可控力:浸水、火燒、倒塌等。 誤操作:格式化、刪除、覆蓋等。
    的頭像 發(fā)表于 11-14 11:50 ?478次閱讀

    #人工智能 #安卓主板 #AI算力主板 #安卓AI主板 #AI算力服務(wù)器 #陣列服務(wù)器為您提供一站式解決方案

    服務(wù)器AI人工智能
    儀器設備李先生
    發(fā)布于 :2023年10月20日 17:29:59

    怎么判斷MCU是否連接到了網(wǎng)絡(luò )服務(wù)器?

    有什么辦法可以測試MCU是否正常連接到了網(wǎng)絡(luò )服務(wù)器
    發(fā)表于 10-12 07:38

    AI服務(wù)器與傳統服務(wù)器的區別是什么?

    AI 服務(wù)器確實(shí)是整個(gè)服務(wù)器市場(chǎng)的一部分,但它們是專(zhuān)門(mén)為基于云的 AI 模型訓練或推理而設計的。在規格方面,廣義的
    發(fā)表于 06-21 12:40 ?1489次閱讀
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看