<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

算力需求井噴,AI服務器能否一騎絕塵?

張慧娟 ? 來源:電子發燒友網 ? 作者:張慧娟 ? 2020-02-19 08:33 ? 次閱讀

新冠肺炎疫情對人們的工作、消費方式均產生巨大影響,但同時提振在線教育、遠程辦公、遠程政務、在線游戲、生鮮采購等一系列需求。

未來將有更多行業向云上遷移,加速各行業線上化、云化過程,帶動服務器市場增長。受下游需求變化影響,服務器市場正在發生的結構性變化不容忽視,例如產品高端化、AI化成為確定性的趨勢。

AI服務器成為服務器廠商競爭焦點

回顧2019年服務器市場,全球范圍內表現欠佳。不過,AI的興起給整個行業帶來了生命力,AI服務器將成為服務器廠商未來的競爭點。

對算力的渴求+海量數據爆發成為當前AI服務器崛起的主要驅動因素。一方面,大多數 AI 算法需要大量的數據和算力來完成任務,依靠云服務來執行計算;另一方面,在提供智能云體驗上,由 AI 驅動的解決方案將決定企業能否在 AI 時代快速占領制高點。

目前,在中國的AI服務器市場,浪潮的市場占有率最大,占據約50.2%的市場份額,華為位居第二,約占15.7%,曙光以7.8%位居第三(數據來源于IDC 2019H1 PRC AI Infrastructure Tracker)。包括浪潮、華為、曙光、新華三、戴爾等在內的主流OEM、ODM廠商均有不止一款的AI服務器。

浪潮目前推出的AI服務器主要包括AGX-5、AGX-2、NF5488M5、NF5468M5、NF5280M5以及NF5280M5-V。其中,AGX-5單機可以配置16顆NVIDIA Tesla V100 Tensor Core 32GB GPUs,擁有10240個張量計算核心,計算性能達每秒2千萬億次。去年,浪潮還推出了浪潮元腦一體化解決方案。既包括了AI計算能力,也包括了AI PaaS平臺,同時包括了浪潮面向人工智能所推出的AutoML Suite套件。

華為自2018年10月發布AI戰略以來,于去年8月發布其算力最強的AI處理器昇騰910和全場景AI計算框架MindSpore,完成全棧全場景AI解決方案的構建。在典型的ResNet50 網絡的訓練中,昇騰910與MindSpore配合,與現有主流訓練單卡配合TensorFlow相比,顯示出接近2倍的性能提升。

AI服務器的競爭,已經不只是簡單的產品升級迭代,而是上升到了整體的布局,是包括芯片、云、數據處理能力、框架、算法開發基礎、部署環境等在內的整體能力。

隨著數據的爆炸增長與深度神經網絡日趨復雜,單機或小型服務器已經無法滿足算力需求,未來將有大量的人工智能應用和服務被放在云端。AI算力需求逐步邁入高峰期,更高性能的AI服務器將在線下場景落地。

互聯網仍是AI服務器主戰場

雖然AI落地被認為是“架起梯子遠遠夠不到月亮”階段,但在某些細分領域已經開始從“AI產業化”向“產業AI化”的逐步轉變。勇于嘗試新技術的互聯網公司仍是AI服務器的主戰場。

新型冠狀病毒疫情爆發后,阿里巴巴、騰訊、百度等公司,通過開放核心算法和計算能力的方式,與醫學研究機構共同抗擊疫情,AI算力對于與疫情賽跑的分分秒秒中都起到了關鍵作用,助力病毒基因測序、疫苗及藥物研發、蛋白篩選等藥物研發攻關。

受疫情影響,在線辦公、教育、娛樂等應用需求加速增長,互聯網巨頭和細分領域頭部企業,開始對服務器進行擴容,數據中心和服務器市場有望迎來擴容機遇。

企業 服務器擴容情況
阿里巴巴 2月3日擴容1萬臺,2月4日擴容1萬臺
騰訊 1月29日至2月6日,8天總擴容超過10萬臺云服務器
金山辦公 1月25日前后,WPS表單服務器擴容5倍;2月3日后,金山文檔遠程會議服務器擴了3倍,金山文檔在線office擴了1倍。
叮當快藥 2月12日后,服務器擴容30倍
<電子發燒友>整理于2020.2.18

根據IDC《2019-2020中國AI計算力發展評估報告》顯示,互聯網是投資AI算力最多的行業,占據了中國62.4%的人工智能算力投資市場份額。而算力這一AI基礎設施,主要由AI芯片和AI服務器玩家提供,這一市場正在高速增長。

不過,在互聯網行業之外,傳統行業和AI的結合也越來越緊密,其中服務行業正在加大對AI技術的投入,政府、教育、金融等傳統行業也進一步加深與AI應用的融合。

AI服務器需要多樣性算力

以AI帶來的多種數據類型和場景為代表,驅使計算架構優化、多種計算架構并存,已經成為實現最優性能計算的必然選擇。

AI爆發前,算力主要來源于x86服務器。而隨著單顆CPU性能提升遭遇瓶頸,傳統服務器難以滿足并行算力需求,以GPU為主的AI服務器開始了高速增長。擅長多線程并行的GPU在處理海量數據上有著先天優勢,通過CPU+GPU異構組成的AI服務器成為當下主流,是服務器廠商紛紛發力的產品。

根據IDC對中國GPU服務器出貨量的預測,2018-2023年,整體市場年復合增長率(CAGR)為27.1%,到2023年市場規模將達到43.2億美金(約合人民幣298億元)。

在剛剛過去的2019年,由于互聯網行業采購的縮減以及中美貿易戰的不斷升級,給中國GPU服務器市場帶來了一定程度上的影響,使其市場增速稍有放緩,但依然高于中國x86服務器市場。

從產品角度看,8卡GPU服務器和英偉達的V100加速卡成為去年上半年的采購熱點,均占據30%以上的份額。

值得一提的是,在GPU稱霸的AI服務器領域,FPGA正以“加速”之形象變得深入人心。微軟是全球首個真正意義上在云數據中心中大規模成功部署FPGA的公司,他們牢牢抓住FPGA靈活性這一最重要的特點,通過使用FPGA,一方面可以盡早開展定制化計算與定制芯片的研究與設計,另一方面,可以保持與現有架構相互兼容的同構性。目前,包括浪潮、華為、戴爾、百度等均已宣布在其服務器中部署FPGA加速卡。

在異構方式上,除了CPU+GPU、CPU+FPGA,還有CPU+TPU、CPU+ASIC或CPU+多種加速卡等形式,隨著場景應用的逐漸豐富,AI服務器架構應了一句話“合適的才是最好的”,步入多樣化的算力需求時代。

算力缺口持續放大,巨頭、創企混戰

在筆者早先與雪湖科技聯合創始人兼COO王韻的交流中,他對于AI三要素:算法、算力、數據,有個形象的比喻:算法是菜譜,算力是鍋,數據是食材。在AI發展初期,為什么算法公司占據明顯優勢?因為要做出一道大餐,必須有好的菜譜。但是,當大家慢慢掌握了燒菜方法后,菜譜就變得不像最初那么重要了,反而是,一口好鍋和好的食材非常關鍵。這就是AI正在經歷的從算法霸權,向算力霸權和數據霸權的演進。

隨著AI、5G、無人駕駛等確定性趨勢技術的發展,算力缺口仍在不斷放大。我們所處的世界,計算的邊界也在不斷延伸,從數據中心到邊緣再到終端,智能計算將無所不及。AI終將成為一種基礎能力,連接芯片提供商、應用提供商、服務提供商和算法提供商。算力也將作為一切人工智能產業發展的核心,從早期的集中在訓練場景,發展到在推理場景的大規模應用階段。

對于服務器市場正在發生的變化,巨頭們早已開始了改變。

英特爾不斷提升其數據中心的異構計算的能力,并在跨多架構的開發過程中進行統一和簡化。剛剛斥資約20億美元收購的以色列人工智能公司Habana Labs,有助于提振英特爾面向數據中心的AI服務。Habana Labs的AI訓練處理器Gaudi,與使用同等數量GPU構建的系統相比,基于Gaudi的大節點訓練系統的吞吐量預計將增加4倍。Gaudi訓練產品和Goya推理產品能夠提供豐富的、易于編程的開發環境,幫助客戶部署差異化解決方案。

英偉達顯然也沒有掉以輕心,雖然在其剛剛宣布的2020財年第四季度及全年的財務報告中顯示,數據中心收入達到創紀錄的29.8億美元,比上年增長2%。對于未來,英偉達方面表示,“我們看到了一個新的計算時代的開始。固定功能加速器根本不是正確的答案。我們認為未來需要加速的計算平臺,并且軟件豐富性至關重要,數據中心可以由軟件定義?!?br />
國內創企也在崛起的AI服務器市場中激流勇進。不過,由于云端訓練芯片的研發投入大、流片風險高,僅有為數不多的公司能夠進入該領域。目前主要有海思、阿里、依圖、寒武紀、燧原等。

應對未來數據量的爆炸性增長,硬件本身的能力有一定的局限性,軟硬協同的平臺組合,才能做到前端承接多源數據、后端支撐智能應用。算力、算法和數據的協同也至關重要,算力和算法的提升,數據的開放和共享,將共同推動AI向產品乃至行業智能化的普及。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 服務器
    +關注

    關注

    12

    文章

    8213

    瀏覽量

    82802
  • 算力
    +關注

    關注

    1

    文章

    686

    瀏覽量

    14399
收藏 人收藏

    評論

    相關推薦

    英偉達首次向OpenAI供應AI服務器,鴻海出貨預期將增長

    自2017年起,鴻海便開始與英偉達合作開發服務器,其中包括世界上首臺AI服務器HGX1。值得注意的是,OpenAI成立之初,有一張照片展示了黃仁勛贈予馬斯克一臺AI
    的頭像 發表于 04-26 16:18 ?316次閱讀

    2024年蘋果AI服務器采購飆升,英偉達H100引領AI訓練卡出貨

    ,整體需求尚未恢復至疫情前成長幅度,預估2024年全球服務器整機出貨量約1,365.4萬臺,同比增約2.05%。 ? 同時,市場仍聚焦部署AI服務器,
    的頭像 發表于 03-08 01:25 ?3175次閱讀

    能RADXA微服務器試用體驗】Radxa Fogwise 1684X Mini 規格

    通過網絡可以了解到,能RADXA微服務器的具體規格: 處理:BM1684X :高達32Tops INT8峰值
    發表于 02-28 11:21

    服務器遠程不上服務器怎么辦?服務器無法遠程的原因是什么?

    解封。 2.遠程端口沒有添加到防火墻策略中 很多人可能對這個不是很理解,在這解釋下:端口沒有在防火墻策略中允許所有人鏈接,那么這個端口就無法被訪問, 同理,遠程端口沒有加入防火墻策略,就無法訪問這臺服務器
    發表于 02-27 16:21

    linux服務器和windows服務器

    和適用性。 首先,Linux服務器種基于開源的操作系統,其內核是由許多個人和組織共同開發和維護的。它具有高度的穩定性和安全 性。由于Linux操作系統的開放性,用戶可以根據自己的需求和喜好進行自定義配置
    發表于 02-22 15:46

    鴻海進軍AI服務器市場,巫俊毅預測需求看好

    值得注意的是,作為全球服務器制造行業翹楚,鴻海集團占全球市場份額超40%,且在AI服務器市場上占有重要地位,其AI芯片模組和基板市場份額更是高達70%以上,堪稱英偉達主要供貨商。
    的頭像 發表于 02-20 15:33 ?216次閱讀

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發布于 :2024年01月25日 14:54:52

    AI服務器簡介及晶振應用

    AI服務器,是一種專門用于處理人工智能相關任務的高性能計算機。它具備強大的計算能力和存儲能力,能夠快速處理大量的數據和復雜的算法。與傳統的計算設備相比,AI服務器具有更高的計算效率和更
    的頭像 發表于 12-25 10:45 ?548次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務器</b>簡介及晶振應用

    物理服務器ai發展的應用

    物理服務器AI發展中扮演著重要的角色。傳統的以CPU為計算部件的服務器架構已難以滿足人工智能的新需求,因此,"CPU+ GPU/FPGA/ASIC"的異構計算架構成為人工智能
    的頭像 發表于 12-22 09:19 ?237次閱讀

    YXC晶振解決方案AI服務器中的應用

    AI服務器常用頻點:50MHZ、125MHZ、156.25MHZ,適用于AI服務器的YXC差分晶振
    的頭像 發表于 12-18 18:06 ?216次閱讀
    YXC晶振解決方案<b class='flag-5'>AI</b><b class='flag-5'>服務器</b>中的應用

    英偉達AI服務器需求助推生益科技CCL供應

    據悉,AI服務器所需的CCL用量大約是普通服務器的八倍,而當英偉達的AI服務器計劃在2024年下半年升級至更先進的B100方案時,其
    的頭像 發表于 12-13 15:37 ?792次閱讀

    什么是服務器指令?

    服務器
    YS YYDS
    發布于 :2023年06月23日 01:02:04

    AI服務器與傳統服務器的區別是什么?

    AI 服務器確實是整個服務器市場的一部分,但它們是專門為基于云的 AI 模型訓練或推理而設計的。在規格方面,廣義的AI
    發表于 06-21 12:40 ?1414次閱讀

    AI服務器需求強勁!工業富聯:已著手開發下一代AI服務器

    的托管服務及運維。此外,公司生產的云端游戲服務器已于今年3月量產出貨。 工業富聯(全稱:富士康工業互聯網股份有限公司),是國內主要的AI服務器企業之一。今年以來,ChatGPT與
    的頭像 發表于 06-09 11:59 ?1520次閱讀
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>