<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI計算需求激增,英偉達H100功耗成挑戰

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2023-12-28 09:29 ? 次閱讀

伴隨著人工智能技術飛躍式的進步,對于計算機運算能力的需求同樣大幅提升。目前,英偉達公司的H100芯片銷售火爆。值得關注的是,單片H100芯片的峰值功率高達700瓦。隨著此類芯片的廣泛使用,預計到2024年末,其總體功耗將相當于甚至超越某些歐洲小型國家。

根據預測,若H100的年利用率保持在61%,那么單臺設備每年將耗電3740千瓦小時左右。如果英偉達在2023年售出150萬塊H100,2024年再增加至200萬塊,那么到2024年底,將有350萬塊H100芯片投入使用,其總年用電量將高達130.91億千瓦小時(13091.82GWh)。相對而言,一些國家的年平均發電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個數量級。

盡管H100的電力消耗數字讓人瞠目結舌,但我們可以看到,AI以及高性能計算GPU的能效正逐步改善。英偉達下一代Blackwell架構的B100芯片不僅可能擁有超過H100的功耗,而且還能實現更高的性能表現,從而在相同能耗下完成更多任務。

很明顯,隨著AI技術的持續發展,如何妥善處理算力與能耗之間的矛盾,成為了未來亟待解決的重大問題。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    447

    文章

    48370

    瀏覽量

    412133
  • 人工智能
    +關注

    關注

    1781

    文章

    44776

    瀏覽量

    231929
  • 英偉達
    +關注

    關注

    22

    文章

    3480

    瀏覽量

    88862
收藏 人收藏

    評論

    相關推薦

    英偉達發布新一代H200,搭載HBM3e,推理速度是H100兩倍!

    電子發燒友網報道(文/李彎彎)日前,英偉達正式宣布,在目前最強AI芯片H100的基礎上進行一次大升級,發布新一代H200芯片。H200擁有141GB的內存、4.8TB/秒的帶寬,并將與H100
    的頭像 發表于 11-15 01:15 ?2613次閱讀
    <b class='flag-5'>英偉</b>達發布新一代H200,搭載HBM3e,推理速度是<b class='flag-5'>H100</b>兩倍!

    首批1024塊H100 GPU,正崴集團將建中國臺灣最大AI計算中心

    中國臺灣當地正崴集團5月27日宣布,將與日本公司Ubitus共同打造人工智能(AI計算中心,其中第一期將導入128個機柜,共計1024張英偉H100旗艦
    的頭像 發表于 05-29 10:05 ?380次閱讀

    進一步解讀英偉 Blackwell 架構、NVlink及GB200 超級芯片

    藥物設計、量子計算和生成式 AI 等領域。 為了紀念杰出的數學家David H.Blackwell,英偉 Blackwell架構被明確設計
    發表于 05-13 17:16

    英偉達H200和H100的比較

    英偉達H200和H100是兩款不同的AI芯片,它們各自具有獨特的特點和優勢。以下是關于這兩款芯片的一些比較。
    的頭像 發表于 03-07 15:53 ?1724次閱讀

    戴爾績后暴漲20% AI服務器需求激增

    盡管面臨先進計算機芯片供應瓶頸,戴爾科技依然努力滿足市場需求。Jeff Clarke表明,盡管需求持續高漲,但公司看到英偉H100芯片交貨
    的頭像 發表于 03-01 15:53 ?656次閱讀

    英偉達:預計下一代AI芯片B100短缺,計劃擴產并采用新架構

    近期熱門的 H100 芯片運期短縮數天后,英偉達新型 AI 旗艦芯片 B100搭載全新的 Blackwell,有望使 AI
    的頭像 發表于 02-25 09:29 ?399次閱讀

    英偉H100,沒那么缺貨了 !RTX 4090 ,大漲

    這樣,在云端使用 H100 GPU 的排隊時間可能會縮短。數據中心提供商和前比特幣挖礦公司正在開設具有 H100 集群的數據中心。這些公司承諾以大型云提供商成本的一小部分提供 H100 GPU
    的頭像 發表于 11-23 15:59 ?945次閱讀

    英偉達新AI芯片H20綜合算力比H100降80%

    但據悉,三種新型AI芯片不是“改良型”,而是“縮小型”。用于ai模型教育的hgx h20的帶寬和計算速度是有限的。整體計算能力理論上比nvidia的
    的頭像 發表于 11-13 09:41 ?1072次閱讀

    AI需求大增!傳英偉達 B100 提前至明年Q2發布

    市場有關負責人表示,h100英偉達gpu中規格最高的技術,但b100的影響力比h100更大,今后將采用3至4納米工程和芯片設計。隨著sk海力士決定獨家向
    的頭像 發表于 10-17 09:23 ?661次閱讀

    MI300X能否與H100一較高下?

    市場研究公司Omdia近日發布報告稱,預計英偉達二季度用于AI和高性能計算應用的H100 GPU的出貨量超過了900噸。并且預計其在未來幾個季度的GPU銷量將大致相同,因此
    發表于 09-28 14:50 ?1346次閱讀
    MI300X能否與<b class='flag-5'>H100</b>一較高下?

    英偉達a100h100哪個強?英偉達A100H100的區別

    英偉達a100h100哪個強? 就A100H100這兩個產品來說,它們雖然都是英偉達公司的高
    的頭像 發表于 08-09 17:31 ?4w次閱讀

    英偉達h800和h100的區別

    英偉達h800和h100的區別 其實大白話就是,A100、H100是原版,特供中國市場的減配版是A800、H800。A100、
    的頭像 發表于 08-08 16:06 ?4.1w次閱讀
    <b class='flag-5'>英偉</b>達h800和<b class='flag-5'>h100</b>的區別

    英偉達A100的簡介

    達A100英偉達公司推出的一款面向高性能計算(HPC)和人工智能(AI)的加速計算卡。它采用了全球首個基于7nm工藝的數據中心GPU架構A
    的頭像 發表于 08-08 15:17 ?8005次閱讀

    英偉達A100H100的區別

    英偉達A100H100的區別 英偉達A100H100是兩種不同的產品。A
    的頭像 發表于 08-07 18:06 ?2.6w次閱讀

    英偉達a100h100哪個強?

    英偉達a100h100哪個強? 英偉達A100H100更強。
    的頭像 發表于 08-07 17:32 ?1.2w次閱讀
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>