<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大模型為何成耗能大戶

現代電子技術 ? 來源:經濟日報 ? 2024-04-29 17:25 ? 次閱讀

隨著人工智能技術快速發展,人工智能(AI)大模型的運行消耗問題受到越來越多關注。大模型為何成了耗能大戶?能耗問題會不會成為人工智能發展的“絆腳石”?如何解決能耗問題?

耗電耗水量大

人工智能大模型到底有多耗能?據斯坦福人工智能研究所發布的《2023年AI指數報告》,AI大語言模型GPT-3一次訓練的耗電量為1287兆瓦時,大概相當于3000輛特斯拉電動汽車共同開跑、每輛車跑20萬英里所耗電量的總和。報告同時提出,AI大語言模型GPT-3一次訓練,相當于排放了552噸二氧化碳。

國外研究顯示,一次標準谷歌搜索耗電0.3瓦時,AI大語言模型ChatGPT響應一次用戶請求耗電約2.96瓦時,在AI大模型驅動下的一次谷歌搜索耗電8.9瓦時。

除了耗電,另有研究顯示,AI大語言模型GPT-3在訓練期間耗水近700噸,每回答20個至50個問題就要消耗500毫升水。弗吉尼亞理工大學研究指出,Meta公司在2022年使用了超過260萬立方米的水,主要作用是為數據中心提供冷卻。

據了解,人工智能大模型GPT-4的主要參數是GPT-3的20倍,計算量是GPT-3的10倍,能耗也隨之大幅增加。

華泰證券研報預測,到2030年,中國與美國的數據中心總用電量將分別達到0.65萬億千瓦時至0.95萬億千瓦時、1.2萬億千瓦時至1.7萬億千瓦時,是2022年的3.5倍和6倍以上。屆時,AI用電量將達到2022年全社會用電量的20%和31%。

為何如此耗能

為什么人工智能大模型如此耗能?AI技術迅速發展,對芯片的需求急劇增加,進而帶動電力需求激增。同時,對AI進行大量訓練,也意味著需要更強的算力中心和與之匹配的散熱能力。在AI快速迭代的道路上,電力和水資源的消耗也在快速增加。因為很多數據中心全年無休,發熱量巨大,大規模電耗和水耗主要來自于冷卻需求。

相關統計顯示,數據中心運行成本的六成是電費,而電費里的四成多來自冷卻散熱,相應也會帶來巨量冷卻水的消耗。風冷數據中心六成多的耗電量都會用在風冷上,只有不到四成電力用在實際計算上。如今,全球數據中心市場耗電量是10年前的近10倍。

能耗問題會不會成為人工智能發展的“絆腳石”?英偉達首席執行官黃仁勛曾提到,AI和算力耗能巨大,但由于計算機性能飛速增長,計算會更加高效,相當于更節省能源。當前,我國實施嚴格的能耗雙控政策,無論是AI大模型本身還是其應用行業,對單位GDP能耗來說均有明顯降低作用。

從整體能耗來看,AI大模型帶來的效率提升也會抵消一部分能耗增長。隨著綠電廣泛應用,再加上我國逐步由能耗雙控向碳排放雙控政策轉變,可再生能源對未來AI大模型發展的支撐能力也會越來越強。

此外,相較于其他國家而言,中美等能源消費大國和數據大國,具備更好發展AI大模型的資源條件和基礎。

怎樣應對挑戰

據預測,到2025年,AI相關業務在全球數據中心用電量中的占比將從2%增加至10%。到2030年,智能計算年耗電量將達到5000億千瓦時,占全球發電總量的5%。因此,在大力發展AI大模型的同時,必須提前做好相關規劃布局,以提供必要的電力和水資源等技術支撐。

有專家認為,人工智能的未來發展與狀態和儲能緊密相連。因此,不應僅關注計算力,而是需要更全面地考慮能源消耗問題。OpenAI創始人奧爾特曼認為,未來AI技術取決于能源突破,更綠色的能源尤其是核聚變或更便宜的太陽能以及儲能的可獲得性,是人工智能發展快慢的重要因素。

為降低電力和水資源消耗,很多企業在嘗試采用各種方法為數據中心散熱。例如,微軟曾嘗試部署海下數據中心,臉書(Facebook)數據中心選址北極圈附近,阿里云千島湖數據中心使用深層湖水制冷等,我國很多企業則把數據中心布局在水電資源豐富的西南地區。

目前,可通過算法優化、開發和使用更高效的AI專用硬件、調整神經網絡訓練過程以優化計算資源等技術方式來降低AI大模型的能耗,并更多采用自然冷卻、液冷、三聯供、余熱回收等新興節能技術,提高制冷效率以降低數據中心能耗。從技術未來發展方向上看,光電智能芯片也有助于解決AI大模型的電耗和水耗問題。

AI大模型的發展,不能僅符合高端化、智能化的要求,更要符合綠色化的發展要求。為此,從國家和地方層面上看,為緩解AI大模型發展所帶來的電力和水資源沖擊,有必要將數據中心行業納入高耗能行業管理體系,并提前做好相關規劃布局。同時,加強資源整合,充分發揮人工智能大模型和數據中心的效能,通過使用效能下限設置等方式,確保其自身的電力和水資源使用效率。還應嚴格落實國家能耗雙控及碳排放雙控政策,并將其碳足跡與水足跡納入行業考核范圍,切實推動碳足跡與水足跡逐步降低,以應對日益增長的AI大模型電力和水資源需求。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    27061

    瀏覽量

    264823
  • 語言模型
    +關注

    關注

    0

    文章

    463

    瀏覽量

    10126
  • 可再生能源
    +關注

    關注

    1

    文章

    647

    瀏覽量

    39232
  • 大模型
    +關注

    關注

    2

    文章

    1804

    瀏覽量

    1389

原文標題:大模型為何成耗能大戶

文章出處:【微信號:現代電子技術,微信公眾號:現代電子技術】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    儲能元件和耗能元件的定義

    在電工和電子學的世界中,儲能元件和耗能元件是兩大基本元素,它們各自在電路中扮演著不同的角色,對電路的功能和性能產生著深遠的影響。本文將對這兩種元件進行詳細的探討,包括它們的定義、特性、種類以及應用。
    的頭像 發表于 05-16 18:07 ?623次閱讀

    【大語言模型:原理與工程實踐】大語言模型的應用

    ,它通過抽象思考和邏輯推理,協助我們應對復雜的決策。 相應地,我們設計了兩類任務來檢驗大語言模型的能力。一類是感性的、無需理性能力的任務,類似于人類的系統1,如情感分析和抽取式問答等。大語言模型在這
    發表于 05-07 17:21

    【大語言模型:原理與工程實踐】大語言模型的評測

    大語言模型的評測是確保模型性能和應用適應性的關鍵環節。從基座模型到微調模型,再到行業模型和整體能力,每個階段都需要精確的評測來指導
    發表于 05-07 17:12

    儲能元件和耗能元件怎么區分?

    儲能元件和耗能元件在電子電路中起著截然不同的作用,它們的區分對于電路設計和系統性能至關重要。
    的頭像 發表于 05-06 16:05 ?193次閱讀

    【大語言模型:原理與工程實踐】大語言模型的基礎技術

    全面剖析大語言模型的核心技術與基礎知識。首先,概述自然語言的基本表示,這是理解大語言模型技術的前提。接著,詳細介紹自然語言處理預訓練的經典結構Transformer,以及其工作原理,為構建大語言
    發表于 05-05 12:17

    使用MotorControl Workbench 5.1.3生的軟件,運行后software error,為什么?

    使用MotorControl Workbench 5.1.3生的軟件,運行,第一次可以發波形,第二次報software error;后面沒次清除故障都是直接software error;沒有任何波形產生。請問為何會報這個 故障?
    發表于 04-25 06:17

    采用STM8L152停機模式+點亮LCD的情況下的功耗能夠做到多低呢?

    有沒有人試驗過,采用STM8L152停機模式+點亮LCD的情況下的功耗能夠做到多低呢?是多少呢?
    發表于 04-15 07:16

    模型推理顯卡選購指南:4090顯卡為何成為不二之選

    開發者非常關注的話題。 現在市面上加速卡型號多如牛毛,但說到適用大模型推理的顯卡,那4090顯卡絕對是現階段“推理王卡”般的存在。論性能不如H100,論價格不如3090,看似平平無奇的4090顯卡為何能在眾多競爭者中脫穎而出,成為大模型
    的頭像 發表于 04-11 11:00 ?233次閱讀
    大<b class='flag-5'>模型</b>推理顯卡選購指南:4090顯卡<b class='flag-5'>為何</b>成為不二之選

    如何將adi的spice模型(.cir文件)添加到pspice里?

    我在用cadence的pspice仿真電路時,需要一個AD620器件,后來雖然我在cadence自帶的庫中找到了。但還是留了很多疑問: 1.ad620是adi公司出的,網站上有spice模型
    發表于 11-28 06:58

    什么是隔直電容,它們為何重要?(上)

    什么是隔直電容,它們為何重要?(上)
    的頭像 發表于 11-23 16:39 ?515次閱讀
    什么是隔直電容,它們<b class='flag-5'>為何</b>重要?(上)

    什么是隔直電容,它們為何重要?(下)

    什么是隔直電容,它們為何重要?(下)
    的頭像 發表于 11-23 15:58 ?1159次閱讀
    什么是隔直電容,它們<b class='flag-5'>為何</b>重要?(下)

    創新的低功耗能量采集傳感器設計

    電子發燒友網站提供《創新的低功耗能量采集傳感器設計.pdf》資料免費下載
    發表于 11-02 11:09 ?0次下載
    創新的低功<b class='flag-5'>耗能</b>量采集傳感器設計

    一種低功耗能量采集傳感器的實現方案

    電子發燒友網站提供《一種低功耗能量采集傳感器的實現方案.pdf》資料免費下載
    發表于 10-20 10:34 ?0次下載
    一種低功<b class='flag-5'>耗能</b>量采集傳感器的實現方案

    5G基站建設超預期 低耗能如何實現?

    截至今年8月末,5G基站總數已超過300萬個。盡管目前我國正在大力推廣5G,但是高耗能的難題阻礙了5G基站建設的腳步。5G基站低耗能究竟該如何實現? 從2019年開始至今,5G商用已進入到第四個年頭
    的頭像 發表于 10-13 11:23 ?392次閱讀
    5G基站建設超預期 低<b class='flag-5'>耗能</b>如何實現?

    IBIS建模:為何以及如何創建您自己的IBIS模型

    本文介紹如何使用LTspice來提取數據和構建IBIS模型。還提出通過定性FOM和曲線面積度量的定量FOM將IBIS模型與參考SPICE模型關聯起來的方法。這樣就可以讓用戶確信IBIS模型
    的頭像 發表于 06-15 17:06 ?1579次閱讀
    IBIS建模:<b class='flag-5'>為何</b>以及如何創建您自己的IBIS<b class='flag-5'>模型</b>
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>