<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

千億美元打造一個系統,成本越來越高的AI超算

E4Life ? 來源:電子發燒友 ? 作者:周凱揚 ? 2024-04-09 00:19 ? 次閱讀

電子發燒友網報道(文/周凱揚)從近年來新發布的超算機器和新的HPC AI性能榜單可以看出,AI算力已經在超算中成了不可忽視的性能指標之一,但也為廠商帶來了更大的成本挑戰。比如微軟近期就爆出和OpenAI合作,打造一個千億美元級別的超算系統。

千億美元打造AI超算

根據外媒報道,此次打造的千億美元超算系統名為Stargate,星門。這一超算系統僅僅只是微軟和OpenAI一系列數據中心合作項目之一,但造價已經高到離譜了。從規模上看,這個超算的硬件配置已經到了遠超現有系統的程度。據爆料,星門將集成百億個最新英偉達GPU,造價可能會達到1150億美元。不過在互聯方案上,微軟可能會跳過英偉達的InfiniBand專用方案,而采用更加通用以太網方案。

當然了,雖然總成本較高,但微軟并沒有一次建成的部署策略,而是分拆成五個階段,整個項目在2028年成功建成。這樣可以盡早讓該系統投入使用,畢竟對于新的模型而言,率先發布才不會錯失市場機會。這或許也與微軟采用通用的以太網方案有關,畢竟面對跨度如此長的方案而言,專用方案很可能會面臨被兼容性差和被淘汰的局面。微軟預計會在第四階段,也就是2026年左右,正式啟用這一超算系統。

除此之外,超算的部署地點依然待定,這無疑與部署地的電網供電能力息息相關,當地政府如果能提供支持自然最好。不過從硬件規模來看,單系統的耗電已經達到千兆瓦級,無論是對美國哪個州而言,都是巨大的供電挑戰。也正因如此,微軟正在考慮核能在內的其他替代能源方案。

超算部署成本發生的變化

時至今日,微軟已經在OpenAI上花了130億美元,使用其數據中心來為ChatGPT之類的應用提供硬件支持。但此次的星門項目更是規模浩大,這也說明了新模型的訓練和推理,仍在對數據中心的硬件提出新的要求,需要用性能更強的AI超算來解決。

但這并不意味著普遍的超算成本真的有這么夸張的變化,要知道目前TOP500上排名第一的超算Frontier,其成本也只有6億美元。對于科研專用的單個超算系統而言,雖然造價不算低,但在政府的科研經費支持下,研究機構還是可以負擔起的。

不過值得注意的是,TOP500上的超算都有公開的跑分成績,為了實現這樣的成績,需要一定時間的優化,再運行一段時間的測試才會有此成績。而市面上,尤其是在不少大型互聯網公司內部,也存在并沒有公開提交成績的超算,因為這類系統幾乎是從誕生起就被投入商業使用了。

所以市面上肯定有超過6億美元的超算系統,比如Meta就在幾個月前打造了兩套系統,分別集成了2萬個H100 GPU,總成本在10億美元以上。其他的互聯網公司,諸如國內的百度、騰訊等,想必也有龐大的硬件購買計劃。

寫在最后

隨著HPC與AI在需求和計算負載上的融合,市場趨勢從前幾年的“帶AI功能的HPC系統”變成了“同樣可以用于HPC的AI系統”。但從其規模來看,對于HPC市場也未嘗不是一件好事,畢竟目前AI超算的商業價值更高,能夠吸引到更多的投資和補貼,也有望進一步推動HPC硬件的革新速度。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    26443

    瀏覽量

    264041
  • HPC
    HPC
    +關注

    關注

    0

    文章

    279

    瀏覽量

    23418
  • 超算
    +關注

    關注

    1

    文章

    109

    瀏覽量

    8972
收藏 人收藏

    評論

    相關推薦

    谷歌擬投千億美元,AI實力或領跑業界

    據企鵝號報道,DeepMind公司首席執行官德米斯·哈薩比斯在TED大會上,面對媒體對微軟公司和OpenAI建設價值千億美元超級計算機“星際之門”的提問,他未披露具體投資金額,但表示谷歌在人工智能領域的投入將超越千億
    的頭像 發表于 04-16 16:41 ?347次閱讀

    我們該如何應對SOC中越來越龐大和復雜的SDC約束?

    SOC設計變得越來越復雜,成本越來越高,設計和驗證也越來越困難。
    的頭像 發表于 03-13 14:52 ?463次閱讀
    我們該如何應對SOC中<b class='flag-5'>越來越</b>龐大和復雜的SDC約束?

    IC datasheet為什么越來越薄了?

    剛畢業的時候IC spec動則三四百頁甚至一千頁,這種設置和使用方法很詳盡,但是這幾年IC datasheet為什么越來越薄了,還分成了IC功能介紹、code設置、工廠量產等等規格書,很多東西都藏著掖著,想了解IC什么東西都要發郵件給供應商,大家有知道這事為什么的嗎?
    發表于 03-06 13:55

    為何開關頻率要大于30kHz,且有越來越高的趨勢?

    為何開關頻率要大于30kHz,且有越來越高的趨勢?開關頻率大小的限制因素是什么? 開關頻率的大小是指開關電路每秒鐘進行開關操作的次數。在電力電子設備中,開關頻率主要用于調節電路的響應速度和功率傳輸
    的頭像 發表于 01-31 17:39 ?610次閱讀

    為什么PoE應用需要越來越高的功率?

    本期我們和大家分享的話題是以太網供電,即我們常說的PoE的發展以及以太網供電這種應用對雙絞線的要求。
    的頭像 發表于 11-30 10:22 ?263次閱讀

    部分新能源充電企業服務費漲50%,開電車費用越來越高?!

    行業芯事行業資訊
    電子發燒友網官方
    發布于 :2023年11月29日 18:00:17

    FPGA和CPU、GPU有什么區別?為什么越來越重要?

    CPU 力逐漸達到瓶頸,越來越無法滿足神經網絡指數級增長的力需求。在數據中心這人類力需求最高的設施中,
    發表于 11-09 14:09

    您與1秒鐘測量兩千尺寸之間僅差臺智能測徑儀!

    隨著產線的發展,自動化程度越來越高,生產速度越來越快,人們對產品的品質要求越來越高,對檢測也提出了更高的要求。傳統的檢測與測量手段已經很難滿足測量效率要求,業內迫切需要種新型高效率的
    發表于 11-07 17:15

    單片機在以后會越來越趨向于低端化應用嗎?

    隨著現在的技術和產品功能需求越來越高,好像單片機能完成的事情越來越少;以后是不是嵌入式芯片是主流,單片機漸漸只能在低端上應用?
    發表于 10-24 08:30

    新能源汽車對快充性能的要求越來越高

    近年來,隨著新能源汽車的滲透,轉型增速過快與補能落后矛盾愈發凸顯。
    的頭像 發表于 10-23 10:10 ?507次閱讀

    為什么國內PCB滲透率越來越高?

     PCB層數增高,對電性能、銅箔粗糙度等有很多的要求,需要很多的經驗才能承接高層板,一直能超前3-4年,跟深X差不多,深X比較可惜的是由于地緣zz沒法參與歐美的一些企業。
    發表于 07-11 14:42 ?550次閱讀

    邊緣AI應用越來越普遍,AI模型在邊緣端如何部署?

    電子發燒友網報道(文/李彎彎)在人工智能時代,越來越多的AI應用需要從云端擴展到邊緣端,比如智能耳機、智能攝像機、智能手環、物流機器人等,在邊緣端部署AI已經成為趨勢。如今AI大模型迅
    的頭像 發表于 07-04 00:11 ?1935次閱讀
    邊緣<b class='flag-5'>AI</b>應用<b class='flag-5'>越來越</b>普遍,<b class='flag-5'>AI</b>模型在邊緣端如何部署?

    數字時代云成本越來越高,企業IT負責人們該如何選擇彈性云服務器呢?

    。 首先,成本是一個重要的考慮因素。企業需要根據自身的業務需求和預算,選擇合適的彈性云服務器配置和計費方式。其次,安全性也是一個重要的考慮因素。企業需要選擇能夠提供安全保障的彈性云服務器服務商。此外,彈性云服
    的頭像 發表于 06-24 00:25 ?199次閱讀

    AI視覺檢測在工業領域的應用

    隨著制造業的智能化、自動化程度越來越高,AI視覺檢測系統已經成為種重要的智能制造設備,它能夠大幅提高生產線上的檢測能力和效率。 、
    發表于 06-15 16:21

    為什么“通信界小紅帽”RedCap的關注度越來越高?

    在移動通信領域,技術標準每十年更新一代,每兩年推出一個版本,似乎已成為固定節奏,這就意味著每一代大約要經歷5~6個版本。按照3GPP(3rd Generation Partnership Project,第三代合作伙伴計劃)組織此前的規劃,5G的技術演進將分為兩個階段,第一階段為R15、R16、R17版本,第二階段為R18、R19、R20版本,即5.5G,隨后將邁入6G時代。
    發表于 06-07 11:27 ?274次閱讀
    為什么“通信界小紅帽”RedCap的關注度<b class='flag-5'>越來越高</b>?
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>