谷歌正迅速成為 BFF Nvidia 的強大對手——為其超級計算機提供動力的 TPU v5p AI 芯片速度更快,內存和帶寬比以往任何時候都多,甚至擊敗了強大的 H100
TPU v5p——谷歌最強大的定制設計人工智能加速器——已被部署為該公司的“人工智能超級計算機”提供動力。 這是一種專門為運行人工智能應用程序而構建的超級計算架構,而不是通常運行科學工作負載的超級計算機,因為 TPU 不適合于此。
最新版本的 TPU 每個 Pod 有 8,960 個芯片(構成系統),而 v4 中有 4,096 個芯片,并且就每個 Pod 的 FLOP 總可用性而言,其可擴展性是其四倍。 這些新 Pod 提供 4,800Gbps 的吞吐量。 新 Pod 還配備 95GB 高帶寬內存 (HBM),而 TPU v4 中則配備 32GB HBM RAM。?
與Nvidia 提供 GPU 供其他公司購買不同,谷歌的定制 TPU 仍保留在內部,供其自己的產品和服務使用。 谷歌的 TPU 長期以來一直用于為其 Gmail、YouTube 和 Android 等服務提供支持,最新版本也用于訓練 Gemini。
它的功能甚至足以與 Nvidia 廣受歡迎的 H100 GPU 相媲美,后者是處理 AI 工作負載的最佳顯卡之一。 根據該公司自己的數據,該組件在訓練工作負載方面比 Nvidia 的 A100 GPU 快四倍。
與此同時,根據 4 月份發布的研究顯示,谷歌 TPU v4 的速度預計比 A100 快 1.2 至 1.7 倍。 因此,令人難以置信的粗略計算表明,TPU v5p 的速度大約是 A100 的 3.4 到 4.8 倍,這使其與 H100 相當!
審核編輯:劉清
-
加速器
+關注
關注
2文章
761瀏覽量
36662 -
RAM
+關注
關注
7文章
1329瀏覽量
113806 -
TPU
+關注
關注
0文章
133瀏覽量
20578 -
HBM
+關注
關注
0文章
261瀏覽量
14443 -
人工智能芯片
+關注
關注
1文章
115瀏覽量
24819
原文標題:TPU v5p人工智能芯片
文章出處:【微信號:計算機視覺芯片設計,微信公眾號:計算機視覺芯片設計】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論