為什么跑AI往往用GPU而不是CPU？

今天，人工智能（AI）已經在各個領域遍地開花，無論身處哪個行業，使用AI來幫助獲取業務洞察，并建立競爭優勢，已經非常常見。不過一個有趣的現象是，在用戶采購AI基礎設施時，幾乎所有廠商都會強調其支持GPU的能力，并且支持的GPU數量越多，就代表其AI性能越強大。那么問題來了，為什么是GPU而不是CPU？

GPU難道不是我們日常使用的電腦里的，用于提高游戲性能或設計圖形所需的圖形處理單元嗎？為什么在AI方面，我們計算機里的“大腦”（CPU）反而很少提及呢？

一、為什么AI需要GPU？

要了解為什么GPU更適合AI，我們就要從GPU的誕生說起。圖形處理單元 (GPU) 最初開發用于生成計算機圖形，是具有專用內存的專用處理器，通常執行渲染圖形所需的浮點運算。從GPU的誕生我們可以看到，GPU是專為計算機開發的，旨在提高它們處理3D圖形的能力。這種特性決定了GPU僅用于參與任務或應用程序代碼的某些部分，而不是整個過程。因此，GPU通常有較多的內核，用于處理頻繁且彼此獨立的簡單計算。而CPU又被稱為通用處理器，因為它幾乎可以運行任何類型的計算。不過CPU通常只有幾個內核，即使是服務器專用的CPU也不過幾十個內核，與GPU動輒成百上千個內核相比完全不是一個數量級。但這并不意味著CPU不夠好，CPU內核雖然更少，但比數千個GPU內核更強大。例如同時處理操作系統、處理電子表格、播放高清視頻、提取大型zip文件，這些是GPU根本無法完成的。說到這里，你該明白GPU和CPU的區別了吧。總結一下，CPU最擅長按順序處理單個更復雜的計算，而GPU更擅長并行處理多個但更簡單的計算。至于為什么AI需要的GPU，答案也很明顯了，因為訓練AI模型的過程需要同時對所有數據樣本執行幾乎相同的操作，而GPU的架構設計具有快速同時處理多個任務所需的并行處理能力。

不過要注意的是，盡管GPU非常適合于AI模型算法，但并不意味著GPU在所有情況下都適用：

1、規模較小的訓練CPU完全可以執行訓練AI模型所需的算法，特別是如果數據集規模相對較小，可以使用CPU避免高昂的前期成本。2、非并行算法本質上，GPU是為圖形處理而設計的，因此當某個AI模型算法并不是并行算法時，CPU就是更好的選擇。某些涉及邏輯或密集內存要求的AI算法也是CPU的強項。

二、GPU與AI計算

現在的AI計算，都在搶購GPU。英偉達也因此賺得盆滿缽滿，為什么會這樣呢？原因很簡單，因為AI計算和圖形計算一樣，也包含了大量的高強度并行計算任務。深度學習是目前最主流的人工智能算法。從過程來看，包括訓練（training）和推理（inference）兩個環節。訓練環節，通過投喂大量的數據，訓練出一個復雜的神經網絡模型。在推理環節，利用訓練好的模型，使用大量數據推理出各種結論。訓練環節由于涉及海量的訓練數據，以及復雜的深度神經網絡結構，所以需要的計算規模非常龐大，對芯片的算力性能要求比較高。而推理環節，對簡單指定的重復計算和低延遲的要求很高。它們所采用的具體算法，包括矩陣相乘、卷積、循環層、梯度運算等，分解為大量并行任務，可以有效縮短任務完成的時間。GPU憑借自身強悍的并行計算能力以及內存帶寬，可以很好地應對訓練和推理任務，已經成為業界在深度學習領域的首選解決方案。

目前，大部分企業的AI訓練，采用的是英偉達的GPU集群。如果進行合理優化，一塊GPU卡，可以提供相當于數十甚至上百臺CPU服務器的算力。

三、AI與算力

AI與算力是當今社會科技進步的兩大驅動力，它們的融合與創新正推動著各個行業的發展，引領我們進入一個全新的智能時代。算力，作為AI技術的基石，為AI提供了強大的計算能力和數據處理能力。隨著技術的不斷進步，算力的提升使得AI模型能夠處理更大規模的數據，實現更復雜的算法，從而提升AI的性能和準確度。算力的發展，使得AI在圖像識別、語音識別、自然語言處理等領域取得了巨大的突破，為我們的生活帶來了諸多便利。而AI的崛起，也反過來促進了算力的發展。隨著AI應用領域的不斷拓展，對于算力的需求也日益增長。為了滿足這種需求，人們不斷研發新的芯片、算法和架構，推動算力的不斷提升。同時，AI技術的發展也催生了一系列新的應用場景，如自動駕駛、智能家居、智能醫療等，這些應用都需要強大的算力支持，從而推動了算力技術的不斷突破和創新。AI與算力的結合，正在推動各行各業的發展。在制造業中，AI與算力技術可以幫助企業實現智能制造、智能供應鏈等，提高生產效率和產品質量。在醫療領域，AI與算力技術可以幫助醫生實現精準診斷、個性化治療等，提高醫療水平和患者滿意度。在金融領域，AI與算力技術可以幫助銀行、保險等機構實現風險評估、智能投顧等，提高金融服務的智能化水平。總之，AI與算力是當今科技進步的重要驅動力，它們的融合與創新正推動著我們進入一個全新的智能時代。在未來的發展中，我們需要不斷關注技術趨勢、加強人才培養、加強監管和規范，推動AI與算力技術的健康發展，為人類創造更加美好的未來。

本文來源：渲大師