深度探討Chiplet與AIGC的技術趨勢

2023年3月29日，IC和系統設計盛會“國際集成電路展覽會暨研討會（IIC Shanghai）”在上海國際會議中心拉開帷幕。奇異摩爾受邀參加首日舉辦的EDA/IP與IC設計論壇，發表主題為《基于Chiplet的超大規模異構計算平臺，助力AIGC逐浪狂飆》的演講，與現場嘉賓、觀眾們深度探討了Chiplet與AIGC兩大熱點的技術趨勢。

最近AIGC成為了行業中的熱點話題，它在不同領域的應用層出不窮，如微軟的Copilot和Midjourney等。隨著AIGC的飛速發展，對算力也提出了更高的要求。

AIGC的發展對算力的需求變化

回顧AI的發展史，十幾年間，AI從決策式和小模型計算發展到大模型，AI對我們的生產方式以及使用方式的影響日漸顯性化，對企業的商業模式也有著巨大的影響。

生成式AI的模型類型和應用方式不斷增加，市場上出現了很多出色的應用，產業迭代的速度肉眼可見的超過了市場接受的反應。但是，AI快速迭代背后的因素是大模型所帶來的能力突變。AI的能力準確率已經達到了人類基準線以上，這種準確率的提高需要更大規模的模型和算力，與此同時，AI對算力的依賴會變得越來越強。

所謂“算力依賴”主要體現在四個層面，算法、數據、工程以及算力。算法是相對成熟的，但數據層面隨著算法的推進，在以指數級的速度在上升。工程和算力則會面臨更大的挑戰：如何用更少的人工干預、更少的算力產生更高的效能？

AI的迭代速度非?？?，每一代所需要的模型數量、算力規模比上一代都有數倍甚至一倍的速度增加，遠遠超過了我們能夠提供的增長曲線，從而為行業提出了新的命題和挑戰。這樣的挑戰會給高性能計算帶來怎樣的變化？

大模型對高性能計算架構有哪些影響

在高性能計算領域，除了算力挑戰以外，挑戰主要來自于三個方面：如何提高算力功耗比，如何提高存儲訪問的功耗比，以及如何提高互聯效率。

過去以同構和板卡級互聯為特點的數據中心架構，很難支撐未來超大規模計算的需求，數據中心架構需要從頂層開始重新設計以滿足超大規模計算的需求。

國際巨頭們正在采取不同的方式應對這些挑戰：NVIDIA使用NVLINK3.0和InfiniBand來形成超大規模集群，并將CPU和GPU組合在一起處理數據集，以應對未來數據中心的算力需求；Intel去年年底發布了第一款3D GPGPU，未來還計劃發布3D APU，致力于提供更好的集聯和互聯性能，在不同的領域可以用最合適的芯片去解決相關的問題；而AMD則發布了自己的3D APU產品 MI300。

超大規模集群已經成為未來的發展方向，其中異構也是非常重要的趨勢。在這個趨勢里，Chiplet 預期將成為超大規模集群未來的核心。

超大規模計算集群核心技術

超大規模計算集群技術需要一個有效的架構來調度更大規模的算力算子進行集聯。此前的計算架構都局限于64核或148核，但特斯拉通過25顆die組成了上千個CPU的超大集群，這對軟件和硬件架構都提出了挑戰。

同時，統一的編程框架和庫模型也很關鍵，國內也有很多在這方面的合作伙伴，未來同樣會成為一個非常重要的發展方向。

第三，未來，各種芯粒都有可能成為單元，包括CPU、GPU、NPU等等。這樣做的好處是避免了重復設計，可以單獨迭代，同時可以組成不同的產品系列。然而，如何將這些芯粒連接在一起，降低傳輸損耗，提高效率，仍然是非常大的挑戰。

什么是Chiplet？

Chiplet是一種新的芯片設計方法，它基于 SoC 架構進行拆分重組，將主要功能單元 (IP) 轉變成獨立芯粒 (Dielet)，并通過先進封裝和 Die-to-Die接口，將芯粒連接到 Chiplet 互聯網絡 (OCI) 中，組成系統級宏芯片 (MSoC)。

通過Chiplet設計，可以持續擴大芯片面積，提升性能，并且減少研發成本和芯片面積，同時增加芯片良率，保持經濟和成本的可行性。AMD已經成功地應用了這種設計方法，我們也可以通過這種方式來打造更好的產品組合。

編輯：黃飛