專用域架構的特性有哪些

半導體工藝技術創新長期以來的持續發展趨勢正在減緩。經過幾十年對摩爾定律的顯著遵從性，即半導體晶圓上的晶體管密度大約每兩年翻一倍，但是在過去幾年中，晶體管的擴展速度明顯放緩，與摩爾定律預測相比慢了大約十倍。登納德縮放定律（Dennard Scaling）預測隨著晶體管密度的增加，每單位芯片面積的功耗保持不變，但實際上也失效了，導致大型數據中心和其它高性能計算環境需要更復雜的冷卻解決方案。

01.對半導體工藝創新放緩的架構應對

面對半導體工藝創新的減速，著名計算機架構師John Hennessy和David Patterson在2018年的圖靈演講中提出，工藝技術創新的減緩將逐漸增加對架構創新的動力——即設計集成電路以執行計算任務的方式。他們認為通用計算架構（例如CPU）的固有低效性將開始向（或被）為特定計算任務優化的架構所取代或補充，這種架構也被稱為專用域架構（Domain-Specific Architectures，DSA）。

與此同時，隨著計算和數字化技術廣泛應用于云計算（AI和高性能計算）、網絡、邊緣計算、物聯網和自動駕駛等各個應用領域，高度專用域計算工作負載正在擴展，這為DSA提供了提供有意義的性能優勢的機會。大型語言模型（Large Language Model，LLM）作為生成式AI的核心引擎，通過ChatGPT等應用在AI工作負載中提供進一步的專業化，并可能導致進一步的硬件專業化。

針對專用域架構（DSA），即為特定應用領域開發的硬件和軟件，商業潛力是巨大的。例如，GPU和張量處理單元（Tensor Processing Units，TPU）已經在數據中心獲得了顯著的市場份額，在AI工作負載（學習和推理）等受益于高并行度的工作負載中，他們的性能超過了CPU。性能提升可能非常顯著，工作負載特定的加速通常為15到50倍。在汽車領域，一些領先供應商提供定制解決方案，提供所需的低延遲、高性能推理，以安全地支持日益增長的自動駕駛水平。

隨著DSA擴展到其它應用領域，我們預計到2026年，DSA的收入將達到約900億美元（全球半導體市場的約10%到15%），而2022年的收入約為400億美元。因此，我們看到了對專用域設計初創公司的風險投資流入顯著增加。在過去十年中，已累計有約150家初創企業獲得了180億美元的資金支持，而在之前的十年里，硬件投資被忽視，更多地偏向于軟件。

半導體產業鏈中的企業、計算系統制造商以及計算解決方案的最終用戶應該做好準備，充分利用這一趨勢，而不是措手不及。02.支持DSA商業可行性的關鍵因素正逐漸成熟以往，除了受益于摩爾定律的巨大助力外，CPU還受益于大規模經濟效益，以抵消競爭專用域芯片（Domain-Specific Chip）的理論優勢。專用域芯片由于其特異性而面臨較小的需求量，并可能需要專門的軟件才能高效部署。芯片越昂貴（由芯片尺寸、復雜性和工藝技術節點決定），應用領域就需要更大規模的需求來證明采用專用域架構的必要性。推動專用域架構的顛覆潛力的是以下五個重要因素，他們正在共同努力縮小通用目的和專用域設計之間的經濟差距：

1.通過晶圓代工廠獲得成熟和領先的半導體技術制造能力

晶圓代工廠——專注于半導體制造服務的公司——已經在全球半導體制造中占據越來越大的份額，因為他們可以匯聚需求并實現規模效益，以抵消生產現代半導體的不斷上升的成本。（領先半導體制造廠或稱“晶圓廠”的成本超過100億美元。）晶圓代工廠不僅在不同技術節點上穩步獲得制造市場份額，而且他們還提供了采用最先進技術節點的機會，這是過去一直由集成器件制造商掌握的優勢。因此，任何一家擁有針對專用域設計的優越想法的初創企業都可以迅速獲得最先進的制造能力，無需投資一分錢在制造能力上。

2.通過成熟的云平臺快速進入市場

專門針對企業、AI或HPC工作負載的卓越DSA供應商不一定需要開發自己的進入市場的基礎設施。他們可以依賴成熟的云服務提供商（CSP）生態系統，這些CSP提供計算作為一種服務。如果他們能向CSP和其客戶群體證明他們的DSA在特定工作負載下提供了卓越的計算性能（按照性價比和每瓦計算性能），那么他們的硬件解決方案可以被集成到CSP數據中心基礎設施中，并作為硬件服務提供給計算周期的最終用戶。

3.豐富的開源和許可知識產權（IP）庫用于加速DSA設計

盡管專用域架構（DSA）按定義是為專用域工作負載而設計的，但這并不意味著DSA設計者在設計電路時必須從零開始?？稍S可的指令集架構（Instruction Set Architectures，ISA），如Arm和x86，以及開源ISA（例如RISC-V），使芯片設計變得民主化，并提供了豐富的構建模塊和即用型設計組件。他們還允許訪問相應的編譯器和應用級軟件解決方案生態系統。選擇這些不同生態系統作為基礎將在軟件堆棧成熟度、成本和專用域硬件性能之間進行權衡。

4.支持DSA芯片片上異構集成的2D和3D芯片封裝的進展

越來越多的領先計算設備不再由單一芯片組成。隨著高性能芯片變得越來越大，工藝技術變得更昂貴且更難以實現高工藝產量，領先廠商采取了一種分散策略，構建芯片片而不是單個大型單片。這些芯片片可能在自己的工藝技術上進行優化，并用于自己的功能，然后在先進的封裝中進行集成。過去芯片封裝只包含一個芯片，而先進封裝允許在單個封裝中以2D甚至3D的形式對數十個芯片進行異構集成。這種技術趨勢對專注于DSA芯片片的企業非常有利，因為這些芯片片現在可以集成到先進封裝中，從而實現與其它計算、通信、存儲和模擬組件之間的高帶寬和低延遲連接。

5.物理層創新推動新型DSA的發展

對于物理計算層面而言，CMOS之外的選擇，例如光子學、神經形態和量子架構，有望為專用域計算需求提供特定優勢，如能源效率、可塑性、特定任務速度和特定NP難問題的線性縮放。隨著這些物理層解決方案的成熟，將會開辟新的DSA類別。

03.為了充分發揮DSA的價值

需要在技術堆棧的各個方面進行進一步的創新

從技術堆棧的各個層面，從物理層到應用級工作負載管理，需要進一步的創新來推動DSA的可行性和商業成功。

在物理和電路層面，開源生態系統（例如Arm和RISC-V）需要進一步發展，以在這些構建模塊上支持完整的DSA軟件堆棧。沒有高效的軟件堆棧，許多硬件級性能優勢將無法轉化為實際的工作負載加速。

在系統級封裝（System-in-Package，SiP）層面，需要標準化芯片片間接口，以實現DSA的經濟和普遍集成。行業聯盟（如Universal Chiplet Interconnect Express，UCIe）已經開始形成，以定義這些標準。此外，在美國，CHIPS法案和DARPA（國防高級研究計劃局）認識到實現先進封裝的協同開發平臺是一個重要的投資領域，并通過激勵措施來促進其發展。

在操作系統和編譯器層面，更高級的編譯器需要有效地考慮單個封裝中可能存在多個指令集架構（ISA）的潛在共存。

在數據中心層面，需要先進的虛擬化程序和編排器來優化地協調不同DSA計算實例中的工作負載容器，并在整個數據中心內平衡利用率，以向最終客戶的應用程序提供DSA級別的優勢。此外，云服務提供商將開發工具來支持他們的最終客戶了解硬件實例的最佳配置，以滿足其特定的計算需求，避免計算資源的低效部署。

04.半導體價值鏈上的企業和最終用戶

應該為DSA驅動的顛覆做好準備

DSA可能會在整個半導體價值鏈上激活顛覆。以下是為其做好準備的方法：

半導體企業：為價值鏈顛覆做好準備

材料供應商應該了解先進封裝技術的影響（例如，對2D和3D集成的基礎構成形成的新型基板材料的需求，以及對當前基板材料的熱機械穩定性的需求），以及新的物理層范式對前端和后端材料流的影響。

前端工具制造商將希望參與支持DSA集成的先進封裝和異構集成熱潮，這將需要與前端制造類似的精確定義和對齊。

晶圓代工廠將需要準備迎接對較小批量和更多專用域芯片和Chiplet的需求，并找到有效和經濟地支持較小玩家的方式。此外，對非先進封裝和新物理層解決方案（如光子學）的支持將變得越來越重要，因為功能將被拆分為任務優化的Chiplet。

芯片設計公司需要擁有能夠全面考慮專用域工作負載性能的人才，從門級布局和硬件架構設計選擇到軟件堆棧和工作負載管理，以充分利用DSA的架構優化。

電子設計自動化（EDA）和硬件IP公司需要應對兩個挑戰。首先是如何調整他們的商業模式，以支持可能沒有足夠財力購買昂貴前期許可證的較小DSA顛覆者。其次是如何將他們的IP、設計和仿真套件從芯片級擴展到SiP級，以支持在多個Chiplet和ISA之間進行系統級、多物理學（邏輯、電氣、熱學、光學和機械學）EDA，同時實現以前僅在芯片級別見到的帶寬和延遲。

計算消費者：使用優化的DSA，并投資于專業知識，充分發揮其優勢

云服務提供商（CSP）已經認識到工作負載特定的芯片架構的價值，這一點可以通過他們越來越多地采用GPU以及推出面向數據中心硬件實例的自主芯片設計得到證明。隨著設計初創企業繼續針對AI和高性能計算等應用案例的工作負載特異性，CSP將希望密切關注新興的成功者，以便可能支持并推動他們擴展規模。

企業客戶需要了解DSA在其特定工作負載中的優勢。將計算基礎設施移入公有云的好處將會不斷增加，因為CSP可以大規模提供DSA的訪問，通過聚合對專門硬件實例的需求并高效管理工作負載的部署。然而，企業應該掌握或保留如何最好地利用這些硬件實例的專業知識，要深入了解如何優化特定的工作負載和云硬件實例配置，以提供最大的總擁有成本優勢。

專用域的原始設備制造商（如物聯網和邊緣設備制造商、網絡設備供應商、汽車制造商和區塊鏈平臺）將希望深入了解其專用域的計算需求和工作負載的發展，而不是依賴于通用計算進展。他們還希望熟悉存在的架構選項，以滿足芯片設計方面的能源、成本、占地面積和性能需求。這可能需要他們超越傳統的供應鏈結構：例如，汽車原始設備制造商可能需要直接尋找和與DSA初創企業合作，而不是依賴于一、二級供應商來獲取所有最新的洞察。

摩爾定律推動了計算行業的持久發展，在通用計算方面帶來了數十年的性能提升，大大減少了對工作負載特異性投資的需求。隨著晶體管密度增長放緩，DSA將越來越多地獲得專用域的性能優勢，并對價值鏈參與者及其客戶帶來重大顛覆。

責任編輯：彭菁