AI已經存在了一段時間,其影響也相當巨大。生成式AI剛開始嶄露頭角,對于其如何顛覆世界的種種預言已經迅速成為熱門話題,影響之深廣,令人深思。
這項技術已經對數據中心產生了重大影響?;诒仨氃谠贫擞柧毢瓦\行的模型的大小,生成式AI的基礎設施需求預計將比早期AI模型高出10到100倍。事實上,所有數據中心基礎設施都受到這一趨勢的影響,包括電力、HVAC、網絡和物理布局。數據中心將如何擴展規模以適應呈指數級增長的生成式AI大型語言模型?
生成式AI的成功可能取決于半導體行業對以下幾個方面的關注,一是先進的AI處理器,二是如何存儲和處理所有這些數據,最后是確保數據中心散熱更佳、更高效且更安全。
我們已經解決了這類問題,以便數據中心運營商能夠為5G、云服務和新一代的AI/ML應用提供支持。我們的單片機、存儲器、PCIe開關、安全解決方案和其他產品提供了各種解決方案,以應對從連接AI處理卡到優化數據訪問、存儲、安全和保護等一系列AI挑戰,同時提供必要的帶寬、端口密度和連接能力,從而處理不斷增加的流量。
類似的挑戰也適用于數據中心和本地服務器中的生成式AI,其應對難度也進一步放大。生成式AI似乎也存在一種途徑,能夠擴展到物聯網應用中的網絡邊緣,如患者監測和汽車交通違規檢測。有些人認為,如果生成式AI產生的海量數據必須在云端而不是在邊緣處理,那么這些應用便無法取得成功。
如今的邊緣AI解決方案可能為生成式AI提供了一種路線圖。語音識別系統和AI攝像頭等計算機視覺產品可在邊緣提供許多優勢,包括消除網絡延遲和將隱私控制權交還給用戶。它們有助于降低功耗,因為只有在檢測到不規則的變化后才會將視頻流傳輸到云端,而不是像“傻瓜”攝像頭那樣連續不斷地傳輸??梢灶A計,未來的邊緣設備也會采用這種方案。
但是,將生成式AI引入到邊緣將比引入傳統AI更加困難。由于數據量更大,電力問題將變得更具挑戰性。硬件需求將遠遠超過傳統AI所需,并且解決方案還需要為智能邊緣的電池供電、深度嵌入式設備提供必要的安全性和其他獨特功能。
我們已經關注到這些挑戰。例如,我們正在探索如何利用當前的Wi-Fi設備實現串行端口到生成式AI的橋接。在這種情況下,生成式AI并非在邊緣實現,而是通過8位單片機的UART訪問。單片機會產生一個實時傳感器數據穿插其中的預定義提示語,將其發送到生成式AI解決方案,然后根據回答采取行動。目前,尚不明確端點能否在邊緣獨立運行生成式AI而不回調至數據中心,但我們正處于創新的早期階段。
與我們服務的任何市場一樣,Microchip的目標是盡可能簡化解決行業中一些最基本的系統設計挑戰。這包括提供豐富的產品組合,以便客戶能夠采用全面系統解決方案的方法實現創新。我們會幫助解決在需要新功能的成熟應用中遇到的挑戰,同時也為長期的安全性、保護性和可靠性要求提供支持。針對生成式AI等最新的新興技術,我們也會采取同樣的做法,這些技術描繪了令人期待的未來,但在兌現承諾之前,這些技術仍然面臨著相同的基本系統設計挑戰。
-
microchip
+關注
關注
52文章
1467瀏覽量
116962 -
數據中心
+關注
關注
15文章
4239瀏覽量
70368 -
AI
+關注
關注
87文章
26804瀏覽量
264471 -
生成式AI
+關注
關注
0文章
410瀏覽量
267
原文標題:CEO博文《AI將如何重新定義數據中心?》
文章出處:【微信號:MicrochipTechnology,微信公眾號:Microchip微芯】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論