利用NVIDIA AI Enterprise IGX在邊緣賦能任務關鍵型AI

NVIDIA SDK 在加速智慧城市、醫療和機器人等領域的 AI 應用方面發揮了重要作用。然而，要實現可在邊緣部署的生產級 AI 解決方案來為人類與機器的協作提供安全可靠的支持，就需要同時具備針對企業需求量身定制的高質量硬件和軟件。

NVIDIA 再次為邊緣任務關鍵型 AI 應用加速。NVIDIA AI Enterprise IGX 是一款可在 NVIDIA IGX 平臺上運行邊緣 AI 的企業級軟件解決方案。

NVIDIA IGX 為您的工業級硬件提供超快的 AI 性能和高吞吐量數據處理能力，同時還具備邊緣所需的尺寸和功耗，以及強大的邊緣安全性、遠程易管理性和內置安全機制。

NVIDIA IGX 與 NVIDIA AI Enterprise的集成使邊緣 AI 更易于訪問、更高效且更適合企業使用。

企業對邊緣 AI 的需求

AI 堆棧由許多第三方應用和開源軟件（OSS）組成并依賴于它們。鑒于其復雜性與日益增加的依賴性，維護 AI 軟件堆棧的安全和穩定已成為一項艱巨的任務，這項資源密集型的任務阻礙了企業的 AI 創新步伐。

以下是一些需要考慮的因素：

穩定性和可靠性

安全性和威脅減輕措施

監管問題

穩定性和可靠性

了解軟件包內的所有依賴關系對于保持 API 的穩定性來說至關重要。任何第三方和開放源碼軟件包的更改，都可能需要隨后對 API 進行更改，而這可能會破壞堆棧。這種依賴關系網使企業幾乎不可能在部署中實現最新開源版本的標準化。

安全性和威脅減輕措施

不斷擴大的軟件依賴性增加了引入軟件漏洞的風險。這些漏洞可能導致后果嚴重的攻擊，如數據泄露、服務中斷和巨大的經濟損失等。

2022 年報告的關鍵漏洞數量共計 4,135 個，較 2021 年增加了 59%。在延遲、隱私、帶寬和監管要求方面具有更高標準的行業也不能幸免于難。根據《臨床醫生對醫療網絡安全和網絡威脅的看法》一文，2019 年有 24% 的網絡攻擊發生在醫療行業，2022 年，針對醫院的網絡攻擊激增。

監管問題

許多受到高度管制的行業都對 AI 軟件的維護制定了嚴格的規定。

例如，航空航天領域越來越多地將 AI 用于導航系統和飛行控制算法，通過嚴格的指導來保證持續的監控與更新，以保持系統的完整性和安全標準。

在醫療行業，AI 驅動的治療和診斷工具同樣必須遵守嚴格的維護協議，以保證醫療決策過程的準確性和可靠性。

NVIDIA AI Enterprise IGX

NVIDIA AI Enterprise IGX是專為在 NVIDIA IGX Orin 平臺上運行關鍵任務應用而打造的軟件解決方案。

它為整個軟件堆棧提供了無與倫比的性能、安全性、穩定性和支持，使企業不再需要為維護和保護復雜的 AI 軟件平臺而頭疼，這不僅簡化了 AI 賦能的運營，還讓企業能夠更加放心地大規模部署 AI 應用。

在 NVIDIA AI Enterprise 成功應用于數據中心和云的基礎上，NVIDIA AI Enterprise IGX 的推出將這些優勢擴展到了邊緣。

作為一款工業級的高性能企業級邊緣解決方案，NVIDIA AI Enterprise IGX 與 NVIDIA IGX 一起為各種固件、操作系統、驅動程序、AI 框架、SDK 和庫提供全面的端到端軟件支持。借助專為 NVIDIA IGX 打造的穩定軟件分發，您就可以在關鍵用例所要求的更長時段內獲得軟硬件支持。除了能夠從單一的來源獲得支持外，您還能獲得長期 API 穩定性和一致的軟件物料清單（SBOM）。

加入企業支持的價值在于提供能夠及時解決技術問題的方案，確保邊緣 AI 系統的穩定性和可靠性，避免因停機而導致重大經濟損失或運營中斷。

圖 1. NVIDIA AI Enterprise IGX 和 NVIDIA IGX 平臺

NVIDIA AI Enterprise IGX 包含基本的 AI 庫和 SDK，例如 NVIDIA TensorRT、TensorFlow、PyTorch、NVIDIA Triton推理服務器、Holoscan 和企業 Ubuntu Linux 操作系統等。

此外還有兩個附加選項：

Yocto：適用于部署 Yocto 的企業。

功能安全：在安全、人員和財產至關重要的領域（如工業制造），可確保系統能夠利用主動和被動安全策略保護關鍵資產和人員生命安全。

NVIDIA AI Enterprise IGX 專門用于幫助企業在構建尖端技術的同時，降低總體擁有成本（TCO）、加快產品上市速度并全面提高產品開發效率。

它具有靈活的軟件分支，可提供符合您行業需求和產品開發周期的選擇：

生產分支：通過每月的安全更新確保 API 的穩定性。這些分支非常適合在需要穩定性的生產環境中部署 AI，每 6 個月發布一次，生命周期為 9 個月。

長期支持分支：通過每季度的安全更新來支持長期應用生命周期。這些分支最適合用于受到高度監管的 AI 應用，每兩年半發布一次，生命周期長達 10 年。

在充滿挑戰且復雜的邊緣 AI 開發過程中，該解決方案提供了一條行之有效的 AI 成功路徑。

審核編輯：劉清