借助NVIDIA OSMO擴展AI機器人開發工作負載

自主機器開發是一個數據生成和收集、模型訓練和部署的迭代過程，其特點是跨異構計算資源的復雜的多階段、多容器工作流。

這其中涉及多個團隊，每個團隊都需要共享和異構計算。此外，團隊希望將某些工作負載擴展到云中，這通常需要 DevOps 專業知識，還需要在本地維護其他工作負載。

到目前為止，還沒有一個統一的平臺可供開發者輕松提交所需計算的工作負載。

在最近的 GTC 大會上，NVIDIA 發布了OSMO，這是一個云原生工作流編排平臺，它提供一個單一界面，用于跨異構共享計算環境調度和管理各種自主機器工作負載。這些工作負載包括：

合成數據生成 (SDG)

DNN 訓練和驗證

強化學習

SIL 或 HIL 中的機器人 (再) 仿真

基于 SIM 或真實數據的感知評估

跨異構共享計算部署復雜的工作流

借助 OSMO 統一計算資源調度，您可以輕松地在 Kubernetes 集群上部署和協調多階段工作負載。這包括共享的異構多節點計算資源，例如 aarch64 和 x86-64，可確?？绮煌軜嫷撵`活性和兼容性。

您可以輕松設置基于 YAML 的多階段、多節點任務，并簡化從 SDG 、訓練到模型驗證的端到端開發流程。OSMO 還可以集成到現有的 CI/CD 工作流中，動態調度夜間回歸測試、基準測試和模型驗證等任務。

該服務還利用 OIDC 等開放標準進行身份驗證，并支持通過一鍵式密鑰輪換實現憑據和數據集安全性的最佳實踐。在合規性方面，團隊可以通過開發中的版本管理和追蹤用于模型訓練的所有數據。這一功能對于可重復性來說也非常有價值。

協調本地部署和云 SDG 工作負載

合成數據生成尤其受益于分布式環境，因為它通常從本地開始生成較小批量的數據，但當需要生成大量數據時，則需要利用云來進行規模的擴展。OSMO 使用彈性資源調配，在降低 SDG 等離線批量流程的成本方面發揮著關鍵作用，從而實現高效且經濟的大規模數據生成。

高效運行 SIL 和 HIL 測試

OSMO 支持的另一個重要工作負載是軟件在環 (SIL) 機器人測試，涉及仿真多傳感器和多機器人場景，或是一系列測試場景。這些場景最適合易于訪問計算資源的云環境。OSMO 能夠跨分布式環境調度和管理工作負載，確保利用云資源的可擴展性和可訪問性，從而高效地執行 SIL 測試。

另一方面，由于特定機器人或機器硬件的可用性，硬件在環 (HIL) 測試需要本地部署。

異構計算對于 HIL 測試來說是必需的，因為仿真和調試等工作負載需要 x86，并且需要在 aarch64 上運行針對測試的軟件，以提供其他方式無法提供的準確性能和硬件功能。直接在目標硬件上運行 HIL 還可以減少對昂貴的仿真器的需求。

同時生成和訓練基礎模型

OSMO 支持GR00T這種基礎模型，該模型需要在 NVIDIA DGX 上進行模型訓練，同時在 OVX 上進行實時強化學習。該工作負載包括在一個循環中以迭代方式生成和訓練模型。

OSMO 可以跨分布式環境管理和調度工作負載，從而實現 DGX 和 OVX 系統的無縫協調，從而實現高效的迭代模型開發。

圖 1. NVIDIA OSMO 用于 GR00T 基礎模型

跟蹤數據沿襲

數據沿襲和管理對于模型審計和確保整個開發過程的可追溯性來說至關重要。借助 OSMO，您可以追溯從來源到經過訓練的模型的數據沿襲，從而提供透明性和可靠性。

借助 OSMO，您還可以輕松地管理大型數據集和創建數據集，從而實現高效的數據組織和分類。這包括管理真實數據集、合成數據集或混合數據集的能力，從而靈活地控制用于模型訓練和評估的數據集。

審核編輯：劉清