使用Ryzen AI軟件平臺推動AI開發

Ryzen AI

在過去的幾年里，人工智能已經從科幻小說領域發展到部署在一系列不同的系統和軟件應用程序中。在許多情況下，這些應用程序在云中，或者在大型計算系統上運行為佳。AMD 則旨在通過Ryzen AI和AMD XDNA架構將先進的人工智能處理引入本地端PC，擴大人工智能的可接入性和人工智能軟件的開發。

將人工智能工作負載從云端轉移到本地硬件可以減少延遲，有助于將敏感數據排除在云端之外，并且與排隊等待使用基于云的服務相比，可以加快處理速度。部分銳龍 7000系列移動處理器內置的銳龍人工智能引擎提供了一個專用的片上加速器來運行這些工作負載，但我們還沒有太多探討關于此的軟件方面問題。

Ryzen AI軟件平臺將于今年晚些時候全面推出，它將為開發人員提供將AI添加到現有應用程序所需的工具，并創建全新的程序，以新的、令人興奮的方式利用這一新興領域。

我們在5月份首次公開展示了這一軟件，提供了開發人員可以試用的demo和代碼樣本。今年夏天，我們通過臨時版本推動了這一進程，增加了對運行在IPU上的新操作符的支持，并提供了對ONNX、PyTorch和TensorFlow模型的量化支持。如果您打算開始使用，請訪問Ryzen AI軟件文檔頁面。

當完整版Ryzen AI軟件平臺在今年晚些時候首次亮相時，這些早期預覽和有限的開發合作伙伴將擴展為對AI開發者和相關生態系統的更廣泛支持。未來的版本將支持更多在AMD XDNA上運行的操作。ONNXRT Execution Provider （EP）對Vitis AI執行提供程序提供上游支持，將根據工作負載的特性自動決定是在CPU上還是在AMD XDNA AI引擎上調度工作負載。

開發人員可以采用PT、TF和ONNX格式的訓練模型，使用AMD Vitis AI Quantizer或者Microsoft Olive Quantizer將這些模型量化為INT8，并使用帶有Vitis AI Execution Provider的ONNX Runtime進行部署。前者將對代碼進行分區和編譯，以運行在AMD XDNA AI引擎或CPU上。

今年晚些時候，AMD將發布更多的工具鏈、庫和指南，以簡化人工智能開發。這些都是我們在各個層面簡化人工智能戰略的一部分，從訓練模型到在由Ryzen AI驅動的系統上對其進行本地部署。我們還計劃增加對Generative AI模型的支持。

AMD對Ryzen AI軟件平臺的目標是盡可能縮小硬件首次亮相和終端用戶軟件可用性之間的差距，讓程序員和終端用戶即使在這個相對初級的開發階段也能看到AI處理的好處。今年夏天的臨時發布以及AMD將在今年晚些時候提供的擴展功能，將加快人工智能生態系統的開發，并使開發者受益于這種新型處理能力。