AI時代如何確保計算安全？

正如其他技術革新一樣，人工智能 (AI) 為人們的數字體驗帶來了新機遇，但同時也伴隨著諸多挑戰。除了潛在的變革性影響，有鑒于AI 應用的過程中，大量的敏感數據會被收集和保存，并進一步被使用在為最終用戶提供高度個性化的技術體驗上，它同時也帶來了獨特的安全威脅。對安全問題的關注正推動行業及社會各界展開密切討論，攜手尋找合適的解決方案，以更大限度地發揮 AI 的優勢，并盡可能減少任何潛在的社會影響。

注重安全性深植于 Arm 的企業核心基因之中。積極應對安全挑戰是 Arm 為無處不在的 AI 奠定技術基礎的根基。在 AI 以空前的規模加速技術創新之時，Arm 在其業內領先的 IP 中部署了基礎安全技術與相關標準，在 AI 的持續演進過程中繼續發揮重要作用，以應對新出現的安全威脅。

安全性在邊緣 AI 領域的作用

隨著 AI 日益普及，我們預計在網絡邊緣設備上運行 AI 推理工作負載的場景將大幅增長。由于推理工作使用的是經過訓練的模型，其所需的算力較少，有助于廣泛地推動在邊緣領域實現更高效的 AI 計算。與此同時，AI 工作負載將在更接近數據采集之處進行處理，也能夠提供更快響應的用戶體驗，減少延遲。

從安全角度來看，將 AI 處理分布到邊緣應用將使企業和用戶大受裨益。其中一個關鍵的安全優勢在于，敏感的用戶數據可以在實際設備上進行處理，而無需再發送給第三方，這使得企業和消費者都能更好地掌控自己的數據。

目前市面上有很多基于 AI 的安全用例，其中，智能視覺可以充分展示邊緣 AI 的優勢。許多企業正在研發智能攝像頭，以廣泛應用于家庭、護理院和醫院，用以監測老年人的相關活動，以及時處理摔倒等意外情況的發生。在實際設備上提供圖像處理和場景識別的能力，實現了本質上更安全的系統，消除了將敏感信息發送給第三方處理所帶來的風險。這也讓人們更容易接受在所需環境中安裝此類攝像頭，因為這些環境中往往也存在著重要的隱私考量。

打造可信賴的硬件

然而，企業還需要確保其硬件值得信賴，尤其是在 AI 時代，他們必須保護其成本高昂的生成式 AI 模型免受攻擊。此前發布的《PSA Certified 2023 安全性報告》強調了對安全硬件的需求，報告表明 69% 的技術決策者愿意為保護設備安全支付額外費用，其中 65% 的決策者在做出購買決策時特別關注安全認證。若要防止惡意攻擊者竊取基于 AI 和機器學習 (ML) 模型的知識產權，有效地保護邊緣設備至關重要。

處理器安全

不論是將 AI 的處理全權交給 CPU，或是結合 GPU 或 NPU 等協處理器一起提供支持，邊緣 AI 的發展趨勢都與 CPU 相關。大量 AI 計算正發生在 CPU 之上，因此 AI 時代的安全性取決于 CPU 的安全性。這也是為什么確保 AI 安全在很大程度上依賴于保障計算安全的基礎。

使用 AI 和 ML 工具及框架部署代碼有助于識別安全漏洞，但攻擊者也可以使用同樣的技術在數百萬行代碼中找出可利用的漏洞。這意味著計算機架構師需要加倍努力提高計算系統的安全性。多年來，Arm 朝著這個目標刻苦鉆研，不斷開發和投資新的安全架構功能。

內存標記擴展

Arm 的內存標記擴展 (Memory Tagging Extension, MTE) 功能內建于最新一代 Armv9 架構 CPU 中。MTE 可以動態識別空間和時間內存安全問題，這些問題占所有嚴重安全漏洞的 70%。隨著 AI 的發展，這些安全威脅持續存在。

MTE 已經在移動設備市場上得到了廣泛應用。MediaTek 已將這項技術部署到面向旗艦智能手機的基于 Arm 架構的天璣 9300 系統級芯片 (SoC)上，而谷歌也已在 Android 14 中啟用了 MTE。vivo 在其 X100 和 X100 Pro 旗艦智能手機中搭載了天璣 9300，此前還宣布開放千鏡內存安全檢測能力，將為其開發者提供 MTE 等技術。整個移動生態系統致力于支持 MTE，這將幫助全球數百萬開發者加快產品上市速度，提供更出色、更安全的用戶體驗。未來 MTE 的應用范圍將不再局限于移動領域，而是隨著采用 Arm A 系列架構處理器的設備進入到高性能的物聯網 (IoT) 市場。

Arm 安全技術

作為 Armv9 架構的一部分，我們推出了機密領域管理擴展 (Realm Management Extensions, RME)，這是 Arm 機密計算架構 (CCA) 的基礎。這有助于保護運行虛擬機的數據安全，避免因虛擬機管理程序遭到破壞而受到攻擊。用于訓練先進 ML 模型的數據中心顯然需要這種技術，但在部署經過訓練的 ML 模型的物聯網市場中，確保邊緣計算系統的安全也同樣重要。

我們還引入了指針驗證 (Pointer Authentication, PAC) 和分支目標識別 (Branch Target Identification, BTI)，作為內置于 Armv9 架構中的安全技術，從而提供更強大的保護性能，防止返回導向編程 (Return-Orientated Programming, ROP) 和跳轉導向編程 (Jump-Orientated Programming, JOP) 等代碼復用攻擊。在 AI 時代，這一點非常重要，因為攻擊者將能夠利用 AI 和 ML 工具，開發出復用已有代碼的復雜方法。PAC 和 BTI 正部署到消費技術和物聯網市場的 Arm A 系列和 M 系列架構中。

此外，Arm 將繼續與業界伙伴展開協作，推動我們的安全框架和認證計劃 PSA Certified 的發展，創建面向所有聯網設備的最佳實踐基準。這一體系從核心層面構建，有助于改善系統的基礎安全狀況，滿足消費者的期望——即隨著設備的普及，其安全性也應得到保障。這一目標主要針對基于 Arm A 系列和 M 系列架構的物聯網設備。

Morello 與安全領域的未來

除了現有的安全功能外，Arm 始終關注新的技術、標準和合作，積極尋求提高安全性的機會。Morello 就是一個很好的例子，該計劃重點研究 CPU 架構的創新設計方法，致力于構建更加強大的處理器，防止產生某些關鍵的安全漏洞。我們與劍橋大學和 SRI International 合作，開發出了一種原型技術，如果進展順利的話，可能會實施到未來的硬件中。

加快推進 AI 時代的安全性

基于 AI 和 ML 的技術正日益滲透到計算的各個領域。隨著 AI 工作負載逐漸轉移到邊緣，機遇和挑戰將在安全領域并存。

在 AI 創新快速涌現的同時，我們仍然需要遵循基礎的安全原則。事實上，在 AI 時代，許多目前已投入使用的 Arm 基礎安全技術將變得更為重要。

正因如此，我們將致力于提高相關架構、IP 和處理器的安全性，并為由此產生的技術組件和標準提供大力支持。Arm 將持續增加更多的 AI 和 ML 功能，同時推動安全性的加速發展，進而成為全球 AI 體驗的安全計算平臺。

審核編輯：劉清