人工智能國際安全治理加速演進

導讀：人工智能是人類發展的新領域。當前，以大模型為代表的全球人工智能技術正在快速發展，對經濟社會發展和人類文明進步產生深遠影響，給世界的發展帶來了巨大機遇。與此同時，人工智能技術也帶來難以預知的各種風險和復雜挑戰，特別是這一技術在軍事領域的應用帶來了很多安全問題，尤其近年來人工智能越來越多應用到俄烏沖突、巴以沖突等軍事場景中，其安全問題越來越受到世界的關注。人工智能安全治理攸關全人類命運，是世界各國面臨的共同課題。近期，中美歐都相繼發布了人工智能安全治理領域的重要政策文件或倡議，人工智能領域的全球安全治理正在加速演進，值得高度關注?，F將最新動態梳理總結如下，以饗讀者。

一、中國發布全球人工智能治理倡議

中國高度關注人工智能的安全治理。2023年2月發布的全球安全倡議概念文件，專門強調要加強人工智能等新興科技領域國際安全治理，預防和管控潛在安全風險。中國已就人工智能軍事應用和倫理治理發布立場文件，愿與國際社會就人工智能安全治理加強溝通交流，推動達成普遍參與的國際機制，形成具有廣泛共識的治理框架和標準規范。同時，還強調，圍繞應對人工智能新興科技等領域所謂安全挑戰，搭建更多國際交流合作平臺和機制，共同提升非傳統安全治理能力。

2023年10月18日，***主席在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中宣布中方提出《全球人工智能治理倡議》，圍繞人工智能發展、安全、治理三方面系統闡述了人工智能治理中國方案，展現了中國負責任大國擔當?！冻h》堅持以人為本、智能向善，引導人工智能朝著有利于人類文明進步的方向發展；堅持相互尊重、平等互利，反對以意識形態劃線或構建排他性集團，惡意阻撓他國人工智能發展；主張建立人工智能風險等級測試評估體系，不斷提升人工智能技術的安全性、可靠性、可控性、公平性；支持在充分尊重各國政策和實踐基礎上，形成具有廣泛共識的全球人工智能治理框架和標準規范，支持在聯合國框架下討論成立國際人工智能治理機構；加強面向發展中國家的國際合作與援助，彌合智能鴻溝和治理差距等。

倡議特別強調，發展人工智能應堅持“智能向善”的宗旨，遵守適用的國際法，符合和平、發展、公平、正義、民主、自由的全人類共同價值，共同防范和打擊恐怖主義、極端勢力和跨國有組織犯罪集團對人工智能技術的惡用濫用。各國尤其是大國對在軍事領域研發和使用人工智能技術應該采取慎重負責的態度。推動建立風險等級測試評估體系，實施敏捷治理，分類分級管理，快速有效響應。研發主體不斷提高人工智能可解釋性和可預測性，提升數據真實性和準確性，確保人工智能始終處于人類控制之下，打造可審核、可監督、可追溯、可信賴的人工智能技術。增強發展中國家在人工智能全球治理中的代表性和發言權，確保各國人工智能發展與治理的權利平等、機會平等、規則平等，開展面向發展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。積極支持在聯合國框架下討論成立國際人工智能治理機構，協調國際人工智能發展、安全與治理重大問題。應當看到，《倡議》的提出是中方積極踐行人類命運共同體理念，落實全球發展倡議、全球安全倡議、全球文明倡議的具體行動，有利于推動人工智能的全球安全治理，共同應對人工智能帶來的安全挑戰。

此外，2023年10月29日至30日，由中國軍事科學學會和中國國際戰略學會主辦的北京香山論壇將人工智能安全作為重要專題進行平行分組研討。

二、美國政府簽署人工智能安全行政命令

種基于梯度的對抗樣本生成方法。FGSM 的基本思路是在原始輸入樣本的基礎上計算損失函數對輸入樣本的梯度，然后將梯度符號作為擾動方向，并將梯度的絕對值作為擾動大小，向著使分類結果最差的方向添加擾動，從而得到對抗樣本，使得模型對該樣本的分類結果發生錯誤。對抗樣本生成過程如圖 1 所示，第 1 行原始圖像加上第 2 行擾動，得到第 3 行的對抗樣本。設 x 為原始輸入樣本，θ 表示模型參數，y 表示輸入樣本真實標簽，J（θ，x，y） 表示損失函數，sign 是符號函數，ε 表示擾動的大小。對抗樣本圖片 生成公式：

2023年10月30日，美國總統拜登簽署了一項《關于安全、可靠、值得信賴地開發和使用人工智能的行政命令》（Executive Order on the Safe， Secure， and Trustworthy Development and Use of Artificial Intelligence），以確保美國在把握人工智能的前景和管理人工智能風險方面處于領先地位。該行政命令為人工智能安全和保障建立了新的標準，保護美國人的隱私，促進公平和公民權利，維護消費者和工人的利益，促進創新和競爭，促進美國在世界各地的領導地位等。這一行政令被外界稱為“有史以來政府為推進人工智能安全領域所采取的最重大行動”。

具體而言，該行政命令指示采取以下行動：

（一）人工智能安全和安保新標準

行政命令要求人工智能系統的開發者與美國政府分享其安全測試結果和其他關鍵信息。根據《國防生產法》，該命令要求開發任何對國家安全、國家經濟安全或國家公共衛生和安全構成嚴重風險的基礎模型的公司在培訓模型時必須通知聯邦政府，并且必須分享安全測試的結果。這些措施將確保人工智能系統在公司公開之前是安全、可靠和值得信賴的。

制定標準、工具和測試，以幫助確保人工智能系統的安全、可靠和值得信賴。國家標準技術研究院將制定嚴格的標準，進行廣泛的測試，以確保公開發布前的安全性。國土安全部將把這些標準應用于關鍵基礎設施部門，并成立人工智能安全委員會（AI Safety and Security Board）。能源部和國土安全部還將解決人工智能系統對關鍵基礎設施的威脅，以及化學、生物、輻射、核和網絡安全風險?？傊?，這些都是任何政府為推進人工智能安全領域所采取的最重要的行動。

通過制定強有力的生物合成篩選新標準，防范利用人工智能設計危險生物材料的風險。資助生命科學項目的機構將建立這些標準，作為聯邦資助的條件，創造強有力的激勵措施，以確保適當的篩選和管理可能因人工智能而變得更糟的風險。

通過建立檢測人工智能生成內容和認證官方內容的標準和最佳實踐，保護美國人免受人工智能帶來的欺詐和欺騙。美國商務部將制定內容認證和水印指南，以清晰地標記人工智能生成的內容。聯邦機構將使用這些工具，使美國人更容易知道他們從政府那里收到的信息是真實的，并為世界各地的私營部門和政府樹立榜樣。

建立一個先進的網絡安全計劃，開發人工智能工具，以發現和修復關鍵軟件中的漏洞，使軟件和網絡更加安全。行政令還要求制定國家安全備忘錄，指導人工智能和安全方面的進一步行動，由國家安全委員會和白宮辦公廳主任制定。該文件將確保美國軍方和情報界在其任務中安全、道德和有效地使用人工智能，并將指導行動以對抗對手對人工智能的軍事使用。

（二）保護美國人的隱私

這份行政命令認為如果沒有保護措施，人工智能可能會進一步危及美國人的隱私。人工智能不僅使提取、識別和利用個人數據變得更容易，而且還增強了這樣做的動機，因為公司使用數據來訓練人工智能系統。為了更好地保護美國人的隱私，包括免受人工智能帶來的風險，總統呼吁國會通過兩黨數據隱私立法，以保護所有美國人，特別是兒童，并指示采取以下行動：

① 通過優先考慮聯邦支持加速隱私保護技術的開發和使用來保護美國人的隱私，包括使用尖端人工智能的技術，以及讓人工智能系統在訓練時保護訓練數據的隱私。

② 通過資助一個研究協調網絡，加強保護隱私的研究和技術，例如保護個人隱私的加密工具，以推動快速突破和發展。美國國家科學基金會也將與該網絡合作，促進聯邦機構采用先進的隱私保護技術。

③ 評估各機構如何收集和使用商業上可用的信息——包括他們從數據經紀人那里獲得的信息——并加強聯邦機構的隱私指導，以考慮人工智能風險。這項工作將特別側重于包含個人身份數據的商業可用信息。

④ 為聯邦機構制定指導方針，以評估隱私保護技術的有效性，包括人工智能系統中使用的技術。這些指導方針將促進機構保護美國人數據的努力。

（三）促進公平和美國公民權利

拜登政府認為，不負責任地使用人工智能會導致并加深司法、醫療和住房領域的歧視、偏見和其他濫用行為。拜登政府已經采取行動，發布了《人工智能權利法案藍圖》，并發布了一項行政命令，指示各機構打擊算法歧視，同時執行現有權力，保護人民的權利和安全。為了確保人工智能促進公平和公民權利，拜登政府指示采取以下額外行動：

① 為聯邦福利計劃和聯邦承包商提供明確的指導，以防止人工智能算法被用來加劇歧視。

② 通過培訓、技術援助和司法部與聯邦民權辦公室就調查和起訴與人工智能有關的侵犯民權行為的最佳做法進行協調，解決算法歧視問題。

③ 通過制定在量刑、假釋和緩刑、審前釋放和拘留、風險評估、監視、犯罪預測和預測性警務以及法醫分析方面使用人工智能的最佳做法，確保整個刑事司法系統的公平性。

（四）促進創新和競爭

美國已經在人工智能創新方面處于領先地位——去年在美國獲得首次融資的人工智能初創公司比緊隨其后的七個國家加起來還要多。拜登政府的行政命令要求通過以下行動繼續引領人工智能領域的創新和競爭：

① 通過國家人工智能研究資源試點促進美國各地的人工智能研究——該工具將為人工智能研究人員和學生提供關鍵的人工智能資源和數據——并擴大對醫療保健和氣候變化等重要領域的人工智能研究的資助。

② 通過為小型開發商和企業家提供技術援助和資源，幫助小型企業將人工智能突破商業化，并鼓勵聯邦貿易委員會行使其權力，促進公平、開放和競爭的人工智能生態系統。

③ 利用現有權力，通過現代化和簡化簽證標準、面談和審查，擴大在關鍵領域具有專業知識的高技能移民和非移民在美國學習、居留和工作的能力。

（五）推進美國在海外的領導地位

人工智能的挑戰和機遇都是全球性的。拜登政府將繼續與其他國家合作，支持在全球范圍內安全、可靠地部署和使用人工智能。為此，美國政府將采取下列行動：

① 擴大雙邊、多邊和多方利益攸關方在人工智能領域的合作。美國國務院將與商務部合作，牽頭建立強有力的國際框架，以利用人工智能的優勢，管理其風險并確保安全。

② 與國際合作伙伴和標準組織加快制定和實施重要的人工智能標準，確保技術安全、可靠、值得信賴和可互操作。

③ 促進安全、負責任和保障權利的人工智能在國外的發展和部署，以解決全球挑戰，如促進可持續發展和減輕關鍵基礎設施的危險。

（六）確保政府負責和有效地使用人工智能

人工智能可以幫助政府更好地服務美國人民。它可以擴大機構監管、管理和支付福利的能力，還可以削減成本并增強政府系統的安全性。然而，人工智能的使用也會帶來風險，比如歧視和不安全的決策。為確保負責任的政府部署人工智能并使聯邦人工智能基礎設施現代化，拜登政府指示采取以下行動：

① 為各機構使用人工智能發布指導，包括明確保護權利和安全的標準，改進人工智能采購，加強人工智能部署。

② 通過更快速、更高效的合同，幫助機構更快、更便宜、更有效地獲得特定的人工智能產品和服務。

③ 加快人工智能專業人員的快速招聘，作為由人事管理辦公室、美國數字服務、美國數字軍團和總統創新獎學金牽頭的全政府人工智能人才激增的一部分。各機構將為相關領域的各級員工提供人工智能培訓。

三、英國召開全球首屆人工智能安全峰會

2023年11月1日，首屆全球人工智能安全峰會（AI Safety Summit）在英國布萊奇利園召開。美國、英國、歐盟、中國、印度等多方代表就人工智能技術快速發展帶來的風險與機遇展開討論。在此次峰會中，英國艾倫·圖靈研究所、中國科學院、經濟合作與發展組織等眾多機構，英國“深層思維”公司、美國谷歌公司、中國騰訊公司、阿里巴巴公司等知名企業，以及揚·萊坎（中文名楊立昆）、約舒亞·本吉奧、杰弗里·欣頓等人工智能領域知名專家出席，重點關注人工智能技術可能帶來的風險，同時討論該技術帶來的變革性機遇。

英國政府認為，生成式人工智能最近取得了快速進展，預計未來幾年將繼續取得進展。這可能會導致這些人工智能大模型以更快的速度進化，乃至超出人類理解甚至人類控制的危險。有鑒于此，英國首相蘇納克（Rishi Sunak）在10月26日公開表示希望成立一個全球人工智能安全研究機構來檢查、評估和測試新型人工智能，以便于更精準地預測人工智能可能會帶來的風險和產生的后果。英國將尋求與國際合作伙伴、政策制定者、私營公司、學術界和民間社會分享信息，作為人工智能安全研究合作努力的一部分。蘇納克希望英國成為人工智能安全發展領域的全球領導者。

調查結果顯示，國際社會贊成政府支持的人工智能安全研究所來評估強大的人工智能，以測試這一技術是否安全，62%的英國受訪者支持這一想法。對包括加拿大、法國、日本、英國和美國在內的9個國家的國際公眾對人工智能安全的民意調查顯示，大多數國家都強烈支持由獨立專家對強大的人工智能進行測試。所有國家的大多數受訪者都同意這一點，從日本的59%到英國和新加坡的76%。當被問及他們信任誰來全面負責確保人工智能的安全時，在接受調查的9個國家中，有7個國家的人工智能安全研究所是最受歡迎的選擇，而且往往有一定距離。

值得注意的是，來自中國、印度、美國和歐盟等28個國家和地區的代表在此次峰會上還簽署通過了全球首個人工智能協議《布萊切利人工智能安全宣言》（Bletchley Declaration on AI Safety），旨在解決前沿人工智能模型可能會面臨的失控和濫用的風險。宣言指出，人工智能帶來了巨大的全球機遇：它有可能改變和增進人類福祉、和平與繁榮，特別是在公共服務，如衛生和教育、糧食安全、科學、清潔能源、生物多樣性和氣候等領域，并加倍努力實現聯合國可持續發展目標等方面。在帶來這些機遇的同時，人工智能也帶來了重大風險，表現在影響人權、透明度和可解釋性、公平、問責、監管、安全、適當的人類監督、道德、減少偏見、隱私和數據保護等問題。特別是，篡改內容或生成欺騙性內容的能力可能會帶來不可預見的風險，人工智能在網絡和生物安全領域的應用所帶來的挑戰也尤為突出。為了更好地運用人工智能和規避其風險，為了所有人的利益，應以安全的方式設計、開發、部署和使用人工智能，做到以人為本、值得信賴和負責任，確保人工智能的安全，并通過現有的國際論壇和其他相關倡議支持所有人的利益，促進合作。

在此過程中，雖然必須在整個人工智能生命周期考慮安全問題，但開發前沿人工智能能力的參與者，特別針對于那些異常強大且可能有害的人工智能系統，對確保這些人工智能系統的安全負有特別重大的責任，包括通過安全測試系統、通過評估以及通過其他適當措。宣言鼓勵所有相關主體就衡量、監測和減輕潛在有害能力及可能出現的相關影響的計劃提供與具體情況相適應的透明度和問責制，特別是防止濫用和控制問題，以及其他風險的擴大。

倡議呼吁，國際社會應對人工智能前沿風險的議程將側重于以下幾個方面：

一是確定共同關注的人工智能安全風險，建立對這些風險的科學和循證的共識，并能夠伴隨著能力的不斷增強，在更廣泛的全球范圍內保持共識，以了解人工智能對社會的影響。

二是各國制定各自的基于風險的政策，以有效應對此類風險，并酌情開展國際合作，同時認識到做法可能因國情和適用的法律框架而有所差異。這包括，除了提高開發人工智能前沿能力的私人行為主體的透明度外，還包括適當的評估指標、安全測試工具，以及發展相關的公共部門能力和科學研究。

三是為推進這一議程，國際社會需要共同建立一個具有國際包容性的人工智能前沿安全科學研究網絡，該網絡應包括并補充現有的和新的多邊和雙邊合作，包括通過現有的國際論壇和其他相關倡議，以促進提供最佳的科學支持，用于政策制定和公益事業。

在此次峰會上，中國科技部副部長吳朝暉在開幕式上發表講話，呼吁全球合作分享人工智能技術，讓人工智能向公眾開放?！耙粠б宦贰焙献骺蚣芟?，中國已將數字經濟作為與共建國家的重要合作內容，其中就包括與各國在人工智能領域加強合作。美國副總統哈馬斯則高調表示，美國是人工智能領域的全球領導者，拜登的行政命令應該成為國際典范。美國商務部長雷蒙多則利用此次峰會宣布美國將成立一個人工智能安全研究所，該研究所據稱將作為一個中立的第三方來制定人工智能安全標準。相較之下，歐盟國家則更多關注數據隱私問題，希望在這方面對人工智能加強監管。8月25日，歐盟一項新的數字隱私保護法《數字服務法》（DSA）正式生效，旨在保護個人用戶的隱私問題，防止有害內容和虛假信息的進一步傳播。10月24日，歐盟就新人工智能法案中的關鍵部分達成一致，該法案預計于12月份公布。

四、結語

正如《布萊奇利宣言》指出的那樣，人工智能的許多風險本質上是國際性的，因此“最好通過國際合作來解決”。人工智能作為當今科技領域的熱門話題，其發展速度之快、應用范圍之廣、影響力度之大，引發了國際社會的廣泛關注。由于人工智能技術的復雜性和跨學科性，單靠一個國家或一個組織的力量很難全面應對其安全風險。因此，為了更好地應對人工智能帶來的前沿風險，各國政府、企業、學術界和相關國際組織需要加強合作，共同研究和分析人工智能的安全風險，并采取有效的措施來降低這些風險。各國政府需要加強對人工智能技術的監管，確保其符合道德和法律標準。同時，國際組織和跨國企業可以加強合作，共同制定人工智能安全治理的國際標準和規范，促進人工智能技術的安全和可持續發展。只有加強合作、制定規范和標準，才能確保人工智能技術的安全性和可靠性，為人類社會的進步和發展做出更大的貢獻。在推進全球人工智能安全治理的這一過程中，大國責任的發揮顯得尤為重要。