智能時代的攻守之道！瑞萊智慧如何為AI產業打好安全底座？

（電子發燒友網報道 文/章鷹）2021年，隨著5G網絡和AI應用的大規模部署，更多數據、更多設備進入互聯網絡，終端AI、邊緣AI、云上AI大規模運行，但同時AI算法自身的安全漏洞、AI技術濫用，還有AI系統引入的第三方組件被黑客攻擊等新型安全問題給企業智能化轉型帶來日益嚴峻的挑戰，如何在AI技術大規模發展的當下，構建智能安全的新底座，建立防護機制？

圖：瑞萊智慧科技公司副總裁 唐家渝

12月27日，在深圳會展中心舉辦的第十八屆中國國際社會公共安全博覽會上，來自清華人工智能研究院的官方產學研機構瑞萊智慧科技公司的副總裁唐家渝接受電子發燒友專訪，就瑞萊智慧公司的市場定位是什么？瑞萊智慧安全AI領域的旗艦產品如何助力智能企業做好安全防護？帶來了精彩的市場前瞻和產品分析。

應對嚴峻的安全挑戰，瑞萊智慧建立獨辟蹊徑的商業定位

2018年7月，瑞萊智慧RealAI公司成立，它是清華大學人工智能研究院發起成立的科技成果轉化企業，是全球領先的安全可控人工智能基礎設施和解決方案提供商。團隊由中國科學院院士、清華大學人工智能研究院名譽院長張鈸和清華大學計算機系教授朱軍共同擔任首席科學家，清華大學計算機系博士田天出任CEO。團隊博士占比超30%，累計獲得各項知識產權百余項，授權發明專利近五十項。

圖：瑞萊智慧安博會展臺

瑞萊智慧副總裁唐家渝表示，伴隨規?；ㄔO和應用加速發展，保證人工智能“安全、可靠、可控”成為其未來發展最重要的趨勢。瑞萊智慧聚焦安全、可控的人工智能基礎設施建設。圍繞這一戰略定位，瑞萊智慧首先在底層技術上發展第三代人工智能新范式。

據悉，清華大學人工智能研究院院長、中國科學院院士張鈸教授最早提出發展“第三代人工智能”。他認為，第三代 AI 發展的思路是把第一代的知識驅動和第二代的數據驅動結合起來，通過利用知識、數據、算法和算力等4個要素，構造更強大的 AI，建立新的可解釋和魯棒的AI 理論與方法，發展安全、可信、可靠和可擴展的 AI 技術，這是發展 AI 的必經之路。

其次在核心業務上，瑞萊智慧聚焦三大方向：首先算法可靠，基于世界領先的對抗攻防技術檢測算法漏洞，提供防御加固，進一步提升AI系統安全性。其次數據安全，針對AI落地過程中可能引發的隱私數據泄漏等問題，采用隱私計算等新興技術手段，實現數據可用不可見，保障數據的安全流通和使用；最后針對AI換臉等技術濫用現象，開發相應的檢測工具，引導技術的可控應用。

唐家渝表示，人工智能應用是集算法、數據、業務于一體的有機整體，涉及訓練、檢驗、運行等生命周期階段，所以應面向所有關鍵流程和要素，布局全面且有針對性地應對措施。同時他表示，隨著公眾對于AI安全性的關注度提升，以及監管政策的出臺和引導，未來AI行業將進入發展與治理協同的新階段，如何保證AI應用的安全性是一個重要命題，安全AI這一新興領域將很快迎來爆發。

AI安全防火墻+AI殺毒軟件 兩大旗艦產品展示

“今年比較出圈的一件事情是，我們通過一幅對抗樣本圖像可以解鎖多種多樣的人臉識別系統，無論是安防門禁、考勤系統和手機刷臉解鎖都可以攻破?！碧萍矣褰忉尩?，“數據驅動”的深度學習算法存在不可靠、不可解釋等局限性，即便是開發者也難以理解其內在的運行邏輯，這就導致系統可能遭受到難以被察覺的惡意攻擊。

記者在走訪瑞萊智慧的展臺時，一件AI版“隱身衣”引人矚目。瑞萊智慧開發的這款特制T恤，衣服上印刷了特定的圖案，能夠讓識別算法出錯、捕捉不到目標，人一旦穿上便可以實現“隱身”。據介紹，衣服上看似奇怪的圖案就是針對算法漏洞生成的“對抗樣本”圖案，能夠誤導識別算法使其出錯。

圖：AI版“隱身衣”演示

除此，還有更多新型攻擊手段出現。唐家渝補充道，“一些黑產分子通過不法手段采集到人臉識別信息數據后，用AI算法驅動它生成各種各樣的表情，這樣的圖像可以成功地攻破某些銀行的APP，攻破人臉識別系統，后續的登錄操作、轉帳操作都可以正常進行，這也是數據泄漏很直觀的風險所在?！?/p>

為了抵御類似的攻擊，瑞萊智慧研發了業內首個AI安全防火墻系統，通過集成多項國際領先的對抗防御算法，能夠有效檢測和抵御對抗樣本攻擊和AI換臉等新型攻擊風險，實現人臉識別、目標檢測等計算機視覺場景的安全加固升級，可用于安防門禁、人臉身份核驗、人臉解鎖等場景的安全防護，大幅提升人工智能系統的安全性。

除此，瑞萊智慧推出了業內首個業務級人工智能安全平臺RealSafe，提供模型安全性測評及防御加固的端到端解決方案，類似于AI系統的殺毒軟件。相較于IBM ART、Google CleverHans等開源工具，該平臺開箱即用，無需具備專業的算法安全知識和研發經驗，同時首創黑盒測評，支持在被測方不暴露被測AI模型參數等信息的情況下進行測評，優勢顯著。

“這是深度學習算法存在的結構性缺陷，刷臉支付、刷臉解鎖等人臉識別應用，智能手機、智能閘機，以及線上APP、第三方支付平臺等智能系統均面臨對抗樣本攻擊、數據投毒等攻擊威脅。為此，瑞萊智慧基于RealSafe平臺，能夠全面挖掘模型漏洞，從根本上發掘并解決可能影響業務正常運行的安全漏洞?！?唐家渝重點介紹道。

談及兩大產品的不同之處，唐家渝表示，AI防火墻是通過檢測外部訪問、輸入數據、行為決策等抵御安全風險，人工智能安全平臺則是為算法模型進行全面的體檢并提出改進方案，從根本上提升系統安全性。

截止目前，瑞萊智慧AI產品和解決方案已經在政務、金融、能源、互聯網等領域落地，服務于中國石油、中國電建、長安汽車、浦發銀行等在內的數十家大型企業機構。最后，唐家渝表示，信息領域的安全是攻防博弈的過程，安全AI也同樣如此，需要不斷升級算法，更快一步的發現和抵御住新型風險。未來，瑞萊智慧將持續聚焦于國際領先的AI安全攻防技術研發和產業化實踐，護航智能產業安全可控地蓬勃發展。


本文為原創文章，作者章鷹，微信號zy1052625525，轉載請注明以上來源。如需入群交流，請添加微信elecfans999.