華為借助異構計算架構CANN推動技術行業落地

12月，第十九屆CCF全國嵌入式系統大會（CCF ESTC 2021）在山東青島召開。本屆會議由中國計算機學會（CCF）主辦，CCF嵌入式系統專委與西安電子科技大學青島技術研究院聯合承辦。旨在加強從事嵌入式系統研究領域國內外學者之間的聯系與交流，了解相關國際發展動態和研究熱點，促進我國多學科交叉融合與嵌入式系統產業的發展。華為昇騰CANN亮相本次大會，與行業分享創新技術，為人工智能技術融入產業帶來新的啟發。

會議邀請了院士和國內外嵌入式系統領域的頂級專家學者作大會特邀報告，還通過專題論壇和分會場口頭報告、科技成果展示、學術論文交流等形式多樣的活動充分進行技術交流，推動“政產學研用”合作，引領技術進步，支撐產業發展。

會上，華為昇騰CANN生態高級總監王海彬發表了《昇騰CANN釋放硬件澎湃算力》的主題演講，分享在當前波濤洶涌的AI浪潮中，華為如何借助異構計算架構CANN（Compute Architecture for Neural Networks）進行技術創新和生態開展，持續使能科研和產業關鍵突破，推動技術行業落地。

于AI浪潮中迎接挑戰

王海彬提到，AI作為新的通用目的技術將深刻推動社會發展進程。目前的人工智能正從單點技術走向真正的通用技術，同時AI計算也面臨計算新范式、異構計算興起、對大集群的需求日益提升，推理部署場景復雜、效率低下等問題，如何讓AI用得上、用得起、用得好成為人工智能發展的關鍵。華為推出的異構計算架構CANN將助力解決人工智能技術面臨的算力問題、多樣性場景下開發效率低、編程易用性差的諸多現狀。

CANN 5.0 厚積薄發，以硬實力破解困境

CANN作為昇騰處理器的AI異構計算架構，對上支持業界多種主流的AI框架，對下友好適配多異構處理器，發揮呈上啟下的關鍵作用，是提升昇騰AI處理器計算效率的關鍵平臺，同時針對多樣化應用場景，提供高效易用的編程方式，成為了破解當前人工智能技術困境的關鍵。

華為昇騰CANN生態高級總監王海彬《昇騰CANN釋放硬件澎湃算力》主題演講

CANN1.0誕生于2018年，并在快速迭代過程中，從軟件層面持續進行技術沉淀并迎來了一個又一個突破。2020年底，基于CANN的鵬城云腦II推出，并獲得 AIPerf榜單第一；2021年4月，依托CANN關鍵技術的中文NLP超大模型盤古發布，其參數超過2000億，具備業界領先的語言理解和模型生成能力，帶來了前所未有的商業價值。CANN5.0作為全新一代AI異構計算架構版本，通過軟硬件結合優化再度獲得大幅性能提升，將昇騰AI處理器的澎湃算力發揮到極致。

原本在3.0版本需要6.25分鐘訓練的BERT模型，在CANN 5.0的加持下縮短了一倍多，只需2.69分鐘就能完成訓練；同時，原本需要28秒訓練的ResNet模型，通過5.0版本縮短到了16秒。此外，常用小規模訓練場景（分類、檢測、語義分割、NLP等）實現性能翻倍；在分類、翻譯、檢測典型推理場景下，性能也可達到30%到140%的提升。

CANN5.0性能大幅提升的關鍵在于技術的持續突破和創新。通過深耕細作不斷挖掘昇騰AI處理器的潛能，CANN在軟件層面實現了更高效的任務調度和更智能的數據切分，借助任務自動流水、算子深度融合、自適應梯度切分、AutoTune智能計算調優等關鍵技術詮釋了昇騰AI極致性能的風采。并依托自動分解和并行技術，將超大模型的處理同普通模型一樣簡單。

CANN5.0還提供了全套推理引擎軟件包ATC Suite1.0，面向客戶網絡提供圖級別、算子級別的自動調優能力；同時通過強大的多媒體處理能力，能輕松應對多路復雜的音視頻處理場景；支持在線及離線推理方式，助力開發者更加靈活地實現高性能推理應用。

生態全面開展，CANN與開發者攜手并進

作為華為昇騰CANN生態高級總監，王海彬分享了在過去的一年中，CANN面向開發者的生態開展情況。

迄今為止，CANN的社區活躍度較去年提升3倍；累計與超過200家高校研究團隊開展合作，眾智項目貢獻400+個模型及800+個算子；目前CANN已經支持昇騰開發者人數達到58W， 其中核心開發者近9000人，已經成為了社區貢獻的主力。并在接下來的2022年中，希望有更多的開發者與CANN攜手點燃燎原之火，共建昇騰AI繁榮生態。

在洶涌的AI時代浪潮中，AI技術領域面臨重重困難和挑戰，CANN作為人工智能基礎軟件平臺，將持續在基礎能力和關鍵技術上突破創新，并肩負起時代賦予的使命任務，和萬千個人開發者、專家學者、行業伙伴一起，共迎挑戰，共創機遇，共享未來！

原文標題：昇騰CANN，?硬?核?！

文章出處：【微信公眾號：華為計算】歡迎添加關注！文章轉載請注明出處。