兆芯推出基于KH-40000的深度學習訓推一體化解決方案

該方案支持以兆芯開勝KH-40000系列服務器處理器及算能自研算力產品（包括算能TPU處理器、推理微服務器、智算卡等）為硬件底座，以AutoML零代碼自動化訓練平臺為基礎，能夠幫助用戶通過簡單的操作，自主完成模型創建、數據標注、模型訓練、模型測試、模型部署等全流程的過程。

人工智能讓機器不再僅僅是執行人類命令的工具，而是能夠思考、解決問題的智能體，作為當今科技領域最受關注、熱度最高的數字技術應之一，人工智能正在逐步的改變著我們 的生活方式和世界的發展格局，已經成為各國科技創新競爭的重中之重。

方案背景

隨著人工智能大模型的爆火與飛速進步，深度學習在各領域的應用日益深入，其與產業的融合也日益深入和專業化。日前，基于兆芯處理器平臺的AI教育解決方案已經在華南理工大學工程訓練中心AI實驗室順利部署上線。該方案進一步完善了學校的AI教學模式，能夠幫助學生模擬和探索AI在真實場景中的應用，進行機器視覺、自然語言處理、深度學習等方面的實踐。

深度學習的落地是一個復雜的系統工程，企業進行自主研發，必須從零開始，建立一個團隊，這就意味著要付出高昂的人力代價，還要克服許多技術困難，而且很難確保模型的實用性；在定制開發模式上，存在“一個場景對應一個模型”造成的定制成本高、開發時間長、不能自主迭代、泛化能力差、業務數據保密性高等諸多困難。

方案簡介

針對企業部署深度學習應用人力成本高、技術難度大、開發周期長、迭代能力差等問題和難點，兆芯與算能聯合SOPHON.TEAM生態共同構建了一套可高效落地的整體解決方案。

該方案支持以兆芯開勝KH-40000系列服務器處理器及算能自研算力產品（包括算能TPU處理器、推理微服務器、智算卡等）為硬件底座，以AutoML零代碼自動化訓練平臺為基礎，能夠幫助用戶通過簡單的操作，自主完成模型創建、數據標注、模型訓練、模型測試、模型部署等全流程的過程，實現快速、高效的深度學習工程化落地。

方案架構

方案分為硬件層、軟件層、數據層。硬件層部署訓練服務器及算能推理微服務器、智算卡等產品；軟件層部署訓練平臺和推理平臺；數據層通過視頻采集、數據清洗、數據標注等操作，為推理平臺和訓練平臺推理訓練數據。

方案價值

01

一體化交付

集算法訓練與推理部署等能力于一體，全面解決深度學習項目落地過程中從數據處理、模型訓練、應用部署到事件上報全流程的問題，能力更全面、體驗更流暢、性能更完整、性價比更高。

02

場景智能+業務導向

面向真實業務場景的實戰型解決方案，可基于用戶數據特征、場景特征、業務需求智能化推薦相應的模型結構、靈活設置業務參數，在更小的資源投入下，實現更好的應用效果和更高的處理器利用率。

03

靈活的算法定制能力

該方案在穩定的硬件基礎上，實現了專業、靈活的算法生產，用戶可根據實際需求自主生產、部署所需算法，并根據業務場景需求自動化迭代精度，顯著優于硬件與固定算法綁定的傳統方案。

應用場景

01

構建現代立體化視頻圖像巡檢體系

采取數據增強策略，針對性生成移動小目標識別等相關深度學習算法，多幀過濾、多次檢測，彌補無人機視角下移動目標過小、檢測難度大等不足，進行精準識別，可以快速、準確地識別出巡檢區域內的特定目標。

02

提升網絡基礎設施智能化管理及故障風險預警能力

通過智能化監測系統，收集基礎設施的運行數據，并借助AutoML自動化訓練平臺對機房和基站等場景的基礎設施進行數據分析和建模，從而實現故障和安全隱患的預測和預警，進一步提前對發生故障和風險事件的可能性進行判斷和排除。

相關產品

01

算能智算卡SC7

SC7是面向深度學習推理的算力卡，已完成與兆芯開勝KH-40000系列服務器處理器的適配認證，產品高效適配市場上主流深度學習算法，實現視頻結構化、人臉識別、行為分析、狀態監測等應用，為智慧城市、智慧交通、智慧能源、智慧金融、智慧電信、智慧工業等領域賦能。

02

聯想開天KR722z G2服務器

聯想開天KR722z G2服務器，搭載雙路開勝KH-40000/32處理器，支持12×前置3.5寸或24×2.5寸熱插拔硬盤；4×后置熱插拔硬盤。支持超大數據存儲容量和熱插拔功能，內存容量最高可支持2TB，同時整機采用冗余的散熱功能和可選的電源功能設計，提供強大算力的同時，可保障業務連續穩定運行。

03

聯和東海XRS 302系列服務器

聯和東海XRS 302系列服務器搭載雙路開勝KH-40000/32處理器，響應快速，性能大幅提升；提供32個內存槽位，內存最大支持2TB；多種規格PCIe 接口，可支持GPU算力卡等硬件擴展。適用于OA/郵件服務、數據庫服務、存儲服務、云平臺計算節點，AI 算力服務、推理服務等應用場景。