AIBOX-1684X：把大語言模型“裝”進小盒子

AIBOX-1684X支持主流大模型私有化部署，算力高達32TOPS，同時也支持CNN、RNN、LSTM等傳統網絡架構，支持TensorF NNX和Darknet等深度學習架構，并支持自定義算子開發。支持Docker容器化管理技術。適用于智能監控、AI教學、算力服務、邊緣計算、大模型私有化部署、數據安全和隱私保護等場景。

全面的人工智能私有化部署

語言大模型

支持Transformer架構下超大規模參數模型，如LLaMa2、ChatGLM、Qwen等大型語言模型的私有化部署。

視覺大模型

支持ViT、Grounding DIN0、SAM等視覺大模型的私有化部署。

AI繪畫

支持AIGC領域的Stable DiffusionV1.5圖像生成模型的私有化部署。

傳統網絡架構

支持CNN、RNN、LSTM等傳統網絡架構。

深度學習框架

支持多種深度學習框架，包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet，并支持自定義算子開發。

Docker容器化

支持Docker容器化管理技術，可方便的進行鏡像部署。

32TOPS超高算力AI處理器

搭載SOPHON算能AI處理器BM1684X，擁有八核ARM Cortex-A53，最高主頻2.3GHz，采用12nm工藝制程；擁有高達32Tops（INT8）算力，或16TFLOPS（FP16/BF16）算力、或2Tops（FP32）高精度算力，支持主流編程框架，可廣泛應用于云端及邊緣應用的人工智能推理。

多路視頻AI處理性能

最高支持32路1080P H.264/H.265的視頻解碼，32路1080P高清視頻全流程處理（解碼+AI分析），滿足視頻流人臉檢測、車牌識別等各類AI應用場景的需求。

強大的網絡通訊能力

支持雙路1000Mbps以太網 ，高速穩定的網絡通訊方式，滿足不同應用場景需求。

高效散熱，工藝精美

配置工業級全金屬外殼，鋁合金結構導熱，頂蓋外殼側面采用條幅格柵設計，保證外部空氣流通，高效散熱，保障在高溫運行狀態下的運算性能和穩定性。頂蓋采用多孔六邊形設計, 簡潔美觀。整機小巧精致，運行穩定，滿足各種工業級的應用需求。

國產化定制，產品自主可控

可實現100%國產化硬件方案定制，技術完全自主可控，工業級產品質量，穩定的供貨周期，滿足各種行業的需求。

完善的開發資料

提供配套的源代碼、教程、技術資料和開發工具，讓開發變得更加簡單方便。

廣泛的應用場景

廣泛適用于智能監控、AI教學、算力服務、邊緣計算、大模型私有化部署、數據安全和隱私保護等場景。