自 AIBOX-1684X 上市后,這個小巧的盒子憑借本地化 AI 的能力,獲得市場一致好評。現 Firefly 推出新一款入門級 AI 盒子:AIBOX-1688
該盒子搭載 SOPHON 算能八核 AI 處理器 BM1688,算力高達 16 TOPS,支持主流大模型的私有化部署,把 AI 的能力私有化,滿足個性化的 AI 部署。
人工智能私有化部署
語言大模型
支持 Transformer 架構下超大規模參數模型,如 Gemma-2B、Qwen1.5-1.8B、Llama2-7B、ChatGLM3-6B 等大模型的私有化部署。
傳統網絡架構
支持 CNN、RNN、LSTM 等傳統網絡架構。
深度學習框架
支持多種深度學習框架,包括 TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX 和 Darknet,并支持自定義算子開發。
Docker 容器化
支持 Docker 容器化管理技術,可方便進行鏡像部署。
16TOPS算力AI處理器BM1688
采用 SOPHON 算能 AI 處理器 BM1688,擁有八核 ARM Cortex-A53,最高主頻 1.6GHz,內建神經網絡加速引擎 TPU,擁有 32T@INT4 峰值算力、16T@INT8 峰值算力、4T@FP16 / BF16 算力、0.5T@FP32 算力,支持主流編程框架,可廣泛應用于 AI 推理、計算機視覺等領域。
多路視頻AI處理性能
最高支持 16 路 H.265 / H.264 1080P 視頻解碼,10 路 H.265 / H.264 1080P 視頻編碼,支持 16 路 1080P 高清視頻全流程處理(解碼+ AI 分析),滿足視頻流人臉檢測、車牌識別、智慧城市等各類 AI 應用場景的需求。
強大的網絡通訊能力
支持雙路 1000Mbps 以太網 ,高速穩定的網絡通訊方式,滿足不同應用場景的需求。
全金屬外殼,高效散熱
配置工業級全金屬外殼,鋁合金結構導熱,頂蓋外殼側面采用條幅格柵設計,保證外部空氣流通,高效散熱,保障在高溫運行狀態下的運算性能和穩定性。
匠心工藝,美觀精致
頂蓋采用多孔六邊形設計,簡潔美觀。整機小巧精致,運行穩定,滿足工業級應用的需求。
完善的開發資料
提供配套的源代碼、教程、技術資料和開發工具,讓開發變得更加簡單方便。
廣泛的應用場景
AIBOX-1688 可廣泛適用于智能監控、AI 教學、算力服務、邊緣計算、大模型私有化部署、數據安全和隱私保護等場景。
-
處理器
+關注
關注
68文章
19159瀏覽量
229112 -
AI
+關注
關注
87文章
30106瀏覽量
268398 -
大模型
+關注
關注
2文章
2322瀏覽量
2479
發布評論請先 登錄
相關推薦
評論