近日,由上海天數智芯半導體有限公司(以下簡稱“天數智芯”)主導的DeepSpark開源社區正式發布了百大應用開放平臺24.06版本。 百大應用開放平臺作為國內領先的AI和通用計算應用開發及評測平臺,甄選上百個與行業應用深度耦合的開源算法和模型,支持主流生態應用框架,并針對行業需求構建多維度評測體系,廣泛支持各類落地場景。
本次24.06版本首度上線了多維度評測系統社區版,旨在從速度、精度、顯存占用、功耗、線性度、穩定性等多個維度來全面評價通用GPU加速卡在模型訓練或推理中的綜合表現。多維度評測系統社區版首期支持的36個訓練模型均來自DeepSparkHub百大訓練模型庫,歡迎社區用戶使用體驗。
同時,24.06版本繼續豐富DeepSparkHub百大模型訓練庫和DeepSparkInference推理模型庫中的模型示例。
24.06版本在DeepSparkHub百大訓練模型庫中新增了7個基于PyTorch框架的模型以及對OpenPCDet工具箱的支持,同時上線了8個基于DeepSpeed、Megatron-DeepSpeed和Firefly的大語言模型訓練示例。迄今為止在DeepSparkHub百大訓練模型庫累計開源上線的模型數量達到了276個。
24.06版本在DeepSparkInference推理模型庫中新增了基于天數智芯自研推理引擎IGIE和IxRT的31個推理模型示例,同時還新增了4個基于vLLM、TensorRT-LLM和Text Generation Inference的大語言模型推理示例。值得一提的是,今年6月天數智芯與啟智社區合作舉辦的芯動開源首場-天數智芯專場活動中全面采用了來自DeepSparkInference的推理模型,社區用戶累計完成了近300次推理模型執行和結果提交,充分展現了智鎧100通用GPU推理加速卡的通用性。
隨著DeepSparkHub百大訓練模型庫和DeepSparkInference推理模型庫的持續豐富,進一步展示了天數智芯通用GPU產品天垓和智鎧的通用性和易用性。歡迎行業合作伙伴、社區用戶和開發者以任何形式參與DeepSpark開源社區。
審核編輯:彭菁
-
AI
+關注
關注
87文章
30239瀏覽量
268476 -
開源
+關注
關注
3文章
3256瀏覽量
42420 -
模型
+關注
關注
1文章
3178瀏覽量
48730 -
天數智芯
+關注
關注
0文章
94瀏覽量
5531
原文標題:DeepSpark 開源社區百大應用開放平臺24.06版本正式發布
文章出處:【微信號:IluvatarCoreX,微信公眾號:天數智芯】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論