近日,昆侖萬維公司宣布開源一款名為Skywork-MoE的稀疏大模型,該模型擁有高達2千億參數,不僅性能強勁,而且推理成本更低,為人工智能領域帶來了新的突破。
Skywork-MoE基于昆侖萬維之前開源的Skywork-13B模型進行擴展,是首個完整應用并落地的開源千億MoE大模型。MoE(Mixture of Experts)技術在此模型中得到了充分的應用,使得模型在處理復雜任務時能夠更加高效和準確。
值得一提的是,Skywork-MoE還是首個支持用單臺4090服務器推理的開源千億MoE大模型。這一特性極大地降低了模型的使用門檻,使得更多的企業和研究機構能夠輕松地使用這一強大的模型進行研究和應用。
昆侖萬維公司表示,Skywork-MoE的模型權重和技術報告將完全開源,并免費提供給商業使用。這一舉措將極大地推動人工智能領域的發展,為更多的企業和研究機構提供強大的技術支持和合作機會。
Skywork-MoE的開源不僅展示了昆侖萬維公司在人工智能領域的技術實力,也體現了公司對于推動行業發展的堅定承諾。未來,我們期待看到更多基于Skywork-MoE的優秀應用和研究成果的出現。
-
人工智能
+關注
關注
1791文章
46863瀏覽量
237587 -
開源
+關注
關注
3文章
3252瀏覽量
42407 -
大模型
+關注
關注
2文章
2332瀏覽量
2486
發布評論請先 登錄
相關推薦
評論