近日,Meta在開源Llama 3.2的1B與3B模型后,再次為人工智能領域帶來了新進展。10月24日,Meta正式推出了這兩個模型的量化版本,旨在進一步優化模型性能,拓寬其應用場景。
據Meta介紹,量化后的Llama 3.2模型在大小上平均減少了56%,RAM使用量也平均降低了41%。這一顯著的優化使得模型在運行過程中能夠占用更少的資源,同時速度提高了2至4倍。此外,量化后的模型還降低了功耗,這對于將其部署到移動設備上具有重要意義。
此次Meta推出的量化版Llama 3.2模型,不僅展示了其在人工智能領域的持續創新能力,也為更多開發者提供了高效、便捷的工具。隨著這些模型在移動設備上的廣泛應用,人工智能將更深入地融入人們的日常生活,為社會帶來更多的便利和可能性。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
人工智能
+關注
關注
1791文章
46845瀏覽量
237535 -
開源
+關注
關注
3文章
3245瀏覽量
42396 -
Meta
+關注
關注
0文章
259瀏覽量
11344
發布評論請先 登錄
相關推薦
用Ollama輕松搞定Llama 3.2 Vision模型本地部署
Ollama的安裝。 一,Llama3.2 Vision簡介 Llama 3.2 Vision是一個多模態大型語言模型(LLMs)的集合,它包括預訓練和指令調整的圖像推理生成
使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型
前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日,Meta又發布了Llama3.2:一個多語言大型語言
亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
亞馬遜云科技正式上線Meta Llama 3.2模型
亞馬遜云科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模態模型,現已在Amazon Bedrock和Amazon SageM
Meta發布多模態LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一項重要技術突破,成功推出了多模態LLAMA 3.2人工智能模型。這一創新模型不僅能夠深度解析文本信息
Meta發布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發布了其最新的開源人工智能(AI)模型——Llama 3.1,這一舉措標志著Meta在AI領域的又一重大突破。
Meta即將發布超強開源AI模型Llama 3-405B
在人工智能領域的激烈競爭中,Meta公司再次擲出重磅炸彈,宣布將于7月23日正式發布其最新力作——Llama 3-405B,一個擁有驚人4050億參數的開源大模型。這一舉措不僅標志著
Meta Llama 3基礎模型現已在亞馬遜云科技正式可用
亞馬遜云科技近日宣布,Meta公司最新發布的兩款Llama 3基礎模型——Llama 3 8B和Llam
英特爾AI產品助力其運行Meta新一代大語言模型Meta Llama 3
英特爾豐富的AI產品——面向數據中心的至強處理器,邊緣處理器及AI PC等產品為開發者提供最新的優化,助力其運行Meta新一代大語言模型Meta Llama 3
高通支持Meta Llama 3大語言模型在驍龍旗艦平臺上實現終端側執行
高通和Meta合作優化Meta Llama 3大語言模型,支持在未來的驍龍旗艦平臺上實現終端側執行。
Meta推出最強開源模型Llama 3 要挑戰GPT
Meta推出最強開源模型Llama 3 要挑戰GPT Facebook母公司Meta Platforms(META.US)推出了開源AI大
LLaMA 2是什么?LLaMA 2背后的研究工作
Meta 發布的 LLaMA 2,是新的 sota 開源大型語言模型 (LLM)。LLaMA 2 代表著
Meta發布開源大模型Code Llama 70B
近日,Meta宣布推出了一款新的開源大模型Code Llama 70B,這是其“Code Llama家族中體量最大、性能最好的模型版本”。這
【飛騰派4G版免費試用】仙女姐姐的嵌入式實驗室之五~LLaMA.cpp及3B“小模型”OpenBuddy-StableLM-3B
和語法規則,將這些詞匯串聯起來,形成一個完整的回答
關于LLaMA及LLaMA.cpp
LLaMA全稱是Large Language Model Meta AI,是由
發表于 12-22 10:18
評論