ChatGPT需要多少算力支持?
據中信建投研報數據,此前用于AI訓練的算力增長符合摩爾定律,大約每20個月翻一番;深度學習的出現加速了性能的擴展,用于AI訓練的算力大約每6個月翻一番;而目前大規模模型出現,其訓練算力是原來的10到100倍。
“算力、算法、數據作為人工智能的三要素,在數字經濟發展、產業智能化升級的進程中發揮巨大作用,數據可以看作生產資料,算法代表新的生產關系,算力則是新型生產力支撐著算法和數據,算力水平決定數據處理能力的強弱。在AI模型訓練和推理運算過程中需要強大的算力支撐,隨著訓練強度和運算復雜程度的增加,算力精度的要求也在逐漸提高。”賽迪顧問人工智能產業研究中心常務副總經理鄒德寶稱。
根據國家數據資源調查報告,2021年全球數據總產量67ZB,近三年平均增速超過26%?;A算力、智能算力、超算算力都呈現穩定增長態勢。
根據早些時候OpenAI發表了一份研究成果表明,AI訓練所需算力指數增長,增長速度超越硬件的摩爾定律。
其實ChatGPT需要的算力取決于應用場景,一般來說,GPT需要大量的算力來完成復雜的任務。例如,在自然語言處理任務中,GPT需要大量的算力來處理大量的文本數據,以及處理復雜的語義關系。此外,GPT還需要大量的算力來處理復雜的圖像和視頻數據。
數據顯示,自2012年至2018年,用于訓練AI所需要的算力大約每隔3~4個月翻倍,整體呈現指數級上漲(而摩爾定律僅僅是18個月翻一倍)1。從2012年到2018年,訓練AI所耗費的算力增長了30萬倍,而摩爾定律在相同時間只有7倍的增長。
ChatGPT熱度不減的背后,是人工智能內容自動生成技術所需要的算力需求也水漲船高。數據顯示,ChatGPT的總算力消耗約為3640PF-days(即假如每秒計算一千萬億次,需要計算3640天),需要7~8個投資規模30億、算力500P的數據中心才能支撐運行。
中國的算力情況正在迅速發展。根據最新的數據,中國的計算機算力已經超過美國,成為全球最大的計算機算力擁有國。中國的算力發展受到政府的大力支持,政府投入了大量資金用于研發新技術,推動算力的發展。此外,中國的科技公司也在積極投資算力,以滿足市場需求。
ChatGPT大火面臨的挑戰
自ChatGPT發布以來,它的能力也不斷被人們解鎖,但人們在試用中慢慢發現,數學能力是ChatGPT的一大短板,連簡單的“雞兔同籠”題都能算錯。大概是考慮到這一點,ChatGPT近日宣布了一次重要更新:提升了真實性和數學能力。
據了解,ChatGPT較上一代產品提升明顯,對話模式具備更好的交互體驗。但對比Google等搜索引擎,ChatGPT尚不具備替代搜索引擎的能力。ChatGPT的數據來自訓練數據庫,目前數據庫僅更新至2021年,可用信息有限,同時真實性也無法得到保障。
主要來自于大量的文本數據,包括新聞文章、社交媒體帖子、書籍等。這些文本數據可以幫助ChatGPT學習語言,從而更好地理解人類語言。此外,從商業模式來看,ChatGPT目前采用免費的模式。
根據OpenAI的CEO SamAltman披露,ChatGPT每次聊天成本約為幾美分,其中一部分來自Azure云服務,未來公司在持續優化成本的同時,會考慮通過收費獲利,預計的收費模式包括訂閱制、按條收費等。
文章綜合選股寶、第一財經、中國科技網
-
摩爾定律
+關注
關注
4文章
632瀏覽量
78938 -
算力
+關注
關注
1文章
936瀏覽量
14750 -
OpenAI
+關注
關注
9文章
1045瀏覽量
6411 -
ChatGPT
+關注
關注
29文章
1549瀏覽量
7507
發布評論請先 登錄
相關推薦
評論