“GPU 窮人”太多了
多年以來,區塊鏈和加密貨幣一直被批評,認為它是“為解決方案找問題”。
現在,一些行業內的企業家已經找到了它能夠解決的問題,那就是訓練 AI 模型所面臨的計算能力短缺。
解決方案:無法獲得圖形處理器(GPU)的研究人員和創業公司可以利用基于區塊鏈的市場,以主要供應商一部分的價格快速、輕松地獲取計算能力。
比特幣挖礦和其他事情刺激了對 GPU 的軍備競賽,它們需要進行計算以保持系統運行,但是去年數字貨幣市場崩潰后,需求出現了下滑。現在,一些 AI 公司不再簡單地蠶食陷入困境的加密貨幣行業,而是依靠區塊鏈來分發這些 GPU。
哥倫比亞大學的計算機科學研究生 Ishan Dhanani 就是一個新人如何通過區塊鏈解決 GPU 短缺的范例。他想對 Meta 的 LLama2 開源 AI 模型進行微調,以便在該模型上進行實驗,但是他卻遇到了巨型公司已經吞噬了大部分計算能力的現實。
他無法通過市場領導者亞馬遜云科技(Amazon Web Services)獲得任何計算能力,而小型供應商的計算能力總是處于售罄的狀態。通過哥倫比亞大學獲得訪問權也是一個令人頭疼的問題。
于是,他找到了 Akash Network,該公司是少數幾家創建了協議,以允許 GPU 所有者在區塊鏈上出租 GPU 的公司之一,每使用一分鐘的 GPU,都能賺錢取代幣(token)。Dhanani 通過 Akash 以每小時 1.10 美元的價格租用了價值 1.5 萬美元的 Nvidia A100。他花了大約 7 個小時完成了工作,其花費大約是一杯啤酒的錢。
像 Akash 這樣的公司之所以能提供更便宜的接入服務,部分原因在于這些協議的建立就是為了獨立運行,就像 Airbnb 或 Uber 的版本那樣,只不過不需要這些公司收取傭金。區塊鏈上的社區成員在代幣的激勵下,處理運維中的具體事務。因此,成本很低,除了 GPU 的所有者之外,沒有人會從交易中獲得任何可觀的收入。
這些經驗促使 Dhanani 同兩位朋友在幾個月前成立了 Agora Labs,幫助他所說的“GPU 窮人”更容易地通過區塊鏈預定 GPU 的使用時間。他說,“不能只有 OpenAI 和 Anthropics 有能力訓練和托管 ChatGPT 這樣的模型”。
總部位于英國的 Gensyn 最近宣布獲得了 4300 萬美元的 A 輪融資,代表了風險資本對區塊鏈未來在促進 AI 行業 GPU 使用時間銷售方面的巨大信心。
根據對該公司聯合創始人的采訪,Gensyn 正在構建一個系統,該系統將大大簡化 AI 訓練的定價模式。Gensyn 會計劃訓練作業的總體耗時和成本,然后將任務分散到世界范圍的計算機上,尋找最優惠的價格,而不是為 GPU 的使用時間付費。
這個策略涉及到一個很棘手的問題,那就是計算資源越分散,訓練就越復雜。
Gensyn 聯合創始人 Ben Fielding 說,當他獲得深度學習博士學位時,計算資源的稀缺意味著他無法完全完成 AI 模型自動化開發的研究。
“能做這樣的研究的只有谷歌和微軟”,他說,“我意識到,如果我面臨這樣的處境,那么在這個世界上,有很多其他的人也會面臨這樣的處境,這意味著我們并沒有像我們所能做的那樣,快速邁入機器學習的未來。”
Fielding 說,AI 研究是圍繞著世界上最強大的圖形處理器發展起來的。但他認為,如果區塊鏈上有一個大規模的 GPU 網絡,那么 AI 模型的類型將會適應它,從而可以在范圍更廣的處理器上進行訓練。
在 Gensyn 準備其產品時,Akash Network 表示,他們將很快推進使用區塊鏈上的 GPU 訓練第一個 AI 基礎模型。創業公司 Thumper AI 正在構建一款產品,允許藝術家根據個人的作品創建自己的 AI 模型,然后出售這些模型的使用權。為此,它需要訪問 GPU 以便于使用 Stable Diffusion 技術微調其專有模型。
但 Thumper 的首席執行官 Logan Cerkovnik 遇到了一個熟悉的問題:AWS 無法提供訓練模型所需的 GPU。他還考察了一些較小的供應商和轉售 GPU 空間的公司。但他表示,區塊鏈解決方案是更有價值的。他說,在與數據中心供應商合作時,需要與銷售人員進行對話、進行價格談判和審查過程。但是,在 Akash 上,交易非常快捷方便。
一些為加密貨幣提供計算能力的公司已經開始向 AI 行業提供這些資源,比如 Foundry。該公司重新利用了主要用來挖掘比特幣和其他加密貨幣的數據中心,并增加了 GPU 容量,以便于通過一個去中心化的平臺 Bittensor 運行 AI 模型。它還允許通過 Akash 在區塊鏈上出租 GPU。他們的加速計算工程主管 Tommy Eastman 說,“我們問自己,‘我們還能如何支撐 Foundry 擁有的去中心化的基礎設施?’”
在像 Akash 這樣的協議來訓練 AI 模型的同時,Bittensor 也被用來運行這些模型,這個過程被稱為“推理”。在 Bittensor 上,用戶可以玩類似 ChatGPT 這樣的聊天機器人。不同之處在于,每個提示請求都會發送給區塊鏈上范圍廣泛的網絡實體,它們會根據計算需求分配提示請求。選中者會收到加密貨幣形式的付款。
新方案是在“變廢為寶”
在科技領域,構建平臺的人往往無法想象這些平臺最終會被如何使用。Steve Jobs 可能從未想過 iPhone 促生了 Uber。Mark Zuckerberg 也可能沒想到 Facebook 推進了 Zynga 誕生。
區塊鏈背后的理念是構建一個終結所有平臺的平臺:一個開發新想法的終極畫布,沒有中心化的所有者,也不會被破壞和操縱。當然,這很理想化,也可能很天真。區塊鏈吸引了很多不懷好意的人,他們看到了賺快錢的機會。
然而,我們看到了另外一個平臺,它有一個意想不到的用例,但這似乎非常有用。具有諷刺意味的是,加密貨幣行業運行所需的大量計算資源幾乎被視為這個行業的致命弱點。特斯拉等公司停止接受比特幣的原因就在于,比特幣過于耗費資源,因此會對氣候變化產生巨大影響。
這個致命弱點反而可能成為加密貨幣的救命稻草。區塊鏈在高效地將計算能力出售給報價最高者方面非常出色,而且幾乎毫不費力。現在,生成式 AI(generative-AI)的熱潮催生了一個比加密貨幣更耗能的新產業。而且,與加密貨幣不同,它不太可能在短期內放緩發展速度。
還有一個原因能夠說明這一點:這不是一個快速致富的模式。加密貨幣最大的問題之一在于金融投機從根本上破壞了它的所有理念。人們發明了“首次代幣發行(initial coin offerings)”,但是炒高再拋售(pump-and-dump)的模式立即讓這一想法胎死腹中。不可兌換貨幣(non-fungible token,NFT)一問世,投機者就迅速抬高了價格,以至于大多數人無法參與。
這種新模式并不是為金融投機而生。大多數獲取 GPU 時間的客戶都將以普通貨幣支付,GPU 時間的市場將會始終與云供應商的收費保持一定的掛鉤關系。代幣主要用于后端,以促進交易并激勵人們參與系統維護。
這里有一些未來長期發展的可能性。(抱歉,以下內容非常極客和理想化)。如果區塊鏈能夠更好地分配計算能力,大大降低延遲,你將會看到類似去中心化云的方案。在這種情況下,我們口袋里裝的、家里放的那些功能強大的設備,都可以作為功能強大的全球計算機的一部分得到更有效的利用,所有這些設備都被整合到一個通信網絡中,為我們提供持續的連接。
有些人認為,將訓練 AI 模型的能力普及化是一種潛在的危險方向。人們可能會制造出惡意行為、違反版權法的模型,甚至有可能發展成危險的、失控的惡意行為者。
-
gpu
+關注
關注
28文章
4703瀏覽量
128723 -
AI
+關注
關注
87文章
30239瀏覽量
268473 -
區塊鏈
+關注
關注
110文章
15560瀏覽量
105802
原文標題:AI 熱潮造成的芯片短缺有一個意料之外的救世主:區塊鏈
文章出處:【微信號:AI前線,微信公眾號:AI前線】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論