解析分布式 AI 計算網絡 Gensyn
6月12日,總部位於英國的區塊鏈AI計算協議Gensyn宣布完成a16z領投的4300萬美元A輪融資。這場AI領域革命,Gensyn率先為我們交上了一份答卷。
Gensyn本質是一種基於Substripe協議的第一層權益證明區塊鏈,可通過智能合約方式可促進機器學習的任務分配和獎勵,來快速實現AI模型的學習能力,並降低深度學習訓練的價格。
2020年GPT-3單次訓練的成本約為1200萬美元,比2019年GPT-2訓練的估計值約43000美元高出270倍以上。一般來說,最好的神經網絡的模型復雜度(大小)目前每三個月翻一番。而Gensyn的機器學習訓練工作的每小時成本約在0.4美元,遠遠低於AWS(2美元)和GCP(2.5美元)等所需成本。Gensyn想要利用區塊鏈等技術實現一種去中心化的大規模分布式深度學習的高效計算協議,並且具有概率學習證明和加密貨幣激勵機制。
Gensyn可將开發人員(任何能夠訓練機器學習模型的人)與解題者(Solver,任何想用自己機器訓練機器學習模型的人)聯系起來。
通過利用世界各地闲置的、具有機器學習能力的計算設備(例如小型數據中心、個人遊戲電腦、M1和M2 Mac甚至是智能手機),聯結到一個全球機器學習超級集群中,將機器學習的可用計算能力提高10-100倍。同時Gensyn以創新性的驗證系統和算力供應實現了超大規模和低成本且無需信任地訓練神經網絡。
1. 創新的驗證系統
Gensyn的核心挑战是驗證在設備上執行的計算任務是否已經正確執行,並通過代幣觸發支付。 Gensyn系統主要通過三個概念來解決驗證問題,包括概率proof-of-learning、基於圖的精確定位協議和Truebit 式激勵遊戲。
由四個主要參與者組成,包括提交者、解題者、驗證者和吹哨者。提交者是系統最終用戶,提供將要計算的任務並為完成的工作單元付費。解題者是系統主要工作部分,執行模型訓練並生成證明以供驗證者檢查。驗證者將非確定性訓練過程鏈接到確定性线性計算、復制解題者證明的一部分,並將距離與預期閾值進行比較。吹哨者是最後一道防线,檢查驗證者的工作並挑战以期獲得累積獎金。
系統可以在無需信任的情況下完成所有這些工作,並且开銷與模型大小成线性比例,從而保持驗證成本不變。該系統的創新點在於將模型訓練檢查點與終止於鏈上的概率檢查相結合,有效地解決了任意規模神經網絡訓練中狀態依賴問題。
2. 新的算力供應
Gensyn系統會利用未充分利用和未優化計算設備資源。 這些設備包括從目前未使用的遊戲GPU到之前以太坊PoW時代的GPU礦機。因為該協議是去中心化的,意味着它最終將由社區多數管理,未經社區同意不能“關閉”,與web2不同,這使其具有抗審查性。該協議的創新點在於充分利用未使用的計算設備資源,為社區提供更多的計算力,同時也為那些擁有未使用設備的人提供了一個新的收入來源。並且Gensyn協議提供了與數據中心擁有的GPU相似的成本,其規模可以超過AWS。
總之, Gensyn的核心目標是通過去中心化計劃實現AI民主化,讓更多的人可以參與到AI技術的創新和應用中。 該計劃的核心理念是利用未充分利用的計算設備資源,通過構建一個开放的、去中心化的驗證系統,來提高AI模型的效率和准確性,並為AI創業者提供更多的機會和可能性。它是一個具有創新性和前瞻性的計劃,有望在未來的AI領域中發揮重要作用。
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。
鏈茶館
文章數量
101粉絲數
0