回顧Web3數據訪問的發展歷史

2024-06-17 16:06:44

原文標題:《Web3 數據訪問的發展》 原文作者:Geng Kai、Eric,DFG 區塊鏈中數據的重要性

數據是區塊鏈技術的關鍵,是开發去中心化應用程序 (dApp) 的基礎。雖然目前的大部分討論都圍繞着數據可用性 (DA)——確保每個網絡參與者都可以訪問最近的交易數據進行驗證——但還有一個同樣重要的方面經常被忽視:數據可訪問性。

在模塊化區塊鏈時代,DA 解決方案已變得不可或缺。這些解決方案確保所有參與者都可以使用交易數據,從而實現實時驗證並維護網絡的完整性。然而,DA 層的功能更像是廣告牌而不是數據庫。這意味着數據不會無限期地存儲;它會隨着時間的推移而被刪除,就像廣告牌上的海報最終會被新海報取代一樣。

另一方面,數據可訪問性側重於檢索歷史數據的能力,這對於开發 dApp 和進行區塊鏈分析至關重要。這一方面對於需要訪問過去數據以確保准確表示和執行的任務至關重要。盡管數據可訪問性很重要,但討論得較少,但它與數據可用性一樣重要。兩者在區塊鏈生態系統中發揮着不同但互補的作用,全面的數據管理方法必須解決這兩個問題,以支持強大而高效的區塊鏈應用程序。 區塊鏈數據之前是如何檢索的

自誕生以來,區塊鏈就徹底改變了基礎設施,並推動了遊戲、金融和社交網絡等各個領域的去中心化應用程序 (dApp) 的創建。然而,構建這些 dApp 需要訪問大量區塊鏈數據,這既困難又昂貴。

對於 dApp 开發者來說,一種選擇是托管和運行自己的存檔 RPC 節點。這些節點從一开始就存儲所有歷史區塊鏈數據,允許完全訪問數據。但是,維護存檔節點的成本很高,查詢能力也有限,因此無法以开發人員需要的格式查詢數據。雖然運行較便宜的節點是一種選擇,但這些節點的數據檢索能力有限,這可能會妨礙 dApp 的運行。

另一種方法是使用商業 RPC(遠程過程調用)節點提供商。這些提供商負責節點的成本和管理,並通過 RPC 端點提供數據。公共 RPC 端點是免費的,但有速率限制,可能會對 dApp 的用戶體驗產生負面影響。私有 RPC 端點通過減少擁塞提供更好的性能,但即使是簡單的數據檢索也需要大量的來回通信。這使得它們請求繁重,對於復雜的數據查詢效率低下。此外,私有 RPC 端點通常難以擴展,並且缺乏跨不同網絡的兼容性。 更好的替代方案:區塊鏈索引器

區塊鏈索引器在組織鏈上數據並將其發送到數據庫以便於查詢方面起着至關重要的作用,這就是為什么它們經常被稱為「區塊鏈的谷歌」。它們的工作原理是索引區塊鏈數據並通過類似於 SQL 的查詢語言(使用GraphQL等 API)使其隨時可用。通過提供查詢數據的統一界面,索引器允許开發人員使用標准化查詢語言快速准確地檢索所需的信息,從而大大簡化了流程。

不同類型的索引器通過各種方式優化數據檢索:

1. 完整節點索引器:這些索引器運行完整的區塊鏈節點並直接從中提取數據,確保數據完整准確,但需要大量的存儲和處理能力。

2. 輕量級索引器:這些索引器依靠完整節點根據需要獲取特定數據,從而減少存儲要求但可能會增加查詢時間。

3. 專用索引器:這些索引器專門針對某些類型的數據或特定的區塊鏈,可優化特定用例的檢索,例如 NFT 數據或 DeFi 交易。

4. 聚合索引器:這些索引器從多個區塊鏈和來源提取數據,包括鏈下信息,提供統一的查詢界面,這對於多鏈 dApp 特別有用。

僅以太坊就需要 3TB 的存儲空間,並且隨着區塊鏈的不斷增長,Erigon 存檔節點的數據存儲量也會不斷增加。索引器協議部署了多個索引器,可以高效地索引和高速查詢大量數據,這是 RPC 無法實現的。

索引器還允許進行復雜查詢、根據不同標准輕松過濾數據以及提取後分析數據。一些索引器還允許聚合來自多個來源的數據,從而避免在多鏈 dApp 中部署多個 API。通過分布在多個節點上,索引器提供了增強的安全性和性能,而 RPC 提供商可能會因其集中式特性而出現中斷和停機。

總體而言,與 RPC 節點提供商相比,索引器提高了數據檢索的效率和可靠性,同時還降低了部署單個節點的成本。這使得區塊鏈索引器協議成為 dApp 开發人員的首選。 索引器用例

如前所述,構建 dApp 需要檢索和讀取區塊鏈數據才能運行其服務。這包括任何類型的 dApp,包括 DeFi、NFT 平臺、遊戲甚至社交網絡,因為這些平臺需要先讀取數據才能執行其他交易。 DeFi

DeFi 協議需要不同的信息才能為用戶報出特定的價格、比率、費用等。自動做市商 (AMM) 需要有關某些資金池的價格和流動性信息來計算掉期利率,而借貸協議則需要利用率來確定借貸利率和清算的債務比率。在計算用戶執行的利率之前,將信息輸入他們的 dApp 是必不可少的。 遊戲

GameFi 需要快速索引和訪問數據,以確保用戶流暢地玩遊戲。只有通過閃電般的數據檢索和執行,Web3 遊戲才能在性能上與 Web2 遊戲相媲美,從而吸引更多用戶。這些遊戲需要土地所有權、遊戲內代幣余額、遊戲內操作等數據。使用索引器,他們可以更好地確保穩定的數據流和穩定的正常運行時間,以確保完美的遊戲體驗。 NFT

NFT 市場和借貸平臺需要索引數據訪問各種信息,例如 NFT 元數據、所有權和轉讓數據、版稅信息等。快速索引此類數據可避免逐個瀏覽每個 NFT 以查找所有權或 NFT 屬性數據。

無論是需要價格和流動性信息的 DeFi 自動做市商 (AMM),還是需要更新新用戶帖子的 SocialFi 應用程序,能夠快速檢索數據對於 dApp 正常運行至關重要。借助索引器,它們可以高效、正確地檢索數據,從而提供流暢的用戶體驗。

分析

索引器提供了一種從原始區塊鏈數據(包括每個區塊中的智能合約事件)中提取特定數據的方法。這為更具體的數據分析提供了機會,從而提供全面的見解。

例如,永續交易協議可以找出哪些代幣的交易量大,哪些代幣會產生費用,從而決定是否將這些代幣作為永續合約列在其平臺上。DEX 开發人員可以為自己的產品創建儀表板,深入了解哪些資金池的回報率最高或流動性最強。還可以創建公共儀表板,讓开發人員可以自由靈活地查詢要在圖表上顯示的任何類型的數據。

由於有多個區塊鏈索引器可用,因此識別索引協議之間的差異對於確保开發人員選擇最適合其需求的索引器至關重要。 區塊鏈索引器概述

索引器概覽 The Graph

The Graph 是第一個在以太坊上啓動的索引器協議,它可以輕松查詢以前不易訪問的交易數據。它使用子圖定義和過濾從區塊鏈收集的數據子集,例如與 Uniswap v3 USDC/ETH 池相關的所有交易。

使用索引證明,索引器質押原生代幣 GRT 用於索引和查詢服務,委托人可以選擇將其代幣質押於此。策展人可以訪問高質量的子圖,以幫助索引器確定要為哪些子圖編制數據以賺取最佳查詢費用。在向更大程度的去中心化過渡的過程中,The Graph 最終將停止其托管服務,並要求子圖升級到其網絡,同時提供升級索引器。

其基礎設施使每百萬次查詢的平均成本達到 40 美元,這比自托管節點的成本要低得多。使用文件數據源,它還支持同時對鏈上和鏈下數據進行並行索引,以實現高效的數據檢索。

看看 The Graph 的索引器獎勵,它在過去幾個季度中一直在穩步增長。這部分是由於查詢量的增加,但也歸因於代幣價格的增長,因為他們計劃在未來整合人工智能輔助查詢。 Subsquid

Subsquid 是一個點對點、水平可擴展的去中心化數據湖,可高效聚合大量鏈上和鏈下數據,並通過零知識證明進行保護。作為一個去中心化的工作器網絡,每個節點負責存儲來自特定區塊子集的數據,通過快速識別保存所需數據的節點來加快數據檢索過程。

Subsquid 還支持實時索引,允許在區塊最終確定之前對其進行索引。它還支持以开發人員選擇的格式存儲數據,從而便於使用 BigQuery、Parquet 或 CSV 等工具進行更輕松的分析。此外,子圖可以在 Subsquid 網絡上部署,而無需遷移到 Squid SDK,從而實現無代碼部署。

盡管仍處於測試網階段,Subsquid 已取得令人印象深刻的統計數據,擁有超過 80,000 名測試網用戶,部署了超過 60,000 個 Squid 索引器,網絡上有超過 20,000 名經過驗證的开發人員。最近,6 月 3 日,Subsquid 啓動了其數據湖的主網。

除了索引之外,Subsquid Network 數據湖還可以替代分析、ZK/TEE 協處理器、AI 代理和 Oracle 等用例中的 RPC。 SubQuery

SubQuery 是一個去中心化的中間件基礎設施網絡,提供 RPC 和索引數據服務。它最初支持 Polkadot 和 Substrate 網絡,現在已擴展到包括 200 多個鏈。它的工作原理類似於使用索引證明的 The Graph,索引器索引數據並提供查詢請求,委托人將股份質押給索引器。然而,它引入了消費者來提交購买訂單,以表明索引器的收入有保障,而不是管理者。

它將引入支持分片的 SubQuery 數據節點,以防止每個節點之間不斷同步新數據,從而優化查詢效率,同時走向更大的去中心化。用戶可以選擇按每 1000 個請求支付約 1 SQT 代幣的計算費用,或通過協議為索引器設置自定義費用。

盡管 SubQuery 在今年早些時候才推出其代幣,但節點和委托人的發行獎勵也以美元價值環比增長,這也代表其平臺上提供的查詢服務數量不斷增加。自 TGE 以來,質押的 SQT 總量已從 600 萬增加到 1.25 億,凸顯了其網絡參與度的增長。 Covalent

Covalent 是一個去中心化的索引器網絡,由區塊樣本生產者(BSP)網絡節點通過批量導出的方式創建區塊鏈數據的副本,並在 Covalent L1 區塊鏈上發布證明。這些數據再由區塊結果生產者(BRP)節點根據設定的規則進行細化,篩選出符合要求的數據。

通過統一的 API,开發人員可以輕松以一致的請求和響應格式提取相關的區塊鏈數據,無需編寫自定義復雜查詢即可訪問數據。可以使用在 Moonbeam 上結算的 CQT 代幣作為支付手段從網絡運營商處提取這些預配置的數據集。

Covalent 的獎勵從 23 年第一季度到 24 年第一季度似乎總體呈增長趨勢,部分原因是 Covalent 代幣 CQT 價格上漲。 選擇索引器的注意事項 數據的可定制性

一些索引器(例如 Covalent)是通用索引器,僅通過 API 提供標准的預配置數據集。雖然它們可能很快,但它們無法為需要自定義數據集的开發人員提供靈活性。通過使用索引器框架,它允許進行更多自定義數據處理以滿足特定於應用程序的需求。 安全

索引數據必須是安全的,否則基於這些索引器構建的 dApp 也容易受到攻擊。例如,如果交易和錢包余額可以被操縱,dApp 就有可能失去流動性,從而影響其用戶。雖然所有索引器都通過索引器質押代幣來採用某種形式的安全性,但其他索引器解決方案可能會使用證明來進一步提高安全性。

Subsquid 提供了使用樂觀和零知識證明的選項,而 Covalent 還發布了包含區塊哈希值的證明。Graph 以樂觀挑战窗口期的方式針對索引器查詢提供爭議挑战期,而 SubQuery 為每個區塊生成 Merkle Mountain 證明,以計算其數據庫中存儲的所有數據的每個區塊的哈希值。 速度和可擴展性

隨着區塊鏈的不斷增長,交易量也隨之增加,這使得索引大量數據變得更加繁瑣,因為需要更多的處理能力和存儲空間。隨着區塊鏈網絡的增長,保持效率變得更加困難,但索引器協議引入了解決方案來滿足這些日益增長的需求。

例如,Subsquid 通過添加更多節點來存儲數據,從而實現水平擴展,隨着硬件改進,它能夠擴展。Graph 提供並行流數據,以更快地同步數據,而 SubQuery 引入節點分片來加快同步過程。 支持的網絡

盡管大多數區塊鏈活動仍在以太坊內進行,但隨着時間的推移,不同的區塊鏈越來越受歡迎。例如,Layer 2s、Solana、Move 區塊鏈和比特幣生態系統鏈都有自己的一套不斷增長的开發人員和活動,這也需要索引服務。

為其他索引器協議不支持的某些鏈提供支持可以獲得更多市場份額費用。索引數據密集型網絡(如 Solana)並非易事,到目前為止,只有 Subsquid 成功為它們提供索引支持。 結論

盡管索引器在 dApp 开發中被廣泛採用,但索引器的潛力仍然巨大,尤其是在集成 AI 的情況下。隨着 AI 在 Web2 和 Web3 中的不斷普及,其改進能力取決於訪問相關數據以訓練模型和开發 AI 代理。確保數據完整性對於 AI 應用程序至關重要,因為它可以防止模型被輸入有偏見或不准確的信息。

在索引器解決方案領域,Subsquid 在性能和用戶指標方面取得了重大進展。用戶已經开始嘗試使用 Subsquid 構建 AI 代理,展示了該平臺在不斷發展的數據索引領域的多功能性和潛力。此外,AutoAgora 等工具幫助索引器使用 AI 為 The Graph 上的查詢服務提供動態定價,而 SubQuery 支持多個 AI 網絡(如 OriginTrail 和 Oraichain),以實現透明的數據索引。

人工智能與索引器的集成有望增強區塊鏈生態系統中的數據可訪問性和可用性。通過利用人工智能技術,索引器可以提供更高效、更准確的數據檢索,使开發人員能夠構建更復雜的 dApp 和分析工具。隨着人工智能和索引器繼續共同發展,我們仍然對數據索引的未來及其在塑造去中心化數字格局中的作用持樂觀態度。

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

推薦文章

VC 如何看待目前的迷因幣狂潮?Meme 本輪週期還能走多久

Y etta,現在這種市場你們焦慮嗎?,這是在一個飯局上別人認真向我發出的提問,我當時先是一愣,不...

PANews
5 2小時前

比特幣直衝 10 萬美元,滿手山寨幣的我該怎麼辦?

比 特幣吸血行情處在自我強化的階段,之前只是吸血山寨幣,這兩天開始吸血鏈上 MeMe 幣。早上觀察...

PANews
5 2小時前

星球日報|Cboe向美SEC提交4支Solana現貨ETF上市申請;Tether近期已累計增發90億枚USDT(11月22日)

頭條 Cboe 向美 SEC 提交 4 支 Solana 現貨 ETF 上市申請 彭博高級 ETF...

星球日報
5 2小時前

香港Web3宣言兩周年,HashKey總經理Anna Liu談代幣化未來

整理:Tia,Techub News 作為亞洲頂尖的加密資產企業之一,HashKey Group...

TechubNews
4 2小時前

萬萬沒想到,AI盜了我的錢包

原創 | Odaily星球日報( @OdailyChina ) 作者|Azuma( @azuma_...

星球日報
5 2小時前

美 SEC 主席 Gary Gensler 宣布將辭職,加密貨幣迎來四年坦途?

撰文:Alex Liu,Foresight News 11 月 22 日凌晨,亞洲時區夜深人靜之際...

ForesightNews
5 2小時前