萬字深研：AI x Crypto入門指南(上）

2024-02-24 12:02:19

原文作者： Mohamed Baioumy & Alex Cheema

原文編譯：BeWater

因報告全文篇幅較長，我們分拆成了兩個部分發布。本篇為上篇，主要講述了 AI x Crypto 的核心框架、具體的實例、建設者的機遇等。如果想要查看翻譯全文，請點擊此鏈接。

1. 導言

人工智能（AI）將引發前所未有的社會變革。

隨着 AI 的快速發展以及在各行各業創造出的新可能性，它將不可避免地引發大範圍的經濟混亂。加密行業也不例外。我們在 2024 年的第一周就觀察到了三次重大的 DeFi 攻擊，DeFi 協議中 760 億美元面臨風險。利用 AI，我們可以檢查智能合約的安全漏洞，並將基於 AI 的安全層集成到區塊鏈中。

AI 的局限性在於壞人可以濫用強大的模型，惡意深度僞造的傳播就證明了這一點。值得慶幸的是，密碼學的各種進步將為 AI 模型引入新的能力，極大豐富 AI 行業的同時解決一些嚴重的缺陷。

AI 和加密領域（Crypto）的融合將催生無數值得關注的項目。其中一些項目將為上述問題提供解決方案，而另一些項目則會以淺顯的方式將 AI 和 Crypto 結合起來，但卻不會帶來真正的好處。

在本報告中，我們將介紹概念框架，具體的實例和見解，幫助您了解這一領域的過去、現在和未來。

2. AI x Crypto 的核心框架

在本節中，我們將介紹一些實用的工具，幫助您更詳細地分析 AI x Crypto 項目

2.1 什么是 AI（人工智能技術）x Crypto（加密技術）項目？

讓我們回顧一些同時使用 crypto 和 AI 項目的例子，然後討論它們是否真正屬於 AI x Crypto 項目。

這個案例展示了加密技術如何幫助和改進一個 AI 產品——使用密碼學方法來改變 AI 的訓練方式。這導致了一個僅使用 AI 技術無法實現的產品：一個可以接受加密指令的模型。

圖 1 ：使用加密技術對 AI 棧進行內部更改，可產生新的功能。例如，FHE 允許我們使用加密指令

在這種情況下，AI 技術被用來改進加密產品——這與我們之前討論的情況剛好相反。Dorsa 提供了一種 AI 模型，使創建安全智能合約的過程更快、更便宜。雖然它是鏈下的，但 AI 模型的使用仍然有助於加密項目：智能合約通常是加密項目解決方案的核心。

Dorsa 的 AI 能力可以發現人類忘記檢查的漏洞，從而防止未來的黑客攻擊。然而，這個特殊的例子並沒有利用 AI 使加密產品具備以前做不到的能力——編寫安全的智能合約。Dorsa 的 AI 只是讓這個過程變得更好、更快。不過，這是 AI 技術（模型）改進加密產品（智能合約）的一個例子。

LoverGPT 並不是 Crypto x AI 的一個例子。我們已經確定了 AI 可以幫助改進加密技術棧，反之亦然，這可以通過 Privasea 和 Dorsa 的例子來說明。然而，在 LoverGPT 的例子中，加密部分和 AI 部分並沒有相互作用，它們只是在產品中共存。要將某個項目視為 AI x Crypto 項目，僅僅讓 AI 和 Crypto 為同一個產品或解決方案做出貢獻是不夠的——這些技術必須相互交織配合以產生解決方案。

加密技術和 AI 是可直接結合以產生更好解決方案的技術。將它們結合使用可以使彼此在整體項目中更好地發揮作用。只有涉及這些技術之間協同合作的項目才被分類為 AI X Crypto 項目。

2.2 AI 與 Crypto 如何相互促進

圖 2 ：AI 和 crypto 在 3 種不同產品中的結合方式

讓我們回顧一下之前的案例研究。在 Privasea 中，FHE（即加密技術）用於生成能夠接受加密輸入的 AI 模型。因此，我們正在使用 Crypto（加密）解決方案來改進 AI 的訓練過程，因此 Crypto 正在幫助 AI。在 Dorsa 中，AI 模型被用於審查智能合約安全性。AI 解決方案被用來改進加密產品，因此，AI 正在幫助 Crypto。在評估 AI X Crypto 交叉點的項目時，這給我們帶來了一個重要的維度：是 Crypto 被用來幫助 AI 還是 AI 被用來幫助 crypto？

這個簡單的問題可以幫助我們發現當前用例的重要方面，即要解決的關鍵問題是什么？在 Dorsa 的案例中，我們期望的結果是一個安全的智能合約。這可以由熟練的开發者來完成，Dorsa 恰好利用 AI 提高了這一過程的效率。不過，從根本上說，我們只關心智能合約的安全性。一旦明確了關鍵問題，我們就能確定是 AI 在幫助 Crypto，還是 Crypto 在幫助 AI。在某些情況下，兩者之間並不存在有意義的交互（例如 LoverGPT）。

下表提供了每個類別中的幾個例子。

表 1 ：Crypto 與 AI 如何相結合

您可以在附錄中找到 150 多個 AI x Crypto 項目目錄。如果我們有任何遺漏，或者您有任何反饋意見，請聯系我們！

2.2.1 小結

AI 和 Crypto 都有能力支持另一種技術以實現其目標。在評估項目時，關鍵是要了解其核心是 AI 產品，還是 Crypto 產品。

圖 3 ：區別說明

2.3 內部與外部支持

讓我們舉一個 Crypto 幫助 AI 的例子。當組成 AI 的特定技術集合發生變化時，AI 解決方案作為一個整體的能力也會發生變化。這種技術集合被稱為棧（Stack）。AI 棧包括構成 AI 各個方面的數學思想和算法。用於處理訓練數據、訓練模型以及模型推理的具體技術都是棧的一部分。

在棧中，各個部分之間有着深刻的聯系——具體技術的組合方式決定了棧的功能。因此，改變棧就等於改變了整個技術所能實現的目標。在棧中引入新技術可以創造新的技術可能性——以太坊在其加密棧中添加了新技術，使智能合約成為可能。同樣，對棧的改變也能讓开發者繞過以前被認為是技術固有的問題——Polygon 對以太坊加密棧所做的改變使他們能夠將交易費用降低到以前認為不可能達到的水平。

內部支持： 加密技術可用於對 AI 棧進行內部更改，例如改變訓練模型的技術手段。我們可以在人工智能棧中引入 FHE 技術，Privasea 就是例子，在 AI 棧中直接內置了一個加密的部分，形成了一個經過修改的 AI 棧。
外部支持： crypto 用於支持基於 AI 的功能，而無需對 AI 棧進行修改。 Bittensor 就是一個例子，它激勵用戶貢獻數據——這些數據可用於訓練 AI 模型。在這種情況下，模型的訓練或使用方式沒有任何改變；AI 棧也沒有發生任何變化。不過，在 Bittensor 網絡中，使用經濟激勵措施有助於 AI 棧更好地實現其目的。

圖 4 ：前面討論的說明

同樣，AI 也能為 Crypto 提供內部或外部幫助：

內部支持： AI 技術用於 crypto 棧內部。AI 位於鏈上，直接與 crypto 棧內的部分連接。舉例來說，鏈上的 AI agents 管理着一個 DAO。這種 AI 不只是協助 cypto 棧。它是技術棧中不可分割的一部分，深深嵌入技術棧中，使 DAO 正常運行。
外部支持： AI 為 crypto 棧提供外部支持。AI 用於支持 Crypto 棧，而不對其進行內部更改。Dorsa 等平臺使用 AI 模型來確保智能合約的安全。AI 在鏈外，是一種外部工具，用於使編寫安全智能合約的過程更快以及更便宜。

圖 5 ：這是升級的模型，包含了內部和外部支持的區別

對任何 AI x Crypto 項目進行分析的第一階段就是確定它屬於哪個類別。

2.4 確定瓶頸

與外部支持相比，以深度技術整合為特點的內部支持往往有更多的技術難度。例如，如果我們想通過引入 FHE 或零知識證明（ZKPs）來修改 AI 棧，我們就需要在密碼學和 AI 方面都有相當專業知識的技術人員。但很少有人屬於這一交叉領域。這些公司包括 Modulus 、 EZKL 、 Zama 和 Privasea 。

因此，這些公司需要大量資金和稀有人才來推進其解決方案。讓用戶在智能合約中集成人工智能同樣需要深入的知識； Ritual 和 Ora 等公司必須解決復雜的工程問題。

反之，外部支持也有瓶頸，但它們通常涉及的技術復雜性較低。例如，為 AI agents 添加加密貨幣支付功能並不需要我們對模型有太大修改。實現起來相對容易。雖然對於 AI 工程師來說，構建一個 ChatGPT 插件，讓 ChatGPT 從 DeFi LLama 網頁上獲取統計數據在技術上並不復雜，但很少有 AI 工程師是 crypto 社區的成員。雖然這項任務在技術上並不復雜，但能夠使用這些工具的 AI 工程師卻寥寥無幾，而且很多人都不知道這些可能性。

2.5 測量效用

所有這四個類別中都會有好項目。

如果將人工智能集成到加密技術堆棧中，智能合約开發者將能夠訪問鏈上的人工智能模型，從而增加可能性的數量，並有可能帶來廣泛的創新。這同樣適用於將加密整合到人工智能堆棧的情況——深度技術融合將產生新的可能性。

圖 6 ：在加密堆棧中加入人工智能，為开發者提供新功能

在人工智能為加密提供外部幫助的情況下，人工智能的集成很可能會改進現有產品，同時產生較少的突破，引入較少的可能性。例如，使用人工智能模型編寫智能合約可能會比以前更快、更便宜，也可能會提高安全性，但不太可能產生以前不可能產生的智能合約。這同樣適用於加密技術從外部幫助人工智能——代幣激勵可以用於人工智能堆棧，但這本身不太可能重新定義我們訓練人工智能模型的方式。

總之，將一種技術整合到另一種技術棧中可能會產生新的功能，而使用技術棧之外的技術則可能會提高可用性和效率。

2.6 評估項目

我們可以根據特定項目所處的象限來估算其部分收益，因為技術之間的內部支持可以帶來更大的回報，但估算一個項目經風險調整後的總收益則需要我們考慮更多的因素和風險。

需要考慮的一個因素是，所考慮的項目在Web2、Web3或兩者的背景下是否都有用。具有 FHE 功能的人工智能模型可用於替代不具有 FHE 功能的人工智能模型——引入 FHE 功能對兩個領域都有用，在任何情況下，隱私都是有價值的。不過，將人工智能模型集成到智能合約中只能在 Web3 環境中使用。

如前所述，人工智能和加密領域之間的技術整合是在項目內部還是外部進行的，也將決定項目上升潛力，涉及內部支持的項目往往會產生新的能力和更大的效率提升，而這是更有價值的。

我們還必須考慮這項技術成熟的時間跨度，這將決定人們需要等待多長時間才能獲得回報。

對項目的投資。要做到這一點，可以分析當前的進展情況，並找出與項目相關的瓶頸問題（見第 2.4 節）。

圖 7 ：一個假設的例子，說明與時間跨度相比的潛在上升空間

2.7 了解復雜產品

有些項目涉及我們所描述的四個類別的組合，而不僅僅是一個類別。在這種情況下，與項目相關的風險和收益往往會成倍增加，項目實施的時間跨度也會更長。

此外，您還必須考慮項目的整體性是否優於各部分的總和——一個項目如果什么都有，往往不足以滿足最終用戶的需求。重點突出的方法往往會產生優秀的產品。

2.7.1 示例一：Flock.io

Flock.io 允許在多個服務器之間 "分割 "訓練模型，任何一方都無法訪問所有訓練數據。由於可以直接參與模型的訓練，因此您可以使用自己的數據為模型做出貢獻，而不會泄露任何數據。這有利於保護用戶隱私。隨着人工智能堆棧（模型訓練）的改變，這涉及到加密在內部幫助人工智能。

此外，他們還使用加密代幣獎勵參與模型訓練的人員，並使用智能合約對破壞訓練過程的人員進行經濟處罰。這並不會改變訓練模型所涉及的流程，底層技術保持不變，但各方在都需要遵循鏈上罰沒機制。這是加密技術從外部幫助人工智能的一個例子。

最重要的是，加密技術在內部幫助人工智能引入了一種新的能力：模型可以通過去中心化網絡進行訓練，同時保持數據的私密性。然而，從外部幫助人工智能的加密貨幣並沒有引入新的能力，因為代幣只是用來激勵用戶為網絡做出貢獻。用戶可以用法幣獲得補償，而用加密貨幣激勵是一種更優解，可以提高系統的效率，但它並沒有引入新的能力。

圖 8 ： Flock.io 的示意圖以及堆棧的變化情況，其中顏色的變化意味着內部發生了變化

2.7.2 示例二：洛克菲勒機器人

洛克菲勒機器人是一個在鏈上運行的交易機器人。它使用人工智能來決定進行哪些交易，但由於人工智能模型本身並不在智能合約上運行，因此我們依賴於服務提供商為我們運行模型，然後告訴智能合約人工智能的決定，並向智能合約證明他們沒有說謊。如果智能合約不檢查服務提供商是否說謊，服務提供商就可能代表我們進行有害的交易。洛克菲勒機器人允許我們使用 ZK 證明向智能合約證明服務提供商沒有撒謊。在這裏，ZK 被用來改變人工智能堆棧。人工智能堆棧需要採用 ZK 技術，否則我們就無法使用 ZK 來證明模型對智能合約的決定。

由於採用了 ZK 技術，由此產生的人工智能模型輸出具有可驗證性，可以從區塊鏈上進行查詢，這意味着該人工智能模型在加密堆棧內部使用。在這種情況下，我們在智能合約中使用了人工智能模型，以公平的方式決定交易和價格。如果沒有人工智能，這是不可能實現的。

圖 9 ：洛克菲勒機器人和堆棧變化示意圖。顏色變化意味着堆棧（內部支持）發生了變化

3. 值得深究的問題

3.1 加密領域與深度僞造 (Deepfake) 啓示錄

1 月 23 日，一條人工智能生成的語音信息謊稱自己是拜登總統，勸阻民主黨人不要在 2024 年初選中投票。不到一周後，一名金融工作者因模仿其同事的深度僞造視頻通話，損失了 2500 萬美元。與此同時，在 X（前身為 Twitter）上，人工智能僞造的泰勒·斯威夫特（Taylor Swift）的露骨照片吸引了 4500 萬次瀏覽，引發了廣泛的憤怒。這些事件都發生在 2024 年的頭兩個月，它們只是深度僞造在政治、金融和社交媒體領域產生的各種破壞性影響的一個縮影。

3.1.1 它們是如何成為問題的？

僞造圖像並不是什么新鮮事。1917 年，The Strand 雜志上刊登了一些被設計成仙女模樣的精巧剪紙照片；許多人認為這些照片是超自然力量存在的有力證據。

圖 10 ：《科廷利仙子》照片之一。福爾摩斯的創作者阿瑟-柯南-道爾爵士曾將這些僞造圖片作為靈異現象的證據。

隨着時間的推移，造假變得越來越容易，成本也越來越低，從而大大提高了錯誤信息的傳播速度。例如，在 2004 年美國總統大選期間，一張經過篡改的照片虛假地顯示民主黨提名人約翰·克裏（John Kerry）與簡·方達（Jane Fonda）一起參加抗議活動，簡-方達是一位頗具爭議的美國活動家。科廷利仙子需要精心布置，用硬紙板剪出兒童讀物中的描摹圖畫，而這次僞造則是用 Photoshop 完成的簡單任務。

圖 11 ：這張照片表明約翰·克裏與簡·方達在反越战集會上同臺。後來發現這是一張僞造的照片，是用 Photoshop 將兩張現有的圖片合成的。

不過，由於我們學會了如何辨別編輯痕跡，假照片帶來的風險已經降低。在“ 遊客小哥 ”的案例中，業余愛好者能夠通過觀察場景中不同物體的白平衡不一致來識別圖片是否經過剪輯。這是公衆對虛假信息認識提高的產物；人們已經學會注意圖片編輯的痕跡。“Photoshoped”一詞已成為通用術語：圖像被篡改的跡象已得到普遍認可，照片證據不再被視為不可篡改的證據。

3.1.1.1 深度僞造讓造假更容易、更便宜、更逼真

過去，僞造證件很容易被肉眼識破，但深度僞造技術使制作幾乎與真實照片無異的圖像變得簡單而廉價。例如，OnlyFake 網站使用深度僞造技術在幾分鐘內生成逼真的假身份證照片，只需 15 美元。這些照片被用來繞過 OKX（一家加密貨幣交易所）的反欺詐保障措施，即所謂的“了解你的客戶"（KYC）。在 OKX 的案例中，這些深度僞造的 ID 騙過了他們的員工，而這些員工都受過識別篡改圖片和深度僞造的培訓。這凸顯出，即使是專業人士，也不再可能通過肉眼發現基於深度僞造的欺詐行為。

由於圖像被深度僞造，人們加強了對視頻證據的依賴，但深度僞造不久將嚴重破壞視頻證據（的可信度）。德克薩斯大學達拉斯分校的一名研究人員利用免費的深度僞造換臉工具，成功繞過了 KYC 提供商實施的身份驗證功能。這是一個巨大的進步——過去，要生成具有合格水平的視頻既昂貴又耗時。

2019 年，有人需要花費兩周時間和 552 美元，才能制作出一段 38 秒的馬克·扎克伯格深度僞造視頻，視頻中還會出現明顯的視覺缺陷。如今，我們可以在幾分鐘內免費制作出逼真的 deepfake 視頻。

圖 12 ：OnlyFake 面板可在幾分鐘內制作假身份證

3.1.1.2 視頻為何如此重要

在深度僞造技術出現之前，視頻曾是可靠的證據。與容易僞造的圖像不同，視頻在歷史上一直是難以僞造的，因此在法庭上被公認為是可靠的證據。這使得視頻深度僞造變得尤為危險。

與此同時，深度僞造的出現也可能導致對真實視頻的否定，美國總統拜登的一段視頻就被錯誤地稱為深度僞造。批評者以拜登眼睛一眨不眨和光线差異為證據，這些說法已被推翻。這就導致了一個問題——“深度僞造”不僅讓假的看起來像真的，也讓真的看起來像假的，進一步模糊了真實與虛構之間的界限，增加了問責的難度。

深度僞造實現了大規模定向廣告。我們可能很快就會看到另一個 YouTube，在這個版本中，所說的內容、所說的人以及所說的地點都是針對觀衆個性化定制的。一個早期的例子是 Zomato 的本地化廣告，廣告中演員赫裏希克·羅尚（Hrithik Roshan）在觀衆所在城市的熱門餐館點菜。Zomato 生成了不同的深度僞造廣告，根據觀衆不同的 GPS 位置生成廣告內容，介紹觀衆所在地的餐館。

3.1.2 目前的解決方案有什么不足

3.1.2.1 意識

現在的深度僞造技術已經非常先進，足以騙過訓練有素的專家。這使得黑客能夠繞過身份驗證（KYC/AML）程序，甚至人工審核。這表明，我們無法用眼睛將深度僞造與真實圖像區分开來。我們不能僅僅通過對圖像持懷疑態度來防範深度僞造：我們需要更多的工具來應對深度僞造的流行。

3.1.2.2 平臺

如果沒有強大的社會壓力，社交媒體平臺並不愿意有效抑制深度僞造。例如，Meta 禁止含有虛假音頻的度僞造視視頻，但拒絕禁止純捏造的視頻內容。他們違背了自己的監督委員會的建議，沒有刪除一段顯示拜登總統撫摸孫女的深度僞造視頻，即純屬捏造的內容。

3.1.2.3 政策

我們需要制定法律，有效應對新型深度僞造風險，同時又不限制問題較少的用途，如藝術或教育領域，因為這些用途並不試圖欺騙人們。泰勒·斯威夫特（Taylor Swift）深度僞造圖片未經同意而被傳播等事件，促使立法者通過更嚴格的法律來打擊此類深度僞造行為。針對此類案件，可能有必要在法律上強化在线審核程序，但禁止所有人工智能生成內容的提議引起了電影制作人和數字藝術家的警覺，他們擔心這會不公正地限制他們的工作。找到正確的平衡點是關鍵，否則那些合法的創意應用將被扼殺。

推動立法者提高訓練強大模型的准入門檻，大型科技公司可以確保其人工智能壟斷地位。這可能會導致權力不可逆轉地集中在少數公司手中——例如，涉及人工智能的第 14110 號行政命令就建議對擁有大量計算能力的公司提出嚴格要求。

圖 13 ：美國副總統卡馬拉·哈裏斯（Kamala Harris）在美國總統喬·拜登（Joe Biden）籤署美國首個人工智能行政命令時鼓掌

3.1.2.4 技術

直接在人工智能模型中建立防護欄以防止濫用是第一道防线，但這些防護欄不斷被破壞。人工智能模型很難審查，因為我們不知如何使用現有低級工具來修改更高維度的行為。此外，訓練人工智能模型的公司可以利用實施防護欄作為借口，在其模型中引入不良審查和偏見。這是有問題的，因為大型科技人工智能公司無需對公衆意愿負責——公司可以自由地影響其模型，而損害用戶的利益。

即使強大人工智能的創造權並未集中在不誠實的公司手中，要想建立一個既有防護措施又不偏不倚的人工智能可能仍然是不可能的。研究人員很難確定什么是濫用，因此很難以中立、平衡的方式處理用戶請求的同時防止濫用。如果我們無法定義濫用，似乎就有必要降低防範措施的嚴格程度，可能導致濫用再次發生。因此，完全禁止濫用人工智能模型是不可能的。

一種解決方案是在惡意深度僞造出現後立即對其進行檢測，而不是阻止其產生。但是，深度僞造檢測人工智能模型（如 OpenAI 部署的模型由於不准確，正在變得過時。雖然深度贗品檢測方法已經變得越來越復雜，但制造深度贗品的技術卻在以更快的速度變得越來越復雜——深度僞造檢測器在技術軍備競賽中敗下陣來。這使得僅憑媒體很難識別深度假新聞。人工智能已經足夠先進，可以制造出逼真到人工智能無法判斷其准確性的假鏡頭。

水印技術能夠在深層僞造品上隱蔽地打上標記，無論它們出現在哪裏，我們都能識別出來。但是，深度僞造品並不總是帶有水印，因為水印必須是刻意添加的。自愿將其僞造圖像標出而做出區分的公司（如 OpenAI），水印是一個有效的方法。但無論如何，水印都可以用簡單易用的工具去除或僞造，從而繞過任何基於水印的防深度僞造解決方案。水印也可能被意外刪除，大多數社交媒體平臺都會自動刪除水印。

最流行的深度僞造水印技術是 C 2 PA（由內容出處和真實性聯盟提出）。它旨在通過追蹤媒體來源並將此信息存儲在媒體元數據中來防止錯誤信息。該技術得到了 Microsoft、Google 和 Adobe 等公司的支持，因此 C 2 PA 很有可能會在整個內容供應鏈中推廣，它比起其他同類技術更加受歡迎。

遺憾的是，C 2 PA 也有自己的弱點。由於 C 2 PA 會存儲圖像的完整編輯歷史，並使用符合 C 2 PA 標准的編輯軟件中所控制的加密密鑰，對每次編輯進行驗證，因此我們必須信任這些編輯軟件。但是，人們很可能會因為有效的 C 2 PA 元數據而直接接受經過編輯的圖像，而不會考慮是否信任編輯鏈中的每一方。因此，如果任何編輯軟件遭到破壞或能夠進行惡意編輯，就有可能讓其他人相信僞造或惡意編輯的圖像是真實的。

圖 14 ：包含一連串編輯的符合 C 2 PA 標准元數據的圖像示例。每個編輯都由不同的可信方籤名，但只有最終編輯的圖像是公开的。資料來源：真實照片與人工智能生成的藝術：新標准（C 2 PA）利用 PKI 顯示圖像的歷史

此外，C 2 PA 水印中包含的加密籤名和元數據可以與特定用戶或設備聯系起來。在某些情況下，C 2 PA 元數據可以將您的相機拍攝的所有圖像相互連接起來：如果我們知道某張圖像來自某人的相機，我們就可以識別來自該相機的所有其他圖像。這可幫助舉報人在發布照片時匿名化處理。

所有潛在的解決方案都將面臨一系列獨特的挑战。盡管這些挑战千差萬別——包括社會意識的局限性、大型科技公司的缺陷、監管政策的實施難度以及我們的技術局限性。

3.1.3 加密領域能解決這個問題嗎？

开源的深度僞造模型已經开始流傳。因此，有人可能會說，總有一些方法可以利用深度僞造來濫用他人的肖像；即使這種做法被定為犯罪，有人還是會選擇生成不道德的深度僞造內容。不過，我們可以讓惡意深度僞造內容退出主流來解決這一問題。我們可以防止人們認為深度僞造的圖片是真實的，且能夠創建限制深度僞造內容的平臺。本節將介紹各種基於加密技術的解決方案，以解決惡意深度僞造傳播帶來的誤導問題，同時強調每種方法的局限性。

3.1.3.1 硬件認證

經過硬件認證的相機在拍攝每張照片時都會嵌入一個獨特的證明，證明照片是由該相機拍攝的。該證明由相機獨有的不可復制、防篡改芯片生成，確保圖像的真實性。音頻和視頻也可以使用類似的程序。

認證證明告訴我們，圖像是由真實相機拍攝的，這意味着我們通常可以相信這是真實物體的照片。我們可以標記沒有這種證明的圖像。但如果相機拍攝的是僞造場景，而僞造場景的設計看起來就像真實場景，那么這種方法就失效了——你可以直接將相機對准一張僞造的圖片。目前，我們可以通過檢查捕捉到的圖像是否失真來判斷照片是否從數字屏幕上拍攝的，但騙子們會找到隱藏這些瑕疵的方法（例如，通過使用更好的屏幕，或通過限制鏡頭眩光）。最終，即使是人工智能工具也無法識別這種欺詐行為，因為騙子可以找到避免所有這些失真的方法。

硬件認證將減少信任僞造圖像的情況，但少數情況下，我們仍然需要額外的工具來防止深度僞造圖像在攝像頭被入侵或濫用情況下傳播。正如我們之前所討論的，使用經過硬件驗證的攝像頭仍有可能造成深度僞造內容是真實圖像的錯誤印象，原因比如攝像頭被黑客攻擊，或相機被用來拍攝電腦屏幕上深度僞造的場景。要解決這個問題，還需要其他工具，比如攝像頭黑名單。

相機黑名單將使社交媒體平臺和應用程序能夠標記來自特定相機的圖像，因為已知該相機過去曾生成過誤導性圖像。黑名單可以無需公开披露可用於追溯相機的信息，如相機 ID 等。

然而，目前還不清楚由誰來維護攝像機黑名單，也不清楚如何防止人們收受賄賂後把舉報人的相機也加入黑名單（的報復行為）。

3.1.3.2 基於區塊鏈的圖像年表

區塊鏈是不可篡改的，因此在互聯網上出現圖像時，將圖像與附加元數據一起添加到帶有時間戳的年表中，這樣時間戳和元數據就不會被篡改。由於未經編輯的原始圖片在惡意編輯擴散之前，就能被誠實的各方以不可更改的方式存儲在區塊鏈上，因此訪問這樣的記錄將使我們能夠識別惡意編輯並驗證原始來源。這項技術已在 Polygon 區塊鏈網絡上實施，作為與福克斯新聞合作开發的事實核查工具 Verify 的一部分。

圖 15 ：Fox 基於區塊鏈的工具 Verify 的用戶界面。可以通過 URL 查找藝術品。從 Polygon 區塊鏈獲取並顯示來源、交易哈希值、籤名、時間戳和其他元數據

3.1.3.3 數字身份

如果深度僞造會破壞我們對未經核實的圖片和視頻的信任，那么可信來源可能會成為避免虛假信息的唯一途徑。我們已經依賴可信的媒體來源來核實信息，因為它們採用新聞標准、事實核查程序和編輯監督來確保信息的准確性和可信度。

然而，我們需要一種方法來驗證我們在網上看到的內容是否來自我們信任的來源。這就是加密籤名數據的用處：它可以用數學方法證明某個內容的作者。

籤名是使用數字密鑰生成的，由於密鑰是由錢包創建和生成的，因此只有擁有相關加密錢包的人才知道。這樣，我們就能知道誰是數據的作者——只需檢查籤名是否與個人加密錢包中專屬於自己的密鑰相對應即可。

我們可以利用加密貨幣錢包，以無縫和用戶友好的方式將籤名附加到我們的帖子上。如果使用加密貨幣錢包登錄社交媒體平臺，就可以利用錢包在社交媒體上創建和驗證籤名的功能。因此，如果某個帖子的來源不可信，平臺將能夠向我們發出警告——它將使用自動籤名校驗來標記錯誤信息。

此外，與錢包連接的 zk-KYC 基礎設施可以在不損害用戶隱私和匿名性的情況下，將未知錢包與通過 KYC 流程驗證的身份綁定在一起。然而，隨着深度僞造變得越來越復雜，KYC 流程可能會被繞過，從而允許惡意行為者創建虛假的匿名身份。這個問題可以通過 Worldcoin 的個人身份證明"（PoP）等解決方案來解決。

個人身份證明是 WorldCoin 用來驗證其錢包是否屬於真人的機制，並且只允許一人一個錢包。為此，它使用生物識別（虹膜）成像設備 Orb 來驗證錢包。由於生物識別數據尚無法僞造，因此要求社交媒體账戶與唯一的 WorldCoin 錢包相鏈接是一種可行的方法，可以防止不良行為者制作多個匿名身份來掩蓋其不道德的網絡行為——至少在黑客找到欺騙生物識別設備的方法之前，它可以解決深度僞造 KYC 問題。

3.1.3.4 經濟激勵措施

作者可因錯誤信息而受到懲罰，用戶可因識別錯誤信息而獲得獎勵。例如，"真實性債券"（Veracity Bonds）使媒體機構能夠以其出版物的准確性作為賭注，因錯誤信息而面臨經濟處罰。這就為這些媒體公司提供了一個經濟上的理由來保證信息的真實性。

真實性債券將是"真相市場"不可分割的一部分，在這個市場上，不同的系統通過最高效、最穩健的方式驗證內容的真實性來爭奪用戶的信任。這類似於證明市場，如 Succinct Network 和 =nil Proof Market ，但針對的是更棘手的真實性驗證問題。

這僅靠密碼學是不夠的。智能合約（Smart Contracts）可以作為一種手段，強制實施使這些“真相市場”發揮作用所需的經濟激勵措施，因此區塊鏈技術可能會在幫助打擊虛假信息方面發揮核心作用。

3.1.3.5 聲譽評分

我們可以用聲譽來代表可信度。例如，我們可以看一個人在推特上有多少粉絲，來判斷是否應該相信他所說的話。不過，聲譽系統應考慮每個作者的過往記錄，而不僅僅是他們的知名度。我們不希望將可信度與受歡迎程度混為一談。

我們不能允許人們無限量地生成匿名身份，否則，他們就可以在名譽受損時拋棄自己的身份，以重置他們的社會可信度。這就要求我們使用無法復制的數字身份，如上一節所述。

我們還可以利用"真相市場"和"硬件認證"中的證據來確定一個人的聲譽，因為這些都是跟蹤其真實記錄的可靠方法。聲譽系統是迄今為止所討論的所有其他解決方案的集大成者，因此也是最強大、最全面的方法系列。

圖 16 ：馬斯克在 2018 年暗示創立網站，對期刊論文、編輯和出版物將進行可信度評分

3.1.4 加密解決方案是否可擴展？

上述區塊鏈解決方案需要快速和高存儲量的區塊鏈——否則，我們就無法將所有圖像納入鏈上可驗證的時間記錄中。隨着每天發布的在线數據量呈指數級增長，這一點只會變得越來越重要。不過，有一些算法可以以仍然可以驗證的方式壓縮數據。

此外，通過硬件認證生成的籤名不適用於圖像的編輯版本：必須使用 zk-SNARKs 生成編輯證明。 ZK Microphone 是針對音頻的編輯證明實現。4

3.1.5 深度僞造並非本質上就是壞事

必須承認，並非所有的深度僞造都是有害的。這項技術也有無辜的用途，比如這段人工智能生成的泰勒·斯威夫特（Taylor Swift）教授數學的視頻。由於深度僞造的低成本和可訪問性，創造了個性化的體驗。例如， HeyGen 允許用戶發送帶有人工智能生成的酷似自己的臉的個人信息。深度仿真還通過配音翻譯縮小語言差距。

3.1.5.1 控制深度僞造並將其貨幣化的方法

基於深度僞造技術的人工智能“仿真人”服務(AI counterpart services)，他們收取高額費用，缺乏問責制和監督。OnlyFans 上的頭號網紅 Amouranth 發布了自己的數字人，粉絲們可以私下與她交談。這些初創公司可以限制甚至關閉訪問權限，例如名為 Soulmate 的人工智能伴侶服務。

通過在鏈上托管人工智能模型，我們可以使用智能合約以透明的方式為模型提供資金並對其進行控制。這將確保用戶永遠不會失去對模型的訪問權，並能幫助模型創建者在貢獻者和投資者之間分配利潤。不過，這也存在技術挑战。實現鏈上模型的最流行技術 zkML（Giza、Modulus Labs 和 EZKL 使用）會使模型運行速度慢 1000 倍。盡管如此，該子領域的研究仍在繼續，技術也在不斷改進。例如， HyperOracle 正在嘗試使用 opML ， Aizel 正在構建基於多方計算（MPC）和可信執行環境（TEE）的解決方案。

3.1.6 章節摘要

復雜的深度僞造正在侵蝕政治、金融和社交媒體領域的信任，凸顯了建立"可驗證網絡 "以維護真相和民主誠信的必要性。
深度僞造曾經是一項昂貴且技術密集型的工作，但隨着人工智能的進步，它已變得很容易制作，從而改變了虛假信息的格局。

4 如果您對此問題感興趣，請聯系阿爾比恩。

歷史告訴我們，操縱媒體並不是新的挑战，但人工智能使制造令人信服的假新聞變得更加容易和便宜，因此需要新的解決方案。
視頻造假帶來了獨特的危險，因為它們損害了以往被認為可靠的證據，導致社會陷入一種困境，即真實行為可能被當作假的。
現有對策分為意識、平臺、政策和技術方法，每種方法在有效打擊深度僞造方面都面臨挑战。
硬件證明和區塊鏈證明了每張圖片的來源，並創建了透明、不可更改的編輯記錄，從而提供了前景廣闊的解決方案。
加密貨幣錢包和 zk-KYC 加強了在线內容的驗證和認證，而鏈上信譽系統和經濟激勵措施（如 "真實性債券"）則為真相提供了一個市場。
在承認深度僞造的積極用途的同時，加密技術還提出了一種將有益的深度僞造列入白名單的方法，從而在創新與誠信之間取得平衡。

3.2 苦澀的一課

這句話有悖常理，但卻是事實。人工智能界拒絕接受定制方法效果不佳的說法，但"苦澀的教訓"仍然適用：使用最強的計算能力總能產生最好的結果。

我們必須擴大規模：更多 GPU、更多數據中心、更多訓練數據。

計算機國際象棋研究人員曾試圖利用人類頂尖棋手的經驗來構建國際象棋引擎，這就是研究人員弄錯了的一個例子。最初的國際象棋程序都是照搬人類的开局策略（使用"开局書"）。研究人員希望國際象棋引擎能從強勢局面开始，而無需從頭开始計算最佳棋步。它們還包含許多"战術啓發法"——人類棋手使用的战術，如叉子。簡單地說：國際象棋程序是根據人類對如何成功下棋的見解而不是一般的計算方法構建的。

圖 18 ：叉子——皇後攻擊兩個棋子

圖 19 ：國際象棋开局順序示例

1997 年，IBM 的 DeepBlue 結合了巨大的計算能力和基於搜索的技術，擊敗了國際象棋世界冠軍。盡管 DeepBlue 優於所有"人類設計"的國際象棋引擎，但國際象棋研究人員對其避而遠之。他們認為，DeepBlue 的成功只是曇花一現，因為它並沒有採用國際象棋策略——在他們看來，這是一種粗暴的解決方案。他們錯了：從長遠來看，將大量計算應用於一般問題的解決方法往往會比定制方法產生更好的結果。這種高計算意識形態

催生了成功的圍棋引擎（AlphaGo）、改進的語音識別技術，以及更可靠的計算機視覺技術。

高計算人工智能方法的最新成果是 OpenAI 的 ChatGPT。與之前的嘗試不同，OpenAI 並沒有試圖將人類對語言工作原理的理解編碼到軟件中。相反，他們的模型將來自互聯網的大量數據與海量計算結合起來。與其他研究人員不同的是，他們沒有幹預，也沒有在軟件中嵌入任何偏見。從長遠來看，性能最好的方法總是基於利用大量計算的通用方法。這是歷史事實；事實上，我們可能有足夠的證據證明這一點永遠正確。

從長遠來看，將巨大的計算能力與大量數據相結合是最好的方法，其原因在於摩爾定律：隨着時間的推移，計算成本將呈指數級下降。在短期內，我們可能無法確定計算帶寬的大幅增長，這可能導致研究人員試圖通過手動將人類知識和算法嵌入軟件來改進他們的技術。這種方法可能會在一段時間內奏效，但從長遠來看不會取得成功：將人類知識嵌入底層軟件會使軟件變得更加復雜，模型也無法根據額外的計算能力進行改進。這使得人工方法變得目光短淺，因此薩頓建議我們忽略人工技術，將重點放在將更多計算能力應用於通用計算技術上。

《苦澀的一課》對我們應該如何構建去中心化的人工智能有着巨大的影響：

構建大型網絡：上述經驗教訓凸顯了开發大型人工智能模型並匯集大量計算資源對其進行訓練的緊迫性。這些都是進入人工智能新領域的關鍵步驟。 Akash 、 GPUNet 和 IoNet 等公司旨在提供可擴展的基礎設施。

圖 20 ：Akash 價格與亞馬遜 AWS 等其他供應商的比較

硬件創新：ZKML 方法一直受到批評，因為它們的運行速度比非 ZKML 方法慢 1000 倍。這與神經網絡面臨的批評不謀而合。20 世紀 90 年代，神經網絡展現出了巨大的前景。Yann LeCun 的 CNN 模型是一個小型神經網絡，能夠對手寫數字圖像進行分類（見下圖），並取得了成功。到 1998 年，美國有超過 10% 的銀行使用這種技術讀取支票。然而，這些 CNN 模型無法擴展，因此人們對這些神經網絡的興趣急劇下降，計算機視覺研究人員又开始利用人類知識來創建更好的系統。2012 年，研究人員利用 GPU（一種通常用於生成計算機圖形（遊戲、CGI 等的流行硬件）的計算效率，开發出一種新的 CNN。這讓他們達到了令人難以置信的性能，超過了當時所有其他可用的方法。這個網絡被稱為 AlexNet，它引發了深度學習革命。

圖 22 ： 90 年代的神經網絡只能處理低分辨率的數字圖像。

圖 23 ：AlexNet ( 2012) 能夠處理復雜的圖像並超越了所有替代方法

人工智能技術的升級是必然的，因為計算成本總是越來越低。用於 ZK 和 FHE 等技術的定制硬件將加速進展—— Ingonyama 等公司和學術界正在鋪平道路。從長遠來看，我們將通過應用更強的計算能力和提高效率來實現大規模的 ZKML。唯一的問題是，我們將如何利用這些技術？

圖 24 ：ZK 證明器硬件進步的一個例子 (資料來源）

擴展數據：隨着人工智能模型規模和復雜性的增長，有必要相應地擴展數據集。一般來說，數據集的規模應與模型規模成指數增長，以防止過度擬合並確保性能穩定。對於一個擁有數十億參數的模型來說，這往往意味着要策劃包含數十億 token 或示例的數據集。例如，谷歌的 BERT 模型是在包含超過 25 億個單詞的整個英文維基百科和包含約 8 億個單詞的 BooksCorpus 上進行訓練的。而 Meta 的 LLama 則是在 1.4 萬億個詞庫的基礎上進行訓練的。這些數字強調了我們所需的數據集的規模——隨着模型向萬億個參數發展，數據集必須進一步擴大。這種擴展可以確保模型能夠捕捉到人類語言的細微差別和多樣性，因此开發龐大、高質量的數據集與模型本身的架構創新同樣重要。Giza、Bittensor、Bagel 和 FractionAI 等公司正在滿足這一領域的特殊需求（有關數據領域的挑战，如模型崩潰、對抗性攻擊和質量保證方面的挑战，詳見第 5 章）。

开發通用方法：在去中心化人工智能領域，ZKPs 和 FHE 等技術採用針對具體應用的方法是為了追求立竿見影的效率。為特定架構量身定制解決方案可提高性能，但可能會犧牲長期靈活性和可擴展性，從而限制更廣泛的系統演進。相反，專注於通用方法提供了一個基礎，盡管最初會有效率低下的問題，但具有可擴展性，能夠適應各種應用和未來的發展。在摩爾定律等趨勢的推動下，隨着計算能力的增長和成本的降低，這些方法必將大放異彩。在短期效率和長期適應性之間做出選擇至關重要。強調通用方法可以為去中心化人工智能的未來做好准備，使其成為一個穩健、靈活的系統，充分利用計算技術的進步，確保持久的成功和相關性。

3.2.1 結論

在產品开發的早期階段，選擇不受規模限制的方法可能至關重要。這對公司和研究人員評估用例和想法都很重要。然而，慘痛的教訓告訴我們，從長遠來看，我們應該始終牢記優先選擇通用的可擴展方法。

這裏有一個手動方法被自動、通用微分所取代的例子：在使用 TensorFlow 和 PyTorch 等自動微分（autodiff）庫之前，梯度通常是通過手動或數值微分來計算的——這種方法效率低、容易出錯，而且會產生問題，浪費研究人員的時間，而自動微分則不同。現在 Autodiff 已成為不可或缺的工具，因為 autodiff 庫加快了實驗速度，簡化了模型开發。因此，通用解決方案獲勝了——但在 autodiff 成為成熟可用的解決方案之前，舊的手動方法是進行 ML 研究的必要條件。

總之，裏奇·薩頓的"苦澀的一課"告訴我們，如果我們能最大限度地提高人工智能的計算能力，而不是試圖讓人工智能去模仿人類所熟知的方法，那么人工智能的進步將會更快。我們必須擴展現有計算能力、擴展數據、創新硬件並开發通用方法——採用這種方法將對去中心化人工智能領域產生諸多影響。盡管"苦澀的一課"不適用於研究的最初階段，但從長遠來看，它可能永遠都是正確的。

3.3 AI Agents（人工智能代理）將顛覆谷歌和亞馬遜

3.3.1 谷歌的壟斷問題

在线內容創作者通常依賴谷歌來發布他們的內容。反過來，如果允許谷歌索引和展示他們的作品，他們就能獲得源源不斷的關注和廣告收入。然而，這種關系是不平衡的；谷歌擁有壟斷地位（超過 80% 的搜索引擎流量），其市場份額是內容創作者自身無法企及的。因此，內容創作者的收入嚴重依賴於谷歌和其他科技巨頭。谷歌的一個決定就有可能導致個人業務的終結。

谷歌推出的精選片段（Featured Snippets）功能——顯示用戶查詢的答案，而無需點擊進入原始網站——突出了這一問題，因為現在無需離开搜索引擎就能獲得信息。這打亂了內容創建者賴以生存的規則。作為被谷歌索引其內容的交換條件，內容創建者希望自己的網站能獲得推薦流量和眼球。取而代之的是，精選片段（Featured Snippets）功能允許谷歌總結內容，同時將創作者排除在流量之外。內容生產者的分散性使他們基本無力採取集體行動反對谷歌的決定；由於沒有統一的聲音，單個網站缺乏討價還價的能力。

圖 25 ：精選片段（Featured Snippets）功能示例

谷歌通過提供用戶查詢答案的來源列表進行了進一步試驗。下面的示例包含《紐約時報》、維基百科、MLB.com 等網站的來源。由於谷歌直接提供了答案，這些網站不會獲得那么多流量。

圖 26 ："來自網絡 "功能示例

3.3.2 OpenAI 的壟斷問題

谷歌推出的“精選片段”功能代表了一種令人擔憂的趨勢——減少原創內容創作者的認可。ChatGPT 將這一概念進行了邏輯上的延伸，充當了一個無所不知的信息代理，沒有任何鏈接，也沒有對原始材料的引用。

像 ChatGPT 這樣的語言模型可以通過總結從互聯網上搜羅的內容來回答幾乎任何問題，但它無法引導用戶訪問原始出版者。相反，該模型將從版權作品中獲得的知識積累到一個完全由 OpenAI 控制的單一界面中。

這些模型的成功依賴於構成互聯網的海量數據，而內容創作者對模型訓練的重要投入卻得不到任何回報。一些規模較大的出版商設法與 OpenAI 等公司達成協議，但對於規模較小的內容創作者來說，這樣的做法是不可行的。還有一些出版商決定幹脆阻止人工智能模型搜索他們的內容，但對於閉源模型來說，這一點無法得到保證。

人工智能公司試圖為自己的不賠償行為辯解，稱人工智能系統只是從內容中學習——就像人類從閱讀中了解世界一樣——但在產出內容時並沒有侵犯內容創作者。不過，這種說法值得商榷，因為 ChatGPT 可以逐字逐句地復制《紐約時報》的整篇文章。Midjourney 和 DALL-E 也能生成受版權保護的內容。

其影響顯而易見——大科技公司繼續鞏固權力，而無足輕重的內容創作者的影響力卻在減弱。這種不對稱的關系引發了對谷歌的訴訟，而這種關系只會變得更加極端。老牌出版商，如紐約時報已經採取了法律行動，從數字藝術家到編碼員等一系列內容創作者也採取了集體訴訟。

一種建議的解決方案是"檢索增強生成"（RAG），它允許語言模型為其答案提供來源。然而，這與”精選片段“存在同樣的問題——它根本沒有給用戶任何訪問原始網站的理由。更糟糕的是，科技巨頭們可以虛僞地利用 RAG 作為法律掩護，但同時仍剝奪了創作者的流量和廣告收入。

圖 27 ：RAG 將鏈接作為來源。此結果由 Per-plexity AI 生成

3.3.3 加密領域的潛在解決方案

隨着像 ChatGPT 這樣的"信息代理"的出現，大科技公司似乎准備重蹈覆轍，壟斷人工智能的生成，盡管它們依賴的是未經認可的創作者內容。但是，現在人工智能正在擾亂市場，我們有機會重新分配權力，建立一個更公平的系統來補償創作者。本世紀初，政策制定者錯失了建立公平模式的機會，導致了今天的分配系統——一個由谷歌壟斷的系統。當前人工智能的崛起是一個十字路口，我們是要糾正過去的錯誤，還是要讓歷史重演，讓 OpenAI 和其他科技巨頭獲得單方面的控制權？

為了長期激勵優質內容的生產，我們必須探索繼續為創作者提供公平報酬的方法。正如克裏斯-迪克森（Chris Dixon ）所言，加密貨幣通過區塊鏈提供了一種解決方案，即充當集體談判機器，解決類似的大規模經濟協調問題，尤其是在當前權力不對稱的情況下。它們的治理可以由創作者和人工智能提供商共同管理。

在人工智能方面，創造者可以利用區塊鏈的能力來編寫由軟件強制執行的使用條款和規定相關限制。例如，通過設定模型訓練等商業應用的條件。然後，智能合約將自動執行歸屬系統，將人工智能系統產生的部分收入分配給貢獻者。（在沒有只能合約的情況下）即使目前的人工智能公司想要補償創作者，但是由於人數太多也不太可行。

區塊鏈的可組合性還將減少對任何單一模式的依賴，從而實現更自由的人工智能市場。這種競爭將為創作者帶來更友好的利潤分享。面對由公正協議執行的統一條款，人工智能公司要么接受創作者制定的集體協議，要么只能放棄；科技巨頭再也不能對個人施加單方面的影響力。

對 ChatGPT 等信息代理的集中控制也引發了對嵌入式廣告等問題的擔憂。雖然谷歌在搜索結果的頂部對廣告進行了明確劃分，但 AI agents 可以將付費推薦無縫整合到回復中。相比之下，基於加密領域的解決方案允許對 AI agents 進行審計。

3.3.4 人工智能代理（AI Agents）與亞馬遜

從像 ChatGPT 這樣回答語言模型自然延伸出來的是可以代表用戶採取行動的人工智能程序，即從信息代理到行動代理（簡稱"代理"）的轉變。這些系統不僅能為你找到最好的藍牙音箱，還能直接訂購送貨到家。依靠 OpenAI 等公司的閉源代理來完成這些任務，將賦予它們超越內容創作市場的巨大力量，有可能讓它們主導 6.3 萬億美元的電子商務市場等行業。OpenAI 不僅會成為下一個谷歌，也會成為下一個亞馬遜。

如果少數幾家大型科技公司擁有功能最強大、應用最廣泛的人工智能代理，那么它們將對消費者和各行各業產生巨大的影響力。這些代理將對我們越來越廣泛的數字生活——購物、旅行和理財——起到中介作用。如果沒有人工智能代理