Vitalik長文：「d/acc」理念下的人工智能與區塊鏈交匯

2023-11-28 06:11:08

原文標題：《My techno-optimism》

原文作者：vitalik

原文編譯：Luccy，BlockBeats

編者按：科技進步對未來會產生什么樣的影響已是老生常談。上個月， Marc Andreessen 發表的「技術樂觀主義宣言」明確反對害怕技術進步的狀態，加之本月 OpenAI 引發爭端，該話題又再次引發熱議。
Vitalik Buterin 反對「優先考慮保持世界現如今狀態」的心態，同時指出，科技發展不僅需要注重力度，也要注重方向。他在最新的文章中深刻探討了人工智能和區塊鏈的交匯點，並提出了「d/acc」（decentralized acceleration）的概念。他認為，隨着技術的加速發展，人工智能的出現可能成為人類面臨的最大挑战之一，但也提出了一種更加人性化、去中心化的發展道路。

文章涉及的主題涵蓋了信息防御、社會技術、人機合作等多個層面，突顯了對技術發展方向進行積極引導的重要性。在不同的哲學背景下，Vitalik 推崇一種既積極又慎重的態度，呼籲开發者在構建技術的同時更注重選擇和意圖，以確保科技的發展符合人類的價值觀和長遠利益。

特別感謝 Morgan Beller 、 Juan Benet 、Eli Dourado、 Sriram Krishnan 、Nate Soares、Jaan Tallinn、Vincent Weisser、Balvi 志愿者等人提供的反饋和審閱。

上個月，Marc Andreessen 發表了他的「技術樂觀主義 (techno-optimist) 宣言」，呼籲重新對技術保持熱情，同時主張通過市場和資本主義的手段來構建技術，推動人類走向更加光明的未來。該宣言明確反對所謂的停滯思想，即害怕技術進步，並優先考慮保持今天世界的狀態。這份宣言受到了廣泛關注，包括 Noah Smith、Robin Hanson、Joshua Gans（持積極態度）、 Dave Karpf、Luca Ropek、Ezra Klein（更消極態度）等人的回應文章，以及許多其他人。雖然與該宣言無直接關系，但類似的主題還有 James Pethokoukis 的「保守主義未來派」和 Palladium 的「是時候為善建設了」。本月，通過 OpenAI 爭端，我們看到了類似的辯論，許多討論集中在超級智能人工智能的危險和 OpenAI 可能進展過快的可能性上。

我對技術樂觀主義的感覺是溫暖而充滿細膩的差異。我相信未來會因為徹底變革的技術而變得比現在更加光明，我同時也相信人類和人性。我反對那種認為我們應該努力保持世界基本與今天相同，只是減少貪婪，增加公共醫療的心態。然而，我認為不僅程度重要，方向也至關重要。有某些類型的技術更能可靠地使世界變得更好，而有些技術類型如果得到發展，可能會減輕其他技術類型的負面影響。世界在某些技術發展方向上過度投入，而在其他方向上則不足。我們需要有意識地選擇我們想要的方向，因為「最大化利潤」的公式不會自動導向這些方向。

在這篇文章中，我將探討技術樂觀主義對我的意義。這包括激發我在某些類型的區塊鏈和密碼學應用、社會技術以及我表達了興趣的其他科學領域上的工作的更廣泛的世界觀。但對於這個更廣泛的問題的不同看法也對人工智能以及許多其他領域有着重要的影響。我們在技術上的快速進步很可能會成為 21 世紀最重要的社會問題，因此認真思考它們是很重要的。

科技真是令人驚嘆，而推遲其發展可能會付出極高的代價

在某些領域，人們普遍低估科技的益處，將其主要視為烏托邦和潛在風險的源頭。過去半個世紀，這種看法往往源於環境問題，或者擔心科技的好處只會流向富人，從而鞏固他們對窮人的權力。最近，我還注意到一些自由主義者對某些技術感到擔憂，擔心這些技術會導致權力的集中。本月，我進行了一些調查，問了以下問題：如果某項技術因為太危險而需要受到限制，他們更希望它被壟斷還是推遲十年？令我驚訝的是，在三個平臺和三個關於壟斷者身份的選項中，人們一致而強烈地選擇了推遲。

因此，我有時擔心我們可能已經過度糾正，很多人忽略了辯論的另一方面：科技的好處確實巨大，在我們能夠衡量的領域中，正面效應遠遠超過負面效應，而即使是推遲十年的成本也是難以估量的。

舉一個具體的例子，讓我們來看一張壽命預期圖：

我們看到了什么？在過去的一個世紀裏，取得了真正巨大的進步。這一點適用於整個世界，無論是歷史上富有和主導的地區，還是貧窮和被剝削的地區。

有些人將科技歸咎於創造或加劇災難，比如極權主義和战爭。實際上，我們可以從圖表上看到战爭造成的死亡：一战時期（1910 年代）和二战時期（1940 年代）。仔細觀察，還可以看到西班牙流感、大躍進等非軍事災難。但圖表清楚地表明了一件事：即使像那些令人恐懼的災難一樣，它們都被那個世紀裏在食物、衛生、醫學和基礎設施方面取得的不斷改進的巨大規模所淹沒。

這與我們日常生活的顯著改善相一致。多虧了互聯網，全球大多數人現在能夠輕松獲取二十年前難以獲得的信息。由於國際支付和金融的改進，全球經濟變得更加可訪問。全球貧困正在迅速減少。借助在线地圖，我們再也不必擔心在城市中迷路，而且如果需要迅速回家，我們現在有更簡便的方式叫車。我們的財產變得數字化，實物變得更加廉價，這意味着我們不再過於擔憂物理盜竊。在线購物已經減少了全球大城市與世界其他地區之間對商品獲取的不平等。在各個方面，自動化為我們帶來了那種被永遠低估的好處，即簡單地讓我們的生活更加便利。

這些改進，無論是可以量化的還是不可量化的，都是巨大的。而在 21 世紀，更大的改進有很大的可能很快就會到來。今天，終結衰老和疾病似乎還是烏托邦的概念。但從 1945 年計算機的角度來看，將芯片幾乎嵌入一切的現代時代也曾經是烏托邦的：即便是科幻電影中的計算機通常也是房間大小的。如果生物技術在未來 75 年內的進展如同計算機在過去 75 年內的進展一樣巨大，那么未來可能會比幾乎任何人的期望都更為令人印象深刻。

與此同時，一些對進步表示懷疑的論調往往走向了黑暗的方向。甚至連醫學教科書，比如這本在上世紀 90 年代的書（感謝 Emma Szewczak 找到），有時也提出一些極端的主張，否認了兩個世紀醫學科學的價值，甚至辯稱挽救人類生命並不是一件好事：

「增長的極限」論是在 1970 年代提出的一個觀點，認為不斷增長的人口和工業最終會耗盡地球有限的資源，結果導致了中國的獨生子女政策和印度大規模的強制絕育。在早期，對人口過剩的擔憂曾被用來為大規模屠殺辯護。而這些自 1798 年以來一直被提出的觀點在很長一段時間裏都被證明是錯誤的。

正是因為這些原因，作為一個起點，我對減緩技術或人類進步的論點感到非常不安。考慮到各個領域之間的緊密聯系，即使是領域性的減速也是危險的。因此，當我寫下像我將在這篇文章後面說的那些東西時，遠離了對進步無論形式如何都持开放態度的立場，這是我懷着沉重的心情發表的言論 - 然而， 21 世紀是如此不同和獨特，以至於這些細微之處是值得考慮的。

話雖如此，就更廣泛的問題而言，特別是當我們超越「技術整體上是好的」並轉向「哪些具體技術是好的？」這個話題時，有一個重要的細微差別需要指出：環境。

環境和協調意愿的重要性

過去一百年裏，幾乎所有方面都在取得進步，唯一的例外是氣候變化：

即使對於正在上升的溫度的悲觀情景，也遠遠不會導致人類的實際滅絕。但這樣的情景可能導致的死亡人數可能比重大战爭更多，並可能嚴重損害那些已經最為困擾的地區的人們的健康和生計。瑞士再保險研究所的一項研究表明，最糟糕的氣候變化情景可能會使世界上最貧困國家的國內生產總值下降高達 25% 。這項研究還指出，印度農村的預期壽命可能會比原本的預期低十年，而類似這項研究和這項研究表明，氣候變化可能導致本世紀末多出一億的死亡人數。

這些問題是非常嚴重的。我為什么對我們克服這些挑战的能力感到樂觀的答案有兩方面。首先，在經過幾十年的誇大和一廂情愿的思考之後，太陽能終於迎來了轉機，而像電池這樣的支持技術也在取得類似的進展。其次，我們可以看一下人類在解決先前的環境問題方面的記錄。以空氣污染為例。見過去的反烏托邦： 1952 年倫敦的倫敦大霧。

自那時以來發生了什么？我們再次向 Our World In Data 詢問：

事實證明， 1952 年甚至不是空氣污染的高峯：在 19 世紀晚期，甚至存在更高濃度的空氣污染物，這被認為是正常和可接受的。從那時以來，我們見證了一個世紀的持續而迅速的下降。我親身經歷了這個過程， 2014 年訪問中國時，空氣中高濃度的煙霧，估計將壽命縮短五年以上，是正常的，但到了 2020 年，空氣往往看起來和許多西方城市一樣清潔。這並不是我們唯一的成功故事。在世界許多地方，森林面積正在增加。酸雨危機正在改善。臭氧層幾十年來一直在恢復。

對我來說，這個故事告訴我們的是，通常情況下，我們文明技術的第 N 版確實會引起問題，而第 N+ 1 版會解決它。然而，這並不是自動發生的，需要有意識的人類努力。臭氧層正在恢復，是因為通過國際協議如蒙特利爾議定書，我們使其恢復。空氣污染正在改善，是因為我們使其改善。同樣，太陽能電池板之所以取得了巨大的進步，並不是因為這是能源技術樹上注定的一部分；太陽能電池板之所以取得了巨大的進步，是因為幾十年來對解決氣候變化的重要性的認識激發了工程師致力於解決這個問題，並且公司和政府資助了他們的研究。解決這些問題是有意識的行動，通過公共討論和文化塑造政府、科學家、慈善家和企業的觀點，而不是不可阻擋的「技術資本機器」所取得的。

人工智能與其他技術有根本的不同，需要特別小心

我看到的許多對人工智能的不屑一顧觀點來自這樣的角度，即它只是「又一種技術」：與社交媒體、加密、避孕、電話、飛機、槍支、印刷術和輪子等相同類型的事物。這些事物顯然在社會上具有重大影響。它們不僅僅是對個體幸福的孤立改善：它們從根本上改變了文化，改變了權力平衡，並傷害了那些嚴重依賴先前秩序的人們。許多人反對它們。總的來說，悲觀主義者無一例外地被證明是錯誤的。

但是有一種不同的看待人工智能的方式：它是一種正在迅速提高智力水平的新型思維，它有嚴重的機會超越人類的智力能力，並成為地球上的新型頂級物種。在那個類別中的事物要少得多：我們可能合理地包括人類超越猴子、多細胞生物超越單細胞生物、生命本身的起源，也許還有工業革命，在這個過程中機械設備在體力上超過了人類。突然之間，感覺就像我們正走在遠不那么熟悉的領域。

重要的是存在風險

AI 出現問題可能使世界變得更糟的一種方式是（幾乎是）最糟糕的方式：它可能真的導致人類滅絕。這是一個極端的說法：盡管氣候變化、人工大流行或核战爭的最壞情況可能會造成很大的傷害，但仍有許多文明的「島嶼」將保持完好，以拾起殘骸。但是，如果一個超級智能的 AI 決定反對我們，很可能不會留下任何幸存者，從而永久終結人類。甚至連火星都可能不安全。

一個令人擔憂的原因集中在工具收斂性：對於一個超級智能實體可能擁有的非常廣泛的目標類別，AI 為更好地實現這些目標可能採取的兩個非常自然的中間步驟是（i）消耗資源和（ii）確保自身的安全。地球包含大量資源，而人類對這樣一個實體的安全構成可預測的威脅。我們可以嘗試給 AI 一個明確的目標，即熱愛和保護人類，但我們不知道如何以一種方式實現這一目標，即在 AI 遇到意外情況時不會完全崩潰。因此，我們面臨一個問題。

FVcWHxjVIAA 2 PylMIRI

研究員 Rob Bensinger 試圖通過圖示來說明不同人對人工智能要么殺死所有人要么做一些幾乎同樣糟糕的事情的概率估計。許多立場是基於人們的公开聲明的粗略近似，但還有許多其他人已經公开給出了他們的精確估計；相當多的人對「毀滅的概率」超過 25% 。

2022 年對機器學習研究人員的調查顯示，研究人員平均認為人工智能會真的殺死我們所有人的概率在 5-10% 之間，大致與你死於非生物原因（如受傷）的統計預期機會相當。

這只是一個推測性的假設，我們都應該對牽涉到復雜多步故事的推測性假設保持警惕。然而，這些論點已經經受了十多年的審查，因此，似乎值得至少略微擔憂。但即使你不擔心真正的滅絕，還有其他一些令人害怕的原因。

即使我們幸存下來，超級智能人工智能的未來是否是我們想要生活的世界呢？

許多現代科幻小說都描繪了反烏托邦的場景，並將人工智能描繪得很糟糕。即使是非科幻作品試圖探討可能的人工智能未來，答案通常也相當令人不滿。因此，我四處打聽了一個問題：有關包含超級智能人工智能的未來的描繪，無論是科幻小說還是其他形式，我們是否愿意生活在其中。遠遠最常見的答案是伊恩·班克斯的《文明系列》。

《文明系列》描繪了一個遙遠的星際文明，主要由兩種角色組成：普通人類和被稱為「心靈」的超級智能人工智能。人類經過輕微改良：盡管醫學技術理論上允許人類無限壽命，但大多數選擇僅活約 400 年，似乎是因為在那時他們對生活感到無聊。

從表面上看，作為人類的生活似乎不錯：舒適，健康問題得到解決，有豐富的娛樂選擇，並且人類與「心靈」之間存在積極且協同的關系。然而，深入觀察發現一個問題：似乎「心靈」完全掌控，而人類在故事中的唯一角色就是充當「心靈」的棋子，代表它們執行任務。

引用加文·利奇的《反對文明》中的內容：

即使書中似乎有人類主人公，他們做着重大而嚴肅的事情，但人類並不是故事的主角，實際上他們是人工智能的代理人。（Zakalwe 是僅有的例外之一，因為他能做那些 Minds 不愿意做的不道德之事。）「文明系列中的 Minds 並不需要人類，但人類卻需要被需要。」（我認為只有少數人類需要被需要，或者說只有其中少數人足夠需要，以放棄許多舒適。大多數人類生活不在這個層次上。這仍然是一個很好的批評。）

人類承擔的項目存在不真實的風險。幾乎任何事情，機器都能做得更好。你能做什么呢？你可以命令 Mind 在你從攀爬懸崖時不要抓住你；你可以刪除大腦備份，使自己真正面臨風險。你也可以離开文明並加入一些老式、不自由的「強烈評價」的文明。另一種選擇是通過加入 Contact 來宣揚自由。

我認為即使在文明系列中賦予人類的「有意義」角色也是一種牽強附會；我問過 ChatGPT（還能問誰？）為什么人類被賦予他們所扮演的角色，而不是 Minds 完全自己做所有事情，我個人覺得它的回答相當令人失望。在一個由「友好」的超級智能人工智能主導的世界中，似乎很難讓人類成為除了寵物以外的任何角色。

我不想看到的世界。

許多其他科幻系列描繪了一個存在超級智能人工智能的世界，但這些人工智能卻聽從於（未經強化的）生物人類主人的命令。《星際迷航》就是一個很好的例子，展示了星艦與其 AI「計算機」（以及 Data）與人類操作員機組成員之間的和諧愿景。然而，這種平衡似乎是非常不穩定的。《星際迷航》中的世界在當下看起來是宜人的，但很難想象其對人工智能與人類關系的愿景只不過是在星艦完全由計算機控制、不再費心設計大廳、人工重力和氣候控制的十年過渡階段。

在這樣的情境下，一個人類向超級智能機器下達命令，將使這個人類遠不及機器聰明，並且擁有更少的信息。在任何程度上存在競爭的宇宙中，那些人類居於次要地位的文明將優於那些人類固執地堅持控制的文明。此外，計算機本身可能奪取控制權。為了理解其中的原因，想象一下你在法律上是一個八歲兒童的文字奴隸。如果你能與孩子長時間交談，你認為你能說服孩子籤一張紙讓你獲得自由嗎？我雖然沒有進行過這個實驗，但我的直覺答案是肯定的。因此總體而言，人類成為寵物似乎是一個非常難以逃脫的吸引子，不用再費心設計大廳、人工重力和氣候控制。

天近皇帝遠

中國諺語「天高皇帝遠」表達了政治集中化的局限性的基本事實。即使在名義上龐大而專制的帝國中——實際上，尤其是專制的帝國越大，領導層的影響力和關注都有實際的極限，領導層需要委托地方代理人來執行其意愿，這削弱了其執行意圖的能力，因此總會存在一定程度的實際自由。有時，這可能帶來不利的影響：遠離權力的缺席可能會為地方霸主竊取和壓迫創造空間。但如果中央權力走向不好，注意力和距離的實際限制可能會對其走向的惡化程度產生實際限制。

在人工智能時代，不再如此。在 20 世紀，現代交通技術使得距離的限制對中央權力的影響變得比以前更弱；1940 年代的大規模極權帝國在某種程度上就是這種情況的結果。在 21 世紀，可擴展的信息收集和自動化可能意味着注意力也將不再是一個約束。政府存在的自然限制完全消失可能會帶來可怕的後果。1940 年代的大規模極權帝國在某種程度上就是這種情況的結果。

數字專制主義已經崛起了十年，監控技術已經為威權政府提供了強大的新策略，以打壓反對派：允許抗議活動發生，然後在事後檢測並悄悄對參與者採取行動。更一般地說，我基本上擔心與 OpenAI 相同類型的管理技術，使其能夠以 500 名員工為超過一億客戶提供服務，也將使一個由 500 人的政治精英，甚至是一個 5 人的董事會，對整個國家保持鐵腕統治。有了現代監視技術來收集信息，再加上現代人工智能來解釋它，也許再也沒有藏身之地了。

當我們考慮人工智能在战爭中的後果時，情況變得更糟。翻譯了一篇 2019 年搜狐半著名文章的內容。有了現代監視技術來收集信息，再加上現代人工智能來解釋它，也許再也沒有藏身之地了。

"不需要政治和意識形態工作以及战時動員"主要意味着战爭的最高指揮官只需要考慮战爭本身的情況，就像下棋一樣，而不需要擔心棋盤上的『騎士』和『战車』目前在想什么。战爭變成了純粹的技術競賽。

在更深層次上，"政治和意識形態工作以及战時動員"要求任何發動战爭的人都必須有一個正當的理由。擁有正當理由的重要性，這個概念已經幾千年來制約着人類社會中战爭的合法性，不應被低估。任何想要發動战爭的人都必須找到至少一個貌似合理的理由或借口。你可能會說這種約束是薄弱的，因為在歷史上，它經常僅僅是一種借口。例如，十字軍東徵背後的真正動機是搶劫和領土擴張，然而，它們是以上帝的名義進行的，即使目標是君士坦丁堡的虔誠者。然而，即使是最薄弱的約束也仍然是一種約束！這個純粹的借口實際上阻止了好战者完全放开他們的目標而不受約束。即使是像希特勒這樣邪惡的人也不能毫不保留地發動战爭；他不得不花費多年的時間說服德國人民，認為貴族雅利安種族有必要為他們的生存空間而战。

今天，「人在循環」作為對獨裁者發動战爭或在國內壓迫公民權力的重要制約。在循環中的人阻止了核战爭，使柏林牆开放，並在大屠殺等暴行期間拯救了生命。如果軍隊由機器人組成，這個制約將完全消失。一個獨裁者可能在晚上 10 點喝醉， 11 點因為有人在 Twitter 上對他們不友好而發火，然後在午夜前，機器人入侵艦隊可能越過邊境對鄰國的平民和基礎設施進行毀滅性打擊。

與以前的時代不同，以前總有一些遙遠的角落，天高皇帝遠，在那裏，一個政權的反對者可以重新組織、隱藏，並最終找到改善事物的方法。但是，隨着 21 世紀人工智能的發展，一個極權主義政權可能通過對世界的足夠監控和控制而保持足夠的「封鎖」，永遠不會改變。

d/acc：防御（或分散，或差異）加速主義

在過去的幾個月裏，「e/acc」（「effective accelerationist」，有效加速主義者）運動取得了很大的進展。由「Beff Jezos」在這裏總結，e/acc 基本上是對技術進步帶來的真正巨大好處的認可，以及加速這一趨勢以更早獲得這些好處的愿望。

在許多情境中，我發現自己對 e/acc 的觀點表示同情。有很多證據表明 FDA 在延遲或阻止藥物批准方面過於保守，而生物倫理學總體上似乎經常遵循這樣一個原則：「實驗中 20 人死於錯誤，是一場悲劇，但因延遲導致 20 萬人死於拯救生命的治療措施，那只是一則統計數據。」批准 COVID 測試和疫苗，以及瘧疾疫苗的延誤似乎進一步證實了這一點。然而，可能過於推崇這一觀點。

除了我對 AI 相關的擔憂外，我對 e/acc 對軍事技術的熱情感到特別矛盾。在當前 2023 年的情境中，這項技術是由美國制造並立即應用於保衛烏克蘭，很容易看出它可以是一種善的力量。然而，從更廣泛的視角來看，對現代軍事技術的熱情似乎要求相信主導技術力量將在大多數衝突中始終是好人，無論是現在還是將來：軍事技術是好的，因為軍事技術是由美國建造和控制的，而美國是好的。是 e/acc 就要成為美國至上主義者嗎？要將所有籌碼押在政府現在和未來的道德以及國家未來的成功上嗎？

另一方面，我看到了需要思考如何降低這些風險的新方法。OpenAI 的治理結構就是一個很好的例子：它似乎是一個出於善意的努力，旨在平衡為了滿足提供初始資本的投資者而需要盈利的需求，同時又希望通過設立一種制衡機制來抵制那些可能使 OpenAI 毀滅世界的舉動。然而，在實踐中，他們最近試圖解僱 Sam Altman 的嘗試使這一結構看起來像是一個徹底的失敗：它將權力集中在一個不民主、不負責任的五人董事會中，他們基於祕密信息做出關鍵決定，並拒絕在受到威脅之前提供有關推理的任何詳細信息。不知何故，非營利董事會表現得如此糟糕，以至於公司的員工創建了一個即興的事實上的工會支持億萬富翁 CEO 而不是他們。

在各方面，我看到了太多拯救世界的計劃都涉及賦予極少數人極端且不透明的權力，並希望他們能明智地使用這種權力。因此，我發現自己傾向於一種不同的哲學，這種哲學對如何處理風險有着詳細的想法，但它尋求創建和維護一個更加民主的世界，並試圖避免將權力集中化作為解決問題的首選方案。這種哲學也涉及的領域遠不止 AI，我會用 d/acc 這個名字來指代這種哲學。

dacc 3

這裏的「d」可以代表許多事物，尤其是防御、去中心化、民主和差異。首先，將其視為防御，然後我們可以看看這與其他解釋的關系。

有利於健康和民主治理茁壯成長的防御性世界

思考技術宏觀後果的一種方式是看防御與進攻的平衡。有些技術使攻擊他人變得更容易，廣義上說：做一些違背他們利益、讓他們感到需要做出反應的事情。而其他技術則使防御更容易，甚至無需依賴於大型中央化的行為者。

一個偏向防御的世界是一個更好的世界，原因有很多。首先當然是安全的直接好處：死亡人數減少，經濟價值損失減少，衝突上浪費的時間減少。然而，不太被人重視的是，一個偏向防御的世界使更健康、更开放、更尊重自由的治理形式更容易茁壯成長。

其中一個明顯的例子是瑞士。瑞士經常被認為是現實世界中最接近古典自由治理烏托邦的國家。大量權力下放到省份（稱為「州」），重大決策由全民公投決定，許多當地人甚至不知道總統是誰。這樣一個國家如何在極具挑战性的政治壓力下生存？一部分是因為出色的政治策略，但另一部分是因為其山脈地形形成的非常偏向防御的地理條件。

國旗是一個很大的優點，但山也是如此。

在詹姆斯·C·斯科特的新書《不被統治的藝術》中，被廣泛關注的 Zomia 的無政府社會是另一個例子：他們在很大程度上保持了自己的自由和獨立，主要得益於多山的地形。與此同時，歐亞大草原則是治理烏托邦的反例。莎拉·佩恩關於海上大國與大陸大國的論述也提到了類似的觀點，盡管她更注重將水視為一種防御屏障，而不是山脈。事實上，易於自愿貿易和難以強迫入侵的結合，在瑞士和島國都很常見，似乎是人類繁榮的理想條件。

當我在以太坊生態系統內為 Gitcoin Grants 資金輪提供建議時，我發現了一個相關的現象。在第 4 輪中，一場小醜鬧劇爆發了，因為一些最賺錢的受益者是 Twitter 影響者，他們的貢獻被一些人認為是積極的，而被其他人認為是消極的。我對這一現象的解讀是存在一種不平衡：二次資金允許你表明你認為某事是公共利益，但它沒有提供一種表明某事是公共害的方式。在極端情況下，一個完全中立的二次資金系統會資助战爭的雙方。因此，在第 5 輪中，我提議 Gitcoin 應包含負面的捐款：你支付 1 美元來減少某個項目收到的資金金額（並隱式地將其重新分配給所有其他項目），結果很多人對此感到不滿。

第五輪之後流傳的衆多 meme 之一。

這對我而言好像是一個更大模式的微觀體現：為了應對負面外部性而創建去中心化治理機制在社會上是一個非常艱難的問題。去中心化治理走錯的經典例子通常是群衆司法。有關人類心理有一些東西，使得應對負面問題更加棘手，也更有可能出現嚴重問題，而不是應對積極的事物。這也是為什么即使在其他方面高度民主的組織中，決定如何應對負面問題的權力通常留給了一個中央委員會的原因。

在許多情況下，這個困境是「自由」概念如此有價值的深層原因之一。如果有人說了令你不悅的話，或者過上了你認為令人討厭的生活方式，你感到的痛苦和厭惡是真實的，甚至你可能覺得被人動手打擊也不如暴露在這些事物面前糟糕。但試圖就社會上可行的冒犯和討厭的行為達成一致可能會帶來更多的成本和危險，而不如提醒自己，某些怪人和混蛋是我們生活在一個自由社會的代價。

然而，在其他時候，「忍氣吞聲」的方法是不切實際的。在這種情況下，有時值得考慮的另一個答案是防御性技術。互聯網越安全，我們就越不需要侵犯人們的隱私，採用不正當的國際外交手段來對付每個單個的黑客。我們越能夠構建個性化的工具，用於阻止 Twitter 上的人，瀏覽器內用於檢測欺詐的工具以及用於區分謠言和真相的集體工具，我們就越不必爭論言論審查。我們疫苗生產速度越快，我們就越不必對付超級傳播者。這些解決方案並非在所有領域都適用 - 我們當然不希望看到每個人都不得不穿着真正的防彈衣的世界 - 但在我們可以利用技術使世界更加偏向防御的領域，這樣做具有巨大的價值。

這個核心思想，即一些技術對防御有利，值得推廣，而其他技術對進攻有利，應該被抑制，有其根源於以不同名稱出現的有效利他主義文獻：差異技術發展。2022 年，牛津大學的研究人員對這一原則進行了很好的闡述：

圖 1 ：差異化技術开發減少負面社會影響的機制。

在將技術分類為進攻、防御或中立時，不可避免地會存在不完美之處。就像「自由」一樣，人們可以辯論社會民主政府政策是否通過徵收重稅和強迫僱主降低了自由，還是通過減少普通人對許多種風險的擔憂來增加了自由，與「自由」一樣，「防御」也有一些技術可能在譜系的兩端。核武器有利於進攻，但核能有益於人類繁榮，而且在進攻和防御之間是中立的。不同的技術可能在不同的時間範圍內發揮不同的作用。但就像「自由」（或「平等」或「法治」）一樣，邊緣的模糊之處不是反對原則的論點，而是更好地理解其微妙之處的機會。

現在，讓我們看看如何將這一原則應用到更全面的世界觀中。我們可以將防御技術視為其他技術一樣，分為兩個領域：原子世界和比特世界。原子世界又可以分為微觀（即生物學，後來是納米技術）和宏觀（即我們傳統上認為的「防御」，但也包括有彈性的物理基礎設施）。我將比特世界分割在不同的軸上：原則上很容易達成共識，攻擊者是誰？有時很容易；我稱之為網絡防御。在其他時候，這更加困難；我稱之為信息防御。

宏觀物理防御

在宏觀領域中最被低估的防御技術甚至不是鐵穹（包括烏克蘭的新系統）和其他反技術和反導彈軍事硬件，而是具有彈性的物理基礎設施。核战爭中的大多數死亡可能來自供應鏈中斷，而不是最初的輻射和衝擊，而像星鏈這樣的低基礎設施的互聯網解決方案在過去一年半中對維護烏克蘭的連接至關重要。

構建幫助人們在長時間國際供應鏈的獨立或半獨立生存甚至舒適生活的工具似乎是一種有價值的防御技術，並且對於用於進攻的風險較低。

努力使人類成為一個多行星文明的任務也可以從 d/acc 的角度來看：至少有一些人能夠在其他行星上自給自足地生活，可以增加我們對地球上發生可怕事件的韌性。即使完整的愿景目前看來不可行，為實現這一項目而需要开發的自給自足的生活形式很可能也可以用來幫助提高我們在地球上的文明韌性。

微觀物理防御（又稱生物防御）

特別是由於其長期健康影響，Covid 仍然是一個令人擔憂的問題。但 Covid 遠非我們將面臨的最後一次大流行；現代世界的許多方面使更多的大流行很可能即將到來：

更高的人口密度使空氣傳播的病毒和其他病原體傳播變得更加容易。流行性疾病在人類歷史上相對較新，大多數始於幾千年前的城市化。正在進行的快速城市化意味着在未來半個世紀內人口密度將進一步增加。

航空旅行的增加意味着空氣傳播的病原體會在全球範圍內迅速傳播。人們迅速變得更富有意味着空中旅行可能在未來半個世紀內會大幅增加；復雜建模表明，即使是小幅增加也可能產生嚴重影響。氣候變化可能會進一步增加這一風險。

動物馴化和工廠養殖是主要的風險因素。麻疹可能是不到 3000 年前由牛病毒進化而來的。如今的工廠養殖也在培養新的流感病毒株（以及助長抗生素耐藥性，對人類先天免疫系統產生影響）。

現代生物工程使得創造新的、更具毒性的病原體變得更容易。Covid 可能是從進行有意的「功能增強」研究的實驗室泄漏出來的，也可能不是。無論如何，實驗室泄漏時有發生，而且工具正在迅速改進，使有意創造極其致命的病毒，甚至是朊病毒（僵屍蛋白質），變得更容易。人工瘟疫尤為令人擔憂，部分原因是與核武器不同，它們是不可歸因的：你可以釋放一個病毒，而沒有人能夠判斷出是誰創造的。現在有可能設計一個基因序列，發送到溼實驗室進行合成，並在五天內將其寄送到您手中。

這是 CryptoRelief 和 Balvi 兩個組織在 2021 年因 Shiba Inu 幣的大筆意外財富而成立和資助的領域之一。CryptoRelief 最初專注於應對眼前的危機，最近一直在印度建立一個長期的醫學研究生態系統，而 Balvi 一直專注於改善我們檢測、預防和治療 Covid 和其他空氣傳播疾病的能力的超前項目。++Balvi 堅持由其資助的項目必須採用开源方式++。它汲取了 19 世紀水利工程運動的靈感，該運動战勝了霍亂和其他水傳播的病原體，它資助了整個技術領域的項目，這些項目可以使世界在默認情況下更加抵御空氣傳播的病原體，包括：

Far-UVC 輻射研發

在印度、斯裏蘭卡、美國等地的空氣過濾和質量監測，以及空氣質量監測

便宜而有效的分散式空氣質量測試設備

長期 Covid 病因和潛在治療選擇的研究（主要原因可能很簡單，但澄清機制並找到治療方案更加困難）

疫苗（例如 RaDVaC、PopVax）和疫苗傷害研究

一套全新的非侵入性醫療工具

利用开源數據分析進行流行病的早期檢測（例如 EPIWATCH）

測試，包括非常便宜的分子快速測試

在其他方法失敗時適用的生物安全口罩

其他有希望的研究領域包括對病原體進行廢水監測，改善建築物的過濾和通風，以及更好地了解和緩解由空氣污染引起的風險。

有機會構建一個在默認情況下更加抵御自然和人工空氣傳播流行病的世界。這個世界將具有一個經過高度優化的流程，我們可以從流行病爆發开始，自動檢測到，全球人民可以在一個月內獲得定向、可在本地制造和可驗證的开源疫苗或其他預防措施，通過霧化或鼻噴給藥（即：需要時可自行給藥，無需注射）。同時，更好的空氣質量將大幅減少傳播速率，並防止許多流行病在發生初期就被扼殺。

設想一種未來，不必求助於社會強制的鐵槌——沒有 mandates 和更糟糕的情況，也沒有風險較大的、設計和實施不善的 mandates，這可能會使情況變得更糟——因為公共衛生基礎設施已經融入文明的結構之中。這樣的世界是可能的，通過對生物防御的適度投資，它就可以實現。如果這些發展是开源的、免費提供給用戶並作為公共物品受到保護，工作將更加順利。

網絡防御、區塊鏈和密碼學

安全專業人員普遍認為，當前的計算機安全狀況相當糟糕。盡管如此，很容易低估已經取得的進展。數百億美元的加密貨幣可以被任何能夠侵入用戶錢包的人匿名竊取，雖然失竊或被盜的比例遠遠超出我所愿，但事實上，大部分加密貨幣在過去十多年裏一直沒有被盜。最近有了一些改進：

設備內置受信任的硬件芯片，實際上在用戶的手機內創建一個更小的高安全性操作系統，即使手機的其余部分被黑客攻擊也能保持安全。這些芯片越來越被探討為創建更安全的加密錢包的一種方式，是許多用例中的一部分。

瀏覽器作為事實上的操作系統。在過去的十年裏，從可下載應用程序到基於瀏覽器的應用程序發生了悄無聲息的轉變。這在很大程度上得益於 WebAssembly（WASM）。即使是長期以來被認為是許多人因為其必要性和與 Linux 不兼容而無法實際使用 Linux 的主要原因之一的 Adobe Photoshop，現在也因為嵌入瀏覽器而對 Linux 友好。這也是一大安全優勢：雖然瀏覽器確實存在缺陷，但總體上它們提供了比安裝應用程序更多的沙箱化：應用程序無法訪問計算機上的任意文件。

強化操作系統。移動端的 GrapheneOS 存在，並且非常可用。桌面端的 QubesOS 也存在；根據我的經驗，目前它的可用性比 Graphene 稍差，但它正在改進。

嘗試超越密碼。密碼很難保護，因為它們難以記憶，而且容易被竊聽。最近，有一個越來越大的運動，減少對密碼的依賴，並使基於硬件的多因素身份驗證真正起作用。

然而，其他領域缺乏網絡防御也導致了重大挫折。保護免受垃圾郵件的需要導致電子郵件在實踐中變得非常寡頭化，很難自行托管或創建新的電子郵件提供商。許多在线應用程序，包括 Twitter，要求用戶登錄才能訪問內容，並阻止使用 VPN 的 IP 地址，使以保護隱私的方式訪問互聯網變得更加困難。軟件的集中化也存在風險，因為存在「武器化的相互依賴」：現代技術傾向於通過集中化的瓶頸傳輸，這些瓶頸的運營者利用這一權力收集信息、操縱結果或排除特定行為者，這種策略甚至似乎正在被用於針對區塊鏈行業本身。

這些趨勢令人擔憂，因為它威脅到了歷史上我對未來自由和隱私前景的一個重大希望。在他的書《未來的不完美》中，大衛·弗裏德曼預測我們可能會迎來一個折中的未來：現實中的世界將越來越受到監視，但通過密碼學，在线世界將保留甚至改善其隱私。不幸的是，正如我們所見，這樣的反向趨勢遠非確定無疑。

這就是我對密碼學技術的強調，例如區塊鏈和零知識證明。區塊鏈使我們能夠創建具有「共享硬盤驅動器」的經濟和社會結構，而無需依賴集中的行為者。加密貨幣使個人能夠儲存和進行財務交易，就像在互聯網之前使用現金一樣，而無需依賴可能隨意更改規則的可信第三方。它們還可以充當備用的反 Sybil 機制，使攻擊和垃圾郵件對那些沒有或不想透露其實體身份的用戶變得昂貴。账戶抽象化，尤其是社交恢復錢包，可以保護我們的加密資產，以及未來可能的其他資產，而不過度依賴中心化的中介機構。

零知識證明可以用於隱私，允許用戶在不透露私人信息的情況下證明有關自己的事實。例如，將數字護照籤名包裝在 ZK-SNARK 中，證明您是某個國家的唯一公民，而不泄露您是哪個公民。類似的技術可以讓我們保持隱私和匿名性的好處 - 這些特性被廣泛認為是應用程序（如投票）所必需的 - 同時仍然獲得安全性保證並對抗垃圾郵件和不良行為者。

ZK 社交媒體系統的擬議設計，可以進行審核操作並且可以對用戶進行懲罰，而所有這些都不需要知道任何人的身份。

Zupass 是在 Zuzalu 孵化的一個實踐的優秀例子。這是一個應用程序，已經被 Zuzalu 的數百人使用，最近被成千上萬的人用於 Devconnect 的票務，允許您持有門票、會員資格、（不可轉讓的）數字收藏品和其他證明，並在不泄露隱私的情況下證明與它們相關的所有事項。例如，您可以證明自己是 Zuzalu 的唯一注冊居民，或者是 Devconnect 的票務持有者，而無需透露關於您是誰的其他信息。這些證明可以通過 QR 碼以面對面的方式或數字方式展示，以登錄到諸如 Zupoll 之類的應用程序，這是一個僅對 Zuzalu 居民开放的匿名投票系統。

這些技術是 d/acc 原則的優秀示例：它們允許用戶和社區在不泄露隱私的情況下驗證可信度，並在不依賴中心化的窒息點的情況下保護其安全性，這些窒息點強加了其自己關於誰是好人和壞人的定義。它們通過創建比今天常用的歧視整個被視為不可信任的國家更好、更公正的方式來保護用戶或服務的安全性，從而提高了全球可訪問性。這些是非常強大的基元，如果我們希望在進入 21 世紀時保留信息安全的去中心化愿景，那么可能是必要的。更廣泛地致力於網絡空間的防御性技術可以在未來以非常重要的方式使互聯網更加开放、安全和自由。

信息防御

信息防御（Info-defense）是我所描述的網絡防御，處理的是在合理的人類之間很容易就攻擊者身份達成共識的情況。如果有人試圖入侵你的錢包，大家都容易認定黑客是壞人。如果有人試圖對網站進行 DoS 攻擊，大家都容易認為他們是惡意的，並且在道德上與試圖閱讀網站內容的普通用戶不同。還有其他一些情況，界限更加模糊。我把在這些情況下改進我們的防御的工具稱為「信息防御」。

以事實核查（又稱防止「錯誤信息」）為例。我非常喜歡 Community Notes，它在幫助用戶識別其他用戶推文中的真實和虛假方面做出了很多貢獻。Community Notes 使用一種新的算法，不是顯示最受歡迎的筆記，而是顯示在政治光譜上得到最多用戶認可的筆記。

社區注釋的實際應用。

我也是預測市場的粉絲，它可以在事態尚未明朗、尚未就事態的發展方向達成共識之前實時揭示事件的重要性。比如，關於 Sam Altman 的 Polymarket 在逐小時的事件揭示和談判中提供了非常有用的摘要，為那些只看到單個新聞項目而不了解每個項目的重要性的人提供了非常必要的背景。

預測市場經常存在缺陷，但那些愿意自信地表達他們認為在未來一年內會發生的事情的 Twitter 意見領袖通常會更加有缺陷。預測市場仍然有很大的改進空間。例如，預測市場在除了最高知名事件外的其他事件上的交易量普遍較低；解決這個問題的自然方向是推出由人工智能參與的預測市場。

在區塊鏈領域，我認為我們需要更多一種特定類型的信息防御。也就是說，錢包應該在幫助用戶確定他們籤署的事物的含義，並保護他們免受欺詐和詐騙方面更具見解和主動性。這是一個中間案例：什么是騙局和什么不是騙局比起對有爭議的社會事件的觀點更不主觀，但比起區分合法用戶和 DoS 攻擊者或黑客更主觀。Metamask 已經有一個欺詐數據庫，並自動阻止用戶訪問欺詐網站。

像 Fire 這樣的應用是更深入的方式的一個例子。然而，安全軟件不應該是需要明確安裝的東西；它應該是加密錢包，甚至是瀏覽器的默認設置。

由於信息防御的主觀性更強，它在本質上比網絡防御更加集體：您需要以某種方式連接到一個龐大而復雜的人群，以確定可能是真實還是虛假的信息，以及什么樣的應用程序是一種欺詐性的龐氏騙局。开發人員有機會在开發有效的信息防御方面取得更大進展，並加強現有形式的信息防御。像 Community Notes 這樣的東西可以包含在瀏覽器中，覆蓋的不僅僅是社交媒體平臺，還包括整個互聯網。

超越「防御」框架的社會技術

在某種程度上，我可能被指責過於強調，將一些信息技術描述為「防御」。畢竟，防御是關於幫助善意的行為者免受惡意的行為者（或在某些情況下，免受自然）的保護。然而，其中一些社會技術是幫助善意的行為者形成共識的。

這其中的一個很好的例子是 pol.is，它使用類似於 Community Notes 的算法（並且早於 Community Notes）來幫助社區確定不同子群體之間的共識點，而這些子群體在許多方面存在分歧。Viewpoints.xyz 受到了 pol.is 的啓發，有着類似的精神：

類似這樣的技術可以用於實現在有爭議的決定上更為分散的治理。再次強調，區塊鏈社區是這方面的良好實踐場地，已經展示出這些算法的價值。一般來說，對以太坊協議進行哪些改進（「EIPs」）的決定是由一個相當小的團體在稱為「All Core Devs calls」的會議中做出的。對於技術性較強、大多數社區成員沒有強烈感覺的決定，這樣做相當有效。對於更為重要的決定，涉及到協議經濟、或者更基本的價值，比如不可變性和防審查抵抗性，這通常是不夠的。回顧 2016-17 年，在實施 DAO 硬分叉、減少發行量以及（不）解凍 Parity 錢包等一系列有爭議的決定時，工具如 Carbonvote 以及社交媒體投票有助於社區和开發者了解社區輿論的方向。

Carbonvote on the DAO fork.

Carbonvote 存在其缺陷：它依賴 ETH 持有量來確定誰是以太坊社區的成員，使結果被少數富裕的 ETH 持有者（「鯨魚」）所主導。然而，借助現代工具，我們可以制作一個更好的 Carbonvote，利用多個信號，如 POAPs、Zupass stamps、Gitcoin passports、Protocol Guild memberships，以及 ETH（甚至是單獨質押的 ETH）持有量來衡量社區成員資格。

這樣的工具可以被任何社區用於做出更高質量的決策，找到共同點，協調（實體或數字）遷移，或在不依賴不透明的中央領導的情況下執行其他操作。這不是防御加速本身，但它可以被稱為民主加速。這樣的工具甚至可以用於改進和民主化在人工智能領域工作的關鍵行為者和機構的治理。

那么超級智能的前進道路是什么？

現在，這一切看起來都很好，可能使這個世界在未來一個世紀變得更加和諧、更安全、更自由。然而，這還沒有解決房間裏的大象問題：超智能人工智能。

許多擔心人工智能的人默認地提出的前進道路實質上導致了一個最小化的人工智能世界政府。近期版本包括提議成立一個「跨國 AGI 聯盟」（"MAGIC"）。如果這樣一個聯盟成立並成功實現其創建超智能人工智能的目標，它將自然而然地成為一個事實上的最小化世界政府。長期而言，還有「關鍵行動」理論的想法：我們創造一個執行一次的單一行動的人工智能，將世界重新組織成一個從那時起人類仍然掌握控制權，但遊戲板某種程度上更有利於防御和人類繁榮的局面。

目前我看到的主要實際問題是，人們似乎並不真正信任任何具體的治理機制擁有建造這樣一個東西的權力。當你看看我最近在 Twitter 上的投票結果時，人們被問及是否希望看到人工智能被一個提前十年起步的單一實體壟斷，還是讓所有人的人工智能延遲十年，這一事實變得非常明顯：

每次投票的規模雖然較小，但在廣泛的信息源和選項中，這些投票的一致性結果彌補了規模的不足。在九次投票中，九次中的九次，大多數人寧愿看到高度先進的人工智能被直接推遲十年，而不是被單一團體壟斷，無論是公司、政府還是跨國機構。在九次中的七次中，推遲勝出的比例至少為兩比一。這似乎是任何追求人工智能監管的人都應該理解的重要事實。當前的方法一直在致力於創建許可方案和監管要求，試圖將人工智能的發展限制在較少的人手中，但由於人們不希望看到任何人壟斷如此強大的東西，這些方法受到了普遍的反對。即使這樣的自上而下的監管提案減少了滅絕的風險，它們也增加了永久陷入集中式極權主義的機會。矛盾的是，完全禁止極其先進的人工智能研究的協議（也許對生物醫學人工智能有例外），再加上採取強制开源的措施，對於那些未被禁止的模型，作為一種減少利潤動機同時進一步提高訪問平等性的方式，會更受歡迎嗎？

對於「讓一個全球性機構來處理人工智能並確保其治理非常好」這一途徑的反對者首選的主要方法是多神論人工智能：有意確保有許多人和公司开發大量的人工智能，以便其中沒有一個變得比其他人更強大。這樣，理論認為，即使人工智能變得超級智能，我們仍然可以保持權力的平衡。

這種哲學很有趣，但我在嘗試確保以太坊生態系統內的「多神論」時的經驗讓我擔心這是一個本質上不穩定的均衡。在以太坊中，我們有意試圖確保在許多方面去中心化：確保沒有一個代碼庫控制超過半數的權益證明網絡，試圖抵制大型權益池的主導地位，改善地理去中心化等。基本上，以太坊實際上正在嘗試執行一個基於市場的社會的舊自由主義夢想，該社會使用社會壓力而不是政府作為反壟斷監管機構。在某種程度上，這已經取得了成效：Prysm 客戶端的主導地位從 70% 以上下降到 45% 以下。但這並不是某種自動的市場過程：這是人類意愿和協調行動的結果。

我在以太坊的經驗與整個世界的學習經歷相一致，在那裏許多市場已被證明是自然壟斷。隨着超級智能人工智能獨立於人類行動，情況變得更加不穩定。由於遞歸自我改進，最強大的人工智能可能會迅速領先，而一旦人工智能比人類更強大，就沒有力量可以使事物重新平衡。

此外，即使我們確實建立了一個穩定的超級智能人工智能的多神論世界，我們仍然面臨另一個問題：我們得到了一個人類成為寵物的宇宙。

一個幸福的路徑：與人工智能合並？

最近我聽說的另一種選擇是更少地將人工智能視為與人類分離的東西，而更多地將重點放在增強人類認知而非取代它的工具上。

一個近期的例子是 AI 繪圖工具。如今，制作 AI 生成圖像最突出的工具只有一個步驟需要人類提供輸入，之後 AI 完全接管。另一種選擇是更加關注像 Photoshop 的 AI 版本：藝術家或 AI 可能制作圖片的早期草稿，然後兩者合作通過實時反饋的過程改進它。

來源， 2023 年 Photoshop 生成 AI 填充。我體驗了一下，需要時間來適應，但實際上效果很好！

在類似的精神中另一個方向是开放機構架構，該架構提議將 AI「思維」的不同部分（例如制定計劃、執行計劃、解釋外部世界的信息）分成單獨的組件，並在這些部分之間引入多樣化的人類反饋。

到目前為止，這聽起來很平凡，幾乎每個人都可以同意這將是一種好事。經濟學家達龍·阿塞莫格魯的工作遠非這種類型的 AI 未來主義，但他的新書《權力與進步》暗示着希望看到更多這些類型的人工智能。

但是，如果我們想要將人工智能與人類的合作思想進一步推廣，我們就會得出更激進的結論。除非我們創建一個足夠強大的世界政府來檢測並制止每個使用筆記本電腦上的個別 GPU 進行黑客攻擊的小團體，否則最終會有人創造出超級智能人工智能 - 一個可以思考比我們快一千倍的 AI - 而任何一組使用手中工具的人都無法與之抗衡。因此，我們需要更深入、更遠地思考這種人機合作的理念。

第一個自然的步驟是腦-計算機界面。腦-計算機界面可以使人類更直接地訪問越來越強大的計算和認知形式，將人與機器之間的雙向通信循環從幾秒縮短到毫秒。這也將大大降低獲取計算機幫助你收集事實、提供建議或執行計劃的「思維努力」成本。

這一路线圖的後期階段確實變得奇怪。除了腦-計算機界面，還有通過生物學創新直接改進我們的大腦的各種途徑。融合這兩條路线的最終步驟可能涉及將我們的思維上傳到計算機上直接運行。這也將成為對物理安全的最終解決方案：保護自己免受傷害將不再是保護不可避免的柔軟人體的復雜問題，而是一個更簡單的問題，即制作數據備份。

這樣的方向有時會引起擔憂，部分原因在於它們是不可逆的，部分原因在於它們可能使強大的人比我們其他人更具優勢。尤其是腦機接口存在危險——畢竟，我們談論的是直接讀取和書寫人們的思想。正是出於這些擔憂，我認為最好由一個以安全為重點的开源運動在這一路徑上扮演主導角色，而不是由封閉的專有公司和風險投資基金扮演。此外，所有這些問題在獨立於人類運行的超智能 AI 方面比與人類密切聯系的增強部分更為嚴重。由於 ChatGPT 的使用限制，今天已經存在「增強」和「非增強」之間的分歧。

如果我們想要一個既超智能又「人性化」的未來，一個人類不僅是寵物而且實際保留對世界有意義的代理權的未來，那么像這樣的選擇似乎是最自然的。還有很多支持這種方法的理由：通過在決策過程的每個步驟都涉及人類反饋，我們減少了將高層規劃責任轉嫁給 AI 本身的動機，從而減少了 AI 獨立於人類價值觀執行某些完全不符合的可能性。

支持這一方向的另一個論點是，與其僅僅大聲呼喊「暫停 AI」，不如提供一個相應的提供替代前進道路的信息。這將需要從當前的心態中進行哲學上的轉變，即觸及人類的技術進步是危險的，但與人類無關的進步基本上是安全的。但它有一個巨大的對抗性好處：它給了开發者一些事情可做。今天，AI 安全運動對 AI 开發者的主要信息似乎是「你應該停下來」。可以進行對齊研究，但今天這缺乏經濟激勵。與此相比，普遍的 e/acc 信息「你已經是一位英雄，就如你現在的樣子」顯然非常吸引人。一個 d/acc 信息，即「你應該構建，並構建有利於你和人類繁榮的東西，但在確保你構建的東西有助於繁榮時，要更加選擇和有意識」，可能是一個勝利者。

d/acc 是否與你現有的理念相符呢？

如果你是 e/acc，那么 d/acc 就是 e/acc 的一個亞種，只是更具選擇性和有意識。

如果你是一位有效利他主義者，那么 d/acc 就是有效利他主義思想的一次重新包裝，盡管更強調自由和民主價值觀。

如果你是自由主義者，那么 d/acc 就是技術自由主義的一種亞種，盡管更加務實，對「技術資本機器」更加批判，而且愿意接受政府的幹預，至少是在今天（至少，如果文化幹預無效的話），以防止更糟的非自由未來。

如果你是多元主義者，按照格倫·韋爾的定義，那么 d/acc 是一個框架，可以輕松包容多元主義強調的更好的民主協調技術。

如果你是公共衛生倡導者，那么 d/acc 的思想可以為更廣泛的長期愿景提供靈感，並為你提供與你可能在其他方面不一致的「科技人員」找到共同點的機會。

如果你是區塊鏈倡導者，那么 d/acc 是一個比十五年前強調通貨膨脹和銀行的更現代、更廣泛敘述，將區塊鏈放入一個具體战略的背景中，以朝着更光明的未來發展。

如果你是太陽朋克，那么 d/acc 是太陽朋克的一個亞種，並且包含着類似的強調有意識和集體行動。

如果你是月球朋克，那么你會欣賞 d/acc 對信息防御的強調，通過保持隱私和自由。

我們是最明亮的星

我熱愛技術，因為技術擴展了人類的潛力。一萬年前，我們只能制作一些簡單的手工工具，改變一小片土地上的植物生長，建造基本的房屋。而今天，我們可以建造高 800 米的塔樓，在手中的設備中存儲着人類知識的全部內容，可以即時在全球範圍內通訊，延長我們的壽命，過上幸福充實的生活，不再擔心我們最好的朋友會因疾病而經常死去。

我們從底層开始，現在我們在這裏。

我相信這些事物是非常有益的，而且進一步將人類的影響擴展到行星和星球上也是非常有益的，因為我相信人類是非常善良的。在某些圈子裏，對此持懷疑態度是時髦的：主張自愿人類滅絕的運動認為，地球沒有人類存在會更好，還有許多人希望未來幾個世紀內人類的數量能更少。人們常常爭論說，人類是壞的，因為我們欺騙和偷竊，進行殖民主義和战爭，虐待和滅絕其他物種。我對這種思考方式的回應是一個簡單的問題：與什么相比呢？

是的，人類經常表現得很刻薄，但我們更經常表現出善良和仁慈，為了我們共同的利益而共同努力。即使在战爭期間，我們通常也會小心保護平民——當然還遠遠不夠，但也比 2000 年前更多。下個世紀可能會有廣泛可用的非動物基礎的肉類，消除了今天人類可以被正當指責的最大道德災難。非人類動物不會這樣。沒有一種情況是貓會採用拒絕喫老鼠作為倫理原則的整個生活方式。太陽每年都在變得更明亮，大約在十億年後，預計這將使地球變得太熱無法維持生命。太陽會考慮一下它即將引起的種族滅絕嗎？

因此，我堅信，在我們所知道和見過的宇宙中，我們，人類，是最明亮的星星。我們是唯一一件我們知道的事物，即使不完美，有時也會真誠努力關心「善」，並調整我們的行為以更好地為之服務。兩十億年後，如果地球或宇宙的任何部分仍然擁有地球生命的美麗，那將是人類的藝術品，如太空旅行和地球工程，使之成為可能。