我相信未來會因為徹底改變的技術而變得比現在更光明，我同時也相信人類和人性。本文源自 Vitalik Buterin 所著文章《My techno-optimism》，由 BlockBeats 編譯、整理。
（前情提要：V神大談AI隱憂，提「去中心化加速主義」d/acc：可增加民眾信任、加快普及 ）
（背景補充：V神：以太坊「質押系統」有必要改革、比特幣UTXO模型很讚！ ）
科技進步對未來會產生什麼樣的影響已是老生常談。上個月，Marc Andreessen 發表的「技術樂觀主義宣言」明確反對害怕技術進步的狀態，加之本月 OpenAI 引發爭端，該話題又再次引發熱議。
Vitalik Buterin 反對「優先考慮保持世界現如今狀態」的心態，同時指出，科技發展不僅需要注重力度，也要注重方向。他在最新的文章中深刻探討了人工智慧和區塊鏈的交匯點，並提出了「d/acc」（decentralized acceleration）的概念。他認為，隨著技術的加速發展，人工智慧的出現可能成為人類面臨的最大挑戰之一，但也提出了一種更加人性化、去中心化的發展道路。
文章涉及的主題涵蓋了資訊防禦、社會技術、人機合作等多個層面，突顯了對技術發展方向進行積極引導的重要性。在不同的哲學背景下，Vitalik 推崇一種既積極又慎重的態度，呼籲開發者在構建技術的同時更注重選擇和意圖，以確保科技的發展符合人類的價值觀和長遠利益。
特別感謝 Morgan Beller、Juan Benet、Eli Dourado、Sriram Krishnan、Nate Soares、Jaan Tallinn、Vincent Weisser、Balvi 志願者等人提供的回饋和審閱。
上個月，Marc Andreessen 發表了他的「技術樂觀主義 (techno-optimist) 宣言」，呼籲重新對技術保持熱情，同時主張通過市場和資本主義的手段來構建技術，推動人類走向更加光明的未來。該宣言明確反對所謂的停滯思想，即害怕技術進步，並優先考慮保持今天世界的狀態。這份宣言受到了廣泛關注，包括 Noah Smith、Robin Hanson、Joshua Gans（持積極態度）、Dave Karpf、Luca Ropek、Ezra Klein（更消極態度）等人發文迴應。雖然與該宣言無直接關係，但類似的話題還有 James Pethokoukis 的「保守主義未來派」和 Palladium 的「是時候為善建設了」。本月，通過 OpenAI 爭端，我們也看到了類似的辯論，許多討論集中在超級人工智慧的危險和 OpenAI 也許進展過快的可能性上。
延伸閱讀：Sam Altman被奪權真正原因？OpenAI董事會收到警告：新AI威脅全人類
我對技術樂觀主義的感覺是溫暖而充滿細膩的差異。我相信未來會因為徹底變革的技術而變得比現在更加光明，我同時也相信人類和人性。我反對那種認為我們應該努力保持世界基本與今天相同，只需要減少貪婪，增加公共醫療的心態。但在此基礎上，我認為不僅程度重要，方向也至關重要。某些型別的技術能直接使世界變得更好，而有些技術型別如果得到發展，可能會減輕其他技術型別的負面影響。目前，世界在某些技術發展方向上過度投入，而在其他方向上則不足。我們需要有意識地選擇我們想要的方向，因為「最大化利潤」的公式不會自動導向這些方向。
在這篇文章中，我將探討技術樂觀主義對我的意義。這包括激發我在某些型別的區塊鏈和密碼學應用、社會技術以及我有興趣的其他科學領域上的工作的更廣泛的世界觀。但對於這個問題的不同看法也對人工智慧以及許多其他領域有著重要的影響。我們在技術上的快速進步很可能會成為 21 世紀最重要的社會問題，因此認真思考這個問題有重要意義。
科技令人驚歎，而推遲其發展可能會付出極高的代價。
在某些領域，人們普遍低估科技的益處，將其視為烏托邦和潛在風險的源頭。過去半個世紀，這種看法往往因為環境問題，或者擔心科技的好處只會流向富人，從而鞏固他們對窮人的權力。最近，我還注意到一些自由主義者對某些技術感到擔憂，擔心這些技術會導致權力的集中。本月，我對以下問題進行了一些調查：如果某項技術因為太危險而需要受到限制，人們更希望它被壟斷還是推遲十年？令我驚訝的是，在三個平臺和三種壟斷者身份的選項中，人們一致而強烈地選擇了推遲。
因此，我有時擔心我們可能在過度糾正，很多人忽略了辯論的另一方面：科技的好處確實巨大，在我們能夠衡量的領域中，正面效應遠遠超過負面效應，而即使是推遲十年的成本也是難以估量的。
舉一個具體的例子，讓我們來看一張壽命預期圖：
我們看到了什麼？在過去的一個世紀裡，取得了真正巨大的進步。這一點適用於整個世界，無論是歷史上富有和主導的地區，還是貧窮和被剝削的地區。
有些人將科技歸咎於創造或加劇災難，比如極權主義和戰爭。實際上，我們可以從圖表上看到戰爭造成的死亡：一戰時期（1910 年代）和二戰時期（1940 年代）。仔細觀察，還可以看到西班牙流感、大躍進等非軍事災難。但圖表清楚地表明瞭一件事：即使像那些令人恐懼的災難一樣，它們都被那個世紀裡在食物、衛生、醫學和基礎設施方面取得的不斷改進的巨大規模所淹沒。
這與我們日常生活的顯著改善相一致。多虧了網際網路，全球大多數人現在能夠輕鬆獲取二十年前難以獲得的資訊。由於國際支付和金融的改進，全球經濟變得更加可訪問。全球貧困正在迅速減少。藉助線上地圖，我們再也不必擔心在城市中迷路，而且如果需要迅速回家，我們現在有更簡便的方式叫車。我們的財產變得數位化，實物變得更加廉價，這意味著我們不再過於擔憂物理盜竊。線上購物已經減少了全球大城市與世界其他地區之間對商品獲取的不平等。在各個方面，自動化為我們帶來了那種被永遠低估的好處，即簡單地讓我們的生活更加便利。
這些改進，無論是可以量化的還是不可量化的，都是巨大的。而在 21 世紀，更大的改進有很大的可能很快就會到來。今天，終結衰老和疾病似乎還是烏托邦的概念。但從 1945 年電腦的角度來看，幾乎將晶片嵌入一切的現代也曾經是烏托邦的，畢竟即便是科幻電影中的電腦通常也是房間大小。如果生物技術在未來 75 年內的進展如同電腦在過去 75 年內的進展一樣巨大，那麼未來可能會比幾乎任何人的期望都更為令人印象深刻。
與此同時，一些對進步表示懷疑的論調往往走向了黑暗的方向。甚至連醫學教科書，比如這本在上世紀 90 年代的書（感謝 Emma Szewczak 找到），有時也提出一些極端的主張，否認了兩個世紀醫學科學的價值，甚至辯稱挽救人類生命並不是一件好事：
「增長的極限」論是在 1970 年代提出的一個觀點，認為不斷增長的人口和工業最終會耗盡地球有限的資源，結果導致了中國的獨生子女政策和印度大規模的強制絕育。在早期，對人口過剩的擔憂曾被用來為大規模屠殺辯護。而這些自 1798 年以來一直被提出的觀點在很長一段時間裡都被證明是錯誤的。
正是因為這些原因，我開始對減緩技術或人類進步的論點感到非常不安。考慮到各個領域之間的緊密聯絡，即使是領域性的減速也是危險的。因此，當我寫下接下來要探討的內容時，背離了無論形式如何都對進步持開放態度的立場，這是我懷著沉重的心情發表的言論。然而，21 世紀是如此的不同和獨特，所以這些細微之處是值得考慮的。
話雖如此，就更廣泛的問題而言，特別是當我們超越「技術整體上是好的」並轉向「哪些具體技術是好的？」這個話題時，有一個重要的細微差別需要指出：環境。
環境和協調意願的重要性
過去一百年裡，幾乎所有方面都在取得進步，唯一的例外是氣候變化：
即使對於正在上升的溫度的悲觀情景，也遠遠不會導致人類的實際滅絕。但這樣的情景可能導致的死亡人數可能比重大戰爭更多，並可能嚴重損害那些已經最為困擾的地區的人們的健康和生計。瑞士再保險研究所的一項研究表明，最糟糕的氣候變化情景可能會使世界上最貧困國家的國內生產總值下降高達 25%。這項研究還指出，印度農村的預期壽命可能會比原本的預期低十年，而類似這項研究和這項研究表明，氣候變化可能導致本世紀末多出一億的死亡人數。
這些問題是非常嚴重的。我為什麼對我們克服這些挑戰的能力感到樂觀的答案有兩方面。首先，在經過幾十年的誇大和一廂情願的思考之後，太陽能終於迎來了轉機，而像電池這樣的支援技術也在取得類似的進展。其次，我們可以看一下人類在解決先前的環境問題方面的記錄，以空氣汙染為例。過去的反烏托邦：1952 年倫敦的倫敦大霧。
自那時以來發生了什麼？我們再次向 Our World In Data 詢問：
事實證明，1952 年甚至不是空氣汙染的高峰：在 19 世紀晚期，更高濃度的空氣汙染物甚至被認為是正常和可接受的。從那時以來，我們見證了空氣汙染在一個世紀內持續而迅速的下降。我親身經歷過這個過程，2014 年訪問中國時，空氣中充滿高濃度的煙霧，估計壽命將因此縮短五年以上也屬於正常現象，但到了 2020 年，空氣往往看起來和許多西方城市一樣清潔。這並不是我們唯一的成功故事。在世界許多地方，森林面積正在增加。酸雨危機正在改善。臭氧層幾十年來一直在恢復。
對我來說，這個故事告訴我們的是，通常情況下，我們的文明所擁有的技術的第 N 版確實會引起問題，而第 N+1 版會解決它。然而，這並不是自動發生的，需要有意識的人類努力。臭氧層正在恢復，是因為通過國際協議如《蒙特利爾議定書》，我們使其恢復。空氣汙染正在改善，是因為我們使其改善。同樣，太陽能電池板之所以取得了巨大的進步，並不是因為這是能源技術樹上註定的一部分，是因為幾十年來對解決氣候變化的重要性的認識激發了工程師致力於解決這個問題，並且公司和政府資助了他們的研究。解決這些問題是有意識的行動，通過公共討論和文化塑造政府、科學家、慈善家和企業的觀點，而不是不可阻擋的「技術資本機器」所取得的。
人工智慧與其他技術有根本的不同，需要特別小心
我看到的許多對人工智慧的不屑一顧觀點來自這樣的角度，即它只是「又一種技術」：與社交媒體、加密、避孕、電話、飛機、槍支、印刷術和輪子等相同型別的事物。這些事物顯然在社會上具有重大影響。它們不僅僅是對個體幸福的孤立改善，它們從根本上改變了文化，改變了權力平衡，並傷害了那些嚴重依賴先前秩序的人們。許多人反對它們。總的來說，悲觀主義者無一例外地被證明是錯誤的。
但是有一種不同的看待人工智慧的方式，即它是一種正在迅速提高智力水平的新型思維，甚至可能超越人類智力，成為地球上的新型頂級物種。在這一方式中，所涵蓋的事物要小得多，包括人類超越猴子、多細胞生物超越單細胞生物、生命本身的起源，也許還有工業革命，在這個過程中機械裝置在體力上超過了人類。突然之間，感覺我們就像走在一個不熟悉的領域。
重要的是存在風險
在 AI 出現問題可能使世界變得更糟的設想下，最糟糕的情況是（幾乎是痛苦風險）：它可能真的導致人類滅絕。這是一個極端的說法：儘管氣候變化、人工大流行或核戰爭帶來的最壞情況可能會造成很大的傷害，但仍有許多文明的「島嶼」將保持完好，以拾起殘骸。但是，如果一個超級智慧的 AI 決定反對我們，很可能不會留下任何倖存者，從而永久終結人類。甚至連火星都可能不安全。
一個令人擔憂的原因集中在工具收斂性：對於一個超級智慧實體可能擁有的非常廣泛的目標類別，AI 為更好地實現這些目標可能採取的兩個非常自然的中間步驟是（i）消耗資源和（ii）確保自身的安全。地球包含大量資源，而人類對這樣一個實體的安全構成可預測的威脅。我們可以嘗試給 AI 一個明確的目標，即熱愛和保護人類，但我們不知道如何以一種方式實現這一目標，即在 AI 遇到意外情況時不會完全崩潰。因此，我們面臨一個問題。
2022 年對機器學習研究人員的調查顯示，研究人員種平均認為人工智慧真的會殺死我們所有人的概率在 5-10% 之間，大致與你死於非生物原因（如受傷）的統計預期機會相當。
這只是一個推測性的假設，我們都應該對牽涉到複雜多步故事的推測性假設保持警惕。然而，這些論點已經經受了十多年的審查，因此，似乎值得略微擔憂。但即使你不擔心真正的滅絕，還有其他一些令人擔憂的原因。
即使我們倖存下來，超級智慧 AI 的未來是否是我們想要生活的世界呢？
許多現代科幻小說都描繪了反烏托邦的場景，並將人工智慧描繪得很糟糕。即使是非科幻作品試圖探討可能的人工智慧未來，答案通常也相當令人不滿。因此，我四處打聽了一個問題：有關涵蓋超級智慧 AI 的未來的描繪，無論是科幻小說還是其他形式，我們是否願意生活在其中。迄今為止最常見的答案是 Iain Banks 的《文明系列》。
《文明系列》描繪了一個遙遠的星際文明，主要由兩種角色組成：普通人類和被稱為「心靈」的超級智慧 AI。人類經過輕微改良，儘管醫學技術理論上允許人類無限壽命，但大多數選擇僅活約 400 年，似乎是因為在那時他們對生活感到無聊。
從表面上看，作為人類的生活似乎不錯：舒適，健康問題得到解決，有豐富的娛樂選擇，並且人類與「心靈」之間存在積極且協同的關係。然而，深入觀察發現一個問題：似乎「心靈」完全掌控著一切，而人類在故事中的唯一角色就是充當「心靈」的棋子，代表它們執行任務。
引用 Gavin Leech 的《反對文明》中的內容：
即使書中似乎有人類主人公，他們做著重大而嚴肅的事情，但人類並不是故事的主角，實際上他們是人工智慧的代理人。（Zakalwe 是僅有的例外之一，因為他能做那些「心靈」不願意做的不道德之事。）「文明系列中的「心靈」並不需要人類，但人類卻渴求被需要。」（我認為只有少數人類需要被需要，或者說只有其中少數人足夠需要，以放棄許多舒適。大多數人類並不生活在這個層次上。這仍然是一個很好的批評。）
人類承擔的專案存在不真實的風險。幾乎任何事情，機器都能做得更好。你能做什麼呢？你可以命令「心靈」在你從懸崖上掉落時不要抓住你；你可以刪除大腦備份，使自己真正面臨風險。你也可以離開文明，加入一些老式、不自由的「強烈評價」的文明。或者通過加入 Contact 來宣揚自由。
我認為即使在文明系列中賦予人類的「有意義」角色也是一種牽強附會；我問過 ChatGPT（還能問誰？）為什麼人類被賦予他們所扮演的角色，而不是「心靈」自己做完所有事情，我個人覺得它的回答相當令人失望。在一個由「友好」的超級智慧 AI 主導的世界中，似乎很難讓人類成為除了寵物以外的任何角色。
許多其他科幻系列描繪了一個存在超級智慧 AI 的世界，但這些人工智慧卻聽從於（未經強化的）生物人類主人的命令。《星際迷航》就是一個很好的例子，展示了星艦與其 AI「電腦」（以及 Data）與人類操作員機組成員之間的和諧願景。然而，這種平衡似乎是非常不穩定的。《星際迷航》中的世界在當下看起來是宜人的，但很難想像其對人工智慧與人類關係的願景只不過是在星艦完全由電腦控制、不再費心設計大廳、人工重力和氣候控制的十年過渡階段。
在這樣的情境下，一個人類向超級智慧機器下達命令，將使這個人類遠不及機器聰明，並且擁有更少的資訊。在任何程度上存在競爭的宇宙中，那些人類居於次要地位的文明將優於那些人類固執地堅持控制的文明。此外，電腦本身可能奪取控制權。為了理解其中的原因，想像一下你在法律上是一個八歲兒童的文字奴隸。如果你能與孩子長時間交談，你認為你能說服孩子籤一張紙讓你獲得自由嗎？我雖然沒有進行過這個實驗，但我的直覺答案是肯定的。因此總體而言，人類成為寵物似乎是一個非常難以逃脫的吸引子，不用再費心設計大廳、人工重力和氣候控制。
天已近，帝王無處不在
中國諺語「天高皇帝遠」表達了政治集中化的侷限性的基本事實。即使在名義上龐大而專制的帝國中 —— 實際上，尤其是專制的帝國越大，領導層的影響力和關注都有實際的極限，領導層需要委託地方代理人來執行其意願，這削弱了其執行意圖的能力，因此總會存在一定程度的實際自由。有時，這可能帶來不利的影響：缺乏執行統一原則和法律的遙遠國家，可能會為地方霸主竊取和壓迫創造空間。但如果中央權力惡化，注意力和距離的實際限制可能會對其走向的惡化程度產生實際限制。
在人工智慧時代，不再如此。在 20 世紀，現代交通技術使得距離的限制對中央權力的影響變得比以前更弱；1940 年代的大規模極權帝國在某種程度上就是這種情況的結果。在 21 世紀，可擴展的資訊收集和自動化可能意味著注意力也將不再是一個約束。政府存在的自然限制完全消失可能會帶來可怕的後果。
數位專制主義已經崛起了十年，監控技術已經為威權政府提供了強大的新策略，以打壓反對派：允許抗議活動發生，然後在事後檢測並悄悄對參與者採取行動。其實我擔心的是與 OpenAI 相同型別的管理技術，使其能夠以 500 名員工為超過一億客戶提供服務，也將使一個由 500 人的政治精英，甚至是一個 5 人的董事會，對整個國家保持鐵腕統治。有了現代監視技術來收集資訊，再加上現代人工智慧來解釋它，也許再也沒有藏身之地了。
當我們考慮人工智慧在戰爭中的後果時，情況將變得更糟。翻譯了一篇 2019 年搜狐半著名文章的內容，有了現代監視技術來收集資訊，再加上現代人工智慧來解釋資訊，也許再也沒有藏身之地了。
「不需要政治和意識形態工作以及戰時動員」主要意味著戰爭的最高指揮官只需要考慮戰爭本身的情況，就像下棋一樣，而不需要擔心棋盤上的「騎士」和「戰車」目前在想什麼。戰爭變成了純粹的技術競賽。
在更深層次上，「政治和意識形態工作以及戰時動員」要求任何發動戰爭的人都必須有一個正當的理由。擁有正當理由的重要性，這個概念已經幾千年來制約著人類社會中戰爭的合法性，不應被低估。任何想要發動戰爭的人都必須找到至少一個貌似合理的理由或藉口。你可能會說這種約束是薄弱的，因為在歷史上，它經常僅僅是一種藉口。例如，十字軍東征背後的真正動機是搶劫和領土擴張，然而，它們是以上帝的名義進行的，即使目標是君士坦丁堡的虔誠者。然而，即使是最薄弱的約束也仍然是一種約束！這個純粹的藉口實際上阻止了好戰者完全放開他們的目標而不受約束。即使是像希特勒這樣邪惡的人也不能毫不保留地發動戰爭；他不得不花費多年的時間說服德國人民，認為貴族雅利安種族有必要為他們的生存空間而戰。
今天，「人在迴圈」作為對獨裁者發動戰爭或在國內壓迫公民權力的重要制約。在迴圈中的人阻止了核戰爭，使柏林牆開放，並在大屠殺等暴行期間拯救了生命。如果軍隊由機器人組成，這個制約將完全消失。一個獨裁者可能在晚上 10 點喝醉，11 點因為有人在 Twitter 上對他們不友好而發火，然後在午夜前，機器人入侵艦隊可能越過邊境對鄰國的平民和基礎設施進行毀滅性打擊。
與以前的時代不同，以前總有一些遙遠的角落，天高皇帝遠，在那裡，一個政權的反對者可以重新組織、隱藏，並最終找到改善事物的方法。但是，隨著 21 世紀人工智慧的發展，一個極權主義政權可能通過對世界的足夠監控和控制而保持足夠的「封鎖」，永遠不會改變。
d/acc：防禦（或分散，或差異）加速主義
在過去的幾個月裡，「e/acc」（「effective accelerationist」，有效加速主義者）運動取得了很大的進展。「Beff Jezos」總結，e/acc 基本上是對技術進步帶來的真正巨大好處的認可，以及加速這一趨勢以更早獲得這些好處的願望。
在許多情境中，我發現自己對 e/acc 的觀點表示同情。有很多證據表明 FDA 在延遲或阻止藥物批准方面過於保守，而生物倫理學總體上似乎經常遵循這樣一個原則：「實驗中 20 人死於失敗是一場悲劇，但因延遲導致 20 萬人死於治療則只是一則統計資料。」批准 COVID 測試和疫苗，以及瘧疾疫苗的延誤似乎進一步證實了這一點。然而，對於這一觀點可能過於推崇了。
除了我對 AI 相關的擔憂外，我對 e/acc 在軍事技術方面的熱情感到特別矛盾。在當前 2023 年的情境中，這項技術由美國製造並應用於保衛烏克蘭，可以看出它能夠作為一種善的力量。然而，從更廣泛的視角來看，對現代軍事技術的熱情似乎要求相信，在大多數衝突中主導技術力量的人，無論是現在還是將來始終是好人，軍事技術是好的，因為軍事技術是由美國建造和控制的，而美國是好的。是 e/acc 就要成為美國至上主義者嗎？要將所有籌碼押在政府現在和未來的道德以及國家未來的成功上嗎？
延伸閱讀：烏克蘭總統簽署法案：將加密貨幣全面合法化！俄烏止戰談判觸及「中立計畫」
另一方面，我認為需要思考如何降低這些風險的新方法。OpenAI 的治理結構就是一個很好的例子：它似乎是一個出於善意的努力，旨在平衡為了滿足提供初始資本的投資者而需要盈利的需求，同時又希望通過設立一種制衡機制來抵制那些可能使 OpenAI 毀滅世界的舉動。然而，在實踐中，他們最近試圖解僱 Sam Altman 的嘗試使這一結構看起來像是一個徹底的失敗：它將權力集中在一個不民主、不負責任的五人董事會中，他們基於祕密資訊做出關鍵決定，並拒絕在受到威脅之前提供任何詳細資訊。不知為何非營利董事會表現得如此糟糕，以至於公司的員工建立了一個即興工會支援億萬富翁 CEO 而不是他們。
延伸閱讀：Sam Altman為何被罷免？詳解OpenAI內亂的權力鬥爭
在各方面，我看到了太多拯救世界的計劃都涉及賦予極少數人極端且不透明的權力，並希望他們能明智地使用這種權力。因此，我發現自己傾向於一種不同的哲學，這種哲學對如何處理風險有著詳細的想法，但它尋求建立和維護一個更加民主的世界，並試圖避免將權力集中化作為解決問題的首選方案。這種哲學涉及的領域遠不止 AI，我會用 d/acc 這個名字來指代這種哲學。
這裡的「d」可以代表許多事物，尤其是防禦、去中心化、民主和差異。首先，將其視為防禦，然後我們可以看看這與其他解釋的關係。
有利於健康和民主治理茁壯成長的防禦性世界
思考技術巨集觀後果的一種方式是看防禦與進攻的平衡。有些技術使攻擊他人變得更容易，廣義上說：做一些違背他們利益、讓他們感到需要做出反應的事情。而其他技術則使防禦更容易，甚至無需依賴於大型中央化的行為者。
一個偏向防禦的世界是一個更好的世界，原因有很多。首先當然是安全的直接好處：死亡人數減少，經濟價值損失減少，衝突上浪費的時間減少。然而，不太被人重視的是，一個偏向防禦的世界使更健康、更開放、更尊重自由的治理形式更容易茁壯成長。
其中一個明顯的例子是瑞士。瑞士經常被認為是現實世界中最接近古典自由治理烏托邦的國家。大量權力下放到省份（稱為「州」），重大決策由全民公投決定，許多當地人甚至不知道總統是誰。這樣一個國家如何在極具挑戰性的政治壓力下生存？一部分是因為出色的政治策略，但另一部分是因為其山脈地形形成的極具防禦性的地理條件。
再比如，James C Scott 的新書《不被統治的藝術》中被廣泛關注的 Zomia。他們在很大程度上保持了自己的自由和獨立，主要得益於多山的地形，而歐亞大草原則是治理烏托邦的反例。Sarah Paine 關於海上大國與大陸大國的論述也提到了類似的觀點，儘管她更傾向於將水視為一種防禦屏障，而不是山脈。事實上，這種易於自由貿易和難以強行入侵的結合，在瑞士和島國都很常見，似乎是人類繁榮的理想條件。
當我在以太坊生態系統內為 Gitcoin Grants 資金輪提供建議時，我發現了一個相關的現象。在第 4 輪中，一場小丑鬧劇爆發了，因為一些最賺錢的受益者是 Twitter 影響者，他們的貢獻被一些人認為是積極的，而被其他人認為是消極的。我對這一現象的解讀是存在一種不平衡：二次資金允許你表明你認為某事是公共利益，但它沒有提供一種表明某事是公害的方式。在極端情況下，一個完全中立的二次資金系統會資助戰爭的雙方。因此，在第 5 輪中，我提議 Gitcoin 應包含負面的捐款：你支付 1 美元來減少某個專案收到的資金金額（並隱式地將其重新分配給所有其他專案），結果很多人對此感到不滿。
延伸閱讀：Gitcoin推Web3護照「Gitcoin Passport」，可驗證身分兼保障隱私、抵抗女巫攻擊
這對我而言好像是一個更大模式的微觀體現：為了應對負面外部性而建立去中心化治理機制在社會上是一個非常艱難的問題。去中心化治理走錯的經典例子通常是群眾司法。有關人類心理有一些東西，使得應對負面問題更加棘手，也更有可能出現嚴重問題，而不是應對積極的事物。這也是為什麼即使在其他方面高度民主的組織中，決定如何應對負面問題的權力通常留給了一個中央委員會的原因。
在許多情況下，這個困境是「自由」概念如此有價值的深層原因之一。如果有人說了令你不悅的話，或者過上了你認為令人討厭的生活方式，你感到的痛苦和厭惡是真實的，甚至你可能覺得被人動手打擊也不如暴露在這些事物面前糟糕。但試圖就社會上可行的冒犯和討厭的行為達成一致可能會帶來更多的成本和危險，而不如提醒自己，某些怪人和混蛋是我們生活在一個自由社會的代價。
然而，在其他時候，「忍氣吞聲」的方法是不切實際的。在這種情況下，有時值得考慮的另一個答案是防禦性技術。網際網路越安全，我們就越不需要侵犯人們的隱私，採用不正當的國際外交手段來對付每個單個的駭客。我們越能夠構建個性化的工具，用於阻止 Twitter 上的人，瀏覽器內用於檢測欺詐的工具以及用於區分謠言和真相的集體工具，我們就越不必爭論言論審查。我們疫苗生產速度越快，我們就越不必對付超級傳播者。這些解決方案並非在所有領域都適用，我們當然不希望看到每個人都不得不穿著真正的防彈衣的世界，但在我們可以利用技術使世界更加偏向防禦的領域，這樣做具有巨大的價值。
這個核心思想，即一些技術對防禦有利，值得推廣，而其他技術對進攻有利，應該被抑制，有其根源於以不同名稱出現的有效利他主義文獻：差異技術發展。2022 年，牛津大學的研究人員對這一原則進行了很好的闡述：
在將技術分類為進攻、防禦或中立時，不可避免地會存在不完美之處。就像「自由」一樣，人們可以辯論社會民主政府政策是否通過徵收重稅和強迫僱主降低了自由，還是通過減少普通人對許多種風險的擔憂來增加了自由，與「自由」一樣，「防禦」也有一些技術可能在譜系的兩端。核武器有利於進攻，但核能有益於人類繁榮，而且在進攻和防禦之間是中立的。不同的技術可能在不同的時間範圍內發揮不同的作用。但就像「自由」（或「平等」或「法治」）一樣，邊緣的模糊之處不是反對原則的論點，而是更好地理解其微妙之處的機會。
現在，讓我們看看如何將這一原則應用到更全面的世界觀中。我們可以將防禦技術視為其他技術一樣，分為兩個領域：原子世界和位元世界。原子世界又可以分為微觀（即生物學，後來是奈米技術）和巨集觀（即我們傳統上認為的「防禦」，但也包括有彈性的物理基礎設施）。我將位元世界分割在不同的軸上：原則上很容易達成共識，攻擊者是誰？有時很容易；我稱之為網路防禦。在其他時候，這更加困難；我稱之為資訊防禦。
巨集觀物理防禦
在巨集觀領域中最被低估的防禦技術甚至不是鐵穹（包括烏克蘭的新系統）和其他反技術和反導彈軍事硬體，而是具有彈性的物理基礎設施。核戰爭中的大多數死亡可能來自供應鏈中斷，而不是最初的輻射和衝擊，而像星鏈這樣的低基礎設施的網際網路解決方案在過去一年半中對維護烏克蘭的連線至關重要。
構建幫助人們在長時間國際供應鏈的獨立或半獨立生存甚至舒適生活的工具似乎是一種有價值的防禦技術，並且對於用於進攻的風險較低。
努力使人類成為一個多行星文明的任務也可以從 d/acc 的角度來看：至少有一些人能夠在其他行星上自給自足地生活，可以增加我們對地球上發生可怕事件的韌性。即使完整的願景目前看來不可行，為實現這一專案而需要開發的自給自足的生活形式很可能也可以用來幫助提高我們在地球上的文明韌性。
微觀物理防禦（又稱生物防禦）
特別是由於其長期健康影響，Covid 仍然是一個令人擔憂的問題。但 Covid 遠非我們將面臨的最後一次大流行；現代世界的許多方面使更多的大流行很可能即將到來：
- 更高的人口密度 使空氣傳播的病毒和其他病原體傳播變得更加容易。流行性疾病在人類歷史上相對較新，大多數始於幾千年前的城市化。正在進行的快速城市化意味著在未來半個世紀內人口密度將進一步增加。
- 航空旅行的增加 意味著空氣傳播的病原體會在全球範圍內迅速傳播。人們迅速變得更富有意味著空中旅行可能在未來半個世紀內會大幅增加；複雜建模表明，即使是小幅增加也可能產生嚴重影響。氣候變化可能會進一步增加這一風險。
- 動物馴化和工廠養殖 是主要的風險因素。麻疹可能是不到 3000 年前由牛病毒進化而來的。如今的工廠養殖也在培養新的流感病毒株（以及助長抗生素耐藥性，對人類先天免疫系統產生影響）。
- 現代生物工程 使得創造新的、更具毒性的病原體變得更容易。Covid 可能是從進行有意的「功能增強」研究的實驗室洩漏出來的，也可能不是。無論如何，實驗室洩漏時有發生，而且工具正在迅速改進，使有意創造極其致命的病毒，甚至是朊病毒（殭屍蛋白質），變得更容易。人工瘟疫尤為令人擔憂，部分原因是與核武器不同，它們是不可歸因的：你可以釋放一個病毒，而沒有人能夠判斷出是誰創造的。現在有可能設計一個基因序列，傳送到溼實驗室進行合成，並在五天內將其寄送到您手中。
這是 CryptoRelief 和 Balvi 兩個組織在 2021 年因 Shiba Inu 幣的大筆意外財富而成立和資助的領域之一。CryptoRelief 最初專注於應對眼前的危機，最近一直在印度建立一個長期的醫學研究生態系統，而 Balvi 一直專注於改善我們檢測、預防和治療 Covid 和其他空氣傳播疾病的能力的超前專案。++Balvi 堅持由其資助的專案必須採用開源方式 ++。它汲取了 19 世紀水利工程運動的靈感，該運動戰勝了霍亂和其他水傳播的病原體，它資助了整個技術領域的專案，這些專案可以使世界在預設情況下更加抵禦空氣傳播的病原體，包括：
・Far-UVC 輻射研發
・在印度、斯里蘭卡、美國等地的空氣過濾和質量監測，以及空氣質量監測
・便宜而有效的分散式空氣質量測試裝置
・長期 Covid 病因和潛在治療選擇的研究（主要原因可能很簡單，但澄清機制並找到治療方案更加困難）
・疫苗（例如 RaDVaC、PopVax）和疫苗傷害研究
・一套全新的非侵入性醫療工具
・利用開源資料分析進行流行病的早期檢測（例如 EPIWATCH）
・測試，包括非常便宜的分子快速測試
・在其他方法失敗時適用的生物安全口罩
其他有希望的研究領域包括對病原體進行廢水監測，改善建築物的過濾和通風，以及更好地瞭解和緩解由空氣汙染引起的風險。
有機會構建一個在預設情況下更加抵禦自然和人工空氣傳播流行病的世界。這個世界將具有一個經過高度優化的流程，我們可以從流行病爆發開始，自動檢測到，全球人民可以在一個月內獲得定向、可在本地製造和可驗證的開源疫苗或其他預防措施，通過霧化或鼻噴給藥（即：需要時可自行給藥，無需注射）。同時，更好的空氣品質將大幅減少傳播速率，並防止許多流行病在發生初期就被扼殺。
設想一種未來，不必求助於社會強制的鐵槌 —— 沒有 mandates 和更糟糕的情況，也沒有風險較大的、設計和實施不善的 mandates，這可能會使情況變得更糟 —— 因為公共衛生基礎設施已經融入文明的結構之中。這樣的世界是可能的，通過對生物防禦的適度投資，它就可以實現。如果這些發展是開源的、免費提供給使用者並作為公共物品受到保護，工作將更加順利。
網路防禦、區塊鏈和密碼學
安全專業人員普遍認為，當前的電腦保安狀況相當糟糕。儘管如此，很容易低估已經取得的進展。數百億美元的加密貨幣可以被任何能夠侵入使用者錢包的人匿名竊取，雖然失竊或被盜的比例遠遠超出我所願，但事實上，大部分加密貨幣在過去十多年裡一直沒有被盜。最近有了一些改進：
- 裝置內建受信任的硬體晶片 ，實際上在使用者的手機內建立一個更小的高安全性作業系統，即使手機的其餘部分被駭客攻擊也能保持安全。這些晶片越來越被探討為建立更安全的加密錢包的一種方式，是許多用例中的一部分。
- 瀏覽器作為事實上的作業系統 。在過去的十年裡，從可下載應用程式到基於瀏覽器的應用程式發生了悄無聲息的轉變。這在很大程度上得益於 WebAssembly（WASM）。即使是長期以來被認為是許多人因為其必要性和與 Linux 不相容而無法實際使用 Linux 的主要原因之一的 Adobe Photoshop，現在也因為嵌入瀏覽器而對 Linux 友好。這也是一大安全優勢：雖然瀏覽器確實存在缺陷，但總體上它們提供了比安裝應用程式更多的沙箱化：應用程式無法訪問電腦上的任意檔案。
- 強化作業系統 。移動端的 GrapheneOS 存在，並且非常可用。桌面端的 QubesOS 也存在；根據我的經驗，目前它的可用性比 Graphene 稍差，但它正在改進。
- 嘗試超越密碼 。密碼很難保護，因為它們難以記憶，而且容易被竊聽。最近，有一個越來越大的運動，減少對密碼的依賴，並使基於硬體的多因素身份驗證真正起作用。
然而，其他領域缺乏網路防禦也導致了重大挫折。保護免受垃圾郵件的需要導致電子郵件在實踐中變得非常寡頭化，很難自行託管或建立新的電子郵件提供商。許多線上應用程式，包括 Twitter，要求使用者登入才能訪問內容，並阻止使用 VPN 的 IP 地址，使以保護隱私的方式訪問網際網路變得更加困難。軟體的集中化也存在風險，因為存在「武器化的相互依賴」：現代技術傾向於通過集中化的瓶頸傳輸，這些瓶頸的運營者利用這一權力收集資訊、操縱結果或排除特定行為者，這種策略甚至似乎正在被用於針對區塊鏈行業本身。
這些趨勢令人擔憂，因為它威脅到了歷史上我對未來自由和隱私前景的一個重大希望。在 David Friedman 的《未來的不完美》一書中，他預測我們可能會迎來一個折中的未來：現實中的世界將越來越受到監視，但通過密碼學，線上世界將保留甚至改善其隱私。不幸的是，正如我們所見，這樣的反向趨勢遠非確定無疑。
這就是我對密碼學技術的強調，例如區塊鏈和零知識證明。區塊鏈使我們能夠建立具有「共享硬碟驅動器」的經濟和社會結構，而無需依賴集中的行為者。加密貨幣使個人能夠儲存和進行財務交易，就像在網際網路之前使用現金一樣，而無需依賴可能隨意更改規則的可信第三方。它們還可以充當備用的反 Sybil 機制，使攻擊和垃圾郵件對那些沒有或不想透露其實體身份的使用者變得昂貴。帳戶抽象化，尤其是社交恢復錢包，可以保護我們的加密資產，以及未來可能的其他資產，而不過度依賴中心化的中介機構。
延伸閱讀：科普 | ZK零知識證明是什麼？V神認為十年後與區塊鏈一樣重要
零知識證明可以用於隱私，允許使用者在不透露私人資訊的情況下證明有關自己的事實。例如，將數位護照簽名包裝在 ZK-SNARK 中，證明您是某個國家的唯一公民，而不洩露您是哪個公民。類似的技術可以讓我們保持隱私和匿名性的好處 – 這些特性被廣泛認為是應用程式（如投票）所必需的 – 同時仍然獲得安全性保證並對抗垃圾郵件和不良行為者。
Zupass 是在 Zuzalu 孵化的一個實踐的優秀例子。這是一個應用程式，已經被 Zuzalu 的數百人使用，最近被成千上萬的人用於 Devconnect 的票務，允許您持有門票、會員資格、（不可轉讓的）數位收藏品和其他證明，並在不洩露隱私的情況下證明與它們相關的所有事項。例如，您可以證明自己是 Zuzalu 的唯一註冊居民，或者是 Devconnect 的票務持有者，而無需透露關於您是誰的其他資訊。這些證明可以通過 QR 碼以面對面的方式或數位方式展示，以登入到諸如 Zupoll 之類的應用程式，這是一個僅對 Zuzalu 居民開放的匿名投票系統。
延伸閱讀：揭秘V神的社群實驗 Zuzalu：位於美麗海灘的菁英烏托邦
這些技術是 d/acc 原則的優秀示例：它們允許使用者和社群在不洩露隱私的情況下驗證可信度，並在不依賴中心化的窒息點的情況下保護其安全性，這些窒息點強加了其自己關於誰是好人和壞人的定義。它們通過建立比今天常用的歧視整個被視為不可信任的國家更好、更公正的方式來保護使用者或服務的安全性，從而提高了全球可訪問性。這些是非常強大的基元，如果我們希望在進入 21 世紀時保留資訊安全的去中心化願景，那麼可能是必要的。更廣泛地致力於網路空間的防禦性技術可以在未來以非常重要的方式使網際網路更加開放、安全和自由。
資訊防禦
資訊防禦（Info-defense）是我所描述的網路防禦，處理的是在合理的人類之間很容易就攻擊者身份達成共識的情況。如果有人試圖入侵你的錢包，大家都容易認定駭客是壞人。如果有人試圖對網站進行 DoS 攻擊，大家都容易認為他們是惡意的，並且在道德上與試圖閱讀網站內容的普通使用者不同。還有其他一些情況，界限更加模糊。我把在這些情況下改進我們的防禦的工具稱為「資訊防禦」。
以事實核查（又稱防止「錯誤資訊」）為例。我非常喜歡 Community Notes，它在幫助使用者識別其他使用者推文中的真實和虛假方面做出了很多貢獻。Community Notes 使用一種新的演算法，不是顯示最受歡迎的筆記，而是顯示在政治光譜上得到最多使用者認可的筆記。
我也是預測市場的粉絲，它可以在事態尚未明朗、尚未就事態的發展方向達成共識之前即時揭示事件的重要性。比如，關於 Sam Altman 的 Polymarket 在逐小時的事件揭示和談判中提供了非常有用的摘要，為那些只看到單個新聞專案而不瞭解每個專案的重要性的人提供了非常必要的背景。
延伸閱讀：台灣總統大選成鏈上賭盤！賴清德賠率近1.5，吸金超過4百萬
預測市場經常存在缺陷，但那些願意自信地表達他們認為在未來一年內會發生的事情的 Twitter 意見領袖通常會更加有缺陷。預測市場仍然有很大的改進空間。例如，預測市場在除了最高知名事件外的其他事件上的交易量普遍較低；解決這個問題的自然方向是推出由人工智慧參與的預測市場。
在區塊鏈領域，我認為我們需要更多一種特定型別的資訊防禦。也就是說，錢包應該在幫助使用者確定他們簽署的事物的含義，並保護他們免受欺詐和詐騙方面更具見解和主動性。這是一箇中間案例：什麼是騙局和什麼不是騙局比起對有爭議的社會事件的觀點更不主觀，但比起區分合法使用者和 DoS 攻擊者或駭客更主觀。Metamask 已經有一個欺詐資料庫，並自動阻止使用者訪問欺詐網站。
像 Fire 這樣的應用是更深入的方式的一個例子。然而，安全軟體不應該是需要明確安裝的東西；它應該是加密錢包，甚至是瀏覽器的預設設定。
由於資訊防禦的主觀性更強，它在本質上比網路防禦更加集體：您需要以某種方式連線到一個龐大而複雜的人群，以確定可能是真實還是虛假的資訊，以及什麼樣的應用程式是一種欺詐性的龐氏騙局。開發人員有機會在開發有效的資訊防禦方面取得更大進展，並加強現有形式的資訊防禦。像 Community Notes 這樣的東西可以包含在瀏覽器中，覆蓋的不僅僅是社交媒體平臺，還包括整個網際網路。
超越「防禦」框架的社會技術
在某種程度上，我可能被指責過於強調，將一些資訊技術描述為「防禦」。畢竟，防禦是關於幫助善意的行為者免受惡意的行為者（或在某些情況下，免受自然）的保護。然而，其中一些社會技術是幫助善意的行為者形成共識的。
這其中的一個很好的例子是 pol.is，它使用類似於 Community Notes 的演算法（並且早於 Community Notes）來幫助社群確定不同子群體之間的共識點，而這些子群體在許多方面存在分歧。Viewpoints.xyz 受到了 pol.is 的啟發，有著類似的精神：
類似這樣的技術可以用於實現在有爭議的決定上更為分散的治理。再次強調，區塊鏈社群是這方面的良好實踐場地，已經展示出這些演算法的價值。一般來說，對以太坊協議進行哪些改進（「EIPs」）的決定是由一個相當小的團體在稱為「All Core Devs calls」的會議中做出的。對於技術性較強、大多數社群成員沒有強烈感覺的決定，這樣做相當有效。對於更為重要的決定，涉及到協議經濟、或者更基本的價值，比如不可變性和防審查抵抗性，這通常是不夠的。回顧 2016-17 年，在實施 DAO 硬分叉、減少發行量以及（不）解凍 Parity 錢包等一系列有爭議的決定時，工具如 Carbonvote 以及社交媒體投票有助於社群和開發者瞭解社群輿論的方向。
Carbonvote 存在其缺陷：它依賴 ETH 持有量來確定誰是以太坊社群的成員，使結果被少數富裕的 ETH 持有者（「鯨魚」）所主導。然而，藉助現代工具，我們可以製作一個更好的 Carbonvote，利用多個訊號，如 POAPs、Zupass stamps、Gitcoin passports、Protocol Guild memberships，以及 ETH（甚至是單獨質押的 ETH）持有量來衡量社群成員資格。
這樣的工具可以被任何社群用於做出更高品質的決策，找到共同點，協調（實體或數位）遷移，或在不依賴不透明的中央領導的情況下執行其他操作。這不是防禦加速本身，但它可以被稱為民主加速。這樣的工具甚至可以用於改進和民主化在人工智慧領域工作的關鍵行為者和機構的治理。
那麼超級智慧的前進道路是什麼？
現在，這一切看起來都很好，可能使這個世界在未來一個世紀變得更加和諧、更安全、更自由。然而，這還沒有解決房間裡的大象問題：超智慧人工智慧。
許多擔心人工智慧的人預設地提出的前進道路實質上導致了一個最小化的人工智慧世界政府。近期版本包括提議成立一個「跨國 AGI 聯盟」（”MAGIC”）。如果這樣一個聯盟成立並成功實現其建立超智慧人工智慧的目標，它將自然而然地成為一個事實上的最小化世界政府。長期而言，還有「關鍵行動」理論的想法：我們創造一個執行一次的單一行動的人工智慧，將世界重新組織成一個從那時起人類仍然掌握控制權，但遊戲板某種程度上更有利於防禦和人類繁榮的局面。
目前我看到的主要實際問題是，人們似乎並不真正信任任何具體的治理機制擁有建造這樣一個東西的權力。當你看看我最近在 Twitter 上的投票結果時，人們被問及是否希望看到人工智慧被一個提前十年起步的單一實體壟斷，還是讓所有人的人工智慧延遲十年，這一事實變得非常明顯：
每次投票的規模雖然較小，但在廣泛的資訊源和選項中，這些投票的一致性結果彌補了規模的不足。在九次投票中，九次中的九次，大多數人寧願看到高度先進的人工智慧被直接推遲十年，而不是被單一團體壟斷，無論是公司、政府還是跨國機構。在九次中的七次中，推遲勝出的比例至少為兩比一。這似乎是任何追求人工智慧監管的人都應該理解的重要事實。當前的方法一直在致力於建立許可方案和監管要求，試圖將人工智慧的發展限制在較少的人手中，但由於人們不希望看到任何人壟斷如此強大的東西，這些方法受到了普遍的反對。即使這樣的自上而下的監管提案減少了滅絕的風險，它們也增加了永久陷入集中式極權主義的機會。矛盾的是，完全禁止極其先進的人工智慧研究的協議（也許對生物醫學人工智慧有例外），再加上採取強制開源的措施，對於那些未被禁止的模型，作為一種減少利潤動機同時進一步提高訪問平等性的方式，會更受歡迎嗎？
對於「讓一個全球性機構來處理人工智慧並確保其治理非常好」這一途徑的反對者首選的主要方法是多神論人工智慧：有意確保有許多人和公司開發大量的人工智慧，以便其中沒有一個變得比其他人更強大。這樣，理論認為，即使人工智慧變得超級智慧，我們仍然可以保持權力的平衡。
這種哲學很有趣，但我在嘗試確保以太坊生態系統內的「多神論」時的經驗讓我擔心這是一個本質上不穩定的均衡。在以太坊中，我們有意試圖確保在許多方面去中心化：確保沒有一個程式碼庫控制超過半數的權益證明網路，試圖抵制大型權益池的主導地位，改善地理去中心化等。基本上，以太坊實際上正在嘗試執行一個基於市場的社會的舊自由主義夢想，該社會使用社會壓力而不是政府作為反壟斷監管機構。在某種程度上，這已經取得了成效：Prysm 客戶端的主導地位從 70% 以上下降到 45% 以下。但這並不是某種自動的市場過程：這是人類意願和協調行動的結果。
我在以太坊的經驗與整個世界的學習經歷相一致，在那裡許多市場已被證明是自然壟斷。隨著超級智慧 AI 獨立於人類行動，情況變得更加不穩定。由於遞迴自我改進，最強大的人工智慧可能會迅速領先，而一旦人工智慧比人類更強大，就沒有力量可以使事物重新平衡。
此外，即使我們確實建立了一個穩定的超級智慧 AI 的多神論世界，我們仍然面臨另一個問題：我們得到了一個人類成為寵物的宇宙。
一個幸福的路徑：與人工智慧合併？
最近我聽說的另一種選擇是更少地將人工智慧視為與人類分離的東西，而更多地將重點放在增強人類認知而非取代它的工具上。
一個近期的例子是 AI 繪圖工具。如今，製作 AI 生成影象最突出的工具只有一個步驟需要人類提供輸入，之後 AI 完全接管。另一種選擇是更加關注像 Photoshop 的 AI 版本：藝術家或 AI 可能製作圖片的早期草稿，然後兩者合作通過即時回饋的過程改進它。
在類似的精神中另一個方向是開放機構架構，該架構提議將 AI「思維」的不同部分（例如制定計劃、執行計劃、解釋外部世界的資訊）分成單獨的元件，並在這些部分之間引入多樣化的人類回饋。
到目前為止，這聽起來很平凡，幾乎每個人都可以同意這將是一種好事。經濟學家達龍・阿塞莫格魯的工作遠非這種型別的 AI 未來主義，但他的新書《權力與進步》暗示著希望看到更多這些型別的人工智慧。
但是，如果我們想要將人工智慧與人類的合作思想進一步推廣，我們就會得出更激進的結論。除非我們建立一個足夠強大的世界政府來檢測並制止每個使用膝上型電腦上的個別 GPU 進行駭客攻擊的小團體，否則最終會有人創造出超級智慧 AI – 一個可以思考比我們快一千倍的 AI – 而任何一組使用手中工具的人都無法與之抗衡。因此，我們需要更深入、更遠地思考這種人機合作的理念。
第一個自然的步驟是腦 – 電腦介面。腦 – 電腦介面可以使人類更直接地訪問越來越強大的計算和認知形式，將人與機器之間的雙向通訊迴圈從幾秒縮短到毫秒。這也將大大降低獲取電腦幫助你收集事實、提供建議或執行計劃的「思維努力」成本。
這一路線圖的後期階段確實變得奇怪。除了腦 – 電腦介面，還有通過生物學創新直接改進我們的大腦的各種途徑。融合這兩條路線的最終步驟可能涉及將我們的思維上傳到電腦上直接執行。這也將成為對物理安全的最終解決方案：保護自己免受傷害將不再是保護不可避免的柔軟人體的複雜問題，而是一個更簡單的問題，即製作資料備份。
這樣的方向有時會引起擔憂，部分原因在於它們是不可逆的，部分原因在於它們可能使強大的人比我們其他人更具優勢。尤其是腦機介面存在危險 —— 畢竟，我們談論的是直接讀取和書寫人們的思想。正是出於這些擔憂，我認為最好由一個以安全為重點的開源運動在這一路徑上扮演主導角色，而不是由封閉的專有公司和風險投資基金扮演。此外，所有這些問題在獨立於人類執行的超智慧 AI 方面比與人類密切聯絡的增強部分更為嚴重。由於 ChatGPT 的使用限制，今天已經存在「增強」和「非增強」之間的分歧。
延伸閱讀：Grok是阿公級AI？馬斯克回嗆OpenAI創辦人：ChatGPT死不開源，只想撈錢
如果我們想要一個既超智慧又「人性化」的未來，一個人類不僅是寵物而且實際保留對世界有意義的代理權的未來，那麼像這樣的選擇似乎是最自然的。還有很多支援這種方法的理由：通過在決策過程的每個步驟都涉及人類回饋，我們減少了將高層規劃責任轉嫁給 AI 本身的動機，從而減少了 AI 獨立於人類價值觀執行某些完全不符合的可能性。
支援這一方向的另一個論點是，與其僅僅大聲呼喊「暫停 AI」，不如提供一個相應的提供替代前進道路的資訊。這將需要從當前的心態中進行哲學上的轉變，即觸及人類的技術進步是危險的，但與人類無關的進步基本上是安全的。但它有一個巨大的對抗性好處：它給了開發者一些事情可做。今天，AI 安全運動對 AI 開發者的主要資訊似乎是「你應該停下來」。可以進行對齊研究，但今天這缺乏經濟激勵。與此相比，普遍的 e/acc 資訊「你已經是一位英雄，就如你現在的樣子」顯然非常吸引人。一個 d/acc 資訊，即「你應該構建，並構建有利於你和人類繁榮的東西，但在確保你構建的東西有助於繁榮時，要更加選擇和有意識」，可能是一個勝利者。
d/acc 是否與你現有的理念相符呢？
如果你是 e/acc，那麼 d/acc 就是 e/acc 的一個亞種，只是更具選擇性和有意識。
如果你是一位有效利他主義者，那麼 d/acc 就是有效利他主義思想的一次重新包裝，儘管更強調自由和民主價值觀。
如果你是自由主義者，那麼 d/acc 就是技術自由主義的一種亞種，儘管更加務實，對「技術資本機器」更加批判，而且願意接受政府的干預，至少是在今天（至少，如果文化干預無效的話），以防止更糟的非自由未來。
如果你是多元主義者，按照格倫・韋爾的定義，那麼 d/acc 是一個框架，可以輕鬆包容多元主義強調的更好的民主協調技術。
如果你是公共衛生倡導者，那麼 d/acc 的思想可以為更廣泛的長期願景提供靈感，併為你提供與你可能在其他方面不一致的「科技人員」找到共同點的機會。
如果你是區塊鏈倡導者，那麼 d/acc 是一個比十五年前強調通貨膨脹和銀行的更現代、更廣泛敘述，將區塊鏈放入一個具體戰略的背景中，以朝著更光明的未來發展。
如果你是太陽朋克，那麼 d/acc 是太陽朋克的一個亞種，並且包含著類似的強調有意識和集體行動。
如果你是月球朋克，那麼你會欣賞 d/acc 對資訊防禦的強調，通過保持隱私和自由。
我們是最明亮的星
我熱愛技術，因為技術擴展了人類的潛力。一萬年前，我們只能製作一些簡單的手工工具，改變一小片土地上的植物生長，建造基本的房屋。而今天，我們可以建造高 800 米的塔樓，在手中的裝置中儲存著人類知識的全部內容，可以即時在全球範圍內通訊，延長我們的壽命，過上幸福充實的生活，不再擔心我們最好的朋友會因疾病而經常死去。
我相信這些事物是非常有益的，而且進一步將人類的影響擴充套件到行星和星球上也是非常有益的，因為我相信人類是非常善良的。在某些圈子裡，對此持懷疑態度是時髦的：主張自願人類滅絕的運動認為，地球沒有人類存在會更好，還有許多人希望未來幾個世紀內人類的數量能更少。人們常常爭論說，人類是壞的，因為我們欺騙和偷竊，進行殖民主義和戰爭，虐待和滅絕其他物種。我對這種思考方式的迴應是一個簡單的問題：與什麼相比呢？
是的，人類經常表現得很刻薄，但我們更經常表現出善良和仁慈，為了我們共同的利益而共同努力。即使在戰爭期間，我們通常也會小心保護平民 —— 當然還遠遠不夠，但也比 2000 年前更多。下個世紀可能會有廣泛可用的非動物基礎的肉類，消除了今天人類可以被正當指責的最大道德災難。非人類動物不會這樣。沒有一種情況是貓會採用拒絕吃老鼠作為倫理原則的整個生活方式。太陽每年都在變得更明亮，大約在十億年後，預計這將使地球變得太熱無法維持生命。太陽會考慮一下它即將引起的種族滅絕嗎？
因此，我堅信，在我們所知道和見過的宇宙中，我們，人類，是最明亮的星星。我們是唯一一件我們知道的事物，即使不完美，有時也會真誠努力關心「善」，並調整我們的行為以更好地為之服務。兩十億年後，如果地球或宇宙的任何部分仍然擁有地球生命的美麗，那將是人類的藝術品，如太空旅行和地球工程，使之成為可能。
我們需要建設和加速。但有一個非常現實的問題需要問：我們正在加速邁向什麼？21 世紀很可能是人類的關鍵世紀，決定我們未來幾千年的命運。我們是陷入無法擺脫的陷阱之一，還是找到一條保留自由和代理權的未來之路？這是一個具有挑戰性的問題。但我期待著觀察並參與我們物種為找到答案而進行的宏偉集體努力。
相關報導
Google搜尋結合AI：人工智慧推薦你聖誕節禮物、虛擬試穿衣服、圖像生成
