万字雄文：以太坊创始人V神的技术乐观主义
神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。
编者按：自古以来，新技术的出现总会让人产生复杂感情。一种大体上属于停滞主义，认为现状基本上是安全的，技术是不好的，会给人类带来一个反乌托邦的未来；一种属于加速主义，认为危险在我们身后，需要靠技术加速前进，去到达乌托邦的未来。但以太坊创始人Vitalik Buterin（维塔利克·布特林，“V神”）提出了第三种观点：危险在我们身后，但前面是岔路口：有些通往好的目的地，有些通往坏的目的地，未来在于我们的选择。21世纪很可能是人类的关键世纪，是决定我们未来几千年命运的世纪。我们看看他是如何论证的。文章来自编译。
上个月，马克·安德森（Marc Andreessen）发表了他的“技术乐观主义宣言”，主张要重新点燃对技术的热情，并主张将市场和资本主义作为构建这种技术和推动人类走向更加光明未来的手段。这份宣言明确拒绝了宣言里面所描述的停滞意识形态——害怕进步，并将保护当今世界作为优先考虑事项。这份宣言受到了很多关注，包括诺亚·史密斯（Noah Smith）、罗宾·汉森（Robin Hanson）、约书亚·甘斯（Joshua Gans，较为积极）以及戴夫·卡普夫（Dave Karpf）、卢卡·罗佩克（Luca Ropek）、埃兹拉·克莱因（Ezra Klein，较为消极）等人均撰文做出回应。 James Pethokoukis 的《保守的未来主义者》以及 Palladium 的《是时候为了美好而建设了》与该宣言无关，但主题相似。本月，我们从发生在 OpenAI 的事件看到了类似的争论，里面牵涉到的主题很多都跟超级人工智能的危险以及 OpenAI 发展太快的可能性有关。
我自己对技术乐观主义是有好感的，但这种感觉又比较微妙。我相信，因为具备根本变革性的技术，未来将比现在更加光明，而且我也相信人类和人性。我拒绝这样的心态，也就是我们应该尽全力做到的最好的事情就是让世界大致保持今天的样子，只需要减少一些贪婪，提供更多的公共医疗保健。但是，我的看法是重要的不只有数量级，方向也很重要。与其他类型的技术相比，某些类型的技术能让世界变得更好的可靠性会更高。某些类型的技术如果发展得好，就可以减轻其他类型技术带来的负面影响。这个世界过分强调了某些技术发展方向，而对另一些技术发展方向重视不够。我们需要人类有意识地去来选择我们想要的方向，因为“利润最大化”这个公式不会自动去到我们想要的目的地。
反技术主义的观点：安全在我们身后，反乌托邦在我们前面。
加速主义者的观点：危险在我们身后，乌托邦在我们前面。
V神的观点：危险在我们身后，但前面是岔路口：有些通往好的目的地，有些通往坏的目的地。
在本文中，我将讨论技术乐观主义对我意味着什么。这包括了更宽泛的世界观，正是这种世界观激励着我在特定类型的区块链、密码学应用、社会技术，以及我感兴趣的其他科学领域开展工作。但对这个更广泛问题的看法也会对人工智能等许多其他领域产生影响。我们技术的快速进步可能会成为二十一世纪最重要的社会问题，所以审慎地思考这个话题是非常重要的。
技术很惊人，拖延技术的成本很高
在某些圈子里，人们普遍低估技术的好处，并主要把技术看作反乌托邦和风险根源来看待。在过去半个世纪的时间里，这往往源自对环境的担忧，或者源自对利益只会惠及富人，而富人将巩固对穷人的权力的担忧。最近，我看到自由主义者也开始担心起某些技术来了，因为担心这些技术会导致权力集中。这个月，我做了一点民意调查，我的问题是这个：如果一项技术因为太危险而不能自由使用，必须受到限制的话，你更愿意这项技术被垄断还是推迟十年应用？关于垄断，我提供了三种情形，分别是被国际机构垄断，被美国政府垄断，以及被某家大企业垄断。结果我惊讶地发现，不管是哪种垄断，大家都一致地压倒性地支持推迟应用。
所以，有时候我担心我们有点矫枉过正，很多人看不到该论点的反面：技术的好处确实巨大，而在我们可以衡量的那些维度上，好处远远超过了坏处，而且拖延的成本很高，哪怕只是推迟十年成本也会高到令人难以置信。
举个具体例子，我们来看一张预期寿命图表：
从中我们能看出什么？过去的这个世纪人类取得了真正巨大的进步。不管是历史上富裕、占主导地位的地区，还是贫穷、被剥削的地区，全世界都取得了进步。
有人指责技术制造或加剧了战争等灾难。但事实上，我们可以从图表上看出战争造成的死亡人数：一次是在 1910 年代（第一次世界大战），一次是在 1940 年代（第二次世界大战）。如果你仔细观察，也能看到西班牙流感等非军事悲剧的影响。但这张图清楚地表明了一件事：哪怕是如此可怕的灾难，也会被那个世纪以来食品、卫生、医疗以及基础设施方面不断进步的巨大量级所压倒。
我们日常生活的巨大改善也反映了这一点。多亏有了互联网，全世界大多数人都可以轻松获取二十年前无法获得的信息。由于国际支付与金融的改善，全球经济已变得更加便利。全球贫困正在迅速减少。有了在线地图后，我们不再需要担心在城里会迷路，如果你想快点回家，用手机马上就能打车。我们的财产正在数字化，我们的实物商品变得便宜，这意味着我们不再那么害怕东西会被偷了。网上购物缩小了全球大城市与世界其他地区之间获取商品的便利差距。自动化以各种方式为我们带来了永远会被低估的好处，也就是让我们的生活变得越来越便利。
无论是可量化的还是不可量化的，这些改进都十分巨大。在二十一世纪，很可能很快就会出现更大的改进。今天看来，终结衰老与疾病似乎是乌托邦。但从 1945 年诞生的计算机的角度来看，将芯片融入到几乎所有东西之内的现代时代似乎是乌托邦：甚至科幻电影也常常会把计算机设想成房间大小。如果生物技术在未来 75 年的进步与计算机在过去 75 年的进步幅度一样大的话，那么未来可能会更加令人印象深刻，超出几乎任何人的预期。
与此同时，对进步表示怀疑的观点往往会走向黑暗。哪怕是医学教科书，比如 20 世纪 90 年代的这本医学教科书，有时也会发表极端主张，否认两个世纪医学科学的价值，甚至认为拯救人类生命显然没有什么好处：
这本历史书的目的是记录许多世纪内妇产科的变化。关键词是“变化”，不是“进步”，因为进步意味着改善，但所有这些变化是否都有益存疑。此外，靠预防或治愈疾病拯救生命最终会导致人口过多和饥饿。
“增长限制”论是 20 世纪 70 年代提出的一个观点。这种观点认为，不断增长的人口和工业最终将耗尽地球有限的资源，最终激发了一些国家采取控制人口的政策。在早期时代，对人口过剩的担忧被用来为大规模屠杀辩护。这些自 1798 年以来一直争论不休的观点长期以来就被证明是错误的。
正是由于这些原因，作为出发点，我对减缓技术或人类进步的观点感到非常不安。鉴于各个行业之间的相互关联程度，即便是行业性的放缓也存在风险。因此，当我写下我将在这篇文章后面要论述的内容时，尽管有别于无论形式如何均拥护进步的热情，但这些都是我怀着沉重的心情发表的声明 —— 鉴于21 世纪的独特性，这些微妙差别值得大家思考。
尽管如此，在更广阔的图景下需要注意一个重要的微妙差别，尤其是当我们超越“技术作为一个整体是好的”，进入“哪些特定技术是好的？”这一主题时更要注意那些差别。在这里，我们需要讨论一下很多人主要关心的一个问题：环境。
环境以及协调意图的重要性
过去一百年来几乎一切的趋势都是变得越来越好，主要的例外之一是气候变化：
即便气温持续上升的悲观情景也不会真的导致人类灭绝。但这种情况造成的死亡可能会比大规模战争更多，并严重损害人民已经陷入困境的地区的健康与生计。瑞士再保险研究所（Swiss Re institute）的一项研究表明，气候变化的最坏情景最多可能会导致全球最贫穷国家的 GDP 降低 25% 左右。这项研究表明，印度农村地区的寿命可能比其他情况下缩短十年，而其他一些研究表明，到本世纪末，气候变化可能会导致一亿人的超额死亡。
这些问题都是大问题。对于为什么我对我们克服这些挑战的能力持乐观态度，我的回答有两点。首先，经过几十年的炒作与一厢情愿之后，太阳能终于迎来了转机，电池等支持技术也取得了类似的进展。其次，我们可以看看人类在解决之前的环境问题方面的记录。以空气污染为例。不妨回顾一下过去的反乌托邦：1952 年的伦敦大雾霾（Great Smog of London）。
自那以后发生了什么？让我们再问一下Our World In Data：
事实证明，1952 年甚至还不是雾霾的高峰：在 19 世纪末，更高浓度的空气污染物才刚刚被接受和正常化。从那以后，我们经历了一个世纪的持续快速下降。我在访问中国时亲身经历过这一点：2014年的时候，那里的空气雾霾还很严重，估计会导致预期寿命减少五年以上，但到了2020年，中国的空气看起来已经很干净，变得跟许多西方城市一样。这不是我们唯一的成功故事。在全球许多地方，森林面积正在增加。酸雨危机正在改善。几十年来，臭氧层一直在恢复中。
在我看来，这个故事的寓意就是这样。通常情况下，我们 N 版的文明技术确实会导致问题，但 N+1 版就会修复问题。不过，这些不会自动发生，而是需要人为的努力。臭氧层之所以正在恢复，是因为我们通过《蒙特利尔议定书》等国际协议让其得以恢复。空气污染之所以正在改善，因为我们在刻意改善。同样地，太阳能电池板并没有因为它是能源技术树中预定的一部分而得到很大的改善。太阳能电池板之所以变得越来越好，是因为几十年来人们意识到解决气候变化的重要性，从而促使工程师致力于解决这个问题，也促使公司和政府资助他们的研究。解决这些问题的是有意识的行动，通过公共话语和文化来协调，去塑造政府、科学家、慈善家和企业的观点，而不是无情的“技术资本机器”。
人工智能与其他技术有着根本的不同，值得特别小心
我看到的很多对人工智能的轻蔑态度都来自这样的观点：它“不过是又一种技术罢了”：跟社交媒体、加密货币、避孕、电话、飞机、枪支、印刷机与轮子属于同一类事物。这些事物显然具有非常重要的社会影响。这不仅仅是对个人福祉的一次改善：它们还从根本上改变了文化，改变了权力平衡，并给严重依赖之前秩序的人们造成了伤害。很多人反对它们。总的来说，悲观主义者的结果一贯都是错误的。
但可以用不同的方式来思考人工智能是什么：这是一种正在迅速获得智能的新型思维，而且很有可能会超越人类的智力，成为地球上新的顶尖物种。这一类事情的范围要小得多：我们可能会把人类超越猴子、多细胞生命超越单细胞生命、生命本身的起源，也许还包括机器在体力方面超越人类的工业革命纳入这类事件。突然间，感觉我们走到了一个人迹罕至的地方。
生存风险是件大事
人工智能出错可能会让世界变得更糟的一种情形（几乎）是最糟糕的：实际上可能会导致人类灭绝。这是一个极端说法：尽管气候变化、人为流行病或核战争等最坏情况可能造成很大伤害，但仍有许多文明岛屿完好无损，从而可以收拾残局。但超级智能的人工智能如果决定与我们为敌的话，很可能人类将没有幸存者，并从而彻底终结。哪怕是火星也可能不安全。
值得担心的一个重要原因集中在工具的融合上：鉴于超级智能实体可能会制订非常广泛的目标，人工智能可以采取两个非常自然的中间步骤来更好地实现这些目标，即（i）消耗资源，以及（ii）确保其安全。地球蕴藏着大量资源，而人类对地球的安全构成了可预见的威胁。我们可以尝试给人工智能设定一个明确的爱人类和保护人类的目标，但实践上我们不知道如何才能做到这一点，不知道如何才能确保人工智能遇到意外情况的时候不会完全崩溃。因此，我们遇到了麻烦。
MIRI 研究员 Rob Bensinger 试图说明不同的人对人工智能杀死所有人或做出几乎同样糟糕的事情的可能性是如何估计的。很多立场都是对人们的公开声明的粗略估计，但许多其他立场也公开给出了他们的精确估计；不少人给出的“厄运概率”超过了25%。
2022 年对机器学习研究人员的一项调查显示，平均而言，研究人员认为人工智能灭绝人类的机率为 5-10%：这个数字与统计上预期的非生物原因（如受伤）死亡概率大致相同。
这些都属于推测性假设，我们都应该警惕牵涉到复杂的多步骤故事的推测性假设。不过，这些论点已经经受了十多年的审查，因此，似乎至少值得有一点担心。但就算你不担心真正的灭绝，也有其他原因让你感到害怕。
即便我们能生存下来，我们想生活在超级人工智能的未来吗？
许多现代科幻小说都是反乌托邦的，对人工智能的描述很糟糕。即便是非科幻小说，在试图确定人工智能的未来时，也常常给出相当不吸引人的答案。所以我到处找人问这个问题：关于我们所希望生活的，出现了超级人工智能之后的未来，无论是科幻小说或者其他形式，对这个未来的描述是怎样的？迄今为止最常出现的答案是伊恩·班克斯（Iain Banks）的《文化》系列。
《文化》系列讲述了一个遥远未来的星际文明，里面主要有两种角色：普通人类以及被称为“心智”（Minds）的超级智能人工智能。人类得到了增强，但只是增强了一点：医疗技术理论上可以让人类无限期地生存下去，但大多数人选择只活 400 年左右，似乎是因为他们对那时候的生活已经感到厌倦。
从表面上看，人类的生活似乎很美好：生活很舒适，健康问题得到了照顾，娱乐选择多种多样，人与“心智”之间存在着积极的协同关系。不过，一旦我们深入思考，就会发现一个问题：似乎“心灵”完全掌控了一切，而人类在故事中的唯一角色就是充当“心灵”的棋子，替其执行任务。
引自加文·里奇（Gavin Leech）的《驳文化》：
人类并不是主角。即便书里面似乎有一个主角是人类，做着严肃的大事，但他们实际上是人工智能的代理。 （Zakalwe是其中的例外之一，因为他可以做“心智”不想做的那些不道德的事情。）“《文化》里面的“心智”（Mind）不需要人类，但人类有被需要的需要。” （我认为只有一小部分人有被需要的需要——或者说，只有一小部分人对被需要的需要高到愿意放弃许多舒适。大多数人不会按照这种尺度生活。这依然是个很好的批评。）
人类承担的项目存在的风险是不真实的。他们做的几乎任何事情机器都可以做得更好。你能做什么？如果你正在攀岩，突然掉了下来，你可以命令“心智”不要接住你；你可以删除你的脑子的备份，这样你就是真的在冒险了。你也可以离开“文化”（Culture），重新加入一些老式的、不自由的“强烈评价”的文明。另一种选择是通过加入“接触”（Contact）来传播自由。
我认为，即便是《文化》系列赋予人类的“有意义”的角色也是一种延伸。我问 ChatGPT为什么人类会被赋予所被赋予的角色，而不是由“心智”自己把所有的事情都做完，我个人发现它给出的答案相当平淡。在一个由人工智能主导的“友好”的超级智能世界里，人类只能充当宠物的情况似乎很难出现。
V神不想看到的世界——纵轴是人类影响世界的能力，横轴是时间。
很多其他的科幻系列都假设了这样一个世界：存在超级智能人工智能，但会接受（未增强的）生物人类大师的命令。 《星际迷航》就是一个很好的例子，它展示了带有人工智能“计算机”（和数据）的星际飞船与人类操作员之间和谐相处的愿景。不过，这感觉像是一种极其不稳定的平衡。 《星际迷航》的世界目前看来是田园诗般的美好，但很容易想象它对人类与人工智能关系的愿景只是一个过渡阶段——十年后，星际飞船将完全由计算机控制，并且可以不再为宽敞的走廊、人造重力以及气候控制这些东西烦扰。
向超级智能机器发出命令的人类远不如机器聪明，而且能获取的信息也更少。在一个存在任何程度竞争的宇宙中，人类处于次要地位的文明将胜过那些人类顽固地坚持控制的文明。此外，计算机本身可能会夺取控制权。想知道为什么？想象一下你在法律上是一个八岁孩子的奴隶。如果你能够跟那个小孩长时间地交谈，你觉得自己能说服那小孩在让你获得自由身地契约书上签字吗？我没有进行过这个实验，但我本能的回答是肯定的。总而言之，人类成为宠物似乎是一个很难逃脱的吸引力。
天已近，皇帝无处不在
中国有句俗话叫做“天高皇帝远”，这句话概括了政治集权局限性的基本事实。即便在一个名义上十分庞大的专制帝国里——事实上，特别是如果专制帝国规模很大，领导人的影响力和注意力也存在实际限制，从而需要委托当地代理人来执行其意志，这削弱了后者执行其意图的能力，因此总有一些地方存在一定程度的实际自由。有时候，这可能会带来负面影响：天高皇帝远导致执行缺乏统一原则和法律，可能会为地主恶霸的盗抢和压迫创造空间。但如果那种集中化的权力恶化的话，注意力和距离的实际限制可能会限制其恶化程度。
有了人工智能之后，情况就不再是这样了。二十世纪，现代交通技术使得距离的限制对中央集权的约束比以前弱了许多。在二十一世纪，可扩展的信息收集和自动化可能意味着注意力也将不再是一种限制。政府的自然限制完全消失的后果可能也很可怕。
数字威权主义已经兴起十年了，我的一个担心的是，让只有500人的 OpenAI为一亿多客户提供服务的同一种管理技术，也能让 500 人的政治精英，甚至 5 个人的董事会维系覆盖范围广阔的铁腕政策。有了现代监控来收集信息，有了现代人工智能来解释信息之后，可能你我再无藏身之处了。
当我们考虑到人工智能对战争造成的后果时，情况还会变得更加糟糕。引用 0xAlpha 一篇关于人工智能和加密货币哲学的半知名文章：
在不需要政治思想工作和战争动员的情况下，战争最高统帅只需把局势本身当作一盘棋来考虑即可，完全不需要顾及棋盘上的棋子、骑士、车的思想和情绪。战争变成了纯粹的技术游戏。
此外，政治思想工作和战争动员还需要想要发动战争的人想出理由。不要低估这种“正当理由”的重要性。几千年来，这一直是人类社会战争的合法性约束。任何人想要发动战争都必须有理由，或者至少有一个表面上合理的借口。你可能会说这个约束太弱了，因为在很多情况下，这只不过是一个借口。比方说，部分（如果不是全部）十字军东征确实是为了占领土地、掠夺财富，但这些东征必须以上帝的名义进行，即便被掠夺的城市是上帝的君士坦丁堡。但是，弱约束就算再弱仍然是约束！光是这个小小的借口要求实际上也阻止了战争制造者完全不择手段地实现自己的目标。即便像希特勒这样的邪恶势力也不可能马上发动战争，他必须先花费数年的时间，试图说服德国民族为高贵的雅利安人种争取生存空间。
如今，“循环当中的人”成为了一个重要的制衡手段。循环当中的人阻止了核战争，推倒了柏林墙，并拯救人于大屠杀等暴行之中。如果军队是机器人的话，那么这项检查就完全没有了。如果决策者是人，他可能会在晚上 10 点去买醉，晚上 11 点在推特上发泄对大家的刻薄感到不满，但机器人入侵部队可能会在临近午夜就越过边境，向邻国的平民和基础设施倾泻地狱之火。
以前的时代总有一些遥远的角落，那里天高皇帝远，反对者可以在那里隐藏起来，重新集结，并最终找到一种办法让事情变得好，而在21世纪人工智能的加持下，作恶者有可能永久“锁定”我们。
d/acc：防御性（或去中心化，差异化）加速主义
在过去几个月的时间里，“e/acc”（“有效加速主义者”）运动获得了很大的支持。 “Beff Jezos”总结道，e/acc 从根本上来说是认识到技术进步带来的真正巨大的好处，因此渴望加速这一趋势，从而更快地兑现这些好处。
我在很多情况下都认同 e/acc 派的观点。有大量证据表明 FDA 在推迟或阻止药物批准方面过于保守，而生物伦理学似乎常常遵循这样的原则：“医学实验出错导致20人死亡属于悲剧。但20万人因拯救生命地治疗被延误而死亡只是一个统计数字”。新冠检测于疫苗以及疟疾疫苗批准的延迟似乎进一步证实了这一点。不过，现在可能已经有点扯远了。
另一方面，我认为需要新的方法来思考如何降低这些风险。 OpenAI 的治理结构就是一个很好的例子：看起来这种结构似乎是一种善意努力，旨在既能满足提供初始资本的投资者的盈利愿望的需要，并阻止前者可能会让OpenAI 毁掉全世界而采取举动所带来的风险。不过，在实践中，他们最近却尝试解雇山姆·阿尔特曼（Sam Altman），让这种董事会结构看起来像是一个彻底的失败：这种结构将权力集中在一个由五人组成的不民主且不负责任的董事会，并根据不公开的信息做出关键决策，且拒绝透露其任何细节，直到员工威胁要集体辞职为止。不知何故，非营利组织的董事会表现得如此糟糕，以至于改公司的员工临时成立了一个事实上的工会……站在亿万富翁首席执行官这边去反对他们。
总的来说，我看到有太多拯救世界的计划会赋予一小群人极端和不透明的权力，并希望他们能明智地运用这种权力。所以，我现在被一种不同的哲学吸引了。这种哲学对于如何应对风险有详细的想法，但它寻求建立和维护一个更加民主的世界，并试图避免将权力集中作为解决我们问题的首选。这个理念的范畴超越了人工智能，我认为即便在人工智能风险担忧基本上没有根据的世界里也是适用的。我会用 d/acc 来指代这一哲学。
dacc3
这里的“d”可以代表很多东西；尤其是防御（defense）、去中心化（decentralization）、民主（democracy）以及差异化（differential）。首先，把它当作防御性，然后我们可以看看这与其他解释有何联系。
有利于防御的世界有助于健康和民主的治理繁荣
思考技术宏观后果的一个框架是从防御与进攻的平衡去看待。从广义上来讲，某些技术会让攻击他人变得更容易：做了违背他们利益的事情，让他们觉得有必要做出反应。其他一些则可让防御变得更容易，甚至在不依赖大型集中化参与者的情况下进行防御。
出于多种原因，有利于防御的世界是一个更好的世界。首先当然是安全的直接好处：死的人更少，被破坏的的经济价值更少，浪费在冲突上的时间更少。但大家比较少意识到的是，一个有利于防御的世界会让更健康、更开放、更尊重自由的治理形式更容易蓬勃发展。
一个明显的例子是瑞士。瑞士通常被认为是现实世界当中最接近古典自由主义治理乌托邦的国家。大量权力被下放给各省（叫做“州”），重大决策由公民投票决定，许多当地人甚至连总统是谁都不知道。像这样的国家如何能够承受极具挑战性的政治压力？部分是因为有出色的政治战略，但另一个主要原因在于瑞士的山地地形非常有利于防御。
国旗大大加分。但那里的山脉也是如此。
詹姆斯·C·斯科特（James C Scott）的新书《不受统治的艺术》（The Art of Not Being Governed）对佐米亚（Zomia）的无政府主义社会进行了描述，这是另一个例子：他们也能保持自由和独立，这在很大程度上要归功于山区地形。与此同时，欧亚草原与治理乌托邦完全相反。莎拉·潘恩对海上强国与陆地强国的阐述也提出了类似的观点，尽管重点是把水作为防御屏障，而不是山脉。事实上，自愿贸易的便利性于非自愿入侵的难度相结合，对于瑞士和岛国来说都是一样的，这似乎是人类繁荣的理想选择。
在为以太坊生态体系内的二次融资实验提供建议时，我发现了一个相关的现象：尤其是 Gitcoin Grants 融资的轮次。在第四轮融资时，部分收入最高的接受者是 Twitter 网红，这些人的贡献被部分人视为积极，被另一部分则视为消极，由此引发了一场小型丑闻。我自己对这种现象的解释是，这里面存在着一种不平衡：四次融资可以让你发出信号：某件事是公益，但它没法发信号表明某件事是公恶。在极端情况下，完全中立的四次融资系统将会为战争双方提供资金。因此，对于第 5 轮融资，我建议 Gitcoin 应该包含负贡献：你支付 1 美元来减少给定项目收到的资金量（并隐式地将其重新分配给所有其他项目）。其结果是：很多人讨厌它。
第五轮融资之后流传的众多互联网模因之一，引入负面投票之后融资方再也乐不起来了。
在我看来，这似乎是一个更大模式的缩影：社会学而言，建立去中心化的治理机制来应对负外部性是一个非常困难的问题。去中心化治理出错的首选例子是暴民正义，这是有原因的。人类心理学当中有些东西使得对消极情绪的反应要比对积极情绪的反应更加棘手，而且更有可能出错。这就是为什么即便在高度民主的组织里，如何应对负面影响的决定也往往由集中化的委员会来决定。
在很多情况下，这个难题是“自由”的概念如此有价值的深层原因之一。如果有人说了一些冒犯你的话，或者过着一种你认为令人厌恶的生活方式，你感受到的痛苦和厌恶是真实的，你甚至可能会发现挨打一顿也比接触这些事情好一些。但是，如果你试图就哪些类型的冒犯和厌恶行为需要社会采取行动达成一致的话，其代价与危险性要比干脆提醒自己某些怪人和混蛋是我们生活在这样一个社会需要付出的代价要高得多。
不过，在其他一些时候，“笑着忍受这一切”的做法是不现实的。在这种情况下，有时候值得关注的另一个答案是防御性技术。互联网越安全，我们就越不需要侵犯别人的隐私，用不正当的国际外交策略来追捕每个黑客。我们越能开发用于在 Twitter 上屏蔽用户的个性化工具、用于检测诈骗的浏览器内置工具，以及用于区分虚假信息和真相的集体工具，就越不需要与审查制度作斗争。我们制造疫苗的速度越快，我们就越不需要追捕超级传播者。这样的解决方案并不是所有领域都适用——我们当然不想要一个人人都必须穿着真正的防弹衣的世界——但在可以开发技术让世界对防御更有利的领域，这样做是有巨大价值的。
这个核心理念，也就是某些技术有利于防御，值得推广，而另一些技术有利于进攻，应该予以阻止，是植根于有效的利他主义文献之中的，只不过里面的名称不一样：叫做差异化技术开发（differential technology development）。牛津大学的研究人员 2022 年曾对这一原则进行过很好的阐述：
图 1：差异化技术开发减少负面社会影响的机制。分别用安全技术、防御性技术以及替代性技术应对会增加风险的技术
将技术分类为进攻性、防御性或中性时，不可避免会存在缺陷。就像“自由”一样，人们可以争论社会民主党政府的政策是通过征收重税、胁迫雇主来减少自由，还是通过减少普通人对多种风险的担忧来增加自由，“防御”也有一些技术可能同时属于谱系的两头。核武器有利于进攻，但核能有利于人类繁荣，所以是中立的。不同的技术在不同的时间范围内可能会发挥不同的作用。但就像“自由”（或“平等”或“法治”）一样，在边缘的模糊性与其说是反对这一原则的论据，不如说是一个更好地理解其微妙差别的机会。
现在，我们来看看如何将这一原则应用到更全面的世界观里面。就像其他技术一样，我们可以将防御性技术分成两个领域：原子世界与比特世界。反过来，原子世界又可以分为微观世界（比如生物学，后来的纳米技术）和宏观世界（也就是我们通常认为的“国防”，但也包括有弹性的物理基础设施）。我会在不同的轴上划分比特的世界：在原则上同意攻击者是谁会有多困难？有时候很容易，我称之为网络防御。其他时候则比较困难；我称之为信息防御。
宏观物理防御
宏观领域最被低估的防御技术甚至不是铁穹（包括乌克兰的新系统）和其他反技术和反导军事硬件，而是有弹性的物理基础设施。核战争造成的大部分死亡可能来自供应链中断，而不是一开始的辐射和爆炸，而像星链这样的低基础设施互联网解决方案在过去一年半的时间里发挥了至关重要的作用。
开发工具来帮助人们独立或半独立于冗长的国际供应链而生存，甚至过上舒适的生活，这似乎是一项有价值的防御技术，而且最后被证明是对进攻有用的风险很低。
让人类成为多行星文明的追求也可以从d/acc的角度来看待：让我们当中的至少部分人在其他星球上自给自足地生活可以增强我们抵御地球上发生可怕事情的能力。即便这个愿景暂时被证明不可行，为让这一项目成为可能而需要开发的自给自足的生活形式很可能也有助于提高我们地球文明的复原力。
微观物理防御（又名生物防御）
尤其是由于对健康的长期影响，新冠病毒仍然是一个令人担忧的问题。但新冠疫情还远不是我们将面临的最后一场流行病。现代世界的许多方面都可能导致更多的流行病即将到来：
较高的人口密度导致空气中的病毒和其他病原体更容易传播。流行病在人类历史上相对较新，大多数都始于几千年前的城市化。持续快速的城市化意味着人口密度将在未来半个世纪进一步增加。
航空旅行的增加意味着空气的病原体在全球范围内迅速传播。人们迅速变得富裕意味着未来半个世纪航空旅行可能会进一步增加；复杂性模型表明，即便是很小的增长也可能产生巨大影响。气候变化可能会进一步增加这种风险。
动物驯化和工厂化养殖是主要的风险因素。麻疹可能是由不到 3000 年前的牛病毒进化而来的。今天的工厂化农场也在养殖新的流感病毒株（并加剧抗生素的耐药性，从而对人类先天免疫力产生影响）。
现代的生物工程令创造新的、毒性更强的病原体变得更加容易。不管怎样，实验室泄露事件时有发生，而且工具正在迅速改进，使得故意制造极其致命的病毒，甚至朊病毒（僵尸蛋白）变得更加容易。人为瘟疫尤其令人担忧，部分是因为与核武器不同，这些是无法归因的：你可以释放病毒，但没人能知道是谁创造了病毒。现在有可能设计一个基因序列并将其发送到实验室进行合成，并在五天内把病毒发给你。
在这个领域，CryptoRelief 和 Balvi 这两个组织是因为在 2021 年意外获得了大量柴犬币而成立的，它们一直非常活跃。 CryptoRelief 一开始专注于应对眼前的危机，最近在印度建立了一个长期的医学研究生态体系，而 Balvi 一直专注于登月项目，目的是提高我们检测、预防和治疗新冠病毒以及其他空气传播疾病的能力。 ++Balvi 坚持认为其资助的项目必须是开源的++。受 19 世纪战胜霍乱和其他水传播病原体的水工程运动的启发，它资助了一系列可以让世界在默认情况下强化抵御空气传播的病原体能力的技术项目（参见：更新 1 和更新 2），包括：
远UVC照射研发
在印度、斯里兰卡、美国等地进行空气过滤和质量监测，并开展空气质量监测
廉价高效的去中心化空气质量检测设备
研究长新冠的病因于潜在的治疗方案（主要原因可能很简单，但澄清机制和寻找治疗方法比较困难）
疫苗（比方说 RaDVaC、PopVax）以及疫苗损伤研究
一套全新的非侵入性医疗工具
利用开源数据分析及早发现流行病（比方说 EPIWATCH）
测试，包括非常便宜的分子快速测试
当其他方法失败时，符合生物安全的口罩
其他有前景的领域包括病原体废水监测、改善建筑物的过滤和通风，以及更好地了解和减轻空气质量不佳带来的风险。
默认情况下，我们有机会建立一个对空气传播的流行病抵御能力更强的世界。这个世界将以高度优化的管道为特色，我们可以从疾病流行开始，自动检测出病毒，然后让世界各地的人们通过雾化或鼻喷雾施用有针对性的、本地制造的、可验证的开源疫苗或其他预防措施（意思是：如果需要的话，可以自行给药，不需要打针），所有这些都刻意在一个月内完成。与此同时，更好的空气质量将大大降低传播速度，并阻止许多流行病的蔓延。
想象一个不必诉诸社会强制大锤的未来——没有强制措施甚至更糟的举措，也没有设计与实施不当的强制措施的风险，后者可能会让事情变得更糟——因为公共卫生基础设施已融入文明的结构之中。这样的世界是可能的，只需向生物防御提供中等规模的资金就可以实现这一目标。如果开发是开源的、免费向用户开放并作为公共产品受到保护，那么这项工作会进展得更加顺利。
网络防御、区块链以及加密
安全专业人士普遍认为，当前的计算机安全状况非常糟糕。话虽如此，我们很容易会低估所取得的进展。任何人只要能侵入用户钱包都可以匿名窃取数千亿美元的加密货币，虽然丢失或被盗的数量比我想象的要多得多，但事实上，大部分的加密货币在过去十年多年都没有被盗。最近，还有了一些改进：
用户手机内的可信硬件芯片，实际上是在手机内建立了一个更小的高安全的操作系统，即便手机的其余部分遭到黑客攻击，这个操作系统也能受到保护。在许多其他用例里，人们正在不断探索这些芯片作为制造更安全的加密钱包的方法。
浏览器已成为事实上的操作系统。过去十年，趋势已经悄然从可下载应用发展成浏览器内应用。这在很大程度上是靠 WebAssembly (WASM) 促成的。即便是 Adobe Photoshop，这个长期以来一直被认为是很多人没法转用 Linux 的主要原因（与 Linux 不兼容），现在移植到浏览器上之后也变得对 Linux 友好了。这也是一个巨大的安全优势：虽然浏览器确实存在缺陷，但相对于已安装应用浏览器有更多的沙箱：浏览器上的应用没法任意访问计算机上的文件。
强化的操作系统。用于移动设备的 GrapheneOS 已经存在，而且非常有用。桌面版 QubesOS 已存在；至少根据我的经验，目前桌面版的可用性比Graphene要差一些，但正在改进。
尝试密码之外的手段。很不幸，密码很难保护，因为很难记住，而且很容易被窃听。最近，越来越多的人开始不那么强调密码，而是用基于硬件的多因子身份验证来发挥真正作用。
不过，其他领域缺乏网络防御也导致了重大挫折。防范垃圾邮件的需要导致电子邮件在实践中寡头垄断非常严重，这又导致了自我托管或建立新的电子邮件提供商变得非常困难。很多在线应用（包括 Twitter）要求用户登录才能访问内容，并阻止 VPN 的 IP，从而令以保护隐私的方式访问互联网变得更加困难。软件集中化也因为“把相互依赖武器化”而存在风险：现代技术往往要经过集中的阻塞点，而这些阻塞点的运营商正在利用这种权力来收集信息、操纵结果或排除特定参与者——这条策略目前甚至似乎被用来对抗区块链行业本身了（编者注：比如加密货币的大型交易所变成了打击对象）。
这些都是令人担忧的趋势，因为它威胁到了我历来的最大希望之一，也就是尽管需要深度的权衡取舍，为什么自由和隐私的未来可能依然是光明的。大卫·弗里德曼（David Friedman）在他的《不完美的未来》（Future Imperfect）一书中曾预测，我们可能会得到一个妥协的未来：现实世界受到的监视会越来越多，但通过加密，网络世界的隐私仍将得以保留甚至改善。不幸的是，正如我们所看到那样，远不能保证不会出现这种反趋势。
所以我才会强调区块链与零知识证明等加密技术。区块链让我们能够通过“共享硬盘”建立经济和社会结构，而不必依赖中心化的参与者。加密货币可以让个人存钱并进行金融交易，就像在互联网出现之前对现金的使用一样，而不必依赖于可以随心所欲改变规则的可信第三方。它们还可以充当后备反女巫机制，使得即便对于没有或不想透露其真实空间身份的用户来说，攻击和垃圾邮件也会变得昂贵。账户抽象，尤其是社交恢复钱包，可以保护我们的加密资产以及未来潜在的其他资产，而无需过度依赖中心化的中介机构。
零知识证明可以用于隐私，允许用户在不泄露私人信息的情况下证明关于自己的事情。比方说，将数字护照签名封装在 ZK-SNARK 里面，就可以证明你是特定国家/地区的唯一公民，而不需要透露你是哪里的公民。这样的技术可以让我们保持隐私和匿名的好处——这些属性被广泛认为是投票等应用所必需的——同时仍能获得安全保证，同时还可以打击垃圾邮件和不良行为者。
ZK 社交媒体系统的拟议设计，可以进行审核操作，还可以对用户进行惩罚，所有这些都不需要知道任何人的身份。
今年早些时候，在 Zuzalu 孵化的 Zupass 就是一个很好的实践例子。这是个应用已被 Zuzalu 成百上千人使用，最近又被 Devconnect （可让用户持有门票、会员资格、（不可转让的）数字收藏品和其他证明，并且在不损害你的隐私的情况下证明所有这些事情）的数千人用于票务服务。比方说，你可以证明你是 Zuzalu 的唯一注册居民，或者是 Devconnect 票证的持有者，但又不需要透露任何有关你身份的信息。这些证据你可以亲自出示二维码提供，或者用数字化的方式，登录 Zupoll 等应用（一种仅向 Zuzalu 居民开放的匿名投票系统）来提供。
这些技术是 d/acc 原则的出色示例：可让用户和社区在不损害隐私的情况下验证可信度，并保护他们的安全，同时不依赖于把谁好谁坏的定义强加到自己身上的中心化瓶颈。通过建立比当今在用的常用技术更好、更公平的方法，它们保护了用户或服务的安全，比方说整个国家被认为不值得信任而受歧视的用户，从而提高全球可访问性。如果我们想要在 21 世纪秉持信息安全的去中心化愿景，这些可能都是必要的强大原语。对网络空间防御技术进行更广泛的研究可以让互联网在未来变得更加开放、安全和自由，这是非常重要的。
信息防御
正如我前面所描述那样，网络防御是指理性的人很容易就攻击者是谁达成共识的情况。如果有人试图侵入你的钱包，人们很容易就会把黑客当成坏人。如果有人试图对网站进行 DoS 攻击，人们很容易认为他们是恶意的，并且在道德上与试图阅读网站内容的普通用户是不同的。在其他情况下，这种界限会更加模糊。在这些情况下改善我们防御能力的工具我称之为“信息防御”。
以事实核查（又名，防止“虚假信息”）为例。我是Community Notes的超级粉丝，它在帮助用户识别其他用户所发推文的真伪方面做了很多工作。Community Notes用了一种新的算法，它不会展示最受欢迎的notes，而是会展示最受各个政治派别的用户认可的notes。
Community Notes的实际应用：读者提供更多的上下文信息供事实核查
我也是预测市场的粉丝，预测市场可以帮助我们在事情尘埃落定之前实时识别事件的重要性，并就事情会朝哪个方向发展达成共识。山姆·阿尔特曼的 Polymarket 非常有帮助，它会对披露和谈判的最终后果进行有用的总结（按小时更新），为那些只看到个别新闻条目而不了解每个新闻条目的重要性的人提供急需的背景信息。
预测市场对阿尔特曼是否能回归openAI CEO一职的变化情况：红色为否，蓝色为是
预测市场往往会存在缺陷。但那些愿意自信地对明年“将”要发生的事情发表看法的 Twitter 网红的缺陷往往更大。预测市场仍有进一步改善的空间。比方说，预测市场其中一个主要缺陷是，除了最引人注目的事件以外，其他事件的体量很低。怎么解决这个问题？一个自然地方向是建立由人工智能发挥作用的预测市场。
在区块链领域，我认为我们需要更多特定类型的信息防御。也就是说，钱包应该更牢靠，应该积极地帮助用户确定自己正在签名的内容的含义，并保护他们免受欺诈、诈骗。比方说：帮助他们认清什么是骗局、什么不是骗局，其主观性比对有争议的社会事件的看法要低一些，但比区分合法用户和 DoS 攻击者或黑客又要高一些。 Metamask 已经有了一个诈骗数据库，而且可以自动阻止用户访问诈骗网站：
像 Fire 这样的应用就是走得要远得多的一种方法的例子。不过，像这样的安全软件不应该是需要显式安装的东西；默认情况下，它应该是加密钱包甚至浏览器的一部分。
由于性质上更加主观，信息防御本质上集体性也要比网络防御更强：你需要以某种方式将一大群技能娴熟的人引进来，去识别什么可能是真的或假的，以及什么样的应用是欺骗性的庞氏骗局。在开发有效的信息防御以及强化现有形式的信息防御方面，开发者有机会走得更远。像Community Notes这样的东西可以乃至在浏览器里面，从而让它的应用范围不仅涵盖社交媒体平台，还能涵盖整个互联网。
超越“防御”思维框架的社会化技术
从某种程度来说，如果你指责我把其中部分信息技术硬塞进“防御性”里面我也认。毕竟，防御是为了帮助善意的行为者免受恶意行为者（或者在某些情况下，免受自然）的侵害。可是，其中部分社交技术是为了帮助善意的行为者达成共识。
pol.is 就是一个很好的例子，它采用了跟Community Notes类似的算法（并且运用要比Community Notes更早）来帮助社区识别子部落之间的共识点，不然的话，这些子部落在很多方面都会存在分歧。 Viewpoints.xyz 也受到了 pol.is 的启发，并且他们的精神也是类似的：
此类技术可用于对有争议的决策进行更加去中心化的治理。同样地，区块链社区是一个很好的试验场，并且此类算法已经显示出其价值。一般来说，对以太坊协议进行哪些改进（“EIP”）的决定是由一个相当小规模的小组在所谓的“核心开发者全员电话会议”上做出的。对于大多数社区成员没有强烈感情的高度技术性决策来说，这种方法相当有效。对于影响协议经济学的更重要的决策，或更基本的价值观（如不变性和审查阻力），这往往是不够的。早在 2016-17 年的时候，围绕着实施 DAO 分叉、减少发行以及（不）解冻 Parity 钱包等一系列有争议的决定，Carbonvote 等工具以及社交媒体投票帮助社区和开发者看清了大部分社区意见是什么样的走势。
Carbonvote上对DAO 分叉的意见
Carbonvote 也有自己的缺陷：它要靠 ETH 持有量来确定谁是以太坊社区的成员，从而导致结果由少数富有的 ETH 持有者（“鲸鱼”）主导。不过，借助现代工具，我们可以利用多种信号，比方说 POAP、Zupass 印章、Gitcoin 护照、Protocol Guild 会员资格以及 ETH（甚至是单独质押的 ETH）持有量等多种信号，来衡量社区成员资格，从而把 Carbonvote 建设得更好。
任何社区都可以用这样的工具来做出更高质量的决策、找到共同点、协调（物理或数字）迁移或做许多的其他事情，但不需要依赖不透明的集中领导。这些工具甚至可以用来改善人工智能领域关键参与者和机构的治理并让这种治理民主化。
那么通往超级智能之路在何方？
前面所的一切都很好，都可以让下个世纪的世界变得更加和谐、安全和自由。但是，它还没有处理房间里的那头大象：超级智能的人工智能。
很多担心人工智能的人建议的默认路径本质上会导致一个最小化的人工智能世界政府。这个的近期版本包括一项关于“跨国通用人工智能联盟”（“MAGIC”）的提案。这样的联盟如果成立并成功实现创造超级智能人工智能的目标的话，将自然而然地成为事实上的最小化世界政府。从长远来看，存在诸如“关键行动”理论之类的想法：我们建立起一个人工智能，由它来执行某个一次性的行动，把世界重新安排成一个游戏，从那时起，掌舵的仍然是人类，但棋盘在一定程度上更有利于防御，并且更适合人类繁荣。
到目前为止，我看到的一个主要的实际问题是，对于有能力开发出这样一个东西的机构，大家对其任何治理机制都不信任。当你看看我最近在 Twitter 上进行民意调查的结果时，这个事实就变得显而易见了——我的问题是你是愿意看到人工智能被领先十年的单一实体垄断，还是让人工智能为每个人推迟十年：
每一次民意调查的规模都很小，但民意调查通过各种来源和选项得出的结果的一致性弥补了规模不足的缺陷。九次调查中，每一次都是大多数人宁愿看到高度先进的人工智能被彻底推迟十年，也不愿看到它被单个团体（无论是公司、政府还是跨国机构）垄断。九次调查中有七次都是延迟论至少以二比一获胜。对于任何追求人工智能监管的人来说，这似乎是一个需要理解的重要事实。目前的方法一直专注于制定许可计划和监管要求，试图将人工智能的开发限制在少数人手里，但这些方法遭到了普遍抵制，因为大家不想看到任何人垄断如此强大的东西。就算这种自上而下的监管建议降低了人类灭绝的风险，但也有可能增加被永久锁定在某种集中权力的可能性。一个悖论是，完全禁止极其先进的人工智能研究的协议（或许生物医学人工智能除外），再加上诸如将那些未被禁止的模型强制开源（降低想获得盈利动机，同时进一步改进获得人工智能的公平性）等措施，是不是就会更受欢迎？
“我们找一家全球组织来做人工智能，并让它的治理做得非常好”这条路线的反对者首选的主要方法是多神论人工智能：刻意地试着确保有很多人和公司开发大量的人工智能，这样就不会出现谁发展得比别人强大很多得情况。按照这种理论，这样一来，即便人工智能变得超级智能了，我们也可以维持权力平衡。
这种哲学很有趣，但我有过试图确保以太坊生态体系内的“多神论”的经验，这种经验确实让我担心这在本质上属于不稳定的平衡。我们做以太坊得时候就有意尝试确保技术栈的许多部分都要去中心化：确保没有单一代码库控制超过一半的权益证明网络，试图抵消大型权益池的主导地位，改善地理得去中心化等等。从本质上来说，以太坊实际上是在尝试实现古老的自由主义梦想，也就是建立一个以市场为基础的社会，利用社会压力而不是政府作为反垄断监管者。从某种程度来说，这个想法已经奏效了：Prysm 客户端的主导地位已从 70% 以上下降到 45% 以下。但这并不是某种自动的市场进程：而是人类意图与协调行动的结果。
我在以太坊的经历是从整个更广阔的世界学到的经验的镜像，里面有很多市场已被证明是自然垄断的。由于超级智能的人工智能会独立于人类而行动，情况会变得更加不稳定。而由于递归的自我完善，最强的人工智能可能很快就会领先，一旦人工智能变得比人类还要强大，就没有任何力量可以推动恢复平衡。
此外，即便我们确实进入了一个由超级智能的人工智能组成的多神论世界，并且最终稳定下来，我们仍然会面临另一个问题：一个人类会成为宠物的宇宙。
幸福之路：与人工智能合二为一？
我最近还听到另一种选择，就是不要过分把人工智能当作独立于人类的东西看待，而应该更多地把它看作是增强人类认知而不是取代人类认知的工具。
人工智能绘图工具就是朝这个方向发展的一个近期例子。现如今，用来制作人工智能生成图像的工具里面最著名的都是只需一步，人类提供输入，然后剩下的就由人工智能接管了。另一种选择是把关注焦点更多地放在 Photoshop 的人工智能版：艺术家或人工智能可以先画一份草稿，然后双方通过实时反馈过程合作改进，做这样的工具。
Photoshop 生成式人工智能填充，2023 年。我试过，适应需要一些时间，但实际效果很好！
具有类似精神的另一个方向是开放代理架构（Open Agency Architecture），它建议将人工智能“大脑”的不同部分（比方说制定计划、执行计划、解释来自外部世界的信息）分成单独的组件，并在这些组件间引入不同的人类反馈。
到目前为止，这些听起来似乎很平常，而且几乎每个人都同意这样的东西值得拥有。经济学家达龙·阿西莫格鲁 (Daron Acemoglu) 的工作与这种人工智能未来主义相去甚远，但他的新书《权力与进步》（Power and Progress）却暗示希望看到更多此类的人工智能。
但如果我们想进一步外推人类与人工智能协作的想法的话，就会得出更激进的结论。除非我们建立一个足够强大的世界政府，能够检测并阻止一波又一波的一小撮人用笔记本电脑对单个 GPU 进行黑客攻击，否则的话最终一定会有人创造出一个超级智能的人工智能 —— 一个思考速度比我们快一千倍的人工智能 —— 而受用使用工具的任何人类组合都没法抵御这种局面。因此，我们需要将人机协作的理念进一步深化。
第一个自然步骤是脑机接口。脑机接口可以让人类更直接地访问越来越强大的计算与认知形式，将人与机器之间的双向通信回路时间从几秒钟缩短到几毫秒。这也将大大减少让计算机帮助你收集事实、提出建议或执行计划的“脑力劳动”成本。
当然了，这样的路线图的后期阶段会变得很奇怪。除了脑机接口以外，还有多种途径可以通过生物学创新直接改进我们的大脑。而最终的更进一步，则是将这两条路径合并，这可能牵涉到将我们的思想上传，直接在计算机上运行。这也将是物理安全的终极目标：保护我们自己免受伤害不再是保护血肉之躯的挑战性问题，而是一个简单得多的数据备份问题。
两条路径：强化人与人工智能的反馈回环最终会得到“永生”，弱化则会出现人工智能治理的世界政府
这样的方向有时候会引起担忧，部分是因为这是不可逆转的，部分是因为这可能会赋予有权势的人更多的比较优势。脑机接口尤其危险——毕竟，我们讨论的是字面意义上读写人的思想。这些担忧正是我考虑在这条道路上发挥主导作用的理想选择的原因：应该由以安全为中心的开源运动，而不是封闭的专有公司和风投基金来发挥主导作用。此外，相对于与人类密切关联的增强，独立于人类运行的超级智能人工智能所面临的所有这些问题都会更加严重。由于在是否使用ChatGPT 上存在的限制，“增强型”人类与“未增强型”人类之间的鸿沟如今已经出现了。
如果我们想要一个超级智能与“人类”共存的未来，一个人类不仅仅是宠物，而且实际上对这个世界仍保留着有意义的代理权的未来，那么感觉这样的东西就是最自然的选择。对于为什么这可能是一条更安全的人工智能对齐路径，也有很好的论据：通过在决策的每一个步骤都植入人类的反馈，我们减少了将高层级的规划责任转移给人工智能本身的动机，从而减少了人工智能本身做出一些与人类价值观完全不相符的事情的机会。
支持这一方向的另一个论点是，相对于光是大喊要“暂停人工智能”而没有提供替代性发展发展方向的补充信息，这种方案可能更容易被社会接受。当前的心态需要理念上的转变，要改变目前这种接触人类的技术进步是危险的，但与人类无关的进步默认就是安全的心态。但它还有一个巨大的优势可以抗衡：让开发者有事情可做。现如今，人工智能安全运动向人工智能开发者传达的主要信息似乎是“你应该停下来”。人们可以从事对齐研究，但在目前这种研究缺乏经济激励。相比之下， e/acc 发出的常见讯息“你本来就是个英雄”非常有吸引力是可以理解的。但 d/acc 发出的讯息，即“你应该去做东西，而是是有利可图的东西，但要更有选择性，更有意识地确保你正在做的东西能够帮助你和人类繁荣发展”，则可能会成为赢家。
d/acc 与你现有的理念兼容吗？
如果你是 e/acc 主义者，那么 d/acc 属于 e/acc 的一个亚种——只是一个更具选择性和刻意性的亚种。
如果你是一个有效的利他主义者，那么 d/acc 是对差异化技术开发的有效利他主义理念的重新命名，只不过更加强调自由和民主的价值观。
如果你是一名自由主义者，那么 d/acc 是技术自由主义的一个亚种，不过是一种更加务实的自由主义，对“技术资本机器”更具批判性，并且愿意接受今天的政府干预（至少，如果文化干预不起作用的话），以防止明天出现更糟糕的不自由。
如果你是格伦·韦尔（Glen Weyl）意义上的多元化主义者，那么 d/acc 是一个思维框架，可以轻松地将对多元化所重视的更好的民主协调技术的强调纳入其中。
如果你是公共卫生倡导者，那么 d/acc 的设想可以成为更广泛的长期愿景的来源，并提供与“技术人员”找到共同点的机会，否则你可能会觉得与“技术人员”存在着分歧。
如果你是区块链倡导者，那么相对于15 年来对恶性通货膨胀与银行的强调， d/acc 是一种可以接受的更现代、更广泛的叙事方式，这种叙事把区块链作为具体战略的众多工具之一纳入到自己的上下文之中，以实现更加光明的未来。
如果你是太阳朋克（solarpunk），那么 d/acc 就是太阳朋克的一个亚种，并且同样强调意图性和集体行动。
如果你是月球朋克（lunarpunk），那么你会欣赏 d/acc 通过维护隐私和自由对信息防御的强调。
我们是最闪亮的那颗星
我热爱技术，因为技术拓展了人类的潜力。一万年前，我们可以造点手工工具，改变一小块土地上种什么植物，并能造出基本的房屋。今天，我们可以建造起 800 米高的塔楼，将所有记录下的人类知识存储在可以握在手中的设备里，在全球范围内可以即时通信，让我们的寿命加倍，并过上幸福而充实的生活，也不必担心我们最好的朋友经常会死于疾病。
我们从最底层开始，现在我们已经到达这里。
我相信这些事情是非常好的，并且将人类的影响范围进一步扩大到其他行星甚至其他星系也是非常好的，因为我相信人类是非常好的。在某些圈子里，对此持怀疑态度很流行：人类自愿灭绝运动认为，如果没有人类存在，地球会变得更好，而更多的人则希望能看到几个世纪后的世界的人要少很多。人们普遍认为人类是邪恶的，因为我们欺骗，我们偷窃，我们参与殖民主义和战争，我们虐待和消灭其他物种。我会用一个简单问题回应对这种思维方式：跟什么比？
是的，人类会有不善良的表现，但我们更多时候表现出的是善良和怜悯，会为了共同利益而共同努力。即便在战争期间，我们也经常注意保护平民——当然这还远远不够，但已经远远超过 2000 年前。下个世纪，我们很可能会广泛使用人造肉，从而消除掉当今人类最被诟病的道德灾难。不是人类的动物可不是这样的。，猫不会出于道德原则接受完全拒绝吃老鼠的生活方式。太阳年复一年正变得越来越亮，预计在大约十亿年之后，会亮到导致地球变得太热而无法维持生命。那太阳是否想过它会造成种族灭绝呢？
因此，我坚信，在我们所知道和所看到的宇宙的一切事物当中，我们，人类，就是最闪亮的那颗星。据我们所知，尽管不完美，但我们是唯一有时候也会认真努力地去关心“善”，并为了更好地服务于“善”而调整自身行为的事物。二十亿年后，如果地球或宇宙的任何地方仍然见证着地球生命的美丽，那将是太空旅行与地球工程等人类的手段使然。
我们需要建设，需要加速。但也需要回答一个非常现实的问题：我们正在加速实现的目标是什么？ 21世纪很可能是人类的关键世纪，是决定我们未来几千年命运的世纪。我们是不是已经陷入到众多无法逃脱的陷阱当中的一个，或者我们是否找到了通往自由与能动性得以保留的未来之路？这些都是具有挑战性的问题。但我很期待能够观察并参与到我们人类伟大的集体努力，去寻找这些问题的答案。
译者：boxi。
