Transcription
你知道，我们不应该认为模型进步已经走到尽头，也不应该认为我们应该固守我们现在所拥有的西方价值观。相反，我们应该思考，我们要花费大量时间来弄清楚什么是真正道德上正确的，这样未来才能由正确的价值观来指导，而不是仅仅由碰巧获胜的价值观来指导。也许，如果工业革命发生在印度而不是欧洲西部，那么也许我们就不会有大规模的工厂化养殖了。我认为学术界已经形成了一种文化，即在学术界不解决这类问题，部分原因是它们在不同学科之间存在漏洞，部分原因是它们似乎过于庞大、过于宏大或过于推测性。“长远反思”的想法是让社会进入一种状态，即在我们采取任何可能固守特定价值观的激进行动之前，我们允许理性、同情、辩论和善意的模型探究的力量来指导我们最终拥有的价值观。
今天，我很荣幸能采访威廉·麦卡斯基尔。威尔是有效利他主义运动的创始人之一，也是即将出版的《我们对未来的责任》一书的作者。感谢您来到播客。非常感谢您邀请我。我的第一个问题是，有效利他主义运动成功的宏观解释是什么？它本身是否是你书中提到的偶然性的一个例子？是的，我认为它很可能是偶然的，也许不是“永远不会发生”的那种偶然，但至少是“几十年”的偶然。有效利他主义在某种程度上是偶然性的证据是，历史上曾多次推广过类似的想法，但都没有被采纳。我们可以追溯到古代中国，墨子主张一种公正的道德观，并采取了非常战略性的行动来试图帮助所有人，特别是提供防御性援助给遭受围困的城市。然后当然还有早期的功利主义者。有效利他主义比功利主义更广泛，但有一些相似之处。甚至彼得·辛格在 70 年代也曾提倡我们应该将大部分收入用于帮助非常贫穷的人，直到 2010 年初，在 GiveWell 和 Giving What We Can 成立之后，这个想法才开始获得关注。是什么解释了它的兴起？我的意思是，我认为这是一个等待发生的绝妙主意。我认为互联网帮助聚集了许多志同道合的人，这是以前不可能做到的。我认为有一些特别幸运的事件，比如 Ellie 遇见 Holden，我遇见 Toby，帮助它在那个特定时间点得以催化。
现在，如果正如你在书中说的，道德价值观非常偶然，那么这是否应该让我们怀疑现代西方价值观可能并不那么好？它们可能很普通，甚至更糟，因为你期望最终得到你可能拥有的所有价值观的中位数，而且显然我们会偏向我们成长起来的任何价值观。绝对是这样。我认为认真对待历史，欣赏价值观的偶然性，欣赏如果纳粹赢得了世界大战，我们都会想“哇，我很高兴模型进步以这种方式发生”，而且“我们不再有犹太人了，多么巨大的道德进步啊！”这是一种可怕的想法。我认为这应该让我们认真对待我们现在离道德真相还很远的事实。所以，我认为，我在书中得出的一个教训是，我们不应该认为模型进步已经走到尽头，我们也不应该认为我们应该固守我们现在所拥有的西方价值观。相反，我们应该思考，我们要确保我们花费大量时间来弄清楚什么是真正道德上正确的，这样未来才能由正确的价值观来指导，而不是仅仅由碰巧获胜的价值观来指导。
这很有道理，但我想问一个稍微不同的问题，那就是不仅存在可能比我们的价值观更好的价值观，我们是否应该期望我们的价值观？我的意思是，我们有一种感觉，我们取得了更大的进步，所以事情比以前好，或者比大多数可能的其他世界在 2100 年或 2022 年要好。我的意思是，我们甚至不应该期望是这种情况吗？我的意思是，我应该优先考虑的是，是的，这些都是“一般般”的价值观。我认为我们应该优先考虑的是，我们的价值观，你知道，和我们期望的平均水平一样好。然后你可以进行评估，比如，当今世界的价值观，它是否进展顺利？你知道，你可以提出一些论点来说“不”。也许如果工业革命发生在印度而不是西欧，那么也许我们就不会有大规模的工厂化养殖，我认为这是一种道德上的暴行。话虽如此，我综合考虑的观点实际上是，我认为我们做得比平均水平好。如果文明只是其他文明，那么在我们的道德信仰和态度方面，情况会更糟。我认为废除奴隶制、女权运动、自由主义本身、民主，这些都是我们相对容易失去但却巨大的收益。
但如果真是这样，这是否会让“长远反思”的前景变得危险？因为如果道德进步是一种随机漫步，而我们碰巧中了彩票，那么你可能只是在逆转，也许你只是在冒着回归平均水平的风险，如果你只是有数千年的进步。我认为道德进步通常不是随机漫步。有许多力量作用于文化和人们的信仰，其中之一就是道德上正确的东西，即他们最好的论点支持的东西。我认为这是一种力量，不幸的是，这是一种相对较弱的力量。而“长远反思”的想法是让社会进入一种状态，即在我们采取任何可能固守特定价值观的激进行动之前，我们允许理性、同情、辩论和善意的模型探究的力量来指导我们最终拥有的价值观。
好的，你在书中做了一个有趣的类比，认为人类在历史的这个阶段就像青少年。但人们对青少年的另一个普遍印象是，他们过早、过分地忽视智慧、传统和成年人的意见。那么，你认为将这个类比延伸到这种方式，并建议我们应该“伯克利式”和“小长远主义”，拒绝这些“内部视角”的“晦涩威胁”是有意义的吗？我认为伯克利式的论点是“认真对待历史”，以及“什么样的道德观点经受住了时间的考验”。我认为这些是重要的论点。我的观点恰恰相反，那就是我们是文化生物，我们的天性非常倾向于同意别人的想法，同意传统，即使我们不理解其根本机制。我认为这在低变化的环境中效果很好。我们进化的环境变化很小，我们是数万年、数百万年的狩猎采集者小群体。而现在，无论是经济每 20 年翻一番的时期，还是每年都有新技术出现，这都是前所未有的。我认为实际上这意味着我们应该比历史上任何时候都更应该努力从第一原理出发来解决问题。
有趣。但就目前的边际而言，你认为情况仍然如此吗？如果很多 EA 和长远主义思想都是第一原理思考，你认为更多的历史比边际第一原理思考者更有益吗？我认为有两件事。如果这是关于对历史的理解，那么是的，我实际上很希望 EA 能够更好地理解历史，主要是作为一种边际效应。我认为如果你想在世界上做好事，并且以 EA 的方式，最重要的学科是哲学和经济学，但我们已经拥有了这些，而且非常丰富。而在 EA 社区中，历史知识却非常少。我当然觉得我在过去几年里学到了很多东西。应该有更多的第一原理思考吗？是的，可能吧。我的意思是，我认为第一原理思考，或者你可能称之为第一原理思考，我认为它在冠状病毒大流行期间得到了很好的回报。从 2020 年 1 月开始，我的 Facebook 主页就被人们恐慌的消息完全淹没了，或者至少是以一种现有机构没有的方式非常认真地对待它。它们之所以没有，是因为它们只是处于“一切照旧，不要惊慌”的模式，它们没有适当地更新以适应新的环境和新的证据。
现在，你在书中指出了几个经历过苦难的社会。我的意思是，苦难只是轻描淡写了。但你知道，广岛原子弹爆炸后，越南轰炸后，以及黑死病后的欧洲，它们似乎都相对较快地恢复了。这是否让你认为，也许偶然性在历史中的作用，尤其是在经济史上，并没有那么大？它暗示了一种“索洛增长模型”，即即使发生了坏事，你也可以大致恢复，而且它真的无关紧要？是的，就经济而言，我认为这是经济或技术进步与道德进步之间的一大区别。从长远来看，至少我认为经济或技术进步是非常非偶然的。事实上，一些历史上的技术偶然性非常有趣。你可以看到，埃及人有早期版本的蒸汽机，信号灯直到很晚才被开发出来，但本可以数千年前就发明出来。同样，还有海耶斯的飞梭。但从长远来看，技术进步和技术进步以及经济增长的激励措施的工具性利益是如此强大，以至于我认为我们最终会到达那里，而且是在各种各样的环境中。特别是，想象一下有一千个不同的社会，没有一个在增长，但有一个在增长。那么从长远来看，那个社会就变成了整个经济。
似乎你给出的埃及拥有某种古代蒸汽机的例子可能表明存在更多的偶然性，因为也许蒸汽机在许多社会中都出现了，但它只在一个社会中发展成工业革命。在这种情况下，有一个关于金属加工质量是否足以制造真正的蒸汽机的巨大争论。所以，我提到这些例子是为了说明，在工业革命之前，历史上确实出现了一些令人惊叹的偶然性。我认为它仍然是偶然的，只是在几个世纪到几千年这个数量级上。而在后工业革命世界，我认为偶然性要少得多。很难看到有这样的技术，如果它们没有在当时被开发出来，就不会在几十年内发生。
好的，所以也许你这里普遍的模型是，可能存在一些通用的技术状态变化，而这些变化是非常偶然的，并且尝试工程化其中一个将非常重要。但除此之外，它将由一些开始创建初创公司的人来完成。不，我的意思是，我认为更普遍地说，即使是我之前提到的蒸汽机或信号灯的例子，在历史上似乎有些偶然，我认为从长远来看，它们会被开发出来。你知道，如果工业革命没有发生在 18 世纪的英国，它总会发生，或者类似的技术会被开发出来，而这些技术对工业革命至关重要吗？我是说，是的，因为有非常强烈的激励去做这件事。如果你只有一大堆文化，它们都在随机漫步，而其中一个偶然发现了“嘿，我们要搞工业，我们是一种热衷于制造纺织品并以自动化方式制造的文化”，就像 18 世纪的英国一样，那么那个经济体就会接管世界。所以，我认为经济增长比道德进步偶然性小得多的结构性原因就在于此。
通常人们想到诺曼·博劳格在绿色革命中的作用时，会想“哦，如果你能做那样的事情，你就会成为 20 世纪最伟大的人。”显然，他仍然是一个非常好的人，等等。那么，这不符合你的观点吗？你认为绿色革命无论如何都会发生吗？是的，诺曼·博劳格有时被认为拯救了十亿人的生命。我认为他非常重要，对世界是一个巨大的、好的力量。我认为，如果诺曼·博劳格不存在，十亿人不会死亡，而是会发生类似的进展，也许他拯救了数千万人，这对一个人来说是很多生命，但并不像简单地说“这项技术被开发出来了，这项技术被使用了，十亿人本可能面临饥饿的人使用了这项技术”。事实上，即使在那时，不久之后，也有类似的农业发展。
那么，反事实地，什么样的人群，什么样的职业或职业选择，往往会产生最高的反事实影响？是道德哲学家吗？还是不完全是道德哲学家，尽管也许有时是。我的意思是，我的观点是，道德哲学家可能是一个。我认为马克思和恩格斯产生了巨大的、非常长远的影响，宗教领袖也是如此。我认为穆罕默德、耶稣、孔子产生了巨大的、偶然的长远影响。还有道德活动家，比如废奴主义者、贵格会，还有其他团体。
那么，如果你认为思想格局的变化今天非常快，是吗？但你仍然认为像马克思这样的人在遥远的未来会被认为非常有影响力吗？我的意思是，共产主义持续不到一个世纪。也许它的长远后果是巨大的，但这一切都是一种期望。所以，就实际情况而言，马克思可能在长远未来不会非常有影响力。但这本可能走向另一个方向。这并非一个如此截然不同的历史，即自由主义在 20 世纪占主导地位，而是共产主义。然后，如果它完全有可能让我认为，它会持续极其长久。如果技术越好，统治意识形态就越能巩固其意识形态并长期存在。所以，你可能会得到一系列连锁反应，比如共产主义赢得了 20 世纪的思想之战，假设它最终形成了基于这些思想的世界政府，然后通过某种抗衰老技术、基因增强技术、克隆或人工智能，它就能够建立一个字面意义上永远按照这种意识形态存在的社会。
独裁者的死亡在思考偶然性时尤其有趣，因为是的，当毛泽东或斯大林去世时，政权发生了巨大的变化，这让你觉得，是的，实际的个体非常重要，而他们是谁碰巧很重要，而且是偶然的，并且持久的，或者至少在某些有趣的方面很重要。所以，如果你有一个独裁政权，那么你就有一个人统治着整个社会，这意味着它非常偶然，取决于那个人的观点、价值观、信仰和个性。
所以，回到书中关于停滞的问题，你非常担心生育率，因为你关于科学和技术进步如何发生的模型似乎是“人数乘以平均研究生产力”。然后，是的，如果研究生产力下降，而且人口数量增长也不快，那么这就令人担忧了。是“人数乘以投入研发的人口比例”。谢谢澄清。似乎历史上有很多集中的人才和进步，你知道，比如威尼斯、雅典、贝尔实验室，甚至像 FTX 这样的东西。你有 20 个开发者创建了这个价值数十亿美元的公司。这些例子是否表明组织和研究人员的聚集比实际总数更重要？我实际上认为模型是。纵观历史，你都是从一个非常低的基线开始，与今天的竞争对手相比，技术水平非常低。而且大多数人甚至没有尝试创新，或者如果他们尝试创新，可能是在我们现在不称为科学技术的东西上，所以它可能是神学。所以，一个关于巴格达失去黄金时代科学黄金时代的原因是，政治格局发生了变化，导致激励的是神学研究，而不是科学研究，大约在公元 10 世纪 11 世纪。同样，关于德国为什么没有像英国那样出现科学和工业革命的一个论点是，德国所有的知识人才都专注于创作美妙的音乐，而这不像制作纺织品那样能够复利。所以，如果你看看斯巴达与雅典的对比，我认为区别就在于它们有不同的文化，以至于在雅典，智力探究受到奖励，而且由于它们是从一个低得多的基线开始，即使只有几百人或几千人尝试做这种看起来有点像科学或我们现在所认为的智力探究的事情，也产生了巨大的影响。
我明白了。但如果你以贝尔实验室为例呢？20 世纪末，低垂的果实大部分都消失了，但你有一个小型组织获得了六项诺贝尔奖。所以，是的，这是巧合和幸运的突破吗？我完全不这么认为。我应该承认，你所处理的模型是“人口规模乘以你投入研发的人口比例”，这是一个玩具模型，可能是你能拥有的最简单的模型。所以，贝尔实验室我认为是“超常发挥”。我认为你显然可以创造出惊人的东西，来自某种环境，在那里你不仅得到了最高效的人，而且你把他们放在一个环境里，让他们比在其他地方效率高 10 倍。然而，我认为，当你审视历史的长河时，这些效应与更广泛的社会文化或人口规模相比，是微不足道的。
我想谈谈你关于长远主义制度改革的论文。你在论文中提倡的一件事是，我们应该有一个议院专门负责长远主义优先事项。你能举出一些具体的绩效指标来评判或激励构成这个机构的人员吗？当然。我想我需要强调的是，我对长远主义制度实际上相当悲观。你有一篇论文探讨了它，但有一个根本问题是，如果你试图代表甚至考虑未来的人，你必须面对他们不在场，他们无法为自己游说。所以，你会被……你知道，在愉快的……无论如何，你可能会有一个由人们组成的议会，他们拥有某种真正的……权力。你会如何构成它？我最好的猜测是，你只是从人群中随机选择。你会如何确保激励措施是一致的？嗯，有一些事情你可以尝试。比如，30 年后，他们的表现将由一个回顾性评估的专家小组来评估，他们会说，“好吧，这里推荐的政策好不好？”也许这个机构的成员的养老金将基于这个评估。其次，30 年后的人们，他们对政策的评估，以及他们对前 30 年未来机构的评估，将由 30 年后的另一个机构来评估，以此类推。这就像……这就像一些数学和经济学分析，在某些条件下，这会奏效。你有一个向后链接的系统，一千年后的人们在评估 970 年后的人们，他们在评估 910 年后的人们，你能让它奏效吗？我的意思是，也许理论上，我在实践中有点怀疑，但我很希望某个国家能尝试一下，看看会发生什么。
另一件事我应该说的是，也有一些证据表明，你只需要告诉人们“这是你的角色”，就可以让他们更认真地对待子孙后代的利益。有一项研究让人们“穿上礼仪长袍，扮演未来受托人的角色”，他们确实做出了与仅仅基于自己的信仰或自身利益行事时不同的政策建议。是的。但如果你在该委员会，该委员会在 30 年前就评判这些人，你有什么会是你最关心的指标？我不知道，预期的未来 GDP 增长，或者你认为能最能说明这些决定有多好的东西？是的，有一些事情你可以做。比如，可以是……是的，国家的 GDP。你可以就一系列指标达成一致，比如无家 ज्यात率，也许是某种衡量技术进步的专家指标。我认为你绝对希望有对灾难风险的专家评估。我们现在没有，但你可以想象，你有一个超级预测者小组，他们预测未来 10 年发生大国战争的可能性，然后将其汇总成一个战争指数。我认为这比股票市场指数重要得多，而我们却没有。但你可以想象，它也会被纳入其中，因为你不想只激励经济增长，而牺牲尾部风险。
这是否是你对罗宾·汉森关于通过生产市场最大化预期未来 GDP 并以此做出决策的计划的反对意见？是的，我的意思是，我认为最大化未来 GDP 是我与泰勒·科恩相关的想法。它可以是任何指标，但是的，好吧。那么罗宾·汉森关于“未来市场”的想法，你可以在那里投票决定价值观，对信念下注，人们可以简单地投票决定他们想要拥有什么样的商品组合，GDP 可能就是其中之一，但失业率也是，或者其他任何东西。这纯粹是预测市场。同样，这是我希望看到的，我认为这是一个关于“社会如何才能与众不同，结构如何才能截然不同”的被严重忽视的想法。我真的认为它会奏效吗？也许大多数这些想法在实践中都不会奏效。预测市场确实存在被操纵的问题，或者它们根本就不够活跃。所以，自从他提出这些想法并真正从事预测市场以来，并没有取得很多成功，而预测市场却取得了相当多的成功。也许你可以解决这些问题。你可以制定关于预测市场可以投票或预测哪些事物的法律，而不是所有这些事情。你可能有政府补贴来确保有足够的流动性。但总的来说，我认为它很有希望，我很希望看到它。你可以在城市一级进行尝试，看看会发生什么。
让我们来看一个场景，政府开始认真对待对长远的影响，并进行一些改革来整合这种视角。你可以以环保运动为例。你知道，有环境审查委员会试图评估新项目的环境影响，他们可以基于此否决任何提案。那么，至少在一些州和一些情况下，其影响是，那些对环境没有强烈合理利益的团体能够利用这些机制来阻止一些实际上会帮助环境的项目。尤其当你谈论长远主义时，评估某事的实际影响需要很长时间，然后政策制定者负责评估某事的长期影响。你是否担心它会成为一个很容易被恶意行为者操纵的系统？你认为在环境主义被编入法律的方式中，有什么出了问题吗？是的，这绝对是一个担忧，可能是一个毁灭性的担忧。是的，你创造了一些东西，你试图代表未来的人，而他们实际上不允许自己游说，他们可能会被收买。是的，我对环境影响评估的理解是相似的，原因也类似，因为环境无法代表自己。它无法说出它的利益是什么。那么正确的答案是什么呢？同样，这非常困难。也许有一些投机性的提议，关于拥有一个评估这些事情的代表机构，并由 30 年后的人来评判。这是我们目前最好的办法。但我认为，目前我们只需要更多的思考，看看这些提议是否真的对长远有益，而不是仅仅是更狭隘的关注。
例如，监管危险生物实验室的责任保险，这与代表子孙后代的利益毫无关系，但对长远来说非常好。所以，目前我主要认为，如果长远主义试图改变政府，让我们专注于那些对长远来说非常好的、相当狭隘的制度性变革，即使它们并不代表未来。这并不是说我反对所有这类事情，但任何事情都存在重大的实施问题。我明白了。我们不知道如何正确地做到这一点。你至少知道如何做得更好吗？比如，环境主义是如何被更好地编入法律的？为什么在某些情况下它不成功？老实说，我对此并不了解。我不知道这是否是事物本身的内在问题，或者是否可以有一个不会被收买的系统。
那么，公司是我们今天最长远的机构吗？他们的目标理论上是最大化未来的现金流，这至少是他们明确且理论上拥有的目标，即尽他们所能为自己的公司做好事，这意味着如果存在根本性风险，公司就无法存在。我不这么认为。我认为不同类型的机构有不同的衰败率。即使是排名前 200 的大公司，其半衰期也只有大约 10 年。实际上，它们出奇地短暂。而如果你看看大学，牛津和剑桥有 800 年的历史。我认为博洛尼亚大学甚至更古老。这些都是非常长寿的机构。你确实会看到一些机构，比如牛津大学的基督教会学院，它在决定是否应该有一个每 400 年才会发生一次的新传统，它会说，“是的，这就是它做出的决定，因为它是一个如此长寿的机构。”同样，宗教也可以更长寿。我认为这种自然的半衰期确实影响了公司、大学或宗教机构会做出什么样的决定。
但这是否意味着试图让你的机构长久存在可能很脆弱且危险？如果公司试图这样做，但它们做不到呢？公司是由人组成的。让公司长久存在符合公司的利益吗？就像，符合构成公司的个人，比如首席执行官、董事会和股东的利益吗？不，他们并不特别关心。至少有些人关心，但大多数人不关心。而其他机构呢？我认为这取决于双方。在某些情况下，这就是我在《我们对未来的责任》中详细讨论的“锁定”问题。你会在机构形成时获得一些可塑性时刻，无论是基督教教会还是美国宪法，它就会锁定一套规范。如果规范和法律是好的，那可能非常好。我认为美国宪法，回顾起来，似乎很神奇，或者别的什么。它是第一个民主宪法。据我所知，它是在四个月内制定的。它似乎经受住了时间的考验。或者，它可能极其危险。宪法中显然有一些可怕的东西。我们还是以美国宪法为例吧。里面有一些可怕的东西。它甚至提出了奴隶制的合法权利作为宪法修正案。如果那样的话，那将是一种可怕的锁定。所以我认为很难在抽象中回答，因为它确实取决于什么东西在长久存在。
你在书中说，你预计我们目前的时代是一个可塑性时刻。你为什么这么认为？我认为具体时间是一个可塑性时刻，原因有两个。第一，世界以一种在历史上非常不寻常的方式完全统一起来。你可以与任何人进行即时交流，并且存在着大量的道德观点。我们可以争论，我们可以找到……你知道，像你播客上的嘉宾可以辩论什么是道德上正确的。我认为，许多不同的道德观点集中的一种可能会最终获胜或成为最受欢迎的。其次，没有这个时期，事情真的可以改变。但这是一个可塑性时刻，因为它也可能结束。我认为，在未来几十年或几个世纪里，我们所习惯的道德变化可能会结束。如果有一个单一的全球文化或世界政府，再次，在它之前，你知道，如果有一个全球共产主义国家或全球纳粹国家，或其他更倾向于意识形态一致性的世界政府，那么结合技术，就很难说为什么它不会长期存在。我认为这里的关键技术是人工智能。也许比我们想象的要早，谁知道呢，统治世界的人将是数字而非生物。一旦有了这个，加上单一意识形态的全球霸权，那么我认为就没有太多理由让那套价值观随着时间而改变。你有不朽的领导者，没有竞争，而其他价值观变化的来源呢？我认为它们也可以被解释。
但我们正处于一个不会持久的互联互通时代，如果我们定居太空，难道不是一个锁定事物不太可能发生的理由吗？如果你的统治者离我们数百万光年远，那么他们能控制你多少？我认为我的担忧是，控制将发生在太空定居之前。我认为，如果有一天我们走向太空，有许多不同的……你知道，不同太阳系的定居点，它们在追求不同的善的愿景，那么我认为，你知道，你可能会在很长一段时间内保持多样性。我认为，这只是考虑到事物的物理性质。我认为一旦太阳系被定居，其他太阳系……文明很难来征服你，至少在我们处于技术成熟的水平，你知道，没有新的突破性技术可以发现。但我担心控制会更早发生。我担心控制可能实际上在我们有生之年发生。我不是说这很有可能，但我认为这确实有可能。
所以，回到长远主义运动。大约一个世纪前设立了许多有启发性的基金会，比如洛克菲勒基金会、卡内基基金会。它们似乎并不特别有创造力或影响力，尤其是在今天。你认为哪里出了问题？除了价值观漂移，还有什么？我猜只是能力、领导力和洞察力的一些衰退。我对这些具体的例子没有太多深入的看法。但有两个自然的想法。一是，对于想要长久存在并持续施加影响的组织来说，历史上它们往往将目标设定得过于狭隘。一个有趣的例子是本杰明·富兰克林，他投资了 1000 英镑给费城和波士顿的每个城市，100 年后支付，200 年后支付不同比例的投资金额。但他规定得非常具体，比如帮助铁匠学徒等等。这就像，“天哪，这在 2000 年就没有多大意义了。”而他本可以说一些更普遍的话，比如“为了费城人民的福祉，为了波士顿人民的繁荣”，那么它至少可能产生更大的影响。第二个可能是回归平均值论。你知道，你有一个新的基金会，它做了非凡的好事，就像我认为洛克菲勒基金会所做的那样。随着时间的推移，如果你说它在某个方面是特殊的，那么它很可能会在那方面接近平均水平。就像你改变了参与的人员一样。如果你选择了一些特别有能力和有远见的人，那么下一个人在统计上可能就不那么有能力和有远见了。
所以，回到那个“僵手”问题，如果你把你的使命定得太狭隘，那么是的，它在未来就没有意义了。是否存在一种权衡，如果你太宽泛，那么未来的人们，他们可能是恶意的，或者他们不像你一样聪明或有创造力，他们可能会把这个运动带向你不会赞同的方向？是的，它会为费城做好事，但它会变成本·富兰克林不会认为对费城有利的东西。是的，这取决于你的价值观和观点。如果本·富兰克林不是这样，但如果他说，“不，我只关心铁匠学徒，其他什么都不重要”，那么他规定得更具体是正确的。但我想，就事实而言，当然我自己的价值观，但我认为更普遍地说，它们往往比这更广泛。然后，其次，总的来说，我期望未来的人会更聪明、更有能力。这肯定会随着时间的推移而发展。在这种情况下，如果我们有着相似的广泛目标，而他们以不同的方式实施，那么我认为他们可能是对的，而我是错的。
让我们谈谈我们应该期望未来有多好。你是否遇到过罗宾·汉森的论点，即未来我们都将是生存水平的“M”（模拟存在），因为竞争激烈，然后你只会试图最小化每个数字人的计算量，这将是一种悲惨的、勉强活着、不值得过的经历？是的，我熟悉这个论点。但我们应该区分“M”处于生存水平的想法和它们会过上糟糕生活的想法。生存意味着，考虑到它们的……是的，你得到一种人均收入和人口增长的平衡，以至于如果它们再穷一点，死亡就会超过出生。这实际上并不能告诉你它们的福祉。所以，你可能非常贫穷，作为一个模拟存在，但你一直在极乐之中。这与马尔萨斯理论完全一致。所以，它仍然可能看起来离最好的未来非常遥远。未来仍然可能非常好。那些“M”虽然处于生存水平，但仍然可以过上比我们好几千倍的生活。
说到贫穷而快乐，书中有一个非常有趣的章节，你提到了你委托进行的一项研究。你试图找出发展中国家的人们是否认为生活值得过。结果发现，19% 的印度人不想重活一次。但我认为，31% 的美国人表示他们不会。那么，为什么印度人在人均 GDP 还不到十分之一的情况下，似乎更快乐呢？我只是不想从那里面得出太多结论，因为我们是在对相对贫穷的美国人和相对富裕的印度人进行抽样。所以，也许这只是一个样本效应。还有一些奇怪的互动，比如印度教和轮回的信仰，我认为这可能会……你知道，可能会扰乱这个的普遍性。一方面，是的，我基本上不想从那里面得出任何强有力的结论。但考虑到通常当你查看人们的福祉时，你会发现富裕国家比贫穷国家平均而言更快乐，这确实是一个引人注目的信息。是的，我猜，但你确实在某种程度上进行了概括，因为你用它作为证据，证明大多数生命都是值得过的，证明当今大多数生命都是值得过的。是的，确切地说。我把各种证据放在一起。在美国，大约 10% 的人，在印度，大约 10% 的人似乎认为他们的生命是负面的。你知道，他们不会，他们认为他们的生命包含的痛苦多于快乐。如果他们可以选择，他们不想重活。如果你看看其他研究，比如另一项研究，它只关注美国或美国及其他普遍富裕国家的民众，并询问他们如果可以选择，他们愿意跳过多少有意识的生活。通过跳过，我只是意味着你眨眼，然后你就完成了你正在进行的任何活动。所以，也许我非常讨厌这个播客，我宁愿无意识地说话也不愿和你说话。在这种情况下，我将有机会跳过，当然不是，但我将有机会跳过，然后就会是 30 分钟后，一切都完成了。如果你看看那个，然后也问人们关于他们愿意做出的权衡，作为衡量他们享受或不享受某种体验的强度的指标，你会得出这样的结论：是的，我记得，大约 10% 以上的人，总的来说，认为他们当天的生活比他们一整天都无意识地度过要糟糕。
话题稍微转移一下。在 80,000 小时播客上，你说你认为那些明确试图最大化影响力的科学家，试图这样做可能会产生不利影响，因为他们可能会忽视那些不那么明显但可能更重要的基础研究。你认为这可能是长远主义的一个普遍问题吗？如果你真的在试图找到对长远来说最重要的事情，你可能会错过那些通过这种方式思考而不会显现出来的事情。是的，我认为这是一个风险。在人们可以反对我的一般观点的方式中，有一种方式我觉得……你知道，我争辩说，总的来说，我们应该做相当具体和有针对性的事情，比如……尝试
为了让人工智能安全，我正试图很好地管理人工智能的崛起，就像最坏情况下的流行病可能杀死我们所有人一样，以防止第三次世界大战，这样就能确保推广好的价值观并避免价值锁定。但有些人可能会争辩，像泰勒·科文和帕特里克·科利森这样的人，我认为他们采取了这种观点，即预测我们选举的未来影响是极其困难的，甚至尝试也是徒劳的。因此，相反，你应该做的是看看过去一直持续带来许多好处的事情，然后尝试做同样的事情。他们可能特别认为这意味着技术进步，可能意味着促进经济增长。是的，我猜我只是不同意这一点，但这并不是我能给出完全无可辩驳的论证的事情，因为这涉及到我们何时会发现谁是对的，也许是在一千年后。但只有一个证据，就是预测者总体的成功。同样，这对于泰勒·科文也是如此，但你知道，有效利他主义中的人们只是意识到，合作病毒大流行对他们来说将是一件大事，在非常早期阶段就提前担心流行病。我认为有些事情确实是可以预测的。
摩尔定律已经持续了70多年。我认为人工智能系统将变得越来越大，领先的模型将变得越来越强大，这是一种趋势。同样，我们很快就能开发出具有前所未有破坏力的病毒，我认为这并不是一个有争议的说法。因此，尽管我认为在很多事情上确实很难预测，而且会有很多惊喜，但有些事情，特别是关于长期技术趋势，我们可以做出合理的预测，至少是关于可能出现的结果范围。
这听起来像是你在说，现在我们知道重要的事情现在很重要。如果一千年后回首发现某事非常重要，那对我们来说现在就不显眼了。我之前说的关于我和帕特里克·科利森和泰勒·科文谁对谁错，在某种意义上，我们只有一千年后才能得到这些信息，因为我们正在讨论哪种策略将对长期产生更大的影响。我们可能会更早地获得一些暗示性的证据。如果我和其他从事长期主义的人对人工智能或生物技术进步将发生什么做出具体的、可衡量的预测，而他们却无法采取行动，从而相对清楚地减少某些风险，我认为这是支持我们策略的有力证据。
相反，如果他们做得很好，做了各种各样的事情，并没有真正试图对将要发生的事情做出确切的预测，然后事情就突然出现了，我们认为哦，从长远来看，从未来的角度来看，这真的很好。你知道，假设我们在 10 年后衡量这一点，那么这将是支持他们观点的有力证据。你之前关于偶然性的说法，即使按照他们的世界观，你也应该认为技术……即使你试图最大化过去最有影响力的东西，如果过去最有影响力的东西是改变价值观，那么经济增长可能是最重要的，或者试图改变经济增长的速度。
是的，我确实认真对待“看看人们过去是如何行事的，特别是那些试图产生持久影响的人，他们做了什么有意义的事情，什么没有”的论点。在 19 世纪末，约翰·斯图尔特·密尔和其他早期功利主义者经历了一场“长期主义”浪潮，他们开始非常认真地考虑子孙后代的利益。他们的主要担忧是英国的煤炭会耗尽，因此子孙后代将贫困。这很引人注目，因为他们对经济运作的理解非常糟糕。他们没有预测到我们会能够摆脱煤炭，因为持续的创新。其次，他们对世界上煤炭和化石燃料的储量有极其错误的看法。因此，考虑到我们现在所知的情况，那个特定的行动毫无意义。事实上，考虑到当时英国的情况，试图将煤炭留在地下，而且要说清楚，我们谈论的是远低于现有煤炭的储量，所以煤炭量很少，所以气候变化的影响在这种程度上是微不足道的。你知道，这实际上可能是有害的。但我们可以看看约翰·斯图尔特·密尔可以做的其他事情，比如推广更好的价值观。他曾为妇女选举权而奔走，我认为他是第一位英国议员，也许是世界上第一位政客，来推广妇女选举权。这似乎相当不错，似乎经受住了时间的考验。你知道，这是一个历史数据点，但我们可能可以从中提炼出一个更普遍的教训。
你认为全球决策者达成共识的能力是净好还是净坏？也许这有助于阻止一些危险的技术出现，但另一方面，它阻止了人类挑战试验，也许它会在未来导致某种锁定。你对此有何看法？
全球一体化的问题，你说得对，它是双面的。一方面，它可以帮助我们减少全球灾难性风险。世界能够团结起来禁止氟氯化碳，是过去 50 年最伟大的事件之一，使得臭氧层空洞得以修复。但另一方面，如果它只是意味着我们都趋同于一种单一的文化，我们失去了多样性，那将是相当糟糕的。我们可能会因此失去大部分可能的价值。我认为解决方案是取其精华，去其糟粕。你知道，在一个自由的宪法中，你可以有一个国家，它在某些方面受到其宪法和某些法律的约束，但仍然能够实现道德思想和不同生活方式的蓬勃发展的多样性。同样，在世界上，你可以有非常严格的监管和条约，专门处理某些全球公共产品，如减缓气候变化，防止下一代大规模杀伤性武器的开发，而无需拥有一个实施特定世界观的非常强大的全球政府。
我们现在正朝着哪个方向发展？在我看来，我们正朝着一个相当不错且不太令人担忧的方向发展，但我认为这可能会改变。是的，历史趋势似乎是，当你有一个联邦政治机构时，即使在宪法上中央权力受到限制，随着时间的推移，它们只会获得更多权力。如果你看看美国，你可以看看欧盟，但是的，这似乎是趋势。是的，我认为这再次取决于其中所体现的文化。它可能是值得的，也可能不是，如果文化本身是自由的，并且促进道德多样性、道德变革和道德进步。但现在不一定如此。
你的道德变革理论意味着，在一个小团体开始倡导一个特定想法之后，可能需要一个世纪或更长时间才能让这个想法被普遍接受。你认为这是一个非常重要的世纪吗？我知道你在这方面与其他人的意见不合，但如果这是真的，这是否意味着长期使命没有足够的时间通过改变道德价值观来获得力量？
是的，我知道很多我非常尊重的人认为，通用人工智能将极有可能导致“奇点”级别的技术进步，技术进步的速度非常快，而且在未来 10 到 20 年内发生的可能性大于不发生。如果是这样，那么你说得对，价值观的改变是需要随着时间慢慢显现的。在当今世界，我谈论道德变革需要几个世纪，这更多是历史上的。我认为我们可以有更快的变革。你知道，有效利他主义运动的增长是我很熟悉的，它的增长速度约为每年 30%。复利意味着实际上时间并不长，这种变化不是在几个世纪的尺度上发生的。我认为如果你看看其他道德运动，比如女权运动，以历史标准来看，道德变革非常快。所以我认为，如果你认为我们只有 10 年的时间来结束历史，那么也许不要广泛地尝试推广更好的价值观，但我认为我们至少应该有相当大的概率认为我们不会在本世纪末达到某种历史性的终结。在那些世界里，推广更好的价值观可能会带来丰厚的回报。
你听说过斯莱姆·奥尔德姆的土豆饮食吗？
我确实听说过斯莱姆·奥尔德姆的土豆饮食，我曾想过把它当作一个噱头来尝试。但他们说得有道理，因为正如你所知，土豆几乎是一种超级食物，如果你偶尔补充一些扁豆或燕麦之类的东西，你就可以无限期地只吃黄油土豆泥。
好的，很有趣。关于你的职业生涯，你为什么仍然是一名教授？它是否仍然允许你做你本来会做的事情，比如转化更多的 SBF，或者为 EA 做出道德哲学论证？你对这个很好奇。
是的，我做什么相对来说是开放的。但我最好的猜测是，你知道，我花了很多时间共同创办组织，或者在我帮助建立的组织董事会任职。最近，我与未来基金会，你知道，Sam SBF 的新基金会密切合作，帮助他们尽可能地做好事。即便如此，如果有一个最佳猜测，我应该长期做什么，而且这更能发挥我的优势，你知道，就是发展想法，大致把握大局，然后以一种可理解的方式进行沟通，让更多人能够“振作起来”，决定做很多好事，特别是为了长远。我认为我在这方面产生了很大的影响。从这个角度来看，拥有牛津大学的教授职位非常有帮助。
顺便问一下，为什么你认为在思考这些宏大问题的人中存在稀缺性，比如历史有多么偶然，人们普遍有多快乐，这些问题是否太难了，或者他们根本就不关心？到底是怎么回事？
我认为有很多极其重要的问题，但基本上在世界任何地方都没有得到激励。公司不会激励在这方面的工作，因为它们太宏观了。其中一些是，未来是好是坏？如果发生全球文明崩溃，我们会恢复吗？一百年的停滞有多可能？几乎没有关于这些话题的工作。是的，公司不感兴趣，规模太大了。然后在学术界，我认为已经形成了一种文化，你不去解决这些问题。部分原因是它们在不同学科之间存在漏洞，部分原因是它们似乎太大了，或者太宏观了，或者太推测性了。而学术界普遍更倾向于在我们的理解上取得渐进式的进步。但过去并非总是如此。如果你回顾一下学术研究制度化之前，哲学家们会认为，除非你有一个宏大的统一理论，不仅包括伦理学和政治哲学，还包括形而上学、逻辑、认识论，甚至可能还有自然科学，比如经济学。我并不是说所有学术研究都应该如此，但是否应该至少有一些人的职责是真正思考大局？我认为是的。
我能把我的孩子送到麦卡斯基尔大学吗？那个项目进展如何？
我对创办一所新大学的想法非常感兴趣。有一个项目，我正在与另一个人讨论，他非常热衷于让它实现。它会成功吗？时间会证明一切。但是的，我认为你可以做得比现在好得多，而且你也可以做得比现在好得多。要获得认可，特别是要创造一个非常受尊敬的东西，非常困难，因为顶尖大学几乎都是几百年前建立的。但也许这是可能的，我认为如果我们能够成功，它可能会产生巨大的价值。
好的，太棒了。那么这本书是《我们欠未来》。我了解到预订帮助很大，对吧？是的，这是一本非常有趣的读物，因为多久会有人写一本关于他们认为最重要的问题的书，即使它们不是最重要的问题？是的，就像一种宏观的思考，但你也在关注任何出现的具体问题和议题。这是一本非常有趣的读物。
太好了，非常感谢你。你还能在哪里找到你，或者还有什么其他信息需要知道的吗？
是的，当然。《我们欠未来》将于 8 月 16 日在美国出版，9 月 1 日在英国出版。如果你想在 Twitter 上关注我，我的账号是 @willmccaskill。如果你想利用你的时间和金钱去做有益的事情，鉴于我们所能做的，这是一个鼓励人们承诺将收入的很大一部分（10% 或更多）捐赠给最能做好事的慈善机构的组织，并有一个推荐慈善机构的列表。80,000 小时，如果你想利用你的职业生涯去做有益的事情，这是一个关于什么职业真正具有最大影响力的建议来源，他们还提供一对一的指导。所以，是的，如果你感到受到启发，如果你认为“我真的想为世界做好事，我关心未来的人，我想帮助他们过得更好”，那么除了《我们欠未来》之外，Giving What We Can 和 80,000 Hours 也是你可以去的地方，并参与其中。
太棒了，非常感谢你来参加播客。非常感谢。我喜欢它。
谢谢观看。希望你喜欢这一集。如果你喜欢，并且想支持播客，你能做的最有帮助的事情就是在社交媒体上和你的朋友分享它。除此之外，请在 YouTube 上点赞和订阅，并在播客平台上留下好评。干杯，下次见。
[音乐]