Transcription
晚上好，各位，感谢收听 Futura 播客，在这里我们深入探讨新兴技术将如何影响世界和您的银行账户。我是 Trent Fowler，和我一起的，一如既往，是我的联合主持人 Thomas Frey。Thomas 和我都是未来学家、主题演讲者和顾问，在分析新趋势和向世界各地的听众传达新发展方面拥有数十年的经验。如果您想聘请我们进行咨询、在活动中发表演讲或在我们的播客上投放广告，请通过 Futura podcast.com 联系我们。
所以 Thomas，我们刚刚和 James Norris 谈过了。他实际上是我认识了很长时间的人，通过他在机构和成长方面的工作。所以我熟悉他的公司 Upgradable。他们提供量身定制的计划，帮助一个人尽可能地变得像 Elon Musk 一样有能力。所以，我认识他已经有一段时间了。我实际上不知道他像现在这样深度参与到存在风险和有效利他主义中。但与他交谈很棒。
什么让你印象深刻？
他似乎对未来将发生的事情有着最乐观的看法，尽管有些人可能会称他为宿命论者。我认为人们可选择的选项比他想象的要多得多。我的意思是，他只关注所有可能出错的事情。我不知道，我倾向于关注那些进展顺利的事情，我关注等式的另一面。但是，让这样一个人来剖析他的思维方式以及他们如何走到今天，这很有趣。所以，我认为人们绝对应该听听这个，了解这种思维模式是如何形成的。
是的，这次采访大致分为两部分。第一部分侧重于自我提升和能动性。我们谈了很多阻碍个人成长的障碍，这是一种“自助”式的展望。所以，考虑到这一点，我们鼓励您收听这次对 James Norris 的采访。让我们知道您的想法，并祝您今晚生活愉快。
[掌声] [音乐] [掌声]
今晚，我们请来了 James Norris。James 一生都在寻找改变自己和世界的最有效方法。他六岁时就成为一名企业家，此后共同创办或帮助建立了九家企业和十六个组织，包括有效利他主义运动的全球会议系列、世界上第一个全球生活黑客活动系列，以及东南亚第一个社会创新黑客马拉松系列，为当今的达芬奇们。他毕业于德克萨斯大学奥斯汀分校，拥有——请注意——三个主修和四个辅修。他花了二十多年的时间，非系统地提升自己。如果您喜欢这次采访，请订阅播客并与您的朋友分享。别忘了访问我们的网站 Futura podcast.com。
[音乐]
James，非常感谢您来到节目。很高兴来到这里。Trent，我想听听您的背景，您的兴趣，以及是什么让您开始致力于您今天正在解决的问题。
我叫 James Norris，来自德克萨斯州休斯顿。我从小就对这些事情很感兴趣。我一生的大部分工作都围绕着行为改变和社会变革。我一直在尝试创造我们通常所说的“Elon Musk 式”的人物，或者像 Elon Musk 一样有能动性、有远见的人。这是一个非常简短的概述，有成功也有失败。但我的整个生活都在围绕着建立企业、非营利组织，试图创造这些有能动性的人，他们能够看到未来并塑造它。所以，未来主义是其中重要的一部分。许多这样的人拥有多年、数十年的生活计划和生活策略。这就是我们所做的。我可以详细说明，但是的，我建立了 25 个组织，它们总共运行了 200 多年。其中一些是真正的突破，但它们仍在运行。大约一半的组织还在运行。我拥有相当自学成才的背景，大学时是三个主修和四个辅修。我曾试图为当今的达芬奇们建立一所大学，这是其中一个组织。是的，这一切都将我带到了这里。我们正处于未来。当我年轻的时候，我想，好吧，当我 40 岁左右时，这将是文明的转折点。现在我们在这里了，看起来我们正处于非凡变革的边缘。这既令人兴奋又令人恐惧。
好吧，我为自己设定了一个新目标。我想成为有史以来达到独角兽地位的最年长的人。有趣的是，我问了 ChatGPT 最年长的独角兽是谁。它说她才三十多岁。我想，哇，我真不知道。根据 ChatGPT，成为亿万富翁的最年长的人才三十多岁。现在我没有办法验证这一点。我不知道。这太疯狂了。哇。是的，我想我会再次检查一下。
好吧，我们说 Sam Bankman-Fried 是最年轻的白手起家亿万富翁之一。他是那些“走上邪路”的有效利他主义者之一。但成为亿万富翁是我们 Upgradable 这个社会企业试图做的事情之一。但那里有一些陷阱，因为随着权力和成功，有时你也会分崩离析。我们可以谈谈你想要的。但我已经确定，有一个机会。好吧，我可以成为那个人。
Thomas，是的，试图成为真正的独角兽。所以，通过基因工程，也许我们可以创造第一个人类。这就是我们生活在未来，但一开始就进入了一个非常奇怪的地方。这是我们最喜欢的客人类型。
是的，我想从你提到的几件事开始，我发现它们非常迷人：个人和社会变革，以及培养像 Elon Musk 一样有能动性的人。你能告诉我一些关于……所以，我想你可以按你喜欢的顺序来，但我对社会变革的模型非常感兴趣，社会是如何变化的。大约一年前，我们采访了 Samuel Arbesman，讨论了这个问题。然后，你知道，你如何看待能动性，如何看待灌输能动性。这也是我一直着迷的事情。所以，你可以按你喜欢的方式来。你还有多少时间？40 分钟。
在几分钟内压缩所有社会变革是徒劳的，但让我们试试。无论如何，我在大学里就学过这个，而且我一直在研究它。从个人角度来看，如果你想改变世界，想做大规模的系统性变革，你必须首先明白这是一个复杂的适应性系统。你在一个点、一个城市、一个国家、一个行业、一个领域进行干预，你期望某种结果，因为你模拟了 XYZ，你发明了一些让世界变得更好的东西。但然后是下游效应、二阶效应。所以，第一件事是，它比你那小小的脑袋能处理的要复杂得多。所以，谦逊在这种事情上真的非常非常重要。我发现很多过去试图改变世界的人并没有表现出适当的谦逊和知识上的谦逊。话虽如此，我们可能还是不得不向前推进，因为正如我所说，我们正处于那个边缘。有各种理论。我研究过它们，我不认为它们中的任何一个能真正影响我现在所做或建议人们做的事情。因为作为一个个体，你选择成为 XYZ 领域的全球最佳，比如电动汽车，还是选择成为 AI 安全领域次级领域一的全球最佳？或者你尝试进入政府政策领域，成为总理或总统，或者在像研究机构这样的高级别？这些是你可能考虑采取的改变世界的不同方法。但那是个人视角。集体而言，这是你、我、Thomas 和数百万、数十亿的其他人的集合。所以，这个真正有趣的有机体，文明，将继续适应和进化，无论你作为一个个体做什么。所以，我试图从那个规模来看，但我不知道除了几件事之外，比如试图建立运动。这是你可以考虑做的一件更宏大的事情。我们帮助建立了有效利他主义运动。如果你愿意，我们可以深入探讨。这是塑造社会、塑造未来的有意识的努力。它在某种程度上适得其反。
最近，你好，我是 Trent Fowler，Futura 播客的联合主持人。我遇到的最常见的营销建议之一是了解你的听众并满足他们的需求。播客的一个难点是，实际上很难做到这一点。主要的平台都没有任何方式让我们联系到你们听众，了解你们喜欢 Futura 播客的哪些方面，以及你们希望我们做些什么改变。所以，我们决定录制这个广告，直接向你们提问。请访问 Futura podcast.com，进入联系页面，给我们写信。告诉我们你最喜欢和最不喜欢的剧集，你希望我们在未来涵盖哪些内容，以及任何你想让我们知道的其他事情。我们为你们制作这个节目，我们想要你们的建议，以便我们能做得更好。谢谢。
似乎如果你身边都是志同道合的变革者，那么产生积极改变的可能性似乎更大。你身边的人似乎对你人生的去向有着巨大的影响。是的，这方面有很好的研究，是发展心理学。所以，青少年时期，就像你们父母认为你们实际上在塑造、培养或分析你们的孩子一样，在很大程度上是他们的群体和他们所在的文化。所以，这可能是积极的或消极的。但是的，我同意。所以，要实现系统层面的变革，如果你独自一人，你知道，在森林里的某个地方的孤独发明家，我做过一些，这很难，压力很大，而且你经常会迷失方向。但如果你在一个群体中，作为一个社区，你知道，一个小小的共同生活房屋，或者你在硅谷式的城市里这样做，或者你在有效利他主义或未来主义这样的广泛社区中这样做，这会给你带来很多好处。因为许多人有相似的观点，但许多人也不同意。如果你想从根本上削减，认为你可能正在造成破坏，而不是启蒙或繁荣。而且还有最终的嫉妒等等。所以，你进退两难。然而，我建议人们找到一小群与他们的价值观和生活策略高度一致的人，并教他们关于你，教他们关于彼此。所以，你拥有那种部落心态。就你能够诚实地说，“嘿，我认为你不是一个好的工作者”，或者“我认为你是一个好的工作者”。所以，这种深层次的认识论联系。所以，强硬地反驳他们所相信的和不相信的。如果你能做到这一点，并且你的社区中有爱、尊重和同情，那就太棒了。如果你不是，你就会陷入一种军事风格的严酷强度。如果你是一个想在这个世界上做最多好事的人，这通常是最好的方式。
所以，当我问到能动性时，我希望稍微深入了解一下细节。你可能研究过有能动性的人，并且与高能动性的人一起工作，让他们……你知道，能动性更强，在他们试图完成的任何事情上都更有效。你认为是什么阻碍了人们？你为那些只想做更多事情、产生更多改变的人推荐什么策略？
我们研究这个问题已经二十多年了。我们将我们学到的一切都浓缩到了 Upgradable 中。所以，我们试图将最有用的概念、原则、策略和工具编纂成册，以提升你自己。它是免费的，你可以去看看 upgradable.org。如果音频没有出来，upgradable.org。我正在看。
请继续。抱歉。它旨在成为一个关于成为更具能动性的最有用概念和原则等的百科全书。当你单独这样做时，或者在群体中。是的，这就像一个 N=1 的实验，因为没有人能够真正有效地提升人们。所以，这是一个研究项目。我认为数百万人尝试过，数百万、数千万人试图变得非常成功，你知道，富有或快乐，无论你的最终目标是什么。大多数人都失败了。所以，我们应该从根本上认识到，世界上绝大多数人都没有实现他们最优生活的接近。我们发现“繁荣”就是过上你最想过的生活，符合你的价值观。所以，你真正重视和平，但你每天都在挣扎，你还没有做到。如果你重视安全，并且你生活在当今世界，那么你还没有做到，因为世界非常不安全。如果你重视自由，那么如果你有足够的资源，也许你可以做到。有些人已经实现了。我认为你问了一些阻碍人们的事情。经典来说，你会被你的……所以，我两者都回溯。有很多心理上的恶魔，如果你愿意的话。你可以使用部分模型。所以，内部家庭系统疗法是一个有用的框架。你的一部分，你的一部分在与另一部分作斗争。这就像你大脑里的拔河比赛。这在大多数我合作的人身上经常发生。他们不一定知道这场战争正在进行，他们看不到。
“系统性停滞”是另一个术语。在系统层面，个体无法戒烟，例如，因为他们实际上需要它来减轻压力。直到他们能找到另一种减压方式，他们才不会停止吸烟。因此，他们很可能会得癌症。我妈妈就是这样。我妈妈的很多工作都是由她激励的，因为她 16 岁时因肺癌去世，因为她吸烟了几十年，她无法戒掉。所以，我们设计了 Upgradable，一个 Upgradable 项目，试图让像她这样的人摆脱这种系统性停滞。所以，如果你对某人进行干预，他们需要帮助。他们需要钱来度过短期的经济困难。他们需要一些灵感和希望以及关于选择更好职业的指导。他们可能需要一些治疗来帮助他们摆脱功能失调的关系、婚姻。他们需要所有这些，同时在系统层面。否则，变革就不会发生。所以，总的来说，没有真正的简单方法可以做到这一点。这总是基于你所看到的以及你遇到的与你合作的人而进行的适应性调整。所以，你、Thomas、我，我们都有自己关于为什么我们被困住、为什么我们没有接近最优状态的故事。我们可以诊断，如果你愿意，可以深入研究。这在概念层面并不复杂。复杂的是执行。如何通过几天、几周、几个月、几年、几十年的改变来实现你最看重的东西。我们的大脑不是为此而设计的。我们不是为此而生的。所以，这不是你天生就会擅长的事情。
我玩过这个。这在很多层面上听起来都很疯狂。这个想法是做一个真人秀节目，你进入芝加哥的市中心，然后你绑架帮派成员，然后把他们运到加拿大北部，把他们扔在那里，让他们试着生存。我承认这完全是疯狂的。但你试图改变一个人的想法。我是否在正确的轨道上？
我们很可能会绑架帮派成员。Thomas，我在这里打断你。但那会是一个真人秀节目，而且他们会为此付费。如果他们……
是的。
是的。
有一些研究文献，Thomas。如果你将一个人从贫困转移到更健康的环境，他们通常会做得更好。我们一次又一次地看到这一点。所以，我认为这些干预措施，在获得同意的情况下，你知道，并获得他们的……所以，为什么我的另一个朋友在加拿大北部被扔进生存情况，而我却没有？有一个项目叫做……是的，实际上的……在……学校里。这是最著名的……特许学校之一。我最近去参观了学校，我来自那里。相对来说，只是看看学校。它很酷，很棒。但他们设计得更像是一个严格的……不是军事化的设置，但他们设计得很清楚。你因为这个得到奖励，因为那个得到惩罚。一切都是高标准。你可以做到，推动，推动，推动。但带着爱。所以，它不像……我住在新加坡。它不像那么严酷。新加坡的许多孩子在很小的时候就接受了严格的训练。我认为它在这方面做得更好。但很难进入抽签系统。所以，这些是具有一定吸引力的一些社会实验。但现在，我们如何灌输它们？不幸的是，有了……我们可以开始为一个人进行这些教育干预，在一个适应性强的环境中，相当快。这将从根本上重塑社会。所以我期待着未来的这一面。所以，我们应该问，Mr. Beast 会怎么做？我绑架了芝加哥的 300 名帮派成员，然后把他们放在加拿大北部。
[笑声]
阅读这个有助于完成。时间不够了，我想。
是的。
我有一个后续问题，基于你刚才说的，但我现在想不起来了。
让我们谈谈元成长或递归自我改进。这也是我非常着迷的事情，而且似乎与我们一直在追求的能动性角度有关。你对此有什么看法？
我们的增长报告将会增长。所以，你成长能力的反向增长是递归的。经典的例子是，如果你赚钱，你就可以用钱为你赚钱。然后你可以用钱赚更多的钱，用钱赚更多的钱。它不是完全……它不是指数级的，但它也不是必然是线性的。品牌也是如此。所以，有时你可以变得有点出名，然后你可以变得越来越出名。顺便说一句，当你出名时，会有缺点。所以，并非一切都像吹嘘的那样。我曾长期为此而苦苦挣扎，但现在我又回来了。这些是两个例子。任何事情，只要它对你的大脑成就产生越来越大的影响。去健身房本身并不是元成长。它有点，你每天都去，你获得线性收益，然后你就会达到某个点。所以，它仍然有用，去做吧。但你在很大程度上受到限制。所以，我们想在人类身上做的事情是递归地自我改进，直到我们成为完全有能动性的人，能够改变世界，从而传播我们的价值观。所以，重新排列宇宙，这样，嘿，我的环境看起来真的很好。你知道，我身边的人，我爱的人，真的很棒。或者你是一个赛博格，一个星舰，或者你可能想要的未来自我的某个版本。这就是我所说的“最优生活”。一直到“最优生活”，对不同的人有非常不同的含义。
但是，设定增长，你可以做所有基本的事情。你可以自我发展。我有很多客户，我的很多朋友，他们仍然会遇到瓶颈。所以，我不……我将 Elon Musk 视为许多好事的一个典范，但也有一些不那么好的。所以，你可以想象，那可能接近瓶颈，或者某种瓶颈。那么多的钱，那么大的影响力。然而，它即将改变，因为现在你可能拥有比他更聪明的人工智能代理。像贾维斯那样有能动性的代理，也许有数百万、数十亿、数万亿的代理协同工作来帮助你成长。你不需要那么多，因为与社会相比，你相对简单。但它就在那里。
挑战在于个人行为改变，因为它更容易建模，更容易取得进展。所以，你可以帮助国家元首、首席执行官、名人等在他们的生活中做出一些改变。但更大的问题是，我们这 80 亿人怎么办？然后是地球上数万亿甚至数千万亿的其他生命形式，它们首先都选择能够成长到它们的终极状态。这都是开放的研究问题。Trent，我不太确定它在一年后、十年后、一百年后会是什么样子。成为一个完全进化的人意味着什么？这只是……极限。
有哪些杠杆可以让人在元成长过程中获得动力？我的意思是，我认为名气和金钱是两个显而易见的例子。还有其他的吗？我的意思是，我第一次对此感兴趣时，我大概 12 或 13 岁，我不知道“元认知”这个词，但我知道你可以思考思考。如果你能设计一种更好的思考方式，即使只提高 1%，在你的生命过程中也会让你走上完全不同的轨迹。所以我一直对那个着迷。就像有意识地干预你自己的体验流程或你的处理方式。所以，你有什么更具战术性的东西吗？我的意思是，显然我可以赚一百万美元，然后轻松地把它变成一千万。但我很好奇……我的意思是，如果我现在从桌子旁站起来，我能做什么来改善我的思考方式，来启动这个成长我成长能力的过程？
简短的回答是，做 Upgradable 项目。然后你决定，你选择前进的道路。你可以付钱给我，你可以付我很多钱。你也可以自己做。我们已经……在很大程度上免费了。所以，这就是目标。每个人已经在做某种形式的这件事了。但我们正试图有意识地让你更有策略性，更有系统性。我通常让人们开始做的事情是建立你的外脑，你的外部大脑。大多数人已经是赛博格了。他们已经有了骨骼，他们有这些超级计算机在口袋里，他们没有完全意识到。他们已经适应了。但大多数人在他们的笔记本电脑或手机上，或者在他们的驱动器上，他们的 Google Drive 或 Dropbox，以及他们的电子邮件收件箱和其他系统上，都没有非常干净的桌面。所有这些都是你的外脑。这就是你如何通过分布式认知进行思考。你还与其他人进行认知，你的个人团队。我们稍后会谈到。但最容易考虑做的事情是清理你的整个外脑。这样你就知道每一件事的去向。你的每一个想法都有一个位置。你的每一个行动都有一个位置。你的每一个资源都有一个位置。所以，你的钱，你的时间，你的日历等等。所有这些……一起给你一种更强的能动感，因为你不会忘记事情，而且你能做更多的事情。而且它每天都能让你变得更聪明、更有效。因为当你开始清楚地了解你的任务和你最有价值的任务时，如果你真的尝试对它们进行排名，然后看看你是否在做它们，你会发现你没有。大多数人每天都不是以一种聪明、理性的方式生活。所以，如果我问你今天对你来说最重要的事情是什么，Trent？可能是和我说话，但可能是申请某事。可能是结束一段非常糟糕的关系。可能是搬到一个更安全、更有趣的地方。可能是买那个 43 英寸的显示器。我真的不知道。但你可以考虑做很多不同的事情。如果它们不在你的数字轨迹上，你的数字大脑上，并且没有以一种有条理的方式呈现，你真的没有多少机会去做。所以，大多数人只是漫无目的地生活，摸索着前进。他们不知所措。所以我鼓励首先是外脑。让收件箱清零，或者我们称之为“收件箱禅”。所以，一切都回到了一个相对好的状态。他们需要更有策略性，并在每一刻、每一天、每一周、每一个月、每一个季度、每一年都选择最有价值的事情。而且你必须一遍又一遍地回顾它。因为你的大脑并不擅长思考这些事情并保留它们。
David Allen 曾说过，大脑擅长产生想法，但不擅长保留它们。我最近与他的一些家人合作，这很有趣。他们都是有趣的人。但我没有听到 David Allen 的……哦，是的，老派的。所以，大多数人没有 GTD 系统或同等系统。所有这些都是常识，但如果你真的做了，你就能更流畅、更有策略地朝着对你最重要的方向行动。
那么，你认为即将到来的大技术是什么，它们将如何戏剧性地改变我们的步伐？我认为，从这个角度来看，最有可能让你失业的技术，也将是创造未来新工作的技术。所以，看起来我们正在关注所有即将到来的新技术。我们可以……与未来十到二十年的大部分变化保持一致。也许这不是一个好的说法。我会缩短时间线。我认为是一到四年。变化……不完全确定。但高概率。你提到了创造新工作。
房间里的大象是人工智能。人类智能一直非常强大。我们用它登月。我们可以用它为大部分人口创造更高质量的生活。所以我认为人工智能在本质设计上要强大得多。所以，我认为它会取代很多工作，它也会创造它所取代的新工作。我真的看不到人类在当前轨道上的未来。我的意思是，我从 15 岁起就从事存在风险研究。我建立了我的第一个原型存在风险组织，试图设计国际空间站和火星以及其他地方的国际比赛。NASA 曾做过。这让我意识到，是的，我们真的应该离开这个星球，我们真的应该为我们现在所处的时刻做好更充分的准备。随着人工智能的到来，我怀疑它会颠覆我们所认为的人类的大部分。如果我完全诚实地说，最可能的情况是灭绝。我相信你以前也请过谈论过这个。我真的看不到太多积极的结果，如果我们继续像现在这样构建人工智能或通用人工智能。更有可能的是，我们会意外地或故意杀死自己。所以，最大的技术是人工智能。这是我们必须发明的最后一种发明，因为它之后可以以我们无法跟上的速度发明一切。
任何值得的未来都一直在思考奇点几十年了。我的最初估计，我的预测是 2028 年。所以，看起来我在这方面相对准确。但我很高兴我的一些预测是错误的。来自那个集合的大约 66% 似乎是准确的，33% 是不准确的。所以我真的真的希望我在这方面是错误的。这是我最大的希望来源之一，我可能是错的，Lazer 可能是错的，整个 AI 安全领域都可能是错的。但我不会打赌。所以，这就是我们现在的情况。我正在尽我所能地努力工作，试图阻止这场灾难，而且我一直如此。从有效利他主义的早期开始，我共同创立了 EA Global 和 EA Ventures，并为 80,000 Hours 提供建议。所有这些都在某种程度上试图建立我们现在拥有的 AI 安全领域。所以我很高兴联合国去年终于承认人工智能是一个存在风险，并且他们一直在努力解决这个问题。有这么多新的机构、组织和人加入这场战斗，这对我来说是鼓舞人心的。但我们必须在这方面努力。我们必须真正弄清楚如何对齐人工智能，或者完全阻止它，否则它很可能会超越我们。
您喜欢 Futura 播客的这一集吗？如果是，请点赞，在 Apple Podcasts、Spotify 或您获取播客的任何地方给该节目五星好评，并与您的朋友分享。迄今为止，帮助我们成长的最好方法是在社交媒体上进行传播，这将使我们的内容接触到更多人，并帮助我们继续为您带来与人工智能、量子计算、加密货币等领域的全球顶尖专家的访谈。提前感谢。
所以，我们离那个还有四年。我们离当前的人工智能方法、深度学习、大型语言模型还有四年。这将产生一个递归自我改进并超越人类的通用人工智能。我的估计是，一到四年是颠覆，然后是文明崩溃和灭绝。每个预测都不同。我……我不太喜欢给它加上数字。但为了清晰起见。这些事情会随着你根据世界上的反应做出预测而改变。所以，如果我们真的在……我们可能会有更长的时间。目前的估计是基于我现在看到的情况。而且，我的意思是，其中一个估计已经将近 20 年了。AGI 的估计，当时总是假设如果我们构建它，我们可能不会幸存下来。尽管当时我对它具有内在价值观可能与我们一致或某种道德嵌入其中，我更加乐观。但我不再相信了。这是一个相当大的转变。
这与成为一个技术乌托邦乐观主义者是相同的。你认为技术将拯救一切，带来所有这些惊人的好处。然后你意识到它的缺点。这种天真的乐观主义会变成更忧郁的现实。哦，是的，在社交媒体上联系有很多巨大的价值，但其中也存在破坏性，然后它会传播“思想病毒”。这就是我们现在与人工智能共存的状态。所以，就它很棒而言，它具有所有巨大的优势，我们想要。我们想帮助教育人们，我们想治愈癌症，解决贫困。但这些技术也可以做到这一点，因为不仅仅是我们 80 亿人，而是我们数万亿人，或者数万亿个智能体在解决这些问题。但缺点也是数万亿个。这个外星超级智能，它可能与我们的价值观完全不一致。在物理学或哲学上没有内在的理由，为什么这些智能会与我们所珍视的相符。因为即使在我们十亿人之间，我们也不一致。你看看乌克兰和俄罗斯现在。他们的价值观并不完全一致。世界大部分地区都是如此。
那么，你认为什么样的监管……有什么帮助？是的，什么……我们最好的帮助是一个工作的联合国。所以，我现在正在研究一个联合国 2.0 的倡议。如果我们能催化这样一个全球政府，显然有缺点，但好处是，我们有更大的机会生存。所以我希望在我们能够证明它是安全之前，停止所有前沿开发。我的意思是，如果需要十年，那就十年。25 年，那就 25 年。100 年，那就 100 年。没关系需要多长时间，因为你不应该拿存在来赌博。所以，企业家、创新者们，我知道你们不想听到这个。但如果你可能正在创造一些可能终结世界的东西，我认为你应该停止。我认为你无权将我和其他人置于风险之中。所以，我认为这是非常常识性的。大约 70% 以上的美国人希望有国际监管和更多监管。67% 的人非常害怕。所以，如果你正在做一些让你邻居和家人害怕的事情，以及我们这些在该领域学习的人，我们应该认真考虑你在做什么。
如果你试图制造一种不需要铀或钚的新型核武器，我也这么说。那也极其危险。在过去的几十年里，我们几乎毁灭了自己很多次。根据 Kristof In's 的估计，在冷战期间，我们杀死自己的几率大约是 33% 到 50%。非常接近。点对点毁灭。而那是一个相对……受控的武器系统。虽然人工智能不受控制，而且在未来，它们可能会在手机上运行。你如何将这些人工智能与人类价值观对齐，而人类价值观在变化？这是一个非常不同的游戏。我认为世界现在正在觉醒。这就是让我兴奋的地方。这很难接受。我们有太多的偏见，比如常态化偏见。你不想考虑负面风险或变化，因为它在认知上很费力，很痛苦。我们的大脑不是为了寻求真相而设计的。它们是为了帮助你适应而设计的。所以，你不需要了解这些巨大的存在风险，如果你的重点是……你的家人，抚养孩子。你的大脑不是为此设计的。所以，这是可以理解的。但人们不明白。他们不真正关注它。这令人沮丧，令人痛苦。但这是一个同样的故事，尽管比原子武器危险得多。
哦，当我和 Zard 以及其他人意识到他们即将掌握的潜在破坏力时，他们中的一些人非常认真地对待。他们签署请愿书，隐藏研究，隐藏武器，放慢速度，建立国际合作。有些人则不然，他们更随意。但我们通过纯粹的运气，以及很多人都在为之奋斗，我们挺过来了。所以我希望我们也能这样做。我希望我们小心谨慎地使用狭义人工智能，小心谨慎地推广人工智能，它能做好事。并且不要构建通用人工智能，直到我们能够确保它将是安全和对齐的。所以，让 90% 到 99% 的科学家和哲学家同意，然后进行实验，直到那时，不要实验。我们需要一个世界政府来帮助确保这一点。所以我正在为此努力。我正在 Upgradable 上努力，帮助人们看到和塑造未来。我正在努力进行 Bunker 项目，试图帮助人们建造升级的别墅和掩体，因为我不一定认为我们会及时完成。所以，也许我们中的一些人可以幸存下来。但是的，这就是我们所处的严峻现实。如果你不相信，那也没关系。但研究一下，并试着给出有力的论据，说明为什么我们可能在人工智能安全方面是错误的。如果你能做到，那就太棒了，说服我们。这样我今晚就能睡个好觉了。但还没有人说服我，或者做任何真正令人信服的事情。事实上，恰恰相反。每次我和某人交谈，他们都变得更加悲观，他们看到了更多的风险。我几乎从未见过人们延长他们的时间线，说“好吧，它将在 2100 年发生”，然后是“2200 年”。不，它总是在缩短，缩短，缩短。危险在增加。这告诉你很多。更多的共识正在到来。我们正处于突破点。所以，我们可能能够进行一些监管。欧盟人工智能法案已经通过，美国有一些行政命令，还有很多其他方法。我们得到的帮助越多，我们就能放慢速度，也许可以引导和塑造我们的未来。
抱歉，打断你。
不，不，不。
是的。
不，我欣赏你直面真相，就像你看到的那样，并与我们坦诚相待。就反驳意见而言，我会看看第 157 集，Greg Salmieri 的，以及第 156 集，Yannes Yer 的。他们两人都是专家，不一定在人工智能本身，而是在相关的哲学学科。我们花了很多时间与他们两人一起“掏心掏肺”。而且，我认为结果并没有构成对所有……论点的完全反驳。我的意思是，它们还在继续，还在继续。但它绝对是一种替代视角，我认为至少是引人注目的，而且要乐观得多。所以我建议你们看看那两集。
我想以一个更积极的基调结束，问你关于存在性希望。这是你不太常听到的。你经常听到存在性风险，但不太听到存在性希望。你能多谈谈吗？
是的。我认为这是由 Foresight Institute 的 Allison 提出的。我们正在努力建造乌托邦或乌托邦。这个努力的全部意义在于进化我们的物种，就是让生活变得异常美好。所以我认为技术一直有这个潜力。正如我所说，狭义人工智能，通过教育，通过疾病，这听起来对我来说很棒。但从大局来看，我认为我们应该希望我们不是一个单一的行星物种。我认为我们应该是多行星的，我们不应该是基于碳的，我们可以是基于硅的或其他基质的。
所以，我认为我见过的关于存在性希望和这些乌托邦式未来的最佳观点来自 Max Tegmark 的《生命 3.0》这本书。他实际上调查了很多人，看看他们想要什么样的未来。想象一下，我们可以拥有任何东西。他有各种各样的版本。我喜欢 12 个，一些反乌托邦，以及像 1984 年那样的灭绝。但有些是自由主义乌托邦，或者仁慈的独裁者版本。所以我确实想象一个我们做得对的未来，我们确实解决了世界上大部分问题，如果不是全部的话。所以，如果你能梦想，你知道，宏大，思考宏大，然后你可以开始思考你或你的继承者将处于一种完全不同的存在状态。光速传播的幸福浪潮有时被用来形容。我们真的不知道这里会发生什么。但我不认为我们会处于这种状态，190 个国家经常互相争斗，平均寿命 79 岁，而且我们大多数人都没有过上美好的生活。我认为这只是一个过渡点。所以，假设我们解决了人工智能对齐，通用人工智能对齐。我们利用数万亿个新的智能来解决所有问题，构建新技术，递归地自我改进。如果我们能做到这一点，这很难。我认为我们现在不应该尝试。我认为我们应该在尝试之前变得更明智。但如果我们最终能做到这一点，那么我们就成为……某种极其乐观、美丽的后人类物种。这就是我所期待的。
但你说我们应该在尝试之前变得更明智。这种“变得更明智”是什么样的？
不要拿存在来赌博。如果你正在制造可能毁灭全人类的东西，就停止吧。基本上就是这样。如果你在经营一家……制造桌椅的公司，你不太可能毁灭人类。如果你在经营一家让孩子们沉迷于电子烟或香烟的公司，那也很糟糕，但那也不会毁灭人类。如果你正在制造一种类似外星超级智能的东西，它可能或可能没有我们的价值观，而且我们没有理论上的方法来控制它或对齐它，那真的很糟糕。所以，要有审慎，要有谦逊，要有同情心，对待我们所有不想进入那个未来的人，因为我们无法阻止你。很难阻止你，但人们会试图阻止你。所以我怀疑未来几年，人们会开始意识到风险，他们会非常生气，当有人试图拿他们的……赌博时。这就是我所看到的。我可能是错的。
您是否需要一位充满活力且知识渊博的演讲者来参加活动？Thomas Frey 和我 Trent Fowler 都是经验丰富的专题演讲者，能够与各种规模和技能水平的听众就广泛的话题进行交流。请访问 Futura podcast.com 上的联系页面来预订 Thomas 或我。让我们运用我们多年的公开演讲经验，让您的活动取得圆满成功。
您会认为量子计算是一种指数级风险吗？
在……战争中，他是领导者之一。我试图问一些关于那方面的事情。他说，嘿，我们还没有到那一步。我不知道，我现在不会将其归类为存在风险。但我确实怀疑，它将彻底改变我们的系统，以及我们所认为的……正常。在这种转变中，我们将无法生存。如果我们是这个意思。
那么，你会给收听这个播客的听众什么建议？他们可能还年轻，比如不到 30 岁，相对聪明，有一些技术技能，可能在某个方向上产生影响。你会建议他们把时间分配到哪里？
如果你有时间和精力，你的金钱……把它投入到 AI 安全中。AISafety.com 是新的入口点。Upgradable.org，我们已经做了很多年了，帮助人们规划他们的人生道路，考虑到人工智能和其他技术。现在有几十个其他组织渴望吸引人们加入，帮助他们安顿下来并做有用的工作。所以，是的，职业是最好的。如果你能投入时间，换工作。如果你能投入金钱，就捐款或投资。如果你能游说你的国会议员，绝对去做。如果你能签署公开信，绝对去做。如果你能加入抗议活动，例如，绝对去做。如果它符合你现有的价值观和限制，显然。如果你是一个非常高级的 CEO，你可能不会去抗议。它可能对你有用，也可能没用。所有这些都需要大量的思考和考虑。但人们可以做很多事情。最简单的事情是与你的邻居、朋友和家人交谈，帮助他们看到这些风险，帮助他们接受它。你总是可以在个人层面提升自己，比如你自己的健康和福祉，你自己的准备。你可以计划那个掩体。你可以……成为一个更熟练的人。总的来说，你越有能动性，越能适应并做每天需要做的事情，你就越能为这些未来的情况做好准备。而且这大部分都是积极的。所以，即使我错了，人工智能也没有像预期的那样出现。他们过着正常的生活。它仍然符合你的利益，试图提高你的能动性和你的福祉。所以，这是很明显的，这对你来说是一种胜利，在某种程度上也是对社会的一种胜利。所以，学习数学。收件箱清零。建造一个掩体。这就是我从中学到的。有很多其他的，但这是一个很好的总结。这不是一个糟糕的开始。
好的，非常好。James，你的网站是 upgradable.org。你在这里有很多关于自我提升、元成长、成为更具能动性的概念。这是一个我偶尔会访问的网站，我也很喜欢。你还有其他地方推荐吗？
ar.com。所以，我们可以加入。也许你的播客很棒。其中一个你可以用来……他们的认知和知识。我们有一个最好的知识来源数据库。要弄清楚这一点非常困难，因为它非常……个性化。但是的，任何人，如果你想设计自己的完美教育系统，这是我们可以与人们一起做的事情之一。但是的，你可能在那里。
哦，不错。好吧，我希望我们能做到。我希望我们能入选。我们很感激，James。祝你在你无数无数的努力中一切顺利。我们真的很感谢你的时间。
谢谢你邀请我。