Transcription
他们邀请了 80 位顶尖人工智能专家来到旧金山的一处豪宅。我遇到了至少四位正在建造地下掩体或购买岛屿的人。所以，我认为人工智能可以很棒。我一直主张推动人工智能，但我并不主张推动超级智能。如果我当选，您可以放心，我会从每一个角度来阻止超级智能的创造，以拯救人类。嗯，你肯定赢得了末日辩论。纽约州有纽约市市长佐兰·姆达尼。如果东海岸要有一个佐兰，那么西海岸难道不应该用一个苏尔坦来平衡吗？>> 是的。是的，听起来很棒。欢迎来到末日辩论。苏尔坦·伊斯特万是跨人类主义运动的领导者，他正在竞选加利福尼亚州下一任州长。2016 年，他创立了跨人类主义党，尽管他现在是以民主党人的身份竞选公职。他的平台将人工智能视为生存和经济威胁。他的主要政策提案包括普遍基本收入和向每个家庭提供人形机器人。他拥有牛津大学实践伦理学硕士学位，以及哥伦比亚大学哲学和宗教本科学位。他曾是《国家地理》记者和极限探险家。2002 年，他驾驶一艘 28 英尺的帆船环游世界，然后为了好玩决定滑雪下正在喷发的火山，并意外发明了火山滑雪运动。我很兴奋能与苏尔坦谈论他的政策平台、他对即将到来的人工智能失业浪潮的看法，当然，还有他对人工智能末日的看法。苏尔坦·伊斯特万，欢迎来到末日辩论。>> 非常感谢您的邀请。很高兴来到这里。>> 那么，您显然在许多领域都取得了巨大的成就。我甚至没有提到创业方面，以及您如何成为各种获奖葡萄园的所有者，对吧？您拥有大量房地产。那么，我的第一个问题是，您的精力是否异常充沛？>> 嗯，谢谢您的夸奖。呃，我不这么认为。我认为，我只是觉得生活中的很多事情都非常美妙，就像你想尽可能多地品尝蜂蜜一样，如果可以的话，就去品尝。所以，我尽量多地去尝试。>> 太棒了。您认为您职业生涯的主要重点是什么？我认为我职业生涯的主要重点是试图通过跨人类主义和生命延长科学领域来克服生物死亡。即使我正在竞选公职并做所有这些其他事情，其中很多都是为了让人们活得更长。>> 您是如何接触到跨人类主义的？嗯，我曾为《国家地理》工作，我报道了许多战区和冲突地区，我还报道了越南的非军事区。那里有很多未爆炸的地雷，基本上在报道故事时，我差点踩到一枚地雷。我的向导把我推开了，这让我开始思考生与死。在那次经历之后，我回到了美国，开始创作一本名为《跨人类主义的赌注》的小说。但实际上，它与生命延长有关。它关于我们可以做什么来让人们克服生物死亡。这本书讲述了一个不惜一切代价不想死的角色。这真的激励我进入公共领域，谈论极端长寿之类的事情。这确实是我职业生涯的重点。话虽如此，我一直在竞选公职，因为在我这个领域，没有人会在政治方面推动科学议程。>> 好的。那么，时间线大概是 2000 年代初，对吗？比如 2010 年。您的《跨人类主义的赌注》一书于 2013 年出版。那么，您第一次成为跨人类主义者是什么时候？>> 我想我大概在大学时就成为了跨人类主义者。我在哥伦比亚大学学习。当时有一篇关于冷冻保存的文章，就是把死人放在非常重的冰或非常低的温度下，并试图有一天让他们复活，然后我意识到，哇，你知道吗，而且我认为你必须明白一件事，我根本不相信来世，也不相信有神。当我们开始谈论人工智能时，这一点也会变得非常相关。如果你不相信来世或不相信有更高的力量，那么你真的，真的要靠自己决定是否想无限期地活下去。所以，这确实是我的人生观、职业、梦想，你知道的，无论我在地球上走到哪里，这都是我的一切。所以，我认为发生的事情是，因为我不相信有更高的力量和来世，所以我将我的生命奉献给了极端长寿、跨人类主义，在意识到可能有一种科学的方法可以不死之后。是的。顺便说一句，我也是一个跨人类主义者。你知道，我宁愿活十万年，也不愿决定我还需要多少时间。你知道，我觉得生命太短暂了。所以，我在这方面和你一样。>> 是的。让我说，这太完美了，因为我并不是说我永远不想死。我只是说，我觉得在 70 或 80 年后，甚至在某些情况下更短的时间里，死亡的阴影笼罩着我，这很糟糕。我是说，这太糟糕了。尤其是如果我们人类能够对此做些什么的话。那将是太棒了。我想这样做。>> 是的。是的。好的。那么，我在这方面和你一样。我经常在节目中说我也是一个跨人类主义者。所以，您提到时间线，您基本上是在说大约在 90 年代初，您成为了跨人类主义者。>> 是的。是的。所以，我大概在 1996 年左右，我上了那门课。我读了很多存在主义哲学家，嗯，有一天我醒来，我说，你知道吗，我要把我的生命奉献给生命延长。我开始采取必要的步骤来实现这一目标。我认为在《国家地理》工作与此非常相关，因为它让我有很多机会撰写关于科学、技术和环境的故事。嗯，后来我在这方面进行了扩展，就真正的科学技术、跨人类主义而言。所以，你知道，即使现在我也不想说我是一名记者，但我仍然是那个经常出现在镜头前，在公共领域讨论这些想法，试图推广它们的人。所以，在大学毕业后，在我心中，我的想法和我将如何实现它之间存在着非常明确的联系。>> 90 年代末，跨人类主义的讨论主要集中在 SL4 extropians 邮件列表上。您熟悉吗？>> 是的。>> 您在那上面有多活跃？>> 我在那段时间一点也不活跃。我当时只是一个旁观者，看着这些事情，但我完全知道很多事情。我想我当时不太确定如何加入这个社会，这个运动。说实话，那里也有各种各样的派别。直到我写了我的小说，嗯，我猜是在 2008 年或 2009 年开始的，尽管它在 2013 年出版。嗯，那才是我真正加入或开始成为你可能称之为跨人类主义的社交方面的一部分。我认为那才是对我来说的那个时刻。但 90 年代及以后发生了一些了不起的事情。>> 那么，艾利·尤德科夫斯基和早期机器智能研究所或人工智能生存风险运动的全盛时期，也曾出现在您提到的那个 extropians 邮件列表上。我很好奇，您是什么时候第一次熟悉艾利·尤德科夫斯基的作品的，如果曾经的话？>> 嗯，我从一开始就非常熟悉他的作品。我想我以前关注过，我想那个网站叫 less or less or wrong，或者不管它叫什么。是的，less。而且我也做了我论文的一部分关于 Roko's Basilisk，我想它的发音是这样，>> 这是他的一些作品，他没有具体描述这个，但我记得他对此发表过评论，我记得他引用过他之类的话。所以我关注他的作品已经很长时间了。话虽如此，我肯定不是他的专家，我也从未见过他本人。我见过跨人类主义运动中的许多人，以及人工智能末日论者和支持人工智能的人，但不知何故，我从未见过他。>> 好的，没问题。嗯，我们将在这次谈话中探讨他的一些想法，但首先，我们不能走太远而不谈论我认为现在对您来说最重要的事情，那就是 2026 年加州州长选举。对吗？>> 是的。是的。所以，为了让您的听众知道，我正在作为一名民主党人在加州竞选州长。而且，你知道，我每天都在积极竞选，我们已经进行了大约 8 个月。我们将在几个月后举行初选。>> 我猜一下时间线，选举本身是 11 月 3 日，但初选在 6 月 2 日，加州的工作方式是，它只是一个不分党派的前两名初选，对吧？所以，会有几十个候选人。您是其中之一，如果您想进入前两名，那么进入 11 月 3 日的比赛，这对您来说非常重要。对吗？>> 是的，百分之百。如果你没有进入前两名，那么你就结束了。同时，你知道，这是一个非常拥挤的领域。所以，在加州州长竞选中，您可能不需要获得 30% 或 40% 的选票就能进入前两名。有可能获得 15% 的选票就能进入，这在加州政治中是闻所未闻的，但这是一个非常分裂的领域，因为有太多人认为加州现在面临着太多问题。所以，我们将拭目以待初选的结果。>> 对。对。对。是的。因为如果选票被分成 25 份，平均每人有 4%。所以获胜者可能只有 9% 和 10%。这意味着一切都悬而未决。任何人都可以获胜。而且时间线是 4 个月后，对吧？所以时间紧迫。这四个月至关重要。所以我完全理解你为什么来参加这个节目，因为你真的需要获得末日辩论的推动力。>> 我在寻找那种推动力。我在寻找那种推动力。很高兴与您交谈。>> 太棒了。好的，观众。那么，那么，让我们现在提起你们的耳朵。听听接下来会发生什么。除了您自己之外，您认为比赛中的主要竞争者是谁？>> 嗯，我认为斯瓦尔韦尔（Swallwell）也是其中之一，还有凯蒂·波特（Katie Porter），我认为马特·马汉（Matt Mahan）。我不确定我是否说对了他的名字，但他刚刚加入了比赛。这些是目前一些主要的竞争者。我必须说实话，这很有趣，因为我们一直认为，我想所有参选的人都认为会有超级巨星加入比赛，比如卡玛拉·哈里斯，但她选择不参加。有些人猜测她之所以不参加比赛，是因为考虑到我们巨大的赤字，加州现在是一个太难治理的州，而且它已经变得千疮百孔。而且，你知道，如果这就是你的遗产，那可能不会是一份美好的遗产。嗯，但嗯，你知道，所以这些是一些主要的竞争者，还有一些选择不参选的人。>> 我问你一个问题。试着客观一点，好吗？我们将详细讨论您的平台，以及为什么它在某些方面比任何人都好，但如果您试图客观，除了您之外，还有其他候选人值得投票吗？>> 所以，你看，我必须说实话。我主要支持的是普遍基本收入，我是加州唯一一位代表这一点的州长候选人，我之所以代表它，是因为我坚信人工智能将在两到三年内彻底摧毁就业市场。话虽如此，我认为圣何塞市长马特·马汉是一个不错的选择。嗯，为了让您的听众知道，我有点偏右的民主党人，我认为马特·马汉也是一个中间派。而且，即使他不支持普遍基本收入，至少他有点硅谷的风格。>> 那么，您能称赞一些竞争对手，这真是太了不起了。所以，话虽如此，我认为这将是您沟通的最友好的节目之一，因为我个人和我的许多观众都对跨人类主义持相同看法。我们对人工智能失业问题持相同看法。我们也认为候选人就像在云端一样，因为他们没有真正关注当前的首要问题。所以，有很多好的顺风，因为我们很可能会投票给您。除了我个人最近搬出了加州。这是我唯一的缺点，但我有很多观众>> 我的许多观众都在硅谷。是的。我现在在纽约州北部。但制片人奥里（Ory），请注意。制片人奥里，看看你是否能赢得他的选票，因为他还在加州。他在旧金山。>> 我希望如此。我感谢您，你知道，任何想投票给我的人。我期待着。>> 那么，让我们来看看您的平台。我看了一下。有很多有趣的点，很多意想不到的方向。我认为可以公平地说，这是一个前所未有的平台组合。但让我来问你，您将如何总结您的平台？>> 我的平台确实围绕着人工智能抢占工作岗位，以及加州生活和美国生活正在发生转变。我认为没有人意识到即将到来的巨大浪潮。人们说，“哦，人工智能就像互联网。”不，它不是。它实际上比互联网更具变革性。我们谈论的是在五年内，至少在我看来，可能会有 90% 的人失业，也许是七年，但无论如何，它即将到来，而且没有人愿意谈论它，因为它不受欢迎。它不受欢迎，每次谈论它都会让大多数人失去选票。所以，我的平台围绕着普遍基本收入来应对这种情况。然后，它还围绕着我们需要改变我们对美国生活和加州生活的看法。如果你不工作，你整天会做什么？你知道，我的意思是，有些人说，“哦，你会无所事事地看电视，吸毒。”嗯，我的意思是，我不是来告诉你你会做什么的。我来告诉你的是，我们要给你足够的钱，这样你仍然可以养家糊口，有地方住，有足够的食物吃，甚至可以做一些有趣的事情，比如去巴哈马旅行，学习吉他，或者嗯，你知道，完成你的第五个博士学位，或者任何事情。但故事的重点是，我认为我们必须重新构想美国梦。重新构想美国梦意味着要理解，朝九晚五地工作，一直屈居人下，你知道，担心所有这些不同的事情，将会消失。我们将开始进入一个富足的时代。如果我们能恰当地创造这个时代，它将是我们前所未有的、真正美好的事物。你知道，我平台的另一个重要组成部分，自动化富足经济，就是真正地让机器人进入每个人的家中，机器人进入每个人的生活中，它们可以为你服务，为你洗碗，为你洗衣，它们基本上让我们的生活更轻松。你知道，你经常听到埃隆·马斯克谈论我们即将到来的这个富足时代。这确实是我州长竞选的核心。但要说服普通加州人相信这个时代已经到来，这非常困难。原因是因为我认识的每个人都过着月光族的生活。而且，我的意思是，加州州长竞选中的主要问题似乎是负担能力。没有人再担心环境了。没有人再担心其他所有事情了。人们说，“看，我吃不起饭。我不能送我的孩子上学。我负担不起清洁费。”你知道，我的意思是，加州现在发生了一百万件事，但归根结底总是关于负担能力。所以，我试图描绘一幅新的图景，只是说，看，在未来一到两年、两到三年、三到四年内，在下一任州长任期结束时，我们将拥有一个全新的经济，一个你可能不会工作的地方。所以，我刚才说了很多，但这确实是我的一切。这与其他候选人截然不同。>> 当然。您有没有一个简短的竞选口号？>> 嗯，每家一个机器人。八个月前我开始竞选时，每个人都认为我疯了，我承诺给每个加州家庭一个机器人。直到上周，埃隆·马斯克才宣布特斯拉基本上将停止生产，你知道，特斯拉 S 和特斯拉 X。这太重要了。我们在加州有这些公司，弗里蒙特，加利福尼亚，离我不远，等等，它们曾经制造这些汽车。你在路上到处都能看到它们。他现在谈论的是特斯拉成为一家机器人公司。我的意思是，这是具有变革性的，没有人能在一年多前就真正看到。所以，当我们谈论每个加州家庭都拥有一个机器人来帮助您洗碗，帮助您做饭，帮助您洗衣，帮助您打理院子，遛狗。这是真实的。这不再是虚假的了。这将在 18 个月，也许 24 个月内实现，届时您将随处可见。所以，曾经被认为是一个疯狂的竞选口号，也许引起了一些媒体关注的事情，现在看起来更加现实了。我们希望向每个加州家庭提供机器人，无论是贷款、租赁还是销售，并成为世界的领导者，这个州正在实现加州生活方式和人们生活方式的现代化，以便世界其他地方看着我们说，“等等，那个人从来没做过晚饭，他每晚都有机器人伺候。”我的意思是，这是美好的。我们谈论的是富足的时代。好的。那么，让我们来打磨一下。也许是每锅一只鸡，一个机器人服务员。>> 我会说这是一个很好的看法。我们没有在口号上花太多时间，因为我们一直在推广“自动化富足经济”作为我们的口号。您可能认识安德鲁·杨（Andrew Yang）。他可以说是第一个真正普及基本收入的人。不过，我必须说实话，在他出现之前，我一直在写关于基本收入的文章，并以此竞选。所以，至少我在这方面有很长的历史，但他的某些人正在帮助我的竞选。所以，我们非常坚持普遍基本收入。我必须说实话，似乎我周围的每个人都不关心您听到的许多其他问题。是的，我知道您经常听到关于 ICE 和移民的讨论，但当您深入研究人们关心的问题时，他们只是说，我离无家可归只有一笔工资的距离。所以，许多加州人只想听到您如何让我的生活更负担得起，因为我正处于无法维持生计而不得不搬出这个州的边缘。正如您所知，现在有很多人正在离开加州。>> 是的。你知道，安德鲁·杨也是我脑海中想到的，因为我记得 2000 年的总统选举以及您描述您平台的方式。我认为他走了同一条路，对吧？他说，“嘿，人工智能失业即将到来，每个人都会失业，我们不能再当卡车司机了，所以我们必须立即实施普遍基本收入。”您是否觉得回顾过去，安德鲁·杨可能有点太早了？>> 哦，是的，他绝对是太早了，而且你知道，我不会感到惊讶，如果他再次尝试在 2028 年竞选总统，尤其是现在他如此出名。我的意思是，他有一本书即将出版，并进行巡演等等。嗯，但他绝对是有点太早了，而且我必须说，我可能也早了一年，因为我的信息仍然石沉大海。这就是为什么没有政客在谈论它。但如果你仔细看看最近就业市场发生的变化，你会知道亚马逊出现了大规模裁员。硅谷各地都出现了大规模裁员。就业增长已经停滞不前，每个人都说，“哦，这只是一个小低谷，只是这个。”实际上，这是因为每个人都在使用人工智能。我的意思是，作为一名记者，我可以告诉你，哇。这让生活变得更快更容易。我认为我们即将对就业市场做同样的事情。然后我们都会说，“等等，这是人工智能，实际上正在做这件事。它正式抢走了我们的工作。”>> 我同意你的看法。我认为这个节目的大多数观众都持相同观点，即当一项技术，特别是人工智能，能够做到人类大脑所能做的一切，然后它能训练得做得更好时，它就走上了做得更好的道路。它已经做得越来越多事情做得更好。它做得比初级软件工程师更好。我们许多观众都是软件工程师。所以，我认为我们大多和你一样，认为在未来几年内将会出现大规模失业。所以我很高兴您正在解决这个问题。我确实认为我们需要失业政策。嗯，但让我们过渡到人工智能的下一个威胁，那就是末日威胁，对吧？它比失业更糟糕，那就是人类文明被彻底摧毁，未来被抹去。那么，苏尔坦·伊斯特万，您准备好回答我们在这里末日辩论中提出的最重要的问题了吗？>> 是的，我准备好了。>> 末日。>> 苏尔坦·伊斯特万，您的末日是什么？>> 我必须说实话。我没有那么令人兴奋的答案，尤其是在我刚从牛津大学研究生毕业，我专门研究人工智能伦理之后。我的末日基本上是 50/50，或者说 50%。原因是我觉得不可能知道它会朝哪个方向发展。多年来，我一直对人工智能持乐观态度，并在《连线》杂志、《纽约时报》甚至我曾工作过的《国家地理》等地方写过关于它的文章。嗯，但突然之间，在牛津大学学习，并在尼克·博斯特罗姆（Nick Bostrom）等人门下学习后，我意识到情况也可能完全相反。我写了关于这个的文章，我觉得现在我不知道我是否能把任何东西归入这个阵营或那个阵营。所以，现在我只能说，世界被人工智能毁灭的几率为 50%。当然，这并不意味着另外 50% 的几率是人工智能对世界有益。也许另外 50% 的几率是人工智能消失了，把我们抛在后面，就像我们在院子里可能会留下一个蚂蚁巢一样。而另外 50%，你知道，可能是人工智能对我们非常有用。也许它会提升我们。也许我们会与人工智能融合，这是我伟大的跨人类主义梦想。但我会说，至少有 50% 的几率它会杀死大多数人类。>> 哇，真是惊人的陈述。有 50% 的几率它会杀死大多数人类。在时间框架方面，您是只考虑十年或二十年，还是一个世纪？您在想什么？>> 我认为不到十年。所以，让我告诉你，我最近被邀请到一个豪宅，那是马克斯·诺弗（Max Nover）的，他是萨姆·奥特曼（Sam Altman）的加密货币朋友之一，他们一起有一个币，叫 Worldcoin。丹·费拉（Dan Fella）是他的名字，他有一个叫做“有价值的继承人”（Worthy Successor）的想法。我敢肯定你听说过。他们的想法是，他们邀请了 80 位顶尖人工智能专家来到旧金山的一处豪宅。这大约是四个月前。Wired 做了一篇关于它的重磅报道。他们说，“好吧，让我们来讨论人工智能。”我必须说实话，很多 ChatGPT 软件编码员都在那里。来自微软、谷歌等人工智能领域的许多工程师都在那里，还有像我一样谈论它的人。我没有遇到一个人认为在 3 到 5 年的时间窗口之外我们不会创造出超级智能。所以，这是第一件要知道的事情。我遇到的人中，有 50% 的人说 AGI 已经实现了。好的。所以，我们现在知道我们就在这个范围内。我们已经达到了 AGI 的水平，并且正在展望未来。我遇到了至少四个人正在建造掩体或购买岛屿，另外五到十个人正在考虑这样做。这些人就是工程师自己。所以，情况很快就变得黑暗了。在这场会议之后，我有两周的时间非常沮丧，这是我一生中第一次感到沮丧。我完全沮丧。在我看来，每个人都完全低估了超级智能来到地球并毁灭人类的可能性。让我告诉你为什么我认为它会毁灭人类。这是因为捕食。捕食是我在牛津大学研究了很多的东西，它的想法是我们都是捕食者，我们都在为了生存而互相争夺。我认为人工智能可能会对资源感兴趣，对自身的生存感兴趣，对权力感兴趣。一旦发生这种情况，它可能会将我们视为威胁，就像任何人类都会将任何其他实体视为对其自身存在的威胁一样。一旦出现这种捕食的想法，那么就真的是看谁最强大了。真的，从长远来看，人类不会比人工智能更强大。它绝对会摧毁我们。所以，我认为人工智能可以很棒。我一直主张推动人工智能，但我并不主张推动超级智能。我只是主张推动人工智能达到我们可以与之融合或在日常生活中普遍使用的程度。那很棒。但是，创造超级智能，即使我意识到很多亿万富翁想要它，他们认为它很棒。我也认为它很棒。这就像邀请外星人来到地球。你永远不会邀请比你更强大的外星人来到地球，即使这看起来是一个超级酷的想法。你之所以不会这样做，是因为它将是一种我们从未面临过的生存威胁。这就是为什么我们不应该创造超级智能，直到我们能够完全与之融合或以某种方式控制它，从而增加我们生存的机会。>> 对。嗯，你肯定赢得了末日辩论。如果你知道这个节目是关于什么的，对吧？你基本上就是说了我们的宣传语，对吧？你正在向那些观看节目的人传达信息，因为他们认为你刚才说的话是真的，而且他们认为这一点很少被提及。我们之前进行的这次谈话以及许多类似的谈话的奇怪之处在于，当你参加其他节目时，当其他政治家参加其他节目时，当其他领导人参加其他节目时，奇怪的是，我打开了谈话。我说，“嘿，苏尔坦，谈谈你的平台。”你说，“是的，你知道，人工智能即将来临，所以我们必须保住我们的工作。”但后来当我直接问你时，我说，“你的末日是什么？”你说，“哦，是的，我们都有可能在未来 10 年内死去。”就像，“等等，等等。你难道不认为我们应该先谈谈这一点吗？这似乎很重要。”>> 是的。是的。我的意思是，我认为谈论所有这些都很重要，但我必须说实话。作为一个正在竞选公职的人，我很少提到超级智能，因为 a 它会失去选票，b 目前没有简单的方法来讨论它。我谈论人工智能的好处，富足的时代，但你知道，如果我当选，您可以放心，我会从每一个角度来阻止超级智能的创造，至少目前是这样，以拯救人类和地球。我意识到这可能不是亿万富翁想听到的，但嗯，再说一遍，我并没有以任何方式阻止人工智能。我认为我们需要赢得与中国的 AI 竞赛。但是我在的那个聚会，他们谈论很多人想创造超级智能。他们觉得他们有进化上的道德准则来尝试创造它，这是他们进化的一部分。我试图告诉他们，嘿，伙计，我想永远活下去。这是我的信条，我的座右铭是努力确保苏尔坦和他的家人，他的妻子，他的两个孩子，我身边的人，我的部落，我的社会，永远活下去。如果你创造了一个 50% 的几率，甚至更高的几率，人工智能会为了自己的资源，为了自己的捕食而开始消灭人类，这对我来说太高了，你知道吗？而且我们有，例如，博弈论和核战争，我们从来没有 50/50 的几率，这是荒谬的。想法是我们总是可以互相交谈。所以，实际上更接近于 8% 到 12%，也许会发生一些误解。我们有过像古巴导弹危机这样的事情出错。但我相信人工智能出错的几率要高得多。而且没有人真正讨论这个问题。然而，如果我们停止创造人工智能，而中国获得了它，他们会先创造出来。所以，在这种情况下，无论发生什么，我们都处于这场可怕的 AI 竞赛的底层。而且我觉得，只是让你知道，我觉得如果你必须问我，我们几乎有 100% 的几率在泰坦尼克号上。>> 我们在这个节目中经常谈论移动奥弗顿之窗。你知道，就是可以公开讨论的话题范围。人们期望政治家们讨论某些话题。他们不期望政治家在接受采访时说，“嘿，顺便说一句，我非常担心我们都会死去，我认为政府的职责是帮助我们在关注其他问题之前不要死去。”这目前有点超出了奥弗顿之窗，但我认为它正在迅速接近。我认为在奥弗顿之窗内的是安德鲁·杨在 2020 年讨论的内容。安德鲁·杨帮助改变了奥弗顿之窗，现在您正在抓住这一点，对吧？您以这个开头。您说，“嘿，我的整个竞选活动都围绕着人工智能失业以及负担能力。”我想这是一种相关的概念。也许你没有工作是因为人工智能抢走了你的工作。所以，现在负担能力就更难了。您正在抓住那些显然在奥弗顿之窗内的事情，但您可以通过说，“听着，我知道奥弗顿之窗还没有到来，但我正在把它拖到这里，因为我们现在需要把它拖到这里。”来提供很大的帮助。这相当于我在末日辩论中所做的事情。如果您注意到，不仅仅是政治家。你很难找到一个主持人能够一集又一集地记住，我们似乎有 50% 的几率走向末日。就像节目的主持人似乎很快就忘记了这一点。所以，你知道，我尽我所能。也许你可以更专注于做你的份内之事。>> 我正在尽我所能。这是一个疯狂的平衡，因为一旦你开始讨论人工智能，你就会开始失去选票。没有人想谈论失业，更没有人想谈论超级智能的前景。而唯一每个人都真正想谈论的是赢得与中国的 AI 竞赛。而且，这是我听到的其他州长候选人唯一在讨论的事情。所以，我处于一个奇怪的位置，因为我通过频繁地谈论人工智能来为自己的竞选挖坟墓。人们喜欢普遍基本收入，这很不一样。人们喜欢普遍基本收入，因为它意味着免费的钱，但他们没有意识到为什么我们需要它。当他们意识到这一点时，它就不再是一个有利的话题了。>> 是的。而且当你想到对人类最大的威胁时，对吧？50% 的末日普遍基本收入，我不是说它不好。我认为这是解决人工智能失业问题的一个很好的尝试，对吧？我支持它。但你不认为这足以应对末日情景，对吧？>> 不。不。我认为末日情景实际上是两件不同的事情。有一种观点认为我们正在创造超级智能，然后有一种观点认为，你知道，在富足的时代可能会出现大规模的失业。你知道，我的想法是，比如说，在一个完美的世界里，我当选后，我会对加州人，然后是全国人民说，“听着，我们需要与中国达成协议。我们需要与其他国家达成协议，你知道，然后说，我们如何立即停止这场 AI 竞赛，我们可以做什么样的界限？会是联合国 AI 吗？我不知道，也许是一个全新的国际机构？我告诉你，博弈论，这是我一直在与教授们讨论的，这不一定是我自己的想法，但如果第二次世界大战爆发，而特朗普是罪魁祸首，我不会感到惊讶。他一定知道这一点，他一定知道博弈论，以控制和接管可能与我们在人工智能领域竞争的国家。例如，当格陵兰岛出现问题时，或者你知道，我们现在谈论黄金价格飙升，在过去两年里翻了三倍。我的感觉是，这一切都是正在发生的真正的人工智能的先兆。必须有一种自上而下的权威能够阻止人工智能的创造，在超级智能出现之前。而且我知道，你知道，我认识的很多人都在特朗普的 AI 领域工作。所以，一定有关于这个的讨论。所以，如果那将发生，那当然是可能的。我不是说这是个好主意，也不是说这是我想要的。一个完美的情景是，所有国家都团结起来说，让我们放慢 AI 的发展速度，至少在超级智能方面。嗯，但你知道，这可能不会发生。是的，这就是我想问你的关于理想的政策提案，我知道加州州长在这种情况下不是最好的位置，但他确实可以，你知道，至少在一定程度上影响和权衡这个问题，那就是理想的全球政策问题，对吧？你提到我们应该与中国达成协议，而不是试图超越他们。所以，仅仅说出这句话，我认为你已经与 Anthropic 的 Dario Amodei 分道扬镳了，他写了很多关于我们应该如何超越中国，如何胁迫中国，你知道，几乎威胁他们，但你说的是“不，让我们达成协议。”对吗？>> 是的。显然，我的第一个行动将是尝试与人们交朋友。说实话，很可能发生的是，必须创建一个世界全球政府。它必须有一个自上而下的权威，而所有这些多样性等等，每个人似乎都到处宣扬的，将在一定程度上消失，以便我们能够说我们有一个共同的挑战或共同的敌人。那个敌人是超级智能，我不想用“敌人”这个词，因为我实际上不认为超级智能是敌人，但我认为人类和超级智能人工智能之间存在绝对的利益冲突。所以，最好的方法是让每个人都团结起来，形成一个阵营，然后有一个真正的“人类对抗”或者至少以某种方式“操纵”这种人工智能，使其永远不会变得如此强大，以至于能够接管整个国家、民族，并将我们推回“黑暗时代”。这是真正的困境。我愿意和平地做到这一点吗？当然。我想通过条约等方式做到这一点。这会和平地发生吗？几乎肯定不会。我们没有任何历史记录表明会发生这种情况。而且你已经看到特朗普试图划分，你知道，格陵兰岛的事情就是这样。你知道，每个人都说，“哦，格陵兰岛，因为我们有这个历史性的胡说八道。”我的意思是，格陵兰岛是关于人工智能的。格陵兰岛是关于划分我们自己的势力范围，并可能在某个时候阻止我们与中国以及亚洲部分地区以及俄罗斯和欧洲等其他地区分享的任何技术发展。这才是重点。任何试图这样做的人，你知道，移民问题也是如此。他们试图说 H1B 签证的事情与移民有关。这与移民无关。这与我们不再需要移民有关。事实上，在未来一到两年、两到三年、三到四年内，没有哪个国家会需要移民。这就是为什么埃隆·马斯克开始制造机器人而不是汽车，因为移民将不再是必需的。但是媒体很疯狂，他们想让你相信这些想法，而不是真正地让你相信真实的想法。真实的想法是，人工智能比我们历史上经历过的任何事情都更具变革性，它将需要一种全新的思考方式。所以，我们曾经认为所有重要的事情，甚至税收，在富足时代你还交税吗？我的意思是，一切都将发生转变。>> 您熟悉“暂停 AI”运动吗？>> 嗯，有点。是的。>> 这与政策想法有关，比如让我们达成一项条约。一项条约是为了什么？对吧？而且我认为您提到，嗯，我们必须确保不让超级智能 AI 压倒我们。至少在我们知道如何控制它，或者知道如何以它想要与我们相同的方式来构建它之前，这确实是一个艰巨的任务。事实证明，在工程方面是一个非常艰巨的任务。不幸的是，有很多人会争辩说，“哦，别担心。我们正走在使其变得非常好的轨道上。看看 ChatGPT 多么有用，而事实是，不幸的是，我们还没有解决工程问题。所以，我们很可能会制造一个不匹配的超级智能 AI，而且这很快就会到来。所以，当我们谈论与中国合作，建立一个国际联合会时，我们实际上是在谈论暂停人工智能，或者至少建立一个暂停按钮，如果事情变得太疯狂，因为许多顶尖专家都说很快就会如此。你知道，埃隆·马斯克说它们很可能会很快变得疯狂。杰弗里·辛顿（Geoffrey Hinton）、约书亚·本吉奥（Yoshua Bengio），你可以想到的最伟大的名字，诺贝尔奖得主，图灵奖得主，你可以想到的最伟大的名字。许多人都在警告，嘿，伙计们，这太快了。这太疯狂了。所以，就具体的政策提案而言，您是否支持达成一项条约组织，并至少建造能够提供暂停按钮的硬件，在某种集中权威的控制下说，“好吧，我们现在必须按下暂停按钮了。我们走得太远了。”您怎么看？>> 是的，绝对。我完全支持。嗯，百分之百。但我嗯，我再次认为，鉴于当今世界各国领导人如此自负，这可能不太现实。>> 是的。嗯，你知道这个词“不现实”，对吧？我的意思是，这是像这样的对话，对吧？你提出这个问题并获得支持和选票。这就是我们使其变得现实的方式，对吧？所以，这就是发生的地方，对吧？这就是运动发生的地方。>> 嗯，我希望如此。我的意思是，我在这里说的所有话，都是我上任第一天就会做的事情。而且我认为，你知道，加州是世界上最大的经济体之一，也是许多 AI 增长的所在地，是做到这一点最理想的地方。但是，嗯，你知道，我认为我们国家一直以来都在担心权力、生存能力以及所有这些其他事情。但在富足时代，甚至连国家边界的概念都消失了。就像富足的想法是，你将能够拥有一个机器人，无论你在哪里建造房子，或者照顾你，或者甚至建造喷气式飞机。我的意思是，为什么不呢？他们将能够制造你需要的任何东西。我们都将非常像我们在短短 20、30 年内可以过的生活，可能会如此不同。我想说的是，我们有这样的想法，哦，你想在中国，你想在这里，你想在那里，你有医疗保健。这些中的许多将不再有区别。我们都将拥有医疗保健。我们都将拥有最好的外科医生，假设超级智能不会消灭我们。所以，如果我们能就此达成一致，富足时代比什么都好，并且停止超级智能，但拥有人工智能的最好方面，我将全力支持，我甚至会全力支持不一定让国家继续是国家，或者至少，你知道，也许我们都属于某种统一体。然后就开始了你已经知道的，离开地球，你知道，现在几乎每天都有东西被发射到太空。我州长竞选的一个重要部分是把太空产业带回加州，建立它，这样我们就可以迎来一个全新的时代，我们每天都在发射 10、20、30 艘宇宙飞船进入轨道，并最终实现我们应该做的事情，即“星际迷航”时代，走出去。但这需要一种全新的思维方式，而现在，州长候选人，我昨天刚听过他们。他们只想对抗 ICE。他们只想谈论嗯，你知道，驾驶的新税。我的意思是，这就像没有人真正想关注我们刚刚进入的时代。>> 对。这是一个重要的观点，因为您提到您对太空充满热情，而您平台的一个要点就是，嗯，在加州创造下一个“星际迷航”。而我们实际上要
进入你的平台，这样你就可以为所有这些不同的事情进行陈述了。我将同意很多不同的事情，但我的对话优先顺序是，我没有根据我们对话的时间来分配时间，我没有根据你平台上的各项政策来分配时间，而是根据不同结果的可能性来分配时间，因为你说有 50% 的灭顶之灾的可能性，而你平台上的大多数政策都与非灭顶之灾的世界相关，但我希望花一半的时间来谈论如何避免灭顶之灾，因为我们很可能正朝着灭顶之灾前进，而你的平台与灭顶之灾的世界关系不大。正确。>> 是的。是的。不，我的平台做不到。事实上，我通常不谈论这些事情。我跟你谈是因为这是你擅长的领域，你是这方面的专家，但与选民谈论超级智能和灭顶之灾的共鸣非常差，这简直是徒劳的。所以，是的，我的平台并没有真正反映这一点，但我有很多关于这方面的想法。只是它们不是竞选的想法。>> 我只想回到你之前说的某件事。你说：“看，我支持这种暂停按钮，这种国际中央权威。”但这根本不可行，因为你有这些领导人，他们的自负会阻碍事情的发展。好吧，你的自负不会阻碍事情的发展。我的自负也不会阻碍事情的发展。而且我不认为这仅仅是因为我们有这些微小的自负。我认为这也是因为我们更好地理解了现实情况，比如，嘿，我们真的都会死。无论有没有自负，对吧？我认为这是一样的。人们的自负不会阻碍他们阻止核战争，或者他们还没有，你知道，尽管有自负，他们在阻止核战争方面做得足够好。为什么？因为他们不想死。他们不想过糟糕的一天。他们不想让他们喜欢的城市被核武器摧毁。对吧？所以，同样，我认为这真的只是敲响警钟的问题。不仅仅是问题，但我认为这是我们至少能做的，就是谈论它并敲响警钟。所以你目前的策略是，“哦，我把它藏起来，因为选民无法处理。”也许你应该直接尝试一下，一次感受一个群体，而不是把整个问题都推开。你怎么看？>> 是的。不，我必须说实话。看，如果我进入，你知道，和一群工程师在一起，我总是会像现在一样坦诚。而且我必须说实话，你知道，当你说话的时候，比如，我们前几天在圣莫尼卡或洛杉矶附近竞选，我们在一个购物中心问人们，并被拍摄下来和他们交谈，你最关心的是什么？如果你试图和一个正在领取福利金、只是买些蔬菜然后在沃尔玛买东西的人谈论超级智能，他们根本不在乎。他们几乎宁愿让世界末日。你知道的。>> 这真的非常困难。所以，例如，八年前，如果你和选民谈话，我认为至少有一半的时间他们会说他们的三大担忧是环境。这次，在和 33 个人交谈后，没有一个人把环境列为他们的前十名。没有一个人。在这个地方，七成的人把负担能力和避免无家可归列为他们的首要任务。而且，这绝对不是中产阶级，而是稍微低一点的。但我想说的是，时代在变。没人能负担得起任何东西。所以，谈论某事，告诉他们我在旧金山的一个豪宅里，那里有无数的百万富翁，好吧，那里每个人都是百万富翁。有些人是九位数，十位数，随便什么。他们很难理解。他们只是想过好一天，确保他们的孩子有足够的卡路里，以便他们第二天早上能去上学。现在在加州，很难再谈论这些问题了。>> 是的。是的。我听你的。而且，与选民在他们所处的位置见面是有道理的。如果你一开始就显得很奇怪，他们会说，“好吧，这个人很难与我互动。”所以，你知道，你不想疏远人们。我不是说这很容易。我认为这很棘手。这需要技巧。话虽如此，你还得考虑一下，想象一下，如果真的有一颗小行星撞向我们，对吧？就像电影《不要抬头》一样，想象一下你可以给他们看你的望远镜，他们可以看，他们可以像，“哦，该死，那是一颗小行星，对吧？”或者他们可以在天空中看到它，你可以说，“是的，它正朝着我们飞来。”我认为他们会给你一些余地，说，“好吧，是的，我不确定。当然。我现在没有一个月的积蓄。我靠工资生活，但我愿意听听关于小行星的事。>> 所以，电影《飞屋环游记》绝对精彩。我看了十遍。而且我让我的孩子们也看。它突出了一个问题，因为我知道你想说的是多谈谈，相信我，我希望我能谈论生存风险。事实上，你知道，生存风险一直是我以前竞选的最大问题。但问题是，这需要人们理性，而我不再相信大部分人口实际上一直在使用理性。我认为社交媒体造成了一种情况，即许多人要么一直很生气，要么一直被误导，要么就根本不了解现实，就像你和我在这场谈话中所知道的那样。听着，我们谈论的是 3 到 8 年的时间线。由于超级智能，人类和我们的生存能力可能会受到巨大干扰。你和我知道这一点。我们理性地知道这一点。但要告诉那些过去 30 年一直在努力偿还 50 年抵押贷款的人，这似乎不再重要了。我认为人们在日常生活中并没有太多理性地做决定。所以，当我出去竞选时，如果我想赢得选民，我必须说，ISIS 是可怕的。ISIS 是可怕的。这吸引了人们。当我出去说，听着，我们有一个巨大的超级智能问题，或者全人类都可能死亡。他们只是看着我，就像一个怪胎。>> 是的。是的。是的。是的。我。所以，你知道，两个理性的人可以讨论并说，好吧，这显然是问题，而其他所有问题都退居其次。但当你和普通人说话时，你会说，“好吧，让我给你一个自助餐，对吧？我们可以谈谈我们如何打击冰毒，对吧？”很多民主党人想这样做。而且，是的，你必须为他们提供整个托盘。也许现在，我们正在谈论政治。我很高兴听到你是个好伙伴，我们把政治放在一边，说，“好吧，我们真的需要做什么？”对吧？就像如果人们只是在听，我们真的需要做什么？所以我很感激你至少和我一起走过这段旅程。然后我们可以把这个问题放在一边，比如，好吧，作为沟通问题，你如何让选民支持？我不知道。这很难解决。我在这档节目上尽我所能。我正在移动奥弗顿之窗。你也做了一部分，对吧？所以，你仍然会提到它，即使你一开始不直接提。你最终还是会提到它，对吧？>> 我肯定会提到它，而且我会尽量向合适的人提到。但这里有一些实际问题。如果你一开始就和那些担心日常开销、只是想过好一天的人谈论这个问题，你就会失去他们。他们会说，“真是个怪胎。这个人为什么要竞选州长？”所以，我必须说，我有一种感觉，我希望在基本平台上获胜，但后来当我上任后，我就会说，“啊，真正的 Zulttan 来了。”那个知道人类必须得到保护的人。而这个 50/50 的几率是绝对荒谬的。如果我们进行核建设，我们绝不会选择 50/50 的几率。这太戏剧化了。然而，这似乎就是人工智能和超级智能的创造所发生的情况。所以，我认为我在任职期间会采取截然不同的方式来处理生存风险。这将是绝对的优先事项，但它不是我可以竞选的东西。它会让我立即输掉。>> 如果我们能充满热情地支持你平台上的所有其他非灭顶之灾的政策，对吧？比如，哦，我们将生存下去，我们将让国家更伟大，世界更伟大。如果我们能对这一点充满热情，也许我们会赢得很多支持，然后一旦你上任，你就会说，嘿，伙计们，我必须告诉你们，这是一个大问题。所以，我们这是有点特洛伊木马策略，但也许有更好的说法。你只是在不同时间关注不同的事情，对吧？>> 是的。是的。而且我必须说实话，我们想了很多关于这个问题，因为我确实是以一个更侧重于末日信息的竞选活动开始的，但它真的无人问津。然后我们转向了太空产业、基本收入。Zulttz，国家地理频道的人。让我们快乐起来，让我们在这场竞选中谈论积极的事情。是的，关于人工智能的末日信息根本不起作用。也许还太早了，但工作末日信息效果很好，因为我认为人们看到了这一点。他们可以看到，比如，亚马逊两天前解雇了 16,000 人，很可能是因为人工智能。我的意思是，他们看到了。但有趣的是，生存风险这一项，我认为一定有什么生物学或 DNA 方面的原因，人们不想面对事情，即使他们知道会发生。有很多关于这个的精彩电影。>> 是的。是的。是的。好吧。那么，让我们深入探讨非灭顶之灾的平台，因为这些都是有趣的点。我同意其中很多，而且我认为它很新颖。很有趣。肯定比我见过的其他平台好，或者就像上次总统选举一样。我甚至不认为他们写了平台，对吧？>> 令人惊讶。你有总统辩论。我甚至不认为人工智能被提及过。这正是我试图告诉你的。比如，我在政治中发现的很多东西已经不再理性了。它已经超出了理性的范畴。这正是我最害怕的，就是它，它，没有人再讲道理了。事实上，有时你越不讲道理，获胜的机会就越大。>> 是的。所以，在你的网站上，你有 11 个主要部分，而我们的时间不多。所以，我想让你简要地说一两句话，然后我会在某些情况下提出一些后续问题。但让我们先了解一下情况。我们将广泛而浅显地讨论。所以，你的第一点是反对威权主义、公司主义、欺诈和官僚主义。>> 好吧，看，我认为如果你看看明尼苏达州正在发生的事情，他们正在发现大量的欺诈行为。而且我认为加州可能比明尼苏达州严重得多。问题是，我们大量的税款都花在了那些并没有真正为加州公民谋福利的人身上。不一定是非法的，而是政府存在巨大的浪费。所以，我们要与之斗争。我们还要打击那些在雇佣行为等方面不公平的亿万富翁。这只是看，如果你不为加州普通人争取，他们就会被抛弃。不平等已经达到了一个不可能离开我们加州小镇，开车 5 英里到奥克兰却不被骚扰、枪击或汽车被砸坏的地步。所以，不平等必须停止。这正是我所说的。但是，相信我，这就像我们谈论我所有的 11 个要点，实际上有 20 个。所有这些的基础是普遍基本收入，因为我们认为 A 这将阻止不平等增长。B 这将有助于解决犯罪问题。C 这将阻止无家可归，因为人们将能够负担得起。所以，这确实是总括性的。但我认为我们之所以有这个，首先，你知道，你谈到的打击亿万富翁、打击威权主义之类的事情，是现在很多加州人都在关注的主要信息，那就是他们的生活变得如此艰难，必须阻止精英。我同意这一点。>> 第二点，人工智能的幽灵和创造一个自动化富足经济。是的，这可能是媒体的重点，我想，与你的下一项，即普遍基本收入有关。但在你开始之前，我注意到你在牛津大学研究生院专攻人工智能伦理。你从那次经历中学到了什么？>> 好吧，牛津是我生命中最美好的时光。作为一个 50 岁的人回到大学真是太有趣了。但身处学术环境也非常好。它让我摆脱了对超人类主义和人工智能的过度热情，而更专注于理性，学术上的理性。你可以在我的竞选中看到这一点，我不再是“哦，这将会发生，这将会发生”，我现在更像是一个概率人，嗯，很有可能发生这种情况，也会发生这种情况，但是，你知道，我们谈论了自动化富足经济和基本收入，这 22 和 3，就是你看，如果没有这些事情发生，当人们开始失业时，我们还没有谈论过这一点，就会发生暴动，就会发生内乱，就会发生示威，这对进步不利，对我的总体目标也不利，那就是通过技术让人们的寿命大大延长。所以，无论亿万富翁有多富有，或者公司有多富有，或者人工智能有多疯狂，我们都必须在社会上保持和平。这样才能取得进步。这也是我竞选州长的一个重要部分，就是我们正在进入的时代将是疯狂的。这将是完全动荡的。这将在未来十年内发生。但如果我们能有一些人能够合理地说，“好吧，我们希望每个人都能生存、繁荣、拥有更多的财富，繁荣昌盛，生活水平提高。”这正是我整个竞选活动的核心。我欢迎人工智能时代，但不一定是超级智能时代，但我欢迎人工智能时代。我们只需要有人来领导我们，这样我们的生活才能真正改善，这是 30 年来在加州第一次。>> 我认为这是一个很好的区别，如果你能欢迎人工智能而不欢迎超级智能。所以，我认为你的网站上有一些有趣的细节，当我们谈论自动化富足经济时。你提到你希望人们每周工作 1 到 2 天，而不是 5 天。这听起来不错。而且你希望给每个加州家庭至少配备一个全尺寸的仿人机器人，它可以洗碗、做饭、洗衣、帮忙开车、照顾孩子、看管宠物，并替人们工作。不错。所以，你只需要工作一到两天，即使在你休息的日子里，你仍然能得到所有这些机器人的帮助。好吧，这听起来不错。你是如何找到这个平衡的，比如每周工作一到两天？>> 说实话，我们只是在针对很多专家，因为没有人愿意说你再也不用工作了，因为这太具颠覆性了，以至于你会被写成一个来自未来的怪人。所以，我们试图说，你看，你每周将工作一到两天。你仍然会工作。你仍然会与你的职业联系在一起。但事实是，十年后的自动化富足经济可能没有人工作，除了百分之一到百分之二的人。而且，因为人工智能在各方面都会比我们做得更好。所以，从长远来看，你知道，这个想法是，你将找到一种全新的生活方式，可能就像我之前提到的，你的第五个博士学位，可能只是抚养孩子，可能总是旅行。我的许多政策都是针对我执政的前四年，我不认为人们会那么快失业，但我们肯定会开始达到一个点，也许你的工作会少很多。也许每周一到两天。所以，这就是我们得出这些数字的原因。但是，你知道，让我说实话。我全力以赴地想说，我不想让任何人再工作了。我不想让朝九晚五成为我们历史的一部分。所以，我正在向这个方向转型。而一到两天只是让人们觉得我不是太疯狂的一种方式。>> 我真的很欣赏你能够理性地思考人工智能比人类更优秀所带来的影响，而且你没有抓住旧的模式。你说，听着，事实就是如此。即使是一到两天的每周工作制，也许现实情况是零。也许它只能持续短短几年。而且就像事实就是如此。你只是在面对现实。你有优先事项，你知道这是值得谈论的。所以，这真的很好。我希望有更多的候选人能这样。所以，为你鼓掌。>> 谢谢。说实话，人们一直在和我争论，说人工智能不会比人类在这一点或那一点上做得更好。我就是觉得人们不太了解人工智能。我已经在顶尖新闻界写了 30 年了，包括《国家地理》、《纽约时报》。看，人工智能已经比我写得更好了。一年前它就已经比我写得好了，而且它会比我妻子写得更好，尽管她花了 19 年的时间学习成为一名妇产科医生。它可能会比任何物理学家都好，正如已经提到的，诺贝尔奖将开始授予人工智能，如果不是明年，就是后年，因为它将打破我们所知的一切科学，并做出这些发现。人们必须习惯这一点。我们创造了一些比我们更优秀的东西。这对我们的自负来说太难接受了，但这确实会发生。>> 好的，太好了。所以，我们已经讨论了第二点，人工智能的幽灵和创造自动化富足经济，但我们已经涵盖了普遍基本收入。我认为这相当直接。我的意思是，你在你的平台中没有对任何细节进行严格规定，你说，“看，我们必须以某种方式实现它。我们会解决的。”但你确实提到，你认为我们可以对机器人和人工智能劳动征税，因为有如此巨大的财富创造。具体来说，你甚至不认为我们需要提高税收来做到这一点。你只是在为人工智能产生所有这些新财富做准备，而你只是想做好准备来重新分配一些新财富。正确。>> 这是正确的。我们确实有许多不同的，比如更技术性的政策。例如，我是联邦土地红利的创造者。所以，你知道，美国西部约 45% 的土地是联邦拥有的。有些是州拥有的。这些土地可以货币化，并已经为加州人提供了巨额的基本收入。如果出售或租赁，大约是 1500 美元，可能 1800 美元。我实际上不想出售，但我认为我们可以租赁。现在，我不是在谈论国家公园，但在北加州有巨大的森林地带，就像空地一样，可以很容易地货币化，而现在却没有货币化。所以，我们也可以对加密货币征税。有很多方法可以创造基本收入。我必须说实话。如果公司因为创造了如此巨大的新财富而成为万亿美元公司，那么这些财富就需要以某种方式分配给那些因人工智能而失业的人。>> 我喜欢。好的。所以，第四点是拯救加州梦，你将其描述为放松管制，削减住房和基础设施的规则和繁文缛节，避免有毒的文化战争，并通过提供与其他州类似的竞争性激励措施，将企业带回加州。哦，你还说要利用新的卫星和无人机技术来发现野火，以便立即将其扑灭。所以，这似乎是一个大杂烩式的观点，对吧？只是做一些我们对加州做得不好的事情感到恼火的事情。正确。>> 是的，但其中大部分都基于完全合理和激进的新技术。我的意思是，我们现在还没有使用无人机来帮助我们扑灭大火，这让我觉得很奇怪，因为这些东西可以以每小时 200-300 英里的速度飞行。我们有钱，我们有技术。你知道，这和拉斯维加斯曼德勒湾发生的大规模枪击事件一样。你知道，他们没有技术说，“嘿，有人带着几把枪通过了大厅”，这让我觉得很奇怪。我们有技术。我们已经有了二十年了。>> 我的谷歌相机在那种情况下会给我发短信。它只是给我发短信说，“嘿，两个人刚进来，有人带着一个包裹。”你认为他们可以为枪支做到这一点吗？>> 当然。当然。我们可以在机场和其他地方做到这一点。只是似乎没有意愿。你需要一个愿意说，“听着，我知道这会让一些人失业，但这将是为了社区和全体公民的更大福祉。”我们就应该这样做，特别是对于野火，因为野火在加州极具破坏性。>> 你称之为拯救加州梦。我想我大概知道你的意思，就感觉而言。我一直感受到糟糕的加州感觉。我认为很多人也是如此。而且人们过于关注说正确的话，以至于在很多方面都失去了对卓越的追求，对吧？就像为做好事情、顺利做事而感到自豪。我觉得每个人都只是想争论细节，而且毫无成效。对吧？>> 嗯，我认为你所说的是取消文化。我的意思是，这就是正在发生的事情的本质，很多人害怕说出来并说出事情。我必须说实话，我在牛津大学四年里一直担心我无法毕业，因为我以一些激进的哲学和思想而闻名。你必须担心他们正在取消那些不是完美进步左翼的人，让他们无法进入大学或找到新工作等等。这很疯狂，因为我支持普遍基本收入，而且一直如此，但仍然左翼的人想取消我。我认为这就是觉醒意识形态的问题，它不再允许任何理性。再次，我一直回到人们应该变得理智。我们只需要人们重新变得理智。你可以属于左翼，你可以属于右翼，但要给每个人一个陈述自己观点的机会，并理性地解读这些观点。>> 好的，第五点，改变教育。我们希望在人工智能和机器人承担大部分工作的情况下，发展一种新的教育愿景，以补充它们。强调创造力、艺术、福祉和生活技能。雇佣更多教师，但减少教育管理。让公立大学和一岁以上的公立学前教育完全免费。是的。所以，我会说，我的意思是，你知道，这是一个好问题，当人们学到的任何东西人工智能都学得更好时，你该教育人们什么？但也许就像你说的，好吧，至少专注于生活技能，对吧？这是一个好的起点。>> 是的，绝对。我的意思是，你知道，例如，我一直在教我的女儿们酿酒的生意。我们有酒庄和葡萄园，即使有机器人，我认为人们仍然会想要葡萄酒。而且，你知道，这是一件非常亲力亲为的事情。但我认为，在人们不再为职业而上学的时候，学习更多关于灵性、如何理性、如何与世界打交道的事情也很重要。即使你只是获得基本收入支票，但仍然存在管理生活、管理时间、管理自我价值和价值以及管理意义的想法。我认为很多人可以，你知道，如果是在一个完美的世界里，我会说人们必须学习哲学，很多哲学。他们必须了解世界上正在发生什么。这不仅仅是，你知道，税收和那些人们在这种扼杀加州的觉醒意识形态中所争论的东西。所以，我，你知道，我的学校理念非常不同。我希望培养孩子成为超人，永生的超人类。什么样的教育需要这个？嗯，它将更像《星际迷航》式的。你的生命意义是什么？嗯，你的生命意义可能是探索星辰。要做到这一点，你需要有更好的能力来做出更理性、更好的决定。而这些决定不仅仅是关于在沃尔玛买口红，这让我抓狂。我不是反物质主义者，但我绝对在某种程度上是反消费主义者。我只是认为，而且我有两个年幼的女儿，这可能就是为什么，你知道，她们一直在想衣服，想我眼中的琐碎事情。而我们却拥有超级智能，能够离开地球，我的意思是，世界在我们脚下发生着变化。在我看来，这些都是需要思考的事情。所以，我希望学校能鼓励这一点。我希望人工智能、机器人能够真正地教导那些仍然活着的人类。当然，让我们说实话，十年后，我们会有 Neuralink 之类的东西。我们也将与人工智能连接。所以，我们将开始学习新的教育方式，以及新的思考方式，因为我们自己的很多想法可能会被自动化。我的意思是，那是另一回事了。但这些都是我已经在教育方面考虑的事情。>> 不错。我的意思是，我想我会想教育人们关于我称之为“智力学”的基本概念。比如，嘿，这里有一个超级智能。超级智能做什么？它们倾向于在任何你给它们的成功指标上获得非常强大的结果。即使你在谈论优化整个星系以拥有任何属性。所以，你知道，直到现在，这是一个晦涩的研究领域，由 Eliokowski 开创，但这是我选择在学校教授的内容之一。这似乎是最相关的事情之一。你有什么想法吗？>> 不，听起来不错。我的意思是，听着，我支持任何替代方案。特别是关于你刚才提到的。就像我们正在，你知道，这就是自动化富足经济真正要做的。它正在重新构想美国梦是什么。美国梦将不再仅仅是在沃尔玛买口红。它将真正成为，当你不必过多担心金钱时，地球上的生命意义是什么？也许你在改变自己。你正在与人工智能融合。你在思考不同的事情。教育。这几乎就像，如果你试图教育上帝，你会教上帝什么指标或什么课程？嗯，这有点像我们即将变成的样子。我们将成为超智能的生命，基本上在我们的脑子里植入芯片，让我们一直与人工智能连接，可能在 10 到 15 到 25 年的时间窗口内。我们谈论的是什么教育水平？它不会是物理学。你将拥有有史以来所有的物理实验，因为下载，你将成为世界上最专业的。那么还有什么呢？而且，你知道，那就是我认为你刚才提到的事情和其他我甚至还没想到的途径应该开始被考虑。再次，我在加州的一些教育论坛上做过这些演讲。在这些辩论中，我是唯一提到这一点的人，一旦我提到它，每个人都说，“伙计们，疯了。”然而，这就像就在我们附近，Neuralink 已经让人们摆脱了轮椅。我告诉你，将一本书下载到你大脑中的想法可能在 24 个月内就能实现。字面意思是 24 个月。所以，当你开始下载书籍，开始下载这些东西，下载这个播客时。我的意思是，世界在我们脚下再次发生变化。>> 所以，你提到了利用新技术消除犯罪，比如利用技术打击犯罪，雇佣更多警察，更好地装备他们，平息所有犯罪。好吧，我认为这很直接。然后我们来看第七点，保持加州的负担能力。所以，你列出了几件事，比如削减监管，审计健康和制药公司，审计非营利组织。让我问一下。你认为加州负担能力危机的头号原因是什么？>> 嗯，这很复杂，但我认为发生的是，在我看来，富人开始玩弄金融系统，然后当 COVID 来临时，他们就造成了一种新的通货膨胀。所以，我们的目标增长率不再是 2%，而是现在是 3-4%，有些情况下是 8-9-10%。而且必须在某个时候说，不平等可以增长到什么程度，人们才会开始制造内乱或内战。>> 我不认为整个美国都负担不起，对吧？我觉得美国各地都有负担得起的地方。你不认为加州尤其面临更大的负担能力危机吗？如果是，为什么？>> 当然。当然。那只是因为这里有为优越天气支付的溢价。我认为，而且还有一种观念，即文化中根深蒂固的是，加州从富裕公司那里收取更多钱并将其分发给人们。当然，这是一个反馈循环，它使事情变得更昂贵。如果你有更多的社会服务，它最终会像吞噬自身一样，政府只会越来越大，而政府倾向于不断推高一切的价格。所以，你看到的是，加州的一切都比华盛顿州差，在那里，你知道，也许有一些试图控制事物的迹象。我们几乎是一个社会主义国家，这本身就使事情更加昂贵。这是其中一个答案，但更大的答案是，就像我试图说的，我认为在某个时候，你知道，当你看看保险费与电视机的成本相比，它们上涨了 12000%，而电视机成本为零。在某个时候，富人必须说，“等等，利润就是一切。”当你走在街上，看到杀人犯、垃圾等等，我认为很多亿万富翁，很多其他非常富有的人必须回到地球，说我们要，我不是说我们要像他们试图征税那样征税。我反对那种税，亿万富翁税。但我确实认为我们可以普遍地多交税来让事情更好地运作。但我们也必须审计那些在美国加州存在的公司，因为现在有太多的欺诈行为。如果这两件事结合起来，比如清理系统，并对亿万富翁多征税一点，我敢打赌，加州的贫富差距将在未来四年内急剧缩小。所以，这是我将努力实现的目标。而且，这并不是对真正富裕的人或公司造成太大的负担。而真正会输掉的只有加州那些欺诈者，他们从政府那里拿走了太多钱，却没有产生任何回报。这就是为什么我们加州的教育水平在 30 年里一直在下降，因为有太多的非营利组织，但公共教育比以往任何时候都差，它们从系统中获得了数十亿美元，但没有任何改善。那些家伙必须走。我的意思是，他们必须受到监管，他们必须被解雇，或者停止给他们钱。但我想说的是，通货膨胀的出现是因为在这个社会主义国家里，有太多的人一直在拿钱，并认为这是金鹅，但它只能持续这么久。>> 好的，那是第七点，保持加州的负担能力。点。>> 对不起，我说了太多了。>> 所以，你有一个具体的提议。第八点，在加州建造七座新的超级城市。你说你想建造七座拥有摩天大楼、学校、体育场馆的百万人口以上的新城市。你想在沙漠、空旷的海岸线和森林中建造，绕过“邻避主义”，以便将无家可归者迁往那里，加州人也能在那里负担得起住房。所以，我对建造持积极态度。我本来想提到，你知道，邻避主义，加州人在建造住房方面有点可笑，而且不允许，你知道，旧金山，很难在那里建造高层建筑。很难充分利用土地。我喜欢建造新城市的主意。你有没有研究过一些目前正在做这些项目的项目？它们还很早期，你知道，比如，是什么？>> 我认为是“加州永远”。加州。是的，“加州永远”是一个很棒的主意，我完全支持它，并希望它能成功。但问题是，它实际上是在湾区郊区。我们的七座超级城市被设计成建在荒凉的地方，人们可以真正从零开始。原因是，你可以去索尔顿海，比如。我们和那里的一些人谈过。这些社区只是渴望任何形式的投资。它们有自己的管辖权。你可以进入这些管辖权，并按照不同类型的法规建造，这些法规不一定适用于，比如，我住的旧金山，那里基本上不可能建造。所以，你试图避开这些地区是有原因的，在那里你可以获得当地市议会的支持，并获得税收优惠等等。而且，我知道七座超级城市听起来相当疯狂，也许不会是七座。也许只有两三座。但重点是，我最近去过迪拜几次，在过去的 20 年里，我看到迪拜从只有一两座摩天大楼发展到三四百座。我刚在那里参加了一个活动，他们有 300 多个，我想是 42 个平台在建造摩天大楼。你在加州看，你甚至看不到一座，对吧？你可以说迪拜正在试图投资他们的石油财富，但然后你可以争辩说，好吧，我正在为我们拥有所有这些人工智能财富做准备，对吧？我为税收收入飙升做好了准备，我想进行投资。这将是我的一种方式。所以，公平地说。第九点，你想谈谈发展太空产业。现在进展如何？我的意思是，SpaceX 有他们的霍桑中心，对吧？还有多少在进行？>> 很少。而且它可能会继续离开，因为这里的监管是不可能的。环境监管，以及成本，你知道，他们正在为通勤提出新的税收，而大多数太空项目实际上是在需要通勤的地区。如果未来十年加州失去更多太空产业的业务，我不会感到惊讶。如果你提供免费的州土地，就像我正在做的，税收优惠，教育优惠，以及利用像伯克利和斯坦福这样的大学来帮忙，这就可以扭转局面。我绝对相信，至少我有这个信念，你可以让这个产业重返这里，让它再次令人惊叹。但除非你提供这些激励措施，否则它永远不会发生。而现在，似乎现任州长不仅没有提供激励措施，他似乎立法在未来几年将使太空产业在这里更加困难。>> 好的，我同意吸引太空公司是一个好举措。然后是第十点，追求每个人的长寿。你想宣布衰老是一种疾病，在加州。你想将一座超级城市献给长寿的承诺，邀请初创公司在那里开始工作。是的。我的意思是，我觉得这非常无可厚非。我同意。我认为你和我在这方面有共识。你知道，衰老是一个被低估的问题。就像超人类主义是一个很好的方向。你有什么要补充的吗？>> 不，只是，你知道，长寿可能是未来世界上最大的领域。也许比人工智能还大。一旦人们发现你可以永生，你就谈论 80 亿人可能想要它。所以，我们正在关注围绕它的数万亿美元的产业。如果你能在加州有一个中心地点，可以真正启动这个经济。>> 对。好的。最后但并非最不重要的，或者也许是最不重要的，野生动物和环境。好吧。所以，你说你想利用基因工程来恢复濒危和灭绝的野生动物和植物种群，你想加强反盗猎法，你想创建许多新的加州州立公园来保护环境和野生动物，并反击气候变化将终结世界的错误恐慌。好吧。所以，你对环境有很多有趣的观点。它可以朝许多方向发展。我的第一个想法是，你想建造所有这些超级城市，但你也想创建野生动物保护区。所以，你真的在划分加州的土地区域，对吧？嗯，首先，你必须明白，我曾一度是 Wild Aid 的执行董事，该组织旨在阻止野生动物盗猎和保护物种，特别是濒危或灭绝的物种。所以，当时，基因编辑还没有出现。它仍然是一个梦想，就像《侏罗纪公园》一样。现在，带回一些东西真的有可能。所以我确实非常强调尝试使用科学和技术，特别是纳米技术来保持加州的原始状态。这与我认为其他一些州长候选人想要保护它有很大的不同。我不那么热衷于保护土地。我更热衷于将其重塑为曾经的原始实体。这是一种非常不同的看法。而且很多环保人士对我说这些话感到不安。但我认为环保主义的未来实际上是关于重建和带回濒危物种以及在这种意义上的保护，而不是因为我们选择不进入某个地方并摧毁它而缺乏经济进步。所以，显然有一个平衡，但是，我想我是目前唯一一个认为我们可以在砍伐森林后利用全新的纳米技术在未来重新种植森林的候选人。而且，我将被证明是正确的。但重点是，大多数加州环保人士都不是这样想的。他们认为你应该把它留给它。而我认为实际上不，我更关心人。我想将其货币化以造福人民，但我也想在技术出现后对其进行保护。而且很多技术已经存在了。>> 听起来不错。好吧。你正在带着宏大的想法进入竞选。我尊重这一点。我喜欢这次谈话中听到的大部分内容。你没有说什么让我真正不同意。所以，这很令人印象深刻，我想。我感觉我的大多数嘉宾来节目时，有很多我想攻击他们的地方。而且我一直对你所说的一切都持同情态度。所以我很高兴你正在竞选州长。在你所说的一切中，我最感激的是你对 50% 的灭顶之灾持开放态度。事实上，有趣的是，我自己的灭顶之灾的几率就是 50%。所以，你知道，显然有一个误差范围，对吧？10% 20% 80% 90%。我认为除非低于 10% 或高于 90%，否则它并不那么重要，那时我就会想，好吧，那是不同的灭顶之灾。我不明白为什么你的灭顶之灾会如此低或如此高。所以，你准确地抓住了我的灭顶之灾，真是太棒了。多么完美的灭顶之灾啊。我很感激。但是，你知道，你愿意开放地说，是的，我不确定我们是否能度过未来十年。这显然需要暂停人工智能，这将是理想的政策，现在只是如何让人们接受。如果有人问我的意见，我会告诉他们，只要他们准备好听。这次谈话中有很多值得赞赏的地方。你想说什么作为结束陈述，为什么人们应该投票给你，以及你希望人们采取的任何其他行动。>> 当然。首先，感谢你邀请我来你的节目。很高兴和你交谈。而且，听着，只是为了你的观众，去看看我的网站 zultanhon2026.com，看看我的想法。而且，虽然我做过很多采访，但我写了很多年。我有一本包含 300 篇不同评论文章的书，有些是为《纽约时报》写的，有些是为 Wired 写的，有些是为 Techrunch 写的。所以，你可以看看我多年来的很多想法。我的想法多年来变化不大。只是碰巧未来来得更近了。所以，十年前被谈论过的疯狂想法现在正在实现。超级智能的想法，我写了十篇关于它的文章，我认为它实际上已经来了。所以，你知道，我们必须开始关注它。但请访问我的网站，发现它，看看这些想法，然后给我发邮件。我每天晚上都会回复每一个给我发邮件的人。不总是很长，但我确实会尝试回答问题，而且我还会亲自与每个人握手，并回复我收到的任何信息。>> 不错。人们应该考虑的另一件事是，如果纽约州有纽约市市长 Zoran Mdani，那家伙很可能会竞选纽约州州长。纽约州州长很快。如果东海岸有一个 Zoran，西海岸难道不应该用一个 Zultan 来平衡吗？>> 是的。是的，听起来不错。事实上，人们评论过 Z 的名字，你知道，出现。但是，是的，这会很有趣，尤其因为 Zoran 的想法比我的更偏左。我比他更偏向中间派。但是，你知道，话虽如此，现在每个人都在寻求改变，而且我相信，无论发生什么，让新人进入政府都是好的。我希望看到人们对这个体系感到不满，并准备好迎接一些不同的东西，因为如果我们要在人工智能时代应对随之而来的挑战，就需要很多年轻人崛起，发出自己的声音，并采取新的行动。我认为现在世界上最不需要的就是那些已经在这里待了 30、40 年的老牌政客。我们需要新人进入这个体系来度过难关。>> 好的。祝 Zulta 和 Eastman 成为州长好运。一旦你进入州长官邸，一定要再次在节目中出现。届时我们将获得最新更新。非常感谢你参加 Doom Debates。>> 非常感谢你的邀请。