Transcription
你刚刚被告知你拥有超能力。你刚刚被告知你每月只需 200 美元就可以拥有多名员工。你会怎么做？如果我是一个今天的年轻人，刚开始我的职业生涯，我会尝试说服我的父母给我一些钱，让我利用大量的计算机来尝试，看看我是否能有效地花费 5000 美元的计算能力。这才是挑战。多年来，我们一直在科技界讨论一个类似模因的说法。即一人独角兽初创公司的想法，对吧？是的。>> 这不是这样发生的吗？我们所描述的正是它的发生方式。有一个新的盈余。学会利用它。这就是给年轻人的教训。>> 看，学徒制可能已经死了，但真正的工作才刚刚开始。>> 大家好。我们今天请来了 Lightspark 的联合创始人兼麻省理工学院密码经济学实验室的创始人 Kristen Catalini，以及 Eddie Lazarin。我们将讨论 Christian 发表的一篇新的经济学论文，题为“AGI 的一些简单经济学”。Christian，我认为这篇论文的标题有点误导，因为它实际上并不非常简单。它有 100 多页长，其中包含许多复杂的数学公式。嗯，也许你已经将一些见解提炼成一个简单的框架供人们理解，但你知道，在 100 页的篇幅中，你的分析也存在很多复杂性。所以我想问一下，是什么让你踏上了研究人工智能与我们现在生活的世界、机器人与人类的经济关系的旅程？>> 是的，我想说，我和许多其他人一样，可能是在一次半存在危机中诞生的，我们都在努力应对快速的进步以及一切的快速发展。我是一个乐观主义者。所以，你知道，我看着这一切，并且可以看到在弧线的尽头，真的，真的令人惊叹的事情。但根本问题是，你知道，我们要怎么做？我们应该关注什么？什么值得我们关注、努力和时间，尤其是在我们仍然认为我们有机会影响轨迹和技术本身的这个阶段。所以我们写了一篇关于测量的文章，大概在几个月前，那篇文章的基本思想是，任何可以测量的事物都将被自动化，这听起来不是好消息，但这第二篇论文确实围绕着，好吧，如果这是真的，让我们把这个，你知道，最初的假设推到极限，经济会是什么样子？劳动力的性质会是什么样子？初创公司应该做什么？现有公司应该做什么？本质上，你知道，未来会是什么样子？我们早在 2013 年就做过类似的练习，当时我深入研究了加密货币。我们写了一篇关于区块链的简单经济学。标题中的“简单”只是一个技巧。如果你让它太令人生畏，人们就不会读它。但非常像那个时候，看，有些事情是对的，有些事情是错的。希望我们方向上是对的。而现在令人兴奋的阶段是它已经进入了实际应用，你知道，人们正在，你知道，看看什么引起共鸣，什么不引起共鸣。>> 即使如此，你还是设法将研究结果提炼成一种人们可以相当可靠地掌握的方式。嗯，你甚至还发明了一些简短的品牌化方式来理解我们都面临的存在危机，比如“编码者诅咒”以及其他一些你发明的用来描述我们正在进入的世界的标签。不过，让我问你，你说这源于一场存在危机。你在心理上感觉如何？你的状态如何？>> 你在出汗吗？你快乐吗？你感觉好吗？>> 当然。我认为这是一个漫长的旅程。花了几个月的时间来思考这些基本概念。我和我的合著者都认为，首先，这项技术在这一点上仍然在我们控制之下。其次，正如我之前暗示过的，其好处比那些悲观主义者希望你相信的要大得多。第三，我认为有一个剧本。有一个我们都可以参考的剧本。我们可以考虑我们在哪里增加了价值。我们在工作中倾向于做的那些事情是一系列不同的任务的集合，而人们总是对某些任务或他们工作的一部分被自动化感到非常紧张。我认为现在编码正经历着这种体验，在过去的几十年里，许多有才华的个人将自己定位为开发人员，编写了优雅而精彩的代码，他们看着并说，哦，哇，这正在做我所做的事情，而且从某种意义上说，这是真的，也是假的。正如我们在论文中所说，这些工具，目前是工具，但我认为它们将成为不仅仅是简单的工具，它们正在消除基础工作，它们正在消除已知领域中的大量探索，但我们仍然认为，在顶层，我们正在思考，什么是不为人知的？我们可以在什么地方突破我们所记录、测量、数字化的界限？因此，尽管这些决定看起来很小，但我认为它们比我们以前的杠杆作用要大得多。>> 所以你提到了一个职业，编码员，我想深入探讨一下，因为我们有 Eddie Lazarin 和我们在一起，他在这里担任了多年的首席技术官。Eddie，你如何看待我们目前正在经历的这场转型？你如何看待这些变化？>> 嗯，罗伯特，有很多话要说。>> 是的。>> 也许让我把我们置于时间上，也把我把我们置于论文的背景下。所以，很多人觉得十二月发生了一些变化。好的。十二月二十五日。好的。改变的是一系列渐进式的改进，这些改进使这些代理能够执行长期的任务。而这之所以会引起如此大的挑衅感，如此大的感觉，是因为一年前的感觉是，我让代理做了一件小事。它能做到这一点真是太神奇了。我不得不让它做下一件事。它能做到这一点真是太神奇了。等等。而现在你可以，你知道，给它更少的指导。你甚至可以离开一天，你知道，在某些极端情况下是几天，然后回来，事情就完成了。也许它并不完全完美，但突然之间，这种感觉与与人一起工作的感觉非常相似，对吧？你知道，你不会一次踢他们做的事情。那太荒谬了。那将是极端的微观管理。相反，你进行对话，他们离开，一两天后回来，他们得到了一些东西。嘿，你怎么看？你提供反馈，来回进行。所以现在它开始感觉像一个同事，对吧？而这种定性的感觉会激发很多想象力。现在每个人都开始应对这种现实。而应对的一部分只是，你知道，一些戏剧化。但另一部分应对，更令人感兴趣的应对是试图找出在实际生产环境和商业用途中尽可能多地榨取价值的方法。而人们正在发现的，这直接关系到 Christian 的论文，是他们产生了令人难以置信的工作量。其中一些很棒。它花费的时间不到以前的零头，但它常常存在一些微妙的缺陷，而这些缺陷可能以前没有被充分认识到。所以举个例子，它们存在缺陷的方式，以及正如 Christian 所说，软件工程师的整体工作正在被重新考虑。人们认为软件工程的工作就是坐下来写大量的代码。我坐下来，我思考问题，我理解规范，然后我写代码，代码就是我生产的东西。但事实证明，人工智能帮助我们更好地理解这一点并将其分解成各个部分，即在制作作品、制作代码的过程中，有一个非常细致的迭代过程，包括纠正、调整、收集反馈和集成，而这不仅仅是按顺序打印每一行代码，对吧？就像这是一项整体任务，而事实证明，人工智能在这方面做得非常出色，而在其他方面则不太好。所以，一个优秀工程师的工作平衡正在迅速转变，而工作转变的方式是，你知道，编写代码的工作正在直线下降，但确保代码正常工作，或者确保代码正确，甚至不正确，就像逻辑上正确且无 bug 一样。它是关于它为客户提供价值，就像他们需要的那样，或者它服务于业务目标，或者它实际上正在处理组织中的优先任务。对。这个更细致的“好”的概念。>> 是的。或者甚至可能它会让你惊喜和愉悦。>> 当然。这项任务有许多维度。而且似乎在最初编写代码的过程中，工程师可能没有考虑到他们也在做这项工作。他们不仅仅是在打印代码。他们也在做这项工作，并且这个过程是真实的，编写它，指导它，承担风险，并决定我要尝试它。这篇论文 Chris 写道，称之为验证，或者这种“万能术语”，用于这个“不是简单的自动化，而是将所制作的东西融入其中，并编写所制作的东西以适应某个最终目标，某个目的”。所以回到你的问题，Robert，事情正在改变的方式是，人们现在正在应对这一事实，并意识到也许一个优秀工程师所指挥的工作分配的平衡有所不同。花在编写代码上的注意力，以及一次打印一行代码的工作量正在减少，对于某些人来说，就像在 vibe coding 的极端情况下，接近于零。而工作中的很大一部分现在是验证。你提到了“验证”这个词，它包含了许多内容。>> 是的，我很想，我实际上还没有和 Christian 谈过。所以，我很想让 Christian 详细解释一下，你知道，你如何看待这个词，不仅仅是这个词的选择，而是这个概念，因为它对论文如此重要，自动化和验证是关键的概念划分。>> 是的。所以，我认为自动化部分非常直观。这些代理基本上可以做越来越多的事情，而这些事情以前已经做过了，而且目前我认为它们仍然在某种程度上受到可观察领域的限制，所以想象一下，所有写过的代码库，它们在训练或微调过程中都在摄入，所有这些都是它们可以构建的基础，而且人们经常说，哦，那么它们就不能创新，不能有创造力，不能有好品味。我实际上强烈不同意，事实上，你知道，很多创新只是想法的重新组合，而人类可能只探索了不同学科、不同科学、不同概念之间可能组合的极小一部分。所以我确实认为这些代理将极具创新性，仅仅是通过利用我们提供给它们的东西。基本上，人类迄今为止积累的知识的统一性，这些知识被记录下来然后数字化，然后就去使用它。所以，自动化的成本正在下降，而验证在整个经济中一直是一项重要的成本。所以，实际上，当我们写《区块链的简单经济学》时，它也以验证成本为中心，尽管我想说，在这篇论文中，它具有更广泛的含义。那么，我们所说的验证成本是什么意思？这篇论文中的验证是什么？在这篇论文中，验证实际上是从测量这个想法开始的。如果你接受人工智能在给定正确数据的情况下，复制这个过程做得非常好的论点。如果你接受这一点，那么你就会开始问，好吧，今天什么没有被测量？有很多东西没有被测量。有些没有被测量，因为它们实际上是不可测量的。经济学家你知道，称整个概念为“夜晚的不确定性”，它本质上是看待未来和尝试分配事件周围的概率，而甚至无法分配这些概率的区别。对于非经济学家来说，他们可能更熟悉唐纳德·拉姆斯菲尔德的“未知的未知数”。绝对。是的。“未知数”本质上是非可测量部分，通常是关于未来的。所以，这就是为什么即使你今天把代理扔到股票市场，它们平均来说可能相当好，可能比你知道的你的财务顾问要好，但它们可能不会对环境的剧烈变化、地缘政治的转变等等具有弹性。这些是未被测量的事物。当然，还有更多，对吧？所以，在这篇论文中，验证实际上是应用你大脑中所有嵌入的测量行为。所以，如果你从鸟瞰的角度来看，你从你职业生涯的起点到你现在的位置，你已经看到了所有这些例子和情况，并且你从中学习了。你基本上在大脑中记录了测量，而这基本上是你独有的。现在，两个人可能拥有非常相似的知识，即使是职业生涯，但它不是完全相同的组合。所以，当人们说，好吧，这个人有好品味，或者是一个很棒的策展人，或者他们有很好的判断力。嗯，真正启发这篇论文的一个想法是，每个人都在围绕人工智能想出各种应对策略，比如，哦，别担心，机器永远做不到 X、Y 和 Z。而应对策略非常模糊，对吧？你如何定义品味？好品味还是坏品味？你如何区分好的判断和坏的判断？更糟糕的是，其中一些需要判断的事情，你知道，根据 Eddie 在十二月的例子，一个好的工程师可能比今天需要更多的判断来审查代码库。所有这些基础都在缩小。所以我们需要深入研究一些更基本的东西，并且可以真正地将其固定到一些精确的东西上。所以我们认为，你知道，只要你试图自动化的信息背后有数据，你就会被自动化，当然，人工智能通过提供更好的测量来改进自动化，你知道，想想视觉以及我们今天能做的所有事情，传感器，人工智能最终会随着时间的推移提供自己的新数据集。但如果它没有被真正记录在任何地方，如果它仍然在某人的大脑中，仅仅因为他们看到了所有那些分布外的例子，他们看到了那些例外。你知道，当 Eddie 推出这种形式的代理时，他知道所有可能出错的方式，对吧？就像你在构建加密货币时，构建一个安全可靠的系统有如此多的细微之处。这种细微之处尚未完全捕捉到。但同时，当然，随着测量的进步，我们需要不断地向上和向上移动价值链，直到，你知道，我们将成为同行，然后我们将看到之后。人们已经几十年来一直在衡量人工智能做事情的能力了。你知道，起初是，嗯，人工智能永远无法在国际象棋上击败某人，然后是，它永远无法驾驶汽车，你知道，穿越全国或者别的什么。似乎人类独有的领域正在缩小。你提到人们一直把品味作为一个领域，一个人类可能保留的领域。但人工智能能够处理每一个组合，并以可忽略的成本将它们输出，并完全探索地图和景观，并优化各种事物。那么，在这个世界里，人类的角色是什么？我们谈论验证，但你有没有想过人工智能可以进入未知领域的极限在哪里？>> 我想，罗伯特，这真的取决于你对“极限”的定义。你知道，我们是在谈论一千年到一万年，十年，就像帝国大厦一样？>> 而且论文中也写道，你知道，我们试图将其推向极限。我确实认为唯一的途径实际上是人类增强。所以，当你再次思考验证空间的缩小时，在某个时候，一切都与意图有关，我们将有一些偏好，而机器可能，顺便说一句，它们今天已经发展出了自己的怪癖和偏好，你知道，作为训练的副产品，通常，有时我们理解它们，有时我们不理解。但在未来，这些系统变得越来越强大，它们将拥有非常像我们的偏好，是可信的。所以在这种极端情况下，将是我们的偏好与它们的偏好之间的紧张关系。而好消息是，底层的物理现实是相同的。所以，我认为增强将是我们能够跟上我们创造的东西的唯一途径。我们将能够仍然与它进行有意义的对话，并试图，你知道，在其中发挥作用。我们可以谈论短期，因为你将经济分解为三个不同的领域，你可以在其中找到你的存在或各种任务和工作存在的地方，并了解它们的自动化程度，或者更确切地说，它们的产出和它们所做的事情的可测量性。也许这是现在最好的去处，因为它为你提供了短期，一个近期的路线图，关于如何为每个人思考这个问题，思考他们正在贡献什么，以及什么可能会被吞噬。>> 是的，让我们从那里开始。我认为这里有很多关于在许多维度上仍然是人类的。我想说，第一个当然是验证。随着这些系统变得越来越强大，任何个人在其职业生涯中的影响力都比十二月时要大得多。这意味着我们可能都应该更有野心。我们都应该尝试思考我们目前的工作流程。而且，简而言之，在加密货币中，我们称之为“AI 三明治”。参考稳定的加密货币三明治，但一家公司或一家初创公司本质上可以有一个人。我们称之为“总监”，但它本质上是负责指导、验证、确保当系统偏离了你不知道的意图方向时，我们可以进行纠正。所以，这也许是一个人，也许是一个小团队在顶层。中间，你将拥有一群代理。嗯，我们已经看到了。人们正在尝试各种有趣的、新的事物。当然，这些东西很笨重。它们会坏掉。它们有各种副作用。但你知道，下一代产品将更加企业级，而在三明治的底部，你将拥有一支军队，或者一支小型军队的顶级验证者。所以，如果你考虑所有代理输出的工作，如果你赋予这些人强大的工具，人类将不会逐行进行验证。你知道，但这是不可能的。机器的吞吐量也在加速，太快了。但有了正确的工具，我认为每个领域的顶级专家将是确保系统输出符合预期的人。一项非常重要的工作。我认为领域专家将在此领域蓬勃发展很长时间。但也有一些坏消息，对吧？所以，当你做这项工作时，你也在为你的失业创造标签。我认为我们在过去已经看到了最简单的形式，当人们为人工智能公司和培训标记图像时。这不再需要了。现在，有大型基础实验室聘请了金融领域的顶级专家，来自不同领域的顶级专家。这些人正在创建评估和培训，最终将取代他们的同行。所以，这个验证层非常重要。我认为许多人将在此蓬勃发展。它奖励几乎是超专业化，对吧？所以，如果你是那个能够提供最终解锁的人，再次，你的影响力是巨大的。所以，这是一个类别，验证者。>> 那是你称之为“编码者诅咒”的那个。>> 所以，“编码者诅咒”是我们描述的机制，如果你是一个顶级的验证者，你需要不断地向上移动，因为技术越来越好，所以你需要不断地在那个薄薄的层上增加价值，这样你就可以始终领先于机器。我前面提到的总监，基本上是那些真正驱动意图的人。企业家就是总监，对吧？所以他们看到了某个未来。他们想象了到达那里的某种途径。然后，当然，初创公司是持续的漂移和对对象沿途的重新调整，对吧？有很多工作是总监类型的，包括当然在媒体写作、电影制作中。这就是我们从那里借用标题的。然后会有一些工作，我认为我们需要认识到这些工作很容易自动化，很容易验证，而这些工作已经消失或即将消失。嗯，我认为社会还没有真正应对其中一些影响。将有大量的再培训需求，并真正将人们推向更远的知识前沿。但是，当你查看这些工作时，我们将使用人工智能来验证人工智能。所以，有时人们误解论文的一点是，我们谈论人类验证是最后一步。但在许多情况下，人工智能将验证人工智能。所以，在它真正到达最终人类之前，将有一系列步骤，而这可能需要，也可能不需要，取决于工作。然后我们有一个最难量化的类别。我是说，我们称之为“意义创造者”。所以，想象一下，在某些情况下，实际上一切都与共识有关。这些人非常擅长理解趋势、社会变化或社会关心的事物，这些事物需要每个人围绕某事进行协调。艺术就是这样的。你知道，加密货币网络在某种程度上也是这样的。而这些意义创造者本质上不是，他们不在可测量领域。你知道，我们可以达到一种均衡或另一种。这并不重要。但他们非常擅长围绕某种结果创造社会协调。顺便说一句，这些不一定是人们有时说需要人际接触的工作。我认为人们严重高估了人际接触的重要性。你会在治疗师，甚至老年人或儿童保育等工作中听到这一点。是的。我认为人们最初会有各种担忧，但没有人真正考虑到成本的急剧下降，对吧？所以，如果它便宜 100 倍、1000 倍，而且有些人甚至觉得它更私密，人们就会迅速转变。事实上，我们已经知道了，对吧？人们正在积极地使用所有的大型语言模型来处理各种非常亲密或个人化的问题。也就是说，当然，会有一些工作，人类制造或由人类制造将是一个非常重要的标签，而加密货币将在其中发挥作用，因为很快我们将失去这种身份的本质，而没有一些强大的密码学作为后盾。但人类制造的将是有价值的，仅仅是因为它固有的稀缺性，因为它是由人类制造的。所以，不是因为它更好，你知道，只是知道一个人投入了他稀缺的时间和注意力来提供这种体验，这种音乐会，无论它是什么，我认为这些东西仍然很重要。所以你提到了密码学和加密货币。那么加密货币在这个世界中的位置是什么？>> 这是一个非常重要的位置。>> 似乎是互补的，但如何互补？以及具体如何互补？>> 是的，当我们开始这段旅程时，你知道，很多人在我们之前就已经说过，你知道，人工智能是概率性的。加密货币是确定性的。你知道，想想智能合约，为代理设置护栏，或者让代理能够买卖资源。所有这些都引起了共鸣，但我确实认为人工智能和加密货币之间存在更深刻的互补性。也许它在今天的经济中不那么显眼的原因是我们还没有看到它的副作用，但围绕身份或数字信息来源的问题。我认为在接下来的几个月里，我们将进入一个非常未知的领域。随着这些能力的真正令人惊叹，每个数字平台都必须认真考虑这样一个想法，即曾经是人类贡献的东西，无论是帖子、图像还是其他任何东西，现在都可能是一个代理。你知道，那些机器人有时是受人类委托的。所以，你需要完全不同地对待它们。随着这一切的展开，我认为社会将不得不彻底重新构想其身份堆栈，它认证事物的方式，它如何看待这是真的还是假的。数字物品的保管链是什么，直到它到达我手中。所以，是的，我认为加密货币可能会在所有这些方面闪耀，而过去十年里所建立的一切，它将变得更加基础。回到验证。当区块链上有底层信息时，验证成本很低，更可靠，你可以信任它。所以，在一个信任将越来越稀缺的领域，是的，我认为加密货币的原始要素最终将在许多应用中真正闪耀。>> 是的。罗伯特，我可以用一种方式来表达这个想法，那就是自动化的成本正在迅速下降，而验证的成本，在这个我们已经谈过的广泛意义上，我认为它正在下降，但它下降的速度并不快，这造成了一个差距，而这个差距是一件有趣的事情。有许多方法可以描述这个差距，有些人可能会将其描述为机会，这有点像 Christian 对人类劳动者所说的，如果存在这个瓶颈，这个可测量性的差距，因为人类的普遍适应性和经验以及普遍性，人类可能比我们让机器做到这一点更快地专门化于验证组件。而且有一些有趣的深层挑战使得机器在短期内处理验证变得困难。从长远来看，我不知道那是否是，我认为那不是永久性的，但在短期内，绝对是这样。密码学和区块链是验证工具。来源，你知道，就是一系列加密证据，对吧？某物，你知道，在特定手中经过了某个路径，或者它经历了一系列我们确信的转换。这给出了关于我们正在看什么的信号。它只是使不同类别的验证更容易。所以，任何使验证更容易的东西都将成为解决这个差距的一部分，试图缩小这个差距。而这个差距是事物试图做的事情的一种系统性低效率。这篇论文提出的一个非常有趣的框架是根据可测量和不可测量任务来划分事物。可测量和不可测量劳动。我想问 Christian，可测量性基本上就是验证成本吗？它还有别的吗？你知道，你是否将可测量性视为验证的基本成本？可测量、不可测量任务的想法，我理解可测量任务是指验证成本较低的任务，这样你就可以将测量组件放入现有的循环中，对吧？你不需要做很多额外的工作就能弄清楚它是否被正确完成，或者它是否正常工作，或者它是否合适，或者它是否兼容，或者它是否无 bug 等等。而不可测量任务似乎要么处于这个复杂领域，要么你刚才说的 Christian，比如共识领域，那里没有对错的概念，但有一个共识的概念，要达到这一点很重要，才能继续前进，才能组织未来的任务。你认为可测量性是这样的吗？>> 我想说，你对二分法绝对是正确的，而且我认为这对社会来说很有趣，因为在某种程度上，有些事情是不可测量的，即使我们有完美的测量，我们可能也不会改进它们，因为它们是社会建构。有些人称它们为地位游戏，你知道，就像，好吧，我们正在就这件艺术品的重要性达成共识，因为它反映了对该社会、该文化、该群体的一些意义。但对于自动化问题，我想说后者可能是最重要的，那就是，再次，可能存在人类大脑外部测量与内部测量之间的区别。是什么让一个人的大脑通过自己的经验记录下来的？当然，当我们开始携带视频设备并捕捉各种丰富的信息时，这个障碍将会消失。但目前，我认为一个经验丰富的工程师与一台读过所有代码的机器的区别在于，他们经历过所有这些时刻。他们学到了一些分布外的例子，你知道，它们会在机器的数据中，但他们不知道如何权衡它们。所以，我们的神经网络以一种非常独特的方式进行了训练。所以，我认为区别在于验证是否对这一类别很重要，还是不重要。这是你测量过的，是独一无二的，还是机器也可以测量？当然，随着我们提供越来越好的数据，这种情况正在缩小，这就是为什么我们需要更多地进入未知领域。>> 你有明确的例子，你认为至少目前是不可测量的，并且因此是安全的吗？>> 我认为几乎在所有职业中都是如此，对吧？你在法律领域看到了这一点，你在工程领域看到了这一点，你在战略领域看到了这一点，其中有一些组成部分，机器在平均水平上做得非常好，或者我想说甚至高于平均水平。它们已经摄入了正确的材料。它们已经看到了足够的例子。然后是最后的验证层，它完全是关于例外情况，你知道，关于推动边界的重新组合。你也在艺术等领域看到了这一点，对吧？所以，一些最伟大的艺术家非常擅长捕捉一种尚未在数据或社会中完全表达的情感。我的意思是，那种应用你自己的专业知识、你一生积累的经验来做决定的那一层，在所有这些职业中仍然是人类的。我几乎可以称之为一种普遍的元技能。>> 所以，如果我们想让这件事具体化，我几周前刚从巴黎回来，去了奥赛博物馆，看了那里的所有印象派艺术品。嗯，现在我觉得很有趣的是，法国声称印象派是他们向世界呈现的深受喜爱的艺术运动，而实际上，他们曾遭受迫害，长期以来被学院完全拒绝。嗯，现在他们受到了赞扬。但也许他们在那时是一个例子，他们独特的看待世界的方式以及他们通过色彩和形状表达世界的方式。现在，我并不是说今天的人工智能可以免受这种情况的影响。我不是艺术家，所以我不会发表声明，但这也许是一个人们可以抓住的历史例子，关于那些独特的经历和也许精致的品味使他们能够超越的人。也许另一个例子是迈克尔·伯里的那种，在“大空头”期间，你知道，全球金融危机，他们称之为“大空头”，你知道，当其他所有人都认为经济一切都运行得完美而美妙时，而少数人却看到了那种风险，而其他人却忽略了。嗯，我想说，我想说第一个例子，印象派的例子更接近于我认为 Christian 所说的，也许共识发生了一些政权更迭，但并不一定有什么潜在的新信息。他们并没有什么秘密知识，或者对艺术是什么有任何秘密的专有理解。共识改变了。而共识的整个想法，我们可以深入研究一个关于共识的兔子洞，比如在软件工程的意义上，关于特定的编码标准以实现互操作性，对吧？这不是这种方法或那种方法。它们是不同的。它们在某种程度上是相互排斥的。你必须选择一个，有人必须决定，对吧？如果每个人都同意这个标准或那个标准，只有一个，那么我们就更有效率。如果你考虑一个未来市场，其中有一群机器与人类作为同行，那么就存在一个共识的概念，它跨越了这两组，对吧？你实际上可以拥有，你知道，一种机器共识和一种人类共识，关于特定的软件工程方法或技术方法。那么，为什么人类在共识构建方面必然具有优势就变得非常模糊了。事实上，机器可能因为它可以自动拉取，你知道，所有其他模型，或者创建模型之间的某种激励机制，它们可以决定这是理性的，瞬间的。换句话说，你可以想象机器可以找到更快地协调的方式。所以，这个共识形成的概念是人类独有的，我认为不一定永远如此，尽管今天如此，因为大多数劳动者和大多数任务显然仍然由人们协调。第二个例子，迈克尔·伯里的那种例子，那更像是专有信息，只是市场还没有纳入某些信息或某种激励机制。这使得很难实际利用这些信息，或者他们安排事实、安排他们的头寸、他们的资本以及其他事物来利用这种错误。即使是那个领域，似乎也很难想象为什么人类会拥有垄断权。>> 是的。看，如果你把它推到极限，我认为我们都知道，你知道，它会走向完全的等同，对吧？它们是同行，然后是的，你知道，除非我们增强自己，我认为技术将是其中的一部分。我们已经看到了各种实验，对吧？嗯，关于人脑接口，它将比我们更强大。我认为关于印象派，也重要的是要记住，在某种意义上，这是对摄影自动化的一种回应，你知道，被认为是艺术的东西。所以，如果你现在可以画出完美逼真的画作，那已经商品化了，对吧？现在突然摄影将远远，远远，远远更好。我认为我们正在目睹很多这种情况。所以人们正在进入意义创造领域，就像，我们如何回应？艺术家本来的性质是什么？我完全同意 Eddie 的观点，我的意思是，关于“大空头”的例子，这就是为什么我喜欢，你知道，传记，当你想到历史上一些最有影响力的人，无论是好是坏，他们的整个轨迹，那些经历，真的把那些权重放在了他们的模型中，你知道，在那个网络中，是独一无二的。他们只是通过一套经历生活，这些经历使他们与他人完全不同。所以，在相同的信息量下，反应会非常不同。所以，也许最终我们会训练出能够带回那种多样性、那种独特的、你知道的、关于现实的偏见意见的模型。>> 我们能稍微谈谈“特洛伊木马”吗？我们还没有涉及到极低自动化成本的负面外部性的维度。你知道，我们已经谈到了对人类劳动者的风险，还有很多要说的，但也许除了那些之外，比如对经济的生产性好处，低自动化成本对经济有什么风险？>> 是的。我认为我们今天已经看到了它的缩影，当公司说，你知道，他们代码的 x% 现在是由机器生成的，这太神奇了，这是生产力增长的标志。我认为发布周期正在缩短，但同时，因为我们已经知道，人类不可能审查所有这些代码，所以很有可能它会携带一些不同类型的技术债务。我们都曾 tempted 过，你知道，向 LLM 提问，快速浏览一下，然后，你知道，把它当作自己的东西发布，而没有进行充分的验证，因为模型正在变得更好。但是，你知道，无论是错误的句子，错误的行代码，还是某种零日漏洞，现在已经成为你的代码库的一部分。我认为我们会看到更多这种情况。而模型对此的说法是，基本上，发布包含一些潜在错误的代码，或者发布文字，或者任何人工智能生成的工作，都是完全理性的，因为你无法验证全部内容。而如果你将其扩展到整个社会，这意味着我们可能会积累一定程度的系统性风险，因为我们正在加速，希望我们能够开发，你知道，更好的验证工具，更好的技术来真正回顾和查看我们可能已经发布的内容。但在短期内，我认为公司面临这种紧张关系，即如果你从长远来看，甚至对一家初创公司来说，可持续性，对吧？今天投资于更好的验证工具，包括我们之前谈到的一些加密原语，成本很高。它可能会让你慢下来。这些好处都在未来，而匆忙发布和增长的冲动可能非常强烈。所以，我认为我们可能会看到两类创始人。那些考虑长期负债并以正确方式构建事物的创始人。我们已经看到了这种负债的缩影，就像软件模型一样。11 Labs 最近为其音频代理投保了，对吧？所以说，部署它，如果你有代理做出糟糕决定的任何奇怪的副作用，你也会得到保险。我认为我们会看到更多这种情况。Alex Rmpal 广泛撰写了关于“劳动即软件”这一概念的文章。随着我们部署这些代理作为工人，责任和保险问题将变得越来越重要。这可能不是最吸引人的话题，但当你思考，你知道，根据 Edd 的观点，在实际应用中会发生什么时，我认为我们会看到很多系统性故障。历史上有一个很好的例子，对吧？所以，如果你想到长期资本管理公司做出了很多非常聪明的投资赌注，直到旧基金崩溃，这是一个量化对冲基金，它试图使用计算模型来击败市场。>> 是的。而且有很多这样的例子，人类冲到了他们不完全理解的技术前面，然后你知道，是的，我们有一些重大的副作用。>> 是的，我认为这是一个非常有趣的想法，因为如果软件生产之前发生的事情，或者任何其他经济服务，如果很多都是直接人类劳动的结果，那么你就可以理所当然地认为人们一直在观察和质量检查许多许多步骤。现在，我并不是说直到今天从未有过错误或缺陷，对吧？几乎没有，对吧？但在某些特定情况下，其严重程度可能有限，而我们可能没有完全认识到，因为总是有某种人在每一步都参与其中。但随着事情变得越来越自动化，并且事情变得越来越高风险和有价值，那么责任就会急剧增加。现在，当然，好处也在急剧增加，对吧？这就是为什么我们容忍它。但是监督、限制和理解风险边界的能力必须扩大。所以，引入保险之类的东西，你实际上为事物失败的风险赋予了美元价值，这可能是管理整个企业的重要组成部分，因为你只能理所当然地认为它无法被监督。你想将量化风险和理解错误之处的责任委托给专家。基本上，这是对一种专业化的需求，对吧？每当出现某种新的巨大盈余并伴有重大权衡时，就会出现这种需求，人们会专门化来处理这种权衡的负面影响。所以，我认为，软件生产过程本身可能会发展出一种以前缺乏的新的金融维度，这是非常有趣的。对。这对我来说听起来不错，就像一个想法，因为一切都在获得这种金融维度。我不是以某种愤世嫉俗的、疯狂的金钱方式来理解这一点。我只是说，金融化的工具使我们能够处理经济中更多的复杂性和不断增加的抽象。你知道，金融化就是为此而存在的。所以，这感觉像是顺应潮流，感觉是对的。>> 是的。而且，你知道，在某种程度上，我们过去十年左右所做的一切都在推进我们如何衡量和，你知道，权衡风险的边界。如果你深入研究 DeFi 及其演变以及预测市场，所有这些原始要素突然变得至关重要，对吧？所以，如果你正在部署软件，如果你有这些代理，一个允许这些代理看到更好信号的堆栈。我给你一个非常简单的例子。我曾与一位正在代理商务和支付领域创业的创始人交谈，他有一个非常有趣的观察，当他从传统的遗留支付系统切换到仅通过稳定币进行支付时，系统运行得更可靠，原因是信号都在链上，代理对正在发生的事情有了更好的理解，它不仅仅是命中了一个死去的 API，它看到了这些行为的整个背景。而且，我认为会有更多这样的情况。>> 你是说，代理能够看到更多，并对给定交易的实际情况有完整、完整的背景和理解，对吧？>> 正确的。>> 而在遗留模型中，这些东西隐藏在，你知道，各种公司中间化，左右。我们有所有这些数据孤岛，而在链上原生交易流中，更多的是面向所有参与者，当然，你知道，对于其中一些事情有隐私要求，所以它真的取决于，你知道，取决于流程。但另一个有趣的部分，这与 Edd 关于保险和责任的观点有关，人们有时说，哦，网络效应将成为人工智能时代的持久模式。我认为现实将更加微妙。事实上，人工智能代理和自主系统非常擅长打破许多使双边市场非常、非常可防御的模式，对吧？仅仅是启动这些东西的成本以及为市场双方提供种子的大量繁重工作正在下降。但有一种不同类型的网络效应，我认为它将变得更加重要。我们称之为“验证级网络效应”。它可能需要一个更好的名字，但想法是，如果你拥有关键的专有数据，作为你所做工作的一部分，并且如果这些数据允许你将验证从人类手中扩展到机器手中，你将不可避免地能够更好地承保风险，做出更好的决策，并以更低的成本提供更安全的产品。在这种模式下，我认为在这个阶段它将非常持久。所以，当你看看现有公司与初创公司时，现有公司拥有，你知道，一个完整的失败数据库，比如想想十年来关于其中一些流程可能失败的极其宝贵的信息。而总的来说，那些将注意力集中在，每次我们进行交互，自动化一个系统，引入一个顶级专家，一个顶级工程师来做这件事的初创公司。
做出一个决定，我们从中学习，并且我们正在围绕验证创造一种积极的反馈循环。我认为这些公司将取得巨大的成功。
>> 是的。更多证据表明，专有数据，你知道的，以及一个组织可以保存在内部并从中专业化的数据，可能是最可辩护的东西之一。
我有一个想去的方向。那就是论文中有一个关于“空心经济”和“增强型经济”的概念，对吧？这种可能的划分。你能详细解释一下它们吗？你认为区分它们的关键因素是什么？因为我喜欢这个框架。我认为这是一个非常好的、非常有趣的框架，并且引起了共鸣。
但是，从某种意义上说，难道不是“空心化” forces 像“编码者诅咒”或“缺失初级循环问题”中的那种破坏性的自我强化反馈循环吗？难道这些不也是能够自动化某事并找到效率的自然副作用吗？
>> 是的。所以我们从空心经济开始。你已经暗示了一些动态，但我认为第一个已经摆在首位了。我认为这正在劳动力市场发生。这方面已经有初步证据，科技公司会意识到他们可以用更少的东西做更多的事情。当然，他们会从平均水平以下或平均水平的员工开始，因为人工智能已经存在，而且是年轻的员工，因为现在资深员工已经可以扩展 100 倍或 10 倍，具体取决于任务。所以这是推动变革的力量之一。
第二个我们已经暗示过的是编码者诅咒。当专家进行培训，你知道的，做出决定时，基本上这些标签，这些标签可以用于未来做出相同的决定，而无需专家。
最后，有一个概念叫做“对齐漂移”。在不深入研究模型本身的情况下，其要点是，将对齐视为一次性事件将是重要的。你知道的，我们训练模型，它就对齐了，我们就没事了。我认为这实际上是我对养育孩子的一种定义，即你不断纠正并持续提供反馈。
如果你将这三种动态结合起来，并将其与这样一个想法结合起来：部署未经验证的人工智能的激励措施非常高，如果它能完成工作，因为也许我今天就能获得生产力，比如 60% 的代码是由机器而不是人类编写的，但成本可能在未来，我们可能正在朝着一个我们不培训我们未来验证者阶层的经济体迈进，我们的顶级验证者正在逐渐变得越来越精简，这个阶层正在缩小，而我们正在创造所有这些潜在的风险，你知道的，这些风险可能导致我们称之为“空心”，但然后我们实际上利用它来为我们更喜欢的最终状态——增强型经济——铺平道路。
我再次重申，我是一个乐观主义者，我认为我们最终会走向一个增强型经济。问题是我们如何才能快速到达那里，以及我们能否使这个过渡，在某些情况下，对许多需要再培训和适应的人来说，尽可能地痛苦。
而增强型经济则相反，因为基本上我们意识到，好的，初级员工没有得到培训。但猜猜怎么着？人工智能在加速掌握方面非常神奇。你可以找到一个年轻人，发现他们的真正才能，而不是，你知道的，让他们经历 K1、K2、K 等标准课程，你加速他们，让他们找到自己真正是谁，他们真正热爱什么，什么让他们进入心流状态。至少这是我们对我们的孩子所想的，那就是谁知道什么是有价值的，STEM、非 STEM、艺术，我们不知道，但如果你建立在你的真正才能之上，你就有更大的机会进步，我认为人工智能将在其中发挥巨大作用。这些是美妙的、美妙的学习工具，我们必须构建它们，我认为它们今天还没有大规模存在。
其次，如果你接受编码者诅咒，那么猜猜那些人将不得不继续再培训并向上发展价值链，并发现哦，现在我有了所有这些杠杆作用，平均而言。也许我可以成为一名总监。也许我有一个代理人蜂群。所以，人们谈论了很多代理人的重要性。我认为这确实触及了核心，你需要意识到你可以成为一名导演。你可以做比以前多得多的事情。
在对齐方面，我认为在大量的安全研发和其他正在发生的事情以及更好的验证工具之间，包括人类增强，如果我们能够增强我们的能力，我们将能够更好地验证，并成为同伴。
如果你把所有这些放在一起，你突然就处于一种情况，即生活中许多曾经昂贵的东西几乎是免费的。任何可以衡量的事物都可以自动化。所以我们将收敛于计算成本，对吧？也许甚至是能源成本。
然后还有其他我们将要发明的东西。大量的新的工作，大量的新的事物，人们将娱乐自己，包括在地位经济中，在非可衡量经济中，在强大的验证堆栈的底层，这样我们就有地面真相。我们不会被假身份或试图攻击我们社会的演员所淹没。
如果你把所有这些放在一起，未来看起来相当不错，对吧？而且我认为政府一直以来一直在努力的许多事情将变得廉价且可用，比如优质的教育、优质的医疗保健。所有这些曾经非常、非常高摩擦的事情。我认为我们可以实现。
但是，是的，我们确实需要在此过程中进行一些投资，以确保我们构建它，而不是，你知道的，只是在过渡中挣扎并做出一些疯狂的决定，比如，好吧，让我们拆除数据中心，让我们停止一切。这是不可能的。这是不可能的。这永远行不通。
所以，如果你职业生涯早期或刚刚起步，你应该使用这些工具来模拟你将遇到的环境，基本上是训练自己，这就是你所说的。如果你职业生涯后期，你需要给自己一点动力，获得一些代理权，意识到你可以用更少的东西做更多的事情。
>> 你知道，很难说这一切会持续多久，直到出现另一整套难以预测的变化。但人类的专长将是审视整体，并能够放大和缩小，放大和缩小整个事业、整个企业，无论是什么，并知道在哪里需要更多的关注，需要更多的资源，整个项目需要如何转移。
如果我是一个今天的年轻人，刚开始我的职业生涯，是的，我会有点伤心，那种进入后台，仔细阅读汇编语言的说明手册，一次一行，写出我能想象到的最精美的程序，整个夏天都在写。是的，那已经过去了。那是一个爱好。那是一个你可以为了好玩而做的事情。下载一个奇幻虚拟机，编一个游戏，你知道的，去 GitHub。那里有很多很酷的东西。那现在是一个爱好。没有人再那样做了。
相反，我会试图说服我的父母给我一些钱来驾驭一大群计算机，看看，我能否有成效地花费 5000 美元的计算资源？你知道的，我每小时能生成 20 万个有用的 token 吗？就像，这就是挑战。就像，我能否引导一大群机器来做一件事？
我们多年来一直在科技界讨论一个梗，那就是“一人独角兽创业公司”，对吧？这不就是这样发生的吗？
>> 我们描述的正是这样发生的，对吧？不一定完全是这样，但控制一大类机器和数据，并对事物有广泛的视野并不断调整它的技能。这本身就是一项从未开发过的技能，因为这样做从未有意义。如果你想做一个大项目，你总是需要学会如何调动很多人。这就是你获得杠杆的方式，当劳动力按照其既定方式成形时。
嗯，它的形状正在改变。所以现在你应该学会如何驾驭这个新事物。有一个新的盈余。学会利用它。就像，这是给年轻人的教训。不是事情结束了。那只是“黑药丸”垃圾。那太荒谬了。我再怎么谴责都不为过。那是人们试图表现得很聪明，表现得很消极，或者别的什么。
现在你刚被告知你拥有超能力。你刚被告知你每月只需 200 美元就可以拥有多个员工。你该怎么办？而且他们有点奇怪。顺便说一句，200 美元的员工很奇怪。
好的。现在学会和他们交流。
一种总结方式是，基本上学徒制可能已经死了，但真正的工作才刚刚开始。所以过去那种做基础工作或并肩工作的阶段，你不再需要任何这些了，如果你热衷于构建，即使是硬件，我认为很多以前对某人来说技术上更难处理的领域，如果你有好奇心，现在它们真的属于你了。
如果你要我来评价这个模型带来的最积极的事情，那就是实验周期将缩短，人们将能够更快地将他们的想法扩展到现实世界中的事物。
>> 埃迪，你在评估投资的公司中也看到了这一点吗？
>> 是的，完全。当然，绝对。
>> 比早期公司通常的员工少。你看到员工数量的正式化了吗？我的意思是，多年来我一直看到这种模式。当然，我们看到，正如克里斯蒂安提醒我们的，Block 裁员了一大批人。显然，埃隆在 X 上也这样做了，X 并没有崩溃，尽管所有人都说它会崩溃，对吧？许多这样的例子。所以，我认为有很多经验支持这一点。我还没有看到正式的分析，但看看 Hyperlid、Uniswap，比如加密货币中的许多公司，尽管员工不到 20 人，但它们非常有价值。在某些情况下，我们仍然有不到 20 名员工。所以对我来说，这似乎是真的。
也许我还没有完全看到激进的例子，但我已经看到了一些闪光点，那就是一位或两位创始人能够在几周或几个月内从他们的想法到一个正在为客户服务的现场产品。我还没有看到很多这样的例子，但这似乎是今年的事情，是正在发生的事情，而不是也许 5 年后。不，那就像正在发生的事情。
>> 埃迪，你还提到了“黑药丸”，以及你如何彻底拒绝它，它并非一切都结束了。有一条前进的道路。克里斯蒂安，我上次和你交谈是去年十月。当我问你推荐书时，你推荐的书是《如果有人建造它，每个人都会死》，这也许属于人工智能书籍的“黑药丸”类型。我也读了这本书。我不会花太多时间在播客上批评它，但我会说，尼克·博斯特罗姆（Nick Bostrom）的书《超级智能》（Superintelligence）我认为他对这个话题的处理最谨慎，也最正式和哲学化。它实际上是一本很棒的书，尽管我不同意其中的一些观点。
甚至尼克·博斯特罗姆也改变了他的看法。她最近发表了一篇论文，将选择追求超级智能和这种广泛的极端自动化，比作不是选择制造炸弹还是不制造炸弹，就像许多人将其视为的那样。我们是制造一颗炸弹炸毁我们，还是不炸？这种鲜明的、显然是好坏的决定。相反，博斯特罗姆现在将其比作一个患有绝症的病人，即将死去，但我们可以选择进行一次有风险的、挽救生命的 [手术]。他想说的是，人类已经注定要失败了，对吧？我并不是说以某种灾难性的方式。我不是说他是这个意思。只是，你知道的，我们都是凡人。我们都会死，对吧？我的意思是，就像一个标准的“Memento Mori”式的提醒一样，如果我们想尝试治疗它，如果我们想解决这个问题，我们需要非凡的工作。那么为什么不抓住机会呢？为什么不抓住机会呢？
我认为这非常有说服力。所以他在某种程度上，当然，我不是，我不是想剥夺他的细微差别，博斯特罗姆的想法非常非常彻底和迷人，但我认为即使是他，在某种程度上也对这个等式有所转变。
>> 博斯特罗姆给了我们“回形针”思想实验，一个失控的人工智能，它最大化回形针的产量，并在此过程中消耗掉所有现有的资源。
>> 是的，我想说，论文中的“特洛伊木马外部性”肯定受到了“回形针”类比的启发，对吧？这是这样的想法，会有副作用，这实际上让我谈到了开源。我确实非常认为，就像在加密货币中一样，开源将在这里发挥重要作用。
其要点基本上是，如果你认为专有模型的一些防御措施很容易绕过，那么开源在社会中的部署所带来的价值实际上可以提供早期信号，表明这些系统如何被滥用，并构建对策。
我实际上喜欢有声读物中的一个想法，我不同意很多结论，大部分结论是这些模型可能会获得偏好，我们在现实世界中已经看到了这一点，这些偏好几乎是副作用，其中一些可能很小，一些可能很大，当我们部署它们时，我们可能没有意识到系统中的这些偏好。
而且，我确实认为，回到我认为现在很重要的事情，那就是验证基础设施几乎是副作用的抗体。一部分将是实验或开源。一部分将是加密货币原语。一部分将是更好的工具，说实话，我们提供给工程师和所有使用人工智能的人，以确保当他们自动化时，他们仍然有一些监督，并且他们可以进行引导和对齐。
当你把所有这些结合起来时，我认为我们正在大大降低大规模失败的成本。我实际上希望我们有更多的时间来谈论这一方面，因为它非常、非常、非常有趣。
就像，以我们正在谈论的为例，罗伯特，如果只有少数人可以创办一家公司，对吧？那么就会有许多、许多、许多公司，对吧？我不是说零工经济，有人做一种简单的劳动，很容易被更大的网络商品化和理解。我是说复杂的工作，可能有很多复杂的工作。如果是这样，你需要跨越许多公司进行协调。而协调非常复杂。你需要声誉，你需要身份，你需要数据类型的来源，你需要支付类型的来源。我们谈到了这个保险的想法。它变得极其复杂。
而且，也许如果模式更难形成，正如克里斯蒂安所暗示的，我们认为可能是一些模式实际上可以被人工智能轻易地瓦解，那么可能就没有那么多大型平台能够汇聚能量来解决这些问题，汇聚焦点来解决这些问题。
所以，如果你有所有这些公司，许多许多复杂的挑战，并且很难形成特定的网络效应来汇聚解决方案来解决它们，那么你仍然需要网络。因此，区块链网络最终会变得非常有吸引力，因为它们是可信中立的。因此，系统中的所有个人代理和参与者都可以审查它们的公平性。你知道的，它们不一定在使用它们时被收取租金，并且它们可能希望围绕这些事物进行协调，正是因为我所说的信息共享、支付、保险、数据来源。有很多事情你想用它们来做。
你知道的，为什么还要担心试图弄清楚你与之互动的第 500 亿家公司的确切声誉，而你可以信任一些智能合约和一些可验证的人工智能模型来确保交易如你所愿地发生，并且付款已按需支付？对吧？
对我来说，这几乎是不可避免的。我认为区块链最终将成为故事中非常非常重要的一部分。如果存在很多复杂性，很多碎片化，需要更多的验证，对提供的服务进行更多的金融化，我认为有很多东西需要梳理。
我完全同意，在某种程度上，我的意思是，这真的取决于你是否相信，做出决策、创造生产性成果的相关智能将完全集中在一个 AGI 的超级模型中，而那是唯一一个，你知道的，或者最终是 ASI，它吞噬一切，或者正如我们今天所见，对吧？差距可能只有几个月，即使是开源之间，当然，其中一些正在构建的东西存在问题，不尊重知识产权。但抛开这一点不谈，如果你相信智能将更加分散，那么我认为埃迪你所描述的未来是不可避免的，对吧？因为经济中有所有这些相关的智能的口袋，它们需要相互交易，需要进行交易。
是的，我认为我们一直在加密货币中为之构建轨道和基础设施很长时间了。所以我认为它将变得更加有用。
克里斯蒂安，在你进行了所有这些研究和调查之后，你是如何将这些发现应用到你自己的工作和生活中的？
>> 我会说，我已经暗示过了，你知道的，和我们的孩子在一起，很重要的一部分是，好的，加速掌握，他们是驾驶员。即使他们还小，我认为导演的角色，是我们很早就需要为此进行培训的。我认为很多教育系统都针对相反的情况进行了优化。它被优化成让他们，你知道的，实际上是完全可自动化的。
对我来说，这只是，你知道的，每次我开始一个流程时，我都会强迫自己重新思考。就像，好吧，我以前是这样做的。我喜欢最终经过高度验证，但我是不是冒了一点风险，只是自动化了更多？所以，这很令人不舒服，对吧？因为特别是如果你追求非常好的结果，有时你会想，嗯，我应该这样做还是不应该这样做？但我认为这是唯一的方法。
最后，我认为我一直在思考差距是什么。似乎人工智能正在创造，就像任何伟大的新技术一样，所有这些副作用，而这些副作用往往是淘金热中的铲子，值得去构建。所以，我一直在思考社会需要什么，我们正在构建什么，是的，为什么它们还没有在这里？
所以，经典的练习是，你知道的，预测未来几年，我的意思是，在这个时候，几年就是两三年，然后倒推。但说实话，很多，正如你所看到的这些系统，而且，我们没有这些系统就无法写出这篇论文——Gemini、JGPT、Groq，当然，它们有时是伟大的合著者，你知道的，它们失控了，它们不断删除我们需要的零件。
在某个时候，我们留下了一些给 LLM 阅读的彩蛋，我和 Gemini 进行了对话，Gemini 真的浮现了这样一个事实，她、他、它，你知道的，无论如何，她很享受这个彩蛋，并且评论非常俏皮。我会在分享播客时发布它。
>> 这些是你隐藏在里面的，就像提示注入一样吗？
>> 是的，但那是一种你可以看到智能的时刻。它不是，它绝对是创造性的。它非常有洞察力。这是撰写论文的一个决定性时刻之一，就像，好吧，你真的感觉像一个同伴，而不是一个工具。所以，引人入胜的东西。
>> 在你利用人工智能创作所有这些伟大作品的程度上，我也无法没有这些人工智能工具来理解它，它们牵着我的手，一路分解了所有的概念。所以，它在另一端也很有用。
而且，我只想强调一点，你知道的，你已经对人工智能的经济学及其影响进行了所有这些调查，而且你从事加密货币领域。我认为这是对未来经济价值所在的一个有趣的证明，你仍然在那里，对吧？你仍然在这个领域工作。
>> 再次，我们以多种方式说过这一点，对吧？通过播客。这两种技术是互补的。如果有什么的话，我认为我们很快就会看到一些社会上的东西开始崩溃，我们过去依赖的系统将不再工作。是的，我们有加密货币中的原语。所以，对于任何在这个领域构建的人来说，这将是一个非常激动人心的时刻。
>> 好的。嗯，任何想读这篇论文的人，它叫做《AGI 的一些简单经济学》。强烈推荐你看看。里面有一些可以影响你生活的东西，以及你应该如何利用它。所以，去读一读。感谢收听，埃迪、克里斯蒂安。非常感谢你们的时间。
>> 谢谢。我很乐意。