Transcription
非常清楚的是，主要的人工智能公司都已明确表示，他们的重点是朝着完全自动化迈进，他们正在构建工具，并且他们有明确的兴趣将这些工具发展到能够完全取代人类工人的程度。真正令人担忧的是，所谓的“超级明星企业”的发展——我们可以这样称呼它们——这些企业可能只有一百人或五百人，但却得到了数千个 AI 代理的增强和支持，这使得它们能够运作得像更大、更具可扩展性的公司一样，并最终开始攫取大部分经济财富。例如，如果世界上最富有的人的财富相当于非洲所有国家的 GDP 总和，那会是什么样子？我们已经看到了严重的动荡、不安甚至革命时期，当不平等加剧，经济收益分配不均时。如果我们看到财富过度集中在少数人手中，我们也可能会看到类似的结果。
>> 德里克，欢迎来到生命未来研究所播客。
>> 感谢您的邀请。
>> 好的。您能介绍一下自己吗？
>> 当然。我是德里克。我是 Windfall Trust 的主管，这是一个新成立的非营利组织，专注于应对变革性 AI 情景带来的 AI 经济颠覆。我还负责一个专家联盟，研究当通用人工智能（AGI）进入社会后，新的社会契约可能是什么样子。我们称之为 AGI 社会契约。我们定期发布关于这些主题的文章，并试图探索如何重塑社会契约，如何重塑政府和社会，使其惠及整个社会。
>> 是的。这正是我计划在这场谈话中与您讨论的内容，也就是在我们拥有 AGI 或 AGI 在社会中普及后，构建社会契约意味着什么。那么，我们就从这里开始，实际问题是什么？您认为未来十年世界将如何发展？
>> 是的，我认为我们正走在一条企业将获得越来越多权力的轨迹上。我认为，正如我们都看到的那样，可能有四到六家科技巨头将引领前沿人工智能的开发浪潮，而构建这些前沿系统需要大量的资本和投资。我相信，随着这些前沿人工智能系统的价值开始向经济的其他部分转移和扩散，我们可能会在特定行业看到许多大型参与者。例如，在交通运输领域有 Waymo，或者医疗保健公司的整合。这实际上意味着，您可能会看到每个行业只有三到四家主要公司，甚至可能只有一两家公司，主导曾经雇佣了数百万人（对吧？）的行业。例如，如果有了 Waymo 和另外两三家竞争对手，它们最终可能会在十年左右的时间里取代数百万人类司机。因此，我们在 AGI 社会契约中真正担忧的是人类劳动力的赋权问题。我们非常担心，如果我们失去了劳动力的市场议价能力，失去了他们争取更高工资的能力，失去了他们在我们经济发展方向上的发言权，那么我们就失去了我们当前社会运作方式中许多有益的方面，例如维持人类的自主权、维持人类的议价能力，以及从长远来看，真正努力改善人类的经济成果。对吧？因此，我们希望我们在未来十年左右采取的策略能够致力于赋权于人类，特别是赋权于人类劳动力，以便在大量价值从劳动力转向资本时，他们仍然能够发挥作用。
>> 是的。这种从劳动力到资本的权力转移，如果人工智能确实取代了工作或自动化了某些行业，这是可以预期的。为什么我们会预期这种情况，而不是人工智能成为工人的工具，使他们更具生产力，从而可能拥有更强的议价能力，正如我们在过去的一些行业中至少看到的那样？
>> 是的，这是一个很好的问题，坦白说，我认为没有办法知道。经济学家和这个领域的工作人员对未来会发生什么有很多争论。但我认为非常清楚的是，主要的人工智能公司都已明确表示，他们的重点是朝着完全自动化迈进，他们正在构建工具，并且他们有明确的兴趣将这些工具发展到能够完全取代人类工人的程度。即使这在这些公司所说的口号中不一定明确，但它隐藏在他们对 AGI 的追求之中，我个人认为在未来十年内没有具体或可靠的理由表明他们无法实现这一点。我认为这是非常非常有可能的，因此，至少我们应该努力为这种情况的发生做好准备。
>> 嗯。那么，如果说我们沿着默认轨迹前进，不采取任何干预措施，这种极端权力集中在少数几家公司手中的世界会是什么样子？
>> 是的，我认为最好的类比是比较几十年前的大公司和现在的公司，以及我们设想的未来大公司会是什么样子。几十年前，最大的公司有成千上万、数百万人在为它们工作。这需要大量的体力劳动。需要整个行业上下的大量人员才能维持这些公司的运作。比如通用汽车是一个很好的例子，或者铁路公司，或者医疗保健。这些现代公司，我们看到的是一万到十万人管理着最大的科技公司，对吧？现在，OpenAI 和 Anthropic 的估值非常高，但只有几千人。[鼻息声] 真正令人担忧的是，所谓的“超级明星企业”的发展——我们可以这样称呼它们——这些企业可能只有一百人或五百人，但却得到了数千个 AI 代理的增强和支持，这使得它们能够运作得像更大、更具可扩展性的公司一样。而这些超级明星企业最终可能会攫取大部分经济财富，或者大部分经济收益或生产力增长，并且随着时间的推移，它们可能会攫取越来越多现有的行业，同时几乎只将资源输送给极少数人。
>> 是的。为什么担心由人工智能驱动的不平等？为什么这与担心不平等不同，就像我们说的，政治上的左翼可能会经常担心不平等？为什么政治光谱的双方都应该担心这个问题？
>> 是的，我认为人工智能所涉及的趋势可能是现有趋势的加剧或加速。因此，我认为我们在思考人工智能经济领域时可能持有的许多立场，实际上只是将当前趋势加快，呈指数级增长，对吧？比如，如果世界上最富有的人的财富相当于非洲所有国家的 GDP 总和，那会是什么样子？我认为从政治角度来看，还没有真正形成一个强烈的倾向，无论是从哪一端。当然，保守派和自由派都可以抓住这一点。我认为两党和所有人都同意的是，我们确实希望为人类工人带来好的结果。例如，在美国，我们希望为工人和经济带来好的结果。这可能是一件可以超越政党的事情，当且仅当我们看到严重的劳动力赋权不足导致工资下降、消费下降、劳动力获得的收益份额减少，从而导致我们的经济不稳定，而这种不稳定并不一定符合我们希望人工智能带来的繁荣。
>> 是的。过去，我们看到财富不断增加，但至少在国家之间以及某些国家内部时期，不平等也在加剧。为什么当我的问题基本上是，如果每个人都富裕了，不平等是否还重要？我们设想一个后 AGI 社会，其中有如此多的财富，即使存在极端的不平等，最贫困的人或群体仍然比今天好。但这是您所设想的世界吗？如果是这样，不平等在这种情况下是否还重要？
>> 是的，我认为这是完全可能的。我不会说我一定是人工智能经济学的悲观主义者。我认为将会有巨大的繁荣和增长，特别是对于发展中国家来说，许多工具将比以往任何时候都更快地提供给它们。它们可能比在没有人工智能的范式中更快地获得程序员或医生或类似工具的帮助。我认为，特别是发展中国家面临的主要担忧是它们可能被排除在人工智能热潮之外的风险。在大多数发展中国家，它们不一定拥有强大的工具来直接参与人工智能的开发、创建和收益获取系统。数据中心、电力系统、研究人员，所有这些都集中在西方国家和中国。因此，我们正在寻找方法来确保人工智能的涓滴效应能够广泛传播。如果它们没有广泛传播，真正的担忧与社会动荡有关。我认为，当不平等加剧，经济收益分配不均时，我们已经看到了严重的动荡、不安甚至革命时期。如果我们看到财富过度集中在少数人手中，我们也可能会看到类似的结果，从而破坏政治权力，破坏民主，导致政治不稳定。
>> 嗯。是的。有道理。我想许多听众在听我们谈话时会想到一个问题：我们是否有足够的时间来解决这个问题？您正在谈论由于人工智能加速的趋势和日益加剧的不平等。考虑到人工智能的步伐，我们有时间进行干预吗？是的，我们有足够的时间吗？
>> 绝对。人工智能能力的飞速发展将带来许多挑战。我最关注的是社会能够多快做出反应，以及我们能够多快地做出正确的改变，以适应我们的政治体系、社会体系和经济体系。我真正的信念是，这些是我们自己选择的问题，不一定是人工智能带来的问题。如果我们都同意一条道路，我们可以今天就重塑税收，重塑福利体系，以保护人们免受人工智能的负面影响。只是我们还没有政治力量、方向或能量来支持这些事情，或者还没有意识到需要这样做。因此，我真正的信念是，如果我们看到人工智能带来突然的剧烈变化，比如相当于 COVID-19 大流行或过去几百年中一次重大的范式转变时刻，比如二战后布雷顿森林体系的出现。当社会发生重大变化时，政府、社会和政治体系的反应也会非常迅速。因此，如果很多事情发生得非常快，我们就有可能集体决定朝着正确的方向前进。这一点非常重要，我们需要做好准备，推动这一运动朝着最有利于社会的方向发展。
>> 是的。所以，这也是您的工作发挥作用的地方，这样我们就可以有一些计划或情景规划，以备政治意愿突然出现来实施其中一些想法。
>> 是的，这就是希望，我们正在尽力模拟不同的情景，以帮助人们理解这是一种可能性。
>> 是的。为什么这个对话还没有成为主流？至少从我们两人以及许多播客听众所处的圈子来看，人工智能似乎是一件大事，而且似乎发展得非常快。为什么关于人工智能将如何影响我们经济的讨论还没有成为主流？
>> 是的，这很有趣，一方面媒体一直在不间断地谈论这个想法。这是一个很好的媒体故事，也很吸引人。另一方面，真正具体地致力于应对这一领域的人却非常少。我认为这大概只有几百人，而当然，目前有近千万人从事人工智能能力的研究。我认为部分原因在于，人工智能未来学家、在硅谷工作的人以及主流思想家之间存在巨大的差距。我认为，在人工智能未来学家方面，他们非常确信人工智能能力将迅速腾飞，但他们缺乏经济学知识、政策知识或对社会变革如何发生的内在运作机制的背景了解。而在主流方面，他们在经济学、公共政策和组织变革方面拥有深厚的信誉，但他们还没有完全接受能力可能以这种速度腾飞的观点。因此，我认为这些群体几乎有点在各说各话。一方面，你们在谈论每年 10% 到 15% 的 GDP 增长，另一方面，许多传统经济学家更倾向于认为，这可能会使增长增加 0.1% 或 2%。因此，我认为我们的目标在很多方面就是将这两个阵营结合起来，展示他们如何都能看到正在发生的关键部分的洞察力，并允许结论共同渗透。对吧？我认为，当你让经济学家假设人工智能能力可能导致某些类型认知工作的完全自动化时，他们的结论就大不相同了，这几乎创造了一个空间，让他们可以与同行互动、合作并思考这些问题，这可能是朝着正确方向迈出的下一步。
>> 是的。您当然与这两类人都谈过，我也采访过这两类人。我发现，在我看来，对人工智能能力持乐观态度的人可以从经济学的知识库中学到很多东西，而经济学家同样可以从更认真地思考真正先进的人工智能的可能性中获益良多。您认为这两类人可以从对方那里学到什么？
>> 是的，我认为在人工智能未来学家方面，他们有很多东西可以学习，关于经济如何涓滴效应。如何缓慢扩散，简单地将一个非常强大的 AI 系统部署到许多结构和系统中的系统性结构障碍。很多这些东西都是为了人类而设计的，经过了数百年，它们存在的整个时间。而且存在很多流程来减缓速度并确保人类在循环中，即使它们没有明确设计成这样。因此，我认为这让我们从 100% 自动化的想法中退后了很多，并认识到将存在一个强大的 AI 代理和人类共同工作、重叠和协作的世界，坦白说，这将持续很长时间。当您说很长时间时，您指的是什么？
>> 是的，我的意思是每个人对轨迹都有不同的看法，但我的看法是，在人类可能被完全排除在主要决策职位之外之前，我们仍然有几十年的时间，对吧？我认为人工智能领域的对话是，这可能发生得非常非常快。我认为我看到了许多阻碍这种情况快速发生的结构性障碍。虽然我不会不同意长期来看存在普遍人类赋权不足的可能性。
>> 是的。我们当然应该说明，几十年听起来很长。但对于如此规模的社会转型来说，这并不长。基本上一切都改变了，我们经济运作的方式也改变了。
>> 绝对。是的。是的。我的一个信念是，在革命性变革正在非常非常迅速地发生的时刻，但在社会上，从日复一日来看，您可能感觉不到这一点，对吧？例如，互联网彻底改变了我们工作和社会互动的方式，以及我们如何看待技术，但它对 GDP 的影响几乎有十年到二十年的时间相对较小。在过去十年里，我们才真正开始看到互联网对整体 GDP 水平的影响开始超过 3% 左右。因此，尽管它彻底改变了我们对社会和工作的看法，但从结构性经济角度来看，这些事情在改变速度方面确实相当延迟。尽管人工智能的进展可能比互联网更快，但我我们已经看到了一些我们看到了语言模型的采用，ChatGPT 用户的数量，前沿公司的收入增长等等，我认为比 90 年代的互联网公司增长得更快。
>> 您认为它会比互联网发展得更快吗？
>> 是的，绝对。我认为当你回顾人类历史上的这些革命时，每一次都以指数级的数量级速度发生，对吧？农业革命花了 5000 到 10000 年，工业革命至少花了数十年，互联网革命可能在几十年内完成。而人工智能的出现将更快。但是的，它会快得多。但同样，人工智能技术在整个社会中的传播速度仍然可能比我们在旧金山或硅谷所能想象的要慢，对吧？我认为许多发展中国家才刚刚开始看到互联网开始渗透到他们的社会中，同样，在人工智能传播到大多数发展中国家之前，可能还需要很长一段时间。
>> 是的。经济学家应该从那些非常了解人工智能的人以及那些创造这项技术的人那里学到什么？
>> 是的，我当然能理解经济学家和现有政策制定者的感受，因为当你进入那些真正思考人工智能能力的人的圈子时，他们谈论的一些事情确实显得非常极端或难以置信，对吧？但我认为，目前有可能从传统的自动化转变，这种自动化已经存在了数千年，在这种自动化中，个体工作被自动化，人们从打字员转向知识工作者，或者从马车司机转向出租车司机。所有这些转变通常都会导致新行业中产生更多的工作，因为总是有更高级别或更复杂或更先进的角色供人们转向。我认为人工智能理论上有能力自动化几乎所有大量的认知劳动，并且随着它越来越好，它可以继续扩展到许多知识工作行业，并且在新的知识工作行业中直接与人类竞争。他们可能会适应成为人工智能协调员本身。因此，我认为存在工作岗位减少的风险，可能不是总工作岗位数量的减少，而是我们希望人类拥有的理想工作岗位总数的减少。我认为经济的许多目标一直是将人们引向知识工作、智力工作，以及利用教育的价值。而当我们考虑到人工智能能力的影响时，这就开始朝着相反的方向发展，几乎将人类推向更多的体力劳动。因此，当你开始考虑这些假设时，你进行经济建模的形状就会发生巨大的变化。我敢肯定，在理解这可能是什么样子以及这对我们的社会和经济意味着什么方面，还有很多工作要做。如果我们设想未来我们拥有能够完成所有知识工作的 AI，而人类则被推向更多体力劳动类型的工作。这些工作是否会因为经济正在发展，或者经济增长可能非常高，并且近乎完全自动化和完全自动化之间存在巨大差异而获得极高的报酬？所以我们可以想象一个情况，人类可能是在获取难以获得的训练数据，通过在世界各地移动。这也许不是最有趣的工作，但它可能获得极高的报酬，因为它是一个经济瓶颈。您会这样建模吗？
>> 是的，我认为这可能是可能的。当然存在一些世界，由于人工智能的出现，我们所有工作的生产力都会显著提高。我认为主要的担忧是，如果你对不同类型的工作存在大量竞争，这不可避免地会压低工资，对吧？因此，有价值或有意义的工作的总量开始在经济如何应对的问题中发挥作用。当然，最大的问题是，是否有更多有价值或有意义的工作，或者更少。当然，这完全是悬而未决的，我认为我们的立场可能是，在 AGI 社会契约的思考中，只是存在相当大的可能性是更少。我认为考虑到人工智能能力可能是什么样子，这是不可能排除的，在这些情况下，我们至少应该做好准备，以应对并保护人类的成果。
>> 是的。我们是否可能进入一种情况，即未来存在的工作与某种疯狂的奢侈品相关，比如拥有一个狗治疗师，或者成为一个在派对上营造良好气氛的专业派对主持人，之类的？您认为是否会有空间容纳我们甚至无法想象的工作，而这些工作甚至可能感觉不像工作，就像我目前的工作，您目前的工作，对于 200 年前的人来说可能不像工作一样？
>> 我其实很喜欢。我认为成为一个[笑声]狗治疗师或一个专业的派对主持人会非常有趣。[笑声]嗯，听起来真的很棒。我认为那些非常非常不容易被自动化所取代的工作，真的与人与人之间的联系有关。对吧？我认为，即使有了非常非常强大的人工智能，我们仍然有与其他人进行社交互动的需求和愿望。这是我们天性的一部分，通过依靠这一点，我们仍然会在我们的工作和生活中找到意义、目标和价值，但这可能发生在更以当地社区为导向的基础上，对吧？而不是为数百万英里外的人在线上完成任务，我们可能会在当地建立我们的社区。我认为我普遍担心的是，对于许多这些非常理想的工作，经济上可取的成果并不多。例如，成为一个同伴派对策划者薪水并不高。我实际上在活动行业工作过，并且经营了一个节日六年，我可以非常深刻地谈论您经营的活动越好，它的财务利润就越少。同样，对于艺术家、音乐家、作家、画家，那些真正追求我所认为能给他们带来很多意义并找到人生方向的道路的人，他们常常在经济上做出重大牺牲，因为经济激励措施并不在那里。而且并不一定清楚人工智能本身会改变这些经济激励措施。我认为我们不会对音乐有 10 倍或 100 倍的需求。我认为我们现在听音乐的量大约和我们想听的量一样，对吧？因此，这变得复杂且难以确切想象所有这些理想的工作将如何从这次人工智能热潮中产生，除非我们重塑我们对社会和政府政策的思考方式，以保护人类劳动力。
>> 嗯。是的。您实际上有一篇关于可能不易受自动化影响的工作类别的精彩文章。所以，也许我们可以列举一些例子。嗯，我不知道，比如意图沟通者，这是一个有趣的职位类别，也许您可以解释一下意图沟通者是什么。当然，我认为只要公司由人经营，就会有人在顶层，而为了让这些人能够非常有效地运作，他们将需要支持来深入理解或与强大的 AI 代理互动，即使在这些超级明星企业中，AI 代理也承担了大部分任务，在这些未来社会中。例如，为了构建一个好的软件产品，您仍然需要对软件产品的架构有深刻的理解，当它出现故障时需要做什么。您必须能够整合来自人类消费者、客户的反馈，并将其转化为一个结构良好、能够适当响应他们需求的产品。然后将所有这些信息传达给正在努力构建一个好产品并考虑高层战略的 CEO，对吧？因此，在这些方面，即使您可以看到软件开发中的许多繁重工作被自动化，例如通过测试，甚至通过编写代码，但只要公司是由人类驱动的，就仍然很清楚人类的作用是与外部各方互动，与客户互动，与公司内部的人互动，并基本上提供非常非常聪明的 AI 系统与公司内部人员之间的那种连接。
>> [鼻息声]
>> 是的，有点类似的角色是人际关系专家，也就是润滑人与人之间关系使事情顺利运作。未来人际关系专家会做什么？
>> 是的，我认为我看到两类非常不容易受到 AI 影响的工作与人际关系专家有关。例如，有许多需要在现场进行。坦白说，我只是不认为人们会在很长一段时间内强烈渴望 AI 保姆、小学老师、社工或体育教练。有很多现场互动。有很多眼神交流。有很多社交体验是有价值的，坦白说，我预计这些人的工资会上升，随着我们进入人工智能经济，这些人也会增加。然后有一些职位更易于虚拟化。例如，治疗师已经变得非常易于虚拟化。我们中的许多人现在都在线接受治疗，或者生活教练，或者旅行社。对于这些，我看到，例如，您肯定仍然会有人类治疗师，但他们将作为一种奢侈品或高端产品，对吧？他们必须严格优于与 ChatGPT 代理交谈，但从真实世界治疗师的生活经验中仍然可以获得价值。人们仍然会重视也许是眼神交流，或者知道有人真诚地支持他们的工作或目标，而这可能只是成为一种奢侈品。它可能比像 ChatGPT 治疗师这样的产品更贵。还有一类人是被法律允许做出决定的人。因此，决策仲裁者可能是律师，可能是医生。您如何看待这群人？他们似乎可能拥有法律保护他们的工作类别，这似乎非常不容易被自动化。也许也是因为律师正是能够制定关于什么可以自动化、什么不能自动化的法律的人。
>> 是的。我认为社会将会有很多阻力，不愿意将重大的决策权交给 AI 系统。我认为文化上这不符合我们的天性。我们现在在许多形式上都对人工智能有很大的负面抵触，即使只是广告和视听内容。因此，我相信我们将在法官、立法者、律师，当然还有政治家方面遇到很多阻力，即使您能证明这些人工智能律师或法官更公正或更公平，人类也很难完全信任这些代理。因此，我预计这坦白说将导致多年的，甚至几十年的阻力，在这种阻力中，政治体系和社会体系，例如认证律师的体系，将不会更新以允许人工智能律师。尽管人工智能肯定会极大地提升和提升那些在这些职位上工作的人的水平，而最好的律师、最好的法官和政治家肯定会利用人工智能来支持他们的工作流程，坦白说，可能从现在就开始了。
>> 是的。是的。好的。所以您提到人们不太可能或不愿意信任人工智能，而且对一些人来说，至少对一些人来说，本能上不喜欢人工智能产品，当他们看到人工智能生成的东西时。你知道，评论是“我不想看到这个，这是人工智能的垃圾，这是……”他们不喜欢它。当涉及到人工智能代码时，人们至少没有那么大的偏好。我看到程序员抱怨说，生成的代码很随意，而且它不起作用，而且很混乱等等。但最终消费者可能只关心他们使用的软件是否正常工作。而对于决策者来说，如果律师能给你一个问题的正确答案，或者如果法官能公正，人们似乎只想要产品，而可能不太关心它是如何生产的。所以，我的问题是，您认为决策者是属于我们对编码的反应类别，还是更属于我们对人工智能生成媒体的反应类别？
>> 是的，这是一个很好的问题。我认为这与我们对人工智能所扮演的角色有多么人性化或多么个人化有关，对吧？也许这与编码几乎是一个数学或物理过程有关。因此，它不一定需要是人类的。我们可以设想人工智能接管它。但艺术和创造力感觉非常人性化。感觉就像我们一直想要并认为是人类创造的东西，你知道，世界上其他物种可能无法参与。所以也许这就是恐惧或抵抗的来源。法官和律师是一个很好的例子，对吧？就像我当然希望在解释法律文本并说“你应该这样做”时得到正确的答案，对吧？我认为我自己很乐意把它交给律师。但我不知道我是否愿意把它交给法官，一个人工智能法官，决定我最终是否会入狱，或者我的钱最终如何分配。这似乎几乎是一种社会性的、人类的过程，我仍然希望另一个人能为我参与，即使我不知道那个人，或者我没有特别的理由比人工智能系统更信任那个人。当然，每个人都会有不同的看法，但这也许是我脑海中的区别。
>> 嗯。是的。这很有道理。实际上，我们还有艺术家这个类别。所以您提到了低产量工匠和真实创作者，这是艺术家可能避免自动化的两种方式。这通常是关于什么的？这是关于人类制造的东西赋予它价值，所以今天消费者可能会选择有机产品，未来他们可能会选择人类制造的产品吗？
>> 是的，我认为我们已经开始在社会中看到这些趋势了。例如，与在中国一家大型工厂里由某人制造的廉价产品相比，在 Etsy 上的人类工匠就具有一定的内在价值，对吧？我们赋予它一些价值。我们赋予我们知道谁画了这幅画的艺术品价值，或者我们知道它背后的故事。因此，在创造提供给人们的产品方面，仍然存在人际联系的差距。然后，这其中的第二件事是，有些东西坦白说产量太低了，特别是那些需要大量手工精确创造的东西，人工智能系统无法开发。我认为人工智能系统在未来几十年内不会开发小提琴，因为它的产量低。它是非常手工的，并且需要大量的细微差别，坦白说，这些细微差别从未在网上或互联网上编码过。因此，对于那些开发这些非常复杂或昂贵的人工智能系统的公司来说，将精力投入到这些方面似乎并不值得，直到很久很久以后。
>> 您认为与奢侈品和地位相关的产品类别在经济中所占的比例会增加吗？例如，奢侈品之所以有价值，是因为它们的产量有限。不是每个人都能拥有它们。也许它们是手工制作的。您认为这会在经济中扮演更大的角色吗？
>> 是的，我看到了。特别是如果我们面临我们一直在讨论的不平等加剧的风险，那么奢侈品将成为经济中越来越大的一部分，而这些地位象征可能是许多经济领域的重要驱动力，对吧？例如，拥有更多人支持您的生活方式可能是一个可能的方向，或者拥有更昂贵和具有象征意义的商品，例如牦牛。我确实认为情况并非如此，而且我们仍然在全球经济中有很大的空间可以摆脱贫困，摆脱经济不安全，摆脱稀缺。而我们作为社会应该做的事情的重点是，将尽可能多的资源用于将尽可能多的人从这些非常困难的条件下解脱出来。这样我们就可以几乎保证良好的生活方式、良好的住房、教育、医疗保健、经济安全，而这应该是社会的优先事项。
>> 是的。当有了后 AGI 经济后，您认为土地的价格会发生什么变化？
>> 是的。我认为经济学家工具箱中一个非常好的工具叫做巴尔斯价格效应，它基本上认识到那些供应有限的东西价格会上涨，而那些生产成本越来越便宜的东西价格会下降。因此，电视、消费品、手机、我们的技术已经得到了显著改善。结果是，坦白说，我们可以以 20 或 30 年前想象的价格的十分之一购买您在亚马逊或其他平台上想要的几乎任何东西。同时，我们的住房成本上涨了。我们的教育成本上涨了。我们的医疗保健成本上涨了。所有这些都有不同的原因，但一个主要的根本问题是它们的可用性受到限制。因此，当更多的财富被攫取或创造出来，而用于消费品的财富减少时，这些有限商品的成本不可避免地会上涨。而土地可能是最基本的有限商品。海滨只有那么多。在一个城市里，在理想地段离工作地点 5 分钟路程内，可取的土地只有那么多。因此，我估计土地的价值会保持得很好，您会继续看到住房变得负担不起等挑战的加速。最后，我认为在如何应对所有这些变化方面有一些非常有趣的解决方案，例如在税收方面。例如，我的一些同事，我的汇聚分析研究员，他们提出了一种土地价值税，这是一种具有韧性且结构良好的应对人工智能经济的方案，即如果您对土地征税，它将不可避免地从土地所有者、房东那里逐步攫取越来越多的资源，这可能有助于稳定经济重组时税收收入的重大变化。您有一个关于我们如何在不同时间尺度上应对这些挑战的路线图。也许我们可以谈谈我们如何在不同的时间尺度上做出回应。
>> 是的，我认为我一直在谈论的主流思想家和人工智能未来学家之间的许多辩论，实际上只是关于我们正在看的时间尺度以及我们需要多快地对这些事情做出反应。我认为主流经济学家、政策制定者，他们真的在关注短期波动，对吧？比如，如果我们短期内迅速失去大量工作会发生什么？如果大量投资发生在某些领域会发生什么，以及我们如何最好地捕捉它。
>> 只是插一句，您认为主流思想家，您认为他们将此视为经济趋势的中断，然后他们假设之后我们会恢复正常业务吗？所以他们假设这更像是一场金融危机，然后我们会回到更正常的经济吗？
>> 广义上说，他们认为这是现有趋势的加速，因此我会说，即使是传统经济学家也非常关注不平等问题，发展中国家的作用，以及如何使人工智能热潮具有包容性，但当然，他们对这些趋势的激进程度或规模的预期似乎与人工智能未来学家或硅谷方面的人截然不同，但我确实认为他们……
>> 是的。然后在人工智能未来学家和硅谷方面，我认为人们主要关注最终结果。因此，这可能取决于您的时间表，但他们主要关注当整个经济完全被人工智能占据时该怎么办？当你需要像全民基本收入这样的革命性结构时该怎么办？我认为答案可能是，所有这些都是同一路线图的不同部分。事实上，在最近几年，我们可能需要非常强有力的应对波动的措施，例如工资保险、失业救济金、呃，嗯。或者再培训工具，然后在长期来看，我认为我们开始需要这些非常具有变革性的社会结构，比如全民基本收入或全球红利，或者重塑公司和政府及其应对方式的角色，几乎是不可避免的。因此，我的建议是，与其争论其中哪些是必要的，不如认识到这些都是同一条道路的不同部分，我们只是在谈论通往一个成功和繁荣社会的历程中的不同步骤，我们应该集体地通过理解在此时哪些政策最必要来应对它。
>> 是的。您认为我们最终会做的事情与我们现在想象的会有根本不同吗？所以您认为例如我们现在正在谈论税收和再分配，也许以后是全民基本收入？您认为实际发生的事情是我们无法真正想象的，因为人工智能具有变革性，新的可能性突然出现，然后[笑声]我无法真正说出解决方案可能是什么，因为我问的是它是否会是我们意想不到的，但为了举例说明，我们可以想象我们现在正在对为我们工作的机器人征税，或者类似的东西。您认为这里的解决方案是某种我们目前没有考虑到的可能性之外的东西吗？
>> 是的，我相信我们现在可以设想的问题和解决方案与我们几十年后可以设想的问题和解决方案是相同的。人类，我们仍然会想要类似的东西。我们想要住房稳定。我们想要良好的教育。我们想要牢固的社区联系。我们都想要经济独立和安全，所以解决方案将倾向于相同的总体方向，而改变的将是某些想法的政治可接受性。例如，就像您所说的，机器人税的想法已经在韩国短暂探索过，并且被一些不同的经济学家和思想家触及过，但它肯定在政治上不太可接受，而且坦白说，当人工智能自然地渗透到我们社会的几乎每一个层面时，实施起来是相当不可行的。但关键在于，社会在哪里能够谈论其中一些解决方案，我看到有大量的合格且深思熟虑的工作人员，例如 Give Directly 在全民基本收入的想法上，或者经济安全项目在普遍保障的想法上。而能做的最好的事情就是继续为那些真正开始思考如果我们看到巨大的不平等和权力集中在少数资本参与者手中，社会在十年或二十年后应该是什么样子，这些项目提供更多的燃料。所以，如果您理解我的意思，您所说的就是我们有某种地图，除非人类的本性发生根本性变化，否则我们理解我们手头有什么工具。我们理解我们需要某种形式的税收和再分配来处理这个问题。是这样吗？
>> 是的，我认为我们拥有能够概念化和在一定程度上理解未来解决方案的工具。当然，能够测试它们，这是完全不同的故事。测试经济信念或概念传统上是最难想象的事情之一，因此它使它成为一个相对较软的科学，因为您无法进行随机对照试验。我会说我没有投入大量思考的主要方面，但人工智能政策领域中的其他人已经投入了大量思考，那就是失去对人工智能驱动的经济或政治系统的控制的想法，或者由人工智能系统拥有或控制的经济和政治系统，坦白说，对我来说这很难概念化，我自己还没有完全理解。因此，我认为有一些很好的资源，关于那些开始朝着这个方向思考的人。是的，对此感兴趣的听众可以滚动回之前的节目，收听我采访那些话题的节目。但您提到了找出什么有效或测试，比如测试全民基本收入或测试这些问题的解决方案的难度。为什么这么难，那又意味着什么？测试潜在解决方案的难度。
>> 是的，结构上我们确实有很多障碍，无法对我们想要提出的许多政策想法进行完全随机对照试验，尽管最大的障碍可能是政治支持和资本。经济试验成本数百万数百万美元。它们需要
来自政府的认同。它们要求像许多许多许多人的生活方式发生重大改变。而且他们感到困惑，因为人们并非在真空中运作或生活。他们在与许多可能未参与试验的人直接接触和互动的情境中运作。因此，实际上，我最近读到的最具影响力的文章之一是 Give Directly 的控制试验。我认为这发生在几年前，我相信是在肯尼亚或某个非洲国家，他们随机选择了一些村庄，在短时间内给予他们普遍基本收入，而另一些村庄则没有被选中，然后利用极其复杂的系统来识别结果的差异，同时考虑到在单一经济体中运作的村庄之间的相互作用。因此，有一些工具允许人们测试其中一些想法，但它们具有挑战性，需要大量资本和大量认同。>> 是的。我们可以考虑，例如，假设你参加了一项普遍基本收入试验，但你知道该试验有一个结束日期。那么你的行为方式就会与你得知普遍基本收入将是终生的行为方式不同。或者你知道试验之外还有一些人没有收到钱。也许你会倾向于在试验之外的家庭成员身上花费更多钱，而不是如果普遍基本收入实际上是普遍且无限期的。因此，你无法真正地，是的，我认为经济太复杂了，无法控制所有这些变量，这或许可以概括为一种方式。但是，如果我们无法进行大规模的测试，我们该如何，你知道的，你和这个领域的人们可能有的所有好主意，我们该如何测试这些想法？我们是否可以在模拟中做些什么，或者我们可以做些什么，我们有强烈的理论依据相信它可能会奏效？>> 是的，我认为这与医学测试类似。有一系列有用的试验阶梯，我知道普遍基本收入领域在这方面已经进行了近十年或二十年，他们正在逐步进行越来越大的试验，并试图收集足够的证据来证明下一级的合理性。我认为有时机会主义地，社会上的重大变化会导致一项政策在一段时间内被通过。一个很好的例子是儿童税收抵免，它已经被美国的组织倡导了十年或二十年，在 COVID 期间，在很短的一段时间内，大约一到两年，儿童税收抵免就在全美范围内普遍通过了，从中他们看到了许多家庭、许多有孩子的家庭的家庭贫困显著下降，以及许多其他有益的影响。当然，这在几年后被废除了，但从中你可以获得非常有力的证据表明这在某种程度上可能是有价值的，因此几乎是在等待合适的时机出现，同时也通过建立政治支持和投资于研究正确的想法来支持创造这些条件，以便当政策制定者或决策者能够被足够的证据影响并被推向正确的方向时，我认为这就是策略。>> 是的。你既关心国内不平等，也关心全球不平等，并且你提出了一些解决方案来应对这两种情况。也许你可以大致勾勒出你在国内和全球不平等方面的想法。>> 当然，我目前研究最多的就是人工智能驱动经济中的税收问题，以及它可能需要如何重组。我认为，如果经济从劳动价值转向资本价值，我们至少应该考虑如何重新设计我们的税收机制来应对这种情况，这一点似乎相对没有争议。而我目前正在进行的项目是关于累进所得税的想法。本质上，它旨在应对这样一种观点，即可能存在前所未有的从劳动收入到资本收入的转变，这可能会急剧改变整体税基，并且可能导致利润和经济增长的集中度大幅增加。因此，累进公司利润税将有助于应对这种情况，通过从大型公司而非小型个体经营商店那里获取更多价值。同时，也从资本而非劳动中获取更多相对利润。而目前我们的劳动税在 20% 到 40% 的数量级。对吗？它们已经是累进的，并且明显高于资本税，在美国，资本税大致在 20% 左右。因此，当大量价值从劳动转移到资本时，你如何弥补这 20% 的差距？累进公司所得税可以作为这方面的一个例子。>> 我猜这里的主要担忧是，如果你对公司征税，比如说你是美国，你实施了这项累进公司所得税。那么，也许这些公司现在就有动机去其他地方经营，去其他地方注册。那么，你如何看待在保持税收足够低以至于你的公司仍然在你国内运作，同时又能获得足够的税收收入来维持政府运作之间的平衡？>> 是的，这涉及到全球税收一个非常广泛且持久的问题，这本质上是过去 20 年来一直存在的避税港、逐底竞争和公司税收问题。当你听到像苹果公司大约十年前支付零公司利润税的故事时，情况已经有所改变。这与所有这些有关。我想说最有前景的结构和解决方案与经合组织有关，它提出了一个叫做“税基侵蚀和利润转移 2.0”（BEPS 2.0）的计划，该计划基本上允许在全球范围内进行税收协调，几乎所有参与跨国企业（如谷歌和苹果）税收的国家都参与其中。目前它有些停滞。但我确实认为，这似乎是最合理和最可行的解决方案，有助于避免我们在过去二十年里看到的逐底竞争。而且，坦率地说，这是由于技术导致我们不断变化的经济条件而产生的根本性问题。对吧？就像 20 年前，所有提供产品的公司也在一个国家内运营，对吧？就像如果你销售产品，你在那个国家有一个销售产品的基地，因此你可以对那个基地征税。如今，数字公司可以在比利时投放广告，但不在比利时设有基地。因此，比利时必须以某种方式来获取其公民花费金钱所产生的利润。因此，这基本上就是经合组织 BEPS 旨在应对的，即那种不平等以及跨国公司在全球税收机制中存在的差距。你之前提到我们也可以对土地征税，这似乎有一个内在的优势，你不能仅仅将你的太阳能发电场从内华达州转移到其他地方。那么，如果你对土地征税，这是否可能更有效，或者它是否避免了公司所得税的问题？>> 是的，我认为土地税将更具弹性，因为富人非常不愿意将他们的土地消费转移到别处。当然，他们会，但这要困难得多。同样，消费税也相当有弹性，能够抵御这种国际避税港、税收漏洞类型的工作，因为你在哪里消费商品在许多行业（并非所有行业，但许多行业）中相对稳定。>> 是的。据我所知，公司所得税或一般公司税以及所得税是对经济增长最不利的。这可能过于简化了。然而，土地税和消费税则更好或最有利于保持经济高增长。我们是否必须考虑这一点，你是否同意这种评估？>> 是的。是的。从几乎宏观的角度以及理论角度来看，它们在经济效率方面具有优势。我认为也许反对这一点的一个论点是，尽管相对效率较低，但我们确实看到了相当可观的、非零的公司税收和所得税，并且出于许多原因，社会拥有一定程度的公司税收是有效的，对吧？它允许一定程度的稳定或对大型公司的活动进行捕获。我认为大多数经济学家不会主张在公司或资本税收方面一无所有，即使它效率较低。因此，这真的只是一个权衡取舍的问题，对吧？如果你看到资本投资或公司利润的收益增加了 100 倍，你愿意增加多少公司税收或资本利得税来抵消这一点，对吧？为了稳定经济。这些都是非常复杂的问题。我当然不认为我有资格决定或倡导具体的数字，但需要从政府和国际层面考虑许多因素。另外，关于你担心少数公司变得非常大并基本上垄断经济的问题，公司税将非常适合解决这个问题，而且我想如果你只有土地和消费税来处理这个问题，这将无法真正解决经济活动集中在少数公司中的关键问题。>> 没错，而且这些大型公司攫取所有价值确实带来了重大的外部性。例如，如果它们拥有过多的经济权力，它们在政治或社会权力方面几乎可以与国家抗衡，对吧？你可以想象政府可能不希望这样。它们可能希望保持对存在于其边界内的公司的控制权。因此，即使超越经济效率，每种税收形式都有许多积极和消极的权衡取舍，这些都需要由政府中的合适人选进行深入思考。>> 是的。>> 是的。我们一直在谈论我们可能害怕的未来发展，或者我们预见到可能出错的事情等等。我认为我们应该在这里花一些时间，作为最后一个话题，谈谈未来可能的美好。对吧？如果我们处理得当，我们可以建立什么样的未来？那么，你能大致勾勒出你希望看到的经济未来的积极愿景吗？>> 当然。我认为，当我想到非常非常长远的未来时，我并不是指未来几年，甚至不是未来十年或二十年，我真正能看到人工智能的出现创造了大量的经济财富，取代了大量的经济劳动辛劳，这是一种经济保障与目标脱钩的模式。我认为，在很长一段时间里，在整个人类历史上，你的目标往往直接与经济保障交织在一起。在它们不一致的情况下，比如在创作音乐或艺术时，人们不得不优先考虑其中一个就会变得非常困难，对吧？所以我的梦想是我们能够提高马斯洛需求层次理论的底线，即普通人不再需要担心他们的生理需求，如住房、食物、住所或经济安全。他们不再需要担心他们的安全，而是可以更接近于他们自己决定的事情，在有空间和缺乏稀缺性的情况下，发现他们觉得最有吸引力的意义和目标。如果这看起来像我们现有的工作，我完全支持，这是我们每个人自己决定的。对。>> 你有一个很好的短语，你说我们可以拥有“自由耕种自己的花园”。我喜欢这个短语。它是一种对未来可能的美好愿景。我能理解你的意思。>> 是的。是的。而且我相信，失去我们在推动经济核心部分发展中的作用是可能的，而且在许多方面这可能是一种特权，因为作为人，我们仍然会在许多许多不同的方面遇到困难。我们仍然会努力寻找我们的目标，寻找我们的爱与归属感，寻找我们的自尊，抚养家庭，确定社会发展的正确方向，但也许这些是人类状况的基本要素，但也许经济保障不必是我们人类状况的基本要素，对吧？也许我们的身体安全和保障，我们的生理需求不必是我们必须担心的。因此，在我看来，如果我们能够朝着一个我们可以创造那种基本的安全水平的世界迈进，那可能会创造一个休息的时代，或者一个清晰的个人旅程方向的时代。>> 你说得对，我们可能会腾出时间来建造大教堂，这应该被广泛理解。你说的“大教堂”是什么意思？>> 是的，我认为大教堂可能不是字面意思，而是更多地指投资于对社区有意义和有目的的项目。对吧？我认为过去我们建造了美丽的教堂。我们创作了美丽的艺术。我想说，有些人正在为他人创造他们从中获得深刻意义和目的的体验和活动，比如节日，但可能没有经济财富。我认为发展学校、高等教育机构是许多人觉得非常有意义的事情，并且能够将资源投入到那些对社会有益，更重要的是对我们的当地社区、与我们一起生活和互动的人们有益的事情上。也许如果我们从这种需要为每个人确保经济安全的“老鼠赛跑”中解放出来，我们可以将更多的精力和资源投入到这些方面。>> 是的。对于对你的想法、我们在这里谈论的想法感兴趣的听众来说，他们应该去哪里寻找？他们应该搜索什么？他们应该联系谁？>> 当然，我们有一个名为 AGI Social Contract 的平台，网址是 agisocialcontract.org，我们在那里谈论和探索许多这些想法。在接下来的几年里，我们将继续发布关于这些结构可能是什么样子的文章，而且有很多优秀的思想家已经开始写关于这些未来的文章。丹尼尔·苏斯金（Daniel Suskin）就是其中之一。亚伦·巴斯塔尼（Aaron Bastani）在他的《全自动化奢侈共产主义》一文中写到了这些想法。有许多人对这些想法的看法不同，从我们未来五年需要做什么，到社会在 100 或 200 年后可能是什么样子。我相信，理解它们如何相互关联，并从它们各自那里汲取想法来试图创造一个通往正确方向的路线图，也许是我们今天能够做的最有影响力的工作之一。>> 太好了 [哼了一声] 德里克，谢谢你和我聊天。很高兴。>> 谢谢你的邀请。