Transcription
谁在推动这场技术革命？是世界上最富有的人。埃隆·马斯克是这么说的。人工智能和机器人将取代所有工作。>> 有人让电脑做某事。人工智能将像闪电一样接管这些工作。>> 如果没有工作，人类在大多数事情上都不再需要了。人们如何获得收入来养家糊口、获得医疗保健或支付房租？如果我们真的在未来几年看到快速的自动化，那么将有一整类白领工人，他们在某些方面变得多余。>> 有一整类人失业，并且因为他们过去所做的事情现在由机器完成而不太受重视。>> 这种情况很有可能发生在我们身上。它来得比大多数人意识到的要早。随着我们越来越多地自动化，我们的经济将是什么样子？我们正处于我们国家历史上最伟大的经济转型之中。专家们称之为第四次工业革命。如果我们回顾工业革命的开端，在卢德派和创业阶层之间曾有过一场激烈的辩论。自动化对工资是好是坏？经济学家一直认为自动化是好的，因为它最终使我们作为一个社会更加富裕。然而，从被自动化的个体工人的角度来看，问题非常明确，自动化对他们来说是坏的。在过去的 200 年里，经济学家一直认为，自动化对个人来说是痛苦的。但它使我们的经济能够以更少的投入生产更多。它使经济更有效率。这对工人也有好处，因为他们可以转向更具生产力、最终能带来更高收入的工作。>> 人工智能代理可以自动化美国一半以上的工作时间，包括体力劳动和认知劳动。如果数百万人失业，他们将如何养活自己？>> 在未来 5 年内，失业率可能飙升至 10% 至 20%。>> 因此，我们正在看到一个我们从未见过的失业水平的世界。工作自动化是公众最关心的问题之一。这些大型语言模型可以执行越来越多的智能任务。因此，经济学家们已经做出了自然的反应。嗯，我们需要一些自动化才能使我们的经济增长，并最终使工人受益。但关键问题是这次是否不同。250 年前，我们所处的社会，绝大多数人从事农业。今天，在美国这样的国家，只有不到 2% 的人口仍然从事农业。其余的都转向了复杂、更先进的工作。我们已经自动化了 250 年前人们从事的 98% 的任务，因为现在只有 2% 的工人能够生产出那种农业产出。在一个机器能做越来越多的事情的未来，我们是否真的想为劳动力保留一个角色，因为这是我们社会过去几百年来的组织方式，还是我们想找到一种更好的方式来分配收入，而无需我们都从事机器能做得比我们更好的事情？因此，自动化和工资之间存在一种驼峰形的关系。如果我们只有一点点自动化，那么更多的自动化就会帮助工人。当我们接近人类最后剩下的任务时，自动化就会伤害工人。几乎所有坐在这样的舞台上的人都会告诉你，你的孩子学习计算机科学至关重要。事实上，情况几乎完全相反。现在世界上每个人都是程序员。这就是人工智能的奇迹。这只是在科技行业和软件工程领域发生的事情。我认为我们必须认真对待这样一种可能性，即我们即将看到入门级白领工人面临真正的血洗。>> 每当我们自动化一些简单的事情，比如纺织，我们人类平均会将注意力集中在更复杂的事情上。因此，在经济学家一直告诉公众的叙事中，为了抵制卢德主义和抵制劳动力总量不变的谬论以及对劳动力市场如何运作的过度简化理解。经济学家们一直专注于创造新任务。在过去的 250 年里，这种描述一直非常准确。关键问题是我们能将这种推断到未来多远？>> 就像黑猩猩无法控制人类一样。它们无能为力。作为人类，我们可以去，例如，消灭所有黑猩猩。如果我们下定决心，我们可以说我们可以出去，我们可以消灭所有黑猩猩。大脑是一种生物机器。它们是目前最好的信息处理设备。但同时，它们的能力有限，只有 850 亿个神经元。我们无法真正超越这个限制。另一方面，如果你看看计算机，它们最终可以拥有比我们人类大脑更多的连接。纵观我们的历史，我们从未有过任何机器能接近我们人类大脑的复杂程度。但现在我们突然处于这个边缘。这可能会从根本上改变我们的经历。一旦这些机器明显超越了我们的认知和智力能力，我们人类就绝不可能发明或执行机器也无法执行的新任务。>> 任何不移动原子的事情，比如体力劳动，那些工作将被人工智能以非常快的速度淘汰，并且正在被淘汰。>> 复杂性的最终衡量标准是计算复杂性。我们需要执行多少计算才能产生某些结果？在过去的 15 年里，我们开发的算法每年都变得效率提高了两倍半。要执行相同的任务，我们需要执行更少的计算。在机器人领域，有很多事情对我们人类来说很容易做到，但对机器人来说仍然是一个挑战。折叠衣物是我们人类相对容易做到的事情，但对机器人来说，这在几年前几乎是不可能的。进化基本上赋予了我们大量的计算硬件，这些硬件特别适合执行那些特定的操作，比如行走、用手指操作东西。那个大脑不一定擅长进行数学运算。对于机器，我们可以根据我们的需要对它们进行优化。在 2010 年代，我们训练了视觉系统，并使其在执行视觉任务方面越来越高效。也许高级数学将被自动化，而不是舞蹈教练。我们会突然都成为舞蹈教练吗？我敢打赌可能不会。我们人类，我们花费多年时间积累人力资本以从事特定职业，成为经济学教授。这意味着在这些工作之间转换相当困难。如果我们能以非常低的成本完成大量事情，那么相对稀缺的劳动力将获得丰厚的回报。这就是过去 200 年的故事。我们拥有越来越多的机器，而且它们越来越便宜。而我们人类，我们是瓶颈。我们生产的一切最终都需要我们按下机器的按钮，或者执行更高级别的复杂推理。我们会发现，其他因素，如稀缺的矿产或能源，将成为非常重要的瓶颈。在过去的 200 年里，我们人类一直是稀缺因素。我们一直是瓶颈。我们的工资上涨了很多。但如果在一个由人工智能驱动的未来，能源成为瓶颈，那么这些稀缺因素将吞噬经济增长的很大一部分回报。这就是范所说的奇点。这可能在本十年晚些时候或下个十年早期发生，经济学家们一直认为提高我们的技术是我们成长的关键。如果事实证明人工智能可以做到所有这些事情，那么技术进步必将发生得更快，我们生物大脑不再是改进科学的瓶颈。我们可能会看到大量突破，对人工智能来说就像是触手可及的成果，超乎人类水平的人工智能，我们将看到技术进步的飞跃。现在，我会将此视为奇点吗？作为一名经济学家，总会有某种稀缺性。我们将看到一个飞跃。然后，在某个层面上，机器也可能遇到对它们来说很困难的问题。也许会有几波这样的情况。这实际上意味着什么？我们人类的世界并没有发生太大变化。一个快速的飞跃，改变地球的面貌，可能会是一个不协调的飞跃。两个独立的岛屿以非常不同的速度增长。我希望不会那么糟糕。如果许多人类变得贫困，因为机器可以以更低的成本完成他们的工作，人类的 GDP 实际上可能会下降。>> 危险在于它会让富者更富，穷者更穷。这不是人工智能的错。这是我们组织社会的方式。>> 自动化和资本积累之间的这场竞赛。如果我们自动化得非常快，并且取代了人类能做的事情，但我们实际上并没有积累机器，经济增长就不会太多，但劳动力已经可以贬值和被取代。现在，在生成式人工智能时代，我们需要服务器农场来运行语言模型。在早期，我们需要挖掘机来自动化建造新建筑。如果我们没有资本，那么自动化的好处就无法真正实现。如果我们开发了建造挖掘机的技术，我们实际上在全球各地使用了其中的一百台。你不会真正看到宏观经济生产力的影响。你需要数百万台挖掘机在全球各地工作，人类劳动才能从生产剩余任务中受益。这也许有点乌托邦。但如果我们设法分享这些机器的好处，那么我们实际上都会过得更好。工作将是可选的。你将拥有机器人加上人工智能，我们将拥有普遍的高收入。不仅仅是普遍基本收入，而是普遍高收入，意味着任何人都可以拥有他们想要的任何产品或服务。如果我们生活在一个我们设法分享技术进步收益的乌托邦世界里，每个人的消费都会增加，然后人类的 GDP 也会显著增长。如果人工智能自动化事情非常快，工资将面临很大的下行压力。我们要么有很多工人拿着非常低的工资。在最坏的情况下，这些工资低到我无法生存。如果机器能以 10 美元的价格剪裁和缝制衬衫，你为同一件衬衫只能赚 10 美元。两年后，你只能赚 5 美元，2.50 美元。写一篇论文，人类需要 2 小时。像 GPT 这样的系统只需要 20 秒，对人类来说不到一美元，对人类来说可能要花 50 多美元。好吧，从现在开始，我将写我的论文，我只能赚 50 美分。顺便说一句，明年将是 12 美分。你明白了。现在，有很多任务机器原则上可以执行，但它们太昂贵了。这就是为什么它们由人类来完成。以医生为例。人工智能执行了许多人类医生执行的任务，但有些人仍然会说，“好吧，但我还是想看人类医生。”如果人工智能变得非常显著地更好，越来越多的人会说，“好吧，但我的生命危在旦夕，我还是选择最好的系统。”成本压力也会存在。机器医生同样好，但成本只有人类医生的十分之一。人形机器人将比地球上最好的外科医生好 10 倍。所以，我们甚至不需要外科医生做手术。你不会想让外科医生做手术。>> 劳动力总量不变的谬论。劳动力总量是固定的，如果我们自动化其中一部分，那么那一部分的工作就会消失。原因当然是因为我们的经济是高度适应性的系统。当我们自动化某些东西时，如果仍然有只有人类才能做的事情，那么人类就会转向那里。如果人工智能越来越接近通用人工智能，可能就没什么可转向的了。所以有好有坏。如果这种情况真的发生，我们经济中最大的瓶颈，即劳动力的可用性，将突然解除，我们的经济可以增长得更快。普遍基本收入可以解决这个问题，可以说。但它在政治上仍然非常难以实施。我们将谈论大规模的转移支付。鉴于我们目前的政治环境，我们从未做过如此雄心勃勃的事情，比如普遍基本收入。我担心我们可能无法成功。但当然，替代方案更糟。在意义挑战方面，普遍基本收入根本无法解决。如果人们工作，但他们知道机器可以以更低的成本、更快的速度、更好的质量完成同样的工作，这是否仍然会给人们带来意义？如果我把自己置于这种情况，并且我知道机器可以写出更好的经济学论文，可以做出更好的讲座，可以教得比我好，我还会想这样做吗？老实说，我的直觉是不会，我不会。这种情况很有可能发生在我们身上。它来得比大多数人意识到的要早。那么，我们最好的选择是什么？我们最好的选择是有一个需要一些时间的过渡，给我们一点时间来制定解决方案。我提出了一个我称之为“种子普遍基本收入”的方案。尽快引入一笔小额普遍基本收入。每月 10 美元就可以让系统运行起来，因为建立基础设施需要大量时间。我们从未在国家层面做过这样的事情，而且它可以非常小，只要我们没有看到重大的干扰。如果经济的很大一部分受到干扰，普遍基本收入应该自动增加。为了支付普遍基本收入，我们需要我们的经济增长。增长的飞跃总是伴随着劳动力的流失。我们只需要在增长也将显著提高的情况下补偿工人。这将使其负担得起。如果你失业了，你会找到另一份同等的工作，在这些人工智能驱动的场景中很可能如此，因为，比如说，如果它自动化了所有认知劳动，而你曾经是一名认知工作者，那么每个人同时都在寻找某样东西，那么失业保险只能在有限的时间内取代你收入的一部分。传统上，那有限的时间是为了让你寻找新的东西，并可能进行一点再培训，这将非常有用。然而，如果这些通用人工智能场景中的一个成为现实，那么那个有限的时间最终将结束。政府资助的再培训计划的成功率在 0% 到 15% 之间。人们合法地谈论将煤矿工人重新培训为软件工程师。这毫无意义。我们之所以如此努力，是因为我们在寻找某种以再培训为导向的解决方案，而数字表明这根本行不通。我们目前经历的许多不平等将不得不突然消失。比如说，你是一名高薪软件工程师。如果你在正确的领域，你现在每年可以轻松赚到 50 万到 100 万。一旦这一切结束，就没有什么道德理由可以支付这位软件工程师的工资远远高于被其工作取代的出租车司机。我们将不得不接受将有大量的无用。我们将不得不接受我们都将同样无用。如果我们希望这些人工智能保持一致，那么其中一部分一致性就是照顾人类的基本物质需求，我们希望这些人类生活得好。这些公司运营的市场正变得越来越集中。什么是市场结构？市场结构基本上研究的是给定市场中有多少参与者以及参与者之间的竞争程度。我应该说，这不仅是人工智能系统本身的市场结构，也是计算和芯片生产的市场结构。而这正是我们目前看到最大垄断的地方。规模经济意味着随着产量的增加，单位生产成本会下降。在人工智能的背景下，我们面临着大规模的训练成本。然后，你运行人工智能系统的次数越多，你进行的推理就越多。你就可以将巨大的训练成本分摊到更多的输出令牌上。人们估计，最先进的系统很快就会达到数十亿美元的范围。只有极少数参与者能够负担得起。因此，这些参与者拥有一定的市场力量，可以让他们收取更高的价格。垂直整合是指一家公司在内部执行生产过程的多个步骤。目前人工智能价值链的样子是，你有像荷兰的 ASML 这样的公司，它们生产制造芯片的机器。然后你有台湾的台积电，它根据英伟达的规格生产芯片，而英伟达在芯片设计方面非常出色，然后你有 OpenAI 或 Anthropic，它们购买芯片。如果你进行整合，那么生产过程的多个步骤就不会各自收取自己的利润率。有一个参与者决定了整体上最有利的利润率是多少。主要缺点是这样的市场竞争会减少。想象一下英伟达拥有 OpenAI。那么这样的市场竞争就会少得多，其结果是竞争的所有好处都会少得多。我们不想要垄断者，因为他们会收取过高的价格，并且往往会减缓创新。从公司的角度来看，成为垄断者是件好事，因为你可以收取令人难以置信的利润率，而否则你永远无法收取。像英伟达这样的公司的利润表，他们每赚一美元收入，就有一半以上直接进入利润。但竞争确实非常激烈。所有顶级参与者都在争夺市场份额。市场目前竞争非常激烈。大型语言模型市场存在的一个风险是。人们会陷入某个参与者的锁定。然后该参与者将突然拥有更大的市场力量，并能够大幅提高价格。在某些方面，这些系统有趋向于自然垄断的趋势。它们太昂贵了。对我们社会来说，训练 100 个相互竞争的基础模型，每个模型成本十亿美元，这实际上是不理想的，因为这将是毫无必要的努力重复。考虑到这种高固定成本的成本结构，拥有相对较少的参与者实际上是社会可取的。话虽如此，我们通常仍然希望有一些竞争。拥有少量但多于一个的参与者进行竞争，同时又不过多重复努力，这可能是最理想的，监管机构和竞争管理机构应该密切关注的是垂直整合问题。如果你是垂直整合的，消费者或企业就很难切换。这意味着他们有更多的锁定。他们有更多的定价权。我们不希望少数科技公司吞并所有初创公司。以人工智能助手为例，它可以读取你的日历，给你建议或为你写电子邮件。如果初创公司能够像大公司通过其专有系统那样与你的日历和电子邮件集成，那么这种垂直整合的危险及其反竞争效应就会大大减轻。纵观我们的历史，每当有非常大的公司出现时，它们都可以将规则为自己所用。在人工智能的情况下，权力集中的风险比任何其他技术都更为显著，因为我们的智力使人类成为地球上最成功的物种。如果我们开发出比我们人类更智能的人工智能系统，它们所蕴含的权力也将大于人类的权力。这就是为什么人工智能对齐如此重要。一旦我们接近通用人工智能，在这种情况下最好的乌托邦式答案可能是拥有一种人工智能，它不是由相互竞争的公司创建的，而是由一个全面的登月项目推动的，该项目由该领域的领先国家或理想情况下由一组国家推动，类似于 CERN。创建我们共同投资的人工智能系统，以便我们可以体验一种在我们当前世界看来可能无法想象的繁荣水平。>> 我对未来非常乐观。我认为我们正朝着一个充满惊人富足的未来迈进。我们正处于历史上最有趣的时代。