Transcription
汽车确实导致了绝大多数马匹的消失。你知道，在这种情况下，我们就是马，你知道，汽车发明后，马匹都被送往了胶水厂。>> 我认为问题在于像人工智能这样的技术，你走到了边缘，然后你会想，“不，我想退后一步，但已经太晚了。”>> 我们应该避免的是超级智能。人工智能被设计用来取代人类的所有任务，并让我们不再控制我们的经济。如果我们不这样做，任其发展，会发生什么？你认为这是风暴的开始吗？你好，欢迎收听天气预报。不仅仅是汤姆·克鲁斯和布拉德·皮特面临失业的未来。在本周，一段令人信服地模仿两位巨星打斗的 AI 视频在网上疯传，并在好莱坞引起了恐慌。这里的失业率达到了五年来的最高点，年轻人是最大的输家。那么，这仅仅是增长乏力和企业成本上升的结果吗？还是我们已经看到了人工智能对招聘的影响？无论你是初级学生、白领工人还是好莱坞巨头。为了讨论这个问题，我请来了我们的经济记者 Helia Ibrahimi，以及 Control AI 的 Andrea Miotti，Control AI 是一个警告人工智能危险未来的宣传组织。嗯，Helia，首先，这些数字有多糟糕，是什么原因造成的？>> 今天英国的失业率达到了 5.2%，青年失业率，你说的是十年来的最高点，16.1%。其中大部分仍然是我们没有看到人工智能是原因的证据。最大的原因是初级职位通常由年轻人担任，而他们是企业成本上升时首当其冲的群体。当财政大臣提高税收、提高国民保险时，这些就是公司不招聘的职位。>> 但是，公司难道不需要初级员工吗？我的意思是，为什么他们决定不需要那么多人了？我这些天经常和城市里的高管们谈论这个问题，在银行和专业公司，因为是他们现在在做决定。他们不喜欢谈论工作消失。他们喜欢谈论任务消失和时间消失。但当然，这意味着工作。这意味着人。他们不知道的是，如果我们取消了我们的毕业生招聘，或者有毕业生招聘，十年后会发生什么？谁会成为一级的经理，谁会成为二十年后的董事会成员？如果你们所有的毕业生招聘，我认为我们仍然处于公司不太清楚如何应对我们正在经历的巨大变化的地步。>> 就人工智能的影响而言。你认为这是风暴的开始。>> 所以，我认为绝对是这样，你知道，很难确切地确定哪些工作是因为人工智能而失去的，哪些工作是因为商业成本增加而失去的。我们无法真正 pinpoint 这一点，但我们可以看到人工智能公司的意图是什么。他们对自己的目标非常明确。他们，你知道，OpenAI，Chad GPT 的制造商，XAI，埃隆·马斯克的公司 Anthropic 等等，他们的使命都是建立他们所谓的超级智能。这意味着人工智能比人更胜任，可以取代人完成所有任务，并最终超越人类。你知道，他们现在到了那个地步了吗？不。他们是否正在尽最大努力尽快到达那里？是的。而且你也有 Anthropic 的老板，对吧，Dario Mandi，他说办公室里一半的初级职位都将消失？一半。>> 确实。>> 就目前正在发生的事情而言，是什么导致了白领工作招聘的减少？嗯，不是酒吧和零售业，而是……>> 人工智能现在执行哪些职能，导致他们不需要招聘那么多毕业生。>> 所以，现在人工智能在软件开发方面取得了最大的进展。这是这些人工智能公司非常关注的一件大事。他们的想法是，如果我们自动化软件的开发，特别是如果我们自动化人工智能的开发，我们将能够越来越快地发展。>> 所以人工智能会自己构建自己。确实。这是他们明确的目标。这会发生得多快很难说。如果我们能准确预测未来，我们都会成为亿万富翁。但他们肯定在投资数十亿美元。>> 尽管上周市场上确实损失了数十亿美元，因为美国和英国的市场都对这些软件公司感到恐慌。人工智能会接管所有这些角色，让这些公司过时吗？但那仍然是未来的事情，我们稍后会再谈。但是，就目前而言，如果你去一家咨询公司、一家会计师事务所或一家律师事务所，任何你所知道的，那些聪明的毕业生传统上一直在追求的工作，我的意思是，你之前说过，那里也有减少。>> 是的。我的意思是，你们最近有普华永道。几年前，他们曾有招聘 10 万新员工的雄心，现在他们说他们不会实现这一承诺。事实上，去年他们关闭了全球约 5000 个职位。所以，你们有这些创造了大量工作的巨头公司，现在却说，嗯，我们不确定我们能否做到。我的意思是，你知道，在过去两三年里，当这个辩论如火如荼的时候。>> 嗯，所有人工智能的倡导者都在说，哦，看，你知道，人们多年来一直在警告互联网和电视等等，技术总是会给我们新的工具，它们会成为人们使用的工具，我们不应该恐慌。>> 在我们知道之前，它已经在这里了吗？我认为它已经开始了，而且，你知道，说实话，很多专家多年来一直在警告这一点。只是这还没有触及绝大多数立法者和绝大多数政府。但是，你知道，用一个历史类比来说，比如汽车确实导致了绝大多数马匹的消失。你知道，在这种情况下，我们就是马。你知道，汽车发明后，马匹都被送往了胶水厂。所以，这就是很多专家警告的，比如诺贝尔奖得主杰弗里·辛顿，甚至这些公司自己的首席执行官。这些公司经常有一种双重标准，他们的说客和公关人员说没什么好担心的，你知道，保持冷静，继续前进，让我们做我们想做的事情，不受监管，而他们自己的首席执行官却公开谈论白领的血洗，甚至人类的灭绝。>> 这如何蔓延到 Helia 刚才在今天的数字中提到的蓝领工作和服务业工作？我的意思是，你知道，我们都去过机场，看到那个有趣的轮式机器人，在餐厅里蹒跚而行。>> 嗯，而且不太清楚它做什么，但它似乎在拿托盘。>> 嗯，但之前拿托盘的应该是人吧。我的意思是，你知道，人们又在说，嗯，现在每个人都应该成为水管工，或者开一家酒吧，或者做一种人与人之间的工作。>> 但是，人工智能和机器人也能做一些事情吗？>> 是的。所以，我认为一件有趣的事情是，十年前，很多人，即使是在人工智能领域，也会说，嗯，显然人工智能在形式化方法、数学、编写代码方面会非常出色，但它在理解人类、理解情感和细微差别方面会遇到困难。然后我们开始有了 GPT3，然后是 GPT 的大爆发，现在是更先进的模型，模型非常清楚地非常善于理解细微差别。有些人正在与这些人工智能系统建立拟人化关系。你知道，他们不是坠入爱河。>> 他们爱上了这些人工智能系统。他们对这些人工智能系统着迷。这是社会中一个令人担忧的发展。但根本上，这意味着这些人工智能系统可以像人类一样说话。它们可以很容易地模仿人类。而且它们处理了很多细微差别，你知道，出乎所有人的意料，同时在数学和编写代码方面也非常出色。>> 我的意思是，如果你看看我们刚看到的中国制造的功夫机器人。>> 是的。>> 真是令人震惊。而且你看着。>> 现在他们会跳舞了。他们肯定会抢走我们的工作。>> 嗯，我的意思是，它们非常先进。而且，显然，这让你想到，不一定是酒吧工作或按摩师，但肯定会是士兵。>> 是的。我的意思是，看，我认为问题在于，人工智能的影响发生得如此之快，以至于人们不知道如何跟上它。但我想说的是，当我与生物技术领域的人交谈时，例如，人工智能在那里被广泛使用，或者在法律领域，人工智能正在被使用，并且被谈论为取代许多律师，仍然存在问题。这不是一个系统，你还没有说它现在就在这里吗？当然，当我与人交谈时，你有，你有一个在加州的世界会宣扬在三四年内就会出现超级智能。但我想在现实世界中，就将人工智能有效地整合到公司中而言，高端的东西正在起作用，我们还没有达到那个地步。>> 但是，如果你以法律为例，你知道，很多律师会告诉你，嗯，你知道，我们仍然需要人类律师。我们仍然需要人类的判断和客户的人类界面。所以，你知道，高级律师仍然会存在。>> 他们认为高级律师会从哪里来？>> 确实。对。>> 如果他们不再需要初级律师了。>> 确实。对。而且我认为，这就是我认为董事会正在努力解决的问题，关于当你与专业服务公司董事会级别的人交谈时，他们谈论的是，如果我们走这条路，十年后、二十年后会发生什么？我们需要有经理，但不会有任何经理了。当你问，如果我们走这条路，我们不已经在这里了吗？我认为我们已经走上这条路了。>> 我认为有一个选择。我认为总有一个选择，而人工智能行业的许多叙事都在告诉我们，我们没有选择，但我们几乎总是有，就像过去其他重大的技术发展一样，你知道，我们世界上大多数国家都没有核武器，而且我们有核不扩散，是有原因的。有一条不同的道路，每个国家都有核武器，我们就会处于一个非常不稳定的世界，我们甚至可能今天就不会在这里录制这个播客了。相反，我们选择了这条路，你知道，我们的领导人选择了一条限制核扩散的道路，自第二次世界大战以来，我们没有发生过核战争，这是一个了不起的成就。所以，我认为我们确实有一个选择。这并不意味着拒绝所有人工智能。我认为有很多人工智能系统是工具，可以帮助人们更好地完成工作。>> 它们非常有益。你知道，像 DeepMind 的 AlphaFold，它就基于英国。它只训练了关于蛋白质的数据，它解决了关于蛋白质的科学问题。这非常有帮助。>> 我们应该避免的是超级智能。人工智能被设计用来取代人类的所有任务，并让我们不再控制我们的经济。>> 如果我们不这样做，会发生什么？如果我们任其发展，或者任由那些让它失控的国家发展，因为世界不会就此达成一致。>> 所以，不幸的是，你知道，顶尖的人工智能专家，诺贝尔奖得主，甚至人工智能公司的首席执行官都警告说，超级智能可能导致人类灭绝。这不仅仅是失业。这是地球上人类物种的真正终结。而这些警告非常严重。如果我们继续走这条路，这就是许多顶尖专家警告的。我认为我们有一个选择不这样做。我们在历史上已经为危险技术做出了正确的选择。我们可以再次做到。>> 但是，我们如何让人们认真对待呢？因为机器人的崛起几十年来一直是好莱坞的主题。>> 嗯，我们只是觉得，嗯，那是虚构的。>> 我认为现在情况正在改变。所以我看到，嗯，我认为就在昨天或前天，休·格兰特一直在谈论人工智能和人类灭绝的威胁，这正在触及数百万人。像杰弗里·辛顿这样的诺贝尔奖得主，你知道，诺贝尔奖得主，伟大的英国科学家。>> 人工智能的教父之一。>> 是的，人工智能的教父一直在警告。>> 但是他们怎么说会发生呢？>> 是的。所以，你知道，很难确切地预测方式，但发展方向很清楚。如果我们拥有完全自主、比我们聪明得多、融入经济或经济关键部分的人工智能系统，我们就基本上放弃了对我们世界和我们经济的控制，我们的权力。>> 总会有一个关闭按钮，不是吗？>> 目前，我们没有这些关闭按钮。我认为如果我们有它们，情况会好得多。但即使是现在，我们也没有。你知道，即使其中一家大公司的首席执行官很担心，并认为，“我们需要关闭它。这太过了。”他有什么呢？他桌子上没有一个大红按钮，他需要打电话给他的工程师，他的工程师会打电话给数据中心，他们会说，“抱歉，关闭它太贵了。我们需要花上几天时间才能重新启动。下次再试。”就像，我们甚至没有基础设施来真正做出这个选择。我相信我们应该建立它。我相信我们应该保留选择和选择权，如果它走得太远，就可以将其关闭。但我们现在还没有，是时候建立了。>> 我的意思是，你真的在说你的组织是为了警告人类灭绝而存在的吗？>> 是的。绝对。是的。这也是顶尖的人工智能专家、诺贝尔奖得主，甚至一些公司首席执行官都在警告的。这是一个严肃的警告。>> 你认为当局有多认真对待它？>> 我认为目前大多数政府实际上几乎什么都没做。但主要是因为他们不知道。所以，>> 他们认为你疯了吗？>> 到目前为止。>> 当你发出这些警告时。>> 嗯，实际上，不。所以，到目前为止，他们大多数人从未听说过，首先，人工智能公司正在构建什么。他们不仅仅是在构建聊天机器人，而是在构建超级智能。再次，什么时候会到来是另一个问题，但那是发展方向。其次，根据我们的经验，我们在 2024 年底开始向该国的立法者介绍这个问题，人工智能的现状，它的发展方向，专家们在警告什么。现在，一年后，在进行了 150 多次简报后，英国有 100 多名跨党派的立法者认识到人工智能带来的灭绝风险，并呼吁进行具有约束力的监管。你能解释一下，要求 ChatGPT 写一段代码和超级智能有什么区别吗？>> 是的。所以，你现在使用的 ChatGPT 大部分是在你的终端，它是一个聊天机器人。它是一个界面，你可以提问并得到一些答案。OpenAI 在他们自己的服务器上的 ChatGPT 已经强大得多，可以做更多的事情。其中许多模型尚未向公众发布。它可以编写代码。它可以直接使用计算机。我们最近在 Mold Book 和 Mold Bot 事件中看到了这一点。>> 它可以访问你从计算机上可以使用的绝大多数工具，而在现代经济中，这有很多工具。而且他们正在不断改进。超级智能将是这样的，但比拥有计算机访问权限、物理基础设施访问权限以及比我们现在拥有的系统强大得多的智能。>> Helia，我的意思是，你听起来很担心吗？>> 我确实。>> 在商业界。>> 我认为，我我认为，奇怪的是，你最常在科技行业内听到这一点。你知道，你是绝对正确的，那些人。>> 因为他们是唯一知道什么可能的人。>> 人们，嗯，他们也在那个泡沫里。所以，有一个非常奇怪的事情是，科技公司的首席执行官们不知道在现实社会中实施技术需要多长时间，而这种延迟有时可能是我们的救星，但许多科技行业内的人都在警告这类问题。就是当，嗯，你知道，我认为你遇到的问题是，例如，欧洲在收到一封信说人工智能和超级智能以及灭绝可能存在重大问题后，对监管非常严格，我认为这是那封大信的一部分，但欧洲在技术方面已经落后了。美国完全短视地专注于不落后于中国，中国在经济中整合人工智能和机器人比美国更有效。所以，由于这些竞争力量，嗯，我认为你有一些公司老板会说，是的，我看到了风险。我看到了问题。我看到了危险，但我们不能放慢速度。我们不能停下来。我认为这就是危险所在，但这并不意味着英国的人不能做出不同的决定。顺便说一句，还有很多更实际的问题将影响就业市场和经济，并且是灭绝之前产生的问题。嗯，那么，财政部需要考虑哪些挑战，以及在就业市场将发生巨大变化的背景下，它需要开始以不同方式思考的政策杠杆是什么？>> 嗯，我的意思是，你需要有一些非常大胆的想法。我认为你也有这个问题，别忘了克里斯，在英国，除了所有这些之外，我们还有一个不活跃的问题。英国有近百万人没有接受教育或培训，我们不确切知道原因。>> 但是，我们难道不能开始以不同的方式思考这个问题吗？在一个你和你都在说的，很多人将不活跃的世界里，我们现在有数百万人在经济上不活跃，而这在未来只会是现实。我的意思是，如果你是埃隆·马斯克，你会说，“嗯，别担心，克里斯，因为没有人需要养老金。没有人需要工作，因为人工智能带来的好处，因为所有这些公司现在都会变得更有效率，他们已经摆脱了马匹，我们都将生活在其中。”我的意思是，值得拥有一个，你知道，一个新新政，试图让年轻人从事可能在五到十年内不复存在的基本工作吗？>> 我认为你称之为呼吁是正确的。但你遇到的问题是，当年轻人职业生涯早期没有找到工作时，通常意味着他们会在整个职业生涯中遭受职业问题，并且他们的收入会受到限制。现在，是的，好吧，如果工作世界完全改变并革命化，以一种你无法预料的方式，是的，你必须抛弃一切。但我不知道是否有人，你知道，在财政部正在考虑普遍基本收入。你知道，这不在讨论之列。我们甚至无法解决我们能看到的问题，更不用说我们还没有看到的问题了。>> 人工智能的狂热者是如何论证这将带来经济快速增长的？所以，有些人只是说，我们应该构建这些人工智能系统，让它们接管经济，并希望它们对我们仁慈。你知道，这听起来可能像个笑话，但他们确实，你知道，很难给出这个场景的最佳情况。其他人通常会说，所有技术都会摧毁一些旧的活动并创造新的活动。嗯，我认为对于大多数人来说，尤其是大多数首席执行官和高管，而说客则少得多，他们很诚实地承认他们试图取代大多数人完成大多数任务，然后他们会象征性地让步说，也许会有普遍基本收入。所以，你知道，所有工作都会消失，但人们会由政府或他们控制的公司支付。>> 或者我们只是生活在一个后稀缺社会，人工智能正在做一切，并且控制着整个经济，而我们有点像动物园里的动物，但我们得到了很好的喂养，因为人工智能让我们活下去。这就是埃隆·马斯克现在所说的。他不再谈论人类控制。他谈论的是，一旦人工智能足够聪明，我们就会成为人工智能的宠物，让我们希望我们不会被新的人工智能统治者淘汰。我认为根本上，所有这些愿景对大多数人类来说都非常没有吸引力。>> 嗯，你知道，我不想成为宠物。我认为你们也不想成为人工智能的宠物。>> 嗯，但我确实认为我们可以选择另一条道路。这并不意味着停止所有人工智能，但这意味着要划清界限，比如超级智能，这对我们的物种和社会来说非常非常糟糕。>> 你认为会如何发生？我的意思是，这是否需要一个类似联合国的全球协议，人们同意不做某些事情？>> 我认为这应该在国家和国际层面同时进行。我认为，>> 但是它没有奏效，对吧？因为我们有一个人工智能峰会，本应有一个由 Joshua Benjio 领导的团队，他们将约束人们的手，并确保他们以道德的方式工作，但它没有奏效，由于所有这些竞争力量，它没有被证明有效。我认为坦率地说，政府甚至没有尝试过，你知道，Joshua Benjio 的团队只是在写报告，你知道，我相信你知道 Joshua 在写这份报告方面做了英勇的工作，但他没有干预的权力。我认为，例如，英国的工党政府在其宣言中承诺将监管最强大的人工智能系统，但到目前为止，我们还没有看到任何行动。我们看到了这个承诺被放弃了。>> 因为恐惧，基本上，再次，英国经济疲软。因此，我们必须尽一切努力吸引增长，即使这意味着与魔鬼做交易。>> 这是一笔与魔鬼的交易，但我认为有一条狭窄的道路，我们可以成功，我们可以保留大多数帮助我们工作的 AI 系统，但我们要明确拒绝超级智能。>> 只是关于监管的想法，你如何在没有人工智能的情况下监管人工智能？我认为我们在监管许多技术方面做得很好，或者说相当好。你知道，最终，嗯，我的意思是，可以说监管机构在电视方面遇到了麻烦，而电视是一项 20 世纪的技术。我的意思是，当涉及到社交媒体和人工智能时，就不用说了，他们什么都没做。我认为确实机构变得更糟了，你知道，而且已经有了一种衰败。但我也认为这是因为人们参与其中的程度越来越低，而且很多政府已经变得，坦率地说，在他们的立场上更加胆怯。你知道，政府存在的目的是设定游戏规则，以便公司可以在市场中竞争。而且一直都是这样。你知道，当烟草公司被发现烟草会导致癌症时，政府就介入了。你知道，当然，烟草公司拼命反抗。他们进行了宣传活动来诽谤揭露这一点的科学家，尽管他们对此心知肚明。但政府为他们的公民挺身而出，制定了游戏规则。这并不意味着这些公司已经消失了。你知道，我们仍然有估值相当不错的烟草公司。它们只是被迫从对大多数人来说明显危险的东西转向不那么危险、更有益的经济活动。这可以再次做到。但是，听着，你知道，如果我们说，你知道，在超级智能和人类灭绝发生之前，我认为科技老板们提出的论点是，有一大批我们不知道的工作将会出现。我们现在还看不到它们，因为它们将属于下一代。所以，你有一代人将被困住，因为基本上他们将在工作消失的时候出现，而我们还没有意识到下一个可能性是什么，但将会有新的机会，基于对人工智能在解决问题、修复事物、创造一个稀缺性不那么成问题的世界方面的更乐观的解读。>> 我的意思是，这是传教士所说的，但你有什么依据重复它？你说会有未来。>> 也许这是人类的失败，我们无法完全想象，你知道，办公室里的坏人试图让世界完全瓦解和崩溃。我不相信我们会走到边缘而不回头。我认为问题在于像人工智能这样的技术，你走到了边缘，然后你想，“不，我想退后一步。”但已经太晚了，因为技术，我认为超级智能就是这样，程序不再从人那里获取线索。>> 安德烈亚，你认为我们仍然渴望人际接触、人类思想和人类情感的事实呢？你知道，我们可以发布一个由人工智能创建的播客。你知道，现在技术已经存在了，而不是费力地占用赫莉娅 40 分钟的时间，当她试图写一篇关于新闻的文章时。我们可以直接让 Google Notebook 为我们制作一个关于这个问题的播客，以及这些立场。我有时出于好奇也会这样做，说，给我做一个关于这个问题的播客，而且说实话，它很糟糕。你知道，你无法忍受听它，因为它没有人情味。我的意思是，难道就没有一些希望，仅仅因为它可以，并不意味着我们想要它吗？>> 我认为这就是我们需要做出选择的地方。>> 你知道，这同样适用于好莱坞、戏剧和电视等等。但我认为，我们绝对有一个选择，就像我们可以选择偏爱人际接触和人际互动一样，但我们必须积极地做出这个选择，如果我们不采取立场，那么实际上越来越多的内容现在是人工智能生成的。>> 是的，这个播客不是，而且，我很高兴能在这里作为一个真正的人，而不是一个人工智能，但现在有越来越多的人工智能生成的内容。>> 而且我们可能会进入一个混合世界，相当多的电影是人工智能制作的。>> 是的。但可能仍然有真实的东西。>> 但就你说的，有些东西很糟糕。你知道，我更担心的是，我的意思是，杰夫·辛顿列出的将受到人工智能影响的职业中，新闻业位居榜首。但我更担心的是，如果我的 Netflix 人工智能程序能制作出我想看的电影。它甚至无法预测我喜欢的电影。所以，我觉得就像你说的，不仅仅是我们渴望。>> 也许是因为你丈夫在你不在的时候总是去看你真正不喜欢的东西。>> 这总是可能的。人类的错误总是在中心。但想象一下，你知道，我认为不仅仅是我们渴望人际接触。我认为目前我只能谈论我听到的。目前人工智能程序很有用，它们有助于完成一些任务。但最大的风险是我听到的，它们正在犯错误，而且它们被采用得太快了。所以，人们在非常重要的领域假设这个程序将提供正确的结果和正确的研究。我最近从一位律师和一位科学家那里听到了这一点。而这对我来说是 2026 年更大的担忧。>> 你们两个最后的想法。如果你是一个 20 岁的年轻人，想弄清楚自己要做什么，你应该考虑什么？安德烈亚。>> 这是一个很好的问题。我认为，我认为最终，我没有好的工作建议。但有一条建议是，如果你觉得这令人担忧，如果你觉得事情的发展令人担忧，请联系，你知道，你的立法者，联系你的政客。他们不咬人，他们是真正的人，就像你一样，现在。>> 他们关心你关心的事情。而且他们越来越多地听到选民对人工智能和人工智能的发展方向感到担忧，包括对超级智能的警告，他们希望他们采取行动。如果他们从足够多的人那里听到这一点，事情就会改变。我认为我们不应该虚无主义。我认为我们可以在走到边缘之前退后一步。>> 我认为，你知道，如果我 20 岁，我会怎么做？我的意思是，肯定不会成为一名软件工程师。但我想告诉你的是，今天我们正在做一个关于失业的报道，我们去了伯明翰，我们正在和这些年轻女性交谈，她们失业了，并且真的很难重返就业市场。其中一位是一位非常出色的女性，完全充满活力，她的老板说她是一股自然的力量。她已经被晋升了。她失业了四年。而这种失业周期不仅仅是挑战她的心理健康，因为她负担不起做她想做的一切，而且她还在为账单发愁。它打击了她的自信。所以，这个我们不再需要提升自己智力，也不需要工作，也不需要有目标的世界。我很难相信这一点，因为我不知道人们在那个世界里如何才能快乐。非常感谢你们两位。这就是天气预报，祝你们有个愉快的夜晚。再见。