Transcription
你好，我是Rose。 [音乐] >> 我是Angie。 >> 这是《与机器人共度人生》，一个探讨与我们的机器人伙伴共度人生重要且及时的问题的节目。 [音乐] 有时，我们也会深入探讨AI的未来对我们意味着什么。 [音乐] >> 有时我们意见一致，有时我们争论不休，但我们总是深入探讨。 >> 到目前为止，AI的发展与过去的情况有着非常相似之处。它不会成为一个独立的物种，让所有人失业。加拿大航空曾有一个客服聊天机器人编造了虚假的退款政策。如果存在1%的故障率，但那会导致公司承担法律责任。它不是一个好的自动化工具。人们正在关注这些能力基准。它们并没有告诉你所有必需的下游创新。我们的目标是将基准从完全无用变为大部分无用。 [音乐] 那些说最担心超级智能的人，恰恰是那些最有可能带来超级智能威胁的AI方法的支持者。 [音乐] 通过将如此多的任务委托给AI，我们几乎确保了当事情出错时，它们将是灾难性的。 [音乐] 我们应该选择确保人类始终参与其中。欢迎观众收看我们关于AI与工作以及AI对我们与工作关系影响的系列第三季的第四集，也是最后一集。今天我们有一位非常特别的嘉宾与我们一起录制，来自普林斯顿大学的Arvin Nion，他是一位计算机科学教授，也是信息技术政策中心的负责人。Arvin研究数字技术，特别是AI的社会影响。你可能看过他的书《AI的江湖骗术》，我这里正好有。但无论如何，Arvin将谈论AI对工作的影响。从计算机科学的角度来看，这是一个非常有趣的话题，关于基准以及AI是否真的会夺走我们所有的工作。有趣的是，Arvin有着相当乐观的视角，而不是怀疑的视角，我觉得这非常吸引人，也令人耳目一新。也许我们的观众也会这么觉得，Angie，因为我们有时…… [叹气和喘息] 怀疑， [笑声] >> 有点怀疑。我会说Arvin有现实的视角，我真的很欣赏这一点。 >> 我认为这是一个很好的说法。是的，同意。 >> 我认为是的，他在这个领域有很多专业知识，而且他是一位计算机科学家，这让他拥有独特的视角。非常脚踏实地。所以我们非常期待他的到来，观众朋友们，我们也非常期待向大家展示这一集，并为这个系列画上圆满的句号。话不多说，让我们开始吧。Arvin，欢迎来到我们关于AI与工作的第三季《与机器人共度人生》系列。非常感谢您今天来到我们节目。 >> 嗨Rose和Angie，谢谢你们的邀请。很高兴来到这里。我是一名计算机科学家。我是普林斯顿大学的教授。我也活跃于科技政策领域。我是我们这里一个致力于科技政策的中心的负责人。我的工作有两种类型。一种是实证工作。例如，我领导着一个研究团队，特别是与正在攻读博士学位的Sai Kapoor合作，研究AI代理。它们能做什么，不能做什么？我们如何严格地评估这些说法，而不是仅仅接受公司的说法。我工作的另一部分可能更广为人知，是将我的计算机科学专业知识与一点社会科学、经济学等相结合，来思考我们应该如何看待……嗯，中期AI。我不太担心眼前的、今天的危害，尽管我也研究过这个问题。我过去的书《AI的江湖骗术》探讨了我们如何看待AI今天的 H影响。但我最近的工作，特别是那篇题为《AI作为普通技术》的文章，探讨了我们应该如何看待未来大约20年。 >> 那么，让我们更深入地探讨一下“AI作为普通技术”的视角。这与新闻、媒体和公众讨论中正在发生的AI炒作和AI的末日论有些对比。你对AI对工作和社会的影响的设想是独特的，你称之为“AI作为普通技术”。那么，这个视角是什么？它对工作场所和人们与工作的关系有什么普遍的建议？ >> 有几个关键点支撑着我们的视角。第一，我们不是AI能力否认者。嗯，能力一直在快速发展。这些工具已经很有用了。事实上，在过去两到三年里，我们自己一直在为我们的编码软件工程目的使用AI代理工具。我想说我们是这些工具的热情早期采用者。对吧？所以我想先说清楚。这不是出于怀疑的态度。我们怀疑的是那些炒作这些工具的人以及害怕这些工具的人的说法，即将会迅速发展到超级智能，然后人类劳动力将变得多余，但同时AI可能会接管世界等等。我们详细介绍了这些说法是如何源于对AI工作方式的误解，以及可能更重要的是对人类智能的误解，以及为什么我们不认为从我们现在看到的改进到超人智能有一条直线。我认为很多这些说法核心上存在定义上的不连贯。人们并没有真正清楚地说明AI要达到超级智能意味着什么。如果大家感兴趣，我很乐意详细说明。但从这些角度出发，我们说的是，我们承认这是一种非常强大且通用的技术，它不会很快变得超人。那么，我们需要仔细考虑它将产生什么样的影响，因为它将产生非常强大的影响，好的和坏的都有，它不会成为一个独立的物种，让所有人失业。然后，我们回顾过去的通用技术，如电力、工业革命。我们认为，至少到目前为止，AI的发展与过去的情况有着非常相似之处。所以，对我们来说非常重要的一点是，即使能力在快速提高，那些也不会立即转化为大规模的劳动力影响，因为在我们看来，障碍存在于能力提高的下游。如果你愿意的话，模型的智能需要转化为有用的产品。人们需要学会使用这些产品。在许多情况下，企业需要重组以利用这些新的可能性。所以，这些是我们的一些核心原则，我们认为这将非常强大，但影响将会在大约20年的时间里逐渐展开，而且我们在模型本身下游有很多能动性来塑造这种影响将如何展开。我很好奇你如何看待这种AI使用推广与你的观点之间的差异，即它不一定处于取代人们工作的阶段，因为你在企业界看到很多高管告诉他们的员工使用AI，然后似乎存在一点替代。那么，在你看来，这其中的平衡是什么？我很好奇。是的，我认为存在很多误解，我认为双方都有。那些推动将AI融入一切的人，以及那些对AI非常怀疑的人。所以，让我来解释一下我认为的一些误解。到目前为止，这些生成式AI和AI代理工具特别有用，作为一种协作方式，作为一种帮助人们提高工作效率的方式。它们在完全自动化方面远非有效，原因有很多。一个大问题是可靠性。我们的团队在能力可靠性差距方面做了很多研究。即使AI能做到99%的时间都做得很好，你知道，如果你要在法律、医学甚至客户服务等高风险领域推出一些东西，我们已经看到，即使有1%的故障率，但那会导致公司承担法律责任，它就不是一个好的自动化工具，对吧？所以，有一个著名的案例，加拿大航空有一个客户服务聊天机器人编造了一个虚假的退款政策，这个案件一直上诉到加拿大最高法院，法院实际上迫使公司遵守了这个不存在的政策。这就是我所说的，它是一个辅助人类工人的好工具，而不是一个取代人们的好工具。所以，这是第一个误解。第二个误解是直接从已证明的能力跳到这些工具现在将有效地取代或辅助人们的任何事情。我认为情况并非如此。下游还有很多工作要做。一个很好的例子是软件工程，这些模型在过去几年里确实非常强大。但我们在过去几个月里看到像Anthropic的Claude Code这样的工具真正腾飞。发生这种情况的原因并非能力本身。而是围绕模型能力的所有所谓的脚手架工作，将这些原始模型变成有效的助手和协作者。我认为这部分解释了你看到的那些人之间的许多紧张关系，他们可能看着某个基准分数，或者可能作为高管短暂地尝试了几分钟，然后决定这是每个工人应该使用的东西，但然后工人开始使用它。它并没有真正融入他们的工作流程，他们注意到能力和产品有用性之间的所有缺失差距，对吧？所以，我认为这是导致这个问题两极分化的另一个原因。最后我要说的是，在过去三年左右的时间里，我们一直很清楚，我们在我们的书《AI的江湖骗术》中也说过这一点，这本书主要围绕AI的局限性，但我们非常清楚，这是一种对每个知识工作者都有用的工具。我认为说它没用的人，在我看来，他们没有尝试足够长的时间。所以，对于任何目的，就我而言是AI编码，但在很多其他方面，需要几个月的使用才能完全将其整合到你的工作流程中。也许你是一个不想付出这种努力的人。你有其他优先事项，完全没问题，或者你有其他原则性的理由避免使用AI工具。但除非你付出了这种努力来尝试使这些工具对你有用，否则我认为说“我尝试过这些工具，我认为它们没用”是不可信的。 >> 我觉得这很有道理。你谈了很多关于采用速度可能很慢，而且可能比许多人谈论的要慢得多。我认为你使用了“扩散”这个词，而且可能比人们预期的要长得多。我想知道这在多大程度上与人们使用的基准不一定是他们认为的那样有关，以及如果他们得到正确的基准，这是否会改变扩散的速度。你对此有什么看法？ >> 是的，当然。所以，让我们来谈谈为什么扩散往往如此缓慢。很多人会说AI是一种强大的通用技术。它可以用于几乎任何任务，这就是为什么扩散速度前所未有地快。我查阅了那些数据。关于有多少人使用ChatGPT或其他AI工具的一些说法，它们并没有区分一个人每周使用它写一首打油诗，或者实际上在工作中以一种增强他们正在做的事情的方式使用它。所以，在我看来，至少到目前为止，这项技术的扩散速度与过去的技术一样缓慢，再次需要几十年的时间，而且我认为，特别是对于通用技术，我们应该期望扩散速度缓慢，因为支持性基础设施根本不存在。我最喜欢的历史案例研究是由经济史学家Paul A. David进行的，他研究了当电力首次出现时。它对工厂的生产力有什么影响？最初，人们期望可以用电力取代这些大型蒸汽锅炉，这将使一切都便宜得多，效率更高，等等。事实并非如此。结果发现它并没有真正带来成本效益。他们花了一段时间才弄清楚，真正利用电力的不是直接取代蒸汽。当我想到这一点时，我想到了所有那些说AI将直接取代人类工人的AI人士。在我看来，这是绝对错误的做法。结果是，正确的方法是利用电力更便携的事实。所以你可以随时随地移动和发电。所以，而不是一个大型蒸汽锅炉产生动力，然后通过机械方式传输到工厂的每个地方，你可以将发电移到需要的地方。这导致了装配线的逻辑。这导致将任务分解成更小的组成部分。这导致工人接受不同的培训，改变了工人与公司之间的关系。所有这些适应性加起来需要大约40年的时间。是的，我认为AI也应该如此。而且，正如你所说，Angie，正是如此。人们正在关注这些能力基准。它们并没有告诉你所有必需的下游创新，对吧？所以，所以相当于不得不改变整个工厂的布局。没有为此设立基准。而且我认为很难为此建立基准。所以，我们有一个大团队在研究基准。我们正在努力建立更好的基准，但我们的目标是将基准从完全无用变为大部分无用。我认为基准能告诉你的东西非常有限。很多最有用的信息将是定性的，你知道，早期采用者的经验，痛点是什么，如何解决这些痛点等等。 >> 我认为有一件事可能对我们的观众有帮助，那就是在基准方面，比如图灵测试，并将其分解，因为我认为这会与我们的观众相当熟悉。你能谈谈图灵测试以及它在某种意义上是如何成为基准测试的失败，并且在某种程度上已经被淘汰了？我很想听听你的看法。 >> 是的。 >> 是的，当然。所以，我们可以通过基准来尝试各种事情。我们可以尝试的一件事是AI是否对某些特定任务有用，比如软件工程，我们有像Sweep Bench这样的基准来衡量这一点。图灵测试是非常不同的。那里的目标不是看它是否对某个特定目的有用。正如观众可能已经知道的，图灵测试的目的是AI能否在文本聊天的一端欺骗一个人，让他认为它是人类。图灵有一个复杂的设置，涉及性别，但这通常与测试试图解决的问题关系不大。所以，你知道，一个模型能否假装成人类，基本上就是这个测试的内容。它并没有试图解决任何特定任务或一系列任务的有用性，对吧？在大多数情况下，我们不希望以一种假装成人类的方式部署AI。但图灵的根本假设是，很难探测AI的内部。所以我们可以使用AI的行为作为其内部的代理。他认为，很多人也认为，你知道，当我上大学学习AI时，我完全相信这一点，通过图灵测试的唯一方法是流畅地像人类一样行事，模拟人类行为，就是拥有整套潜在的认知能力。如果一个模型在某个时候没有人类等同的潜在认知能力，它就会出问题，就会被揭穿。但正如我们所知，对于大型语言模型来说，情况通常并非如此。我们可以查看这些模型内部，我们知道它们“思考”的方式与人类非常不同，它们对世界的理解在很多方面甚至不如一个蹒跚学步的孩子。而在其他方面，它们拥有令人印象深刻的能力，即所谓的“锯齿状前沿”。尽管拥有这种“锯齿状前沿”，尽管没有满足图灵测试的精神，对吧？拥有普遍等同的能力，它们却能非常令人信服地模仿人类。所以，这是我认为图灵测试失宠的一个原因。>> Avan，当我研究“AI作为普通技术”的概念时，我觉得很有趣，你把它描述为三件事：描述、预测和处方。所以，关于我们应该如何看待AI以及我们应该如何与AI互动。我觉得这很有趣，就像一种规范性的讨论。我想知道你正在采取哪些方法来帮助人们从不同的角度看待这个问题，以及你正在采取哪些步骤来充当变革的推动者或变革理论。我想知道你是否能分享一些想法。>> 是的，当然。现在AI讨论中一个讽刺的事情是，那些说最担心超级智能的人，恰恰是那些推动政策或AI方法的人，在我们看来，这些方法最有可能带来超级智能的威胁。所以，对于那些认为超级智能是生存威胁的人来说，它太危险了，必须严格控制。因此，例如，拥有公开可用的、非常强大的AI模型，任何人都可以下载和使用，这是危险的。所以，他们想象一个只有一两家公司在构建这种超级强大的AI的世界。因为他们认为AI非常强大，不仅在技术方面，在这方面它无疑非常强大，而且在判断和其他更难定义的人类认知能力方面，因为他们认为AI是或很快将是超级智能的。他们希望将尽可能多的决策委托给AI本身。希望基本上是“建立上帝”，但以一种“对齐”的方式，这样这个机器上帝就会以我们的最佳利益行事。我们认为这是一种极其脆弱的方法。他们不会阻止这项技术广泛传播，因为构建它的知识非常非常广泛。工程师在AI公司之间非常自由地流动。世界上大约有……我想说，大约有10万人拥有构建高度强大AI所需的技能。有些人会说，哦，这需要巨大的数据中心，所以如果我们能控制数据中心，如果政府能控制数据中心，我们就能阻止这项技术传播。但如果你看看训练和运行AI模型的成本呈指数级下降的曲线，我认为这种方法也不会为你争取太多时间。也许几年，但如果你的整个方法就是将这些生存威胁推迟几年，我认为这不是一个非常稳固的方法。但也许最重要的是，通过将如此多的任务委托给AI，我们几乎确保了当事情出错时，它们将是灾难性的。所以我们的方法非常不同。我想回到我之前说的，虽然在像国际象棋这样的狭窄技术领域，超级智能般的能力是可能的，这涉及到大量的计算。我们不认为超级智能的判断真的存在，因为人类的判断，你知道，在复杂的任务中，根本不是由我们的生物学瓶颈决定的。它只是受到我们能从世界上获取多少信息来做出更好判断的限制。所以，人类存在的任何瓶颈同样也存在于AI身上。我们可以，也应该保持这种状态。如果我们抛开AI在说服等方面将是超级智能的担忧，然后开始将其视为一种非常非常强大的工具，但仍然是一种导致非常不同方法的工具。我认为AI能力的扩散是好的，因为无论AI带来什么风险，我们承认有很多风险。我们最近看到了聊天机器人对心理健康的危害。我们可以确保这些威胁随着这项技术被更广泛地传播而逐渐出现，而不是因为一家公司控制着AI，开发了大量新东西，然后决定发布或不发布，并将这些能力保留在内部，而突然之间它们就被释放到世界上。所以，这是我们的处方方法与许多关于超级智能的写作截然不同的一个方面。所以你提到AI不能自主地执行这些任务，它需要人类的判断参与，而你说的其中一件事是，你预测人类工作中越来越多的工作将与AI控制有关。那么，从定义上来说，这意味着什么？什么是AI控制？然后，从规范的角度来说，它意味着什么？它对更广泛的工作意味着什么？ >> 当然。是的。所以，我认为整个观点本质上是规范性的。并不是AI不能执行这些面向判断的任务。我们可以让AI“横冲直撞”，承担越来越多的自主权。我认为我们会很快发现，故障是不可预测的，当它们发生时，成本非常高。所以，从规范上来说，我们说这不是我们应该走向的世界，对吧？我们应该选择确保人类始终参与其中。再次，在软件工程等领域，我认为这是许多其他领域将是什么样子的早期指标，许多AI辅助的软件工程已经看起来是这样的，工程师所做的主要是为了控制AI，因为你今天就可以选择简单地……你知道，输入你想要构建的应用程序，然后继续构建它。我的意思是，它将是……你知道，糟糕的代码，但它会起作用。但问题是，在某个时候它可能会失败，当它失败时，没有人理解代码，没有人知道如何修复它。现在软件工程是一个非常成熟的行业，人们非常清楚这种故障情况可能发生，即使在AI出现之前，我们也曾有过很多关于构建过于复杂以至于没有人能理解的东西的经验，然后……你知道，公司会彻底失败，因为没有人能理解他们自己的代码库了。所以软件工程是一个行业，我们有很多关于认识到当你构建一个你无法控制的东西时的先验经验。这甚至在AI出现之前，人们创建了大型代码库，但缺乏必要的纪律和结构来真正控制那个代码库，你就会达到一个没有人能理解代码的地步，你也无法修复代码中的错误，公司就会因为陷入这种情况而失败。所以从这个角度来看……你知道，这个行业至少在这个狭窄的意义上是相当厌恶风险的。还有一种“快速行动，打破常规”的文化。我不想对此轻描淡写。但就认识到软件工程师理解他们代码的必要性而言，我所看到的绝大多数AI使用，我不是在谈论……你知道，车库里的两个人发布了一些东西，对吧？拥有需要保护的业务的公司，在我看来，他们做得相当不负责任。他们不是让AI自由发展。他们让工程师去弄清楚模型需要做什么，审查代码，创建和运行测试，以及各种其他质量控制措施。所以我看到这一方向的进步在继续，即大部分实际的代码输入，如果你愿意的话，将由AI完成，而人类的工作是软件工程中所有其他部分。结果是，软件工程中还有很多其他工作要做，而不是输入代码，即使你几乎完全将代码编写委托给大型语言模型，结果是那甚至不是软件工程师花费时间的大部分。我们总是在潜意识里知道这一点，但现在我们真的直接认识到了这一点。我认为是的，在许多不同的领域都会是类似的。>> 正如你之前所说，你知道，认为AI不会对工作场所产生影响的人会很愚蠢。就像你说的，你知道，可能需要几个月的时间才能真正接触到它，但你可以看到一些实际的好处。然而，我们在过去几集节目中讨论过的一个问题是，那些被明确鼓励在工作场所使用它的人，你知道，会遇到一些真正的障碍，无论是个人还是组织，我们显然不是在谈论设计和构建这些平台的四大公司，而是在谈论你一般规模的企业。那么，你看到了哪些障碍，你将如何建议个人和中型组织克服这些障碍，以便他们能够获得这些好处？>> 是的，当然。所以，我想说一个很大的障碍是，如果你将一项任务委托给AI，你如何验证其正确性？你知道，我对此没有一般的处方。这真的取决于某人的工作是什么，他们用它来做什么任务。但我可以反思我自己的实践。我试图找到符合以下两种模式之一的任务。第一，它要么风险很低，你知道，AI偶尔出错也没关系。也许在我原型化一段软件时，之后会有一个单独的评估软件是否是你想要构建的流程，然后继续实际构建软件。所以，在这个过程中有很多阶段，你对错误有很高的容忍度。所以这是第一种。另一种是，如果有一些理由可以预期验证比你自己完成整个事情要快。同样，这取决于任务是什么，但在许多情况下，你可以检查输出样本，或者你可以有自动化的方式让另一个AI系统检查输出。你知道，它不是以一种非常通用的方式工作的，但这取决于任务是什么。所以，这是某人可能遇到的第一个障碍。你如何确保系统输出的可靠性？也许第二个障碍是，你如何以一种方式委托任务，使得在需要判断的方面，在任何任务中需要做出的许多规范性决策方面，你如何确保你作为人类始终处于控制之中？人与AI之间适当的分工是什么？而对公司里的人来说，拥有某种实践社区，如果你愿意的话，某种信息交流的方式会非常有益。什么有效，什么效果不佳。第三个障碍是人们可能遇到的，那就是对技能退化的担忧。所以，如果你让AI处理太多的工作量，你知道，六个月后，你是否仍然拥有足够的技能来自己做事，甚至能够监督AI的输出？在我自己的工作中，我试图做的是，我利用使用AI带来的生产力提高节省的大量时间，实际上用这些时间来改进和磨练我自己的技能，你知道，甚至达到比我以前认为可能的高得上的技能水平。我构建了许多自己的AI工具来帮助我更有效地学习。实际上，构建一个完整的间隔重复学习系统只需要一两个小时的工作。例如，AI编码工具在这方面非常强大。所以，我发现我实际上花了很多时间学习，但这需要有意识的努力来改变你的工作流程，以便为学习腾出时间。你总是会面临下一个任务的截止日期。而且，如果我们没有……首先，我们应该从雇主那里获得自由……你知道，能够腾出这些时间，而且我们也应该有自律来腾出这些时间。如果我们不这样做，我确实同意技能退化将是一个大威胁。然后，也许是第四个也是最后一个，人们经常遇到的另一个障碍是AI工具与他们现有的数据存储、工作流程……你知道，他们使用的其他工具之间的集成。而且，你知道，这正在变得更好。现在还处于非常早期。而这正是我们所说的能力正在快速提高，但产品不一定能同样快速地改进。所以，你可以是早期采用者，也可以是中期或后期采用者。所以，你可以给这些工具一些时间来改进，或者你可以尝试自己进行高度有能力的模型与你使用的现有工具和数据集之间的集成。>> 是的，这对于个人工人以及他们可能遇到的障碍来说非常有道理。更广泛地说，你是否知道哪些特定行业或类型的工作可能受AI影响最大？考虑一下短期，也考虑中期和长期。>> 是的，当然。所以，我们已经谈到了软件。我认为第二个最大的行业是媒体。所以，我指的是视频制作和编辑、营销、各种其他方面，甚至在一定程度上是新闻媒体。所以，我可以告诉你我自己的经验，我现在开始制作YouTube视频，我非常震惊AI能够如此好地完成……你知道，一个平庸但对我来说足够好的视频编辑和制作者的工作。再次，这是一个产品正在迅速改进的领域。除了能力之外，它实际上取决于社区是否认为AI的使用是合适的，对吧？所以，AI今天可以用于……你知道，例如，生成新闻文章。但是，你知道，记者对什么是新闻工作的核心、诚信和准确性等有严格的规范。是的，有很多例子违反了这些规范，但仍然有一些核心的职业规范。我认为总的来说，这些规范仍然存在。所以，我认为这些将是决定扩散速度的因素。我认为能力实际上将继续相当快地发展。让我再举一个例子。法律也是一个大行业。我们很快就会有一篇关于AI与法律的论文发表，我们确实认为在许多方面能力已经具备，或者将很快得到改善。然而，我们担心的是，AI在法律领域的采用将导致一场不断升级的军备竞赛，即更多的AI使用，更多的文件在原告和被告之间产生，因为这正是过去信息技术采用浪潮中所发生的事情。所以，最大的事情是电子证据开示。证据开示是诉讼的一个阶段，在此期间会产生文件，以确定在审判中哪些与证据相关。当这个过程从纸质（缓慢且繁琐，你甚至无法进行Ctrl+F，对吧）转变为电子格式时，人们认为，哦，这将大大节省时间。但实际发生的是，产生的文件数量增加了三个数量级，以至于在证据开示中花费的总人力时间实际上大幅增加，而不是减少。而且有充分的理由预期你可能会遇到与AI类似的情况，顺便说一句，这从……你知道，工作保障的角度来看很棒。我们的结论是，AI不会取代律师。如果说有什么的话，它只会导致更多的工作。但是……也有理由让我们担心。你知道，这对我们意味着什么，如果我们担心我们已经是一个非常诉讼化的社会？我们是不是在……你知道，只是在为律师创造“制造工作”，他们收取……你知道，每小时1500美元的费用，而如果军备竞赛得到缓和，这些工作本可以更有效地完成。所以，我们一次又一次地遇到的问题是规范性问题，而不是技术性问题。Arvin，就这一点而言，你谈到了技能退化，我们谈到了军备竞赛的风险，但我们能否听到你对AI可能如何影响工人的其他担忧，就他们在工作场所拥有AI的体验而言？我在这里想到的是收入份额的减少，也许是培训管道的中断，甚至可能影响他们对工作的体验，就工作满意度而言。但是，也许让你担心的事情，我很想听听你的看法。>> 是的，当然。工作满意度是一个巨大的问题。这真的会因工作而异，AI是自动化有趣的部分还是无聊的部分。以我的经验来看，再次回到软件工程，之所以如此有趣，是因为许多更无聊的部分可以被自动化。坦率地说，回到AI助手编码之前的时代，感觉就像……你知道，回到打孔卡而不是键盘之类的，对吧？它几乎感觉很原始，是我甚至不想考虑的事情。但我可以非常想象，你知道，当涉及到艺术家时，例如，我的意思是，我们可以争论AI艺术是否真的是艺术，但就艺术家想要将其融入而言，感觉它做了很多真正有创造性和有趣的部分。所以，不同职业的体验可能截然不同。所以，我认为，你知道，我们将不得不弄清楚，一个特定职业中值得保留的是什么。所以，即使AI能做某事，我们应该让它做吗？如果答案在某些情况下是否定的，那么协调和集体行动的机会是什么，这样我们就不会出现一场“逐底竞赛”，每个人都觉得有必要采用这个工具来获得生产力效益。是的，你提到了其他几件事。我担心的一件大事是培训管道的中断。所以，我的意思是回到AI与法律的例子。如果AI正在做许多律师助理或初级律师可以做的事情，而较少做高级律师、高级合伙人和合伙人可以做的复杂判断导向的事情。这可能意味着对初级人员的需求大大减少。那么，人们如何爬上梯子……你知道，下一代高级人员将从哪里来？科技公司也对此感到担忧，就软件工程而言。是的，我不知道这些问题的答案。我们有一些初步的建议。我认为需要对这些培训项目进行更多投资。所以，例如，医院历史上是如何为医科住院医师解决这个问题的？所以，医生需要接受……你知道，超过十年的培训，但在培训过程中，医院在投资他们，但培训后，他们可能会去别处。所以，医院在培训这些住院医师方面的投资，他们无法获得这些好处。那么，你如何处理这个问题？在这个社区中，一个答案是住院医师项目设在大型著名教学医院。所以，医院从中获得的是声望。所以，当你是一家高声誉的医院时，它能吸引……你知道，顶尖的外科医生等等，你可能能够处理比许多其他医院更复杂的病例。对吧？所以，他们有一些奇怪的方式……你知道，当你从经济学理论的角度来看，你可能会认为，在不留住他们的情况下培训医生这么长时间，从经济学上来说是不合理的。但他们已经找到了克服这个问题的方法。而且我认为，未来许多其他职业也必须变得有创意，如果真的需要……你知道，一个人学习各种技能需要十年时间，然后他们才能真正超越一些AI工具。>> 而且，这可能意味着在未来十年内，我们会看到一大批我们甚至无法想象的新职业。>> 确实。确实。而且我认为，回顾过去技术对我们的影响方式，以了解它现在可能是什么样子，这真的很有用。但是，我想谈谈你提到的，希望它不仅仅是一场“逐底竞赛”，而且还需要很多意图和……你知道，努力来确保当你使用AI时，你实际上是在利用它来提升技能，你是有意地使用它等等，并对自己的使用进行监控。但是，还有一种将任务卸载到代理的趋势，不仅仅是一个人这样做，而是其他人也在这样做。所以，现在我们有了一个代理到代理的交互环境。而且，稍微转移一下话题，我确定你已经看到了Molt书和Claudebot大量的代理到代理的交互。而且，虽然这有点像一种时尚，但它也可能反映了未来代理到代理交互的潜在样子。所以，我想听听你对此的看法，以及这是否反映了我们整体上正在朝着工作发展的方向。我想听听你的想法。>> 是的。嗯，我不想过多猜测Claudebot和Molt书代表什么。现在还为时过早。我觉得我还没有足够的时间去真正研究它。它发展得太快了。我觉得我有足够的信心说，你知道，那些说这是某种起飞或奇点，或者代理将自行其是，建立自己的世界的人，那些东西都太早了。就像ChatGPT刚出来时一样，人们不习惯与机器人交谈的想法。所以，你知道，起初他们读得太多了。他们假设这些机器一定比实际更像人类。而且，你知道，有很多……最初的炒作然后逐渐消退。我认为，也许我们第一次看到的是，AI不再模仿单个人类，而是模仿人类在线的社会组织，也许这就是……你知道，你看到很多人最初的震惊。所以，我认为其中很多会逐渐消失，但同时我认为即使在我们的一些研究中，我们也看到，一群代理可以做单个代理做不到的事情。所以，这绝对是一个趋势。至于实验性的、不受控制的代理对话是否会成为一种长期趋势，我无法说，但是……多代理系统，是的，它们一直存在，它们将继续存在。>> 谢谢Ar。我认为关注这个领域会很有趣。同意。现在还非常非常早期，谁知道它们会做什么。它们可能会比成为长期趋势更快地自我燃烧。希望如此。非常非常感谢您来到我们的节目。我知道我们的听众会非常感激今天听到您所说的一切。Arand，在我们向您告别之前，您还有什么最后的话想与我们的听众分享吗？>> 也许我可以就“AI将夺走所有人工作”这个问题分享一些最后的安慰。>> 是的。所以，正如听众可能知道的，随着每一次技术浪潮，都有说法认为它将大规模取代人类工作。历史上，这种情况基本上从未实现过。甚至还有相反的著名例子。例如，当ATM机首次出现时，在接下来的十年或二十年里，人类柜员的数量实际上增加了，而不是减少了。原因在于，一旦有了ATM，银行发现开设区域性分支机构要便宜得多，因为大多数时候你不需要人在那里。你只需要一台ATM。但是一旦有了区域性分支机构，至少有时你需要一个人在那里工作，处理ATM无法处理的事情，对吧？所以，这有时被称为Jevons悖论，但更广泛的教训是，我们对AI夺走工作的许多担忧来自于一个假设，即存在固定数量的某种工作要做，无论那是什么。我曾说过，例如在法律领域，当生产力提高时，律师所做的法律工作量实际上大幅增加。我强烈怀疑这将在大多数领域发生。软件工程是另一个很好的例子。我们现在生产的代码量比软件工程早期多出一百万倍以上。甚至在AI发展到每辆汽车的板载计算机上都有1亿行代码之前。我不是在谈论自动驾驶汽车，对吧？只是普通汽车，我们认为它们不是软件，但却有1亿行代码。而且，至少在白领工作中，我们认为在几乎所有工作中，当生产单位工作变得更便宜时，我们将意识到需求实际上可以增加几个数量级。所以，是的，在某些领域可能会有失业。这与技术本身以及雇主和工人之间预先存在的劳动安排关系不大。我们看到失业的领域是那些已经是零工经济的领域，你没有良好的关系。你没有与你工作的公司紧密整合。比如说，如果你是一个在线零工翻译，很容易被AI取代。但是，如果你是一个翻译，你的工作实际上涉及到理解文化背景，例如，对吧？并且与你翻译的人密切合作，这很难被AI取代，因为你产生的工作不仅仅是你翻译的词语，而是你为组织带来的所有知识。所以，我认为，这些因素将真正决定AI是否会取代工作。因此，现在比以往任何时候都更重要的是，确保我们拥有正确的劳动权利和劳动安排。如果我们拥有这些，我们就没有
不必过分担心技术能力的提升。>> 那是一段精彩的演讲，让我们的听众感到非常安心。很高兴能将人工智能视为一种经过实证检验的、非常令人安心的常规技术，这对于我们那里的工人、我们行业的驱动者以及我们的研究人员来说都是如此，也是我们系列 3 中人工智能在工作场所的绝佳代表。所以，我代表我和 Rose 非常感谢您。>> 是的，我喜欢总会有更多的工作。这是事情的乐观之处，但可能比您 ever 希望或想要的还要多。我只希望这一切都有意义，对吧？所以希望有一个良好的转变，我们有良好的劳动法，事情的政策方面能够保护我们，随着我们前进，但同时也希望人们能够放心，会有工作，而关键在于在这个时代找到有意义的工作。所以，谢谢。非常感激。>> 谢谢您和 Angie。这是一次非常有趣的谈话。>> 同样。同意。非常感谢您参与。>> 当然。这是我的荣幸。>> [音乐] >> Angie，那是一集很棒的节目。>> 那是一集很棒的节目。我真的很喜欢和 Aventand 交谈。我认为我最欣赏的是他带来了截然不同的人工智能作为正常技术或人工智能作为常规技术的视角。我欣赏这一点，因为它与目前存在的末日论和悲观论的周期或繁荣论形成了对比，您知道正在发生什么。所以我欣赏它作为一种不同的看待方式，并且是看待人工智能发展的一种更具历史性的基础，我认为这对行业中的人们来说非常有用。同意。而且，能够获得所有关于过去技术进步以及在吸收速度和组织内部实际达到他们渴望的采用水平的瓶颈方面，扩散真正看起来是什么样的具体例子，以及他们必须纠正的沿途所有事情和步骤，以便完成它，这真的很有帮助。就像从蒸汽锅炉到电力等等一样，我也很喜欢关于律师的观点，是的，事实是>> 您知道>> 进步和优化事物实际上为律师创造了更多工作，就像是的，哦，突然之间您可以拥有更多的文件，因为您可以生成更多文件，但然后律师必须查看更多文件，我不知道，我认为这很有趣，也许人工智能也会如此，我认为人工智能将使搜索不同案例变得容易得多，例如，用作筹码，而且还可以，您知道，整理材料。但是，我们最近在法庭案件中看到了如此多的例子，例如生成式人工智能被用来制造深度伪造或数字复制品来作证。例如，有一个男人实际上已经去世了，有一段视频，一个数字复制品。这是一段人工智能生成的视频，他正在对法官讲述他生命被夺走的经历，而法官实际上以一种非常情绪化、您知道同情的方式回应了它，我感到惊讶。>> 所以那不是你发给我的那个法官驳回的那个吗？>> 不，那是另一个。所以最近有一个法官驳回了律师整理的一些人工智能生成的内容。哦，是的。它大概是这样的，律师试图，您知道，不是走捷径，而是试图让事情变得更好，但实际上是将整个过程都推给了人工智能，结果却是一个糟糕的、误导性的产品。它可能是一段视频，或者他自己的声音叠加在视频上，然后展示给法官，法官说，“这是什么鬼东西？”>> 是的。然后她驳回了，对吧？>> 是的。>> 是的。是的。是的。>> 但回到 Arvin 今天在采访中，因为但那太忙了。我们应该把它放到我们的宣传视频中，这样我们就可以与人们分享，因为那>> 哦，是的。>> 我们应该。我们应该。而且，听众们，我们很快就会录制一个宣传视频。所以请继续关注。但我确实认为实证工作很好。我发现了一个我认为非常有趣的数据点，就像 Avan 谈到人们说，很多人在使用 ChatGPT，例如，我认为他引用了 2024 年的一个数字，大约 40% 的工人正在使用它，我把它写下来了，所以请稍等，40% 的成年人正在使用生成式人工智能。好的，不是 ChatGPT，而是生成式人工智能。这是 2024 年 8 月的数据。但事实是，他们使用它的频率不高，因此它实际上只占他们工作时间的 0.5% 到 3.5%，因此它对他们生产力的影响仅为 0.125% 到 0.875% 的生产力提升。就像那些统计数据一样，我认为那就是我们需要尝试理解真正发生的事情的真实数据，因为您可以看到，就像我们在本系列早期研究的其他一些研究中一样，他们说，为什么生产力没有提高，当有 8 亿每周用户时，为什么我们没有获得生产力提升，所以就像有使用量，然后有使用量一样，所以我认为那种信息真的很有用。同意。而且我认为 Arvin 所说的很多内容都强调了我们过去谈论过的事情，就像您说的。我正在考虑高盛的研究，该研究称，公司在生产中使用人工智能的采用水平低于 10% 或低于 15%，而高盛表示这一数字低于预期。然后，在我们关于人工智能对儿童和青少年影响的教育系列节目中，Marica 也说，鉴于您看到的关于人工智能在教育领域采用的报告，您会期望更多教育领域的人了解人工智能工具，如何使用它们，但实际上人工智能并没有真正融入教育，因为存在一些机构瓶颈，例如基础设施、资金、使用这些技术的知识。所以，我认为我们肯定对今天发生的事情有了更实际的了解。我希望人们能够从中获得乐观，但也谨慎乐观，认识到这里有一些可以用来拼凑出乐观未来的图景。所以，我不知道。我认为不同的瓶颈非常有趣，因为当我想到人工智能采用时，我并不总是会想到这一点。我更多地想到的是个人层面的人工智能采用，以及像拥有互联网的个人如何使用人工智能，但要让它在更广泛的组织层面产生影响，需要更多的机构改革，我认为现在还为时过早。>> 当然>> 我也欣赏 Aventand 分享的用例，他如何利用这些用例来帮助自己，比如他获得的任何生产力提升，他都会将这些时间重新投资于提升自己在人工智能工具或技能发展方面的能力，我再次认为这是一个很好的用例，让我们再次从乐观的一面看到，但您知道，我们花了很多时间谈论和担心技能退化，所以听到有人能够真正使用它，这又是一个很好的替代视角。所以我认为这很不错。>> 我也这么认为，而且我真的很喜欢 Arvin 谈到的关于我们问他哪些行业或工作可能受影响最大的问题，以及 [清嗓子] 他提到这需要该行业能够接受使用人工智能，并且被接受使用。例如，创意产业，可能有一些创意群体不想使用人工智能，也不提倡使用人工智能。所以这可能看起来与，例如，图形设计或广告行业的人不同，他们可能不想做所有后端创意工作，或者雇人去做。通常情况是不同的。但同样，这都需要有意识地使用。我仍然担心，随着生产力的推动，人们发现价值的许多有意义的劳动和有意义的工作将被外包。然后就会出现 Arvin 谈到的人工智能控制的工作，人们只是在监控人工智能的使用，也许他们大部分时间都在做这个，而他们实际上没有时间去学习更有趣的领域或更有趣的任务。您怎么看？嗯，我认为这就是风险。这就是我们需要关注的地方，确保我们意识到我们为什么做我们所做的事情，并且要非常关注将其作为焦点，因为我认为这可能会滑落，无论是对人工智能还是对我们工作中的惯性，还是出于各种非技术原因。所以，我认为始终将“我为什么做这件事？”“什么真正让我快乐？”放在首位，并在我们的职业生涯中不断回归这一点，以确保我们正在做那些让我们最快乐、最充实的事情，这始终是一个好主意。所以，我认为这很重要，如果我们能在这个系列中提醒人们这一点，那么我认为我们做得很好。>> 是的。嗯，我希望我们做得很好。而且，听众们，我们总是希望收到您关于我们系列的反馈。但这是第三系列的结束。正如我们承诺的那样，我们将讨论关于工作场所人工智能伦理的调查以及您在工作中对人工智能的使用。我们将在稍后的宣传系列中讨论这一点。但非常感谢那些回答了我们调查的人。如果您还没有，请随时回到第三系列第一集的笔记中查看。但我们将在稍后讨论这个问题。但现在，这就是我和 Angie 在我们的“与机器人共舞”系列 3 的全部内容。非常感谢您成为我们的听众。Rose 再见。>> Angie 再见。>> 下次见。 [音乐] [音乐] >> [音乐]