Transcription
AGI 已经成为一个营销术语。如果人工智能能够像熟练的专业人类一样完成有用的经济工作任务，那么在我看来，这似乎是 AGI 更合理的定义。我认为我们离那还很远。也许超过几十年。>> Andrew Angie 是现代人工智能的关键架构师之一，与 Jeffrey Hinton、Yan Lun 和 Demi Hassabis 并列提及。>> 现在，坦诚相待，完全诚实。有少数工作岗位已被人工智能完全自动化。所以坦率地说，我认为过度的炒作导致失望，导致所谓的泡沫破裂，这对世界和人工智能领域都不利。许多最好的开源开放模型都来自中国。>> 开源时代结束了吗？>> 许多大学在课程改革方面进展缓慢，仍在为 2022 年的工作培训学生。其中许多工作实际上并不存在。因此，雇主不想雇佣。程序员会失业吗？>> 今年我们将最终实现 AGI 吗？你以这个问题开始你几个小时前的演讲。>> 对于 AGI 的任何合理定义，我认为答案是否定的。我们不会在 2026 年实现 AGI。在 2026 年实现 AGI 的最佳方式是，如果有人设法大幅降低 AGI 实际含义的标准，那么也许一些公司就能跨过这个门槛。>> 你如何解释和定义 AGI？>> 我最熟悉的 AGI 定义是人工智能可以完成人类可以完成的任何智力任务。而且，今天一个人可能只需要几个小时就能学会，我不知道，在森林里开车，我以前从未做过，但我想如果你训练我几个小时，我大概能做到。人类可以学会接听呼叫中心电话，并根据特定业务的需求以某种方式回答问题。并且有一些事情是人可以学会做的智力任务，而不是体力任务。而且，这些任务中的许多仍然需要大量的工作来构建定制的人工智能工作流程来执行，我们确实在做，而且事实证明非常有价值，但需要工程师花费如此多的时间来构建这些东西，这并不是公众通常对 AGI 的看法。尽管我希望有一天我们能实现计算机在各个方面都像人类一样智能，但我认为我们离那还很远。你刚刚提出了一个新版本的图灵测试。你能解释一下你提出的内容吗？>> 我对此感到兴奋。所以，我认为因为围绕 AGI 的炒作，AGI 已经成为一个营销术语，而不是具有精确技术意义的东西。而且它作为营销术语的使用方式，实际上误导了很多人。但既然人们想要 AGI，对它感到兴奋，我也对它感到兴奋。为什么我们不来做一个测试，看看我们是否真的，你知道，正在接近实现 AGI？所以，这是想法。在原始的图灵测试中，人类评判员可以与人工智能或人类进行文本来回输入。原始的图灵测试是人工智能能否欺骗评判员，使其认为或无法分辨他们是在与人工智能还是人类交谈。这是 1950 年的一项伟大发明，我认为艾伦·图灵在那时提出了这个测试。但它并没有真正衡量我们今天所理解的智能。这是我认为我们可以构建一个图灵 AGI 测试的方法，我称之为，让一个人类评判员设计一个为期多天的体验，可以是某种计算机上的入职培训，而测试对象将是人工智能或拥有计算机和正常软件的人类，比如网络浏览器，也许是 Zoom，也许是其他类型的软件，如果经过几天，在一个为期多天的体验中，如果人工智能能够像熟练的专业人类一样完成有用的经济工作任务，那么在我看来，这似乎是 AGI 更合理的定义。我提出这个的原因是，这实际上更接近于广大公众对 AGI 的看法。所以，如果人们认为 AGI 已经到来，他们会想，哇，人工智能将能够胜任人们的工作。事实上，如果人工智能能够像远程工作者一样工作几天并进行生产性工作，那将是极其有价值的，而且我认为这更接近于人们所认为的真正 AGI，而不是一些企业为了公关、政策或筹款目的而推广的替代标准。>> 我记得我采访了诺贝尔奖得主罗杰·彭罗斯爵士。数学是一个封闭的系统。所以人工智能可以像玩游戏一样玩它。安德鲁，你不害怕一个有效的人工智能测试不存在吗？>> 人工智能测试或基准测试的一个挑战是，当有人提前固定测试集时，你就只测量了人工智能的一个特定维度。这就是为什么对于许多人工智能模型，大型语言模型，有许多标准基准，你知道 Sweetbench GBQA 等等，而且很难避免团队针对现有的已知测试集进行优化，即使他们不直接这样做，最终人工智能是一种不规则的智能形式，它在某些方面很棒，在其他方面很糟糕，但 AGI 人们认为它是人工智能，可以完成人类可以完成的任何智力任务，应该涵盖人类可以涵盖的所有智力任务。所以对我来说，固定测试集基准与让人类评判员实时探测之间的一个大区别是，人类评判员可以审视最先进的技术，并探测人工智能的强项和弱项。而对于人工智能来说，要成为这种 AGI，你知道，大多数人认为它在各个方面都与人类相匹配，这意味着人类评判员应该能够探测到人工智能在这些经济上有价值的工作任务方面比人类做得差的地方，而这些是我们希望人工智能能够做的。>> 基准测试还在衡量真实的东西吗？基准测试达到 90%，用户说感觉更笨了，基准测试在衡量真实的东西吗？哦，我认为基准测试在衡量真实的东西，但它只是我们想要衡量的非常狭窄的一部分。嗯，许多基准测试的一个弱点是，我们更擅长设计客观基准测试。比如数学，这是一个对错答案的问题，或者一个事实性问题，你知道，就像今年的奥运会，谁赢得了这个，你知道，200米自由泳比赛，或者别的什么，所以这些问题有客观的对错答案，所以许多基准测试都在衡量人工智能是对还是错，这是非常黑白的。生活中的很多事情，很难设计一个完全客观的最佳答案，所以即使在我们进行的这种人类对话中，你知道，我应该说的最恰当的话是什么？我不知道，但我可能会说一些好的，也说一些不好的。而且平均而言，我们在设计衡量这些更主观或好坏程度的基准测试方面做得并不好，但很难写一个测试集说这是唯一正确的答案，这是错误的答案。嗯，不是我们不尝试，但我感觉我们现有的许多基准测试并没有很好地捕捉到这些东西，而现实是，很多人的工作，如果你让我写一份研究报告，你知道，没有一份报告是唯一正确的，报告的好坏程度不同，我们编写基准测试来捕捉这些灰色阴影的能力，比我们编写基准测试来判断它是否正确地解决了这个数学问题，它是否编写了一段能正确运行的代码的能力要弱得多。我们知道如何做得更好，而不是很多实际有用的工作所需要的。>> 如果不是 AGI，我们能在 2026 年期待什么？OpenAI 的 Greg Brockman 说，2026 年人工智能的两个主要障碍将是代理采用和科学加速。你怎么看？>> 我认为 AGI 是一个干扰。我们离那还很远。你知道，我们不会很快就到达那里的。但即使没有实现 AGI，我们正在做和将继续在 2026 年做的事情也极其有价值。我创造了“代理人工智能”这个词来描述我所看到的日益增长的现象。即使我说构建人工智能来捕捉有用的业务流程需要大量工作，但有时当我们这样做时，它就非常有价值。所以，在 2026 年及以后，将会有大量令人兴奋的工作来构建人工智能代理或构建代理工作流程，以完成大量非常有价值的、经济上重要的工作。在我这里，在 AION 的团队，我们的团队一直在使用代理工作流程来编写代码，就像许多其他人一样，但也用于查看文件，检查关税合规性，或者阅读棘手的法律文件，以帮助律师更好地完成工作，或者执行医疗辅助任务，或者支持客户服务。我发现，将人们目前为完成这些任务（无论是法律合规还是其他）所经历的思维过程，并将其编码到人工智能代理的代理工作流程中。这样人工智能就可以为你做。我认为这将持续很长时间。我们将为未来许多年构建这些代理工作流程。但价值将是巨大的。>> 我们正在谈论代理工作流程。Rich Sutton 教授曾说过，“原始计算能力总是胜过人类的聪明才智。”通过专注于代理工作流程，你是不是反对？>> Rich 关于“苦涩的教训”的文章非常有影响力，写得也很好。只是为了说清楚，我喜欢规模。当我开始 Google Brain 时，后来它与 DeepMind 合并成立了 Google DeepMind 并创造了 Gemini 等等。我设定的第一个任务是让 Google Brain 团队说，让我们就构建非常非常大的神经网络，投入大量数据。所以我认为我可能是最早进入人工智能领域的人之一。>> 你是规模时代的建筑师。我推动了规模化，而当时其他人都认为这是一件奇怪的事情。所以，我喜欢规模，我认为这是因为 Google Brain 团队的建立方式，它的 DNA 就是规模，这是第一件事，你知道，团队显然会做很多事情，担心很多事情，但首要任务是规模，这就是我建立 Google Brain 的方式，这就是为什么凭借这种 DNA，Google Brain 团队发明了 Transformer 神经网络，这是历史上最可扩展的神经网络架构，它推动了生成式人工智能革命，对吧？所以，我真的相信规模。话虽如此，在不同的时间点，我们的规模化能力和其他知识的注入创造了一种平衡，我认为我们不会只通过规模来实现我们想要的一切。规模化也极其强大。就像许多事情一样，有时我们看到企业为了筹款或公关或其他目的而炒作一种现象，这是绝对真实的，因为由于规模定律，当你扩大系统时，你可以相当准确地预测性能将走向何方。这是我的团队在 BYU 后来由 OpenAI 展示的。所以，这实际上是一个很好的筹款论据，因为你可以说给我更多的钱，我将扩大这些机器，扩大数据，获得更好的性能。但由于规模的巨大真实内核，我认为它被炒作得超出了它实际的价值，尽管它非常宝贵，但不如炒作所说的那么宝贵，但仍然非常宝贵，而代理工作流程使我们能够利用规模化的人工智能模型，大型语言模型，并额外注入其他类型的知识到系统中，以构建更可靠、性能更好的工作流程。>> 今天，你真的相信规模化时代已经结束了吗？>> 不，我不认为规模化时代已经结束。它变得越来越难。是的，这很有趣。人工智能可能一直在指数级地进步。看到驱动这种指数级进步所需的美元数量也呈指数级增长，这很有趣。所以你花费指数级多的美元来驱动指数级快速的改进，这并不坏。这是非常有价值的，因为建造它的成本可以分摊给很多用户。而且我认为规模化还有更多的好处，但它并不是我们目前改进人工智能的唯一途径。什么会让你改变主意？>> 关于什么？>> 关于规模化。>> 哦，什么会让我放弃规模化？>> 如果在相当长的一段时间内，进一步扩大模型的努力没有回报，那将使我改变主意。但也许有一个重要的星号，就像几十年来摩尔定律推动了进步，但它需要各种不断变化的技术才能让摩尔定律不断提高半导体的性能。我们看到的是，在生成式人工智能的早期，秘诀是获取更多数据，训练更大的模型。这正是我，至少在那个抽象层面，正是我 15 年前左右建立 Google Brain 的目的，但从那时起，人工智能模型已经阅读了几乎整个开放的互联网，所以这个简单的规模化秘诀不再奏效了，这就是为什么许多团队现在正在进行更多的合成数据生成工作，这需要更多的人类工程，更多关于不同强化学习秘诀的工作。所以，尽管规模化仍然有回报，但驱动规模化的具体秘诀在过去几年里确实发生了显著变化。>> 那么从另一方面来说，一个更智能的模型能否简单地胜过一个智能的工作流程？>> 是的。我希望它能那么容易，但实际上，我认为理论上可以，但实际上比大多数人想象的要难得多。>> 为什么？>> 我认为其中一件很棒的事情是，随着更智能的模型，无论是克劳德 4.5 Focus，Gemini 3，GBD 5.1 5.2，我们越来越能够给大型语言模型一套工具，让它自由发挥，对吧？所以，只需给它一套读写文件的工具，然后让它做一些任务，比如寻找多余的文件，帮我清理硬盘，或者别的什么。而且它们的性能水平非常棒。真的非常非常令人印象深刻。话虽如此，对于许多工作流程来说，它还不够可靠，无法投入生产。所以，虽然更智能的模型很棒，但就我目前看到的许多实际业务用例而言，团队正在思考你想要什么工作流程，关键步骤是什么，并逐步实施它们，以便它们能够获得可靠的性能，让这些东西能够运行，并且可以运行一万次，甚至可能每次都能正常工作。而且，随着模型的智能化程度提高，我们让它们更加自主。我们正在移除安全护栏。我的团队经常做的事情，我们六个月前构建的东西可能有更多的安全护栏，更具脚本化，我们经常会减少脚手架。而不是提供非常详细的分步说明，我们更有可能说，你知道吗，自己决定你想做什么。我的意思是，我们过去构建深度研究员的一个例子是，我们说要对一个主题进行研究，进行网络搜索，进行这么多查询，然后下载这么多页面并进行总结，等等，这是一年前或两年前常见的代理研究工作流程，现在人工智能模型更有能力决定是否要继续搜索网络，是否要总结，或者不总结。所以，我发现自己经常会拿出我们在一年半前原型化的系统，然后删除说明，说，嘿，提示，让它自己决定。但仍然有很长的路要走，它适用于深度研究员这样的用例，因为它不会采取行动，如果它遗漏了引用或遗漏了参考文献，那也不是世界末日，但对于许多高风险的企业用例，我认为这种差距，尽管正在缩小，但仍然比一些人想象的要大。>> 我需要问你关于伊恩·莱昂和德米斯·哈萨比斯之间的争论。伊恩·莱昂曾说过，人类智能是专业化的，而不是通用的。德米斯·哈萨比斯认为，大脑是通用的学习者，在理论计算下。你站在哪一边？>> 我看不出有什么矛盾。也许我错过了什么。对我来说，人类大脑的惊人之处在于，假设人类是 AGI，只是它不是人造的，对吧？它是通用智能。人类大脑的惊人之处在于它的可塑性或学习能力。而且，我认为 AGI 应该少关注那些已经知道天下所有事的人工智能。这似乎非常具有挑战性，似乎不切实际。但是什么让大脑如此有价值，或者是什么让它对经济任务如此有价值，就是它能够学习做新事物，无论需要什么。而且，正是通过学习，我们才获得了这些极其专业化的智能，比如人类大脑通过获得数学博士学位来学习解决极其困难的数学问题。所以，你知道，这是非常专业的智能作为终点，但它是通过学习获得的，但理论上，同一个大脑，只要接受不同的训练，就可以成为国际象棋大师，或者擅长网球。所以对我来说，人类大脑如此通用的很大一部分原因不是我的大脑或你的大脑已经知道天下所有事，而是我们适应学习各种事物的能力。>> 这是否意味着你支持莱昂？>> 是的。我开始 Google Brain 团队时，有一件事真正激励了我，那就是人们现在不再怎么谈论的这个想法，那就是很多人类学习可能是由于一种学习算法。这意味着什么，但事实证明，我们的 DNA 并不那么长。所以我们的 DNA 包含的信息量非常有限。但不知何故，我们的 DNA 编码了大脑的生物学，而大脑是一个相当通用的学习算法，这就是为什么大脑能够学习，你知道，获得数学博士学位，或者学会骑摩托车，或者学会打字，或者学会，你知道，在呼叫中心工作，是因为大脑拥有这种非常通用的学习算法，它可以通过学习来专门化，以适应各种各样的事情，这就是使智能看起来通用的原因。正是这种学习能力，让它能够获得，你知道，几乎任何领域的专业知识。几个月前，一些人说谷歌注定要失败，因为他们正在将人工智能构建到旧的搜索中。OpenAI 从头开始构建。你认为他们能将旧的和新的结合起来吗？>> 我认为这场比赛正在进行。这很令人兴奋。我认为萨姆是我在斯坦福的学生，还有很多我在谷歌的朋友。所以我非常支持开放，也非常支持谷歌。如果我们回顾技术颠覆的历史，每当有技术颠覆时，有时是新进入者获胜，有时是现有者获胜。两者都有做得好的空间。我认为比赛还在继续。事实上，如果我们看看互联网的颠覆，谷歌是一家在互联网兴起时崛起的初创公司，但也有一些像微软和苹果这样的现有公司，它们在互联网出现之前很久就成立了，它们也做得很好。所以，人工智能对谷歌这样的现有企业来说显然是颠覆性的。我认为谷歌已经打好了自己的牌。我认为 Gemini 3 是一个令人难以置信的模型。>> 比 Chad GPD 更好？>> 我经常使用 Gemini、Chai GPD 和 Claude 以及许多其他模型。>> 你一直在谈论 AGI。五年前。>> 我能说我其实不喜欢谈论 AGI，但其他人谈论得太多了，而且它太炒作了。是的，我感觉，你知道，我感觉作为该领域的领导者，当有大量的炒作时。>> 你认为 AI AGI 是炒作还是被炒作？>> 它被极度炒作了，至少公众认为 AGI 是人工智能，在非常通用的意义上变得像人类一样智能，我们离那还很远。我希望我们能到达那里，我很想达到 AGI，但现实地说，我认为我们离那还有几十年，也许超过几十年。所以，这种想法，哦，我们只需要再过几个季度就能达到 AGI，这根本不可能发生，除非你重新定义 AGI，降低标准，使其更容易实现。而且我认为，坦率地说，在人工智能的历史上，我们已经看到了一些人工智能寒冬，当时人们，好心的人们过度炒作了人工智能的承诺，这导致了未能实现的期望，以及投资和兴趣的崩溃，这对少数人来说是很糟糕的。人工智能现在运作得非常好。它非常有价值。我看到相对很少的事情会阻碍人工智能的势头。我实际上担心的一件事是过度的炒作导致失望，导致所谓的泡沫破裂，这对世界或人工智能领域都不利。所以，消除对 AGI 的炒作是为我们实现更可持续增长奠定基础的重要工作。>> 五年前，解决任何编码问题都会被称为 AGI。今天我们有了它，我们称之为工具。我们移动了目标吗？>> 我不记得有任何可信的团队宣称实现了 AGI。我记得有团队宣称 AGI 只是在不久的将来，但我记得，三年前没有团队宣称他们实现了 AGI。他们说我们很快就能做到。然后，你知道，到目前为止还没有人做到。>> 你不认为我们移动了目标吗？>> 我认为，如果说有什么的话，那就是团队一直在试图降低实现 AGI 的标准。我的意思是，AGI，能够完成人类可以完成的任何智力任务，这是一个非常高的标准。我们还没有接近那个标准。但是，如果团队提出了更容易实现的替代定义，那么我们也许可以更快地实现。顺便说一句，我并不介意我们如何定义 AGI。你知道，我们可以根据自己的意愿定义 AGI。但问题是，大多数公众认为 AGI 是非常智能的人工智能，基本上是类人智能。所以，这就是世界上大多数人的看法。所以问题在于。>> 主观性。>> 是的。基本上，你知道，我认为因为人们不断提出替代定义。结果是，当很多人使用同一个词来指代非常不同的事物时，这个词就会失去意义。所以，例如，我们都对“蓝色”这个词的意思有所了解，对吧？我的衬衫是蓝色的。但是，如果出于某种原因，社会指向各种不同的颜色，并说这是蓝色的，那是蓝色的，那么“蓝色”这个词就会失去意义，因为人们甚至不知道当有人说蓝色时它意味着什么。这就是 AGI 的情况。不同的团队提出了不同的替代定义，人们说这是 AGI，因为人们对这个词应用了许多不同的定义，当有人现在说 AGI 时，很难确切知道他们是什么意思。问题是，公众认为 AGI 是类人智能，所以如果有人提出一些奇怪的狭窄技术定义，并说 AGI 将在两年内出现，那么广大公众仍然认为人工智能将在两年内像人类一样智能，这对我来说似乎是不对的。>> 让我们谈谈我们现在在哪里。硬度重要吗，还是这一切都取决于工作马？>> 我认为硬度很重要。我一直在令人难以置信地关注 Anthropic 构建 Cloud Code，以及他们的 SDK，以确保他们和其他人有一个好的框架来使用驱动它的模型，以及框架的细节，你如何构建提示，你给 LLM 什么工具，所有这些细节仍然很重要。实际上，也许一个小例子，我们现在的模型非常智能，而且它们在调用函数方面越来越好。话虽如此，如果你给一个 LL 模型太多的工具，它会消耗大量的输入上下文，而且它更容易遇到麻烦，并做出错误的 API 调用，做出错误的工具使用调用。所以这些小小的，也许感觉像是，你知道，现在是 2026 年了，为什么我们需要担心像这样的工程细节？事实证明，我们确实需要，因为它们仍然对整体性能产生很大影响。而且，你知道，许多团队使用 MCP。我经常使用 MCP，其中一个实际的工程问题是，如果你的 MCP 服务器有太长的工具列表，它会消耗大量的你自己的输入上下文。而且它可能工具太多，无法有效地确定使用哪些工具。所以，你就会进入上下文工程，有时框架可以帮助做出这些决定，使其更加顺畅。>> Anthropic 预测持续学习将在 2026 年得到解决。他们也这么认为吗？我期待持续学习得到解决的那一天。如果它能在 2026 年完全解决，那将是惊人的。我预计我们会取得进展。我认为持续学习非常重要。>> 孩子从几次摔倒中学会走路。强化学习需要数百万次模拟。我们只是在进行暴力破解学习吗？暴力破解学习的一个挑战是，在某种程度上，智能，人类智能来自于学习算法的通用性，这就是使人脑如此强大的原因。通用学习者能很快学会新东西，这就是为什么，例如，与我们一起工作的人类能够做这么多事情，而如果你需要花费很长时间来暴力破解人工智能来完成某个狭窄的任务，在某些情况下它仍然可能非常有价值，但对于很多任务来说，这样做的理由就不存在了。所以，能够说雇佣一个人，和他谈谈，然后弄清楚该做什么并完成工作，这是非常有价值的。如果你需要雇佣一个人工智能，然后花费一百万美元来训练人工智能来完成这项任务，那么有很多任务就没有意义了，对吧？花费如此多的精力来训练人工智能。>> 如果样本效率不重要，那么只有三家公司能够负担得起训练前沿模型。开源和开放模型与专有模型之间的动态演变将非常有趣，人工智能作为寡头垄断。>> 我希望我们不会走向那个未来。所以，坦率地说，如果我看看移动开发平台，它现在没有那么有趣了，部分原因是它有两个守门人，你知道，要在移动设备上做某事，至少在美国，你可能需要获得 iOS 或 Android 的许可。所以，有些创新我们就是不允许做的，因为那些封闭的平台。>> 我们人工智能领域的许多人都希望不会出现两三个构建尖端人工智能事物的守门人，如果有人有想法，我希望人们能够在大语言模型之上进行创新。所以，开源开放模型是防止出现少数守门人的关键。如果我们能够确保每个人都保留创新的自由，这比今天在移动世界中要多得多，那么我们将看到更多的发明，很多很酷的应用，社会将因此变得更加富裕。我们真的需要真正的持续学习吗？持续学习还有很多工作要做。我认为它是目前人工智能领域重要的开放研究课题之一。目前，许多基于文本的记忆系统都让人工智能做它所做的事情，然后将大量文本写入某种代理记忆。问题是，文本真的是记忆的足够好的表示吗？有一些关于非文本表示的研究，但目前大部分是文本。而且，我们正在构建所有这些记忆系统，但它们从不更新 LM 的权重，这感觉我们遗漏了拼图的关键部分。所以，我的一些团队有一些想法，不确定我们会如何处理它们。改进持续学习，就人类可以做而人工智能不能做的事情而言，这似乎是。>> 目前持续学习最大的瓶颈是什么？哦，我会说我们没有正确的想法，或者我们不确定正确的想法是什么。有很多想法。这只是其中之一。>> 即使是你？>> 有一些我认为有希望的想法，但是，例如。>> 也许让我看看我是否有时间先尝试一下，如果有效的话我会告诉你。我真的不知道它是否会起作用。但对我来说，这是其中一件事，你知道，如果我们问，就像，就像说解决这个巨大的未解决研究问题的瓶颈是什么？我不知道，因为通往那里的道路并不清晰。所以我甚至无法说出确切的瓶颈是什么。我们就是不知道怎么做。伊丽莎白·尤托科夫斯基说，如果有人建造了 AGI，我们都会死，但每年都有数百万人死于癌症、衰老和疾病，人工智能可以解决，哪个风险更大？>> 我无法理解他很多论点的头尾，当我读到它们时，很多他的论点都足够循环和流行，我甚至不知道如何与他争论。我认为人工智能今天在世界上做了很多好事，所以任何我们能做的加速人工智能进步的事情都会带来更好的生活，挽救更多生命，让更多人更富有，让更多人过得更好，让许多人摆脱贫困。人工智能的净收益远远大于净伤害，而且有一些有害用例，Azure 对此很清楚，让我们消除它们，但此刻我非常有信心，我们所做的任何事情，你知道，我们可以做的事情来加速人工智能的进步，对人类都有好处。>> 从你的角度来看，未来是不可预测的，对吧？>> 我希望我知道如何预测未来，当然是的，它是不可预测的，但我感觉，仅仅因为我们不确定世界将变成什么样子，但我们有很高信心的趋势。例如，让计算机更智能对我来说很清楚，这是一件好事。实现智能的民主化，这样它就不只是，你知道，所以，事实证明，世界上最昂贵的东西之一就是智能。雇佣一个聪明的医生，一个聪明的老师，需要很多钱，对吧？来照顾你或者。>> 我们需要更多的人工智能安全工具吗？是的，当然，我们应该致力于使人工智能系统更可靠并降低风险。同时，如果我看看周围的每个人都专注于有利可图的事情。>> 你知道，我认为很多人会惊讶于硅谷的这种看法，认为人们只关心金钱，别的什么都不关心，这绝对是错误的。坦率地说，我在很多公司工作的朋友。我个人认识很多公司，是的，只有极少数人只关心利润，但那只是很小的一部分。我的很多朋友，这些公司里的很多人，他们认识了几十年，或者更长的时间，真的想做正确的事情。所以人们非常认真地对待上帝。人们认真对待负责任的人工智能。人们会坐下来，真正地头脑风暴人工智能系统可能发生的所有好事或坏事，并试图减轻风险。所以我知道有一种看法，有一种刻板印象，一群所谓的牛仔或女牛仔在硅谷，他们只为利润不择手段。这完全不对。现在，不幸的是，确实有一小部分公司，当有诱惑，你知道，赚取数十亿美元时，这种诱惑很强烈，但我认为这真的是一小部分，非常小的一部分，微不足道的少数人需要做出的决定。>> 开源时代结束了吗？>> 开源现在做得很好。奇怪的是，许多最好的开源开放模型都来自中国。回顾过去几年，每年开源或开放权重的选择都在迅速增长。所以我认为开源运动非常强大。同时，专有选项也迅速增长，但没关系，重要的是开放选项也在强劲增长。当你看到人工智能发展的现阶段时，你脑海中会闪过什么？我想赋予每个人构建人工智能的能力。所以，作为一名开发者，我再也不想手动编写代码了。我希望人工智能尽可能多地为我编写代码。人工智能对软件工程的加速非常明显。但许多非软件开发者不清楚的是，许多人将通过构建软件、使用人工智能做事而受益匪浅。我在我们的团队中看到了这一点，知道如何使用人工智能的营销人员正在试图超越那些不知道如何使用人工智能的人。我的首席财务官，你知道，在 AI Fund，她会写代码，她比其他一些不知道如何写代码的首席财务官做得更多，利用人工智能的帮助。所以，我看到的是，通过人工智能工具，特别是通过人工智能构建软件，这感觉是一项非常重要的、每个人都需要具备的新能力。所以，随着新能力的出现，许多人将拥抱它们，并取得进步，能够做更多的事情，并且更具生产力。然后，不幸的是，那些不拥抱它们的人将落后。我实际上对此非常担心。一个巨大的挑战是，如果你看看大学系统，许多大学在课程改革方面进展缓慢，仍在为 2022 年的工作培训学生。但其中许多工作，你知道，实际上并不存在。所以雇主不想雇佣，就像 2022 年一样。但相反，许多雇主找不到足够了解人工智能、知道如何用人工智能构建的人才。我并不是说软件工程师。我找不到足够了解人工智能的营销人员、招聘人员和财务专业人士。改变教育系统，让学生和成人能够使用这些工具并完成更多工作，这将需要教育系统的巨大转变。但目前如何实现这一点？对我来说，这仍然非常具有挑战性。需要什么才能让人工智能取代你作为教育家？>> 我希望我知道。事实证明，我的团队会定期尝试编写人工智能来取代我，并得到我的祝福和强烈的鼓励。>> 但仍然是不可能的，对吧？>> 可悲的是，他们还没有成功取代我。我怀疑我是一种通用形式的人工智能。>> 也许我们不知道学习是如何工作的。>> 是的，我认为是这样。你知道，如果我们最终实现了 AGI，那可能会很棒。退休吧，去做别的事情。我感觉，取代许多技术娴熟的人，这感觉像是一个 AGI 问题，这感觉仍然是，我认为对于狭窄的垂直领域，我们构建人工智能来服务狭窄垂直领域的能力将比这种对通用人工智能的希望增长得快得多。所以，我不知道，驾驶学校实际上是一个有趣的话题，事实证明，美国的驾驶学校在某种程度上受到了监管俘获的影响。所以，许多在其他国家采用的创新，比如驾驶模拟器。事实是。>> 驾驶模拟器在许多国家都计入驾驶小时数，但在美国不是。因为这个原因，驾驶模拟器在美国和其他国家没有得到广泛使用。所以有一些奇怪的事情，非常令人沮丧。我认为美国应该更多地使用驾驶模拟器，因为这是教授孩子的一种非常安全的方式。>> 程序员会失业吗？>> 我认为不使用人工智能的程序员将陷入困境。但真正了解人工智能的程序员，他们非常有生产力。就是找不到足够多的人。>> 他们会迷失方向吗？>> 哦，“迷失方向”听起来有点严峻。我认为大多数工作岗位不会消失，但你知道，那句老话，人工智能不会取代某人，但使用人工智能的人会取代不使用人工智能的人。这在很多时候都是真的。现在，坦诚相待。完全诚实。有少数工作岗位已被人工智能完全自动化。所以，坦率地说，我认为很多翻译人员有麻烦，翻译人员，我认为配音演员也可能有麻烦。所以坏消息是，只有一小部分工作岗位可以被人工智能完全自动化，我真的为他们感到难过，我认为我们有责任尽一切努力确保他们能够获得新技能，重新进入劳动力市场，找到其他有意义的事情做，作为人工智能领域的人，我感到有义务尽我所能确保人们得到照顾，但对于绝大多数工作来说，人工智能可以自动化。>> 放射学，我认为自动化放射科医生比人们想象的要花费更长的时间，对吧？嗯，我认为，我认为这比律师的预测花费了更长的时间。>> 哦，我认为律师有太多的监管俘获，完全取代人类律师会非常困难。但那些不使用人工智能的律师的生产力将远远低于那些使用人工智能的律师。>> 因为你知道，人工智能在法律研究方面非常出色。我认为人工智能可以很好地完成法律的一部分工作。但这里的诀窍是，如果人工智能可以完成一项工作的一部分，比如 30%，那么剩下的 70% 仍然需要人类来完成。但这个人最好使用人工智能，因为那些不使用人工智能的人，他们错过了很多生产力。>> 你能预测哪些工作最终会消失吗？>> 嗯，很明显的是，很多呼叫中心的工作正在消失。翻译工作，配音演员的工作。我认为那些有麻烦的是那些几乎 100% 的工作或几乎 100% 的工作可以被自动化的人。但事实是，很多工作非常复杂，多方面，也擅长文本，不擅长非文本。所以对于大多数工作，人工智能可以，我认为我们看看这些基于任务的工作类型分析研究，你知道，我的朋友 Eric Brennson 和其他人所做的。拿一份工作，把它分解成任务，看看人工智能可以自动化哪些任务。对于很多工作，人工智能可以自动化一个人 30% 到 40% 的工作，所以你仍然需要一个人来完成，你知道 60% 到 70%。而且有一小部分工作人工智能几乎可以自动化所有工作。所以那些工作有麻烦，但那是极少数工作。你于 2017 年离开了百度，对吧？你为什么决定来这里？>> 你知道，我在 BYU 度过了愉快的时光，而且，有趣的是，人们一直在问我，当我，你知道，从 Google Brain 搬到，然后到百度，然后到运行 AI Fund 和一些秘密项目，但发生的是，我认为我当时在 BYU 领导人工智能团队，一个很棒的团队，我认为团队做得非常出色，你知道，建造了母舰，在线广告，改进网站，所有核心业务，团队在那里做得很好。我记得，看着组织结构图，然后想，你知道吗，如果我不在，我们有一个非常好的团队。他们可能没有我也会做得很好。然后我也意识到，当时我工作中最有趣的部分实际上是建立新的业务部门。我们为母舰赚了很多钱。我为团队的工作感到非常自豪。但我发现，我个人最享受的是建立新业务。例如，我曾负责百度的自动驾驶汽车团队，该团队至今在中国仍然做得很好。我曾负责百度的智能音箱团队，就像，你知道，就像 Alexa 或 Hey Siri 或别的什么，中国至今仍然做得很好，我觉得，虽然我可以为母舰赚钱，但我真正投入的是建立新业务，然后我问自己，在一家大公司里这样做是可以的。我觉得也许如果我开始做别的事情，这变成了风险投资公司 AI Fund，从零到一建立企业，而不是在大公司里，也许我能做得更好。所以，这就是我离开百度的原因，去创办 deeplearning.ai AI，因为我想继续在教育领域做更多工作，赋能人们用人工智能构建，并另外运营 AI Fund 风险投资公司，在那里我们建立初创公司。>> 你认为中国现在领先吗？>> 我认为人工智能是多方面的，中国在某些领域领先于美国，比如开源开放模型，而美国在某些领域领先于中国，比如专有模型。所以你后悔你的选择吗？>> 我认为我与中国团队合作得非常愉快。我与 DAI、AI Fund、最近的 AI Aspire、Landing AI 合作得非常愉快。所以，我，我，是的，我对我所做的事情非常满意。没有遗憾。>> 从纯粹的规模角度来看，中国难道没有更多的能量吗？>> 中国有很多优势。美国也有很多优势。我觉得，你知道，尽管这个联盟并不完美，但我热爱美国和西方世界，即使有些年份感觉民主运作得更好，有些年份感觉运作得更糟，这似乎是我们在美国做事方式的一个重要支柱。而且，我认为仍然有很多好的工作要做。
美国，我对此感到兴奋，期待着从贵公司能获得什么。我希望赋能每个人都能用人工智能进行创造。嗯，我们一直非常专注于帮助开发者获取最新的工具，并会继续在这方面努力。除了真正支持人工智能开发者，帮助他们发展和成长他们的职业生涯，我实际上希望拓宽我们所做的事情，以赋能开发者以及其他人用人工智能进行创造。所以，这就是AI Fund的重点。嗯，我离开杨百翰大学（BYU）的原因之一，实际上是我在谷歌领导团队和在杨百翰大学（BYU）时都发现了这一点。有些业务在谷歌内部构建是有意义的，有些业务在杨百翰大学（BYU）内部构建是有意义的。但还有其他事情，比如，你知道的，关税合规。一家互联网公司为什么会关心这个呢？所以，AI Fund构建了许多不同的初创企业。因此，我对我们在AI Fund能够从事的各种各样的工作感到兴奋。嗯，然后是AI Aspire，这是一个相对较新的项目，是我的朋友Kirsty Tan和我正在为大型企业提供人工智能咨询。所以，事实证明，如果我们想真正推动人工智能的采用，开发者很重要，个人消费者也很重要，我们必须让大型企业也参与进来。所以我们花费了相当多的时间，嗯，嗯，与贝恩（Bain）和其他公司合作。嗯，嗯，贝恩（Bain）是一个很棒的团队，他们非常聪明，我很荣幸能与Kristoff和他的团队在那里合作。但是，是为了帮助大型企业就如何创造真正的价值以及如何真正通过人工智能取得成功提供建议。
>> 你也决定成为一名人工智能传播者。这是什么原因？
>> 是的，你触及了非常核心的价值观。嗯，我告诉你我如何安排我所做的事情的优先级。我认为有两件事是我最看重的，我真正相信的。我认为这是我时间的好去处。嗯，一是那些能让人类更强大的事情。这就是为什么我成为一名研究员，你知道的，成为斯坦福大学的教授，因为我认为研究，推进最先进的技术，通过发明新技术来使人类更强大。所以我相信让全人类更强大。第二件事是我深信的，是帮助他人实现他们的梦想。这很重要，是帮助他人实现他们的梦想，而不是帮助他人实现我的梦想。这是一个重要的区别，在我的一生中，我一直觉得如果我们能给予他人工具和技能，那么他们就能更好地实现自己的梦想，这就是为什么教育，你知道的，通过divi，嗯，嗯，一直是我觉得非常有动力的原因。
>> 当你回顾你的经历，如果你能回到过去，你会做这件事并改变一些事情吗？
>> 嗯，有很多事情我会做得不同，坦率地说。嗯，我不知道。我，我，我很幸运做出了一些好的决定。但我也做出了很多糟糕的决定。我认为有很多事情，你知道的，比如，我是否应该雇佣那个人，或者，你知道的，做那个项目，或者我是否应该，嗯，在这个项目上更努力而不是放弃。我认为。
>> 如果你能找到一个关于现实的问题的答案，那会是什么？
>> 我希望，我希望我能理解智能的本质是什么？
>> 你是指意识吗？物质如何在人脑中转化为意识，还是别的什么？
>> 实际上不是意识。嗯，我认为意识是一个重要的哲学问题，但我不知道什么是意识。所以哲学家们谈论意识，是指自我意识的概念。但事实证明，你并不知道我是否有意识，我也不知道你是否有意识。对吧？你怎么知道，在哲学中有一个概念，也许我只是一个僵尸，我实际上并没有意识，但我只是在挥舞我的手，说话，假装有意识。所以，因为你无法接触我的内在体验，反之亦然，我们实际上并不知道其他人是否有意识，但我认为出于礼貌，我们假装其他人都有意识，就像我们认为自己有意识一样。所以，因为意识对我来说是不可衡量的，这使得它成为一个哲学问题，而不是一个科学问题。虽然哲学很重要，但我更倾向于科学问题，对我来说，智能的本质是，地球上到底是什么机制让人类大脑，或者也许是其他生物大脑，能够展现出我们所看到的如此广泛的智能行为？比如，这到底是怎么运作的？顺便说一句，在创办Google Brain团队之前，有一件事并不广为人知，我做了很多与我的神经科学家朋友们在一起的事情，你知道的，我读了大量的神经科学论文，并得出结论，你知道的，我对我的神经科学家朋友们非常尊敬，但神经科学根本不知道大脑是如何工作的，坦率地说，几乎是这样。所以我放弃了神经科学作为构建智能的途径，但理解智能到底是如何运作的，智能的本质是什么，我非常确定它不是一个具有缩放定律的Transformer网络。我非常确定它需要更多。但我希望我。
>> 推理的本质又是什么呢？
>> 是的。是的。我认为推理是智能的一个子集。但理解推理到底是如何运作的也会很迷人。
>> 为什么在西方世界我们如此不快乐？我真的不同意他对西方世界失去的这种描述，原因如下。我不会在饮用水中寻找快乐，但我会喝水，它让我更健康。我认为在人工智能中寻找快乐是一个错误，但人工智能确实能掌握人们。它掌握我们，帮助我们，赋予我们技能，所以人工智能很重要，但在人工智能中寻找快乐是一个错误，就像在，我认为快乐更多地来自内心，而不是来自我们创造的物品，但正是这种努力帮助他人的过程，我希望很多人从中找到快乐。我希望我能通过我的人工智能工作来帮助他人。嗯，我从中找到了很多快乐。
>> >> 能够做对他人有用的工作。
>> 非常感谢您的时间。
>> 谢谢。