Transcription
AGI 已成为一个营销术语。如果人工智能能够像熟练的专业人类一样完成有用的经济工作任务，那么在我看来，这似乎是 AGI 更合理的定义。我认为我们离那还很远。可能超过几十年。>> 安德鲁·安吉是现代人工智能的关键架构师之一，与杰弗里·辛顿、李飞飞和德米斯·哈萨比斯齐名。>> 现在，请坦诚，请完全诚实。有少数工作岗位已完全由人工智能自动化。所以坦率地说，我认为过度的炒作导致失望，导致所谓的泡沫破裂，这对世界和人工智能领域都不利。许多最好的开源模型都来自中国。>> 开源时代结束了吗？>> 许多大学在课程改革方面进展缓慢，仍在为 2022 年的工作培训学生。其中许多工作实际上并不存在。所以雇主不想招聘。程序员会失业吗？>> 今年我们将最终实现 AGI 吗？你以这个问题开始你几个小时前的演讲。>> 对于 AGI 的任何合理定义，我认为答案是否定的。我们不会在 2026 年实现 AGI。在 2026 年实现 AGI 的最佳方式是，如果有人设法大幅降低 AGI 实际含义的标准，那么也许一些公司就能跨过这个门槛。>> 你如何解释和定义 AGI？>> 我最熟悉的 AGI 定义是人工智能可以执行人类可以执行的任何智力任务。而且，今天一个人可能只需要几个小时就能学会，我不知道如何在森林里开卡车，我以前从未做过，但我想如果你训练我几个小时，我大概能做到。人类可以学会接听呼叫中心电话，并根据特定业务的需求以某种方式回答问题。而且，有一些事情是人可以学会做的智力任务，而不是体力任务。而且，完成这些任务仍然需要大量的工作来构建定制的人工智能工作流程，我们确实在这样做，而且事实证明非常有价值，但需要工程师花费如此多的时间来构建这些东西，这并不是公众通常对 AGI 的看法。尽管我希望有一天我们能实现计算机在各个方面都像人类一样智能，但我认为我们离那还很远。你刚刚提出了一个新版本的图灵测试，你能解释一下你提出的内容吗？>> 我对此感到兴奋。所以，我认为因为 AGI 的炒作，AGI 成了一个营销术语，而不是具有精确技术含义的东西。而且它作为营销术语的使用方式，实际上误导了很多人。但既然人们想要 AGI，对它感到兴奋，我也对它感到兴奋。为什么我们不来做一个测试，看看我们是否真的，你知道，正在接近实现 AGI？所以，这是想法。在原始的图灵测试中，人类评审员可以与人工智能或人类进行文本往返输入。原始的图灵测试是人工智能能否欺骗评审员，使其认为或无法分辨他们是在与人工智能还是与人类交谈。这是 1950 年的一项伟大发明，我认为艾伦·图灵在 1950 年提出了这个测试。但它并没有真正衡量我们今天所理解的智能。这是我认为我们可以构建一个图灵 AGI 测试的方法，我称之为，让一个人类评审员设计一个为期多天的体验，这可能是一些入职培训，通过计算机，测试对象将是人工智能或拥有计算机和正常软件访问权限的人类，例如网络浏览器，也许是 Zoom，也许是其他类型的软件，如果经过几天，在为期多天的体验中，如果人工智能能够像熟练的专业人类一样完成有用的经济工作任务，那么在我看来，这似乎是 AGI 更合理的定义。我提出这个的原因是，这实际上更接近于广大公众对 AGI 的看法。所以，如果人们认为 AGI 已经到来，他们会想，哇，人工智能将能够做人们的工作。事实上，如果人工智能能够像远程工作者一样运行多天并进行生产性工作，那将是极其有价值的，而且我认为这更接近于人们所认为的真正 AGI，而不是一些企业为了公关、政策或筹款目的而推广的替代标准。>> 我记得我采访了诺贝尔奖得主罗杰·彭罗斯爵士。数学是一个封闭的系统。所以人工智能可以像玩游戏一样玩它。安德鲁，你不害怕一个有效的人工智能测试不存在吗？>> 人工智能测试或基准测试的一个挑战是，当有人提前固定测试集时，你就只测量了人工智能的一个特定维度。这就是为什么对于许多人工智能模型，大型语言模型，有许多标准基准，你知道的，Sweetbench，GBQA 等等，而且很难避免团队针对现有的已知测试集进行优化，即使他们不直接这样做，最终人工智能是一种不规则的智能形式，它在某些方面很棒，在某些方面很糟糕，但 AGI，人们认为它是人工智能，可以执行人类可以执行的任何智力任务，应该涵盖人类可以涵盖的所有智力任务。所以对我来说，固定测试集基准测试与让人类评审员实时探测之间的一个大区别是，人类评审员可以审视最先进的技术，并探测人工智能的强项和弱项。而对于人工智能来说，要成为 AGI，你知道，大多数人认为它是匹配人类的各个方面，这意味着人类评审员应该能够探测到人工智能在这些经济上有价值的工作任务方面比人类做得差的地方，而我们希望人工智能能够做到这些。>> 基准测试还在衡量真实的东西吗？基准测试达到了 90%，用户说感觉更愚蠢了，基准测试还在衡量真实的东西吗？哦，我认为基准测试衡量的是真实的东西，但它只是我们想要衡量的东西的一个非常狭窄的切片。嗯，许多基准测试的一个弱点是，我们更擅长设计客观基准测试。比如数学，这是一个对或错的答案，或者一个事实性问题，你知道的，就像今年的奥运会上，谁赢得了这个，你知道的，200米自由泳比赛，或者别的什么，所以这些问题都有客观的对错答案，所以很多基准测试都在衡量人工智能是对还是错，这是非常非黑即白的。生活中很多事情，很难设计一个完全客观的最佳答案，所以即使在我们进行的这种人类对话中，你知道，我应该说的最恰当的事情是什么？我不知道，但我可能会说一些好听的，也说一些不好听的。而且平均而言，我们在设计衡量这些更主观或好坏程度的基准测试方面做得并不好，但很难写一个测试集说这是唯一正确的答案，这是错误的答案。并非我们不尝试，但我感觉我们现有的许多基准测试并没有很好地捕捉到这些东西，而现实是，很多人类工作，如果你让我写一份研究报告，你知道，没有一份报告是唯一正确的，报告的好坏程度不同，我们编写基准测试来捕捉这种灰色阴影的能力，比我们编写基准测试来判断它是否正确地解决了这个数学问题，它是否编写了一段能正确运行的代码的能力要弱得多。我们知道如何做得更好，而不是很多实际有用的工作所需要的。>> 如果不是 AGI，我们能在 2026 年期待什么？OpenAI 的 Greg Brockman 说，2026 年人工智能的两个主要障碍将是代理采用和科学加速。你对此有何看法？>> 我认为 AGI 是一个分散注意力的东西。我们离它还很远。你知道，我们不会很快实现它。但是，即使没有实现 AGI，我们正在做和将在 2026 年继续做的事情中，也有很多极其有价值的事情。我创造了“代理人工智能”这个词来描述我所看到的日益增长的现象。尽管我说构建人工智能来捕捉有用的业务流程需要大量工作，但有时当我们这样做时，它非常有价值。所以，在 2026 年及以后，将会有大量令人兴奋的工作来构建人工智能代理或构建代理工作流程，以完成大量非常有价值的、经济上重要的工作。在我这里，在 AION 的团队，我们的团队一直在使用代理工作流程来编写代码，就像许多其他人一样，但也用于查看文件，检查关税合规性，或者阅读棘手的法律文件，以帮助律师更好地工作，或者执行医疗辅助任务，或者支持客户服务。我发现，将人们目前为完成这些任务（无论是法律合规性还是其他）所经历的思维过程，并将其编码到人工智能代理或代理工作流程中。这样人工智能就可以为你完成。我认为这将持续很长时间。我们将为未来许多年构建这些代理工作流程。但价值将非常巨大。>> 我们正在谈论代理工作流程。Rich Sutton 教授曾说过，“原始计算能力总是胜过人类的聪明才智。”通过专注于代理工作流程，你是否在反对？>> Rich 关于“苦涩的教训”的文章非常有影响力，写得也很好。只是为了说清楚，我喜欢规模。当我开始 Google Brain 时，后来它与 DeepMind 合并成立了 Google DeepMind，并创造了 Gemini 等等。我为 Google Brain 团队设定的首要任务是，让我们只是扩展，在那里构建非常非常大的神经网络，并投入大量数据。所以我想我可能是最早涉足人工智能领域的人之一。>> 你是规模时代的建筑师。当每个人都认为这是一个奇怪的事情时，我却在推动规模。所以，我喜欢规模，我认为这是因为 Google Brain 团队的建立方式，它的 DNA 就是规模，这是第一件事，你知道的，团队显然会做很多事情，担心很多事情，但首要任务是规模，这就是我建立 Google Brain 的方式，这就是为什么凭借这种 DNA，Google Brain 团队发明了 Transformer 神经网络，这是历史上最具可扩展性的神经网络架构，它驱动了生成式人工智能革命，对吧？所以，我真的相信规模。话虽如此，在不同的时间点，我们扩展的能力和我们注入其他知识形式的能力会创造一种平衡，我认为我们不会只通过规模来实现我们想要的一切。它也极其强大。就像很多事情一样，有时我们看到企业为了筹款或公关或其他目的而炒作一种现象，而且由于规模法则，当您扩展系统时，您可以相当准确地预测性能将如何发展，这是我的团队在 BYU 后来由 OpenAI 展示的。所以，这实际上是一个很好的筹款论点，因为您可以说给我更多的钱，我将扩展这些机器，扩展数据，变得更好。但是，因为规模具有如此巨大的真实内核，我认为它被炒作得超出了它实际的价值，尽管它非常宝贵，但不如炒作所说的那么宝贵，但仍然非常宝贵，而代理工作流程使我们能够利用规模化的人工智能模型，大型语言模型，并额外地将其他类型的知识注入系统，以构建更可靠、性能更好的工作流程。>> 今天，你真的相信规模时代已经结束了吗？>> 不，我不认为规模时代已经结束了。它变得越来越难。是的，这很有趣。人工智能一直在进步，也许是指数级的。看到驱动这种指数级进步所需的美元数量也呈指数级增长，这很有趣。所以，你花费指数级多的美元来驱动指数级快速的改进，这并不坏。它非常有价值，因为构建它的成本可以分摊给许多用户。而且我认为通过规模仍然可以获得更多收益，但它不是我们目前改进人工智能的唯一途径。什么会让你改变主意？>> 关于什么？>> 关于规模。>> 哦，什么会让我放弃规模？>> 如果在一段延长的时期内，进一步扩大模型规模的努力不再有回报，那将使我改变主意。但也许有一个重要的星号，就像几十年来摩尔定律推动了进步，但它需要各种不断变化的技术才能让摩尔定律不断提高半导体的性能。我们看到的是，在生成式人工智能的早期，配方是获取更多数据，训练一个更大的模型。这正是我，至少在那个抽象层面，正是我 15 年前左右建立 Google Brain 的目的，但从那时起，人工智能模型已经阅读了几乎整个开放的互联网，所以这个简单的规模化配方不再奏效了，这就是为什么许多团队现在正在进行更多的合成数据生成工作，这需要更多的人工工程，更多关于不同强化学习配方的工作。所以，尽管规模化仍然有回报，但驱动规模化的具体配方在过去几年里已经发生了显著的变化。>> 那么从另一方面来说，一个更智能的模型能否简单地击败一个智能的工作流程？>> 是的。我希望它能那么容易，但实际上，我认为理论上是这样，但实际上比大多数人想象的要困难得多。>> 为什么？>> 我认为其中一件非常棒的事情是，随着更智能的模型，无论是像 Claude 4.5 Focus，Gemini 3，还是 GPT 5.1，5.2，我们越来越能够给大型语言模型一套工具，然后让它自由发挥，对吧？所以，只需给它一套用于读写文件系统的工具，然后让它执行一些任务，比如查找多余的文件，帮助我清理硬盘，或者别的什么。而且它们的性能水平非常棒。真的，真的，真的令人印象深刻。话虽如此，对于许多工作流程来说，它还不够可靠，无法投入生产。所以，虽然更智能的模型很棒，但目前我看到许多实际的业务用例是，团队会思考你想要什么工作流程，关键步骤是什么，然后分步实施，这样他们就能获得可靠的性能，让这些东西能够运行，并且能够运行一万次，甚至可能每次都能正常工作。而且，随着模型变得越来越智能，我们允许它们更加自主。我们正在移除安全护栏。我的团队经常做的事情，我们六个月前构建的东西可能有很多安全护栏，更加脚本化，我们经常会减少脚手架。而不是给出非常详细的分步说明，我们更有可能说，“你知道吗，你自己决定你想做什么。”我的意思是，我们曾经构建深度研究人员的一个例子是，我们说要研究一个主题，进行网络搜索，进行这么多查询，然后下载这么多页面并进行总结，等等，这是一年前或两年前常见的代理研究工作流程，现在人工智能模型更有能力决定是继续搜索网络，还是进行总结，还是不总结。所以我发现我经常会拿出我们一年前、六个月或一年半前原型化的系统，然后移除说明，说“嘿，提示，你自己决定吧”，但仍然有很长的路要走，它适用于深度研究人员这样的用例，因为它不会采取行动，如果它错过了引用或遗漏了参考文献，那也不是世界末日，但对于许多高风险的企业用例，我认为可靠性差距，让人工智能模型自由发挥并做它想做的事情，我怀疑这个差距虽然在缩小，但仍然比一些人想象的要大。>> 我需要问你关于李飞飞和德米斯·哈萨比斯之间的争论。李飞飞曾说过，人类智能是专业化的，而不是通用的。德米斯·哈萨比斯认为，大脑是通用的学习者，遵循理论计算。你站在哪一边？>> 我认为没有矛盾。也许我错过了什么。对我来说，人类大脑的奇妙之处在于，假设人类是 AGI，只是它不是人造的，对吧？它是通用智能。人类大脑的奇妙之处在于它的可塑性或学习能力。而且，我认为 AGI 应该少关注那些已经知道世界上所有事情的人工智能。这似乎非常具有挑战性，似乎不切实际。但是什么让大脑如此有价值，或者是什么让它对经济任务如此有价值，就是学习新事物的能力，无论需要什么。而且，正是通过学习，我们才获得了这些极其专业的智能，就像人类大脑通过获得数学博士学位来学习解决极其困难的数学问题一样。所以，你知道，这是非常专业的智能作为终点，但它是学习，然后，但理论上，同一个大脑，只要经过不同的训练，就可以成为国际象棋大师，或者成为网球高手。所以对我来说，人类大脑如此通用的很大一部分原因不是我的大脑或你的大脑已经知道世界上所有的事情，而是我们适应学习各种事物的能力。>> 这是否意味着你倾向于李飞飞？>> 是的。我开始 Google Brain 团队时，有一件事真正激励了我，那就是一个人们现在不太谈论的想法，那就是很多人类学习可能是由于一个学习算法。这意味着什么，但事实证明，我们的 DNA 并不长。所以我们的 DNA 包含的信息量非常有限。但不知何故，我们的 DNA 编码了大脑的生物学，而大脑是一个相当通用的学习算法，这就是为什么大脑能够学会，你知道的，获得数学博士学位，或者学会骑摩托车，或者学会打字，或者学会，你知道的，在呼叫中心工作，是因为大脑拥有这个非常通用的学习算法，它可以通过学习来专注于各种事情，这就是使智能看起来通用的原因。正是这种学习能力，使它能够获得，你知道的，几乎任何领域的专业知识。几个月前，有人说谷歌注定要失败，因为他们正在将人工智能构建到旧的搜索中。OpenAI 从零开始构建。你认为他们能将旧的和新的结合起来吗？>> 我认为这场比赛正在进行。这很令人兴奋。萨姆是我在斯坦福的学生，我在谷歌也有很多朋友。所以我非常支持开放，也非常支持谷歌。如果我们回顾技术颠覆的历史，每当有技术颠覆时，有时新进入者获胜，有时现有者获胜。实际上，两者都有成功的空间。我认为比赛还在继续。事实上，如果我们看看互联网的颠覆，谷歌是一家在互联网兴起时崛起的初创公司，但也有一些现有公司，如微软和苹果，它们在互联网出现之前很久就成立了，它们也做得很好。所以，人工智能对谷歌这样的现有企业来说显然是颠覆性的。我认为谷歌打得很好。我认为 Gemini 3 是一个令人难以置信的模型。>> 比 ChatGPT 更好？>> 我经常同时使用 Gemini、ChatGPT 和 Claude 以及许多其他模型。>> 你经常谈论 AGI。五年前。>> 我能说我其实不喜欢谈论 AGI，但其他人谈论得太多了，而且它太炒作了。是的，我觉得，我觉得作为该领域的领导者，当有大量的炒作时。>> 你认为 AGI 是炒作还是被炒作？>> 它被极度炒作了，至少公众认为 AGI 是人工智能在非常通用的意义上变得和人类一样智能，我们离那还很远。我希望我们能实现，我很想实现 AGI，但现实地说，我认为我们离那还有几十年，也许超过几十年。所以，这种想法，哦，我们只需要再过几个季度就能实现 AGI，这根本不可能发生，除非你重新定义 AGI，降低标准，使其更容易实现。而且我认为，坦率地说，在人工智能的历史上，我们经历过几次人工智能的寒冬，当时人们，好心的人过度炒作了人工智能的承诺，这导致了未能实现的期望，以及投资和兴趣的崩溃，这对少数人来说是很糟糕的。人工智能现在工作得非常好。它非常有价值。我看到相对很少的事情会阻碍人工智能的势头。我实际上担心的一件事是过度的炒作导致失望，导致所谓的泡沫破裂，这对世界或人工智能领域都不利。所以，消除对 AGI 的炒作是为我们实现更可持续增长奠定基础的重要工作。>> 五年前，解决任何编码问题都会被称为 AGI。今天我们有了它，我们称之为工具。我们移动了目标吗？>> 我不记得有可信的团队宣称实现了 AGI。我记得有团队宣称 AGI 只是在不久的将来，但我记得，三年前没有团队宣称他们实现了 AGI。他们说我们很快就能实现。然后，你知道，到目前为止还没有人实现。>> 你不认为我们移动了目标吗？>> 我认为，如果说有什么的话，那就是团队一直在试图降低实现 AGI 的标准。我的意思是，AGI，能够执行人类可以执行的任何智力任务，这是一个非常高的标准。我们还没有接近那个标准。但是，如果团队提出了更容易实现的替代定义，那么我们也许能更快地实现。顺便说一句，我并不介意我们如何定义 AGI。你知道，我们可以随意定义 AGI。但问题是，大多数公众认为 AGI 是非常智能的人工智能，基本上是类人智能。所以，这就是世界上大多数人的看法。所以问题是。>> 主观性。>> 是的。基本上，你知道，我认为因为人们不断提出替代定义。结果是，当很多人使用同一个词来指代非常不同的事物时，这些词就会失去意义。所以，例如，我们都对“蓝色”这个词的意思有所了解，对吧？我的衬衫是蓝色的。但是，如果出于某种原因，社会指向各种不同的颜色，并说这是蓝色的，那是蓝色的，那么“蓝色”这个词就会失去意义，因为人们甚至不知道当有人说蓝色时它的意思是什么了。这就是 AGI 的情况。不同的团队提出了不同的替代定义，人们说这是 AGI，然后，然后，然后，因为人们对这个词应用了许多不同的定义，当有人现在说 AGI 时，就很难确切知道他们是什么意思了。问题是，公众认为 AGI 是类人智能，所以如果有人提出一个对我来说似乎很合理的定义，那么如果有人提出一个奇怪的狭窄技术定义，并说 AGI 将在两年内出现，那么广大公众仍然认为人工智能将在两年内与人类一样智能，这对我来说似乎不真实。>> 让我们谈谈我们现在在哪里。难度重要吗，还是这一切都取决于“工作马”？>> 我认为难度很重要。我一直非常惊叹于 Anthropic 构建 Claude 代码，以及他们的 SDK，以确保他们和其他人有一个好的“马具”来使用其背后的模型，以及“马具”的细节，你如何构建提示，你给大型语言模型什么工具，所有这些细节仍然很重要。实际上，也许一个小例子，我们现在的模型非常智能，并且在调用函数方面越来越好。话虽如此，如果你给一个大型语言模型太多的工具，它会消耗大量的输入上下文，并且它更有可能遇到麻烦，并做出错误的 API 调用，做出错误的工具使用调用。所以这些小细节，也许感觉就像，你知道，现在是 2026 年，为什么我们需要担心像这样的工程细节？事实证明，我们确实需要，因为它们仍然对整体性能产生很大影响。而且，你知道，许多团队使用 MCP。我经常使用 MCP，而实际的工程问题之一是，如果你的 MCP 服务器有太长的工具列表，它会消耗你自己的大量输入上下文。而且它可能工具太多，无法有效地确定使用哪些工具。所以，你就会陷入上下文工程，有时“马具”可以帮助做出更顺畅的决策。>> Anthropic 预测到 2026 年将解决持续学习问题。他们也这样期望吗？我期待持续学习问题得到解决的那一天。如果它能在 2026 年完全解决，那将是惊人的，令人欣喜的。我预计我们会取得进展。我认为持续学习非常重要。>> 一个孩子从几次摔倒中学会走路。强化学习需要数百万次模拟。我们只是在进行蛮力学习吗？蛮力学习的一个挑战是，在某种程度上，智能，人类智能来自于学习算法的通用性，这就是使人类大脑如此强大的原因。通用学习者能很快学会新东西，这就是为什么，例如，与我们一起工作的人类能够做这么多事情，而如果你需要花费很长时间来强行训练人工智能来完成某个狭窄的任务，在某些情况下它仍然可能非常有价值，但对于许多任务来说，这样做的理由就不存在了。所以，能够说雇佣一个人，和他谈谈，然后弄清楚该做什么并完成工作，这是非常有价值的。如果你需要雇佣一个人工智能，然后花费一百万美元来训练人工智能来完成这项任务，那么有很多任务就没有意义了，对吧？花费如此多的精力来训练人工智能。>> 如果样本效率不重要，那么只有三家公司能够负担得起训练前沿模型。开源和开放权重模型与专有模型之间的持续动态演变将会非常有趣，人工智能作为寡头垄断。>> 我希望我们不会走向那个未来。所以，坦率地说，如果我看看移动开发平台，它现在没有那么有趣了，部分原因是它有两个守门人，对吧？要在移动设备上做某事，至少在美国，你需要获得 iOS 或 Android 的许可。所以，有一些创新是我们不允许做的，因为这些封闭的平台。>> 我们人工智能领域的许多人都希望不会出现两三个构建尖端人工智能的守门人，如果有人有想法，我希望人们能够在大语言模型之上进行创新。所以，开源、开放权重模型是防止出现少数守门人的关键。如果我们能够确保每个人都保留创新的自由，这比今天在移动世界中要多得多，那么我们将看到更多的发明，很多很酷的应用，社会将因此变得更加富裕。我们真的需要真正的持续学习吗？在持续学习方面还有很多工作要做。我认为它是目前人工智能领域重要的开放研究课题之一。许多当前的基于文本的记忆系统是人工智能做它所做的事情，然后将大量文本写入某种代理记忆。问题是，文本真的是记忆的充分表示吗？有一些关于非文本表示的研究，但目前大部分是文本。而且，我们正在构建所有这些记忆系统，但它们从未真正更新大型语言模型的权重，这感觉我们遗漏了拼图的关键部分。所以，我的一些团队有一些想法，不确定我们会如何处理它们。改进持续学习，就人类可以做而人工智能不能做的事情而言，这似乎是。>> 目前持续学习最大的瓶颈是什么？哦，我会说我们没有正确的想法，或者我们不确定正确的想法是什么。有很多想法。这只是其中之一。>> 即使是你？>> 有一些我认为有前景的想法，但是，例如。>> 也许让我看看我是否有时间先尝试一下，如果有效的话我会告诉你。我真的不知道它是否会起作用。但对我来说，这是其中一件事，你知道，如果我们问，是的，这就像在说解决这个巨大的未解决研究问题的瓶颈是什么？我不知道，因为通往那里的道路并不清晰。所以我甚至不能说确切的瓶颈是什么。我们只是不知道如何做到。伊丽莎白·尤托科夫斯基说，如果有人建造了 AGI，我们都会死，但每年都有数百万人死于癌症、衰老和疾病，人工智能可以解决，哪个风险更大？>> 我无法理解他很多论点的头尾，当我读它们的时候，很多他的论点都足够循环，我甚至不知道如何与他争论。我认为人工智能今天在世界上做了很多好事，所以任何我们能做的加速人工智能进步的事情都将导致更好的生活，拯救更多生命，使许多人更富有，使许多人过得更好，让许多人摆脱贫困。人工智能的净收益远远大于净伤害，而且有一些有害用例，Azure 对此有明确的认识，让我们摆脱它们，但此刻，我非常有信心，我们所做的任何事情，你知道的，我们可以做的事情来加速人工智能的进步都将对人类有益。>> 从你的角度来看，未来是不可预测的，对吧？>> 我希望我知道如何预测未来，当然，是的，它是不可预测的，但我认为，仅仅因为我们不确定地知道世界将变成什么样子，但我们有很高信心的趋势。例如，计算机变得更智能对我来说很清楚，这是一件好事。使智能民主化，这样它就不只是，你知道的，所以，事实证明，世界上最昂贵的东西之一就是智能。雇佣一位聪明的医生、一位聪明的老师，需要花费很多钱，对吧？照顾你或者。>> 我们需要更多人工智能安全工具吗？是的，当然，我们应该努力使人工智能系统更可靠并降低风险。同时，如果我看看周围的每个人都专注于有利可图的事情。>> 你知道，我认为很多人会惊讶于人们对硅谷的看法，认为人们只关心金钱，别的什么都不关心，这绝对是错误的。坦率地说，我认识很多在许多公司工作的朋友。我个人认识很多公司，是的，只有极少数人只关心利润，但那是一小部分。我的许多朋友，这些公司中的许多人，我认识他们几十年，甚至十多年，他们真的想做正确的事情。所以人们非常认真地对待上帝。人们认真对待负责任的人工智能。人们会坐下来，真正集思广益地思考人工智能系统可能出现的所有好坏情况，并尝试减轻风险。所以我知道有一种观点，有一种刻板印象，一种错误的刻板印象，认为硅谷有一群牛仔，他们为了利润什么都做。这完全不真实。现在，不幸的是，确实有一小部分公司，当有诱惑，你知道的，赚取数十亿美元时，这种诱惑很强烈，但我认为这确实是一小部分，非常小的一部分，微不足道的少数人需要做出的决定。>> 开源时代结束了吗？>> 开源现在做得很好。一件奇怪的事情是，许多最好的开源、开放权重模型都来自中国。回顾过去几年，每年开源或开放权重的选择都在迅速增长。所以我认为开源运动非常强大。同时，专有选项也迅速增长，但没关系，重要的是开放选项也在强劲增长。当你看到人工智能发展的现阶段时，你脑海中会浮现什么？我想赋能每个人来构建人工智能。所以，作为一名开发者，我再也不想手动编写代码了。我希望人工智能能为我写尽可能多的代码。人工智能对软件工程的加速非常明显。但对许多人来说不那么清楚的是，许多非软件开发人员将通过构建软件，通过使用人工智能来做事情而获得巨大的好处。而且，在我们的团队中，我看到了这一点，知道如何使用人工智能的营销人员正在试图超越那些不知道如何使用的人。我的首席财务官，你知道的，在 AI Fund，她编写代码，她比其他一些不知道如何编写代码的首席财务官做得更多，使用人工智能助手。所以，我看到的是，通过人工智能工具，特别是通过人工智能构建软件，这感觉是一项非常重要的、我们需要每个人都拥有的新能力。因此，随着新能力的出现，许多人将拥抱它们，并取得进步，能够做更多的事情，并且更具生产力。然后，不幸的是，那些不拥抱它们的人将落后。我实际上对此非常担心。一个巨大的挑战是，如果你看看大学系统，许多大学在课程改革方面进展缓慢，并且仍在为 2022 年的工作培训学生。但其中许多工作，你知道的，实际上并不存在。所以雇主不想招聘，就像 2022 年一样。但是，许多雇主却找不到足够了解人工智能、知道如何用人工智能构建的合格人才。我并不是说软件工程师。我找不到足够了解人工智能的营销人员、招聘人员和财务专业人士。而且，改变教育系统，让学生和成人能够使用这些工具并完成更多工作，这将需要教育系统的巨大转变。但目前如何实现这一点？对我来说仍然非常具有挑战性。要使人工智能取代你作为教育者，需要什么？>> 我希望我知道。事实证明，我的团队会定期尝试编写人工智能来取代我，并得到我的祝福和强烈的鼓励。>> 但仍然是不可能的，对吧？>> 可悲的是，他们还没有成功取代我。我怀疑我是一种通用人工智能。>> 也许我们不知道学习是如何工作的。>> 是的，我认为是这样。你知道，如果我们最终实现了 AGI，那可能会很棒。退休吧，去做别的事情。我感觉，取代许多技术娴熟的人，这感觉像是一个 AGI 问题，这感觉仍然是，我认为对于狭窄的垂直领域，我们构建人工智能来服务狭窄垂直领域的能力将比这种对通用人工智能的希望增长得快得多。所以我不知道，驾驶学校实际上是一个有趣的话题，事实证明，美国的驾驶学校在某种程度上受到了监管俘获的影响。所以，许多在其他国家采用的创新，比如驾驶模拟器。事实证明。>> 驾驶模拟器在许多国家都计入驾驶小时数，但在美国不是。因为这个原因，驾驶模拟器在美国和其他国家的使用量并不多。所以有一些奇怪的事情，非常令人沮丧。我认为美国应该更多地使用驾驶模拟器，因为这是教孩子的一种非常安全的方式。>> 程序员会失业吗？>> 我认为不使用人工智能的程序员会陷入困境。但真正了解人工智能的程序员，他们非常有生产力。就是找不到足够多的人。>> 他们会迷失方向吗？>> 哦，“迷失方向”听起来有点严峻。我认为大多数工作岗位不会消失，但你知道，那句俗语说人工智能不会取代某人，但使用人工智能的人会取代不使用人工智能的人。这在很多时候都是真的。现在，请坦诚。请完全诚实。有少数工作岗位已完全由人工智能自动化。所以，坦率地说，我认为很多翻译人员有麻烦，翻译人员，我认为配音演员也可能有麻烦。所以坏消息是，只有一小部分工作岗位可以被人工智能完全自动化，我真的为他们感到难过，我认为我们有责任尽一切努力确保他们能够获得新技能，重新进入劳动力市场，找到其他有意义的事情做。作为人工智能领域的人，我感到有义务尽我所能确保人们得到照顾。但对于绝大多数工作来说，人工智能可以自动化。>> 放射学，我认为自动化放射科医生比人们想象的要花费更长的时间，对吧？嗯，我认为，我认为这比律师的预测花费了更长的时间。>> 哦，我认为律师有太多的监管俘获，完全取代人类律师会非常困难。但那些不使用人工智能的律师的生产力将远远低于那些使用人工智能的律师。>> 因为你知道，人工智能在法律研究方面非常出色。我认为人工智能可以在法律的某些部分做得很好。但这里的诀窍是，如果人工智能能完成工作的一部分，比如 30%，那么剩下的 70% 你仍然需要一个人来完成。但这个人最好使用人工智能，因为那些不使用人工智能的人，他们错过了很多生产力。>> 你能预测哪些工作最终会消失吗？>> 嗯，很明显的是，很多呼叫中心的工作正在消失。翻译工作，配音演员的工作。我认为那些有麻烦的是那些几乎 100% 的工作或几乎 100% 的工作可以被自动化的人。但事实证明，很多工作非常复杂，多方面，也擅长文本，不擅长非文本。所以，对于大多数工作，人工智能可以，我认为我们看看这些基于任务的工作类型分析，看看我朋友 Eric Brennson 和其他人所做的研究。拿一份工作，将其分解成任务，看看人工智能可以自动化哪些任务。对于很多工作，人工智能可以自动化某人 30% 到 40% 的工作，所以你仍然需要一个人来完成那 60% 到 70% 的工作。而且有一小部分工作人工智能几乎可以自动化所有工作。所以那些工作有麻烦，但那只是极少数工作。你于 2017 年离开了百度，对吧？你为什么决定来这里？>> 我在百度的时光很棒，而且，有趣的是，人们一直在问我，当我，我从 Google Brain 搬到百度，然后又去运行 AI Fund 和一些秘密项目，但发生的是，我觉得我当时在管理百度的 AI 团队，一个很棒的团队，而且我认为团队做得很好，你知道的，建造了“母舰”，在线广告，改进网站，所有核心业务，团队在那里做得很好。我记得，看着组织结构图，然后想，你知道吗，如果我不在，我们有一个非常好的团队。他们可能没有我也会做得很好。然后我也意识到，当时我工作中最有趣的部分实际上是建立新的业务部门。我们为“母舰”赚了很多钱。我为团队所做的工作感到非常自豪。但是，我发现我个人最有趣的是建立新业务。所以，例如，我负责百度的自动驾驶汽车团队，至今在中国仍然做得很好。我负责百度的一种智能音箱团队，就像，你知道的，就像 Alexa 或 Hey Siri 或别的什么，在中国今天仍然做得很好。我感觉，虽然我能为“母舰”赚钱，但我真正投入的是建立新业务。然后我问自己，虽然在大公司内部这样做是可以的，但我感觉也许如果我开始做别的事情，这变成了风险投资公司 AI Fund，从零开始建立企业，而不是在大公司的概念下，也许我能做得更好。所以，这就是我离开百度的原因，去创办 deeplearning.ai，因为我想在教育领域做更多工作，赋能人们用人工智能构建，并且另外运行 AI Fund 风险投资公司，我们建立初创公司。>> 你认为中国现在领先吗？>> 我认为人工智能是多方面的，中国在某些地方领先于美国，比如开源、开放权重模型，而美国在某些地方领先于中国，比如专有模型。所以，你后悔你的选择吗？>> 我认为我在中国与团队一起工作度过了一段美好的时光。我在与 DAI、AI Fund、最近的 AI Aspire、Landing AI 一起工作时度过了美好的时光。所以，我，我，是的，我对我的工作非常满意。没有遗憾。>> 从纯粹的规模角度来看，中国难道没有更多的能量吗？>> 中国有很多优势。美国也有很多优势。我觉得，你知道，尽管这个联盟并不完美，我热爱美国和西方世界，尽管有些年份民主似乎运作得更好，有些年份运作得更糟，感觉这是美国做事方式的一个重要支柱。而且，我认为仍然有很多好的工作要做。
美国，我对我们公司能带来什么感到兴奋。我希望赋能每个人利用人工智能进行创造。嗯，我们一直非常专注于帮助开发者获得最新的工具，并会继续在这方面努力。除了真正支持人工智能开发者，帮助他们发展和成长他们的职业生涯，我实际上希望拓宽我们的业务范围，赋能开发者以及其他人利用人工智能进行创造。所以，这就是AI Fund的重点。嗯，我之所以离开杨百翰大学，实际上是因为我在谷歌和杨百翰大学领导团队时都发现了这一点。嗯，有些业务在谷歌内部构建是有意义的，在杨百翰大学内部构建也是有意义的。但还有其他事情，比如，你知道的，关税合规。一家互联网公司为什么会在乎这个呢？所以，AI Fund构建了许多不同的初创企业。因此，我对我们在AI Fund能够从事的各种各样的工作感到兴奋。嗯，然后是AI Aspire，这是一个相对较新的项目，是我的朋友Kirsty Tan和我正在为大型企业提供人工智能咨询服务。所以，事实证明，如果我们想真正推动人工智能的普及，嗯，开发者很重要，个人消费者也很重要，而我们必须让大型企业也加入进来。所以我们花费了相当多的时间，嗯，嗯，与贝恩和其他公司合作。嗯，嗯，贝恩是一个很棒的团队，他们非常聪明，能与Kristoff和他的团队在那里合作我感到很荣幸。但是，是为了帮助大型企业就如何创造真正的价值以及如何真正通过人工智能取得成功提供建议。>> 你也决定成为一名人工智能传播者。原因是什么？>> 是的，你触及了核心价值观。嗯，我告诉你我如何安排我的优先事项。我认为有两件事是我最看重的，我真正相信的。我认为这是我时间的好去处。嗯，一是那些能让人类更强大的事物。这就是我为什么成为一名研究员，你知道的，成为斯坦福大学的教授，因为我认为研究推动了最先进的技术，通过发明新技术使人类更强大。所以我相信让全人类更强大。第二件事是我深信不疑的，就是帮助他人实现他们的梦想。嗯，重要的是帮助他人实现他们的梦想，而不是帮助他人实现我的梦想。这是同样重要的区别，在我的一生中，我一直觉得如果我们能给予他人工具和技能，那么他们就能更好地实现他们的梦想，这就是为什么教育，你知道的，通过Divi，嗯，嗯，一直是我觉得非常有动力的原因。>> 当你回顾你的经历，如果你能，你知道的，回到过去，你会做这些事情并改变一些事情吗？>> 嗯，有很多事情我会做得不同，所以坦白说，嗯，我不知道。我，我，我很幸运做了一些正确的决定。但是我也做过很多错误的决定。我认为有很多事情，你知道的，比如，我是否应该雇佣那个人，或者，你知道的，做那个项目，或者我是否应该，嗯，在这个项目上更努力而不是放弃。我认为>> 如果你能找到一个关于现实的问题的答案，那会是什么？>> 我希望我，我，我希望我能理解什么是智能的本质？>> 你是指意识吗？物质如何在人脑中转化为意识，还是别的什么？>> 实际上不是意识。嗯，我认为意识是一个重要的哲学问题，但我不知道什么是意识。所以哲学家谈论意识，是指自我意识的概念。但事实证明，你并不知道我是否是有意识的，我也不知道你是否有意识。对吧？你怎么知道，在哲学中有一个概念，也许我只是一个僵尸，我并没有真正有意识，但我只是在移动我的手，移动我的嘴，假装有意识。所以，因为你无法接触到我的内在体验，反之亦然，我们并不知道其他人是否有意识，但我想出于礼貌，我们假装其他人都有意识，就像我们认为自己有意识一样。所以，因为意识对我来说是不可测量的，这使得它成为一个哲学问题，而不是一个科学问题。虽然哲学很重要，但我更倾向于科学问题，对我来说，智能的本质是，到底是什么机制让大脑，或者也许是其他生物大脑，能够展现出我们看到的如此广泛的智能行为？比如，这到底是怎么运作的？嗯，顺便说一句，在开始谷歌大脑团队之前，有一件事很多人不知道，我曾花了很多时间和我的神经科学家朋友们在一起，你知道的，我读了大量的神经科学论文，并得出结论，你知道的，我非常尊重我的神经科学家朋友们，但坦白说，神经科学对大脑如何运作一无所知。所以我放弃了神经科学作为构建智能的途径，但理解智能到底是如何运作的，智能的本质是什么，我非常确定它不是一个具有缩放定律的Transformer网络。我非常确定它需要更多。但我希望我>> 推理的本质是什么？>> 是的。是的。我认为推理是智能的一个子集。但是理解推理到底是如何运作的也会很迷人。>> 为什么在西方世界我们如此不快乐？我真的不同意他对西方世界失去的这种描述，原因如下。嗯，我不会在我喝的水里寻找快乐，但我喝水，它让我更健康。我认为在人工智能中寻找快乐是一个错误，但人工智能确实能帮助人们。它能帮助我们，帮助我们构建事物，赋予我们技能，所以人工智能很重要，但在人工智能中寻找快乐是一个错误，就像在，嗯，嗯，我认为快乐更多地来自于内心，而不是来自于我们创造的物品，但正是这种努力帮助他人的过程，我希望很多人能从中找到快乐。我希望我能通过我的人工智能工作帮助他人。嗯，我从中找到了很多快乐。>> 能够做对他人有用的工作。>> 非常感谢你的时间。>> 谢谢。