Transcription
[音乐] 哇。好的。欢迎大家。欢迎来到一场关于你们的未来、你们公司的未来、你们国家的未来以及你们孩子的未来的对话。我们将讨论超级智能。这意味着什么，当它到来时会发生什么？嗯，我们一直在谈论人工智能、通用人工智能，现在可能是数字超级智能或超级人工智能。我想从显而易见的问题开始，我认为没有人对此有完美的答案，但超级智能意味着什么，它何时可能出现？埃里克，我们谈论过这个问题，你的想法是什么？>> 首先，非常感谢彼得，也感谢大家的光临，当然还要感谢我们非常亲密的同事费。通用人工智能的普遍接受的定义是人类水平的智能，通用人工智能和人类智能，你们可以理解，因为我们都是人类。你们有想法，你们有朋友，你们有，你知道，你们思考问题，你们有创造力。超级智能被定义为等于所有人总和的智能，对吗？或者甚至比所有人类都好。在我们的行业中，有一种信念，我们将达到超级智能。我们不知道确切需要多长时间。嗯，有一群人，我称他们为旧金山共识，因为他们都住在旧金山。也许是天气或毒品或其他什么，但他们都基本上认为这将在三到四年内实现。我个人认为会比这更长，但从根本上说，他们的论点是，我们现在看到的复利效应将比人们想象的更快地将我们推向这个目标。费，我认为没有人预料到人工智能迄今为止所表现出的性能。规模法则赋予了我们非凡的能力。你知道，你是一家新公司的首席执行官，World Labs 的创始人。你在斯坦福大学做过这方面的工作。你如何看待超级智能？你在工作中会讨论超级智能吗？>> 是的，彼得，这是个好问题。嗯，你知道，当艾伦·图灵向人类提出“我们能否创造思考的机器”这个问题时，他思考的是智能的基本问题。所以人工智能的诞生就是关于智能，就是关于智能的深刻的通用能力。所以从这个角度来看，人工智能作为一个试图拓展智能边界的领域已经诞生了。现在快进到艾伦·图灵之后的 75 年，这个短语“超级智能”在硅谷非常热门。我同意埃里克的观点，通俗的定义是人工智能和计算机的能力比任何人类都强。但我确实认为我们需要稍微小心一点。首先，今天的一些人工智能已经比任何人类都强了。例如，人工智能说多种不同语言，在数十种语言之间进行翻译的能力。几乎没有人能做到这一点。或者人工智能快速计算事物的能力。人工智能从化学到生物学再到体育的知识量。所以它在很多方面已经超越了人类，但仍然存在一个问题，人工智能能否成为牛顿？人工智能能否成为爱因斯坦？人工智能能否成为毕加索？>> 我其实不知道。例如，我们拥有今天观测到的所有恒星运动的天体数据。将这些数据提供给任何人工智能算法。它将无法推导出牛顿运动定律。人类拥有的这种能力，是创造力、抽象能力的结合。我还没有看到今天的人工智能或明天的人工智能能够做到这一点。>> 埃里克，>> 所以一个常见的例子，费当然说对了，就是想象一下，如果你在 1902 年拥有一台计算机中的所有知识。是的。你能发明相对论吗？基本上是今天的物理学，今天的答案是不能。所以，例如，如果你看看所谓的测试时间计算，系统正在进行推理，它们无法将学到的推理非常快速地反馈给自己，而如果你是一名数学家，你证明了某件事，你可以基于它进行下一次证明，这对于今天的系统来说很难，尽管有一些近似。所以我们不知道界限在哪里。我想举的例子是，让我们想象一下，我们可以制造出能够解决我们通常作为人类能做的一切事情的计算机，除了这些惊人的创造力。真正有创造力的人是如何做到的？最好的例子是他们在一个领域是专家，他们看到了另一个领域，并且他们有一种直觉，同样的机制将解决一个完全不同领域的问题。这是我们需要学会如何用人工智能来做的事情的一个例子。另一种选择是简单地通过蛮力使用强化学习来做到这一点。问题在于，组合起来的成本是惊人的，而且我们已经快没电了，等等。所以我认为要实现真正的超级智能，我们可能需要另一个算法突破。>> 我们需要另一个什么？>> 算法突破，另一种处理方式。技术术语称为目标非平稳性。发生的情况是，系统是根据目标进行训练的。但是要实现费所说的这种创造力，你需要能够在进行目标的同时改变目标。>> 我认为我们今年已经看到了，GPT 5 Pro 的智商达到了 148 左右，这是非凡的。当然，这没有上限。我的意思是，在某个时候它就失去了意义。但是，地球上的每个人都能拥有一位爱因斯坦级别的智能，不是在创造力方面，而是在智力方面，这改变了 80 亿人的游戏规则。现在有了 Starlink，有了，你知道，50 美元的智能手机，地球上的每个人都有可能拥有这种能力。再加上人形机器人。再加上，你知道，一整系列其他的指数级技术。评论是，我们正朝着一个后稀缺社会迈进，对吗？你相信这种愿景吗？费，>> 我确实认为我们需要稍微小心一点。我知道我们正在结合硅谷的一些最热门的词汇，比如人工智能、超级智能、人形机器人等等。老实说，我认为机器人技术还有很长的路要走。我认为我们必须对机器人技术的预测稍微谨慎一点。我认为人类水平的操作能力和灵巧性，嗯，嗯，嗯，我们需要等待更长的时间才能获得它。那么，我们是否正在进入后稀缺时代？嗯，我不知道。我实际上不像典型的硅谷人那样乐观，因为我认为我们正在进入，我绝对相信人工智能将以极其深刻的方式增强人类的能力。但我认为，人类与人工智能之间的协作将是最高效、最有成效的做事方式。>> 因此，预测是到 2030 年，人工智能将产生高达 15 万亿美元的经济价值。将国家财富的基础从资本转移到劳动力再转移到计算智能的理念。那么，埃里克，这对全球经济意味着什么？我们将如何看到财富或能力的再分配？我们将看到国家之间的公平竞争，还是我们将看到失控的赢家？>> 所以在你的富足假说中，我们已经讨论了很多，论点可能存在缺陷，因为富足论的一部分是富足惠及所有人。但有充分的证据表明，这些技术具有网络效应，会将利益集中在少数赢家身上。因此，例如，你可以想象少数国家获得所有这些好处，在这些国家中。你可以想象少数公司和个人获得这些好处。这些是公共政策问题。毫无疑问，财富将被创造出来，因为财富来自于效率。每家实施人工智能的公司都获得了巨大的收益。想想我们现在在沙特阿拉伯。你们有所有的石油分销，所有的石油网络，所有的损失。人工智能可以轻松地将这些提高 10% 到 20%。这对这个国家来说是巨大的数字。如果你看看生物学和医学以及药物发现，药物批准周期更快，试验成本更低，看看材料，更有效率，更容易制造材料。那些迅速采用人工智能的公司将获得不成比例的回报。问题是，这些收益是均匀的，这是我们的希望，还是在我看来，更有可能主要集中在早期采用者、网络效应、管理良好的国家以及可能的资本周围？>> 但你仍然可以想象，我们将看到自动驾驶汽车，其中拥有一辆汽车的成本是四倍，让我换个说法，乘坐自动驾驶汽车的成本比拥有一辆汽车便宜四倍。我们可以看到人工智能免费为我们提供最好的医生、最好的医疗保健，就像谷歌免费为我们提供信息一样。我们将看到我们世界中的许多事物被大规模地非货币化。我认为任何拥有智能手机和良好带宽连接的人都可以获得这些。这仍然不是你认为会发生的事情吗？你认为有什么原因会阻止这些服务的这种程度的分配，而这些服务是我们今天花费大量金钱的事情？>> 我确实认为人工智能会实现民主化。我完全同意你的观点。我认为无论是医疗保健、交通还是知识，人工智能都将大规模地实现民主化。但我同意埃里克的观点，这种全球生产力的提高不一定能转化为共享的繁荣。共享繁荣是一个更深层次的社会问题。它涉及政策。它涉及，你知道，地缘政治。它涉及分配，这与技术的能力是不同的问题。那么，你对在座的国家领导人有什么建议，他们将 ASI 视为别人的未来而不是自己的未来？他们应该做什么？我的意思是，这是部署的速度。他们没有多少时间来做出关键决定。嗯，值得描述一下我们现在在美国的情况，因为我们资本市场的深度以及台湾制造商（尤其是台积电）提供的非凡芯片，美国在构建这些所谓的超大规模计算方面拥有巨大的领先优势。如果将出现超级智能，它将来自于这些努力。这是一件大事。如果存在超级智能，想象一下像谷歌这样的公司发明了它，例如。我显然有偏见。嗯，能够解决人类无法解决的每一个问题的价值是多少？它是无限的。>> 当然。>> 所以，这就是目标，对吗？中国是第二。它没有资本市场，也没有芯片，其他国家也远远不够。沙特通过与美国合作做得很好。嗯，超大规模计算将位于这里和阿联酋。这是一个很好的策略。所以这是一个很好的合作例子。你选择站在哪一边。希望是美国。然后与美国公司合作。我认为各国都应该投资于自己的人力资本，投资于合作伙伴关系，并投资于自己的技术栈以及商业生态系统。正如埃里克所说，这取决于不同国家的实力和独特性，但我认为不投资人工智能在宏观上是错误的。>> 那么，根据投资涉及在本国建设数据中心的论点，你认为每个国家都应该建立一个拥有主权人工智能运行的数据中心吗？>> 每个国家都是一个非常笼统的说法。我确实认为，这取决于。这取决于。我认为，对于像这里这样的地区来说，显然是这样，因为你知道能源更便宜，而且是世界上的一个重要地区。但如果我们谈论的是小国，我不知道每个国家是否都能负担得起建造数据中心。但还有其他投资领域，对吧？>> 但让我举个例子。我们以欧洲为例。很容易批评欧洲。能源成本很高，对吧？融资成本也不低。因此，欧洲能够建造非常大的数据中心的几率极低。但它们可以与能够做到这一点的国家合作。例如，法国与阿布扎比达成了合作。所以有这样的例子。所以我认为，如果你从全球角度来看，并找出你的合作伙伴是谁，你的机会就会更大。我非常担心的是非洲。原因是非洲如何从中受益？所以显然有一些全球化的好处，更好的作物产量等等。但如果没有稳定的政府、强大的大学、主要的工业结构，而非洲除了少数例外之外都缺乏这些，它就会落后。它已经落后多年了。我们如何才能赶上？我认为这个问题还没有解决。>> 我们今天在人工智能方面取得了令人难以置信的进展，有效地开始解决人们所说的数学问题。这可能会影响物理学、化学、生物学。我们有可能，我的时间框架是未来五年，其他人可能认为更长，处于能够解决一切问题的地位，在那里发现的水平、新产品的创造水平、新材料、生物疗法等等将以超指数级的速度增长。埃里克，你如何看待五年后的世界？>> 所以，嗯，首先我认为这很可能会发生，技术上的原因是所有大型语言模型基本上都在进行下一个词预测。如果你有一个有限的词汇量，数学就是如此，软件也是如此，网络攻击也是如此，我很抱歉地说，你可以取得进展，因为它们是无标度的。你只需要做得更多。所以如果你做软件，你可以验证它。你可以做更多的软件。如果你做数学，你可以验证它，做更多的数学。你不会受到现实、物理和生物学的限制。所以很可能在未来几年，在数学和软件领域，你会看到最大的收益，我们都理解你的观点，数学是一切的基础。我认为，在现实世界方面，有一个专家。可能需要更长的时间才能正确处理现实世界，这就是她创立我投资的公司。你想谈谈吗？>> 是的。嗯，首先，我实际上想有礼貌地表示不同意。好的。我不认为我们会在五年内解决所有问题，基础数学和物理化学问题。>> 我们就这个问题打个赌。>> 是的。所以，费 14。>> 好的，你明白了。>> 我们应该打个赌。嗯，人类最伟大的能力之一就是提出新问题。你知道，正如阿尔伯特·爱因斯坦所说，科学大部分是提出正确的问题，我们将继续找到新的问题来问，我们的科学和数学中有太多我们尚未回答的基础问题。费，你的新公司 World Labs，正在创造非凡的、持久的、逼真的虚拟世界。你是否期望我们将花费更多的时间在虚拟世界中？我的 14 岁的儿子们现在在他们的虚拟游戏世界里花费了太多的时间。但是，在后 ASI 的世界里，我们不必工作那么多，有更多空闲时间，我们的机器人也许在那时正在为我们服务，我们是否会生活在虚拟世界里？>> 好问题，所以我们正在构建大型世界模型，这是在大型语言模型之后，人类能够拥有我们能够理解的物理三维世界的空间智能，我们可以想象任何种类的三维世界，并能够进行推理和互动。所以，直到我们公司所做的事情，我们还没有这样的世界模型。所以 World Labs，我联合创立并担任首席执行官的公司，刚刚创建了第一个大型世界模型。所以我看到的未来，我实际上同意你的观点，我们将花费更多的时间在多元宇宙中。>> 是的。>> 虚拟世界。这并不意味着现实，真实的世界，这个世界，这个物理世界消失了。只是我们的生产力、娱乐、沟通，>> 我们的教育，>> 我们的教育将是虚拟世界和物理世界的混合体。想想，你知道，想想医学，你知道，我们如何进行手术将很大程度上是增强现实、虚拟现实以及物理现实的混合世界。我们可以在每个行业都做到这一点。所以，人类正在使用这些大型世界模型将进入无限的宇宙。嗯。>> 我有机会在后台看到你的模型。它太棒了。如果你还没有看过，请去看看费的 World Labs。她正在构建的技术将改变世界。所以，我最后一个问题是关于人力资本。超级智能被称为人类将要做的最后一项发明，因为它最终可以自动化所有过程。我们将看到它是否会自动化发现。我们将看到它自动化多少创造。但是在一个最佳策略、科学和经济决策都由机器做出的世界里，人类智力和领导力的最终不可替代的功能是什么？在 10 到 20 年后，人类将不可避免地剩下什么？>> 嗯，在 20 年后，我们将享受观看彼此参加人类体育比赛，并知道机器人可以 100% 的时间击败我们。>> 但如果你去看一级方程式赛车，你会想看一名人类车手，而不是一辆自动驾驶汽车。>> 是的。所以人类总是对其他人类能做什么感兴趣，我们将有自己的比赛，也许超级计算机也会有自己的比赛。但你的推理假设了许多许多事情。它假设了计算机中出现了类似人类的智能爆发。不太可能，可能是一种不同的智能。它假设人类在很大程度上没有参与这个过程。极不可能。所有证据，费说得很好，都将是人机交互，基本上我们都会拥有，所以回到你说的关于 800 万人，80 亿人拥有智能手机，拥有爱因斯坦在他们的手机里，聪明人，其中有很多，会利用它来提高自己的生产力。获胜者将是人类及其判断与超级计算机及其能力和记忆之间的团队合作。请记住，这种超级计算机和超级智能需要能源的狂热是有限制的。>> 所以也许有一天会发生的是，超级计算机说，嗯，我们需要更多的能源，而这些人类建造聚变反应堆的速度不够快。所以我们将加速它。我们将提出一种新的能源形式。现在这是科幻小说。但你可以想象，在某个时候，系统的目标函数会说我需要什么？我需要更多的芯片或更多的能源，我会自己设计。现在，这将是一个伟大的时刻。>> 我同意。>> 我确实想说，当我们谈论通用人工智能和超级人工智能时，最重要的事情是我们牢记人类的尊严和人类的能动性。我们的世界，除非我们要消灭这个物种，而我们不会，必须以人类为中心。无论是自动化还是协作，它都需要将人类的能动性、尊严和人类福祉置于所有这一切的中心。无论是技术、商业、产品、政策还是其他任何方面。我认为我们不能失去焦点。>> 阿门。各位，女士们，先生们，费，埃里克·施密特，谢谢大家。