Transcription
生活怎么样？>> 生活很精彩。我是说，它实际上从未如此精彩过。我想我知道你的感受。我知道你们在观众席里都感受到了。呃，我，我太激动了。实际上，>> Gemini 3 在谷歌是相当疯狂的时期，嗯？>> Gemini 3 一直很棒。我是说，我认为它已经，呃，你们都知道它基本上是所有基准测试中的最先进的。我们对此感到非常自豪。但我想对我们来说，你知道，我们已经在谷歌度过了三年多的旅程。Gemini 1 大约在两年前发布。呃，我是说，我认为对我来说，我只说我自己。我总是支持弱者。很高兴来到一个谷歌是弱者的公司。>> 你总是支持弱者。>> 支持弱者。>> 很高兴来到一个谷歌是弱者的公司。我们所有人都相信。实际上，我们所有人都相信。但对我们来说，呃，踏上这段旅程，比赛不是，我是说比赛就像任何人一样，对吧？但是，呃，我们为过去几年的成就感到自豪。>> 你应该，你应该非常自豪。实际上，顺便说一句，你以一些非常深刻的方式证明了那些唱衰者是错的，因为人们几乎放弃了谷歌在某些领域，然后突然他们又回来了，所以这是一个巨大的成功，恭喜你。没有比这更好的人了。所以，请告诉我们，如果我想到谷歌的超能力之一，它可能是市场上最全栈的公司，从你们制造的 TPU 到分布式系统架构，再到，你知道，堆栈的每一层，一直到大规模触及用户和消费者的应用程序。>> 触及数十亿用户。这在多大程度上是你们成功的巨大复合贡献者？>> 这是一个很棒的问题，G2。我认为这实际上是其中最大的一部分，如果不是最大的话。换句话说，如果你看看我们的堆栈，当然，我们为我们的 TPU 感到自豪。我们为 Gemini 感到自豪。我们为我们的分布式系统架构感到自豪。我们为我们的数据中心架构、我们的电力输送机制等感到自豪。但是，我想说，我们真正的秘密武器是我们可以在公司内部跨越堆栈协同工作来解决最终问题。这才是最令人欣慰的。所以，如果你看看 TPU，它们不是孤立设计的。它们与 DeepMind 共同设计，但也吸收了所有不同用例的输入，搜索、广告、YouTube。>> 你经常与 Dennis 密切合作。你知道，我工作的最棒的部分之一就是与他们如此密切地合作。如果你看看它，基础设施和模型，我是说，我们正处于一个，呃，伟大但充满挑战但又很棒的地方，在那里，我们最终成为公司可以交付什么的限制因素。>> 你，你的团队，因为基础设施以及速度有多快。>> 当然，我希望我们也能得到赞赏。>> 是的。是的。>> 但它是，我是说，换句话说，如果我们有更多，那将是积极的。那将是一个巨大的积极因素。所以，是的，Demis 和我经常交谈。我们的团队深入参与。所以，正是这种共同设计过程对硬件尤其重要，但对软件也同样重要。我是说，我们今天正在构建的软件有两到三年的领先时间。硬件，正如你所知，也有两到三年的领先时间。所以，预测未来的能力，与开发模型的那些研究团队携手合作，并能够回答“事物可能走向何方”。当然，没有人能预测那么远的未来。但是，如果我们知道概率分布函数是什么样的，概率结果的帕累托是什么样的。>> 然后我们可以根据彼此的关系来评估设计，看看什么最有可能。所以，让我们来谈谈 TPU，因为我认为它，它是 XPUs 第一次大规模成功的，而你们做得非常出色，在某种程度上改变了 GPU 的稀缺模式，尤其是在推理方面。所以，请告诉我们，首先，你们是否将 TPU 出售给公开市场，还是将其保留在 GCP 领域？>> TPU 完全是 GCP 的产品。但我确实想指出，Nvidia 和 GPU 是 GCP 的一个巨大产品。换句话说，我们关注的是解决客户问题。>> 与 Nvidia 的深度合作。呃，我们在谷歌的许多成功都源于与 Nvidia 和 GPU 的合作。所以，我们关注的是解决客户问题，无论是内部的还是外部的，并且可能存在一种产品比另一种产品更适合特定用例的情况。所以，那种垂直整合，你提到的那种全栈解决方案，始于客户试图解决什么问题，然后我们向上向下工作，以提供理想的、当然是最好的解决方案，无论我们组合了什么。所以，对我来说，最令人兴奋的部分是我们如何实现专业化。换句话说，对我来说，无论是 GPU、TPU，还是许多其他公司的产品，实际上，正如你们所知，它正在爆炸式增长，这里的真正变革是，我们不再需要通用的一刀切的架构。>> 我们可以为个别用例进行专业化，甚至为它发明全新的硬件或软件架构。你是否认为对于每一类模型和每一个变体，你都可以随着时间的推移开始蚀刻不同的、为之优化的硅片，还是说？>> 这是一个很棒的问题。这是一个很棒的问题，正如我们所知，你专业化的程度越高，效率就越高。>> 对于特定的工作负载。现在，实际上，我问题的答案是肯定的，如果我们能将硬件设计到交付的领先时间缩短 10 倍。就像现在，从我们说“嘿，这里有一个很棒的新硬件”到我们将其大规模部署到数据中心，速度不是光速，但非常快，需要三年时间。>> 是的。>> 预测。>> 你认为在 10 年内会变成什么样？>> 是的。所以，在 10 年内，我认为我不知道它会变成什么样，但是如果我们能在 10 年内将其缩短到，比如说三个月。>> 哦，哇。>> 三个月。>> 那很激进。>> 我不知道怎么做，对吧？我不知道是否有人知道，>> 但是，如果我们能将其缩短到三个月，实际上，从效率能力改变世界的角度来看，它将是一个截然不同的地方。但是，三个月的芯片周期会使消耗变得非常困难吗？你怎么做，因为整个价值链都必须转移，对吧？因为你实际整合芯片到数据中心的方式，你的产能规划，你如何将其推向下一个，因为你的保质期和这些芯片的摊销仍然需要，你知道，三年、五年、七年。>> 嗯，所以这可能是三年、五年、七年。我认为现在编码的六年或五年或任何数字都不是自然法则，就折旧周期而言。>> 你是说那将是基于可编程性，还是实际的，你知道，你会每三个月有不同的 tape out？>> 嗯，所以这是关键问题。我想你会需要不同的，呃，如果它是可编程的，那么它就不会是专业化的。>> 对。对。对。>> 如果它不是专业化的，那么它就不会为工作负载进行优化。但是，所以三个月是激进的。>> 我不知道怎么做。>> 两似乎是可行的。>> 那是三分之一的时间。是的。>> 对。然后现在，好吧，18 个月。好吧，你可能在观众中有很多人开始感到紧张，也许这是不可能的。12 个月似乎不可行。但这里的重点是，我们能拉进多少，我们能专业化多少，我们能专业化多少，我们就能提供多少效率。所以，换句话说，如果你考虑，无论是电力，如果我能提供比特定工作负载更节能 2 倍、5 倍的东西。换句话说，无论你是 GPU 还是 TPU，还是你最喜欢的其他加速器，对于特定的工作负载，能效至少是 10 倍。现在，好吧，如果我有一个更专业的东西呢？我想实际上 10 倍是可行的，但那样我必须提前三年预测未来。>> 那么 XPUs 的经济性如何变化？>> 嗯，再次，我认为是 10 倍。>> 倍数。>> 10 倍。>> 再次，想象一下 XPU，顺便说一句，我也包括 GPU，对我来说，我知道有不同的术语等等。但是对我来说，像我们现在这样进行专业化，至少能带来 10 倍的提升。现在，这可能是成本，可能是规模，可能是所有方面的电力。我获得了巨大的提升，但我放弃了通用性。我不会在数据库上运行 XPU。太空，最后的边疆。>> 谈谈太空中的数据中心，我们之前和 Matt Garmin 谈过。>> 谈谈你在这方面的观点。这实际上非常令人兴奋，而且，正如你可能知道的，谷歌正在关注太空，许多公司也从一个，呃，没有双关语，从第一原理的角度来看，太空有很多吸引力。我是说，太阳同步轨道，24/7 的太阳能>> 在太空中的冷却>> 是的，我会讲到的，我会讲到的>> 嗯，电力，顺便说一句，三年硬件的视角实际上是能够提供容纳该芯片的建筑和电力。所以，我们可以谈论，如果我能在三个月内制造出芯片，我该如何容纳所有这些。所以，消除一个瓶颈，也许如果我们能解决所有问题，将 XPU、GPU、TPU 等等放到太空，拥有 24/7 的太阳能，无需电池，我是说，没有云层覆盖，没有日落等等。现在，好吧，冷却。>> 而且你的效率提高了 30%。>> 效率提高了 30%。网络，就像实际上，假设我们将这些卫星连接在太空中，延迟会降低 50%，因为光速不必通过光纤等等。现在有很多问题需要解决，冷却是一个，维护是另一个。>> 维护。>> 是的。换句话说，这些计算机加速器是大自然的奇迹。>> 而且，至少在我们这边，我们肯定在努力维护它们。但我认为>> 我认为太空机器人是可行的方法。>> 所以，是的，如果你看看我们正在增长的规模，无论是陆地还是太空，我都相信我们目前部署和维护基础设施的方式不太可能扩展，也不太可能达到我们需要的可靠性、速度和其他一切水平。换句话说，我认为我们今天部署基础设施的方式与 2002 年左右谷歌建造第一个数据中心时的方式没有根本区别。>> 那是 10 兆瓦，我记得这件事发生时，人们说 10 兆瓦。>> 对。>> 现在，当然，人们谈论 10 吉瓦，就像已经完成了一样。所以，是的，一千倍意味着你必须重新考虑你所做的一切。>> 你认为太空中的吉瓦会在十年内实现吗？>> 嗯？嗯？这是一个好问题。我认为它比 5 年后要远，在这样的规模下，但现在就给它一个时间框架还为时过早，我只能这么说。我认为这是一个绝对值得投资并全力以赴的想法。因为，我们将从中学习到很多东西，而且我认为无论如何它都将推动最先进的技术。你现在最担心的是什么？>> 嗯，每周都在变化。每周都在变化。而且是>> 你担心的是速度。>> 速度是，呃，一个通用的词，它贯穿了我们做事、交付、迭代的所有方面。>> 在很多情况下，很多周，能源都会在列表中。>> 供应链，我是说，我们都在努力增长我们发现的事物的数量。>> 你认为内存价格如何？>> 嗯，嗯，所以，在某些周，这也是我担心的列表之一。在内存价格方面，尤其是在 DRAM 和 HBM 之间的分裂方面，以及它如何影响>> 你看到隧道尽头的光明了吗，还是 Lipu 说要到 28 年底？>> Lipu 比我更了解。所以，我认为，嗯，我希望他是错的，但是，但是他比我更了解。所以，我认为，我认为我们可能不得不考虑这一点。>> 在接下来的几年里，限制和瓶颈将出现在哪里？顺便说一句，实际上，让我退后一步。现在绝对被认为是真理但你根本不同意的事情。>> 嗯，我认为，嗯，现在很多人都在依靠效率。>> 效率，无论是软件效率、模型效率还是硬件效率。我们在所有这些领域都进行了巨额投资。>> 能源效率。现在令人惊叹的是，随着我们的能力增长，随着这些模型变得越来越强大，人们正在用它们做更多的事情。所以，换句话说，我们交付的每一次效率，而且，我是说，效率方面的改进速度是我从未见过的。但是它被消耗掉了，而且是瞬间的，因为能力，我知道你之前和 Mike 有过一次非常有趣的谈话。这些模型，不仅仅是模型，还有围绕它们的编排、代理、编码等等，它们提供的能力会立即消耗掉效率。所以，我是说，我认为一个信念或一个希望，取决于你怎么看，是效率将拯救这一天。它们最终会，但我可能和 Lipu 一样，这可能比一些人想象的要晚。然后，如果你想到我们人类知识库中没有的原始见解，AI 开始生成这些见解，成为乘数，而不是仅仅做我们今天做的事情，只是做得更好。>> 我们现在是否正在从 AI 中生成有意义的原始见解，你认为这些见解将开始解决真正复杂的问题，还是你觉得我们离这种情况还有点远？这是一个很棒的问题，但我想对我来说，这是，嗯，嗯，此刻更有影响力的一个问题是，作为一名前教授，一位相对长期的教授和学者，我总是问自己这个问题，在学术界，你根据你想法的原创性来评判。>> 是的。这总是让我抓狂，因为对我来说，我总是站在巨人的肩膀上，我是真的原创，还是我>> 想法的消费化可能更>> 对，你是否以某种方式将正确的一系列想法组合在一起等等。所以，我认为对我来说，这个时刻最令人兴奋的事情是关于 AI 和 GenAI，即使对于像我这样超级幸运、超级幸运能够获得信息、获得专家的人来说，我也能够获得近乎即时的见解，来解决相对高级的问题，而不是原创的见解。换句话说，如果我能立即联系到世界顶尖专家或排名前 1% 的专家，我敢肯定我会获得同等或更好的结果。但是现在，在如此多的不同领域，我能够近乎即时地获取令人难以置信的信息。所以，换句话说，即使从商业影响的角度来看，我可能会在工作中问一个问题，我很幸运有很棒的团队。回答我简单的问题可能需要很多人很多天。>> 他们是最聪明的人。他们工作非常努力，但是现在能够在几秒钟、几分钟内获得相同的答案，而无需消耗许多人的时间。>> 聪明人。那是原创的吗？不。>> 不。但这是一个改变游戏规则的。>> 巨大的。>> 这是一个改变游戏规则的。>> 对。所以，对我来说，我并不太担心 AI 是否能够用我们自己无法实现的原创想法超越人类。也许会发生。也许，那是什么时候会发生？>> 你将它们很好地缝合在一起，你将拥有意义。>> 对，此刻，并能够访问它们。>> 是的。>> 对。换句话说，我可能拥有计算机科学博士学位，非常幸运。我可能理解计算机科学的概念，但我没有生物学、化学、金融学、医学等领域的博士学位。但是能够访问这些，我认为这是改变游戏规则的。>> 所以，这实际上是一个非常有趣的应用场景，因为如果我想想生活中最有增值的使用场景，那就是研究和学习。>> 是的。>> 对。我们对编码的讨论不成比例，我们对客户支持的讨论很多，我们对许多这些用例的讨论很多。研究和学习是一个被谈论最少的。它实际上是最常用的。它是人类中最多的。正是如此。而且我们实际上已经习惯了，以至于我们停止了给予它任何赞誉。>> 我认为，我喜欢这样描述它，当我与我的团队交谈时，我们有机会，我们还没有到那里，而且有很多挑战。我也听到了关于安全性的讨论，但我们有，>> 和安全。我们有机会为每位患者提供一位医生，为每位学习者提供一位老师，并能够根据个人需求进行专业化。我们讨论的商业用例也是如此。所以，我是说，这将是一个改变游戏规则的，换句话说，正如你所说，你以学习为导向，你想学习，你在这方面做得很好等等。能够向所有人开放这一点，我认为我们正处于这个边缘。>> 是的。然后同样，能够主动交付。>> 它现在已经开放了吗？>> 我认为它非常非常接近。我，嗯>> 如果你有互联网，你就有了。>> 如果你有互联网，而且如果你现在，我认为最后缺失的部分是>> 个性化。>> 换句话说，我们已经看到了这方面的迹象。>> 是的。>> 对。G2，他喜欢这样呈现信息。>> 是的。>> 或多或少相同，但略有不同。>> 是的。是的。我认为我们几乎到了，如果我们可以为健康、为商业智能等做到这一点，我们就可以了。而且它不像一些人认为的那么遥远。所以，如果你想让人们对未来几年以及 Gemini 4 和 Gemini 5 的发展感到兴奋，而不透露路线图，但比它们只会变得更好作为模型更具体一些，我们都知道这一点。>> 嗯，你认为我们可以期待什么，以及我们可以期待什么样的改进？每个模型都比以前好 10 倍吗？是好 25% 吗？是好 100 倍吗？而且这种改进会随着时间累积吗？>> 还是会开始趋于平缓？>> 在这一点上，我没有看到任何放缓。所以，我想说的是，模型的性能，很难量化。>> 但是，我想说，它绝对感觉就像 CPU 全盛时期的摩尔定律一样。我们有 Lipu 在观众席里，你知道，每 18 个月，你就迫不及待地想拿到最新的 CPU，因为同样的价格，一切都变得好了一倍。我认为，我们现在在模型方面，每三个月到六个月，我没有量化，但是事情感觉像是翻了一番，甚至更快。>> 而且评估是否在成比例地改进，以准确衡量模型是否真的在以我们所期望的水平改进？>> 评估正在变得非常好，评估正在变得非常好，因为我认为它们越来越关注实际用途，而且我们有足够的数据，模型过去做得不好。>> 所以，我们现在可以肯定地说，“你知道吗，对于这些困难的情况，那些模型以前可能有些挣扎的情况，它们通常在许多用例中都做得很好。”它们提供了多少改进？所以，很难说，“好吧，在所有评估中，模型都好了一倍。”但是，我可以告诉你，而且顺便说一句，这很棒，因为无论是 Claude，还是 ChatGPT，还是 Gemini，它们都在变得更好，而且它们都在让，我想说，竞争环境也让每个人都变得更好。>> 而且，所以，看到这一点真是太棒了，一轮又一轮的发布，你现在感觉你获得了更多的见解，获得了更多的能力，而且它能够走得更远、更深、更快。>> 我没有问你什么问题，但我应该问的？你对这个观众有什么建议？>> 嗯，你问了很棒的问题。我想说的是>> 哦，Gemini。>> 是的。嗯，不，不，不，我不会这么说，但是，我是说，对我来说，我当然爱 Gemini，我爱我们正在那里做的事情。但这是非常真诚的，这不是一个赢家通吃的环境。这是一个，你们都听说了。>> 这是自互联网以来最大的革命。>> 我还记得互联网，你还记得互联网，它是一个相当大的事情。我是说，我认为我们现在正处于这样一个阶段，我们这些有孩子的人，他们无法想象在互联网爆炸之前生活的人是如何生活的，对吧？世界已经发生了翻天覆地的变化。这将是那样，但要大得多得多得多。而在技术领域，从来没有比现在更好的时机去工作、去贡献、去产生影响，无论你是从事顶层工作，还是从事基础设施工作，就像我一样，就像思科正在做的所有了不起的事情一样。基础设施的好处是，无论是互联网还是人工智能，它都需求旺盛。所以，也许你没有问这个问题，但我想说的是，撰写支持这场革命的技术书籍的机会，我是说，这是独一无二的，对吧？我们将真正发明未来，关于这些服务、这些代理将如何交付。>> 我必须感谢你。>> 我认为如果我不感谢我们两个组织之间所做的所有伟大工作，那将是失职的，我希望看到这种伙伴关系随着时间的推移而蓬勃发展，如果没有你的支持，这一切都不会发生，感谢你和你的整个团队，以及他们如何与我们的硅团队和我们的网络团队合作。所以，非常感谢。感谢你来到这里。希望你下次再来。>> 当然。很乐意。是的，谢谢。非常感谢。非常感谢。