Transcription
你好，Ray，非常感谢你今天加入我。我非常期待能听到你关于整个华为芯片和英伟达芯片的讨论进展的见解。你知道，这引起了媒体的极大兴趣，我认为，我想真正理解这一切背后的技术是如何运作的。那么，我直接开始问第一个问题吧。据说华为的昇腾 910C 将取代英伟达的 H20，因为昇腾 910C 将是中国人工智能公司唯一能获得的芯片，如果 H20 被禁售的话；或者说，它在这个阶段已经足够先进，而且确实是一款非常优质、先进、高性能且更便宜的替代品，即使没有禁售，中国的人工智能公司也很可能会选择使用这款芯片。是的。所以，我认为 H20 和昇腾 910B 或 910C 之间有很多噪音，对吧？但要真正看一下所有这些硬件的基准测试，你可以看出，就硬件和软件能力而言，H20 目前仍然是更好的硬件。在硬件方面，尽管 H20 的计算性能低于 910C，但它提供了更好的内存带宽，对吧？而内存带宽对于推理训练来说至关重要，这是推理模型，你知道的，目前最重要的模型中的关键要素。所以，据我所知，H20 仍然是中国许多人工智能公司或云服务提供商的最佳选择，包括腾讯、阿里巴巴、百度、字节跳动等，对吧？这对我来说非常清楚，我看到的数据显示，在中国过去几个季度的大部分推理训练实际上是由 H20 完成的，而不是 1910C，对吧？而 H20 提供了更好的集群扩展能力，并最终进入数据中心。如果你是想要训练模型的公司，你希望在最好的硬件上，用最好的软件来训练，你的工程师可以在软件代码上调用硬件，对吧？所以，据我所知，目前 H20 仍然是中国云服务提供商或其他人工智能公司的更好选择。但由于最近对 H20 的禁售，这可能会迫使中国公司别无选择，对吧？所以他们只能选择华为的 910C，甚至美光（Micron）的 S6。而这正是我认为真正困扰我的问题，因为你真的让中国公司别无选择，对吧？他们只能使用低延迟。为了更详细地阐述延迟，关于基于大量延迟的云矩阵（Cloud Metrics）有很多讨论，我认为云矩阵如果看一下它们的基准测试，与英伟达的机架级解决方案 MVL 72 相比，它们基本上将多个芯片组合成一个机架级解决方案，然后比较这两个硬件基准测试，它们会说“哦，云矩阵在性能、内存性能等方面更好，等等”，但请记住，云矩阵是一个系统，它结合了比 MVL 72 更多的芯片，而且如果看成本，它比 MVL 72 贵五倍，对吧？所以，如果你是华为，你想扩展整个云矩阵系统将非常昂贵，而且你可以看到这个云矩阵系统的价格对客户来说将非常昂贵。但现在，如果你让这些客户别无选择，他们只能购买华为的产品。华为目前仍然是国内在硬件方面的最佳解决方案。是的。我在这里停下，以便进行任何后续问题。是的。是的。我认为甚至有一些分析师几周前发布了一份报告，说这在能源和金钱方面成本极高。但然后他们有一个小标语说，我想这对中国来说不是问题，但对环境来说不够好，而且没有人愿意为同样的结果支付更多费用，对吧？所以这很有趣，但我想了解，假设禁售真的发生，它实际的商业影响是什么？比如，对这些公司来说，继续训练模型和用于推理将更加昂贵。我们还能期待什么？它会在用户体验方面落后吗？用户体验会很差吗？它如何影响人工智能的实际使用？是的，我认为这是很多人误解的部分。我们训练人工智能的方式是，我们在公司现有的硬件上进行训练。如果你看看百度、阿里巴巴、腾讯、字节跳动这四家公司，它们拥有英伟达和 AMD 的 GPU 库存，拥有成千上万的 GPU，对吧？即使你禁售了 H20，据我所知，在禁售之前，它们已经获得了超过 150 万个 H20，对吧？而这些 GPU 不会消失。它们仍然可以使用这些 GPU，还有像 H100、H200、H800 这样的 GPU，它们是在出口管制之前购买的，甚至有些是在出口管制后非法购买的，对吧？所以，所有这些人工智能模型在未来几年内都可以继续训练。如果你考虑 GPU 集群的生命周期，通常可以维持四到五年，对吧？所以这些现有的硬件仍然可以训练中国的人工智能模型。因此，我认为在未来几年内，中国的人工智能模型开发不会下降或受到损害，考虑到它们现有的硬件。我认为对 H20 的禁售，它确实影响了中国计算能力的增长，因为它切断了它们计算资源的一个关键来源，这就是影响。我认为它不会影响未来几年中国人工智能模型的发展，对吧？而且想想这一点，现在它们没有比 H20 更好的硬件，但它们已经拥有大量比英伟达 H20 更好或同等水平的硬件。因此，考虑到它们的库存，它们将在未来几年继续训练。但我相信华为将开发出硬件，也许是两到三年后，硬件将比 H20 更好。我认为这是可以合理预测的，对吧？如果发生这种情况，市场份额将流向华为的客户，因为他们别无选择，它们的库存最终会贬值，所以它们会从华为购买更多客户解决方案，并最终将这些硬件部署到它们的数据中心，未来三到五年或五到八年内，许多人工智能模型将在华为的硬件上训练，而这正是 AMD 将真正担心的。它们在中国建立了一个非常强大的 GPU 生态系统，大多数开发人员采用英伟达的硬件而不是华为，而且大多数人只是基于英伟达进行开发，而这正是英伟达真正面临的问题，因为这关乎生态系统和采用，而不是纯粹的基准测试，而是关于单个芯片的性能。是的。是的。是的。是的。补充一点，我认为黄仁勋一直非常非常担心。我认为他在 H20 被禁售后变得更加直言不讳，他不断地说，在中国市场拥有影响力，拥有生态系统非常重要，不仅仅是硬件生态系统，还有软件生态系统。而且它们不想放弃它们的关键优势，因为它们在中国拥有的关键优势是广泛的部署，而且，老实说，中国工程师们只是熟悉英伟达的硬件，英伟达的硬件早在 2007 年就已推出。我们现在只谈论 GPU。还有消费级显卡的部分，对吧？许多开发人员还在显卡上使用 CUDA，他们希望在不被限制的情况下继续保持这种状态，而在中国进入或继续保持竞争性存在的能力，对英伟达来说意味着巨大的市场潜力损失。是的。是的。所以，简要介绍一下 CUDA 的背景，对吧？CUDA 于 2007 年推出。最初主要是用于科学或研究目的，但后来意识到这可以成为它们硬件的一个很好的附加功能，因为它们基本上允许开发人员为特定目的进行编码，无论你是用于人工智能模型训练，还是用于科学研究，或者用于更通用的研究或其他技术目的。而这比华为过去几年推出的整个 CAN（可能是指 Cuda 的竞争对手）早得多。所以你可以假设，考虑到英伟达的全球影响力，你可以看出，许多开发人员现在会轻易地偏爱英伟达的硬件，并且在美国、中国以及世界任何地方都有更好的采用率。关键优势是第一点，普及和部署。第二，如果你看 CUDA，它们不仅仅是支持 GPU 的软件。我们谈论的 H100、H200、H800 也支持消费级显卡，对吧？RTX 3060、RTX 4090，甚至最近的 RTX 4090。而这正是它们区分自己的地方。如果你看看华为的 C N（可能是指昇腾），它实际上只支持昇腾系列或一般的芯片，对吧？这是一个巨大的差异化因素，因为如果你是今天的消费者，嘿，比如我想要一张显卡，对吧？华为并不真正销售显卡。所以我只能从英伟达购买，而这实际上帮助英伟达更广泛地构建了它们的生态系统，而不是只专注于高性能计算。是的。而且如果你也想想，我认为 CAN（可能是指昇腾）也提供，它们与平台内的几款软件合作，因为你知道 CUDA 实际上是一个平台，它们与 PyTorch、TensorFlow 合作，显然开发人员可以轻松地使用 Python 进行开发，而不是使用 CAN 需要配合的任何优化解决方案。是的。但这确实很有趣，我认为你能详细说明一下 CUDA 如何提供更好的平台体验吗？它不仅支持各种芯片，而且就实际使用它的开发人员而言，体验有何不同？是的，我认为，我认为第一点，你知道现在 CUDA 助手已经与许多库合作了，这些库，这些通常的开发人员库，基本上就像你可以使用的资源，用于编码以及如何开发你的应用程序或不同目的的应用程序。而这正是华为在过去几年里一直在努力的事情，因为你确实需要那些全面的库，并与其他软件合作。我无法深入技术细节，但拥有这样一个更广泛的生态系统，不同的软件或应用程序可以协同工作，为开发人员服务，对吧？因为每个开发人员，老实说，每个人都有不同的目的。但不是每个人都想做高性能计算，对吧？如果你只是想做高性能计算，那实际上没有多大意义，因为在整个 GPT 出现之前，不是每个人都使用 GPU 进行高性能计算和人工智能模型训练。是的，我有一个不同的问题，稍微偏离这个话题一点。它是如何运作的？你知道现在中国有各种芯片厂商。华为、中芯国际，所有这些不同的所谓可比的或中国的解决方案，与 AMD、台积电，所有那些他们无法获得的设备或公司相比如何？它们是如何协同工作的？它们与西方同行相比如何？你能向我们解释一下吗？是的，我认为，我认为第一点，所以对于中芯国际，我认为最好从中芯国际开始，因为它是华为最重要的芯片制造伙伴，对吧？目前两家公司都受到严格的制裁控制，被列入实体清单，而且它们的设备供应商也被列入实体清单。自 2020 年以来，它们基本上一直在面临更广泛的监管挑战。华为被列入实体清单，我记得是 2020 年 9 月。中芯国际，我想是同一年或之后。还有其他内存制造商，如长江存储、长鑫存储，长江存储已被列入实体清单，对吧？所以对于中芯国际，它们主要做的是，今天华为想要芯片，它们进行芯片设计，它们与一家名为海思（HiSilicon）的公司合作，这是华为的芯片设计部门，所以中芯国际从华为和海思那里获得设计，然后它们为智能手机制造芯片，最近主要是高性能计算芯片，如中芯国际的 GPU。所以这就是中芯国际所做的。当然，它们也做其他业务，它们制造传统芯片，或者更成熟的芯片，简单来说，就是不太先进的芯片，这些芯片用于消费电子产品、冰箱、手表等。所以，这是它们的业务组合。你看，业务不仅仅是关于华为，也包括其他消费电子产品。它们可能与其他中国的无晶圆厂公司合作。是的。所以，是的，我认为这就是中芯国际所做的。关于设备制裁，只是为了增加一点背景，它们被禁止从 ASML 获得 EUV（极紫外光刻）设备，这可以追溯到 2019 年特朗普政府时期。这极大地限制了它们扩大先进芯片生产的能力。我的意思是，先进芯片通常是指 7 纳米以下的芯片，它们难以扩大 7 纳米的生产规模，并且在 7 纳米芯片方面也难以实现商业上可接受的良率。它们的良率可能只有 40% 到 50%，这对于芯片制造商来说并不是理想的良率。谢谢，这非常有帮助。对于非技术人员来说，网上有很多信息很难消化，而你把它分解得非常非常容易，这很棒。我想结束这个话题，我想快速地总结一下，但我想知道我们是否遗漏了什么？有很多关于华为被禁售的新闻，你知道英伟达将被取代，就像我们刚才谈到的，华为已经被列入实体清单几年了，它们在很多方面都在为这一天做准备，变得越来越自给自足。那么，我们在这里遗漏了什么，人们没有谈论的？或者这真的会如何影响未来全球更大的人工智能发展？是的，我认为有两件事。我认为从 SMIC 和华为开始，对吧？我们知道 SMIC 曾经是华为芯片的唯一制造商，对吧？而且，最近我不知道你是否读到过，据报道华为也在建造自己的晶圆厂。晶圆厂就是制造芯片的工厂。它们也在建造自己的晶圆厂，这非常有趣，而且彭博社在一年前就报道了。我认为华为现在试图做的是，正如我提到的，SMIC 在扩大 7 纳米芯片等先进芯片的生产规模方面面临重大挑战，甚至在 7 纳米以下。而你作为华为的客户，你想要一个稳定可靠的合作伙伴来制造芯片，因为即使你拥有中国最好的设计，但如果你无法制造出芯片，那就好像我们拥有最好的设计，但由于实体清单的状态，我们无法与台积电合作。所以，我认为华为试图做的是，我们想要双重生产来源，一个是在 SMIC，另一个是内部制造。所以我认为华为现在试图做的是，一方面我们想外包给 SMIC，另一方面我们也想建立自己的产能，看看我们是否能在良率和生产能力方面做得更好。当你自己建造更多晶圆厂时，你也在增加生产能力，二，它增加了达到 7 纳米以下的能力，三，它创造了竞争，我认为这非常重要，因为对于 SMIC 来说，它们就像，嘿，我们基本上垄断了华为的订单，现在你创造了竞争，这可能会促进 SMIC 的创新和管理能力。而这些是目前非常重要的发展。对于华为的芯片，这一点非常重要，它们一直在遭受其人工智能芯片生产能力的限制。所以即使它们拥有非常好的 GPU，拥有国内最好的 GPU，但如果无法扩大规模，比如你是云服务提供商，现在它们正在推动数百万台的产量，在这种情况下，它们很难真正满足客户需求，而这正是它们面临的挑战，它们试图扩大产能。但我认为，无论是 SMIC 还是华为，它们的问题在于，过去五年里，它们一直受到半导体制造设备和所有这些控制的限制，我们将看看它们如何克服这些。我的感觉是，由于半导体制造设备控制，它们将持续面临限制。是的，这真的很有趣。谢谢你向我们解释了这一点。我没有更多问题了，但还有什么你想谈论或强调的，或者只是与大家分享的吗？是的，我认为，我认为就是这样。有一件事我想鼓励大家阅读 AI Prime 的文章，特别是其中一些文章，我认为是我读过的最好的文章之一，无论是在 Substack 还是主流媒体上。我真的鼓励大家，特别是关于腾讯的文章，关于阿里巴巴的文章，了解中国目前行业的发展以及它们如何将技术从企业层面推广到客户层面非常重要。还有一篇文章讲述了中国人工智能初创公司的战略如何改变，而这些都是我们需要真正理解的非常重要的趋势，并且我们可以从中吸取教训。而现在，你知道中国和美国的人工智能行业基本上是脱钩的，但对双方来说，互相学习以推动人工智能部署和人工智能创新的界限，并建立更好的人工智能以造福自己的国家或造福全世界，这一点也非常重要。是的。