📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

Accelerating Next Generation Chip Design With Agentic AI and GPUs

NVIDIA Omniverse37:27

Transcription

欢迎来到 GTC。欢迎来到英伟达。我叫 Rambo Jacobe。你知道,当大多数人见到我,得知我在英伟达工作时,他们都会问一个共同的问题。他们说,你知道,我们总是听到英伟达,世界上最有价值的公司,人工智能的基石。但他们问我的问题是,英伟达是做什么的?英伟达是做什么的?这是一个非常复杂的问题,因为我们是一家非常复杂 Thus. 我们在开发的产品上很复杂。我们与客户的合作方式很复杂。我们与合作伙伴的合作方式很复杂。所以,在接下来的 40 分钟左右,我想尝试解释我们是谁,我们做什么,我们如何走到今天,我们要去哪里,以及我们将如何到达那里。好消息是,我不会给你们看任何幻灯片。好吧,这不是幻灯片。这是壁纸。好吧,这是壁纸。但我要做的是,我将尝试通过演示我们开发的一些工具,以及实际展示一些支持我们正在经历的智能 AI 革命的硬件,来向你们展示这一点。现在,我希望我们能在这场会议中做到两件事:第一,我不希望这是我单方面对你们讲话。我希望这是我与你们交流。所以,我将尽我所能让它变得……尽可能地联系起来。如果我抛出问题,请包容我。我希望你们都能试着回答。第二件事是,会议结束后,我将在主厅举办一个“与专家交流”的会议,你们可以来,可以问任何关于我展示的内容,或者任何关于英伟达的问题。你们可以看到,也可以亲手触摸我在这里带来的硬件。我希望你们不要错过,因为世界上很少有人能亲手触摸到 B100 芯片。所以请充分利用这个机会。那么,废话不多说,让我们开始吧。我们将首先谈谈英伟达开发的一些硬件。之后,我们将进行一次硬性切换,谈论英伟达为智能 AI 开发的所有软件。然后我们将再次进行一次硬性切换,谈论我们为物理 AI 开发的所有软件,并尝试在对话结束时留出几分钟时间进行现场提问。那么,让我们开始吧。我将进行盛大揭幕。首先我想向你们展示的是这个。这是 Blackwell。这是我们称之为 B100 的产品。这是我们卖给所有开发 AI 模型、部署这些模型、对这些模型进行推理的客户的 GPU。像 AWS、GCP 和 Oracle 这样的客户,以及那些自己搭建本地数据中心解决方案的客户。这款产品负责训练这些 AI 模型的所有数学计算。这款产品负责运行这些模型推理的所有数学计算。现在,让我们来谈谈 GPU 的基本原理。GPU 本质上是一个大规模并行处理器。它可以并行处理很多事情。所以,为了让你们有个概念,今天,如果你看数据中心里最高性能的 x86 CPU 之一,CPU 传统上大约有 300 个核心。所以它们可以并行处理大约 300 件事。而这台机器,它有 15,000 个核心。它可以并行处理 15,000 件事。所以,虽然 CPU 在进行串行计算方面非常出色,但这些机器在并行进行大量计算方面非常出色,而且速度非常快。这就是为什么它们对 AI 如此重要。现在,这可能是人类制造过的最复杂的机器之一。这台机器有超过 2000 亿个晶体管。它的架构开发成本接近 100 亿美元。所以,这真是一台令人难以置信的机器。现在,通常当人们看到这个时,他们对英伟达的误解就开始了,因为他们看到这个,然后说,“英伟达,我了解他们。他们是一家 GPU 公司。”好吧?但我们不是一家 GPU 公司。这里有人能猜出我们是谁,我们是什么吗?它以 P 开头。有什么猜测吗?大声说出来。平台。我们是一家 AI 平台公司。让我们来谈谈成为一家 AI 平台公司意味着什么。而展示这一点的一个绝佳产品就是这台机器。这是我们的 GB 300 超级芯片。这个超级芯片有两个我刚才举起的 Blackwell GPU,但它也有我们自己的 Grace CPU。这是我们开发的基于 ARM 的 CPU。它不是基于 x86 的。现在,当人们看到这个,听到我们开发 CPU 时,他们通常会问我们一个问题:为什么?为什么你们要去重新发明轮子?市面上有大量的 x86 CPU。为什么你们不能只使用标准的 x86?嗯,英伟达有两个我们极度关注的方面。第一个是性能,但第二个,也是詹森在主题演讲中多次强调的,可能是最重要的,是每瓦性能。也就是能效。这款 CPU 的 AI 性能高于 x86 CPU,但功耗只有一半。一半的功耗。我们关注的一切都是性能,但更是每瓦性能。稍后我还会再谈谈能效。现在,除了 GPU 和 CPU,我们还是世界上最大的网络公司之一。很少有人知道这一点。我们开发了所有网络解决方案,用于连接数十万个 GPU。所以,我们也是一家网络公司。但也许成为一家平台公司最重要的方面,第四个也是最重要的方面,有什么猜测吗?软件。我们是一家软件公司。我将在几分钟后详细介绍软件,但我想再多谈谈能效。所以,这台机器,这个 GB300,安装在这些 Blackwell 机架之一,这些 NVL72 机架之一。每个机架有 36 个这样的设备。所以,每个机架大约有 72 个 GPU。所以,几年前,大约七年前,我们帮助建造了世界上最大的超级计算机之一。它是一台名为 Summit 的超级计算机。我们为橡树岭国家实验室建造了它。他们用它进行天气模拟和分子模拟。现在,Summit 的性能大约是 120 PFLOPS。FLOPS 是每秒浮点运算次数。120 PFLOPS。一台性能极高的机器。它有 27,000 个 GPU,占地约 6,000 平方英尺的数据中心。功耗为 13 兆瓦。现在,仅仅七年后,其中一台机器的性能就达到了 300 PFLOPS。性能翻倍多。它只有大约一平方米大小,但功耗只有 120 千瓦。所以,请仔细体会一下。在七年的时间里,我们使世界上最大的超级计算机之一的性能翻倍,而现在的功耗只有原来的百分之一。一切都关乎性能,但也关乎能效。现在,让我们谈谈我们如何实现这种能效。七年前我们建造 Summit 时,我们唯一贡献的就是我们的 GPU。而今天,我们提供的是平台。这台机器的每一个方面都由英伟达控制。我们开发 GPU,我们开发 CPU,我们开发网络,我们开发所有软件,我们开发所有线缆。我们控制着这台机器的每一个方面。所以,我们有很多方法可以优化这台机器,以实现这些性能和能效的提升。我们不是一家芯片公司。我们是一家系统公司。我们是一家平台公司。让我们来谈谈软件。几分钟后我们会再展示一些硬件。所以,我们英伟达,是一家小公司。我们是一家小公司。我们有很大的影响力。但从员工人数来看,我们只有大约 40,000 人。我们是一家非常小的公司。这 40,000 人中,大约有一半是软件工程师。我们构建大量的软件。我们构建大量的基础模型。让我解释一下什么是基础模型。今天,如果你是一家企业,想要使用所谓的推理代理来提高工作负载的性能,提高工作效率,你可以从头开始构建一个推理模型。但问题是,这会花费数十亿美元。需要很多年才能完成。但另一种选择是,你可以使用一个已经开发好的、开源的基础模型,在此基础上进行构建。这就是英伟达所做的。我们开发了许多我们开源的基础模型。这是詹森主题演讲中的另一个重要观点。我们开源了我们所有的模型,并使其广泛可用,任何客户都可以开始使用它,并在其上构建自己的应用程序。我想让大家熟悉的一个网站是我们称之为 Build 的网站。Build.nvidia.com。在 Build 上,我们收集了我们开发的所有软件。我们为推理、视觉、视觉设计、检索、语音、生物学以及我们工作的各种垂直领域开发软件。我们在这里提供 Build,这样任何人,这是一个面向公众的网站,任何客户,任何大学生,任何想了解 AI、了解这些模型如何工作并尝试如何在自己的工作流程中应用它们的人,都可以来这里,在这里尝试它们。他们可以对这些模型进行推理。他们可以在我们的平台上进行。它都在我们自己的数据中心运行,并试图真正了解它如何适用于他们自己的应用程序。现在,我们这里有数百个模型。我没有时间一一展示,但我想向你们展示其中几个。其中一个我们非常兴奋的模型是这个叫做 Neatron 的模型。Neatron 是我们内部的推理基础模型。我想向你们展示 Neatron 的功能。所以,我将点击 Neatron。我已经打开了标签页。这就是你登陆的地方。现在,你知道,我真的不喜欢这个页面的一个地方,这个登陆页面,是我们给出了这些非常愚蠢的例子,说明你可以问这个基础推理模型做什么。草莓里有多少个 R?对吧?谁在乎?谁在乎?我们想看看这些机器如何在实际应用中用于提高企业效率。所以,让我来给你们展示一个例子。我们经常接触到的一类客户是制造业客户。而制造业客户面临的一个挑战是预测性维护。预测性维护是指,例如,你想能够了解工厂里的所有机器,并能够预测机器何时会发生故障,这样你就可以在它真正发生故障并导致整个生产线停产之前进行修复。所以,例如,他们可能想知道机器人手臂何时会发生故障。现在,这是一个已解决的问题。你可以使用机器学习算法,使用传统的机器学习算法进行预测性维护。但传统机器学习算法的挑战在于,它们非常擅长处理大量数据并识别异常值。例如,它们可以处理机器人关节的大量温度数据,并能够检测温度是否略高于应有的水平,然后说,“嘿,有问题。你需要关注那台机器。”但它们无法告诉你问题是什么。它们无法告诉你如何修复。嗯,让我告诉你如何用推理模型做到这一点。所以,我们将来到这里,向这个推理模型提问。我们将说,“嘿,你是一个预测性维护助手。以下数据集包含 GE Vernova 的生成器 RPM。”你们都知道 Genova 吗?他们制造风力涡轮机。他们制造将天然气和电力转化为能源的涡轮机。我们的一位伟大的合作伙伴,詹森,在他的主题演讲中提到了他们。所以,你是一个预测性维护助手,你将处理 GE Vernova 1.5S 1.5 兆瓦风力涡轮机在满负荷运行下的生成器 RPM。请审查数据,确定系统是否正常工作,是否存在任何问题,以及可能存在的问题是什么。这是一个非常非常实际的应用,对吧?这是某些行业面临的真实问题。所以,我将来到这个标签页。这里有 300 个数据点。Genova 风力涡轮机的 300 个生成器 RPM 数据点。我将把这 300 个数据点放进这个模型。我将粘贴进去,然后让它思考。我会为你打开思维链,这样你就可以看到它思考的过程。它现在正在做的是,它正在查看所有这些数据。它正在尝试找到数据中的关系和模式。它正在研究 Genova 风力涡轮机,并在几秒钟内得出了一个完整的分析。让我们看看这个分析,看看它说了什么。所以,它所做的就是研究了这台机器,然后说,你知道吗,在满负荷运行时,这台风力涡轮机通常在 1500 RPM 左右运行。我没有告诉它这个。它自己发现的。它注意到的是,最初这台机器运行得相当好。根据我们提供的数据点,它的运行速度在每分钟 1497 到 152 转之间。所以,它说,最初这台机器运行得非常好,但随着时间的推移,它看到的一个问题是,一个问题开始出现。它开始看到所有这些变化出现在风力涡轮机数据中。RPM 甚至低至 1480。它们飙升至 1519。所以,它开始检测到不稳定。好吧。它开始检测到异常数据和不稳定。然后它说,“嗯,你知道吗?存在一个潜在问题。存在这种不稳定。让我试着找出原因。让我试着找出是什么原因造成的。”所以,我们再往下看一点,它说,“你知道吗?你可能遇到的所有问题是:一,你的齿轮箱可能有问题。二,你的控制系统可能出现故障。它们没有很好地控制风扇的叶片角度。你的轴承可能损坏。你的传感器可能损坏。”我们可以进一步推动这个模型。我可以对它说,“嘿,你知道吗?外面真的很冷,而且下着雨。”然后它会进行推理。它会回来告诉你,“你知道吗?你的风力涡轮机的风扇上可能结冰了。这导致了风力不稳定。派人去处理这些冰。”这台机器非常快速地处理了数据点,理解了其中存在异常值,然后告诉你问题是什么,以及如何解决它们。现在,我们英伟达开源了这个基础模型,我们的客户 Genova 可能会采用这个模型,并对其进行微调。他们会做一些额外的微调工作,使用他们关于风力涡轮机的所有数据进行微调,通过这样做,他们可以创建一个能够完美理解其产品、完美理解故障机制的代理,并帮助他们找出机器在发生故障之前为何会发生故障。好吧,我们提供了这个基础模型。让我再给你们看一个例子。让我再给你们看一个例子。我将使用完全相同的模型。我只是在一个新标签页中打开了它,然后问它一个不同的问题。我们在美国面临的一个问题是医疗保健成本不断上涨,我们需要想办法降低成本。而消除低效率的最佳方法之一是识别保险市场中的欺诈行为。能够在人们提交索赔时识别欺诈。我想向你们展示,同一个推理模型,我刚才用于预测性维护的模型,如何识别欺诈。我们将来到这里。我们将向这台机器提问。我们将说,“嘿,请审查以下牙科保险索赔,并识别那些可能存在欺诈并需要额外审查的索赔。”所以,我将去这里,复制这组牙科保险索赔,然后将其提供给该模型。然后让它思考。同样,我将为你打开思维链。这台机器现在正在做的是,它正在审查每一项索赔。它正在研究索赔的典型成本应该是多少。它正在尝试理解人们去牙科诊所时的诊断,并将其与他们接受的手术进行比较。然后,它很快就回来了,告诉我们,“嘿,你知道吗?以下是你们应该查看的索赔。”例如,Smilecare Dental 的这项索赔,问题是,尽管只需要简单的局部假牙,但却需要花费 12,000 美元进行全口重建,这似乎是合理的。所以,它理解了诊断。它理解了建议的治疗方案。然后它说,“等一下,这听起来不对。再仔细看看这个。”让我们看看另一项索赔。让我们看看 Bright Smiles Clinic 的索赔 19。问题是严重的牙周炎,并用 600 美元的洁牙和根管治疗。这是它的危险信号。它理解这个手术通常需要手术干预,而不是他们被收取 600 美元的洁牙和根管治疗。所以,同样是同一个基础模型,我们所做的是,我们将其提供给保险公司,它们可以利用多年的保险数据对其进行微调,并开发一个单一的智能模型,该模型能够处理所有这些索赔数据,并尝试推断这些索赔数据是否合理,从而使人们在试图识别欺诈时效率大大提高。现在,你们中的许多人看到这个,可能会想,“哇,这太神奇了。”但你们中的一些人可能会想,“那又怎样?那又怎样?我们可以用 Perplexity 来做到这一点。我们可以用 OpenAI 来做到这一点。我们可以用 Gemini 来做到这一点。解决方案已经存在。顺便说一句,这些都是很棒的公司。我们与他们合作非常密切,他们是我们的好伙伴。但这就是“那又怎样”的意义所在。“那又怎样”是,如果你使用其中一个模型,我们称之为 ChatGPT,并用你公司的所有专有数据对其进行微调,你并不拥有那个模型。ChatGPT 将拥有那个微调后的模型。所有这些都不属于你。它不是你的知识产权。那些是封闭模型。而当你使用 Neatron,一个开源模型,并对其进行微调时,知识产权就属于你。你可以随时随地随心所欲地使用它。它是你的知识产权。这就是这些开源模型和封闭模型之间的根本区别。它属于你。你所做的任何改进都属于你,不属于任何人。让我再给你们看一个例子。嘿,嗯,好奇一下,这里有多少人是在金融服务领域工作的?有来自银行业的人吗?好吧,我们有很多银行来找我们英伟达,一些世界上最大的银行。他们面临的最大挑战之一是管理他们所有的摄像头。所以,一些来访的银行有数千家分支机构。我们称其中一家大型银行有 5,000 家分支机构。在每家银行中,通常有 50 到 60 个摄像头负责安全管理。它监控着发生的一切。我喜欢问他们这个问题。我看着他们说,“嘿,你知道吗?你非常成功。你有这么多分支机构。你有 500 到 60 万个摄像头在记录你所有分支机构的内容。我问 CEO,我说,“嘿,谁在看所有这些摄像头?”你们认为他们的回答是什么?没有人。没有人看那些内容。他们对此非常被动。他们所做的是存储所有这些摄像头数据,当发生非常糟糕的事情时,当他们被抢劫或发生其他事件时,他们会回去查看所有这些摄像头数据。嗯,我们试图教导我们的客户如何从被动转为主动。我们通过一个名为视频搜索和摘要引擎的软件来实现这一点。我将让你们观看一个简短的视频。我将让你们观看这个简短的视频。现在,在播放视频之前,我需要做一个快速免责声明。我们在英伟达有很棒的员工。我将要展示的视频是我们位于圣克拉拉的仓库。视频中出现的所有员工都是我们自己的员工。我们有很棒的员工,但他们绝对是糟糕的演员。他们中没有人会赢得艾美奖,好吧?所以,请原谅他们。所以,在这个视频中,发生了一些事情。在这个视频中,发生了一些事情。一,我们看到一位工程师走进来。他带着很多箱子,哎呀,不小心掉了一个箱子。那可是价值五十万美元的 GPU 啊。好吧,我将快进。所以,他只是把箱子放在那里,然后走开了。我将继续快进。我们再往前看一点,另一位员工走了进来,捡起了箱子。他很震惊。他很震惊。然后他把箱子放错了地方,我得说。所以,我们再也找不到那个库存了。我将继续。现在,这里发生了一些有趣的事情。这位员工回来了,他做的是,他把这个开放的空间,这个开放的仓库空间,开始用警戒线围起来。他本质上是在创建一个限制区域。现在,这个人需要快进很多,因为他做事真的很慢。我敢肯定他是按小时计酬的,所以他还在拉警戒线。他完成了警戒线的悬挂,然后走开了,然后我们又来了一位员工。有趣的是,这是我们的副总裁之一,他说,“你知道吗?我根本不在乎你的限制区域。我想去哪就去哪。”这可能发生在很多地方,无论是银行、仓库还是制造厂。所以,我现在所做的就是,在我向你们展示这个视频时,我把它通过我们称之为视频搜索和摘要引擎。这个引擎所做的是,它观看了我快进的整个 3 分钟视频。它总结了整个视频,创建了所有元数据,我们现在可以与之对话。所以,我将下来,我们将向这个 AI 提问几个问题。我们将说,“嘿,你知道吗?我的仓库里收到了一些损坏的 GPU。有没有发生什么可能导致这些 GPU 损坏的事情?”我将修复我的打字。我不用,它是一个大型语言模型。它会弄清楚的,但我是一名工程师。我就是不能让它这样。好吧。所以,我们将问它这个问题,然后让它思考几分钟。它会思考,然后会回来告诉你,“你知道吗?根据我看到的情况,有几件事可能导致了这些 GPU 损坏。一个例子是工人零将箱子掉在地上,这被认为是一个异常。虽然箱子的内容没有具体说明,但箱子里可能含有损坏的 GPU。”这个模型所做的是,它观看了内容,并进行了推理。它推理了它在视频中看到的内容如何可能导致这些 GPU 损坏。让我再给你们看一个例子。让我们来到这里,问它另一个问题。我们可以说,“嘿,你知道吗?嗯,我在我的限制区域发生了一些盗窃事件。你能告诉我是否有人进入了我的仓库的限制区域吗?”我知道我有一个错别字。我只会让它继续,看看它会得出什么。让我们思考一下。实际上,是的。你知道,根据视频摘要,工人七号进入了你仓库的限制区域。该工人越过了警戒线,并携带箱子进入了限制区域,这可能违反了安全规定。我喜欢这一点,因为它两次将他们置于不利境地。此外,工人七号当时没有佩戴任何可见的个人防护装备。好吧,这个模型所做的是,它不仅仅进行了面部识别。它也可以进行面部识别,但它能够推理它所看到的内容,推理内容。这就是任何物理空间的所有者如何能够利用他们所有的摄像头,并从被动公司转变为主动公司。我们还有一个名为 Deepstream 的软件,它连接到这个模型,并实时连接到组织中的所有摄像头。它摄入所有这些数据,并能够实时告知何时发生不应该发生的事情。好吧,所以你也可以实时运行所有这些模型。好吧,我继续。到目前为止我展示的一切都被认为是推理。但英伟达正在大力关注的一个领域是物理 AI。我们希望能够模拟真实世界。这是一个例子,说明我们如何做到这一点。顺便说一句,VSS,我们在展厅有一个很棒的演示。我鼓励你们所有人都去看看,亲身体验一下,并尝试一下。给它你自己的问题。所以,这是我们称之为 Neoysics 的模型。通过这个模型,我们可以模拟真实的物理对象。好吧。所以,这里的例子是,我们想制造一辆汽车,我们想能够通过风洞计算流体动力学对其进行虚拟测试,以确定这辆汽车是否具有空气动力学性能,以确定该设计是否具有空气动力学性能。传统上,这需要通过一个完整的 CFD 引擎,使用一个名为 Ansys Fluent 的应用程序来完成,这是一个非常昂贵的过程。我们所能做的就是创建能够实时模拟这些物理对象的模型。这是车辆的数字孪生,你可以开始实时进行实验,并获得该车辆空气动力学性能的一阶近似值。所以,你知道,我将展示一辆更有趣的汽车。让我们换一辆不同的汽车。好吧。所以,我们在这里创建了这款跑车的完美数字孪生。我们正在模拟玻璃的外观。我们正在模拟铝制车身的外观,这里每个组件的摩擦力,并且我们可以进行分析,看看,你知道吗,如果我们,比如说,在这辆车上放下扰流板会发生什么?好吧。当我放下扰流板时,我希望你们关注的一个区域是车辆尾部后面的这个区域。让我们看看放下扰流板后会发生什么。你可以看到,我们正在实时模拟汽车后部的涡流。所以,现在你不必经历完整的 CFD 过程。你可以非常快速地进行分析。我们将此软件与客户和合作伙伴(如 Cadence)集成。我们有一个很好的例子。我们在展厅有一个很好的演示。我们可以向你们展示物理学 Nemo 如何模拟飞机的空气动力学性能,以及你们如何实时实验飞机的结构。让你们非常容易地想出像空气动力学这样的东西。让我再举一个例子。我们非常看好的一个领域,你可能在詹森的主题演讲中注意到了,我们非常看好人形机器人。我们相信这些机器将在未来五年内进入我们的社会并普及。我们为这个领域构建了两样东西。我们英伟达可能永远不会制造机器人,因为这不是我们的专长所在。我们的专长在于构建这些机器中的边缘推理。这是一个例子,说明了边缘推理。这是我们称之为 Jetson Nano 的产品。一个机器人需要两个这样的机器。这是最边缘的推理机器,它运行所有模型,使这些机器能够执行诸如理解环境、路径规划等任务。所以,我们提供这种边缘推理机器。但我们提供的另一件事是另一个开源软件,我们称之为 Groot。Groot 是英伟达预先训练的模型,它允许这些机器进行路径规划,理解它们的环境。现在,我有一个问题要问你们。当你构建一个在现实世界中工作的 AI,一个在物理环境中工作的 AI 时,这个 AI 从根本上需要意识到什么?一些猜测,比如从根本上说,它需要理解什么?空间。继续。重力。物理学是它需要理解的。在我们的环境中,有重力,有质心,有动量,有摩擦力。所以,当你构建一个在我们的环境中工作的 AI 时,你需要做的是,你需要在一个能够模拟物理学的环境中进行模拟和训练。这就是这个环境。这就是 Omniverse。快速说一下,我将平移这个摄像头,这样你就可以看到这不是视频。这是一个我们正在运行的模拟。我们在这里 Omniverse 中所做的是,在这台机器上。这是我们的 RTX Pro 机器之一。在这台机器上,我们正在创建一个环境的数字孪生。这是我们用来训练这些机器如何上下楼梯的一个环境。但我们在这里 Omniverse 中能够做到的最令人惊叹的事情是,我们能够模拟物理学。我们能够模拟重力,这样这些机器,这些机器的数字孪生就可以学会它们需要用多少力来驱动它们的腿、它们的关节来上下楼梯。我们可以把水倒在地板上,让它非常滑,并模拟摩擦系数,以确保这些机器不会滑倒,并教它们如何不滑倒。好吧,但这一切都始于运行在模拟计算机上的数字孪生。现在,最后我想展示的是另一个数字孪生的例子。数字孪生很棒。它们用于机器人技术,但也用于优化制造环境。你可以用它们来优化空间。这是一个例子,说明我们最早的客户之一如何使用 Omniverse 创建了一个数字孪生。这是宝马,他们能够使用数字孪生来模拟他们的整个生产线,以优化流程、吞吐量、模拟产量、他们能够生产的车辆数量。一旦他们完善了那个数字孪生,一旦他们能够模拟它的每一个方面,顺便说一句,我们展厅里的一位合作伙伴是西门子。好吧?西门子在这个领域至关重要,他们展示了他们如何实时创建这些数字孪生。好吧?一旦你能够创建这些数字孪生,你就可以优化这个楼层的每一个方面,好吧?你可以进行测试和实验,但最重要的事情是,你可以用这些数字孪生来创建一个环境,在那里你可以教机器人。好吧,你使用这些数字孪生来模拟一个环境,在那里你可以教机器人如何在里面移动。好了,我的时间到了。我还有大约两三分钟,我想留出几分钟时间让你们提问,但我将在 10 秒钟内总结一家近五万亿美元的公司。好吧?我们不是一家 GPU 公司。我们不是一家 GPU 公司。我们是一家平台公司。是的,我们构建了所有支持 AI 的硬件,但我们也开发了所有软件,所有基础软件,允许客户在其上创建他们的智能 AI 解决方案,以及所有使我们的客户能够构建他们机器人技术的软件。这就是英伟达。这就是我们所说的平台。好吧,我们还有四分钟。这里有人有什么问题想现场提问吗?其余的问题我们可以在“与专家连接”会议中解答。是的,先生。嗯,情况是这样的,客户首先在像西门子这样的产品中设计他们的数字孪生。好吧,他们在西门子产品中布局了他们的整个生产现场,一旦他们完善了,这就是如何制作任何数字孪生,你从西门子或戴尔 Cadence 这样的产品开始。一旦你在那里完善了,你实际上就把它带入 Omniverse,在那里我们赋予它 3D 真实感,赋予它所有这些动态性,允许人们与之互动。所以,数字孪生就是制造现场的布局方式,完全基于该空间的基本设计。嗯,是的,后面的先生。是的。所以,一个很好的问题。问题是我们是否对这里所有的资产进行了建模?所以,Omniverse 是一个平台,因为我们只提供工具,我们与许多合作伙伴合作,他们创建了可以导入 Omniverse 的资产。所以,比如我们之前看到的那些数字人类。我们不创建那个。我们与第三方合作,我们创建与该第三方应用程序的连接器,他们创建数字人类,然后他们可以将其导入 Omniverse。我们接受 USD 文件。我们接受 CAD 文件,当你通常布局一个制造环境时,你会在 CAD 中进行。我们接受其他制造商提供的 CAD 文件。我们可以称之为其中一个机器人手臂制造商,然后我们可以将其导入 Omniverse。我们可以导入该资产并赋予它图形外观。好吧?但再次强调,这不是关于拥有最终解决方案。这是关于创建其他人可以在其上开发解决方案的平台。>> 是的,先生。你展示了你们提供的模型的许多用例。你认为所有你展示的东西中,哪个用例在计算上是最复杂或最密集的?>> 嗯,视频处理很复杂,对吧?我们进行的所有推理都很复杂。嗯,举个例子,视频处理所需的计算量,一个拥有八个 H100 GPU 的服务器,H100 是上一代 GPU,其中一个服务器可以同时处理大约 200 个摄像头流。现在,你不会做的是,你不会让这些摄像头流持续不断地进入 H100,因为通常情况下,这些摄像头流正在观察没有发生任何事情的环境。你会做的是,你会放一个更小的模型在前面,它能够检测运动,一旦检测到运动,你就会启动更大、更强大的模型。所以,基于此,你可以说,其中一个拥有八个 GPU 的机器理论上可以处理比 200 个摄像头多得多的数量。但是,你知道,这是计算成本高昂的领域之一。好吧,还有一分钟。还有最后一个问题吗?嗯,是的,先生。而且,你知道,嗯,你知道,我们在许多封闭模型中看到了巨大的成功。只是好奇为什么你认为会这样?为什么人们不更多地使用开放模型,尤其是如果他们可以拥有数据、拥有模型的话?>> 是的。所以,封闭模型真的很容易使用,对吧?它已经存在了。它已经开发好了。对于这些开放模型,需要进行一些额外的工程工作。所以,公司确实需要拥有自己的一些专业知识,一些自己的程序员,但这种投资是值得的,因为你可以创建一个你完全拥有知识产权的模型。好了,各位。非常感谢大家的光临。我将在楼下的“与专家连接”会议室。如果有人有任何问题,如果你想亲眼看看这些硬件,请随时过来。祝大家 GTC 愉快。