Transcription
人工智能基础设施是人工智能领域中一个至关重要且快速发展的组成部分。我是迈克尔·克里格斯曼,今天在 CXO Talk 第 884 集节目中,我们将与 AMD 的首席技术官兼执行副总裁马克·佩珀马斯特一起探讨这个话题。马克负责管理广泛的硬件和软件产品组合。那么,让我们开始吧。
在过去的 13 年半里,我有幸成为 AMD 的首席技术官,正值行业一个令人难以置信的转折点。因此,我和丽莎·苏当时被招募进来,因为 AMD 是一家享有盛誉的硅谷公司。它已经有 55 年的历史,并且拥有巨大的潜力,但当时也面临着挑战。所以,这是一个在人工智能刚刚开始崭露头角的时候加入的机会。
想想 2012 年,当你开始首次实现自然语言处理,使其能够比其他技术具有更高的准确率,从而能够有效地利用神经网络引擎,并能够实现未来承诺的初步愿景。所以,时机是完美的。AMD 拥有出色的构建模块,CPU 技术、GPU 技术、其他加速器以及将它们组合在一起以解决特定市场(从超级计算机到个人电脑再到嵌入式设备)的专业知识。所以,这是一个绝佳的机会。AMD 拥有非常优秀的人才。而且,正如我所说,这简直是一份梦想中的工作。
当今的科技世界正经历着生成式人工智能的又一个转折点。这对 AMD 意味着什么?真正的转折点确实是生成式人工智能。我们看到了即将到来的潜力,因此我们开始投资,并确保我们的硬件和软件技术能够到位。但生成式人工智能是一个如此根本性的转折点,迈克尔,因为它使人工智能能够被大众所接受。
现在你可以进入,当然这一切都始于 ChatGPT。所以,想想 2022 年 11 月 ChatGPT 问世,突然间,你就可以进行对话了,你将令牌或问题输入到这个 ChatGPT 中,它就可以利用超级计算为你提供你从未想过能从计算机中获得的那种智能的答案。所以,它确实打开了人工智能,以及其背后的超级计算,面向大众。
我们看到了什么?难以置信的是,从那时起才过去了几年,能力就爆炸式增长,大型语言模型和 ChatGPT 的准确率越来越高,还有 Grok 和其他模型。但你现在也看到了向推理的转变。所以,现在人们真正开始认识到如何部署人工智能,并从根本上改变我们所梦想的大多数流程。
那么,这种向推理的转变,以及你刚才描述的对准确性的期望,这对 AMD 在技术、战略方面意味着什么?对准确性的需求增加,以及现在推理的转变,意味着数百万、数千万用户,ChatGPT 每周已经有 4 亿到 5 亿次用户交互,这简直令人震惊。我必须说,这对我们以及我们行业中的同行来说,支持这种计算的需求正在呈指数级增长。我称之为对更多计算的“永不满足的需求”。而且它必须是高效的,因为你不能仅仅投入越来越多的引擎,因为它会消耗比我们拥有的更多的电力。
因此,迈克尔,这需要大量的创新,才能以一种聪明的方式推动这种计算能力。而且,它确实需要理解软件算法如何与硬件协同工作,否则你无法真正优化。
那么,你的战略是否同时涉及硬件和软件的交互?你是否正在拓宽你的产品组合,从你传统上更专注于处理器的业务中拓宽?我们一直是一家硬件和软件公司,但多年来,我们一直是“大写 H”的硬件和“小写 s”的软件。软件非常非常重要,但一直是赋能者。现在,在这个人工智能时代,软件同样重要,甚至更重要,坦率地说,因为它比硬件更重要。因为正如我所说,我们不能在硬件上放松,那些引擎必须在每一代产品中都越来越高效。但要释放这种力量,你必须了解人工智能算法的发展方向,有哪些技术可以用来使人工智能更高效?我们能否使用不同的矩阵数学方法来使其更高效?是否存在算法?想想你的听众可能知道的,当 Transformer 被引入人工智能模型以及 Flash Attention 时所发生的变化。这些都是算法中的技术,可以使人工智能更准确、更高效,而硬件必须与之匹配。
因此,这需要硬件和软件之间非常紧密的协作,而这使得在人工智能领域开展竞争变得困难。迈克尔,我告诉你,AMD 必须努力争取在这些创建最前沿大型语言模型、人工智能新进展的公司中获得一席之地。我们必须证明我们是那个参与者。我们可以带来竞争,这使我们能够与他们的开发人员接触,从而确保我们的路线图在人工智能领域具有绝对竞争力。
正如你所描述的,在当今这个市场中,AMD 的胜利意味着什么?我们与我们的首席执行官领导层保持着非常紧密的沟通,她的沟通始终在激励我们做到最好。当我们进入一个市场时,我们打算迅速获得份额。我们希望成为该市场的领导者。迈克尔,我给你的类比是我们曾经在服务器 CPU 市场所做的事情。当我和丽莎加入时,我们实际上不得不退出服务器市场,因为我们没有足够有竞争力的 x86 CPU。所以,我们制定了一个战略。让我们获得领先的 CPU。让我们赢得那个市场,因为很明显,如此多的工作负载正在迁移到云端,迁移到数据中心。所以,我们正是这样做的。而且,芯片设计并非一蹴而就。所以,这花了整整五年时间才推出我们新的领先 CPU。它被称为我们的 Zen 系列处理器。但看看服务器市场发生了什么。当我们于 2017 年推出该产品时,我们的市场份额几乎为零,而现在已接近 40%,而竞争对手英特尔曾占据主导地位。这正是我们希望在 GPU 和 CPU 领域所做的。GPU 和 CPU 实际上是紧密协作的,这正是我们希望在人工智能领域所做的,而且我们已经开始了。当我推出我们第一个面向人工智能的处理器、人工智能优化的处理器时,它被称为 Instinct 300,MI300。2023 年 12 月。所以,第一年生产是 2024 年,我们从这些数据中心 GPU 的几乎零收入增长到一年 50 亿美元。这是 AMD 有史以来最快的产品上市速度。所以,这就像,再次,零份额到大约 5%。这是一个巨大的市场,但我们不会放松。我的意思是,我们将像我向你描述的 CPU 之旅一样去做。这需要一代又一代地倾听客户,推出产品,倾听,然后在每个世代中改进硬件和软件产品。这正是我们为数据中心 GPU 所做的,坦率地说,这也是我们整个产品组合所做的。从 PC 到嵌入式设备再到游戏显卡,它们都经过人工智能加速。
访问 cxotalk.com,订阅我们的新闻通讯。我们有令人难以置信的节目即将推出。所以,请关注。
你如何与 OpenAI 等模型制造商合作,以优化你的产品以满足他们的最终需求?我们必须加强这方面的技能。你不能去 OpenAI 或 Meta,或者那些对创建优化的、处理生成式人工智能巨大任务(我应该说,生成式人工智能的巨大范围)所必需的基础知识了如指掌的人那里。因为,想想那些数十亿到数万亿的参数被输入到这些大型语言模型中。迈克尔,所以我们必须做的是匹配模式。所以,我们带我们最聪明的软件领导者参加了会议。你不能带着营销团队来。你不能挥舞着双手来。你必须带着你最深入、最专业的顶尖技术专家来。然后,我们通过内部招聘和收购来发展这种专业知识,这种软件专业知识。所以,现在我们拥有非常熟练的团队,他们可以坐下来,真正地深入了解瓶颈在哪里。我们如何通过我们提供的硬件软件来实现跨 CPU、GPU 和现在的机架的赋能,你必须将这些构建成机架规模的扩展,以便能够处理这些最大 LLM 的训练和推理。所以,这是我们在过去两年中建立起来的一项能力,而且我们必须非常迅速地做到这一点,而且我们必须非常敏捷。如果你与 OpenAI 和 Meta 等公司合作,有一件事是恒定的,那就是变化。我们会和他们坐下来,他们会说,“猜猜怎么着?我们本来走这条路,但我们找到了更好的方法。有更好的算法。这是我们需要做出的改变。”我们一直是一家敏捷的公司,总是能够迅速做出反应。这是我们 AMD 文化中的一个基石。好吧,我们正在与那些人工智能模型公司合作,并接受考验,而且幸运的是,我们做得很好。所以,我们反应迅速,适应并满足他们的需求。
各位,现在你可以向马克·佩珀马斯特提问了。如果你正在 LinkedIn 上观看,只需将你的问题输入聊天框。如果你正在 Twitter X 上观看,请使用 #CXOTalk 标签,让你的问题得到解答。
马克,这种变化有文化层面的影响吗?你提到了发展一套新的肌肉记忆。当你经历这种转折点时,是否需要进行文化变革?
我们在 AMD 经历了一次整体的文化变革。坦率地说,这是整个复苏的燃料。如果你看看 AMD 过去十年,我们取得了巨大的增长,迈克尔。我将我们的文化视为其中的重要组成部分。而文化的变化是首先要关注执行。当你制定产品路线图并与客户交谈并倾听他们时,你就会构建他们需要的功能,你知道可以区分你的产品并使其优于竞争对手。你必须在你承诺的时间内以高质量交付,并成为那个值得信赖的供应商。所以,这只是一个狂热的焦点。当我来这里时,我开始与工程团队的其他成员一起重新设计我们的工程流程,以便我们能够成为一个可重复的引擎,周期接一个周期地推出新的领先创新技术。而当丽莎从她负责 AMD 的所有业务,并在 2015 年成为公司首席执行官时。实际上,她是在 2014 年底成为首席执行官的。她带来了对整个公司令人惊叹的关注,即关注客户,倾听客户,关注交付真正能带来差异的产品。所以,这就是那个执行引擎。第三,就是简单化。让我们不要成为一个陷入复杂性的公司,而是真正简化我们的做事方式,以确保我们尽可能高效。所以,这是从公司层面的一个变化。
然后,随着人工智能的爆炸式发展,正如你所说,回到第一个生成式人工智能的发布,以及现在我们所看到的行业中的巨大转折点,它仍在继续,这再次给公司带来了新的动力。这种新的动力,正如我之前所说的,是成为一家与我们是硬件公司一样,甚至更重要的软件公司。所以,这是一个变化。其次,就是我们行动的速度。我从事这个行业已经四十多年了,我从未以我们现在的速度前进过。而且,当我审视我们整个公司时,我们正在以比以往任何时候都快的速度前进。而且,当我审视整个行业时,我看到每个人都在以更快的速度前进。人工智能正在加速创新交付给市场的速度和节奏。
我们有一个来自 LinkedIn 的问题。各位,你们何时还有机会问马克·佩珀马斯特?他是 AMD 的首席技术官。几乎任何你想问的都可以。这个问题来自 Prii Naran,她说,随着在公共云环境中运行大规模人工智能模型的成本不断上升,许多企业正在重新评估本地或混合基础设施选项。然而,裸金属部署在复杂性和维护方面带来了自己的挑战。从 AMD 的角度来看,首席信息官和首席技术官应该如何应对这种权衡?我们是否正在接近混合人工智能基础设施成为战略常态的时刻?
没有一种尺寸适合所有人。我们通过我们的产品组合来考虑这一点。我们将提供选择。我们提供广泛的生态系统,因此客户可以真正拥有选择,而不是被强加“这是你唯一的解决方案”。我们与原始设备制造商合作,与超大规模云服务商合作。所以,你开始看到一种二分法。你在超大规模云服务商那里看到了大规模的机架设计,它们支持这些最大的大型语言模型。因此,当你拥有大量的训练需求或大规模推理时,你可能会继续在云端运行它们。顺便说一句,由于我们正在推动行业效率,每 token 的成本正在下降。现在计算成本在上升,因为我们增加了越来越多的功能,但每 token 的实际成本在下降。但它仍然是一笔昂贵的账单,因为整个行业都在吸引越来越多的用户,因为人们开始部署人工智能,他们正在运行人工智能,消费者在日常生活中越来越多地使用人工智能,所以需求在增长。
企业是如何看待的?我确实看到他们正在转向混合模式。我确实看到他们,正如我刚才所说的,利用云来处理他们的大型任务,但他们开始定制和微调模型以适应他们的业务。他们正在利用他们拥有的数据。因此,你就不需要那个可以问任何问题的 LLM 了,你正在创建自己的大型语言模型,在某些情况下是小型语言模型,真正针对更具体的任务进行定制。这使得企业能够以更经济的方式在本地开发和支持,并且坦率地说,延迟更低。它更快。它就在工厂车间,就在用户寻求即时答案的地方。所以,我确实看到了混合方法。我看到了二分法,还有第三个方面,那就是嵌入式设备。所以,你有本地部署,你有在云端运行的,然后是第三个,人工智能的边缘正在真正发展,那就是你将人工智能引擎嵌入到数据采集点。这样,它就可以立即为被控制的过程提供智能。
CXO Talk 的其他嘉宾也表示,他们认为未来将是更小但更专注于特定领域和应用的模型。当你退一步思考时,这是显而易见的。当你开始部署人工智能时,它会变得定制化,它会变得更有效率,人们必须降低特定应用的成本。我们在 AMD 早就预料到了这一点,并且我们利用了我们拥有广泛产品组合的事实,正如我所说,从超级计算机(我们拥有世界上排名第一和第二的超级计算机,运行在 AMD 的 CPU 和 GPU 上)到数据中心(我们正在用 CPU 和 GPU 增长),再到智能 PC。我们是第一家推出用于 PC 中 Copilot 的深度人工智能加速的公司,这已成为我们产品组合中一个真正增长的部分。但我们也推出了最新的游戏显卡,利用人工智能进行精美的图形升级,利用嵌入式人工智能。然后,想想我们在 2022 年收购了 Xilinx,它是嵌入式设备领域的领导者,可编程 FPGA,以及我们拥有的嵌入式 x86 业务。所有这些都经过人工智能加速。所以,我们绝对预料到了这一点,并期望随着人们了解如何利用他们的数据并带来有效的推理应用程序,人工智能部署将继续增长。
我们来回答更多问题。我们现在有一些来自 Twitter X 的问题,这是来自 Ricardo Deonda 的,他说:“AMD 的内部 IT 组织如何充当你们人工智能解决方案的零号客户?你能分享一些内部采用直接影响产品开发的例子吗?”我们是一家科技公司。如果我们不让自己成为零号客户,那真是太丢人了。但我们实际上已经这样做了很多年。大约四年前,我们显著提高了这方面的可见度,成为零号客户。所以,我们的首席信息官直接参与,Hosmok 将与客户互动,他将了解他们的需求。他将与他们分享我们如何部署人工智能。他还支持我们的工程团队运行我们的计算系统。而且,我们甚至不考虑推出新的数据中心 GPU、新的数据中心 CPU、新的 PC,直到我们的 IT 部门已经试用过,并且已经首先部署给 AMD 的用户、计算用户,并且我们已经测试过。我们首先构建数据中心计算集群。我们部署了数百台 PC,然后才推向市场,同样也适用于我们的嵌入式应用程序。对于嵌入式应用程序来说,这有点难,但对于 PC 来说,通过我们的数据中心计算产品成为零号客户,这并不难。我们正是这样做的。事实上,我还要补充一点,我们实际上加快了我们的芯片设计过程。这就是我们所做的。我们开发芯片设计,硬件和软件必须有效协同工作。那么,我们在芯片设计过程中做了什么?我们正在使用 AMD,而且你只需要想想,有数十亿个晶体管。我们最新的 AI 芯片有 1540 亿个晶体管。实际上,我们最新的芯片现在有超过 1800 亿个晶体管。你如何将所有这些晶体管布局在硅片上,以及你必须将它们组合在一起的大量互连?一切都必须完美。不能有一个晶体管,一个连接到那个晶体管不起作用。事实证明,人工智能在确保我们不仅拥有最优的实现方面非常有效,而且它正在帮助我们的测试流程,并获得覆盖范围,以确保没有缺陷能够逃脱我们的制造测试线。因此,它不仅在工程方面非常有效,甚至在我们的业务实践方面也是如此。所以,成为零号客户也带来了直接的好处,因为你加快了内部人工智能应用程序的成功和效率。
我们来回答另一个问题。你可以看到,我们的观众非常棒,而且非常聪明。所以我总是把我的问题放在他们的问题之后。这是来自 Elizabeth Shaw 的,她说:“那么,技术战略是什么?是把所有产品线或系列都看作是一个分布在不同领域的系统吗?”当你考虑像 AMD 这样的产品组合时,你必须灵活地规划方向。我这是什么意思?每个产品本身都必须在其自己的类别中独立存在。所以,CPU 必须是最好的 x86 CPU,比如我们的 Zen 系列 CPU。同样,我们的 GPU 也必须是最好的引擎。我们的游戏显卡、嵌入式设备也是如此。所以,你必须考虑所有构建模块。我们的路线图必须确保硬件和软件,软件赋能,我们是最好的。然后,当你将它们组合在一起时,我们有一个关于如何部署它们的战略,我们如何根据客户需求定制产品,他们需要多少 CPU 核心,当它用于数据库处理时,如何进行定制,而同一个 CPU 2 则用作管理大量 GPU 的头部控制器。两种完全不同的用例。同样的情况也适用于我们的每个产品组合。你必须考虑客户的主要用例,确保你进行了优化。然后还有第三步,那就是我们必须考虑我们的整个产品组合。我们如何实现人工智能的协同作用?我们所做的是,我们有一个软件赋能堆栈,ROCm。这是我们软件赋能的名称,它将是使人工智能在我们的数据中心 GPU、CPU、游戏显卡或嵌入式设备上易于部署的最高级别。这是我们在 2025 年非常关注的领域,并且正在真正向用户开放这项能力。你现在可以在基于 AMD 的 Windows PC 上运行 ROCm。你现在可以在最新的 Radeon 显卡上运行 ROCm,并且即使是 CPU 也可以进行优化。人们没有意识到 CPU 是人工智能处理的重要组成部分,而且我们已经为它们提供了很好的支持。
这是来自 Chris Peterson 的,他说:“在技术方面,AMD 认为 GPU 到 GPU 的互连将走向何方?在商业方面,如果人工智能行业在算法设计上发生巨大转变,或者电力和水资源的可持续性无法满足需求,AMD 的计划是什么?”
所以,两个问题,非常非常快。GPU 到 GPU 的互连,然后是更广泛的商业问题。我们以前通过我们专有的 Infinity 架构来解决这个问题,该架构已经通过我们几代 CPU 和 GPU 得到了验证。但 AMD 致力于开放生态系统。我们认为,再次,你不仅仅拥有一些定制化的产品,因为这是一种封闭的围墙花园方法,这一点非常重要。因此,我们支持,并且是 Ultra Acceleration Link 的创始成员。Ultra Acceleration Link 的意义在于,我们捐赠了我们用来连接 GPU 的协议。现在,它不再由 AMD 控制,而是由多家公司控制,它们运行 UA Link 联盟,确保其他交换机供应商可以参与。我们的其他竞争对手,他们正在创建自己的加速器,他们可以使用这个 Ultra Acceleration Link 标准,并使用现有的交换机和连接解决方案。再次,我们致力于开放生态系统,这就是我们 GPU 到 GPU 互连的战略。
第二个问题当然至关重要。你知道,当能源消耗不断增加以满足我们对更多人工智能计算的永不满足的需求时,我们该怎么办?我的简短回答是创新。需求太高了。看看,我们正在看到数千亿美元的市场机会,在未来几年内,到 2028 年,市场规模将如此之大。所以,这对创新有着巨大的拉动作用。当你拥有如此大的市场时,这意味着我们将继续创新。我们如何使这些 GPU 更高效?我们如何使 GPU 和 CPU 更有效地协同工作?但更重要的是,你如何支持那些算法变化不那么快,因此不需要 GPU 和 CPU 的可编程性?我们也支持定制设备和客户可以与我们合作的定制设备。所以,我认为我们将看到所有这些范围。我只想说,为了表明我们的承诺,我们刚刚达到了 CPU 和 GPU 计算在这些最苛刻的人工智能和超级计算工作负载方面的一个里程碑。我们设定了目标,到 2025 年实现 30 倍的改进。所以,在五年内,2020 年到 2025 年,我们将实现每瓦性能能效的 30 倍改进。而且,我们几周前宣布,随着我们新的 MI350 系列的问世,我们不仅实现了 30 倍的效率改进,实际上达到了 38 倍。所以,我们这样做。我们设定了可衡量的里程碑来激励我们自己的团队提高效率。我们与教授和大学合作,以确保这不是市场宣传,而是最终将实现的真正效率。所以,现在我们正在迈向下一个里程碑。Sam Nasinger 负责这项工作,他再次与社区合作,与教授合作,以便我们能够衡量机架效率的提升。所以,正如我告诉你的,这些现在在机架级别进行扩展,关于你如何将这些人工智能计算集群组合在一起。我们承诺到 2030 年在机架级别实现 20 倍的改进。所以,这是我们关注的下一个能效里程碑。
你谈到了潜在的重大变化或管理算法潜在重大变化所需的创新。你谈到了可持续性的需求。你现在雷达上还有其他重要问题吗?
我们别无选择,迈克尔。我们必须审视整个格局。所以,我们每天都在担心,我们每天都在担心首先是即将到来的颠覆性技术。我们有一个很棒的研究团队。他们不断展望未来,展望我们的计算能力,我们如何才能更有效地互连这些计算。我们的网络技术。我们通过收购 Xilinx 和 Pensando 获得了非常非常创新的网络技术。关于我们如何能够连接这些人工智能计算的超级技术,以及现在通过收购 ZT Systems,这个格局包括机架设计和推动创新。所以,我们称之为整体设计。它必须是跨学科的,所有这些团队,硬件和软件协同工作,不仅设计下一代,而且展望一两代之后。什么是颠覆性的?什么即将到来?我们正在与其他公司合作进行量子计算。我不会争论量子计算何时会成为主流。量子计算将首先作为加速器出现。它将是定制化的应用程序,可以真正受益于量子计算。但我们已经准备好了。我们产品组合中的 Xilinx FPGA 被用作当今几乎所有量子计算机的控制器。而且,我们也与我们的其他产品组合合作,成为可以与那些量子加速器协同工作的 CPU 和 GPU 复合体。这只是一个例子,但实际上是我们必须关注的整个格局,迈克尔,不仅关注今天的产品,还关注下一代和再下一代。
再次来自 Chris Peterson,AMD、Nvidia 和其他公司似乎在整体人工智能设计方面展开激烈竞争。那么,与 Cerebras 或其他拥有截然不同解决方案的利基玩家竞争的计划是什么?
我对 AMD 与其他利基玩家的竞争都感兴趣,以及 Chris Peterson 提到的其他利基玩家。我们是计算技术的批量生产商。所以,我们不适合成为利基应用的第一个上市者。Cerebrus,我给那个团队很多赞誉。Andrew Drozd 和他的团队在晶圆级集成方面做得非常出色,而且在某些任务中,当它适合该模型并能够利用晶圆级的数据流处理时,它肯定会具有优势,但它不是,它是特定的工作负载可以真正受益,所以他们在那里做得很好。我们会关注这一点,如果适合这种应用的工件增长,我也可以说同样的话,关于任何其他专注于特定领域的初创公司。我们密切关注,如果我们从客户那里听到,那正在获得关注,越来越多的模型可以利用它,我们将在我们的计划中融入这些方法。但我们必须确保,考虑到 AMD 在行业中的作用,我们正在真正关注并确保我们在大规模人工智能计算方面领先一两步。
你提到的两个核心主题是执行和简化,以及密切关注行业动态和发展方向。我说的对吗?绝对正确。我不会像现在这样管理我的日常事务。在我担任 AMD 首席技术官的整个时间里,我都是这样做的,那就是优先考虑倾听行业动态。所以我优先考虑客户访问,我飞往客户那里,或者像我们今天这样设置虚拟会议,并且非常认真地倾听。我不会进去只是吹嘘自己,说你应该使用 AMD。这是我们如何为你提供更好的总体拥有成本。我们可以帮你省钱。我确实提到了这一点。我肯定会把它融入其中。但那不是我打电话的原因。我首先要了解他们面临什么挑战,我想确保我们的产品组合能够解决这个问题。然后我可以教育他们,并向他们展示我们可以为他们带来优势的地方。同样,我们也关注竞争对手。我在 AMD 内部有一个常规流程,那就是我们的竞争对手审查。所以,我们查看我们的竞争对手所做的任何公告,因为我们永远不想傲慢地认为我们比其他人都好。我们有正确的方法,别人做的是错的。反之,我们观察并不断问自己,我们是否拥有最佳实践?是否有人有更好的方法?让我们再次超越它。让我们利用它来激发我们的创新,以确保我们不会在任何方面处于不利地位。
关于这个话题,LinkedIn 的 Christine Lafrren 又问了,她问:“在 AMD 内部和更广泛的科技行业中,哪些关键趋势或发展将塑造未来 12 个月人工智能的轨迹?”
首先,随着推理的不断增加,模型本身正在获得如此多的创新。我对一些初创公司或一些企业能够用小型语言模型所做的事情印象深刻,这些模型非常针对任务。我认为我们才刚刚开始,只是冰山一角,定制化模型将带来创新,用于非常独特的任务,这些任务可以非常高效。所以我认为模型开发,包括定制化和小型语言模型,但也允许我们提高大型语言模型的准确性,因为超大规模云服务商正在推动通用人工智能。所以我认为我们将看到这个领域持续的创新。同样,基础技术本身,我们如何将其组合在一起,你将看到巨大的创新,使其在从超级计算到最小设备的所有方面都更具能效。这个领域正在进行巨大的创新。从材料到新型晶体管,内存如何更紧密、更高效地连接到计算设备,网络等等。
马克,你提到了通用人工智能 AGI。你处于一个非常独特的位置,与这些模型开发者合作。你对模型未来的发展轨迹有什么看法,比如在未来一年?你认为一年后或九个月后,世界将走向何方?
我们可以看到九个月。我不知道我们能走多远。九个月到一年。但是,当你看到这个时间范围时,你会看到准确性不断提高,这些模型能够处理更大的上下文,能够处理。
我们正在不断扩张。我们在亚洲各地都有业务。我的意思是,在我想到我们在马来西亚和新加坡已经经营了几十年之前。我认为我们在马来西亚已经经营了 50 年。所以,我们继续在全球范围内扩张,包括东南亚。印度,我们将,我们今天有 8000 名员工,8000 名工程师,到 2028 年我们将达到 10000 名。所以,在台湾、中国,我们在那里还有其他地区。所以,不仅仅是那里。我们在欧洲也同样扩张。我们是一个全球性公司,一家跨国公司。我们服务于全球市场,所以我们的工程团队和我们的销售团队绝对是全球性的。
这是来自 Vishal Bargava 的,他在 LinkedIn 上说:“我们正在谈论哪些研究和推理产品?你能分享具体的名称吗?”哦,当我谈论研究产品时,我指的是字面意义上的,比如 OpenAI 的研究。所以,你可以获得 OpenAI 的研究订阅,而且它成本更高,但你确实拥有我所描述的研究能力,而且你可以从 Anthropic 和其他模型中获得类似的功能。
Twitter X 上的 Ricardo Deonda 又回来了,他说:“在人工智能驱动的自动化兴起的背景下,AMD 在管理混合和多云环境中的机器身份方面面临的最大挑战是什么?”身份是计算领域的一个巨大焦点。我的意思是,我们每次与其他计算机通信时都会进行身份验证,以确保我们知道它是一个有效且受信任的计算设备。所以,我可能需要更多的背景信息才能最好地回答你的问题。
地缘政治因素和对供应链韧性的推动如何直接影响 AMD 的人工智能产品战略、研发投资和全球制造合作伙伴关系?我并不是想让这成为一个政治对话。我们的供应链,就像行业中的其他公司一样,不得不变得非常敏捷。因此,当关税适用于某些产品和某些采购地点时,我们需要有敏捷性来尽可能地进行调整,以减轻这些影响,否则我们的产品成本将会上升。所以,我们这样做了。我们有一个出色的供应链团队。Kavon 和他的团队所做的非常灵活。我们再次,我们是一家全球性公司,我们拥有全球制造能力。所以,我们一直很敏捷,就像我说的,我们必须敏捷,以调整我们的产品并倾听客户的需求,并为计算进行优化。事实证明,在地缘政治背景下,我们的供应链必须同样敏捷。
LinkedIn 上的 Christine Lafrren 又说:“你预计在未来 12 个月内,AMD 内部和更广泛的科技行业有哪些关键趋势或发展将塑造人工智能的轨迹?”
首先,随着推理的不断增加,模型本身正在获得如此多的创新。我对一些初创公司或一些企业能够用小型语言模型所做的事情印象深刻,这些模型非常针对任务。我认为我们才刚刚开始,只是冰山一角,定制化模型将带来创新,用于非常独特的任务,这些任务可以非常高效。所以我认为模型开发,包括定制化和小型语言模型,但也允许我们提高大型语言模型的准确性,因为超大规模云服务商正在推动通用人工智能。所以我认为我们将看到这个领域持续的创新。同样,基础技术本身,我们如何将其组合在一起,你将看到巨大的创新,使其在从超级计算到最小设备的所有方面都更具能效。这个领域正在进行巨大的创新。从材料到新型晶体管,内存如何更紧密、更高效地连接到计算设备,网络等等。
马克,你提到了通用人工智能 AGI。你处于一个非常独特的位置,与这些模型开发者合作。你对模型未来的发展轨迹有什么看法,比如在未来一年?你认为一年后或九个月后,世界将走向何方?
我们可以看到九个月。我不知道我们能走多远。九个月到一年。但是,当你看到这个时间范围时,你会看到准确性不断提高,这些模型能够处理更大的上下文,能够处理。
更加深思熟虑的回答,尤其是我之前提到的,正在应用的这些推理技术,这种趋势绝对会计算出来,这种趋势实际上在未来一年也会继续下去,因为需要越来越多的计算能力来支持这一点。嗯,棘手的问题是,五年后我们会在哪里?你知道,五年后,AGI的定义到底是什么?我们会在五年后达到它吗?有很多争论。嗯,你知道,我会把这个留给别人去预测AGI的定义以及我们达到它的确切日期。你多次提到的生成式AI怎么样?它似乎是一个如此重要的架构,如果我们能这样称呼它的话,它不会很快消失。对此有什么看法?我采访了一位一家大型银行的首席信息官,她向我描述了他们在生成式AI方面取得的进展。我的意思是,他们几乎让整个公司都参与部署AI,而且他们每周都在发现可以通过创建生成式AI来加速的应用程序,想想吧,这是一个成熟的领域,银行处理交易,我的意思是,他们花费了大量时间在定义明确的任务上,定义明确的数据,所以如果你能创建一个生成式AI,它有清晰的目标,清晰的数据集,清晰定义的API来连接不同的任务。它将带来非常非常快的效率提升,我确实认为我们需要开始看到这一点,我们当然在AMD内部也在这样做,寻找可以提高生产力的流程,这引出了迈克尔,你知道,你让我简短点,但我会非常简短,但正是生成式AI,我敦促人们去思考,在哪里可以让你的人们真正更有效率?人们是否想把时间花在非常,你知道,非常多的由生成式AI可以为你完成的流程上?积极主动地让生成式AI完成这些任务,从而腾出时间用于创新、创造力,你知道,我们作为社会面临的真正由人类驱动的机会。这种知识的传播以及分解流程的能力需要一些时间,因为像你这样非常先进的技术人员,他们了解技术与业务流程之间的联系并能够分解,这是一回事,但行业内需要一个成熟的过程。绝对。实际上,这既是文化上的,也是技术上的,因此确实需要一些时间。人们必须接受它。他们必须具备部署它的技术能力。但我认为这会比我们预期的发生得快得多。马克,在我们结束时,给大型组织中的CIO、CTO的建议,在当今这个时间点,以及根据你与许多客户的交谈进行概括,他们应该真正关注什么?首先,我想说,如果你没有比以往任何时候都更快地行动,那就有问题了。因为变化的速度,你知道,真的已经过去几年了,并且会继续下去,在我们任何人可以预测的时期内。所以我想,如果你不习惯拥抱变化,你必须适应,我不是说没有管理风险的变化。我们在AMD文化中推动的一件事是承担风险,但要管理它。确保你有检查和平衡。不要,你知道,不要在没有绳子的情况下从悬崖边上掉下去,以免掉进深渊。所以我想,这是第一点,真正对变化持开放态度,但要管理它,以确保你控制你的风险。第二点是退后一步,审视你的核心价值主张是什么?你正在做的关键事情是什么?在AI时代,你真的可以重新构建你的做事方式吗?你经营业务的基本原则和流程是否可以在AI领域重新构建?所以,这两点可能是我会给CIO和基础设施主管的最大的建议。我还会说,帮助AMD创造一个竞争性的环境,一个开放的生态系统和竞争,而不是一个占主导地位的供应商。我认为这对每个人都不好。就个人而言,我想要更快的芯片,这样我就可以更快地渲染视频,做我做的所有事情,而且发热量没那么大。这是永无止境的追求。我的意思是,这就是像我这样的技术人员,我们别无选择。我们每天都必须专注于此。马克·帕珀梅斯特,AMD首席技术官兼执行副总裁。非常感谢您抽出时间与我们在一起。我非常感激您,马克。我的荣幸,迈克尔。谢谢。也感谢所有观看并提出精彩问题的朋友们。在您离开之前,请访问cxotalk.com,订阅我们的新闻通讯。我们有令人难以置信的节目即将推出,所以请查看一下,下次再见。非常感谢大家。 [音乐]