Transcription
对我来说，这甚至不是一个问题——我们是否要去尝试构建下一个东西。我就是无法不这样做。有很多次我们想推出功能，然后苹果就说“不，你不能推出那个”，我当时就觉得那太糟糕了。我们是否为人工智能做好了准备，届时少数公司将运行这些封闭模型，控制API，从而能够告诉你你能构建什么？然后当你开始建造一个300兆瓦、500兆瓦或1吉瓦的数据中心时——目前还没有人建造过一个1吉瓦的数据中心。无论你身处何地，都会有一些你不信任的参与者——如果他们拥有超强人工智能，我认为那可能是一个更大的风险。马克，欢迎来到播客。谢谢你邀请我。我是你播客的忠实粉丝。谢谢，你这么说真是太好了。让我们从这次采访发布时将推出的产品开始谈起。告诉我关于模型和Meta AI的情况。它们有什么新颖和令人兴奋之处？
我认为世界上大多数人将看到的主要东西是Meta AI的新版本。我们正在做的最重要的事情是对模型进行升级。我们正在推出Llama-3。我们将其作为开源提供给开发者社区，并且它现在将为Meta AI提供动力。关于Llama-3，我确信我们会有很多深入的讨论，但我认为最重要的是，我们现在认为Meta AI是人们可以使用的最智能、免费的人工智能助手。我们还在整合谷歌和必应以获取实时知识。我们将使其在我们的应用程序中更加突出。在Facebook和Messenger的顶部，你将能够直接使用那里的搜索框来提出任何问题。我们添加了一系列新的创作功能，我认为它们非常酷，人们会喜欢。我认为动画功能很不错。你基本上可以拿任何图片并将其动画化。人们会觉得非常惊艳的一点是，它现在生成高质量图片的速度非常快，以至于你在打字时它就能实时生成并更新图片。所以你输入你的查询，它就在不断完善。就像“给我看一张奶牛在有山背景的田野里吃夏威夷果、喝啤酒的图片”，它会实时更新图片。这非常惊艳。我想人们会喜欢这个。所以我认为这就是世界上大多数人将看到的东西。我们正在推出它，并非在所有地方，但我们从少数几个国家开始，并在未来几周和几个月内推广到更多地方。我认为这将是一件大事，我非常高兴能让人们体验到它。这是Meta AI向前迈出的一大步。
但我认为，如果你想深入了解一下，Llama-3的东西显然在技术上最有趣。我们正在训练三个版本：一个80亿参数模型和一个700亿参数模型，我们今天发布这两个；还有一个4050亿参数的密集模型，仍在训练中。所以我们今天不发布那个，但我对80亿和700亿模型的表现感到非常兴奋。它们在其规模上处于领先地位。我们将发布一篇博客文章，包含所有基准测试结果，以便人们可以自行查看。显然它是开源的，所以人们有机会使用它。我们有一个新版本的路线图，将带来多模态、更多语言能力以及更大的上下文窗口。希望在今年晚些时候，我们能推出4050亿参数模型。就目前训练情况而言，它已经达到了大约85 MMLU，我们预计它将在许多基准测试中取得领先成绩。我对所有这些都感到非常兴奋。700亿参数模型也很棒。我们今天发布它。它大约有82 MMLU，在数学和推理方面得分领先。我认为让人们体验到这个将会非常惊艳。哦，有意思。这是我第一次听说它作为基准。这太令人印象深刻了。80亿参数模型几乎和我们发布的Llama-2最大版本一样强大。所以最小的Llama-3基本上和最大的Llama-2一样强大。
在我们深入探讨这些模型之前，我想回顾一下过去。我猜你是在2022年开始采购这些H100的，或者你可以告诉我具体时间。股价正在遭受重创。人们都在问这些资本支出都用在了哪里。人们不买元宇宙的账。估计你把那些资本支出都花在了购买这些H100上。当时你是怎么知道要购买H100的？你是怎么知道你需要这些GPU的？
我想那是因为我们当时正在开发Reels。我们总是希望有足够的容量来构建一些我们尚未完全预见的东西。在Reels项目上，我们遇到了需要更多GPU来训练模型的情况。这对我们的服务来说是一个巨大的演变。我们不再仅仅对你关注的人或页面的内容进行排名，而是大力推动开始推荐我们称之为“非关联内容”的东西，即来自你未关注的人或页面的内容。我们可能向你展示的内容候选语料库从数千级别扩展到数亿级别。这需要一个完全不同的基础设施。我们开始着手做这件事，但在基础设施方面受到了限制，无法像我们希望的那样快速赶上TikTok。我基本上看了看，然后就想：“嘿，我们必须确保我们再也不会陷入这种境地了。所以，让我们订购足够的GPU来满足我们在Reels、内容排名和信息流方面的需求。但我们也要把这个数量翻倍。”再次强调，我们的一贯原则是，总会有一些我们尚未预见到的东西即将出现。
你当时知道会是人工智能吗？我们认为那会是与训练大型模型有关的东西。当时我以为那可能与内容有关。这只是公司运营中的模式匹配，总会有另一件事。当时我正全身心投入到让Reels和其他内容推荐功能正常运行的工作中。现在，能够向人们展示他们未关注的人发布但他们感兴趣的内容，这对Instagram和Facebook来说是一个巨大的突破。但事后看来，那是一个非常好的决定。而且它源于落后。这并不是说“哦，我当时多么超前”。实际上，我们做出的一些最终看起来不错的决定，大多数时候是因为我们之前搞砸了某件事，只是不想重蹈覆辙。
这完全是跑题了，但既然说到这儿，我想问一下。我们马上会回到人工智能的话题。2006年你没有以10亿美元的价格出售，但想必有一个你会出售的价格，对吗？你心里有没有想过“我觉得Facebook当时的实际估值是这样，他们并没有真正给出正确的估值”？如果他们给你5万亿美元，你当然会卖。所以你是怎么考虑那个选择的？
我认为有些事情纯属个人原因。我不知道当时我是否有足够的经验来做那种分析。我身边有很多人都在为10亿美元的估值提出各种论点，比如“这是我们需要实现的收入，这是我们需要达到的规模。这显然是很多年以后的事情了。”那远远超出了我们当时的状况。我当时并没有足够的金融知识来真正参与那种辩论。内心深处，我坚信我们正在做的事情。我做了一些分析，比如“如果我不做这个，我会做什么？嗯，我真的很喜欢建造东西，我喜欢帮助人们交流。我喜欢了解人们之间发生了什么以及人际动态。所以我想，如果我卖掉这家公司，我只会去建立另一家类似的公司，而且我挺喜欢我现在的这家。所以为什么要卖呢？”我认为人们做出的许多最大胆的押注往往只是基于信念和价值观。实际上，试图向前连接点进行分析通常非常困难。
你们的Facebook人工智能研究部门已经存在很长时间了。现在它似乎已成为你公司的核心。在哪个时间点，实现AGI（或者你如何看待这个使命）成为了Meta工作的关键优先事项？
这已经有一段时间了，一直很重要。我们大约在十年前成立了FAIR。当时的想法是，在通往通用智能（或者你愿意怎么称呼它）的道路上，会有各种各样的创新，而这些创新将改进我们所做的一切。所以我们没有把它构想成一个产品。它更像是一个研究小组。在过去的十年里，它创造了许多不同的东西，改进了我们所有的产品。它推动了该领域的发展，也让该领域的其他人创造出改进我们产品的东西。我认为那很棒。显然，在过去几年里，随着ChatGPT和围绕图像生成的扩散模型的出现，发生了巨大的变化。这些是非常惊人的东西，显然会影响人们与所有现有应用程序的互动方式。在那个时候，我们成立了第二个小组，即生成式AI小组，目标是将这些东西整合到我们的产品中，并构建领先的基础模型，为所有这些不同的产品提供动力。当我们开始这样做时，最初的理论是，我们正在做的很多事情都是非常社交化的。它帮助人们与创作者互动，帮助人们与企业互动，帮助企业销售商品或提供客户支持。还有基本的助手功能，无论是用于我们的应用程序、智能眼镜还是VR。所以一开始并不完全清楚，你需要完整的AGI才能支持这些用例。但通过这些微妙的方式，在处理它们的过程中，我认为实际上已经清楚，你确实需要。
例如，当我们开发Llama-2时，我们没有优先考虑编码，因为人们不会在WhatsApp中向Meta AI提出很多编码问题。现在他们会了，对吗？我不知道。我不确定WhatsApp、Facebook或Instagram是否是人们会提出大量编码问题的用户界面。也许是我们正在推出的网站meta.ai。但过去18个月里，一个有点令人惊讶的结果是，编码对许多领域都很重要，而不仅仅是编码本身。即使人们不问编码问题，用编码训练模型也能帮助它们在回答问题时变得更严谨，并帮助它们在许多不同类型的领域进行推理。这是一个例子，对于Llama-3，我们确实专注于用大量编码进行训练，因为即使人们不主要问编码问题，这也会让它在所有这些方面表现得更好。推理是另一个例子。也许你想和一位创作者聊天，或者你是一家企业，正试图与客户互动。这种互动不仅仅是“好吧，那个人给你发了一条消息，你只是回复”。这是一种多步骤的互动，你试图思考“我如何实现这个人的目标？”很多时候，当客户来的时候，他们不一定确切知道他们在寻找什么，或者如何提出他们的问题。所以人工智能的工作并不是简单地回答问题。你需要更全面地考虑它。它真的变成了一个推理问题。所以如果别人解决了推理问题，或者在推理方面取得了很好的进展，而我们却在这里使用一个基本的聊天机器人，那么我们的产品与其他人正在构建的产品相比就会显得逊色。归根结底，我们基本上意识到我们必须解决通用智能问题，我们只是提高了赌注和投资，以确保我们能够做到这一点。
那么，将为用户解决所有这些用例的Llama版本，是否会强大到足以取代你在这栋楼里可能有的程序员？
我只是认为所有这些东西都会随着时间的推移而逐步发展。但最终情况是：Llama-10。我认为这个问题中包含了很多深层含义。我不确定我们是在取代人类，还是在赋予人类工具去做更多事情。在Llama-10之后，这栋楼里的程序员的生产力会提高10倍吗？我希望更多。我不认为人类有一个单一的智能阈值，因为人们拥有不同的技能。我认为在某个时候，人工智能可能会在大多数这些方面超越人类，这取决于模型的强大程度。但我认为它是渐进的，我不认为AGI是一个单一的东西。你基本上是在添加不同的能力。多模态是我们现在关注的一个关键点，最初是照片、图像和文本，但最终会扩展到视频。因为我们非常专注于元宇宙，所以3D类型的东西也很重要。我非常关注的一种模态，但我在行业中没有看到很多人关注的，是情感理解。人类大脑的很大一部分都致力于理解人以及理解表情和情感。我认为那是一个独立的完整模态，对吗？你可以说它可能只是视频或图像，但它显然是这两者的一个非常专业的版本。所以，除了在推理和记忆方面做得更好（这本身就是一整套东西）之外，你还希望训练模型专注于所有这些不同的能力。我不认为未来我们主要会把东西塞进查询上下文窗口来问更复杂的问题。将会有不同的记忆存储或更个性化的定制模型。这些都只是不同的能力。显然，还有把它们做大做小的问题。我们两者都关心。如果你运行像Meta AI这样的东西，那它是相当基于服务器的。我们也希望它能在智能眼镜上运行，而智能眼镜的空间并不大。所以你需要一个非常高效的东西来满足这个需求。
如果你正在进行价值数百亿美元甚至最终数千亿美元的推理，如果你以工业规模使用智能，那么用例是什么？是模拟吗？是元宇宙中的人工智能吗？我们将用这些数据中心做什么？
我们的赌注是，它将基本上改变所有的产品。我认为将会有某种Meta AI通用助手产品。我认为它将从一个更像聊天机器人的东西（你提问，它给出答案）转变为你给它更复杂的任务，然后它去完成这些任务。这将需要大量的推理，并且在其他方面也需要大量的计算。然后，我认为为其他人与其他代理互动将是我们工作的重要组成部分，无论是为企业还是创作者。我对此理论的一个重要部分是，你不会只与一个单一的人工智能互动。每个企业都会想要一个代表其利益的人工智能。他们不会希望主要通过一个会销售其竞争对手产品的人工智能与你互动。我认为创作者将是一个重要的群体。我们的平台上大约有2亿创作者。他们基本上都有一个模式，就是他们想与社区互动，但受限于每天的时间。他们的社区通常也想与他们互动，但他们不知道创作者受限于每天的时间。如果你能创造出一种东西，让创作者基本上可以拥有人工智能，按照他们想要的方式训练它，并与他们的社区互动，我认为那将是超级强大的。所有这些事情都会带来大量的互动。这些只是消费者用例。我妻子和我经营我们的基金会，陈·扎克伯格倡议。我们正在科学领域做很多事情，而且显然有很多AI工作将推动科学、医疗保健和所有这些领域的发展。所以它最终将影响产品和经济的几乎每个领域。
你提到了人工智能可以出去为你做多步骤的事情。那是一个更大的模型吗？例如，对于Llama-4，是否仍然会有一个700亿参数的版本，但你只需用正确的数据训练它，它就会变得超级强大？进展会是怎样的？是规模化吗？还是像你所说的，只是大小相同但能力不同？
我不知道我们是否知道答案。我认为一个似乎存在的模式是，你拥有Llama模型，然后围绕它构建一些其他特定于应用程序的代码。其中一部分是针对用例的微调，但另一部分，例如，是关于Meta AI如何与谷歌或必应等工具协作以获取实时知识的逻辑。那不是Llama基础模型的一部分。对于Llama-2，我们有一些这样的东西，而且更多是手动工程化的。我们对Llama-3的目标之一是将更多这样的功能整合到模型本身中。对于Llama-3，随着我们开始更多地涉及这些类似代理的行为，我认为其中一些将更多地是手动工程化的。我们对Llama-4的目标是将更多这样的功能整合到模型中。在每一步中，你都会对未来可能实现什么有所感知。你开始尝试和摸索它。我认为这有助于你磨练直觉，了解你想要在模型的下一个版本中训练什么。这使得它更通用，因为显然，对于任何你手动编码的东西，你可以解锁一些用例，但它本质上是脆弱且不通用的。当你说“整合到模型本身中”时，你的意思是你在模型本身中训练你想要的东西吗？你说的“整合到模型本身中”是什么意思？
对于Llama-2，工具使用非常具体，而Llama-3的工具使用要好得多。我们不必手动编写所有代码让它使用谷歌进行搜索。它自己就能做到。同样适用于编码和运行代码以及许多类似的事情。一旦你获得了这种能力，你就能看到我们接下来可以开始做什么。我们不一定想等到Llama-4出现才开始构建这些能力，所以我们可以开始围绕它进行尝试。你做大量的手动编码，这使得产品变得更好，即使只是暂时的。这有助于指明我们希望在模型的下一个版本中构建什么。
你最期待Llama-3的社区微调是什么？也许不是对你最有用的那个，而是你最喜欢玩弄的那个。他们用古代文献对其进行微调，你就能和维吉尔之类的对话。你对此有什么期待？
我认为这些东西的本质就是你会感到惊喜。任何我认为有价值的具体东西，我们可能都会去构建。我认为你会得到精简版。我认为你会得到更小的版本。一点是，我认为80亿参数模型对于许多用例来说还不够小。随着时间的推移，我希望能有一个10亿到20亿参数的模型，甚至是一个5亿参数的模型，看看你能用它做什么。如果80亿参数模型几乎和最大的Llama-2模型一样强大，那么用10亿参数模型你应该能够做一些有趣且更快的事情。这对于分类，或者人们在理解用户查询意图并将其输入到最强大的模型以确定提示词之前所做的许多基本事情都很有用。我认为这可能是社区可以帮助填补的一个空白。我们也在考虑自己精简一些这些模型，但目前GPU正忙于训练4050亿参数模型。
所以你们有所有这些GPU。我想你说过到年底会有35万个。那是整个集群。我们建造了两个，我想是22000或24000个集群，这些是我们用于训练大型模型的单一集群，显然涵盖了我们做的很多事情。我们的很多资源都用于训练Reels模型、Facebook新闻动态和Instagram动态。推理对我们来说是一件大事，因为我们服务着大量的人。我们所需的推理计算量与训练计算量的比率可能比大多数其他公司要高得多，仅仅是因为我们所服务的社区的庞大体量。
在他们之前与我分享的材料中，非常有趣的一点是，你们用比仅为训练计算最优量更多的数据来训练它。推理对你们来说，以及对社区来说，都是如此重要，以至于拥有这个东西并在其中包含数万亿个token是很有意义的。尽管其中一个有趣之处在于，即使是700亿参数模型，我们也曾认为它会更饱和。我们用大约15万亿个token训练了它。我猜我们最初的预测是它会更趋于饱和，但即使到最后它仍在学习。我们可能可以给它更多token，它会变得更好一些。在某个时候，你经营一家公司，你需要进行这些元推理问题。我是想把我们的GPU花在进一步训练700亿参数模型上吗？还是我们想继续下去，以便我们可以开始测试Llama-4的假设？我们需要做出这个决定，我认为我们为这个版本的700亿参数模型找到了一个合理的平衡。未来还会有其他版本，例如700亿参数的多模态版本，将在下一阶段推出。但令人着迷的是，目前的架构可以处理如此多的数据。这真的很有趣。这对未来的模型意味着什么？
你提到Llama-3 80亿参数模型比Llama-2 700亿参数模型更好。不，不，它几乎一样好。我不想夸大其词。它在相似的量级上。这是否意味着Llama-4 700亿参数模型会和Llama-3 4050亿参数模型一样好？它的未来会是怎样？
这是个大问题之一，对吧？我想没人知道。世界上最棘手的事情之一就是围绕指数曲线进行规划。它会持续多久？我认为我们很可能会继续下去。我认为值得投入数百亿甚至数千亿美元来建设基础设施，并假设如果它继续发展，你将获得一些真正令人惊叹的东西，从而创造出令人惊叹的产品。我不认为业内任何人能真正告诉你，它肯定会以这种速度持续扩展。历史上，你总会在某些点遇到瓶颈。现在这方面投入了如此多的精力，也许这些瓶颈会很快被打破。我认为那是一个有趣的问题。一个没有这些瓶颈的世界会是什么样子？假设进展就以这个速度继续下去，这似乎是合理的。放大来看，抛开Llama不谈……嗯，会有不同的瓶颈。在过去几年里，我认为存在GPU生产的问题。即使有钱购买GPU的公司也未必能得到他们想要的那么多，因为存在各种供应限制。现在我认为这种情况正在减少。所以你看到很多公司现在正在考虑投入大量资金来建设这些东西。我认为那会持续一段时间。存在一个资本问题。在哪个点投入资本就不再值得了？我实际上认为在我们达到那个点之前，你会遇到能源限制。我不认为有人建造过一个吉瓦级的单一训练集群。你会遇到这些最终在世界上变得更慢的事情。获得能源许可是一项受到严格监管的政府职能。你正在从软件领域转向，软件在某种程度上受到监管，而且我认为它比科技界很多人感觉到的监管更严格。显然，如果你创办一家小公司，情况就不同了，你可能感受到的监管较少。我们与不同的政府和监管机构互动，我们有很多规则需要遵守，并确保我们在世界各地做得很好。但我认为能源方面毫无疑问。如果你谈论建造大型新发电厂或大规模扩建，然后建造跨越其他私人或公共土地的输电线路，那只是一个受到严格监管的事情。你说的是多年的准备时间。如果我们想建立一个大型设施，为其供电是一个非常长期的项目。我认为人们会这样做，但我不认为这会像达到某个AI水平，获得大量资本并投入，然后模型突然就会……那样神奇。你确实会在过程中遇到不同的瓶颈。
有没有什么，也许是与人工智能相关的项目，也许不是，即使像Meta这样的公司也缺乏资源去做的？如果你的研发预算或资本支出预算是现在的10倍，你就能去追求的东西？你心里有，但以Meta今天的状况，你甚至无法为其发行股票或债券的东西？它只是比你的预算大10倍吗？
我认为能源是一个方面。我认为如果我们能获得能源，我们可能会建造比目前更大的集群。那从根本上说，最终是受金钱限制的瓶颈吗？如果你有1万亿美元……我想是时候了。这取决于指数曲线能走多远。现在很多数据中心大约是50兆瓦或100兆瓦，大的可能达到150兆瓦。拿一个完整的数据中心，用你训练所需的所有东西填满它，然后你就能建造出你能建造的最大集群。我认为很多公司都在做类似的事情。但当你开始建造一个300兆瓦、500兆瓦或1吉瓦的数据中心时，目前还没有人建造过一个1吉瓦的数据中心。我认为这会发生。这只是时间问题，但不会在明年。其中一些东西需要数年时间才能建成。
仅仅为了说明这一点，我认为一吉瓦的规模相当于一个有意义的核电站，而它仅仅用于训练一个模型。亚马逊不是做过这个吗？他们有一个950兆瓦的——我不太确定他们做了什么。你得问他们。但它不必在同一个地方，对吗？如果分布式训练有效，那就可以分布式进行。
嗯，我认为那是一个大问题，它将如何运作。似乎很有可能，未来我们所称的这些大型模型的训练，实际上更多的是推理生成合成数据，然后将其输入到模型中。我不知道这个比例会是多少，但我认为今天合成数据的生成更偏向于推理而不是训练。显然，如果你这样做是为了训练模型，那它是更广泛训练过程的一部分。所以这是一个悬而未决的问题，即其平衡以及它将如何发展。
Llama-3，甚至Llama-4及以后的版本，是否也可能出现这种情况？也就是说，你发布了它，如果有人拥有大量的计算资源，他们就可以利用你发布的模型，随意地让这些东西变得更智能。比如说，某个随机国家，比如科威特或阿联酋，拥有大量的计算资源，他们实际上可以仅仅使用Llama-4来制造出更智能的东西。
我确实认为会有那样的动态，但我也认为模型架构存在根本性的限制。我认为像我们用Llama-3架构训练的700亿参数模型可以变得更好，它可以继续发展。正如我所说，我们觉得如果继续给它更多数据，或者再次轮换高价值的token，它就会继续变得更好。我们看到世界各地许多不同的公司基本上都采用了Llama-2 700亿参数模型的架构，然后构建了一个新模型。但事实仍然是，当你对Llama-3 700亿参数模型或Llama-3 4050亿参数模型这样的东西进行代际改进时，目前还没有任何类似的东西是开源的。我认为那是一个巨大的阶跃函数。我认为人们在此基础上能够构建的东西，不可能无限地发展下去。在达到下一个阶跃函数之前，可以在此基础上进行一些优化。
让我们从具体的模型，甚至是你需要数年时间才能获得能源审批等等这些事情中稍微跳出来一点。从大局来看，未来几十年人工智能会发生什么？它感觉像元宇宙或社交媒体那样的另一种技术，还是感觉像是人类历史上根本不同的东西？
我认为它将是相当基础性的。我认为它更像是计算技术最初的诞生。你会得到所有这些新应用，就像你拥有互联网或手机时一样。人们基本上重新思考了所有这些体验，因为许多以前不可能的事情变得可能了。所以我认为那会发生，但我认为它是一个更低层次的创新。我的感觉是，它更像是人们从没有电脑到拥有电脑的过程。很难确切地推断这会如何发展。在宇宙尺度上，它显然会很快发生，大约几十年左右。有些人害怕它真的会失控，一夜之间从有点智能变得极其智能。我只是认为存在所有这些物理限制，使得这种情况不太可能发生。我真的不认为那会发生。我认为我们会有一些时间来适应。但它将真正改变我们的工作方式，并赋予人们所有这些创造性工具去做不同的事情。我认为它将真正使人们能够更多地做他们想做的事情。
那么，也许不是一夜之间，但你是否认为在宇宙尺度上我们可以这样看待这些里程碑？人类进化了，然后人工智能出现了，然后他们走向了银河系。也许需要几十年，也许需要一个世纪，但这是否就是历史此刻正在发生的宏伟蓝图？
抱歉，从哪个意义上说？
从这个意义上说，虽然有其他技术，比如计算机甚至火，但人工智能本身的发展与人类最初的进化一样重要。
我认为这很棘手。人类历史基本上就是人们认为人类的某些方面以不同方式真正独特，然后逐渐认识到那并非事实，但人类实际上仍然非常特殊。我们曾认为地球是宇宙的中心，但它不是，但人类仍然相当了不起和独特，对吧？我认为人们倾向于有的另一个偏见是，认为智能在某种程度上与生命有着根本的联系。实际上并不清楚是否如此。我不知道我们是否有足够清晰的意识或生命的定义来充分探究这一点。有很多科幻小说都讲述了创造智能，然后它开始呈现出所有这些类人行为等等。所有这些东西目前的体现感觉正朝着智能可以与意识、能动性等事物相当分离的方向发展，我认为这只是让它成为一个超级有价值的工具。显然，很难预测这些东西会随着时间走向哪个方向，这就是为什么我认为任何人都不应该教条地对待他们计划如何开发它或他们计划做什么。你需要随着每一次发布来审视它。我们显然非常支持开源，但我并没有承诺发布我们所做的每一件事。我基本上非常倾向于认为开源对社区有益，对我们也有益，因为我们将从创新中受益。然而，如果在某个时候，这个东西的能力发生了质的变化，并且我们觉得开源它是不负责任的，那么我们就不会开源。所有这些都非常难以预测。
有没有一种特定的质变，当你训练Llama-5或Llama-4时，如果看到了，会让你觉得“你知道吗，我不确定是否要开源它”？
抽象地回答这个问题有点困难，因为任何产品都可能表现出负面行为，只要你能缓解它，那就没问题。社交媒体有一些不好的地方，我们努力去缓解。Llama-2也有一些不好的地方，我们花了很多时间试图确保它不会帮助人们实施暴力行为或类似的事情。这并不意味着它是一种自主或智能代理。这只是意味着它学到了很多关于世界的东西，并且可以回答一系列我们认为它不应该回答的问题。我认为问题不在于它会表现出什么行为，而在于它表现出这些行为后，我们无法缓解哪些问题。我认为一件事可以是好是坏的方式太多了，很难在一开始就全部列举出来。看看我们在社交媒体中必须处理的问题以及不同类型的危害。我们基本上已经确定了大约18或19类人们会做的有害事情，并且我们基本上已经构建了AI系统来识别这些事情，并尽可能确保它们不会在我们的网络上发生。随着时间的推移，我认为你也能将其分解成更细致的分类。我认为这也是我们花时间研究的事情，因为我们想确保我们理解这一点。在我看来，那会是个好主意。如果未来人工智能系统没有广泛部署，并且每个人都无法使用它们，我会感到失望。同时，我想更好地理解缓解措施。如果缓解措施是微调，那么开放权重的问题在于你可以移除微调，而微调通常是在这些能力之上的表面层。如果它像在Slack上与生物学研究员交谈……我认为模型离这还很远。现在，它们就像谷歌搜索。但如果我能给它们看我的培养皿，它们能解释为什么我的天花样本没有生长以及需要改变什么，你如何缓解这种情况？因为有人可以简单地在那里进行微调，对吗？
那是真的。我认为很多人基本上会使用现成的模型，而一些心怀恶意的人会试图剥离所有不好的东西。所以我确实认为那是一个问题。另一方面，我从哲学上如此支持开源的原因之一是，我确实认为未来人工智能的集中化可能与它的广泛传播一样危险。我认为很多人都在思考这样的问题：“如果我们能做这些事情，让它在野外广泛可用是不是一件坏事？”我认为这还有另一个版本，那就是一个机构拥有比其他所有机构的人工智能强大得多的人工智能，这可能也是相当糟糕的。我想到一个安全方面的类比。这么多不同的东西中存在着如此多的安全漏洞。如果你能回到一两年前，假设你只是多了一两年的安全漏洞知识。你几乎可以入侵任何系统。那不是人工智能。所以，相信一个非常智能的人工智能可能能够识别一些漏洞，基本上就像一个能回到一两年前并攻破所有这些系统的人类，这并非牵强附会。那么，作为一个社会，我们是如何处理这个问题的呢？一个重要部分是开源软件，它使得当软件得到改进时，这些改进不会只停留在一家公司的产品中，而是可以广泛部署到许多不同的系统中，无论是银行、医院还是政府事务。随着软件变得更加健壮（这是因为更多人可以看到它，更多人可以对其进行测试），关于这些东西如何运作的标准也随之产生。世界可以相当快地一起升级。我认为，一个人工智能被广泛部署，并随着时间推移逐步变得更加健壮的世界，是一个所有不同系统都能在某种程度上受到制约的世界。在我看来，这比人工智能更集中的世界从根本上来说更健康。所以各方面都有风险，但我认为这是一个我很少听到人们谈论的风险。存在人工智能系统做坏事的风险。但我晚上更担心的是一个不可信的参与者拥有超强人工智能，无论是敌对政府还是不可信的公司或其他什么。我认为那可能是一个更大的风险。
也就是说，他们可以推翻我们的政府，因为他们拥有别人没有的武器？或者只是造成很大的混乱。
我认为直觉是，这些东西最终会因为经济和安全原因以及其他方面而变得非常重要和有价值。如果你不信任的人或对手获得了更强大的东西，那么我认为那可能是一个问题。也许最好的缓解方法是拥有良好的开源人工智能，使其成为标准，并在许多方面成为领导者。这只是确保了一个更加公平和平衡的竞争环境。这对我来说似乎是合理的。如果这能实现，那将是我更喜欢的未来。
我想从机制上理解，世界上存在开源人工智能系统，如何阻止某人用他们的人工智能系统制造混乱？以某人带着生物武器为例，难道只是世界其他地方会进行大量研发，以非常快地找出疫苗吗？到底发生了什么？
如果你拿我刚才说的安全问题来说，我认为一个拥有较弱人工智能的人试图入侵一个由更强人工智能保护的系统，成功的可能性会更小。就软件安全而言——我们怎么知道世界上所有事情都这样？如果生物武器不是这样呢？我的意思是，我不知道世界上所有事情都这样。生物武器是那些最担心这些事情的人关注的领域之一，我认为这很有道理。有些缓解措施。你可以尝试不将某些知识训练到模型中。有不同的方法，但在某种程度上，如果你遇到一个足够邪恶的行动者，而你又没有其他人工智能能够制衡他们并理解威胁，那么这可能就是一个风险。那是我们必须警惕的事情之一。
在这些系统的部署中，你有没有看到过这样的情况：你正在训练Llama-4，它却对你撒谎，因为它以为你没有注意到，或者发生了什么，然后你就会想“哇，这是怎么回事？”这在Llama-4类型的系统中可能不太可能发生，但你是否能想象到类似的情况，让你非常担心欺骗性以及数十亿份这样的系统在野外流传？
我的意思是，现在我们看到了很多幻觉。更多的是那样。我认为这是一个有趣的问题，你如何区分幻觉和欺骗。有很多风险和事情需要考虑。至少在经营我们公司时，我努力平衡这些长期的理论风险与我实际认为今天存在的真实风险。所以当你谈到欺骗时，我最担心的是人们利用它来制造虚假信息，然后通过我们的网络或其他网络传播。我们打击这类有害内容的方式是构建比对抗性系统更智能的人工智能系统。这构成了我对此理论的一部分。如果你看看人们通过社交网络造成或试图造成的不同类型的危害，有些并不是很具对抗性的。例如，仇恨言论并不是超级对抗性的，因为人们在种族歧视方面并没有变得更好。在这方面，我认为人工智能通常比人类在这些问题上更快速地变得复杂。而且我们两方面都有问题。人们会做坏事，无论是试图煽动暴力还是其他什么，但我们也有很多误报，我们基本上审查了不应该审查的东西。我认为这理所当然地让很多人感到恼火。所以我认为随着时间的推移，拥有一个在这方面越来越精确的人工智能会很好。但我再给你举一个例子：民族国家试图干预选举。这是一个他们绝对拥有尖端技术并且每年都在进步的例子。所以我们阻止了某种技术，他们就学习我们做了什么，然后用不同的技术来对付我们。这不像一个人试图说刻薄的话，他们有目标。他们很老练。他们有很多技术。在这些情况下，我仍然考虑让我们的人工智能系统以比他们更快的速度变得复杂的能力。这是一场军备竞赛，但我认为我们目前至少在这场军备竞赛中处于领先地位。这是我花很多时间思考的事情。是的，无论是Llama-4还是Llama-6，我们都需要思考我们正在观察的行为，而且不仅仅是我们。你将其开源的部分原因在于，还有很多其他人也在研究这个。所以我们想看看其他人观察到了什么，我们观察到了什么，我们能缓解什么，然后我们再评估是否可以将其开源。在可预见的未来，我乐观地认为我们能够做到。在短期内，我不想忽视人们今天试图用模型来做哪些实际的坏事。即使它们不是生存性的，在运营我们的服务中，我们也很熟悉一些相当糟糕的日常危害。实际上，那也是我们必须花费大量时间的事情。
我觉得合成数据这件事非常好奇。对于目前的模型来说，为什么仅仅一遍又一遍地使用合成数据可能会出现渐近线，这是有道理的。但假设它们变得更智能，并且你使用了你将在本文发布当天发表的论文或博客文章中提到的那种技术——它会走向最正确的思维链。你为什么认为这不会导致一个循环，即它变得更智能，产生更好的输出，然后变得更智能，如此循环下去呢？当然，这不会是一夜之间发生，而是通过数月或数年的训练，可能与更智能的模型一起。
我认为在模型架构的参数范围内，这是可能的。只是，对于今天的80亿参数模型，我不认为你能达到那些将新研究整合到架构本身中的最先进的数千亿参数模型的水平。但那些也会是开源的，对吗？
嗯，是的，受制于我们刚才讨论的所有问题，但是的。我们希望会是这样。但我认为在每个阶段，当你构建软件时，你可以用软件做很多事情，但在某种程度上，你又受限于它运行的芯片。所以总是会有不同的物理限制。模型的大小将受限于你能获得和用于推理的能源量。我同时非常乐观地认为这些东西会继续快速改进，但也比我认为有些人更谨慎一些。我不认为失控的情况特别可能发生。我认为保持开放选择是明智的。我们不知道的事情太多了。
有一种情况是，保持权力平衡非常重要，这样就没有人会成为极权独裁者。还有一种情况是，你不想开源架构，因为中国可以用它来赶上美国的人工智能，然后发生智能爆炸，他们就赢了。很多事情似乎都有可能。
保持你的选择开放，并考虑所有这些选择，这似乎是合理的。是的。让我们谈谈其他一些事情。元宇宙。人类历史上哪个时期是你最感兴趣的？从公元前10万年到现在，你只是想看看那是什么样子？必须是过去吗？哦，是的，必须是过去。
我对美国历史和古典历史非常感兴趣。我对科学史也很有兴趣。我实际上认为，看到并尝试更多地了解一些重大进展是如何发生的，会很有趣。我们所拥有的关于这些事情的记载都有些有限。我不确定元宇宙是否能让你做到这一点，因为它很难回到我们没有记录的时代。
我实际上不确定回到过去会是那么重要的一件事。我认为这对历史课之类的会很酷，但这可能不是我最兴奋的元宇宙整体用例。最主要的是能够与人同在的感觉，无论你身在何处。我认为那将是杀手级的。
在我们正在进行的AI对话中，很多都与支撑这一切的物理限制有关。我认为技术的一个教训是，你希望尽可能地将事物从物理限制领域转移到软件中，因为软件更容易构建和演进。你可以使其更加民主化，因为不是每个人都会拥有一个数据中心，但很多人可以编写代码，获取开源代码并修改它。元宇宙版本就是实现逼真的数字存在。这将是一个绝对巨大的差异，这样人们就不会觉得在很多事情上都必须身体上在一起。
现在我认为，身体上在一起可能会有一些更好的地方。这些事情不是二元的。它不会像“好吧，现在你不需要再那样做了。”但总的来说，我认为它对于社交、与人建立联系、工作、部分行业、医疗以及许多事情都将非常强大。
我想回到你对话开始时说的一件事。你没有以十亿美元的价格出售公司。而且对于元宇宙，你明知市场会因此而抨击你，但你还是决定要做。我很好奇。这种优势的来源是什么？你说“哦，价值观，我有这种直觉”，但每个人都这么说。如果你必须说一些对你来说是独特的东西，你会如何表达那是什么？你为什么对元宇宙如此确信？
我认为那些是不同的问题。是什么驱动着我？我们已经谈论了很多主题。我就是非常喜欢构建事物。我特别喜欢围绕人们如何沟通、理解人们如何表达自己以及人们如何工作来构建事物。我在大学时学习了计算机科学和心理学。我认为行业中很多其他人也学习了计算机科学。所以，对我来说，它一直是这两者的交集。
它也是一种非常深层的驱动力。我不知道如何解释，但我从根本上觉得，如果我没有构建新事物，我就是在做错事。即使当我们为在AI上投资1000亿美元或在元宇宙上投资巨额资金制定商业计划时，我们也有一些计划，我认为这些计划很清楚地表明，如果我们的东西奏效，那将是一项很好的投资。但你无法从一开始就确定无疑。人们与顾问或不同的人之间总是有这些争论。就像，“你如何足够自信地去做这件事？”好吧，我停止尝试构建新事物的那一天，我就完了。我将去其他地方构建新事物。
我从根本上无法在运营某事，或者在我自己的生活中，不尝试构建我认为有趣的新事物。对我来说，我们是否要尝试构建下一件事，这甚至不是一个问题。我就是无法不那样做。我不知道。我在生活的各个方面都有些像这样。我们家在考艾岛建造了这个牧场，我参与设计了所有这些建筑。我们开始养牛，我就想“好吧，我想养出世界上最好的牛，那么我们如何设计这个，以便我们能够弄清楚并建立所有我们需要尝试做到的东西。”我不知道，那就是我。
问题的另一部分是什么？我不确定，但我实际上对其他事情感到好奇。所以，一个19岁的马克在高中和大学读了很多古代史和经典著作。你从中学到了什么重要的教训？不仅仅是你发现的有趣的事情，而是在你19岁的时候，你所吸收的信息量并不多。其中很多都是关于经典著作的。显然，那在某种程度上很重要。你所吸收的信息量并不多……这是一个好问题。
这是我认为非常引人入胜的一件事。奥古斯都成为皇帝，他试图建立和平。当时并没有真正的和平概念。人们对和平的理解是，和平是敌人不可避免地攻击你之间的短暂时期。所以你得到短暂的休息。他有这样一种观点，将经济从雇佣兵和军事化的东西转变为一种实际的正和博弈。这在当时是一个非常新颖的想法。那是非常根本的一点：人们当时能够构想的理性工作方式的界限。
这适用于元宇宙和AI方面。很多投资者和其他人无法理解我们为什么要开源这个。他们会说“我不明白，它是开源的。那肯定只是你将事物私有化之间的短暂时期，对吧？”我认为这在科技领域是一个非常深刻的事情，它实际上创造了很多赢家。我不想过度引申这个类比，但我确实认为，很多时候，存在一些构建事物的模式，人们常常甚至无法理解。他们无法理解那对人们来说会是一件有价值的事情，或者那会是世界的一种合理状态。
我认为存在比人们想象的更合理的事情。那真是超级引人入胜。我能告诉你我当时在想你可能从中得到了什么吗？这可能完全不着边际，但我认为这只是这些在帝国中扮演重要角色的人是多么年轻。例如，凯撒·奥古斯都，在他19岁的时候，已经是罗马政治中最重要的人物之一。他领导战役并组建了第二次三头同盟。我想知道19岁的你是否在想“我能做到这一点，因为凯撒·奥古斯都做到了。”
这是一个有趣的例子，无论是从很多历史还是美国历史来看。我最喜欢的一句引言是毕加索的这句名言：所有孩子都是艺术家，挑战在于长大后仍能保持艺术家的本色。当你年轻时，拥有狂野的想法更容易。在你的生活中，以及对你的公司或你所构建的任何事物，都存在创新者困境的类比。你处于你的发展轨迹早期，所以更容易转向并接受新想法，而不会扰乱对不同事物的其他承诺。我认为那是运营公司的一个有趣部分。你如何保持活力？
让我们回到投资者和开源。假设那个100亿美元的模型是完全安全的。你已经完成了这些评估，而且与此不同的是，评估者也可以微调模型，这有望在未来的模型中实现。你会开源这个100亿美元的模型吗？只要它对我们有帮助，那么是的。但它会吗？100亿美元的研发，现在它开源了。这也是一个我们必须随着时间的推移进行评估的问题。
我们长期以来一直开源软件。我们不倾向于开源我们的产品。我们不会将Instagram的代码开源。我们开源了很多底层基础设施。我们历史上最大的一个项目可能是我们的开放计算项目，我们将我们所有服务器、网络交换机和数据中心的设计开源，结果证明它非常有帮助。尽管很多人可以设计服务器，但现在行业以我们的设计为标准，这意味着供应链基本上都围绕我们的设计建立起来。所以产量增加了，对每个人来说都更便宜了，这为我们节省了数十亿美元，这很棒。
所以开源对我们有多种帮助方式。一种是如果人们能找出如何更便宜地运行模型。随着时间的推移，我们将在所有这些事情上花费数百亿甚至更多美元。所以如果我们能更高效地做到这一点10%，我们就能节省数十亿或数百亿美元。这本身可能就很有价值。特别是如果市场上存在其他竞争模型，我们的东西并不是在放弃某种疯狂的优势。
那么你的观点是训练将会商品化吗？我认为这有很多种发展方式，这只是其中之一。所以“商品”意味着它会变得非常便宜，因为有很多选择。另一个方向是质量上的改进。你提到了微调。目前，你对市场上其他主要模型的微调能力相当有限。有一些选择，但通常不适用于最大的模型。能够做到这一点，不同的应用程序特定事物或用例特定事物，或者将它们构建到特定的工具链中。我认为这不仅能实现更高效的开发，还能实现本质上不同的事物。
这里有一个类比。我认为移动生态系统普遍糟糕的一点是，你有两家看门人公司，苹果和谷歌，它们可以告诉你允许你构建什么。这有一个经济版本，就像我们构建东西时，它们就拿走你一大笔钱。但还有一个质量版本，这实际上更让我不爽。有很多次我们推出或想要推出功能，而苹果只是说“不，你不能推出那个。”那很糟糕，对吧？所以问题是，我们是否为AI的这种世界做好了准备？你将得到少数几家公司运行这些封闭模型，它们将控制API，因此能够告诉你你能构建什么？
对我们来说，我可以说，我们自己去构建一个模型是值得的，以确保我们不处于那种境地。我不想让任何其他公司告诉我们能构建什么。从开源的角度来看，我认为很多开发者也不希望那些公司告诉他们能构建什么。所以问题是，围绕此建立起来的生态系统是什么？有哪些有趣的新事物？这能多大程度上改善我们的产品？我认为在很多情况下，如果这最终像我们的数据库、缓存系统或架构一样，我们将从社区获得有价值的贡献，这将使我们的东西变得更好。我们特定于应用程序的工作将仍然如此差异化，以至于这并不重要。我们将能够做我们所做的事情。我们将受益，所有系统，我们的和社区的，都将因为开源而变得更好。
有一种情况可能不是这样。也许模型最终更多地成为产品本身。那么，你是否开源它，我认为这是一个更棘手的经济计算。那样你就会在很大程度上将自己商品化。但从我目前来看，我们似乎不处于那个区域。
你期望通过向云服务提供商许可你的模型来获得可观收入吗？所以他们必须支付你费用才能实际提供模型服务。我们希望有那样的安排，但我不知道它会有多重要。这基本上就是我们Llama的许可证。在很多方面，它是一个非常宽松的开源许可证，除了我们对使用它的最大公司有限制。这就是我们设置这个限制的原因。我们不是试图阻止他们使用它。我们只是希望如果他们要基本上拿走我们构建的东西并转售它并从中赚钱，他们能来和我们谈谈。如果你是像微软Azure或亚马逊这样的公司，如果你要转售模型，那么我们应该分享一些收入。所以，在你去做之前，先来和我们谈谈。这就是事情的发展方式。
所以对于Llama-2，我们基本上与所有这些主要的云公司都有协议，Llama-2作为托管服务在所有这些云上提供。我假设随着我们发布越来越大的模型，这会变得越来越重要。这不是我们正在做的主要事情，但我认为如果那些公司要销售我们的模型，那么我们以某种方式分享其中的好处是合理的。
关于其他开源危险，我认为你关于权力平衡问题以及可能通过更好的对齐技术等消除危害的观点是真正合理的。我希望Meta能有一些框架。其他实验室有这样的框架，他们会说“如果我们看到这个具体的事情，那么就不能开源，甚至可能不能部署。”只是把它写下来，这样公司就为此做好了准备，人们对此也有了期望等等。这在生存风险方面是一个合理的观点。
目前我们更关注我们今天看到的风险类型，这些更多是内容风险。我们不希望模型做那些帮助人们实施暴力、欺诈或以不同方式伤害他人的事情。虽然谈论生存风险在智力上可能更有趣，但我实际上认为，需要更多精力去缓解的真正危害是有人拿一个模型去做伤害他人的事情。实际上，对于当前的模型，以及我猜测的下一代，甚至可能是再下一代，这些都是我们今天看到的更世俗的危害，人们互相欺诈或类似的事情。我只是不想轻视那一点。我认为我们有责任确保在这方面做好工作。
Meta是一家大公司。你可以两者兼顾。就开源而言，我实际上很好奇你是否认为开源的影响，从PyTorch、React、开放计算和其他方面来看，对世界的影响甚至比Meta的社交媒体方面更大。我与使用这些服务的人交谈过，他们认为这是合理的，因为互联网的很大一部分都运行在这些东西上。
这是一个有趣的问题。我的意思是，几乎一半的世界人口使用我们的消费产品，所以很难超越这一点。但我认为开源作为一种新的构建方式非常强大。我的意思是，这有可能。它可能像贝尔实验室一样，他们当时正在研究晶体管，因为他们想实现长途电话。他们做到了，并且能够实现长途电话对他们来说非常有利可图。在那之后的5到10年，如果你问他们发明了什么最有用的东西，他们会说“好吧，我们实现了长途电话，现在所有这些人都打长途电话。”但如果你在一百年后问，也许答案就不同了。
我认为这适用于我们正在构建的许多事物：现实实验室、一些AI方面的东西、一些开源方面的东西。具体产品会演变，并在某种程度上出现和消失，但人类的进步持续存在，那是我们所有人都能做的一件很酷的事情。
Llama模型何时会在你们自己的定制芯片上进行训练？很快，但不是Llama-4。我们采取的方法是，我们首先构建了可以处理我们排名和推荐类事物（如Reels、新闻动态广告等）推理的定制芯片。那消耗了大量的GPU。当我们能够将它转移到我们自己的芯片上时，我们现在能够只将更昂贵的NVIDIA GPU用于训练。在某个时候，我们希望能拥有自己的芯片，可以首先用于训练一些更简单的东西，然后最终训练这些真正的大模型。与此同时，我想说这个项目进展顺利，我们正在有条不紊地推出它，并且我们为此制定了长期路线图。
最后一个问题。这完全出乎意料。如果你成为Google+的CEO，你能让它成功吗？Google+？哎呀。我不知道。那是一个非常困难的反事实问题。好吧，那么真正的最后一个问题是：当Gemini发布时，办公室里是否有人说出：“迦太基必须被摧毁”？不，我想我们现在更温和了。这是一个好问题。
问题是Google+没有CEO。它只是公司内部的一个部门。你之前问过最稀缺的商品是什么，但你是以金钱来衡量的。我实际上认为，对于大多数公司，至少是这种规模的公司，最稀缺的是专注。当你是一家初创公司时，你可能更受限于资金。你只专注于一个想法，你可能没有所有资源。在某个时候，随着你所做事情的性质，你会达到某个门槛。你正在构建多项事物。你在它们之间创造更多价值，但你在你能引导哪些事情顺利进行方面变得更加受限。
总会有一些随机的、很棒的事情在组织中发生，我甚至都不知道。那些很棒。但我认为总的来说，组织的承载能力很大程度上受限于CEO和管理团队能够监督和管理的事情。这一直是我们的一个大重点。正如本·霍洛维茨所说：“抓住重点，保持重点”，并努力专注于你的关键优先事项。太棒了，马克，那真是太棒了。非常感谢。那非常有趣。是的，真的很有趣。谢谢邀请我。当然。