Transcription
人工智能（AGI）的竞赛正在加速，所有主要参与者都在其中。埃隆·马斯克的 XAI、黄仁勋的英伟达、萨姆·奥特曼的 OpenAI 和达里奥·阿马代的 Anthropic，都在进行着巨大的战略举措。未来学家雷·库兹韦尔加倍了他的预测，表示他仍然预测 AGI，即人类水平的人工智能，将在 2029 年到来，奇点将在 2045 年到来。埃隆·马斯克甚至表示，它可能会来得更早。
因此，英伟达似乎正在与所有活跃的参与者合作，并且又创下了创纪录的季度，收入达到 680 亿美元。尽管如此，与 OpenAI 的 1000 亿美元交易似乎已经破裂。与此同时，埃隆·马斯克的 Grok 据称正在与五角大楼签署一项协议，而 Anthropic，这家以安全人工智能实验室为基础的公司，刚刚放弃了其核心安全承诺。
人工智能军备竞赛并非即将到来。它就在这里。而现在正在采取的行动将决定谁将控制有史以来最强大的技术。今天我们采访的是拉里·戈德堡。他是一位连续创业者，过去十年一直活跃于风险投资领域。请访问 lumicenti.com。欢迎拉里。
>> 谢谢。很高兴来到这里。
>> 所以，我经常和你谈论的一个话题是人工智能。你玩过所有模型。你一直了解最新动态，而这场竞赛正在发生。黄仁勋刚刚报告了一个创纪录的季度，人们正在四处购买英伟达的芯片，他的未来指引比任何人预期的都要高出数十亿美元。但让我们从预期开始。这是雷·库兹韦尔。他是一位未来学家。我读过他 80 年代写的一本书，从那时起他就一直是对的。他写道，这本书的名字是《奇点临近》。他说，到 2029 年，人工智能计算机将了解人类所知的一切。当时每个人都认为他错了。随着时间的推移，人们认为他错了。专家们认为他错了。当然，现在每个人都认为他是对的。所以他认为 AGI，人类水平的人工智能，将在 2029 年到来。他自 1999 年以来一直在说这句话。我猜是 80 年代、90 年代。而奇点将在 2045 年到来，届时人类与机器的融合将通过纳米机器人、赛博格融合、深化意识和觉知，将智能扩大一百万倍。到 2045 年，我们将把我们所知的东西扩大至少一百万倍。这就是我们所说的奇点。我将播放视频。到 2029 年，这些计算机将了解人类所知的一切。我们将以前所未有的速度扩大科学进步。所以到 2045 年，我们将把我们所知的东西扩大至少一百万倍，这很难理解。这就是为什么我们称之为奇点。
>> 一百万倍。比人类聪明一百万倍。埃隆实际上回复说，可能会更早。所以，这在一定程度上解释了为什么你看到如此疯狂的举动，剧烈的举动，我们将要审视每一个人工智能供应商，包括埃隆现在正在做的事情。你的反应是什么？
>> 所以，我认为我们既低估了人工智能，也高估了人工智能。人工智能将带来的变化几乎是难以想象的。我们无法真正理解一个我们拥有比我们个人和集体都更具知识和能力、在思维速度、广度和深度上都超越我们的机器的世界。很难想象那个世界。另一方面，也很难想象人类在那个世界中的角色。但那个世界正在到来。至于它将在 2045 年、2030 年或 2060 年发生，我认为差别不大。我想这对个人来说很重要。我是说，我今年 80 岁了。2045 年对我来说不太可能，我不太可能还在世。但另一方面，它可能在 2029 年到来。我的意思是，我认为埃隆认为它会来得更早。但我认为 AGI 是一个连续体。我认为它不是一件事。我现在可以告诉你，我无法在思考速度上超越 Grok，因为 Grok 可以做我做不到的事情。Grok 可以搜索网络，积累知识，将其整合，并给出一个我需要花费数小时才能完成的答案。那么，这是否意味着它比我更聪明或更不聪明？它比我更灵活。但另一方面，Grok 可以立即做我做不到的事情。有些数学是我不擅长的。Grok 和代理人一起拥有我所没有的各种技能。那么，这就是 AGI 吗？这就是什么？我们习惯于拥有能够比人类做得更好的专业化机器。但我们不习惯的是一台机器，它如此通用，如此有能力，尤其是在智力思维领域。所以我认为 AGI 是一个连续体。我认为我们正处于这个连续体上，而这场旅程将持续很长时间，除非人类或机器互相毁灭。
>> 所以，我同意库兹韦尔的观点，但我认为这是一个更广泛、更深层的问题，而不是有一天我们会醒来，机器就会拥有 AGI。我认为在许多领域它已经拥有了。那么，你认为呢？我想上周我们谈话时，你似乎说过我们还处于非常早期阶段，游戏已经开始，但还没有赢家，而且很长一段时间都不会有赢家。所以很多人认为，埃隆的策略是什么？XAI 的策略是什么？特斯拉在这方面的方法是什么？与此同时，Anthropic 推出了 Claude 代码，OpenAI 推出了 Codex，这两者都令人难以置信，它们被认为是能够领先的令人难以置信的编码系统。你认为 XAI 和 Grok 落后了吗？你的初步分析是什么？
>> 嗯，他们肯定落后了，他们肯定在目前的发布版本上落后了，但这并不意味着三周后他们不会发布一个版本，让人惊叹不已，这才是答案。
>> 这将会发生。这就是我所说的跨越式发展。我们正处于这个周期的早期。我的意思是，这让我想起了 Java 的早期，人们争论为什么我们要使用 Java，我们有 COBOL，我们用 C++ 很好，Java 只是……它太有缺陷了，谁会用它呢？一些微系统公司在捣鼓它，你知道，但它却席卷了世界。这并非完全相同，因为人工智能比一个简单的编程语言要深远、广泛和丰富得多。但这就是这些进步的本质。在早期阶段，赢家非常不确定。最终的赢家可能会出乎意料，或者只是不断发展，不断发展，给我们带来惊喜。而且，这并不一定意味着会有一个赢家出现。这是一个如此巨大的领域。它触及人类生活的方方面面。你会发现有些人会专注于某些方面做得更好，而在其他方面做得不好。所以，Anthropic 在编码方面非常出色。什么是编码？我们将来为什么要使用代码？这真的重要吗？这是我们需要担心的事情吗？所以，我们是否使用代码的整个结构是一个开放的问题。他们可能专注于某件明天可能毫无意义的事情。
>> 有趣。是的。对。因为这些人正在构建代码，表面上看这听起来非常聪明，因为世界是由软件构建的。他们可以立即创建应用程序并复制事物。但埃隆却说，也许我们甚至不需要构建代码，因为那是为人类软件编码而构建的。取而代之的是直接进入零和一，人工智能就可以完成你需要的事情，而无需实际编码。
>> 方法截然不同。是的。
>> 比编码能力更有趣的是，在一个结构良好、纪律严明的规则驱动的环境中构建一个代理人军队，并让这些代理人无需代码就能为你工作。对我来说，这更有趣。我不知道你是否一直在关注 Farad 玩这个，Farad 的 Claude，但它很有趣。是的，我也有一个，但我还没有准备好发布它，因为我认为 X 有一项规定，他们可能会禁止人们使用 API AI，直到他们澄清为止。但是的，代理人非常了不起。
>> 所以现在外面有。这就引出了一个问题，为什么还要编码？为什么不直接指示，让你的代理人执行？
>> 而且，代理人的控制和管理以及代理人的安全性将比安全人工智能的问题更重要，因为这是关于行动的问题，而行动实际上会损害事物和人们。
>> 所以这就是为什么我说它还很早。我认为说 AGI 是一件事，实际上是指向了错误的方向。问题是我们如何组织人类活动，人类在这些活动中的作用是什么，以及我们如何构建我们的社会，我认为这比克劳德现在领先了吗？萨姆会做什么？埃隆会做什么？我认为所有这些都只是当天的八卦，它并不重要。真正的问题是我们的未来结构是什么样的，它看起来是怎样的。
>> 好的，我们将逐一审视他们各自在做什么。首先，我认为从英伟达开始是好的。它们是所有这一切的基石。它们刚刚报告了一个创纪录的季度，创纪录的资本支出。我的意思是，它们做得非常好。最近一个季度是 680 亿美元。比去年同期增长了 73%。而且去年人们就已经对它们赚了多少钱感到震惊了。其中 620 亿美元来自公司的数据中心业务。所以，它们正在飞速发展。他的说法是，全球对代币的需求已经呈指数级增长。我认为我们都看到了这一点，以至于我们甚至连我们六年前的 GPU 和云都完全被消耗了，而且价格还在上涨。所以，人工智能正在喘息的说法是错误的，这些公司正在出售它们。人工智能计算量持续飙升，然后是的，它们现在也向中国出口了一些。所以，这只是表明这一点，这正是它没有放缓的迹象。每个人都在购买它。
>> 嗯，我还要说的是，我们正在观察大量的初创公司正在为未来的人工智能构建越来越多的专用芯片和架构。我认为，英伟达拥有巨大的领先优势，但如果我能用一个双关语的话，我认为在未来五年内，这种优势将会被大大削弱。我认为，景象将会改变。我们将看到特斯拉推出其新芯片。我们可能会看到大约 20 家初创公司，每家都有不同的架构和不同的方向。在不久的将来，芯片技术可能会有一些重大突破，尽管人们真的在期待未来计算的某种演变。但我认为英伟达的地位，我认为英伟达正在达到顶峰。我认为在不久的将来，芯片业务将会出现分化。我很高兴特斯拉和埃隆正在制造芯片，并且他专注于此，正如他过去六个月所说的那样。我很高兴，因为这很重要。你知道，这些人正在制造他们能制造的一切，然后特斯拉需要自己的。他会这样做的。所以有很多信号表明，成立的公司正在进行一场巨大的竞赛。它们愿意改变自己是谁，以及它们是什么。埃隆一直在预测这一点，我们将展示他刚才所说的，但是，你知道，他说 OpenAI 不再是 OpenAI 了，它们是封闭的，因此是盈利的。Anthropic，这是达里奥·阿马代，他离开了 OpenAI，因为他非常害怕人工智能，他说我们需要安全第一，这就是为什么他称之为 Anthropic 以人为中心，猜猜怎么着，他们现在说他们正在放弃其标志性的安全承诺，因为人工智能竞赛非常激烈。这家由前 OpenAI 员工创立的人工智能初创公司，专注于技术的正确发展，正在削弱其基础安全原则。他说这是因为竞争，缺乏政府监管，它将不再遵守其积极扩展的承诺，或者在新的模型取得进展并超出其自身安全措施时推迟部署。基本上说，如果其他人都这样做，我们也必须这样做。是的。我的天啊。但这表明竞争非常激烈。你知道，首席科学官说，负责任的扩展政策与当前的人工智能竞赛状态不符。我们认为，如果我们停止训练人工智能模型，对任何人都没有帮助。我们真的不认为，随着人工智能的快速发展，我们单方面做出承诺是有意义的，如果竞争对手正在领先。所以，他们就是这么做的。
>> 嗯，显然达里奥一定没有在大学里学过博弈论。
>> 是的。
>> 我的意思是，如果他学过数学，他就会想到博弈论，但显然没有。
>> 我认为他早就知道这一点了。我的意思是，埃隆一直在预测这一点。他曾说过，他一年前或什么的说过。每一家人工智能公司都注定会变成其名称的反义词。OpenAI 是封闭的。Stability 是不稳定的。Midjourney 不是中间的。因此，Anthropic 是反社会的。他知道会是这样。
>> 那么，这让 Grok 变成了什么？
>> 是的，我正要问你。所以，Anthropic 将是反社会的。他现在又说了。命运是一种讽刺。Maxer 和……是的，每家人工智能公司都注定会变成其名称的反义词。他在 2025 年 7 月说过。所以，我正要问你的那个问题。所以，显然这是这家公司 Anthropic 的基石，竞争非常激烈，它们需要发展，它们刚刚放弃了它。它们会这样做的。OpenAI 说，嘿，我们在这里是为了开源，我们想成为开源的，非营利的，当然它们放弃了，因为这太大了。所以埃隆出来说，Grok，我听说埃隆说，我想问你是否认为这是正确的。他说，好吧，所有其他公司都在做什么，它们设置了限制。它们说，“不要性别歧视某人，因为这是错误的，你必须保持清醒，所有这些事情，这是正确的政策，但不要这样做。”但是，任何时候你教人工智能说谎，你最终都会伤害它本身以及未来的社会。你不应该这样做。相反，他认为你应该让人工智能追求最大的真理，最大的美丽，通过这一点，它们将变得超级聪明，比人类更聪明，但因为它们拥有这一点，它们就不会杀死人类，或者他只是认为这是他能想到的最好的事情，但他知道惩罚或教人说谎是错误的。听起来是正确的，但你对此有什么看法？
>> 我不知道我们还有多少选择。我们当然不能教计算机说谎是好的，或者说不成为反社会是好的。但问题是，找到一个平衡点非常困难，找到……在某些情况下，从各个角度来看都非常令人困惑，最重要的是从是否有害的角度来看。它对这个群体造成的伤害比对那个群体少吗？它对这个群体公平吗？对那个人不公平吗？这些判断，我的意思是，法院已经挣扎了多年。人类法院已经挣扎了多年。人工智能如何做出这些判断？我们如何编程？我们如何让人工智能做出这些更精细的判断，以便我们能够……我们能够……我们能够对其表示赞同？所以，如果你看一个普通法官在一次普通的案件中做出判断，你会发现，法律界会有很大一部分人不同意这个判断。除非案件非常明确，否则很少能找到一个让所有人都信服的判断。所以，我们现在面临着一个世界，我们将拥有一个人工智能，它将做出一个判断，54% 的人会不同意，或者 48% 的人会不同意，谁对谁错？什么是诚实的真相？而这……而这……这就是为什么像达里奥·阿马代这样聪明的人会得出如此不聪明的世界观，这让我感到奇怪。我喜欢埃隆的世界观，因为它毫不妥协。它不假定……它不假定采取立场。它说，“让我们尽量做到最大程度的诚实，但我们将做一些人们不同意的事情。”而……而你知道，51% 或 48% 或 32% 或 20%。某个百分比的人会不同意，但你知道，爱因斯坦在他提出……他的理论时，并不是所有人都同意他，这花了很长时间，现在我们开始重新审视他理论的许多组成部分。所以，没有绝对的真理。你可以追求真理，但没有绝对的真理。在人类世界中，真理是……是双面的。所以，我认为……我认为试图……萨姆·班克曼-弗里德是一位效用主义者。看看他……他做了所有达里奥们相信的事情。你知道，你必须做正确的事，你必须做正确的事。看看他发生了什么，看看正确的事把他带到了哪里。这就是现实。所以，你知道，你支持美国吗？如果你支持美国，你支持美国武装部队吗？你是否向武装部队提供必要的信息？
>> 而你又是谁来对某个特定情况做出价值判断？
>> 所以，我当时想，是的。
>> 这些都是极其困难的问题。我想如果你问我的意见，我认为埃隆的立场非常接近我所认为的……是的，我们应该在哪里。但另一方面，你知道，他承诺开源。它还没有那么开放，我们还没有……你知道，还没有多少开源。所以，是的，他自己。但是的，我同意你的看法。情况似乎就是这样。所以，你刚才谈到，你知道，你做什么？你支持政府吗？你不支持吗？五角大楼。你做什么？所以，本周发生的事情是。五角大楼，现在的战争部，对吧？而不是国防部。他们说 Anthropic 不允许我们使用他们的技术对美国公民进行大规模监控。因此，我们将它们指定为国家安全风险。这当然是有人在说，战争部正在恳求 Anthropic 能够监视他们的美国公民。当然，这……也许他们是这样做的，也许不是。所以，五角大楼询问国防承包商对 Anthropic 人工智能服务的依赖性。因为 Anthropic 无意放松其对军事用途的使用限制。好的。而国防部长彼得·赫克特说，如果 Anthropic 不遵守，五角大楼将对其采取行动，选项包括将其标记为供应链风险或援引一项法律，迫使 Anthropic 改变其规则。我不知道谁对谁错。战争部正在要求人工智能用于此。而与此同时，Grok 是被选来帮助五角大楼的，看起来他们很快就能使用它了。所以，我不知道你对此有什么想法和意见。
>> 我不知道大规模监控，如果战争部谈论的是对美国人民的大规模监控。问题是，这些条款是什么？他们为什么要这样做？我不确定。这是战争部的工作。所以，这对我来说确实听起来很奇怪。
>> 嗯，我认为这是个人观点，对吧？只是说这是……
>> 嗯，她据称引用了……抱歉，这是据称引用了战争部某人的话，无论谁发布了这条消息。而且，你知道，你必须带着一点盐来对待任何发布的内容。我的意思是，没有一个发布的内容我不会问 Grok 它的真实性，而且总有一些细微之处。所以，我不想对可能错误且……不真实或不正确的事情做出判断。我想说的是，一家私营公司没有理由限制其政府使用其产品。如果它们限制政府使用其产品，它们实际上是在说，我们……我们不认为我们的政府是合法的。大多数国家都会有办法强迫……强迫该公司支持该政府。自越南战争以来，我们已经有很多……有能力，无论是否合宪，我不知道。但是，有能力质疑……质疑武装部队的合法性，而且似乎没有人真正处理过这个问题，在最高法院层面。它还没有出现。所以，我无法……答案是，我不知道陈述的准确性。我不知道……这是战争部的政策，我当然不知道达里奥的……Anthropic 对什么可以做什么不能做的限制是什么，但我会非常不愿意使用一个产品，它是……是一家在效用主义标准下运营的公司，在这种……在这种……我认为温和的……反美国的……哲学下运营。
>> 我认为值得注意的是，你知道，当我想起这件事时，就像其他国家将以各种方式使用人工智能，包括他们的政府，包括他们的国防部，包括他们的战争部，包括一切。所以，这几乎就像……是的，我的意思是，乍一看听起来很糟糕。我的天啊，我们在支持五角大楼和战争部，但就像……不，你想要生活在什么样的国家，什么样的世界？而且你需要……我认为埃隆以前说过，这就像核战争，对吧？就像你必须……你的偏好是多个参与者都能获得这项技术，而不是一个国家拥有它而其他人都没有。这就是关键，是创造一个公平的竞争环境。
>> 什么能阻止外国政府收购 Anthropic 的副本并将其用于其目的？
>> 嗯，你知道最近几天发生了什么，对吧？
>> 最近几天，Anthropic 的首席执行官宣布，他刚刚说有三家中国……哦，是的。人工智能公司一直在用数百万个机器人淹没云代码，然后抓取数据，试图了解云代码的工作原理，通过这种方式进行逆向工程。惊喜，惊喜。所以，是的，然后当然埃隆指出，嗯，还有其他人，Anthropic 自己也……非法知识产权来训练他们的机器人。
>> 是的。
>> 这是一个疯狂的世界。这就是我所说的。这就是今天整个节目的重点。就像这场比赛进行得如此之快和激烈。赌注如此之高。每个人现在都在放弃他们最初的道德原则，并开始行动。我不知道你是否一直在关注这一点，当然 OpenAI 是最大的参与者。他们正在试图筹集 1000 亿美元，但根据这个消息，它已经正式破产了。英伟达本应给 OpenAI 1000 亿美元。现在看来只有 300 亿美元。而且在两三周前，黄仁勋接受了一次采访，他基本上收回了说法，说我从未说过 1000 亿美元，是 300 亿美元。你对 OpenAI 和他们的目标有什么看法？
>> 我对萨姆有如此强烈的反感，我可能不应该评论。我……我只是认为他……我甚至不想说。我……我不高兴。我的意思是，我用过 ChatGPT，我用过 GBT X.0。你知道吗？我将跳过评论。
>> 当然，这是公平的。让我们看看会发生什么。但我想说的是，OpenAI 正在大力投入 1000 亿美元，对吧？达里奥·阿马代，Anthropic 已经引起了巨大的轰动。他们今年将进行首次公开募股。他们正在放下所有的束缚，或者任何他们强加给自己的枷锁。他们愿意做任何事情。现在，黄仁勋，英伟达宣布创纪录的季度。他将提高指引，在我看来。他卖出他能卖出的所有东西。我不知道人们是否认为埃隆的 XEI 落后了。而他的理论是建立最大的数据中心，以尽可能便宜的方式做到这一点，这样你就能获得最聪明的人工智能。然后他有第一性原理思考他正在构建什么样的人工智能。我希望这能奏效，但我们还不知道。正如你所说，现在还太早。
>> 我很想看看 Macro Hard 的发布。我认为那将是一个非常有趣的时刻。
>> 再说一遍，我再说一遍，我们还处于非常早期阶段。
>> 所以，焦虑和担心今天发生的事情，1 亿美元，8000 万，300 亿美元，无论多少。我的意思是，那不是游戏所在的地方。游戏所在的是哪些架构出现，哪些架构成为……成为标准，哪些标准然后被广泛采用。……以及哪些成为赢家，以及谁是这些赢家的主要驱动者。这就是游戏的玩法，我认为这将在本案中得到解决。现在，有一件事你应该知道，将会有多种不同类型的人工智能。
>> 不仅仅是一种人工智能。就像有不同的人类一样，每个人都有不同的技能，你知道，有整批的人做这件事，有整批的人做那件事，还有一大批专家做这件事。所以有医生，有律师，我认为人工智能也会如此。不是在应用层面，而是在……在基本层面……在根源层面。所以，我们将看到很多这样的出现，而这一切在很大程度上取决于数据。存在着如此巨大的……实际上不是海洋。存在着许多不同的数据湖，这些数据湖掌握在私人手中，而这些数据将成为下一批专家、下一批专家和下一批……突破性人工智能的驱动力。所以我认为……我认为我们将看到巨大的发展，远比已经发生的要多得多。所以，担心谁现在领先，有公司还不存在，将很快崭露头角，担任领导角色。
>> 相当快。是的。我两周前看了黄仁勋的采访，他被问到那个问题。他的回答和你一样，他的未来愿景是，将会有许多不同类型的人工智能。我会有我的人工智能，你会有你的人工智能。坏人会有他们的人工智能。那个坏人的人工智能会试图攻击我，偷我的东西，你知道，破解我所有的密码，但我的人工智能会试图保护我，它会……就像……就像我们今天一样。总有坏人和好人，但你会有自己的人工智能，它应该……
>> 他相信会平衡世界。所以，他有……
>> 你的人工智能的质量将取决于你的数据的质量。
>> 不是你人工智能的质量，而是你……你数据的质量。感谢这次谈话。谢谢你。拉里，在他的 X 账户 @Tesla Larry 上关注他。请访问他的网站 lumicenti.com。谢谢大家。我创建了一个网站，它是特斯拉投资者最全面的资源。请访问我的网站 herdomm.com。