Transcription
你好。如果你已经听了一段时间了，这是我与 Nathan Ben 一起制作的第四期节目，总结了我们今年在人工智能领域的所见所闻。和往常一样，我们会回顾一下《人工智能现状》报告中的一些主题。此外，还有 Air Street Capital 的动态，以及 Nathan 对长期以来各种问题的普遍看法。我希望你喜欢。我想你是我至今为止邀请到这个播客四次的人中，可能是唯一的一个，这真的很棒。而且我认为这绝对是我今年最喜欢的一期节目之一。所以，欢迎回来，Nathan Bes。我觉得我们可能会有很多老听众，但可能也有一些新听众，他们正在试图弄清楚去年到底发生了什么。所以，为了这个目的，我想我们不妨从谈论 Air Street Capital 开始，了解一下你最近的动态，以及我认为尤其是一些围绕你核心投资理念的想法。所以，也许我们可以从那里开始。
>> 当然。很高兴能做这件事，我想这很好地标志着我们过去和未来可能的发展方向。对我来说，我的正式训练是在癌症研究和生物信息学领域。我一直对科学和技术感兴趣。我在 2013 年完成了我的博士学位，你知道，那大概是现代深度学习开始起作用的时候，也许你知道，在 ImageNet 和深度学习等技术出现一两年后。作为一个在科学道路上成长起来的人，而不是在金融、咨询、专业服务道路上成长起来的人，我一直更倾向于技术圈子，并试图找到那些没有新方法就无法解决的问题，而不是“这个软件产品今天存在，我要做一个更漂亮的，因此客户会转移过来”，或者当时非常流行的市场或电子商务。我在伦敦开始我的职业生涯，你知道，DeepMind 就诞生在那里，我在那里也有朋友，你知道，非常接近学术界，我有机会亲眼目睹了这种新兴的人工智能生态系统是如何成长的。我和许多其他决定将一生奉献给人工智能的人一样，认为虽然这项技术当时看起来很小众，可能有点像玩具，但根据定义，世界上所有非自然产生的东西都是智能的结果。所以，如果你能有一个系统，能够普遍地学习任何任务，并且随着时间的推移，可能会从简单的任务开始，然后转向其他任务，进入新的行业等等，那么这就是一个永恒的投资理念，你可以从一个小众市场推广到无处不在。所以，这就是我为什么对这个领域感兴趣的原因，我在 2018 年有机会开始一项新的事业，当时大多数风险投资公司对人工智能并不特别感兴趣，因为除了像字节跳动、谷歌或 Facebook 等这样的大公司在人工智能领域赚了很多钱之外，没有真正的证据。所以我开始作为一名独立 GP，这意味着我独自经营一切，自己做投资决策，建立 Air Street Capital，作为一家风险投资公司，你知道，可以支持那些在创业公司中构建或利用人工智能的企业家，并在北美、欧洲开展业务，并在可能在两三年后行业机会看起来成熟的地方进行投资，但今天看起来并不那么普遍。我现在正在管理我的第三支基金。这是一段激动人心的时光。我与 11 实验室、Synthesia、Cruso 等公司合作过，涉及许多不同的行业和优秀的人。是的，除了投资，我花时间阅读研究，努力与社区保持联系，并与你和其他人交流。所以，无论一切是否会暂时变得糟糕，还是会变得更加繁荣，我都会在那里，继续投资。
>> 是的。我认为我最欣赏你公开倡导工作的一点是，你有多么坚持不懈，既坚持你的理念，又做了很多工作，我们稍后会详细讨论，但高层次上是希望欧洲在人工智能领域更具竞争力。我们稍后会谈论监管等方面的问题，但一个让我思考的问题是，显然你也可以投资美国公司，你在美国花时间，等等，但你主要居住在欧洲。我认为你通常认为自己是一家欧洲风险投资公司。你可能有的一个选择，或者可以考虑的是，嗯，欧洲显然不像我希望的那样具有竞争力。为什么我不去美国定居，或者做类似的事情，而不必处理这些问题呢？但显然你选择了对我来说感觉是更高摩擦的路线，至少在我看来，我将在这里定居，并真正努力弄清楚如何让欧洲在这些我关心的方面做得更好？是什么激励着你呢？
>> 我采取了地理位置灵活的方法，一年在欧洲和北美各地分配时间。这意味着你必须能够在你需要的时候随时登上飞机。但我认为，由于这个行业的性质已经大大扩展，它比以前更加分散，以前有一个明确的重心在伦敦，然后，你知道，在 OpenAI 之后，显然有一个在旧金山，然后你可以说纽约也有一个不错的中心，所以你必须同时出现在许多地方。另一件事是，有不同的方法来做这份工作，谁知道哪种是正确的方法。结果就是结果。所以，你知道，我学会了尝试以一种能让我做出更好决策并出现在正确地点的方式行事。我发现，虽然一个人可以住在旧金山，每天“喝酷爱”（指沉浸于某种文化），但我发现这对于做出原创性决策以及拥有全球视角来说并不是特别有利。例如，我发现旧金山是发现新事物并将其能量全部用于新事物的绝佳场所。因此，增量的、奇怪的想法似乎在旧金山出现的频率不如在其他城市，那里可能没有那么强的吸引力。例如，当我参加你参加过的旧金山或纽约的聚会时，我查看与会者名单，纽约的参会公司和行业的多元化程度远高于旧金山，你知道，你会看到国防、媒体、金融、财富管理、消费品、媒体等等。而在旧金山，都是我们都知道的那些显而易见的名字。所以，我认为出于这个原因，拥有地理视角和多样性是很好的。关于长期看好欧洲的另一部分是，我认为欧洲一直有很多优势，可能不需要在这里重复，因为它们已经被反复提及，但总的来说，有聪明的人、机会、好公司等等。但它通常受到风险承受能力不同、监管碎片化、不同国家之间的政治差异等因素的阻碍。我不想仅仅将我的成功锚定在欧洲政策在技术和公司形成方面的整体结果上，但我确实认为，在我能够施加影响的领域，比如生物技术、人工智能或国防，发表我的看法是一种很好的时间利用方式。你知道，现在距离慕尼黑安全会议还有一个月，去年这次会议以削弱欧洲的美国安全保障而闻名，然后随之而来的是“天哪，如果我们需要的话，没有人会来拯救我们”。然后，你知道，近万亿美元的新资金被调动起来，基本上是为了加强欧洲国家自卫的能力。我的意思是，这是自第二次世界大战以来我们从未见过的宏观转变。所以，我认为接触欧洲意味着，你知道，我可以参与这种宏观游戏，说“哦，有很多新的国防公司需要成立”。如果我住在旧金山，那就困难多了。所以，我认为就像在整体框架内能够跨越不同行业和主题一样，拥有地理上的灵活性也允许一个人去机会所在的地方，并且可能在它成为共识之前就去那里。
>> 是的。当你和其他风险投资人交谈时，比如那些住在旧金山的人，你是否发现自己，你已经阐述了一些差异，这些差异可能体现在投资理念或你感兴趣的公司范围上。你是否觉得你在投资理念、如何与公司互动方面也有其他差异？我很好奇你会如何自我描述你与旧金山风险投资公司，也许是一家知名公司，或者类似的公司？
>> 是的。一个显而易见的区别是，Air Street Capital 投资的所有东西都是我个人品味的结果，而且仅仅是我的品味，而大多数其他风险投资公司，95% 以上，都不是独立 GP。很难归因于谁的品味导致了投资。第二点是，我认为在旧金山，它越来越多地成为一种“势头游戏”，人们假设他们知道谁是最好的企业家，基本上就是一场竞价拍卖，以获得这些人的机会，而且在大多数情况下，他们是值得的，而且是杰出的，但信息不对称似乎非常小，因此获得超额回报的能力，除非你假设结果会非常巨大，否则很难看到。然后就是一个人可以投资的东西的多样性。所以，比如我拥有英国和希腊的国防公司，比如 Delian，它们在做某种版本的 Andol 或住房，你知道，我有一家公司在做具身智能，在人们真正认为它会成功之前就叫 Syriact，你有一家公司在做蛋白质工程设计基因编辑器，在旧金山，所以，你知道，那种多样性我认为一个人通过只待在一个生态系统中是无法获得的。也许最后一点是，我更愿意承担某些风险，我认为这些风险可以通过良好的工作来缓解。例如，有一些公司做得非常出色，但沟通得不是很好。因此，对于一个习惯于看到始终如一的精彩沟通，但可能缺乏实际实质或交付能力的人来说，他们可能会低估前者。我愿意看到这一点，并理解“是的，有些事情我们可以真正解决并修复”。但是，你知道，如果一个团队无法真正兑现他们所说的要兑现的东西，那比沟通不畅要糟糕得多。但是，是的，正如我们之前所说，有很多不同的方法来做这份工作。我正在寻找那些觉得除了创业之外，没有其他途径可以表达他们的技能、他们的热情、他们想如何度过时间的企业家，而不是我觉得现在有很多企业家因为政治原因或因为雇主问题，或者因为筹集资金太容易而开始创业。我只是不确定所有这些原因是否是长期可持续的。
>> 是的，这很有道理。在我们深入探讨 2025 年《人工智能现状》报告中的具体发现以及此后三个月发生的事情之前，你的总体看法是什么？我们正在录制这个节目，时间是 2026 年初。你对过去一年的感受与大约一年前相比如何？
>> 我认为过去一年的进展确实是里程碑式的。我认为在一些对我来说至少很重要的任务上，比如写作、研究、思考理解新事物的方法，甚至是一些网络代理计算机使用工作、图像、视频等等，都比 12 个月前有了巨大的进步，以至于我认为它确实很有用。现在真正的问题是，如果你只是冻结进度，那么如何找到使用这些工具的最佳方法，而我们行业已经发布了如此强大的产物，如果以正确的方式实施，但没有说明书。我认为我们正处于说明书阶段。我肯定感到惊讶，关于投入其中的投资规模，而且还在不断投入。这真的感觉，是的，如果人工智能不起作用，这对私人市场来说将是问题重重，对公开市场来说也是问题重重，对国家来说也是问题重重，所以这比我三年前的想法要强烈得多，那时经济中几乎没有什么可期待的，而且“谢天谢地”人工智能出现了，但这已经达到了新的水平。所以，我认为对于 26 年，我总体上非常乐观。我认为还有很多事情要做，即使只是看看人们为什么对投资技术感到兴奋的基本原则，比如“嘿，你知道，云支出仍然是 IT 预算中很小的一部分，电子商务渗透率仍然相对较低，与应该达到的水平相比，每个人都有智能手机，所有这些事情，现在你把人工智能叠加在上面，你会获得更多的机会，无论是人工智能在电子商务网站上驱动更多的转化，我们还没有开始尝试广告，企业仍在弄清楚什么真正有效，而且已经有很好的证据表明存在利润提升和收入机会等等。所以，是的，我期待今年有很多事情发生。你刚才提到的投资规模的观察结果可以这样理解：如果事情进展顺利，那么可能会出现一种非常严重的充裕状态，或者类似的情况，否则事情可能会以一种非常糟糕的方式崩溃。感觉有相当大的潜在结果范围，对于许多思考这件事的人来说，这些结果都是可能的。我很好奇，就你个人而言，你是否觉得你心中对潜在结果的范围以及什么感觉可能不太可能有一个概念？
>> 嗯，因为今天这一代系统与上一代相比确实非常有用。我认为，即使进步停止，事情也“走向糟糕”，我们留下的产物仍然是有用的。我认为最坏的情况是，人们现在支付的资产价格远远超出了这些公司实际能达到的水平。所以这是一个估值问题。第二个问题已经被讨论了很多，那就是注入的金融工程、债务和表外特殊目的实体（SPV）以及类似的东西。可以说是对建设和能源以及 GPU 数据中心创建的激进金融化。我认为这就是问题所在。但这似乎与人工智能是否会起作用或不起作用的联系较小，而更多地与利率、地缘政治和金融工程等主题有关，这有点超出了试图制造 GPT 等产品的 AI 研究人员的范围。
>> 嗯。 [清嗓子和咳嗽] 也许这是一个不那么明显的过渡，特别是与估值和财务问题有关，去年年初确实很热闹。由于这个原因，市场出现了一些动荡和很多麻烦。特别是，我们看到了中国正在追赶美国实验室的主题。特别是，DeepSeek R1 的推理模型在许多关键基准上与 01 相匹配，包括 2024 年的 Amy 数学竞赛和 Math 500 基准。Epoch AI 的分析指出，自 2023 年以来，中国模型似乎平均落后美国前沿模型约 7 个月。还没有中国模型能够完全超越美国最顶尖的模型，但竞争仍然非常激烈。再次，这还有很多其他维度我稍后想深入探讨，但仅就我们看到的性能差距以及它如何缩小而言。你是如何思考这个问题的，特别是它与你可能思考的投资方向以及类似的事情有何关系？
>> 七个月似乎并不长。
>> 不，它不长。
>> 真的不长，对吧？这就像
>> 是的。
>> 真的只有两个季度。所以，一方面，如果你评估基准数字，似乎能力正在变得好很多。但我非常清楚，当我们看基准时，它只是表格上的一个数字，我们试图粗略地估计 81 与 74 之间的差异有多大。而且，你知道，对于我们大多数不每天都在处理基准的人来说，这并没有提供很好的直观感受。然后有很多例子，人们看着基准说，“哦，看起来很棒”，他们试用模型，然后他们说，“哦，它对我不起作用”，或者“我认为它没那么好”，或者“我有一个更喜欢的系统”。所以，我认为正在发生的是，随着人们尝试人工智能的用例数量的增加，不可避免地会出现针对特定任务的工具偏好，这有点像消费者的偏好。你有一个主力模型，你选择你的供应商，如果那个可口可乐不可用，你不得不喝百事可乐，大多数时候你可能会说“好吧”。但有时你就是不喝。我认为每次有新模型出来时，我们都会尝试它，然后你就会回到使用百事可乐或可口可乐。我注意到的另一件事是，即使你不看基准，只是在聊天窗口中尝试一个模型与另一个模型，有时也很难真正感受到差异。我认为这里有一个教训。这可能有一些科学或行为心理学方面的依据。这是经过充分研究的，但看起来人类会非常迅速地重置他们的期望。无论是忘记最近的历史事件，还是忘记我们从哪里来，或者现在认为新事物并不新，如果你回到几年前，你会对任何一个这样的系统感到震惊。所以，我认为所有这些都让我思考，下一个能让人大跌眼镜的重大成果是什么？我问我的朋友们，有时我得不到一个明确的答案。所以，从这个意义上说，很难预测哪个模型会变得更好。然后，我认为，虽然大多数模型公司最初都是通才，但看起来正在出现一些分化或一些明确的产品赌注，最终意味着该系统在例如代码方面非常出色，但在写作能力方面却衰退了，这只是表达了公司的企业优先事项。是的，这很有道理。就中国而言，一个重大的问题和担忧是，对中国实施的出口管制是怎么回事？显然，美国很多人都非常关注竞争力和这个问题，不希望中国模型赶上来。而且有怀疑，有发现说一些高科技公司正在大量囤积 GPU。英伟达对此有一些看法，等等。正如你所说，当然，有时很难看到这里的差异。我玩过 Kimi K2，但它从来没有真正让我印象深刻，尽管我印象深刻。你是否担心过这个问题，或者你对围绕“我们应该非常担心这个问题”的讨论有什么看法？
>> 是的，我简单的看法有点受到生物进化的启发，那就是任何时候你对一个有能力进化的系统施加选择性压力，它就会进化。所以，你知道，中国是一个极其聪明、拥有人才、资金和资源的国家。所以，如果你施加选择性压力说你将无法获得 X，那么就会出现围绕 X 的创新，这并不让我感到惊讶。你知道，这与这些芯片走私的报告是否属实无关，它们很可能在某种程度上是真实的。所以，从这个意义上说，我并不真正相信出口管制会起作用，或者也许它们会稍微减缓他们的速度，但正如我们所见，如果差距真的只有 7 个月，那么一点点是不够的。所以，感觉另一种方法可能是“让你的敌人更近”。所以，某种形式的合作，至少你知道，你对他们离你有多远，或者有多好或多坏有更好的了解。而且我认为另一件有趣的事情是中国公司是如何迅速进入公开市场的，就在上周，我们就有两家中国模型公司上市，你知道，Minimax，然后我认为是 Zai，也就是 GLM 的制造商。而且我认为这很有趣，因为它抓住了时代精神。相当多的国际投资者可以投资中国，或者对于美国人，你知道，像罗宾汉用户这样的，就更困难了。但最终，金钱是万能的，我认为，比几乎任何东西都重要。我们可以看到这一点，美国实验室的一些企业行为和价值观的转变。所以，最终，如果这是真的，那么如果投资者正在寻找接触人工智能的机会，他们是否真的，真的，真的不会投资 CI，因为它在香港上市？我确实想关注香港交易所的投资资本到底来自哪里。而且我不会惊讶，如果其中一些确实来自美国，因为纯粹的原因是存在投资机会。而且你可以看到，在过去 12 个月里，与人工智能相关的中国股票的表现确实相当不错，在它们真正进入游戏之后。而所有这些不仅仅是中国资金在支撑价格。
>> 这很有道理。也许下一个重点或去年的主题领域是推理。这指的是测试时间计算，也称为推理时间缩放。再次，推理过程中使用的计算能力，当你最喜欢的模型准备给你答案时，你可能会注意到的思考轨迹，也许是自我纠正，诸如此类的事情。关于这似乎如何运作，有很多有趣的发现。当然，有很多推理公司和地方真的在努力优化推理过程。今年有许多不同的模型，它们真的专注于这些事情。RL 再次受到关注。你在这个方面今年的主要亮点是什么？
>> 大概是我们 12 个月前录制节目时，我认为那是 01 的第一个小片段。所以，你知道，就在圣诞节前，每个人都在说，“天哪，看看明年会怎么样。”所以，我认为一方面是，你知道，思维链真的真实吗？它们真的反映了正在发生的事情吗？还是模型在描述它认为我们想看到的步骤？第二个是，它们是否真的能很好地反映模型行为，并能用来区分推理是否质量好，因为在某些方面，我们是否关心系统是否以我们认为最好的方式进行推理来得出答案，还是它只需要找到一种新方法来得出正确的答案？至少对我来说，在宏观层面上，机器学习最有趣的部分之一是这种“全局优化”的想法，比如“嗯，我们可能找到了我们认为的局部最优解，但一个能够考虑一切的系统可以找到一个更好的解决方案”，这并不意味着它更差。另一部分是用户行为，我不知道用户是否真的知道选择哪个模型以及应该使用多少思考时间。似乎在某些查询上，以前可以很快得到结果，现在模型在思考，而且它在思考，为什么它在思考，而它本可以很快返回结果，但总的来说，我认为这是一个巨大的变化，它也可能解锁了科学人工智能的一些进步，比如那些考虑了大量工作的文献代理，并考虑了“我可能会测试什么不同的假设？编写巨大的代码块，执行它们等等”。看着这样的工作，并认为“12 分钟前我们还没有这个”，这似乎很疯狂。
>> 在一般情况下，你提到的一个观点是这些推理轨迹是否良好，它们是否真的有助于我们理解行为，以及我看到或许多方向中的两个方向是：一，这是拟人化。我们正在将我们对推理如何工作的理解强加给这些模型，你知道，这并不一定代表正在发生的事情。二，这是思维链可解释性作为一个安全问题。如果我们无法解释和理解正在发生的事情，那么也许就很难让我们拥有我们关心的那种监督，以确保这些模型不会进行“线材连接”（wireheading）或试图规避和欺骗我们等等。你是否还保留这些担忧？
>> 是的，我也想知道关于这些监控税的问题，即能否看到和读到模型所说的它在思考什么，以及它实际在思考什么之间是否存在权衡，以及这种权衡，比如“我可以问它”，是否会降低结果的质量，或者不会？我确实会阅读某些问题的推理轨迹，仅仅是因为我想看看它是如何考虑问题的，它是否像我一样考虑问题，或者它查看了哪些来源？系统是如何工作的。我注意到了一些差异，比如当我上传一张照片时，模型现在会调用一个 OCR 包，然后运行 OCR 包，然后说“哦，这里有问题，我无法运行它”，而以前它似乎是本地运行的。但还有这一点，然后关于安全方面，我认为与“能否信任思维链”有关，我认为我发现最令人担忧的结果是，它只是“假装对齐，但实际上并不对齐”。这似乎令人担忧，还有这种“自我保护”行为等等，再次，我，我只是觉得很难知道“这真的是它所想的，还是不是像‘煤气灯效应’（gaslighting）但只是在复述？”
>> 研究起来也很有挑战性。我觉得我们看到了一些来自 Anthropic 等公司的相当好且有见地的研究，它们将这些模型置于一个假设的场景中，并深入研究模型在想什么，它在这里想做什么？但它们也足够人为，而且在某种程度上很难在不以某种方式干预模型的情况下进行衡量。所以，我觉得也很难从这些结果中得出太多结论。
>> 是的。问题是写关于它的人会把它当成一个大问题，然后这可能会传播到某些可能影响政策和其他事情的情绪。但这确实感觉与“能否信任模型？”这个问题有关。它在伪装吗？也许这延伸到了网络安全风险和其他方面，比如网络安全似乎可能更令人担忧。如果我们扩展模型进行复杂推理和编写攻击系统的方法的能力，并长时间工作，我认为我们可能会遇到一些问题，这就像我们在报告中做出的一个预测。
>> 是的，这似乎非常合理。我认为，特别是随着越来越多的人采用这些系统。我觉得年轻的 Lego 很早就开始担心人们将语言模型集成到他们的关键基础设施中，以及这可能带来的各种漏洞。
>> 是的。是的。特别是当这些模型可以被压缩得如此之多，并且作为有效载荷，将它们注入某人的机器或关键系统，这些系统不一定很好，或者可能与国防有关等等，这是可以预见的。
>> 那么，说到可能受到影响的所有机器，我们今年看到了大量的商业吸引力，至少是加速的。有一些来自该年的 Ramp 数据声称，44% 的美国企业正在为人工智能付费。我记得，我认为，这比 2023 年初的 5% 要高。平均合同价值也从 39,000 美元上升到 530,000 美元。但这只是使用 Ramp 平台的企业样本，约有 30,000 到 50,000 家。所以我认为这偏向于技术驱动的中小型企业。美国人口普查局的一项商业趋势发现，使用更广泛的调查方法，AI 的采用率为 8.4% 到 9.7%。我很好奇，在这些发现之间，你看到的其他发现，你的想法是什么，当你想到美国这两个数字之间的差异，以及你投资的其他地方？
>> 是的，我认为这与样本池有关，正如你提到的，一个调查中有更多技术驱动的公司，另一个调查中有更多普通公司。我认为一个领先指标是，是的，这些新成立的公司，它们是否开始时不使用某种编码代理？几乎绝对不是 [笑声] 每个人都在使用它，而且根据与一些投资组合公司的交流，我只是从轶事证据来看，你知道，它们以更快的速度交付产品，而且人数更少，特别是对于那些更普通的 SaaS 应用，它有一个非常完善的剧本，并且有互联网和训练语料库中的原始组件和库等等，而不是那些更晦涩的全新东西，那些可能有点难，而且更偏离分布。然后，在我们自己的调查数据中，我们看到的是，在光谱上受过更多教育的人群中，有大约一千人或略多于一千人。所以，在美国和欧洲可能有很多 AI 人员。我的意思是，很多人使用它来记录会议纪要、内容生成、头脑风暴、编码，并且越来越多地用于财务分析，而主要的实验室在这方面以及更广泛的数据分析方面做出了巨大的努力。是的，初创公司正在向我们展示事情的发展方向，而且我知道从银行的股票研究小组对大型企业进行的其他调查来看，支出也在大幅增加，而 OpenAI 的顶级客户，你知道，从演示日和代币奖得主那里反向工程而来。它非常多样化，不仅仅是你最前瞻性的科技公司是大额支出者。所以，我认为这也很积极。是的，我觉得很难给所有这些提供一个单一的故事。我的意思是，正如你所说，似乎采用率相当多样化，但显然有些行业会找到比其他行业更多的用途。我认为这对每个人来说都很清楚。
>> 是的，但我们的调查让我感到惊讶。所以，超过一半的人每月支付超过 20 美元，10% 的人每月支付超过 200 美元。而且 92% 的受访者报告使用它提高了生产力。而那些发现生产力提高的人是那些付费的人。不知道这是否是因果关系。也许他们得到了更好的服务，或者他们更认真地对待它，或者其他什么。而且总的来说，他们期望在他们的组织中支出会增加，无论是略微增加还是显著增加。如果你将这两者加起来，超过 2/3 的受访者。我认为我们作为一个行业可能已经达成共识，这将是一个缓慢的起步，因为人类的惰性是真实的，人们意识到，如果他们不想使用某样东西，他们就不会使用它，这需要一些说服，需要一些教育，我们可能需要某种“天才吧”（Genius Bar）来教人们如何利用人工智能，特别是在企业中，给他们一个仪表板，然后寄予厚望。
>> 你提到了你的采用调查中的一项发现，这是今年的新事物。你是否觉得总的来说，该调查的发现，你知道，你只提到了其中一项，但还有其他让你惊讶的事情吗？你是否觉得总的来说，它让你对采用情况有了更清晰的，或者也许是不同的看法，还是感觉与你的想法相当一致？它比我预期的更乐观，特别是关于许多人自掏腰包付费，有些人是雇主付费，但人们付费并且不吝啬，然后是使用案例的多样性，我的意思是，有超过，我认为这里面可能隐藏着一些创业公司的想法，但你知道，有 1,366 人回答了“你使用生成式人工智能的动机是什么？”，有一个可怜的灵魂写了“生存” [笑声]，但你知道，它就像“更多的产出，更快的速度，更快的研究，更多的头脑风暴，自动化日常任务，快速处理信息批次，阅读论文，用更少的资源做更多的事情，原型设计，外包，无聊的事情，比如电子邮件，创意生成，快速总结”。所以，我认为这真的是一种行为方式，就是学习你的工作流程如何改变。比如，即使是写每周总结，比如你做了什么，或者你的团队做了什么。就像如果你记录了所有会议和内部事务，你可以让人工智能为你生成它。为什么你还要转录电话？如果你需要进行音频创作，分析任何类型的财务数据，你为什么还要做其他事情，除了文本转语音？甚至是队列分析或类似的东西，对于初创公司来说。我的意思是，只要把它扔进 ChatGPT。这家伙可以做得相当好。节省了大量时间。
>> 是的，这很有道理。也许与个人用户相比，或者说与个人用户光谱的另一端，我们已经看到了你称之为人工智能的“工业时代”。我们显然有 Stargate 作为主要例子，但也有 XAI 数据中心。PJ Vote 搜索引擎有一个相当不错的两部分播客，他们相当好地涵盖了这些数据中心的情况，它们如何影响它们所在的区域，所有这些事情。当你看到这些投资规模和正在发生的事情时，你有什么想法？
>> 首先，我认为这将导致更多的使用。我确实同意那些说我们需要这些系统的人的论点，这不仅仅是因为他们想要更多的系统灵活性，而是因为他们在进行计算权衡，我们需要扩大部署。我认为让我惊讶的是，我们拥有的能源资源有限，以及燃气轮机（这种涡轮机既不环保，也不太适合住在旁边）的复苏。所以，有相当多的纪录片，关于宾夕法尼亚州或弗吉尼亚州的城镇拥有这些全新的数据中心，它们非常吵闹，而且它们的家在震动，因为家不是用混凝土建造的，而是用胶合板或类似的东西建造的，这似乎不是一种美好的生活。但是，你知道，另一部分是，它正在推动就业和产业的复苏，这是积极的。我认为它也正在推动投资于国家能源基础设施、电网和生产的二阶效应，而这在大多数国家早就需要了。这甚至不仅仅是美国，英国也迫切需要它。它是欧洲国家中能源成本最高的国家，并且也因此在地理政治上遭受了后果。另一件我想知道的事情是，是的，如果你是一个严肃的人工智能实验室，或者想成为一个严肃的人工智能实验室，那么没有自己的模型、数据、计算能力和电力接入似乎是难以想象的。除了 OpenAI、Anthropic 和 Amazon 之外，我们还有 Poolside，而且他们几个月前公开开始在这方面工作，这确实为你带来了完全不同的经济成本结构，以及迭代和控制自己命运的能力，并且也为想要这种弹性的客户带来了好处。似乎每个人都在这样做。我的意思是，Mistral 在一定程度上也在这样做。我不知道中国公司在西方有多少，这在去年就已经是一个主题了，但我记得一年前我们录制节目时，我们正在讨论 GPU capex 不可避免的增加，以及这将为公司资产负债表节省多少，以及所需的投资规模等等。而且我确实记得看到 Poolside 筹集了相当多的资金，以及 GPU 的支出规模。而且，你知道，我认为，作为一名投资者，这显然会影响你可能想要投资的公司估值和需求。你是否感到任何犹豫，或者对你可能想要投资的公司结构有任何不同的想法？
>> 当然。我也不知道正确的答案是什么。我的意思是，我根据我的投资方向，已经“投票”了正确的答案。但是，是的，生活在这种情况下很有挑战性，你知道，像我这样的 GP 活在当下，企业家活在未来，然后风险基金的资本来源比投资者稍微滞后一点，而我们都必须以某种方式协调一致才能成为一个有生产力的市场。一方面，当你知道企业家在推销计算将取代劳动力，你知道模型需要训练，而且成本很高，你知道数据也很昂贵，RL 使其成本更高，模拟也是如此，世界模型等等。这一切都非常令人兴奋，而且你知道，普遍性应该是我们追求的目标，而不是专业性，这几乎将专业性视为一种较低层次的问题，因为如果你能解决普遍性，你为什么要花时间在专业性上呢？这种叙事然后产生了非常大的融资轮，我认为这适合某种类型的金融公司，而这家公司与风险投资最初设立的宗旨完全不同。我认为承担风险完全没问题，只要你有很大的潜在回报。但是，如果融资轮如此之大，隐含的估值如此之高，我们不可能都像 OpenAI 或 Anthropic 那样成功。嗯，你知道，两家公司的存在证明并不意味着你应该将同样的逻辑应用于每个人。所以我有点处于两个世界之中。而且我认为我并不孤单，因为即使是大公司也在制定融资轮的策略，以兼顾两者，你知道，一轮融资可能以 40 亿美元的估值宣布，但实际上是三个阶段，你知道，从 2 亿美元开始，然后是 10 亿美元，然后是 40 亿美元，不同的人以不同的价格购买，我认为这也不是特别健康。所以，我不知道这一切会走向何方，但我确实认为它会继续下去，因为机会太多，资本也太多。
>> 你在回答中提到了一些非常有趣的事情，那就是这种融资方式似乎与风险投资最初设立的宗旨非常不同。你是否觉得你看到或预期这种趋势会继续下去，还是你觉得正在经历某种“身份危机”，或者只是你观察到的那种情况是什么样的？这与过去五六年里风险投资公司要么选择保持与其阶段相符或精品化（如果你愿意的话），这通常意味着，你知道，每只基金几亿美元，如果他们做早期的话，或者他们决定扩大规模成为“航空母舰”，并拥有多个阶段、多个策略，那么这更多地成为一种资产管理业务。你可以争辩说，一位企业家曾经告诉我，当他解释它时，“你知道，风险投资业务，总的来说，是关于 2 和 20，指的是管理费和附带权益，但现在不再是 2 和 20 了，要么你从事的是 2 的业务，要么你从事的是 20 的业务。”
>> 有趣。
>> 我认为这其中有一些真相，但最终人们会为自己的立场辩护，以及他们能够执行的策略，这取决于，你知道，他们职业生涯和生活中的位置等等。我确实普遍认为，风险投资者的角色是支持和赋权企业家的愿景。如果企业家的愿景因为有机会而增长，那么就必须在中间找到一个平衡点。你不能仅仅作为投资者说，“我不会这样做，因为这不是这家公司设立的宗旨，我将坚持做你的事情。”你必须改变，你必须更新你的先验知识。所以，这就回到了，你知道，我们活在当下，企业家活在未来，而 LP 稍微滞后一点。所以，我们都必须共同努力，确保这个系统是健康的。所以，为了说清楚，我正在投资更多的钱。我正在筹集更大的基金来做到这一点，并为企业家提供更多的资本，因为你必须积极进取。我一点也不想停留在过去。
>> 也许《人工智能现状》报告的下一个重点是，你对视频挑战者的投资回报有一些非常有趣的笔记，特别是你知道，我们已经看到了一些收购发生。所以，Grok 以 200 亿美元被收购，Samba Nova 以 16 亿美元的折扣被收购，你在报告中谈到了对各种挑战者的回报。例如，如果你投资了中国挑战者，你将获得 6 倍的回报，而如果你在那天以 Nvidia 的股价投资，你将获得 26 倍的回报。如果你投资了美国挑战者，你将获得 2 倍的回报，而如果你在那天以 Nvidia 的股价投资，你将获得 12 倍的回报。我想，一是你如何看待中国和美国挑战者之间的差异？二是，你如何看待？
在挑战者与英伟达之间，你认为总体上存在多大的差异？比如，挑战者在这里的总体战略是什么？>> 再次，中国的策略很有趣，这与我们之前提到的芯片公司，如 Cambricon，比美国公司更快地进入公开市场有关。造成这种差异的原因可能是，它是一家上市公司，你可以通过投资 AI 业务来获得下一代芯片，这是一种纯粹的投资方式，而不是像通用芯片制造商那样。就挑战者而言，我一直认为我们需要新的 AI 专用芯片，因为 GPU 并非专门为此设计。我指的是在 2018 年或 17 年左右，当时可能有一个窗口期，初创公司可以抓住这个机会，但我认为在过去几年里，这个窗口期已经大大缩小了，因为英伟达可以通过各种方式快速了解其客户群并更新其设计。这正是它最初在深度学习领域占据优势的原因之一，因为它贴近研究人员，并引导他们走向新的方向。另一件事是，现在看到一些竞争对手被高价收购，或者一些上市公司的股票价格上涨，很难说“哦，是的，竞争对手的理论已经被证实了，英伟达不再是唯一的选择”。我认为真正发生的是，我们对这些东西的需求量太大，以至于一个供应商无法提供所有东西，所以我们会转向第二、第三供应商。你知道，我们在能源领域也看到了这种情况，那些未来几年甚至还没有产品的上市公司，却与大型科技公司签订了巨额合同，并且股价上涨。你知道，这具有高度投机性，因为那些正在构建和扩展 AI 的公司需要获得一切以及更多。所以，这更像是潮水将所有船只都抬高了，而不是英伟达面临着真正的良好竞争。这就像可口可乐和百事可乐一样。只是现在口渴的人太多了，所有的可口可乐都被喝光了。所以现在我们只是转向购买百事可乐。>> 是的，这很有趣。我也觉得在这个领域，你提到了你早期关于芯片不够专业的理论。显然，你在后来的英伟达硬件中看到了 Tensor Core 等东西。而且我觉得在这方面一个非常有趣的事情也与硬件与 AI 架构的关系有关。当时在 Google Brain 的 Sarah Hooker 写了一篇关于“硬件彩票”的文章，这篇文章流传很广，谈论了 Transformer 架构并非在真空中是最好的 AI 架构，而是最适合现有硬件的架构。你知道，它充分利用了 GPU 提供的并行性。这显然很有道理。然后你看到许多挑战者也在追求同样的目标，比如使用 systolic array 架构。我们能否加快矩阵乘法速度？诸如此类。因此，你看到的是一种加倍努力或加剧的情况，即使是 GPU 的挑战者，在大多数情况下也不是专注于不同架构的优势，而只是专注于大致相同的架构家族。你觉得你当时在思考这个问题时，是否希望这种专业化更多地朝着这个方向发展，还是你觉得，我认为有些人可能希望 AI 开发更具创造性或多样性，或者对目前的状况不太满意？是的，我设想的是芯片间带宽的权衡，内存移动，你是否应该让芯片更大，更多地用于深度学习，比如矩阵乘法而不是图形，你应该在上面放更多的内存，或者有不同的入口，而不是相信神经形态或其他基板，甚至生物神经元。我没有花太多时间在 FPGA 主题或特定工作负载的定制 ASIC 上，因为我认为即使在当时，哪种架构最适合这项任务也存在很大的不确定性。但随着我们普遍趋向于 Transformer，定制 ASIC 似乎正在卷土重来，正如 Broadcom 宣布的与主要公司合作制造 ASIC 的大型交易所示。是的，说了这么多，你知道每年我们都会查看所有公开的 AI 研究，以及使用了哪些芯片，但仍然是 90% 或 95% 的英伟达，你看到 TPU 和 AMD 以及一定程度的 Apple Silicon 有一些小的变化。我认为人们正在使用笔记本电脑，现在的笔记本电脑非常强大，但英伟达仍然遥遥领先。>> 我认为下一个可能是关于监管和 AI 议程方面，你有一些关于特朗普 AI 议程以及英伟达影响力的幻灯片，以及州 AI 监管的零散状态以及特朗普政府对此所做的事情。我觉得这三个关键部分可能是去年一月发布的行政命令，撤销了拜登的 AI 安全命令，强制执行 AI 行动计划，七月份的“阻止‘觉醒’AI”的理念，以及十二月份的国家 AI 框架，该框架设立了一个司法部特别工作组，试图挑战州 AI 法律。我觉得这些方向有很多不同的地方，以及关于如何进行监管的问题。这应该是联邦还是州的问题？显然，不同的公司在这里可能有不同的利益，但你如何看待那里的权衡，以及你是否也看到与欧盟 AI 法案的相似之处或证据？是的，我认为关于 AI 的监管应该更像是现有的监管机构已经具备了相关知识，能够理解他们的职责以及他们经过检验的政策如何延伸到 AI，或者应该为 AI 采用或调整，而不是一个每个人都必须采用的新的通用政策，因为归根结底，医疗监管机构或航空监管机构等最了解该领域出现的风险，远比一些 AI 政策制定者将基本原则推断到该领域的风险要好。因此，由此推断，我认为各州自己制定规则的想法可能不是最佳的，因为我认为我们首先没有弄清楚正确的规则是什么。因此，50 种不同的实验将会引入很多随机性。似乎特朗普政府正在努力禁止州级监管，也许是出于这个原因。在欧盟，我认为主要的教训是过度扩张，以及试图制定面向未来的法规，而进展太快了。我认为经典的错误是设定计算阈值，例如模型训练超过这个阈值就被认为危险并必须进行检查，或者在生物学中工作的模型必须默认进行检查，这些如何才能真正实际监控？任何好的监管都必须首先相对容易监控。>> 是的，我们可以再谈谈欧盟 AI 法案。Max Cutler 与你一起写了一篇关于它的文章，其中一个见解是这种滞后性。引用了这样一句话：“该法案诞生于 GPT-4 之前的世界，将在 GPT-7 塑造的世界中生效。”核心论点当然是，欧洲的监管举措可能在完全生效之前就已经过时了。还有其他一些批评。例如，截至 2025 年底，只有三个欧盟成员国遵守了该法案，领导者称该法案令人困惑，行业反应不一。自从你写了那篇文章之后，你对该法案有什么看法？>> 我认为大多数论点，我认为论点的核心仍然是一样的，而且我认为作者或参与该法案的关键作者认为它走得太远，这进一步证实了这一点。但我确实认为，强制执行监管沙盒，就像我们刚才讨论的那样，是一件好事，但一般的报告要求和合规性总是会造成阻碍，而且也许值得从轶事上看一看，有多少公司在欧洲成立，或者有多少人才去了欧洲而不是离开了欧洲，而且从轶事上看，感觉离开的人比成立的公司多。正如你所说，很少有国家跟上步伐并正确实施该法案，所以我不确定，我通常对它的潜力不太兴奋。没有人真正看着它说，是的，欧洲将有机会在拥有更好监管的基础上进行竞争。说这话的只有官僚。>> 也许另一个相关的领域是“主权 AI”的概念已经流传了一段时间。我认为 Jensen Huang 特别提出了这个想法，而且我记得你在《经济学人》上被引用过，说这些努力中的大多数可能是在浪费钱。如果你要为非美国政府提供 AI 战略方面的建议，可能与此和监管环境都有关，你会对他们说些什么？>> 我会说，与那些有合理机会实现主权的拥有国家结盟。对我来说，主权 AI 我可能会采取更极端的定义，即能够同时创建和运行 AI 系统，或者实际上是你想要主权的任何系统。因此，出于这个原因，美国可能拥有主权，因为它拥有能源、计算能力、数据、人才、芯片制造和芯片设计。英国本身可能没有主权。它没有能源。它有人才，有数据。它没有领先的芯片设计，也没有制造能力。然后你可以去葡萄牙或西班牙这样的国家，它们就更没有主权了。那么，如果这些世界领导人从英伟达购买 GPU 数据中心并在他们的国家建立并说，“哦，现在我们有了云服务，我们可以运行 AI”，这有什么区别呢？如果这些数据中心可能会被构建者关闭，理由是“哦，我们不再提供任何软件更新了，或者现在软件系统有了很大的变化，使其过时了”。我认为唯一的方法是结成联盟，或者选择一个你将真正竞争并做到世界顶尖的堆栈级别，这会迫使其他拥有主权的国家想要与你合作或需要你。例如，荷兰的 ASML 似乎没有人能真正与 ASML 竞争。所以这是一个很好的例子，说明了世界一流的地位，因此成为了对话的一部分。但如果你在任何方面都不是世界一流的，并且没有资源来实现主权，那么预测就会变成“只是宣布中立”，这有点类似于军事防御的保证，比如我是一个小岛，我不可能拥有军队，所以我需要与一个愿意为我提供保护的国家达成一项保护协议，以换取一些东西。也许报告主题的一个好最后领域是安全，我认为你知道这在过去几年里已经成为一个越来越大的主题，而且话语显然随着时间的推移而发生了变化。我认为一些特别有趣的领域，我们可以从开放权重安全的问题开始，这个问题反复出现，不同的人对你应该做什么样的开源有不同的看法，以及这与安全的关系，我认为关于这一点已经有很多争论，也许我们不需要完全重述，但你确实强调了开放权重安全的三个途径，这些途径与基于模型的安全措施有关，这可能包括训练数据策展、防篡改微调、水印等。然后是脚手架和基于生态系统的安全措施。这些是内容过滤器，如 Llama Guard 或监控工具、输出分类器。最后，更进一步的是程序和治理。例如，全面的访问审计、分阶段部署等等。你对这些有什么看法？我觉得对其中许多事情，尤其是基于模型的事情，有一种反对意见是，开放权重安全措施可以通过几个例子或足够长的对话来撤销。有很多红队测试，所以当然正在构建越来越强大的缓解措施，但仍然可以看到人们让模型做一些可能不理想的事情的许多方法。你如何看待这与开源问题相关？>> 我有点属于“潘多拉的盒子已经打开”的阵营，感觉现在试图控制模型权重发布或训练数据或配方有点太晚了。现在有太多人真正了解这些东西是如何运作的。所以，感觉你能做的最大程度的控制是在大规模运行这些系统上。比如，是的，有人可以在他们的手机上访问它，但他们能否在成千上万部手机的手机农场上部署它，或者如果他们需要进行大规模推理，他们能否在大型集群上部署它？关于威慑和不扩散的第一部分感觉有点像进化压力论。总会有泄露的激励，有时泄露发生在最脆弱的组织中。我的意思是，有发生黑客攻击的例子，就是有人打电话给发展中国家的呼叫中心的人，说“请重置我的密码”，然后 15 分钟后他们就重置了密码。所以，目前实验室可能有很好的保护措施，但总有一天会有人犯错。所以，我更倾向于开发者和政策制定者之间进行密切沟通，以便人们了解进展方向，可能会出现哪些问题以及如何解决这些问题，然后对监管机构进行技能培训，让他们了解如何适应这个时代的政策，也许，如果我经营一个大型实验室，我会限制我在开源领域实际生产的工具类型，否则我没有一个好的、花哨的答案。>> 我们也看到了中国 AI 安全方法的演变。卡内基和平基金会的 Matt Jihan 在这方面有很多很棒的研究。你和 Alex Chalmer 在 2023 年发表了一篇题为“中国在英国 AI 安全峰会上无处容身”的文章。你的论点是，中国的 AI 监管是出于政治动机，以维护 CCP 的控制，而不是真正关注安全。我猜想中国确实参加了，但没有签署关键的安全承诺，但一些中国公司确实签署了前沿 AI 安全承诺。然后 DeepSeek 采取了开源方法，我认为这比许多其他地方更透明。而且，总的来说，看看中国在 AI 安全方面的方法，有很多关注信息内容风险，以及你的观点，政治控制。内容的目标是反映社会主义核心价值观。你如何看待，特别是你和 Alex 的观点，你主张将中国排除在安全峰会之外？我们看到了开源模型的透明度等等。你觉得你们的观点是如何发展的？一方面，看起来这次安全峰会的成果只导致了安全研究所的成立，或者现在更名为安全研究所。他们增加了国家在 AI 方面的能力。至少英国在这方面做得很好，符合行业标准。但除此之外，没有未来的安全峰会。没有真正遵守“竞赛动态”，放慢速度以实现实验室之间的协作。然后中国就做自己的事情。最近，我认为它出台了一些新政策，特别是关于强制性的未成年人模式、心理健康、自杀干预要求、训练数据治理和其他安全护栏，公司现在需要遵守，这似乎非常强大和影响深远。我还会邀请他们吗？在某种意义上，也许吧，但我不会抱太大期望，这更多是表演性的。>> 你提到了英国尤其是在安全到安全这个词的重新品牌化。你对此有何看法？>> 这是一个好问题。我认为这很好，因为安全更容易辩护。比关心安全更容易定义为什么应该关心安全，而且安全在某种程度上可以包含在安全之中，这是一个更容易理解的概念，但也许是的，它在政治上更容易辩护，而且因为网络安全我认为将是一个非常重要的威胁向量来投资防御。我认为网络安全将比 AI 的生存风险大得多，对我来说，安全最初更多地围绕着生存风险，而较少围绕着网络风险。>> 你多年来有过各种预测。我觉得你们对过去的预测评价都很严厉。所以我觉得这对我来说，作为一个阅读你文章的人，这让我对你的思维方式非常有信心。但也许我们可以快速回顾一下其中的几个。我认为我注意到你预测的一个主题是，你的预测往往集中在监管和政治领域，而且你曾有过“美国制裁升级并涉及盟友”，但错过了半导体初创公司整合和 AI 视频游戏突破。你对你的预测模式以及你做对了什么，做错了什么有什么想法吗？我只是想了解政策是否比研究移动得更快，或者反之亦然，因为在某种程度上，如果我们预测研究中会发生某事，比如视频游戏，你知道，完全是生成式 AI 的，比如 Ichi 的突破性地位，我仍然认为这会发生，但它是否只需要一年多的时间？而这些政策方面的事情发生得快得多。我不知道这里是否有任何好的趋势，除了我们可能在某个圈子里待得更久，因此对氛围的变化有更好的衡量标准。也许我们可以快速谈谈你的一些 2026 年预测，然后再结束。其中之一是中国实验室超越美国实验室主导的前沿领域，我们已经看到这个领域似乎正在关闭。你有什么直觉或打赌，它可能来自哪里？>> 我会说是 ZAI 或 DeepSeek，我认为到 26 年，实验室将走向“科学最大化”。[笑声] 所以我认为这可能与某种科学推理相关的任务有关。>> 也许最后一个是你讨论过“数据中心 NIMBYism”这个想法。你想简要地扩展一下这个想法，以及你认为它可能会如何体现？>> 是的，我认为这里的要点是，NIMBYism 是“不在我的后院”。所以，关于我们之前提到的数据中心的问题，它们很大、很吵、有气体污染，而且非常不宜居。我不知道是否有人特别乐意把它们建在离家近的地方，而且这是美国最大的建筑项目之一，引起了很多反对。而且随着今年中期选举的临近，在一些数据中心很受欢迎的摇摆州，比如宾夕法尼亚州，人们可能会通过投票来改变政治立场，因为人们真的用脚投票。我认为这主要是这个原因。我认为有了这个闪电战，这可能是一个很好的结束点。所以，再次感谢你这样做。>> 是的，谢谢你，Dan。>> 再次感谢 Nathan 第四次接受采访。也感谢你的收听。希望很快再见。