Transcription
2025 年是人工智能又一个非凡的一年。本周在 No Priors，我们将分享我们迄今为止播客中最喜欢的时刻。我们采访了 Harvey、OpenAI、Glean、A Bridge 等公司的富有远见的领导者。我们还采访了科学界的传奇人物，如 Fay Feay Lee 博士和 Nubar Fayen。但首先，让我们从一个捕捉到在正确时机拥抱新能力的魔力的时刻开始。Harvey 的首席执行官 Winston Weinberg 发现了一个隐藏在显眼位置的非凡机会。>> Gabe 和我其实在几年前就认识了，我当时对创业界一无所知，也没有创业的计划。发生的事情是，他向我展示了 GBD3，当时它已经公开了，我首先非常惊讶，竟然没有人谈论 GPD3，也没有人以任何方式使用它。嗯，他向我展示了那个，我向他展示了我的法律工作流程，然后我们开始了一个“啊哈！”时刻，我们去了 /legaladvice，这是一个人们提出大量法律问题的子版块，几乎每一个答案都是“我该起诉谁？”几乎每一次，我们收集了大约一百个房东租客问题，并提出了一些链式思维提示，这在我们谈论链式思维或类似事物之前就已经发生了，我们将其应用于那些房东租客问题，然后将其交给三位房东租客律师，我们什么也没说关于人工智能。我们只是说，这是一个潜在客户提出的问题，这是一个答案，您是否会不加修改地将此答案发送给该客户？您对此是否满意？您认为这是否合乎道德？这是一个足够好的答案可以发送吗？100 个中有 86 个回答是。嗯，事实上，我们冷邮件了 OpenAI 的总法律顾问，并将这些结果发给了他，他的回应基本上是：“哦，我不知道这些模型在法律方面做得这么好。”嗯，几周后我们与 OpenAI 的高管会面了。>> 现在，从法律推理到空间智能，传奇人物 Fay Lee 博士向我们展示了人工智能能力的另一个全新维度。我认为从神经科学和认知科学的角度来看，空间智能是一个非常困难的问题，进化必须为动物解决。有趣的是，我认为动物在一定程度上已经解决了它，但尚未完全解决。这是最难的问题之一，因为动物必须解决什么问题？动物必须进化出收集光线的能力，我们称之为眼睛。然后，通过收集到的眼睛，它必须在脑海中以某种方式重建一个三维世界，以便它们能够导航和做事，当然它们也可以互动。对人类而言，我们在操控方面是最有能力的动物。然后我们可以做很多事情，所有这些都是空间智能。对我来说，这只是根植于我们的智慧。有趣的是，即使在动物身上，它也不是一个完全解决的问题。例如，对人类来说，如果我们现在让你闭上眼睛，画出或构建你周围环境的三维模型，这并不容易，我们没有多少能力生成极其复杂的三维模型，直到我们接受培训，你知道我们中有一些人，无论是建筑师、设计师还是仅仅是经过大量培训和拥有大量才华的人。这是一件很难做的事情。想象一下，你更容易地在指尖上做到这一点，并允许更流畅的互动和编辑。这将是人们的另一个世界。无意冒犯。>> 数据是驱动人工智能发展的动力。因此，Merkore 的首席执行官 Brendan Foody 正在与主要的人工智能实验室合作，研究如何构建下一个。他对即将到来的劳动力市场变化做出了明确的预测。>> 我认为很多岗位的流失将很快发生，而且会非常痛苦，而且会是一个重大的政治问题。我认为我们将围绕这一点以及所有将发生的流失现象出现一场大规模的民粹主义运动。经济中最重要的问题之一是弄清楚如何应对这种情况，对吧？比如，我们如何弄清楚那些在客户支持或招聘领域工作的人几年后应该做什么？一旦我们接近超级智能，我们如何重新分配财富，特别是如果其价值和收益更多地是幂律分布的话，所以我花了很多时间思考那将如何发展，我认为这确实是核心问题。>> 你认为最终会有 x% 的人因为体力劳动而失业，你认为他们会做什么？>> 我认为体力劳动领域会发生更多的事情。我认为也会有很多小众领域。>> 体力劳动领域是什么意思？>> 嗯，它可以是各种各样的事情，从创造机器人数据的人，到餐馆的服务员，或者仅仅是治疗师，因为人们想要人际互动，无论那是什么样子。我认为体力劳动领域的自动化将比数字世界慢得多，因为虚拟世界中有很多自我强化的收益和自我改进，而物理世界则不行。>> 这就引出了我们这个时代最重要的问题之一。我们如何应对超级智能的地缘政治影响？人工智能安全中心主任 Dan Hendris 有一个答案。>> 让我们想想核战略中发生的事情。基本上，很多国家阻止了对方发动第一次打击，因为他们可以进行报复。所以他们有一个共同的脆弱性。所以他们说，我们不会采取这种非常激进的行动，试图一举消灭你，因为那将导致我们遭受损失。后来我们也有类似的情况，当人工智能更加显眼时，当它被视为一个国家未来的关键时，当人们即将制造出超级智能时，当他们可以说自动化几乎所有人工智能研究时。我认为各国将试图阻止对方利用这一点来发展成某种超级武器，这将使其他国家被摧毁，或者利用这些人工智能进行某种快速的自动化人工智能研究和开发循环，它可以从当前水平自举到某种超级智能，比任何其他系统都强大得多。我认为后来它变得如此不稳定，以至于中国会说我们将采取先发制人的行动，比如对你的数据中心进行网络攻击，美国也可能对中国这样做，俄罗斯在退出乌克兰后，将重新评估局势，看看美国和中国之间发生了什么，哦，我的天哪，他们在人工智能方面针锋相对，人工智能看起来很重要，让我们假设现在是今年晚些时候，当很大一部分软件工程开始受到人工智能的影响时。嗨，哦，哇，这看起来相当相关。嘿，如果你试图用这个来压垮我们，我们将通过对你进行网络攻击来阻止你，我们将密切关注你的项目，因为他们很容易做到这一点，进行间谍活动。>> Nubara Feyen 已经思考了生物技术是如何构建的以及如何改变游戏规则三十年了。他的突破影响了全球健康。他是 Flagship Pioneering 的创始人兼首席执行官，也是 Madna 的联合创始人。他希望将创业变成一项科学事业，而不是一项随机的事业。他认为人工智能可以提供帮助。旗舰公司的动力源于我以前所做的事情，那就是我在 1987 年创办了一家公司，当时 24 岁的移民不会在这个国家创业，而是像前默克高管或 IBM 高管一样，是唯一被信任的人，他们获得了巨额的风险投资，即每轮 2300 万美元用于风险投资。所以这是非常早期的阶段，我有机会在研究生毕业后立即创办一家公司，并最终筹集了相当多的风险投资资金，并最终走上了创业之路。我感兴趣的一件事是，为什么创业过程被认为是随机的、即兴的、特立独行的、几乎是情绪化的、游戏化的，所有这些我都觉得有点令人反感，当涉及到以严肃的专业方式做事时。我在 90 年代初四处说，为什么创业不是一门专业？如果它是一门专业，它怎么会是一门专业？>> 你说的游戏化是什么意思？>> 因为它通常会失败，偶尔你会赢，然后你会庆祝胜利。我的意思是，它是随机的。>> 但不仅仅是随机的，还有赢家和输家，以及记分。我不知道。也许这是错误的词，但我只是想说，人们甚至在软件领域称之为游戏化。有一个版本是这样的，我不介意玩，因为如果你过于严肃，有时你会错过一些东西。但不能全是玩。我们花费辛苦赚来的钱，将其用于做几乎不可能的事情。偶尔我们会将其付诸实践，使其不仅成为可能，而且有价值。然而，人们却把它当作哦，好吧，你知道，它没起作用。我们尝试了 20 件不同的事情。其中一件成功了。作为一名工程师出身的科学家，我认为我们所做的，尤其是在医疗保健、气候、农业、粮食安全领域，你不能把它当作“射门得分”来看待，你必须说“嘿，我们可以做得更好”。>> 推理是自 Transformer 以来人工智能架构的最大范式转变。OpenAI 的 Brandon McKenzie 和 Eric Mitchell 解释了关于推理模型的一个关键见解。>> 我可以举一些非常具体的例子，比如视觉推理方面。有很多情况，回到模型能够估计自身不确定性的问题。你会问它一个关于图像的问题，模型会非常透明地告诉你，它会想，我不知道，我真的看不清你说的东西，或者它几乎知道它的视觉能力不太好。但有趣的是，当你给它一个工具时，它就像“好吧，我得想办法解决问题。”“让我想想我能不能操纵图像，或者在这里裁剪一下，或者类似的东西。”而这意味着它在这样做时，代币的使用效率更高。所以你的测试时间缩放斜率，你知道，会从类似这样变成，你知道，一个更陡峭的斜率。而且我们已经看到了这一点，你知道，在视觉推理方面，没有使用工具和使用工具的测试时间缩放斜率非常明显地不同。>> 是的。是的，我也想说，比如写代码方面，有很多事情 LLM 可以自己尝试解决，但需要大量的尝试和自我验证，而你可以写一个非常简单的程序来以可验证且快得多的方式完成。所以，你知道，我做了一些关于这家公司的研究，并使用这种类型的估值模型来告诉我，你知道，估值应该是多少，你可以让模型尝试处理它，并在其上下文中拟合那些系数，或者你可以让它写代码来正确地完成它，并且知道实际答案是什么。所以，是的，我认为部分原因是可以更有效地分配计算资源，因为你可以将模型不具备比较优势的事情推迟给一个非常适合做某事的工具。>> 有时人工智能发展中最深刻的时刻不是宏大的理论突破。它们基于品味、数据生成和辛勤工作。看着你希望奏效的事情真正实现的那种切身体验。Opening Eye 的 Issa Falford 完美地捕捉了那个时刻。她在这里描述了深度研究的训练。>> 这确实是我们认为，你知道，在浏览任务上进行训练会奏效的事情之一。你知道，感觉我们对此有很好的信心。但实际上，当你第一次使用这个算法在一个新的数据集上训练一个模型，并看到它实际工作并与之互动时，这是非常不可思议的，即使我们认为它会奏效。所以说实话，它奏效得如此之好，还是相当令人惊讶的。>> 嗯。>> 即使我们认为它会奏效，如果这说得通的话。>> 是的。是的。这是那种切身体验，哦，这条路铺满了草莓，或者别的什么。>> 没错。但有时它失败的事情也令人惊讶，比如有时它会犯一个错误，它会做一些非常聪明的事情，然后犯一个错误，我只是在想，你为什么这样做？停下来。所以我认为肯定还有很大的改进空间。是的，到目前为止，我们对这个模型印象深刻。>> 人工智能最大的惊喜之一，也是我们 Conviction 的核心原则是，它如何能让糟糕的市场突然变成好市场。合适的技术可以在意想不到的方式中遇到合适的时机。Arvin Jane 在一个被所有人称为“墓地市场”的企业搜索领域建立了 Glean。>> 那就像一个墓地，你知道，所有试图解决这个问题的公司都失败了。部分原因是，我认为搜索是一个难题，在企业中，即使是获取所有你想搜索的数据也是一个大问题，在预 SAS 世界中，你无法进入那些数据中心，找出服务器在哪里，存储系统在哪里，尝试连接其中的信息是一个大问题，这是一个巨大的挑战，所以 SAS 实际上解决了这个问题，所以像搜索产品，大多数公司都始于预 SAS 世界，它们失败了，因为你无法构建一个即插即用的产品，但 SAS 实际上允许你构建一些东西，你知道，我的见解是，企业世界已经改变了，我们现在有了这些 SAS 系统，SAS 系统没有版本，所有客户都拥有相同的版本，你知道，它们是开放的，它们是可互操作的，你可以通过 API 访问它们并获取所有内容。我觉得最大的问题实际上已经解决了，那就是我可以轻松地将所有企业信息和数据集中在一个地方，并在此之上构建一个统一的搜索系统。所以那是一个很大的突破，顺便说一句，Glean 的起源是，在 Rubrik，我们遇到了这个问题，你知道，我们发展迅速，在 300 个不同的 SAS 系统中有大量信息，没有人能在公司里找到任何东西，人们在我们的脉搏调查中抱怨这个问题，我一直在我的初创公司里运行它，所以这是一个向我提出的抱怨，我必须解决它，所以我试图购买一个搜索产品，我意识到没有什么可以买的，我的意思是，这真的是 Glean 公司是如何开始的。所以那是一个很大的问题，你知道，SAS 使连接你的企业数据和知识到搜索系统变得容易。所以这实际上使我们能够第一次构建一个即插即用的产品。但还有许多其他进步，你知道，一个是你，你知道，你知道，企业拥有如此多的信息和数据。一个有趣的，你知道，事实是我们最大的客户之一，他们公司拥有超过 10 亿份文件。现在听着，你知道，当 LR 和我在 2004 年在谷歌工作时，整个互联网实际上是 10 亿份文件。你知道，企业内部的内容出现了巨大的爆炸式增长。所以，你必须构建可扩展的系统，在云时代之前，你无法构建这样的系统。>> 也许没有一个故事比医疗保健领域正在发生的事情更能体现人工智能时刻的人类影响及其潜力。这是 A Bridge 的首席执行官兼创始人 Shiva。医生给你反馈说“嘿，这很糟糕，你必须做得更好”，这通常是英雄般的行为，比如“你没有按照我说的给药”或者“我是一名胃肠病学家，我绝不会在我的笔记的评估和计划部分按这个顺序排列我的问题。这对我没有好处，让我看起来像个糟糕的医生，或者别的什么。”我们收到这些反馈，我们喜欢它，它是氧气。但我们也收到这样的反馈，“嘿，这太棒了，我不再退休了，我现在还有几十年职业生涯，感谢这项技术。”但在我们这个频道里，这些爱情故事，所有这些反馈，这些积极的反馈，我们只是以编程方式将其筛选出来。所以我们公司里的任何人都可以随时进入那个频道，它就是目标，你知道吗？它就是即时的满足感。你立刻就明白了为什么我们都这么努力工作，为什么这是有意义的，因为在过去的几年里，在电话杆上进行这种旅程，对我们许多人来说是新的，我们都在努力培养新的能力，但这压力很大，但这是我最喜欢的反馈，这个爱情故事来自 Tanner Health 的一位医生，这是一个农村医疗系统，她写信给我们，她说，上周我坐在晚餐时，我儿子问我，妈妈，你为什么现在不工作？我真的拿出手机，向他解释说，A Bridge 是一个新工具，可以让妈妈早点回家，和家人一起吃晚饭。我开始流泪，看向我的丈夫，然后他说，“妈妈现在每晚都能和我们一起吃饭了。”我们每天都会收到这样的反馈，你知道，所以在高速增长中会有多巴胺的刺激，那些很棒，但我想它们能让我们度过冲刺。但我想是催产素的刺激，比如这个。这是目标。这是满足感。我想这就是我们在这家公司真正追求的。所以，你知道，每个人都有使命感，但我认为这个使命，至少对我来说，有点不同。>> 这些对话提醒我们，我们正生活在一个历史的转折点。请继续关注，我们将与引领潮流的建设者和思想家进行更多对话。如果你喜欢我们所做的，请在 Apple Podcasts 或 Spotify 上给我们留下评论，在 YouTube 上发表评论，或者告诉我们你应该邀请谁作为嘉宾。感谢收听。在 Twitter 上关注我们 @no prior pod。订阅我们的 YouTube 频道，如果你想看到我们的脸。在 Apple Podcast、Spotify 或任何你收听的地方关注我们的节目。这样，你每周都会收到一集新节目。并注册电子邮件或在 no-briers.com 上查找每集节目的文字记录。