Transcription
第一次给别人看的时候，他们说：“不可能。这就像一个假的演示。它不可能这么快。这将改变一切。”尤其是因为它还没有达到我们实际能达到的最快速度。>> 我的经历是试用了这个应用程序。我真的不想回到终端。我意识到的是，图形用户界面确实很棒。集成开发环境本身就是问题所在。有一些适合编程的图形用户界面，但不是集成开发环境。而且你似乎正在弄清楚这一点，但我甚至不知道它叫什么。>> 它叫做 Codex。[笑声]>> [音乐] [音乐]>> Dan 在这里，我想从本期节目中抽出一点时间向您介绍 Granola。Granola 是您会议的 AI 笔记员，我几乎每天都使用它。这听起来可能有点奇怪或有点令人毛骨悚然，比如转录您所有的会议。对我来说，作为一名领导者，这实际上是不可或缺的。现在我们有大约 20 个人，对我来说，理解决策是如何做出的、我在会议中是如何表现的，以及我如何能最好地帮助我的团队，这一点非常重要。Granola 对我来说有点像一个领导力日志，这样我就可以看到我在会议中的表现，特定一周发生了什么情况，以及我下次如何做得更好。如果您正试图作为一名领导者不断进步并扩大您的公司，请尝试 Granola 作为您的人工智能驱动的会议记事本。访问 granola.ai/every，使用代码 every 可获得三个月免费试用。现在回到节目。Tibo Andrew，欢迎来到节目。>> 嘿，谢谢你们邀请我。>> 谢谢你们邀请我。>> 太好了，很高兴能和你们聊天。所以，对于不知道的人来说，Tibo，你是 OpenAI Codex 的负责人，Andrew，你是 OpenAI Codex 应用的技术员工成员，你们是当下最受关注的人。你们刚刚在超级碗上播放了关于 Codex OpenAI 的商业广告。你们感觉怎么样？>> 是的，那个超级碗广告确实令人惊讶，不是吗？确实如此。我认为核心问题，我认为我想开始这次对话的原因是，感觉这是一个战略性的转变。您会期望 OpenAI 在超级碗期间播放一个 ChatGPT 的广告，而不是，尤其是如果您看看四五个月前 Codex 的定位，它主要面向专业工程师，可能不会投放一个面向更广泛受众的广告。>> 感觉很长一段时间以来，一直存在一个分歧，即 Codex 是为专业工程师准备的，如果您想进行即兴编码，您会在 ChatGPT 应用中进行，而现在似乎在过去一两个月里，这种情况发生了很大变化。您能告诉我一些关于这件事的事情吗？是的，我想尤其是在，你知道，我们可以谈谈上周，对吧？所以，就像上周一我们发布了 Codex 应用一样，我们立即看到了大量的下载量，第一周就超过了百万次下载，然后我们就知道我们正在发布一个极其强大的模型，你知道，53 Codex 在周四发布，这使得我认为，你知道，我们在这里是为了，你知道，提供令人难以置信的体验，我们非常致力于 Codex，而且，你知道，代理人也确实开始发挥作用，并能够创造这些东西，你知道，即使你技术稍微差一点。>> 我认为这个应用确实表明，你知道，它对人们来说更具吸引力，让他们可以尝试一下，你知道，运行多个代理，你知道，我们的模型在允许多任务处理和长时间运行的可靠性方面做得非常好。>> 所以，它允许您创造更多。所以，感觉就像，你知道，也许我们可以激励更多人去构建，然后展示代理就在这里，对吧？它不是，它不是，它即将到来，它将成为主流。>> 你知道，为什么你不尝试并创造一些新的东西，你知道，激励人们。我觉得这是我们想要加强的正确的事情。>> 是的。在我们设计和开发应用程序的过程中，我们一直有一个内部目标，那就是我们必须创造出我们自己喜欢使用并且用于我们所有工作的应用程序。>> 如果我们做不到这一点，我们就不会发布它。这可以追溯到我们开始的时候。而且我认为我们对它的乐趣感到非常惊讶。尤其是当我们开始构建这个应用程序，在我们开始构建代理技能之前，然后一旦我们将它们配对，它就变成了一个真正丰富的交互式体验，您可以打开浏览器，或者您可以连接到各种服务。所以，突然之间，我们开始感受到这种真正互联的交互式体验，并且想要分享。我把这个广告看作是对构建者的情书，对吧？我从未在超级碗广告中见过 Linux CD，所以，你知道，观看它真的很酷。>> 广告的影响是什么？>> 我们还在衡量。>> 我们会看看，你知道，它在长期内会如何发展，但我们确实看到了交通的巨大激增，实际上，非常非常快，在它播出后下午 4 点左右，太平洋标准时间，交通激增，我们的系统承受了巨大的负荷。>> 所以，对我来说，感觉有点奇怪，你知道，人们在看超级碗，然后去，你知道，安装应用程序，然后他们只是在那里尝试一下，但它确实发生了。>> 很多人联系我们，说他们受到了它的启发，并且只是想之后去构建，你知道，这就是我们的目标。>> Tammy 回来，我仍然想稍微谈谈战略转变。所以，Codex 应用从，或者说 Codex 整体，从一个主要面向专业开发者的东西，转变为面向更广泛受众的东西，并且可能将一些即兴编码从 ChatGPT 转移到 Codex 应用中。告诉我一些关于这件事的事情。>> 我不认为我们正在尝试将即兴编码，你知道，从 ChatGPT 转移到 Codex 应用。我们正在做两件事：一是我们在推动专业软件开发的边界，53 Codex 在编码的顶级基准测试中击败了所有其他模型，所以它是一个非常非常强大的模型，而且，你知道，它的速度和成本也是顶级的。>> 我认为这个应用，第二件事是，这个应用确实使事情更容易获得，所以它确实吸引了更广泛的受众，但我们内部也看到这个应用，你知道，它在研究中，在我们自己的团队中被大量使用，整个 Codex 团队都使用这个应用。它使人们更有效率。所以，它非常符合，你知道，我们如何看待代理的最佳使用方式，我们看到的模式，你知道，使人们在这个公司内外都非常有效率，然后就全力投入其中。恰好在同一时间，你知道，委托终于来了，它奏效了，你知道，而且它更容易获得，我们将尝试看看如何打包它并将其实际发布给，你知道，更广泛的受众，但这可能不是 Codex 应用。>> 我的意思是，你一直在使用它。>> 我写的 99% 的代码都使用 Codex 应用。>> 一样。我的意思是，我现在就住在这里。>> 是的。>> 嗯，好的。那确实非常有趣。我绝对想谈谈这个应用，但我还想回到你刚才说的话，那就是，也许如果我理解得没错，你有点像，我们正在推动前沿。我们看到很多人，也许比资深工程师更广泛的人在使用它。然而，关于谁在哪个应用中做什么的整体想法，也许你还没有完全弄清楚，而且它不像“不再在 ChatGPT 中进行即兴编码”或“真正地在 Codex 中进行即兴编码”那样清晰的界限。>> 是的，我认为 Codex 是目前最强大的体验，所以你应该相当懂技术，这样你才能理解，你知道，代码实际上正在被编写，你知道，它将在你的机器上执行，默认情况下，它在沙箱中执行，但你可能应该能够阅读代码，才能充分利用 Codex。>> 我们将在某个时候将类似的体验带到 ChatGPT，它将具有不同的属性，例如沙箱和概念的表示方式。也许我们不会展示，你知道，嘿，这个可怕的终端命令正在运行，你知道，你应该批准它。你知道，当然你不应该对一个不技术的人这样做，而 Codex 确实是为了吸引，你知道，所有编码员、构建者、你知道，技术人员，或者那些技术相关的人，你知道，数据科学这类东西。>> 是的。而且，你知道，如果您使用 Codex 应用一段时间，您就可以看到 ChatGPT 的灵感。你知道，布局非常相似。我们自动命名您的对话。我们有上下文操作，但它相当简洁，对吧？作曲家看起来非常相似。>> 而且您会在 ChatGPT 中看到一些受到启发的其他类型的东西。>> 但我们仍然相信，你知道，当我们着手创造一些为专业软件开发人员而生的东西时，对我们来说，它应该有一个专门的体验，能够真正展示模型的强大功能以及模型如何改变开发生命周期。所以，你知道，我们创造了一些非常适合它的东西。>> 而且我们在内部，无论是研究团队还是产品团队，都取得了很大的成功。>> 所以，你知道，我们会放眼未来，但我认为我们对我们最终达到的这种量身定制的方法感到非常满意。>> 您能告诉我关于投资于图形用户界面而不是命令行界面的决定吗？我觉得命令行界面现在非常热门。显然，您已经有一个用于 Codex 的了，您可以说，好吧，我们将加倍努力，让终端体验比现在更好，并真正投资于它，而不是，好吧，我们将，我认为，是的，制作一个图形用户界面有点违反直觉，或者，嗯，像一个反叙事的事情。所以，告诉我关于那个决策过程。>> 我认为它不是违反直觉的。它可能不是主流，你知道，所以我们尝试了许多不同的方法。我非常认为我们仍处于实验阶段，你知道，我们主要负责两件事：你知道，构建最强大的实体，你知道，能够编码，然后，你知道，越来越多地，这将成为一个多代理系统，它将变得越来越强大，你知道，你将不得不弄清楚如何引导和监督它的结果和行为，你知道，这是我们正在构建的一件事。然后，我们也在构建，你知道，如何与这个互动？你知道，什么是最佳方式来了解这个非常强大的实体或实体系统正在做什么。你如何引导它们？你如何监督它们？所以，我们仍然在非常努力地尝试弄清楚那是什么。你知道，当然你可以在命令行界面中做到。你知道，在某个时候，它开始感觉非常有限，你知道，尤其是在多模态方面，你知道，实际上，模型可以绘制小图表并生成图像，你知道，或者，你知道，你可以通过语音进行交流，你知道，也许有很多代理并行运行，所以你开始失去跟踪。所以，我们觉得我们需要开始尝试一些别的东西，而且只有当我们看到它在内部变得非常非常受欢迎时，我们才说，我们必须把它推向外部，这已经到了一个点，它太好了，不能只留给我们自己。>> 我的意思是，那就是你的旅程，你知道，你不是在应用程序中构建的，尽管，你知道，你什么时候开始在应用程序中构建的？那实际上相当快，你知道，当应用程序正在构建自身时。>> 是的，那确实相当快，是的，因为我从命令行界面和 IDE 扩展开始，我认为我个人的目标是，如何尽快在应用程序上完全构建应用程序。>> 是的，就像，当你构建这些东西时，很容易陷入“哦，这对某人来说会很好，某人会喜欢这个，某种类型的人会喜欢这个”的模式，对吧？所以，我们真的想尽快达到“我想在应用程序上构建应用程序”。我想让它能够通过技能自行运行。我想让它能够点击它生成的应用程序。>> 而且，我仍然有时会使用命令行界面，当我想快速启动一些东西时，但我认为，你知道，控制用户界面的灵活性，并且能够让一些面板保持持久而另一些则短暂存在，并且，你知道，我们为应用程序添加了语音功能，所以你可以通过语音进行提示，我们有 Mermaid 图表在应用程序中，我们有完整的图像渲染，所以所有这些东西我认为是我们想要用一个专门的用户界面做的的冰山一角。>> 而且它非常简单，而且它有意地简单，但我认为我们将在此基础上做很多动态的事情。>> 我的意思是，是的，上限高得多。>> 是的，这很有趣。>> 我的经历是试用了这个应用程序，试用了这个应用程序。我真的不想回到终端。在那之前，我大部分时间都在云代码和终端中的一些 Codex 中编码了几个月。我认为我意识到的是，实际上图形用户界面很棒，集成开发环境本身就是问题所在。>> 而且，你知道，有一些适合编程的图形用户界面，但不是集成开发环境，而且你似乎正在弄清楚这一点，但我甚至不知道它叫什么。>> 它叫做 Codex 应用。[笑声]>> 你知道，在开发这个的过程中，有一个时刻，每个人都在分叉同一个 IDE，我们互相看着，然后说，“嘿，我们是不是也应该分叉 VS Code？”>> 就像非常认真地。我记得那是哪一天。而且我认为，我不知道，我不知道我是否会说 IDE 是问题所在，但我有时会回到卡车类比。那就是，我偶尔会打开一个 IDE。我今天打开了一个。>> 是为了做一些非常具体的事情，我甚至不记得那是什么了，然后我关闭了它，然后我继续使用 Codex 应用。而且我认为，Codex 应用是一个很棒的日常驱动程序，而且偶尔你需要一个 IDE，或者偶尔你需要一个非常复杂的终端设置，但它应该是你的主基地。它应该是你运行代理的指挥中心，也是你可以回来跟踪所有这些东西的地方。>> 而且，你知道，有很多设计决策围绕着，我们是否允许像 IDE 那样的自由形式面板。我们得出的结论是，这些模型擅长的是知道在某个时刻需要什么，为了完成什么类型的任务，所以我们想对能够显示的内容和显示的时间有更多的控制权，对吧？>> 而且您可以在计划模式下看到这一点，您不一定能看到作曲家。您会看到一种快速回答问题的方式。>> 您可以，你知道，您有您的计划，您可以编辑您的计划。>> 而且我认为，随着我们的发展，我们只会做更多的事情。>> 似乎您对您不想回到那个应用程序感到惊讶。>> 是的。>> 是的。你是像，像 Greg Greg 做了一个采访，Greg 说，我是一个命令行界面用户。我以为我永远不会离开终端。>> Greg 住在 Emacs 里。>> 你是像，>> 我是一个命令行界面用户，大概有六个月，从，从云代码开始变得非常好的时候开始，我说，哇，这比在光标上冲浪或者别的什么要好得多，现在我觉得我，我快速地完成了我的命令行界面时代，我又回到了图形用户界面。>> 我现在有点来回切换，但我可以看到光明，那就是，尤其是当您同时有很多代理运行时，图形用户界面的易用性就是，你知道，让它变得更好。>> 是的。而且还有很多东西即将到来。而且，这对我们来说是一个非常故意的决定，你知道，我们看到，你知道，代理将采取行动，并且，你知道，已经在采取行动，你知道，比代码更多，对吧？所以，它们需要成为你电脑上每个应用程序和每件事的伴侣。>> 就像我们与 Linear、Slack 集成一样，你知道，当然，你知道，也需要能够，你知道，阅读代码并生成代码，但也许，你知道，它也可以进行部署，对吧？你会从你的 IDE 中做所有这些事情，这似乎有点奇怪。>> 所以，它就像，它就像你的代理的指挥中心。>> 我们围绕着这个想法优化了整个体验，你知道，围绕着你有一个非常强大的智能实体，你正在控制、引导和监督它，你知道，你永远不需要，你知道，自己去那里做这些事情。你知道，这个东西非常能够，你知道，被委托去做。>> 我认为，你知道，当你接受这一点时，你知道，这就是我们前进的方向，你知道，而且，你知道，有了 53 Codex，你知道，感觉就像，你知道，你几乎快到了，对吧？然后你会说，嗯，你知道，和你一样，对吧？你知道，当我跟你谈论一个功能想法或者什么东西时，就像，你知道，你只是，你知道，你去，你受到启发，然后你去做了。你只是，你知道，我不会突然跳进你的 IDE 里，然后，你知道，就去实现它。>> 你可以。>> 是的。我的意思是，我认为你会觉得这很令人不安，对吧？就像，我的意思是，这就是你将如何，你知道，每个人都将与代理一起工作。就像，你只是和他们说话。>> 53 Codex 与 52 相比，您的工作流程发生了怎样的变化？>> 我很惊讶它变得有多快。>> 而且，你知道，我不得不调整。我一直在优化多任务处理。>> 而且，你知道，我有点期望，你知道，这种类型的任务需要，你知道，10 到 15 分钟。我将启动，你知道，四项，你知道，不同的事情，然后回来。>> 所以，我能够，你知道，做一点少的多任务处理，然后，你知道，更投入其中。>> 所以，这感觉很好。[哼鼻音]>> 而且，现在感觉也很有成就感，你知道，通过技能启动自动化。>> 它是一个更通用的模型。>> 它不像，你知道，那么专注于代码，对吧？>> 所以，我发现它在，你知道，浏览 Twitter 回复，你知道，总结重要内容，或者在 Linear 中归档错误，然后，你知道，回来并使用自动化，这样，你知道，事情就会得到实现，你知道，每天。>> 对于这些事情来说，它感觉更健壮。>> 我的意思是，但你真的是这里的超级用户，Andrew。你知道，就像，你知道，他所做的那些事情，你知道，就像，我的 Codex 使用非常普通，与 Andrew 相比。>> 嗯，[哼鼻音] 不，我的意思是，说得好。>> 我有一个系列，我打算运行一段时间，我只在 X Twitter 上运行了三天。>> 我当时是设置了一个提示，基本上是为 Codex 应用添加一个功能，一些随机的，不可发布的，为 Codex 应用添加一个功能。我有一个很长的提示，关于我们必须达到的质量标准。>> 一旦我切换到 53 Codex，结果就变得更有趣了。>> 我们有一个地铁冲浪者面板在右边，那是其中之一。>> 就像一个小型的 Minecraft UI，用于子代理，这是我们做的另一个，我不知道，也许我们会发布它。>> 我说，回去工作。[笑声]>> 是的。是的。>> 嗯，>> 为什么我们的 Codex 应用里现在有 Minecraft？>> 是的。但得去探索。>> 不，我的意思是，53 Codex，它很棒，它很快，它很强大，它是多模态的。>> >> Tibo 说你有很多很酷的用例，比如，你使用 Codex 应用的最有趣的方式是什么，也许人们应该尝试但还没想过？>> Andrew 想出了自动化，我认为这改变了你思考这些事情的方式，当它们可以自动在后台进行，你知道，在特定触发器下，在特定时间。>> 然后，你知道，你就可以自己编程了。>> 是的。>> 你经常使用它。>> 我使用这个应用程序的很多事情都超出了仅仅编写代码功能。>> 我用它来保持我的 PRs 可合并，通过自动化，所以它会解决合并冲突。它会保持它们更新。它会修复构建问题，所以基本上，一旦它们准备就绪，它们就准备就绪了。没有“哦，嘿，有人合并了一个大东西，现在有一个冲突。”>> 所以，我这样做。>> 所以，你刚才说，所以，自动化何时触发？因为我认为自动化是在某个时间表上触发的，但听起来还有其他触发器，我不知道。>> 嗯，是的，我正在看很多东西。我现在只是按时间表安排，我使用我们的 GitHub 技能和一些内部技能来处理我们的 CI，它每小时或每两小时运行一次，然后进行清理。>> 我明白了。所以，它只是查看主分支上的任何更改，然后查看任何 PR，并确保它们都已更新，这样，无论何时您准备就绪，它都不会是，那确实很好，我喜欢。>> 是的，它实际上非常有帮助。它出奇地有帮助。>> 我有一个，每天早上 9 点，我会收到过去一天合并到 Codex 应用的所有贡献。>> 所以，它会做一个很好的报告，谁合并了什么，它会，我让它按主题分组，这样我就可以说，好吧，三个人在这个作曲家的部分工作，两个人从事自动化，这里发生了什么，这样我至少可以了解发生了什么，因为在发布前事情会变得混乱。>> >> 我有一个自动化，我每天运行好几次，它就是随机选择一个文件，然后找到并修复一个微妙的错误，然后很有趣，因为它确实会选择一个随机文件。>> 所以，它会运行，你知道，Python 的 rand，然后它会，你知道，找到一个随机文件，然后从那里开始。所以，每次它都会探索一个新的。>> 它抓到什么了吗？>> 哦，是的，是的，就像，我们抓到了，它经常是潜在的错误，你知道，它们实际上并没有在关键路径上触发，但你知道，它们确实是错误。>> 然后，你知道，修复它，合并它，只需要很少的时间，而且这是我永远找不到的东西。>> 我前几天在约束采样中发现了一个问题。>> 是的。>> 那真的很酷。你还有其他值得分享的自动化吗？>> 让我想想。我感觉我一直在运行 60 个。>> 就像一些用于测试，一些用于真实。>> 一些团队成员非常喜欢这个，它会查看您在过去一天左右完成的 PR，并悄悄地修复您发布的任何错误。>> 而且，它会查看一些可观测性平台，然后尝试在任何人注意到您发布的错误之前发布修复程序。>> 那很酷。>> 而且有一个不是编码相关的，那就是市场研究。它每天运行，然后它只是，你知道，它被提示使用特定的技能进行深入的市场研究。>> 我已经调整了很长时间，然后它只是去搜索网络，你知道，关于任何新的事情，你知道，就像用户如何看待和谈论 Codex。>> 然后我收到那个小报告。>> 而且它总是很有趣。>> 是的，我们可以继续。>> 而且这些只是例子，你知道，我们确实依赖于，你知道，它们运行。>> 是的。>> 是的。[哼鼻音] 是的。你们有什么特别喜欢的技能吗？除了普通的，你知道，我有一个 GitHub 技能之类的。我喜欢 Andrew 的 yeet ye 技能，它只是，你知道，它接受了更改，然后，你知道，进行提交，进行 PR，编写草稿。>> 把它们放在草稿中，然后，你知道，发布一个带有 PR 标题和正文的 PR。>> 是的，这非常令人满意。>> 是的，它什么都做。>> 那一个确实使人们变得高效。>> 对你来说，最常用的技能是什么？>> 图像生成是一个很酷的技能。>> 是的。>> >> 无论是用于愚蠢的自动化目的，比如，“嘿，给我生成一张描绘我昨天工作的图片。”>> 不是我最后一天工作，而是我前一天。>> [清嗓子和笑声]>> >> 是的，Andrew。>> 我，你知道，那个，嗯，图像生成技能实际上非常酷，因为我使用 Codex 应用为我的女儿们制作了一本书。>> 所以，我，你知道，我写了一个提示，教它关于我想要写的一个剧本。说 24 页。这是我女儿的年龄。这是我们过去住过的地方。>> 我们在波士顿，搬到了纽约，然后搬到了这里。>> 然后我说，在那之后，我们完成了，我同意了剧本，然后我们继续，我说，好了，现在是时候使用图像生成技能了，它生成了，你知道，为书中的每一页生成了图像，基于剧本，它生成了图像，然后它把它们都放在一起，然后使用 PDF 技能把书的 PDF 放在一起，然后我打印了它。>> 所以，我们得到了一本超级定制的书，你知道，我读给我的孩子们听，这真的很酷。>> 当你可以结合，你知道，代理的智能，然后，你知道，通过技能以编程方式工作，你知道，通过 [哼鼻音] 使用技能，然后你可以将它们以新颖的方式结合起来，你知道，是的，我认为 PDF 和图像生成组合是一个常见的组合。>> 感觉 Codex 模型，它显然变得更快了，这使得它更易于使用，而且它也感觉有点更顺从，它有点更具情商，但它仍然有点像，它会完全按照你说的做，这有时会很烦人。你们是如何考虑塑造模型的感觉，以及你们将它推向哪个方向的？>> 这是我们非常关注的事情。>> 所以，我们确实希望模型在编码方面表现出色，并且非常擅长遵循指令。>> 同时，当我们过度优化这个方向时，它可能会过度依赖，你知道，特定的词语，或者，你知道，有点误解意图，你知道，以人类不会的方式。>> >> 比如，有时我只是，你知道，[哼鼻音] 打了一个错字，然后，你知道，那个错字，你知道，实际上进入了文件，然后我说，你知道，显然，你知道，我不是指那个错字，你知道，我指的是那个类的名字。>> >> 所以，这是我们正在，你知道，肯定会继续推进的事情。>> 但我们现在最关注的是效率，你知道，速度，然后，还有我们现在称之为个性的东西，你知道，它有多支持。>> 然后，我们明白，不是每个人都有相同的偏好。>> 就像以前的默认设置，你知道，绝对是超级直率，务实的个性。>> 现在，我们也引入了一个更具支持性，友好的个性，你可以选择它们。>> 而且我认为，对于那些没有，你知道，普遍的，你知道，每个人都应该使用的东西，你知道，我们可能会引入一种方式，让你自己来定制它，对吧？>> 你应该感觉你有一个你自己的小个人 Codex，你知道，以你想要的方式工作。>> >> 你使用友好的还是务实的？>> 务实的。>> 务实的。是的。好的。我会说使用务实的。>> 是的。>> >> 嗯，[清嗓子] 有趣。>> 我认为，你们最近发布了一个模型，它非常非常快。>> 我在它发布之前就测试了它，我只是觉得，我跟不上这个东西。>> 所以，我很好奇，这如何改变你对编码的可能性，以及管理如此快速的模型所需的易用性的看法。>> 是的。第一次。>> 是的。第一次，我们在应用程序中使用了这个模型，我们也有类似的事情发生，突然之间，只有一堆文字，我们在滚动条的底部，我们立刻就说，好吧，我们需要把它平滑一下。>> 所以，我们实际上稍微减慢了它的速度，这样你就可以看到文字稍微平滑地出现。>> 太有趣了。>> 这是一个非常有趣的问题。>> 但这个东西一直非常有趣。而且，我认为我最兴奋的是，我们可以开始向应用程序添加哪些真正动态的功能，而这些功能在没有如此快速的模型的情况下是无法实现的。>> 所以，是的，这个模型将允许你非常非常快速地迭代，但它也为如何编码以及如何与 Codex 应用互动开辟了许多新的机会。>> 是的，第一次，我展示了，你知道，第一个原型，当我们连接好一切，你知道，显然，你知道，模型是由 Cerebras 驱动的，你知道，我们已经谈过了那里的合作关系，而且，你知道，我们非常兴奋能够推出，你知道，我们通过它提供的第一个模型，你知道，出去，你知道，显然，你知道，仍然，你知道，非常早期。>> 这是我们第一次连接好一切。>> 而且，我们只是非常兴奋，我们想分享它。>> 但第一次，我给某人看的时候，他们说，“不可能。这就像一个假的，假的演示。”>> 就像，你知道，这不是真的。>> 就像，它不可能这么快。>> 然后他们尝试了一些提示，只是，[哼鼻音] “哦，我真的跟不上。”>> 就像，这太疯狂了。>> >> 而且，是的，我认为这将改变，这将改变一切，尤其是因为它还没有达到我们实际能达到的最快速度。>> >> 就像，有了预览版，我们把它放出去，你知道，相当早。>> 我们实际上将在此基础上添加一系列优化。>> >> 这应该能够，你知道，比你体验到的速度快两到三倍。>> [哼鼻音]>> 所以，这将改变事情。>> 而且我们还从委托的角度考虑这一点，你知道，就像，我们认为这个模型在，你知道，多代理系统的系统中扮演着重要的角色，以及如何加速，你知道，也许更慢、更智能的代理。>> >> 所以，我们将以这种方式进行实验。>> >> H 你预计更智能的代理也会很快出现同样的硬件加速吗？>> >> 所以，我们做的很多事情都是有趣的分布式系统和基础设施问题，我们发现了，因为模型能够以前所未有的速度进行采样，对吧？>> >> 然后，如果你以如此快的速度获得令牌，你需要去优化，你知道，整个瓶颈集，你知道，在服务路径上的关键路径上。>> >> 所有这些都受益于，你知道，当前的，它们受益于 GPT53 Codex，以及，你知道，所有未来的模型。>> >> 而且，我们还做了一件事，我们确信我们将在某个时候发布一个更详细的博客文章，那就是我们重写了整个服务堆栈，使其基于 WebSockets 和持久连接，并且做了更多增量和有状态的事情。>> >> 这降低了整体延迟，你知道，跨所有模型。>> >> 我们还没有默认启用它，但它是，你知道，我们正在为这个新的，你知道，超快速模型默认启用它，然后我们也将把它应用到其他模型上。>> >> 而且，它降低了整体周转延迟，你知道，大约 30% 到 40%。>> >> 我可以，我们可以查看确切的数字。>> >> 是的。>> >> 在内部使用该模型时，您看到的最令人惊讶的事情是什么？关于这种速度提升能够实现什么？>> >> 它让你能够非常非常投入。>> >> 而且，你知道，你几乎就像实时地，你知道，雕刻体验或代码。>> >> 这是一种非常不同的感觉。>> >> 它一开始非常令人不安，然后，你知道，一旦你进入其中，就很难回到任何其他模型。>> >> 那是我们看到的反馈，那就是我自己的感受。>> >> 所以，它就像，它需要五分钟来适应，然后，你知道，然后你就会知道，好吧，它就像，这就是我将如何使用这个东西。>> >> 是的。>> >> 我也不认为我们已经触及了我们能够用它做什么的全部范围。>> >> 是的。>> >> 它还很早。>> >> 我们还没有用它很长时间。>> >> 是的。>> >> 团队中的某个人，Channing，他只是展示了，哦，是的，它非常快，它实际上可以玩 Pong，你知道，虽然不是很好，但模型能够对事物做出反应，你知道，几乎是实时的，对吧？>> >> 它就像，你开始看到它如何取代一些确定性步骤。>> >> 所以，我们在 Codex 应用中有一系列 Git 操作，对吧？>> >> 而且，正如大家所知，Git 的某些配置或某些状态可能很难运行，而无需大量的错误处理和各种错误消息和指导，而且很难创造一个好的 Git 体验，这就是为什么没有人这样做。>> >> 但如果你有一个模型，它的速度几乎和运行这些脚本一样快，那么你就可以想象一个世界，这些东西变成了技能或者类似的东西。>> >> 而且你可以让你的操作运行得有点不同，带有一些智能，而不是在你要求它去代码库中查找东西时，你今天所经历的延迟。>> >> 你可以有点模糊地指示，然后说，“嘿，把这个发上去，”然后它足够快地完成一个按钮。>> >> 我非常兴奋的是，当它与，你知道，我们用 53 Codex 发布的东西结合起来时，你知道，我们称之为中期引导，你知道，在那里，你只是，你从你的提示开始。>> >> 就像，它起作用了，然后你在它还在工作的时候发送另一个提示，它会实时适应。>> >> 它会，你知道，接收那个消息，确认它，然后，你知道，继续它的工作。>> >> 就像，如果你开始考虑，你知道，如果这与语音结合会是什么样子，然后与一个像我们刚刚发布的那样快的模型结合起来，那么那将是完全不同的体验，你知道，我们将非常兴奋地带来，你知道，希望很快。>> >> 因为你可以在说话时轻松地打断。>> >> 是的。>> >> 如果你只是在说话和互动，你知道，用横向语言，然后进行中期引导，然后，你知道，实现几乎是瞬间发生的，因为速度，你知道，它会变得非常愉快。>> >> 现在，你可以通过，你知道，语音，语音听写，然后发送它，然后，你知道，观看模型实现，这是一种非常酷的事情。>> >> 我认为，当我们真正打磨它时，我们将迎来一次体验的飞跃。>> >> 如果速度作为瓶颈几乎得到解决，你认为下一个瓶颈是什么？你认为下一个限制你实现你想要的东西的因素是什么？>> >> 嗯，我，很明显的瓶颈是，你知道，你验证事物是否正确的速度有多快。>> >> 所以，我们，我的意思是，我们可以生成代码比以往任何时候都快。>> >> 我们可以实现整个功能，而且，你知道，我看到有人只是基于对 Codex 应用的描述，你知道，将其综合成一个计划，你知道，仅仅基于截图，模型就非常能够，你知道，重现 95% 的功能，并从头开始重建应用程序。>> >> 现在，它会没有错误吗？>> >> 它会，你知道，一切都实现了，你知道，完美，就像，你知道，实际的应用程序一样，那仍然需要很多时间，你知道，对于一个人类来说，去点击和验证，并且，你知道，确保，你知道，设计是一致的，并且，你知道，这里或那里没有错误。>> >> 你知道，设置面板，你知道，当你点击那个按钮时，它实际上做了你期望的事情。>> >> 我认为验证，你知道，绝对成为一个瓶颈。>> >> 我的意思是，我们团队里有人抱怨，你知道，代码太多了，需要审查。>> >> 就像，你知道，这就是我们试图解决的问题。>> >> 我的意思是，你，你抱怨那个。>> >> 我抱怨那个。现在有太多代码需要审查了。>> >> 嗯，无论是，你知道，在你自己的机器上，还是来自另一个同行。>> >> 这是，这是，>> >> 我们将不得不解决这个问题。>> >> 是的。>> >> 你已经在审查，你第一次审查代码，因为代理只是把它呈现给你，然后你必须审查，你知道，你的同行生成的代码，你知道，有这两轮审查。>> >> 是的。>> >> 是的。>> >> 我的意思是，这是我们正在努力解决的问题。>> >> 我们很多人仍然需要审查代码。>> >> 而且，我们希望，你知道，我们正在研究，模型参与其中时，那种体验应该是什么样的。>> >> 我们在 Codex 应用中有一个审查模式，它工作得非常好，并且在旁边用发现和风格化的东西注释你的 diffs。>> >> 而且，还有很多工作要做。>> >> 是的。>> >> 这是我感到兴奋的一件事，你知道，就像，让模型更快，然后，你知道，我们刚刚发布的这个，你知道，它快得令人难以置信，你知道，你也可以使用它，你知道，你可以想象用它来理解代码，理解功能。>> >> 你知道，帮助你进行代码审查，帮助你理解，你知道，你的同行写的代码。>> >> 而且，它更令人愉快，因为这是你想做的事情，你知道，你想在那里，在流程中。>> >> 这是必须同步的事情，它不是你可以委托的事情。>> >> 你不能委托理解，对吧？>> >> 就像，你知道，你正在尝试，你知道，去理解某事。>> >> 所以，那里的速度，你知道，是一个真正的优势。>> >> 所以，它也抵消了，你知道，模型生成越来越多的代码，你知道，速度帮助你更快地理解，你知道，这段代码。>> >> 是的。>> >> 我的意思是，我绝对认为我曾经
我已经通过这个新模型找到了这个，速度很快，特别是对于端到端测试来说，速度更快，因为如果你让它进行端到端测试，就像手动集成测试一样，通常会有一个弹出提示，弹出提示一秒钟，如果模型不够快，它就无法捕捉到。嗯，它似乎在这方面做得更好，因为它，它的周期时间要短得多。所以，嗯，我绝对也发现了这一点。就像我可以生成很多代码，但当我看到一个 PR 进来，或者当我创建一个 PR 时，我的第一个问题是，是否有证据表明你实际上已经测试过它，并且它确实有效，就像不仅仅是单元测试一样，你已经完成了端到端测试。>> 你如何处理这个问题？>> 我（鼻息声）看到了很多我也有同样问题的 PR。嗯，现在写代码真的很容易，对吧？嗯，是的，我们已经让 Codex 应用在通过我们的一些技能来运行自身、点击截图并将其上传到 PR 方面做得相当不错。那里有很多非常有趣的东西，特别是当我们让它变得更加异步，或者当你知道模型在这方面变得非常快的时候。比如，我还不知道它具体看起来是什么样的，但那里有很多关于“嘿，这是一个 bug 修复。这正是它发生时的样子，以及它现在在完全相同的点击路径下的样子。”所以也许这就是代码审查变得不那么重要的转折点，当你可以验证那部分的时候。所以你必须通过代码作为代理来做的事情更少。嗯，但那里肯定还有更多值得探索的地方。嗯，最后几个问题。我很好奇。你们从 Anthropic 和 Cloud Co. Cloud Code 中学到了什么？你们如何看待与他们相比的市场定位？比如你们如何看待差异？>> 我认为他们是第一个推出产品的，这对我们来说很有趣，因为我们一直在研究类似的想法。嗯，但我认为当时我们的模型还没有准备好，你知道，它们在长期的任务中不可靠，你知道，它们无法进行可靠的工具调用，你知道，保持主题，所以一旦我们开始真正投入其中，你知道，特别是有了 GPT5，你知道，我们就觉得，嗯，模型就在那里，我们知道如何让它们变得更好，52 带来了，你知道，甚至更好的长上下文、长视野、可靠性、非上下文理解，我们看到的是 Anthropic 正在通过我们，你知道，一点点失去动力，当涉及到模型时，我们处于一个幸运的位置，因为我们运行 CEDX 的方式是，你知道，我们有产品，我们有工程，但我们也有研究，我们只是像一起工作，坐在一起，一起解决问题，这是一个非常有创造力的空间，你知道，有时我们决定在产品中解决问题，在护栏中。但有时我们也觉得，嘿，我们如何才能真正改进模型，然后让我们只是，你知道，谈论它，然后你知道，一起构思，然后研究人员会来，然后说，嘿，你知道，我们有一个突破，我们正在坐着。这就像，这是否会是我们可以发布的某种东西，然后我们就对此感到兴奋。其中一个例子是，我们收到了很多关于压缩的投诉。嗯，你知道，压缩是人们觉得，每当你遇到压缩时，你知道，人们会抱怨，他们觉得它丢失了太多上下文，所以我们基本上是端到端地解决了这个问题，然后你知道，我们决定进行端到端 RL 训练，嗯，你知道，在研究中引入压缩，然后你知道，让模型，你知道，自己非常熟悉压缩的概念，并且你知道，在一段时间内产生最优的委托，你知道，一旦我们有了它，并且我们在模型层面解决了它，你知道，护栏问题就变得容易多了，因为我们只是觉得，哦，让模型去做吧，它会非常可靠。所以通过这一点，通过这种合作，感觉就像势头一直很强劲，我们能够改进模型，你知道，大约每周或每月发布一个模型，然后我们对 Codex 应用采取了不同的赌注和不同的方法。嗯，这被证明是，你知道，一件很棒的事情，你知道，只是尝试去做，而不是仅仅强迫自己，你知道，并试图把所有东西都塞进两个。嗯，我的意思是，这就像一个巨大的挑战，对吧？你知道，你就像，我，你知道，就像，让我们构建一个应用程序。就像，我从哪里开始？然后，你知道，你只是沉迷于它。>> 很难不沉迷。>> 是的。我的意思是，就像，你知道，构建一些非常具有对抗性的东西，我猜。>> 是的。我的意思是，我记得你和我谈过，早期我们是否在想，我们不知道是否会发布它。>> 是的。就像，我们会尝试一下。我们会看看我们是否能得到我们喜欢的东西，看看我们是否能得到。我记得我说，让我们在内部获得一些 PMF。让我们让 OpenAI 的每个人都想使用这个东西，而不用强迫他们使用。让我们看看，让我们看看我们是否能做到，对吧？我们做到了，而且它被迅速采用。我的意思是，一旦它几乎可用，研究人员就会在上面放上开发盒，对吧？就像当时这是一个疯狂的黑客行为。>> 是的。是的。>> 嗯，但现在他们用它来做一切。>> 是的。是的。就像包括在训练 53 个编解码器中一样，所以我觉得能够达到这一点，你知道，就像公司里几乎所有的技术人员，公司里几乎所有的技术人员都使用编解码器，但使用它最多的人是，你知道，实际上正在构建编解码器和构建模型的人，所以你知道，我们能够以惊人的速度改进事物，你知道，而且没有任何迹象表明它会放缓。>> 太棒了。我期待你接下来发布的东西。嗯，感谢你们的时间。我真的很感激。>> 谢谢。感谢你们的到来。>> 谢谢。>> 我的天哪，各位。你们绝对必须用力点赞并订阅 AI and I。为什么？因为这个节目是卓越的缩影。这就像在后院找到一个宝箱，但里面不是金子，而是纯粹的、未经稀释的关于 Chat GPT 的知识炸弹。每一集都是一场情感、见解和笑声的过山车，会让你们坐立不安，渴望更多。它不仅仅是一个节目，它是一次通往未来的旅程，Dan Shipper 是宇宙飞船的船长。所以，做个好人，点赞，用力订阅，然后系好安全带，准备好迎接一生中最精彩的旅程。现在，废话不多说，让我说，Dan，我绝对无可救药地爱上了你。