📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

OpenAI’s head of platform engineering on the next 12-24 months of AI | Sherwin Wu

Lenny's Podcast1:19:40

Transcription

95% 的工程师使用 Codex。我们 100% 的 PR 都由 Codex 为工程师进行审查。我不知道过去几年里哪个工作变化更大。工程师正在成为技术负责人。他们正在管理成群的代理。感觉就像我们是施展各种咒语的巫师。而这些咒语就像是出去为你做事。你认为人们还没有定价的是什么?赋能一个一人十亿美元初创公司的第二或第三阶效应。可能还有一百家小型初创公司在构建定制软件。所以我认为我们可能会进入 B2B SAS 的黄金时代。>> 我听到越来越多的人感到一种压力,当他们的代理不起作用时。现在 OpenAI 内部有一个团队正在进行一项实验,他们正在维护一个 100% 由 Codeex 编写的代码库。他们遇到了你所描述的那些确切问题。所以通常你会想,好吧,我会卷起袖子解决它。但这个团队没有那个“逃生舱”。>> 你曾说过,在 AI 领域,听取客户意见并非总是正确的策略。该领域和模型本身变化太快了。它们倾向于颠覆自己。模型会吞噬你的脚手架。你对那些说“好吧,我不想错过这班车”的人有什么建议?确保你是在为模型将走向的方向构建,而不是为它们现在的方向构建。这里有一句我们科学副总裁 Kevin Whale 的话。他喜欢说:“这是模型有史以来最糟糕的时候。”今天,我的嘉宾是 Sherwin Woo,OpenAI API 和开发者平台的工程主管。考虑到几乎所有 AI 初创公司都集成了 OpenAI 的 API,Sherwin 对正在发生的事情以及事物的发展方向有着极其独特和广泛的视角。让我们在简短的广告之后开始。今天的节目由 DX 提供,这是一个由顶尖研究人员设计的开发者智能平台。要在 AI 时代蓬勃发展,组织需要快速适应。但许多组织领导者难以回答紧迫的问题,例如哪些工具有效?它们是如何使用的?什么真正能带来价值?DX 提供了领导者应对这一转变所需的数据和见解。通过 DX,Dropbox、Booking.com、Adion 和 Intercom 等公司深入了解 AI 如何为他们的开发者带来价值,以及 AI 对工程生产力产生的影响。要了解更多信息,请访问 DX 的网站 getdx.com/lenny。即 getdx.com/lenny。应用程序会以各种方式崩溃。崩溃、减速、回归,以及只有在真实用户出现时才会看到的问题。Sentry 会捕捉所有这些。查看发生了什么、在哪里发生以及为什么发生,一直追溯到引入错误的提交、发布它的开发人员以及确切的代码行,所有这些都在一个连接的视图中。我确实尝试过在 Slack 线程中使用五个标签页来调试。这更好。Sentry 向你展示请求的移动方式、运行了什么、减速了什么以及用户看到了什么。Seir,Sentry 的 AI 调试代理,将从那里接手。它利用所有 Sentry 上下文来告诉你根本原因,建议修复方法,甚至为你打开一个 PR。它还会审查你的 PR 并标记任何具有现成修复方法的重大更改。在 centry.io/lenny 免费试用 Sentry 和 SER,并使用代码 Lenny 获得 100 美元的 Sentry 积分。即 s nt r y.io/lenny。Sherwin,非常感谢你来到这里,欢迎来到播客。谢谢。谢谢你的邀请。>> 我想从 AI 领域进步的晴雨表开始,尤其是在工程领域。到目前为止,你和你团队的代码有多少比例是由 AI 编写的,如果你还在写代码的话?>> 我现在偶尔还是会写代码。对于像我这样的经理来说,现在使用这些 AI 工具比手动编码要容易得多。所以我知道对我自己和 OpenAI 的其他一些初级经理来说,我们所有的代码现在都是由 Codeex 编写的。但更广泛地说,只是有如此多的能量。内部有一种切实的能量,围绕着这些工具已经走了多远,Codeex 作为工具对我们来说已经有多好。而且,我们很难准确衡量有多少代码被编写出来,因为绝大多数代码,我说接近 100%,通常是 AI 首先生成的。但我们跟踪的是,现在绝大多数工程师每天都在使用 Codeex。所以 95% 的工程师使用 Codeex。我们 100% 的 PR 每天也由 Codeex 审查。所以基本上任何进入生产环境的代码,任何被合并的代码,Codeas 都会对其进行审查,并提出改进建议,提出更改建议。所以这就是我们内部看到的情况。但总的来说,最令人兴奋的是那里存在的能量。我们还有另一个观察结果是,倾向于更多使用 Codeex 的工程师会打开更多的 PR。所以他们实际上打开的 PR 比不怎么使用 Codeex 的工程师多 70%。而且差距正在扩大。所以我感觉,那些打开更多 PR 的人正在越来越多地学习如何使用这个工具,变得更有效率,而这个 70% 的差距会随着时间的推移而不断扩大,所以它可能自上次我查看数字以来已经增加了。>> 好的。所以只是为了确保我们听清楚你的意思,你说 OpenAI 的这 95% 的工程师的所有代码都是由 AI 编写的。是先写出来,然后他们再审查?>> 是的。是的。>> 这太疯狂了,这几乎不再疯狂了,我们只是在习惯它。我想还是需要一些时间来适应。要明确的是,还有一些工程师,我认为他们对 Codeex 的信任度稍低。但基本上每天我都会和某人交谈,他们对 Codeex 的能力感到震惊,并且他们对模型独立完成工作的信任度会一次又一次地提高。我们这里有一句科学副总裁 Kevin Whale 的话。他喜欢说,这是模型有史以来最糟糕的时候。所以这也是软件工程领域模型最糟糕的时候。所以随着时间的推移,你会看到人们越来越信任它,然后模型也会变得越来越好。>> 是的。Kevin Wheel,前播客嘉宾,他在这个播客上说过这句话好几次。>> 是的。Peter,现在被称为 ClaudeBot/MoldBotClaw 的开发者,最近分享说他使用 Codeex 来完成他的工作,他觉得每次它完成一些事情时,他都相信它已经完成了正确的工作,他几乎肯定可以将其提交到主分支,它就会很棒。>> 是的。是的。他是 Codeex 的一个很棒的用户。我知道他与团队保持着密切联系,给我们提供了很好的反馈。我并不惊讶他会使用它。我的意思是,抱歉,它叫 Open Claw。>> Open Claw。是的。>> Open Claw 是一个很棒的产品。然后我看到这个,我的意思是这是非常近期的,但今天早上,我认为 Mold 的书也被分享了,看到所有 AI 代理相互交流是相当超现实的。我听说这基本上是在现实生活中发生的。>> 是的。是的。>> 所以只是回到我们正在经历的这个疯狂时刻,特别是对工程师来说。我们从你写每一行代码,到现在 AI 编写你所有的代码。我不知道过去几年里哪个工作变化更大,一个我们没想到会发生如此大变化的工作,工程师的工作在工程师的整个生命周期中是如此不同,在过去的几年里,它已经转变为我不写任何代码了。你如何想象工程师的角色和软件工程师的工作在未来几年会是什么样子?就是那个工作是什么?>> 是的,说实话,这真的很有趣。这也是兴奋点之一,因为在未来一到两年内,这份工作很可能会发生相当大的变化。感觉我们仍在摸索。所以,我知道尤其是对于一些软件工程师来说,有一种兴奋感,我们正处于一个难得的时刻,也许在接下来的 12 到 24 个月里,我们将能够自己摸索出来,并为自己设定标准。就我所见而言。所以我认为有一个普遍的说法,那就是人们普遍认为,独立工程师正在成为技术负责人。他们基本上就是经理。他们正在管理成群的代理。我知道我团队中的许多工程师基本上同时处理 10 到 20 个线程。当然不是主动运行 Codeex 作业,而是很多并行线程。他们会检查他们正在做什么。他们正在指导代理和 Codeex,并给予反馈。所以他们的工作已经从仅仅编写代码本身转变为几乎像一个经理。就我所认为的未来一到两年而言。所以,我经常会回到一个比喻,这个比喻实际上来自一本我在大学时读过的编程教科书,叫做 SICP。我不知道你是否听说过。结构与解释计算机程序。所以 SICP。在 MIT,它非常受欢迎,而且它实际上被用作很长一段时间的入门编程课程的教科书。它有一种狂热的追随者。它教你编程,它教你一种叫做 Scheme 的 Lisp 方言。所以它向你介绍了函数式编程,它在某种程度上是令人大开眼界的。但对我来说,这本书中最令人难忘的是,我大学时读过它。它开头描述了编程作为一门学科,并将其与巫术进行了类比。它说软件工程师就像巫师,而编程语言就像咒语,你正在说,你正在发出这些咒语,而这些咒语就像是出去为你做事。而挑战在于,你必须说出什么样的咒语才能让程序按照你想要的方式运行。这本书写于 1980 年,所以这是很久以前的事了。我认为这个比喻实际上已经持续了很长时间。而且我认为它实际上正在随着我们进入这个新的“代码即咒语”时代,或者说软件工程将是什么样子而显现。因为编程语言基本上就是这些咒语。它们随着时间的推移而改变,而挑战一直以来,趋势一直是越来越容易通过编程让计算机按照你想要的方式工作。我认为当前的 AI 浪潮可能是这种演变的下一阶段。现在它确实是咒语,因为你可以告诉你的,你可以告诉 Codeex,你可以告诉 Cursor 确切地你想要做什么,然后它就会为你完成所有事情。我特别喜欢巫师和巫术的类比,因为我认为我们目前的状况正在朝着“巫师的学徒”的方向发展,你知道,来自《幻想曲》的那一幕,米老鼠找到了巫师帽,并试图做所有事情。我认为这是一个非常恰当的类比,因为一方面,这些咒语现在非常强大,你可以做的事情的杠杆作用非常高,但你必须知道你在做什么,对吧?在《巫师的学徒》中,整个情节是米老鼠失控了,扫帚乱飞,一切都在泛滥。我认为他让扫帚开始执行任务,然后就睡着了。所以,这就像是最好的“代码即咒语”的体现,最终老巫师回来清理一切。当我看到工程师一次处理 20 个不同的 Codeex 线程时,确实需要一些技巧、一些经验和大量的思考,因为你想确保模型不会失控。你绝对不想完全放任不管,你知道,就像忽略这件事。但它的杠杆作用也非常高,你知道,一个非常资深的工程师,如果他非常精通这些工具,现在就可以通过他正在做的事情完成更多的事情。而且我认为这也是它有趣的地方。感觉就像我们现在是巫师。你知道,感觉我们更接近于实现这种神奇的体验,我们正在施展所有这些咒语,让软件为你做所有这些事情。>> 当你描述的时候,我正好想到了“巫师的学徒”这个比喻。所以很高兴你提到了。一位之前的播客嘉宾把它描述为你有一个可以实现你愿望的精灵,这是一个有用的框架,因为你必须非常清楚你想要的愿望,比如你想有多大,它有多大。>> 是的。或者它可能就像猴爪一样,你得到了你想要的,但有什么副作用?>> 嗯,是的。是的。我认为这个类比很棒,而且,是的,对我来说疯狂的是这本书的持久力。SICP,它被称为“巫师书”,你知道,人们称它为“巫师书”,因为这就是他们贯穿整本书的类比。而我们基本上已经达到了那个点,这真的很酷。我想沿着两条线索继续。一条是我听到越来越多的人说,当他们的代理不起作用时,他们会感到一种压力。你启动了所有这些 Codeex 代理,然后你必须一直关注它们。哦,一个不起作用了。我浪费了时间。你也有这种感觉吗?你在你的团队里也有这种感觉吗?>> 是的。是的。我的意思是,这种情况经常发生。而且我实际上认为,这正是所有这些事情的有趣之处,因为这些模型并不完美。这些工具并不完美,我们仍在试图弄清楚如何最好地与 Codeex 或这些 AI 代理进行交互以完成工作。我们经常遇到这种情况。我们内部有一个特别有趣的团队。所以有一个团队现在正在 OpenAI 内部进行一项实验,他们基本上维护着一个 100% 由 Codeex 编写的代码库。所以,你知道,你知道,AI 会写代码,但你最终会重写很多代码,你可能需要仔细检查和更改东西,但这个团队完全是 Codeex 驱动的,并且完全投入其中。他们遇到了你所描述的那些确切问题,那就是,你知道,你知道,我想构建这个功能,但我无法让代理完成它。所以通常有一个逃生舱,然后你会想,好吧,我会卷起袖子解决它,然后我可能不会使用 Codeex,而是使用 Tab Complete 和 Cursor 之类的东西,但这个团队,为了实验,这个团队没有那个逃生舱。所以挑战就变成了,我如何让代理完成这个任务?而且,我实际上认为我们将会发布一篇关于我们在这里学习到的东西的博客文章。但很多有趣的范式和最佳实践都从中涌现出来。我们注意到的一件有趣的事情是,我不知道你是否也有这种感觉,但我们在这里绝对有这种感觉,很多时候,当编码代理不按你想要的方式工作时,通常是上下文和你提供给它的信息的问题。你要么没有充分说明,要么没有足够的信息可供代理使用,可供 Codeex 使用。所以,当您必须通过它来解决时,挑战就是添加文档,并实际解决这个限制,基本上将您脑海中的更多部落知识以某种方式编码到代码库中,无论是通过代码注释本身,还是代码结构本身,还是通过文本文件,你知道,MD 文件、技能,存储库中的任何类型的附加资源,以便模型能够更好地完成其任务。这个小组还有很多其他学习到的东西,我认为探索它们非常有趣。但是的,基本上,移除不再使用 AI 的逃生舱,使他们能够开始拼凑出如果我们真的想依赖代理,我们就必须解决的许多问题。>> 另一个人们遇到的问题是,你谈到人们疯狂地发布 PR,如果他们与 AI 合作,PR 会多很多。显然,代码审查正成为一个更大的挑战。你的团队有没有找到什么方法来帮助加快速度,使其能够扩展,而不仅仅是给人们带来糟糕的工作,让他们整天都在审查 PR?>> 是的,我的意思是,有一件事是 Codeex 目前审查我们所有的 PR。所以我实际上认为,一件非常有趣的事情是,我们立即交给模型的东西,往往是我们讨厌的东西,或者说是软件工程中最无聊的部分。这也是为什么现在更有趣,因为我们可以做更多,你知道,更多有趣的事情。对我来说,更多地是为我自己说话,我真的很讨厌代码审查。对我来说,这是最糟糕的事情之一。然后我记得我的第一份工作,大学毕业后,是在 Quora。我负责新闻信息流,所以我负责新闻信息流的代码。所以我就是新闻信息流的审查员,它是每个人都会触及的核心代码。所以每天早上我都会登录,看到 20 到 30 个代码审查。我就会想,我的天哪,我得把这些都看完。我会拖延,然后就会变成 50 个。所以有很多代码审查。Codeex 非常擅长审查代码。所以实际上我们注意到的一件事是,Codeex 52 特别擅长审查代码,尤其是在你把它引导到正确的方向时。所以,对于代码审查,是的,我们创建了很多 PR,但 Codeex 会审查所有这些 PR,这使得代码审查从一个,我不知道,10 到 15 分钟的任务,有时甚至只需要 2 到 3 分钟,因为你已经有了一堆建议。很多时候,人们,尤其是对于小型 PR,你实际上甚至不需要人们来审查。我们以这种方式信任 Codeex。原始作者会查看 Codeex。代码审查的好处是有一个第二双眼睛来确保你没有做任何愚蠢的事情。Codeex 现在是一双非常聪明的第二双眼睛,所以这是我们大量依赖的东西。总的来说,CI 过程以及推送和部署过程也已经通过 Codeex 在内部进行了大量自动化。如果你和很多工程师交谈,最让他们恼火的事情是,在你写完漂亮的代码之后,如何将其投入生产?你知道,你必须通过所有这些测试,你必须进行代码风格检查,代码审查。你可以用 Codeex 做很多自动化工作,所以我们实际上构建了一些内部工具来帮助自动化这个过程,自动化代码风格检查,你知道,如果有代码风格错误,Codeex 可以很容易地修复。然后它就可以修补它,然后重新启动 CI 过程。所以所有这些都是我们试图让工程师的工作量尽可能少,其副产品是,他们现在可以合并和推送更多的 PR。Codeex 编写代码,Codeex 审查自己的代码。我很好奇你是否愿意使用其他模型来审查模型的工作。这是个方向吗?还是它已经足够好了,我们不需要其他东西了?>> 所以,我得说这里确实有一个循环,就像回到《巫师的学徒》,你想确保你没有让扫帚失控。所以,你知道,我认为我们非常慎重地考虑哪些 PR 完全由 Codeex 审查。大多数人仍然会查看他们的 PR。所以并不是说它会降到零。更像是从 100% 的注意力降到 30% 的注意力,这有助于事情的推进。至于多个模型,我们当然会在内部测试很多模型,所以我们有很多。我们较少使用外部模型。我们认为自己测试自己的模型并从中获取反馈很重要。但你也可以,你知道,有很多内部模型变体可供你使用,以提供不同的视角。而且我们发现这效果相当好。>> 好的。所以只是为了确保我们了解 OpenAI 在 AI 和代码方面的现状,以便我理解,然后我想转移到另一个话题。OpenAI 的 100% 代码都是由 Codeex 编写的。这是正确的说法吗?>> 我不会说今天生产环境中的 100% 代码是由 AI 编写的。而且很难进行归因。但几乎所有工程师现在都在所有任务中大量使用 Codeex。所以,如果我猜测的话,现在绝大多数代码可能都是由 AI 编写的。>> 好的。有很多关于 IC 角色的讨论,我们一直在谈论 IC 角色的工作。关于经理角色的变化,尤其是工程经理,讨论得较少。随着 AI 的兴起,你作为一名经理的生活发生了怎样的变化,你认为经理在未来扮演什么角色?>> 它肯定变化不大。目前还没有针对经理的 Codeex。然而,我相当多地使用 Codeex 来处理我做的一些更像经理的任务。我想说有几件事正在改变。有一些趋势。所以我不认为它现在变化很大。但我看到了趋势,我认为如果你把它推演下去,你可以大致看出这一切的去向。一件事越来越清楚的是,Codeex 确实赋能了顶尖表现者,让他们能够获得更多成果。我认为这对于整个社会来说可能都是如此,那些真正投入的人,或者那些有高能动性的人,或者那些擅长使用这些工具的人,将会超充实自己。所以我现在也注意到这一点,那就是顶尖表现者最终会变得更加高效。所以你会看到团队生产力方面出现更广泛的差距。所以,我一直以来的管理理念之一是花费大部分时间与顶尖表现者在一起,只是确保他们没有障碍,确保他们快乐,确保他们感到高效并被听到。我认为在 AI 世界中,这一点更加真实,因为你的顶尖表现者将真正利用这些工具飞速前进。我认为一个例子是,那个维护着一个 100% 由 Codeex 生成的代码库的团队,让他们去尝试并看看那里发生了什么,这已经带来了回报。所以我认为这是我看到的一个趋势,即经理花在顶尖表现者身上的时间可能会继续增加。另一件事是,我观察到的情况是,我的感觉是,随着许多 AI 工具可供经理使用。比如,不是写代码,而是像 ChatGPT 这样的组织知识,能够更好地进行研究和理解组织背景。另一个很好的例子是,我们现在正在进行绩效评估,实际上很容易使用 ChatGPT,连接到 GitHub 和我们的 Notion 文档和 Google Docs,以获得对这个人过去 12 个月所做事情的真正良好感觉,并为其撰写一份深入的研究报告。我的感觉是,我认为经理在这个世界里将能够管理更大的团队,就像你知道的,软件工程师管理 20 到 30 个 Codeex 一样。我的感觉是,这些工具将使人们经理的杠杆作用更高,并且它将允许他们管理比目前最佳实践(我认为是六到八个,对于软件工程来说)多得多的团队。你可以看到这适用于非工程领域,比如支持或运营,以前支持团队的规模可能受到限制,但随着你可以将更多事情交给代理,你实际上可以做更多的工作,也可以以这种方式管理更多的人。我认为同样的事情也可能发生在人们管理方面,尤其是在科技公司。而且我们已经看到了这一点。有些团队的 EM 管理着相当多的人,他们做得相当熟练,这得益于一些工具,这些工具可以让他们获得更高的杠杆作用,了解团队在做什么,更好地理解组织背景,并以这种方式运作。我喜欢你所描述的这个建议,你一直倾向于顶尖表现者,花更多时间与他们在一起,为他们扫清障碍,确保他们快乐。马克·安德森,他最近也上了播客,他的说法是,AI 让优秀的人变得更好,让伟大的人变得非凡。>> 是的。是的。>> 而你在这里说的就是越来越多地这样做可能是正确的做法。花更多时间与团队中最好的人在一起,为他们扫清障碍,确保他们拥有所需的一切。>> 是的。一个很好的例子是,我认为内部有一群工程师非常擅长 Codeex,并且正在思考与这个模型互动 Thus 的最佳实践,而这正是他们可以做的一件非常有杠杆作用的事情。所以,作为一名经理,我只是说,是的,去探索吧,你知道,无论从中产生什么最佳实践,我们都必须与组织分享,我们会,你知道,我们会进行所有这些知识共享会议,我们会分享文档和最佳实践。所以类似的事情会提升所有人,而且,我认为这是我们看到的趋势的一个例子,即顶尖表现者确实变得非凡。>> 人们有一种感觉,这件事很大。AI 正在改变很多事情。世界正在改变。这将是一件大事。你认为人们还没有定价的是什么?关于将要改变什么,关于事物的发展方向?就像一个例子,你认为我们还没有意识到这一点?>> 所以,我最喜欢的一些关于 AI 浪潮的说法或事物是“一人十亿美元初创公司”的想法。我认为 Sam 可能是第一个说出这句话的人,但思考一下很有趣,对吧?是的,如果人们的杠杆作用如此之高,总有一天可能会出现一人十亿美元的初创公司。虽然我认为这真的很酷,但我认为人们还没有真正定价其第二或第三阶效应。以及真正地,你知道,因为一人十亿美元的初创公司意味着,一个人可以拥有更多的代理权和更多的杠杆作用,使用其中一个工具,他们可以轻松地完成他们业务所需的一切,你知道,最终创造出价值十亿美元的东西。但我认为还有其他一些含义。其中之一是,如果一个人可以轻松地创建一个一人十亿美元的初创公司,如果一个人可以创建一个一人十亿美元的初创公司,这也意味着人们更容易创建初创公司。就像我认为这将是,你知道,一个二阶效应是,我认为将会有一个巨大的初创公司热潮,以及小型 SMB 式的繁荣,任何人都可以为任何事情构建软件,对吧?你开始在 AI 初创公司领域看到这种情况,软件变得更加垂直化,例如为某个垂直领域创建 AI 工具往往效果很好,因为你真正专注于那个特定的领域,你真正理解它的用例。所以,如果你把 AI 应用到那里,没有理由你不能有 100 倍的这些初创公司。所以我认为,我认为我们可能最终会看到的世界是,为了赋能一个一人十亿美元的初创公司,可能需要有一百家其他小型初创公司来构建定制软件,以极好地支持其他类型的,你知道,小型一人十亿美元的初创公司。所以我认为我们可能会进入一个 B2B SAS 的黄金时代,以及软件和初创公司。所以我认为,我认为这是一个非常有趣的趋势,因为构建软件变得越来越容易,你知道,经营一家公司也越来越容易,你可能会看到更多这样的初创公司。所以我的思考方式是,是的,可能有一个一人十亿美元的初创公司,但可能有一百家,你知道,一亿美元的初创公司,可能有成千上万家一千万美元的初创公司。而作为一个个体,拥有一家一千万美元的企业实际上相当不错,这足以让你一生无忧。所以,你知道,我们可能真的会看到这方面的发展,而且我觉得人们还没有真正定价。还有另一种,你知道,第三阶效应,再次,所有这些,当你进行更长远的预测时,我认为存在很大的不确定性。我认为如果我们最终进入这个世界,你最终会拥有这些微型公司,构建对一两个人来说非常有效的软件,他们拥有公司并在这里工作。我认为初创公司生态系统将会改变。我认为风险投资生态系统将会改变。你知道,我们最终可能会在一个只有少数几家大公司提供平台并支持所有这些初创公司的世界里。但是,你知道,那些能够真正让你投资翻 100 倍或 1000 倍的风险投资规模回报的初创公司,如果最终有很多这样的小型 10 到 5000 万美元的公司,可能会减少。这对风险投资的稳健回报来说并不好,但对那些真正利用 AI 来为自己建立这些业务的高能动性个体来说却很好。>> 我喜欢我们已经经历了多少阶效应。我想听听第四阶效应。Sherwin,我只是开玩笑。我做不到。第四阶对我来说太烧脑了。我无法那么远地思考。>> 这就像《盗梦空间》,当你深入某个东西的每一层时,一切都会变慢。>> 好的。一人十亿美元的初创公司,我一直在想这个问题,因为我不会成为一家十亿美元的初创公司,因为我所做的任何方面都不是风险投资规模的,也不是高杠杆的,但只是看到我收到了多少来自最荒谬事情的支持请求。我很难想象一个人,我对这个十亿美元的初创公司持悲观态度。我只是想分享这个想法,仅仅是因为支持成本,即使 AI 在十亿美元的规模上帮助你,除非你的 ACV 非常高,而且你的客户很少,否则处理支持问题,人们会,你知道,他们可以自己解决问题,但他们会想,我会发邮件给支持部门问这个问题,仅仅是处理这个问题就很难扩展,根据我的经验。所以,除非你有,在我看来,除非你有大量的承包商,我不知道这是否算一个人的公司,我觉得很难扩展一个十亿美元的初创公司,并且没有人至少帮助你处理支持工作,而 AI 我认为只能带你到这里。>> 我认为这是对的。而且实际上我认为我的看法略有不同,那就是我认为你的,你知道,Lenny 的播客可能会成为一家十亿美元的初创公司。但我想可能会发生的是,而不是你作为那个人必须派遣一个 AI 来解决和修复那些支持请求,我认为可能会发生的是,可能会有大量的其他初创公司正在构建软件,并且超级定制化地满足你可能需要的东西。所以,你知道,可能有 10 或 20 家初创公司为播客和新闻通讯构建支持软件,而那可能是一个人的初创公司。它不需要很大。而且,他们可能能够非常轻松地编写这个产品。他们能够构建自己的东西,而且因为它非常定制化和独特,而且希望对你有用。它可能就是你作为那个一人十亿美元的初创公司会购买的东西。>> 我会买的。我会买的。>> 是的。这里有一个问题,你内部保留什么,你外包什么。而我认为可能会发生的是,因为编写软件和构建产品的成本正在急剧下降,你可能会选择外包很多东西,从而减少你的公司规模。所以,这就是我认为可能发生的世界。再次,这里存在很大的不确定性,但最终结果仍然可能是一个人驱动的,这个高杠杆的公司可能真的达到十亿美元。>> 我可以看到。我也想到了 Peter,Clawbots/MoldBot/OpenClaw,他现在被所有这些请求、电子邮件、消息和 PR 淹没了。我很好奇,他甚至还没有从这件事中赚钱。>> 嗯。>> 是的,我无法想象他现在是什么样的。这一定非常疯狂。这可能就像,你知道,我们推出 ChatGPT 后的几个月里的疯狂。>> 作为一个男人。>> 他一周后也会来播客。>> 哦,那太令人兴奋了。是的。也许第四阶效应是分发变得越来越重要,因为有太多该死的东西试图吸引你的注意力。所以拥有受众和平台的人会变得越来越有价值,这是好事。好的。我实际上想回到你的管理方面。所以我真的很喜欢你关于花更多时间与顶尖表现者在一起的见解,这对你来说一直很成功。想想你作为一名经理,你的团队正在构建驱动整个 AI 经济的平台,几乎所有 AI 初创公司都在你的 API 上构建。显然你做得很好。你还学到了哪些核心管理经验?你认为对你作为工程师和人们的经理取得成功至关重要和关键的是什么?>> 是的。嗯,我认为我在这里学到的很多经验,我不知道它对 OpenAI API 或我们的一些企业产品有多么具体。我认为我的管理理念随着时间的推移显然发生了变化,但我认为它随着时间的推移,变化比不变的要少。其中一个原则是我之前和你谈过的,你知道,花很多时间与顶尖表现者在一起,实际上花时间,而且要非常具体,就像你的时间超过 50% 花在顶尖表现者身上,也许是你的顶尖 10% 的表现者身上,并尽你最大的努力去赋能他们。我的思考方式是,它又回到了软件工程师作为外科医生的类比,这来自“神话男人书”。所以,这很有趣。我从书中引用,但在书中他们实际上描述了一个世界,我认为他们是在预测未来,因为我认为这本书写于 70 年代或类似的时间。他们说软件工程可能最终会走向一个世界,在那里软件工程师就像外科医生,或者像在手术室里,只有一个人在工作。你知道,只有一个人在切割或者做所有手术,而房间里的其他人都在那里支持他们,对吧?就像护士、住院医生和进修医生。然后外科医生说,我需要一把手术刀,他们递给他手术刀,然后,他们说,我需要这个工具和这台机器,他们会把它拿过来。每个人都在那里支持那个外科医生。所以“神话男人书”预测软件工程师会走向这个方向。我不认为这完全实现了,你知道,它更具协作性,而且不仅仅是一个人在工作,但我一直很喜欢这个类比,并且我努力在我的管理理念中模仿它,那就是软件工程不像外科手术,不仅仅是一个人在工作,但我在对待我团队成员的方式以及我作为经理的行事方式上,我想赋能他们,让他们感觉自己是外科医生,就像确保我支持他们,确保他们拥有完成工作所需的一切,并且感觉他们有一支军队在支持他们,环顾四周,给他们一切所需,而实际上只有我作为经理。所以,我给出的例子是,环顾四周并为人们扫清障碍,尤其是在组织层面,非常有益。再次回到 AI 的讨论,现在更加重要,对吧?如果人们只是不停地发布 PR,阻碍进步和发货的主要瓶颈往往是组织或流程方面的。如果你作为经理能够环顾四周并为团队扫清障碍,如果你能够,你知道,就像外科医生需要手术刀,但你知道经理已经为他们准备好了手术刀,那就是最好的情况。这就是我处理管理,尤其是工程管理的方式。所以,这是我多年来一直铭记于心的事情。即使你知道软件工程师不完全是外科医生,这个比喻也一直在我的脑海中,贯穿我的整个职业生涯。>> 我喜欢这个。我不知道 AI 是否能帮助这一点,环顾四周并预测,这位工程师将因这个决定而受阻。我们需要弄清楚这一点。我们需要得到。>> 是的,这确实是一个很好的观点。我还没有尝试过,但我不知道如果我问连接到公司知识的 ChatGPT 会发生什么,你知道,活跃的障碍是什么?查看所有 Notion 文档,也许还有 Slack 消息,你知道,它可能在 Slack 的某个地方。我团队的活跃障碍是什么?有什么我可以做的吗?>> 现在,我还没有想到这一点,但你说得对。>> 你在这里就有了见解。>> 是的。是的。>> 而且更有趣的是,你预计这位工程师或这个团队在未来几个月或几年里会遇到什么障碍?>> 是的,你问模型。好吧,你问 AI 去做第二和第三阶的事情。预测一下,伙计。预测一下下个月的障碍是什么。>> 我认为我们在这里有一个很好的想法。>> 是的。是的。>> 本集由 DataDog 提供,DataDog 现在是 EPO 的所在地,领先的实验和功能标志平台。产品

全球顶尖公司的管理者使用 Data Dog,这与他们的工程师每天依赖的平台相同,用于将产品洞察与产品问题(如错误、用户体验摩擦和业务影响)联系起来。它始于产品分析,产品经理可以在其中观看回放、审查漏斗、深入研究留存率并探索其增长指标。当其他工具止步不前时,Data Dog 走得更远。它能帮助您实际诊断漏斗流失、错误和用户体验摩擦的影响。一旦您知道重点在哪里,实验就能证明什么有效。我在 Airbnb 工作时亲身经历过这一点,当时我们的实验平台对于分析哪些有效以及哪些出了问题至关重要。而正是 Airbnb 搭建实验平台的同一个团队,又构建了 EPO beta,它让您可以通过会话回放超越数字。精确观察用户如何与热力图和滚动图交互,以真正理解他们的行为。所有这一切都由与实时数据绑定的功能标志提供支持,因此您可以安全发布、精准定位并持续学习。Data Dog 不仅仅是工程指标。它是优秀产品团队更快学习、更智能修复并自信发布的地方。请访问 dataq.com/lenny 申请演示。那是 data dogq.com/lenny。

好的,我将转而谈论你们构建的 API 和平台。所以,你们与许多公司合作,实施你们的 API、平台,并基于你们的工具进行构建。你告诉我,你发现许多公司在部署人工智能时实际上投资回报率为负,这呃,我认为是很多人读到、感受到并思考的问题,你实际看到这一点很有趣。那里发生了什么?他们做错了什么?你认为人工智能和部署在投资回报率方面发生了什么?>> 是的。所以,澄清一下,我我我没有明确看到这方面的量化数据。呃,你知道,呃,这些事情实际上很难衡量,但特别是从观察一些公司试图做人工智能来看,如果很多人工智能部署实际上是负投资回报率,我不会感到惊讶。我的意思是,这其中一部分原因,我认为还有来自全国各地,呃,基本上是科技圈之外的人的普遍情绪,他们觉得人工智能正在被强加给他们。嗯,我认为这其中一部分,呃,呃,呃,可能是一些负投资回报率的人工智能部署的症状。我对此观察到几件事。所以一件事是,我认为我一次又一次地回到这一点,就像我认为我们硅谷的人只是忘记了我们生活在一个泡沫中。就像我们如此,Twitter 是一个泡沫,抱歉,X 是一个泡沫。嗯,硅谷是一个泡沫。软件工程是一个泡沫。世界上大多数人,美国大多数人不是软件工程师,对人工智能不太了解,呃,也没有关注每一个模型发布。所以,呃,呃,所以我们对如何使用这项技术非常不了解,所以你知道,就像我们,嗯,我们总是谈论所有这些关于编解码器的最佳实践,所有这些 OpenAI 内部的编解码器构建者。我敢肯定,X 上所有发帖的人都是这些人工智能工具的疯狂高级用户,你知道,他们倾向于技能,他们倾向于代理。mmd,>> MCPS。>> 呃,是的。是的。所有所有这些。而且,呃,当我与其中一些公司交谈,当我与实际使用这些工具的员工交谈时,他们试图做的只是最基本的事情,而且他们对这项技术究竟如何运作知之甚少。所以,这对我来说是一个很大的观察,那就是他们对这些东西提出了非常简单的问题。他们真的还没有真正推动它。所以这又回到了,这与我所认为的,嗯,更多公司所做或可以做的事情,或者一个更理想的人工智能部署设置是什么样子,联系在一起。嗯,这也是我们在 OpenAI 内部运作的方式。嗯,我认为那些开始运作得很好的公司,都兼具自上而下的支持。所以就像高管层一样,他们会说,你知道,我们我们我们想成为一家人工智能优先的公司。所以有支持,他们购买工具,他们有,你知道,高管支持,但它也有自下而上的采纳和支持。我的意思是,它有实际工作的员工,他们对这项技术非常兴奋,并且愿意学习、推广、建立最佳实践,并在组织内部进行知识共享。我们在内部看到了很多这样的情况。所以,很明显,OpenAI 一直想成为一家以人工智能为中心的公司,但它真正开始腾飞是在引入编解码器和这些工具之后,当时像实际员工自己就可以开始将其应用于他们的工作。呃,我认为你确实需要这个,因为归根结底,每个人的工作都非常不同。它非常独特。呃,软件工程不同于金融,不同于运营,不同于市场推广和销售。呃,所以有很多这种工作中的“最后一英里”的复杂性,需要以自下而上的方式真正完成。所以我的感觉是,许多这些人工智能部署没有自下而上的采纳。就像它是一个高管指令,而且是极其自上而下的,与实际工作的情况非常脱节。结果是,你最终得到了一支庞大的劳动力队伍,他们并不真正理解这项技术。就像,我知道我应该使用这个,也许它也会出现在我的绩效评估中,但是嗯,我不知道该怎么做。他们环顾四周,没有人这样做。没有其他人可以学习。呃,所以我的,你知道,我对那些推动此事的公司的建议是,寻找,甚至可能在内部配备一个全职团队,这个内部的“老虎团队”可以,嗯,探索这项能力的全部范围,将其应用于特定的工作流程,进行知识共享,呃,在那些可能想使用这项技术的人中,呃,创造兴奋感,因为如果没有这些,实际上很难,实际上很难上手。

>> 那么,你会把谁放在这个“老虎团队”里?它是由工程师主导的吗?根据你的经验,它是一个跨职能的团队吗?>> 是的,这很有趣。所以,嗯,很多公司也没有软件工程师。呃,所以我看到的模式是,它往往是那些与软件工程相邻的,基本上是技术人员但不是软件工程师的人。我认为这些人往往对此最兴奋。就像,你知道,也许是,就像,你知道,支持团队的运营主管,他不会编程,但喜欢使用这些工具,而且,你知道,就像一个 Excel 大师什么的。所以它就像技术相邻或编码相邻,而且,你知道,相当技术化。那些时候,就像我在这类公司里看到的那些人,他们就是真的对此充满热情和兴奋。嗯,你通常可以围绕这些人建立一个团队。但是,是的,通常不是软件工程师。软件工程师,我认为,会理解这一点,但不是每家公司都有软件工程师。嗯,实际上这有点稀有。他们很难找到。他们很昂贵。呃,所以是这些其他类型的人。我听到的是,反模式是自上而下的。这非常像 CEO 找到了高管团队,就像我们要人工智能优先。我们将引领人工智能。每个人都将根据他们使用人工智能工具的绩效来评判,你的生产力因人工智能提高了多少。如果只是自上而下,而不创建一个自下而上传播福音的团队,你就会发现它不起作用。>> 是的。是的。没错。没错。>> 那么建议就是找到那些最兴奋的人,而不是让他们分散在整个组织中,你发现有效的方法是创建一个小型的人工智能布道团队,他们找到使用它的方法,并将其传播到工作中。

>> 是的。我的意思是,另一种方式,就像听到你向我复述一样。另一种思考方式,有点回到我自己的管理理念,就是找到在人工智能采纳方面的高绩效者并赋能他们。你知道,让他们组织黑客马拉松,让他们,你知道,举办研讨会,进行知识共享,在内部创造,呃,兴奋的种子。好的。太棒了。有几个热门观点我想听听,呃,你的看法。我看到你谈论和分享过的一些事情。其中之一是,嗯,你曾分享说,在人工智能领域,与客户交谈和倾听客户的意见并非总是正确的策略,它可能经常让你误入歧途。

>> 我不知道这算不算一个热门观点。我认为这里的重点是,显然你应该和你的客户交流,就像,和客户交流是有用的。我只是觉得人工智能领域,嗯,特别是过去大约三年里我所看到的,嗯,呃,在 API 上工作并看到所有这些演变,这个领域和模型本身变化得太快了,它们倾向于自我颠覆,尤其是在工具和脚手架空间方面。所以,呃,我本周早些时候读到一句话,它来自一篇 X 上的文章,作者是名叫 Nicholas 的人,他是 FinTool 这家初创公司的创始人,呃,我认为他当时正在分享他在 FinTool 这家初创公司为金融服务构建 AI 代理学到的许多最佳实践,嗯,他有一句话我觉得非常好,那就是,呃,“模型会把你的脚手架当早餐吃掉。”就像如果你回顾 2022 年,就在 ChatGPT 推出时,嗯,这些模型还相当原始,当时有很多产品脚手架和东西,特别是在开发者领域,基本上是为了尝试引导模型并在其周围构建一个脚手架,让它做你想做的事情,比如代理框架,还有像向量数据库,我认为当时非常流行,呃,以及这里的一整套工具,而随着你看到这个领域的发展,模型已经改变了这么多,呃,而且变得如此之好,以至于它们最终,是的,字面上吃掉了一些脚手架。嗯,我认为这在今天仍然是事实。所以我认为 Nicholas 的文章,嗯,实际上,你知道,当前流行的脚手架是基于技能文件的上下文管理。我可以看到这样一个世界,在某个时候,你知道,那就不再有用了,呃,模型实际上可以,你知道,自己管理所有这些,或者,你知道,呃,呃,或者,你知道,很难预测,但可能会转向某种新的范式,在那里,你知道,需要这种基于文件的技能类型的东西,你已经亲眼看到了这一点,对吧,比如代理框架,我认为现在用处小了一些,嗯,在 2023 年左右有一段时间,我们认为向量数据库将是你,你知道,将组织上下文引入模型的主要方式,你需要,你知道,呃,向量嵌入你的语料库的每一部分,然后你需要做所有这些工作来,你知道,找出向量搜索,以优化它,在正确的时间填充正确的信息。所有这些都是脚手架,因为你知道模型不够好,结果,你知道,在这种情况下,随着模型变得更好,更好的方法实际上是移除很多逻辑,信任模型,并给它一套搜索工具。它不需要是向量数据库。你实际上可以把它连接到任何类型的搜索。它实际上可以是文件系统上的文件,比如技能,呃,和代理 MD,呃,也可以引导它。显然,向量数据库仍然有其用武之地。我知道很多公司仍然在使用它,但是围绕它构建的整个脚手架,以及围绕它构建整个生态系统,并假设那是你唯一需要的脚手架,这已经真正改变了。所以,回到这一点,你知道,呃,你知道,你不必总是听取客户的意见,因为这个领域变化太快了,在任何时候,你知道,很多人都处于这种局部最优状态,如果你只是盲目地听取客户的意见,他们会说,是的,我想要一个更好的向量数据库,就像我想要一个更好的,呃,我想要一个更好的,你知道,代理框架,如果当时你只沿着那条路走下去,它实际上会让你,你知道,构建出再次是局部最优的东西,然而随着模型变得更好,我们不得不重新发明,并重新思考正确的,呃,呃,抽象以及正确的工具和框架来围绕这些模型进行构建。嗯,而酷炫/令人兴奋/有点疯狂烦人的部分是,它是一个移动的目标。所以,是的,就像当前零散的工具和框架,很可能需要随着时间的推移,嗯,随着模型变得更智能、更好,而发生相当大的演变和改变。但这只是在这个领域构建的本质。我认为这就是它令人兴奋的原因。呃,但这也意味着当你与客户交流时,你需要在他们想要的具体反馈,呃,与你认为模型将走向何方以及你认为未来一到两年事物将如何发展,呃,之间取得平衡。

有趣的是,这,嗯,苦涩的教训是,呃,你知道,人工智能和机器学习领域的人们学到的一个重要教训,那就是,呃,你越不把事情搞复杂,你给机器学习和人工智能添加的逻辑越少,它就越能扩展和成长,就像把所有东西都拿走,让它自己计算,基本上就是给它更多的力量,让它自己变得更聪明。是的,实际上有一个苦涩教训的版本应用于使用人工智能进行构建,你知道,我们试图围绕它设计所有这些东西,结果模型只是,你知道,把所有东西都吃掉了,而且,老实说,OpenAI API 团队也曾犯过这个错误,呃,我们有点像在不该转弯的时候,你知道,左转右转了,嗯,但是,呃,是的,模型最终还是会变得更好,而且我们每天都在学习这个苦涩的教训。那么,对于那些在 API 上构建,或者只是构建代理,并且,你知道,目前不得不围绕这些构建一些东西的人来说,关键的启示是什么?就是,是的,建议会是什么?

>> 我的普遍建议,我给人们这个建议已经有一段时间了,我认为今天仍然适用,那就是确保你正在为模型的发展方向而构建,而不是为它们今天的状态而构建。嗯,呃,你知道,它显然是一个移动的目标,我认为我看到很多公司,我看到很多初创公司做得非常好,他们为一种理想的能力类型构建产品,这种能力今天可能已经达到了 80%,然后他们最终,你知道,拥有一个有点能用的产品,但它就像几乎就绪,但随着模型变得更好,你知道,它可能突然就成功了,然后他们的产品现在变得不可思议,因为它能用,就像,呃,呃,就像可能在某个时候使用 03 突然就能用,使用 5.1、5.2 突然就解锁了,但他们构建这些产品时考虑到了模型的性能改进,这样你最终创造的用户体验会比你一开始假设它是静态的要好得多。嗯,所以那将是我的普遍建议,那就是,你知道,为模型的发展方向而构建,而不是为它们今天的状态而构建。你最终会构建一个更好的产品。你可能需要,你知道,等一会儿,但是,你知道,模型改进得如此之快,你通常不需要等那么久。

>> 那么,沿着这个思路,在接下来的六到十二个月里,API 将走向何方?平台将走向何方?模型将走向何方?在你能力范围内可以分享的,我知道这里有很多秘密,也许是你最兴奋的,或者你认为人们应该开始为之准备的,无论你能分享多少?

>> 我的意思是,所以显而易见的一点是,嗯,这些模型能够连贯地完成多长时间的任务。嗯,所以有一个,呃,我认为是衡量软件工程任务的基准,它追踪这些模型在 50% 的时间里能完成多长时间的任务,80% 的时间里能完成多长时间的任务。呃,我认为我们现在的情况是,这些前沿模型在 50% 的时间里能够完成多小时的软件工程任务,然后我认为 80% 的时间里是不到一小时的任务。但那张图表令人清醒的一点是,他们也将所有以前的模型绘制在这张图表上。所以你可以真正看到这个趋势。这正是我非常兴奋的事情,那就是,你知道,我实际上认为今天的产品真正优化的是模型一次可以完成几分钟的任务。就像即使是编解码器和编码工具,我也会说,你知道,它在 Cly 中,你有点像看到它是交互式的。它确实,你知道,优化得很好,可能最多是 10 分钟类型的任务。我见过有人将编解码器推向极限,完成多小时的,呃,任务。呃,但再说一次,我认为那更多是例外。但我,呃,如果你遵循这个趋势,我认为在接下来的 12 到 18 个月里,我们可能会看到能够非常连贯地完成多小时任务的模型。在某个时候,它可能会达到,你知道,每天 6 小时的任务,你可以有点像派遣它,让它,你知道,自己做一些事情,呃,一段时间。你围绕它构建的产品类型会非常不同。你想要给模型反馈。你显然不希望它完全失控一整天。也许你希望,但你可能不希望。嗯,然后,你可以让模型做的事情的范围真的会扩大。所以那是我非常,嗯,非常兴奋能看到的事情。另一个,呃,在接下来的 12 到 18 个月里,我认为会非常酷的事情是我们的多模态模型方面的改进。所以,呃,实际上,我这里所说的多模态主要指的是音频,呃,模型在音频方面已经相当不错了。我认为在接下来的 6 到 12 个月里,它们在音频方面会好很多,嗯,特别是那些,你知道,嗯,原生的多模态模型,语音到语音的模型,我认为在多模态音频方面,呃,也有一些有趣的工作正在进行,呃,以及新的模型类型和架构,但是,呃,音频,特别是在企业和商业环境中,我认为仍然是一个被严重低估的领域,就像每个人都在谈论编码,那都是文本,呃,但是,呃,我们正在用音频交流,世界上很多业务都是通过音频完成的。呃,很多服务和操作都是通过,呃,对话和音频完成的。所以,呃,我认为那个领域在接下来的 12 到 18 个月里会非常令人兴奋。而且我认为,呃,在那里,我们还可以用音频模型做更多的事情,呃,也会有更多的解锁。

>> 太棒了。那么快速总结一下,呃,预计代理和,呃,人工智能工具将运行更长时间,这种趋势将继续增加,然后音频和语音将变得更重要,更原生,更好,并成为体验的核心。

>> 是的,>> 非常酷。好的,我想回到你的一个热门观点,另一个我见过你讨论过的热门观点。你非常看好,呃,你非常看好业务流程自动化作为人工智能世界中的一个机遇。谈谈这个。

是的,这又回到了我之前说过的那件事,那就是,嗯,我们我们我们生活在硅谷的一个泡沫中,嗯,我们所做的很多工作,我们习惯了软件工程,你知道,产品管理,构建产品,呃,与那些,嗯,支撑我们整个经济运行的工作,其形式非常不同,我在与客户交流时反复看到这一点,呃,如果你与任何一个,你知道,不是科技公司的公司交谈,嗯,那里有很多业务流程。所以我的意思是,你知道,我通常将其划分为,你知道,就像,呃,软件工程有点像开放式的知识工作,对吧,这就是为什么我认为像编解码器这样的工具往往相当好,因为它在探索,而且你给它这些开放式的东西,但软件工程本质上是相当开放式的,呃,而且它不是很可重复的,对吧,所以就像你构建一个功能,你不是试图一遍又一遍地构建完全相同的功能,很多像技术工作都在这个领域,我认为像数据科学也大致在这个领域。甚至一些像战略金融方面的事情。但是当你越来越远离软件工程以及科技的核心时,很多工作都只是业务流程。它们是可重复的事情,呃,可重复的操作,嗯,你知道,公司里的某个经理已经有点像迭代过这些。嗯,通常有一个人们想要遵循的标准操作程序。呃,你也不想偏离它太多。你知道,就像在软件工程中,独创性在于不偏离,但世界上正在做的很多工作实际上只是,嗯,运行这些程序和操作,就像如果我,你知道,如果我打电话给,嗯,一个支持热线,他们正在运行其中一个,如果我打电话给我的公用事业公司,他们有一堆可以和不可以为我做的事情和流程,嗯,所以,我只是对这类总体类别非常看好,而且我认为它被低估了,因为它与我们在硅谷所想的非常不同,人们往往不会去思考它。但是我们如何将,嗯,人工智能,呃,以及我们拥有的一些工具和框架应用于这种业务流程自动化,应用于自动化并简化,嗯,具有高确定性的可重复业务流程,嗯,它与业务,呃,数据和业务决策以及企业内部的不同系统完全集成,嗯,我们如何才能真正使这个过程变得更好,呃,因为我实际上认为那个领域有很多机会和很多工作要做,而我们只是,我们只是不谈论它,因为它有点不太,呃,呃,在我们的专业领域内。

所以你的观点,只是为了确保我完全理解,是你认为在工程领域之外,人工智能有更大的机会影响公司的生产力,以及从事这些重复性、易于自动化任务的人的工作,影响工作,也影响工作的完成方式,就像很多工作都是以这种方式完成的,就像你思考,你知道,就像我们基本上,我我一直与客户交谈,大型企业,就像,人工智能将如何改变我的公司,就像它在 20 年后,在一个,呃,有人工智能的世界中将如何运行。嗯,而且,你知道,软件工程只是故事的一部分,但在业务流程方面还有更多。我实际上认为在业务流程方面它可能看起来更加不同。而且那里的工作量相当大。这实际上很有趣。我不知道从绝对百分比或绝对基础上看,它是否比软件工程更大或更小。就像软件也相当庞大和广泛。但它确实非常庞大,而且肯定比你,你知道,呃,呃,呃,比你根据人们在 X 或 Twitter 上谈论或不谈论它的方式所认为的要大。

好的。呃,换个方向,呃,在构建平台、构建 API 之后,呃,在 API 上进行构建的人们心中最大的问题总是,呃,我如何才能不让 OpenAI 扼杀我的想法,然后构建他们自己的东西,然后,你知道,摧毁我创造的这个市场。一般的政策是什么?初创公司应该如何思考 OpenAI 不太可能涉足的领域,其普遍理念是什么?我在这里的普遍回答是,嗯,市场如此之大,如此庞大,我实际上认为,你知道,初创公司不应该过度思考 OpenAI 或这些实验室将走向何方。我与许多初创公司交流过,你知道,有些没有成功,有些做得非常好。我所见过的每一个逐渐消亡的初创公司,都不是因为 OpenAI 或者,你知道,某个大型实验室或者谷歌之类的公司来扼杀它们。而是因为他们构建了一些东西,但它并没有真正引起客户的共鸣。而那些腾飞的,即使在像编码这样竞争激烈的领域,比如 Cursor,现在也做得非常大,那是因为他们构建了人们真正喜欢的东西。所以我的普遍建议是,你知道,不要对此过度紧张。只要构建人们喜欢的东西,你就会在这个领域拥有一席之地。我无法夸大现在存在的机会有多大。就像,呃,呃,用人工智能进行构建的机会空间是如此之大。一个很好的例子就是,这个领域如此之大,以至于风险投资家可以做什么和不可以做什么的奥弗顿之窗在这里已经完全改变了。风险投资家就像左右逢源地投资于竞争性公司,这就像这个领域如此之大,因为这个机会是,是,是,是我们以前从未见过的。而且,你知道,呃,这影响了风险投资家的运作方式,但从初创公司的角度来看,这就像世界上最具赋能的事情,因为,就像,即使你只是构建了一些真正真正受人喜爱的东西,你也会,你也会最终拥有一项巨大且极具价值的业务。呃,所以我告诉人们,不要不要想太多。另一件事,我认为也很重要,至少从 OpenAI 的角度来看。我们一直非常珍视的一件事,Sam 和 Greg 也从高层帮助强化了这一点,那就是我们实际上从根本上将自己视为一个生态系统平台公司。API 是我们的第一个产品。我们认为培养这个生态系统并继续,你知道,呃,支持它而不是扼杀它,对我们来说非常重要。所以如果你看看我们做出的决定,这都是我们贯穿始终的。我们在产品中发布的每一个模型都会在 API 中发布。就像,你知道,我们现在发布的这些 Codex 模型,它们对 Codex 框架进行了更多优化,但它们总是会进入 API,而且我们所有的,你知道,呃,客户最终都会使用它们。我们不会保留任何这些。呃,我们认为保持平台中立非常重要,所以,你知道,我们不阻止竞争对手。嗯,我们允许人们访问我们的模型。嗯,呃,我们还希望,你知道,呃,我们最近也一直在测试更多像使用 ChatGPT 登录的,你知道,呃,产品,所以我们我们希望培养这个生态系统,我认为我们这样做非常重要。呃,关于这个的一般想法是,你知道,水涨船高,你知道,我们可能是一艘航空母舰,我们现在相当庞大,但我们认为提高潮位很重要,呃,因为每个人都会,呃,受益,而且我认为我们也会受益,就像我们的 API 本身已经显著增长,因为我们以这种方式行事,所以我真的鼓励人们不要将 OpenAI 视为那种,你知道,会,呃,呃,把人推开的东西,而是专注于构建有价值的东西,而且我们,你知道,仍然致力于提供一个开放的生态系统。

>> 为什么这对 OpenAI 如此重要?仅仅是专注于构建一个平台,为人们创造一种建立业务的方式,就像,这从一开始就是愿景吗?我们希望它成为一个平台。这从一开始就是愿景。它实际上回溯到我们的章程,就像我们的使命一样。嗯,所以 OpenAI 的使命一直都是第一,构建 AGI。所以,你知道,我们显然正在做这件事,但第二件事是将其好处传播给全人类,而且,你知道,呃,呃,主要部分是全人类,就像,呃,显然 ChatGPT 正在尝试这样做,你知道,我们正在努力触及,你知道,全世界,但在很早的时候,这就是为什么我们在,你知道,大约 2020 年左右,非常早的时候就推出了 API,我们不认为我们作为一家公司能够触及全人类,对吧,就像,我不知道,世界的每一个角落都非常非常深入。所以我们实际上觉得,为了完成我们的使命,我们需要在这里有一个平台式的东西,我们可以赋能其他人来构建,你知道,播客和时事通讯主持人的客户支持机器人。呃,因为我们自己无法做到。呃,所以我们基本上已经通过 API 看到这一点实现了。呃,这就是为什么我们,你知道,我们我们我们与如此多的客户交谈,并且,你知道,真正喜欢看到基于它构建的各种事物的多样性。但是,是的,它从第一天起就存在了,因为它,它有点像我们将其视为我们使命的体现。

>> 而且你甚至还没有提到你们正在推出的,呃,ChatGPT 应用商店。

>> 是的。顺便问一下,那是在你的管辖范围内吗,还是一个不同的俄勒冈团队?

>> 这是一个不同的团队。所以它属于 ChatGPT。我们显然与他们密切合作,而且,你知道,他们构建了一个应用程序 SDK,呃,这是与我们团队密切合作构建的。呃,但那更多是在 ChatGPT 的范畴内。呃,但那也是另一个,就像,这是另一个例子,对吧。就像 ChatGPT,我们我们我们我们有点像拥有 8 亿周活跃用户,他们只是反复光顾。就像,作为一项业务,拥有它是一项巨大的资产,但是,天哪,如果我们能以某种方式允许,你知道,呃,其他公司也进来,并且,呃,利用这一点,并且也为这个受众构建,那会不会更好呢?而且最终我们认为它也会帮助我们扩大那个群体,对吧?所以这一切都回到了使命,而且,呃,我们发现作为一个平台,保持开放,往往会有所帮助。仅仅是 8 亿这个数字,我认为它就像每周每周 >> 每周活跃用户数亿,就像我们现在已经习惯了这些数字,但这真是疯狂前所未有的 >> 是的,从规模的角度来看,这对我来说是令人难以置信的,呃,老实说,我对此的看法是,就像世界人口的 10%,呃,而且还在增长,顺便说一句,它只是,它正在飙升,嗯 >> 呃,来到 ChatGPT,呃,嗯,并且每天使用,或者抱歉,每周使用。

关于这一点,我只想强调你正在提出的观点。OpenAI 的使命是让人工智能造福全人类。我认为有些人对此不以为然。他们会说,哦,你知道,它要花钱,而且,呃,就像,事实上,有一个免费版的 ChatGPT,任何人都可以使用,它与世界上最强大的人工智能模型免费提供、不设门槛、任何人都可以使用的情况并没有太大区别。这就像如果你是亿万富翁,你从人工智能中获得的收益,也比不上你在非洲某个村庄认识的人所能获得的收益多多少。我知道这对于 OpenAI 来说一直都非常重要。

>> 是的。是的。我的意思是,呃,这就是为什么我认为我们已经投入到健康工作中。我们投入到,就像,呃,教育在这里会非常有趣。嗯,这里另一个疯狂的趋势是,免费模型随着时间的推移变得如此智能。就像 2022 年的免费模型,你知道,呃,当时还不错,但与你今天得到的相比,简直不值一提,因为你今天得到了 2 GB 5。呃,所以,你知道,提高全球的底线,有点像,你知道,我们真正努力去做的事情,我们将其视为我们使命的一部分。顺便说一下,这硬币的另一面是,你知道,有点像谈论亿万富翁什么的。我知道人们会说,你用的 iPhone 和,你知道,史蒂夫,或者抱歉,马克·扎克伯格可能用的,或者亿万富翁用的 iPhone 是一样的,但每月花 20 美元,你基本上用的,你知道,人工智能和亿万富翁用的是一样的。呃,每月大约 200 美元,呃,你就能获得所有亿万富翁都在使用的专业版模型,但他们可能不会对所有事情都使用专业版。他们可能只是在日常工作中使用 Plus 级别的模型。所以,是的,这种民主化,以及将这种好处传播到全世界,对我们来说非常有意义,也是,嗯,呃,驱动我们很多工作的原因。

最后一个问题,只是为了那些正在考虑在 API 上构建,或者只是觉得“哦,等等,我可以用开放模型和 API 做很酷的事情”的人。你的 API 和平台允许人们做什么?我知道你可以在平台之上构建代理。就说说你允许什么。

所以从根本上说,API 提供了一系列开发者端点,呃,而且,呃,这些开发者端点基本上允许你从我们的模型中进行采样。我们目前最受欢迎的一个叫做响应 API。呃,所以这是一个端点,它针对构建长时间运行的代理进行了优化。也就是能工作一段时间的代理。所以你基本上可以在一个非常,你知道,呃,呃,低级别上,你基本上只是给模型文本。模型会工作一段时间。你可以,你知道,拉取它来看看它会做什么,然后在某个时候你会得到模型的响应。那是我们为人们提供的最低级别的原语,实际上很多人都在使用它。那是基于 API 进行构建的最流行方式。它非常不带偏见,你基本上可以做任何你想做的事情。它就像最低层的东西。我们也开始在其之上构建越来越多类似抽象层的东西,以帮助人们构建,呃,其中一些。呃,所以再往上一层,我们有这个叫做代理 SDK 的东西,它也变得非常非常流行。嗯,这允许你使用,你知道,响应 API 或我们拥有的其他一些 API 端点来构建你可能更传统地认为是代理的东西,就像,你知道,一个人工智能以无限循环的方式工作。它可能有它委托的子代理。它实际上开始构建所有这些框架,所有这些脚手架。你知道,我们会看看这一切会走向何方。嗯,但它让你更容易构建这些这些这些类型的代理,给它护栏,允许它将子任务分派给其他代理,并且有点像协调一群代理。呃,代理 SDK 呃,有点像允许你这样做。然后在此之上,呃,我们现在已经开始构建工具,以帮助处理部署代理的元级别问题。呃,所以我们有这个产品叫做,呃,嗯,代理工具包,呃,呃,呃,和小部件,呃,它们基本上是一堆 UI 组件,你可以用它们非常容易地,嗯,在,呃,呃,我们的 API 或代理 SDK 之上构建一个非常漂亮的 UI,嗯,因为,你知道,很多时候这些代理从 UI 角度看都非常相似,呃,所以有代理工具包,我们还有一些像,呃,评估产品,比如评估 API,如果你想测试并,你知道,看看你的模型或你的代理或你的工作流程是否正常工作。呃,你可以使用我们的 EDOLs 产品,以一种非常量化的方式进行测试。所以,是的,我我将其视为这些不同的层次。它们都在帮助你构建,嗯,你想要的东西,嗯,使用我们的人工智能,呃,使用我们的模型,嗯,并且随着抽象级别的提高,以及,呃,你知道它有多么主观。所以,嗯,你可以开始,你可以做,你可以使用整个堆栈,而且它它非常迅速地允许你构建一个代理,或者你可以向下深入堆栈,低到你想要的基本上是响应 API,并构建任何你想要的东西,呃,因为它级别很低。

>> Sherwin,你还有什么想分享的吗?还有什么想留给听众的吗?在我们进入非常激动人心的闪电问答环节之前,有什么我们没有涉及但你认为可能有所帮助的吗?

我唯一想留给大家的是,是的,我认为,嗯,我认为接下来的两到三年将是科技和创业领域中最有趣的一段时间,呃,这将是我们很长时间以来所经历的。而且,呃,我只是鼓励人们不要,呃,不要认为这是理所当然的。就像我我是在 2014 年进入职场的。有几年很棒。我感觉有大约五到六年的时间,科技领域并不是很令人兴奋。呃,然后过去三年只是我职业生涯中最令人兴奋、充满活力的时期,呃,我认为接下来的两到三年将是这种状态的延续。所以,呃,我会鼓励人们不要认为这是理所当然的。我正在努力不把它视为理所当然。在某个时候,你知道,这波浪潮会平息,它会变得更加,你知道,渐进。呃,但与此同时,我们将能够探索许多非常酷的事物,发明许多新事物,并改变世界,改变我们的工作方式。所以,呃,那是我会留给大家的主要事情。

我喜欢这个信息。我想多花点时间谈谈它。嗯,当你说不要错过它时,你建议人们做什么?是仅仅构建、投入、学习、加入一家正在构建真正有趣事物的公司吗?就像,你对那些说“好吧,我不想错过机会”的人有什么建议?

是的,我只会说参与其中。所以,基本上就像你说的。嗯,投入。嗯,在此之上构建,呃,工具是,你知道,故事的一部分。嗯,仅仅使用这些工具,就像你不需要,你知道,你不需要成为一名软件工程师才能投入其中。嗯,我只是认为这里很多工作都会改变。所以仅仅使用这些工具,了解它的局限性,了解它能做什么和不能做什么,这样你就可以观察它随着模型的改进开始能做什么的趋势,是的,所以它基本上就像习惯并熟悉这项技术,而不是有点像躺着,呃,呃,呃,让它从你身边溜走。

>> 另一方面,我认为有很多压力和焦虑,就像发生了很多事情。我怎么才能跟上?我这周得学 Cloudbot。天哪。你有没有学到什么,不是那种你身处其中所学到的?你如何才能不过度紧张和担心错过正在发生的事情,并保持对新闻的关注?你都做了些什么,学到了些什么?

>> 是的,所以我认为我个人在这方面是一个不好的例子,因为我基本上长期在线,呃,在 X 和,呃,我们公司的 Slack 上。所以我我我实际上尝试吸收,结果吸收了很多。不过我想说的是,就像从观察其他那些不像我这样,你知道,沉迷于这些东西的人来看。嗯,是的,很多都是噪音。就像你不需要,你不需要让这种东西的 110% 进入你的脑海,就像,进入你的脑海。老实说,仅仅从小处着手,投入一两种不同的工具,就已经,你知道,比你在这里需要的更多了。我认为仅仅是像行业 X 作为产品的那种狂热节奏的结合,就创造了这种疯狂的,嗯,呃,呃,就像,是的,这种疯狂的新闻节奏,老实说,非常令人应接不暇。呃,主要的是,你不需要,你不需要知道所有这些才能真正参与到现在正在发生的事情中,甚至像安装 Codex 客户端并玩玩它这样简单的事情。安装 Chad GBHEN,将其连接到你的一些,呃,你知道的内部,呃,呃,数据源,Notion、Slack、GitHub,看看它能做什么和不能做什么。嗯,我认为所有这些都是其中的一部分。

太棒了。Sherwin,至此我们进入了激动人心的闪电问答环节。我有五个问题要问你。你准备好了吗?

>> 是的。是的,当然。

第一个问题,你发现自己最常向其他人推荐的两三本书是什么?

>> 哦,我将谈论一本非虚构类和一本虚构类书籍。呃,那本小说我刚读完。我我我它真的很,我我真的推荐它。它,它,呃,呃,是 Q&M 的《不存在反模因部门》。呃,它是一个,呃,我认为它像是一个网络作者,但我看到它在 X 上被分享。呃,这这,呃,它像是一本科幻类的书。嗯,我基本上两天内就把它读完了。嗯,它写得超级超级好,超级引人入胜。它讲述了一个政府机构在对抗,你知道,让你忘记它的事物。嗯,所以它就是一本非常聪明、非常有创意的书,而且,呃,老实说,在题材方面也很新颖,呃,我非常喜欢。所以我推荐那本。呃,这本书也无意中非常搞笑。所以它就像一本旨在成为科幻甚至有点恐怖风格的书,但它它它,呃,让我笑了好几次。所以,呃,那就是

那是那个,嗯,小说类书籍,非小说类。所以我要作弊一下,推荐两本。在过去一年里,我一直在阅读更多关于中国以及中美关系的内容。我认为去年有两本书的出版,对我来说,在这方面,它们真的、真的让我大开眼界。第一本是丹·王(Dan Wang)的书《Breakneck》。那本书真的、真的很好。我真的很喜欢他将美国比作律师社会,而中国比作工程社会的比喻,以及它们各自的优缺点。我读了之后,心想,嗯,是的,在美国,我们似乎是由律师来管理的。所以,这是第一本。另一本是帕特里克·麦基(Patrick McGee)关于苹果和中国的书,超级、超级有趣。我是一个巨大的苹果粉丝。如果你们现在能看到我的桌子,上面全是苹果的东西。但首先,了解苹果与中国的关系就非常迷人。然后,它还包含了很多关于苹果公司内部的信息,我觉得非常迷人。所以,它也相当引人入胜,而且,你知道,也非常、非常及时。

>> 那个抗疟疾的书听起来太棒了。你说话的时候我正在买。

>> 是的。是的。是的。它,我想它只有几百页。我两天就看完了。它真的、真的很好。

>> 好的,好建议。好的。你最近最喜欢的电影或电视剧是什么?

>> 是的,那个很难,因为你知道,我有两个孩子,还有一个忙碌的工作,所以我真的没有太多时间看电视剧。我得说,在过去的几周里,我看了几集。我其实是个动漫迷,所以我看了几集。有一部叫《咒术回战》(Jujutsu Kaisen)的新季出来了。所以,《咒术回战》第三季。它真的、真的很好。总的来说,我非常喜欢日本动漫。我认为他们创造了西方媒体回避的最具创意和独特的故事情节和宇宙。所以,总的来说,我非常喜欢它,但确实没怎么看,最近只看了几集《咒术回战》。

>> 在你的职位上,这完全可以理解。

>> 是的。

>> 你最近发现的你非常喜欢的、最喜欢的产品是什么?

>> 是的。好的。所以,所以,我最近不得不设置 Wi-Fi 和家庭网络,我全部选择了 Ubiquiti 的路由器和安全摄像头。我以前从未听说过它。我不得不这样做。我一直都有一个非常简单的设置。而它是一个非常好的产品。我不知道你以前用过没有,但它基本上就像家庭网络领域的苹果。所以,产品很漂亮。但真正让它做得非常好的东西是它的软件。所以,他们有一个非常棒的移动应用程序来帮助管理,你知道,所有的家庭网络。所以,基本上,Ubiquiti,你可以用它来购买无线路由器。你需要在家中布设以太网线来使用它。但我实际上认为让它真正好的东西是安全摄像头。所以,如果你有连接到 Ubiquiti 生态系统的安全摄像头,它们有一个令人难以置信的移动应用程序。还有 Apple TV 应用和 iPad 应用,可以查看摄像头的实时画面。所以,它们有点贵,但也不是太贵。但这是一个令人难以置信的产品体验。

>> 好的,我犯了个错误。这是个好建议。

>> EOS 也相当不错。但现在已经完全转向 Ubiquiti 了。

>> 好建议。好的,还有两个问题。你有没有一个你经常在工作或生活中回想的、最喜欢的座右铭?

>> 是的。我总是对自己说的一句话是,永远不要为自己感到难过。生活中有很多事情会发生,在工作中,在生活中。提醒自己永远不要为自己感到难过,并且你总是有能力振作起来,这是我不得不经常对自己说的话,而且我也经常对很多人重复这句话。

>> 最后一个问题。在你以前的生活中,你在 Open Door 工作,负责估算房屋的购买价格。你基本上建立了一个模型,告诉公司:“这是我们要为这所房子支付的价格。”在房屋价格中,有没有一个你没有预料到的、但却非常重要并影响房屋价格的变量?

>> 有很多令人惊讶的。我可能会列出几个最有趣的。电线,以及高压电线,它们对你的价格影响非常大。我直到去了达拉斯,观察到当你的房子旁边有这些巨大的电压线嗡嗡作响时,我才真正完全理解这一点,而且大多数人都有孩子,你不想让你的孩子靠近那里。所以,我认为这是让我非常、非常惊讶的一点。

>> 这说得通。

>> 是的。然后另一个,对我们来说一直很难量化的是平面图。所以,这非常重要,是的,当然非常重要,但仅仅量化一个好的平面图是什么样的,以及一个非常糟糕的平面图是什么样的,我们就做了所有这些事情,比如厨房有多宽,它是什么风格的厨房,然后主卧室在哪里,等等。所以,这真的、真的很难量化,但我记得平面图是一个大问题,因为我们会有一套房子卖不出去,然后我们的运营团队会进去说:“是的,这是平面图问题。”所以,你怎么能说出来呢?你进去,你就能感觉到。你感觉到了。所以,是的,这些是令人惊讶的。然后最后一个比我想象的更有影响力的是,一般的路边吸引力,甚至前门。所以我实际上认为有一个关于这个的 Zillow 书,更换前门通常是房屋投资回报率最高的。但仅仅是当你走近房子时,作为买家,你与之互动的东西,以及房子的最初几分钟,我认为我低估了它的重要性。

>> 这极其有趣。我喜欢你不得不通过代码来解决所有这些问题,而不是走动看平面图。我有很多关于平面图的故事,比如它没有数字化。所以,有一些人拥有像凤凰城和达拉斯所有这些房屋的纸质平面图。是的,从 Open Door 的日子里有很多有趣的、有趣的经历。

>> 好的,Sherwin,非常感谢你这样做。这太棒了。人们可以在网上哪里找到你?以及听众如何能帮助到你?

>> 是的。我在 Twitter 或 X 上。我只是 Sherwin Woo。是的,我主要在推特上谈论 OpenAI 和 API,以及我们正在推出的一些产品。然后,人们如何能帮助到我。我喜欢听人们正在构建的东西。所以,如果你正在创业,如果你正在为一个想法而努力,你知道,我很想在 X 上联系你。我很想听听你正在构建什么,并了解 OpenAI 如何能帮助支持你。

>> 太棒了。Sherwin,非常感谢你来这里。

>> 是的。谢谢你,Lenny。

>> 再见,各位。非常感谢您的收听。如果您觉得这有价值,您可以在 Apple Podcasts、Spotify 或您喜欢的播客应用程序上订阅本节目。另外,请考虑给我们评分或留下评论,因为这真的能帮助其他听众找到播客。您可以在 lennispodcast.com 上找到所有过去的剧集或了解有关该节目的更多信息。下一集再见。