Transcription
好的。大家好。嗯，你们好。你好。很高兴见到大家。嗯，我在这里是想告诉大家如何玩好“长局”，这有点难，因为很难确定“长局”到底是什么样的。那为什么难呢？嗯，信号与噪声的比例很糟糕。有太多的炒作，同时又有太多真正、真正酷的事情正在发生。嗯，有新兴的最佳实践，以及许多新的、令人兴奋的自毁方式。嗯，[笑声] 有海量的新工具和观点，而且人工智能疲劳是真实存在的。谁有这种感觉？这是真的，对吧？嗯，而且，角色在变化，组织在变化，因为瓶颈在变化，人际互动也在变化。所以，要跟上这一切非常困难。更重要的是，还有经济担忧和环境担忧。那么，在座有多少人认为五年后还会存在“软件工程师”这个职业？好的，太棒了。好吧。是的，我也是。我也是。所以，大家好。我叫 Sheena。嗯，我在软件工程领域工作了很长时间。我大约在 25 年前学会了编程，或者差不多是那个时候。我保养我的皮肤。嗯，我内心深处是一名教育家。嗯，我将教育学原理转化为不同的机制，让人们能够学习、成长和蓬勃发展。嗯，很长一段时间，我在南非为一家非营利组织做这件事。基本上，我们所做的是找到有高潜力的年轻人，然后培训他们，并为他们找到工作。这不是那种面试技巧训练营，你们懂的。嗯，这实际上是为人们的职业生涯打下基础。他们会找到工作，会保住工作，会取得进步。所以，那很棒。嗯，现在我有了自己的公司，叫做 Prelude，我们提供更高级的 Python 培训和团队合作培训，因为嗯，团队合作成就梦想，而人们并不真正教授这些东西。嗯，我提到过我喜欢教学吗？所以，[笑声] 嗯，我发起了一个名为“教育者公会”的免费开放社区，任何对教授编程感兴趣的人都可以加入，因为我们有很多可以讨论的。我还积极参与 Python 开源社区。嗯，我是 Python 软件基金会的董事之一。所以，那是嗯，那个组织负责 Python 生态系统。嗯，包括社区和基础设施。嗯，我组织会议。所以，最值得注意的是去年的 PyCon Africa 2025。嗯，我是主席。我确实是非洲人。嗯，太棒了。那么，我为什么能谈论这个呢？我不是什么机器学习专家。嗯，但它与教育息息相关。所以，为未来做准备就是我的全部意义。那就是我关心的。而未来是一个有趣的地方。嗯，我与不同规模的人合作。我培训过个人，嗯，一直到组织。这真的很棘手。我需要完全理解这些东西才能做好。但更重要的是，嗯，由于我与 Python 社区的互动，很多年轻人来找我寻求建议。这很可怕，因为我不想鼓励某人进入一个可能不存在的职业，也不想劝阻某人放弃一个他们实际上会做得很好的职业。所以，对我来说，我希望跟上这些事情。好吧。那么，今天我们要做什么？今天，我将分享我最新的思考，我所相信的。嗯，但我不认为这是最终的定论，因为事情总是在不断变化，如果你在这里看到什么让你觉得“告诉我更多”，请告诉我。我想要你们的意见。好吧，让我们从头开始。嗯，关于 LLM 的整个故事以及事物如何变化，这都归结于对 AGI 的追求。所以，我们将从一点历史课开始。由于时间关系，这非常非常简略。所以，这些公司一直在追求 AGI，但 AGI 本身是一个定义松散的术语。嗯，Dario Amodei 说 AGI 是一个营销术语，他更喜欢谈论强大的 AI。所以，他说强大的 AI 在大多数相关领域都比诺贝尔奖得主更聪明。它可以证明未解决的数学定理，写出非常好的小说，并从头开始编写困难的代码库。他的定义不止于此。我已经总结了。但这部分很棘手。那么，我们能做到吗？所以，我们在 2018 年到 2020 年之间经历了一系列快速的 GPT 模型，每一个都比上一个强大得多。2020 年，OpenAI 发布了 Kaplan 的论文。那篇论文研究了规模及其影响。他们使用大量数据训练了 GPT-3，并得出了一个公式。他们说模型的性能是模型参数大小、数据集大小和计算量的函数。他们将参数大小视为主要因素。所以，越大越好。投入更多资金解决问题，它就会变得更快、更聪明。2022 年，另一个小组发布了另一篇论文，他们训练了一个不同的模型。这个模型比 GPT-3 小得多。嗯，但它仍然优于 GPT-3。所以，他们表明，参数确实很重要，但数据更重要。GPT-3 的训练不足。2024 年，我们迎来了一个情节的转折。嗯，OpenAI 发布了 01，一个推理模型。所以，OpenAI 一直在宣扬规模理论。然后他们发布了一些新的东西，不仅仅是更大的 GPT-4。它不是投入更多资金的 GPT-4。它是完全不同的东西。所以，它是迭代的，它利用了迭代的思维链推理。所以在推理时，它是一种不同的算法。它不仅仅是嗯，不仅仅是让它思考更长时间。而是让它以一种非常非常特定的方式思考。我认为用摇滚乐的引语来说，是的。嗯，[笑声] 非常强调训练后和精炼，因为我们需要得出这些答案并找出哪个是最好的。因此，训练后也变得必要。所以，有人谈论新的规模轴，即训练后和测试时计算。与此同时，嗯，Scaber 的 Ilya 正在谈论我们正处于一个新发现的时代。2010 年代是规模化的时代。现在我们又回到了发现。显然，这里有一些未解之谜，因为当我们尝试不同的方法时，效果相当好。2025 年，我们又迎来了一个情节的转折。所以，Deepseek 引起了一些轰动。Deepseek R1。所以，你们不需要看这个。我知道它很小。嗯，你们不需要看细节，但请注意嗯，主要的线条。哦，这太糟糕了。好的，我们有 DeepSeek，它是深蓝色的。嗯，它在多个基准测试中要么是第一个，要么是第二个表现最好的模型，并且它正在与 Sonnet、Claude Sonnet 3.5 和 01 等模型竞争，而且表现非常好。表现非常好，而且它做得不一样。所以，R1 在推理中使用了所谓的“专家混合”方法。所以，它是一个非常大的模型。他们用大量数据训练了它，但当你问它一个问题时，它不会使用整个网络。它使用网络的一部分，因此效率更高。所以，这很棒。但真正令人烦恼的是它的训练成本有多低。Deepseek R1 的训练成本可能只有 GPT-4 训练成本的十分之一。这在一定程度上打破了“投入更多资金，获得更多力量”的论调。它也一定程度上打破了英伟达，因为他们使用了旧的 GPU。他们没有使用新的东西。所以，这给了我们一点关于[笑声]围绕这些东西的经济不稳定的线索。英伟达一天损失了 6000 亿美元。这是世界纪录。他们也曾创下之前的世界纪录。所以，这有点疯狂。在这一切发生之后，Sam Altman 仍然在宣扬规模理论。他仍然说，嗯，AI 模型的智能大致等于训练和运行它的资源的对数。这些资源主要是训练计算、数据和推理计算。似乎你可以花费任意多的钱并获得持续可预测的收益。尽管他仍在宣扬这一理论。嗯，所以他基本上是这样说的。这里有一个说明。嗯，所以他说，如果我们有足够的火箭燃料，我们将到达 AGI。但我并不相信我们有足够的火箭燃料。即使这个论点是正确的，计算能力也很难获得。嗯，我们在内存方面存在物理限制。我们正在达到这些限制。嗯，金钱是个问题。这方面存在不稳定。训练数据并非都一样。所以，这很困难。但我们甚至在正确的火箭上吗？规模定律真的是定律吗？嗯，我们从不同的研究论文中看到了不同的结论。我向你们展示了两篇论文。还有很多其他的，嗯，它们支持不同的观点。嗯，我们已经看到不同的模型架构和嗯，不同的算法会产生不同的结果。我们已经看到推理时间算法非常重要。你思考问题的方式非常重要。最重要的是，没有根本性的理论来解释为什么这会奏效。所以，我们看到了一个模式，然后我们说，太棒了，这个模式会永远持续下去，但也许不会。2025 年，GPT-5 发布了，但总体上令人失望。嗯，人们不喜欢它。人们很生气，原因有很多。也许是回报递减的迹象。也许是 OpenAI 需要在市场上有所作为而仓促发布的。也许用户没有很好地理解它，因为它是一种不同的架构。再次，它是一个路由器，有很多不同的模型，所以使用它嗯，需要一些技巧。也许是这样的。所以，也许我们正在攀登这座 LLM 山峰，还没有到顶，但我们看到了回报递减，但如果我们想要 AGI，我并不是说 AGI 不可能。也许它在别的地方。文本预测是我们需要的东西吗？游戏中有其他参与者。还有其他类型的模型。不仅仅是 LLM 是唯一的。好吧。那么，如果我们追求的是回报递减，这对我们房间里的人意味着什么？嗯，回报递减实际上很棒。嗯，因为如果你做一个模型，它在小任务上稍微更成功，那么它在任务链上就呈指数级地更成功。我给你一个例子，你可以建立直观的理解。比如，我们有一个智商为 70 的人。他们会遇到很多困难。有些事情他们能做对，有些事情他们会做错。然后，如果你能挥动魔杖，给他们一个 80 的智商，他们能做的不仅仅是多做 10 件事，他们能做的事情会多得多，而且这些事情可以串联成更大、更复杂的事情，对吧？所以，编码任务也发生同样的事情。我们作为软件开发人员和工程师知道，大问题可以分解成小问题，如果你提高了解决小问题的机会，并且解决得更多，你就能做更大、更酷的事情。所以，这导致了 LLM 应用的“寒武纪大爆发”。这就是我们感受到的疲劳。嗯，这种爆发将继续下去，无论 LLM 是否继续改进。嗯，即使我们现在暂停开发，这种爆发也在继续，因为我们现在看到的东西是建立在人类创新之上的创新。我们拥有这个工具集，我们仍在学习如何使用它。所以，它不会消失。但如果泡沫破裂了呢？嗯，确实存在泡沫。有一些泡沫正在发生。这是一场淘金热，也有黄金。所以，我不会详细介绍，我只想让你们看到这个系统的脆弱性。所以，美国有七家公司组成了一个名为“Magnificent 7”的团体，它们占美国股市的 35%。有多少家与 AI 有关？几乎所有，对吧？苹果公司有点例外。它们不完全属于同一类。嗯，大约，嗯，英伟达一半的收入来自“Magnificent 7”的其他公司，除了苹果。英伟达与整个生态系统紧密相连。嗯，当然，很多人都依赖它们。但这个系统很脆弱，因为存在很多循环依赖。我们在这里知道循环依赖。它们不太好。嗯，其中许多循环依赖只是巧妙的会计。所以，英伟达可以做一些事情，比如借钱给 OpenAI，这样 OpenAI 就可以购买他们的芯片。那里发生了很多非常奇怪的事情。这很有创意。它很脆弱。如果它破裂了会怎样？如果这个泡沫破裂了会怎样？嗯，以前有过一个泡沫，叫做 .com 泡沫。嗯，它破裂了，而且很剧烈。嗯，但互联网仍然存在。人们往往会高估一项技术在短期内能做什么，而低估它在长期内能做什么。所以我很确定 LLM 将与我们同在。我们学到的东西将与我们同在，并将从根本上改变事物，但我也很确定泡沫将会破裂。嗯，所以我们应该投资于这些东西。我相信这一点。嗯，我们应该投资于使用它们，但我们应该以安全的方式投资于使用它们。这是一张非常有趣的图表。所以，Y 轴是我们为不同模型获得的 LLM Arena 分数。X 轴是时间。顶线是那些在我们负担不起的硬件上运行的前沿模型。嗯，底线是那些在消费级硬件上运行的开源模型。它们通常比前沿模型滞后 12 个月，有时甚至更短。这只是一个基准测试。如果能有更多这样的基准测试，那不是很好吗？嗯，在多个基准测试中，我们可以看到同样的模式。滞后 6 个月到一年。当然，基准测试你应该总是持保留态度，因为嗯，应试教育是真实存在的。嗯，如果模型制作者正在优化以通过基准测试，并且他们做得非常好，而我们的情况都不同。所以，持保留态度。但值得注意的是，例如，如果你使用类似嗯，哦，让我想想，假设你依赖 GPT-4 做某事，而 GPT-4 不见了，你只是切换到类似 Quen 3 的东西，你可以在消费级硬件上运行它，你应该没问题，你应该没问题，但你应该测试，你应该检查。所以，在多样化你依赖和倚重的模型方面存在优势。所以，你不一定总是需要使用最新最好的东西。嗯，能够依赖不同的模型提供商，而不仅仅是一个，是有益的。嗯，为你的工作提供更多保障措施也是有益的。所以，还记得我说的关于回报递减吗？你们自己可以通过使用的工具来构建这些回报递减。嗯，如果你有更好的方法来捕捉错误，你就可以让你的小任务做得更正确。所以，这很棒。好吧。谈论就业市场也很重要，因为我们要吃饭，对吧？嗯，2025 年，就业市场是我认为的五年低点。嗯，所以这里的图表是美国软件开发职位空缺，虽然这里没有，但嗯，事物往往遵循类似的模式。所以，我们看早期的顶线，2020 年之前，我们经历了一次衰退，所以职位有所下降，然后发生了 COVID，利率非常低，所以有很多免费资金，人们疯狂招聘，他们过度招聘，然后他们需要解雇一些人，进行重组，所以这是大部分下降的原因。我不想低估 AI 对工作的影响，因为它确实对工作产生了影响，就像我之前在演讲者休息室里紧张地一遍又一遍地阅读我的幻灯片一样，嗯，很多演讲者都在谈论他们是如何被裁员的。他们公司的整个部门都被裁员了，因为他们说，“哦，你的部门不做 AI。我们就砍掉它。”所以，这确实影响到人们。我不想低估这一点。但也有其他力量在起作用。所以，当一个组织进行重组并解雇一群人时，他们就不会过度解雇，他们会饱和。职位空缺，座位已满，所以他们不会有职位空缺。所以，这并不一定意味着没有工作。这意味着座位已经满了。所以，是的，还有 AI。如果我们再往前看一点，再放大一点，嗯，我们可以看到科技职位空缺实际上在缓慢而稳定地增长。具体来看科技初创公司、科技独角兽和上市公司。这些是美国的数据。嗯，这很棒。发生了什么？有很多事情正在发生。所以，会有自然的人员流失。所以，人们离开，他们需要招聘新人。所以，这很棒。嗯，氛围编码，氛围编码很混乱，但它确实会带来更多机会。它带来了更多的创造力。嗯，它带来了非常有趣的新工作。哈哈。氛围编码清理专家之所以存在是有原因的。嗯，但它也带来了更多的创业者。它降低了那些能够制作概念验证的人的进入门槛，那些人可以说，“我有一个疯狂的想法”，然后他们可以拼凑一些东西，让它勉强运行，这很棒，因为它意味着有更多的空间让人们进来并将其产品化。所以，有更多的创造力，有更多的人类创造力，也有新的工作，比如嗯，安全在 LLM 领域变得非常非常重要。嗯，有各种各样新的、有趣的方式被黑客攻击，这很有趣。可观测性变得非常重要。将这些东西操作化变得重要。这并非易事，这属于深度技术。这不像[笑声]不容小觑。嗯，所以下注吧。早些时候我问你们，五年后软件工程还会存在吗？嗯，几乎所有人都举起了手。嗯，对于那些没有举手的人，嗯，让我们来谈谈软件工程是什么，对吧？它不仅仅是代码行。我做这项研究时注意到的一件事是，许多关于软件工程将消失的人似乎对软件工程有相当的误解。他们说，“哦，它不再是关于语法了。”就像，它从来就不是关于语法。嗯，我们做什么？我们写代码，当然，但我们也体现了许多不同的特征。有流程思维、系统思维、批判性思维。有沟通的精确性。我们与机器沟通的方式是通过代码，这是最精确的沟通方式。嗯，这揭示了我们自身推理的缺陷。英语是一种粗糙的工具。我们非常擅长发现边缘情况并理解它们。我们非常擅长处理不确定性并围绕不确定性进行设计，对冲我们的赌注，推迟决策并围绕它进行设计。我们非常擅长知识管理。代码实际上就是知识管理。嗯，我们擅长学习。我们擅长实验和研究。当你看到一个成功的软件工程师时，他们就是这样。嗯，有毅力，有精神纪律，有验证的习惯。我们可以以许多其他人从未需要的方式来检查自己。这是黄金。这是黄金。无论人们是否编写代码。所以我相信软件工程师，我相信这套技能。我们如何培养这些技能？嗯，通过练习，对吧？嗯，初级开发人员处于一个有趣的位置。所以，你们很多人说你们相信五年后还需要软件工程师。让我举个手。你们中有多少人在某种程度上是技术领导者？好的，太棒了。所以，你们很多人。你们将在五年后在哪里找到这些开发者？[笑声] 嗯，未来的才华来自哪里？所以，我之前提到了训练营。嗯，当招聘人数激增时，训练营也随之激增。又是一场淘金热，然后又是一点崩溃。嗯，我们了解到有一些好的训练营。它们确实存在。但也有很多陷阱。嗯，你可能不应该把赌注押在训练营上。你应该把赌注押在大学上吗？大学只能训练到一定水平，但通常来说是相当普遍的。如果你在大公司工作，当你招聘某人时，即使这个人有多年经验，你仍然需要培训他们使用你们特定的工具。所以，大学可能很有帮助，但它们不负责“最后一英里”。我个人非常看好学徒制和研究生项目。嗯，想要在五年后拥有人才库的组织应该考虑一下目前存在的真空。目前存在学徒危机。所以，如果你着眼于未来，这是重要的一部分。好吧。嗯，嘿，我时间安排得很好。这太棒了。我本来很担心。嗯，现在我想聚焦于组织以及我认为它们应该如何适应。我在整个演讲中已经零散地给出了一些建议。嗯，但这是具体的。我将谈论组织，因为我给组织的大部分建议都会渗透到其中的个人身上。嗯，所以你们应该能够自己推导出个人建议。好吧。所以我认为很清楚，采用和投资于 AI 的采用很重要。它正在改变事物。你需要学习技能并进行练习，事情会发生变化，你需要能够随之变化。你需要肌肉。但投资于 AI 的采用时，投资应该去哪里？嗯，有一个叫做 70/20/10 规则的东西，它来自于波士顿咨询集团的研究。所以，他们采访了来自多个行业、多个国家的 1000 名 CXO 和高级高管，并研究了价值的来源。他们说，投资回报在哪里？投资回报在哪里？他们还研究了人们面临的问题类型。他们说，“哦，为什么它会失败？你投资了这个，然后发生了什么？”嗯，投资回报在哪里？他们提出了这个规则。所以，70% 的嗯，资源应该用于人员，20% 用于数据基础设施和工具，10% 用于 AI 模型和算法。所以，AI 模型和算法占 10%，这就像你订阅模型以及嗯，还有什么？[清嗓子] 其他东西。所以，将 70% 的资源投资于人是一件大事。嗯，你们听说过很多大公司都在裁员。嗯，这有很多原因都不是最好的选择。嗯，你们现在会看到其中一些。嗯，所以当你投资于人时，你在投资什么？有文化。嗯，这是一件大事。它不仅仅是一个闪亮的词。它实际上非常非常重要。有培训和教育，还有结构。所以，人们相互互动的方式，团队的工作方式，诸如此类。现在，在投资文化时，要考虑的一个主要因素是心理安全。所以，麻省理工学院做了一项研究，他们研究了 500 名商界领袖，你们知道，麻省理工学院，他们懂东西。嗯，他们很棒。嗯，83% 的领导者认为，优先考虑心理安全的组织文化能够显著提高 AI 的成功率。太棒了。84% 的人观察到心理安全与切实的 AI 成果之间存在联系。太棒了。嗯，在座的领导者，你们认为你们的团队拥有非常高的心理安全吗？我可以举个手吗？好吧，太棒了。所以，这太棒了。麻省理工学院调查的组织中有 39% 的组织将他们的嗯，心理安全评为非常高。现在，我个人认为这个数字有点夸大，因为很难衡量这些事情。你可能认为一切都很好，但事实并非如此，因为你需要非常刻意地去准确了解心理安全。你不能只是凭感觉。嗯，但为什么它很重要？嗯，这么多人相信它，但为什么，它有什么联系？嗯，如前所述，我们正处于一个新发现的时代，而这个新发现的时代不仅仅局限于那些制造模型的人。也包括我们。我们已经看到了嗯，与 AI 相关的工具的兴起。嗯，所有不同的 LLM 包装器和所有不同的最佳实践和最差实践以及安全问题，我们自己有很多东西要学。AI 疲劳是真实存在的，AI 最好一起探索。嗯，软件工程是思考工作。嗯，我们使用大脑，我们以不同的方式使用大脑来创造价值。你组织中的最佳实践可能与我的组织不同，因为你们有不同的价值观。你们有不同的客户。你们有不同的风险状况。一切都不同。所以，你需要自己进行一些探索，并且需要以适合你们组织的方式进行探索。而且改变是困难的。这是另一件事。嗯，采用这些工具不仅仅是一个勾选练习。它是采用实践和新的工作方式以及与人互动的新方式。变革管理本身就是一个完整的领域。嗯，它不会自行发生。你不能只是决定我们现在就做这件事。嗯，其中一件非常重要的事情是，人们可以想要改变。人们可以决定改变，但这很难。我的意思是，谁尝试过戒烟或戒掉 YouTube？这很难。真的很难。嗯，同伴之间的问责制非常有帮助。而且，对于许多人来说，在许多工作中，同伴之间的问责制并不是真正可行的，除非有心理安全。问责制听起来像是一根棍子。嗯，它不是一个真正赋权的东西，但它可以是。好吧。嗯，人们很害怕。嗯，人们因为很多原因而害怕。他们不想失去工作，而且在 AI 采用率更高的组织中，恐惧感更强，因为有很多嗯，人们基于炒作做出决定。嗯，所以我想说，玩好长局的一个非常有用的方法是直接解决这些恐惧。所以，部分投资于心理安全。不要只说它是存在的。实际上要花时间，进行练习。嗯，不要只做一个团队建设活动。这比那更重要。嗯，然后尝试找到利用 AI 让员工生活更好的方法。嗯，工作正在改变。工作的类型正在改变。我听说有一家公司他们开发了一些 AI 工具来帮助他们的员工进行内部流动。他们说，很酷的事情正在改变。嗯，为什么你不输入你想要做什么，你想去哪里，然后我们会尝试为你量身定制你自己的独特而特别的职业道路。这很棒，它提高了留存率。嗯，还有其他类似的例子。有让生活变得更好的方法。另一件事是让实验和失败变得安全。这不仅仅是把海报贴在墙上写着“快速失败，向前迈进”。嗯，你也可以非常刻意地这样做。人们不知道他们可以在哪里失败，或者在哪里不能失败。所以，你可以做的是说，这些任务，去尝试，大胆地去，打破东西，我们很高兴，告诉我们你学到了什么。这些任务，嗯，要小心。嗯，总是验证输出。嗯，你可以尝试，但不要让它超过这个点。嗯，设置保障措施，给人们指导，告诉他们可以在哪里失败，然后他们更有可能尝试，并明确知识生成是游戏的一部分。所以，关于工作保障，普华永道做了一项非常非常大的研究。他们研究了近十亿个工作岗位。这是很多工作。嗯，他们发现，在 2023 年，拥有 AI 技能的工人平均工资溢价为 25%。2024 年，这一数字增加到 56%。所以，无论一个人是否会留在公司，这对他们都有好处。对人们来说，了解这些东西是有好处的。雇主寻求的技能在受 AI 影响最大的工作中，变化速度快了 66%。嗯，所以是的，这对人们有好处，支持他们学习。好吧。但你如何支持人们？培训很棒。嗯，现在我假设在座的各位在你们的组织中可能都具备一定程度的 AI 技能。我说得对吗？是的，每个人都在点头。太棒了。嗯，主题专业知识和教学专业知识是两件不同的事情。嗯，就像，有重叠。你需要了解你的东西才能教你的东西。但如果你正在进行某种内部培训计划，嗯，我强烈建议努力学习如何教得好，因为这有它的技艺，也有它的科学。嗯，花时间也很重要。这似乎是显而易见的事情，但嗯，许多组织声称他们重视教育，但实际上并没有为它腾出空间。嗯，那不太好。通过知识和工具管理来支持人们也很重要。如果一个组织足够大，那么拥有一个赋能团队会很有用，它可以为他人设置脚手架和指导方针，并为他人铺平成功之路。否则，你只能有一个最佳实践的中央存储库。这很有帮助。奖励集体绩效而不是个人绩效也很重要。好吧。所以，如果你做对了，现在每个人都在使用 AI，他们正在尝试，生活很美好。你们拥有所有这些 AI 增强的人类。你们拥有这些四处奔波的协调员。他们拥有更多的自主权，这太棒了。嗯，就像我自己，我不会画油画。你们看到了那些油画，不是油画，是水彩画。你们可以看到[笑声]就像，我做不到。我现在可以做到了。嗯，但问题是，我现在有了更大的影响范围。我可以做更多的事情。有更多的事情我可以做错，有更多的事情我可以做，但嗯，在不一定理解这些领域的基本技能的情况下，我可以做错更多事情，而且我可以更快地做错。所以，我有了更大的影响范围，我有了更多的炸弹。嗯，对齐变得更加重要。如果你赋权于人们，而他们却朝着错误的方向前进，这对任何人都没有好处。那么，如何让人们保持一致呢？再次，文化、价值观、道德。人们需要更宏观的理解。如果你想让人们做有意义的、符合组织目标的大事，他们需要理解该组织在一个更大的生态系统中的位置。所以，这再次非常重要，而这一切都可以来自培训和有意的互动。所以，这一切都是在投资于人。现在，我谈到了一些关于人们走向错误方向和引爆炸弹的危险，但 AI 还有其他挑战。所以，假设你有一个愚蠢的问题。你可能不会去和你的尊敬的同事谈论你愚蠢的问题，因为它感觉很愚蠢。你可能会选择和 LLM 交谈。假设你有一个复杂的项目，你想让一个新团队成员加入你的项目。也许你会让 LLM 来做，而不是自己承担所有繁重的工作。人际联系会断裂。孤独感会增加，人们的批判性思维能力也会下降。所以，我将举例说明。嗯，这种情况发生在你身上过吗？你问 LLM 一个问题，然后它说，“嘿，这是答案。”然后你说，“太好了。我不用再思考了。”嗯，我不需要考虑其他方法可以做到这一点。嗯，很容易被某些事情所困扰。嗯，很容易去 LLM 那里说，“我有一个绝妙的主意。”然后它说，“哇，你太棒了。做得好。”嗯，但如果你去和人谈谈，也许他们会赞同你的想法，也许他们会否定它，这很不舒服。所以，与人交谈很重要。理查德·费曼说，“第一个原则是你不能欺骗自己，而你最容易欺骗自己。”LLM 非常擅长帮助你欺骗自己，所以你必须注意这一点。好吧，我们一直在谈论所有那些“软”的东西。让我们来谈谈代码。嗯，有一个新的瓶颈，对吧？这是很多人在谈论的事情。他们说，嗯，由于我们可以用 LLM 快速编写代码，并且我们可以让它们与代理并行编码，而代码审查是新的瓶颈，人们需要确保代码质量很高。嗯，此处有龙。嗯，要小心。为什么？嗯，我们知道 AI 生成的代码有更多的安全问题。它有更多的逻辑问题。由于未探索的边缘情况，它有更多的奇怪错误。它有更多的可读性问题。它有时可能非常晦涩难懂。而且我们知道，即使是调试我们自己的代码也可能比编写代码本身花费更长的时间。调试 LLM 产生的奇怪代码非常非常困难。所以，嗯，Corey Dr. 写了一篇关于“反半人马”的精彩文章。所以，反半人马是指人身机器头。一个人充当一台无情机器的柔软肉体附属物。一台无情机器可能会给你非常非常大、非常混乱的拉取请求进行审查。所以，审查大量代码，这些代码在统计上与可工作的代码无法区分，嗯，这并不是发现错误的绝佳方式。代码看起来是正确的。你的代码中可能有一个单行问题，它会关闭你的所有安全措施。嗯，我最近在尝试让 LLM 帮助我处理某件事时遇到了这种情况。我当时想，“哇，再加一行，你就把所有东西都关掉了。”嗯，这不好。现在 LLM 在编写代码方面会越来越好。它们会变得好得多。错误会变得越来越少，如果某件事很少发生，它就会更难发现。所以，被置于审查员、最终检查员位置上的人，他们注定要失败。循环中的人类成为问责的终点。循环中的人类是现在如果代码不起作用就会被责备的人。所以，这并不总是以一种邪恶的方式完成的。它可以以一种粗心的方式完成。我的意思是，这似乎合乎逻辑，LLM 可以编写代码，而人们可以进行质量检查，但如果将人类置于循环中，设计时就必须考虑到人性。人们容易出现某些人为错误和认知偏差。嗯，我们设计系统时越考虑到这些，系统就会越健壮，嗯，对人类来说。我们需要考虑到这一点。如果你期望一个人完美无缺，嗯，可靠的完美，嗯，那么系统就没有设计好。所以，我的意思是，它可以朝着坏的方向发展，但也可以朝着非常好的方向发展。所以，斯坦福大学进行了一项关于开发人员生产力的研究。嗯，他们研究了超过 10 万名工程师。他们研究了数十亿行代码。他们研究了数百万次提交。他们研究了，他们研究了大量的私有存储库。他们研究了工作存储库，而不是开源爱好存储库。嗯，并得出了许多结论。[鼻息声] 平均而言，LLM 辅助团队的生产力比非 LLM 辅助团队高 15% 到 20%。这很棒。嗯，有一些注意事项。嗯，所以新项目比旧项目受益更多。简单比复杂受益更多。流行语言比稀有语言受益更多。如果你正在做一个 COBOL 项目，也许 LLM 不是最佳选择。而且，如果你设置不当，你可能会[清嗓子]降低 20% 的生产力。可能更多。所以，思考周全并将其用于正确的事情很重要。所以，如果你在做技术选择，嗯，尽量尽可能多地考虑那些默认提供清晰上下文的事情。所以，清晰的代码对 LLM 来说是一件好事。LLM 不擅长编写清晰的代码。嗯，所以这是一个难题。清理东西很好，嗯，用你的头脑去做也很好。嗯，选择具有简单上下文的工具也很重要。所以我有一个关于 HTMX 与 React 的有趣的抱怨。稍后可以来找我谈谈。好吧。嗯，成功的 AI 采用。嗯，如果你在一个组织中成功采用 AI，那么该组织中的人类将拥有更多的自主权，并能做更多的事情。人类依赖关系发生变化。嗯，就像对我来说，在这个演示中，我不需要去聘请一位画家来为我制作一些图片。我自己就可以做到。在一个组织中，人们被迫以不同的方式相互依赖，而现在他们不必那么依赖了。结果，瓶颈也随之改变。嗯，所以事情变化很大。嗯，现在成功采用这些东西的组织，它们创造了一些价值，对吧？它们嗯，有一些价值回报，但有时很难衡量，价值来自哪里？所以，有两个主要的价值来源：优化工作流程，嗯，改进你已经正在做的事情，让它变得更好、更快、更强、尽可能自动化。嗯，然后是核心业务活动。有诸如构建新产品线之类的事情，创造可以出售给客户的新事物。现在，根据 BCG 的说法，那些赢得最多的组织，那些创造最多价值的组织，它们专注于核心活动。嗯，所以它们会进行一些大的赌注，一些大胆的赌注。要做到这一点需要一点勇气。嗯，组织需要改变才能实现这一点。那么，组织是如何改变的呢？这也是 BCG 研究的结果。嗯，就像这些组织在做什么？这些组织在做什么不同于其他组织可以借鉴的事情？首先，组织正在放弃组织结构图，转而专注于动态的、高自主性的项目制团队。嗯，人们可以做更多的事情，他们的技能集不与个人角色挂钩。嗯，人们不再像被打包到特定的职位中。嗯，所以你需要以更有趣的方式将人们组合起来。但这很困难。嗯，你们都听说过风暴、规范和执行。如果你不断改变事物的形状，就会有更多的风暴和更多的规范。就像有时你把一群人聚在一起，他们需要六个月才能学会如何好好相处。即使他们是嗯，你知道的，优秀、稳健、有生产力的人。所以，你需要缩短这个过程。这又回到了心理安全等问题。所以，如果你在一个高信任度的组织中，风暴就会被缩短。嗯，如果人们联系更紧密，那也会被缩短。如果生活更透明，那就更好了。嗯，就像如果我现在需要和一个完全陌生的人合作，这比和我认识的人合作要困难，即使我们以前没合作过。他们还利用更短的规划周期。所以，这有一些缺点。我的意思是，更短的规划周期是有道理的，因为事情变化很快。如果你要花三个月做决定，那就不好了，但更短的规划周期也有缺点，因为你可能会陷入“闪亮新玩具”综合症。所以，你仍然需要围绕它进行调整。所以，像保护注意力、完成循环和偏向于实际完成事情这样的事情，现在比以前更重要。如果我们正在改变这一点。最后，他们做的一件事是重新思考现有的工作流程。如果你在改变人们的角色以及他们如何互动，如果你在改变工作如何交接，嗯，你需要重新思考工作流程。不仅仅是采取现有的工作流程，然后说，“酷，我们能自动化其中的哪些部分？”而是要考虑整个事情，然后说，“我们需要这个，还是我们需要别的？”所以，这很重要。好吧。但假设你全力投入这些东西，你改变了你的流程，你有一个大胆的使命，你为你的客户创造了新的价值主张，如果泡沫破裂了会怎样？这是否都是冒险的建议？所以，还记得我之前的那些图表吗？如果你依赖最新的、最好的模型来做你所做的一切，那就不好了。所以，当然，嗯，使用最新的东西，尝试它，弄清楚你需要什么，然后看看你能削减多少。如果你不需要依赖最新的东西，你可以在短期内节省成本，节省金钱，但你也会建立稳定性，灵活性。专注于好好使用模型，建立肌肉。嗯，如果你使用市面上最好的东西，那么你可能不需要那么多保障措施，但如果你自己能建立保障措施，那么你就能拥有一个面向未来的产品。嗯，专注于基准测试和监控，监控对于 LLM 来说非常重要，尤其是如果你在生产环境中使用了 LLM，如果你围绕它有一个包装器，那就是一个产品，即使模型本身没有任何变化，你的产品在行为上也会发生变化，就像如果你改变了 LLM 运行的基础设施，那么嗯，LLM 的行为就会不同。嗯，这是真的。专注于良好的上下文，良好的上下文和良好的文档有很多重叠。嗯，文档可以救命。专注于保障措施。嗯，专注于良好的测试。专注于灵活性而不是锁定，并构建允许安全实验和推出的工具。许多组织会达到一个点，那里有人在尝试 LLM，有人在构建概念验证，然后就像，我认为大约 47% 的概念验证无法超越概念验证，它们到达那里然后卡住，然后不再增加任何价值，因为集成很难。集成到技术堆栈中，也集成到人类工作流程中，这很难。所以，弄清楚如何做到这一点，弄清楚如何几乎像一个实际实现的工厂一样。所以，还记得我之前提到的 70/20/10 规则吗？我们谈了很多关于人的 70%，今年是 20%。所以，20% 的基础设施和业务工具等等，这些是让你面向未来的东西。所以我将通过将一些东西带回到个人身上来结束。嗯，我们是这个状态、这个地方的人类。我不会做具体的、技术性的建议。我不会说你应该处理长期的这个，你应该使用 Claude 代码或开源代码或其他什么。嗯，专注于磨练技艺。嗯，这和给初级开发人员的建议差不多。专注于磨练你的技艺，因为有了 LLM，我们基本上都是初学者，因为我们都相当不熟悉使用这些工具。在很多方面，这是一个未经证实的领域。专注于建立沟通和协调方面的技能。我认为这非常关键，因为最终你将协调这些工具。嗯，这感觉很像一套管理技能。嗯，谁想成为经理？>> [笑声] >> 嗯，最大化你的自主权并解决问题。不要仅仅局限于你能用代码做什么。思考你可以如何将你的自主权扩展到代码之外。并愿意重新审视关于软件开发人员、软件工程师做什么以及什么构成好代码的基本信念。我的意思是，现在有很多理由可以快速编写一次性代码。你可以做更多的事情。你可以更快地进行实验。我们习惯于以一种非常确定性的方式工作。这不一样。嗯，所以要准备好挑战自己。太棒了。就是这样。谢谢。