📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

Rethinking Prompting: Getting AI to Work for You

AI Explored48:44

Transcription

“大家在提示(prompting)方面似乎都犯了一个大错,那就是你认为你应该去提示(prompt)。”

“哦,我得说人们犯的最大错误是把 ChatGPT、Claude 或 Gemini 看作是更智能版的谷歌搜索,因为那是绝对最糟糕的使用方式。”

“我把它比作你拥有一辆法拉利,但你只是用它来遮挡雨水,就像把它当雨伞用一样。”

“如果你想真正利用大型语言模型来发展你的公司和事业,你根本就不应该去提示(prompt)。”

“我的特邀嘉宾是一位人工智能战略家,他帮助公司采用人工智能工具。他是 Everyday AI 的创始人,这是一家媒体公司和咨询公司。他还主持了 Everyday AI 播客和时事通讯,他的课程是 Prime Prompt Polish。Jordan Wilson,欢迎来到节目。今天过得怎么样,Michael?”

“我过得很好,谢谢你的邀请。你知道,没有什么比每天都有播客比能参加你的播客更棒的了,你知道吗?所以是双重任务。我很兴奋。”

“太好了,很高兴你能来。那么今天,呃,好吧,实际上,让我们直接开始聊聊你是怎么进入人工智能领域的?我很好奇你的旅程,因为我知道你在进入人工智能之前做过其他事情,我们都做过。请讲。”

“是的,我会,我会,我会尽量简短地说,因为我知道每个人都有自己的故事。呃,所以基本上发生的是,我有一家营销机构。我记得当时是我们业绩最好的一个月,团队很小,我想大概有六个人。那是在 2020 年。然后出现了一项新技术,它是 ChatGPT 的前身,但它是 OpenAI 的 GPT 技术。它在 ChatGPT 出现两年前就开始面向许多营销人员和广告商使用的产品和软件推出了。所以,呃,我记得,你知道,在新软件发布的那天,我把团队召集到一起。我说,好吧,你知道,这看起来很有希望。在几周和几个月后,你知道,我曾有过新闻业的背景,我说,等等,当你真正开始理解和使用这项技术时,它就和我们一屋子的人类专业人士一样好。呃,甚至如果你回溯到更早,在我创办那家公司之前,在实际的商业计划中,我说,嘿,我要创办这家营销机构。我打算经营它大约五年。我所做的就是攒钱,因为我觉得会有某种新技术出现,我不知道它是什么,但它会让我擅长的大部分工作变得过时。所以,我完全不知道那会是生成式人工智能和大型语言模型,但我一直在为此做计划。所以,可以说,这就是我的底线,使用 ChatGPT 的前身,并看到它有多好。作为一名前记者,我看着它,我说,是的,这可能就是我在商业计划中想到的,它将标志着我职业生涯的转变。我的意思是,我记得,我甚至不记得那个工具到底叫什么名字了,但我知道有一个工具一直在改名字。你知道我说的是哪个吗?”

“哦,是的,是 Jasper Jarvis。是的,是的,是的。那就是当时在做所有营销的那个。我开始使用它。我也有写作背景,我说,这个东西只是还可以。你知道我的意思吗?说实话,一开始有点令人沮丧,但天哪,当 ChatGPT 发布时,那绝对是改变游戏规则的。”

“那么,那么能多告诉我们一些你现在在做什么吗?”

“是的。我现在所做的事情绝对是疯狂的。我整天都在使用人工智能,谈论人工智能,教别人关于人工智能。这是最令人兴奋的事情,也是最令人抓狂的事情,因为即使是像我这样每天花 10 到 12 个小时去探索这项技术边缘的人,也跟不上。对吧?我感觉当我差不多三年前开始做这件事的时候,我能感觉到,无论每天发生什么,我总会处于最前沿。现在已经不是这样了。生成式人工智能已经渗透到我们生活的每一个角落,我们技能的每一个角落,以及我们使用的每一个工具或企业软件的每一个部分。人工智能真的无处不在。所以,我所有的时间都花在努力精通公司最常使用的人工智能技术上。”

“你几乎每天都在直播,是吗?每周五天还是什么的?是这样吗?”

“周一到周五,早上 7 点 30 分,芝加哥时间。是的。呃,它,它,它,以直播的形式进行也很有趣,对吧?嗯,是的,有时需要录播,但直播很有趣。”

“所以,你通常直播多长时间,你基本上只是报道新闻,以及你对它的看法?是这样吗?”

“不,所以,是的,节目通常是 30 分钟。我尽量让它们简短一些,因为我知道很多人把它当作晨通勤的一部分。对吧?我真的有人说过,你知道,一些中型企业的首席执行官说,是的,我不得不推迟我的会议,因为我真的很喜欢这一集,而且你无法足够快地结束。呃,我有点健谈。但是,不,不只是新闻,对吧?所以,是的,我们有一些每周的节目环节,我们在周一报道新闻,你知道,周三是更实际的动手学习。但是,是的,我们做了很多采访,你知道,真的从,你知道,任何可以想象的角度来报道它。”

“太棒了。好的。所以各位,我们有幸请到了 Jordan,因为他每天都站在我所说的混乱的最前沿。这很有趣,因为我以前称社交媒体是世界上变化最快的行业,它确实是,但现在它看起来就像是,它就像一个斜坡。与人工智能的步伐相比,它看起来就像是蜗牛,社交媒体的步伐。现在,我想知道,关于提示(prompting),这是我们每天与人工智能打交道的一个重要部分,关于提示(prompting),大家似乎都犯了一个什么大错呢?”

“那就是你认为你应该去提示(prompt)。呃,哦。因为你不应该。嗯,你知道,提示(prompt)在很大程度上是为了获得输出,对吧?提示(prompt)不一定只是,哦,我按回车键,你知道,我将令牌发送给一个大型语言模型,对吧?提示(prompt)是你想要输出的时候。所以,我想人们犯的最大错误是把,呃,你知道,ChatGPT 或 Claude 或 Gemini 看作是更智能版的谷歌搜索,因为那是最糟糕的。绝对最糟糕的使用方式,呃,就是如果你,你知道,只是想得到一个快速的答案,或者你知道,一个写得更好的博客文章之类的。那是绝对最糟糕的使用方式。我喜欢用一个类比来解释人们是如何完全误用大型语言模型的。我说,这就像你拥有一辆法拉利,但你只是用它来遮挡雨水。就像你把它当雨伞用。所以,如果你所做的只是提示(prompt),进去然后,你知道,试图找到一个提示(prompt),这就好比拥有一辆跑车却不开它,但你知道,你说,好吧,嘿,我有了这个是为了保护自己免受雨淋,对吧?我,我,我干了。就像,好吧,是的,你可以为此买把雨伞。所以,是的,如果你把它当作一个确定性的搜索引擎来使用,那就去用,你知道,谷歌的 AI 模式吧,对吧?如果你想真正地,呃,利用大型语言模型来发展你的公司和事业,你根本就不应该去提示(prompt)。”

“好的。哇。这是一个引人入胜的观点。嗯,所以我想我的真正问题是,好吧,我们将在稍后介绍你的模型。你提出了一种新的思考提示(prompting)的方式。在我们介绍它是什么之前,我想让你解释一下为什么它如此重要。换句话说,如果人们密切关注我们今天将要讨论的内容,当他们应用和采用我们今天将要讨论的内容时,会带来哪些好处和优势?”

“绝对。首先,你必须经历一个不舒服的认识,那就是大型语言模型,当你以正确的方式使用它们,当你使用前沿模型时,它们比我们更聪明。它们比我们更聪明,对吧?嗯,我曾是一名获奖记者,我曾是普利策研究员,即使在模型变得好之前,当我学会正确使用它时,我说,等等,这个东西比我写得好。所以,我认为如果你想充分利用一个模型,你必须首先经历那个不舒服的认识,是的,这个东西比我好。即使你已经做了 10 年某件事,对吧?我靠写作谋生已经 25 年了。它比我写得好,如果你知道如何正确使用它。所以第一,你必须经历那个不舒服的认识,即这些模型更好,而大多数人不会经历这一点。但我认为,在,你知道,也许两三年后,会更容易看到,哦,是的,也许在,你知道,2023 年、2024 年,我应该得出这个结论。对吧?因为人们仍然把大型语言模型看作是,我们有答案,我们只是在指导它们。不,你需要经历一个适当的,呃,上下文工程或提示工程过程,在那里你正在协作,呃,或者你知道,与大型语言模型成为同事。你知道,这有点像,你知道,传统的,你知道,人工智能和,你知道,增强智能之间的区别,那就是,我与模型合作,让模型在我的用例中变得更好,而模型也希望与我一起工作,让我成为一个更好的人,对吧?所以,如果你以正确的方式使用大型语言模型,在上下文窗口内工作,以真正地,呃,扩展你和模型可能实现的潜力,这是一个循环反馈循环。”

“好的。所以,我听到了你说的话。我听到你说,首先,我们需要承认这些人工智能模型比我们聪明得多。这是我听到的第一件事。我听到的第二件事是,拥抱它们并以正确的方式拥抱它们的好处或优势,我们将在一两分钟内解释这是什么,它将解锁一些东西。比如它为你解锁了什么?就像,能告诉我们一些你因此获得的好处吗?”

“是的,它为我解锁的是,即使我没有一个完整的团队支持我,我也感觉我有一个完整的团队在支持我。对吧?很多人,你知道,当他们看到我们每天发布的内容量时,他们会说,哦,你们团队有多大?我说,有,你知道,另外两个人稍微帮忙。对吧?通常当你看到我们能够生产的东西时,你会认为,哦,有 5、6、7、8 个全职人员,呃,实际上不是。对吧?所以这是,呃,回答你问题的后半部分。呃,但我确实想稍微回顾一下,如果可以的话,因为,你知道,当你把我的话复述给我时,Michael,我听到你说,我想,我知道会有人怀疑这一点,对吧?当你听到,哦,大型语言模型比你聪明,呃,因为你总是在网上看到这些东西,对吧?在社交媒体上,有人分享,就像,我的天哪,这个,你知道,这个 ChatGPT 或 Gemini,它不能算两个加两个,或者它不能数草莓的数量,对吧?所以这个 Jordan 哥们,他是个十足的白痴。如果他认为这些大型语言模型更聪明,嗯,在大多数情况下,在网上分享这些的人肯定不是在用它,对吧?嗯,而且有一个概念,你知道,锯齿状的,你知道,锯齿状的人工智能,对吧?而这意味着,即使大型语言模型正在发现新的科学,对吧?解决数学问题,困扰数学家几十年了,你知道,从六十年代开始,总会有一些用例,如果你不知道你在做什么,或者如果你故意,你知道,问一个错误版本的模型,一个复杂的问题或一个简单的问题,它都会出错,对吧?所以你只需要理解,呃,对。这和我们一样,对吧?如果我们这里有一个现代的爱因斯坦,我们可能会问爱因斯坦一些关于琐碎事情的简单问题,爱因斯坦会出错,对吧?但是如果你和爱因斯坦合作,如果你,呃,进入爱因斯坦的专业领域,你很可能会得到那个水平的结果。”

“是的,这很有趣,当我听到你说爱因斯坦时,我正在想爱因斯坦。我本来想说,如果你让爱因斯坦凭记忆画一个香蕉,他可能做不好,但如果你让他做数学计算,他会做得很好。所以。好的。那么我的下一个问题是,能跟我谈谈模型吗?因为我知道,当我们为这次谈话做准备时,你说正确的模型,你知道,我们谈论了理解它们对人们来说很重要,他们必须为正确的,你知道,项目拥有正确的模型,或者之类的。比如,我们需要了解什么?因为,你认为我们现在已经到了可以只用一个系统来处理所有事情的地步了吗?还是说,理解如何为不同的事情利用不同的系统更明智?你对此有什么看法?”

“是的,你可以,这是我经常收到的最常见的问题之一。嗯,甚至有人问,你知道,嘿,我能以同样的方式提示模型 A 和模型 B 吗?答案是,你知道,不是为了给出 SEO 的答案,但你知道,这取决于。是的。呃,对。嗯,因为所有模型,技术上来说,它们都有很多相同的训练数据,但它们也有一些不同和独特的数据。模型也是由不同的人训练的,对吧?通过人类反馈强化学习的过程。嗯,然后所有模型都有不同的系统提示。所以,你知道,即使只是表面上,也有至少三个不同的层面,事情可能会非常不同。所以,是的,你可以,你知道,引用“引用”与同一个提示(prompt)一起工作,它可能在 Claude Opus 4.5 中表现得非常好,而在 GPT 5.2 中可能表现得非常糟糕,呃,对。所以你不仅有,你知道,你知道,不同的实验室和不同的,呃,训练,嗯,它们所包含的,不同的数据集等等。但是,即使你在同一个系统内工作,它也非常重要。你知道,可能是最受欢迎的系统是 OpenAI 的 ChatGPT,它的首席执行官 Sam Altman,今年夏天说,当时有选择的付费用户中有 93% 没有选择一个思考模型。我敢肯定,如果你愿意,我们稍后会更深入地探讨这一点。呃,对?而这意味着,即使是付费用户,当他们有选择时,他们选择了更笨的模型。对吧?它当然更快,但结果却呈指数级变差。所以,你知道,OpenAI 当时的解决方案是,当时他们有,你知道,GPT 系列的模型,然后他们有 O 系列的模型。这些是更具思考性或推理性的模型。所以它们在底层的工作方式略有不同。所以他们说,好吧,我们只是,你知道,在 GPT 5 及以后,我们只是把它们都放在同一个保护伞下,对吧?嗯,理论上是好的,但同时也很糟糕。呃,因为你仍然有,我认为绝大多数人犯了导致这些锯齿状结果的错误,那就是选择了错误的模型。呃,你知道,很多人,呃,不明白 OpenAI 在一个月前就取消了这个模型路由功能,呃,呃,这个功能本应,呃,自动决定,嘿,如果这是一个困难的查询,呃,我们将把它发送到一个思考模型。所以他们当时在夏天推出 GBT 5 时大肆宣传,然后他们悄悄地取消了它。人们想知道为什么他们没有得到好的结果。嗯,这个模型现在,在 ChatGPT 中默认情况下,除非你选择它,呃,它被称为 GBT 5.2 instant,实际上根据第三方基准测试,它是世界上第 24 个最好的模型。而如果你选择 GPT 5.2 的正确模型,它是第一个最好的。所以,谈论巨大的差异。呃,对?这不仅仅是一个技术基准测试。这是你的输出。这是你可能用于你业务某个方面的工作,对吧?如果我能拥有世界上最聪明注册会计师,或者最聪明的律师,或者最聪明的财务分析师,而我实际上故意选择了那个不太好的,对吧?那是人为错误,对吧?我认为人们在人工智能方面犯错的很多原因,然后他们分享并说,哦,是的,我们的工作是安全的。看看这些模型有多笨。而大多数时候,我都会说,那是人的问题,对吧?那是因为你没有花时间去了解这些模型是如何工作的,并在正确的时间为正确的问题使用正确的模型或正确的模式。”

“快速说一下,我知道你正在观看这个视频,因为你想掌握人工智能,但说实话,人工智能让人不知所措,对吧?哪个工具?哪个工作流程?你从哪里开始?但是,当你弄清楚这一点时,你的行业里有一些营销人员正在成为他们组织中不可或缺的一部分。他们没有加班,他们只是掌握了人工智能的实施,这给了他们真正的工作保障。是什么让这一切与众不同?人工智能商业协会。在那里,你可以获得专家从业者的实际培训,他们向你展示真实的工作流程,而不是理论。你加入了一个营销人员社区,他们正在解决你面临的相同问题。你可以获得可以立即实施的策略。你从不知所措到自信,从自信到不可或缺,从不可或缺到无懈可击。你就是你老板依赖的人,是第一个挑选新项目的人,是职位得到保障的人。想要那样吗?请访问 AI Business Society 的信息了解更多。”

“是的,这很有趣,因为,我是一个活跃的 Claude 和 Gemini 用户。我也有 ChatGPT,嗯,但 Gemini Pro 非常好,嗯,尤其是在图像方面。就像没有什么能与之相比。很多人甚至没有意识到他们还在使用 ChatGPT,而 Claude 在写作方面真的非常非常出色,你知道吗?就我而言,它更胜一筹。但如果他们不出去尝试,他们就不会知道。我认为这就是为什么确保你进行尝试非常重要的原因,而且你可能甚至因为你的工作地点而能够访问其中一些工具。所以,例如,你可能拥有 Microsoft Copilot,或者你的系统中可能内置了 Gemini,你知道我的意思吗?而这些东西非常强大。所以我们今天不会深入技术细节,因为我们真正想做的是深入探讨我们今天要介绍的概念,那就是如何使用正确的模型。而你可能一开始不知道什么是正确的模型。所以,我认为尝试一下是关键。但是,我们从你的模型开始怎么样?我甚至不知道怎么说。你的框架可能是一个更好的说法。是的,不,是的。谢谢你为我铺垫。所以,是的,我们实际上一直在教授上下文工程,直到上下文工程成为一个事物。你知道,我将,呃,我很乐意,呃,分享提示(prompting)和提示工程以及上下文工程之间的区别。嗯,但近三年来,是的,我们从 2023 年开始做这个免费的 Prime Prompt Polish 课程。所以,我probably 做了大约 220 次现场课程,面向大约 15,000 人。嗯,基本上,它将提示工程分解为正确的方法。呃,对。嗯,如果你看,你知道,我们稍后可以展开,但,你知道,如果你看研究论文,我知道这可能有点无聊,尽量不要太技术化,呃,对?但是有一个叫做“shots”的概念。所以,你知道,也许你听说过,你知道,零样本提示(zero shot prompt)、单样本提示(one shot prompt)、少样本提示(few shot prompt)等等。但基本上,所有的研究论文都表明,无论你使用什么模型,在提示工程技术中涉及的 shots 越多,结果就越好。简单来说,对于普通人来说,这意味着当你与模型合作时,对吧?你可以得到爱因斯坦的结果,也可以得到白痴的结果。而很大程度上取决于你在模型之前分享的上下文以及你给模型的“shots”,或者你给模型例子,这里是输入,这里是输出,这里是好的,这里是坏的,以及原因。所以这类似于你在前端微调模型,呃,对?但基本上,呃,所有模型都是这样工作的,你,人类,呃,真的有,呃,责任在你。如果你想要一些比模型在没有经过提示工程或上下文工程过程的情况下给你的结果好得多的东西,你必须付出努力。对吧?很多人认为人工智能是一个简单的按钮,但它实际上是一座桥梁,你,你自己,人类必须与人工智能一起建造,并且必须了解不同系统如何工作的规则。”

“好的,很酷。所以,让我们从你的上下文工程中的第一个词开始,那就是“prime”。能告诉我们那是什么,为什么它很重要吗?”

“是的,这非常重要,对吧?所以, priming 本质上就是上下文工程。所以,这是你与任何大型语言模型进行的过程。你知道,我,我,呃,呃,呃,你知道,多年来一直这样设置,以便与 ChatGPT 很好地工作,但只是为了让任何人想知道,对于大多数情况,你可以用任何大型语言模型做到这一点,只要你了解上下文窗口之类的东西,你知道,如果你愿意,我们可以深入探讨。嗯,它应该工作得很好。但是 priming 本质上是你与模型协作的过程。但在这一点上,你只是在分享信息,嗯,你明确地告诉它,不,我还不需要输出。所以最简单的解释方式是,这是一个心态的转变,真的。我总是给的例子是,好吧,让我们把你置于 Michael 的位置,对吧?你正在为你的组织招聘 100 名员工。对吧?你有几种方式可以做到这一点。你可以直接招聘所有 100 名员工。他们走进房间,你扔下一本大的培训手册,然后说,去工作。你的第一个任务是做一个小时的工作。对吧?这相当于复制粘贴提示(copy and paste prompts)。这 100 名员工会有点困惑。有些人可能非常有能力。呃,你可能会得到一些很好的输出,你可能会得到一些糟糕的,但很可能只是很多困惑,很多胡言乱语。对吧?当你点击,点击大型语言模型中的新聊天按钮时,情况也是如此。所以通过 priming,你实际上,而不是告诉这 100 名员工,这里有一个大的复制粘贴提示(copy and paste prompt),给我一些东西。现在你正在经历一个过程。你知道什么?这里有一些信息。呃,对?让我们进行一些来回的交流,就像你与人类交流一样。你让他们经历一个入职培训计划,呃,对?技术上来说,一些强化学习,对吧?你问问题,是的,这很好。不,那不太对。让我们看看这份文件,它解释得更清楚一点。所以,所有 priming 就是,我们可以将其分解为,我们教授的是 refine q,所有这些就是,你正在经历一个过程,你正在分享关于你的业务,关于输出,关于你最终要分享给谁的受众,关于你的期望等等的上下文。所以,这就像你有一个来自四大咨询公司的顾问与你一起处理你正在做的任何项目,但你正在培训他们,并给他们提问和迭代的机会。”

“太棒了。我很想听听关于这个 refine q 的事情。”

“是的。所以,是的,我们开始深入研究了,但让我先说,你可以快速地讲完。是的,我们会这样做的。所以,refine q 只是一个缩略语,代表我们喜欢的正确 priming 方法。所以,这是角色分配,ChatGPT 角色。你提供输入和输出的例子,说明该角色应该经历什么。然后,呃,fetch 和 insights,它们有点一起工作。所以大多数人不知道,大型语言模型,呃,很多时候它们的数据非常非常陈旧。呃,对?即使知识截止日期是 2025 年,很多模型都是基于离线数据集训练的,数据可能非常陈旧。所以,在 fetching 和 insights 中,对吧?我们告诉,呃,你知道,在这种情况下,ChatGPT,去获取这些信息。有时是从网站,有时是从你可能上传的 PDF,然后你告诉它提取特定的见解。很多人犯的错误是,当你试图与大型语言模型分享上下文时,哦,我只是上传这个 100 页的 PDF,它就会知道一切。不,那是错的。呃,对?当你分享上下文时,所有这些东西,它们就像书架上的书,并不意味着我知道,或者你知道,它,你必须告诉 ChatGPT,去看看第四章,然后从中提取这些东西。所以这就是 fetch 和 insights。然后我们有 narrate。在那里,我们告诉 ChatGPT,呃,我们受众的叙述,无论是你自己,还是你为别人在销售页面上写的东西,然后我们解释期望,然后我们明确地以 Q 结束,我们告诉 ChatGPT,你必须通过这个来,呃,提问,对吧?我不想你,无论输出是什么,你解释了,呃,在角色和例子中,呃,我还不想要那个,对吧?我还不想要 SWOT 分析,我还不想要 KPI 仪表盘,我还不想要财务分析。首先,问我所有你有关于我分享的上下文的问题。所以,这基本上就是 priming 的核心。你经历几次迭代,直到看起来,是的,好的,现在 ChatGPT 知道了,就像你培训一群人类一样,你说,好吧,现在这些人知道了。好的。所以,我听到了你说的话,角色,首先,角色是什么?其次,例子,第三,fetch,呃,/insights,或者 fetch 和 insights。嗯哼。这就像,呃,去那里找到信息,或者看看我附加的见解,这些不是你想要的例子。而且,顺便说一句,例子是你想要的输出的例子,大概是吗?”

“正是如此。所以它有一个模型,然后是 narrative,narrate,这实际上是一种描述受众是谁的方式,对吧?所以,在那里,你详细说明了你正在针对谁,他们的痛苦等等。期望。我猜那意味着对角色的期望。是这样吗?”

“是的,所以在那一点上,你正在总结很多东西,所以你正在解释,呃,对 ChatGPT 的期望,并且你说,嘿,我给了你所有这些信息。所以这有点像一个总结,解释你最终会要求 ChatGPT 做什么,但然后铺垫,现在不要做,问我问题。好的。所以,我很好奇,这些是一次互动完成的,还是你上传了一个巨大的文件?”

“这是一个很好的,呃,一个很好的问题。呃,我通常教授的方式是同时完成所有这些,因为,例如,当你一次性给大型语言模型所有这些上下文时,好吧,我应该先说明一下,你应该使用一个思考模型来做这件事,对吧?呃,因为如果你这样做,那么它就能同时拥有所有这些上下文,然后给你好的问题,对吧?嗯,同样,对吧?回到培训一百个人的类比,你可能会先给你的员工发一封电子邮件,或者一个快速的单页文件,对吧?关于培训周的期望,对吧?这基本上就是我们在这里用 refine q 这个过程所做的。它是一个大块。我把它分成七个不同的段落。呃,对?所以,每个字母一个,呃,按回车键,确保你在思考模式中,看看思维链,然后继续下一步。”

“现在只是出于好奇,当你问它是否有问题时,比如,你对如何询问问题有什么建议吗?比如,你是否说,如果需要任何澄清,一次问我一个问题?或者我们,我们在那个问题部分关注什么?”

“是的。总的来说,嗯,我认为要从大型语言模型中获得最佳效果的方法是不要设定太严格的期望,嗯,当你在迭代阶段时。呃,对?所以,如果你说,给我五个问题,好吧,也许有八个问题需要问,对吧?嗯,所以,我,我至少在刚开始的时候会说,永远不要设定硬性期望,嗯,你真的需要去探索,对吧?而且实际上有一件事应该有帮助。也许我应该,呃,之前提到过,因为也许你,你,你正在听这个,你说,等等,这似乎需要很多工作。是的,是的,没错。是的,对吧?所以,呃,有一个序言,我称之为“五五五”,对吧?但这基本上有助于你思考工作的未来。你应该只通过这个过程,一个适当的提示工程过程,总的来说,我认为,当,你知道,这是你可以重复使用或扩展的事情,对吧?所以,如果你每周做一次,很好,经历这个过程,对吧?但我真的把它想象成,如果你可以雇佣任何人,对吧?你想雇佣谁,而且是免费的,你需要雇佣五个人吗?你需要雇佣十个人吗?你需要雇佣 50 个人吗,对吧?所以要非常具体,并这样想。你正在培训一个员工,他将来只会做一项非常具体的工作。所以你可能会说,哦,好吧,我只需要有人帮助写文案。好吧,难道你不能有 50 个文案写手,他们都有非常专业的知识,而不是一个更通用的吗?是的,可能。所以当你经历这个过程时,你确实有可扩展性和可重用性的问题,而且正如我所说,如果不是这样,你很可能只想使用搜索中的 AI 模式之类的东西,对吧?如果你只是想快速得到答案,也许这不是,但如果你想要一些能帮助你,嗯,帮助你更好地思考,嗯,更好地制定策略,为你的工作产出更好的结果,那么经历这个过程通常是值得的。”

“是的。我将翻译我所听到的。我听到的意思是,你的目标是创建一个自定义 GPT 或 Cloud 项目,或者 Google 中的一个 gem,这样你最终得到的是一个经过训练且可重用的东西。我听到的就是这样吗?”

“正是如此。正是如此。好的,很酷。所以,我们花了相当多的时间在过程的第一部分,也就是 priming 过程,我有效地听到你说这是过程中最重要的一部分,对吧?因为大多数人只是跳到我们稍后要讨论的下一阶段,对吧?所以,我听到的主要好处是,这正在利用,嗯,这些模型拥有的所有见解,这是巨大的,并且正在缩小范围,对吧?并且它为你进行了高度定制。我的意思是,这样说公平吗?”

“百分之百。是的。而且,而且,而且这就是原因,对吧?人们不明白大型语言模型有多么庞大,对吧?它们有数万亿个参数,呃,你知道,它基本上摄入了人类有史以来发布的所有信息,甚至不仅仅是互联网上的信息,甚至包括离线数据集。所以,是的,这就是为什么你真的需要做很多工作。我喜欢说你需要让模型变得更小、更聪明、更具体,呃,针对你的用例,并最终可扩展和可重用。所以,是的,我认为,你知道,把它看作是,好吧,最终我将使用,呃,这个结果来创建一个自定义 GPT 或项目,呃,你知道,这是一个很好的思考方式。但是的,真的把它看作是一种技能,呃,你将,呃,重复使用,而不仅仅是一个输出。而且我认为在进入这个过程时,以这种方式思考很重要。不要想着要一个输出或需要一个输出。因为那样你会匆匆忙忙地完成它,而你真的不会给那个员工他们需要的培训。”

“太棒了。好的。那么,一旦我们完成了,呃,呃,prime 部分,下一个部分是什么?”

“是的,你抓住了重点。Priming 确实需要很多时间。因为那是上下文工程和分享,对吧?但之后,你进入了提示(prompting),但通常有一个小技巧在你进入之前。呃,那就是我们一直称之为记忆回忆的概念。嗯,你知道,很多公司现在开始将这个功能整合到他们的大型语言模型中。呃,现在,嗯,Claude 最近推出了,它叫做上下文压缩或自动压缩。而这基本上就是,因为,你知道,大型语言模型确实有一个定义且技术上有些有限的上下文窗口。所以你与它互动越多,技术上来说你应该这样做,一些你早期分享的东西可能会从上下文窗口中消失。这就是为什么一个大型语言模型有一天,或者你知道,在早上 7 点时看起来很棒,而在下午 5 点时你却觉得它很糟糕。呃,这就是原因。所以,在你澄清之前,因为你一直在使用相同的线程,对吧?这就是你所说的,是的,是的。”

“但是即使在同一个线程中,对吧?是的,它最终会开始忘记事情,因为它没有,呃,是的,它有记忆,它可以引用过去的聊天记录,所有这些东西,但它不会记住所有,呃,对话的细微差别和细节。所以,在你进入提示(prompting)之前,你确实需要说一些类似的话,嘿,回忆一下所有重要的事情。你知道,给你一个我们对话的总结,然后被推到上下文窗口的底部。在你进入提示(prompting)问题之前,你是否要求它,呃,只是简单地回忆什么重要,还是呈现什么重要?我只是好奇,在你看来,这有什么区别吗?”

“是的。嗯,我通常使用的语言是,我说,请回忆所有重要的事实,呃,决定,这可能对你作为向一个没有历史或不了解这次对话的大型语言模型提供我们对话的指示有帮助,对吧?嗯,然后,你知道,你应该检查一下,你说,哦,我忘了这几个细节。你可能会想,好吧,Jordan,为什么不直接从那里开始呢?对吧?你,人类应该直接开始。好吧,你不知道一个大型语言模型需要什么才能达到你的结果,大型语言模型也不知道。所以,这就像你几乎必须经历,呃,你,你,你知道,那个一起工作的时期,这就像,你为什么要雇佣一个顾问?对吧?一个大型咨询公司,花费,你知道,六七位数,如果他们最终只是说,好吧,你知道,这是,我们做了,你知道,我们的便利贴在板上,你知道,这是你的报告。好吧,有时你必须经历那个问答过程。你必须挑剔并捍卫你的立场,才能达到那个点,你知道,什么最终是重要的。但是,是的,你知道,你基本上是带着一种定制指令的版本离开,但至少,你知道,对所有被确定为对未来重要的内容进行总结。”

“好的。那么,呃,什么,好的。所以,所以,我听到的意思是,你附加了这些重要信息,也就是这个记忆回忆的概念,呃,在你开始提示(prompt)之前。所以,假设到目前为止,我们一直在互动,我们已经准备了一些信息,我们已经把它呈现给模型,我们已经要求它向我们提出澄清问题,我们已经回答了它,我们已经准备好开始给它一些事情做了,大概是吧?而且,在我们这样做之前,因为这里可能会有很多互动,取决于这里发生的事情。所以我们想说,嘿,做一个记忆回忆,回忆我们谈论过的所有关键信息,这对你有效地完成你的工作非常有价值。大概是这样吗?它会给你一些总结,就在这个页面上。你可以快速看一下,确保它是对的还是错的。如果错了,你可以说,哦,你在这里不太对,然后我们就准备好迎接我们称之为提示(prompt)了,对吧?”

“是的。你完全说对了。而且,你知道吗?幸运的是,因为 priming 相当详尽,提示(prompting)很容易。你所做的只是说,好吧,记住这一切。然后,第一次,给我那个输出。提示(prompting)在那时,呃,很容易。你所做的只是从你给模型的洞察和上下文中提取信息,然后你最终具体要求输出。重新概述一下总是好的,但提示(prompting)很容易。那是最容易的部分。这是,呃,在开始时将大型语言模型视为一个思想伙伴,并经历多步骤的 refined Q 过程,这实际上使提示(prompting)成为最容易和最短的部分。”

“好的。我想问一个澄清问题。在采访的早些时候,你提到了“shots”的概念,而“shots”就是例子,如果我没记错的话。嗯哼。嗯,如果我想要的东西不是,你知道,像文字一样,你知道我的意思,而是像一个顾问之类的东西,那么它有多重要?在这种情况下,我们使用什么样的“shots”?我问的这个有意义吗?”

“是的,不,绝对。所以,呃,也许我可以分享一个快速的例子,如果可以的话。是的,请说。是的。嗯,所以这是,这是我课程中的一个例子。嗯,所以,你知道,即使对我来说,对吧?我经历了,呃,这个过程,呃,为 Everyday AI 进行竞争性分析,呃,对吧?嗯,呃,我要求第一个输出后的一件事,我经历了提示(prompt),然后我看了回应,然后你进入了打磨阶段,对吧?所以,如果你愿意,我将介绍第三部分。是的。呃,对?所以,模型提出的机会的一个例子是,好吧,呃,Jordan,你应该,你知道,做一个认证课程。我说,好吧,这很好,对吧?很好的例子。我提供了这么多免费信息,我真的很想教育。很棒的例子,ChatGPT。所以,当涉及到打磨或“shots”时,对吧?嗯,我经历了输入输出,好,坏,为什么。所以我说,嘿,在我的输入中,我给了你所有这些信息,我让你扮演,你知道,一个战略家,为 Everyday AI 创建一个 SWOT 报告。你的输出示例之一是你说我应该参加一个认证。然而,那不是最好的,对吧?所以,输入输出,坏,好,坏,为什么。所以我说,坏。我说,原因如下。我说,另外,在整个这个上下文中,我告诉你我有与 Google 的人,与 OpenAI 的人,与 Microsoft 的人有关系。我还告诉你,我曾在 DePaul 大学担任人工智能教授。所以,在这种情况下,对吧?你说,我应该参加一个课程。嗯,我难道不应该参加这个课程,并以某种方式获得大学认证,因为我有人脉吗?而且,我难道不应该与一些以前的嘉宾合作,对吧?因为我告诉你,你知道,在我提供的上下文中,我只能接受 2% 的嘉宾的推介,所以,我难道不应该,你知道,邀请一些嘉宾来帮助教育吗?对吧?所以这是一个例子,你知道,输入输出,它给了我不是那么好的,但我给出了一个在这种情况下会是好的输出的例子。所以我正在教它,我正在纠正它。我正在用红笔在纸上写。我说,嘿,输入输出,好,坏。为什么。很有趣。好的。那么这个有什么好处呢?就像,帮助人们理解为什么这如此关键。”

“是的,这是拥有一个,你知道,一个未经培训的实习生与你一起工作,与一个知道你脑子里所有东西的人的区别,对吧?这就是为什么,呃,很多时候对我来说,这听起来可能有点糟糕,几乎在,在,在大多数情况下,在我,你知道,雇佣一个人之前,我可能会先有一个 GPT,我会咨询它,或者我有一个 Cloud 项目,或者一个 Google Gemini gem,因为我已经经历了分享我所能分享的一切的过程,对吧?正在顺利进行的事情,正在不顺利进行的事情,呃,你,你知道,绩效指标等等。呃,对?而且我已经通过培训这些东西来真正地推动我,挑剔和试探,但要考虑到我的业务背景。呃,对?所以,当你这样看它时,我认为这是有意义的,呃,去经历这个过程,因为它真正是什么,呃,就是利用你最好的版本,结合互联网上最好的信息,可以帮助你实现你想要实现的任何目标。我不知道这是否回答了问题。不,它回答了。它回答了。而且我将以一种非常迂回的方式添加一点,对吧?我将,我将添加一点更多的见解。”

我的经验,嗯,我使用云项目,而云项目的优点是它们有记忆。当我开始看到大量重复的事情发生时,我不会回去修改系统指令,而是直接说:“嘿,别再这样做了,更新你的记忆。这不好。你明白我的意思吗?或者用这个替换那个,然后更新你的记忆。”这实际上就像和你的一个下属开会,说:“听着,这必须改变。”这基本上就是我们在这里谈论的,对吧?是不是?是的。所以我会先说这些,呃,呃,前言。嗯,你永远不想过度依赖某些功能,呃,这些功能可能会在你不知情的情况下在底层发生变化。好的,这很好。继续。是的,举个例子,对吧?嗯,OpenAI 和 ChatGPT,呃,它们是第一个拥有记忆的,当它们的记忆刚出来的时候。太棒了。嗯,我认为可以公平地说,它们的记忆,嗯,在过去几个月里有所下降。我实际上很喜欢 Claude 的记忆。嗯,但你不能把这件事交给运气,对吧?尤其是你实际上并没有太多控制权的事情。我知道,至少如果你在做项目,嗯,Claude 里有一个部分,你可以看到记忆,并且可以稍微调整一下。所以在这种情况下,它确实与自定义指令或系统提示的工作方式相似。嗯,但总的来说,尤其是如果我们谈论的是 ChatGPT,嗯,或者如果你在个人账户上使用 Google Gemini,你不想把太多东西寄托在一个你不太了解的特定功能上。嗯,你知道,这不像 OpenAI 的网站上有关于记忆的更新日志,或者 Claude 的网站上有关于记忆的更新日志。所以你没有太多精细的控制权。那么我们该怎么办呢?让我们以 ChatGPT 为例。比如,我们有一个,我们有一个很棒的,比如说,一个自定义 GPT,它为我们做得很好,但它似乎在一个特定领域反复出错,而且我们已经给了它一些反馈。我们如何有效地重新训练它?嗯嗯。你明白我的意思吗?是的,绝对。嗯,我认为迈克尔,这是一个非常重要的提醒,因为大多数人并不真正理解,嗯,底层的架构和脚手架,这些东西一直在变化,对吧?这些模型现在默认是自主的,这既令人惊叹,嗯,但也对人类来说有点难以驾驭。嗯,另一件事是,你看一个模型,对吧?就假设 GPT 5.2 正在思考,对吧?然后你得到了一个有效的答案,你说,太好了,我现在没事了,我进入自动驾驶模式了。嗯,很多人不知道的是,GPT 5.2 思考模型可能每两周更新一次。这并不意味着它变成了带有思考功能的 GPT 5.2。所以事情一直在变化。所以你,就像,我认为你能做的最糟糕的事情之一是,嗯,尤其是如果你,嗯,在日常工作中非常依赖大型语言模型,我认为我们实际上应该这样做,如果你没有正确地,嗯,界定和测试事物,而你却采取一种“设置好就不用管了”的心态,那可能会很糟糕,对吧?因为很多事情可能会在底层发生变化,嗯,而且你不知道。所以如果你只是盲目地信任,嗯,你,你知道,来自任何大型语言模型的,嗯,结果,如果你没有持续地正确地界定和测试它们,如果你没有,嗯,做基本的观察,而这些观察可以相当简单地完成,对吧?即使只是查看 ChatGPT 中的思考链,举个例子,如果你不这样做,是的,实际上过度依赖于,哦,这上周奏效了,或者,哦,嗯,记忆会记住的,它,你知道,你希望如此。嗯,但你真的需要多一点,嗯,你知道,控制。就像很多人有这个,嗯,你知道,这个,这个“人在回路中”,我讨厌这个,顺便说一下,我喜欢说“专家驱动的回路”。你需要驱动这些回路。嗯,对吧?“人在回路中”通常是这样的,好吧,当事情出错时,哪个,哪个人类是负责的,嗯,你知道,你真的必须积极地,嗯,扮演一个角色,与大型语言模型,模式,嗯,你使用的流程,嗯,而不是简单地设置好就不用管了。所以这是否意味着你主张,嗯,基本上,嗯,重新,嗯,加强,为了更好的词,指令集,嗯,并保留一份副本离线,大概是吧?所以你有一份副本,嗯,然后,嗯,并继续测试它,因为如果你不知道它在底层发生变化,它可能看起来曾经很聪明,现在却不聪明了。而且,嗯,你如此依赖它,以至于你甚至没有原始的指令集或其他东西。我的意思是,这就是我听到的你的意思。你应该 somewhere 保留一份副本,对吧?是的,绝对。是的,你应该。而且你知道,有很多,嗯,有很多方面你必须考虑,对吧?你是一个小团队吗?你是一个大团队吗?你知道,你有,你知道,技术人员吗?但如果你是一个较大的组织,甚至是一个中等规模的组织,是的,你应该将这些东西保存在离线状态,但你应该有人至少每周去一次,嗯,尤其是如果你有,这确实会发生,对吧?很多人,我不怕说出来。很多人把人工智能看作是捷径,是的,你团队中的某个人构建了一个很棒的 GPT,你能够使用它,然后你就坐视不管,把脚翘起来,然后说,好吧,它会没事的。嗯,对吧?你需要有人至少每周去一次,嗯,你知道,去查看,嗯,你的不同用例,界定一切,查看思考链,因为也许,你知道,你,你知道,也许你为你的公司构建了一个 GPT,人们正在大量使用它,然后,嗯,一次它,你知道,调用 Python 来做一些数据分析,然后下一次它就不这样做了,对吧?嗯,它跳过了这个过程。所以也许你需要说,好吧,我们需要更新我们的指令,因为也许 OpenAI 更改了,嗯,代理 X 的脚手架。也许它更改了模型处理某些查询的方式,但现在我们需要明确告诉它使用 Python 来做 A、B 和 C。所以当你看到模型做得很好并带来好的结果时,即使它不在你的自定义指令或记忆中,你也需要注意到这一点,你知道吗?是的,嗯,将这些副本保存在离线或单独的版本中是绝对必要的。但是的,你需要不断地,嗯,查看底层并更新正在起作用的内容,嗯,因为你也喜欢,好吧,如果出于任何原因,其中一家人工智能公司一夜之间将其价格提高三倍,而你突然亏损了,对吧?嗯,你必须模块化地思考,嗯,当涉及到在你的日常流程中构建一个人工智能模型时。我正在读一些听众的想法,他们可能在想,乔丹,这很复杂。而我则说,好吧,是的,这很复杂,但让我们在智力上诚实。人工智能的好处让我们在很多方面几乎可以变得超人,对吧?所以如果你想保留你的,嗯,所谓的增强功能,嗯,你必须进行维护,这根本不是一种“设置好就不用管了”的事情。而且,而且让我们不要忽视我们迄今为止获得的所有不可思议的好处。如果我们没有像乔丹所说的这样的系统,我们最终会被那些跟上步伐的人超越,那些人只是确保他们的模型实际上在做它应该做的事情。即使你有一个机器人,你知道,你仍然需要,就像,你需要时不时地给它上油,给电池充电。而有些事情我们需要做。我认为,乔丹,你开发了一个非常棒的框架,可以让人们至少能够理解这一点,以一种允许模型,嗯,跟上步伐,也让我们跟上模型的方式。这是一个非常强大的东西。非常感谢你与我们分享你的智慧。如果人们想,嗯,看看你的节目,嗯,Everyday AI,嗯,我记对了,对吧?就是这个名字。是的,你想把他们送到哪里,如果他们想和你一起工作,你想把他们送到哪里?是的,嗯,最好的,你知道,最好的两个地方可能是我们的网站,那就是 everyday ai.com。而酷的是,你知道,我们有将近 700 个播客,嗯,所以你可以在我们的网站上观看所有播客,或者,嗯,在 YouTube 上观看它们,在我们的网站上,它们都在那里,在我们的网站上收听它们。所以一切都是免费的。这是一个免费的、无偏见的、你知道,大学。所以去看看吧。嗯,或者只是,你知道,在 LinkedIn 上联系我,对吧?嗯,我们每天都在 LinkedIn 上进行直播。嗯,我在那里相当活跃,试图回答人们的问题,所有这些事情。所以这两个地方可能是最好的。非常感谢你今天与我们分享你的见解,乔丹,迈克尔。谢谢。