Transcription
胎教的时候,就已经在给他喂行业数据了。他一出生,他就懂得说黑话了。就[把]一个训练垂直模型的成本,大大降低了。就你以前想说,我做法律,我做金融,是需要一个自己的垂直模型的。但是谁敢去把他给训练出来呢?这样子的话,他相当于是懂了,这个行业的基本的行话嘛。然后又懂了你专有的数据。如果我现在在这个胎教的环节,我就给你弄好了,就会很好的去解决做大量后训练的问题。其实就拒绝了,现在模型那种当玩具这么一个属性。我觉得更多是真正进入到生产环境中,能让他真正能用上。已经开始从卷大模型,到去年卷Agent。但是现在我们又看到说,又可以去卷垂直模型了。就是垂直模型的scaling law,远远还没有结束。
今天很荣幸跟大家在线上观看了,亚马逊2025的re:Invent大会啊。那我觉得这次看完这个大会,给我最直观的一个感受就是,大家从卷大模型,卷Agent到现在,我觉得已经完全打开了,未来我们可以去卷垂直模型了,这样一个领域了。这一次大会的最核心的主题,应该就是agent的。对不对?那其实过去我们谈agent,其实谈得非常多。但是其实很多AI项目,或者很多AI agent的项目,最后都是死在了Demo里面。对吧?因为以前其实很典型的一个情况就是,大家是上限特别高。我一个东西做POC,做MVP,对吧?概念验证一下,最小可用产品,看起来都很屌。经常看起来很智能。但实际上你还没上生产线呢。你在测试环境多测两下,你就发现我靠,非常拉胯。可能会让你直接怀疑人生。
所以,我看到这次大会,他们提了一个词叫做POC (Proof of Concept)监狱嘛。就是概念验证,到生产环境的这样一个跨越,其实是非常非常漫长的。是过去我们其实做非常多的agent,其实都是做做成这种,像RAG级别的这种agent。对吧?就是通过这个知识库去搭建它。要么不够准确,要么就是自己训练的时候,又会遇到很多什么上下文遗忘啊,或者是说开始又自由发挥,不受控的情况。
那这次这个Amazon Nova Forge这个新的平台呢,其实我觉得对我印象最深刻一点,就是它支持,就是能够让你用你行业的数据,就在它预训练的阶段,就能够植入进去了。也就是说,在一个宝宝还没出生的时候,你胎教的时候,就已经在给他喂这些行业数据了。他一出生,他就懂得说行话了,黑话了。对吧?这一块其实你刚才一个比喻蛮接近的。其实这个Amazon Nova Forge,它是非常激进的。因为其他的模型厂商训练,从来没给你暴露过这种程度的东西。那你就可以在预训练中间,后面的一些环节,它能够让你把你自己专有的一些数据,和场景的数据,给它混合进去。那这样子的话,就相当于毛坯房的硬装,你还能参与进去。不会像以前,你只能看那些各种吊机装机,他们在里面打跟你没什么毛关系。现在的话,就真的会像你刚才说的,他胎教嘛。他正好快要生出来的那个期间,你把把你的一些东西植入进去。对,对,对,对。
也就是说,你如果选择了啊亚马逊云科技,然后你用了Amazon Nova,那你在预训练阶段的时候,就能够用你的数据,去训练一个你自己的这种行业模型。就[把]一个训练垂直模型的成本,大大降低了。就你以前想说,我做法律,我做金融,我做量化,或者是我做风控,各种各样的行业,其实我们都觉得说,好,我自己这个行业,是需要一个自己的垂直模型的。但是谁敢去把它给训练出来呢?对不对?我们看到这样的模型,真的是少之又少嘛。你更多是说在DeepSeek啊,千问上面,后期参数做一些微调,做一些对调优,对吧?顶天是这样子。但是谁能够真正在预训练阶段,把你的行业的数据融进去,让他原生第一天就具备了这种用行话,用行业思维来思考的方式?
当然,老修举咱们自己的例子啊,其实公司企业来讲的话,就是去存续时间很长的,还有巨大的这个数据对吧?过去的历史数据,还有需要训练的东西。然后呢,而且有些公司甚至连API都没有。那这种情况之下,竟然,他们能提供的这个底层模型和平台,能够在没有API的公司里面,也能够应用起来。现在这种agents这种方式来做,我觉得这一点上也是一个巨大创新。
对,这其实是在一个呃,很常见的一个ToB的需求嘛。就是我有非常多老旧的系统,有可能是10年前的对吧?但是这个系统,现在写这个语言的人也走了。对吧?我找不到人了。但是,我勉强保证,这个代码还它还能运作,没有太多的bug。但是,我一改可能就都是bug。对吧?或者是说,我有很多这种老旧的系统,现在根本就连API都没有。那叫我的新的业务,怎么去跟他协同工作?这其实是非常大的一个痛点呢。对吧?对。
就这玩意儿,我还记得,以前我们做那个企业服务的时候,经常被迫要做什么事情。就是比如说老旧那个ERP啊,你根本想不到,他有的时候可能不要说API,他自己内部都很难查清楚。那这个时候怎么办?我们可能手工去Hack一下,去截一下他们的各种API和一些脚本,然后我们去分析它的数据,都要都要这么干。那实际上,我,是发现到最新的这个Amazon Nova Act,这个产品,它实际上就是act这个部分。我们所谓的就相相当于给AI长了眼睛,跟手。这个东西的话,就是解决我刚才说的Hack的那个事情。我们以前Hack还是用技术的方式Hack的。那他的话,其实这一次是用到了这个,把一些工具,还有环境,以及整个大模型三样东西放到一起,包括浏览器。这个对。这样子的话,他才能够真的是针对你这个老破小的,这个环境,去真正的去理解。说,我在没有任何这种给我接口的情况下,我也可以理解你这个系统在做什么,然后去理解,你的数据流向是什么样子的。
他会里面提到一个是Web Gyms,然后能够把很多人,放到一个训练场里面,一起来训练。然后训练之后,这个就是训练出一种AI直觉。我觉得这个挺神奇的。模拟数据,其实是是很好的一个训练方法嘛。其实现在最新的那个DeepSeek那边,他有大量的数据就是模拟数据做的。DeepSeek3.2的很多的那个就是用这样训练的。所以应该说,现在是行业内,最好的一种弥补你那个互联网数据不够的方式。
像这个里面,我看到他一个实际的案例嘛,是租车的那个Hertz啊。然后他的话,呃,整个系统是非常老的。因为我不知道他那个系统至少20年了。对,然后有大量的老旧系统。然后然后他里面出来讲的那个人,刚好是做那个quality Assurance的,就是做质量保障的。所以,我特别能理解。你可能想象不到,他每一次上线一个版本,呃,为了测以前存在的版本,就是上线了一个新版本嘛。那我要测一下,以前存在的老版本的功能,要测多久?你可能想象不到,他要测3-4个星期是有可能的。那到现在的话,他这个上了这套系统之后,他能够提升五倍以上的时间,可能也就是一周以内左右,可以把这个事情给测完。那那这个的话,实际上是呃,是一个很很明显的一个一个飞跃。
之前有一段时间,就是Kiro也非常出圈嘛。对,我们我们也特别去想去用它。对,然后呃,最这一次发布会,他也特别提到了Kiro。对,老修可不可以跟大家讲一下,就是这一次,他们提的像Kiro的一些案例?
对Kiro这个东西的话,它最大的一个特点啊,就是说跟歌手是另外一个方向。就是Cursor其实大家知道说,大部分基本上都是做那个氛围编程的。Vibe Coding就是你极致的想要做,马上做,一个什么东西马上可以去做起来。嗯,就是很主打的就是一个随性,和一句话去需求。但是这个事情就是嗯,我们开篇就讲了,这个东西其实最大的问题是,基本上会留在POC监狱里。你真正把它要上线到一个可运营的产品,它其实还有蛮多的路要走。而且最早做的这个原型,可能大部分代码也都用不上。实际的痛点就是这个事情。
但实际上Kiro它解决了一个问题,就是说它是叫Spec-driven。你可理解成,它就是比较详细的一个文档驱动的一个开发方式。就是先策划再执行这件事情。它就适合是一个真正交付一个稳定的产品。那比如说我们常说,哎,我现在想要做一个这个CRM。我们可能对Cursor就喊一句这个话,他就去干了。对吧?他也不跟你确定个什么,他就干了。然后干了一会跟你说,这个是不是你要的?你会发现基本不是你要的。然后那到了Kiro,他是不让你这么干的。你说这个事情,他就会先跟你开始说,我们必须要先来写这个需求文档。它要产生一个requirement.md的文件。接下来的话,需求写出来了,能得到你的确认了,他再开始去产生一个design.md的文档,也就是设计文档。这些东西也得到你确认了以后,他再出一个任务清单的task.md。然后,只有当你这些东西都确认无误以后,他开始写代码。这个其实跟Vibe Coding是,你可以感受到它是完全截然相反的。所以到最终,相当于是这个叫我们叫SPEC流程,它是能够救你的命的。
对,其实很多企业他可能觉得,唉,那我Vibe Coding就很好了嘛。对吧?但实际上你通过Vibe Coding,老板觉得可以。但是程序员用的时候,很多时候其实程序员他无从vibe起嘛。最后只剩vibe,没有coding。就写了一大堆这种屎山代码,你可能也用不了,他也看不上。我,还不如我人工自己写。那其实像Spec文档,刚才老徐讲的这一套,就是标准的工作流。非常成熟的一个工作流。而且像q这样的产品,它自己也是亚马逊内部在正在使用的产品嘛。那应该是沉淀了一整套完整的知识体系,包括这种工作流程工作方式。包括你刚才讲,他每一步都会生成一个.md的一个文档嘛。其实这些流程在很多小企业,它是没有的。那你如果一开始,在构建第一个产品的时候,就不注重这些具体的流程的时候,你到后面一定会吃亏的嘛。你知道后面再强的Agent,可能也救不了你的死山代码了。
对,他在大会里面举的例子也是嘛,很震撼的数字啊。比如说代码重构的项目,30个人需要做18个月。结果真正做起来的时候,用了Kiro,然后才用了1/5的人,6个人对吧?做了70多天就做完了。所以就是说,真的有多少。他们亚马逊内部的一个项目,本身Kiro是带了一套,他自己成熟的这个方法论过来。而且他这里面在呃,有一些边界,就是说你他真正不知道的一些地方,他不会去装作他他知道。这点也挺重要的。因为其实我们用其他的工具的话,它背后训练的是那些大模型吧。比如说不管是Claude还是Gemini,还有OpenAI的Codex等等那些大模型。其实他们对于这种工作流是不太熟悉的。我举个例子,为了让你的bug通过率提高,他说这个bug不用修,这个bug不严重。这个我真的碰到过。恰恰就是因为不经过,没有经过企业流程的那个AI,它才会这样干。如果企业流程应该是非常清楚的,知道呃,有一些级别的bug,是一定不可以让他过的。但是他是对bug既不分级,然后他还为了专门去通过这个KPI,然后他把一些本来不应该过的bug,直接让他过了。这种,就是每种受过这种工作流训练的AI,会干的事情。但是在亚马逊的这个里面的话,Kiro的这块,你会知道有很多东西不不能做,然后你不懂的东西不会装懂。
这点我觉得特别重要。老修讲的这些就是有bug硬说没bug,这个事情就有点像Ilya之前讲的那个讨好型人格AI嘛。就他为了完成这个目标,为了是的达到这个结果,为了通过这个考试,他做了非常多的强化学习。但是最后变成了一个讨好型人格嘛。对不对?但是,这次亚马逊给到大家的一个做法,就是说我们用在ToB里面,这个事情是要可控的。就哪怕你只有1%的概率,那也是要去阻止它。
那实际上在它的Agent的这个这套编排的流程,其实它是支持自然语言,用自然语言去定义Agent的边界嘛。对,我觉得这个其实是我印象非常深刻的。就是他们一直在强调的。那我觉得目前就是,大家可能都是在看到Agent AI进步的方向,但很少有人真的在这一块,去用很多的力气来解决这些问题。包括我们自己做产品,就遇到非常多这样的问题。就很多时候agent或者AI为了讨好我们,就是硬把这个东西做出来了。但实际上这个东西做出来是不可控的。我们又没有一个去check的流程。那这个时候,我觉得这个对企业就非常有用。就是你可以用自然语言去定义它,agent的边界,什么能做,什么不能做,什么能退款,对吧?什么不能退款,什么话能说,什么东西不能乱发。对,我觉得这个是对我们自己来讲,也是一个非常痛点的一个需求。
我觉得我觉得今天小苏说那个感触,也是我的感触。就这个可控,一定是商业级别的可控。而不是说只是说,啊,一个图片生成的时候,多少生成一个手指,或多生成一个手指,这种创意性的可控。这一点是我这一次看他大会啊,最深的一个感觉。他不是一个那个纯粹用AI炫技,能让大家知道噢,现在你看AI又能做这个了,现在又能做这个。而真的考虑到企业以前在存续阶段,他留下这些历史问题,无论是代码啊重构啊,还是说要整个的流程上面,要怎么样加入AI啊。对吧?这是一个巨大的一个工程。怎么去做?然后这个不靠单点的去解决,一个AI模型的一个参数就可以的。一定是从安全呀,然后云呐,还有存储啊各方面去做。
我们之前讲过的很多问题,就是大模型本身,每一家的大模型,有自己的各种各样的人品级别的这个偏好。他们也有每家自己训练过的这种约束,但同样也有他们自己的漏洞。那这些东西其实是非常难管理的。然后在多Agent协作的时候,如果没有这么一个核心的,一个策略引擎,在下面去把一些硬的一些,我们说的红线嘛。对吧?我们的企业管理经常说这是红线,这红线的东西给你给你卡住的话,其实这个东西是,就是你怎么跑你都觉得很虚。就好像我们自己做过的一些产品,对吧?这个我们全靠那个大模型跑的。我们知道,总会有那么百分之几的概率,会出严重的bug。对吧?但是我们又不知道,它的百分之几会出在哪。对。
就是,我就想到一句话嘛,就总有人是在台前非常闪亮的,但也是总有人是负重前行的。就我们在聊AI的时候,我们聊非常多产品,ChatGPT、Gemini对吧?这些明星级的产品,他们当然很出彩了。作为我们每每个人的Co-pilot,让我们的效率更高。但是也有非常多在ToB的领域,像亚马逊这样,做着非常多的脏活累活,基础设施,搭了非常大的基建,是为了让我们这些创业者,能够在上面跑出一个可靠稳定的,能够去让这个商业社会运转的更好的,一些模型嘛。
那我觉得通过这次大会,我就看到说,哦,过去我们都在把AI讲成是一个魔法。对不对?哇,这个好神奇啊,这个好炸裂啊,这个是个魔法。但我觉得今天通过像亚马逊云科技,这种技术设施的厂商出来发声,告诉我们噢,你们不要只看到台上的明星,你们应该看到AI背后的这些基建。它也在进步。他每一个进步,能够真正把这个魔法变成一个魔术,就是变成一个可以拆解,可以教学,可以分享,甚至你也能够学得到的一个魔术。我觉得这个是一个真正的AI平权。
所以我个人看完这个发布会,我是觉得说啊,我们整个行业已经开始从卷大模型,到去年卷Agent。到 ILYA出来喊说Scaling law结束了。但是现在我们又看到说,我们又可以去卷垂直模型了。就是垂直模型的Scaling law,远远还没有结束。这是我看完这个大会,我觉得我自己非常兴奋的一个点。就非常高兴今天跟大家分享亚马逊的re:Invent大会。那我觉得通过我们自己,作为一个创业者,跟一个用户的角度,来跟大家分享,我们看到这次大会的一些兴奋点。也非常谢谢大家收看。希望下一次的大会,我们再见。拜拜。