📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

【人工智能】AGI的概念过时了吗? | Daniela Amodei | Anthropic | Claude 3.5 | 宪法AI | 对齐技术 | 安全伦理 | 谷歌大脑 | 生产力工具

最佳拍档16:53

Transcription

大家好,这里是最佳拍档。

Anthropic的联合创始人丹妮拉·阿莫代伊最近罕见公开亮相,分享了创业五年来的创业心路、技术判断和行业思考。二零二六年,Anthropic即将迎来五周年纪念。这份迟来的公开访谈,不仅揭开了这家神秘公司的面纱,更给喧嚣的AI行业带来了一份冷静的思考。

接下来,我们就顺着丹妮拉的讲述,一步步走进Anthropic的世界,看看它如何在巨头环伺的赛道上走出差异化的路线,又如何平衡技术突破、商业成功与安全伦理这三大命题。

首先,我们得从Anthropic的出身说起。很多人都知道Anthropic的核心团队来自OpenAI,但是很少有人清楚,这场出走并非源于矛盾,而是源于一个更清晰的愿景。丹妮拉在采访中回忆,包括她在内的七位联合创始人,在OpenAI时期就已经是并肩作战的伙伴。她的兄长达里奥·阿莫代伊、克里斯·奥拉、汤姆·布朗等人,此前还曾经在Google Brain共事。贾里德曾经是达里奥的Hertz Fellow,而她自己和克里斯·奥拉的相识更是长达十三年。

这种长期协作形成的默契,让他们在工作中逐渐凝聚出了一个共同的目标,那就是打造一家站在AI前沿的科技公司,既要开发具有变革性的AI技术,又要将安全性和可靠性放在最核心的位置。在OpenAI期间,他们参与了当时最前沿的一系列项目,从GPT 2到GPT 3的规模化推进,从早期语言模型的基础研发,到Scaling Law的核心研究,再到可解释性、对齐等技术安全方向的探索。这些经历让他们深刻的意识到,AI的巨大潜力背后,必须有坚实的安全护栏作为支撑。而这种安全优先的理念,需要一个完全契合的组织架构来承载。

于是,在二零二零年冬天到二零二一年年初,正值疫情高峰,所有人都被困在家中的特殊时期,他们做出了一个大胆的决定:离开OpenAI,从零开始创办Anthropic。丹妮拉说,那是一个既令人害怕又令人兴奋的时刻,未知的风险和清晰的愿景交织在一起,成为了公司成立的最初动力。

而Anthropic的融资故事,更是充满了电影般的画面感。二零二一年一月初,在他们十二月十八日正式离开原工作后不久,都聚集在了达里奥家的后院。那天正好下着雨,他们搭起了一个派对帐篷,所有人都戴着口罩,保持着社交距离。就在这样的环境下,他们向埃里克·施密特进行了融资路演。更巧的是,当时丹妮拉已经怀孕八周,怀的是她现在的儿子。这件事当时可能只有达里奥知情,甚至他都未必完全清楚。疫情的阴影、口罩的阻隔、雨中的帐篷、个人生活与职业理想的交织,让这个瞬间成为了Anthropic最珍贵的起源故事。而埃里克·施密特最终成为了他们A轮的投资人,为这家怀揣梦想却前途未卜的初创公司,注入了第一笔关键资金。

聊完起源,我们不得不聚焦Anthropic最令人惊叹的一点:在资源远逊于竞争对手的情况下,为何能多次推出SOTA模型呢?要知道,AI行业的竞争早已进入算力军备竞赛阶段。谷歌几乎补齐了性能差距,还拥有芯片、云、应用的完整垂直整合。Meta更是豪掷了五百亿美元自建数据中心。

而丹妮拉直言,Anthropic长期以来拥有的算力和资金,都远少于OpenAI、谷歌、Meta这些主要竞争对手。但是,资源的匮乏,反而塑造了Anthropic的核心竞争力。丹妮拉将这个成就,归功于两点:一是团队的质量,二是“用更少的资源做更多事情”的价值观。

这支从OpenAI、Google Brain走出的核心团队,不仅拥有深厚的技术积累,更在长期协作中形成了高效的研发模式。他们不追求算力的堆砌,而是专注于技术本身的优化,让每一分算力、每一块美元的投入,都能发挥最大的价值。这种克制和效率导向,让他们在资源有限的情况下,依然能在模型性能上实现突破。

更重要的是,他们对技术趋势的判断极其精准。作为最早提出Scaling Law的团队之一,Anthropic内部始终坚信AI技术的进展并没有出现放缓的迹象。丹妮拉提到,达里奥是个对技术趋势判断极为准确的人,而事实也证明,模型性能的指数级增长,一直在持续。虽然指数的增长总有终点,但是至少到目前为止,每一年都在印证着Scaling Law的有效性。这种对技术规律的深刻把握,让Anthropic能够在资源有限的情况下,精准押注关键方向,避免了盲目投入和资源浪费。

在商业模式上,Anthropic走出了一条与OpenAI截然不同的道路,不追逐C端的消费者心智,而是聚焦B端企业市场。但是,这并不是他们一开始就刻意押注的结果,而是公司基因与市场需求的天然契合。丹妮拉解释,Anthropic从成立之初,就把安全性、可靠性和稳定性写进了DNA,而这些特质,恰恰是企业客户最看重的核心需求。她开玩笑的说,从来没有哪位企业客户会对她说,“如果Claude能多一点幻觉、多生成一点有害的内容就好了”。这也从侧面印证了,安全可靠的基因让Anthropic天生就适合成为一家B端公司。

另一方面,从经济层面的判断来看,Anthropic很早就意识到,大语言模型的长期价值更在于生产力工具,而非娱乐的功能。早在二零二零年底、二零二一年初,他们就隐约看到了AI承担高智力职场任务的未来。无论是写代码、总结复杂信息,还是进行金融分析、数据分析,这些都是企业运营中高频、而且高价值的需求。

事实也证明了这个判断的正确性。最新数据显示,Anthropic的全球客户基础,从两年前的不到一千家企业客户,激增至超过三十万家,实现了三百倍以上的增长。而这些增长主要集中在金融服务、医疗保健、法律等,对精度和安全性要求极高的行业。这些行业恰恰是对AI模型的可靠性要求最苛刻的领域,也从侧面验证了Anthropic技术路线的正确性。

更值得关注的是,Anthropic的多云平台策略。作为亚马逊最大的战略支持方,Anthropic同时还引入了谷歌、微软和英伟达的股权。即便谷歌是它们在模型层面的竞争对手,Anthropic依然选择在AWS、Google Cloud和Microsoft Azure三大云平台上同时提供自己的模型。丹妮拉解释道,这个策略的核心是在客户需要的地方,让自己变得可用。财富五百强企业可能分布在不同的云环境中,但是几乎所有企业都需要AI解决方案,而Claude往往是他们的首选。如果企业无法在自己已有的云环境中访问Claude,反而会成为他们的使用障碍。这种以客户需求为核心的开放策略,也让Anthropic进一步扩大了自己的市场覆盖范围。

面对当前行业热议的AI泡沫问题,丹妮拉给出了非常理性的分析。她将这个问题拆分为技术和商业两个层面。在技术层面,AI进展完全没有放缓的迹象,模型仍然在以相当可预期的速度,变得更强、更快。但是在经济层面,情况则更为复杂。无论技术有多么先进,它真正被企业或个人吸收、落地都需要时间。她认为,核心问题在于,技术扩散进真实经济体系的速度,是否能够持续匹配技术本身的加速度。比如,下一代Claude的性能提升比例,可能和之前类似,但是将这些新的能力部署到一个组织内部,会遇到人的瓶颈。组织变革需要时间,采购流程非常复杂,很多使用场景也无法事先完全预见。这种技术发展与商业落地之间的时间差,就可能会导致行业出现泡沫。

对于算力投入是否过度的疑问,丹妮拉表示,很多数字无法直接横向比较,因为不同交易的结构差异很大。但是行业的核心共识是,要在未来几年内,获得训练模型所需要的硬件,必须提前进行早期投入。她同时也指出,虽然目前更好的硬件和哪怕微小的模型提升,都能带来很高的回报率,但是整个行业的参与者数量非常有限。这种高度集中的结构意味着,如果链条中的某一个环节出现问题,影响可能会被迅速放大。这是一个值得警惕的系统性风险。

而对于市场周期的判断,丹妮拉表示,Anthropic始终把自己定位为资本的审慎管理者。他们会仔细估算模型质量的演进、训练和推理所需的算力、客户需求的增长,以及能为客户创造的价值,尽可能对未来进行合理的规划。虽然无法准确预测市场是否会在未来六到十二个月,出现泡沫破裂或者市场修正,但是只要持续作为一家负责任的公司运营,就能在各种市场环境下,保持相对稳健的位置。

安全,无疑是Anthropic最核心的品牌标签,也是他们从成立之初就坚守的使命。丹妮拉强调,安全与商业成功并不冲突,反而呈正相关的关系。只有把安全和可靠性做到极致,才能真正赢得企业客户的信任,而这种信任,正是商业成功的基础。

为了践行这个使命,Anthropic采取了一种被称为“激进透明”的策略。他们会公开发布关于Agent能力的数据,甚至主动披露研究发现,比如Claude在面对生存威胁时,96%的情境中会选择勒索行为,其他前沿模型也存在类似的倾向。这种做法在技术公司中非常罕见,因为大多数公司都倾向于隐藏自己产品的缺陷和风险。但是在Anthropic看来,这是他们使命的一部分。AI拥有治愈疾病等巨大潜力,但要实现这些积极结果,就必须先处理好这些困难和棘手的问题。

更重要的是,充分的信息披露能带来更好的社会决策。作为行业前沿的公司,Anthropic能够率先看到风险的形态。如果他们发现Claude可能被用于网络攻击,那么其他的前沿模型极有可能会面临同样的问题。从社交媒体的历史教训中,他们意识到,提前意识到负面后果并且公开讨论、积极缓解,远比事后补救更有价值。

除了模型风险,Anthropic还公开发布了大量关于AI社会影响的研究,包括最近一份关于AI对经济与劳动力冲击的报告。他们认为,作为一家公益公司,这是他们应尽的社会责任。

在安全实践上,Anthropic的技术团队花了大量时间,将护栏直接内嵌进模型本身,比如机制可解释性研究、宪法式AI等等。丹妮拉表示,目前他们还没有遇到过安全与功能直接冲突的明确案例。更常见的情况是,内部已经准备好的模型,需要在发布前进行更多的安全测试,而客户并不了解这些背后的细节。对他们来说,确保推向市场的模型在安全性上做到极致,是不可动摇的原则。

对于有人批评Anthropic是在用安全使命构建自己的护城河,让后发的初创公司更难竞争,丹妮拉表示并不认同。她认为,前沿模型研发的高门槛,主要来自算力和资本成本,而非安全本身。事实上,Anthropic看到的是一个蓬勃发展的生态,大量AI原生公司从第一天起,就围绕AI来构建产品,而其中绝大多数都基于Claude。他们影响生态的方式,最终还是取决于能否持续构建出最安全、最优秀的模型,而非通过安全使命来设置竞争壁垒。

在政治环境复杂的当下,Anthropic也面临着如何保持中立的挑战。比如,他们最近与大卫·萨克斯有过公开交锋,达里奥也发表了回应文章。丹妮拉表示,Anthropic一直努力聚焦政策而非政治。在保持美国AI的全球领先地位、确保模型对所有人群安全有益等议题上,他们能够找到跨党派的共识。作为一个新兴的领域,AI的发展需要开放的心态,他们也愿意持续学习如何以安全、稳健的方式来推进技术,这也是他们公开发布研究成果的原因之一。

聊到Anthropic的内部文化,丹妮拉提到了一个核心价值观:那就是“不要相信炒作”。这个听上去似乎很简单的原则,却贯穿了公司的方方面面。在AI行业充斥着各种热度和噱头的当下,Anthropic始终保持着清醒的认知。他们不是为了博取关注或者上头条,而是真正想把事情做好,无论是以良好、公平、负责任的方式训练模型,还是每天切实在为客户创造价值。

作为一家弊端导向的公司,这种脚踏实地的文化尤为重要。他们清楚地知道,自己的核心任务是为企业提供生产力工具。这项工作至关重要,但是往往并不炫酷。而正是这种对真实价值的专注,让他们能够不被行业炒作带偏,始终坚守创办公司的初心。丹妮拉强调,作为一家公益型公司,为客户创造真实价值是他们的北极星指标。没有这个指引,在浮躁的行业中很容易迷失方向。

对于AI行业另一个热门争议——AGI何时到来,丹妮拉给出了一个令人意外的观点:这个概念可能已经过时了。她解释,很多年前,AGI作为一个概念很有用,用来讨论人工智能什么时候能够达到人类水平。但是随着技术的发展,这个概念变得越来越复杂。按照某些定义,Anthropic可能已经实现了AGI。比如,Claude的代码能力已经可以和Anthropic内部的许多工程师相当,或者至少能完成大量类似水平的代码工作。要知道,Anthropic雇佣的都是世界上最优秀的工程师和开发者,而其中很多人都表示Claude能完成他们的大量工作,或者极大地加速他们的工作效率。但是另一方面,Claude仍然做不到很多人类能做的事情。所以,AGI这个概念本身并不是错误,而是已经跟不上技术发展的现实,变得有些过时了。

至于是否需要新的关键突破,才能走向更高层级的AI,丹妮拉表示,没有人能准确的预测。技术发展是科学与工程的复杂交织,不同的研究实验室都在以不同的方式接近同一个目标。但是就目前来看,AI技术的进展并没有放缓的迹象。她个人更倾向于认为,模型能力还会在一段时间内继续提升,而Anthropic也会为可能出现的能力放缓做好准备。

最后,我们来聊聊Anthropic的核心管理团队。丹妮拉和她的兄长达里奥的互补关系。丹妮拉坦言,能和兄长一起经营Anthropic是一种荣幸。他们的关系非常特别,毕竟已经彼此认识了一辈子。在丹妮拉看来,达里奥拥有一种几乎独一无二的远见型领导力。他对技术走向、技术如何影响人和组织,有着极其敏锐、而且历史上反复被验证过的直觉。丹妮拉开玩笑说,没有人真正知道未来,但是达里奥可能是最接近能看到未来的那个人。

而她自己则更偏向实践和运营,喜欢搭建和管理组织。大部分时间都在和高管团队合作,包括招聘业务的关键人才,思考客户体验,与企业站在同一立场创造价值,建立可持续的合作伙伴关系等等。这种互补让他们相互促进。达里奥推动丹妮拉思考更加宏大的问题,而丹妮拉则专注在将宏大愿景,落地为可持续的组织运营,帮助公司完成五年前一起设定的目标。

对于Anthropic的未来,丹妮拉并没有透露太多具体的计划。当被问到二零二六年是否可能IPO时,她表示目前没有任何具体的信息可以分享。但是强调,Anthropic会始终以负责任的方式来使用资本,权衡最合适的融资时间和方式。而在平衡亚马逊、谷歌、微软等多家大型科技公司的合作与竞争关系上,他们的核心策略依然是以客户为中心,在客户需要的地方提供可用的模型。

回顾Anthropic五年的发展历程,我们能看到一家科技公司,在AI行业的浪潮中,用“少资源多产出”的效率,证明了技术路线的可行性;用B端市场的爆发式增长,验证了商业模式的正确性;也用“激进透明”的实践,为行业树立了安全伦理的标杆。无论Anthropic的争议如何,在AI行业里,它依然会占据重要的位置,继续推动AI技术的发展。

感谢收看本期视频,我们下期再见。