Transcription
当人们想到通用人工智能（AGI）时，他们会想象拥有一个能回答所有问题并全天候工作的个人助理会是什么样子。但这低估了人工智能将拥有的真正集体优势，这与原始智商无关，而在于它们是数字化的。
目前，公司在招聘和培训人员方面存在极大的瓶颈。但如果你的员工是人工智能，那么你就可以将他们复制数百万次，并保留他们所有的技能、判断力和隐含知识，完好无损。
这是一个根本性的变革，因为在历史上，你第一次可以将资本转化为计算能力，将计算能力转化为劳动力。你可以将数万亿美元转化为维持数十亿数字员工所需的电力、芯片和数据中心。
想想看，如今首席执行官的知识是多么有限。真正的史蒂夫·乔布斯对苹果庞大帝国发生的事情到底了解多少？他会收到经过筛选的报告和仪表板，参加关键会议，并阅读战略摘要。但他不可能吸收每一个产品发布、每一次客户互动、每一个在数百个团队中做出的技术决策的全部背景。他对苹果的认知模型必然是不完整的。
现在想象一下“超级史蒂夫”，这个将指导我们未来人工智能公司的中央人工智能。正如特斯拉的全自动驾驶人工智能模型可以从数百万司机的驾驶记录中学习一样，“超级史蒂夫”可能会从数百万个精炼的史蒂夫“分身”所看到的一切中学习。每一次客户对话，每一个工程决策，每一次市场反应。
我认为很难理解这将与人类公司和机构有多么不同。你将拥有这些“团块”，其中包含数百万个实体，它们快速地出现和消失，每个实体都以超人的速度思考。这将是一场社会组织变革，其规模堪比从狩猎采集部落向庞大的现代股份有限公司的转变。
不同人工智能实例之间的界限开始变得模糊。“超级史蒂夫”将不断地生成专门的精炼副本，并重新吸收它们自己学到的东西。模型将通过潜在表征直接通信，类似于GPT4等神经网络中数百个不同层已经进行的交互方式。合并将是组织积累和应用知识方式的阶跃式变化。
人类的巨大优势一直是社会学习，我们跨代传递知识并在此基础上进行构建的能力。但人类的社会学习有一个可怕的障碍。生物大脑不允许信息被复制粘贴。因此，你需要花费数年，在许多情况下是数十年，来教人们他们需要知道的知识才能做好工作。或者考虑一下，为什么将人才集中在城市和顶尖公司会产生如此巨大的好处，仅仅是因为它降低了个人之间知识流动的摩擦。未来的AI公司将通过数百万个AGI来加速这种文化演变。
自动化公司将获得更多的机会来产生创新和改进，无论是来自幸运的错误、深思熟虑的实验、全新的发明，还是某种组合。追溯数千年的历史数据表明，人口规模是社会产生更多想法的关键输入。AI公司的规模将比当今最大的公司大几个数量级。而且每个AI都将能够与每一个其他AI完美地进行思维融合。
从外部看，AI公司将像一个统一的智能体，能够即时在整个组织中传播想法，并保持其全部保真度和上下文。数百万个副本中的每一个隐含知识都将得到完美保存、共享并得到应有的考虑。
那么，在这个世界里，什么会变得昂贵呢？那些需要大量推理计算的角色。首席执行官的职能或许是最清晰的例子。苹果公司每年花费1000亿美元用于“超级史蒂夫”的推理计算是否值得？当然。想想这能买到什么。数百万主观的战略规划小时，对不同五年轨迹的蒙特卡洛模拟，对每一行代码和技术系统的深入分析，以及详尽的场景规划。让AI承担某个角色的成本将仅仅是AI消耗的计算量。
这将改变我们对哪些能力是稀缺的理解。未来的AI公司将不受人类技能分布中稀缺或丰富的因素的限制。它们可以优化任何最有价值的能力。想要史蒂夫·沃兹尼亚克级别的工程人才？没问题。一旦你拥有了一个，边际复制成本只需几分钱。需要一千名世界级研究人员？只需启动它们。限制因素不是寻找或培训稀有人才。仅仅是计算能力。
想象一下“超级史蒂夫”在思考：“嗯，如果我们收购eBay来挑战亚马逊，美国联邦贸易委员会会有何反应？让我模拟一下未来三年的市场动态。啊，我看到了可能的结果。我还有五分钟的数据中心时间。让我评估一千种替代策略。”决定越有价值，你就越想投入更多的计算能力。来自“超级史蒂夫”的单一战略洞察可能价值数十亿美元。
这段视频最酷的事情之一是，我们没有拍摄一帧视频。你看到的每一个视觉效果，从逼真的人类到卡通章鱼，都是由V2生成的，这是谷歌最先进的视频生成模型。我几个月前写了这篇文章，然后我有一个想法，我们应该尝试把它变成一个视频。于是，我与一位出色的导演彼得·萨拉巴合作，他能够利用V2将所有这些想法变成一种以前需要我们整个电影摄影师和动画师团队才能制作出的视频。
例如，我想展示的一个东西是AGI蜂巢思维可能是什么样子。于是彼得有一个想法，你可以让一个FPV无人机飞过一个充满工蚁的蚁穴。V2给了他很多品味不错的候选方案，以及其他一些提示，然后我们把它们缝合在一起，形成了最终剪辑。没有V2，我们真的无法制作出这样的视频。
现在V2已在Gemini应用程序中可用。你可以通过访问gemini.google.com，从下拉菜单中选择它，然后在提示栏中输入你自己的想法来尝试。顺便说一句，在我们开始与谷歌聊天之前，我们就已经用V2制作了整个视频。所以，他们能成为赞助商尤其令人兴奋。
好了，回到文章。AI公司和人类公司之间最深刻的区别将是它们的可进化性。正如格温·布兰德温所观察到的，为什么我们看不到杰出的公司克隆自己并占领所有市场领域？为什么公司不进化，以至于所有公司或企业都成为一家公司的超高效后代，而所有其他公司都因破产或被收购而灭绝？为什么公司很难保持其文化完整并保持其年轻高效的效率？或者，如果避免衰老是不可能的，为什么不复制自己或以其他方式繁殖以创造像自己一样的新公司呢？
公司当然会经历适应性选择，并且确实差异很大。问题似乎是，公司无法复制自己。公司是由人组成的，而不是易于复制的、可互换的小部件或DNA链。公司甚至可能无法随着时间的推移复制自己，从而导致僵化和衰老。
目前存在的人类公司与完全自动化的公司之间的规模差异，将如同原核生物和真核生物之间的复杂性鸿沟。细菌等原核生物相对简单，在30多亿年里结构上基本保持不变。相比之下，拥有更复杂内部结构（如细胞核和细胞器）的真核细胞的出现，带来了生物复杂性的巨大飞跃，并产生了所有其他令人惊叹的、由数万亿细胞紧密协作的生物。
这种可进化性也是AI和人类公司之间的关键区别。正如加恩所指出的，人类公司根本无法有效地复制自己。它们是由人组成的，而不是可以复制的代码。
那么，一家完全自动化的公司是否会成为最后一家站着的公司？为什么其他公司还会存在？第一家实现一切自动化的企业是否会形成一个庞大的联合体，并接管整个经济？
虽然内部规划在短期内可能比市场竞争更有效，但它需要与一些更慢但无偏见的外部反馈相平衡。一家公司如果成长得过于庞大，就有可能导致其内部目标偏离市场现实。
话虽如此，随着AI系统的改进，这种平衡可能会发生转变。AI公司将更像软件，能够完美复制成功的子部门，并拥有更快的反馈循环。而这种内部规划系统需要与某种程度的实际成功或失败联系起来。而这正是市场提供的。
[音乐] 嘿，宝贝。 [音乐]