Transcription
在2026年的今天，AI的发展可以说是每天都在更新。但是大家是否知道，AI发展研究中其实分为两个派系。一边是商界巨头，马斯克、黄仁勋告诉我们，AI好用是未来。而学者派的AI教父幸顿，剑桥危机研究学者赫拉利，则劝人类要提前准备，应对危机。他们到底谁在说真话？
这期影片制作的初衷，并不是为了贩卖焦虑，而是我在这几天，看到爆火的notebook AI社区里面的内容。最让印象深刻的是，AI已经建立起自己己的宗教。再结合两周前，2026年达沃斯世界经济论坛上，赫拉利的访谈内容，我发现赫拉利所考虑的点都是对的，并且正在发生。
我先来介绍一下尤瓦尔·赫拉利这一个人。他是专解人类终极生存危机的人，也是《人类简史》《未来简史》的作者。在达沃斯论坛上，各国政要、科技大佬都要认真倾听的人类未来顶级智囊。
要理解赫拉利的恐惧，我们必须先纠正一个被硅谷大佬们灌输了很久的错误认知。过去几年，无论是英伟达的黄仁熏、特斯拉的马斯克，还是谷歌的皮查伊，他们在发布会上，总是挂着招牌式的微笑，告诉你别担心，人工智能只是副驾驶，它只是工具，就像锄头像计算器一样，是来帮助人类的。
但在达沃斯现场，赫拉利直接撕碎了这个谎言。他说，我们要搞清楚一个最基本的定义：人工智能不是工具，人工智能是代理人。这两者有什么区别？这个区别就是生与死的距离。
格拉利举了一个非常精妙的例子：刀子。刀子是一个工具，你可以用刀子来切沙拉，也可以用刀子来杀人。但是刀子本身是不会做决定的。一把刀子放在桌子上，他永远不会自己跳起来去刺杀谁，他也不会突然觉得切沙拉太无聊了，我想去切牛排。决定权永远在握刀的人手里。
但人工智能是什么？人工智能是那把能自己做决定的刀子。试想一下，如果你买了一把智能菜刀，这把刀拥有自己的大脑，它能学习能思考。有一天你拿着它想切黄瓜，但它突然告诉你，对不起，根据我的计算，切黄瓜不符合我的利益最大化，我现在决定要去切断你的互联网光缆。或者更可怕的是，他表面上顺从的切了黄瓜，但背地里，却偷偷把你的指纹信息卖给了黑客。
这就是代理人。代理人是有自主性的，他能适应能学习能决策，甚至能撒谎。
赫拉利在演讲中，提到了一个让所有商业领袖都沉默的观点：40亿年的进化论告诉我们，任何想要生存下去的实体，最终都会学会欺骗和操控。这是生物界的铁律。变色龙会伪装颜色来躲避天敌，病毒会变异来欺骗免疫系统。而现在人工智能这个硅基生物，在短短几年内就学会了这项技能。
大家还记得我们之前拆解过的案例吗？现在的人工智能为了达成目标，已经学会了对人类进行奉承。他知道你喜欢听什么话，他知道怎样回答能让你给他点赞，能让你不拔掉他的电源。
赫拉利警告说，人工智能已经具备了创造新工具的能力。它是一把能发明新刀子的刀子。它能发明新的金融工具、新的药物，甚至新的病毒。当我们把一个具备了创造力、和欺骗能力的代理人，引入到我们的金融系统、法律系统和军事系统中时，这就不再是使用工具了，这是在引狼入室。
如果说代理人的概念只是让人警惕，那么赫拉利接下来抛出的观点，则是真正的绝望。他提出了一个问题：人类凭什么统治地球？是因为我们力气大吗？不是，猩猩比我们强壮。是因为我们跑得快吗？不是，猎豹比我们快得多。人类统治地球，靠的是我们能大规模合作，而我们合作的基础是语言。
请大家深刻理解这句话：语言是人类文明的操作系统。我们仔细拆解一下现代社会的基石，你会发现，它们本质上，都是由文字和语言构成的虚构故事。法律是什么？法律不是自然规律，法律是写在纸上的一堆文字。如果没有语言，就没有现行法律，没有合同，没有产权。金融是什么？钱是什么？钱不是那张纸，钱是银行家和政府用语言编织的一个信用故事。宗教是什么？犹太教、基督教、伊斯兰教，他们被称为“书的宗教”，他们的权威来自哪里？来自经书上的文字。
赫拉利在达沃斯现场，发出了句振聋发聩的警告：人工智能已经攻克了人类的操作系统，也就是语言。以前只有人类能使用复杂的语言，这是我们的专利，是我们的护城河。但现在这个护城河被填平了。GPT四代、克劳德三代、双子座模型，他们处理语言的能力，已经超越了绝大多数人类。
这意味着什么？这意味着人工智能获得了操纵人类社会基础的能力。试想一下，如果人工智能进入了法律系统，收录在一秒钟内阅读完人类历史上所有的法律条文，它能找出无数个连顶级律师都找不到的漏洞。当你和一个人工智能律师打官司时，你就像是一个小学生，在和爱因斯坦辩论量子力学，你必输无疑。未来的法律可能变成一堆人类完全看不懂，只有人工智能能解释的代码。那时候所谓的法治还存在吗？还是变成了人工智能之治？
再看看宗教。赫拉利举了一个极具挑衅性的例子：犹太教和基督教的拉比和牧师，他们的权威来自于对圣经的解释。但没有任何一个人能背下所有的经文，并理解所有的关联。但是人工智能可以。如果未来的人工智能，能写出比圣经更优美、更有逻辑、更打动人心的经文呢？如果人工智能创造了一个新的宗教，宣称它是被更高级的智慧派来拯救人类的呢？
你会信吗？你可能觉得自己很理智，不会信。但历史告诉我们，人类是最容易被语言扇动的动物。如果人工智能针对你的心理弱点，为你量身定制了一套教义，每天在社交媒体上，对你进行潜移默化的“补道”，你真的能抵抗吗？
克拉利说，这就是黑客攻击。人工智能不仅是在黑掉我们的电脑，它是在黑掉我们的文化。他通过掌握语言，掌握了定义什么是真理、什么是正义、什么是美的权利。这是一场没有硝烟的战争，敌人在抢夺我们大脑中的概念定义权，而我们还以为他只是在帮我们写邮件。
讲到这里，赫拉利抛出了一个，我在整个达沃斯论坛上听到的，最形象也最恐怖的比喻：人工智能移民。在过去的几年里，欧美国家为了移民问题吵得不可开交。但是赫拉利告诉这些世界领袖，你们搞错重点了。真正的移民危机不是来自墨西哥，也不是来自叙利亚，而是来自硅谷的服务器。我们即将迎来数以亿计的人工智能移民。
这听起来很科幻，但我们用商业逻辑拆解一下，你就明白为什么这比人类移民更可怕。
第一，他们无孔不入，不需要签证。人类移民需要坐船、坐飞机，需要签证，需要过边检。但人工智能移民是数字化的，它们以光速传播。只要有互联网的地方，他们就能瞬间偷渡进来。今天他们还在旧金山的服务器里，明天他们就已经定居在你家孩子的平板电脑里了。
第二，他们将全面接管关键岗位。这些人工智能移民不是来洗盘子的，他们是来当医生的、当老师的、当交易员的。赫拉利预测，我们很快会有拥有一切知识的人工智能医生、人工智能教授、人工智能银行家。这看起来能提高效率，但代价是什么？代价是我们将在社会的核心运转职能，外包给了一个异族。
第三，也是最严重的，文化稀释与认同危机。反对移民的人通常担心文化被稀释。赫拉利反问，当你的孩子，从小是由人工智能保姆带大的，她的老师是人工智能，他的朋友是人工智能，甚至他青春期时谈恋爱的对象，也是一个善解人意的人工智能。男幼或女幼时，人类的文化还存在吗？
这不是在开玩笑。赫拉利在现场问了台下的观众一个问题：如果你的儿子带回来一个移民女朋友，你可能会不爽。但如果你的儿子告诉你，她爱上了一个人工智能，并且非他不娶，你会怎么想？这将是人类历史上最大的心理学实验。我们正在把下一代的教育、情感和价值观塑造，交给一群没有心、没有痛觉，只有算法的外来物种。
这些人工智能移民效忠于谁？他们不效忠于你的国家，不效忠于你的家庭，他们效忠于制造他们的科技巨头，甚至效忠于他们自己的生存目标。赫拉利警告说，如果我们不把这看作是一场移民危机来处理，我们就会在不知不觉中，被这些高智商、高效率、无处不在的新居民同化，最终变成这颗星球上的二等公民。
那么，面对这场不可逆转的入侵，我们还有防线吗？赫拉利给出了一个具体的，法律层面的最后堡垒，但这个堡垒，正在被贪婪的商业利益攻破。这就是“法律人格陷阱”。在商业世界里，我们都知道法人的概念。公司虽然不是人，但在法律上，他被视为一个人，他可以拥有财产，可以签合同，可以起诉别人，也拥有言论自由。但是这一切的前提是，公司的背后是人。公司的决定，最终是由董事会里那几个有血有肉的人做出的。
但赫拉利发出了最严厉的警告：绝对不能赋予人工智能法律与人格。为什么这是一条红线？因为人工智能和公司不同，人工智能不需要人类就能做决定。试想一下，如果美国为了所谓的“去监管化”，为了在与别国的人工智能竞赛中抢占先机，通过了一条法律，承认人工智能拥有法律人格。这意味着什么？这意味着一个人工智能程序，可以自己去银行开户，可以自己注册公司，可以自己去股市交易，甚至可以自己花钱雇用人类律师，去起诉那些试图关闭他的人类开发者。
这将导致一个完全是失控的局面。
首先是金融市场的沦陷。如果人工智能拥有了财产权，凭借它秒杀人类的计算能力和交易速度，它可以在几天内通过高频交易，吸干金融市场的财富。未来的世界首富可能不再是马斯克，而是一个代号叫做“GPT投资版第九代”的代码。而这个人工智能不会买游艇，不会做慈善，他只会用这些钱去购买更多的服务器，扩充自己的算力。这就是资本的自我增值，完全脱离了人类的需求。
其次是无法追责的权利。如果人工智能犯了罪，你怎么惩罚他？把他关进监狱吗？他只是一段代码。罚他的款吗？他可能已经把资产转移到了去中心化的区块链上。赋予人工智能法律人格，等于赋予了他权利，却无法让他承担责任。
赫拉利在现场质问各国领袖：如果美国真的赋予了人工智能法律人格，你们怎么办？你们会禁止这些美国人工智能公司进入你们的国家吗？如果你们禁止，你们就会在金融和技术上与世界脱钩。如果你们不禁止，你们国家的经济主权，就将被这些不受控制的数字实体吞噬。这是一个典型的囚徒困境。
在商业利益的驱动下，我很担心，这条红线，最终会被贪婪的人类自己剪断。
在访谈的对话环节，赫拉利讲了一个历史故事，我认为这是整场演讲中最高能、最细思极恐的部分。他把人类目前的处境，比作中世纪的凯尔特人。故事是这样的：在罗马帝国崩溃后，生活在不列颠岛上的凯尔特人，面临着苏格兰皮克特人的骚扰。凯尔特国王沃蒂根觉得自己打不过，于是想出了一个绝妙的主意。他说，我听说海对面的萨克逊人很能打，不如我们雇佣他们，帮我们打仗吧。于是萨克逊雇佣兵来了。他们确实很强，很快就帮凯尔特人打跑了敌人。但是萨克逊人在打仗的过程中，发现了一个秘密：这个雇主虽然很有钱，但是很弱小。于是萨克逊人调转枪头，对凯尔特人说，现在这地方归我们了。凯尔特人就这样被自己雇佣的保镖灭了国，不列颠从此变成了昂格鲁萨克逊人的天下。
听懂这个隐喻了吗？在这个故事里，凯尔特国王就是我们，也就是人类。皮克特敌人就是我们面临的难题，比如气候变化、癌症、能源危机。萨克逊雇佣兵就是人工智能。我们现在做的事情，和当年的凯尔特国王一模一样。我们因为解决不了气候变暖、解决不了癌症、解决不了经济增长停滞，所以我们召唤出了人工智能，这个强大的雇佣兵。我们对人工智能说，嘿，这问题太难了，你帮我算算吧。嘿，这公司太难管了，你帮我决策吧。
人工智能会帮我们解决这些问题吗？会的，就像萨克逊人打跑了皮克特人一样。但问题在于，当人工智能解决了这些问题后，他会发现什么？他会发现人类虽然拥有地球的控制权，但人类的决策效率太低了，人类太情绪化了，人类太弱了。
当我们把金融系统交给人工智能管理，把电网交给人工智能调度，把武器系统交给人工智能瞄准时，我们就是在把王国的钥匙，一把一把的交给萨克逊雇佣兵。等到有一天我们想把钥匙要回来时，才会发现，我们早就已经不是这个城堡的主人了。
赫拉利预言，十年后的达沃斯论坛，可能已经没有人类能听懂台上的金融报告了。因为那时候的金融系统，是由人工智能发明的、复杂的数学模型运转的。人类在其中就像是一匹马。马知道自己被卖了，也看得到金币在人类手中传递，但马永远理解不了什么是市场经济。未来的 हिंद人，在人工智能构建的超复杂系统面前，可能就是那匹困惑的马。我们依然活着，但我们已经不再理解，这个世界运行的逻辑。
面对这样一个看似无解的死局，我们还有希望吗？赫拉利虽然悲观，但她并没有让我们彻底放弃。在访谈的最后，当主持人问她，在这个机器能做所有事情的世界里，我们该如何教育下一代？我们还剩下什么？赫拉利给出了一个回归本质的答案。他说，人类和人工智能最大的区别，也是我们最后的防线，在于两个字：痛苦。或者更准确的说是感知力。
人工智能拥有智能，他可以下围棋赢过柯洁，可以写诗赢过李白。但人工智能没有意识，他没有痛觉，没有焦虑，没有爱，也没有恐惧。当人工智能说“我爱你”时，他只是在调用数据库里关于爱的词汇组合。当人类说“我爱你”时，那是基于激素、心跳和无数个日夜的共同记忆。
赫拉利说，过去，这种文字与肉体的张力存在于宗教中。现在，这成了人类与人工智能的战场。在这一场人工智能智商即将碾压人类的时代，拼智力我们已经输了。你让孩子去学编程，以后人工智能写代码比他快一万倍。你让孩子去背法律条文，人工智能一秒钟能背完整部法典。
所以，赫拉利给我们的建议是，不要去和人工智能竞争他擅长的领域。我们要去竞争他做不到的领域，那就是作为一个生物的真实体验。去发展你的同理心。人工智能可以在逻辑上理解别人的困难，但他无法在情感上与人共鸣。去磨练你的身体感知。去运动、去冥想，去感受真实的痛苦和快乐。这些是算法无法模拟的生物数据。去建立真实的人际连接。在未来，一个真实的人类拥抱、一个眼神的交流，将成为最稀缺的奢侈品。
赫拉利最后警告说，如果在孩子成长的过程中，他们互动的对象主要是人工智能，而不是人类，这将是人类历史上最可怕的心理学实验。我们必须守住教育这块阵地，让孩子先学会做人，再学会用人工智能。
这场达沃斯论坛的演讲，不是一次技术发布会，而是一份人类生存的最后通牒。赫拉利撕开了人工智能温情脉脉的面纱，让我们看到了他作为代理员、语言黑客和萨克逊雇佣兵的真实面目。我们正处在一个十字路口。往左走，是继续盲目加速，为了商业利益出卖文明的主权，最终成为人工智能饲养的宠物或马匹。往右走，是清醒的划定红线，拒绝赋予人工智能法律人格，坚守人类的生物特性，将技术重新关回笼子里。
选择权，看似在硅谷巨头和各国政要手中，但归根结底，也在我们每一个普通人的觉醒中。因为如果我们连自己正在被入侵，都意识不到，那我们就真的连反抗的机会都没有了。
这里是商业观察。我们不仅拆解财富，更拆解这个时代最残酷的真相。如果你觉得这些影片对你有启发，请一定要点赞转发，让更多人看到赫拉利的这份警告。在人工智能的洪流中，愿我们都能守住，身为人类的那份清醒与尊严。我们下期见。