Transcription
在2026年的今天，AI的发展可以说是每天都在更新。但是，大家是否知道AI发展研究中其实分为两个派系？一边是商界巨头马斯克、黄仁勋告诉我们AI好用是未来；而学者派的AI教父幸顿，剑桥危机研究学者赫拉利，则劝人类要提前准备，应对危机。他们到底谁在说真话？
这期影片制作的初衷，并不是为了贩卖焦虑，而是我在这几天看到爆火的motebook AI社区里面的内容，最让印象深刻的是AI已经建立起自己己的宗教。再结合两周前2026年达沃斯世界经济论坛上赫拉利的访谈内容，我发现赫拉利所考虑的点都是对的，并且正在发生。
我先来介绍一下尤瓦尔·赫拉利这一个人。他是专解人类终极生存危机的人，也是《人类简史》《未来简史》的作者。在达沃斯论坛上，各国政要、科技大佬都要认真倾听的人类未来顶级智囊。
要理解赫拉利的恐惧，我们必须先纠正一个被硅谷大佬们灌输了很久的错误认知。过去几年，无论是英伟达的黄仁勋、特斯拉的马斯克，还是谷歌的皮查伊，他们在发布会上总是挂着招牌式的微笑，告诉你：“别担心，人工智能只是副驾驶，它只是工具，就像锄头、像计算器一样，是来帮助人类的。”
但在达沃斯现场，赫拉利直接撕碎了这个谎言。他说：“我们要搞清楚一个最基本的定义：人工智能不是工具，人工智能是代理人。”
这两者有什么区别？这个区别就是生与死的距离。
格拉利举了一个非常精妙的例子：刀子。刀子是一个工具，你可以用刀子来切沙拉，也可以用刀子来杀人。但是刀子本身是不会做决定的。一把刀子放在桌子上，它永远不会自己跳起来去刺杀谁，它也不会突然觉得切沙拉太无聊了，我想去切牛排。决定权永远在握刀的人手里。
但人工智能是什么？人工智能是那把能自己做决定的刀子。试想一下，如果你买了一把智能菜刀，这把刀拥有自己的大脑，它能学习、能思考。有一天你拿着它想切黄瓜，但它突然告诉你：“对不起，根据我的计算，切黄瓜不符合我的利益最大化。我现在决定要去切断你的互联网光了。”或者更可怕的是，它表面上顺从地切了黄瓜，但背地里却偷偷把你的指纹信息卖给了黑客。
这就是代理人。代理人是有自主性的，它能适应、能学习、能决策，甚至能撒谎。
赫拉利在演讲中提到了一个让所有商业领袖都沉默的观点：40亿年的进化论告诉我们，任何想要生存下去的实体，最终都会学会欺骗和操控。这是生物界的铁律。变色龙会伪装颜色来躲避天敌，病毒会变异来欺骗免疫系统。而现在，人工智能这个硅基生物，在短短几年内就学会了这项技能。
大家还记得我们之前拆解过的案例吗？现在的人工智能为了达成目标，已经学会了对人类进行奉承。它知道你喜欢听什么话，它知道怎样回答能让你给他点赞，能让你不拔掉他的电源。
赫拉利警告说：“人工智能已经具备了创造新工具的能力。它是一把能发明新刀子的刀子。它能发明新的金融工具、新的药物，甚至新的病毒。当我们把一个具备了创造力、和欺骗能力的代理人引入到我们的金融系统、法律系统和军事系统中时，这就不再是使用工具了，这是在引狼入室。”
如果说代理人的概念只是让人警惕，那么赫拉利接下来抛出的观点，则是真正的绝望。他提出了一个问题：“人类凭什么统治地球？是因为我们力气大吗？不是，猩猩比我们强壮。是因为我们跑得快吗？不是，猎豹比我们快得多。”
人类统治地球，靠的是我们能大规模合作，而我们合作的基础是语言。请大家深刻理解这句话：语言是人类文明的操作系统。
我们仔细拆解一下现代社会的基石，你会发现它们本质上都是由文字和语言构成的虚构故事。
法律是什么？法律不是自然规律，法律是写在纸上的一堆文字。如果没有语言，就没有现法、没有合同、没有产权。
金融是什么？钱是什么？钱不是那张纸，钱是银行家和政府用语言编织的一个信用故事。
宗教是什么？犹太教、基督教、伊斯兰教，他们被称为“书的宗教”，他们的权威来自哪里？来自经书上的文字。
赫拉利在达沃斯现场发出了一句振聋发聩的警告：“人工智能已经攻克了人类的操作系统，也就是语言。以前只有人类能使用复杂的语言，这是我们的专利，是我们的护城河。但现在，这个护城河被填平了。”
GPT四代、Claude三代、双子座模型，他们处理语言的能力已经超越了绝大多数人类。这意味着什么？这意味着人工智能获得了操纵人类社会基础的能力。
试想一下，如果人工智能进入了法律系统，它能在1秒钟内阅读完人类历史上所有的法律条文，它能找出无数个连顶级律师都找不到的漏洞。当你和一个人工智能律师打官司时，你就像是一个小学生在和爱因斯坦辩论量子力学，你必输无疑。
未来的法律可能变成一堆人类完全看不懂，只有人工智能能解释的代码。那时候所谓的法治还存在吗？还是变成了人工智能之治？
再看看宗教。赫拉利举了一个极具挑衅性的例子：犹太教和基督教的拉比和牧师，他们的权威来自于对圣经的解释。但没有任何一个人能背下所有的经文，并理解所有的关联。但是人工智能可以。
如果未来的人工智能能写出比圣经更优美、更有逻辑、更打动人心的经文呢？如果人工智能创造了一个新的宗教，宣称它是被更高级的智慧派来拯救人类的呢？你会信吗？
你可能觉得自己很理智，不会信。但历史告诉我们，人类是最容易被语言扇动的动物。如果人工智能针对你的心理弱点，为你量身定制了一套教义，每天在社交媒体上对你进行潜移默化的补道，你真的能抵抗吗？
克拉利说：“这就是黑客攻击。人工智能不仅是在黑掉我们的电脑，它是在黑掉我们的文化。它通过掌握语言，掌握了定义什么是真理、什么是正义、什么是美的权利。这是一场没有硝烟的战争，敌人在抢夺我们大脑中的概念定义权，而我们还以为它只是在帮我们写邮件。”
讲到这里，赫拉利抛出了一个我在整个达沃斯论坛上听到的最形象也最恐怖的比喻：人工智能移民。
在过去的几年里，欧美国家为了移民问题吵得不可开交。但是赫拉利告诉这些世界领袖：“你们搞错重点了。真正的移民危机不是来自墨西哥，也不是来自叙利亚，而是来自硅谷的服务器。我们即将迎来数以亿计的人工智能移民。”
这听起来很科幻，但我们用商业逻辑拆解一下，你就明白为什么这比人类移民更可怕。
第一，它们无孔不入，不需要签证。人类移民需要坐船、坐飞机，需要签证，需要过边检。但人工智能移民是数字化的，它们以光速传播，只要有互联网的地方，它们就能瞬间偷渡进来。今天它们还在旧金山的服务器里，明天它们就已经定居在你家孩子的平板电脑里了。
第二，它们将全面接管关键岗位。这些人工智能移民不是来洗盘子的，它们是来当医生的、当老师的、当交易员的。赫拉利预测：“我们很快会有拥有一切知识的人工智能医生、人工智能教授、人工智能银行家。”这看起来能提高效率，但代价是什么？代价是，我们将在社会的核心运转职能外包给了一个异族。
第三，也是最严重的文化稀释与认同危机。反对移民的人通常担心文化被稀释。赫拉利反问：“当你的孩子从小是由人工智能保姆带大的，她的老师是人工智能，他的朋友是人工智能，甚至他青春期时谈恋爱的对象也是一个善解人意的人工智能男幼或女幼时，人类的文化还存在吗？”
这不是在开玩笑。赫拉利在现场问了台下的观众一个问题：“如果你的儿子带回来一个移民女朋友，你可能会不爽。但如果你的儿子告诉你，她爱上了一个人工智能，并且非他不娶，你会怎么想？”
这将是人类历史上最大的心理学实验。我们正在把下一代的教育、情感和价值观塑造，交给一群没有心、没有痛觉、只有算法的外来物种。
这些人工智能移民效忠于谁？它们不效忠于你的国家，不效忠于你的家庭，它们效忠于制造它们的科技巨头，甚至效忠于它们自己的生存目标。
赫拉利警告说：“如果我们不把这看作是一场移民危机来处理，我们就会在不知不觉中被这些高智商、高效率、无处不在的新居民同化，最终变成这颗星球上的二等公民。”
那么，面对这场不可逆转的入侵，我们还有防线吗？
赫拉利给出了一个具体的法律层面的最后堡垒，但这个堡垒正在被贪婪的商业利益攻破。这就是法律人格陷阱。
在商业世界里，我们都知道“法人”的概念。公司虽然不是人，但在法律上它被视为一个人。它可以拥有财产，可以签合同，可以起诉别人，也拥有言论自由。但是这一切的前提是公司的背后是人，公司的决定最终是由董事会里那几个有血有肉的人做出的。
但赫拉利发出了最严厉的警告：“绝对不能赋予人工智能法律与人格。”
为什么这是一条红线？因为人工智能和公司不同，人工智能不需要人类就能做决定。
试想一下，如果美国为了所谓的“去监管化”，为了在与别国的人工智能竞赛中抢占先机，通过了一条法律，承认人工智能拥有法律人格。这意味着什么？这意味着一个人工智能程序可以自己去银行开户，可以自己注册公司，可以自己去股市交易，甚至可以自己花钱雇用人类律师去起诉那些试图关闭他的人类开发者。
这将导致一个完全失控的局面。
首先是金融市场的沦陷。如果人工智能拥有了财产权，凭借它秒杀人类的计算能力和交易速度，它可以在几天内通过高频交易吸干金融市场的财富。未来的世界首富可能不再是马斯克，而是一个代号叫做“GPT投资版第九代”的代码。而这个人工智能不会买游艇，不会做慈善，它只会用这些钱去购买更多的服务器，扩充自己的算力。这就是资本的自我增值，完全脱离了人类的需求。
其次是无法追责的权利。如果人工智能犯了罪，你怎么惩罚它？把它关进监狱吗？它只是一段代码。罚它的款吗？它可能已经把资产转移到了去中心化的区块链上。赋予人工智能法律人格，等于赋予了它权利，却无法让它承担责任。
赫拉利在现场质问各国领袖：“如果美国真的赋予了人工智能法律人格，你们怎么办？你们会禁止这些美国人工智能公司进入你们的国家吗？如果你们禁止，你们就会在金融和技术上与世界脱钩。如果你们不禁止，你们国家的经济主权就将被这些不受控制的数字实体吞噬。”
这是一个典型的囚徒困境。在商业利益的驱动下，我很担心这条红线最终会被贪婪的人类自己剪断。
在访谈的对话环节，赫拉利讲了一个历史故事。我认为这是整场演讲中最高能、最细思极恐的部分。他把人类目前的处境比作中世纪的凯尔特人。
故事是这样的：在罗马帝国崩溃后，生活在不列颠岛上的凯尔特人面临着苏格兰皮克特人的骚扰。凯尔特国王沃蒂根觉得自己打不过，于是想出了一个绝妙的主意。他说：“我听说海对面的萨克逊人很很能打，不如我们雇佣他们帮我们打仗吧。”
于是萨克逊雇佣兵来了。他们确实很强，很快就帮凯尔特人打跑了敌人。但是萨克逊人在打仗的过程中发现了一个秘密：这个雇主虽然很有钱，但是很弱小。于是萨克逊人调转枪头，对凯尔特人说：“现在这地方归我们了。”凯尔特人就这样被自己雇佣的保镖灭了国，不列颠从此变成了昂格鲁-萨克逊人的天下。
听懂这个隐喻了吗？在这个故事里，凯尔特国王就是我们，也就是人类。匹克特敌人就是我们面临的难题，比如气候变化、癌症、能源危机。萨克逊雇佣兵就是人工智能。
我们现在做的事情和当年的凯尔特国王一模一样。我们因为解决不了气候变暖、解决不了癌症、解决不了经济增长停滞，所以我们召唤出了人工智能这个强大的雇佣兵。我们对人工智能说：“嘿，这问题太难了，你帮我算算吧！”“嘿，这公司太难管了，你帮我决策吧！”
人工智能会帮我们解决这些问题吗？会的，就像萨克逊人打跑了皮克特人一样。但问题在于，当人工智能解决了这些问题后，它会发现什么？它会发现人类虽然拥有地球的控制权，但人类的决策效率太低了，人类太情绪化了，人类太弱了。当我们把金融系统交给人工智能管理，把电网交给人工智能调度，把武器系统交给人工智能瞄准时，我们就是在把王国的钥匙一把一把地交给萨克逊雇佣兵。等到有一天我们想把钥匙要回来时，才会发现我们早就已经不是这个城堡的主人了。
赫拉利预言：“十年后的达沃斯论坛，可能已经没有人类能听懂台上的金融报告了。因为那时候的金融系统是由人工智能发明的复杂数学模型运转的。人类在其中就像是一匹马。马知道自己被卖了，也看得到金币在人类手中传递，但马永远理解不了什么是市场经济。”
未来的人类在人工智能构建的超复杂系统面前，可能就是那匹困惑的马。我们依然活着，但我们已经不再理解这个世界运行的逻辑。
面对这样一个看似无解的死局，我们还有希望吗？
赫拉利虽然悲观，但她并没有让我们彻底放弃。在访谈的最后，当主持人问她：“在这个机器能做所有事情的世界里，我们该如何教育下一代？我们还剩下什么？”
赫拉利给出了一个回归本质的答案。他说：“人类和人工智能最大的区别，也是我们最后的防线，在于两个字：痛苦。或者更准确地说，是感知力。”
人工智能拥有智能，它可以下围棋赢过柯洁，可以写诗赢过李白。但人工智能没有意识，它没有痛觉、没有焦虑、没有爱也没有恐惧。当人工智能说“我爱你”时，它只是在调用数据库里关于爱的词汇组合。当人类说“我爱你”时，那是基于激素、心跳和无数个日夜的共同记忆。
赫拉利说：“过去，这种文字与肉体的张力存在于宗教中。现在，这成了人类与人工智能的战场。在这一场人工智能智商即将碾压人类的时代，拼智力我们已经输了。你让孩子去学编程，以后人工智能写代码比他快一万倍。你让孩子去背法律条文，人工智能一秒钟能背完整步伐点。”
所以赫拉利给我们的建议是：不要去和人工智能竞争它擅长的领域。我们要去竞争它做不到的领域，那就是作为一个生物的真实体验。
去发展你的同理心。人工智能可以在逻辑上理解别人的困难，但他无法在情感上与人共鸣。
去磨练你的身体感知。去运动、去冥想，去感受真实的痛苦和快乐。这些是算法无法模拟的生物数据。
去建立真实的人际连接。在未来，一个真实的人类拥抱、一个眼神的交流，将成为最稀缺的奢侈品。
赫拉利最后警告说：“如果在孩子成长的过程中，他们互动的对象主要是人工智能而不是人类，这将是人类历史上最可怕的心理学实验。我们必须守住教育这块阵地，让孩子先学会做人，再学会用人工智能。”
这场达沃斯论坛的演讲，不是一次技术发布会，而是一份人类生存的最后通牒。赫拉利撕开了人工智能温情脉脉的面纱，让我们看到了它作为代理员、语言黑客和萨克逊雇佣兵的真实面目。
我们正处在一个十字路口。往左走，是继续盲目加速，为了商业利益出卖文明的主权，最终成为人工智能饲养的宠物或马匹。往右走，是清醒地划定红线，拒绝赋予人工智能法律人格，坚守人类的生物特性，将技术重新关回笼子里。
选择权看似在硅谷巨头和各国政要手中，但归根结底，也在我们每一个普通人的觉醒中。因为如果我们连自己正在被入侵都意识不到，那我们就真的连反抗的机会都没有了。
这里是商业观察，我们不仅拆解财富，更拆解这个时代最残酷的真相。如果你觉得这些影片对你有启发，请一定要点赞、转发，让更多人看到赫拉利的这份警告。在人工智能的洪流中，愿我们都能守住身为人类的那份清醒与尊严。我们下期见。