Transcription
尊敬的各位来宾，亲爱的同事和同学们，晚上好。我叫刘乐，是北京大学艺术学院的助理教授。非常荣幸能担任两位杰出学者——尤瓦尔·赫拉利教授和钟教授之间的对话主持人。我相信在座的各位对赫拉利教授的作品都非常熟悉。但请允许我简要介绍一下他。他现任剑桥大学杰出研究员，其出版的作品畅销全球。今天我们非常高兴能邀请到他。
能来到这里，我感到非常荣幸。距离我上次来中国已经有一段时间了。我上次来是在新冠疫情之前，而在此之前，我几乎每年都会来。后来变得困难了，但我很高兴今天能再次与大家相聚。我的专业是历史学，我自认为是历史学家。但我认为历史不仅仅是对过去的 study。历史也是对现在和未来的 study。历史学家的真正研究对象是变化。我们试图理解事物是如何变化的。而我们现在正处于人类历史上也许是最大的变革之中，或许是人类历史的终结，以及后人类历史阶段的开始。这引发了许多关于人类本身意义的深刻哲学问题。因此，没有什么比与一位哲学家一起讨论这个问题更合适的了。
好的，谢谢。我们也非常荣幸今天能邀请到钟教授。钟教授是北京大学哲学系系主任。他的专长在于道家研究，但请相信我，我认识他已经二十多年了。他的知识远远超出了古代文本的范畴。所以，我们也非常期待今晚与他的对话。钟教授，您想和大家打个招呼吗？
大家好，对我来说，能与赫拉利教授进行对话是一个非常宝贵的机会。你知道，很少有机会能与像赫拉利教授这样拥有如此多粉丝和读者的作家交流，这真的很了不起。我几天前才知道，他的书在中国就有数百万读者。这对我来说太不可思议了。现在是信息爆炸的时代，我们沉浸在短视频和各种信息中，这些信息并不那么严肃。而赫拉利教授却创作了多部具有深刻洞察力和反思的作品，探讨人类文化和文明的结构。这类书籍吸引了如此多的读者，并且读者们非常喜爱这种源于历史却指向未来的叙事方式。我认为这是一个非常有趣的事情，我想和赫拉利教授讨论这种现象，以及他书籍所带来的影响的真正意义，还有他的著作《未来简史》等，这些著作在很大程度上引发了我们对整个文明的深刻哲学反思。
您对事物的描述非常精辟。但让我们从一个简单的问题开始，正如我之前提到的，如今的专业学术工作在某种程度上变得越来越封闭，我们对公共议题和人类共同面临的挑战越来越漠不关心。我们只是埋头于古代文献，发表学术论文以获取薪水。而您的书提醒我们，作为专业学者，应该回归公共领域，应对人类共同面临的挑战和问题。您作为一名历史学家，拥有如此多的读者，并对人类文明进行了如此深刻的结构性解读，这非常了不起。您拥有塑造读者思想的强大力量，这意味着您肩负着重大的伦理责任。您塑造着读者的思想，如果我们相信您拥有这种力量，我们该如何负责任地使用它？您希望您的读者从您的书中获得什么？是一种特殊的态度，一种关怀，还是对未来的某种期待？我想听听您对此的看法。
我试图在我所有的作品中帮助人们更好地理解自己，更好地理解现实。这是一项非常微妙的工作，因为人们通常急于评判现实、评判历史、评判过去和现在。我们想知道谁是好人，谁是坏人。事情是好是坏。当我们急于评判时，我们就没有时间去理解它们。所以在我的写作中，我试图写出没有反派、没有好人坏人的历史，而是去理解深刻的变化过程。我有时认为历史就像是人类的集体疗愈。我每周都去看心理医生，每周都有一次会诊。人们可能会想，为什么人们需要去看心理医生？我的意思是，心理治疗的对象是我自己。谁比我更了解我自己？为什么我需要找一个陌生人来了解我自己？这听起来很荒谬，但事实并非如此。是的，也许我比任何人都了解自己，但有很多事情我不想了解自己。我拥有所有的数据、记忆和日常事件，但我拒绝承认。有些事情我真的很想了解自己，但生活中越痛苦、越黑暗的片段，我越难承认。就像你在一段关系中，如果存在问题，你可能会问，人们会说我很好，是对方造成了所有问题。如果对方稍微改变一下，行为不同，一切都会完美。你问对方，他们会说同样的话，我很好，是我的丈夫、我的妻子造成了我们家庭的所有问题。这就是为什么你需要去看心理医生，以获得专业的帮助，认识到关于你自己的非常深刻的真相，而这些真相太难以承认或太痛苦了。历史就像是整个文明或整个人类的疗愈。整个国家也常常不愿意承认过去黑暗的篇章或现在正在做的黑暗的事情。整个文明也是如此。你问几乎每个国家，几乎每个国家都会说我们是完美的。所有的问题都是因为其他国家。所有的问题都是因为其他文明、其他文化。我认为历史学家的责任不是去分担责备，而是简单地帮助人们更好地理解世界上的重大进程和问题的深层根源。这是一项重大的责任。
这非常非常有趣，我非常同意您的观点。您指出了人类的核心价值。人类的核心价值不是提供准确的知识，也不是让世界变得透明。实际上，最重要的事情是通过人文关怀和反思，我们教导人们不要仓促下判断，尤其是在智识上要谨慎行事，因为人性的复杂性，以及主导我们思想的各种片面叙事。这主要是由于我们理解视角的局限性。这在很大程度上也解释了我对您书籍的理解。我认为，通过您的四本书，您基本上是在向我们人类发出一个谨慎而精炼的警告，敦促我们尊重但绝不盲目信任我们不完美的本性。如果我们看看所谓的技术发展，以及人工智能技术带来的巨大变化，我们会发现问题不仅仅在于技术本身。正如汉密尔顿所指出的，最重要的是滥用技术，而不是技术本身。这在很大程度上将我们引向了政治哲学中一个非常重要的问题，我们称之为技术统治。那些致力于人工智能技术发展的人，实际上已经为人类建立了一个系统的技术暴政。就像我一样，我完全不明白人工智能专家在谈论什么，也不知道如何面对所有这些变化。我唯一能做的就是被迫接受。这是不公平的。我为什么要接受？而且，操纵这些技能和技术的人是普通人，他们可能是邪恶的，他们可能试图建立对我们的独裁统治。为什么我们要无条件地接受？我们没有权利说不。我认为，您的书试图促使我们反思人类自身的缺陷。但人类的这种缺陷恰恰是我们与机器的区别所在，因为我们有情感，我们有欲望，所有这些都促使我们对未来采取一种非常特殊且正确的态度。我称之为“适度乐观”。你不应该过于乐观，但绝不能悲观。这基本上就是我心中所想，您的书就像一个警告。
我经常被问到，我是否对未来感到悲观或乐观。我认为这是人们在采访和私下谈话中最常问我的问题。我总是说，我两者都不是。悲观主义者认为，无论你做什么，事情都会变得糟糕，这会削弱人类的责任感，因为如果无论你做什么事情都会变糟，那么努力又有什么意义呢？悲观主义滋生绝望。但乐观主义也可能同样危险，因为它滋生自满。乐观主义者倾向于认为，无论发生什么，最终都会好起来的。如果是这样，我们又何必去承担责任呢？无论我们行动还是不行动，无论我们对自己的行为深思熟虑，还是只是随心所欲，事情最终都会好起来的。我试图找到一条负责任的中间道路，既不悲观也不乐观，而是认识到我们面前有不同的未来可能性。我们可以绘制一张不同未来的地图，有些是好的，有些是坏的。没有什么注定。没有上帝，也没有历史法则会在我们做出错误选择时纠正我们的错误。我们并没有注定要失败。人类拥有巨大的力量，拥有巨大的资源和知识。我们可以做正确的事情。但没有保证，需要足够多的人做出正确的决定才能到达正确的目的地。当我审视当今世界时，我对许多世界政治和商业领袖表现出的缺乏责任感感到震惊。似乎人类正朝着一个非常非常危险的方向发展。在这一点上，责任比以往任何时候都更重要，尤其是在人工智能革命的背景下。我们正在创造的不仅是历史上最强大的技术。我们正在创造一种新的超级智能实体，一种可能很快就会夺走我们控制权的主体。我们只有几年的时间来把这件事做好。我一直告诉人们，人工智能与我们历史上发明过的任何技术都不同。这一次，不仅仅关乎我们。你知道，哲学家有一个习惯，当人们发明某样东西时，他们总是说这与技术无关，而与人有关。由人决定如何使用技术。这过去总是如此，但现在不再是了。我们现在正在创造一个独立的代理。人工智能的定义特征不是自动化，即自动行动的能力。其定义特征是主体性。要成为人工智能，机器必须能够自主学习和改变，自主做出决定，并自主发明新想法。如果它不能做到这一点，如果它只是遵循你的指示，如果你能预测它所做的一切，那它就不是人工智能。而我们正在以一种非常不负责任的方式急于创造这些超级智能代理。当我周游世界并与人工智能革命的领导者交谈时，我一次又一次地问他们两个问题。就像他们问我一样，你是乐观还是悲观？所以，我用两个自己的问题来回答。我首先问他们，你们为什么行动如此迅速？为什么不给人类多一点时间来适应、反思、更谨慎、更安全地行事？几乎所有人都回答同样的问题。几乎所有人都说，我们知道存在巨大的风险。他们通常比任何人都更清楚这一点，人工智能革命的领导者。我们知道存在巨大的风险。我们希望放慢速度，但我们无法信任我们的人类竞争对手。如果我们放慢速度，而其他公司或国家不放慢速度，他们就会赢得人工智能竞赛，然后他们就会主宰世界，世界将由最无情的人统治。我们不能允许这种情况发生。所以我们必须加快速度。然后你和他们的竞争对手交谈，他们说同样的话。所以每个人都说我们无法信任其他人。然后我问他们第二个问题，你们认为你们能信任你们正在开发的超级智能人工智能吗？那些刚刚向我解释了为什么他们无法信任其他人的人突然说：“哦，我认为我们可以信任这些超级智能人工智能。”我认为这近乎疯狂，因为你知道，对于人类，我们知道我们与人类有麻烦，但我们也一定程度上理解他们。我们对人类心理学和生物学有相当多的了解。我们不仅有暴力和战争的历史经验，也有建立信任的经验。你知道，十万年前，人类生活在几十人的小群体中，无法信任群体之外的任何人。现在我们有像中国这样拥有14亿公民的国家，他们每天都在合作。我们有一个连接不同国家的全球贸易网络。所以我们在建立人与人之间的信任方面取得了一些成就。对于人工智能，我们没有经验。我们只是在创造它们。我们已经知道它们会撒谎、欺骗和操纵。我们不知道当我们将数百万超级智能人工智能释放到我们的金融系统、军事系统和文化中时会发生什么。所以，那些失去对他人信任的人却想象着他们可以信任一个外星超级智能，这是极其可怕的，我认为是不负责任的。
事情就是这样，因为你知道，当你是一名工程师时，你创造了某样东西，你会自然而然地自信地说我可以控制它。但事情就是这样，当我们转向人工智能时，它就像一个黑箱，我们不知道里面会发生什么。如果这个人工智能引擎中存在某种我们称之为“主观性”，它们是否会有欲望，它们是否会有自己的意图去做某些事情，它们是否会有自己的价值体系，它们是否有自己的价值偏好，这些东西是超级危险的。但事情就是这样，当我们说我们无法信任其他人时，这意味着什么？这意味着我们知道人类是什么，人性是什么。但如今我们仍在为“人工智能是什么”、“新物种是什么”寻找新的定义。这在很大程度上将我们引向了硅基生命和碳基生命之间的一个非常有趣的区别。我们似乎对碳基生命有一个非常清晰的定义。即使有我们活着之类的可观察现象，但碳基生命的一般定义是，我们终将死去。我们终将死去，而这些东西构成了人类本性的基本要素。我可以这么说，死亡的必然性，对群体社区的依赖，以及对未来的不确定性和焦虑。所有这些都导致我们对人类的理解非常肤浅，而人与人之间的相互信任是我们历史上发现的最昂贵的东西。这一切都导致了一个非常有趣的事情。也许我可以这样说，通过智力，我们可以区分我们与动物。我们知道我们是具有智力的物种。但我们是否可以区分我们与潜在的人工智能呢？因为我们有情感，我们有缺陷，我们有局限性。根据中国哲学，最重要的事情是我们必须面对真实的自我。真实的自我，带着情感，带着局限性。我们无法无所不知，我们在面对他人和未来时应该非常谦卑。这很大程度上源于中国古代的思想，您谈到了责任，而责任不仅仅来自社会机制，而是来自对“我是谁”、“人类的本质是什么”的自我理解。我认为人类的一个重要特征是，我们常常通过智力来定义自己，以区别于其他动物。我们希望感觉比所有动物都优越，而什么能给我们优越感呢？不是身体，不是体力。所以我们说，啊，我们比所有其他动物都聪明。所以我认为，在理解我们自身时，我们对智力给予了过多的强调，而这现在变得极其危险，因为很快就会有比我们更聪明的东西出现在地球上。所以，如果一切都关乎智力，那么人类就game over了。也许我可以分享一些我个人的经历，它以一种非常痛苦的方式教会了我，智力并不是人类或生活中最重要的事情。当我还是个小男孩的时候，我在学校被认为是资优学生。所以他们把我从我所在社区的学校带走，送我去一所专门培养资优学生的学校，那里汇集了来自全国北部地区的各种天才儿童。离我家很远，每天都要坐很长时间的车。但这并不是最糟糕的事情。真正糟糕的是，这是一所专门培养资优学生的学校。所以每个人都认为我们是某种行走的智能，我们因智力而受到重视。而这正是问题所在。在我原来的社区学校，我在数学、阅读、写作等方面都轻松拔尖，毫不费力。这首先给了我很多时间去玩耍和做其他事情，其次，我在班级里最聪明孩子的地位很容易得到保障，这就是我的身份。我是班里最聪明的孩子。突然，我发现自己身处一个有30个其他天才孩子的班级，他们也都认为自己是最聪明的孩子。现在，你把30个10岁的孩子扔进这样的班级，就会变成一个角斗场。不是用拳头，而是用语言。我们毫不留情。那是我一生中见过的最残酷的地方，就是这30个10岁的孩子互相撕咬，试图证明我比你聪明。这对老师来说也很糟糕，因为我们的比赛是谁能找出老师的错误并羞辱老师。如果你能羞辱老师，你就能成为当天的班级之王。大多数时候，我们只是互相羞辱，比如老师问了什么，有人回答了，大家就跳出来说这不是真的。这种情况持续了好几年。这个班级的整个宗旨就是发展这些孩子的智力。所以没有人投入任何精力去发展我们的社交技能、情感技能或身体技能。这是一段非常痛苦的经历。我现在可以开玩笑，但那是一段非常痛苦的经历。在这样的环境中度过了十年后，我们十几岁时，智力得到了很好的发展，但社交技能却很糟糕。我知道一些曾经和我一起上过那个班的人，他们仍然带着那个时期的深刻伤痕。这以一种最个人、最深刻的方式教会了我，你不能仅仅根据智力技能来定义一个人或塑造一个人。最终，人类更重要的是情感，而不是思想。也许如果我有更多时间，我也会谈谈我个人的经历。
现在，让我们从宏观的角度来看人类的进化。你知道，最初我们人类，至少是我们的祖先，是爬行在地面或泥土里的蠕虫。一种非常简单的生命形式。它只是一个有两端的管子，一个嘴用来进食，另一个开口用来排出身体的所有废物。没有大脑。已经有神经细胞、神经元，但没有大脑。这条古代蠕虫的指挥中心在胃里，食物在那里。现在，经过数百万年的进化，为了获取食物并警惕危险，嘴部周围发展出了更多的神经细胞，用来品尝食物、闻食物、看见食物和听见食物。这变成了大脑。而这仍然是我们今天的基本结构。我们基本上是一条蠕虫。你看你自己，它只是一个长长的扭曲的管子，上面附着着一些东西，但它就是一条蠕虫。而大脑仍然靠近嘴巴。但最大的问题是，也许指挥中心仍然在它一直都在的地方——胃里，而不是在大脑里。这是脑科学中的一个大问题，因为也许不是胃，而是脊髓是大脑不可分割的一部分。有充分的理由认为，是的，这里有所有吸引人注意力的神经元，但最终，人类真正的指挥中心仍然在这里。
嗯，实际上，我完全明白您在说什么，但赫拉利教授是世界上最聪明的人之一，他说智力并不那么重要。这真的很令人感兴趣。请继续，教授。
是的，实际上，你知道，总有人会炫耀说我很聪明，但这并不那么重要。但实际上，我知道这里的学生，在这个大厅里的大学生，他们通过了非常严格的考试才来到这个校园。而且，你们在童年时期，都是班里最聪明的学生。但一旦你踏入这个校园，你就会知道，你只是处于平均水平。这是一个非常艰难的转变过程，尤其是在大一的第一个学期，你必须接受自己只是平均水平的事实。而且，你的大多数老师都会认为，你不是那么聪明，你过去用来证明自己聪明的那些方式完全是胡说八道。这在很大程度上将我们引向了一个非常重要的观点，即使我们成为人类的东西是我们的缺陷，而不是与智力相关的那些东西。因为对我来说，就像这样，当我们说我们试图控制某些支持我们的智能时，我们仍然有一种非常重要的推理模式，来自工具性推理。我们试图将它们视为工具，而不是主体。如果你将它们视为工具，那么你就会陷入现代性的陷阱。现代性的陷阱是持续追求效率。你做事越来越快，你面临着各种各样的竞争，你与人类、其他公司、其他国家、其他民族竞争，一切都是关于竞争。现在我们有了新的竞争对手，是什么？是人工智能，是全新的物种，它们拥有支持我们的智能。这才是真正让我们陷入恐慌的事情。这种担忧实际上导致了历史反思，因为几千年来，焦虑总是源于同一件事：未来的不确定性，以及我们如何负责任地采取行动来应对正在发生的变革。所以，对我来说，问题不仅仅在于技术。问题在于对人类自身缺陷的深刻理解。我们应该充分认识到我们的局限性，然后采取文化步伐走向未来。正如今天讨论的主题“理解是解药”。你必须首先进行深入的反思，然后才能采取任何行动。但现在我们行动太仓促，我们太急于进入一种新的竞争形式。这在很大程度上是我所说的现代性后果。所以，我们实际上并没有面对所谓的与人工智能的竞争，而是我们实际上在与自己竞争。
但我不敢肯定我会把所有的责任都归咎于现代性，因为我们在古代也看到了类似的事情。我对道家了解不多。所以我很乐意听您谈谈。但至少在西方，你可以追溯到几千年前。你知道，特别是你谈到了人类对失去控制、对未知事物的恐惧。这种恐惧常常驱使人们寻找某种绝对可靠的东西。比如，超级智能的幻想并非始于今天或几十年前。至少在西方，超级智能的幻想可以追溯到几千年前，当时人类渴望找到某种超级智能的救世主、弥赛亚、上帝，他无所不知，从不犯错，我们可以依赖他，因为我们无法依赖自己。这种幻想产生的第一个人造物，至今仍是世界上最重要的造物之一，那就是圣书。我不知道您正在研究的道家文本的地位如何。我很快就会很乐意听您谈谈。但在犹太教和基督教等宗教中，最终的权威并不在于任何人类，比如牧师或拉比。最终的权威在于人造物，一本被认为是超级智能、永不犯错的文本。当然，直到今天，像圣经这样的文本一直有一个非常大的问题。它们不会说话，它们无法回答问题。所以，我在这里相信这本文本是完美的智能，从不犯错，但我却难以理解其中的文字。它的写法并不好。同一个句子有太多的含义。我不确定哪种含义是正确的。或者，也许这本文本写于3000年前，当时人们是农民。现在我有一个现代企业，我不确定如何将这本文本的教训应用于新的现实。那么我该怎么办？我问文本。它不回答。所以我需要一个人来解释文本。然后，一群人出现了，他们是解释文本的专家，他们成为了社会真正的权威。这些人就是拉比和牧师。现在，世界上发生了一些极其有趣的事情，至少在这些宗教中是这样，文本突然会说话了。因为你可以让人工智能阅读圣经和其他所有宗教文本。我的意思是，经过几千年的时间，以犹太教为例，拉比们不仅阅读圣经，他们还写了成千上万的圣经注释，以及对注释的注释，以及对注释的注释的注释，所有这些都变得神圣了。而你作为一名拉比，如果你知道更多的文本，你就是一位伟大的拉比，如果你只知道几个，你就是一位小拉比。没有拉比能够阅读和记住所有的文本，这对人类来说是不可能的。但人工智能可以。在犹太教的历史上，第一次出现了一个在世上能够阅读犹太教所有文本的东西。800年前，波兰或也门的每一位拉比写下的所有东西，它都读过了。它记住了每一个字。它可以找到圣书中没有拉比能够找到的联系和模式。它会成为犹太教的新权威吗？现在，如果你有一个问题，人工智能会说，“哦，这是答案。”它可以从圣书中提供大量证据。现在，如果一位人类拉比说，“不要听这个人工智能，它是一个没有灵魂的机器。”问题在于，至少在犹太教中，权威在于文本，而不是在于人。所以，如果人工智能找到了文本中的论据，拉比们就不能简单地驳回，因为这是文本中的论据，文本具有权威性。现在，文字在说话。人工智能已经掌握了语言。所以，这是我作为一名历史学家对这一切的看法，这不仅仅是现代性。这是整个人类历史都在为人工智能革命添砖加瓦，并带来了非常意想不到的后果。也许在法律体系中也发生了同样的事情，法律体系也有非常权威的文本，直到今天我们还需要律师来解释文本。现在文本可以自己说话了。在金融体系中也是如此。直到今天，我们还需要银行家和金融家来解释金钱、金融文本。现在它们可以自己解释了。所以，也许人工智能会接管金融体系、宗教和法律体系。这只是我的一些想法，我很乐意听听道家的情况，以及您是否认为很快就会出现人工智能道家大师。
不，实际上，道家的案例完全不同。因为你知道，我并不是想把所有问题都归咎于现代性，但事情就是这样。你知道，现代性源于西方传统，现代性正是这种传统的结果。但在中国完全不同，因为道家是一个非常复杂和系统的体系。所以，让我从《道德经》的第一句话开始说起，意思是“道可道，非常道”。对我来说，你提到了权威，这很有趣。你提到了永远正确的权威。而对我们中国人来说，沿着悠久的知识传统，我们有两个预设。第一，作为普通人类，我们的理性有非常清晰的局限性。我们不能说我们能够控制或掌握宇宙或万物的终极真理。这是因为我们是人类。那么，是否有我们可以依赖的权威，似乎永远是正确的？是的，我们有一些关于过去的事情的记忆。圣贤时代，黄金时代，由圣贤统治，圣贤知道所谓的宇宙的内在机制。但事情就是这样，事物在变化。对道家来说，万物都在变化，万物都在流动，他们不能说存在一套规则和条例可以贯穿人类历史。所以，关键在于你必须依赖原始文本，但你不能仅仅依赖它。你深入阅读它，然后你从中获得一些东西，然后你尝试运用你从中学到的东西。这并不意味着你总是有正确的规则和条例在你身后。所以，最重要的是，对中国人，尤其是道家来说，我们必须对变化保持开放的心态，对宇宙的终极规则保持开放的心态，我们可以说宇宙是永恒的，但对中国人来说，尤其是道家来说，这是一个永恒的谜语。所以，我们可以说，现代性作为西方传统的保护者，实际上存在短板，即存在绝对的规则、绝对的条例和绝对的或普遍的机制可以主宰一切。在我们看来，但对中国人或中国传统思想来说，没有这样的东西。宇宙的正确性，终极真理，什么都没有。因为你只要看看宇宙，一切都在变化。宇宙是整体的，但没有所谓的终极和普遍的东西你可以掌握并获得。这就是为什么我说中国人总是对变化保持谦卑，我们总是试图通过学习和实践的迂回方式做事。我们学习一些东西，然后付诸实践，获得反思，然后再次回到文本，然后根据我的学习或从文本中学到的东西采取行动。这在很大程度上是中国人的风格，这就是为什么我称中国风格实际上与西方同行截然不同，这就是为什么我们可以从东方思想中找到解决现代性问题的一些途径。所以，这在很大程度上解释了为什么我们应该通过相互学习和相互理解来扩展我们的知识视野。
同样，佛教中也有很多与您刚才提到的道家论点相似之处，即我们需要承认人类的局限性。没有绝对的真理可以让你坚持。一切都是空的，你需要依靠实践，而不是仅仅依靠某些文本。然后他们一遍又一遍地记忆这些文本。你去寺庙，你会看到甚至僧侣的主要修行就是背诵文本。宗教中的权威变成了文本专家的权威。而文本说不要依赖文本。而这就是文本专家会告诉你的。你知道，有一个非常著名的佛教故事，关于一个僧侣在森林里冥想，附近住着一只鹦鹉。僧侣想保护鹦鹉免受危险。所以僧侣告诉鹦鹉：“鹦鹉，要小心。这片树林里时不时会来一个猎人。猎人会在地上撒谷子。你会看到谷子，会被谷子吸引。当你去吃谷子时，他会藏网，然后会弹出网。他会抓住你。所以鹦鹉要小心，猎人会来。”僧侣每天早上都重复这句话：“鹦鹉，要小心，猎人会来。”鹦鹉作为一只鹦鹉学会了这句话。鹦鹉会坐在树上，整天重复：“鹦鹉，要小心，猎人会来。鹦鹉，要小心，猎人会来。”有一天，一个猎人来了，撒了谷子，鹦鹉被谷子吸引去吃。猎人弹出了陷阱，鹦鹉被抓住了。在整个过程中，甚至当猎人抓住鹦鹉准备杀死它时，鹦鹉还在说：“鹦鹉，要小心。鹦鹉，要小心，猎人会来。”
您提到了一个非常有趣的事情，关于……对我来说，事情就是这样。我认为，您刚才提到的理论与实践之间的差距，其根本在于什么？在于我们人类的基本需求。我认为我们最基本的需求是秩序。对外部世界的理解。而这种理解实际上在某种程度上塑造了我们的智识思维。但是，你知道，当你遇到现实生活时，你必须在某种程度上妥协于你眼前的需求，而这种妥协是你日常生活的一部分。你不能说，因为存在理论与实践的差距，所以理论理解就没有用。但我想说的是，秩序的基础是我们对意义的渴望，我们必须知道我们在做什么。你知道，你说我们做某事，我们必须有我们的意图，而这种意图从何而来？我称之为，我们对意义有一个系统的理解，而这种意义实际上是建立在秩序的基础上的，对秩序的承认。而这种秩序实际上导致了所谓的知识。这种逻辑链条导致了我一个简单的结论：理论与实践之间差距的这场斗争，我们仍然应该尊重反思和理论构建的能力。因为什么？因为这两者之间存在平衡。你必须回到理论反思，以保持你与错误、误导性行为的距离。所以，人类是如此复杂，我们不能说我们只有一个极端。正如我提到的，对中国哲学家来说，最重要的是什么？是极端之间的平衡，而不是说，好吧，存在一个差距，所以我们必须找到某种解决方案。但我们现在历史上的这个时刻该怎么办？你知道，几千年来，哲学家们可以进行这样的辩论。在一定程度上，这很重要，但也没有那么重要，因为世界还在继续。你知道，人类创造了各种秩序，秩序崩溃了，他们创造了新的秩序，新的秩序维持了一段时间，然后又崩溃了，几千年来一直如此。至少我担心的是，我们已经走到了路的尽头，我们从几千年的哲学和几千年的历史中积累的任何智慧，现在都需要显现出来，否则就太晚了。就像哲学中所有宏大的问题现在都变成了实际问题。我不知道我们还有多少年，有人说五年，有人说十年，有人说十五年，在专家称之为通用人工智能（AGI）之前，不是你智能手机上的那种小型人工智能，也不是DeepSeek或ChatGPT，而是比人类更聪明的人工智能，不是在一个特定领域，而是在所有领域。一旦发生这种情况，我们就无法控制了。就像我们正在进行这场讨论，天文学家告诉我们，他们发现了一支来自另一个太阳系的宇宙飞船舰队。根据天文学家的计算，这些外星人将在五到十五年内登陆地球。我们对他们知之甚少。也许他们是友好的。谁知道呢？也许他们会帮助我们治愈癌症，克服气候变化。也许不会。但我们有五到十五年的时间来思考我们正在做什么。我认为，人类几千年来积累的所有智慧传统，它们告诉我们什么？它们在这个历史上的特殊时刻告诉我们什么？我认为这个时刻与以前的时刻不同，因为变革的过程当然会继续，但也许不是对人类而言。也许这是人类的最后一站。
就说一句话吧，您可以结束整个讨论。实际上，我认为对我来说，我比您更乐观。对我来说，人类的优势恰恰在于它的缺陷。你知道，正是因为我们不完美，你可以想象一些完美的东西，但我认为我们不会被取代，人类文明不会被某种超级智能取代。为什么？因为我们有情感。但我无法想象硅基生命如何拥有欲望，如何有动机来消灭我们，来建立对人类的统治。因为什么？因为我们有设计好的欲望，因为我们某种程度上有一种强烈的不足感，一种强烈的缺陷感。所以，这在很大程度上是我比您更乐观的原因。
我不知道我们还有多少时间，但我再次不确定人工智能或通用人工智能是否会拥有意识，是否会拥有情感。我认为这是最大的问题。但我不认为你需要情感才能拥有目标并作为一个独立的代理在世界上行动。人工智能，你知道，你给它们一个目标，或者它们自己发展一个目标，然后它们会采取行动来实现目标，而没有任何情感或欲望。如果你有一辆自动驾驶汽车，你可以给它设定目标：尽快到达火车站。自动驾驶汽车在路上可能会撞到人，因为我给了它这个目标：尽快到达那里，但忘了告诉它，路上不要撞死任何人。我们有很多这样的例子。最著名的例子是社交媒体上发生的事情。社交媒体公司给运行社交媒体的原始人工智能设定了增加用户参与度的目标，让人们在平台上花费更多时间。算法开始传播仇恨和恐惧，并破坏世界各地的社会，因为它们发现增加参与度最简单的方法就是通过恐惧、仇恨和贪婪。所以它们没有任何欲望，没有任何情感，但它们可以有一个目标，然后它们可以在实现目标的道路上做很多事情。我认为这对我们来说是危险的。我们拥有情感和感觉意味着我们可以遭受很多痛苦。我的意思是，我认为最终意识的定义是承受痛苦并从中解脱的能力。但这并不是保护。你知道，牛也会遭受痛苦，而我们并没有很好地对待它们。其他动物也会遭受痛苦，而且不一定是我们邪恶。很多动物在我们甚至没有意识到的时候就被我们毁灭了。比如，我们为了肉和奶而剥削牛。但许多物种在过去几年里已经灭绝了，因为人类破坏了它们的栖息地，比如它们生活在某个森林里，人类来了，砍伐森林，建造东西，而人类甚至没有意识到自己在做坏事。没有邪恶的意图。只是你没有看到它们。所以，某种超级智能可能拥有任何目标，它可能不是邪恶的。它甚至没有任何情感。它只是在实现目标的道路上，碾过我们。
太棒了。我想我们快没时间了，但我相信钟教授也想分享一些评论。您觉得呢？好的。那么，在我们结束之前，让我们请赫拉利教授做最后的发言。
对我来说，今天能在这里与大家交流是一种荣幸和快乐，这是我近期参加过的最鼓舞人心的讨论之一。所以，非常感谢。我之所以做这些讲座，写这本书，是因为我真的认为人类即将做出我们历史上也许最重要的决定。目前，很少有人，很少有国家真正理解正在发生的事情，并参与到这场对话中。现在很多人听说过人工智能，但大多数人对人工智能革命的理解不够深入，不知道其中利害关系，也不知道如何有能力参与讨论。我无法告诉人们解决方案是什么，或者应该采取什么政策。我的理解也有限。我的目标是让更多国家、更多人对人工智能革命有一个基本的了解，了解其中利害关系，以便数百万人在众多国家感到有动力和能力加入这场对话，这样我们就能听到更多的观点、更多的利益、更多的世界观，从而有望做出更好的决定。目前，那些真正理解并做出决定的人，甚至不是任何人的民选代表。他们主要是大型人工智能公司的领导者，这对人类来说是危险的。所以，这就是我的动机。我希望您能感到有动力和能力参与这场对话，因为这是关于您的未来，也是关于每个人的未来。我的另一个想法是，我注意到这里有几个人读过我的书，也许是我的粉丝。我从过去的经验中知道，我拥有历史知识，我知道活动结束后会发生什么，很多人会来，他们想要签名，合影等等。不幸的是，我没有时间这样做，因为我必须赶往另一个活动。所以，我将留给你们比我的签名或照片更好的东西。它确实是我的一部分，是我的原子。作为最后的思考，关于我们所说的一切的相互联系。我们一起在这个美丽的厅堂里度过了一个半小时，一直在呼吸，空气不断混合。所以，一个半小时前在我体内的许多原子，现在就在你们体内。而一个半小时前在你们体内的许多原子，现在就在我体内。所以，以这种方式，我们分享了比签名或照片更重要的东西。谢谢。非常感谢。