Transcription
所以，大家好，在二十世纪，也就是上个世纪，人类真的做到了不可能的事情，遏制了饥荒、瘟疫和战争。如今，历史上首次，死于饥饿的人比死于肥胖的人少；死于瘟疫的人比死于衰老的人少；死于暴力的人比死于事故的人少。当我们展望二十一世纪新的不可能的挑战时，记住这些惊人的成就很重要。而二十一世纪将充满我们前所未遇的、甚至更困难的新挑战，从气候变化到人工智能等颠覆性技术的兴起。在这次演讲中，我想聚焦于也许是最复杂的挑战，那就是我们人类在未来几十年所面临的挑战——生物技术和信息技术的双重革命，或者说，生物技术和信息技术的融合，形成一股压倒性的科学浪潮。这很可能会动摇我们对人类的认知，并动摇现代文明的人文主义基础。因为当我们面对任何重大挑战时，无论是核战争、气候变化还是人工智能，我们总是需要某种道德基础来支撑。而几代人以来，我们最坚实道德基础一直是人本主义。但在二十一世纪，人本主义本身可能会过时。那么，人本主义到底是什么呢？简单来说，人本主义是一种信念，认为人类的情感是权威的最终来源。当我们面对个人生活或社会集体生活中的任何重大问题或困境时，人本主义期望人类的情感和自由选择能为我们提供答案。人本主义告诉我们要倾听自己，追随内心，忠于自己。既然没有人比我更了解我的感受和自由选择，那么没有人应该对我拥有绝对的权威，对我的人生拥有绝对的权威。这是人本主义的基本思想。这听起来有点模糊、抽象和复杂，所以我将举几个例子来说明人本主义的实际应用。因为我认为，当我们谈论如此重大的问题，尤其是道德问题时，清晰度至关重要。如果没有清晰度，就很难真正理解我们在谈论什么。那么，人本主义在实践中是什么样的呢？让我们看看几个不同的领域。首先，我们来看看政治。什么是人本主义政治？人本主义政治认为选民最了解情况，政府应该为选民服务。如果你遇到任何重大的政治问题，你应该问选民他们的感受。选民的感受是最高政治权威。请注意，在公投和选举中，人们实际上并没有被问到“你怎么想”，而是被问到“你感觉如何”。如果选举是关于人类理性，那么就没有理由给予每个人平等的投票权，因为不同的人拥有不同的理性能力。但据说在情感方面，人人平等。这就是为什么，例如，当英国需要决定是否脱离欧盟时，他们没有让英国女王做出决定，没有询问坎特伯雷大主教的意见，甚至没有询问牛津和剑桥的伟大教授的意见。不，他们走访了每一个英国公民，问他们“你对此感觉如何？”当公民们说他们感觉想脱离欧盟时，没有任何更高的权威可以告诉他们“你们的感觉是错误的”。这就是人本主义政治，选民最了解情况。那么，什么是人本主义经济学？人本主义经济学认为顾客永远是对的，企业为顾客服务。你怎么知道一个产品是好是坏？这取决于顾客。这非常非常简单。好产品是顾客购买的产品，坏产品是顾客不购买的产品。就是这么简单。如果你生产了一件产品，你坚信它是世界上最好的东西，但没有人购买，这意味着它是一个坏产品。你不能反驳顾客说“你们的感觉、你们的选择是错误的”，至少如果你相信人本主义经济学的话。那么，这在艺术和美学中是如何体现的呢？什么是人本主义美学？正如人本主义经济学认为顾客永远是对的，人本主义美学认为美在观者的眼中。纵观历史，有许多试图定义、寻找艺术和美的客观定义的尝试。但后来出现了人本主义，并说“不，没有客观的定义，只有主观的体验和主观的感受。”1917年，也就是一个世纪前，马塞尔·杜尚拿了一个普通的批量生产的小便池，我想你们可以看到，并宣布它是一件伟大的艺术品，将其放在艺术展览中。从那时起，就一直存在着激烈的争论：这是艺术吗？它美吗？谁来决定什么是艺术？如果你是人本主义者，你最终会得出结论：嗯，这取决于人们的感受。艺术是任何人们认为是艺术的东西，美是任何人们觉得美的东西。如果有人觉得这是一件美丽的艺术品，并愿意支付数百万美元来拥有它，那么宇宙中谁能告诉这个人“你错了，这不是艺术，也不美”？这就是人本主义美学。那么，什么是人本主义伦理学？人本主义伦理学本质上认为，如果感觉良好，就去做。纵观历史，有许多试图定义一些绝对的、客观的道德观的尝试，这些道德观独立于人类的信仰、感受和经验，也许是基于神圣的启示。在中世纪，同性恋被认为是可怕的罪恶，因为圣经是这么说的，教会是这么说的，教皇是这么说的。然后人本主义出现了，并说“我们不在乎教会说什么，教皇说什么，或者圣经说什么，我们关心人类的感受。”这是道德的最终基础。如果两个人相爱，他们的爱没有伤害任何人，为什么有人会认为这是坏的，是邪恶的？当然，有时人本主义伦理学中也会出现困境。如果同一件事让我感觉良好，却让别人感觉糟糕怎么办？比如，我偷了你的车，我感觉很好，但你感觉很糟糕。在这种情况下，我们不诉诸某种更高的绝对道德，我们必须权衡感受。这就是人本主义社会中的道德辩论是如何发生的。我们权衡不同的感受，我们通常会得出结论：盗窃或谋杀是错误的，不是因为某本书这么说，而是因为它们伤害了人们，让人们感到痛苦。这就是为什么它们是错误的。最后，简要概括一下人本主义是什么，什么是人本主义教育？人本主义教育教人们独立思考。在过去几代人，过去的时代，比如中世纪，教育的主要目的是教人们过去智者的思想，教人们圣经说了什么，亚里士多德说了什么，因为这是权威的主要来源。但当人本主义兴起时，教育的目的改变了。人本主义认为权威来自你内心，而不是外部。因此，教育的主要目的，至少在人本主义社会中，发生了改变。如果你去问一位从幼儿园到大学的老师，他们试图教学生什么，老师会说“我试图教历史、化学或物理，但最重要的是，我试图教他们独立思考，因为这是权威的最终来源。”所以，这就是人本主义，它已经主宰了我们的世界相当长一段时间。但到了二十一世纪初，人本主义正面临着巨大的挑战，不是来自独裁者或煽动者，而是主要来自实验室。人本主义认为权威来自我们的感受，这些感受反映了我们的自由意志，除了我们自己，没有人能真正理解。但科学现在以越来越大的权威告诉我们，这都是一个神话，这根本不是真的。没有自由意志，这是一个神话。感受是生物化学算法，只要有足够的数据和足够强的计算能力，外部系统就能比我更好地理解我。我们这个时代的宏大思想，无论我们是否喜欢，我们这个时代的宏大思想是：生物体是算法，算法可以破解生物体，包括智人。它只是另一个生物体。再次强调，生物体是算法，算法可以破解生物体。那么，这在人本主义中就更加复杂了。所以，让我们再次尝试解释并举几个例子。当科学家说这些时，他们是什么意思？首先，自然科学，生物学、化学、物理学，它们对世界的理解越来越好。远非完美，但仍然越来越好。据他们所知，宇宙中只有两种过程：确定性过程和随机过程。而随机性不是自由，这一点非常非常清楚。我们不熟悉宇宙中任何可以被描述为自由过程的东西。自由意志，据我们今天的理解，是一个空洞的概念，它不描述现实或自然中的任何东西。人类当然有欲望，有意志，但他们不能自由地选择欲望，选择世界，因此他们的感受并不反映任何自由选择或自由意志。当然，根据生命科学，他们的感受不是上帝赋予智人的某种精神品质，仅仅是为了欣赏美和做出道德判断。不，所有动物，所有哺乳动物，所有鸟类都有感受，这些感受是通过自然选择演化而来的，作为做出决策的生物化学算法。它们不是基于自由的直觉，而是基于计算概率。关于心脏与大脑、情感与逻辑的重大辩论，实际上没有辩论。情感、感受、感觉，它们实际上也都是计算，而且计算速度如此之快，以至于我们根本没有注意到在意识层面之下发生的计算。让我们看一个具体的例子。一只狒狒站在非洲草原上，看到一棵长满香蕉的树。但离树不远，还有一头狮子。现在，这只狒狒需要做出一个决定，一个每个动物每天都要做出的决定：我冒着生命危险去拿香蕉，还是不拿？狒狒的生存取决于这个决定。为了做出这个决定，狒狒真的需要计算概率。如果不吃这些香蕉，我会饿死的概率，与我试图去拿这些香蕉，狮子会吃掉我的概率。为了生存，狒狒需要做出一个好的概率计算。那么，为了做出正确的计算，狒狒需要大量的信息。关于香蕉的信息：有多少香蕉？两个还是八个？它们是大还是小？绿的还是熟的？关于狮子的信息：狮子有多远？狮子有多大？狮子是睡着了还是醒着？它看起来饿不饿还是吃饱了？还有，狒狒需要大量关于自己的信息：我有多饿？我能跑多快？等等。你需要把所有这些信息放在一起，收集，分析，权衡概率，然后做出决定。狒狒是怎么做的？狒狒不会拿出笔和计算器，一张纸开始计算。不，整个狒狒的身体，尤其是感官器官、神经系统和大脑，就是计算器。在瞬间，狒狒接收到气味、声音、景象以及身体内部的感觉。然后，大脑中数十亿个神经元在瞬间处理信息，计算完成，答案不会以数字形式出现，而是以感觉、情感的形式出现：恐惧、勇气，或者可能是犹豫不决、困惑。恐惧和勇气是计算结果的表现方式，它们不是精神洞见，而是生物化学计算。这就是狒狒如何决定香蕉的方式。这就是英国公民如何决定英国脱欧的方式。这就是德国公民如何决定移民的方式。那里发生的是非常快速的生物化学算法在进行计算。没有自由意志或精神洞见。人本主义错误地认为感受反映了自由意志。直到今天，直到二十一世纪初，相信人本主义仍然非常有实际意义，即使我们的感受没有什么神奇之处，它们仍然是宇宙中做出决定的最佳方法。没有外部系统能够理解我内心发生的事情，以及我为什么做出这些决定。没有人拥有必要的生物学知识，也没有人拥有必要的计算能力来理解我内心真正发生的事情以及我为什么会有这样的感受。即使斯塔西（东德秘密警察）每天24小时、每年365天都跟着你，一直在观察、监视和窃听谈话，但在20世纪60年代或80年代，斯塔西仍然没有必要的生物学知识来了解人类大脑内部发生的事情，斯塔西也没有必要的计算能力来理解它收集到的关于你的信息。因此，它无法真正理解你。但现在，信息技术和生物技术的融合正在改变这种情况。生物学，尤其是脑科学的进步，让我们中的一些人至少获得了必要的生物学理解。与此同时，计算机科学的进步，尤其是机器学习和人工智能，为我们中的一些人提供了必要的计算能力。当你将两者结合起来时，当信息技术和生物技术融合时，你就会获得破解人类的能力。如今，人们谈论了很多关于破解电脑、智能手机、电子邮件账户和银行账户的事情，但我们真的进入了破解人类的时代。一旦你能破解人类，权威就可能从人类情感转移，因为人类情感不再是无人理解的黑箱。权威可能从人类情感转移到计算机算法。那么，人本主义、选举和自由市场，这一切都将不再有意义。我们今天已经开始看到这种情况发生，首先是在经济领域。我们正在告别“顾客永远是对的”的时代，进入“算法永远是对的”的新经济时代，因为算法可以预测和操纵顾客的情感。让我们从一个非常简单的例子开始，来自图书行业。我，消费者，图书行业的顾客，如何选择购买哪本书？过去，在人本主义时代，我主要依靠自己的感受和文学品味。但现在，我越来越多地依赖算法，至少据称，它比我更了解我。当我进入亚马逊的虚拟书店时，首先发生的是一个算法弹出，告诉我“我知道你，我知道你，基于你过去的喜好和厌恶，以及你购买的东西等等。基于我对你和数百万其他读者的了解，我向你推荐这本书或那本新书。”当然，现在它仍然非常非常原始，亚马逊的算法会犯很多错误，因为它并不真正了解我。它没有足够的数据，但它不断收集越来越多的数据，并且正在改进。它以新的方式收集数据。如果你在电子设备上阅读书籍，比如亚马逊Kindle，Kindle可以在你阅读时“阅读”你。这是历史上第一次，书籍比人更阅读人，而且更加专注。无论如何，当你在一台Kindle上阅读一本书时，Kindle可以知道你读得快的页面，读得慢的页面，以及你何时停止阅读。这让算法对你喜欢什么，不喜欢什么有了更清晰的了解。但这仍然非常原始。下一阶段，在技术上是可行的，即使是今天。你可以将Kindle连接到面部识别软件，然后算法就会知道什么让你发笑，什么让你哭泣，什么让你感到无聊，什么让你生气。最终一步是连接Kindle到身体上或体内的生物传感器。然后算法将知道你阅读的每一句话的确切情感影响。你读了一句话，算法就知道你的心跳、血压、肾上腺素水平、大脑活动会发生什么。当你读完一本书时，比如你读了托尔斯泰的《战争与和平》，一本很长的书。当你读完《战争与和平》时，你已经忘记了大部分内容。但算法永远不会忘记任何东西。当你读完这本千页的书时，算法会确切地知道你是谁，你的性格类型是什么，以及如何触动你的情感按钮。利用这种信息，它不仅可以比你更准确地为你选择书籍，还可以告诉你应该学习什么，住在哪里，和谁结婚。人们很可能会，这是一个经验性问题，如果你发现它能给出好的答案，你就会越来越依赖它，直到你失去自己做决定的能力。我们已经看到这种情况发生在导航空间上，人们已经学会了听从智能手机，听从谷歌地图，如果他们需要从这里到公交车站，到火车站。只要听谷歌的就行了。一段时间后，他们就失去了自己导航空间的能力。更具戏剧性的是，人类最重要的能力之一是寻找信息，寻找困扰他们的问题的答案。但越来越多的人只知道一种寻找问题答案的方式：就是谷歌。在很短的时间内，比如15到20年，这种关键能力已经从人类大脑外包给了算法。而且没有理由认为，如果算法足够好，它不会以同样的方式发生在选择学什么，或者和谁约会，或者和谁结婚的能力上。现在，算法可以破解人类。它们不仅能为人类做决定，还能取代他们。在未来几十年，信息技术和生物技术的双重革命很可能会扰乱就业市场，并可能导致一个庞大的新“无用阶层”的出现。这个阶层的人们不是从他们母亲或孩子的角度来看是无用的，没有人从他们所爱的人的角度来看是无用的，而是从经济系统的角度来看是无用的。他们没有什么比算法、电脑或机器人做得更好。应该强调的是，这不仅仅是人工智能本身兴起的结果。人工智能本身无法做到如此戏剧性的事情。这是信息技术和人工智能与生物技术的融合。因为对于许多工作来说，要做好工作，你需要解读人类的情感和情绪。电脑和机器人永远无法取代人类医生、教师、律师，甚至司机，除非它们至少能在一定程度上正确识别人类的情感。有些人可能抱有幻想，认为这是电脑永远做不到的事情，它们可以计算，但它们无法理解情感，无法理解感受，因此它们永远不会取代人类医生或教师。这听起来有道理，如果你认为感受是某种神秘的超自然现象，是上帝只赐予智人的，并且以某种形而上的方式运作。但如果你接受感受只是一种生物化学模式，最终是一个计算过程，那么完全没有理由如此确定人工智能不会超越人类，甚至在情商方面。它不会有自己的感受，不会有意识，但它能够比任何人类医生、教师或律师更准确地知道这个人现在害怕，这个人现在生气。正如算法的权威可能会在经济领域取代顾客和工人一样，它们也可能在政治领域取代选民的权威。民主的最终基础，正如我们之前所说，不是基于人类的理性，而是基于人类的情感。在选举中，选民实际上并没有被问到“你怎么想”，而是被问到“你感觉如何？”如果算法能够破解人类情感，操纵和预测人类情感，那么民主很可能变成一场情感木偶戏。政治家，或者至少一些政治家，有点像音乐家，他们演奏的乐器是人类的情感系统。一位政治家发表讲话，全国上下就会掀起一阵恐惧。一位政治家发推文，就会爆发一阵仇恨。这种恐惧和仇恨，是许多政治体系的燃料。当这些音乐家拥有更精密的乐器来演奏时，会发生什么？可能会出现一种全新的数字独裁政权。在20世纪，民主战胜了独裁，因为民主在处理数据和做出决策方面更胜一筹。我们倾向于将民主与独裁的冲突视为不同伦理体系之间的冲突，但它也是不同数据处理方法之间的冲突。民主作为一种分布式数据处理系统运作。民主将信息和决策权分配给许多机构、组织和个人。另一方面，独裁是一种集中式的数据处理方法。独裁将所有信息和所有权力集中在一个地方。现在，考虑到20世纪的技术，试图将过多的信息和过多的权力集中在一个地方是低效的。它效果不好，没有人能够足够快地处理信息并做出好的决定。这也是为什么，例如，西方集团在冷战中击败了共产主义集团的主要原因之一。有一个故事说，在共产主义的最后日子里，也就是20世纪80年代，一位苏联官员来到伦敦，试图了解撒切尔夫人的首都，一个自由社会和一个自由市场是如何运作的。英国的接待人员带这位苏联官员参观了伦敦，参观了银行、证券交易所，并会见了各种经济学教授和其他知名人士。但几个小时后，这位苏联官员惊呼道：“等一下，我有些事情不明白。在莫斯科，我们最好的头脑都在研究如何为莫斯科提供面包的问题，然而，几乎在每一个面包店和杂货店，都有这么长的面包排队。这里是伦敦，一个拥有数百万人口的城市，我们在这座城市里来回走了几个小时，我没有看到一个面包排队。所以，请取消我所有的其他访问和约会，带我去见负责为伦敦提供面包的人。我必须了解他的秘密。”英国接待人员挠了挠头，显得很尴尬，他们说：“没有人，没有人负责为伦敦提供面包。这就是自由社会和自由市场的秘密。没有人负责。你只是让信息在所有不同部分自由流动，并允许个人和组织做出自己的决定。”但是，并非在所有情况下，集中式数据处理总是比分布式数据处理效率低，这不是自然法则。这是20世纪后期的情况，但现在，信息技术的革命，尤其是机器学习和人工智能，可能会使情况发生逆转。机器学习和人工智能可能使得集中式处理海量信息成为可能，而且你收集到数据库中的信息越多，处理过程就越好，数据处理就越好。那么，威权政权在20世纪的主要障碍，即试图将所有信息集中在一个地方，在21世纪可能成为主要优势。这可能导致一种全新的政权出现，与20世纪的独裁政权截然不同，一种新的数字独裁政权。最后，当算法能够破解生物体时，它们也可能开始创造和重新设计新的生物体，新的生命实体。很有可能，21世纪经济的主要产品将不是纺织品、汽车和武器，而是身体、大脑和思想。我们正在学习如何生产、设计和制造它们。我们正在学习如何通过加速自然选择来设计和创造新的有机生命。我们正在学习如何创造赛博格，即结合了有机和无机部分的生物体。最后，我们甚至在学习如何创造完全无机的生物体。如果这真的发生，这不仅将是自大约十万年前历史开始以来最伟大的革命，也将是自生命诞生四亿年前以来生物学中最伟大的革命。四亿年来，生命的基本游戏规则没有发生根本性变化。发生了许多事情：恐龙出现，恐龙消失，哺乳动物出现，各种各样的事情，但基本规则没有改变。四亿年来，所有生物，无论是变形虫、恐龙、番茄还是智人，都受到自然选择法则的约束，并受到有机生物化学法则的约束，由有机物质构成。现在，在21世纪，自然选择可能被智能设计取代，成为生命演化的基本驱动力。不是天上某个上帝的智能设计，而是我们的智能设计，更重要的是，是我们的云——谷歌云、微软云——的智能设计。它们将成为演化的主要驱动力。同时，在被困在有机生物化学的小池塘里四亿年后，生命可能会冲破束缚，进入无机世界的广阔空间。那么，谁来决定如何使用这些像上帝一样的创造力呢？选民会决定吗？顾客会决定吗？当我们倾听自己，追随内心时。但是，当你的内心被算法不断监控和操纵时，你如何追随你的内心？这是我们这个时代的大问题。谢谢大家！[掌声] 感谢大家为我们呈现了如此宏大的历史和如此宏大的图景，让我们展望21世纪的挑战。鉴于我们会议一开始时间就所剩无几，我想邀请一位嘉宾提问。我邀请了谢拉·贾萨诺夫（Sheila Jasanoff），她不幸必须在演讲结束后立即离开，让她有机会提问。来自哈佛大学的谢拉·贾萨诺夫。谢拉，非常感谢您给我这个机会。显然，在您刚才所说的内容之后提出任何问题都是一项艰巨的任务。我忍不住想问大约50个不同的问题，首先是您关于“无用阶层”的幻灯片具有高度的性别化特征，这让我觉得也许还有希望，因为“无用阶层”中女性不多。但撇开视觉效果不谈，您今天所庆祝的伦理学，已经在怀疑、犹豫、分歧、未知和前进方向不明的空间中生根发芽。您的演讲恰恰相反。您的演讲……我正在尝试调出一些不听话的东西。我不知道为什么会发生这种情况。我可能无法给您确切的引文，但您关于煽动者像演奏乐器一样演奏公众的观点，让我想起了一段话，在座的有些人可能熟悉。这是莎士比亚的《哈姆雷特》中的一段。我想引用确切的词句，但我的iPhone此刻没有显示确切的引文。您还记得他与吉尔登斯坦的对话，他递给吉尔登斯坦一支长笛，说“为我吹奏这支长笛”。吉尔登斯坦一直说“大人，我不能，您知道，我没有技巧，我无法演奏按键等等等等。”哈姆雷特说：“看，你认为我比一支你没有技术程序来处理的长笛更容易被演奏吗？”您所描绘的算法未来，不仅掌握了长笛的演奏技巧，还掌握了人类。我想知道，在您……在您那个充满确定性未来主义的空间里，尽管有很多证据支持这一点，您是否有空间容纳哈姆雷特向吉尔登斯坦提出的那种挑战，吉尔登斯坦自以为算法般地知道这位非常矛盾的王子会怎么想？那么，您会怎么说？您会如何改写莎士比亚的这段话？我真希望我能读给您听，因为我很想让您为我们创作一段反莎士比亚的作品。嗯，这是一个非常非常及时且重要的问题。我会尝试从几个方面来回答，因为它是一个非常复杂的问题。首先，为了实现这种场景，算法不需要完美地演奏长笛或演奏人。它只需要比普通人做得更好。为了让我们信任谷歌地图来导航城市，谷歌地图不需要完美，它只需要比普通人做得更好。为了让自动驾驶汽车取代人类司机，它们只需要比人类司机开得更好。它们不需要完美地驾驶，这是不可能的，没有人能做到。但比人类好，并不是那么不可能的任务。例如，人类司机每年杀死约125万人，主要是由于人为错误。所以，要有所改进，并非不可能的任务。同样，算法要在做出非常重要的经济和政治决策中扮演越来越重要的角色，它们不需要完美，只需要比普通人做得更好，这再次不是像有时我们想象的那么不可能。我并不是说这是一个美好的未来或一个好的发展。我们必须对它涉及的可怕危险保持极其谨慎。但要真正意识到危险，我们需要对我们人类自身的能力与计算机、与算法相比，保持更加谦逊的态度。如果我们把自己藏在这个想象的堡垒里，认为“哦，我们有一些算法永远无法理解的东西，我们有自由意志，我们有精神，我们有灵魂，它们永远不会理解，我们就安全了”，那么就很容易被欺骗。例如，最容易被假新闻操纵的人，就是那些过于相信自己自由意志的人，并说“哦，我不是因为任何原因做出这个决定，这只是我自由的决定。”这些人最容易被操纵，因为他们甚至无法想象，一旦你了解了他们的弱点，了解了他们的仇恨或恐惧，操纵起来是多么容易。除非，当然，他们对自己、对自己的弱点、对自己的缺点有更好的了解。我认为，当我们面对算法未来的巨大危险时，更现实、更谦逊地认识到人类的无知、人类的愚蠢、人类的弱点是关键。我最担心的是，最终不是来自人工智能，而是来自自然愚蠢。我认为这是一个更大的危险，因为这是人工智能可以乘虚而入的领域。我绝对不相信技术决定论，认为“哦，人工智能来了，我们无能为力，只有一个结果，这会导致某种令人毛骨悚然的反乌托邦未来”。不，技术从来都不是决定性的。我们没有自由意志，但我们有意志，我们有选择，我们还有一些力量。我们从历史上知道，同样的技术可以以非常不同的方式使用。如果你看看东德和西德，它们拥有完全相同的技术，有电力，有收音机，有汽车，有火车。它们只是选择了用它们做不同的事情。同样，人工智能和生物技术也会改变世界，但它们可以以不同的方式改变世界。我们仍然可以影响它发展的方向。我认为，正如我所说，更谦逊、更现实地认识到人类的能力和局限性，将使我们更有可能做出正确的选择，而不是不确定。谢谢。