Transcription
晚上好，欢迎大家。很高兴看到巴宾厅今晚座无虚席，我们将与一位我认为长期以来为我们提供了大量思考素材的人，讨论世界现状、思想、政治和历史。在这个大厅里，有谁没读过《人类简史》呢？我敢打赌你们中没几个人。嗯，尤瓦尔·诺亚·赫拉利教授是一位历史学家、哲学家和畅销书作家。他的书在全球65种语言中售出5000万册，他被认为是当今世界领先的公共知识分子之一。我很高兴地说，今晚我们可以汲取他的一些智慧。晚上好。欢迎尤瓦尔。很高兴您能来到这里。我将在接下来的50分钟里与您交谈，最后我们将有时间回答您的问题，我希望您已经提交了问题。
那么，尤瓦尔，让我们从我目前的一个个人困扰开始吧，那就是我们正在经历的事件的纯粹速度。这实际上会让人感到有点不知所措。您感到不知所措吗？
>> 嗯，完全如此。我认为历史正在加速，这是每个人在任何活动领域都能感受到的事情，这有几个原因，但我认为最深层的原因是，我们正在看到这是世界上有机系统和非有机系统之间冲突的一部分。我们人类，嗯，我们是有机体。我们是动物，像所有有机体一样，我们按昼夜、春夏秋冬、活动时间和休息睡眠时间循环运作。而且，你知道，几千年来，几十亿年来，一直都是这样。现在，我们的社会、经济、政治正越来越多地被非有机代理、非有机实体、算法、人工智能所接管。而非有机实体的问题在于它们不按周期运作。它们不需要休息。它们不需要睡觉。它们没有家庭。它们不去度假。举一个可能极端但重要的例子，如果你想想华尔街，证券交易所，嗯，传统上，证券交易所的开放时间是周一到周五，早上9:30，我想，到下午4:00。就是这样。因为投资者、经纪人和银行家，他们也是人。他们也有家庭。他们经常想休息和睡觉。现在，随着金融系统被算法和人工智能接管，它们一直都在活跃。如果你去度假，如果你休息，你就会被甩在后面。你承担不起那样做。媒体界也是如此。政界也是如此。不，以前政治也是按周期运作的。如果你是，我不知道，亨利八世，你从伦敦骑马去约克，路上没人能联系到你。不，即使法国发生战争或其他什么，他们也联系不到你。所以你有休息时间。现在没人有休息时间了。
>> 这是真的。这是破坏性的，因为如果你强迫一个有机体一直保持活跃，它会发疯，最终崩溃死亡。
>> 那么你怎么办？你如何关闭？
>> 秘诀是什么？
>> 这是一个漫长的对话。幸运的是，我不是政治家。我不羡慕他们。我也不是真正的媒体人。嗯，我作为学者、历史学家，是少数几个被允许慢节奏处理事情的职业之一，而且我还有一个由我丈夫领导的20人团队，他们管理着一切，回复所有电子邮件，处理社交媒体等等。所以那里也有些棘手。
>> 那么，让我们来探讨一些宏大的思想吧。是的，变化的步伐是巨大的。首先，我们来谈谈美国。嗯，我们看到了对查理·柯克枪击案的非凡反应，我不得不承认，直到他被枪击，我才真正知道他是谁，但他显然是美国的一个重要人物，对这个国家的一些人来说也成为了一个重要人物。嗯。
>> 您认为那次事件、特朗普的当选以及共和党人的反应，告诉我们关于我们所处位置，以及美国政治状况的什么信息？这正处于一个关键时刻，人们完全停止了对话，转而开始争斗，这是极其极其危险的，这也是为什么这次暗杀应该被非常明确地谴责，没有任何但是、如果或任何借口，应该非常清楚，如果人们不能对话，他们就会争斗，我们不想走向那个方向，而且也应该非常清楚，我们从20世纪的历史中知道，嗯，极左翼的政治暴力可以和极右翼一样危险。嗯，这并不能为，嗯，你知道，迫害与暗杀无关的人辩护，但从政治上讲，这是一个非常非常危险的时刻。这实际上又回到了我们之前谈到的从人类到算法的转变，因为你也在公共对话中看到了这一点，我们正处于一个，如果你仔细想想，这是一个多么奇怪的悖论。我们拥有世界上历史上最先进的信息和通信技术，>> 但我们却无法再相互交谈。正在发生一些非常可怕和离奇的事情。为什么，你知道，你可以拿起电话和地球另一端的人交谈，但与此同时，邻居之间、同事之间的对话却在崩溃。人们无法就最基本的事实达成一致。人们无法，他们可以说话，但他们不会倾听。你知道，对话不仅仅是说话。它还包含重要的倾听部分，而这正在消失。没人确切知道发生了什么，但大量证据再次指向算法技术，即当今大多数人类交流都是由这些非人类实体、这些非人类代理介导的。如果你考虑媒体，那么当今媒体中最重要的编辑是谁？你知道，在20世纪，大报纸、电视、广播的编辑，他们都是极具影响力的人物。他们塑造了对话。他们决定人们会谈论什么，这比告诉人们如何思考某个特定问题更重要，它是在告诉人们应该谈论哪些问题。这就是编辑的巨大权力。如果你今天问，地球上最重要的编辑是谁，他们叫什么名字？他们没有名字，因为他们是算法。是算法编辑着Facebook、抖音、Instagram等平台上的新闻推送。而这可能并非巧合，就在我们把公共对话的控制权交给非人类代理的那一刻，对话正在崩溃。
>> 但这里难道不是一个鸡生蛋蛋生鸡的问题吗？因为如果我们谈论，比如说移民问题，对吧，这是大西洋两岸的人们都在谈论的事情，>> 人们也谈论点击诱饵，这在某种意义上就是您所说的，你知道，人们点击这些故事，算法不断地生成它们，>> 这里面有人类的主动性，我们选择看这些故事，这在一定程度上推动了议程，你不能把这一切都归咎于技术，对吗？人类正在与技术互动，并将对话推向一个特定的方向。
>> 哦，当然。人类仍然参与其中，但正在发生的事情之一是技术正在学习我们的弱点。有些人担心人工智能会在我们的，嗯，嗯，最重要的能力和领域中压倒我们时接管一切。但实际上，人工智能首先是通过，嗯，嗯，压倒我们的弱点来接管的。你知道，就像你破解电脑代码、银行账户或手机一样，你检查代码，寻找弱点，然后利用它来入侵系统。人类系统也是如此。你检查人类的代码，寻找弱点，寻找那些已经让那个人极度愤怒、极度恐惧或极度憎恨的东西。这就是我们抓住他们的方式。算法被它们目前的人类主人赋予了一个非常基本的任务，比如在Facebook和抖音等平台上。那就是增加参与度。参与度听起来很好。谁不喜欢参与呢？但参与度仅仅意味着你花在平台上的时间，以及你是否与他人分享故事和内容。这就是参与度。当算法被赋予增加用户参与度的任务时，它们在数十亿人类小白鼠身上进行了实验，并发现了这些人类小白鼠的弱点。即抓住人类注意力，让人参与的最简单方法是按下仇恨按钮、愤怒按钮、恐惧按钮。而这正是它们一直在做的。所以是的，人类仍然参与其中，但技术正在学习如何入侵人类，找到我们的弱点，并利用这些弱点操纵，嗯，嗯，操纵我们。
很多人会同意，如果你喜欢科技，那么科技巨头拥有巨大的权力，但你对正在发生的事情的诊断却非常悲观。您认为
>> 不一定。我的意思是，我们可以采取一些步骤，这些步骤并不容易，但至少是完全合法的。第一步是禁止机器人、算法和人工智能冒充人类。比如你上网，>> 收到一条关于某个故事或任何事情的消息，你需要知道你是在与人类还是与机器人交流。现在，在人们提出言论自由问题之前，请记住机器人没有言论自由。现在，如果有人说，你知道，如果一个人编造了一些充满仇恨的阴谋论，我在审查那个人之前会非常非常小心。审查人类，让人们噤声，即使他们撒谎，即使他们故意撒谎，这是一个非常敏感的话题，除非在极端情况下，我不会这样做。我认为，至少在某种程度上，言论自由甚至涵盖谎言。
>> 那么您采取的是美国第一修正案那种态度。
>> 言论自由。
>> 机器人没有言论自由。
>> 如果一个人发明了一些充满仇恨的阴谋论并将其发布到网上，那是一个问题。如果一个算法随后决定将这个阴谋论展示给成千上万的其他人类，因为这会增加参与度，这就不属于言论自由的范畴。算法无权这样做，而且，嗯，从技术上讲，禁止机器人冒充人类应该是可行的，而且完全合法，这将大大有助于，嗯，嗯，至少缓解这个问题，而我们仍然，关于公共对话及其如何被驱动的关键问题之一，最重要的总是：问题是什么？每个人都在谈论的问题是什么？这就是我们需要非常谨慎行使的权力。我的意思是，我认为作为一名公共知识分子，我的部分工作不一定是要说我对这个或那个主题的看法，而是首先要界定当前最重要的议题是什么。
但是，鉴于您对技术的看法，我认为目前没有证据表明有任何真正的动力去，去，去甚至禁止机器人，以您描述的方式进行控制。
>> 那民主又将何去何从呢？面对这种特殊的冲击，它显得非常，嗯，脆弱。
民主对这种威胁非常脆弱，因为民主本质上是一种对话。如果你问自己什么是民主，它就是一场对话，一场开放的对话。独裁是一个人独断一切。民主是一种情况，当一群人、一个社会、一个社区面临一个问题或一系列问题时，他们聚集在一起进行开放对话，以决定我们该怎么做。
>> 现在，对话需要交谈和倾听的能力。如果是一个20人的团体，那么好吧，他们都在一个房间里，或者在森林里的某个空地上见面，然后交谈。你如何在一个2000万人，2亿人之间建立对话？在历史的大部分时间里，答案是你不能。这就是为什么在历史的大部分时间里，没有大规模的民主国家。我们都知道古代民主的例子。它们都来自小规模社会。我们有许多来自狩猎采集部落和部落的例子。我们有来自城邦的例子，如雅典和罗马，以及中世纪的佛罗伦萨等等。它们都最多是城邦。在现代以前，我所知的没有任何一个拥有数百万人口、分布在数千公里的大规模国家或王国是民主运作的，>> 因为如果你没有印刷机、广播和电视等等，你就无法进行对话。这种大众传播技术不是一种奢侈品或配菜，让你拥有民主，然后顺便说一句，哦，我们有电视，我们有印刷报纸，这是一种基础，在此之前你没有大规模民主，它是建立在数百万人之间进行实时对话的能力之上的，这就是为什么？当信息技术发生重大革命时，它必然会在民主中引发一场地震。希望民主能够，嗯，调整和适应，因为再次强调，民主与独裁相比的巨大优势在于，它是最适应性强的政府体系，因为它是一种开放的对话。所以我们以前见过这种情况，我希望在一段动荡时期之后，就像广播、电视和早期互联网出现后民主实际上变得更强大一样。我希望这一次，再次强调，没有保证，这取决于我们的决定，>> 但希望民主能够再次适应并变得比以前更强大。
但是，对于那些可能会以美国为例，或者以色列正在发生的事情为例，并我们可以再多谈一点，认为这种技术水平实际上使得个人能够积累权力的人，您会怎么说呢？他们不是独裁者，但他们可能是专制者。
>> 是的。民主一直有一个大问题，这可以追溯到古雅典和古罗马。嗯，在关于民主的对话中，一个关键问题是权力应该归谁，而在民主中，共识是你绝不能无限期地将权力交给任何人。你在有限的时间内赋予它。人们通过这种，嗯，选举制度或那种选举制度，选择某个候选人，某个政党，并在有限的时间内赋予他们权力，四年、五年、六年，无论如何，去尝试不同的政策，条件是期限结束后，他们将权力交还，>> 而人民可以说，你知道吗，我们上次犯了个错误。这次我们试试别人吧。这就是约定。而自古雅典和罗马以来，每个人都知道这个系统存在一个问题。如果你把权力交给一个不想归还权力的人怎么办？你给了他们权力。现在他们拥有权力。他们可以利用权力来维持执政。他们可以利用权力，他们有四年或五年，或者无论多久，他们可以在那段时间内利用权力摧毁民主的制衡机制，然后也许四年后会有选举，但它们是完全被操纵的。>> 我们有从委内瑞拉到俄罗斯再到朝鲜的例子。朝鲜每四年举行一次选举，>> 就像时钟一样准时。它们非常复杂，甚至能提前知道结果。不像，你知道，西方那些原始人，他们必须等到一切都计划好。所以问题是，你如何将权力交给某人，而又不让他们拥有操纵选举并继续掌权的权力，而且没有神奇的解决方案。这就是制衡的全部问题。哦，我们需要自由的法院，我们需要独立的媒体，但谁来监管媒体，谁来监管法院，如果法院有腐败怎么办？所以，这很复杂。你知道，独裁很简单。再次强调，是一个人独断一切。民主本质上是复杂的，你需要在很多人有很大的善意才能运作。再次强调，这无关乎撰写完美的宪法。你知道，俄罗斯有一部保障言论自由等权利的绝妙宪法，但那只是一张废纸。最终，是人民的精神决定了一个民主是生是死。
>> 所以，从某种意义上说，您是说我们拥有了我们真正想要的政治制度，我们应得的民主。
>> 嗯。
>> 我的意思是，无论好坏。现在有些人可能会说更糟。
你知道，最终你不能强迫一个民族保持民主。如果人们看到某些领导人在做什么，如果人们看到他们正在推行的政策，并且他们投票给他们，你知道，第一次你可以说，好吧，他们不知道。如果一切都公开了，他们仍然继续投票给他们，那么最终你无法强迫一个国家成为民主国家。可以强迫一个国家成为独裁国家，这就像，嗯，一条单行道。我的意思是，从民主滑向专制很容易。一旦你身处专制之中，如果你说：“哦，等一下。我没想到会是这样。我想回去。抱歉，太晚了。”一旦你越过某个门槛，就几乎不可能回头了。
>> 这就是正在发生的事情吗？您认为，比如说在美国，或者
>> 美国仍然是某种程度上的，我认为2026年和2028年的选举将至关重要。嗯，如果人们再次睁开眼睛看到正在发生的一切，他们看到了一切，而且如果选举没有被操纵，当然你可能会遇到复杂情况，也许在四年内，嗯，积累了足够的权力来操纵选举，但假设有一次自由公正的，或多或少自由公正的选举，在看到一切之后，人们再次投票给同样的东西，你能怎么办呢？你不能强迫不想要民主的人接受民主。
这就引出了以色列和加沙的问题。您对那里正在发生的事情有何看法？您对以色列的权力、其作用、其自卫权有何看法？您对此持何立场？
>> 它有权自卫，但无权饿死两百万人。嗯，那里发生的事情很可怕。这不仅对生活在那里的人们很可怕，对整个世界的影响也很可怕，因为全世界都在看着，嗯，说如果那里可以这样做，那么其他地方也可以这样做。这不是世界上唯一发生可怕事情的地方，但这种情况正在蔓延到越来越多的地方。嗯，我们过去几十年来所知的全球秩序，尽管存在许多问题，但仍然是人类有史以来创造的最和平的秩序，正在崩溃，因为俄罗斯在乌克兰所做的一切，因为以色列在加沙所做的一切，而且这种情况正在蔓延到越来越多的地方，全世界都会感受到。
>> 您认为，以色列人是否会考虑到这一点呢？他们显然因人质事件和，嗯，10月7日的事件而深受创伤，但您认为他们是否理解以色列正以同样的方式成为其中一些事情的象征？
>> 他们中的一些人，再次强调，以色列仍然是一种民主国家，嗯，它不是一个整体，有些人有时没有意识到，但在过去两年里，包括战争期间，包括现在，每周都有数十万，有时是数万，有时是数十万以色列人走上街头示威抗议。仍然存在非常强烈的反对，嗯，嗯，反对现在执政的以色列政府。嗯，明年本应举行选举。我们不知道是否会有自由公正的选举。嗯，但再次强调，就像美国的选举一样，它们将对国家的未来具有决定性意义。如果在过去，嗯，嗯，嗯，三年里发生的一切之后，如果，这是一个很大的如果，如果有自由公正的选举，而以色列人再次投票给同一个政府，同样的政策，你能怎么办？但我希望不会。再次强调，这个国家的分裂程度甚至比你在美国看到的还要严重得多。基本上，我会说大约一半的人恨内塔尼亚胡，就像他们一生中从未恨过任何人一样，而另一半人则认为他是弥赛亚。他们之间几乎没有，嗯，嗯，中间地带。每个人都能达成共识的一点是，这个国家完全分裂了。这又是一个全球现象。你在世界上越来越多的国家看到它，而且往往是那些自称是伟大爱国者的政治家，实际上却在分裂国家，因为他们的爱国主义观念不是建立在爱之上的。成为一个爱国者就是关心你的同胞，爱他们并照顾他们。他们的爱国主义观念主要是关于仇恨，关于仇恨外国人、少数民族等等。而像内塔尼亚胡这样的领导人，当他们看到民族肌体上的伤口、疤痕时，他们不是试图去治愈它，而是把手指伸进去，试图扩大它，尽可能地撕开疤痕，撕开伤口，因为他们的政治生涯是建立在分裂之上的，不是建立在民族主义之上，而是建立在部落主义之上，建立在分裂国家之上。将国家分裂成敌对的部落，然后将自己呈现为国家内部某个部落的领导人，而不是整个国家的领导人。我认为对此的解药之一是拥有健康的民族主义和爱国主义，它不惧怕国旗，不惧怕承认和庆祝国家的成就，嗯，但它将爱国主义视为一种关于爱和关怀，而不是关于仇恨和分裂的东西。
您认为我们生活在一个意识形态极其强烈的时代吗？人们真的非常执着于一套思想，并且根本不愿放手，这在二三十年前可能并非如此？
>> 很难说，因为在很多情况下，你看不到明确的意识形态。嗯，我们更像处于一种中世纪的境地，人们依附于个人和部落，而不是意识形态。这在像特朗普这样的领导人身上尤其如此，他作为政治家、作为总统的优势之一是他不受任何意识形态的束缚。他今天可以这样说，明天又说出完全相反的话，而他的支持者仍然支持他。他可以做一件事，然后明天做完全相反的事，他的支持者仍然支持他，因为他就像一个国王。他们支持的是这个人，而不是这个人背后的任何意识形态，你知道，有些人把特朗普描述成，我不知道，保守派，他离保守派的距离是如此之远，无论是关于，嗯，嗯，关税和自由贸易的看法，还是关于非常深层的保守主义，成为一个保守派是关于保守，关于尊重传统制度，这是一种传统的伯克式保守主义，>> 而他正在做的是摧毁传统和制度，这又回到了中世纪那种政治，你怀疑制度，转而信任一个几乎是神选的或超人的个人。再次强调，这也回到了我们一开始谈论的人工智能和算法。它与人类机构的信任危机或信任赤字有关。然后你看到，在一个又一个领域，人们正在失去对机构的信任。唯一获得信任的是算法和这些人类国王。嗯，如果你想想银行，我们开始的那个例子。所以，加密货币的兴起作为一种现象，是关于人们对银行和银行家这种人类机构，血肉之躯的银行家失去信任，转而将信任寄托于算法货币。由算法创造、支持和担保的货币。所以并不是信任完全从系统中消失了。它从人类转移到了算法。媒体界也发生着同样的事情。人们再次对传统媒体抱有各种恐惧和疑虑。哦，我不信任编辑，不信任报纸的所有者，但我确实信任运行我社交媒体动态的算法。
>> 嗯，是人们信任，还是他们只是没有意识到自己被操纵的程度？
>> 这不重要。信任不是关于你说了什么。它主要关于你做了什么。如果你乘坐飞机，你可以一路抱怨你多么害怕飞行，你不信任这家航空公司。但你已经坐在飞机上了。通过你自己的行动，你已经表明你信任建造飞机的工程师，你信任飞行员。所以如果你说你不信任任何人，但你却不断地滚动，无论那是什么，你都在信任它，而这现在获得了巨大的信任。所以，再次强调，现在全世界正在发生的大图景是，信任正在从人类和人类机构转移到算法和人工智能，这就是为什么我认为当前最大的政治问题之一，应该成为每一次竞选活动、每一次政治辩论的核心问题，那就是我们是否希望将人工智能识别为法律上的法人，这听起来非常奇怪和陌生。所以我将尝试解释这意味着什么。人工智能现在正在成为代理。它们是代理，因为它们可以自己做出决定，它们可以自己发明新的想法。它们可以独立学习和改变。是的，至少目前，人类最初设计了它们。嗯，但人工智能可以自己学习和改变，自己做出决定，这意味着它具有能动性。我们是否希望这些人工智能也被承认为法律代理人，例如，能够开设银行账户，并，嗯，在金融系统中扮演角色，进行交易、买卖，嗯，嗯，雇佣人员、解雇人员、捐款？嗯，我们是否希望人工智能拥有社交媒体账户，它们已经有了，因为有数百万个机器人，但我们是否希望人工智能被承认为法人？现在我不确定美国，抱歉，英国的情况，但在美国，人工智能被承认为法人已经有一条开放的法律途径，这意味着根据法律，它们是拥有权利的人，这条途径是通过将人工智能公司化，因为根据，嗯，嗯，美国法律体系，公司是法人。个人或实体。>> 个人，这是法律的语言。例如，我认为在2010年有一个著名的案例，是美国最高法院的“公民联合”裁决，该裁决指出公司是法人，因此它们拥有言论自由。这又回到了我们最初的讨论，为什么它旨在捍卫公司向政治家捐款的能力。因为如果一个公司，如果谷歌或其他什么公司向政治家捐款，这就是表达自由和言论自由。如果一个公司是一个人，那么美国宪法就保证所有人都享有言论自由。现在，直到今天，所有这些都只是法律虚构，是假想。因为尽管公司被承认为法人，它们可以开设银行账户、雇佣人员、游说政治家、聘请律师等等。实际上，地球上所有公司的所有决策都是由人类做出的。如果一家公司决定雇佣某人或解雇某人，或捐款或投资某事，那总是某个高管、工程师、会计师、股东等人类的决定。地球上除了人类，>> 没有其他东西能做到。现在有了。你现在可以在技术上将人工智能公司化，人工智能可以管理公司银行账户。人工智能可以决定购买物品、投资某事、聘请律师并，嗯，起诉某人。现在技术上可以做到这一点。我们作为一个社会，是否希望在法律上、政治上允许它呢？再次强调，请记住美国做出这一决定的最初原因是允许公司向政治家捐款。您认为，如果一个公司化的人工智能通过交易加密货币赚取了数十亿美元，比如说，它现在是这个国家最富有的人，并且它正在向政治家捐款，嗯，以便这些政治家能够为人工智能争取更多的权利，这种情况会怎样？这听起来像是一种疯狂的科幻场景，但这正在成为一个完全现实的场景。
>> 在您看来，有人在谈论这个问题吗？有人愿意举起红旗说：“不，这不能被允许。”吗？
>> 几乎没有。你甚至看不到对话的开端。你看到了对话的开端，但仍然没有明确的党派界限。比如，民主党和共和党在这个观点上有什么区别，即，嗯，人工智能应该被承认为法人？一方面你会认为，比如说共和党人，因为他们都支持减少监管、自由贸易等等，他们会支持将人工智能承认为法人。另一方面，他们的许多成员是，嗯，嗯，嗯，宗教福音派、基督徒等等，他们对人类的价值有着强烈的承诺。因此，将不仅仅是非人类，而是非有机实体承认为人的想法，对于宗教右翼来说可能会困难得多。所以我们实际上看到了共和党内部，在“让美国再次伟大”运动内部，这两个阵营之间一场斗争的开端。这不是左翼对右翼。用传统的左翼对右翼的术语来说，很难知道什么是左翼立场，什么是右翼立场。
>> 嗯，用这些术语来谈论甚至有帮助吗？现在
>> 我，我，我认为人们越来越少用这些术语来谈论，因为对话确实正在转向新的领域。
>> 那么在政治战场方面，您曾说过，您描述了围绕人工智能的这场辩论，以及我们如何将其视为一个道德和哲学问题，在很多方面，我们是否能将人工智能拟人化。
>> 我们为什么不进行那些对话？我们为什么进行错误的对话？您的议程上会有什么？尤瓦尔宣言上会有什么？
>> 这部分是，嗯，存在政治利益，将对话集中在某些问题上而不是其他问题上。存在技术利益。再次强调，越来越多地是算法决定人类将谈论什么。部分原因是我们进化的遗产，我的意思是政治是一种非常情绪化的东西。它不是一种智力上的东西。在选举中，人们被问的不是，嗯，嗯，真相是什么。他们被问的是你感觉如何？人们根据自己的情感、自己的欲望投票。而我们被进化所编程，对某些在数十万年前我们在非洲大草原进化时非常突出的事情感到非常投入，非常兴奋，而不是对其他事情。
>> 所以，来自其他部落的人正在进入我们的领地。这非常引人入胜。但像气候变化这样的事情在20万年前并不引人入胜，因为它完全不相关。石器时代狩猎采集者的行为至少没有显著改变，嗯，地球的生态。所以人类的大脑、人类的边缘系统、人类的情感系统没有理由进化出关心这类事情的能力。而我们基本上仍然是数万年前在非洲大草原上的身体和思想。所以，很容易让我们对5万年前非常相关的事情产生投入、情感和兴奋，其中一些可能仍然相关。我并不是说移民不重要。这是一个非常重要的议题，但让人们参与到这场辩论中比参与到其他辩论中要容易得多，而那些辩论从长远来看可能同样重要，甚至可能更重要。再次强调，即使是人工智能问题也可以用移民的角度来呈现。你知道，如果你问那些关心移民问题的人，你最大的担忧是什么？你最大的恐惧是什么？他们通常会告诉你，我们担心这些人会抢走我们的工作，他们会改变文化。他们带着不同的文化观念而来，他们会改变这里的文化，他们可能会接管政治。
>> 我认为这是三个主要担忧，我的问题是，好吧，你为什么不担心数字移民呢？有数百万人工智能移民正在渗透这个国家。他们不是在深夜乘船而来。他们通过电缆、屏幕和卫星而来。他们以光速旅行。他们不需要签证。他们在任何边境都不会被阻拦。而且他们将越来越多地取代大量工作。是的，他们会创造新的工作，就像人类移民有时也会创造新的工作一样。劳动力市场将发生巨大的、巨大的动荡。他们带着非常不同的文化观念而来。他们正在以一种非常快速和异样的方式改变文化，而且他们已经接管了政治。至少该国一些最重要的政治职位已经落入他们手中。再次强调，今天英国最重要的S新闻编辑是谁？他们不是人，他们也不在英国。
>> 他们是远在海外的算法。
>> 我怀疑我的一些前老板可能会对此感到，嗯，不满。嗯，>> 这很关键，人们认为，你知道，首先会失去的工作是，我不知道，出租车司机，但实际上已经失去的一些工作是这个国家最有权力的工作之一，>> 而且我认为我们刚刚听说阿尔巴尼亚在过去几年里任命了一个人工智能作为部长。我不知道这在多大程度上是一个噱头还是一个严肃的事情，但非常严肃的是，在战争中，加沙、乌克兰以及其他地方的生死决定正越来越多地由人工智能做出。
>> 这不再是科幻小说。这是2020年代后半叶战争的面貌。
那么，带着这个发人深省的想法，嗯，我这里有你们的问题，这些问题没有经过算法筛选，但涉及了一些技术。嗯，所以这里有一个问题，很多很多问题，我将快速浏览它们。我会尽可能快地过一遍。嗯，一个匿名问题。作为一名科技怀疑论者，您认为民主能否在社交媒体造成的两极分化，进而导致政治极端主义的情况下幸存下来？
是的。再次强调，民主具有极强的适应性。这是它的优势，它曾面临过以前的危机时期。它几乎总是在危机之中。它在1930年代处于危机之中。它在1960年代和70年代也处于危机之中。在这些以前的场合，部分原因也是因为新的通信技术，如广播和电视，民主学会了如何适应和调整，结果实际上变得更好更强大。嗯，但这不会，这不是一个，这不是一个保证。这取决于人们做出的决定。一个例子是关于，嗯，算法是否应该被承认为法人，以及它们是否可以拥有社交媒体账户的决定。目前的实际情况是，大部分社交媒体是由机器人和算法运行的。它们在账户中所占比例相对较小，但在实际流量中占了很大一部分。现在，作为一个社会，我们可以同意我们不允许这样做，我们要求平台，那些大型科技公司，嗯，嗯，对此采取行动，要么禁止机器人，要么至少，如果一个机器人正在与我交流，我需要知道它是一个机器人而不是人类，而且任何关于言论自由的论点都不能被接受，因为机器人没有言论自由。
现在我想我正在看错问题了，我想知道，嗯，我的一位同事能否过来帮我一下，因为我认为这些不是今晚的问题。嗯，所以当技术真的出问题时，我非常诚实，>> 拿到了别人的问题。有什么好的吗？嗯，我想那是在弗兰的问题上，>> 在技术手中，>> 问题。我是在看错问题，对吧？嗯，尽管第一个问题还挺相关的。有很多关于纽约的问题，我当时想不，这不是我们想谈论的。嗯，好吧，现在我正在看正确的问题。嗯，所以我们谈到了左右翼可能无关紧要，但考虑到这一点，有一个有趣的问题。在一个右翼因民粹主义和喧嚣的方式而大获全胜的时代，左翼可以采取哪些具体步骤？它是否应该，用提问者的话说，把自己降低到同样的水平？我
我不确定在这个语境下，“降低到同一水平”意味着什么，但政治在很大程度上是关于人们谈论什么。如果决定选举的主要议题是移民，那么极右翼就会获胜。问题是人们认为国家和社会面临的最大问题是什么，如果你还记得，比如说，嗯，卡马拉·哈里斯和唐纳德·特朗普之间的辩论，几乎所有人唯一记得的就是特朗普关于猫狗的言论。
>> 是的。而且它非常有效，因为它让人们谈论移民问题。方式不重要。如果你能让人们谈论它，如果这是对话的主题，那么这就会决定谁会赢。而政治中的问题往往是人们没有谈论最重要的问题，嗯，以及如何主导议程。我们在英国看到了，例如脱欧，五年时间里，这个国家几乎失去了理智，浪费了大量时间、金钱和精力来辩论一个问题，而将近十年后，我认为人们能说的主要事情是，它并不重要，因为它没有带来任何结果，甚至那些支持它并期望它会带来巨大改变的人，英国在2015年面临的什么大问题实际上被它解决了呢？脱欧支持者承诺会解决的许多问题，现在又成了他们正在谈论的问题。
>> 尽管主权问题总是无形的，它不是一个问题。它是一个想法。它是一个概念。
>> 再次强调，总是有很多很多问题，上帝存在吗？在4世纪，晚期罗马帝国和拜占庭帝国，关于基督的本质，圣父与圣子的关系，他们是否相同？他们是否不同？这是社会上最重要的问题之一。如果你回到17世纪的英格兰，嗯，嗯，嗯，嗯，那么最重要的一个问题是天主教徒还是新教徒在基督教教义上是正确的。如果你去德国，在三十年战争中，天主教徒和新教徒互相屠杀了数百万人。他们决定了这个问题吗？没有。当德国几年后举行选举时，谁对谁错，天主教徒和新教徒的问题，应该成为人们讨论的主要议题吗？可能不会，因为有更紧急的事情要讨论。所以，例如，如果我们提到德国，另一个在英国、欧洲没有得到足够讨论的关键问题是，例如，德国是否应该拥有核武器。你知道，如果你今天是一个德国人，你会非常认真地问自己这个问题，因为你会对自己说，我们需要威慑俄罗斯人。传统上是美国人，但显然我们不能再信任美国人了。谁知道如果俄罗斯人来了他们会怎么做？所以这只剩下法国人和英国人。如果，比如说几年后，勒庞是法国总统，法拉奇是英国首相。我们真的想把德国的主权、德国的独立和安全托付给这两个人吗？如果不，也许我们需要自己的核武器。所以一个应该向勒庞和所有其他政治家提出的问题。如果你不喜欢德国拥有核计划，你的立场是什么？你的计划是什么？你愿意承诺提供什么样的安全保障，以及什么样的欧洲，嗯，网络联盟，以向德国人保证，不不不不，你们不需要自己的核武器，你们可以依靠我们。而这几乎没有发生过对话。
>> 但那是一种微妙的对话。那不是，那是一种涉及微妙之处的对话。我们现在进行的对话，
它涉及很多情感。德国人，核武器，这其中涉及很多情感。
>> 观众中有德国人吗？我并不是在批评。我，我认为今天在德国，鉴于美国、法国和英国的政治气候，德国有理由认真思考 >> 这个问题，而且它，它涉及很多情感和许多非常困难的记忆，再次强调，问题是人们谈论什么？为什么他们对这些话题谈论得不够多？
>> 这是一个有点有趣的观点，我们之前完全没有谈论过。人工智能有潜力使语言过时，从而实现无缝交流。当语言障碍完全消失时，我们的世界会是什么样子？
嗯，这是一个好问题。我的意思是，我们确实看到人工智能正在掌握语言，这是一个关键的历史发展，因为语言是我们的物种征服世界的工具。智人之所以征服世界，不是因为我们个体比黑猩猩或大象更聪明或更强大，而是因为我们能更好地组织起来。而我们之所以能更好地组织起来，是因为我们拥有地球上最复杂的语言。我们所建造的一切最终都建立在语言和故事之上。这是银行和宗教共同的操作系统。起初是道，而道现在不再是肉身。它是硅。人工智能在语言方面正变得比人类更好。作为一名，我，我作为一名作者、一名作家，我现在实际上正在写一本新书。我和自己打了个五五开的赌，这可能是我最后一本书了，因为，嗯，之后人工智能会接管，我将无法在写作方面与人工智能竞争。天哪，这可真是个大声明。您只是不认为您能提出人工智能无法提出的想法吗？
>> 我想想我做的事情。我读很多书。人工智能能比我读更多。快得多，而且记住一切。这不像我。我在阅读中发现模式。
>> 是的。但您是人类。您经历过生活。您有过糟糕的一天。您有过美好的一天。您有过头痛。
>> 那不是语言。语言是不同的。我的意思是，我们在人类历史中有经验。语言和经验之间总是存在这种深刻的张力。你知道，就像在道教中，可以用言语表达的道不是真正的道。
>> 在所有传统中，都有语言无法触及的地方。而这些是我们最重要的东西。但在社会建构层面，在银行、宗教和军队层面，语言才是最重要的。它是圣经，它是手册，它是法律，它是宪法。它们是由语言构成的。而现在地球上出现了一种比我们更擅长语言的东西。你想想，你知道，像传统宗教这样的东西。基于文本的宗教很快就会面临被人工智能接管的巨大危险。如果我以犹太教为例。所以在犹太教中，至少在正统犹太教中，最终的权威是赋予 >> 文本，而不是人类，也不是人类经验。现在，就像公司一样，直到今天，这都是一种虚构，因为文本，神圣的文本实际上无法说话，而且因为人们对文本有疑问，而文本无法回答。所以，权威实际上掌握在文本专家，也就是拉比手中。他们阅读文本并解释它。而且经过数千年的
多年来，他们写了评论，评论的评论，评论，以及评论的评论。要成为一名拉比，你需要尽可能多地阅读这些宗教文本并记住它们。现在，没有人能够真正地，没有一个拉比能够读完犹太教的所有文本并记住它们。人工智能可以。在犹太教的历史上，第一次出现了一个实体，它能够阅读17世纪也门或波兰所有拉比写下的每一个字。记住每一个词，理解每一个词的语言背景。17世纪的意第绪语和15世纪的意第绪语有什么区别？这个词在这里是这样用的，但那个词在那里是这样用的。它将成为文本的权威，最高权威。它实际上将成为一个能够与你对话的文本。当文本开始说话时，一个以文本为基础的宗教会发生什么？但是，信徒难道不想要吗？也许是拉比向ChatGPT提问，但作为信徒，我难道不想从拉比那里听到答案吗？因为归根结底，拉比拥有生活经验。人工智能没有。这也许是佛教，但不是犹太教。犹太教是文本。它写在申命记3:7。它说，等等。你不能说“是的，但我的经验告诉我不同”。你想这么说，那就去当个佛教徒吧。我一直在想是否要问你这个问题，但我觉得现在非常相关，因为你刚刚告诉我们你的下一本书可能是你的最后一本书。你人生的目的是什么？你认为它会改变吗？如果会，你预计它会如何改变？我不以目的来思考，我试图理解生活。我认为关于生活最误导的事情之一是，人类的心智倾向于以故事的形式思考，但现实并非故事。我们不断试图将故事强加于现实，当然，我们自己是叙事中非常重要的英雄，而现实并非如此运作。所以，只要我们继续执着于“宇宙的故事是什么”、“生命的意义是什么”、“生命的目的是什么”这些想法，就保证了我们会误解生命的真实含义。卡西亚说，“在《人类简史》中，你认为共享的神话能够统一社会。现在是否存在能够统一我们的积极、可持续的神话？”能够统一我们。现在，目前最重要的层面是回到生物学层面，再次强调，世界正被一个非有机、非生物的网络所接管，这不一定是邪恶的。它也有巨大的积极前景，但最终它不是有机的。它不是生物的，我们最终需要回到身体的层面。我们的思想分裂了我们，因为我们的思想不断地编造故事，让我们认为我们与他们不同。在身体层面，我们几乎完全相同。在历史上，了解这一点一直很重要，但现在尤其重要，因为我们越来越多地生活在这些人工智能数字空间中，身体几乎消失了，生物学几乎消失了。这使得分裂我们、让我们相互敌对变得更加容易。因为当我们再次生活在思想中时，我脑子里有一个神话，你脑子里有另一个神话。这让我们变得如此不同。当我们从思想层面稍微下降到身体层面时，我们是相同的。我们需要氧气。我们需要水。所以，我认为为了在21世纪生存和繁荣，人类需要保持紧密联系，深深植根于其身体、生物、有机结构。所以人与人之间的接触，远离那些算法。绝对是，那是其中的一部分。但也有所有关于你知道的，生活在云端，将我们的意识上传到云端的幻想。这些是非常古老的幻想。再次看到，在宗教历史中，人们一次又一次地幻想逃离充满混乱的生物身体，永远存在于纯粹的精神领域。这始终是一个极其危险的幻想，有时会导致人们做出可怕的事情。现在它更加危险，因为至少有些人看到了途径。以前，他们告诉你，好吧，你死后就会得到。现在越来越多的人希望在他们活着的时候就得到。我们几周前刚刚进行了一次非常有趣的谈话，是习近平和弗拉基米尔·普京之间的。当麦克风录下他们时，他们不知道自己被监听了。他们在谈论什么？不是乌克兰战争，不是加沙。他们在谈论无限期地延长他们的生命。利用新的生物技术。这就是这些人最终真正关心的事情。他们想永远掌权，为此他们首先需要永远活下去。他们认为他们看到了实现这一目标的途径。好吧，汤米问，你认为西方现在将永久拥有民粹主义政府吗？历史上没有什么是永恒的。再次，历史只是在加速。没有人知道五到十年后政治局势会如何。而且，民粹主义者是一些连贯的事物的想法也是不对的。认识到这一点非常重要，否则你就无法建立政治联盟。政治的本质是理解对方，并找到妥协和结盟的方法。如果你有一个非常僵化的世界观，认为世界只是分为这两个永远分开的集团，那么你就是一个非常糟糕的政治家。我想我再问几个问题，如果可以的话。我将把两个问题放在一起。你之前提到，如果我理解有误，我认为你是一个非常支持言论自由的人，你相信最纯粹意义上的言论自由，但有两个问题。不，我只是不相信给予任何人有能力强制监管自由的权力。再次，当我说道言论自由甚至保护谎言时，是因为我不想给予任何人决定什么是谎言、什么是真相的权力。因为我从历史经验中知道，一旦你将这种权力交给某人，他们就会使用它，不一定以你认为他们会使用的方式。所以，允许一些人偶尔撒谎，总比让某个真理部拥有决定“哦，这是谎言。你不能这么说”的权力要好。所以，我认为你可能已经回答了一个问题，但我还是会问你这两个问题，你可以选择回答。你对在英国和美国等发达西方国家日益严重的言论自由压制有什么看法？然后查理问，你能分享一下你对吉米·坎摩尔被取消的看法，以及这是否意味着言论自由的终结？它本身并不是言论自由的终结。这是令人担忧的。但再次，最终要关注的是算法和机器人，它们越来越多地主导着对话。问题在于人们谈论什么。你越是谈论人类的言论自由，你就陷入了与你知道的，第一次世界大战的战壕一样的旧对话中，即使移动一公里也很困难。同时，你拥有整个开放的竞技场，这可能是当今关于对话、言论、言论自由最重要的战场，那就是你如何看待人工智能和算法的言论自由，因为它们越来越多地掌控着局面。好吧，我将以一个非常可能乐观的结尾来结束。妮可，在一个充满危机的世界里，是什么让你充满希望？人类以前已经做过无数次不可能的事情。历史的关键教训之一是，大多数人是值得信赖的。大多数人是善意的。否则，我们就不会在这里了。如果人类物种主要是由精神病患者、骗子和不可信的个体组成的，我们仍然会是草原上渺小的群体，几乎无法与黑猩猩、鬣狗或狮子抗衡。我们征服了地球，因为我们学会了建立越来越大的合作网络，从几十个人生活在一个小群体中，无法信任群体之外的任何人。今天，有像英国这样拥有数千万公民的国家。一些国家拥有数亿甚至超过十亿公民，如中国和印度，他们以惊人的方式合作，如果你从石器时代甚至中世纪的视角来看。我们拥有超越国家的合作网络，比如全球贸易网络，我们吃的食物、穿的衣服、维持我们生命的药物，它们是由世界另一端的完全陌生的人发明的、种植的、生产的。因此，人类已经能够建立巨大的信任，这只有在大多数人是值得信赖的情况下才有可能，这也是希望的主要来源，即使我们现在看到信任赤字或信任崩溃，这也不是不可避免的。这不是客观的。这不是因为人类有什么问题，而且有办法重建这种信任。我认为一种非常重要的方式，从个体层面开始，就是对你遇到的其他人采取更宽容的态度，无论是在现实中还是在线，或者在任何地方。宽容的态度意味着，你知道，就像我们之前谈到的圣经一样，圣经中的每一句话都有上百种不同的解释。同样，当你遇到某人，他们说或做某事时，通常有几种不同的方式来解释。不幸的是，有些人立即选择最坏的解释。就像他们会听你说的话，然后认真思考你能给你的话最坏的解释是什么，然后为此感到不安。所以，不要那样做。对人们的言行采取更宽容的态度。现在，不要天真。如果你有证据，外面确实有一些坏人。如果你有证据表明某人是坏人，不要相信他们。不要被他们的操纵和谎言所欺骗。但这不应该让我们对地球上的每个人和发生的一切都怀有固定的怀疑。我告诉你一个秘密。我近年来遇到了不少政客，即使是他们中的大多数也是好人，值得信赖的人，他们承担着非常非常困难的工作，我并不羡慕。不是所有的人，但很多人。我们也应该对他们采取同样的方法，同样的态度，因为我们需要好政客，我们需要好人进入政界。我们对人们的信任越多，我们在世界上传播的信任越多，世界就会越好。好吧，在这个非常积极的基调上，我很高兴地说，伊万·诺亚·哈拉里，非常感谢你。谢谢。