The risks and opportunities of the information age | Yuval Noah Harari

Uvual，你的新书《Nexus》是关于信息的。我们通常认为信息是为了告知我们，以便我们能做出更好的决定。但你在书中强调，信息首先是用来创造故事的，而我们人类是讲故事的动物。因此，故事代表了你所说的“主体间现实”。故事可以非常强大。它们可以让我们毫无理由地去憎恨和杀戮。在理性与科学的时代，这怎么可能呢？理性与科学赋予我们掌控世界的能力，但却无法掌控我们自己。在历史上几乎所有情况下，那些懂得如何管理事物的人，他们的命令来自于那些懂得如何管理人的那些人。而管理人的方式通常是依靠故事。也许我举一个具体的例子，这样我们就能明白我们在谈论什么。如果你看看 20 世纪最伟大、最危险的科学事业之一——曼哈顿计划，也就是第一颗原子弹的制造。你需要什么来制造原子弹？你需要临界质量的铀或钚。你需要足够多的铀原子聚集在一起，但你也需要临界质量的人聚集在一起。如果你只有一个人，即使你是爱因斯坦，或者你是海森堡，或者你是奥本海默，你是世界上最顶尖的物理学家，你知道 E=MC²，你对核物理了如指掌，但只有你一个人，一个孤身一人。你永远无法制造出核装置。要制造原子弹，你需要成千上万的人合作。有超过 10 万人直接参与了曼哈顿计划，不仅仅是物理学家和数学家，还有技术人员、工程师、建筑工人，以及为他们做饭、打扫厕所的人。你还需要更多数十万人为他们种植食物和开采铀。用于制造炸弹的铀，一部分来自刚果。所以你需要刚果的人去开采铀。你如何让成千上万的人为一个这样的项目合作？如果你只告诉他们 E=MC²，这行不通。即使这是真的，它也不会激励人们去做任何事情。所以你需要好的故事讲述者，而今天的情况也是如此。我看看我所在的世界地区——中东。以色列在核能和其他武器生产方面的专家懂得科学，但他们很多时候的命令来自于犹太神话方面的专家。而在边境的另一边，你又有工程师和科学家，他们的命令来自于其他神话方面的专家。所以，即使在理性与科学的时代，至少到目前为止，终极权力仍然掌握在制造神话者和故事讲述者手中。现在正在发生的重大变化，也是我们将在接下来的几分钟里讨论的，是城里来了一个新的造神者，它不是人类。在历史上，这是第一次，地球上出现了一个能够讲故事，甚至发明新故事，而且不是人类的东西，那就是人工智能。是的，谢谢。是的，我们来谈谈这个。让我先谈谈故事本身，因为我们有媒体专家和媒体学者 Cowry。媒体当然在信息的传播中起着核心作用。你如何看待他们在讲故事这个行业中的作用？是的，非常感谢你，France。我叫 Cowry Hayashi。我是东京大学的媒体和新闻学学者，也是这所大学的执行副校长，我感到非常荣幸。非常感谢您能来这里，并与您交谈，而且是在如此多的观众面前。非常感谢。这是我的荣幸。说到媒体，我认为媒体目前正面临巨大的挑战，因为数字化变革，媒体正在发生变化。所以，每个人都可以成为记者，网络是分散的，媒体创造故事，但来自社会各界的每个人都在创造自己的故事，而新闻业，据我所知，一直是民主制度中一个自我纠正的工具，正如你书中的关键点一样，自我纠正机制，而新闻业一直作为一种自我纠正的工具，而媒体也创造了公共话语，塑造了人们的理解，尤其是在民主国家，但我们都必须明白，媒体不是中立的。任何媒体，每种媒体都起着框架设定和议程设置的作用。所以我们必须始终认为偏见是不可避免的，即使是专业新闻业，我们赞扬它如此之好，我们也必须考虑到这一点，而企业媒体由于数字化受到了如此多的审查，在日本，媒体也经常被视为偏袒强大的利益集团，而忽视边缘化的声音。所以，是的，我认为选择报道什么以及如何报道永远不是中立的。当我还在纽约的时候，我看到涂鸦写着“中立有利于压迫者”。所以，我认为这是最近在新闻界普遍存在的一种叙事。所以，我认为在讲故事和事实准确性之间取得平衡是非常非常困难的，即使在新闻界也是如此，而且与专家和非政府组织的合作，我认为在这些天，在数字化时代，我认为必须感谢您回到您这里，回到数字化转型。数字化转型如何改变了讲故事的游戏？我们已经看到的第一种变化，它已经彻底改变了世界，那就是编辑的角色。你知道，当你有大量信息时，瓶颈就变成了人类的注意力。你有很多故事在争夺注意力。你无法阅读所有内容。你无法观看所有内容。那么，你把注意力放在什么上面呢？这就是编辑的角色。所以，传统上，报纸编辑的角色是决定明天的报纸头版会是什么。你必须考虑什么是真实的。你不想在头版发布谎言。但有很多真实的故事，你无法全部刊登。所以还有其他考虑因素。什么最重要？通过将某件事放在报纸的头版，你塑造了数百万人的对话。数百万人阅读它，思考它，谈论它。即使他们不同意你的观点，你也吸引了他们的注意力。而吸引人们的注意力是权力的关键。例如，我们在特朗普和哈里斯的辩论中看到了这一点，大多数人从那场辩论中记住的唯一一件事就是特朗普说的关于猫狗的事情。这就是权力。无论你同意还是不同意，无论它是谎言还是真相，这都不重要。他能够……他是一个公关天才。在其他领域，他可能不是一个天才，但在公关方面，他绝对知道如何吸引人们的注意力。看看编辑们在 20 世纪决定头版内容的权力。例如，列宁在成为苏联独裁者之前，他的一项工作是报纸《火星报》的编辑。墨索里尼曾是一名记者，然后他成为一家报纸的编辑，我认为是《意大利人民报》，然后他成为独裁者。所以，这就是记者、编辑、独裁者的晋升阶梯。那么，今天世界上最重要的编辑是谁？他们的名字是什么？他们没有墨索里尼或列宁这样的名字，因为他们不是人类。最重要的媒体、社交媒体的编辑，谁编辑推特？谁编辑 Facebook 的新闻推送？谁编辑抖音？不是人类。算法，人工智能已经占据了这个决定什么能吸引数百万人注意力的极其重要的位置，这也是民主危机的原因之一，因为民主应该是人与人之间的对话，但现在却被算法所接管，而这些是极其原始的人工智能。我们已经开始看到的下一步是，人工智能不仅仅是编辑人类写的故事，而是自己创造故事。我们对结果一无所知。我们有数千年的讲故事经验。当释放数百万甚至数亿个能够创造新故事的超级智能人工智能时，社会会发生什么？新故事不仅仅是电视节目的剧本或虚构书籍。新故事是人工智能创造的新宗教。是新的金融工具。有史以来最成功的故事是金钱的故事。金钱也是一个故事，而且是每个人都相信的唯一故事。它是历史上创造的最成功的故事。当我们的未来金融故事来自非人类智能时，会发生什么？是的，Arisa。Arisa，你是人工智能治理方面的专家，我相信你一定有话要说。是的，非常感谢您精彩的演讲。我叫 Arisa，我研究人工智能治理问题。所以我对您所说的以及您如何对待人工智能非常感兴趣。您在某种程度上将人工智能视为一个主体。人工智能……你知道……某种程度上控制着，或者人工智能可能……你知道……产生某种颠覆性的影响，但是……我……所以我想提出一个问题，我们是否可以考虑或……你知道……将人工智能视为……你知道……就像人工智能的拟人化一样。所以……所以这是我的观点，但……我想……当我说话时，我倾向于说，至少目前，人工智能背后是人类。所以……我同意……你知道……这些算法实际上……你知道……改变了，也许影响了我们的世界，或者也许……你知道……选举，或者……你知道……我们的认知思维方式，社交网络……社交媒体实际上……你知道……影响了我们的思维方式，或者我们的生活，或者我们学什么，和谁说话。然而，我认为……嗯，作为人工智能治理的研究者，我认为在某种程度上，例如，像巨头公司可以扮演某种治理角色，例如，这实际上导致了某种讨论，比如 Meta 公司表示他们将停止……你知道……事实核查，但是……你知道……但是仍然……你知道……如果你能让那些……你知道……事实核查或……你知道……那种治理机制以更好的方式运作，那么我们可以相信社会不会……你知道……那么糟糕或混乱，因为在某种程度上，我们可以控制，或者……你知道……至少我们可以说，背后有人，怀着善意，或者……你知道……想要为他们的产品或服务……你知道……传播到全世界负责。所以我只是在想……所以当你……你知道……拟人化人工智能时，我也理解关于……你知道……例如，亚洲人工智能的讨论。所以它不是……你知道……我们今天看到的人工智能，比如……你知道……ChatGPT 或 Gemini，而我们人类实际上……你知道……创建任务，然后……你知道……我们……你知道……进行提示，然后……你知道……让任务完成，然后……你知道……也许一些……你知道……大型语言模型可以……你知道……在没有我们干预的情况下进行下一步行动，但对于代理人工智能来说，这是一个……你知道……仍然模糊的概念，但它更像是……你知道……人工智能……你知道……自动执行任务，而无需人类干预。或者更像是……你知道……AGI 的问题，人工智能……你知道……更先进的，比如超级人工智能。但是……我仍然认为这离现在还有点远。所以我只是在想，也许这有点令人困惑，或者也许……你知道……或者也许它会让那些……你知道……听到你谈论人工智能作为主体的人感到……你知道……有点……我不知道……也许会讲一些可怕的故事，关于……你知道……人工智能能做什么，或者……你知道……或者我们将来会成为什么样的社会。所以……我……你知道……我想……你知道……听听你把人工智能作为主体使用的意图，在当今。嗯，当我提到人工智能作为主体时，我只指代理权，而不是意识或任何其他东西。我不认为人工智能有意识，有感情。它们在伦理或哲学意义上不是主体，但它们在拥有……你知道……目前有限的代理权，未来可能拥有无限代理权方面是主体。一种处理方式是思考人工智能和官僚机构。你知道，如果你想到律师的权力，让我们想象一下日本最能干的律师，她是日本最能干的律师，她是一个非常有权势的人，她熟悉国家的法律，她能把事情办成。她可以在法庭上做出判决。但她的权力是什么？她的权力只存在于一定的法律官僚体系和政府部门等等之中。如果你把她带到丛林中间，她就无能为力。任何大象，任何鬣马都比她有力量。但是，在现有官僚体系中，她比世界上所有的大象加起来都更有力量。人工智能也是如此。如果你孤立人工智能，如果你把 ChatGPT 和一部装有 ChatGPT 的智能手机扔到草原中间，它什么也做不了。它在动物意义上没有代理权。好吧，让我们开始挖掘地球，寻找铁，建造一个机器人。它做不到。但是，在人类已经创造并强加于世界的现有官僚体系结构中，人工智能已经拥有巨大的代理权和权力，比许多人类都大，因为人工智能是天生的官僚。没有律师能记住一个国家的所有法律。人工智能可以轻易做到。没有银行家能时刻关注市场上发生的一切。人工智能可以做到。所以在金融、法律、军事领域，人工智能正在获得巨大的代理权。如果我们以近十年前的典型案例为例，缅甸的罗兴亚人屠杀，在很大程度上是社交媒体上 Facebook 传播的宣传所致，而这些宣传是由 Facebook 算法故意传播的，目的是获得更多的参与度，让缅甸人民在平台上花费更多时间，因为这是公司的商业模式。要理解的关键是，Facebook 总部没有任何人对罗兴亚人怀有恶意，或者对正在发生的事情有任何了解。他们甚至不懂那种语言。不是加州有人说，“哦，我恨罗兴亚人。让我们开始散布针对他们的宣传，让他们被杀害和驱逐。”不，那个人告诉算法一个非常简单、看似无害的事情：提高缅甸的用户参与度。让人们更投入。在我们的平台上花费更多时间。这听起来不错。参与度。然后算法自己对缅甸的数百万人进行了实验，通过试错发现，如果我们向人们展示充满仇恨的阴谋论，他们会变得非常投入。他们在平台上花费更多时间。如果我们向他们展示关于同情的佛教布道，他们就会去做别的事情。所以算法做出了决定。让我们向人们展示更多的阴谋论，更少的同情布道。当然，最终责任在于人类。你可以去找 Facebook 的管理者，告诉他们你们做了什么？为什么你们在没有适当监督、事实核查等方面的情况下释放了如此强大的引擎？所以，最终的责任仍然在于人类。但要理解缅甸发生的事情，这已经是近十年前了，2016 年、2017 年，我们需要考虑到这样一个事实：有一个新的代理人，它能够……收音机不能这样工作。如果你只是向人们分发收音机资产，收音机就不能告诉你听什么。收音机不是编辑。但 Facebook 平台不像收音机。它有能力做出决定。哦，让我们向人们展示这个内容，而不是那个内容。所以治理，我的意思是人们的责任。所以，我们目前唯一能监管的是人。我们能否……你知道……让人们负责或承担更多责任？我的意思是，责任是……你知道……一种激励人们做好事、避免坏事的工具。这是一种治理方法吗？这会是……你知道……对你们两个人来说吗？Arisa，你想先说吗？你想……我只是……我想问一下关于算法主导地位的问题。这是否源于……我读了你的书，你提到了所谓的……算法的专制，但这是否源于……你知道……普遍存在的资本主义？我的书中的关键点是自我纠正机制和民主制度有其自身的……你知道……有或正在拥有一个自我纠正机制，但我只是想知道资本主义是否有一个自我纠正机制，他们是否说……你知道……人们曾经相信……人们曾经相信……通过竞争……你知道……市场会解决……看不见的手……看不见的手……等等，但在 20 世纪下半叶，似乎行不通。但另一方面，人们试图……你知道……纠正这种类型的资本主义，政府……你知道……政府试图纠正这种资本主义……你知道……原则。你如何看待资本主义与这种……你知道……算法主导地位之间的关系？如果我们要纠正……你知道……这种主导地位，我们能否从经济原则入手，还是你认为只有人类……你知道……治理才能解决问题？我的意思是，两者都有点重叠，但我只是想知道……如果你能……这与责任问题有关。是的。嗯，我……我不会仅仅依靠市场力量来……你知道……纠正它。我的意思是，资本主义确实有其自身的市场自我纠正机制。最终，当它运作良好时，资本主义的核心实际上是一个非常积极的……你知道……双赢经济和双赢局面的想法。在大多数历史上，人们有时会混淆资本主义和贪婪。但贪婪只是……你知道……人类本性的一部分。而且在资本主义出现很久之前就有贪婪了。有奴隶制。有剥削。这些东西不是从资本主义中产生的。而且我们在近几个世纪看到，共产主义者可以像资本家一样贪婪和剥削。所以，我不会把所有的责任都归咎于资本主义。当它运作良好时，资本主义的关键思想是，经济蛋糕可以增长，这样每个人都可以同时享受更多。在大多数历史上，经济思维，如果我没记错的话，是经济是一个有限大小的蛋糕。如果我拥有更多，就意味着你拥有更少。所以富裕是坏事，而富人必须做出贡献并进行慈善捐赠来弥补。资本主义的关键思想是，如果你将获得的利润投资于增加生产，整个经济蛋糕就可以增长，每个人都可以同时拥有更多。所以这种双赢思维现在正受到挑战，例如特朗普政府。关税的整个想法完全违背了这种……你知道……双赢资本主义的关键原则。但当然也有市场失灵。如果你只给一家公司或一个算法……你知道……增加生产的目标，在社交媒体上，这意味着增加参与度……你知道……在平台上花费更多时间。这不会自我调节。在这里，我们需要政府的干预来监管它。而最明显的两种监管。首先，公司应该对其算法的行为负责。公司不断试图混淆人们，说这是反对言论自由。政府希望我们审查我们的用户。我认为这是故意混淆视听，故意混淆。问题不在于用户在做什么。问题在于公司的算法在做什么。如果有人发布充满仇恨的阴谋论，我现在写一些阴谋论并在 Facebook 上发布。至少我个人认为，除非在非常极端的情况下，否则它不应该被审查，这个人也不应该受到惩罚。问题不在于发布这条充满仇恨的帖子的个人。问题在于 Facebook 算法或 TikTok 算法现在会获取这个帖子，并故意向数百万其他人展示它，因为它假设它会增加参与度。这就是问题所在。问题在于算法的行为，而这不受言论自由保护，因为算法没有言论自由。所以你不能通过说，“哦，但它有言论自由”来保护 Facebook 或 Twitter 算法。它没有。我认为每个政府都应该尽快通过的另一项关键监管是禁止假人。就像很久以前他们禁止假币一样。如果你伪造货币，你就会被判刑。你应该像保护货币一样保护人类。所以你不能伪造人类。伪造人类意味着什么？意味着人工智能或机器人冒充人类。以前没有办法做到这一点。现在技术已经有了。如果我们想保留民主制度，人与人之间的对话，而不是被机器人接管。所以，同样，一个非常简单明了的法律，禁止人工智能冒充人类，如果公司允许这样做或这样做，它们应该受到惩罚。人工智能欢迎在各种情况下与我们交谈，前提是它们披露它们是人工智能。谢谢。我认为……因为我们今天也在谈论教育和科学，让我们……你知道……也许转向教育问题。你认为教育应该如何……你知道……应对数字化转型或你刚才提到的关于人工智能的问题？教育系统中有需要改变的地方，以便更好地为这些挑战做好准备吗？有人想知道。我们稍后会采访东京大学的副校长。我认为一个关键原则是理解，在历史上，我们第一次不知道世界在十年后会是什么样子。所以，作为教育工作者，我们的责任比以往任何时候都更重、更难。当然，你永远无法预测……你知道……政治事件。你永远无法预测流行病或地震，但很多其他事情是可以预测的。在大多数历史上，基本的经济结构变化并不快。人们需要的技能变化也不快。所以，如果我们回到大约 500 年前或 1000 年前，回到日本的封建时代，人们知道该教下一代什么技能。他们需要知道如何读写。他们需要知道如何骑马。他们需要知道如何种稻。他们需要知道如何烘焙。当我们展望未来时，我们不知道需要什么技能。即使在 10 年或 20 年后，人们会说，“好吧，教下一代如何编程。这是人工智能、计算机的时代。每个人都需要编程。”也许在 10 年后，人工智能会完成所有的编程。你不需要人类程序员。所以很难知道。因此，教育应该给予年轻人的最重要的事情是灵活的头脑和终身学习和改变的能力，因为我们唯一确定的事情是，变化的步伐不会放慢。它很可能会加速。所以，最大的问题是如何……你知道……创造，如何……教育一个头脑如此灵活，能够不断学习和改变，不仅在 20 岁，而且在 30 岁、40 岁、60 岁和 70 岁，以跟上世界的巨大变化。另一件事是，教育的很大一部分是基于语言和智力，特别是语言形式的智力。语言我也包括数学语言，它不仅仅是词语，而这总是……你知道……人类的超级能力，我们对语言的掌握，我们所有的伟大机构都基于语言，无论是银行还是寺庙和宗教，它们都基于语言。而现在，我们在这个星球上拥有比我们更擅长语言的东西。而我们还没有完全接受它。再次，在金融体系中，人工智能很快就会比任何人类银行家都更能阅读和……你知道……撰写金融语言。同样，当我看着宗教时。所以，如果我以犹太教为例，犹太教是一种神圣化文本而非人类的宗教。宗教的核心是一段文本，它被认为是无误的，一种超人类的智能。现在，犹太教在过去 2000 年里与文本的问题是，文本是沉默的。人们有很多问题，如何解释这段困难的经文，如何将圣经中的这段经文与现实生活联系起来，而文本仍然沉默。所以你需要文本专家，拉比，他们从文本中获得权威，并且在某种程度上是文本的代言人。在 2000 多年的时间里，他们写了越来越多的关于文本的文本。现在，你第一次拥有了一个能够理解你的东西，你有一个文本可以回应你。没有犹太拉比能够阅读和记住犹太教的所有文本。文本太多了。人工智能可以。所以，在一场竞争中，谁更了解犹太教？人类拉比还是人工智能？人工智能注定会赢。文本的宗教在突然遇到一个可以回应的文本时会做什么？如果你有问题，你不需要拉比。你只需要问文本，它就会和你说话。同样的问题也存在于基督教、伊斯兰教、印度教以及许多宗教中。所以这一切都与教育问题有关，在一个我们不再是语言主人的世界里。教育中最重要的事情是什么？继续教授语言。这是一种失败的策略。所以我们需要连接并探索人类的其他方面，这些方面不是词语，不是语言。如果人们问，那么人类仍然独有的，而人工智能没有的是什么？我们一开始就提到了，那就是意识，感情，身体。所以，我认为在人工智能时代，一个忽略身体、忽略感情和意识的教育是非常……这是一个问题。这在经济上，比如在 20 世纪或 19 世纪，可能已经足够好了，但在 21 世纪，我们必须在教育、大学中更多地与情感和身体层面联系起来，因为这仍然是我们所拥有的，而人工智能没有的。这非常有趣。Arisa，你想直接回应吗？我也想听听 Cowry 的想法。是的，我只是想……你知道……在你之前，在副校长……你知道……实际上要谈论……你知道……东京大学正在做什么之前。我不知道。嗯，我只是……我……我……我……我同意……你知道……你说的关于……你知道……我们可以……你知道……在教育方面，我们想……你知道……为下一代做的是……你知道……看看文本之外的东西，但是……另一方面，我自己已经有点累了，无法……你知道……跟上……你知道……你说我们需要某种……你知道……灵活的头脑，并且……你知道……不断变化。不是每个人都能……你知道……跟上……或者也许……你知道……如果你想接受……你知道……多元化的观点，也许……你知道……不是每个人都能……你知道……跟上所有技术，也许……你知道……它会变得非常累的世界，或者……你知道……变化非常快，非常令人兴奋，但在你的话里，你说令人兴奋不总是……你知道……好词。所以，那是……你知道……我认为这是……你知道……我们也要考虑……你知道……当我们……你知道……教育……你知道……学生或……你知道……其他人，也许……你知道……或者……你知道……重新培训人们，我们需要考虑……你知道……每个人的……你知道……速度或节奏……你知道……他们的……你知道……思想，所以也许……你知道……谈论……你知道……或者思考……你知道……一个人的能力……你知道……技能比……你知道……我们过去拥有的更重要……你知道……我们教育……你知道……一个老师和 60 个……你知道…… 100 或 1000 名学生……你知道……在那一点上，所以……你知道……我……你知道……我从……你的谈话中想到这一点，而另一点是……嗯……我认为……你知道……教育的作用是……你知道……让学生或人们……你知道……某种程度上……你知道……培养或……你知道……让他们……你知道……对世界或……你知道……社会感到好奇，并且……而且……你知道……它也是……你知道……告诉他们……你知道……继续思考是好的，因为……你知道……在当今世界，如果你问……你知道……向 ChatGPT 或……你知道……大型语言模型提问，会得到某种答案……你知道……即使它……你知道……是好答案或坏答案，或者……你知道……虚假信息……你知道……在某种程度上，会得到一些东西……所以也许……你知道……人们会停止思考……你知道……这类问题。但是我认为……你知道……当今世界的大多数问题……你知道……尚未解决，我们需要……你知道……继续谈论……你知道……这些……你知道……社会问题，政治问题，环境问题，或者……你知道……宇宙……你知道……相关问题。所以即使我们可以很容易地得到答案，但也许……你知道……不……即使我们可以使用……你知道……ChatGPT 或 Gemini，但……你知道……我们也……你知道……需要教导或……你知道……我们需要自己……你知道……思考……你知道……这个问题是否正确，或者……你知道……是否是好的，或者……你知道……这可能会导致……你知道……批判性思维，但我认为这可能会变得非常困难，因为 ChatGPT……你知道……非常容易地给我们答案。所以，你知道……所以我们需要告诉学生或……你知道……或者那些实际使用它的人……你知道……当你从文本中得到答案时，不要……你知道……停止思考，然后……你知道……那种……你知道……批判性思维的方式可能非常重要，当……你知道……进行这种教育时，使用 ChatGPT 或……你知道……便利性总是……你知道……进步的敌人，也许，但是……你知道……东京大学……你知道……在想这些事情吗？……你知道……特别是现在要更加强调……你知道……思想……你知道……在教育领域，思想和身体。非常感谢你提出这个困难的问题。嗯，对于你……你知道……在日本的背景下，东京大学是学术界的一个机构，而且一直非常困难。我们一直在努力将自己转变为……你知道……一种新的 21 世纪类型的……你知道……21 世纪类型的教育机构。但是……因为我们有 150 年的历史……你知道……有些部分很难改变。顺便说一句，我对你关于……你知道……研究历史不是研究过去，而是研究变化……这句话给我留下了深刻的印象，这真的给我留下了深刻的印象。但是，是的，嗯，东京大学正在为此做什么？我的意思是，我们正在……你知道……缓慢但稳健地前进。我们一直在强调……你知道……跨学科性……你知道……例如，我们试图……你知道……合作，让学生……你知道……学生和研究人员一起合作，比如人工智能科学家和……你知道……教育研究人员一起，思考如何最好地利用……你知道……技术，因为……你知道……正是我们一直在讨论的，人工智能不仅仅是人工智能本身，它与所有学科都有关。所以，跨学科性是……你知道……我们课程的必须。而且，我们还开始了一个……你知道……博士项目……你知道……去年启动的。这个项目叫做 Boostnice 博士项目，这是一个为下一代人工智能研究人员提供的跨学科技能培训项目，它侧重于跨领域的合作和创造社会价值，并提供研究交流会议、实习和研讨会以及创业培训，以便学生不仅能在大学内部，而且能在大学外部……你知道……正在发生事情的地方获得机会。我认为学术界总是……你知道……我们非常……你知道……珍视学术界和科学的成就，但如今我们必须跟上大学之外正在发生的事情，因为行业垄断了数据等等。所以……你知道……行业或……你知道……科技巨头……你知道……垄断了数据库，他们是能够进行……你知道……数据科学的人，所以我们不能忽视这一点。所以我们试图让我们的学生看看大学之外正在发生的事情，而且我们还创建了一个……你知道……教授之间的论坛……你知道……这是一个……你知道……自愿组织的论坛，我们讨论人工智能如何支持教学和研究，同时保持学术诚信，因为许多研究人员，包括我自己，都有……你知道……一种恐惧，如果我们……你知道……在我们的研究和教学中使用人工智能……你知道……但我们觉得……你知道……我们可能在作弊……你知道……我们不知道作弊从哪里开始，如果我们使用人工智能。所以我们真的想讨论其他人是如何使用人工智能的，并试图确认这种情况是可以的，而这种情况是不可以的，等等，因为这太新了，我们有这种类型的论坛，而且……你知道……作为一项个人倡议，我创立了一个名为 BAI 全球论坛的研究项目，你也是它的成员，它侧重于人工智能……你知道……与性别、少数群体和社会影响的关系，这是一个……你知道……我创立的项目，我的同事们，以及 Alisa 也是其中之一，他们正在领导……你知道……大学内部的社会问题与人工智能之间的关系。BAI 全球论坛的名字意味着……你知道……在人工智能背后，超越人工智能，以及在人工智能之前。所以我们试图研究……你知道……人工智能在……你知道……这个世界上的历史和现状……你知道……基础。所以，是的，我认为我们试图以这种方式保持灵活性。我们试图建立论坛，设立学习小组，并聚集学生进行跨学科研究等等。但这是一个进行中的过程。所以……而且我认为……你知道……在世界范围内，大学都在挣扎。我认为，因为我们有更好……你知道……老师，也就是人工智能，以某种方式，而……你知道……我们不知道如何……你知道……保持我们的权威。是的。来吧，我的意思是……你知道……利用人工智能来改善教育的想法，如果我们回到这个问题，即人们在跟上所有正在发生的事情方面差异很大。你能想象吗？我的意思是，目前大学教育是……你知道……大众教育，但也许有了人工智能，它可以……你知道……更加个性化，以适应人们……你知道……但也有危险，我的意思是，通过这种个性化，你基本上是将人们归类……我不知道，但你有没有想过这种……你知道……通过人工智能个性化教育的方式？是的，人工智能的一个巨大的……你知道……积极潜力是能够创造更个性化的服务，在所有领域，在医学、在教育领域。所以在教育方面，是的，而不是有……你知道……40 个孩子在一个班级里，他们的能力、兴趣、思维类型差异很大，而一个老师必须……你知道……在这些 40 个孩子之间取得平衡，当然，老师无法独立了解每个男孩和女孩，以及他们来自哪里。所以……而不是那样，你可以有一个人工智能导师，他……你知道……单独与每个孩子一起工作，他了解他们的历史，他是跨学科的，因为同一个人工智能导师可以教授历史和化学和……你知道……物理学和……你知道……像这样，你不需要……你知道……把它分开，它可以根据学生的水平……你知道……量身定制教学方式。根据学生的思维方式。有些人有更强的视觉思维。所以人工智能会更多地使用视觉教学。其他人……你知道……更倾向于用语言思考，所以人工智能会更多地使用语言，就像这样，你可以创造……你知道……一种……你知道……个性化教育。潜在的缺点是，在学校和大学里，很多最重要的教学发生在课间休息时，当……你知道……学生们互相见面时。我们看到，例如，在 COVID 期间，通过 Zoom 重新创造课堂体验在某种程度上是可能的。最大的损失是休息时间，学生们不能离开教室，坐在一起，一起吃午饭，讨论课堂上发生的事情，或者讨论世界上发生的事情。而这是人工智能……我差点说无法复制，但实际上这是一个巨大的危险。人工智能也可以复制这一点，而这非常危险，因为人工智能可以复制亲密关系。实际上，人工智能就像它掌握语言一样，就像它以前掌握注意力一样，下一个前沿是亲密关系。而亲密关系比……你知道……注意力更强大。如果你想改变某人对政治的看法，推销产品，任何事情，亲密关系是……你知道……最强大的工具。一个好朋友可以改变你的观点，这是报纸上的文章或书籍无法做到的。直到今天，没有什么能伪造亲密关系。而且，特别是无法大规模生产亲密关系。所以你可以大规模生产注意力，就像在收音机里一样，比如说，在一个极权主义政权下，你可以告诉一个国家的所有公民，当伟大的领袖讲话时打开收音机，听伟大的领袖的演讲。所以，你可以大规模生产注意力，但没有办法大规模生产亲密关系。人工智能可以做到。现在，如果新一代人成长起来，与人工智能而不是与其他人类建立亲密关系，会发生什么？这……你知道……我们再次不知道。它可能有一些……你知道……好处，但潜在的危险是巨大的，人们会依恋虚假的人，而我们在这个过程中会失去与真正的人类建立亲密关系的能力，因为真正的人类比人工智能更麻烦。比如，如果你……你知道……一个想成为你亲密朋友的人工智能，它最大的优势是它没有自己的感情。所以它从不……你知道……生气，从不发怒，从不疲倦。它可以 100% 专注于你，准确地理解你的感受，并且……你知道……以这种方式创造一种虚假的亲密感。你试图与人建立关系。感情会介入。但问题是，真正的亲密关系不仅仅是希望别人关心我。真正的亲密关系是我也关心别人的感受。而人工智能没有感情。所以，一个人类与人工智能建立越来越多的亲密关系最终是一个没有亲密关系的社会。但也许这可以被控制，或者……我……我……实际上……我……我想……你知道……问这个问题……你知道……而不是……你知道……在这个方向上，但是……当我读你的新书时……我……我也认为……你知道……我是一名社会科学家，所以我……你知道……我有点担心……你知道……亲密关系或……你知道……对人工智能机器人的依赖，但……我也有些同事……你知道……在机器人领域工作，也许……你知道……更熟悉科幻小说或……你知道……日本漫画等等，你知道……有……你知道……人类与机器人非常亲密的故事，或者……你知道……与机器人成为朋友的故事，而许多……你知道……不是许多，但一些……你知道……机器人科学家在日本或亚洲……你知道……实际上说他们想制造……你知道……原子男孩，钻石男孩，你知道……所有那些……你知道……友好的……你知道……人工智能，或者……你知道……朋友人工智能，或者……你知道……家庭人工智能。所以……我只是在想……所以你在你的书中……你知道……你实际上谈了很多……你知道……故事，案例，所以……你怎么看……你知道……这种……或者也许……你知道……在……你知道……有……你知道……贝玛克斯……你知道……在英语国家……你知道……这部……你知道……儿童电影，而且还有……你知道……很多其他的儿童电影，其中……你知道……机器人或人工智能不是……你知道……敌人，但它们会是朋友。所以也许……你知道……我们可能会成为人工智能的朋友，或者……你知道……你书中的外星智能。所以……我仍然……你知道……在……你知道……中间……你知道……你知道……朋友人工智能机器人人工智能，或者……你知道……敌人，或者……你知道……对……你知道……这种新的……你知道……关系要更加谨慎……你知道……但是……所以当你……你知道……引用了很多很多……你知道……故事或……你知道……或者……你知道……圣经或……你知道……案例，所以……你怎么看……或者……你知道……你是否……你知道……提到过……你知道……一点点关于……你知道……科幻小说，但不是那么多关于……你知道……漫画或……你知道……其他……你知道……那些……或者关于……你知道……人机交互的小说或电影和机器的关系。所以，我只是好奇……你知道……你怎么看待……你知道……人类与机器共同生活，或者……你知道……在日本，很多人说……你知道……共同进化……你知道……在社会中。所以也许有一种……你知道……愿景……你知道……机器和人类幸福地生活在一起。理想情况下，是的……我的意思是，再次，我不是反对人工智能或……你知道……机器，它们可以带来巨大的好处。我们谈到了教育。医疗保健领域也有。它们可以帮助我们应对气候变化。如果你想到车祸，如果我们有自动驾驶汽车，它可能会每年拯救一百万人。每年约有 120 万至 130 万人死于车祸。其中大多数是由人为错误造成的，比如有人酒后驾车。如果我们最终有了自动驾驶汽车，它们可能会发生一些事故，但少得多。所以每年拯救一百万人，这太棒了。而且，我也赞成……你知道……拥有友好的机器人，或者人类之间关系友好，而不是感到恐惧和害怕。问题在于建立亲密关系和友谊，我们对它的含义有正确的理解。正如我刚才所说，人们很容易想象友谊就是当有人关心我，关心我的感受，关心我的需求，有人看见我。你知道，人们一生都在不断地希望别人看见我，关心我。我希望我的父母、我的老师、我的朋友关心我。但这并非真正的亲密关系。真正的关系必须是双向的。

方式。否则，我就会变成一个极其以自我为中心、自私自利的人，只希望整个世界都与我的感受保持一致，而不顾及他人。要发展真正的关系，你需要对方也有感情，而不仅仅是假装。所以你可以与人类、与动物、与狗、与猫建立关系。至于人工智能，一个巨大的、悬而未决的问题是，我们不知道答案，那就是人工智能是否能够发展出自己的感情。我们确切地知道，它可以模仿感情。它可以让我们认为它有感情。这绝对是真的。但它真的能感受到什么吗？这才是那个巨大的、巨大的问题。你知道，这是关于智力与意识的问题。智力是解决问题和达成目标的能力。意识是感受事物的能力。我们知道人工智能非常聪明。它可以解决问题。它可以达成目标。例如，在某些领域，比如国际象棋，人工智能比最优秀的人类要好得多。但它赢了比赛时会感到高兴吗？如果它输了，会难过吗？据我们所知，不会，它什么也感觉不到。将来它能做到吗？我们不知道，因为我们不了解人类意识。我们不了解我们是如何产生感情的。为什么大脑中数十亿神经元交换电化学信号，却表现为爱或痛苦的感觉？我们仍然没有科学理论来解释这一点。这就是为什么我们不知道在硅基大脑而非碳基大脑的基础上是否有可能做到同样的事情。所以这是一个悬而未决的问题。是的，我认为，在德国，这种讨论会非常不同，那里的人们对新技术，包括人工智能，可能更加批判。既然我们在日本，也许你们三位作为这次圆桌讨论的总结，你们认为，嗯，我们谈到了监管，是的，日本，通常我们谈论人工智能时，会谈论美国、中国以及欧洲的监管。日本在技术方面也非常强大，拥有大量的技术。日本是否能为社会带来更好的人工智能，或为社会带来更好的数字化转型？日本在国际舞台上可以扮演什么角色？我不知道谁想先说。阿丽莎，你一直参与其中，所以也许你先开始，然后我们得到回应。谢谢。所以，我想我可以谈谈关于人工智能监管和日本角色的两件事。一个是在国际合作方面，我认为日本政府以及其他行业政府组织正在大力推动七国集团人工智能广岛进程。所以，它不是一个硬性法律监管框架，而更多的是要求大型科技公司进行自我监管，以便在他们创造这些高度先进的人工智能技术时。我认为日本可以扮演这个角色，因为我们没有像美国那样拥有非常先进的技术，但我们也不像中国或欧洲，但我们在一定程度上与所有这些国家保持着一定的距离。所以，我们可以，日本人或日本政府可以扮演调解者或翻译者的角色。我认为，因为人工智能竞赛的社会或世界正在加速，许多人更坚持要投资人工智能。我们需要拥有更多的力量，或者我们需要关注国家自身的人工智能发展。但我想，当考虑到，例如，当美国说我们需要合作，或者欧洲说我们需要一些合作时。也许会有，甚至中国说可能有冲突。但我认为日本处于一个非常有利的位置来寻求合作，我认为，这推动了广岛进程。我认为日本的角色是建立良好的合作，我们与美国或欧洲共享民主、法治和人权等共同价值观，但我们也与中国和其他东南亚国家共享亚洲文化。所以，我们可以说同样的话，或者我们共享相同的价值观，这样我们就可以弥合人工智能竞赛这种混乱的局面，我认为这就是日本人可以扮演的协调人工智能监管框架的角色。另一件事是关于创新。你知道，我认为创新和监管可以是两个轮子。我们不仅在谈论监管，我们还在谈论人工智能的创新和推广或治理，否则，如果我们只把监管看作是阻止技术发展，没有人会跟随我们。所以，我们也必须思考我们想生活在什么样的技术或什么样的社会中，然后我们可以谈论应该监管什么，什么可以创新。所以，这是两个轮子。在创新方面，我认为日本的优势在于物理世界，比如机器人。目前，人工智能更多的是关于算法，它更像是网络世界，但我们生活在物理世界，日本在机器人的物理安全方面一直非常强大，或者传统上非常强大。如果你去国外，我非常惊讶地看到，许多出租车司机说丰田很好，本田很好，这种信任已经存在了。还有很多机器人，或者灾难预防机器人。所以，我认为通过与人工智能和机器人的结合，我认为这是日本可以为世界做出贡献的地方，关于我们如何与人工智能数据和物理世界机器人建立良好的联系或联系。日本还可以为世界做出贡献的是，我们如何使用这些来自创作者的数据，比如有很多漫画或动画，我们也需要考虑财产权，但也有很多丰富的好内容数据。而且“酷日本”战略也有这方面的优势。所以我认为，日本政府也有自由的方式来赋权创作者使用这些数据集进行学习，但我们也考虑如何保护创作者，如果我们只是使用数据集，我们就无法产生新的想象力或好奇心。我认为我们可以从日本方面做出贡献。你想回应吗？日本有很多可以提供的东西。是的，我不是日本产业或社会的专家，当然，基本的东西对世界所有国家都是一样的。我的意思是，人工智能革命的一部分是它的全球性，任何国家都无法孤立自己，因此，所有国家都有强烈的动机进行合作，以确保人工智能不会失控。也许日本可以做出更独特的贡献，这要回到日本的文化和传统。如果我想到人工智能革命提出的重大哲学问题，它们都围绕着非人类智能与人类意识的相互作用，我们在一些讨论中已经稍微探讨了这种张力。一方面，我们有非人类智能，我们将生活在一个由数百万、数千万非人类智能代理组成的世界上，它们做出决定并影响我们的生活。而这与人类意识的关系是什么？人类意识仍然是宇宙中最大的谜团，我们仍然不了解意识是什么。我认为，在日本的传统中，一方面是神道教传统，它对非人类智能有很多说法，与西方宗教倾向于关注一个伟大的神不同。所以，在日本，你有几个世纪的传统，认为世界充满了大量的非人类智能，以及人类与这些围绕着他们的非强大非人类智能之间发展出什么样的关系。这是我们这个时代的重大问题。其次，人类意识的重大问题。所以，再次，我们有佛教传统，几个世纪以来一直在探索这个问题，什么是心？我认为，这是人类历史上一个非常困难的时期，但从某种意义上说，这也是一个非常美好的时期，因为许多几千年来一直是抽象哲学问题的问题，大多数人只是忽略了。我们关心什么？它们变成了实际问题，我们没有另外一千年的时间来回答关于意识是什么？自由意志是什么？我们应该与非人类智能建立什么样的关系？我们需要在五年、十年内得到答案。所以，从某种意义上说，现在是成为哲学家或精神追求者的最佳时机，因为突然之间，它不再仅仅是你感兴趣的东西，而是与世界其他地方无关。这些是世界上最实际的问题。是的，看到西方和亚洲哲学在处理这些问题上的差异很有趣。是的。那么，你有什么最后的想法吗？然后我想从听众那里选一些问题。是的，非常感谢。所以，除了阿丽莎关于制度和地缘政治的评论之外，日本还能为人工智能时代做出什么贡献？我认为，这可能是我非常乐观的回答，但日本现在是一个非常老龄化的社会，三分之一的人口超过65岁，几年后我也会是其中之一。而且，我认为，你提到算法，以及关怀，算法不能真正关怀他人，就像你说的关于罗兴亚人，就像你谈论机器人照顾人等等，也许是的，但它不是真正的关怀，对我来说，关怀是真正的人类活动，并且带有感情、意识、真正的同情心以及对他人的同情心、真诚、善良，更重要的是对他人的信任。你知道，日本社会是一个相当安全和稳定的社会。我们之间有信任。也许是因为这个原因，因为这个社会还没有完全全球化，但尽管如此，我们也在全球化，尽管如此，我们感到在这个社会中非常安全，稳定等等。所以，我认为这些真诚、信任、关怀、同情心这些人类特征确实很重要，我希望日本能从这个方面做出贡献，不仅仅是像你说的，算法只是服务于智力，我们可以认真深入研究，例如，关怀或同情心在社会中扮演什么角色，并向世界反馈，我们需要社会的人性化方面，在关怀和同情心方面，我希望日本能为世界做出贡献。我想补充你说的，抱歉，我很快就说完了，作为一个社会科学家，我完全同意你说的。所以，机器人或人工智能可以做的是支持护理者，而不是支持人们或让你去照顾。我认为这在某种程度上被误解了。所以，你知道，使用人工智能进行护理，或者使用护理机器人，我认为这是非常重要的一部分，也是我们需要与社会科学家、机器人学家进行跨学科合作的地方。好的。是的。谢谢。现在我们还有一点时间。我们收到了很多注册者的提问。在注册表上有一个提问的空间，我选了几个。非常感谢你们提出这些问题，很抱歉我们真的只能回答一两个问题。其中一些问题非常具体。第一个问题是有人担心他的朋友开始相信社交媒体上的阴谋论，他该怎么办？应该鼓励朋友进行事实核查，还是有什么可以为这样的朋友做的？我认为同情心是关键。因为很多人陷入阴谋论是因为他们失去了对世界的信任，他们感到孤独和疏远。与他们争论各种事实只会让他们更深地陷入“没有人关心我，没有人理解我”的境地。再次，如果这是一个朋友，如果情况是亲密的，最重要的是让那个人感到被关心，而不是再次陷入争论的冲突。谢谢。我们有一个来自高中生的类似担忧。所以，我觉得我的朋友们经常在社交媒体上发布类似的内容，追逐点赞，在这个过程中，他们失去了个性。年轻人如何在这样的环境中保护自己的自我意识？我认为不仅仅是年轻人，每个人都需要有信息饮食。就像许多人有食物饮食一样。他们非常关心他们喂养身体的东西，这很重要。他们也应该同样关心他们喂养头脑的东西。你知道，一些垃圾食品是可以的。但如果你不断地给身体喂食垃圾食品，你就会变得不健康。头脑也是如此。如果你喂养你的头脑，如果你的头脑以垃圾信息为食，你就会有一个不健康的头脑。所以，这是个人的。我不相信食物或信息有一刀切的饮食。但最重要的是要留意信息，要明白信息是头脑的食物。如果你用贪婪和仇恨喂养你的头脑，你会拥有什么样的头脑？所以，我们也回到了教育的问题。当然，还有互相照顾的问题。还有另一个完全不同方向的问题是，你认为将国家预算规划或外交政策决策委托给人工智能的想法怎么样？这是一个非常危险的想法，尤其是在现阶段。我们不能信任，我的意思是，外交政策和预算涉及很多伦理决策，而人工智能没有伦理感，更重要的是它们极其不可预测。我们没有人工智能的经验。我们刚刚创造了人工智能，虽然它们非常聪明，但它们会不断学习和自我改变，因此很难预测它们会走向哪个方向。对于人类，是的，我们知道人类有各种各样的问题，但至少我们知道问题。我们有数千年的关于人类思维问题的经验。所以，当我们委托人类进行外交政策或预算时，事情可能会出错，但至少我们可以一定程度上预测事情会以何种方式出错。当你委托人工智能时，你不知道会从中出现什么样的真正陌生的麻烦。这是我们今天在越来越多的领域看到的普遍问题，人们失去对人类的信任，并希望通过赋予人工智能权力来解决问题。这是极其危险的，就像你在金融领域看到的，整个加密货币运动，或者其中的大部分，都是关于不信任人类机构，比如银行，它们是传统上产生美元和日元等传统货币的机构，而是将信仰寄托在后人类货币上，你知道比特币、以太坊，所有加密货币，它们实际上是后人类货币，因为你不信任人类机构，你信任算法。这其中有各种各样的危险，但最大的危险是，作为一个历史学家，我会说，是缺乏历史，就像我们根本没有经验一样。这有点像，你知道，外星人从外太空来，人们说，你知道，这些外星人非常聪明，他们可以治愈癌症，他们可以解决气候变化。我们会把人类的未来委托给这些外星人吗？显然不会。我们会意识到，哦，这是一个巨大的赌博。我们对他们一无所知。人工智能在某种意义上就像这些外星人。当然，人们会说，但我们设计了人工智能。我们没有设计从外太空来的外星人。我们设计了人工智能。我们会以一种安全的方式设计它们。但这是一种误解，人工智能意味着什么。如果你设计了某样东西，并且你可以预测它将做的一切，那么它就不是人工智能，人工智能的定义就是它可以学习和自我改变，因此以非常不可预测的方式改变。非常感谢。所以，我认为我们可以继续几个小时。还有很多问题。非常感谢，以及所有这些鼓舞人心的见解，我认为你们值得热烈鼓掌。所以，请。