Ideas for the Future | Yuval Noah Harari and Luciano Huck @fronteiras.

所以，能和你伊冯同台分享，感觉很特别。>> 谢谢。>> 你知道我多么欣赏你的思维方式和你的想法，我希望我们能在这里激励观众。我们上次在一起还是在 2019 年，在塔瓦里斯·巴斯图斯的一条狭窄街道上，那是里约热内卢的一个贫民窟，我们和当地居民坐在一起，讨论了工作的未来以及人工智能将如何影响他们的工作。我们和公交车司机聊过，和一些护理技术人员聊过，还有其他人。现在，6 年后，我们又在这里了。在这期间，我们经历了疫情、欧洲战争、中东战争、经济动荡、主要经济体选出民粹主义领导人、对民主的攻击以及全球供应链危机。

>> 那么，为什么世界在短短六年里就天翻地覆了呢？发生了这么多不同的事情，但我认为也许最重要的一件事是，人类正在失去彼此交谈的能力，至少是进行对话的能力。你知道，我们仍然可以说话，但倾听变得越来越难。过去十年里奇怪的一件事是，我们开发了历史上最复杂、最强大的通信系统，即信息技术。但它并没有让我们更容易交谈、沟通和分享信息，反而变得越来越难。你知道，在美国、以色列，也许在巴西，几乎唯一能让人们达成共识的是，对话正在崩溃。这是一个巨大的悖论。为什么当我们能够拿起手机与地球另一端的人交谈时，却几乎无法与邻居，甚至有时与家人交谈了呢？其中一个答案是，这项技术实际上介入了我们之间。在人类历史的大部分时间里，人们通过与其他人的交流来建立联系。现在，几乎所有的人际关系中都存在一个算法，中间有一个计算机或人工智能。我们实际上看到的是，信任正在从人类转移到算法和人工智能。人们对人类机构（如政府、媒体、法院、银行）的信任度降低，而对算法和人工智能的信任度增加。就像人们会告诉你，我不信任法院或我不信任媒体，因为我在社交媒体上读到了一些故事，但他们却信任决定向他们展示这个特定故事的算法。我认为我们正朝着你让我翻译的“思想前沿”活动的方向前进，当我看到“前沿”这个词时，我看到了一个火花。为什么呢？因为我认为我们正处于一个历史性的关键时刻，关于思想的真正含义，关于思考的意义。你知道，随着人工智能的兴起，一个大问题是，人工智能能思考吗？它是否可能比我们思考得更好？因为纵观历史，人类一直很自豪，我们比地球上任何其他实体，比任何其他动物都更擅长思考。其他动物跑得更快，飞得更高，游得更好。但我们可以比地球上的任何人想得更周全。你知道，现代哲学始于笛卡尔在 17 世纪说的“我思故我在”。思考，思考的能力定义了人类。但问题是，思考到底意味着什么？当我此刻思考时，我脑子里发生了什么？这是否是人工智能可以做到的，而且可能比我做得更好？当我试图观察我脑海中的思考过程时，有两种不同的方式来理解正在发生的事情。什么是思考？一种方式侧重于语言，侧重于词语。思考基本上是将词语以某种方式组合起来，就像我现在说一句话一样。思考就是把词语组成句子。这侧重于词语，侧重于语言。你知道《圣经》新约的开篇说：“太初有道。”词语如此重要。还有另一种理解思考的方式，那就是词语不是最重要的。在词语之下有一种感觉，一种体验。有痛苦，有爱，这是思考的真正本质。现在，这确实是数千年来一直存在的哲学讨论。但人工智能让它变得非常非常具体，因为如果思考仅仅是词语，人工智能很快就能比我们思考得更好。如果思考仅仅是将词语以某种方式组合起来，或者数字，或者任何其他东西，人工智能就能比我们思考得更好。你知道，我是一名作家。我写书。写书就是把词语变成信息。我认为我目前正在写的一本书，我估计会在两三年后出版，很可能是我写的最后一本书。他今天早上告诉我，我疯了，因为>> 我真的相信他相信>> 我认为这很可能是我的最后一本书，因为当它出版时，人工智能在将词语以某种方式组合到页面或屏幕上方面已经比我更好了。所以，如果思考真的只是关于词语和语言，任何仅仅是词语的东西，人工智能都会取而代之。当他今天早上告诉我这是他的最后一本书时，我疯了。我们这里有一个很大的教育社区。我将分享一个今天发生的故事。在我们来这里之前，我们遇到了我的儿子，我的儿子过来和尤瓦尔打招呼，他穿着运动服。尤瓦尔问他，好的，你在做什么？我说，哦，我正在申请大学。你打算做什么？我说，工程学。很好，很酷。你为什么穿成这样？我正在上泰拳课，就像武术课。>> 然后尤瓦尔说，好的，请与这个教育社区分享原因？因为我们过去非常重视教育中的许多事物，比如学习数学或学习工程学。这些是人工智能最容易取代的东西。如果你学习的是一种相对狭窄的技能，而这种狭窄的技能主要是认知性的，它主要与数字、词语或图表上的图画有关。这些是人工智能最容易取代的东西。真正对人类来说更独特的是那些不仅包括智力、狭窄的认知技能，还包括社交和情感技能以及运动技能、身体的技能或学科。如果你想到武术，它涉及到心智。你需要训练你的心智，但你也需要训练你的身体，你也需要训练你的社交技能，因为你知道，当你与某人竞争或与某人训练时，那里有另一个人。所以，任何不仅仅涉及智力和认知，还涉及身体运动元素以及情感和社会元素的活动，都比狭隘的智力或认知技能更有可能在五到十年内仍然有价值。你知道人们说，不，这是计算机时代，所以我要学习编程，但也许五年后，你几乎不需要任何人类程序员，因为几乎所有的编程都是由人工智能完成的。如果编程仅仅是将词语、数字或符号信息组合起来，这是人工智能会取代的东西。你认为我们正面临着也许是最后一代能够创造有价值的东西的时代。你认为从现在开始>> 任何能够同时影响数十亿人生活或在短时间内产生影响的事物都将被创造出来。>> 不，不是比我们更好，而是比我们更便宜，比我们更快。不是所有东西，而是所有可以归结为词语、数字或符号的东西都将被取代。这无关乎工程学，还是写历史书，还是艺术，还是宗教。你知道，如果人们认为，比如说以宗教为例，对于那些认为宗教最终是关于文本及其解释的人来说，这些宗教将被人工智能取代。实际上，人们开始出现关于基督教圣经的疑问，或者关于冥想的疑问。他们越来越多地转向人工智能牧师或人工智能大师来回答他们的问题。同样，如果你认为宗教最终是文本，有一个神圣的文本，其中包含所有答案，我们只需要理解文本。这是人工智能会比我们做得更好的事情。直到今天，如果你再次看看基督教和犹太教的历史，人类仍然拥有权威。主教、牧师、拉比仍然拥有权威，原因很简单，文本无法直接说话。就像你认为所有答案都在这里，你有一个关于文本的问题，文本无法与你交谈，你需要去找一个人，一个牧师或拉比来解释文本。而这些人总是有一定的局限性，他们常常不知道相关的语言，比如圣经的原始语言是希伯来语和希腊语。许多牧师不懂希伯来语和希腊语。他们不得不阅读翻译本。在两千多年的时间里，关于这些文本写了无数的评论和评论的评论。没有一个拉比能够阅读或记住所有关于圣经的文本。但人工智能可以轻松做到这一点。人工智能可以精通希伯来语、希腊语、拉丁语以及所有其他语言，并且可以阅读和记住所有关于圣经的著作和评论。所以，如果你认为宗教的最终权威是文本，人工智能将取而代之。人工智能就是文本开始与你对话时发生的事情。现在，如果你认为现实不仅仅是文本、词语和语言，那么人类仍然比人工智能有优势。如果你认为感觉很重要，没有良知。>> 是的，人工智能至少目前没有良知。它无法感受痛苦。它无法感受爱。它无法感受同情。它可以模仿它们。它可以模仿它们。它可以试图说服我们它正在感受某些东西，再次通过使用词语。就像今天已经有人拥有人工智能男友和女友一样。>> 所以你可以问你的人工智能男友，你真的爱我吗？人工智能男友会说，是的，我当然爱你。我是你的男友。你说，“我不确定。你能向我描述一下爱到底是什么感觉吗？”如果你期望得到一个词语的回答，人工智能将能够比任何血肉之躯的男友或女友给出更好的回答，因为人工智能已经读过了历史上所有写过的情诗。它看过所有浪漫电影。它可以用词语来描述爱，比任何人类诗人都要好。但这并不意味着它真的感受到了爱。今天和未来一二十年生活中的一个挑战将是，我们将越来越多地与人工智能建立社会和职业关系，它们将非常擅长说服我们它们有感情，它们能感受到爱或痛苦或其他任何东西，而实际上它们并没有，它们只是掌握了语言。但从你的角度来看，这个窗口有多长？因为我们谈论的不是无人机。我们谈论的不是公共交通。我们谈论的不是自动驾驶汽车。我们谈论的是信息、知识，而且信息占的比重更大。>> 我们现在面临的是一场信息革命。但你认为这需要多长时间？>> 我们不确定。我的意思是，它发展得非常快。十年前，几乎没有人谈论人工智能。有少数专家、少数科学家在谈论人工智能。绝大多数人甚至没有听说过这个词。现在，你每天打开新闻，就像每天都有至少两三条关于人工智能的新闻。美国经济在很大程度上是一个围绕人工智能的巨大赌注。如果你把人工智能革命排除在外，美国股市就会崩溃。在许多方面，甚至整个美国外交政策现在也是一个围绕人工智能的巨大赌注。美国是世界上领先的人工智能强国。唯一的竞争对手是中国。美国似乎押注它将赢得人工智能竞赛。然后它就不需要任何国际机构、法律，甚至盟友了，因为它将比其他所有人都强大得多，以至于它可以凭一己之力主宰世界，并对他国发号施令。因为如果他们的对人工智能革命的希望得以实现，他们将拥有经济和军事力量来主宰世界。有点像 19 世纪的工业革命，那些率先实现工业化的少数国家，如英国、法国、日本和美国，他们拥有征服和统治世界其他地方的力量。>> 就像美国现在正在做的那样。好的。你想摧毁伊朗的核武库，>> 你只需按一下按钮，就完成了。你需要解决委内瑞拉的问题，你只需派一些无人机，就完成了。>> 所以，地缘政治也因此发生了很大变化。是的。这是一场非常快速的革命，将改变一切，从宗教和人际关系一直到全球地缘政治力量平衡。当然，这一切也有巨大的积极潜力，否则没有人会开发它。人工智能可以创造历史上最好的医疗保健系统，你可以想象一下，在亚马逊的一个偏远村庄，他们无法获得医生。>> 借助人工智能，你可以获得世界上最好的医疗信息的 24 小时访问权限。你不需要去遥远的城市，与人类专家进行五分钟的会面。你可以与人工智能就你的病情交谈数小时，它会像人工智能比任何牧师都了解圣经一样，它会比任何医生都了解最新的医学文献。所以，积极的潜力也是巨大的。我认为对人们来说重要的是，不要恐慌，哦，这会毁了世界，或者过度兴奋，哦，这将创造天堂。重要的是要理解正在发生的事情。这项技术真正新颖之处在于什么？以及我们如何确保它确实被用于善而不是用于恶。我认为这里的巨大挑战是，与所有以前的技术一样，如何使用它的最终决定权掌握在人类手中，因为所有以前的技术都只是工具，比如你发明一把刀。你可以用刀切沙拉。如果你是一名医生，你可以用刀在手术中拯救某人的生命。你也可以用刀谋杀某人。所以刀可以做所有这些事情。你必须决定。人工智能与刀的不同之处在于一个重要方面。它也可以用于做好事，做坏事。但它也可以自己做决定。人工智能刀，如果我们想这样想，就是一把自己决定是切沙拉、做手术还是谋杀的刀。人工智能的定义是，人工智能是一种能够自己做决定并自己发明新想法的机器。如果一台机器不能自己做决定，它就只是一台自动机器。所以，现在世界上真正发生的是，我们不仅仅是在创造更多我们可以使用的工具。我们正在创造专业术语中所说的“代理”。代理是能够独立在世界采取行动的事物。人工智能是历史上第一个代理技术，而不是工具。要理解十年后的世界会是什么样子，当然没有人能确定，但最重要的事情是理解，这将是一个社会不再仅仅由人类组成的社会。社会将由数百万人类组成，他们将不断与数百万人工智能代理互动，这些代理将是老师、医生、牧师、男朋友、女朋友等等。>> 和咖啡机。>> 和咖啡机。>> 你怎么看待十年后的咖啡机？>> 这是一个好问题。它可以帮助我们再次理解人工智能的真正含义，因为再次，关于人工智能的谈论。有时人们认为每台机器都是人工智能，但事实并非如此。今天的咖啡机是一台自动机器。你按一个按钮，它就会按照预先设定的程序为你准备一份浓缩咖啡。设计和制造咖啡机的工程师设计了制作浓缩咖啡的程序。当你按下按钮时，机器就会服从你，只需按照所有这些步骤操作，然后你就得到了。这不是人工智能。这只是一台自动机器。咖啡机变成人工智能咖啡机，如果当你早上走近机器，甚至在你按下任何按钮之前，机器就对你说，它会和你说话，告诉你，嘿，我过去几周一直在观察你，根据我学到的关于你的一切，根据一天中的时间，根据你的面部表情，根据你的行走方式，我认为你会喜欢一份浓缩咖啡，而且我如此确定我猜对了，我甚至没有等你按下按钮，我就为你准备了浓缩咖啡。给你。这是一台人工智能咖啡机，因为它自己学到了东西，自己做出了决定，它真的变成了一台人工智能咖啡机。如果第二天早上你来的时候，机器对你说，你知道，我一直在思考，我现在发明了一种新的饮料。我称之为“最佳浓缩咖啡”。它比浓缩咖啡更好。根据我对你的一切了解，我认为你会更喜欢它。我给你做了一杯。你让我很害怕。现在你只问咖啡机。我现在害怕我家的咖啡机。它会在我家里变成一个怪物。>> 再次，你可以从不同的角度来看待它。有些人会欣赏>> 是的>> 有些东西也许能做出好的决定和好的发明。它可以再次走向积极或消极的潜力，就像刀一样，可以切沙拉，但也可以切人。人工智能可以发明药物。它可以发明饮料。它可以发明武器。真正关键的是要理解，它不再等待我们的命令。它是一个独立的代理，可以自己做决定，自己产生想法。而且这样的机器不止一台。有数百万台。这就像一次移民潮，不是人类移民，而是一股外来物种的移民潮，现在必须被吸收到人类社会中。我认为世界上每个国家在未来两到五年内将面临的一些最大问题是，作为一个社会，我们是否开始承认人工智能是法律上所知的“法人”。这是法律中的一个概念。>> 法人是指能够开设银行账户、雇佣人员、起诉你、游说政客的人或事物。现在你会认为只有人类才能做这些事情，但根据许多国家的法律，我不确定巴西，但比如在美国，公司就是法人，微软、谷歌都被视为法人，这意味着谷歌可以开设银行账户，谷歌可以起诉你，可以向政客捐款。直到今天，这一切都只是某种虚构的幻想，因为谷歌实际上无法决定任何事情。谷歌的所有决定都是由某个人类，一个人类经理、一个人类工程师、一个人类律师做出的，他们做出了谷歌所做的所有决定。现在人工智能可以开始做出这些决定了。它们完全有能力做出决定。所以每个国家都需要问自己，我是否允许人工智能开设银行账户？而这些人工智能可能不属于任何人。想象一下，有一个人工智能拥有银行账户，为人们工作，设计东西，做事情，也许在股票市场上投资，并且能够做得比你和我更好。也许它会成为这个国家最富有的人。所以这个国家最富有的人不是人类，而是人工智能。也许它会向政客捐款，以换取这些政客为人工智能争取更多权利。这听起来可能像科幻场景，>> 但这是一个实际问题，需要尽快决定，我们是否允许人工智能拥有公司、银行账户和社交媒体账户。你知道，在社交媒体上，即使是今天，人工智能也像人一样行事。你可能会收到某人的消息，你认为是一个人类发送的消息，实际上是一个机器人，但你认为我们应该监管它，我们绝对需要监管它，我们需要非常仔细地考虑它，因为这再次，这将是一个巨大的社会和政治变革。我们在社交媒体上看到了允许人工智能和算法冒充人类的潜在危害。社交媒体上的许多仇恨和愤怒实际上是由机器人造成的，而不是由人类造成的。人类受到它的影响，但传播它的却是机器人和算法。现在，我们可以作为一个社会决定禁止机器人冒充人类。有些人可能会说这违反了言论自由，但机器人没有言论自由。所以，这再次是一个实际问题，需要社会来解决。你想允许人工智能拥有自己的社交媒体账户，拥有自己的银行账户吗？从我的角度来看，我们将面临一个巨大的挑战，那就是选举。我们明年在巴西有选举，我们没有规定，我们没有关于如何以及在多大程度上可以使用人工智能来制作内容（无论是好的还是坏的）的规则。所以对我来说，政治就是关于真实生活。你如何让真实生活变得更好。所以，如果你能创造一个不真实现实，我不能在竞选活动中使用它，我不能作为政府的广告工具，因为它将非常危险。但这将在明年在美国、巴西，全世界发生。你有民主制度，你可以在人工智能竞选活动中看到危险。你也看到了危险吗？我认为这比巴西或美国的下一次选举，或者总的来说的选举要大得多。我们即将进入一个内容生产越来越多地由非人类智能完成的世界。直到最近几年，我们才习惯了算法传播我们生产的内容。所以，有人写了一个故事，无论是真实新闻还是假新闻，但写故事的是人类，然后是机器人和算法传播它。现在，我们即将进入一个新世界，内容最初是由非人类智能创造的。你知道，人类已经创作了数千年的内容，故事、图像、戏剧、电视节目。现在人工智能将在短短几年内消化所有这些内容，然后开始创造自己的新内容，新的书籍、新的故事、新的图像、新的诗歌、新的艺术品，都来自非人类智能。在生活在人类创造的世界里数千年之后，人们，尤其是那些出生在这个世界上的孩子。他们在一个被非人类想象力的产物包围的世界里长大。我不是说这是一个噩梦或一部分，它是好的。暂时忘掉好与坏。只是试着理解我们作为一个社会所面临的变革的巨大规模，就像我们几千年来习惯于生活在人类文化中一样。你知道，就像蜜蜂生活在蜂巢里一样。人类生活在文化中。直到今天，一切都只来自人类的思想。所以你可以遇到一种外国文化。你可以去中国旅行。你可以去俄罗斯旅行。你可以去美国旅行，体验不同的人类文化。但在很短的时间内，我们都将越来越多地生活在一个外来文化中，一个真正外来的文化。不是来自不同国家的人类创造的东西，而是由非人类智能创造的东西，这种智能不受我们生物想象力的限制。如果你看看人类过去 5000 年的文学作品。有很多变化，但也有这些限制，因为我们最终都有相同的大脑。所以我们都有相同的基本想象力。人工智能不受人类想象力的限制。我们在其他领域也看到了这一点，比如一个早期著名的例子是在游戏中。>> 在 2016 年，有一个非常著名的围棋比赛。围棋是一种策略棋盘游戏，发明于古代中国，东亚人民玩了近 3000 年。它是东亚文化的重要组成部分，数千万甚至数亿人玩了几千年。人们认为他们已经发现了所有下围棋的不同方式。>> 有这种学派，那种学派如何下围棋。然后，在 2016 年，一个名为 AlphaGo 的人工智能被创造出来，它在学习围棋几天后就击败了世界冠军。但真正令人惊奇的不是它击败了世界冠军。它以一种极其富有想象力的方式下棋，这让专家们震惊。当专家们第一次观察 AlphaGo 和李世石（韩国世界冠军的名字）之间的比赛时，他们认为 AlphaGo 会输，因为它下棋的方式非常愚蠢。但事实证明它并不愚蠢。它只是极其有创造力和想象力。它发明了许多技巧，而玩了 3000 年围棋的数亿人中，没有人想过要这样下棋，因为我们的大脑、我们的思想是有限的。你可以想象一下，就像一个围棋的世界，就像所有不同的下围棋的方式。在 3000 年里，人类被困在这个世界的一个小岛上，认为这个小岛就是整个世界。这些是下围棋的唯一方式。然后人工智能出现了，并在几天内发现了这个围棋世界的新大陆。这很可能在越来越多的游戏中发生，也可能在艺术、音乐、诗歌、科学、宗教中发生。无论好坏，暂时抛开，只是为了理解我们所处的历史时刻，就是那种数千年来限制我们思考、限制我们想象的方式正在被推开，因为人工智能正在发展新的思考和想象方式。而国家会发生什么？想想巴西。你来过这里几次，我们无法解决我们面临的基本问题，比如不平等、城市暴力以及我们仍然面临的许多重大挑战。所以，我们该怎么办？好吧，我们不会考虑巴西的人工智能，因为我们需要先解决问题。>> 有一个棘手的平衡关于优先事项。我想让你谈谈，因为你谈到了这一点。好吧，如果你认为它不会到来，你就会>> 它无处不在。我的意思是，我们现在生活在一个全球化的世界，一个全球经济，一个全球信息网络。>> 这不会是一场只在美国或中国发生的革命。它将非常非常迅速地来到世界各地。有点像，让我们说现在是 19 世纪初，我们生活在南非的祖鲁帝国，我告诉你，看，在英国，他们刚刚发明了蒸汽机，他们有火车和蒸汽船之类的东西。你说，是的，这很有趣，但我们在祖鲁帝国，我们有更紧迫的问题要处理。我们有贫困，我们有这个，我们有那个。我们不关心，让英国人处理他们的蒸汽机。几年之内，你就成了英国的殖民地，因为英国的蒸汽机、英国的蒸汽船，他们带着火车和机关枪以及他们的新技术来了，并征服了你。所以人工智能不会只留在硅谷。它已经在这里了。它已经在智能手机上了。如果你问，你知道，你谈到了巴西的选举，巴西的公共领域，就像世界上几乎所有国家一样，都依赖于这项技术，而技术的任何变化都会改变社会，改变民主制度。如果你考虑经济，如果人工智能使在美国生产纺织品比在拉丁美洲更便宜，这将对拉丁美洲的所有纺织业产生巨大影响。所以，无论是就业市场、政治还是军事，一旦你拥有全自动武器，比如人工智能无人机或由人工智能控制的数千架无人机蜂群，这可能会在一年或两年内让世界上所有军队都过时。所以这不是你可以说我们有更多的问题。我的意思是，当然还有其他问题，从不平等和贫困到气候变化和生态危机，但人工智能将对所有这些问题产生好坏影响。但让我害怕的是，好吧，这是自工业革命以来最大的变革，但从工业革命到现在，直到我们拥有稳定的地缘政治，我们需要两次世界大战才能让世界理解全球链条和所有这些东西。所以，如果这是自工业革命以来最大的技术革命，我担心接下来会发生什么。>> 是的，我的意思是，当我们比较人工智能革命和工业革命时，我认为这是一个重要的教训，因为当我们谈论人工智能的威胁时，硅谷的许多人会说，你知道，当工业革命开始时，人们发明了蒸汽机和火车等等，你会有所有这些可怕的设想，这会破坏就业市场。这会产生问题，但看看世界变得好多了。如果你看看 1800 年的世界和 2000 年的世界，你会发现几乎所有东西都得到了改善。人们活得更长，他们更健康，他们有更多的食物。太棒了。在很大程度上，这是真的。如果你只看 1800 年和 2000 年，你会看到进步。但在历史上，问题往往不是目的地。问题是通往目的地的道路。如果你看看 1800 年到 2000 年的历史，它并不是这样走的。它是这样走的。在通往 2000 年的道路上，你经历了很多灾难，因为人类不知道如何建立工业社会。历史上根本没有先例。如何建立这个？我们习惯于农业社会，人们从事农业。如何建立一个基于蒸汽机、火车、电报，以及后来的汽车和飞机的社会？所以人们有一个想法，我们需要建立一个帝国。19 世纪的许多人认为，建立工业社会的唯一方法就是建立一个帝国，因为工业社会需要大量的原材料，煤炭、铁、橡胶等等。它们需要工业产品的市场。所以，如果你想建立一个工业社会，你必须征服殖民地，建立一个帝国。于是我们有了现代欧洲帝国主义，比如欧洲征服了整个非洲和世界大部分地区。然后人们有一个想法，建立工业社会的唯一方法就是建立极权主义政权。在 20 世纪初，许多人认为工业的力量只能由一个极权主义政权来控制和利用，这个政权将控制经济、社会、政治、文化，一切。于是你就有了苏联和共产主义。你有了纳粹德国和法西斯意大利。这是一种非常普遍的思维方式。现在回过头来看，我们会说，“哦，这些都是大错特错。”你不需要建立一个帝国来拥有一个工业社会。你不需要极权主义。最好是建立一个自由民主制度。但人类必须经历两个世纪的灾难性战争、革命和危机，才能学会如何建立良好的工业社会。>> 所以我们需要反弹。>> 是的。如果我们必须经历同样的学习周期，那将是非常非常糟糕的消息。我们负担不起另一轮世界大战、人工智能帝国和极权主义政权来学习如何建立良好的人工智能社会。这真是令人难以置信。不，但我在听你说话时，我将它与全球经济联系起来。>> 因为……这不是科幻小说，你说的不是即将发生的事情，而是明天就会发生的事情。特别是美国现在正在大力押注人工智能将在未来五年内改变世界。>> 你认为世界现在正在承担巨大的风险吗？在如此短的时间内，可能会有什么危险和后果？也许我们正面临着像本世纪初互联网泡沫那样的局面？当你看到巨额资金，你谈论的是数千亿，甚至数万亿美元被投入到人工智能竞赛中。能源消耗，你知道，他们在建造核反应堆。他们正在重启煤炭发电来为人工智能竞赛提供燃料。这只是巨大的资源。目前的美国股市基本上是一个围绕人工智能的巨大赌注。>> 人工智能将改变世界。他们将在两到五年内达到超级智能，或者有时被称为通用人工智能 AGI。我不知道会发生什么。>> 问题是，市场没有耐心。就像你提到的 2000 年的互联网泡沫一样，你在 20 世纪 90 年代对互联网抱有巨大的期望，这些期望最终被证明是完全正确的。就像人们在 1998 年、1999 年对互联网的未来世界的所有惊人设想都实现了。甚至更多。但市场仍在 2000 年崩溃，因为它没有足够快地实现，而市场非常没有耐心。现在我认为今天人们对人工智能的大部分期望基本上是正确的，但它是否会在未来两三年内实现，这是一个巨大的赌注，如果失败了，我们可能会看到比 2000 年的互联网泡沫，甚至比 2007-2008 年的金融危机更大的金融崩溃。或者，另一种有趣的场景是，人工智能本身将导致崩溃。因为随着人工智能的发展，它们可能会被赋予，就像我们之前提到的，在金融领域越来越多的代理权。比如人工智能将被允许开设银行账户，在市场上进行投资，发明新的金融工具。如果你想想 2007-2008 年的金融危机，它是由一种名为 CDO（抵押债务凭证）的金融工具引发的。一种非常复杂的金融工具，由华尔街的一些金融大师发明，几乎没有人理解它的工作原理，因此没有得到适当的监管。几年里，这些 CDO 赚取了数十亿美元，每个人都很高兴。>> 然后它崩溃了，并导致整个市场崩溃。现在今天，或者也许在五年后，如果我们允许人工智能不仅投资股市，还发明新的金融工具，这些工具可能会如此复杂，以至于地球上没有人理解这些新工具。在几年里，一切看起来都很美好，这要归功于人工智能发明的新金融工具和策略。一些人或一些公司赚取了数十亿甚至数万亿美元，然后有一天市场崩溃了。市场崩溃了，地球上没有人理解发生了什么，因为人工智能创造了一个人类无法理解的金融体系。即使是今天，我认为可以公平地说，地球上 99% 的人都不理解金融体系。也许 1% 的人能理解。五年后，理解金融体系的人数可能会为零，因为如果它被人工智能接管，它们可能会创造出我们无法理解的金融体系，就像马无法理解金钱或我们的金融体系一样。所以这是另一个问题，一个实际问题，留给政治家、选民、监管机构。你想允许人工智能成为金融代理，而不仅仅是投资金钱和开设银行账户，而是发明和创造新的金融工具吗？这听起来几乎像一个科幻问题，但这是一个完全实际的问题，我们将在未来两三年内需要解决。你因为你的想法和你的书而受到全世界的关注。你与全球各地许多人交谈。所以你对现在发生的事情有一个非常独特的视角。正如你所说，一切都在改变。我们工作、学习、教学、谈判、发明、协作的方式。甚至你刚才说的战争也在改变。代码正在被编程。我的担忧，我问你的是，>> 如果有任何一个时刻，世界需要最优秀、最聪明的人才，那就是现在。但感觉不是这样。那些编写这些代码的人，是的，那些领导人工智能革命的技术巨头们，他们不是所有人，但许多人都在以一种与地球上大多数人非常不同的方式思考。人们有时会想，“哦，这些技术巨头，他们想要钱。他们想要权力。他们想要比金钱或权力更宏伟的东西。>> 他们想改变生命演化甚至宇宙演化的进程。就像在他们中的一些人心中，未来，数百万年，数十亿年后，当他们写宇宙历史时，它将是这样的：好吧，1400 万年前的大爆炸，对不起，140 亿年前。100 亿年后，地球上生命的出现。到目前为止，我们所知的宇宙中唯一的生命。40 亿年后，埃隆·马斯克和人工智能的开始。这就是他们的时间表。>> 他的时间表是真实生命的时间。>> 而且，关键在于，这并非完全是幻想，因为如果你考虑宇宙生命的发展轨迹。所以你可以说，是的，自地球上有机生命出现以来的 40 亿年里，所有生命或多或少都是相同的。它是有机的。所以你有变形虫，你有恐龙，你有香蕉，你有人类。但这一切都只是有机生命，而且只局限于这个星球，因为有机生命很难从地球传播到宇宙的其他地方。>> 一个人在火星或太空中旅行时很难保持生命。人工智能的一种理解方式就是非有机生命，非有机生命，它遵循与有机生命完全不同的原则，比如我们，而且它可以很容易地在太空中和其他行星上维持。如果你考虑用智人，用人类殖民火星，非常困难。但用人工智能殖民火星，要容易得多。所以，认为宇宙生命的历程可能就是这样的，这并非完全疯狂的想法。对于许多领导人工智能竞赛的人来说，这就是他们在思考的。他们不考虑下一次选举，或者赚取十亿美元或一千亿美元。美元算不了什么。美元只是我们脑海中的想象。他们正在考虑创造全新的思维，非有机智能，例如可以像我们一样在宇宙中传播。>> 抛开好坏的问题，再次只是理解我们可能面临的变革的规模。以某种方式，这是我们可以感受到的，我们每个人都可以在生活中感受到有机生命和无机生命、非有机生命之间的日益增长的紧张关系。有机生命，比如我们，以及恐龙和香蕉。所有有机生命的共同点是，我们按照周期生活。白天和黑夜，生长和衰败，活动和休息。有机生命是周期性的。非有机生命，人工智能，它们不是按照这些周期工作的。它们不在乎白天还是黑夜，夏天还是冬天。它们从不需要休息。它们从不需要睡觉。而我们所有人都遇到这种新的非有机生命的一种方式是，我们越来越有压力要一直保持在线。再次，生物体有时在线，有时离线。如果你试图让一个生物体，一个动物一直保持活跃，它最终会崩溃并死亡。但算法、人工智能可以一直保持活跃。在人工智能进入并开始主导的每一个生活领域，人类都面临着要一直保持活跃的压力。就像我提到的股票市场。所以，传统上，华尔街的股票市场只在周一至周五上午 9:30 至下午 4:00 开放。晚上、周末、节假日，比如圣诞节，华尔街是离线的，因为人类银行家和投资者也是有机生物。他们需要睡觉。他们想去度假。他们想花时间陪伴家人。随着人工智能接管金融领域，银行家、投资者等的压力是全天候待命。市场现在可以一年 360 天，每天 24 小时运行。如果你想去度假，或者你想睡觉，你就会被落下。媒体也发生了同样的事情。新闻的周期现在是全天候的。政客也一样。政治现在是全天候的。如果你想去度假，你就会被落下。所以，我们每个人都在某种程度上遇到了从有机到非有机过渡的经历，那就是要一直保持活跃的压力，这对人类的福祉是破坏性的。>> 你提到了技术巨头，你提到了埃隆·马斯克，所以我想提一下比尔·盖茨。本周，比尔·盖茨发表了一篇文章，引发了许多解读。他基本上说，他正在将部分重点从气候解决方案转移开，认为像全球南方的不平等和贫困等问题现在需要更紧迫的关注。>> 你如何解读这种立场的变化？它与人工智能有关吗？它与事物的时限有关吗？我想听听你的看法。>> 我无法进入他的思想，所以我不太确定。一种解释是，盖茨基本上在告诉人们，我们成功了，因为投资……我的意思是，他绝对不像一些媒体报道的那样，他绝对没有说，“哦，我们犯了一个大错误，所有对气候和生态的关注从一开始就是个大错误。”这绝对不是他说的。一种解释是，他说，你看，我们过去几十年所做的努力已经得到了回报，我们现在正走在一条正确的轨道上，仍然存在危险和问题，但最糟糕的设想现在已经避免了，因此气候问题可以成为政治和经济优先事项。它可以在列表中靠后，很大程度上是因为在看到灾难性气候事件的潜力之前还需要很长时间，而其他事情则更为紧迫。所以这是一种解释，基本上是在说，嘿，我们在某种程度上成功了。另一种解释与人工智能有关。>> 基本上，微软当然是……

在人工智能竞赛中，领先的参与者之一基本上表示，现在除了人工智能竞赛之外，其他一切都不重要了，因为它发展得如此之快，而且关系到如此重大的利益。如果押注人工智能成功，如果我们能在未来五年内创造出超级智能人工智能，并且它不会失控并摧毁我们，而是实际帮助我们，那么这个人工智能将解决我们不知道如何解决的所有问题，例如气候变化。所以我们不需要担心气候变化。我们只需要解决超级智能人工智能的问题，如果它失控，人工智能摧毁了人类文明，那么我们就不需要担心气候变化，因为我们就不存在了。所以，无论你怎么看，这又是一种解读方式。唯一重要的是人工智能竞赛，因为它将在未来五年或十年内拯救我们或摧毁我们。因此，担心三十年后的气候灾难正在变得无关紧要。

>> 你还有大约十分钟，我妻子在这里。所以如果我不和你谈论冥想，我今晚就不能在家睡觉了。所以，这是一个很好的说法，因为我认为船不会因为周围的水而沉没。它沉没是因为水进入了船内。而你告诉我们和在这里分享的一切，都直接影响着我们许多人的心理健康。我们花多少时间在网上，为孩子，为年轻人，为所有人。我很好奇你是否可以分享你的冥想经历。我认为有一点会触动我们所有人，那就是你为什么喜欢看足球比赛。

>> 好的。

>> 这是个好问题。

>> 那么，有几件事。首先，也许是为了连接到我们最后谈论的话题。许多科技巨头和亿万富翁也在为末日的可能性做准备，一切都出错，他们正在建造末日地堡，当他们释放的末日失控时，他们将在那里躲藏。讨论最热门的话题之一是哪里建造末日地堡，在新西兰，在阿拉斯加，在蒙大拿。哪里是最好的地方？我认为建造你地堡的最佳地点是在你的脑海里。因为我们现在看到的威胁，比如两极分化，日益增长的仇恨和极端主义，以及人工智能将产生的威胁，它们可以到达任何地方，新西兰，阿拉斯加。物理距离不再重要。问题是如何保护你的思想免受操纵，如何保护你的思想免受攻击，如何保护你的思想免受持续在线、持续活跃的要求。这也是我练习冥想的一个重要原因。是为了加强我的思想，使其能够应对，没有人知道人工智能革命将如何发展，它将如何与气候变化以及正在发生的其他一切互动。但前方将是一条非常颠簸的道路。将会有很多冲击，再次，我不知道，当人们问我应该学什么，应该学什么才能在五年、十年后拥有必要的技能时，没有人真正知道。但我知道人们将需要一个强大而平衡的心灵来应对这些动荡。而关于加强你的心灵，这是你无法委托给别人的事情。你不能请助手来为你加强心灵。你不能用钱来解决问题。你需要时间。你投入得越多，你就会看到越多的结果。对我来说，关键的事情，那个作为冥想基础的问题是，什么是现实？什么是真实的？如何区分现实与虚构和幻想？我们现在被所有这些算法和机器人创造的巨大幻想和虚构浪潮所淹没，而这一切只会变得更糟，我们自己的心灵就像一个制造幻想和虚构的工厂。我们很难看到现实，不仅是世界的现实，还有我们人际关系的现实，我们自己生活的现实，因为在我们和现实之间，是我们不断在脑海中产生的这些故事。冥想的本质就是放下所有的故事，所有的虚构，所有的幻想，并培养一种能力，能够看到现在真正发生的事情。并且不急于评判它，不急于说它是好的，它是坏的，我喜欢它，我不喜欢它。首先，只是理解发生了什么。你知道，冥想的第一个练习，至少在我开始的时候，是关于观察呼吸进出鼻孔的感觉，就像我25年前参加我的第一个冥想课程一样。我得到的第一个指示是坐下，闭上眼睛，将所有注意力集中在感受呼吸进出鼻孔的感觉上。我以为这很容易。但几秒钟后，我意识到这是世界上最难的事情之一。就像我试图专注于呼吸进出，而我的思绪却不断地飘向某个幻想，某个故事，某个记忆。你知道，如果你找一个普通人，告诉他们，如果你能坐着一动不动一个小时，我给你一百万美元。即使这个人没有瑜伽或冥想的经验，他们也能强迫自己坐着不动。他们可以强迫自己闭上眼睛，双腿不动。一百万美元，这很多。但如果你找同一个人，告诉他们，我给你一百万美元，如果你的思绪能保持静止，不是一个小时，忘了小时，十分钟，一分钟。不可能。每个人，即使从未冥想过，也许也从经验中知道这一点。就像你晚上睡觉，也许明天有重要的考试或重要的演讲，你对自己说，我需要好好睡一觉。我需要睡。突然，所有的想法和担忧都涌上心头，你试图让想法消失。我需要睡觉。而你做不到，因为我们对自己的思想控制得太少了。所以，这就是我在第一次冥想经历中发现的，这个看似简单的指示，只是感受呼吸进出你的鼻子。这就是现实。还有什么比感受你的呼吸更真实的呢？如果你不呼吸，你就会死。然而，却如此困难。现在，如果我无法观察呼吸进出鼻孔的现实，我怎么能希望理解以色列巴勒斯坦冲突的现实，全球经济系统的现实，人工智能革命的现实呢？所以对我来说，冥想是一种日常练习，教导心灵保持静止，只是观察现实，而不逃向某个幻想，某个虚构，某个记忆。

>> 和足球。

>> 哦，是的，足球。

>> 结束足球。这是一个很好的结束点，你知道，随着世界加速发展，我认为良好的心理健康的一个衡量标准是足球，当然也包括踢足球，但观看足球，因为足球的有趣之处在于，你知道，你看一场比赛90分钟，大多数时候都没有进球。大部分发生的事情都在中间。如果你像一个计算机科学工程师一样，从事这种优化人工智能的工作，你可能会想，嘿，我可以优化观看足球的体验。我只需要看精彩集锦。就像一场90分钟的比赛有两个进球，我只需要看那两个进球，只看30秒。但如果你这样做，你就错过了整个过程。就像真正的体验是观看完整的90分钟。即使最后是0比0，也仍然值得。而能够保持这种长篇的观看，能够留在足球的现实中，而不只是奔向进球。我认为这对于我们人类的心理健康来说，有着非常深刻的意义。我们能够坚持过程。我们不仅仅是痴迷于进球。非常感谢。谢谢。谢谢。太棒了。谢谢。