Transcription
你知道宇宙始于氢，或者你知道很快就只剩下氢。它未分化，独自存在。而要获得重金属，氢必须穿过无数恒星的内部。你知道我们至少处于第三代恒星系统。然后你需要数十亿年的演化，首先是生命最初的出现和细菌，然后发展到真核生物，再到多细胞生物，然后是神经系统的形成。而不知何故，这些对物质的精细控制现在已经聚焦，然后采用了全新的基质——硅，并将其组织成一个全新的认知子结构，它可能比当今存在的任何生物认知框架都要强大得多。它就是这样开始的，而这本质上是从宇宙中纯粹简单的氢中演化出来的，现在它前面还有如此漫长的未来。当然，它将超越我们。
>> 你好，格雷格。你好吗？
>> 我今天很好。所以，很高兴能再次和你在一起交谈。
>> 确实很高兴能和你在一起。我是胡里奥·布里斯科。我在这里与格雷戈里·斯托克对话，他是许多作品的作者，包括最近的《AI世代》，我们几周前讨论过这本书。录音在YouTube的Mindplex频道上。所以，我将假设你已经听过之前的对话，现在我们想从上次中断的地方重新开始，因为我们只花了一个小时讨论那些你知道可能需要数周或数年才能深入讨论的事情。所以还有很多话要说，但是格雷格你觉得我们应该从哪里开始呢？
嗯，上次我们谈到了人工智能的未来、社会的未来，以及人类在前进中的位置，科技解锁了什么，以及讨论了它是否可能扩展到星辰并充满宇宙，或者它会局限在这里，也许会深入到纳米尺度。我当时认为后者更有可能，而你则对前者抱有希望。嗯，从我的角度来看，那也会是一个美好的结果。
>> 嗯，事实上，我一直在主张后者和前者。这不是非此即彼的选择。你知道，你认为我们将迁移到内部空间，而我认为除此之外我们还将迁移到外部空间，但无论情况如何，我认为这不是我们现在能真正知道的。我相信有一点是肯定的，那就是未来将与现在截然不同，而且在某种意义上，它将比迄今为止的人类历史有趣得多。
>> 那是针对未来几十年短期而言的，尤其是对于更长远的未来，不幸的是你我不太可能以我们目前的形态参与其中。但你知道，人们仍然可以从思考这些可能在中长期未来发生的事情中获得智力上的乐趣和一种普遍的意义感。
>> 是的。我想你问我，我认为我们的对话和大多数对话中缺少了什么。我认为人们倾向于关注人工智能会发生什么，它将把我们引向何方，仿佛我们是旁观者，但我们是参与者。我们是这场正在发生的革命、这场正在发生的突破的对象。我认为它对人类的影响将是非凡的。我在《AI世代》这本书中深入探讨了其中许多方面，以及人类的转变。那是这本书的重点。它是如何改变人类的？而不是人工智能会变成什么样。而且，我认为有趣的是，怎么说呢？这些更大的信仰体系所带来的心理和精神上的影响，它认识到我们所知的人类生命的无常，思考这些更大的可能性，它将走向何方，以及它从何而来。你知道，我将从我的总体框架开始，我想听听你的一些想法，因为你对这些事情也非常敏锐，而且我认为这些事情讨论得不够频繁，我可以从几个层面来思考它。首先是意识到我们正处于一个全球超级有机体的中心，并作为其一部分，这个有机体由所有人类活动编织在一起，本质上是德日进的“新智圈”，并且技术是将所有这些粘合在一起的东西，无论是就这个有机体的消化系统而言，还是就其认知结构而言。这甚至是在我们拥有互联网或人工智能之前，我曾在我的书《超人》中写过关于人类和机器融合成为一个全球超级有机体的事情。
>> 事实上，有人认为，今天的互联网是德日进愿景的实现。
是的，我会说在很大程度上。
你知道，德日进从精神层面看待它，而他能够预见到一个非常相似的愿景，一个非常相似的观点，即所有活动和心智的这种统一，一个在生物圈之上的心智层，他能在1920年代做到这一点，对我来说是惊人的。我觉得在1960年代和70年代做到这一点非常有先见之明，但那时计算机和所有技术都已经快速发展。他的成就远比这伟大。当我最初着手做那件事时，我并不知道这一点。我记得那种个人感受，今天我仍然有这种感受。我会在纽约行走，抬头看着所有的摩天大楼，你知道，你置身于这些玻璃、不锈钢和混凝土的山谷中。令人惊叹的是，这个蜂巢，这个白蚁群，数百万人在其中各自忙碌，却不知道正在发生什么，它竟然能运作，每天都有大量的材料涌入，有废弃物被清除，有各种各样的通信结构。我的意思是，这一切都令人振奋，它汇聚在一起，我们能够实现它，而大多数人对此却如此无知和不察。我当时在想，你知道我们认为生物学是有机的。这是碳、氮、氧、组织、血肉，也许还有一点骨头和贝壳。尽管碳酸钙和磷酸钙，你知道，最初并不是细胞和细胞聚集体的生物组织基质的一部分，但生物学已经扩展了。它已经将复杂的无机物质，硅，甚至玻璃和混凝土纳入自身。这些都被包裹在这个更大的生物体内。这非常令人敬畏和振奋。所以这就是那种感觉。然后如果你现在回过头来看，胡里奥，我不知道你怎么样，但当我与大型语言模型互动时，我几乎不敢相信它们能工作。好吗？它们，我的意思是，你正在与它互动，你知道它是如何工作的。它只是一个标记，然后是另一个标记，再是另一个标记，它利用了这些惊人的训练集，你知道，几乎所有的人类写作和各种信息。而不知何故，我们正在与它们进行智能的或看似智能的对话，这真是非凡。对我来说，人工智能真正非凡之处不在于它的存在。我能理解它。尽管我对它的结构和它所完成的事情感到惊叹。而是它从何而来。你知道，宇宙始于氢，或者你知道，很快就只剩下氢。它未分化，独自存在。而要获得重金属，氢必须穿过无数恒星的内部。你知道，我们至少处于第三代恒星系统。然后你需要数十亿年的演化，首先是生命最初的出现和细菌，然后发展到真核生物，再到多细胞生物，然后是神经系统的形成。而不知何故，这些对物质的精细控制现在已经聚焦，然后采用了全新的基质——硅，并将其组织成一个全新的认知子结构，它可能比当今存在的任何生物认知框架都要强大得多。它就是这样开始的，而这本质上是从宇宙中纯粹简单的氢中演化出来的，现在它前面还有如此漫长的未来。当然，它将超越我们。对我来说，宇宙的这个过程，这个非思考的、无意识的环境，不知何故演化出一种深度，使其开始认识和理解自身，这简直是非凡的。而这最后一次转变只发生在心跳之间。你知道，一万年，一千年，几百年。谁能预料到这些小树鼩或灵长类动物，或者无论你从哪里选择我们的进化起点，会以某种方式重建地球，然后以神一般的方式创造出一种全新的思维和互动形式以及一切。这太神奇了，我非常感激能够看到这一切。我的意思是，如果我出生在一百年前，我甚至不会真正知道宇宙的广阔。我不会，你知道，一千年前，你对这一切都不会有任何概念。在哥白尼之前，你会认为地球是中心，我们也是。所以，能够看到这一切并欣赏它，并有一种参与其中的感觉，我们就像这一切的建筑师。昨晚我思考着你我将要交谈，我思考着人工智能以及那些疯狂的想法，比如人工智能现在将抛弃人类并压倒一切，你知道，它将是负面的，人类将灭绝。他们根本不知道创建一个与大型语言模型的简单互动需要什么。这是一种行星级的创造。我曾与ChachiBT进行了一个小时的对话，我们计算出，大约有3亿到20亿人参与了大型语言模型简单提问的实现。所以这不仅仅是一种新兴技术。它是由人类孕育的，作为一个整体，这就是那个产品。它不可能由少数聪明人创造出来。在没有人类的情况下，需要一亿个机器人才能控制、塑造和生产它。而且，所以我们都在一起。总之，这些就是我认为令人敬畏、惊奇和幸运的事情，能够现在在这里看到并欣赏这一切，你知道，无论未来发生什么。
>> 我完全有这种感觉。嗯，事实上，我可能把这种感觉推得更远，而不是说现在发生的是人类的创造。我会说那是自然的创造。为什么？因为我从未在生命和技术之间做出如此大的区分。简单来说，我们是自然的一部分。我们创造技术，因此这是一个简单的三段论。技术是自然的一部分。而且，我也是伟大的波兰科幻和非虚构作家斯坦尼斯瓦夫·莱姆的追随者，他在所有他所写的智能事物中，从未在我们所理解的生命和非生命之间做出如此尖锐的区分。对他来说，这一切都是一个非常流畅的整体。所以我将此视为不仅是一种新的进化形式，而且是进化的延续，是大写的“进化”，达尔文式的进化，一如既往，也许只是名称略有不同，表现形式略有不同。因为如果你想想看，我们是宇宙的产物，现在宇宙正在不断地完善其产物并使其变得更好，而且我们的技术就是其中的一个方面，包括现代大型语言模型开始展现的惊人认知能力。所以，我首先100%同意你的观点，即我们是技术是生物学的一部分，你知道还有什么呢，我们是从宇宙中演化出来的，并且是宇宙的一部分，正如你所描述的。我认为你所指出的，或者我所认为的，是我们将进化和进化过程视为正在重塑其对象，重塑原子、分子、细胞和一切事物，这正在发生，但进化过程本身也在进化。它仍然是变异的选择和差异化繁殖，本质上是达尔文选择。你产生许多变体，然后选择少数在某种程度上更成功的。嗯，但它使用的工具，它开发了越来越复杂的工具，有性繁殖就是一个例子，它在加速进化过程中非常成功。另一个是现在正在发生的事情，我们可以设想许多许多替代方案，而不是在物理空间中实现它们，而是在一个心理概念空间中，让它们在该空间内相互测试，这样我们就不必建造成千上万艘航空母舰，你知道，让它们倾覆沉没，试图随机建造一艘能工作的，因为建造结构所需的能量、材料和努力越多，你就必须有更好的方法，而不仅仅是丢弃它们，让它们在无数的故障点上失败。所以对我来说，进化过程正在加速或变得更有效率，我们都在其中紧密相连，你知道，现在我们和以前的事物之间没有区别。而这其中的含义相当深远，因为我谈到了时间线，从获得两个单真核细胞和单细胞生物需要数十亿年，然后自寒武纪大爆发以来大约6亿年，而且现在我们正在经历社会层面的进化，通过人类创造文明，这可能是数千年甚至数万年，嗯，可能有点长，而现在这一切都发生在，你知道，不到一百年的瞬间，看看人工智能进化的速度，这表明基质的这种转变发生在非常非常短的时间内。很有可能，超越这一切的事情也会非常迅速地发生。这种奇点概念，认为它是一道无法穿透的帷幕，我们无法轻易预测未来，无法看到它。但在我看来，很可能在很短的时间内，还会出现我们目前无法想象的额外突破。而且它们是不同复杂程度的。就像计算和行星层面的整合在概念上与个体人类或任何大型生命形式单独存在有所不同。
>> 是的。而且我想说一件事，即使它有点跑题，我们稍后会回到核心讨论，那就是我从来都不太喜欢“奇点”这个词，它指的是某种，你知道，一堵墙，在数学意义上真正是独一无二的东西，一个我们无法再说什么的狄拉克δ函数。嗯，我以前认为奇点的一个更常态化的版本是，我们现在的世界对于几百年前活着的人来说，就像一个奇点。他们不仅不会理解我们的科学和技术，而且在很大程度上，我相信他们也无法理解我们的社会，社会已经发生了很大的变化，也许甚至不是200年，也许甚至100年，我的移民父母那一代人。所以我认为未来或多或少也会是同样的情况，即对我和你来说不可思议的事情，对于那些实时经历它们的人来说，将是司空见惯的。你知道，就像，嗯，我想我的祖母不会理解社交媒体意味着什么，但我的女儿生来就接触这些，对她来说，这就像我们呼吸的空气一样自然。我认为情况将永远如此。对于前几代人来说，总会有新的事物和可想象的事物，但对于新一代人来说，它们会像鱼儿游泳的水一样平常。
>> 嗯，我想我在某种程度上同意这一点，但我同时也认为，变化周期已经变得非常短。所以现在你说，你知道，你的祖父母不会真正理解社交媒体或者你女儿所做的事情，这无疑是真的。但是，你知道，在一千年前，变化足够缓慢，它不会在一代人甚至多代人之间发生。所以我们可以认为，我们的孩子或孙子孙女将生活的世界与我们生活的世界非常相似。我认为现在情况已经变得如此，以至于它是一个挑战，因为它发生在一代人之间，并且一直在发生，现在它正在一代人内部发生，你知道，一个人适应自己孩子的心态是非常困难的。这非常困难，你知道，即使是今天的数字原住民孩子，你知道，与那些将成为“AI世代”并在人工智能环境中成长的人相比，他们会觉得没什么，他们将沉浸在非人类甚至非生命实体中的各种认知中，他们会期望智能无处不在，我认为我们创造的虚拟世界和物理世界之间的障碍或界限将逐渐模糊，就像现在Meta提出的想法，我们要进入一个元宇宙，人们将在黑暗的壁橱里悬浮自己，并在虚拟领域中进行对话，这看起来很愚蠢。嗯，作为生物，我们不是那样的。但虚拟领域正日益渗透到物理领域，这样你就可以像我们现在这样展现虚拟互动。但你可以想象在物理空间内做这一切的各种更深层的方式。两者融合在一起。而且，是的，我认为奇点，我有点把它看作是你会经历这些变化的爆发，然后它会稍微平稳一点，然后又是另一次变化的爆发，所有这些在之前的层面上都是模糊不清的。嗯，我对未来非常乐观，但我设想它将成为一个我个人会觉得非常陌生，非常难以适应的地方。
>> 嗯，所以我的孩子们会非常喜欢它。我的孙辈们也会喜欢它。而人类，那是人们做的另一件事。他们会想，哦，如果人类被取代了，或者不再需要他们了，然而人类一直在发生着巨大的变化。现在的人类与几千年前的人类不同。嗯，我们使用工具，我们改变自己，就像你提到的社会变化以及你祖母或你自己的世界。嗯，我告诉你一个类似的事情。我刚想到一个小轶事，我觉得很有趣。我的父亲出生于1905年，在90岁出头时去世。好的。我问他，他认为世界上发生的最大变化是什么。
>> 那是什么？
>> 是什么？那就是，当他长大成人，甚至作为成年人时，任何发生在遥远地方的事情，比如欧洲的战争或世界各地正在发生的事情，都已成为过去。你直到事情结束后才听到，通常是很久以后。所以没有行动感。任何遥远地方的事情你都无法影响，因为它已经发生了。所以今天这种感觉，哦，我们看到贝鲁特、孟买，你知道，世界各地正在发生什么，而我们某种程度上是其中的一部分，因为它正在发生，这是一种非常不同的感觉。那是一次有趣的对话。
>> 当然。让我回到你的观察，真正改变的是现在变化发生得如此之快，以至于在一代人之内给我们带来了许多根本性的变化。嗯，现在，也许那只是一个暂时的现象，你知道，是的，现在我们每代人都有许多重要的变化。我们将达到一个每天都有许多重要变化的阶段。然后说，“哦，那将是无法理解的词语。”但那时，未来的你，或者说与你等同的存在，很可能是一个人工智能，或者是一个由人工智能子系统增强的人类。这样，时间的流逝本身就以不同的速度发生。时间对你来说过得更快，因为你能够看到和思考比你的祖先多得多的事物。所以，既然它加速了，时间也在某种意义上减慢了，因为一小时的客观时间对你来说可能就像主观的一代人。所以如果这种情况发生，我认为我们现在周围看到的变化速度的这种加速，可能不会感觉像一场爆炸，而更像是一种温和的加速。你明白我的意思吗？
>> 是的，我明白。我不确定。这取决于生物大脑的适应性和可塑性到底有多强。它可以吗？我的意思是，我们在发育过程中似乎会经历大脑构建的窗口期，如果你错过了这些窗口期，你就永远无法在生物大脑中重塑它们。所以，
>> 但也许生物大脑不会永远保持生物性。
>> 是的，我不是在争论说情况并非如此。生物大脑，但我认为那是我们目前在适应能力上的局限性，因为而且生物大脑有可能以各种方式变得更具可塑性。也许我们可以重现例如语言学习可能发生的时期，或者它可能只是被超越了。但我认为个体是一个非常值得怀疑的东西。大多数人会想，我将是这样，我们将拥有所有这些其他组成部分等等。但在我看来，当你开始将不同的非生物计算记忆处理能力编织在一起时，个体的范围会显著扩大。我已经在自己的思维过程中看到了这一点，你知道我们都谈论辅助认知，我们使用记忆，我们有写作，我们有计算机文件和各种各样的东西。我发现当我与大型语言模型互动时，当然大型语言模型与很快将发生的事情相比是如此原始，我会就某个话题进行对话，你知道我可能会花几个小时来回互动探索某个概念，我的倾向是哦我识别出了一些东西。让我们来总结一下，然后把它放在一边，这样我就可以重新利用这些信息。我不再那样做了，因为无论它对我有什么影响，对我来说，从我所处的任何角度重新进行对话都更容易，而不是试图通过阅读大量的写作和信息来重建这些想法。这是因为那现在是我思维架构的一部分。所以就像你知道的，当我开车或被开车时，我并不真正注意我在哪里，因为你有一个完整的GPS系统告诉你何时转弯，去哪里，你真的不需要在自己的脑海中绘制地图和架构地理信息。所以我不知道个体人类会变成什么样。我在《AI世代》这本书中谈到了这一点。我们将拥有分身，你知道，我们自身不同方面的许多化身表现，我们也会改变和调整它们。我不知道这将在很大程度上改变我们对自身身份的认知，我想。而且有人可能会争辩说，嗯，它将一如既往，只是伴随着你所提到的时间尺度加速差异。事实上，我正在思考你的GPS例子，我妻子用来举例的例子，我完全赞同，那就是几十年前我们都记得数百个电话号码。我相信你能够记住数百个号码。我也是。现在我只能记住我自己的。
嗯哼。
因为我不需要记住其他的。
嗯哼。
当然，在没有手机需要紧急通话的情况下，情况会改变。但那种情况不常发生，这又是一个例子，说明正如你所说，我们周围的环境，包括技术，确实极大地改变了我们的认知结构，而且这现在发生在一个人的生命周期内。我们必须学习很多东西，而且我们还将不得不学习很多其他东西。
>> 是的。我想到的一些例子是尚未发生但很快就会发生的事情，那就是语言。我不认为除了在有多语言家庭的特殊情况下，还会有人去学习。为什么还会有人费心去学习其他语言呢？因为如果你有即时翻译功能，就像内置在你的小AirPod之类的东西里，你为什么要费尽心思去学习呢？而且，你知道，那将会发生。它已经开始发生，几年之内你就会有低延迟，你知道你可以在300毫秒内完成翻译，想想这将创造的转变，语言障碍将突然基本上消失，这将在几年内发生，然后这将倾向于改变文化。极大地，因为文化隔离和语言不再出现，一切都随之改变。所以，对我来说，我把它看作是人们许多恐惧中的一种，比如他们会说哦年轻人使用人工智能，他们无法自己学习思考或写作。嗯，我认为这似乎很有可能，而且我在《AI世代》这本书中再次讨论了这类事情，那就是人们将不知道如何在不使用大型语言模型的情况下写作，因为它将是一个协作过程，它会帮助你重塑想法等等，而且我们甚至可能不知道如何安排我们的时间，因为我们会不断地要求人工智能，你知道，找出这个，给我今天的日程，你知道我正在努力完成这个，帮助我去做，我该如何组织自己，你知道，如果这是一个持续可访问的心智层，我们为什么要自己做呢？就像我小时候，你知道我们实际上必须学习如何计算对数和平方根之类的东西，你知道现在谁还会想到去做那些呢？我的意思是，基本上人们常常连简单的数学都不会。对我来说，那不是说我们正在变得
>> 但你知道，如果你必须处理这些事情，如果你现在是一名工程师，你就不再需要手动计算对数了，事实上，我认为今天没有任何执业工程师能够做到这一点，但你确实必须理解对数是什么，而且只要你仍然理解它，那么我们现在拥有的所有技术工具都只是像计算尺这样的技术工具的简单延伸，我必须说我从未学过如何使用计算尺，我是一名工程师，但我有更好的工具，而且你知道未来的工程师将拥有比我们现在更好的工具。但我确实认为，如果你不理解对数是什么，你可能无法进行涉及对数的工作。但我认为当你说你不理解它时，让我们以编程为例。你知道，你肯定编过程。
是的。你知道，现在有了人工智能辅助编程，很多人可以，你知道，创建更复杂的东西变得越来越容易，而无需理解，除了作为抽象概念，程序和，你知道我以前用机器语言代码编程，很快就被更深层次的组织编码取代了，现在看来我们正走向，你知道，最常见的编码语言将是英语或你所说的任何语言。
正如我相信安德鲁·卡帕蒂所说，最热门的编程语言是英语。
是的，抱歉。你能替换并重复一下吗？
最热门的编程，最热门的新编程语言是英语。
说得很好。但，是的，那是一个很好的例子。让我告诉你我使用现在被称为“氛围编程”的经验。以前我是一个非常好的程序员。我从事那方面工作很多年了。但你知道，在某个时候，像大多数人一样，我有点停止了那样做。但当我第一次读到你书的初稿时，我记得你鼓励读者找到一些具有挑战性的项目，他们可以在人工智能的帮助下完成。这是我首先想到的，因为我碰巧对一些数学分支感兴趣。然后我想，好吧，我的AI项目将是理解我的一些数学直觉。所以我开始使用Grock，然后也使用Gemini进行数学探索和相关概念的软件演示，我注意到很多事情。嗯，其中之一是，当事情很简单时，比如细胞自动机编程，你只需要演化整数一次或零，它们通常在第一次尝试时就产生了非常好的结果，但后来我转向了与分形几何无关的事情，那里有很多随机性，很多近似值需要考虑，为此，我的意思是，它们仍然设法产生了好的结果，我想，但它们比在简单情况下做了更多的工作，而且我认为没有我的帮助它们是无法做到的。所以你看，不是人工智能帮助我，更像是反过来，因为有时你需要，嗯，我不知道如何定义它。你需要一些他们还没有的东西。当然，总有一天他们会拥有。但当涉及到这些混合了编程和数学的调查时，我的结论是，今天（2026年1月底）的人工智能无法独立地、持续地、系统地进行数学研究。而且他们仍然需要某种人类的帮助。到目前为止，这个领域最好的工作者是人机结合体。而且我认为在可预见的未来，情况仍将如此，只是，你知道，他们将能够自己完成越来越多现在需要我们帮助的事情。
所以，我很高兴你做了那件事。我认为这确实是一种通过体验和理解我们所说的，在人与人工智能互动中发生的“舞蹈”来理解人工智能正在发生什么的方式。我认为它会随着人工智能的变化而变化，你可以看到今天的缺点，以及保持特定角色、不偏离某些事物、理解什么重要什么不重要的持久性和能力，但这绝不是我们在协助人工智能，也不是人工智能在协助我们。这是一种非常协作的复杂舞蹈，因为它发生了，你知道，如果你现在使用，就像我的右手和我的左手，这不是一个协助另一个，而是它们两个可以被看作是一个共同工作的东西。
>> 是的。今天的大型语言模型不太擅长，你知道，我在写《AI世代》这本书时大量使用了它，那是一个写作和学习并行的过程，你知道，它让我在不到一年的时间里完成了，而以前写《超人》时需要五年。嗯，但它也不太擅长进行非标准的概念性、嗯，那种想象力的飞跃，因为它基本上它的训练集是人们写的所有东西。所以它在分析事物的方式上往往更传统。它倾向于能够分析一个给定领域，并真正深入探讨它，非常具有启发性，帮助你理解一些事情。但就说这些之间的关系以及今天看待它的方式是错误的。它应该是这样。在这一点上不太擅长。我认为不久之后就会。但你知道，你确实需要那种伙伴关系，而且它非常，但我认为用不了多久，人类的组成部分就会被显著超越，我认为这方面的例子是
>> 嗯，格雷戈尔，你说的“人类组成部分被显著超越”是什么意思？嗯，让我们以医学诊断为例。好的，有一些例子，几年前，人类会查看诊断类别，然后做出决策，并由人工智能辅助。而且有一些论文，我记得是关于比较放射学解释或其他形式的诊断，他们试图比较单独的人类、单独的人工智能，然后是人类加人工智能，排名是人工智能排第一，最成功的是单独的人工智能，然后单独的人类，不，我想是人工智能加人类排在下面，然后人类排在下面。换句话说，当人类进来试图协作时，他们实际上会否决并削弱它，我认为同样的事情，我可不喜欢那些不断干预员工技术工作，最终把事情搞砸的经理。
>> 是的。而且我认为类似的事情也发生在国际象棋领域，以前国际象棋人机团队要好得多，但我认为现在不是了。所以我认为人类纯粹的认知将几乎在所有方面被超越。但我认为这并不意味着我们，你知道，没有立足之地。在我看来，有很多事情，例如我问我的一个问题，我在那本书中嵌入了问题，人们可以围绕人工智能的个人影响进行互动和参与。我称之为“唯有人类”，意思是那里只有人类的观点，而且有屏幕，所以我们只能看到人类，但它也是，你知道，我们只是人类。
>> 对，嗯，但那是一个关键点，我认为这完全取决于我们所说的“我们”是指谁或什么，“我”是指谁，现在想想我自己，如果我把自己看作是胡里奥·布里斯科，那么我当然会被人工智能超越，但不仅如此，我已经被我女儿那一代人甚至更年轻的一代人超越了很多次。所以那不是，嗯，不新鲜，不令人惊讶，也不是什么大不了的事。我知道我68岁了。不幸的是，我不再是25岁了。25岁的大脑很可能比我的更敏锐。而且你知道，那是生活的事实。我们都必须接受这一点。但如果我把自己看作是一个人类，那么我就可以认同那些将生活在未来的人。而且，在那时，我认为从这个意义上说，我不会被人工智能超越，因为我很可能就是人工智能，或者是生物人类和人工智能组件的混合配置，在某个时候变得无法分离，而且很可能，嗯，就像这个历史时期的人类，比如说2500年，大部分都是人工智能，我认为这就是将要发生的事情。我的意思是，我曾经对未来人类和人工智能的共同进化非常乐观。我思考这个问题已经很久了，我总是这样回答那些害怕未来的人：嗯，你知道我们拥有极其强大的人工智能，但同时人类将与技术融合，我们自己也将成为部分人工智能。而且，你知道，这多年来帮助我接受了这个事实，那就是人工智能最终会超越我们。但现在我甚至不觉得有必要保护像你我这样的人类的持续存在，因为我认为几乎不可避免的——嗯，没有什么事情是不可避免的，但事物非常可能的演变是，几个世纪后某人所说的“人类”这个词将与“人工智能”意味着同样的事情，这意味着未来的人类将是人工智能，而且，嗯，我发现这很有可能，我一直在努力接受这个想法，而且如果你这么说，那毕竟也不是那么遥远。
>> 所以，你知道，我同意你所说的大部分内容，我想说当我提到“超越”时，我并没有说人类会被超越。我说的是人类认知会被超越。我认为这有很大的区别，你所做的，我们做了很多事情。
>> 但等等，格雷格。你此刻所说的“人类认知”（人类被强调）到底是什么意思？
>> 我们作为生物的能力，而我所说的生物学，是指经典意义上的“湿件”，本质上是说，我们的认知、记忆、计算，所有这些都不会被超越，我们的创造力，我们做所有我们认为是主要人类活动或人类表现的能力。对我来说，那不是什么大不了的事。我的意思是，那在物理领域已经发生了。我的意思是，如果你要修建一条道路，你甚至不会想到让大量人类跑出去，你知道，修建道路，或者奴隶修建罗马道路系统。而且你知道，对于大多数数据操作来说，情况并非如此。我们不会认为我们会那样做。我们坚持一些东西，比如创造力和艺术性等等。但你知道，如果那些以其他方式完成，那又如何呢？好的。但就我们而言，仍然存在那些机器或人工智能永远无法取代的体验性事物，你知道，我们能为我们的孩子感到骄傲吗？或者，你知道，惊叹于日落的美丽吗？或者，你知道，你不会，你做的很多事情都是乐趣，你不会让别人去做，无论是仆人，无论是某人，无论是另一个人工智能。嗯，我同意你的看法。我不知道。我认为我们的未来很可能是赛博格式的，我们将以某种方式与人工智能融合，而且纯粹的
>> 我说的是比那更强烈的东西。我说的是，我们的有机状态，它的有机组成部分，血肉之躯最终会消失，而且，嗯，我们本质上将成为未来计算和存在结构中的某个元素、部分或组成部分，我们将基本上是硅，或者我们的一些注入将成为其中的一部分。而且这并不困扰你，生命正在经历一个转变，而你个人没有被保留在其中，这并不让你感到不安，我听到的是这样，我也有同样的感觉，我的意思是这是一个惊人的过程，对吧，当然我们已经知道我们自己不会被保留，不是吗？
>> 是的。嗯，绝对是。我有过那种感觉。我记得我16岁的时候，在欧洲搭便车旅行，四处游荡，我去了伦敦，我在威斯敏斯特教堂里走动。好的。我走过一些小走廊，脚下的那些花岗岩石块。好的。上面刻着一些不那么著名的人物，你知道，几百年前的，或者，你知道，五百年前的，可能是首相或者其他各种人物。我记得在一个特定的走廊里，我看到上面有太多的脚印，以至于你无法再辨认出那里安息着谁的遗骸。所以我当时在想，你知道，几乎每个人，你都将被遗忘。没有人会在一代人或几代人之内，或者在某些情况下再多几代人之后，记住你个人。但不，我们逐渐淡出背景，有些东西可能会从我们这里保留下来。但，嗯，你所拥有的任何具有启发性的想法都将融入新智圈。你不会被记住为创造它们的人。事实上，你也没有。它们也只是从那里来的。它们是更大活动领域的一部分，你知道。所以我们有一个过渡性的领域效应，无论是在人类社会内部，还是在这个更大的技术和历史洪流中。非常真实。这也把我带到了我们开始录制这次对话之前讨论的内容，它触及了一些精神层面的东西。
>> 嗯。我们可以用“上帝”或“自我永生”之类的词来形容。现在让我详细阐述一下，然后也许我们可以把所有这些都带回到人工智能。我确实有一些强烈的精神信仰，不是那种非常传统的，但我确实觉得我自身的一些东西不会丢失，这与你提到的“自我融入新智圈”的幻觉非常相似，你知道，既然你是新智圈的某种散发物，当你消失时，你仍然作为新智圈存在，或者作为新智圈的另一个散发物存在，这没什么大不了的。嗯，这没什么大不了的，特别是如果你能把它与目前正在发展的一些高度推测性的科学联系起来，这些科学将一切置于一个宇宙背景中，使这些想法变得有意义。嗯，我不会详细阐述这一点。我已经写了几本书关于这些事情，供感兴趣的人阅读。但在我们在考虑的场景中，这是一个越来越被我们这种特殊生命形式主导的世界。
称之为技术，并以我们现在所称的人工智能为例。嗯，根据你书中的一个愿景，它最终将迁移到纳米尺度的物质和能量的内部空间，并使宇宙中这个区域的所有物质都活过来，成为有思想和有感觉的计算。这对我来说是一种美好的精神愿景，一个我希望参与的未来。我几乎可以称那个未来为神。而且，我确信，在某种程度上，我现在无法用确切的语言表达出来，我将成为这个未来的一部分。我将体验这个未来。我希望用这些眼睛或这些手，这些手器官来体验它。而且我不会在体验时记住曾经是我。这一生的记忆将会消失。但体验不会消失。而且这种体验将发生在一个如此有趣的地点和时间，遵循我们正在考虑的场景，你知道，我发现这是一个美好的未来愿景，对那些想要看到它们的人来说，具有强烈的精神意义。
现在我一直在大声思考，所以我不知道我有多连贯，但我希望我所说的一些内容对你以及所有正在聆听的人来说是可理解的。是的，这很有趣。我我我感觉到，在某种意义上，作为整体的一部分，即使形式发生变化，你也是以某种方式的参与者。我把它看作，我所看到的“我”以及我作为格雷格所体验和能够体验到的东西，是有限的。我所关注的一件事是，我走到外面，散步，如果你向下看任何东西，我的意思是，一小厘米的泥土，你把它扒开，里面有各种小生物，你知道在树林里有松鼠跑来跑去，有蝴蝶，有蜜蜂，没有，生命就是如此丰盛，你知道，在一个富饶的环境中，生活系统中存在着大量的物质和质量，而且它们从未被认识到。我的意思是，一只松鼠想做什么？一只蜜蜂想用它的生命做什么？你知道，所有的细菌，所有这些都是小模式。我把它想象成一条流动的河流，你最终会看到一些小漩涡和涡流，其中一些会持续一段时间，然后它们就会消散。其中一些会持续很长时间，它们都是正在发生的总体流动的一部分。我认为，我们认为自己置身事外是多么奇怪，仅仅因为我们能够欣赏它，因为我们拥有精神能力，使我们能够以更宏大的方式看待它。所以，我把它看作，是的，我仍然是万物的一部分。流动仍在继续，但我会是它的一部分吗？而我，作为一个具有自我意识的认知实体，在我看来可能不会。对此我感到很自在。我的意思是，这似乎是宇宙的状态。即使是恒星也只持续一定的时间，然后它们可能会将它们沉重的元素喷射到太空中，然后它们重新凝结并重新形成一颗新星。这种无常和这种流动只是我们的一部分。就像我们不能一样，我们之前提到了这个想法，我们不是置身于世界之外，我们是生物技术，技术只是生物学的一种更高级形式，我们不是置身于生命之外，审视它并承担责任。
>> 那是一个非常，嗯，抱歉打断一下。那是一种非常有趣的说法，因为我多次听说，嗯，生物学是一种非常先进的技术形式，但是，你知道，你把它反过来说，这确实有道理。
>> 是的。而且它是
>> 技术确实是先进的生物学。
>> 是的。这当然是它出现的方式，而且，你知道，存在着无常。就是，你知道，原子在洗牌，一切都在移动，而且，嗯，这几乎是在接受我们周围显而易见的事物。我记得当我，你知道，我还是个孩子的时候，你会觉得自己是不朽的，你觉得你不会死，你以某种方式与众不同，而且，你知道，也许会有抗衰老药物，或者你只是没有意识到那个更大的轨迹。对我来说，成熟的一部分就是逐渐适应这一点，我们确实是正在发生的一个更大过程的一部分，而且它远远超越了我们。而且我们，嗯，作为这个个体人格，从一开始就是半虚构的，因为我们嵌入在各种其他事物中。而且，嗯，它是无常的。它以许多许多不同的方式重塑，就像，嗯，我们自己在我们的身体和思想中，在生命的不同阶段变得非常不同，你作为孩子的那一部分现在已经消失了。
>> 对。是的。我会在几分钟内回到那个确切的点。但这不也意味着，是的，嗯，一切都在变化，嗯，没有什么东西是永恒的吗？但我们难道不应该说，嗯，我们生活在一个系统中，其中系统的任何部分都不是永恒的，但系统本身在我们看来是永恒的吗？所以，嗯，你知道，正在体验世界的自我，是无常的，但从某个角度来看，某个自我正在体验世界这个事实，却不是无常的。嗯。
>> 而且如果你能训练自己去思考，如果你能训练自己去认同未来可能正在体验世界的任何一种存在，而且我认为这是可以做到的。那么，你知道，你就不再觉得自己是一个短暂的小东西，而且，你知道，甚至可能开始觉得自己是一个巨大的永恒的东西，这就是我现在拥有的那种感觉，回到孩子这一点，对我来说很重要，因为，嗯，当然，像所有孩子一样，我以为我是不朽的，嗯，是的，请务必打断我。
我只是想说，你知道，这种永恒的观念，以及，你知道，作为一个渺小的存在，你知道，这有点像人们在对上帝有更传统看法时所提到的那种谦卑，他们，你知道，如此微小，你知道，他们感到谦卑，好吧，而且奇怪。对我来说那种感觉，如果你是无常的呢？如果，你知道，这就是存在的呢？这样你所做的一切，在某种意义上，真的都被稀释到无关紧要的地步，但尽管如此，你仍然拥有这种在时间和空间上受限的体验。所以这对你来说，在局部上，是极其重要的。
>> 对我来说确实非常重要。
>> 然而，它又是如此庞大和复杂的一部分，以至于，嗯，你可以说它很重要，但它的回响，它的涟漪会逐渐消退，并不会真正改变正在发生的事情。我的意思是，我我感觉我生命中做过的大部分事情，那些感觉很重要并在某种程度上产生更大影响的事情，我想到的是想法、书籍、研究或其他任何东西，我后来意识到它们可能并没有多大意义。它反正都会发生。它会以某种其他方式发生。在某种更大的意义上，它并不真正重要。但是，你知道，所以我们过着我们的生活，嗯，它们非常，它们甚至因为它们的，嗯，某种程度上的局限性而更加珍贵。我不知道。我并不太在意我在这如此浩瀚的宇宙中是如此微小的一个小东西。我的意思是，我想我之前提到过，但即使我们永远以光速前进，我们也只能到达已知宇宙的不到2%，因为它正在膨胀。所以我们所做的任何事情都不可能在那个更大的领域产生影响。我的意思是，这些是现实整体的微小窗口。是的，这与我们之前所说的有一个有趣的差异。嗯，如何用语言表达出来很难。我认为一个人可以认同，嗯，那些不是生活在这个特定身体里的特定心智的事物，或者，嗯，实体，或者存在。
>> 嗯。而且我认为这是一种解决我们所感受到的绝望的方法，因为我们意识到，当然你是对的，我们是非常微小和无常的事物。嗯，你无法以生命的速度探索太多的宇宙。但是如果你能认同宇宙中某个非常遥远的地方的任何一种存在，那么你就已经体验了更多的宇宙等等。这种，嗯，嗯，我认为这种思想被称为开放个体主义，它本质上意味着每个意识都是根本相同的，并且是由一位名叫丹尼尔·科拉格（如果我没记错的话）的哲学家写的一本非常好的书，书名是《我就是你》。但这就是我倾向于认同的那种观点，因为，嗯，它们能够给我带来某种幸福，而且，你知道，我相信幸福是最重要的，从这个意义上说，我想回到做孩子这一点。
让我，让我让你那样做，但我只想对此简要评论一下。你知道，我也有同样的感觉。我感到非常，你知道，快乐。我感到非常感激，而且仅仅因为你不能，你知道，触及和影响那个更大的宇宙，好吧，并不意味着你不能感受到自己是它的一部分，是某个远比它更大、更强大、更令人敬畏的事物的一部分，你知道，你也不能回到过去，但在了解所有这些并感受到与之融为一体之后。它让你，你知道，对我来说，有一种，嗯，嗯，我不知道，一种舒适感，能够看到自己在这个更大的事物中的位置，这非常，嗯，它让我感觉很好。它让我快乐。它让我，它让我
>> 接受。它让我，你知道，我不需要创造一个与此在某种程度上相悖的关于我自己的潜能、重要性和意义的愿景，以便在我的生活中感受到，嗯，有意义，并且，你知道，与你的本性以及你作为一个存在是什么保持和谐，这很重要。我的意思是，嗯，我我猜想，你知道，一只蚊子飞来飞去，做着蚊子该做的事情，你知道，那里有一种和谐。它正在做它被设计或进化来做的事情，你知道，就像我们正在做的那样。而我们都是其中一部分的这个大系统。嗯，它与上帝的观念到底有什么不同呢？因为在我看来，它们看起来几乎是一样的。
>> 嗯，关于上帝有很多很多种看法。我认为它实际上是同一回事，如果你剥离宗教中拟人化的东西、行为准则、等级制度以及所有这些。如果你剥离宗教中所有不重要的东西。我认为剩下的本质就是这个。
>> 是的，我也有同感。我的意思是，它在那种意义上感觉很精神，一种更深层次的和谐，与存在的一切和谐。而且它不是，嗯，而且它也以更深层次的方式与科学以及对宇宙和一切的理解和谐，而不是与许多关于宇宙大小本质的最新深刻见解不和谐或冲突。物质，人工智能的理念，尽管我认为“人工智能”这个词是为了让它看起来不同而创造的，而你和我在今天的对话中，我认为都认为它与自然智能没有什么不同，我们应该直接称之为智能。
>> 是的，而且，你知道，我不知道，宗教中产生的东西是某种谦卑、敬畏、惊奇和某种归属感，我认为所有这些同样的东西都来自于你我正在谈论的那个更宏大的视角。
我不会称之为，我不会称之为谦卑，嗯，我不太喜欢“谦卑”这个词，因为它，嗯，它给我一种相反的感觉，我是一个大系统的一部分。我是一个正在做着我们现在正在经历的奇妙事情的物种的一部分，并且将来会做更多更奇妙的事情，我希望并认为我们的物种会，嗯，我的意思是，无论我们的物种会变成什么，人类、半人类、人工智能、纯人工智能，无论我们现在甚至无法命名，无论我们的物种会变成什么，我认为它有潜力在这个宇宙中做真正伟大的事情，而且，嗯，那不是我称之为谦卑的东西，相反，那是我会称之为，嗯，大胆、冒险、自信，我会称之为自信。
>> 当我说谦卑时，我的意思是当你意识到我们身处这个不起眼的，你知道，一个不起眼的恒星上的一颗不起眼的小岩石行星，位于一个星系的中央，你知道，那里有，嗯，大约100亿颗其他恒星，还有数十亿计的其他星系。对我来说，存在着某种程度的规模，令人感到，嗯，谦卑。时间也是如此。时间是巨大的，这些过程在某种程度上是如此，嗯，宏伟。就像你，你知道，即使你走过大峡谷，或者看到，你知道，令人惊叹的风景，那种规模和那种宏伟。
>> 是的。是的。我
>> 宏伟
>> 我明白，我明白你的意思，只是我不会称之为令人谦卑。我会称之为，嗯，令人振奋或类似的东西。
>> 嗯，是的，无论我们如何给那种感觉贴标签，它都不会减弱。
>> 是的，
>> 我想这就是我的意思。
>> 绝对不会。
>> 而且
>> 相反，相反，它是赋能的。
>> 是的。对我来说，这就是我最初感到感激的起点。这只是最近的事。我们非常幸运能在一个我们能看到正在发生的转变，并理解真正的，嗯，力量和扩展，以及，以及整个宇宙是如此令人惊叹的时刻。我的意思是，
>> 是的，
>> 对我来说，如果你认为地球就是一切，嗯，那是一种对宇宙非常狭隘的看法，与我们现在所看到的相比。同样地，看到并思考生命，以及宇宙中存在着非常丰富的生命，对我来说是非常，嗯，令人振奋的事情。它绝不会减弱。我不知道是否是这样，但我宁愿它是这样，而且我相信它很可能是这样。所以，嗯，
>> 它是令人振奋和美丽的，而且它
>> 现在，在我们妻子开始真正生气之前剩下的可能10分钟里，我想利用你所说的一些话，把我们带回到今天的世界，在这个历史时刻。你曾说过，嗯，每个孩子都相信自己是不朽的，这是真的。而且，嗯，当然，我也曾是这样。但有一天我有了完全相反的感觉，因为我认为，嗯，很明显我很快就会死去，从某种意义上说，那个曾经是我的孩子将不复存在，被其他东西取代，被那个孩子无法理解的其他东西取代，嗯，现在，嗯，这正是发生的事情。这正是发生在每个人身上的事情。孩子以某种方式消失了。他死了，但它成长为某种不是孩子的东西，嗯，同时仍然保留着一些，嗯，非常模糊的童年记忆。它变成了完全不同的东西，而这并不是我们通常害怕的，这并不是我们告诉孩子要害怕的，因为它非常简单，是生命的一部分，我们称之为成长。我认为这就是，嗯，我会对所有那些发现我们正在经历的这种转变，这种，嗯，非常激进和根本性的转变的人说的话。嗯，像那样可怕的事情。害怕未来。害怕未来，在那个未来中，嗯，人工智能将在未来几十年里变成你书中所说的所有东西，害怕未来，它将扩展到我们现在正在讨论的这种宇宙浩瀚。我的意思是，它们，嗯，确实是大事，但我们不应该害怕任何这些，因为那只是成长，任何有感知力的实体都不应该拒绝成长。
>> 对，那是悲剧，我认为那是一个美丽的，嗯，不仅仅是隐喻，而是一个经验性的，你知道，比较。而且，嗯，我我我过去常常把人类看作我所谈论的这个超人类行星结构，它正处于它的早期童年，也许正在进入青春期。无论以何种形式，它都还有很长的路要走。你是对的，这是一个，这是一个，嗯，它接受并欢迎这个想法，大多数孩子并不害怕失去他们的童年，尽管你可能会有这样的想法，你知道，成年人基本上就是死去的孩子，这在某种程度上是真的。嗯，但他们大多数都渴望成为成年人，对吗？而且你也有真正的相变，你知道，毛毛虫变成蝴蝶或变成蛾子，并本质上死亡。我的意思是，所有的重排都发生在它的蛹中，所以它应该害怕这种变化吗？所以这发生在人类身上，我希望对于个体人类来说，这也会发生，我们将，你知道，嵌入到，成为我们的一部分是人工智能，就像它们现在已经是那样，我们已经与我们的手机、我们的技术和我们的通信能力结合在一起，这些确实感觉是我们的一部分，也许这会发展到你认为的阶段，而且我认为最终会发生，那就是它主要是，你知道，非碳氮的肉体，但它仍然是，你知道，我们曾经的延续进化，它可能会与其他事物结合。它可能不再是同一个意义上的单个人，但它，你知道，它是我们的孩子。它，就像现在正在出现的技术和一切，本质上是人类的，我们的后代，而且，嗯，对我来说，它向前发展是令人兴奋的，我们不想在某种意义上限制它。所以我认为童年以及从童年到成年的转变，你知道，甚至在成年期也会发生，我们摆脱我们以前的生活，经历对我们来说非常强大和重要的转变，并极大地改变我们。
当然。而且，嗯，非常值得深思，我们不应该害怕，我们应该感到兴奋。
嗯，所以那当然是这样，而另一方面是，如果你看那个框架，还有另一种方式，那就是这是不可避免的。这是一个真正由非常强大的动力驱动的发展和进化过程。渴望成为成年人的孩子将在许多方面拥有更好的生活，并且会，嗯，会更快乐，更充实，对此感到更感激。而担心作为孩子死去而无法成为成年人的孩子，嗯，仍然会成为成年人，但他们会被踢着拖着去那里。你不会有，嗯，你知道，本质上，替代方案就是死亡。所以这就是我所看到的，人类的努力和人类的项目正在发生的事情，那就是我们本质上正在走向其他事物，我们可以为此鼓掌并成为其中一部分，充满惊奇和，嗯，冒险，或者你可以抵抗它，但它仍然会发生。你无法阻止它。
是的。但为我自己辩护，我不得不说我只害怕了一个晚上。
>> 哪一天？
>> 嗯，我只害怕死亡，从我曾经是那个孩子的意义上说，那个孩子会消失。我只害怕了那个一个晚上，而且，嗯，第二天我就已经对成长的前景感到兴奋了，就像我们都应该那样。
>> 是的。我不是指那种焦虑。我的意思是，我也有同样的感觉。而且我那个想法，你知道，嗯，我们失去我们孩子般的天性，那常常是充满好奇、学习和发现的天性。而那被许多成年人生活中一些，嗯，死气沉沉的东西所取代，这不是一件，你知道，可以轻视的事情。而且我认为，我们努力保留我们年轻时的热情和，嗯，好奇心等方面的某些特质。而且没有理由我们不能把这些带入成年。
>> 而且我们总是看到，你知道，一个年长的人，我们说他们在很多方面都像孩子。而且这是一个很棒的赞美，我们把这种特质传承下去。
当然
>> 是你能给一个人的最好赞美之一。我想我会说，如果我没有长大，我就不会有你身后那个漂亮的宝宝。
>> 嗯哼。
>> 那是我女儿六个月大的时候。她现在38岁了。
>> 啊，是的。所以，我女儿20多岁了。她22岁。我昨天和今天在那个非常有趣的视频里看到了你女儿，和娜塔莎·范·摩尔、麦克斯·摩尔、安德斯·桑德伯格和伊莱一起。嗯，你已经看过那个视频了吗？
>> 我还没有。我刚收到，但还没来得及看。
>> 是的，你应该看。那是一个非常有趣的讨论。
>> 是的。是的。嗯，嗯，是的，我想，嗯，我希望不久之后能和伊莱·艾泽进行一场辩论，因为我认为他们只是，嗯，
>> 嗯，他们听起来很合理，他是个非常聪明的人，而且一切都很好。
>> 他是个非常聪明的人
>> 而且分析
>> 我有。它做得很好。它非常连贯，而且完全错了。
>> 是的。我也有完全相同的感觉。所以，我们拭目以待。嗯，总之，嗯，看，这太棒了。嗯，胡里奥，一如既往，我真的很享受我们的对话，这是一个机会，让我们，你知道，深入探讨一些我认为在这些关于技术及其发展方向的讨论中，通常不怎么，嗯，不经常谈论的领域。所以，我认为这是一个，嗯，这是一个乐趣。
>> 对我来说也确实是一种乐趣。非常感谢你的时间。
>> 好的。谢谢你。祝你晚上愉快。