Transcription
以下是与 Yoshi Bach 的对话，这是他第二次来到播客。Yoshi 是世界上最迷人的思想家之一，他探索智能、认知、计算和意识的本质。为了支持这个播客，请查看我们的赞助商 Coinbase、Codecademy、Linode、NetSuite 和 ExpressVPN。他们的链接在描述中。这是 Lex Fridman 播客，这是我和 Yoshi Bach 的对话。
感谢您再次来到这个特别的俄罗斯节目，并坚持俄罗斯节目的主题。让我们从最黑暗的话题开始。这是受您的一条推文启发，您写道：“当生活令人难以忍受时，我提醒自己，我不是一个人，我只是一个运行在随机猿猴大脑上的软件程序，持续几十年。这并不是最糟糕的大脑来运行。”您是否经历过人生的低谷？您是否经历过抑郁？
当然，我们都会经历人生的低谷，我们会为周围事物的丑陋感到震惊。我们可能会因为缺乏自我调节而感到绝望，有时生活就是艰难的。我猜想，没有人能不经历低谷和绝望的时刻就能度过一生。我曾想，让我们捕捉这种状态以及如何应对这种状态。我发现，当你不再把事情个人化时，当你意识到“人”这个概念是一个虚构时，你常常会意识到这一点，就像《西部世界》中的机器人意识到他们的记忆和欲望只是让他们陷入循环的东西，而他们不必按照这些记忆和欲望行事一样。我们的记忆和期望让我们不快乐，而当下很少如此。我们所处的日子，在很大程度上，都是可以的，对吧？当我们就在这里，就在此刻，我们可以选择我们的感受。影响我们的是期望某事会与我们想要的有所不同，或者记忆是某事与你想要的有所不同。一旦我们基本上从这一切中抽离出来，剩下的就不是一个人了，剩下的是一种意识状态，这是一种软件状态，而软件没有身份。它是一种物理定律，一种在我们所有人身上都起作用的定律，它嵌入在一个合适的基底中，而我们并没有选择那个基底。我们大多是随机地实例化在它上面的，那里有所有这些个体，每个人都必须是其中之一。最终，你会被困在其中一个上面，然后不得不处理它。
所以你就像一片漂浮在河上的叶子，你只能接受有条河，而你只是一个代理。代理是一个构造，对吧？其中有多少是真正由你控制的？我认为，我们的意识在很大程度上是我们自身注意力的控制模型。所以我们注意到我们在看哪里，我们可以影响我们在看什么，我们如何消除歧义，我们如何将事物组合在脑海中。运行我们的整个系统是一个巨大的控制论激励系统。所以我们基本上就像一只坐在大象上的小猴子，我们可以把这只大象放在这里或那里，让它往这个方向或那个方向走。我们可能会产生错觉，认为我们是大象，或者我们在告诉它该做什么。有时我们会注意到它走向一个完全不同的方向，而我们并没有设置这个东西，它只是我们发现自己所处的状况。
我们到底能对大象进行多少的推动？很多。但我认为我们的意识无法创造动力。大象是意识吗？在这个比喻中，不是。猴子是意识，猴子是注意力系统，它在观察事物。有一个大型的感知系统与激励系统相结合，它实际上提供了与一切的接口。我认为我们的意识是我们用来引导该系统注意力的工具，这意味着它会区分特征并执行条件操作，为此它需要索引记忆。但这种索引记忆就是我们所感知到的意识流。但意识并不负责，那是一种错觉。所以，意识之外的一切都是大象。所以，它是宇宙的物理学，但也是社会。我会说，大象是代理。所以有一个环境，代理正在其中践踏，而你正在影响那个代理的一小部分。
所以，代理是一个单一的人类吗？哪个物体具有代理权？这是一个有趣的问题。我认为一种思考代理的方式是，它是一个带有设定点生成器的控制器。控制器的概念来自控制论和控制理论。控制系统由一个调节某个值的系统组成，以及该值与设定点的偏差。它有一个传感器来测量系统与该设定点的偏差，以及一个由控制器参数化的效应器。所以控制器告诉效应器做某事，目标是减小设定点与系统当前值之间的距离。还有一个环境会干扰被调节的系统，使其偏离设定点。最简单的情况是恒温器。恒温器非常简单，因为它没有模型。恒温器只是试图在下一刻最小化设定点偏差。如果你想在更长的时间跨度内最小化设定点偏差，你需要整合它，你需要模拟会发生什么。例如，当你认为你的设定点是生活舒适时，也许你首先需要让自己不舒服。所以你需要建立一个关于会发生什么的模型。
因此，控制器的任务是利用其传感器来测量环境和被调节系统的状态，并弄清楚该做什么。如果任务足够复杂，设定点足够复杂，并且控制器有足够的能力和足够的传感器反馈，那么控制器的任务就是建立一个关于它所处的整个宇宙的模型的，它存在的条件以及它自身的模型。这是一个非常复杂的代理，而我们属于这一类。代理不一定是宇宙中的某个事物，它是一类模型，我们用它来解释宇宙的各个方面。当我们注意到周围的许多事物只有在我们与之纠缠的层面上才有意义时，我们就将它们解释为试图最小化自身设定点的控制系统。
但是模型就是代理，代理是一类模型。我们注意到我们自己也是一个代理，我们是那个使用自身控制模型来执行操作的代理。我们注意到我们产生模型中的变化，世界上的事物也会发生变化。这就是我们发现我们拥有身体、我们身处环境以及我们拥有第一人称视角这一想法的方式。
我仍然不明白，对于人类来说，哪种物体具有代理权是最好的思考方式。是身体？是大脑？是大脑中的内容具有代理权？你指的是什么执行器？什么是控制器？它在哪里？还是这些不可能的事情？因为我一直在试图将其与时空、三维空间和一维时间联系起来。对于人类来说，代理是什么？
不止一个。这取决于你看待事物的方式，取决于你如何构建它。想象一下，比如你是安格拉·默克尔，你代表德国行事，那么你可以说德国是代理。在安格拉·默克尔的心中，她某种程度上就是德国，因为她行动的方式改变了德国的命运。有些事情她可以改变，这些事情基本上会影响那个民族国家的行为。
好的，所以这是层级的。以你的另一条推文为例，你似乎在开玩笑地嘲笑杰夫·霍金斯，说他的大脑是自下而上的。所以这就像，代理是自下而上的，代理由代理组成，代理由代理组成。就像法恩扎·马可的德国，而德国由一群人组成，而人们本身在某种上下文中也是代理。然后人们由细胞组成，每个个体。所以，代理是自下而上的吗？
我怀疑在一个自组织的世界里，情况必须如此。我们所看到的绝大多数复杂性，生活中一切都是关于自组织的。是的，所以我认为从生命层面往上，你有代理，而在生命层面往下，你很少有代理。因为有时控制系统会在自然界中随机出现并试图达到设定点，但它们不是很有趣的代理，它们会建立模型。因为要建立一个有趣的世界模型，通常需要一个真实而完整的系统。
我能问你一个个人问题吗？生命和非生命之间的界限在哪里？这是个人的，因为你是一种生命形式。所以，在你看来，在不断增长的复杂性中，在哪个点上，事物开始具有生命并拥有代理权？
就我个人而言，我认为最简单的答案是，生命是细胞，因为生命就是细胞，生物细胞。所以，这是我们发现存在于自然界中的一种特殊原则。它是模块化的东西，基本上由这个 DNA 磁带组成，上面有一个读写头，能够执行任意的计算和细胞内的状态转换。它与一个隔离细胞与环境的膜相结合，细胞内部存在化学反应，处于这种平衡状态。细胞的运行方式是这种平衡不会消失，细胞就会死亡。它需要类似“负熵提取器”的东西来维持这种平衡。所以它能够从环境中收集负熵并保持自身运行。是的，所以有信息，还有一个墙来保护，来维持这种不平衡。
但这是否非常以地球为中心？你所说的，我并不是在做一个规范性的概念。你可以说，宇宙中可能还有其他类似细胞和生命的东西，你也可以称它们为生命。但最终，这只是你如何使用这些词语的意愿。我喜欢细胞，因为它与我们甚至在知道细胞之前的使用方式完全一致。所以人们指向一些东西，说这在某种程度上是活的，这与非活的东西非常不同。活的东西和死的东西有什么区别？这主要是细胞是否在工作。是的，还有生命的边界，我们说，例如，病毒基本上是一个信息包，它在颠覆细胞，而不是生命本身。这对我来说很有意义。而且有点武 arbitrary。当然，你可以说，永久维持不平衡并能够自我复制的系统总是生命，也许这是一个有用的定义。但这最终只是你如何使用这个词。
它对对话有用吗？它对宇宙来说是根本性的吗？你认为生命和非生命之间最终会有一条真正的界限，还是它都是一种连续体？
我不认为它是一个连续体，但没有什么神奇的事情发生。生命系统是一种特定类型的机器。非生命系统呢？它也是机器吗？有非生命的机器，但问题是，系统在哪个点上能够执行任意的状态转换，进行表征？而有生命的东西可以做到这一点。当然，我们也可以制造出可以做到这一点的东西，但我们不知道自然界中有任何不是细胞且不是由生命创造的，能够做到这一点的东西。我们不仅不知道，我认为我们也没有工具去看到其他情况。我总是担心我们看待世界的方式过于狭隘。我们可能在眼皮底下就有非常不同的生命形式，而我们只是没有看到，因为我们要么是认知能力的限制，要么是我们不够开放。无论是科学工具还是我们自己思想的工具。
是的，这是可能的。我认为这个想法非常迷人，我怀疑我们很多人从小就问自己，我们错过了什么？存在哪些我们看不到的系统和联系？但我们正在寻找它。而且物理学目前没有太多空间来容纳那些不会违反我们所知的能量守恒的东西。
但我想知道时间。时间尺度和空间尺度。我们是否只需要拓宽我们对生命如何呈现自身的想法？它可能在更慢的时间尺度上运行。更快的 timescale。想到我们周围有如此多的生命，而我们却看不到，因为我们只是没有以正确的尺度来思考，无论是时间还是空间，这几乎是悲伤的。
你对生命的定义是什么？你理解的生命是什么？
足够复杂的实体，充满惊喜。我不知道，我没有自由意志，所以这只是我脱口而出的。我不确定这是否有意义。有一些特征。所以复杂性似乎是生命的一个不必要的属性，我几乎想说它有做一些意想不到的事情的能力。在我看来，生命是地球上复杂性的主要来源。是的，而复杂性基本上是秩序通过建模、通过处理信息来构建混乱的桥头堡，这样你就可以进行笨拙的系统无法进行的反应。这意味着你可以收集笨拙的系统无法收集的负熵。而这基本上就是复杂性。
在某种意义上，生命的目的是创造复杂性。是的，增加。我的意思是，似乎有一种普遍的驱动力，朝着增加复杂性的小区域发展。我不知道那是什么。这似乎是宇宙的一个基本属性，或者它只是宇宙运作方式的结果。但似乎有这种小的、不断增长的复杂性区域，它们建立在彼此之上，并开始拥有越来越大的复杂性，通过拥有一个复杂性的层次结构。小生物构建了一个小社会，然后这个社会几乎作为一个独立的生物体运作。突然之间，你就有了德国和默克尔。
但这对我来说并不明显。所有上升的东西最终都会下降，对吧？所以，如果你看到这条巨大的指数曲线，通常是 S 形曲线的开始，某事最终会达到饱和，而 S 形曲线是某种下降的开始。而当你在生命演化的视野中时，你正处于一个被生命吸干的负熵池的顶部。在此过程中，你会看到复杂性的增加，因为生命形式正在相互竞争，以获取越来越多的、越来越精细的负熵提取角落。
但我觉得那是一个渐进的、美丽的过程，就像它遵循着类似于进化的过程一样。它下降的方式与它上升的方式不同。它下降的方式通常是严酷而迅速的。所以通常会发生某种灾难性事件。罗马帝国用了很长时间。但你会将此归类为复杂性的降低吗？
是的，我认为城市规模的下降非常明显。你可以看到艺术的质量下降了。而且它是逐渐下降的。也许未来的几代人，当他们回顾 21 世纪美国的历史时，也会谈论逐渐的衰落，而不是突然发生的事情。
你对我们现在的位置有什么感觉？我们是在指数增长，还是在顶峰，还是在美国帝国下坡的斜坡上？
从一个人的角度来看，很难说。但对我来说，我们可能处于顶峰。我认为这可能是乐观和悲观的定义。所以我的乐观本性是，我认为我们正在上升。但我认为这只是一个视角问题。没有人知道。但我确实认为，倾向于乐观，你需要足够多的人，你需要最少数量的乐观主义者才能让那件事真正起作用。所以我倾向于乐观主义者。我认为我们基本上是一种从蚱蜢变成了蝗虫的物种。当你处于蝗虫模式时，你会看到人口数量和个体之间互动复杂性的惊人增长。但最终的问题是，它是否可持续？
我认为我们是一群狮子和老虎，它们已经变成了家猫，用另一个比喻来说。我不确定我们是否如此具有破坏性，或者只是更温和、更友善、更懒惰。但我认为我们是猴子，而不是猫。如果你看看猴子，它们非常忙碌。那些有很多性行为的猴子吗？不仅仅是倭黑猩猩。我认为所有的猴子基本上都是一个不满足的物种，总是需要干预。
嗯，大猩猩似乎有一点更多的结构。但那是树的不同部分。
[笑声]
好的，你提到了大象和骑着大象的猴子，意识是猴子，猴子可以进行一些推动，有时大象会听。我听说你卷入了一些内容，也许你可以纠正我，但我听说你卷入了一些关于自由意志的争议性讨论。是和萨姆·哈里斯还是什么的吗？
据我所知不是。一些人在 Clubhouse 上告诉我，你对自由意志进行了很多重要的辩论。
那么，让我问你，在猴子和大象的比喻中，我们如何看待自由意志的错觉？猴子有多少控制权？
我们必须首先思考自由意志是什么。我们不是机器，我们不是那个做决定的人，我们是那个决策过程的模型。是的，自己做决定和预测自己的决定是有区别的。而这个区别就是第一人称视角。基本上，是什么让决策和自由意志的条件与自动做最好的事情区分开来，是我们常常不知道最好的事情是什么。我们在不确定性下做决定，使用我们还不理解的投注算法进行知情投注，因为我们还没有充分逆向工程我们自己的思想。我们不知道预期的回报，我们不知道我们估计回报的机制，等等。但是，我们观察到自己正在执行，我们看到我们回避事实、因素和未来，然后某种可能性、某种动机被提升为意图，而这就是系统正在进行的知情投注。而这种开放投注的进行，这种投注的表征，就是我们所说的自由意志。而且它似乎是矛盾的，因为我们认为这是关键，它在某种程度上是不可确定的，但如果它不是不可确定的，它就会是随机的。当然，它不可能是随机的，因为如果它是随机的，如果只是在宇宙中随机地掷骰子迫使你做事情，那将毫无意义。所以，决策中重要的部分总是确定性的东西，但对你来说，它似乎是不可确定的，因为它不可预测。因为如果它是可预测的，你就不会将其体验为自由意志的决定，你只会将其体验为做必要的事情。
当你观察别人的时候，你会看到自由意志和自动行为执行之间的连续性。例如，当你观察自己的孩子时，如果你不理解他们，你就会使用这个代理模型，你有一个带有设定点生成器的代理。代理正在尽最大努力缩小与设定点的差距。它可能会感到困惑，有时会冲动，或者别的什么，但它是根据自己的自由意志行事的。当你理解孩子脑子里发生的事情时，你就看到了它是自动的，你可以超越孩子。你可以围绕孩子构建东西，引导孩子做出你预测的决定。在这些情况下，比如当你是一名舞台魔术师，或者与你卖车的人打交道，而你完全理解这个人的心理、冲动以及那一刻他可能有的思想空间。在这种情况下，归因自由意志是没有意义的，因为它不再是关于不确定性的决策。你已经确定了他们在做什么。
但对你来说呢？这是否类似于像细胞自动机这样的系统，它是确定性的，但当你眯起眼睛看时，它就开始看起来像有代理在更高层做决定？所以当你放大并观察由个体细胞组成的实体时，即使底层有简单的规则使系统以确定性的方式演化，它看起来也像是有生物在做决定。这就是自由意志的错觉产生的根源吗？这种规模的跳跃？
这是一种特殊的模型，但这种规模的跳跃至关重要。当你有太多的部分无法计数时，就会发生规模的跳跃，你无法在那个层面上建立模型，你试图找到一些更高层次的规律性。而更高层次的规律性是你投射到世界上的一个模式，以理解它。而代理就是这些模式之一。你有所有这些相互作用的细胞，我们体内的细胞的设置方式是，如果它们的行为是一致的，它们就会受益。这意味着它们就像在服务一个共同的目标一样行事，这意味着它们将发展出像服务一个共同目标一样的调节机制。现在你可以通过将共同目标投射到它们身上来理解所有这些细胞。
所以，对你来说，自由意志是一种错觉吗？
不，它是一个模型，它是一个构造。基本上，它是系统对自己行为的模型，也是它在当前情况下能想到的最好的模型。当您完全理解您正在采取行动的机制时，它可以被自动行为所取代。
但是，模型的另一个词是什么？故事。所以这是你讲的故事。你的意思是，你实际上有控制权吗？是否存在一个“你”？是否存在“你”拥有控制权？
“你”是那个控制系统的模型。这是一个系统告诉自己的关于某个控制者的故事。是的。而那个模型的内容被用来告知系统的行为。
好的，所以系统是完全机械的，系统像织布机一样创造那个故事，然后它使用那个故事的内容来告知它的行动，并将那些行动的结果写进故事里。
那么，这怎么不是一种错觉呢？故事已经写好了，或者说，我们不是故事的作者？
不，我们从来不知道。我们什么时候知道的？我认为这主要是对概念的混淆。我们文化中的概念性错觉来自于这样一个想法：我们生活在物理现实中，我们体验物理现实，然后你有了关于它的想法，然后你有了这种二元论的解释，你有两种物质：可触及的、由延展事物组成的物质，以及观念世界。事实上，它们都是心智表征。一种是心智将世界表征为游戏引擎，以理解感知数据。而另一种，是的，这就是我们所感知的物理世界。但我们已经知道物理世界并非如此，对吧？量子力学与你和我所感知的世界非常不同。你和我所感知的世界是一个游戏引擎。物理世界中没有颜色和声音，它们只存在于你的大脑生成的游戏引擎中。然后你有无法映射到延展区域的观念。所以，在游戏引擎中具有空间延展性的物体是可延展的物质，而没有物理延展性的物体是观念。它们都在我们的头脑中相互作用，以产生世界模型。
是的，但你知道，当你玩电子游戏时，我明白实际上发生的是计算机内部的零和一，而不是 CPU 和 GPU。但你仍然可以看到渲染，你仍然在做决定，是开枪，是左转，还是右转，如果你玩的是射击游戏。或者每次你开始想到《天际》和《上古卷轴》，在美丽的自然中漫步，挥舞着剑。感觉你好像在那个电子游戏中做决定。所以，即使你没有直接的感知通道来访问比特、零和一，你仍然感觉你在做决定，而且你的决定似乎一直应用到零和一。是的，感觉你好像有控制权，即使你没有。
所以基本上，电子游戏引擎创造了一个电子游戏中的特殊角色。这个角色服务于电子游戏的审美。那就是你。是的。
但我感觉你在电子游戏中有控制权。就像那些在网上打败我的 12 岁的孩子一样。
所以，当你玩电子游戏时，它们是零和一，这真的重要吗？你不在乎总线上的比特，你不在乎运行它的 CPU 的性质。你关心的是你正在玩的游戏的属性，你希望 CPU 足够好。是的。
当我们与物理学互动时，也会发生类似的事情。你和我所处的世界不是物理世界。你和我所处的世界是一个梦境。
它离真实世界有多近？
我们知道它并不太近。但我们知道梦境的动力学在一定程度上与物理世界的动力学相匹配。因果结构是不同的。所以你看到海浪拍打你的脚，但海里没有海浪，只有水分子之间的切线。
它们不是非常一致吗？我们只是看到了一个非常粗略的近似值。我们的梦境世界非常一致，以至于可以直接映射到实际的物理世界，而不是我们被完全欺骗？
这就是你认为它不是一个把戏，那才是我的观点。它不是一种错觉，它是一种数据压缩。它是一种试图处理我们所纠缠的层面上太多部分动力学的方法，用你能找到的最好的模型。
所以，我们可以那个梦境世界，我们的行为会产生影响，在现实世界中，在物理世界中？
是的，我们无法直接接触。但基本上就像接受我们所生活的软件，我们所生活的梦境，是由我们和你们所处的这个世界之外的某个东西生成的。
所以，软件是确定性的吗？我们没有任何控制权吗？
所以，自由意志是，拥有一个有意识的存在的自由意志，是猴子能够操纵大象吗？
不，它略有不同。基本上，就像你将海浪建模为淹没你脚的海水分子一样，当你走在沙滩上时。而没有海浪，只有原子，然后是原子之下更复杂的东西，等等。你知道的，对吧？你会接受。是的，这里发生了一定程度的抽象。这是对现实的简化，这种简化是为了让你的大脑在时间和空间上都能处理它，在资源方面，并且为了预测价值而进行了调整。所以你可以比较准确地预测你的脚是否会湿。但这是一个非常好的方法，一个非常好的界面和近似值。是的，这就像 E=mc² 是一个很好的方程，是很好的近似值。
对我来说，海浪是一个非常好的近似值。下面所有复杂的现象是什么？它是一个机器学习模型，不断调整以最小化惊喜。它基本上试图尽可能好地预测你接下来会看到什么。
我们是在谈论哪个是机器学习？我们的感知系统还是梦境世界？
机器世界是感知系统进行压缩的机器学习过程的结果。是的。而你作为一个代理的模型，不是一种不同类型的模型，或者它是一种不同类型，但不是像海洋模型那样具有模型性质。有些东西是海洋，有些东西是代理。而这些代理之一正在使用你自己的控制模型，你的模型的输出，你认为自己正在做的事情。那就是你。
那么，当你站在那里，脚上有水，望着广阔的海洋，然后是美丽的日落，它很美，然后也许你和朋友或爱人在一起，你感到爱。那是什么？作为梦境世界？
是的，这一切都发生在梦境中。
但“梦境”这个词让它听起来不真实。
当然，它不真实。物理宇宙是真实的，但物理宇宙是难以理解的，它没有任何真实感。你所体验到的真实感会附加到某些表征上，你的大脑评估这是我拥有的最好的现实模型。所以，对你来说唯一真实的是发生在现实最底层的东西。
所以，要成为真实，它需要被实现。所以，你对现实的模型是真实的，只要它是模型。它是对世界的恰当描述。
说有模型正在被体验，但你所体验的世界不一定被实现。现实、模拟和模拟物之间有区别。我们所说的现实是完全在一个因果封闭的最低层上出现的。物理主义的观点是我们处于那个层面上，基本上我们的世界从那个层面上出现。所有其他观点都是模拟理论，基本上说我们处于某种模拟宇宙中，而真实世界需要是一个表象的宇宙，其中实际的因果结构是正确的。
当你看着海洋和你自己的思想时，你看到的是一个解释你接下来会看到什么的模拟。而我们生活在模拟中。是的。但这个模拟是由我们自己的大脑生成的。是的。而这个模拟与物理现实不同，因为所产生的因果结构，你所看到的东西与物理学的因果结构不同，但希望是一致的。否则，你就会被送进某个机构，人们会照顾你，因为你的行为将是不一致的。你的行为需要以一种与现实的准确预测模型互动的方式进行。如果你的大脑无法让你的现实模型具有预测性，你就会需要帮助。
你对唐纳德·霍夫曼的论点有什么看法，即梦境世界不必与实际物理现实的“界面”一致？他说，可能存在进化。我认为他提出了一个进化论的论点，即梦境世界偏离物理现实可能是一种进化优势。
我认为这只适用于你有终身教职的情况。只要你还在与地面工具互动，你的模型就需要具有一定的预测性。
嗯，在某种意义上，人类在动物界已经获得了一种终身教职。我们变得太大了，不能失败。所以我们变得后现代主义了。一切都说得通。我们喜欢的现实版本。
哦，天哪。
是的。
但基本上，你可以施展魔法，你可以改变你对现实的评估。但最终，如果它没有预测性，现实就会来咬你。
你对那个基础层物理现实有什么感觉？你有像“万有理论”的尝试，最最最微小的，比如弦理论，或者斯蒂芬·沃尔夫勒姆所说的“超图”，这些是微小的微小的微小的物体？然后有更像量子力学的东西，它谈论更大的物体，但仍然非常非常非常小。你对最小的东西在哪里，在最底层，在最底层的乌龟有什么感觉？
我认为你无法谈论它在哪里，因为空间是在这些事物的活动之上出现的。所以空间，坐标只存在于相对于其他事物的关系中。所以，在某种意义上，你可以将其抽象为可以容纳信息的地点，以及信息可以在不同地点之间移动的轨迹。这就是我们构建空间概念的方式。是的。而物理学家通常有一种连续空间的观念。这也是我倾向于同意斯蒂芬·沃尔夫勒姆等人观点的地方，他们对几何概念持怀疑态度。我认为几何学是太多部分无法计数的动力学。
而且没有无穷大。如果有两个无穷大，你就会遇到矛盾。这在某种意义上是谷歌和图灵对希尔伯特呼吁的回应。没有无穷大。没有无穷大是假的。有无界性。但如果你有一种谈论无穷大的语言，总有一天语言会自相矛盾，这意味着它不再有效。为了处理数学中的无穷大，你必须假设它的存在。最初，你无法构建无穷大。这是一个问题，你无法从零开始构建无穷大。但在实践中，你从不这样做。当你进行计算时，你只关注太多部分无法计数的动力学。通常这些数字不是很大，不是谷歌之类的。我们宇宙中处理的无穷大在数学上来说是相对较小的整数。
而且，我们所关注的是动力学，其中一万亿个事物与一千亿个事物或非常非常大的事物行为相似，因为它们正在收敛。而这些收敛的动力学，这些算子，这就是我们处理几何学时所处理的。几何学是我们可以假装它是连续的东西，因为如果我们足够精细地细分空间，这些东西就会接近某个动态。而这种接近的动态，这就是我们所说的。但我认为无穷大是行不通的。也就是说，你会知道圆周率的最后一个数字，而你有一个物理过程依赖于知道圆周率的最后一个数字。
那可能只是人类认知的一种特殊怪癖。我们喜欢离散的。离散对我们来说是有意义的。无穷大则没有。
所以，就我们的直觉而言，不。问题是，我们所思考的一切都需要用某种心智语言来表达，不一定是自然语言，而是你的神经元能够说的某种数学语言，它指的是世界上的某个东西。而我们发现的是，我们无法在不遇到矛盾的情况下构建无穷大的概念。这意味着这样的语言不再有效。
我怀疑这就是让毕达哥拉斯如此不高兴的原因，当有人提出了无理数的概念，在它出现之前。有这个秘密，他有一个人被杀了，当他泄露了不是所有东西都可以表示为两个数字的比例的秘密时。在比例之间有数字。世界还没有准备好。而且我认为他是对的。这让数学家们非常困惑，因为这些数字不是值，它们是函数。所以你可以计算这些函数到一定程度的近似值，但你不能假装圆周率有一个实际的值。圆周率是一个函数，它会普遍地接近这个值到一定程度。
离散与连续的区别对你来说有多重要，以至于你能够得到，因为有几种你最喜欢的万有理论。桌子上有几种。有弦理论。有特定的，有圈量子引力，它关注一个特定的统一。有各种各样的人试图提出的万有理论。埃里克·温斯坦和历史上很多人。然后当然是斯蒂芬·沃尔夫勒姆，我认为他是唯一一个做离散的人。
不，现在有很多物理学家这样做。好的，比如托波利和托马塞洛。数字物理学我认为正在变得越来越受欢迎。但主要原因是有趣的是，有时它有助于解决分歧。我认为你不需要无穷大，而且你从来不需要它们。你总是可以用非常大的数字来处理，你可以用极限来处理。你这样做没问题，你不需要任何无穷大。你也可以在不相信无穷大的情况下建立你的计算机代数系统。
你对极限没问题吗？
所以，基本上，极限意味着某事表现得差不多一样，如果你让数字变大，因为它正在收敛到一个特定的值。而到了某个点，差异就变得可测量，你再也无法测量它了。而在这种意义上，你有东西，如果每个 n-gon 有足够的角，它最终会像一个圆一样表现。而只有在某种晦涩的、在物理宇宙中不存在的东西中，你才会谈论这个完美的圆。
现在看来，它在数学上也不起作用，因为你无法构建具有无限分辨率的数学而不遇到矛盾。所以这本身并不那么重要，因为我们从来没有这样做过。这只是有些人认为我们可以做到的事情，这会导致混淆。所以，例如，罗杰·彭罗斯用它作为论据，说有些事情是数学家可以做的，处理无穷大，并由此推断我们的思想也可以做到，而计算机不能。
他谈到，有些事情是数学家可以做的，而计算机，根据通用图灵机的定义，不能。是的。这与无穷大有关。是的。他是指，有些事情在数学头脑中是可能的，而在物理宇宙中可以构建的机器中是不可能的。而且因为他是一个诚实的人，他认为这意味着现在的物理学无法解释我们思想中发生的操作。
你认为他是对的吗？所以，让我们暂时放下他对意识的讨论。你认为他关于智能的说法是正确的吗？那么，人类的心智是否从根本上比通用图灵机更强大？
不。所以他建议是这样吗？所以我们的心智实际上比图灵机还少？不可能存在图灵机，因为它被定义为拥有无限的磁带，而我们只有有限的磁带。但你可以执行有限数量的操作。是的，它可以做图灵机不能做的计算。而他认为这是因为我们的心智能够以某种意义上进行无限分辨率的操作。而我不认为情况是这样。我们的心智只是能够发现这些极限算子，这些算子作用于太多无法计数的部件。
他关于意识比计算更重要的想法呢？所以，也就是说，它比图灵机能做的事情更重要？所以，再次说，我们的心智有什么特别之处，是机器无法复制的？
问题是，我甚至不知道如何构建一个语言来正确地表达这个陈述。
嗯，基本陈述是，有一种人类体验，包括智能、自我意识，包括意识的难题。问题是，它能否在计算机中，在我们今天理解的计算机的数学模型中被完全模拟？罗杰·彭罗斯说不。
那么，通用图灵机无法模拟宇宙。所以，有趣的问题是，你必须问他，为什么不？什么东西是无法建模的？当我看了他的著作，虽然我没有全部读完，但当我读到，例如，他在《走向无穷》的引言中写的那一部分时，他特别提到的是人类心智处理无穷大的方式。而我认为这本身很容易被解构。
很多人觉得我们的体验无法用机械的方式来解释，因此它需要不同。我同意。我们的体验不是机械的。我们的体验是模拟的。它只存在于模拟中。只有模拟才能有意识。物理系统不能有意识，因为它们只是机械的。细胞不能有意识，神经元不能有意识，大脑不能有意识，人也不能有意识，只要你把它们理解为物理系统。
有意识的可以是系统在世界上的故事。你把所有这些东西都写进故事里。你拥有体验，原因与小说中的角色拥有体验一样，因为它被写进了故事。而现在系统正在根据那个故事行事。而那不是一个用自然语言写的故事，它是一个用感知语言，用游戏引擎的多媒体语言写的故事。在那里，你写下了你有什么样的体验，这对系统的行为意味着什么，对你的行为倾向，对你的注意力，对你的注意力，对你的效价体验等等。而这被用来为系统下一步的行为提供信息。然后故事会随着系统的反应和世界的变化而更新。而你生活在那个模型中。你不是生活在物理现实中。
我的意思是。
只是，只是为了沉浸其中，就像你看到的，好的，是的，它在感知语言中，多模态感知语言就是那种体验，那就是意识，在那个模型中，在那个故事中。但是，当你玩电子游戏时，你是否有自主性？你可以在那个故事中向左转，也可以向右转。那么在那个梦境世界里，你有多大的控制权？在那个故事中是否存在一个“你”？比如，说“主角”，你知道，每个人都是NPC，然后有一个主角，你正在控制主角，这样说对吗？或者那是一个幻觉吗？是否存在一个你正在控制的主角？
我正在谈论自由意志这一点。想象一下你正在建造一个踢足球的机器人，是的，你曾就读麻省理工学院计算机科学专业，你基本上知道如何做到这一点，对吧？所以，你会说这个机器人是一个智能体，它解决了控制问题，即如何将球射入球门，它需要感知世界，而世界正在干扰它并试图做到这一点，对吧？所以它必须控制许多变量来实现这一点，并将自身和球投射到未来，理解它在场上相对于球的位置等等，以及它的肢体位置或它周围的空间等等。所以它需要有一个足够的模型，以一种有用的方式抽象现实，你可能会说这个机器人在某种意义上确实对其所做的事情拥有自主性，而这个模型将是一个控制模型，在这个控制模型内部，你可能会达到一个点，即这个东西足够抽象，能够发现它自己的自主性。
我们目前的机器人没有做到这一点，它们没有一个统一的宇宙模型，但我们没有理由不在不远的将来某个时候达到这一点。一旦发生这种情况，你会注意到机器人会讲述一个关于机器人踢足球的故事，所以机器人会在它用来构建其在场上肢体位置模型的世界模拟中体验自己踢足球，与球的关系，它不会在分子层面，它将是一个抽象，恰好在最适合机器人运动的过去规划的层面，对吧？它将是一个高层次的抽象，但一个非常有用的抽象，它具有我们所能达到的预测性。而在那个故事的这一面，有一个关于该系统自主性的模型，所以这个模型可以准确预测模型的内容将在不久的将来驱动机器人的行为。
但存在意识的难题，我也会说，还有自由意志的主观体验，我不确定机器人从何获得这一点，那个小小的飞跃在哪里，因为对我来说，现在我所想象的那个机器人，随着它变得越来越复杂，其自主性仍然来自于机器人的程序员，来自于被编程进去的东西。你可能可以做一个端到端学习系统，你可能需要给它一些“祈祷”，这样你就能将架构推向正确的方向，使其更快收敛，但最终，发现架构的合适超参数也只是一个搜索过程，对吧？而这个搜索过程就像进化一样，它塑造了我们的大脑架构，所以我们可以在一生中收敛于与世界的有用互动。如果我们广义地定义超参数，那么它不仅仅是控制这个端到端学习系统的参数，而是机器人设计的整体，比如，你必须将人类完全从画面中移除，然后为了建造机器人，你必须创造一个完整的宇宙，因为你必须从头开始，你不能只是走捷径进化，你必须从一开始就让它拥有，因为我感觉总有一个人类在幕后操纵，这让机器人看起来像是在作弊，它正在获得通往意识的捷径。
当你看着目前的波士顿动力机器人时，它看起来不像有人在幕后操纵，它看起来不再像作弊了。好的，那我们来谈谈这个，因为我必须和你谈谈。所以很明显，就波士顿动力的情况而言，你可能知道也可能不知道，它总是硬编码或远程控制的，没有智能。我不知道目前这一代的波士顿动力机器人是如何工作的，但我被告知以前的机器人基本上都是控制论控制，这意味着你仍然有反馈机制等等，但它在很大程度上不是目前所做的深度学习，它在很大程度上只是识别一个与现有肢体以及需要优化这些肢体运动的参数相符的控制层次结构，然后有一个收敛过程，所以它基本上只是你需要控制的回归。但我再次强调，我不知道这是否属实，这只是我被告知它们是如何工作的。我们必须在这里区分几个层面的讨论。所以它们唯一做的就是相当复杂的控制，没有机器学习，为了保持平衡或自我纠正，这是一个控制问题，即在使用执行器时，当它被推或踩到不平的东西时，如何始终保持平衡，是的，周围有一套棘手的启发式方法，但那只是唯一的目标。
你看到波士顿动力公司所做的一切，对我们人类来说都很有吸引力，也就是任何一种高阶运动，比如转弯，扭动臀部，比如，你知道，跳回双脚站立，跳舞。跳舞甚至更糟，因为跳舞是硬编码的，它是人类编排的，有编舞软件。所以，所有这些高层次的运动，你肯定不能称之为人工智能，甚至没有基本的启发式方法，它都是硬编码的。然而我们人类立即将自主性投射到它们身上，这非常引人入胜。所以这里的差距是，它不一定有自主性，它有控制论控制，而控制论控制意味着你有一个反馈循环的层次结构，将行为保持在一定的范围内，这样机器人就不会摔倒，并且能够执行这些动作。编舞无法真正通过动作捕捉实现，因为机器人会摔倒，因为机器人的物理特性、重量分布等与人体的重量分布不同。所以如果你直接使用人体动作捕捉的动作将其投射到这个机器人上，它就不会起作用。你可以用电脑动画来做，它看起来会有点不对劲，但谁在乎呢？但如果你想纠正物理特性，你基本上需要告诉机器人它应该如何移动它的肢体，然后控制算法会近似一个解决方案，使其在机器人的物理特性范围内成为可能，你必须找到实现这一点的基本解决方案，并且可能需要一些回归来使控制架构实现这些运动，但这两个层面是分开的。是的，关于你如何移动以及应该在哪里移动的更高层次的指令是这样的。所以我预计这些机器人的控制层面在某种程度上是“笨”的，这只是物理控制运动，是运动架构，但它是一个相对智能的运动架构，只是没有关于必须做出什么决策的高层次深思熟虑，对吧？
但是你看，这感觉不像自由意志。不，那不是我想要表达的。我认为在我们自己的身体里也有这样的东西。所以我们有一个基本上只是控制论控制架构的东西，它在移动我们的肢体，如果一开始你没有这样的架构，深度学习可以帮助发现它。如果你已经了解你的硬件，你也许可以手工制作它，但如果你不了解你的硬件，你可以搜索这样的架构。这项工作在80年代和90年代就已经存在了，人们开始通过运动咿呀学语等方式搜索控制架构，并使用强化学习架构来发现这样的东西。现在想象一下，你体内已经有了控制论控制架构，你稍微扩展一下，比如你在寻找食物，或者休息等等，你在某个时候有了孩子，现在你不断地增加更多的控制层，系统正在逆向工程自己的控制架构，并建立一个高层次模型来同步追求非常不同且相互冲突的目标。我认为这就是你如何获得目的，目的是你目标的模型。这些目标可能是内在的，是由于你拥有的不同设定点违反而产生的，比如饥饿和口渴，以及休息和避免疼痛等等。你把所有这些东西放在一起，最终你需要想出一个策略来同步它们。你不需要独自一人做这件事，因为我们是建立国家的生物，我们无法像智人那样在孤立中运作。所以我们自己的行为只有当你非常远地放大到社会，甚至放大到地球上的生态系统智能以及我们在其中的位置时，才具有意义。所以个体行为只有在这些更大的背景下才具有意义。我们体内内置了许多先验知识，所以我们从一开始就表现得好像我们在追求这些高层次目标。最终在我们的一生中，我们可以逆向工程我们正在追求的目标，即我们真正的高层次目的是什么，我们越理解这一点，我们的行为就越有意义。但这一切在这一点上都是故事中的复杂故事，驱动着我们的行为。
是的，我只是不知道要开始创建一个能够在故事中讲述故事的系统，这需要多大的飞跃，从目前波士顿动力公司或任何在物理空间中运行的机器人所处的位置来看，这需要多大的飞跃。如果它需要解决意识的难题，那这个飞跃可能很大，意识的难题就是讲述一个非常好的故事。我怀疑意识本身相对简单，困难的是感知以及感知与推理之间的接口，例如，这就是乔舒亚·班吉奥（Joshua Bengio）所说的意识先验（consciousness prior）的理念，它将被内置到这样的系统中。他所描述的，我认为是准确的，就是我们自己的世界模型可以通过某种能量函数来描述。能量函数正在模拟模型中在任何给定点存在的矛盾，你试图最小化这些矛盾，即模型中的切线。要做到这一点，你有时需要测试事物，你需要有条件地消除图形和背景的歧义，你需要区分这是真的还是那是真的等等。最终你会得到一个解释，但你需要手动按下模型中的几个点，让它进入一个有意义的状态。根据乔舒亚·班吉奥的说法，这个试图在你的模型中获得能量函数最大下降的功能与意识有关，它是一个低维离散函数，试图最大化能量函数中的这个下降。
是的，我想我需要深入研究细节，因为我认为他使用“意识”这个词的方式更像是自我意识，比如在世界中模拟自己，而不是主观体验，即难题。不，甚至不是自我存在于世界中，自我就是智能体，你不需要意识到自己才能有意识。自我只是你可能拥有的一种特定内容，但你不必拥有，对吧？你可以在例如夜间的梦境中或冥想状态下有意识，但你没有自我，对吧？你只是意识到你正在意识到。而我们所说的意识，在口语意义上，很大程度上是这种反思性的自我意识，我们意识到你正在注意，我们是那个注意的东西，我们是那个注意的东西，对吧？我看不出我们意识到的这种意识，这个难题是如何解决的。我的意思是，它被称为难题是有原因的，因为它似乎需要一个重大的飞跃。
是的，我认为主要的飞跃在于理解机器如何能够做梦，物理系统如何能够创造一个物理系统正在作用的表征，以及它是如何被旋转力等等驱动的。但是一旦你接受你不在物理世界中，而是存在于故事之中，我认为这个谜团就消失了。在“存在于故事之中”的陈述中，一切皆有可能。好的，所以你的意识被写入故事中，你体验事物的事实被写入故事中。你问自己：“我所看到的这是真实的吗？”你的大脑写入故事中：“是的，它是真实的。”那么意识的感知呢？所以对我来说，你看起来有意识。所以，意识的幻觉，意识的展示。我问那个有腿的机器人，我们如何让这个有腿的机器人有意识？所以有两件事，也许你可以告诉我它们是否是相邻的想法：一个是真正让它有意识，另一个是让它在他人看来有意识。这些是相关的吗？
嗯，让我们从另一个方向来问，要让你失去意识需要什么？所以当你思考你如何感知世界时，你能否决定从关注感质（qualia）转向关注表征状态（representational states）？结果证明你可以。是的，有一种特定的方式，你可以看待世界并认识到它的机器本质，包括你自己的。在这种状态下，你不再以这种方式拥有那种有意识的体验。一切都以表征的形式显现，一切都变得不透明。我认为你将一切都识别为表征的这种状态，通常就是我们所说的开悟状态。是的，你不能拥有一个动机层面，但你也可以在体验层面和感知层面做到这一点。看，但我可以回到有意识的状态。
好的，我特别指的是社会方面，即意识的展示在派对上当你试图认识新朋友时是一件非常好的事情。知道他们有意识并且他们能够……我不知道意识在人类互动中有多么基础，但它似乎至少是一个重要的部分。我以同样的方式问机器人，你知道，为了创造一个丰富而引人入胜的人机互动，感觉上这种互动中需要有意识的元素。我的猫显然是有意识的，所以我的猫可以表演这个派对把戏。她也知道我也有意识，能够对我们都在根据我们自己的意识模型行事这一事实进行反馈。问题是，对于机器人，人工创造的机器人来说，要达到猫的水平和派对把戏有多难？
是的，所以对我来说，目前的问题与其说是如何构建一个能够讲述一个关于生活在世界中的机器人的故事的系统，不如说是如何对世界进行充分的表征。你和我都拥有的模型是一个统一的模型，它是一个动词，你基本上可以理解你所能感知的一切，世界上进入你感知的所有特征都可以关系性地映射到一个统一的一切模型中。我们还没有一个能够构建这种统一模型的人工智能。所以你需要那个统一模型来做派对把戏。是的，我认为如果这个东西有意识但与你不在同一个宇宙中，那它就没有意义，因为你们无法相互关联。
那么，你认为在机器中工程化意识的过程是什么？这里有什么想法？所以，你可能想要某种感知系统。这个感知系统是一个处理智能体，它能够跟踪感官数据并预测下一帧，以及从前几帧感官数据中获取的当前系统状态下的感官数据。所以系统的当前状态是感知，有助于预测接下来会发生什么。这意味着你构建了大量函数，它们接收你皮肤上感受到的所有脉冲，你视网膜上看到的，或者你听到的，并将它们放入一组关系中，让你能够预测下一帧中你将感知到什么样的感官数据，什么样的传感器脉冲，你的脉冲向量，对吧？这是经过调整的，并且不断调整，直到它尽可能准确。你构建了一个非常准确的预测机制，这是感知的第一步。所以首先你预测，然后你感知并看到你预测中的错误。你需要做两件事来实现这一点：一是你必须建立一个关系网络，这些关系是约束，它们将世界中的所有变体放入一个变量中，这个变量与其他变量通过关系连接，这些关系是可计算的函数，它们相互约束。所以当你看到一个鼻子指向空间中的某个方向时，你有一个约束说附近应该有一个脸，它有相同的方向，对吧？如果不是这样，你就会遇到某种需要解决的矛盾，因为它可能不是你正在看的鼻子，它只是看起来像一个。所以你必须重新解释数据，直到你的模型收敛。而这种使感官数据适应你的模型结构的过程就是皮亚杰（Piaget）所说的同化，而顺应（accommodation）是模型的改变，你改变你的模型，使其能够同化一切。
所以你正在谈论构建一个非常棒的感知系统，它能够进行预测和感知，并进行纠正和改进。等等，如果必须等待，还有更多。是的，还有更多。所以我们想要做的第一件事是最小化模型中的矛盾。是的，当然，构建一个通过允许它处于许多许多可能状态来最小化矛盾的模型是非常容易的，对吧？所以如果你增加自由度，你将会有更少的矛盾。但你也想减少自由度，因为自由度意味着不确定性。你希望你的模型尽可能地减少不确定性，但减少不确定性是昂贵的。所以你必须在最小化矛盾和减少不确定性之间进行权衡。你只有有限的计算资源和实验时间和精力来减少世界中的不确定性。所以你需要为你观察到的东西赋予价值。所以你需要某种动机系统，它正在评估你应该看什么，你应该思考什么，你应该如何应用你的资源来建模那是什么，对吧？所以你需要有像收敛链接这样的东西，它们告诉你如何从模型的当前状态到达下一个状态。你需要有这些兼容性链接，它们告诉你存在哪些约束以及哪些约束违反。你需要有某种动机系统，它告诉你应该注意什么。
所以现在我们在感知智能体旁边有了第二个智能体，我们有一个动机智能体。这是一个控制论系统，它正在建模系统需要什么，对系统来说什么重要，并且它与感知系统互动以最大化预期奖励。你是不是说动机系统是某种高层次的叙事，凌驾于一些低层次之上？不，它只是你的脑干部分，边缘系统部分，它告诉你“好的，现在你应该吃点东西，因为我刚刚测量了你的双重血糖”，就像动机系统，就像低层次的。是的，就像饥饿。是的，但基本上有生理需求、一些认知需求和一些社会需求，它们都相互作用，并且它们都作为动机系统在你的神经系统的不同部分实现。但它们基本上是控制论反馈循环，它没有那么复杂，只是大量的代码。
所以现在你有一个动机智能体，它让你的机器人去追球，或者让你的蠕虫去吃食物等等，你有一个感知系统，让它能够预测环境，所以它能够在一定程度上解决那个控制问题。现在我们了解到，构建一个能够同时查看所有数据以了解它们之间可能存在何种关系的机器学习系统是非常困难的。所以你需要选择性地建模世界，你需要弄清楚如果我把以下事物放在一起，我能在哪里产生最大的不同。有时你会找到一个梯度，对吧？当你有一个梯度时，你不需要记住你从哪里来，你只需沿着梯度前进，直到它不再变好。但如果你的世界中问题是不连续的，搜索空间也是不连续的，你需要保留你探索过的记忆，你需要构建一个接下来要探索什么的计划。这意味着除了这个感知构建系统和动机控制论之外，你还有一个智能体，它在任何给定时刻都在关注它应该选择什么以最大化奖励，而这个扫描系统，这个注意力智能体是意识所必需的，意识是它的控制模型。所以它是这个东西在操纵感知表征以最大化价值、最小化冲突并增加连贯性时所保留的索引记忆。所以意识的目的是在你的感知表征中创造连贯性，消除冲突，预测未来，构建反事实表征，这样你就可以协调你的行动等等。为了做到这一点，它需要形成记忆。这些记忆是工作记忆内容的局部绑定状态，这些内容稍后会被重新访问，以回溯、撤销某些状态、寻找替代方案。而这些你可以回忆起的索引记忆，就是你所感知的意识流，能够回忆起这些记忆就是让你有意识的原因。如果你无法记住你注意过什么，你就不会有意识。所以意识是记忆数据库中的索引。
好的，嗯，让我再深入一点探讨意识的问题。所以我们通常将痛苦与意识联系起来。我认为对我来说，承受痛苦的能力是意识的一个非常强烈的标志，一个能够承受痛苦的东西。痛苦是如何有用的？在你刚才描述的模型中，痛苦是如何与记忆的索引以及与正在进行的预测性感知保持一致的？痛苦与这些有什么关系？你知道，人类所经历的更高层次的痛苦，基本上疼痛是一种强化信号。疼痛是你的大脑某一部分发送给大脑另一部分，或者抽象地说，你的心智某一部分发送给心智另一部分的信号，以调节其行为，告诉它你当前表现出的行为应该改进。这就是我告诉你的信号，让你远离你正在做的事情，并朝着不同的方向推进。所以疼痛给你一部分冲动，让你做一些不同的事情。但有时这不起作用，因为你的大脑的训练部分正在与错误的区域对话，或者因为它对世界中的关系模型有误，也许你正在错误地建模自己，或者你正在错误地建模自己与世界的关系，或者你正在错误地建模世界的动态。所以你试图通过产生更多的疼痛来改进一些无法改进的东西，但系统没有任何替代方案，所以它不会变得更好。如果事情没有好转，而你又希望它好转，你会怎么做？你增加信号的强度，然后当它在内部没有变化的情况下变得永久时，信号就变成了慢性。这就是我们所说的痛苦。意识的目的是处理矛盾，处理那些无法解决的事情。我认为意识的目的是类似于管弦乐队中的指挥，当一切运作良好时，只要它连贯，管弦乐队就不需要太多的指挥。但当缺乏连贯性，或者有什么东西持续产生不和谐和不匹配时，指挥就会警觉并与之互动。所以痛苦吸引了我们意识的活动，其目的理想情况下是让我们引入新的建模层，这些层能够创建失调的模型，这样我们就可以处理它。这意味着我们通常会获得更高层次的意识，可以说，对吧？我们可能会获得一些超出我们能力范围的意识，也许如果我们在生命早期经历了一些痛苦，大多数有趣的人在童年早期都经历过创伤，创伤意味着你正在遭受一种系统没有准备好、无法处理、无法自我隔离的伤害，所以有些东西坏了。这意味着系统的行为以某种不匹配的方式永久性地受到干扰，仅仅通过遵循你的冲动，通过沿着疼痛的方向去感受，情况并没有改善，反而变得更糟。所以需要发生的是你成长起来，是的，而成长起来的那一部分能够处理停留在早期阶段的那一部分。是的，所以它会导致成长，为你的认知增加额外的层次。
嗯，那让我问你，因为我必须坚持痛苦这个话题，整个事情的伦理问题。所以不是我们自己的意识，而是他人的意识。你曾发推文说：“我最大的恐惧之一是昆虫可能有意识，地球上的痛苦数量将是不可想象的。”所以当我们想到其他有意识的生物时，痛苦是我们最关心的意识属性吗？所以我仍然在思考机器人，如何理解其他非人类事物，它们似乎拥有人类所拥有的经验深度，对我来说，这意味着意识，以及它最黑暗的一面，那就是痛苦，承受痛苦的能力。所以我开始思考，我们对那些其他有意识的生物负有多少责任？这就是意识的定义变得最紧迫的地方，比如不得不提出一个意识的定义变得最紧迫，那就是我们应该折磨谁，不应该折磨谁。对此没有普遍的答案。成吉思汗做错了什么吗？这取决于你如何看待它，对吧？嗯，他在某个地方划了一条线，这是我们，那是他们。这是同理心圈，就像这些东西，我们不必使用“意识”这个词，但这些东西对我来说很重要，它们是否痛苦，而这些东西不重要。是的，但是当他的一位指挥官让他失望时，他折断了他的脊椎，让他以一种可怕的方式死去。所以在某种意义上，我认为他对痛苦漠不关心，或者说他并非不同，因为他认为施加痛苦没有用，但他不认为痛苦是必须避免的，那不是目标。问题是，从他的角度来看，我如何利用痛苦和施加痛苦来达到我的目标？
我明白了，所以历史上不同的社会对不同的个体、不同的心理赋予了不同的价值，但甚至避免痛苦的目标，比如有些社会可能——我的意思是，这就是宗教信仰真正有帮助的地方，那个来世，你是否受苦或死亡并不重要，重要的是你光荣地受苦，对吧？这样你就能进入来世。这对我来说似乎是迷信，基本上，那些断言没有证据支持的事物的信仰与健全的认识论是不相容的，而且我认为宗教不必是迷信的，否则它就应该被谴责。
好的，在所有情况下，你都是一个说我们生活在一个梦境世界里，我们对任何事物都没有证据的人，所以情况并非如此。语言的构建是有限制的，数学为其自身的结构提供了确凿的证据。一旦我们对存在哪些语言、系统如何学习以及学习本身首先是什么等等有了一些了解，我们就可以开始意识到我们的直觉，即我们能够学习世界的规律性，最小化评估，并在一定程度上抽象地理解我们自身自主性的本质，那不是幻觉，所以这是一个有用的近似。
仅仅因为我们生活在一个梦境世界中，并不意味着数学不能给我们一个关于物理客观现实的一致瞥见。我们基本上可以区分有用的编码和无用的编码。当我们对世界进行求真时，我们知道我们通常无法找出某件事是否真实。我们通常所做的是，我们取宇宙的状态向量，将其分离成相互作用的独立对象，即接口。我们所做的这种区分并非完全任意，它是为了优化我们可以应用于宇宙模型的压缩，这样我们就可以用有限的资源预测正在发生的事情。从这个意义上说，它不是任意的，但将世界分离成某种离散并相互作用的对象并非真实现实，对吧？对象之间的边界被投射到世界中，并非任意投射，但它仍然只是对实际情况的一种近似。我们有时会注意到，当我们试图理解世界中的高层次事物，比如经济方面等等，或者政治方面，或者心理方面时，我们会遇到矛盾，我们在这些方面进行了简化，而我们用来分离世界的对象只是正在发生的事情的许多可能投射之一。所以，它并非以后现代主义的意义来说是完全任意的，你可以自由选择你想要的，或者摒弃你不喜欢的，因为它都是故事。不，那不是真的。你必须为每个模型展示它预测世界的能力如何，所以你对模型中实体的信心应该与你拥有的证据相符。
我能岔开话题问一下你最喜欢的一系列思想和人物，也就是后现代主义吗？后现代主义是什么？你会如何定义它？为什么对你来说它不是一个有用的思想框架？嗯，后现代主义是我确实不擅长的东西，后现代主义是一系列难以归类在一起的哲学思想，它以一些有用的思想家为特征，其中一些是后结构主义者等等。我之所以大部分不感兴趣，是因为我认为它没有把我引向任何我特别有用的地方。我认为它主要是源于这样一种洞察：我们强加给世界的本体论并非字面意义上的真实，而且我们通常可以通过使用不同的本体论，即以不同的方式将世界分离成相互作用的对象，从而对世界获得不同的解释。但我认为这种观点，即这使得世界成为一组任意的故事，是错误的。从事这种哲学的那些人正在从事一个我大部分认为没有成效的领域，没有什么有用的东西从中产生。所以这种“真理是相对的”观念，在某种意义上并没有影响物理学或相对论，两者之间没有反馈。这种哲学对科学、工程或政治没有有意义的影响，但它对意识形态有非常强烈的影响，因为它基本上已经成为一种意识形态，通过“真理是相对概念”的观念来为自己辩护，而且它并没有以这样一种方式被使用：那些采纳这些思想的哲学家或社会学家会说“哦，我应该怀疑我自己的想法，因为也许我将世界分离成对象的方式并不完全有效，他们也许应该使用不同的方式，并对思想的多元化持开放态度”，但它主要存在是为了驳斥他人的想法。它变成了，是的，它变成了一种政治武器，旨在获取权力。基本上，我认为围绕这个发展哲学并没有错，但围绕“真理是完全可协商的”这一观念发展规范与科学项目是不相容的。而且我认为，如果学术界对后现代主义运动的意识形态部分没有防御，它就注定要失败，对吧？你必须承认任何运动的意识形态部分，实际上，包括后现代主义。
嗯，问题是意识形态是什么。对我来说，意识形态基本上是一个病毒式的模因复合体（memplex），它以一种扭曲现实的方式改变你的思想。它以一种让你与人类思想空间的其余部分隔绝的方式被扭曲，你无法考虑超出你自身意识形态思想范围的事物，它可能是真实的，对吧？所以我的意思是，意识形态有一些特性使其有害，其中之一就是教条主义，即那种顽固的确定性，认为你是对的，你拥有真理，而其他人都没有。但是是什么创造了这种确定性呢？观察所产生的模型类型非常有趣。它基本上只是为了建立一个强烈的先验，然后你告诉人们“哦，你认为非常真实的这个想法，其证据实际上比你想象的要弱得多，看看这里的一些研究”？不，它不是这样运作的。它通常是规范性的，这意味着有些想法是不可想象的，因为它们会把你的身份变成不再可接受的东西，这让你无法考虑替代方案。许多事实上的宗教都使用这个伎俩将人们锁定在某种思维模式中。这剥夺了你对自己思想的自主性，这对我来说非常丑陋。它基本上不仅仅是一个驯化过程，它实际上是一种智力阉割，它是一种无法创造性思考和提出新想法的能力。
我能问你一些关于影响电子游戏，也就是梦境世界的化学物质吗？比如迷幻药，它们正越来越多地得到大量研究。所以总的来说，迷幻药、裸盖菇素、MDMA，还有一个非常有趣的，重要的，那就是DMT。这些物质将正在梦境世界中运作的心智带到何处？你对这如何给预测模型带来一个“皱褶”有什么有趣的看法吗？这只是一个奇怪的小怪癖，还是心智正在发生某种根本性的扩展？
我怀疑看待迷幻药的一种方式是，它们会诱导特定类型的清醒梦状态。所以这是一种状态，在这种状态下，你大脑中的某些连接被切断，当它们不再活跃时，你的心智基本上可以自由地朝着某个方向移动，因为某些抑制，某些特定的抑制不再起作用。结果，你可能会停止拥有自我，或者你可能会停止将世界感知为三维的，你可以探索那种状态。我猜想，对于每一种可以通过迷幻药诱导的状态，都有人天生处于那种状态。所以有时迷幻药会让你经历一系列可能的精神状态，它们也可以让你脱离允许的精神状态范围，即你可以建立现实预测模型的地方。而我观察到那些大量使用迷幻药的人，他们往往会出现过拟合。过拟合意味着你为建模函数动态使用的比特数超过了应有的数量，因此你可以将你的曲线拟合到过去极其详细的事物上，但这个模型对未来不再具有预测性。
迷幻药有什么特性会强制产生这种情况？我以为会是相反的。我以为，我以为，嗯，它是一种很好的机制，用于泛化，用于正则化。所以感觉迷幻药扩展了心智，就像把你带到外面，就像强制你的模型变得非预测性是一件好事，意思是，嗯，这几乎就像，好的，我会说迷幻药类似于旅行到一个完全不同的环境，比如如果你从未从美国去过印度或类似的地方，那里有非常不同的人群，不同的文化，不同的食物，不同的道路和价值观以及所有这些东西。
是的，所以迷幻药可以，例如，将人们传送到一个双曲宇宙中，这意味着如果你想象你所在的房间，你可以转360度，但你没有转完一圈，你需要转720度才能转完一圈，没错。所以人们在这种状态下学到的东西不能轻易地转移到我们所在的这个宇宙中。可能是，如果他们能够抽象地理解发生在他们身上的事情，他们就会明白他们空间认知的一部分已经失同步，并找到了不同的同步方式，而这种不同的同步方式恰好是双曲的，对吧？所以你学到了一些关于你大脑的有趣知识，很难理解到底发生了什么，但一旦我们理解大脑是如何表示几何的，我们就会有一个相当好的想法。
是的，但这难道不能让你对物理现实有一个全新的视角吗？那个声音是谁发出的？是在我脑子里还是外部的？嗯，你心智之外没有声音，但是，它经常在我的九物理学上讲得通，是的，在物理现实中，有声波在空气中传播。好的，那是我们对明天发生的事情的模型，对吧？那难道迷幻药不能让你对这个物理现实有一个全新的视角吗？不是这个物理现实，而是这个更……你称之为梦境世界的东西，它直接映射到夜间做梦的目的，我认为是的，剧场增强。嗯，没错，所以那非常不同，那非常相似，只是改变了你所学事物的参数。例如，当你年轻时，你从某些角度看过事物，但没有从其他角度看过，所以你的大脑正在生成你已经知道的物体的新视角，这意味着它们以后可以从不同角度识别它们。我怀疑这就是我们许多人记得小时候有飞翔梦的原因，因为它只是我们已经知道的世界的不同视角，然后它开始生成这些不同的视角变化，然后它流畅地将其转化为飞翔梦，以理解正在发生的事情，对吧？所以你填补了空白，突然你看到自己飞起来了。
类似的事情也可能发生在语义关系上，所以它不仅仅是空间关系，也可能是思想之间的关系正在被改变。而且似乎在做梦时发生这些事情的机制，正在与迷幻药刺激的相同受体相互作用。所以我怀疑有一件事我还没有真正读到过，那就是大脑中梦境是如何诱导的。不仅仅是因为你的眼睛闭着，你不再从眼睛获得足够的数据，所以大脑的活动被调低了，而是在这些阶段，在快速眼动（RM）阶段，有一种特定类型的神经递质正在饱和你的大脑，你产生了受控幻觉，而迷幻药正在与这些机制连接，我怀疑。所以还有另一种更棘手的数据增强形式，是的，但它也是一种可能发生在你的大脑所适应的规范之外的数据增强。所以基本上人们正在“超频”他们的大脑，这产生了主观上极其有趣的状态。是的，我只是，但从一开始就非常可疑。所以我认为我在自己的脑海中过度应用了神经网络的比喻，我只是认为那不会导致过拟合，对吧？但是你刚才只是在轶事性地说，我与那些没有迷幻药或那种品质的人的经历，我认为这通常会发生。所以如果你看看像蒂莫西·利里（Timothy Leary）这样的人，他写过关于LSD对人们影响的优美宣言。他真诚地相信，他在这些宣言中写道，未来科学和艺术将只在迷幻药上进行，因为它效率更高，效果更好。他在旧金山附近的一个几千人的社区里给孩子们服用LSD，基本上他正在脱离现实。他不理解他所做的事情会对社会对迷幻药的接受产生什么影响，因为他无法批判性地思考发生了什么。发生的事情是他进入了一种欣快状态，这种欣快状态的发生是因为他过拟合了。他将这种欣快感转化为一个关于在世界中实际成功的模型，对吧？他感觉更好了，他认为存在的限制消失了，但他没有获得超能力。我现在明白你所说的过拟合是什么意思了，在这种情况下，过拟合这个词有很多解释，但我明白了。所以他正在从今年的许多行动中获得积极的奖励，但不仅仅是这些。所以如果你以约翰·利利（John Lilly）为例，他研究海豚语言和外星人等等，是的，许多使用迷幻药的人变得非常古怪，当你看到人们服用迷幻药时，你通常会注意到他们处于一种感觉一切都可以解释，一切都清晰，一切都显而易见的状态。是的，有时他们确实发现了一个有用的联系，但并非总是如此，很多时候这些联系都是过度解读。我好奇，你知道，有一个关于相关性与因果关系的问题，我也好奇是迷幻药的作用，还是更多的是社会因素，比如作为局外人，拥有一个强大的局外人社区，并在一个局外人邪教般的社区中拥有领导地位，这可能比迷幻药本身，即实际的物质，对过拟合产生更强的影响，因为它是一种反文化的东西。所以可能是，与实际物质相反，如果你是一个穿着西装打领带在银行工作的无聊之人，服用迷幻药，那对你的心智可能会产生非常不同的影响。我只是想指出，你提到的那些人本身就是怪人。我不确定，哦不，不一定。很多告诉我他们以有用方式使用迷幻药的人，一开始都是“正常人”，他们解放了自己，因为他们被困住了。他们基本上被困在自己与世界关系的自我模型的局部最优解中，突然他们有了数据增强，他们基本上将可能性空间视为一种体验，他们体验了成为另一个人会是什么样子。是的，他们从那次经历中带回了重要的教训。是的，我的意思是，我喜欢数据增强这个比喻，因为那是计算机视觉领域自监督学习的主要驱动力，就是数据增强。所以想到数据增强，就像化学诱导的人类心智中的数据增强，这很有趣。还有一个我注意到的非常有趣的效应，我认识几个人，他们向我发誓说LSD治愈了他们的偏头痛。所以严重的丛集性头痛或偏头痛，对标准药物没有反应，在单次剂量后就消失了。我不建议任何人这样做，尤其是在美国，那里是非法的，而且因此没有这方面的研究。但是，似乎，根据轶事，它基本上可以重置血清素系统，所以它基本上将他们推到正常边界之外，结果它需要找到一个新的平衡，并且在。
有些人认为平衡更好，但这也意味着对其他人来说，情况可能会更糟。所以，如果你有一个大脑已经摇摇欲坠，濒临精神病的边缘，它可能会被永久地推过那个界限。
这就是为什么你必须做好科学研究，他们正在对所有这些不同的物质进行研究，看看它们对不同的疾病到底有多有效。例如，MDMA似乎对PTSD有帮助，迷幻蘑菇也是如此。你知道，你需要做好的科学研究，这意味着要进行大规模的研究，是的。
所以，基于现有的MDMA研究，似乎如果你看看Rick Doblin的工作和他发表的关于这个的言论，MDMA似乎是一种在心理上相对安全的药物，但它在生理上并不非常安全。也就是说，如果你使用过大的剂量，并且你将其与酒精结合，而很多孩子在派对场合，在狂欢等场合都会这样做，它就会有很强的肝毒性。所以，基本上你可以杀死你的肝脏。这意味着，它可能最适合、最有效地在临床环境中，由真正知道自己在做什么的人来使用。
我怀疑这对其他迷幻剂也是如此。也就是说，虽然其他迷幻剂可能不像酒精那样有毒，但它们对精神的影响可能要深刻得多，也持久得多。
是的，就我所知，迷幻蘑菇，也就是魔法蘑菇，就我所知，就他们正在进行的研究而言，我认为它们没有像他们所谓的“英雄剂量”那样，所以它没有毒性。所以他们可以在临床环境中服用巨量剂量，当他们对迷幻蘑菇进行研究时，这有点有趣。
似乎大多数迷幻剂在极小的剂量下就能起作用，这意味着它们对身体其他部分的影响相对较小。而MDMA可能是个例外。也许氯胺酮在大剂量时可能很危险，因为它会抑制呼吸等等。但LSD和迷幻蘑菇在非常非常小的剂量下就能起作用，至少它们活性部分是如此。LSD的活性部分只有一部分，但它对你的精神连接可能产生的影响可能非常危险。
我认为，让我们来谈谈人工智能。你对GPT-3和通过自监督学习训练的语言模型有什么看法？它已经出来一段时间了，但我想听听你的想法。
是的，在90年代，我在新西兰，我有一位了不起的教授Ian Witton，他意识到课堂上有工作要做，就把我安排进了他的实验室。他给了我一项任务，要在一种未知的语言中发现语法结构。我选择的未知语言是英语，因为它是最容易找到语料库来构建的。他给了我大学里最大的电脑，有2GB的内存，这真是太棒了。我用C语言编写了所有东西，并加入了一些内存压缩，以便对语言进行统计分析。
首先，我会创建一个包含所有单词的字典，这基本上是对所有内容进行标记化，并进行压缩，这样就不需要存储整个单词，只需要为每个单词存储一个代码。然后，我将所有内容分解成句子，并试图找出句子中所有单词之间的所有关系，并对它们进行统计分析。事实证明这是不可能的，因为复杂性太大了。所以，如果你想发现一个冠词和一个名词之间的关系，而它们之间有三个形容词，你就不能做N-gram统计，也不能查看所有可能存在的组合，至少不能用我们当时拥有的资源来做到。
所以我意识到我需要对我要进行统计分析的内容进行统计分析。所以我写了一个相当 hacky 的东西，它至少对第一阶关系进行了统计分析。我得出了某种互信息图，它确实发现了看起来完全像句子语法结构的东西，仅仅是通过尝试以一种方式编码句子，使得单词在模型中以最佳顺序排列。
我还发现，如果我们能够提高分辨率，不仅仅是使用这个模型来重现语法正确的句子，我们还可以通过在这些关系中拥有更多的比特来重现风格上正确的句子。如果我们想要有意义，我们就必须达到更高的阶数。而我当时不知道如何在不花费更多年的研究来研究如何对我们需要进行统计分析的内容进行统计分析的情况下，制造出更高阶的模型。
而这种无法查看输入中所有比特之间关系的问题，在不同领域以不同的方式得到解决。例如，在计算机图形学中，多年来计算机视觉的标准方法一直是卷积神经网络。卷积神经网络是过滤器层级，它们利用了这样一个事实：图像中的相邻像素通常在语义上是相关的，而距离较远的像素通常在语义上是不相关的。所以，你只需要将相邻的像素分层地组合起来，就可以重建物体的形状。这是我们构建到这些模型中的一个重要先验，这样它们就可以快速收敛。
但这在语言中不起作用，原因在于相邻的单词经常（但并非总是）相关，而遥远的单词有时也相关，而中间的单词却不相关，对吧？那么，你如何学习语言的拓扑结构呢？我认为，正是因为存在这种困难，Transformer才在自然语言处理领域被发明出来，而不是在视觉领域。
Transformer所做的是一个层级结构，其中每一层都学习在给定的上下文中，在前一层中应该关注什么，也就是应该对什么进行统计分析。而且上下文比相邻的单词要大得多。是的，GPT-3使用的上下文，Transformer本身是2017年出现的，它使用的上下文并没有那么大。OpenAI基本上将这个想法尽可能地扩展了。上下文大约是2048个符号，这些符号不是字符，而是将单词投射到一个向量空间，其中统计上经常共现的单词已经是邻居了。所以，这已经是对问题的一种简化了。
所以，每个单词基本上都是高维空间中的一组坐标，然后他们使用某种技巧来编码句子中单词的顺序，或者说，不是句子，而是2048个标记，大约是几页文本，或者两页半文本。所以，他们设法对两页文本之间潜在的关系进行了相当详尽的统计分析，这真是太了不起了，对吧？我当时只使用了一个句子，而且我只寻找第一阶关系，而他们实际上在寻找高得多的关系。
他们发现，在用大量的文本进行训练之后，基本上是互联网的书面内容，或者其中一部分有一定质量的内容，但很大一部分是常见的，他们不仅能够重现风格，还能够重现相当详细的语义，比如能够进行三位数加法，以及进行两位数乘法，或者在编程语言之间进行翻译等等。
所以，我认为GPT-3取得的结果是惊人的。顺便说一句，我实际上没有仔细检查，你刚才提到你如何将语义与乘法联系起来，这很有趣。它能否对两个数字进行一些基本的数学运算？是的，好的，很有趣。我以为有很多失败的案例。但基本上，如果你取更大的数字，比如四位数等等，它就会失败，会犯进位错误等等。如果你取更大的数字，你就得不到任何有用的结果了。
这可能是训练集的问题。在标准的书面文本中，并没有很多成功的长篇加法例子，而人类在做三位数加法方面也不是很好。是的，你没有写很多关于它的事情。
还有一点是，所使用的损失函数只是最小化意外性，它只是预测典型文本中接下来会发生什么，它并没有试图首先追求因果闭合，就像我们做的那样。但是，这种预测能够生成语义丰富且一致的文本，这很有趣。是的，所以它能够生成语义上一致的文本真是太神奇了。它并不一致，所以问题是它在某个时候会失去连贯性。
但是，我也认为说GPT-3完全无法处理语义是不正确的，因为你要求它对文本执行某些转换，它就会在文本中执行这些转换，而它能够执行的加法就是文本转换，对吧？而且其中涉及了恰当的语义。
还可以做更多。有一篇论文生成了大量的数学上正确的文本，并将其输入到一个Transformer中，结果是它学会了如何进行微分和积分，而且根据作者的说法，Mathematica无法做到这一点。对此，Mathematica的一些人回应说，他们没有正确使用Mathematica等等。我没有真正关注这个冲突的解决。
这个部分作为一个小小的题外话，我真的很不喜欢机器学习论文中经常出现的轶事证据。他们会找到一个例子，在某种特定的Mathematica使用中，然后展示“看，这里”，他们会展示成功和失败，但他们不会清楚地说明这实际上代表了多少案例。是的，但我认为作为第一篇论文，这是一个很好的开端。是的，所以，整个信息是，作者在他们的实验中可以从这个模型中获得比他们从他们正在使用的计算机辅助系统（即不是什么）中获得更好的结果。是的，而且它能够比GPT-3做得好得多，GPT-3使用了更多的训练数据，使用了相同的底层算法。
好吧，让我再问一遍。我正在使用你的推文，就像这是柏拉图一样，就像这是经过深思熟虑的小说一样，你写了。你发推说“GPT-4现在正在听我们说话”。这是一种询问GPT-3在规模化时的局限性的方式。那么，你认为GPT-4、GPT-5等等将具备什么样的能力？这种方法的极限是什么？
所以，显然，当我们现在写东西的时候，我们现在写的所有东西都将成为下一代机器学习模型的训练数据。所以，是的，当然，GPT-4正在听我们说话。而且我认为这条推文已经有点旧了。我们现在有了文心一言，我们还有许多其他系统，它们基本上是GPT-4的占位符。我不知道OpenAI的计划是什么。
我以几种方式解读了那条推文。一种是，显然，你在互联网上发布的一切都将用作训练数据。但第二种方式是，我们谈论了能动性，我将其解读为，GPT-4足够智能，能够选择倾听。不仅仅是程序员告诉它收集这些数据并用于训练，我几乎看到了幽默的一面，就像它已经实现了AGI一样。
嗯，问题是，我们可能已经在GPT-5中了，对吧？[笑声] 所以GPT-4正在倾听，而GPT-5实际上构建了我们整个现实。在某种意义上，现在AI领域的所有人都在努力将Transformer扩展到能够处理视频。而且有一些非常有前景的扩展，谷歌有一项名为Perceiver的工作，它通过让它分别学习不同模态的拓扑结构，并通过训练它寻找更好的输入特征来克服Transformer的一些局限性。
所以，这些基本上是特征抽象，被GPT-3的继承者所使用，它们被选择得如此之好，以至于它能够处理视频输入。还有更多的工作要做。所以，GPT-3的一个局限性是，它是健忘的。它会忘记它目前阅读的两页以外的所有内容，不仅在学习过程中，而且在生成过程中。
你认为这在深度学习的范围内是可修复的吗？你能不能只是让输入变得越来越大？不，我不认为我们自己的工作记忆是无限大的。它可能也只有几千比特。但是，你可以构建这个工作记忆。所以，而不是仅仅强行喂给这个东西它必须关注的东西，而它不允许它关注它网络中的任何其他东西，你允许它构建自己的工作记忆。就像我们一样，当我们阅读一本书时，并不是说我们如此集中注意力，以至于只能记住当前的一页。我们也会尝试记住其他页面，并尝试从它们那里学到的东西进行修改。我们可能会起身从书架上拿另一本书，我们可能会出去问别人，我们可以以任何有用的方式编辑我们的工作记忆，以将上下文联系起来，使我们能够得出正确的推论并学到正确的东西。
这种基于尝试完全连贯和实现因果闭合的能力，以实现某种建模美学，是最终需要完成的事情。而目前，我们某种程度上是在回避这个问题，通过构建更大、更快的系统，这样它们就可以利用比人类能够利用的更多的资源和更多的训练数据，来获得在某些方面已经非常超人类，而在其他方面却可笑地不连贯的模型。
所以，你认为，比如说，让系统变得“多分辨率”？也就是说，一些语言模型专注于两页，一些专注于两本书，一些专注于两年的阅读，一些专注于一生？就像堆叠起来的GPT-3一样，一直往下堆？
你想在它们之间留有空隙。所以，不一定是一年，而是从一年或二十年或两千年或二十亿年的时间里提取出来。你只是选择那些被预测为对你目前正在做的事情最有用比特。而这个预测本身就需要一个非常复杂的模型，这才是你真正需要制造的模型。你不仅仅是试图理解事物之间的关系，而是你需要制造关系，或者发现关系。
我想知道那个能够拥有那种模型的模型看起来是什么样的？我认为它需要比当前模型更多的自由度。它从你可能不仅仅想要一个前馈模型开始，而是你想要一个完全循环的模型，并且要使其完全循环，你可能需要将其反馈到自身，并允许它跳过连接。一旦你这样做，当你预测下一帧时，你的内部下一帧在每一刻，并且你能够跳过连接，这意味着信号可以比输入更快地从网络的输出传输到网络的中间。
你认为它仍然是可微的吗？你认为它仍然可以是一个神经网络吗？有时可以，有时不可以。所以，它仍然可以是一个神经网络，但不是一个完全可微的神经网络。而当你想要处理不可微的神经网络时，你需要有一个离散的、双维的注意力系统，并且能够执行语法操作。你需要能够进行程序合成。你需要能够回溯你对这个东西执行的操作。这个东西需要一个关于它目前正在做什么的模型。而我认为，这正是我们自己意识的目的。
那么，让我问你，这不完全是程序合成，而是这些语言模型在生成方面的应用，在程序合成方面的应用。如果你看看GitHub的Copilot，它是基于OpenAI的Codex的。我不知道你有没有机会看过它，但这是一个系统，一旦你用它提示，比如一个函数的头部和一些注释，它就能生成代码。它似乎能非常出色地生成函数，虽然不是完美的，但非常出色。你怎么看？这令人兴奋吗？还是这只是一个派对技巧，一个演示，还是革命性的？
我还没有用过它，所以很难判断。但我不会惊讶于它最终被证明是革命性的。这是因为，目前在行业中进行的大部分编程任务都不是创造性的。人们编写的代码是其他人写过的，或者他们将代码片段组合在一起。程序员所做的很多工作就是弄清楚如何克服他们目前的知识差距，以及别人已经做过的事情，如何从Stack Overflow复制粘贴。没错。所以，当然，我们可以自动化这一点，使其复制粘贴Stack Overflow的速度大大加快。
但它不仅仅是复制粘贴，它基本上也是学习你需要修改哪些部分才能让它们协同工作。就像字面上有时只是改变变量名，这样它就能融入你代码的其余部分。是的，但这需要你在一定程度上理解你正在做什么的语义。而且你可以自动化其中一些事情。是的，让人感到紧张的是，程序中一点点错误可能会对程序的最终操作产生巨大的影响。在语言领域这无关紧要，但在程序领域却可能非常重要。是的，但这就是人类编程时已经发生的事情。所以，我们有一种技术来处理这个问题。
当你知道一个程序生成的代码正在运行一个核电站时，它会变得更可怕。你知道人类也有错误。没错。但当一个程序这样做时，它会更可怕，因为为什么？为什么？我的意思是，有一种恐惧是，一个程序可能不像人类那样擅长知道什么很重要，什么不重要。有一种优先事项或价值观的错位，这可能是担忧的根源。我的意思是，好吧，如果我给你一份由GitHub Copilot生成的代码和一份由人类生成的代码，然后说“在这里使用其中一个”，你今天会怎么选？在接下来的10年里，你会选择使用哪段代码？你现在不会仍然觉得人类更舒服吗？
当你去斯坦福大学做核磁共振检查时，他们会向保险公司开出超过2万美元的账单，其中可能有一半由保险公司支付，四分之一由你支付。而核磁共振检查的成本是600美元，可能更少。那么，编写和部署这个过程的软件的人的价值观是什么？我很难说我是否信任人们。我认为那里发生的是一种混合，一种恰当的盎格鲁-撒克逊新教价值观，有人试图服务于一个抽象的更大的整体，以及有组织犯罪。
嗯，这是一个非常严厉的看法。你对人性的看法很严厉。这个世界上有很多坏人，无论是不称职还是恶意的。是的，但感觉越是邪恶，你对世界造成的伤害就越大，你自己的“人性”就越有阻力。但不能用恶意或愚蠢来解释的事情，可以用人们只是根据自己的激励行事来解释。所以，斯坦福发生的事情不是有人邪恶，而是他们只是在做他们被付钱做的事情。不，而那不是邪恶。我倾向于认为，是的，我将其视为恶意。我甚至像我私下告诉你的那样，做一个“好德国人”并不是绝对的恶意，而是一种小小的怯懦。我的意思是，当你看到世界上有什么不对劲的时候，要么是你能力不足，看不见，要么是你怯懦，不敢站出来，不一定是以一种大的方式，而是以一种小的。所以，我确实认为这有点恶意。
我不确定你描述的例子是否是问题所在。问题是你追求的是什么？而如果你不相信未来，如果你认为美元会崩溃，那么你为什么要想办法省下美元呢？如果你认为100年后人类将不复存在，因为全球变暖将摧毁文明，那么你为什么需要表现得好像它会发生一样？所以，问题是，是否存在一个普遍的美学，它将你和世界投射到未来？我认为这是宗教的基本思想，你将我们彼此之间的互动理解为某种文明层面的代理，它将自己投射到未来。如果你没有这个共同的目标，那么，为了什么而有道德呢？
所以，我认为当我们谈论AI的伦理时，我们需要超越那些疯狂的偏见讨论等等，在那里人们只是在衡量统计数据与他们偏好的当前世界模型之间的距离。但乐观主义，我之前的事情让我有点困惑，只是为了澄清，有一种潜在的道德，即对人类文明将持续超过一百年的乐观主义。就像，我认为很多人相信，继续活着是一件好事。当然，而且蓬勃发展。
道德本身并不是目的。它是为了让人们在100年后或500年后继续生存的工具。所以，它只有在你真的认为它会使人们在那个时间范围内存在，或者增加人们在那段时间框架内存在的可能性时才合理。而很多人实际上并不相信这一点，至少不是积极地相信。
但我相信，究竟是什么？大多数人都不相信他们能够负担得起按照这样的模型行事。基本上，在美国发生的事情是，我认为医疗保健系统对许多人来说不再可持续。这意味着，如果他们需要医疗保健系统的帮助，他们往往负担不起。而当他们负担不起时，他们往往会破产。我认为在美国，个人破产的主要原因是医疗保健系统。而这本不必如此。并不是因为人们消费的医疗服务越来越多，并且因此获得了更长的寿命。这并不是正在发生的故事。因为你可以与其他国家进行比较，美国的预期寿命目前没有增加，而且不像所有其他工业化国家那么高。
所以，一些工业化国家以便宜得多的医疗保健系统做得更好。而你可以看到，例如，行政臃肿。医疗保健系统可能在一定程度上是故意设立的，作为一个就业安置项目，让人们在没有有用和生产性用途的情况下继续过着中产阶级的生活。所以，他们被付钱来处理文件。而医疗保健系统中的行政人员数量的增长速度远远快于执业人员的数量。而这是你需要付费的。
而且，医疗保健系统产生的收入相对较大，有人必须为此付费。而结果是，它们之所以如此之大，是因为市场机制不起作用。FDA在很大程度上并没有保护人们免受医疗保健提供者的医疗事故，FDA在保护医疗保健提供者免受竞争。
好吧，这是与价值观有关的事情。而这并不是因为人们在所有层面上都是恶意的，而是因为他们没有被激励去为一个更大的整体而行动，去实现这样一个想法：你对待一个来到你面前的病人，就像对待家人一样。
但是，我们正在尝试，我的意思是，你正在强调我们正在运作的各种制度和系统的许多缺陷。但我认为，在历史的连续性中，机制设计一直在努力设计激励措施，使这些系统变得越来越好。我的意思是，要有效地管理一个拥有数亿人口的社会，确实是一件非常困难的事情。
所以，我们生活在一个不断自我纠正的社会吗？我们是否观察到我们对我们所做事情的模型能够预测未来？当它们不能时，我们是否会改进它们？我们的法律是否附带了你放在每条法律中的条款，说明该法律的目的是什么？如果它没有实现这个目标，法律就会自动被废除。如果你在优化你自己的法律，如果你在编写你自己的源代码，你可能会估计一下，我生活中目前有什么问题？我应该改变我的哪些政策？预期的结果是什么？如果那个结果没有出现，我就会把政策改回来，或者改成别的。我们是在社会层面上这样做吗？
我认为是。我认为很容易强调这一点。我认为我们正在以我目前经营生活的方式来做。我昨晚没睡多少。你会说，Lex，你经营生活的方式是，你总是需要睡觉。你昨晚没睡的事实是你经营生活的方式完全错误。你应该按时完成所有事情，然后睡觉，因为睡眠对健康非常重要。而你正在强调，看，这个人没睡。看，医疗保健系统运作得很差。但重点是，我们似乎就是这样运作的，尤其是在资本主义社会。我们不断遇到麻烦，最后一刻，我们试图找到出路，通过创新。而且似乎奏效了。
你有很多最终试图建立一个更美好的世界的人，当问题变得越来越紧迫时，他们就会变得更加紧迫。这就是它的运作方式。但如果你看看历史的漫长轨迹，似乎这种在截止日期前运作的方式会产生进步，并建立越来越好的系统。
你可能同意我的看法，美国应该在2020年1月进行大规模生产，我们应该早点关闭机场，我们应该强制要求在养老院工作的人住在园区而不是家里，然后回来感染那些对新冠没有免疫力的养老院的人。我认为当时这些都是显而易见的。正确的决定没有做出。
我们是否会再次面临同样的情况？那些做出不保护养老院的决定的人是否受到了惩罚？那些在检测方面做出错误决定，阻止了初创公司开发检测，并从已经拥有检测的国家进口检测的人，这些人是否被追究责任了？
首先，你想要什么？你想把谁送上枪毙？我认为他们没有。只是确保这种情况不再发生。不，但你看，并不是说是的，他们被很多人追究责任，人们感到沮丧。新的领导人正在诞生，他们将在10年后崭露头角。这比显然有很多旧的无能和官僚主义要慢。这些系统移动缓慢，它们移动得像科学一样，一次死亡一人。所以，是的，我认为过去一年感受到的痛苦正在全世界回响。也许我老了。我怀疑战后美国每一代人都比前一代更迷失了方向。我没有看到这种发展。
二战。所以，基本上，曾经有一段时间，我们是现代主义者。在这个现代主义时期，美国感到自己受到了世界发生的事情的实际威胁。美国担心失败的可能性。而这种失败的迫近导致了这样的决定：曾经有一段时间，政府会听取物理学家的意见来做事。而物理学家实际上关心政府应该做什么。所以，他们会写信给政府。所以，例如，曼哈顿计划的决定是物理学家和政府之间对话的结果。我认为今天不会发生这样的讨论。
我不同意。我认为，如果病毒致命得多，我们会看到一个非常不同的反应。我认为病毒的致命性不足够。相反，发生的是，目前的系统开始将其政治化。口罩，这就是我早期对口罩的认识。它们很快就不是解决方案了，而是政客们用来分裂国家的工具。所以，同样的事情也发生在疫苗上。同样的事情。所以，没有人真正地，人们没有谈论这个问题的解决方案，因为我认为问题不够严重。
当你谈论世界，谈论战争时。我认为我们的生活太舒适了。我认为在发达国家，一切都太好了。我们没有面临严重的危险。当面临严重的危险，生存威胁时，我们就会站出来，无论是小规模还是大规模。现在，我不知道，这有点像我的论点。但我确实认为病毒，我希望它实际上足够危险，让我们站出来。因为，尤其是在早期，情况还不清楚。由于变异，它仍然不清楚它可能有多糟糕。所以，我认为我们会站出来。
即使是口罩问题，这也是一个棘手的。对我来说，口罩的制造甚至不是问题。直到今天，我仍然参与了许多这项工作，我还没有看到关于口罩是否有效的好的研究。对我来说，应该有大规模的研究，以同样积极的方式进行疫苗开发。应该有口罩，测试哪种类型的口罩效果非常好，哪种类型的测试效果非常好。甚至病毒如何传播的问题，也应该进行积极的研究来理解。据我所知，仍然有很多不确定性。
没有人想把这看作是一个需要解决的工程问题。这是我感到惊讶的事情。但我发现我们的观点在很大程度上是趋同的，但并不完全。我同意，因为我们的社会在某种意义上认为自己是“大而不能倒”的。而病毒并没有提醒人们我们正面临可能的失败。这基本上把我们带入了后现代主义模式，我不是指哲学意义上的，而是社会意义上的。
后现代社会与现代社会之间的区别在于，现代社会必须处理地面真相，而后现代社会必须处理表象。政治变成了一种表演，而表演是为观众进行的。而有组织的观众是媒体，而媒体通过其他媒体来评价自己。所以，你有一个评论员的观众，他们评价自己。而我认为，这更多的是政客们的失败，因为要获得权力并保持权力，你需要能够处理公众舆论。
我认为这是周期性的。因为，所有的小企业主，所有真正遭受痛苦并将遭受更多痛苦的人，因为经济关闭和缺乏病毒解决方案的影响，他们将起来反抗。而且，希望，我的意思是，这就是有魅力的领导人可能会把世界带入麻烦的地方。但希望我们将选出伟大的领导人，他们将打破这种后现代主义的媒体、感知和Twitter上的戏剧等等的想法。但你知道，这可能走向任何方向。
当魏玛共和国无法应对德国面临的经济危机时，有一个选择是回归。但有些人认为，让我们回到君主立宪制，让它奏效，因为民主不起作用。最终，没有回头路了。人们决定没有回头路了，他们需要前进。而前进的唯一选择是成为斯大林主义的共产主义者，基本上是完全没收工厂等等，并将它们国有化，并以共产主义的方式重组德国，并与斯大林结盟。而法西斯主义和这两种选择显然都非常糟糕。而德国人选择的那种导致了一场毁灭了欧洲的灾难。
我不知道美国是否有免疫力。我认为极右翼在美国目前非常弱，但这很容易改变。
从历史的角度来看，你认为希特勒可以被阻止吗？在德国境内，还是从外部？这取决于你想关注谁，你想关注斯大林还是希特勒。但他感觉就像希特勒是一个政治运动，可以被阻止。
我认为，关键是很多人想要希特勒，所以他得到了很多方面的支持。有一些实业家支持他，因为他们认为民主显然不起作用，不稳定，你需要一个强人，而他愿意扮演这个角色。美国也有一些人认为希特勒会阻止斯大林，并充当反对布尔什维克的壁垒，他可能真的会这样做。但是，以什么代价？
然后，他要做很多事情，比如大屠杀，人们认为这是言辞，他实际上不会这样做。特别是许多犹太人，他们是人道主义者，对他们来说，这超出了可想象的范围。我的意思是，我想知道希特勒是否是独一无二的，我小心地使用这个词，但独一无二的邪恶？如果希特勒从未出生，如果有人取代了他的位置？所以，只是思考历史的进程，那些导致大规模毁灭和残忍的单一人物有多重要？因为我的感觉是，希特勒是独特的。这不仅仅是环境和背景给了他，就像另一个人不会取代他的位置做他那样具有破坏性的事情。他结合了魅力、疯狂、精神病，以及纯粹的自我，所有这些不太可能在同一个人身上同时出现。
这也取决于你所处的国家背景。如果你告诉德国人，他们在这样一个浪漫的国家有着历史使命，其效果可能与其他国家不同。但是，斯大林杀的人比希特勒多。而如果你看看你在斯大林统治下生存的概率。希特勒杀人，如果他认为他们不值得活，或者如果他们有害于他的种族主义项目。他基本上认为犹太人过于国际化，不愿意以他想要的方式参与社会的种族主义重新定义和社会价值。所以，他认为他们是危险的，特别是 since they played such an important role in the economy and culture of Germany. 所以，我们基本上有一个激进但理性的理由来谋杀他们。而斯大林只是杀了所有人。斯大林主义的购买是如此随机，他说，有一点可能性，这个特定部分的人口有一些德国合作者，或者别的什么，我们就把他们都杀了。是的，对。
好吧，如果你看看毛泽东做了什么，被杀的人数，绝对数字，比斯大林还要多。所以，很难说。另一件事是，你看看成吉思汗等等，他杀了多少人？你看到了。人类历史上发生了一些事情，确实对现有人口造成了实质性的打击，或者拿破仑。而最终衡量它非常困难，因为正在发生的是，基本上是人类规模的进化，其中一个猴子找到了成为病毒的方法，并利用这种病毒技术在非常大的规模上改变社会模式。而我们发现如此令人憎恶的是这些变化所带来的复杂性，它基本上就像一场大火，烧毁了许多现有的文化和结构。而这一切都始于一只猴子，一个“care mata gabe”，历史上有很多这样的情况。
但在给定的环境中，它基本上类似于加州的野火。温度正在上升，降雨量正在减少，然后突然一个火花就可以产生在其他时候会被控制的效果。
说到这个，我喜欢我们从20到30分钟前谈论希特勒和斯大林，到GPT-3生成程序合成。争论的是AI与人类的道德问题。特别是在编写程序方面，特别是编写可能具有破坏性的程序，例如运行核电站或自主武器系统。我认为你的倾向是说，AI的道德水平不会比人类差，或者在创造一个让人们快乐的世界方面不会比人类差。
我不是在谈论自主系统，它们在全局范围内设定自己的目标。如果你只是谈论技术系统的部署，这些系统能够看到秩序和模式，并利用这些作为控制模型来行动，以实现我们给它们设定的目标。那么，如果我们有正确的激励措施来为这些系统设定正确的激励措施，我相当乐观。
但是，人类与AI的比较。让我举一个例子，自主武器系统。假设中东某个城市有许多恐怖分子。而问题是，现在使用无人机技术是如何做的？你有关于某个特定恐怖分子位置的信息，你有一个有针对性的攻击，你轰炸那个特定的建筑物。所有这些都由人类指挥，无论是高层战略，还是单个炸弹和导弹的部署。所有这些都由人类完成，除了最终的瞄准和国家。就像，用Spot类似的东西，控制飞行。
如果把控制权交给AI，说“写一个程序，说‘这是我拥有的关于这五个恐怖分子位置的最佳信息。这是这座城市。确保你所有的轰炸都限制在这座城市里。确保它是精确的。你来处理它。’你再抽象一个层次，说‘处理城里的恐怖分子’”。你更倾向于人类还是GPT-3生成的JavaScript代码来执行部署？我的意思是，这就是我提出的问题。人类的缺点，它们比AI的缺点更好还是更糟？
它们是不同的缺点。存在一个问题，如果人们正在创建一个不完美的自动化过程，而这个过程通常需要道德判断，而这种道德判断之所以不能被自动化，通常不是因为计算成本太高，而是因为你给AI的模型不足以反映世界的动态，因为AI没有以正确的方式理解它所处的上下文。而这已经在使用Excel时发生了。你不需要有一个AI系统来做这件事。如果你有一个自动化流程，其中人类使用自动化标准来决定何时杀死谁，何时瞄准谁，这已经发生了。而且一旦你被某个自动标准瞄准，你就无法摆脱“杀戮名单”。
这就是问题所在。问题不在于AI，而在于自动化。所以，右边有一些东西。这是自动化，但也有一些东西。存在一个抽象级别，你将控制权交给AI来完成自动化。可以达到一个规模，感觉上，错误、错误和破坏的规模可以达到人类无法达到的程度。所以，AI比人类更容易意外地摧毁整个国家。感觉上，当平民死亡越多，他们对你的决定做出反应或遭受后果时，人类在做出这个决定时就会承担越大的压力。所以，对于人类来说，做出这个决定的可能性就越来越小。对于AI来说，感觉上很难以一种方式来编码这种压力。
我们目前正在构建的AI正在自动化统计。智能是做出模型以对其采取行动的能力。而AI是制造更好模型的工具。所以，原则上，如果你明智地使用AI，你就能防止更多的伤害。而我认为，主要问题不在于AI本身，而在于不负责任地使用技术的“人类指挥链”。
那么，问题是，将正确的激励措施正确地编码到AI中有多难？例如，有一个想法，如果我们让我们的飞机由AI系统来驾驶，而神经网络是一个黑箱等等。结果是，我们的神经网络不再是黑箱了。它们是使用线性代数的函数逼近器，它们正在执行我们可以理解的事情。但我们也可以，而不是让神经网络驾驶飞机，而是使用神经网络来生成正确程序的批准，其准确度是人类无法达到的。所以，我们可以通过结合不同的技术来使用我们的AI，来构建比人类能够创造的系统更可靠的系统。
所以，从这个意义上说，我会说，如果你使用早期阶段的技术来节省劳动力，并且不雇佣有能力的人，只是为了把事情搞定，因为你可以做到，那是非常危险的。而如果人们在这种激励下行事，他们可以交付粗制滥造的工作而逃脱惩罚，那就更危险了。
廉价地使用人工智能意味着比以往更少的人工监督，这非常危险。但问题是，人工智能仍然会不可靠，也许比人类更不可靠，但它会以新颖的方式不可靠。是的，这是一个经验性问题，我们可以弄清楚并与之合作。所以问题是我们是否信任我们现有的社会体系以及我们可以建立和维护的社会体系，它们能够负责任地使用人工智能。如果可以，那么人工智能就是好消息；如果不行，它将使现有问题变得更糟。
而且，谁创造了人工智能？谁控制它？谁从中赚钱？因为最终是人类。然后你开始谈论你有多信任人类。所以问题是“谁”是什么意思？我不认为我们有“自我”本身。我认为人类的故事在某种程度上是随机的。发生的事情或多或少是每个人都在根据他们的局部激励行事，但他们被认为是他们的激励。问题是，按下按钮的人正在根据什么激励行事？
是的，让这些激励措施透明化是件好事。例如，我将举例说明。似乎存在对科技领域的科技企业家或经营社交媒体公司的马克·扎克伯格之类的人的严重不信任。在那个特定人类运作的激励措施下，没有完全的透明度。我们可以听他或公司营销团队说的话，但我们不知道。当他和他公司里其他人创造的算法和系统开始对社会产生越来越大的影响时，这就成了一个问题。如果激励措施的定义和可解释性是分散的，以至于没有人可以操纵它，没有宣传式的操纵，那么是的，我认为人工智能可以实现更公平、更有效的解决方案来解决困难的伦理问题。但是，当有人在其中操纵系统的实际运作方式的传播和沟通时，这可能会带来很多麻烦。这就是为什么目前人们对拥有越来越强大的人工智能系统的公司高管存在很多不信任。
我怀疑在美国传统上发生的事情是，由于我们的决策比威权国家更加分散，人们在社会上许多许多层面上自主地做出决策。我们通过控制人们的想法和他们拥有的信息来创造社会的连贯性和凝聚力。媒体同步了公众舆论，而社交媒体则颠覆了这一点。我认为这并非很大程度上是俄罗斯的影响或其他什么，而是每个人的影响。一个随机的人可能会想出一个阴谋论，从而颠覆人们的想法。如果这个阴谋论比我们给人们的标准化的公众阴谋论更具说服力或更具吸引力，那么它可能会获得更多关注。突然之间，德克萨斯州某个农场里的一个普通人比 CNN 的听众还多。
你指的是德克萨斯州的哪个农民？[笑声] 我可能认识。是的，我曾和他共进过几次晚餐。
好的。这是一个有趣的情况，因为你无法成为 CNN 的主播，除非你经历一个完全复杂的过程。突然之间，你有了没有这个过程的普通人，他们只是在优化注意力，不一定对将这些理论投射到公众中的长期影响负有太多责任。现在，有一种推动力是让社交媒体更像传统媒体，这意味着在社交媒体上投射的观点被限制在一个可接受的范围内，目的是让社会进入安全水域，再次增加社会的稳定性和凝聚力。我认为这是一个值得称赞的目标。但当然，这也为夺取宣传手段提供了机会。人们在这种情况下所受到的激励方式是，我们所需要的人工智能伦理往往变成了人工智能政治，基本上是党派性和意识形态性的。这意味着，一方说什么，另一方就会反对。就像把口罩或疫苗变成政治问题一样，如果你说接种疫苗在政治上是美德，那么不喜欢你的人就不会想接种疫苗。一旦有了这种党派性的论调，就很难做出正确的决定，因为激励措施会变得错误。
人工智能伦理需要非常枯燥。它需要由那些总是做统计工作的人来完成，他们进行极其枯燥、冗长、大多数人无法理解的讨论，因为它们太复杂了，但它们非常严肃。这些人需要比顶尖的机器学习研究人员更擅长统计学。而目前，人工智能伦理的辩论是，你没有任何进入门槛。任何有强烈意见并能够用正确的有力词语表达这种意见的人都可以参与。对我来说，这非常令人沮丧，因为这个领域对我们至关重要，非常重要。但你目前唯一需要的资格就是对世界上的不公正感到愤怒。这更复杂。似乎每个人都感到愤怒。所以，让我们说激励措施并不总是正确的。
基本上，我怀疑很多人参与这场辩论并没有对社会应该是什么样子有一个非暴力的愿景，在那里我们保持自由民主，我们确保我们都能和睦相处，并且我们在几百年后仍然存在，最好是有一个舒适的技术文明围绕着我们。我对那个世界有一个非常模糊的看法，但我倾向于尝试去追随，我认为社会在某种程度上应该遵循爱的梯度，增加世界上的爱。每当我看到不同的政策、算法或想法没有这样做时，我就会抵制它们。
让我感到恐惧的是，我认为德国法西斯主义是由爱驱动的，它只是一种非常有选择性的爱。这是一种爱，现在你只是在操纵。我的意思是，你必须非常小心。你以这种方式与错误的人谈论爱。所以，让我们谈谈爱是什么。我认为爱是发现共同目标。它是对他人神圣性的认识。这使得非交易性互动成为可能。但是，你包含的“他人”的规模需要最大化。所以，基本上是欣赏，就像对你周围的世界的深度欣赏，完全包括那些与你非常不同的人，那些完全不同意你的人，包括那些不仅仅是人之外的生物，包括想法。这是对整个混乱的欣赏。它还涉及到同理心，同理心与对自己正确性的信心不足、不确定性相结合。这是一种对前进道路的激进的开放心态。
我同意你所说的一切。现在，如果你把它放大，你会认识到生命在某种意义上是为了服务于下一个层面的代理，你所能认识到的最高层面的代理。例如，它可以是地球上的生命，或者更远。实际上，你可以说宇宙中的智能复杂性，你试图以某种方式最大化它。但是当你认为它是真实的时候，它基本上意味着一种美学，而且没有一种可能的美学。有许多可能的美学。一旦你将一种美学投射到未来，你就会发现有些美学偏离了它，与它冲突，它们是腐败的，是邪恶的。你和我可能会同意希特勒是邪恶的，因为他想要的世界的美学与你和我心中世界的美学相冲突。他们认为他摧毁了，我们想保留它们在世界上。
有一些处理方式。我的意思是，希特勒是一个更容易的例子，但也许在 30 年代并不那么容易理解谁是希特勒，谁不是。当时没有共识，他心中的美学是不可接受的。我的意思是，这很困难。爱是复杂的，因为你不能仅仅因为开放而让伊娃走进门，但你也不能因为过于自信而总是能完美地识别邪恶，因为这会导致纳粹德国对什么是邪恶和什么不是邪恶有确定性，就像总是划清善与恶的界限一样。必须有一种在坚定立场反对错误与同理心和开放心态之间的舞蹈，对不知道什么是对错的同理心和开放心态之间的舞蹈。
我发现当我观看宫崎骏的电影时，没有人能像他那样捕捉到我的精神。这很有趣，而且只是愿望。他的电影里有一些非常有趣的东西。例如，《幽灵公主》讨论的不仅仅是迪士尼对“森林王子”的简单化概念，他被狼养大，一旦看到人就意识到自己是他们中的一员，以及道德生活和自然被简化、浪漫化并变成媚俗的方式。在迪士尼电影中，这很令人作呕。他对此做出了回应。你看到，他被《幽灵公主》中的狼女取代了，她凶猛而危险，无法社会化，因为她无法被驯服，无法成为人类社会的一部分。你看到人类社会，它非常非常复杂。你看到人们提取资源并破坏自然，但目的不是邪恶，而是为了拥有一个没有压迫和暴力的生活，并遏制死亡和疾病。你基本上看到了这种无法以某种方式解决的冲突。你看到了自然变成花园的时刻，它失去了大部分的本质，而人类不再屈服于生与死、自然以及这些问题。没有简单的答案。所以它只是把它变成了一个被观察到的旅程，它以某种必然性发生。他所有电影中都有一个主要角色，这在所有电影中都是一样的，那就是海蒂。我怀疑这是因为他在为海蒂动画电影工作之前，为海蒂电影做实地考察时，去了瑞士、欧洲西南部、亚得里亚海等地，对一种特定的美学和生活方式有了想法，这影响了他未来的思考。
海蒂对自己和世界有着非常有趣的关系。她不为自己拿走任何东西。她以某种方式无所畏惧，因为她致力于服务一个更大的整体。她完全致力于服务上帝。这不是一个制度化的上帝，与罗马天主教会或类似的东西无关。但在某种意义上，海蒂是欧洲新教精神的化身。这是一种存在，它完全完美而纯洁。这不是一种女权主义的愿景，因为她不是一个女强人。她是让男性观众保护她、围绕她建立文明的理由，使她成为可能。所以她不是像耶稣那样被牺牲，他无辜，因此被钉在十字架上。她没有被牺牲，而是被周围认识到她神圣的所有人保护着。周围有足够的人看到这一点。所以这是一个非常有趣的视角。有一种纯真的观念，而这种纯真的观念并非普遍存在，并非存在于所有文化中。希特勒是无辜的，他对德国的看法不是在保护一种纯真，而是一个捕食者将要获胜。而且，它也不是每个宗教的核心。许多宗教不关心纯真，它们可能关心提高某种地位。这是一个非常有趣的观念，非常独特，并非声称它是最优的，它只是一种特定的美学，我认为这使得宫崎骏成为当今最相关的基督教哲学家。
你是在说，在社会运作的所有方式中，也许保护纯真可能是最好的方式之一？不，这只是我的美学。所以，这是你的美学。这是一种我与世界互动的方式，它对我的社会化来说是自然的。也许我拥有欧洲的文化根源并非偶然。在一个特定的世界里。是的，也许这是一个自然的汇合点，而且在历史上并非所有时候都能找到。
我想问你关于索尔仁尼琴以及我们在如此庞大的社会中作为蚂蚁的个人角色。他说，善与恶之间的界线贯穿每个人的内心。你认为我们所有人都有能力行善和作恶吗？我们在我们都在玩的游戏中扮演什么角色？我们所有人都能扮演任何角色吗？我们是否对……你提到的维持纯真或 whatever the highest ideal for a society you want 有最终的责任？我们所有人都能达到那个水平，那是我们的责任吗？还是我们在善与恶方面有重大的局限性？
有一种方式，如果你不是可怕的，如果你致力于某种文明代理，一个下一级的代理，你正在服务某种超越性的原则。在那个超越性原则的眼中，你能够辨别善与恶，否则你就不能。否则你就只有个人美学。正在折磨老鼠的猫不是邪恶的，因为猫没有设想，或者猫的世界的一部分没有设想一个没有暴力、没有人受苦的世界。如果你有一种想要保护纯真的美学，那么不必要地折磨人就是邪恶的，但仅限于此。
不，但我想问题是，在美学之内，在你对善与恶的理解之内，我们仍然能够作恶吗？是的。所以，基本上，如果你致力于这个下一级的代理，你并不一定就是这个下一级的代理。你是其中的一部分，你与它有关系，就像细胞与它的有机体一样。这是一个超有机体，它只在你和其他人实施它的程度上存在。这意味着你并没有完全服务它。你在决定是否根据你的冲动和局部激励，你的野性冲动，或者你是否致力于它方面有自由。然后你感知到的是，你将要做的事情与你认为是神圣的事物之间的张力，如果你做了，以及你实际做的事情。这就是善与恶之间的界线，它可能贯穿你的内心。如果你没有这个，如果你没有与超越性代理的关系，你可以称之为与下一级代理的灵魂的关系。它不是一个东西，不是一个内在有价值的不朽的东西，它是一种你投射以理解正在发生的事情的关系。有人在服务这个超越性的神圣性，或者他们没有。如果你没有灵魂，你就无法邪恶，你只是一个复杂的自然现象。
所以，如果你从今天或明天开始看待生活，当我们今天离开这里时，你可以选择许多人生轨迹，也许是无数的。你认为在你自己的自我认知中，这些轨迹中的一些是理想的生活吗？一个如果你是你人生故事的主角，你想要成为的那种生活？有一个你正在努力成为的约书亚·巴赫吗？这是我作为一个试图以我能想象到的最好的方式让世界变得更美好的个体问自己的问题。我的责任是什么？我有多大的责任是因为我懒惰和无能而未能做到这一点？在我自己的感知中，在我自己的世界观中，我并不重要。所以，我的人生故事里没有我的位置。我尽力而为，这通常并不好。所以，对我来说，拥有地位或被以某种方式看待并不重要。如果其他人能看到我，或者几个人能看到我，他们可以成为我的朋友，那会很有帮助。
不，抱歉，我想澄清一下“英雄”这个词，我不是指地位、感知或某种营销的东西，而是更多地在私下里，在你自己的内心深处，是否有你想要成为的那种人，并且如果你没有成为那样的人，你会认为是一种失败？这就是我所说的英雄。不，我并不认为自己有这样的身份。而且有时也很令人沮丧，但基本上是我缺乏一种父亲的观念，我需要效仿。这很有趣。这就像一片叶子顺流而下。我担心有时更像是河流。我只是一个胖青蛙，坐在湖里，等着公主来吻我，或者反过来，我忘了是哪个方向。有人吻了某人。
我可以问你一个问题吗？我不知道你是否认识迈克尔·马勒斯。但就构建激励体系而言，询问这一点很有趣。我不认为我以前和你谈过这个。马勒斯提倡无政府主义。他认为所有政府都从根本上阻碍甚至破坏了人与人之间蓬勃发展的合作。你认为政府在一个蓬勃发展的社会中扮演什么角色？无政府主义对你来说有吸引力吗？所以，不仅仅是小政府，而是没有政府？
我不知道这会如何运作。政府是一个代理机构，它在你的奖励函数、你的收益矩阵上施加一个抵消。所以，你的行为与共同利益兼容。那里的论点是，你可以有集体，比如管理组织，但不是政府，你出生在某个特定的土地上，因此你必须遵守这个规则，否则你就会被迫遵守他们所谓的暴力，因为这里存在隐含的暴力。所以，政府的关键方面是它用军队和警察保护你免受世界其他地方的侵害。所以，它拥有暴力的垄断权。它是唯一能够施加暴力的。
有许多形式的政府，并非所有政府都这样做。但我们发现，在成功的国家里，政府拥有暴力的垄断权。这意味着你不能通过组建自己的军队来获得优势，因为政府会来找你并摧毁你。而在你可以组建自己的军队并逃脱惩罚的国家，有些人会这样做。在这些国家，我们称之为失败的国家。如果你不想有暴力，关键不是诉诸人们的道德意图，因为有些人会利用策略，如果他们能从中获益，他们就会利用某种生态位。所以你需要摧毁那个生态位。如果一个有效的政府拥有暴力的垄断权，它可以创造一个没有人能够使用暴力并获得优势的世界。所以，你想要利用这种暴力的垄断权，不是为了施加暴力，而是为了使暴力不可能，提高暴力的成本，这样人们就需要通过非暴力的方式来获得优势。
所以，这个想法是，你可能能够在无政府主义国家通过公司实现这一点，通过资本主义的力量创造安全公司，其中最符合道德的公司会脱颖而出。这将更好地代表人民，因为军队的粘性较小，即使它已经存在了很长时间。所以，你有一群武装分子，他们希望有组织地组织起来，否则他们就会输给其他武装分子，他们会与社会其他部分协调，直到他们拥有暴力的垄断权。这与政府有什么不同？
我听着，我正在做。所以，基本上它总是会收敛到同样的事情。所以，我认为它总是会收敛到政府的规模。但我认为这个想法是，你可以有很多集体，你基本上永远不让任何东西变得太大。政府的问题之一是它变得太大，就其控制的群体规模而言。我的感觉是，这无论如何都会发生。像亚马逊或 Facebook 这样成功的公司，我的意思是，它开始形成对整个人口的垄断，不仅仅是数亿，而是数十亿人。所以我不知道。但是政府拥有暴力的垄断权时，它可能会滥用权力。所以，这是一个张力。
那么问题是，如何正确地设定政府的激励措施？这主要适用于最高层级的政府。而我们，因为我们还没有找到正确设定它们的方法，所以我们让最高层级的政府相对较弱。我认为这也是我们难以协调大流行病应对的原因之一，而中国在这方面没有遇到太多困难。而且，中国存在滥用权力的风险要高得多，因为权力基本上不受制约。这就是下一代发生的事情。例如，想象一下，我们同意中国现政府在很大程度上是正确的，但永不限制，也许我们不同意这一点。但如果他这样做了，我们如何确保它保持这样？如果没有制衡和权力分立，就很难实现。我们对此问题没有解决方案。但从控制论的角度来看，废除政府将消除控制结构。在系统中存在一个最佳点，应该进行监管。你可以衡量当前的激励措施，监管者将获得适当的激励来做出正确的决定，并改变其下的一切的支付指标，以便解决局部的囚徒困境。没有某种永恒的控制，模仿无限游戏，你就无法解决囚徒困境。
我的意思是，政府中目前运作不佳的部分似乎是因为公民与政府互动没有良好的机制。基本上，它在技术方面没有跟上。我认为一旦你整合了数字革命的一些成果，就能够获得大量数据，能够在地方层面、所有层面、最佳层面投票决定不同的想法，这可以解决囚徒困境。并且整合人工智能来帮助你自动化那些不需要人类创造力的东西。我认为这就是政府可以运作得很好的地方，也可以打破低效的官僚机构。会有强烈的激励去提高效率和成功。
所以，我们的人类历史看到了政府模式和个体政府的进化和竞争。每个民族国家在某种意义上都是一种有机体，它为政府问题找到了不同的解决方案。你可以看看所有这些不同的模式以及它们存在的不同规模，作为验证如何建立一个更好的政府的想法的经验尝试。我怀疑无政府主义的想法，类似于共产主义的想法，是由于对现实存在的解决方案的丑陋感到厌倦而产生的，并试图达到乌托邦。我怀疑共产主义最初并非乌托邦。我认为，就像原始基督教一样，它有一个特定的愿景。这个愿景是一个社会，一个社会内的组织模式，人类可以在没有强制的情况下大规模共存，就像我们在一个健康的家庭中一样。在一个好家庭里，你不会互相恐吓以求合规，但你会理解每个人的需求以及每个人能贡献什么，以及整个事情的预期未来。每个人都以正确的方式协调他们的行为，并相互告知如何做到这一点。发生的所有互动都是为了实现这一目标。这能否大规模发生？我认为这就是共产主义的想法。共产主义反对需要经济恐怖或其他形式的恐怖来实现这一点。但实际上发生的是，原始共产主义国家，现实存在的社会主义，取代了部分经济恐怖，或者说道德恐怖。所以，我们被告知要出于道德原因做正确的事，当然，这并没有真正奏效，经济最终崩溃了。不道德的恐怖实际上有真正的后果。人们因为道德上不合规而被监禁。
这是另一件事，共产主义的想法变成了乌托邦。所以，它基本上被投射到来世。在我童年时期，我们被告知共产主义是一个假设的社会，我们处于一场永久的革命中，这证明了社会目前在道德上存在的一切错误。但这是我们的孙子们可能永远看不到的东西，因为它太理想化了，离未来太远了，无法立即实现。人们在道德上还没有达到那个水平。基督教也发生了同样的事情。天堂的观念被神话化并投射到来世。我认为这只是上帝的王国在这个世界上的想法，我们在其中完美地体现了下一级的超越性代理。所以一切都顺利进行，没有暴力，没有冲突，没有这种人类的混乱，没有经济的混乱，以及现存社会中的恐怖和强制。
人类能够大规模地以和谐的方式、非强制的方式共存的想法是未经检验的。许多人尝试过，但到目前为止还没有成功。乌托邦是一个你得到所有好事而没有任何坏事的世界。当你非常年轻，不理解一切都必须以因果模式发生，总有反馈循环最终是封闭的，没有什么仅仅因为它是好或坏而发生。好与坏不是孤立存在的，它们只相对于更大的系统而存在。
你能直观地理解为什么乌托邦会失败吗？所以，拥有一个在视野之外的乌托邦，是因为……所以，不仅仅是因为乌托邦不可能实现，而是因为某些人类，一小部分人类开始……贪婪地获得权力、金钱、控制和影响力，因为他们看到了利用这种乌托邦想法的力量。这就像在说，为什么我的花园不完美？因为它被一些邪恶的杂草过度生长了，它们总是这样。是的。但事情不是这样的。一个好的花园是一个平衡的系统，需要园丁最少的互动。所以，你需要创建一个旨在自我稳定的系统。而社会系统的设计不仅需要实现期望的功能，还需要下一级的设。在生物系统中，你也需要创建一个想要收敛到预期功能的系统。所以，你不仅仅是创建一个像 FDA 这样的机构，它在社会中扮演着特定的角色，你需要确保 FDA 实际上是由一个想要最优地做到这一点的系统驱动的，它得到了最优的激励，然后使每一代实际执行的表现成为实现那个实际目标的工具。这要困难得多，设计和实现起来也更困难。
所以，你必须设计一个系统，我的意思是，共产主义也被“激励”成为一个实现那个乌托邦的反馈循环系统。它只是没有奏效，鉴于人类天性，激励措施并不正确。你如何激励人们，当他们从地下挖煤时，让他们尽可能努力地工作，因为这是一项糟糕的工作，而且对你的健康非常不利？你可以给他们奖品、奖章和地位，在某种程度上。你可以给予的地位只有这么多，大多数人不会上当。或者你可以付钱给他们，你可能需要以不对称的方式付钱，因为如果你付给每个人相同的钱，并且你将煤矿国有化，最终人们会发现他们可以玩弄这个系统。
你正在描述资本主义。所以，资本主义是这个系统的当前解决方案。而且，马克思也正确地注意到，资本主义容易出现危机，资本主义是一个动态上不收敛而是发散的系统，它不是一个稳定的系统。它最终会产生巨大的生产力潜力，但它也会系统性地错误配置资源。所以，很多人无法参与生产和消费了。这就是我们观察到的。我们观察到美国的中产阶级非常渺小。很多人认为他们是中产阶级，但如果你还在坐经济舱，你就不是中产阶级。每个阶层都比实际情况小一个数量级。航班阶层就像航空公司阶层。很多人坐经济舱，我们真的有商务舱，很少有人坐头等舱，有些人是桥梁。我的意思是，有些人，我理解，也许有些人，我可能会反对对中产阶级的定义。感觉中产阶级相当庞大。是的，在财富方面存在差异。所以，在生产力方面存在巨大差距，我们的社会本可以拥有。没有理由让任何人坐经济舱。我们可以让每个人都过着舒适的生活。
但是，有些人也喜欢节俭，即使他们是亿万富翁。所以，让我们这样说。我的意思是，你可能不需要奢侈旅行，但你也不需要折磨自己。节俭和折磨自己之间有区别。我喜欢经济舱。我不明白你为什么要把坐经济舱比作折磨。虽然，我旁边的两个孩子在哭。但这与评论无关，与哭泣的孩子有关。他们很可爱。
所以，我有两个孩子，有时我必须回去看望祖父母。回去意味着从西海岸到德国。长途飞行。父亲长大后对哭声免疫是真的吗？就像，你知道，对我来说，没有孩子，别人的孩子哭闹尖叫可能会很烦人。当你有了孩子，并且以默认的自然方式被设定好，你就很幸运了。你爱上了他们。这种爱意味着你开始通过他们的眼睛看世界，你明白在给定的情况下，他们除了表达绝望之外别无选择。所以，它变得更加细致。我注意到，例如，我的儿子通常根据他现在所体验到的纯粹经验行事，并且必须立即这样做。你有一个小孩子，当他还是个婴儿的时候，他只是立即表达他的感受。如果你无法从外部调节这一点，那么就没必要为此感到沮丧。这就像处理天气一样。你都必须经历它。对他来说也不容易。但如果你还有一个女儿，也许她正在为此计划。也许她明白了。你知道，她坐在你身后的车里，她扯着嗓子尖叫，你差点发生事故。你真的不知道该怎么办。我应该怎么做才能让她停止尖叫？你可以给我糖果。
我认为这就像猫和狗的讨论。我喜欢它。但是，因为你说爱是其中的一个基本方面，这让一切都变得值得。在这个骑着大象在梦中世界的猴子身上，爱在人类的状况中扮演什么角色？我认为爱是促进非交易性互动的催化剂。你正在观察你自己的目标。其中一些目标超越了你的自我，超越了你作为特定有机体的存在和你局部的利益。这就是你所说的非交易性。是的。所以，基本上，当你以交易的方式行事时，意味着你正在尊重你正在与之互动的人的回报。你与一个随机的陌生人互动，你在 eBay 上向他们购买东西，你期望物有所值，反之亦然。因为你不知道那个人，你与他们没有任何关系。但是当你稍微了解这个人，并且了解他们所处的情况，你就会明白他们在生活中试图实现什么，你表示赞同，因为你意识到他们在某种意义上服务于和你一样的神圣性。你认为你可能把它当作礼物送给他们。但那种感觉本身就是一种好处，一种交易。是的，但快乐不是重点。快乐是你得到信号。这是你的大脑发送给你的强化信号，因为你正在根据你所属的代理的激励行事。我们注定要成为更大的事物的一部分。这就是我们如何超越其他人类，例如尼安德特人，以及其他人。人类社会有一个人口瓶颈，导致人类基因多样性极度缺乏。如果你看看卡拉哈里沙漠的布须曼人，他们之间的部落距离并不远，但他们的基因多样性比欧洲人和中国人之间的基因多样性还要多。这是因为“走出非洲”的人口在某个时候只有一个几千人的瓶颈。可能发生的情况不是任何时候人数都少于几十万。可能发生的情况是，有一小群人拥有了决定性的突变，带来了优势，这个群体增殖并杀死了其他人。我们是那个群体的后代。
我很好奇那个群体的独特特征。我的意思是，我们永远不知道。很多人知道，我们只能倾听我们内心的回声，仍然在我们体内的涟漪。所以我怀疑最终产生了巨大差异的是大规模组织的能力，人们可以互相编程，好的想法，我们变得可编程，我们愿意协同工作，我们超越了部落层面，我们不再是几百人的群体，而是基于直接的交易系统。但我们基本上进化出了适应能力，能够建立国家。形成直接集体之外的集体。是的，这基本上是我们的一部分致力于服务我们所不知道的东西。这就是爱。而且这很可怕，因为它意味着我们消灭了其他人。它是一种适应性力量，使我们在进化中获得优势，这意味着我们取代了其他不具备这种力量的东西。所以，我们不得不谋杀很多人，他们不爱。所以，爱导致了毁灭。
他们有和我们一样强烈的爱。这就是为什么我提到了法西斯主义。当你看到那些演讲时，你想要全面战争吗？每个人都说“是”。这是我比我更重要的东西，它赋予我的存在意义。
好吧。你对今天的高中生、大学生有什么建议吗？他们正在考虑他们的职业生涯，他们的人生，以便在最后，他们可以为自己所做的事情感到自豪。
不要作弊，要有诚信。诚信是什么样的？当你成为河流、叶子或湖中的胖青蛙时。它基本上意味着你试图弄清楚什么是最正确的事情。这并不意味着你必须看别人告诉你什么是正确的，但你必须追求道德自主。事情需要独立于别人说什么才是正确的。我一直觉得，当人们告诉我听别人说的话时，比如“读懂房间”，根据你群体中地位高的人来建立你的真理观念，这并不能保护我免受法西斯主义的侵害。保护自己免受法西斯主义的唯一方法是决定，这里正在建立的世界是我想要的世界吗？所以，在某种意义上，尝试让你的行为可持续。以一种让你在交易的任何一方都感到舒适的方式行事。认识到每个人都是另一个时间线上的你，但他们看到了不同的东西，并且有理由这样做。
我最近意识到，有一个内在的声音告诉你什么是对的，什么是错的。说到读懂房间，有时诚信的样子是，很多人在做错事，而诚信的样子不是在推特上发帖，而是默默地不参与，不这样做。这不像信号，也不像所有这些东西，而是真正地活出你认为正确的东西，现在就活出来。有时也有这种期望，即其他人也像我们一样。所以，想象一下，你周围的一些人可能是外星人，他们看起来像人类。所以，他们没有和你一样的价格，他们没有和你一样的冲动。人们在特定情况下可能拥有的基本冲动存在很大的差异。现在，意识到你是一个外星人。你实际上不是人类。你认为你是人类，但你不知道这意味着什么。你只是像其他人一样随波逐流。你必须弄清楚，作为一个完整的人意味着什么，在世界上作为一个人意味着什么，以及如何与他人建立联系。
还有一点，不要害怕，因为如果你这样做，你就不够好。因为如果你根据这些诚信的激励行事，你就会变得值得信赖。这就是你们互相认识的方式。有一个特定的地方，你们可以见面。你们可以找到那个地方，在那里你们会支持那些行动诚信的人，他们也会这样做。所以，在某种意义上，如果你这样做，你就是安全的。你并不总是受到保护。有些人会滥用你，他们可能是你遇到之前难以想象的坏人。但也有人会试图保护你。
谢谢你这么说。这是一个充满希望的信息，无论发生什么，都会有一个地方，你会遇到和你一样的人，你会在那里找到幸福和安全。是的，但它不一定会有好结果。它也可以完全出错。所以，生活中没有保证。你可以做对一切，你仍然会失败，仍然会发生可怕的事情，让你受到创伤，让你残缺不全。你必须感激它没有发生，最终无论发生什么都要感激，因为即使只是活着也相当不错。即使是这样，你知道吗？感恩在某种意义上也是你的大脑产生的，为了让你继续前进。这都是一个把戏。
说到这个，加缪说，我看到很多人因为认为生命不值得活而死去。我看到其他人却为赋予他们生活理由的观念或幻想而牺牲。所谓的生活的意义，也是死亡的绝佳理由。因此，我得出结论，生命的意义是最紧迫的问题。所以，我必须问，约书亚·巴赫，生命的意义是什么？根据加缪的说法，这是一个紧迫的问题。我不认为有一个单一的答案。除非思想使其如此，否则一切都没有意义。所以，你基本上必须投射一个目的。如果你足够拉远来看，宇宙的热量测试表明一切都没有意义，一切都只是一个闪烁。问题是，你在这个闪烁中找到意义了吗？你观察松鼠找到意义了吗？你通过抚养孩子并将一个多代有机体投射到未来找到意义了吗？你通过将你喜欢的那种世界美学投射到未来并努力服务于那种美学来找到意义吗？如果你这样做了，那么生命就有意义；如果你没有，那么它就没有。
我有点喜欢这个想法，你只是创造了最充满活力、最奇怪、最独特的闪烁，你能做到，考虑到你的环境，考虑到你的技能。只是成为你能成为的最奇怪的局部复杂性。这样，当人们研究宇宙时，他们会停下来，说，“嗯，那很奇怪。”这看起来是一个有用的策略。但当然，这仍然是动机性推理。你显然是根据你的激励行事的。这仍然是我们自己讲的一个故事，在一个我们仍然在试图弄清楚我是否是人类的梦中。
有一种相互关系。某种程度上，约书亚，你是我认识的最不可思议的人之一。我真的很喜欢和你聊天。我喜欢再次和你聊天。而且，能和你共度宝贵的时间，我感到非常荣幸。我希望我们能在我们短暂而无意义的生活中多次交谈。有意义或无意义。谢谢你，亚历克斯。我非常享受这次谈话。感谢收听这次与约书亚·巴赫的谈话，并感谢 Coinbase、Codecademy、Linode、Netsuite 和 ExpressVPN。在描述中查看它们以支持此播客。现在，让我用卡尔·荣格的一些话来结束。人们会不惜一切代价，无论多么荒谬，以避免面对自己的灵魂。一个人不会通过想象光明的人物来获得启迪，而是通过使黑暗意识化。感谢您的收听，希望下次再见。