Transcription
当我为这个视频做研究时，我深入研究了道格拉斯·霍夫施塔特（Douglas Hofstadter）的《怪异的循环》（I'm a strange loop），那是他的第二本书。第一本是《哥德尔、埃舍尔、巴赫》（Gödel, Escher, Bach），那本书非常有名。这两本书基本上都在试图探究相似的现象。即自我，以及可能的意识，从系统内部的自我参照中涌现出来。然而，没有任何系统能够从内部证明其自身的存在的。而这些意识的证据，以人类创造的各个方面表现出来。直到最近，我才真正开始怀疑这个想法。我偶然看到了一个引用维特根斯坦（Vitkinstein）的评论，他是一位20世纪的著名哲学家。维特根斯坦工作的要点是，我们的许多哲学和形而上学问题都是无稽之谈。它们存在于我们的语言中，而不是现实世界中。语言是我们用来完成日常活动的工具。所以，语言是一个不完整的系统，就像我们使用的许多其他系统一样，比如音乐理论，任何不完整的系统内部都存在悖论，通常，当我们在的系统无法完成或帮助我们完成目标时，我们就会切换到另一个系统。因此，这些系统的局限性并没有什么必然的形而上学意义。所以，根据维特根斯坦的说法，我们基本上不需要通过经验发现来解决这些问题中的任何一个，或者许多问题。一旦我们正确地定义了它们，它们就不需要被解决。大概就是这样。这让我思考，它让我思考了什么？我正在审阅AGI（通用人工智能）会议的论文投稿，其中一篇论文引起了我的兴趣。它概述了一种新的认知意识理论。它设定了一个目标，以一种具体的方式形式化衡量一个智能体（无论是人造的还是非人造的）的认知意识，并利用这种衡量来指导伦理决策，我认为这存在问题。要理解这个理论的基本思想，问问自己，你能维持多少层嵌套的推理？比如，我认为他认为我认为，等等，等等。这篇论文将此定义为 lambda，衡量一个系统能够可靠地维持多少层递归推理。普遍的说法是，人类平均可以维持两到三层抽象，然后就会开始猜测。这很可能是因为我们生物工作记忆的限制。另一件事很有趣。作者声称，蚂蚁很可能 lambda 为零，因为据说蚂蚁不可能代表另一只蚂蚁在想什么。像黑猩猩或海豚这样的非人类动物可能无法超过两层。我对此不确定。这让我想起了《怪异的循环》。系统可以代表自己，然后代表其表征的想法。所以，自我变成了自我正在思考的东西。自我正在计算自我。也许你可以说，这种怪异的循环在这个认知意识理论中变得具体、明确和可衡量。或者也许你不能。好吧。公平地说，在认知意识理论中，lambda 并不是唯一的变量。它是该理论的核心，但整个系统也依赖于知识、信念、感知、外部感知、内部感知。我不会深入细节，但如果你想深入研究，我会留下链接。但我认为问题依然存在。认知意识理论本身就是对整合信息理论的一种替代，但它却回避了对现象意识的解释。但为什么或者说，区分这两者有什么用呢？我的意思是，认知意识和现象意识。这是意识的难题。个人经验与客观科学经验测量之间的这种差距，也是为什么我们仍然没有一个清晰的科学定义来描述意识和测量系统。如果我们谈论 P 意识，它关心的是成为某种类型的有意识的生命是什么样的。你认为有像猫鱼羊麦克风这样的存在吗？想象一下，你的淋浴间里有一只蜘蛛。你会为了救一只蜘蛛而停止整个淋浴吗？你会为了救一只松鼠或一只猫这样做吗？也许这是一个愚蠢的例子，但如果我喝醉了，失去了模拟自己思想的能力，这会让我不那么有意识吗？这会让我认知受损。如果我写了一个可以进入一千个这样的递归推理循环的脚本，这会使那个脚本更有意识，甚至更有认知意识吗？我们有一些用于伦理决策的精神等级，但这很可能基于受苦的能力。而 lambda 并没有真正捕捉到这些。Lambda 衡量的是认知能力或能动性，而不是感觉。它衡量的是智能体能够访问、整合和用于推理和控制的东西，而不是成为一个智能体是什么样的。我们又如何能依赖它来做出伦理决策呢？然后，即使我们能做到，如果你从宏观角度考虑，我们已经有了太多零散的理论来解释意识的各个方面。我们仍然处于对意识理解的非常初级的阶段。我们需要一个统一的理论来解释意识的所有方面。在此之上，我们必须努力推进我们的神经科学工具。我喜欢加州大学欧文分校的研究人员的说法，经验主义的意识理论必须对现象学发现负责。任何忽视生活体验结构的理论都无法对意识现象提供有效的解释。如果这一切都没有意义，别担心。它没有。