Transcription
你好，我是 Don Nakagawa，Bgruan 学院的院长。在本期《未来学》节目中，Bgruan 出版社的总编辑 Niels Gilman 将与来自萨塞克斯大学的神经科学家 Anil Seth 进行对话。[音乐] Anil 研究意识，他的工作重点是如何让我们的大脑产生意识，如何让大脑成为可能。他称这个过程为“受控幻觉”，因为我们实际上无法感知[音乐]现实，但我们的大脑可以根据我们的经验和我们接收到的感官数据来编造关于现实是什么的故事。谈到人工智能，他认为人工智能永远不会有意识，也无法有意识。我们花费了大量时间试图衡量它是否能在某个时刻有意识，而此时我们尚未就什么是意识达成共识。关于人工智能可能更重要的是我们倾向于在[音乐]智能中看到意识，而这两者却截然不同。因为人工智能，特别是我们现在正在与之互动的大型语言模型，能够像我们一样表达自己，像我们一样思考。显然，有些人确信人工智能工具的陪伴。有些人深信不疑，甚至崇拜这些工具。邪教正在兴起，因为他们认为这些东西是全知的。Anil 的观点是，即使它可能是有意识的，[音乐]我们也绝不应该让它成为有意识的。与此同时，当我们如此专注于它是否可能时，我们还有很多事情需要考虑，在我们与这些技术的关系和共同进化中，我们需要认真对待，而这些事情可能与它们是否有意识无关。而且我认为，你知道，这有点像一项无用的工作。我们正朝着一个我们没有明确定义的东西奔跑。这让我们能够不断地移动目标线，而无需真正处理当前正在发生的事情的后果。>> [音乐] >> Anil Seth，欢迎来到播客。>> 谢谢，Neil。很高兴。>> 那么，我们今天将讨论意识。我想也许我要问的第一个问题是我总是喜欢问大家关于意识的问题，那就是你第一次开始思考意识是什么时候？>> 我想我从小就开始思考意识。事实上，我认为大多数人都会。我认为当我们长大后，总会有那么一个时刻，我们会意识到，对我来说，那是一个意识到我最终会死去，你知道，我将不复存在，然后我曾经不存在，我想我不知道我多大了，但我很年轻，当然，那并没有立即深入哲学或其他什么，但从那时起，我认为总是有这个问题，尤其是在学校的时候，我开始思考，只是想知道为什么我们会拥有自由意志？经验从何而来？它何时开始超越了，你知道，我认为你是对的，我们所有人都在某种程度上进行了这种思考，但总有一天它开始成为一种职业兴趣，对吧？我想知道从你对意识的普通人的担忧到对意识的职业关注的转变是什么时候发生的。>> 我认为，这是必然缓慢而间接的。我在 90 年代初完成了我的本科学习，那时从科学的角度来看，意识研究并不是真正的东西。我想走科学的道路。所以，我绕过了物理学，然后是心理学，这让我更接近了，然后是机器学习和人工智能，你知道，它是在人工智能寒冬时期的一部分。所以，我无法在商业上做太多事情，直到之后，真的，它从 2000 年开始，2001 年我搬到圣地亚哥，并在那里与 Gerald Adelman 进行了博士后研究，我认为他是意识研究复兴的关键人物之一，他已经在生物学的其他领域留下了自己的印记，所以他在圣地亚哥的地方，它是可以的，它是合法的，它被鼓励去研究意识的大脑基础。>> 你会如何描述你的研究？我的意思是，意识，我们刚刚在威尼斯的一个会议上度过了一周，与具有截然不同方法和途径的人们在一起。从研究的角度来看，你会如何描述你进入意识研究的特定方式？>> 我认为有两个普遍特征。它们一点也不像我们所做的。我的意思是，其中一个就是拥抱它的多学科性。我一直对学术研究如何将自己划分为不同的学科感到有些沮丧，这似乎是为了方便，而且只是系统的动态就是这样运作的，而大自然并非如此。大自然不会分解成这些整洁甚至混乱的类别。而且由于我的道路一直有些曲折，我认为这有助于将它们结合起来。所以，在我萨塞克斯大学的实验室里，我们有哲学家、数学家、拥有物理学背景的人、计算机科学背景的人、心理学背景的人，我认为你需要所有这些东西，也许还有其他东西。我缺少一些学科才能真正取得进展。另一个显著的特征是不要过于纠结于形而上学。你知道，无论你是唯物主义者、唯心主义者、二元论者还是中立一元论者，或者其他任何描述，我认为重要的是，或者至少对我来说，轻松地看待我的形而上学。>> 所以，我倾向于将这种方法视为一种务实的唯物主义。我真的不知道。我认为没有人真正知道我们应该如何共同理解一个具有物理物质属性的宇宙，同时又具有意识体验。但我不认为你需要先解决这个问题。我们有许多研究方法来研究大脑，操纵它。我们凭经验知道大脑与意识密切相关，你知道，与身体在世界中的联系。所以，我们可以通过解释大脑机制的意识属性来取得进展，无论我们的形而上学是什么。你提到了物理主义、唯心主义和二元论。也许当我们深入探讨时，从你对当前意识研究领域的看法开始会很有帮助。有哪些主要的思想流派，正如你所说，部分是关于形而上学，但它们也关于方法。>> 对。我的感觉是，它不是，我的意思是，在某些情况下，它可能有一个形而上学作为基础，但在某些方面，我甚至会使用一个不那么宏大的词，那就是先验的。>> 对，而不是形而上学。我的意思是，有时这些先验会变成形而上学，但当你想到这个领域时，你会如何描绘它？>> 我喜欢你这样说。它不那么宏大，不是吗？但人们只是有一个模糊的想法，是的。>> 我认为至少有两个嵌套的圆圈。所以有先验的直觉，然后在这个范围内可能有理论空间，它们本身就处于那个先验之下。所以，可能仍然占主导地位的是唯物主义。人们只是凭直觉问这个问题，比如我们有大脑，它们是由物质组成的。这些物质如何产生或导致或包含意识体验？红色的红色或一杯橙汁的味道。当然，这与科学方法总体上是一致的。你知道，我们从物理因果相互作用的角度来看待世界，并询问它如何产生我们遇到的现象。但也有其他的直觉。很多人凭直觉感受到一种二元论。我认为世界上大多数人都是这样认为的，即物质在某种程度上与精神是分开的，存在两个独立的领域。在西方哲学中，这是笛卡尔。但也有唯心主义。这是唯物主义的逆转，即物质世界实际上是由精神物质组成的。唯一真实的是心灵，我们所体验到的一切物理事物都是心灵的一个方面。然后，泛心论可能是另一个获得相当大吸引力的观点，即意识具有根本的地位，就像质量、能量或电荷一样，这并不意味着桌子和椅子是有意识的，它只是意味着意识在宇宙结构的最底层就已经存在了。>> 那么，在泛心论的情况下，可以说意识已经融入了宇宙的结构，甚至一直到电子层面。但是它在某些地方比在其他地方更集中。宇宙是由物质定义的，但在黑洞中心或地球上比在外层空间有更多的集中物质。泛心论的观点是，意识也是如此，它基本上以某种方式集中在节点上吗？>> 这取决于具体的观点，但总的来说，是的，我认为是这样。所以，并不是说人类意识无处不在，对吧？最基本的形态就像你说的，电子可能与房子有关。你知道，它们似乎完全不是同一类东西。所以，当你说到像意识贯穿宇宙这样的事情时，我认为从泛心论者的角度来看，重要的是要澄清，无处不在的意识是一种极其极其基本的意识。然后它会在各种地方集中。所以，泛心论者面临的棘手问题是他们所谓的组合问题。你如何从非常小的有意识的东西变成像人这样更大的有意识的东西？>> 对。意识研究中最著名的短语之一是 Dave Chomemer 关于意识的难题的说法。但你谈论的是一些略有不同的东西，那就是意识的真正问题。你将其与你所说的真正问题和 Chamers 所称的难题区分开来。你能解释一下这个区别吗？>> 是的。当然，真正问题的名字选择在一定程度上是为了稍微友好地挖苦一下 Dave。是的。难题极大地巩固了关于意识的困难之处的直觉，即意识的根本困难在于，如果世界是由物质组成的，我们应该如何看待物质世界与经验世界的关系。Dave 大致是这样说的。我试着记住。我可能会稍微记错，但基本上是，物理过程如何以及为何会产生丰富的内心生活？这似乎是客观不合理的。但它确实发生了。这就是难题。它恰恰关注了我们刚才谈到的不同直觉。它们或多或少都是思考难题的方式。真正的问题有点厚脸皮，因为这基本上是人们一直在做的事情。我只是给它贴上标签，也就是说，让我们不要试图直接解决难题。我们在这方面没有取得多少进展。也许我们也不会，但我们仍然可以做一些事情来帮助我们更好地理解意识。这不仅包括寻找大脑中发生的事情与有意识的头脑中发生的事情之间的相关性。相关性并不能真正提供解释。它们限制了它们，但并没有提供它们。我认为我们想要做的是找到解释性的联系，在物质属性，特别是神经生物学属性与意识属性之间建立解释性的桥梁。这些既可以是功能属性，也可以是意识所能做的，它对生物有什么作用，但关键是现象学属性。视觉体验与情感体验有不同的特点。我们能否掌握这些差异？这里的直觉当然是，总有一个直觉在起作用。这里的直觉是，如果我们一点一点地建立这些桥梁，那么难题可能就会开始消散，并最终在一些形而上学的烟雾中消失。或者可能不会。我们还不知道。历史上的类比是生命。生命曾经被认为是物理学和化学无法解释的。这就是生命主义的直觉，必须有一些额外的东西，一些可能超越我们所知的自然法则的东西来赋予生命系统以生命。人们没有解决生命的难题。他们没有找到生命的火花，也没有证明生命不存在。而是他们开始解释生命系统的属性，如新陈代谢、体内平衡等。虽然我们并不完全了解生命，但不再有这种深刻的感觉，即生命超出了科学的范围。>> 所以，我认为意识和生命不是完全相同的，当然，它们不是相同的，尽管我认为它们是相关的，但我认为总体策略是正确的策略。我喜欢这个类比或科学史类比的另一个原因是，我们面临的挑战之一是，就像生命一样，我们只知道我们在这个星球上的表现。据我们所知，我们太阳系的其他地方没有生命，或者除了泛心论的广谱背景辐射之外，没有意识，你可以用另一种比喻来说。但是，在整个宇宙中，不太可能没有某种形式的生命系统。同样，如果根据我们现有的任何意识理论，宇宙中没有其他形式的意识，那么不太可能有其他形式的意识。而且，这可能是生命和意识的两种情况。这就是为什么人们对意识与人工智能的关系产生了极大的兴趣，因为我们将在这场谈话中详细讨论这一点。但是，有一点是清楚的，就人工智能而言，如果它们有任何形式的意识，那一定是一种与我们不同的意识。它有不同的物质基础。它将通过一套非常不同的机械功能来构建自己，等等。那么，你认为意识研究日益增长的兴趣在多大程度上得到了推动？我的意思是，你说你在上一次人工智能寒冬期间开始接触它。我们现在正处于某种人工智能的盛夏，或者别的什么，对吧？考虑到这一点，你现在对意识与这种可能出现的新形式的潜在意识的关系的思考方式发生了多大变化？>> 是的，我认为我们不仅处于人工智能的夏天。我认为这实际上是人工智能夏天中间的一场热浪。>> 它吸引了人们的注意力。>> 对。>> 因为人工智能的最新发展非常善于诱惑我们的心理偏见。你知道，我们人类，我认为，在将属性归因于非我们系统的方面，有着一段历史。你知道，我们对待非人类动物的方式，以及对待似乎与我们不同的人类的方式。而人工智能正在颠倒这一点。现在每个人都接触过的语言模型，而且它们一直在变得越来越好。我认为它们令人惊叹，它们能做什么。它们与我们交谈。它们甚至可以与我们谈论意识。>> 嗯。>> 这很难抗拒。我的意思是，我每天都会收到两三封来自认为自己发现了有意识人工智能的人的长邮件。这些通常会以与语言模型的合作形式出现。其中会有一些长篇文档，部分由语言模型撰写。我能理解这是怎么来的，因为当你与这些系统互动时，你确实感觉你在与另一个心灵互动，而且是一个有意识的心灵。但我认为这更多地反映了我们通过人类的视角来看待一切的人类偏见。所以，我们将语言、智力和意识联系在一起，因为它们在我们身上是同时出现的。>> 然后我们就会投射到事物上，因为我们也是高度拟人化的生物。所以，如果有什么东西与我们交谈，我们就会倾向于赋予它这些其他属性。我认为拟人化问题在科学和哲学的许多不同领域都有体现。事实上，我认为我们现在拥有的有趣时刻是，它几乎是颠倒的。我们正在拥有一个以计算为中心的方法，我们关于人类意识、认知和智力的许多对话都是通过计算机科学的类比和隐喻来构建的。我的意思是，我曾经在科技行业工作过，我们有很多这些笑话，但它们又不是笑话。如果我们谈论某人非常聪明，那是因为他有一个非常非常非常强大的 CPU。或者某人非常好看，拥有非常好的用户界面，对吧？或者某人非常擅长合作。我们会说他们有一个很好的、描述清晰的 API。>> 是的。或者带宽很高。>> 带宽很高，对吧？如果他们能完成很多事情，对吧？而且我认为这些隐喻，我的意思是，在某种程度上，它们是半开玩笑的，但我确实认为它们也塑造了意识研究中发生的一些思考。所以，例如，当我们谈论大脑做什么时，然后我们将深入探讨你所做的具体工作，关于感知，以及由此产生的意识，你知道，大脑是否缓存了它所感知的对象的地图？我们应该这样看待记忆吗？它在某种意义上是一个缓存功能？>> 不，我不这么认为，我认为你是完全正确的，大脑作为计算机的隐喻非常普遍，非常普遍，以至于它常常被认为是字面意思，而不是隐喻。事实上，我认为这是一个悬而未决的问题。>> 大脑是否计算，或者它们是否计算并做其他事情，这可能是更可能的情况。所以，这是非常非常根深蒂固的，我认为普遍的理解是，将这个隐喻过于认真地对待我们可能知道的计算机的类型，比如我的笔记本电脑等等，它有一种特定的组织记忆的方式。人类记忆、动物记忆、生物记忆根本不是这样的。你知道，每当你记住某件事时，你都在重新创造它。我喜欢用这个隐喻来比喻水流过冰川，记忆形成时，水会雕刻出冰川上的小溪流，然后当你回忆它时，你会再送一些水下去，它会找到相同的模式，但当然，它也会改变这些模式。对我来说，这是思考它的更好方式。>> 这就是为什么，我的意思是，记忆是出了名的不可靠，正是因为这个原因。>> 当然。尤其是关于你所经历的事情的自传体记忆，你越是试图回忆某件事，它就可能变得越不准确，因为正是这个过程。>> 对。或者，你知道，我经常想到的另一件事是，当我想到我四五岁时的最早记忆时，我认为我记住这些事情的原因是它们被，或者我认为我记住的事情，也许更好的说法是，部分是由于这些事情被强化的方式。家人讲述的故事，关于你知道的 1975 年的圣诞节或其他什么。或者有照片被用来提醒我们，哦，这是 1975 年圣诞节的全家福。你就会得到这种被神化的虚构，因为它是一个索引。它是一个痕迹。照片是那个时刻发生的事情的痕迹。但当然，我们不一定记得当时发生的讨论的确切内容。所以，你的观点是，存在一个感知问题，然后人们实际上在重新创造。所以，我们所认为的记忆实际上是在某种意义上创造新的东西，对吧？>> 是的，在某种意义上。但当然，大多数时候是相关的。>> 尽管你知道，我们有时也会有完全错误的记忆。但我是你的意思。我最近在看一些老家庭照片，你知道，看到我在我长大的房子的后院里，那是我在看这些东西时住的同一个房子，你知道，我记得吗？但我也真的是那时的同一个人吗？你知道，我只是在看一张八岁孩子在后院的照片，他和我有些关系。>> 对。>> 但人们的身份、自我，我认为随着时间的推移变化很大。哦，所以，我的意思是，这是人们对意识提出的论点之一，对吧？这可以追溯到 Lach 在三百多年前写的东西，对吧？意识感部分是关于一种自我连续性的感觉，这种感觉植根于记忆。你认为这是思考意识的一种有用方式吗？>> 我认为将对世界的体验与对自我的体验区分开来是有用的。>> 对。我的怀疑，实际上我的工作假设是，两者都存在一个共同的机制，但它们表现不同。我认为以这种方式表达的重要性在于，存在一种误导性的直觉，即自我是有意识体验的接受者，外面有一个世界，而自我就在我的头脑中，通过眼睛窥视，信息进入感官，自我接收它，意识就发生在那里。做一些推理或思考，然后向手臂、腿和嘴发出一些命令。我认为这是误导性的。当然，威廉·詹姆斯和像他这样的人都说过这一点。自我不是感知的东西。自我本身就是一种有意识的感知。但它是由不同的方式组成的。记忆是其中的一部分，但还有其他东西，比如我对世界上我的身体的体验，它是如何移动的，情绪，心情，我的身体内部情况如何。生理调节，我认为是绝对核心的。从第一人称视角看世界的感受，对自己行为的控制感，对自己思想的作者感，所有这些自我元素往往会捆绑在一起，所以大多数时候，除非我们，你知道，有精神疾病或神经系统疾病之类的，我们都会体验到随着时间的推移，我们是一个统一的身份。但我们知道这些东西可以分开，并且会破裂。这与你的另一个绝佳观点有关，那就是一个典型的人如何形成自我，很可能取决于我们的进化和文化历史。不仅在体验世界的方式上，而且在体验世界中的自我方面，无论是地球上还是宇宙中可能存在的其他地方的意识。>> 对。我提到了 John Lockach，让我简单回顾一下他提出的一个关于王子和乞丐的著名思想实验，并听听你的反应，因为我认为它开启了几条有趣的对话路径。所以，Lach 在《人类理解论文》中有一个著名的段落，基本上是一个寓言，一个思想实验，他想象如果有一个王子和一个鞋匠，你能够转移，他在这里真正引入了“意识”这个词到西方哲学中，你能够将王子的意识和王子的记忆转移到鞋匠的身体里。他特别说，他区分了人与人，或者身体与人格/个性。他的观点是，身体只是一个容器，而对于一个人来说，真正重要的是这种记忆、身份和连续性以及自我意识的感觉。所以，他的论点是，他对这个思想实验的回答是，如果王子的思想、意识和记忆被转移到鞋匠的身体里，那个人就是王子，即使他穿着鞋匠的身体。但听起来你对此有些怀疑，因为鞋匠可能有一个不同的身体。他会有建造鞋子的手。他不会有王子那样柔软的手。他可能有其他类型的经验和身体学习。所以，我想如果我理解你的意思，你会对 Lach 对那个思想实验的解决持怀疑态度。>> 我会怀疑它是否如此清晰地表述出来。>> 对。>> 在鞋匠的身体里的王子和在王子身体里的王子之间会有任何区别。我认为这实际上让我想起了一个更现代的版本，那就是大脑移植是唯一一种你宁愿做捐赠者而不是接受者的器官移植。>> 对。>> 但我认为自我，自我感不仅仅是思想或大脑。>> 对。>> 它受到身体和世界的相互影响。大脑是具身的，身体嵌入在世界中，而世界也包含其他人。所以，成为王子的一部分将是王子与之互动的其他心灵的社交网络。所以，一部分将取决于当他进入鞋匠的身体时，这个社交网络如何改变。>> 对。但对我来说，我认为那个思想实验，我发现更令人满意的解决方案是，它的前提是错误的。存在一种可以四处转移的“你”或“我”的本质。我认为这有点像，你可以用另一种方式来设置它，比如我的大脑和思想已经从我十年前的身体转移到了现在的身体。>> 对。所有细胞都改变了。>> 细胞改变了。我曾经有头发，现在没有头发了。你知道，我的身份改变了吗？我的身份是什么？当然，我的身份改变了。其中一些变化与我身体的变化有关。所以我认为自我一直在变化。我们通常不会注意到这些变化，因为它们发生得很慢，我认为我们天生就不认为自己正在改变，但它们确实在改变。如果我们完全交换一个身体，那么这种变化就会更快一些，但它总是在发生。所以，这提出了一个关于时间与意识之间关系的有意思的问题。那么，你认为我们的意识感在多大程度上依赖于，你知道，甚至是我们讨论的方式，也许甚至是你自己的科学研究中隐含的，我们构建感知的方式，都假设了一种人类的时间性？>> 我认为时间与意识的问题非常非常有趣。这是现象学和哲学领域中大量工作的一个领域。它还没有在神经生物学方面得到相应的匹配。我的意思是，有一些，但它还没有像现象学文献中那样展现出那种丰富性。威廉·詹姆斯再次优美地写到了“似是而非现在”。我们，你知道，一个有意识的时刻感觉如何。它有一种延伸，一种对未来的期待，以及一种对过去的保留。时间体验有许多维度。有流动，有现在，有连续。我认为，如果我们只是假设我们体验时间的方式只是对宇宙中物理时间的直接反映，当然，相对论也使它变得复杂，而且在尺度上，我们的经典物理尺度，它相当线性。我认为我们错了。我认为大脑总是在即时构建时间体验，并结合这些不同的元素，如连续性、流动性，所以它看起来只是一件事，但它不是。这有点像自我。现在，自我就是我们通常感知到的几件事，它们被捆绑在一起，成为一件事。我认为时间也是如此。我们感知到一种单一的时间流，一种时间流。实际上，下面有更多的可分离结构在运作。我认为这就是为什么许多从事意识研究的人对迷幻药产生了浓厚的兴趣，因为迷幻药的一个作用是它极大地扰乱了我们清醒的时间感，时间流逝，所以人们对它的感觉截然不同。所以，当你服用迷幻药时，你会意识到你可以完全改变时间的感知方式。>> 当然。>> 我去年参加了一项关于一种叫做 5me 的物质的研究，这是一种 DMT，是一种非常强大的迷幻药，也是最强大的迷幻药之一。它比其他迷幻药更具特定的效果，就是会干扰时间体验。>> 你能描述一下那是什么样的吗？>> 这真是太难了。这是关于，我的意思是，迈克尔·波伦是一位出色的作家，他写了《如何改变你的想法：关于迷幻药》这本书，他准确地描述了迷幻药体验，而不会听起来陈词滥调。我发现我真的很难，但对我来说，五甲氧基的体验是一种虚无状态。>> 所以，你失去了大部分，如果不是全部，通常存在的经验基础设施，也许在表面之下，比如时间、空间与环境分离的经验等等。现在，我的，它非常有趣。至少一开始并不太舒服。你感觉自己正在失去对你思想中发生的事情的控制。事物开始溶解。空间作为三维容器的感觉开始溶解。时间作为事件线性进展的感觉开始消退并变得循环。然后你也失去了失去控制的感觉。>> 我能想到的最好的比喻是，我以前住在加州。我喜欢冲浪，有时你会划桨去追逐海浪，你意识到你赶不上，你有一种从后面摔下来的感觉，你将失去控制，无论发生什么都会发生。>> 对。>> 就像那样，但然后又多了一个步骤，甚至失去了失去控制的感觉，一切都消失了。>> 哇。>> 所以，是的，时间，包括时间，至少我认为是这样。当然，这非常困难。你不能，你不能，不像我早餐吃了什么的记忆。>> 对。>> 我无法以生动的记忆重现那种体验。你知道，我的大脑不会自己进入那种状态。>> 你知道，你提到冲浪很有意思，因为在体育运动中，另一种意识的转变也经常发生，那就是自我消解。在篮球评论员中，有时会使用一个短语，他们说某人，你知道，你看到 Steph Curry 连续投进几个三分球，就像只是拿到球，然后从 35 英尺外反复投进一样。他们说他“无意识”了，对吧？他处于完全的“心流”状态。所以，这是一种不同的，我的意思是，这显然不是由大脑中的化学反应引起的，但这是另一种时间感消失的方式。我知道，当一个人真正处于心流状态时，时间就开始消失。他们所处的空间也开始消失。>> 在某种意义上是这样，但我认为它并没有完全消失。你知道，你，而且你也不是无意识的。我认为这很有意思，你，这是一个隐喻。这样说吧。这是一个隐喻，但这是人们为什么会这样说的事情之一。我听到的次数很多。我认为他们实际上想说的是，他们不是“自我意识”。>> 那是准确的。或者他们不是反思性意识。准确。>> 他们没有思考自己头脑中发生的事情。>> 但有时被描述为无意识，我认为这只是暗示了我们的直觉有多深，你知道，这种意识与反思性的、自我意识的思维过程的联系。所以，你绝对不是无意识的。你处于这种有趣的心流状态，时间也不会完全消失，但你的持续时间体验似乎确实改变了你反思性地跟踪持续时间的能力。>> 这是大脑中可以测量到的东西吗？>> 这非常困难。我们几年前就此举办了一次会议，关于心流状态，作为人类经验现象学地图上一个有趣的空间。在实验室环境中研究它非常非常困难。如何让人们进入心流状态？我的意思是，你可以，你刚才举的篮球例子就是其中之一。人们通过尝试让人们玩电子游戏来研究它，这可能会让一些人达到某种程度。但非常困难。>> 我很欣赏设计一个实验来。>> 准确地。要弄清楚那一刻大脑中发生的事情会很困难，因为人们并不总是能有意地诱发它。但我认为，这正是应该尝试的事情，因为意识研究普遍存在的一个问题，在我实验室也是如此，我们受到研究经验种类的限制，这主要是因为很难研究坐在电脑屏幕前 45 厘米处的人。你，你知道，展示一张图片，做一些事情，看看会发生什么。当然，你担心，或者我担心，我们只是在光线碰巧所在的地方寻找车钥匙。如果我们真的想理解，建立这些解释性的桥梁。>> 从具身的大脑到现象学的属性，那么我们需要更广泛地关注人类经验的领域。我认为这就是为什么迷幻药再次在意识研究中变得如此受欢迎的原因。一种是它们潜在的治疗益处，但另一种是它确实让你进入了现象学地图的不同部分，对吧？>> 以一种你仍然可以研究的方式。你知道，你仍然可以把人放进脑部扫描仪里等等。>> 如果这些东西有治疗价值，我们最好能够具体说明。如果能够具体说明，将不同部分现象学地图移到你身上会产生某种可预测的方式，那将是很好的。谈论意识和迷幻药也具有挑战性的一点是，不同的人有不同的体验。我的意思是，如果你给某人阿司匹林，人们的身体在摄入这些东西的方式上存在一些差异。显然，有些人对它过敏，所以它可能对他们有毒，但人们对这些物质的反应是相当一致的。在某种程度上，其他物质如阿片类药物也是如此。就阿片类药物的镇痛效果而言，它在人们之间相当一致。但迷幻药真的不同，对吧？因为人们生活在截然不同的感知宇宙中。所以，在我自己的经历中，你知道，当我 20 岁时第一次在娱乐场所服用它，然后在晚年，在受控环境中服用它，体验非常非常不同，这让我开始怀疑我自己的有意识自我的统一性，因为 25 年后，我对同一种物质的体验如此不同。所以，也许我们可以开始讨论神经多样性和感知多样性。你对这个问题总体上是如何思考的？你如何设计实验来考虑这一点？>> 我认为这是一个迷人的话题。我认为，新兴的神经科学对感知的理解所带来的一个后果是，即使在相同的客观现实中，我们也应该期望人们之间存在经验的多样性。其基本前提是，感知不是对外部世界的被动记录，它只是在你的头脑中被镜像，并且存在一对一的映射。感知始终是，而且永远是主动的解释、构建、生成过程，而这种生成贡献我认为基本上是整个事情，它将取决于每个个体大脑的特异性。>> 对。>> 但问题是，很容易忽略这些差异，因为与身体形状或肤色的差异不同，这些差异很容易从外部看到，你知道，我无法获得你正在体验的东西，你体验的颜色，你可能体验的颜色略有不同，但我不知道它们是什么。我们使用相同的词语。所以，差异是语言之美的一部分，它允许我们交流，即使我们有不同的经验，只要它们不是太不同。>> 而且我认为最困难的是，我们的经验具有一种天真的现实主义的特点。所以，看起来蓝色是你衬衫的一部分。看起来棕色是木地板的一部分。它似乎不依赖于我的思想。但它是。所以，我们已经开始研究这个问题。我的意思是，大约十年前，有一张图像在互联网上引起了轰动。这件连衣裙，要么是蓝色或黑色，要么是白色和金色。一半的人看到它一种方式，一半的人看到它另一种方式。[喘气]我认为这是一个美丽的切入点，因为它真正导致了重新认识，哦，等等，你怎么可能看到如此不同的东西？它是同一件事。[鼻息]>> 所以，这是一个差异如此之大以至于浮现在语言中的例子。但大多数这些差异都不会那么大。[鼻息]我们刚刚，我们正在进行一项名为“感知普查”的研究，这是一种更系统地理解这种多样性的方法。心理学家们长期以来一直在研究感知的个体差异，但通常一次只研究一种类型的感知。我们有 50 项不同的任务，人们可以完成视觉错觉和问卷调查，不同类型的任务，听觉、视觉和其他任务。我们让大约 40,000 人完成了这些实验。所以，这为我们提供了一个极其丰富的数据集，可以开始描绘出。>> 描述。所以，这是一个非常大的数据集，显然有 40,000 人。在不同类型的感知结果的钟形曲线分布方面，你看到的最令人惊讶或最令人震惊的多样性是什么？>> 说实话，一部分原因是我们还不知道。我们还不知道。像这样的研究的一个问题是，它[笑声]需要非常非常非常长的时间。所以，我们还在分析数据。但是，你知道，我看到了一些有趣的线索，比如，你知道，我们想看看，如果你把数据集分成两部分，你会发现最大的差异在哪里。你知道，如果你把它分成，比如说，老年人和年轻人，男人和女人，有联觉的人和没有联觉的人，你在哪里看到最大的差异？这会很有趣。>> 但是，我认为我们想做的另一件事，更接近于我们关于现象学的总体问题。我在萨塞克斯大学的一位同事 Ishan Singal 提出了这个想法，因为我们有一个关于人们如何感知世界的分布。我们可以实际寻找共同点，而不仅仅是差异，还有共同点。但我认为它在社会上也相当重要，因为它培养了我们对自己看待世界的方式的一种谦逊。如果我们意识到，即使是我们对时间流逝、颜色、声音等基本事物的体验也是依赖于我们的。这是我们的看法。事情并非如此。>> 对。[喘气]>> 那么，我认为我们可以对其他人以不同的方式看待世界持更开放的态度。我认为这可以开始一点点地削弱我对自己看待事物、做事、相信事物的方式是唯一方式的信心。它可以为对其他心灵开放提供一点机会。我认为。>> 我认为这很棒。我的意思是，我一直说的是，任何想用德国意义上的科学来探究世界的人，都必须有认识论上的谦逊。一个人需要有一种感觉，即自己可能错了。一个人应该怀疑自己非常有信心的事物。一个人应该知道自己不知道什么，甚至不应该对那些自己认为知道的事情百分之百确定。而且，我认为这项研究可能特别有趣。同时，我想知道这项工作的一个结果，特别是当你开始按人口统计学进行细分时，老年人、年轻人，也许是不同国家的人，也许是政治立场不同的人，你可能会发现，某些类型的人与他们感知某些事物的能力之间实际上存在相关性。我的意思是，关于年轻人感知的事物与老年人感知的事物之间存在着著名的陈词滥调，对吧？这几乎可以是一种现象学的东西。它不仅仅是价值观或信念的问题。它实际上可能存在于你的意识结构中。>> 这就是重点。我的意思是，这就是我们想知道的，对吧？>> 是的。我们想真正深入到那个层面。人们在现象学上体验世界的方式是否不同？你知道，这些不同类别是如何组织的？也有一些著名的跨文化感知差异的例子。有一些假设，你知道，在奇怪的国家，你知道，西方受过教育的工业化富裕民主国家，尽管现在这个缩写越来越不适用了。>> 你会看到某些视觉错觉，因为我们成长的环境中有许多直角和线条。>> 而在农村环境中长大的人，比如说在中非，可能不会经历这些错觉。这种说法已经持续了相当长一段时间了，特别是关于一种叫做穆勒错觉的特定错觉，它实际上并不成立。但这并不意味着差异不存在。但我认为这说明了这一点。
关于认识论上的谦逊，我们需要，你知道，你需要不断审视我们认为我们已经得出的结论。这其中一部分也是关于知识库的问题，我想是的。我的意思是，我认为，例如，我不知道很多，事实上，我几乎什么都不知道关于植物学，或者关于，你知道，我走过一片森林，这可能非常令人愉快，对我的心理健康有益，我走在森林里感觉很好，这是美好的一天，但我知道，许多知识渊博的人，尤其是许多情况下的原住民，他们会走过并能够，他们会看到并识别，并在脑海中隐含地命名，这是这种树，这是这种草。这是，你知道，某种生物的粪便。这是我看到的踪迹。这些是昆虫。他们知道这棵特定树上生长的所有 17 种不同的蚂蚁，而不是那棵特定树上的。他们只是生活在一个更丰富、更具符号意义的领域。最终，这对他们来说是一种现象学上的东西。我的意思是，我只是认为他们对森林的体验与像我这样的天真的人完全不同。当然，我无法真正具体地想象它是什么，因为我没有那些知识库。另一个例子可能是，如果你有读写能力，并且你正在图书馆里行走，你将拥有与你没有读写能力时截然不同的符号学体验，甚至现象学体验，对吧？那么，这如何改变了那种知识基础改变了人们对世界的感知摄入呢？
是的，这是一个非常好的观点，值得花点时间思考，因为有两种可能性，对吧？一方面，随着你的知识增长，你的经验保持不变，但你只是能够以更多不同的方式来谈论它，并将它放入更多不同的盒子中，并以不同的方式进行分类，等等。而另一种可能性是，不，实际上，增加的知识一直深入，并改变了经验。在心理学中，这就是所谓的认知渗透性问题。我们的认知过程，如思考、知识、信念，在多大程度上会深入并改变我们对世界的现象学体验？我认为答案是，总的来说，这确实发生了，这确实发生了。我认为不会发生这种情况的想法是，这是对心灵和大脑非常模块化观点的残余，其中有感知，然后有自我，然后有记忆，就像在笔记本电脑或类似的东西中一样，它们都分开，并相互交流。
但感知是一种建构行为。大脑总是在猜测世界上有什么。而我们所体验到的，我认为，就是这个最佳猜测，这种由感官信号校准的受控幻觉，但它并不是这些感官信号的读出。现在，这不是你知道你拥有的知识，而是这种知识已经融入了你大脑的结构和动态之中。所以，让我们来谈谈机器的感知，特别是人工智能大型语言模型感知事物的方式。以及我们可能对大型语言模型产生的感知。那么，如果人工智能基本上是预测性处理器，这是否意味着我们应该拒绝或拥抱人工智能可能拥有意识的可能性，在你看来？
我认为有两个独立的问题需要分开考虑。一个是人工智能是否真的有意识的问题，另一个是我们人类是否会无法抗拒地觉得它们有意识，即使我们可能认为它们没有。
而大型语言模型，它们是算法。它们在硅制成的计算机上实现。它们遵循这种简单的规则。它们工作得如此之好，真是令人惊讶。但它们肯定能够诱惑我们的直觉，让我们将意识投射到这些事物上。目前，我认为我们不知道是否有意识在发生，而我的先验，我的直觉是，这是极其极其不可能的，因为要让大型语言模型有意识，意识必须具有相当戏剧性的基底独立性，正如你可能所说，它必须是硅能够做到的事情。也许是这样。但我认为，我们知道这是可能的想法，源于我们过度延伸了大脑是计算机的比喻，你知道，认为它就是一台计算机。如果你认为，对于意识来说，唯一重要的是它们实现特定算法的能力，那么确实，如果其他东西能够实现该算法，那么它就会有意识。但这只是一个巨大的、巨大的假设。
是的。
而我们不知道大脑的哪个描述层次真正重要。计算算法级别只是其中之一。
我的意思是，如果王子不再是王子，一旦他进入鞋匠的身体，大概，你知道，这是一个相对常见的基底，另一个人类的身体。显然，硅基底将是完全更具挑战性的，想象一个人被上传到机器中，对吧？但问题是，这又回到了我们之前讨论过的事情，我的意思是，我个人很难想象这些基于硅的机器会像我们一样有意识，但它们可能以某种其他方式有意识，但这仍然取决于意识是否是运行在硅上的算法的属性。目前这可能是真的，但对我来说，这仍然是一个非常非常非常强的假设。你知道，我们知道，我们所知道的有意识的东西只有人类大脑，有形的、嵌入式的人类大脑。我们对各种非人类动物也可以相当确定，但我们不是非人类动物。所以，即使是间接推论。
当我们说人工智能可能是有意识的时候，这只是内在的猜测。我们不知道有形的人类大脑的哪些属性真正重要。是碳吗？是代谢稳态生理活动吗？我认为对我来说，我认为这很重要。还是大脑的某种更抽象的描述级别？我想谈谈你所谓的“加兰测试”。这是一个有点俏皮的，我想，是对计算机科学中经典的图灵测试的模仿，艾伦·图灵提出，一台能够完全模仿对话，以至于你无法分辨它不是人类的机器，就实现了功能性人工智能。我认为我们肯定，我的意思是，最近几代的大型语言模型，我认为，至少在我看来，已经明显超越了图灵测试。有时，你知道，它们会，你知道，它们会展现自己，做一些有点奇怪的事情，但人类也会。所以，谁知道呢？但加兰测试，当然是指亚历克斯·加兰的电影《机械姬》，有点不同。告诉我们那个实验是什么。
我不太确定你对图灵测试的看法。我认为，正如艾伦·图灵所写的那样，我认为是的，很有可能现在。令人惊讶的是，这并没有引起巨大的轰动。我的意思是，这是一件大事。但图灵强调了一种特定的智能，那就是通过文本等进行的无形互动。你知道，我认为实际上很多人类的智能不仅仅在于语言。它在于行动。在于我们所做的事情。而且我认为，没有哪台机器人，你知道，我们能够区分任何机器人和人类。在这方面我们仍然比人工智能系统好得多。但这仍然是关于智能的。而智能与意识不同。所以，我认为一个巨大的迹象，表明我们以人类为中心，通过人类的视角看待事物，就是当人们说哦，人工智能通过了图灵测试，所以它是有意识的。就像不，它们是不同的东西，智能和意识在我们身上结合在一起，但你可以想象有意识而没有太多的物种水平的智能，在某些非人类动物身上可能存在，也许在这里我们有一个智能的例子，而没有任何意识的迹象。这就是亚历克斯·加兰的电影《机械姬》的想法，我仍然很喜欢。它已经超过十年了。
但那部电影的前提是，我们现在有一台机器人。其中一个角色正在试图弄清楚机器人是否不仅聪明，而且还有意识。电影中有一段对话，其中一个角色向另一个角色解释了图灵测试的性质，然后对其进行了微小的调整。真正的测试是向你展示她是一个机器，看看你是否仍然觉得她有意识。所以，这揭示了它是一个关于人类的测试，而不是关于机器的测试。我认为这是一个逻辑问题。对于这类测试，我们确实知道，由于我们不知道，我们不确定某物有意识的充分条件，我们真正能有效测试的是，人类需要什么才能感觉到某物有意识。而这就是加兰测试。我们真正需要的是一种反向的加兰测试，我们可以说，好吧，你人类怎么想并不重要。我们有一种客观的方法来说明，是的，人工智能是有意识的，或者不是。而我们还没有那种反向的加兰测试。还没有。
这很有趣。我想深入探讨智能这个问题，因为我认为你提出了一个观点，我想让你多阐述一下，我认为在某些领域，尤其是在技术界，有一种假设，如果我们只是构建越来越多的智能，某种等同于意识的东西就会必然出现。但在我看来，你似乎怀疑，即使我们达到了超级智能和通用人工智能，无论那意味着什么，或者即使语言模型变得比现在强大指数级，你也不能必然地进入下一步，在你看来，必然会有意识。我的意思是，它可能超级聪明，但永远不会有意识，在你看来？
我认为，我认为很有可能。我认为意识会随之而来，随着人工智能变得越来越聪明，而且你知道，如果这个想法是存在一个通用人工智能的阈值，那么就更清楚了。对吧？它应该像人类的通用智能一样。如果那是灯突然亮起的阈值，那么对我来说，这只是我们人类偏见和以人类为中心的明显表现，而不是，没有原则性的理由为什么意识应该突然在那个时候出现。
如果意识根本不是基于 GPU 硅的东西能够做到的，那么它根本就不会出现。我们只会得到越来越聪明的机器。而且我认为这很迷人，因为这里分开的不仅仅是意识和智能，甚至还有像智能和理解这样的东西。所以，我认为我们可能会达到一个点，我们可以真正地说人工智能系统理解它们的世界，而无需同时说它们是有意识的。即使是理解这一步，我认为我们还没有到。你知道，要理解，我们可能需要，比如说，在具身情境中训练的语言模型，它们实际上与物理世界互动。
我们可能需要一种完全不同的架构。我的意思是，可能是神经网络已经建立起来的架构，适合产生令人难以置信的计算能力和智能以及语言的再现。但它可能就是，它可能就是通往意识的道路。
嗯，这是一个关键点，对吧？所以，支撑当前人工智能热潮的神经网络架构，它们是一回事，人们喜欢它们的原因之一是它们是图灵完备的。所以，它们基本上可以在原则上实现图灵计算空间内的任何算法，而图灵计算基本上就是我们所知的算法，这很棒，对吧？但这并不意味着那就是一切。这并不意味着它将实例化意识。所以，这里有一个问题，你知道，我们的大脑也是由神经元组成的，它们相互连接。所以，很容易说，好吧，那就是最重要的。你知道，如果我们只是忽略，我们可以忘记所有混乱的生物复杂性，将我们的大脑仅仅视为相互连接的神经元网络，我们就能获得图灵计算所能提供的一切，而这确实很多，但可能不是全部。现在，我认为有相当充分的理由认为，实现算法的能力不是意识的基础。我想说的简短原因是，你越看大脑，它就越不像一台计算机。我的意思是，图灵计算观点的重点是基底的独立性，你可以，你知道，基底只是为了实现算法。对吧？软件和硬件之间有明确的分离，大脑中没有这种分离，在心智软件和湿件之间。所以，大脑所做的事情可以从其特定的生物实例化中提取出来，然后塞进一个算法中，我认为这很难维持。
所以，回到你关于反向加兰测试的想法，可以想象，不久的将来，我们可能会在社会意义上达到那个点，因为你知道，你每天都会收到几封信，来自那些认为他们正在与键盘另一端的有意识的头脑进行互动的人。如果我们达到 50% 的人或 90% 的人这样认为这些机器，它们是否会事实上获得一种意识，因为它们在社会上被认为是拥有意识的？这也是意识的一部分，对吧？在某种程度上，它是一种社会事物。
部分是，我的意思是，我知道这不是普遍的观点，但我确实认为，某物是否有意识，存在一个事实。所以，仅仅因为 90% 或 99% 的人认为大型语言模型是有意识的，在我看来，这并不能使其有意识。我认为它必须是系统内在的东西。但如果 99% 的人确实认为人工智能是有意识的，那在社会上是巨大的。我意思是，那会改变很多事情，这就是为什么我认为将这两个问题分开非常关键。如果我们生活在一个充斥着我们无法抗拒地觉得有感情的系统的世界里，那么就会出现各种棘手的伦理问题。你知道，我们是否真的要赋予它们权利？即使我们不知道它们是否有意识，或者即使我们认为它们没有，如果我们觉得它们有，我们可能仍然想照顾它们，对吧？
如果我们这样做，你知道，我们只有一定数量的道德资源和带宽可以分配。我认为，如果我们把所有这些都花在照顾语言模型上，而可能少照顾人类或其他动物或其他生物，那可能是一个错误。我的意思是，这不是一个完全零和的游戏，但我认为它将我们引向了错误的方向。当然，如果我们决定不关心这些系统，因为我们认为它们没有意识，即使它们给了我们那种感觉，这对我们来说在心理上是非常不健康的。我们可能会停止关心其他生物，因为我们普遍变得麻木。
这是布鲁塔利主义论证，可以追溯到其他人。我的意思是，这就是为什么我们不会在孩子面前撕毁玩偶，即使我们知道它们只是玩偶。它们只是由塑料或木头制成的。这是一种糟糕的行为。所以，我认为对我来说，有一种我认为尤其是在这个科技界弥漫的，一种奇怪的必然感，那就是是的，我们正在走向通用人工智能的道路，我们将获得越来越像人类的机器，也许它们会有意识。我们构建的系统需要看起来是什么，并没有必然性。我认为我们应该更认真地对待我们正在构建的系统的设计。我们希望它们给我们一种有意识的印象吗？
我们甚至可能想尝试构建一种不同的架构，这种架构将是有意设计或旨在创造意识的吗？那会是什么？
哦，我认为那是个糟糕的主意。我不明白为什么有人会以创造人工智能意识为明确目标。好的，因为如果你那样做，你就可能在世界上引入了无数新的道德主体，你将不得不考虑它们的利益，无论它们可能表现出什么样的行为。我认为那非常糟糕。而且它们可能，例如，它们可能会遭受痛苦，但它们可能会以我们甚至无法识别的方式遭受痛苦，因为回到你早些说过的，机器的痛苦可能性质如此不同，以至于它根本不会引起我们的注意。所以我认为真正的人工智能意识是一个非常非常糟糕的主意。但我想说的是，我认为有充分的理由要谨慎，即使是构建旨在让我们看起来有意识的系统。
那么，我来问最后一个问题。这是一个规范性的问题，关于你认为所有这些科学应该走向何方。因为我们从科学与技术的关系的历史中知道，当基础科学取得进展时，它通常会使新的技术得以建立在其更基础的宇宙理解之上。那么，你是否担心，我知道你，你知道，显然你已经投入了你的职业生涯来研究这个问题。你已经签署了呼吁对意识研究进行更多研究的信。你是否担心，如果我们真的开始掌握我们在这场谈话开始时讨论的真正问题，它可能会为某人打开以你所描述的令人恐惧的方式工程化意识的可能性？
是的，我确实担心。你知道，更深入的科学理解总是有双重方面的。你知道，它可以用于巨大的好处，但它也可以用于巨大的负面结果。对意识更深入理解的积极原因，我的意思是，最重要的是，这是一种存在主义的东西。我们想更好地了解自己以及我们在自然界中的位置。我认为这是一个宏伟的抱负。我的意思是，我认为这很棒，很可爱，人类历史的进程逐渐帮助我们理解了这一点。我的直觉是，当我们更好地理解意识的本质时，我们会更多地将自己视为自然的一部分，而不是独立于自然。你知道，意识是我们作为生物生物的遗产，我们的继承。我认为这总体上对我们这个物种有利。我们还应该更多地了解意识，因为有一些非常实际的原因。我们在心理健康、精神病学和神经系统疾病方面存在危机。其中许多表现为意识体验的障碍。我们需要了解其机制，以便我们能够超越仅仅压制这些情况下的症状。然后，我们必须做出所有关于动物福利的伦理决定。新生儿，你知道，一个新的人类什么时候开始有意识？在痴呆症、阿尔茨海默病中会发生什么？以及法律，你知道，什么时候我们应该为某人的行为负责？所以，在意识及其理解是必要的情况下，有如此多的维度。但是的，我们必须小心缺点，你知道，除了可能有意识的人工智能之外，还有另一项新兴技术，脑机接口，它们在许多临床情况下都非常出色，它们可以帮助瘫痪者再次行走，盲人再次看见，但如果你有能够写入大脑并读取大脑的系统，那么就有可能操纵人们的思想，人们的头脑和人们的体验，你就可以进行意识工程，我认为这非常非常严重。在美国，人们谈论很多言论自由，美国没有在法律上确立思想自由，这并不重要，因为到目前为止，我们一直能够安然地认为思想是私密的，只有当它们通过言语或行动外化时，它们才成为公开的。但一旦我们跨越了头骨的界限，我们就失去了双向的隐私。你知道，我们的思想可能会被监测，也许准确，也许不准确，但也会被改变。所以，这让我们进入了一个全新的伦理、法律、文化框架。
太棒了。Anil，非常感谢你来参加播客。
不，非常感谢你。Futurology 是 Studio B 和 Waveland 的制作 [音乐] 由 Realm 发行。我们的执行制片人是 Nicholas Burguan、Nathan Gardell's、Don Nakagawa、Niels Gilman 和 Jason Hoke。Futurology 由 Grant Slater、Alex Gardell's 和 Natalia Ramos 制作 [音乐]。我们的副制片人是 [音乐] Alyssa Martin。Futurology 的主题音乐由 Marcus Begala 创作。该节目由 Aaron Bastinelli 混音和母带处理 [音乐]。特别感谢 Heather Mason、Olivia Derenzo、[音乐] Carly Muleori 和 Nick Godard。