Transcription
你好，欢迎来到未来学。我是唐，今天我和未来学的制作人格兰特·斯莱特在一起。今天我们来谈谈意识。>> 是的，我们要谈谈意识。特别是，我们要谈谈大卫·乔莫斯>> 和尼尔斯·吉尔曼之间的这次采访。>> 和尼尔斯·吉尔曼。尼尔斯是BI出版社的出版总监，我们在这里的伯根研究所的出版机构。大卫是世界上最顶尖的[音乐]意识专家之一，以及我们如何定义它。问题是为什么？为什么有人会关心意识？当我们在这里的布鲁因[音乐]研究所思考意识时，我们注意到一个模式，在过去一个世纪，尤其是在过去20到30年里，我们认为有意识的范围以及我们认为具有能动性的范围正在[音乐]迅速扩大。所以，它始于我们人类是宇宙的中心，然后它被赋予了那些看起来像我们一样的动物，比如猴子、黑猩猩，然后是我们喜爱的动物，比如狗和猫，而想象它们没有意识变得非常困难。但现在我们甚至将其扩展到更小的粒子，如变形虫[音乐]或河流或山脉。那么，我们如何应对意识范围扩大的影响呢？所以意识很重要[音乐]，因为它决定了谁或什么重要。>> 我想在20世纪的前50年、60年里，意识就像一个“哇哇”的概念。人们并不真正研究它。它已经失宠了。你对为什么在一段时间内它被认为是“哇哇”有什么看法？意识一直被视为不值得科学考虑，因为它与灵性、上帝的观念有关。科学想要研究我们能看到的东西，我们能测试的东西，我们能收集数据的东西，而意识非常不属于这些。[音乐]>> 所以，这场对话现在非常活跃。很多人都在谈论意识。你认为它现在为什么如此[音乐]重要？我们正处于一个非常重要的意识会议的边缘，即将迎来一些全新的东西。我们正在试图决定人工智能是否有意识。这些问题现在正在激励硅谷，并在一定程度上开始激励我们的政策决策，以及我们如何看待我们在宇宙中的位置。大卫在很多人担心被砍头的情况下，他敢于发表自己的看法，他说他相信[音乐]人工智能可能是，或者已经是有意识的，特别是如果它是有意识的，我们就需要赋予它道德地位[音乐]权利和政策框架来保护它，因为它作为一个有意识的生命体，能够遭受痛苦。>> 所以，这些是大卫正在[音乐]思考的想法。>> 是的，完全同意。他正处于思考的最前沿，这就是为什么我们想在未来学节目中和他谈谈，在那里我们[音乐]试图命名尚未被发明的概念。[笑声]>> 好的。那么，我们现在去听采访吗？>> 我们开始吧。>> 好的。让我们去听大卫·查尔默斯和BI出版社总编辑尼尔斯·吉尔曼的采访。>> 欢迎来到未来学。>> 谢谢。很高兴来到这里。>> 我们非常激动能邀请您来到[音乐]节目。当然，在几乎所有关于意识的对话和人们进行的关于意识的采访中，您的名字都会出现，因为您为过去30年意识研究的辩论奠定了一些基础术语。我们将从回顾一些内容开始。但在此之前，我想听您谈谈，您是如何首先接触到这些想法的，以及您童年的一些经历可能引导您研究意识。是的，在我成长过程中，我主要的兴趣在于数学和科学。我有点像个数学迷和科学迷，我并没有太多地明确思考哲学。可能我甚至不知道哲学是什么，但有一些经历可能帮助我产生了对[音乐]意识的兴趣。我记得的一件事是，在我某个年纪，我发现我一只眼睛近视，然后戴上眼镜，突然间我有了真正的双眼视觉，世界仿佛跳出了[音乐]三维空间。我当时想，这是怎么发生的？这是怎么运作的？我的意思是，我理解了关于眼睛的双眼机制的故事，它会告诉你大脑如何整合信息并计算距离等等。但那不是我想理解的。我想说，这一切是如何发生的，这一切如何突然转化为这种主观的深度体验，当世界在你眼前跳出来时，它突然让我感觉我身处一个完全三维的世界。回想起来，那已经是[音乐]意识问题的实例了。大脑里这一切是如何发生的？>> 这件事发生时你多大？>> 大概10岁，我想，大约10岁。>> 你也说过你小时候有过联觉。首先，什么是联觉，你当时的体验是怎样的？>> 是的，联觉是指当你通过一种感官刺激而获得另一种感官体验。所以，最经典的例子是当某人看到字母或数字时，他们会将其与颜色联系起来。我没有那样，但我有音乐颜色联觉。我会听到某些音乐，它们会与颜色联系起来。也许是某些音调或和弦模式，我记得那实际上有点令人失望，因为大多数时候我得到的颜色是浑浊的棕色或橄榄绿等等。也许只是把一切混合在一起，但偶尔也会出现非常纯粹的颜色。我记得披头士的《在这里，那里，到处》，那首歌的开场和弦是鲜红色的。>> 我们今天下午可能会谈到一些迷幻的对话。但是，你知道，尤其是披头士，还有20世纪60年代末、70年代的许多音乐，我认为，几乎是故意试图激发那种反应。嗯，我认为这与那个迷幻时代有关，我们稍后会再谈谈。>> 不幸的是，当我大约20岁的时候，联觉就消失了。如果我现在还有的话，那将是太棒了。我可以把它作为一种主观体验来研究。但没有，在我知道“联觉”这个词之前，我的联觉就消失了。而且这个有一个名字。直到后来我才发现这个。>> 哦，这确实是一个有趣的现象。所以当你学到这个词时，你就想，“哦，天哪，我终于给我的经历找到了一个名字。”>> 是的。从那时起，我偶尔会在我的本科课程中谈论这个，偶尔会有一个学生说，“哦，天哪，我不知道这是怎么回事。我不知道它有一个名字，但我有完全相同的现象。”这对他们来说意义重大。>> 所以，很有趣。好吧。那么，让我们开始谈谈一些基本的概念术语和工具，以便谈论意识。嗯，您非常出名的一件事是描述意识或意识问题的某些维度为“难题”。我们稍后会谈到您首次提出并推广这个短语的会议。但首先，请您根据您的定义，告诉我们什么是意识的难题。>> 我想我先说一下我所说的意识是什么意思。对我来说，意识基本上是主观体验。从第一人称的角度来看，任何感觉像某种东西的东西。我把这一切都看作是内在电影的元素，或者更好的是内在虚拟现实，它包括从第一人称角度主观体验到的颜色、形状、物体和人的视觉体验，听到我自己的声音，现在，感觉我的身体有一种特定的情感基调，一些想法在我脑海中闪过。这些都是主观体验流的元素。这就是我所说的意识，它或多或少等同于那个。我的同事汤姆·纳格尔写了一篇著名的文章，题为《作为一只蝙蝠是什么感觉？》他的想法是，我们不知道蝙蝠在用声纳听、发出信号、发出声音并接收回来的声音时是什么感觉。这对蝙蝠来说更像是视觉吗？更像是听觉吗？嗯，我们不确定，但可能感觉像某种东西。想法是，只要对蝙蝠来说感觉像某种东西，那么蝙蝠就是有意识的。它有主观体验。而，据推测，麦克风没有感觉。如果没有，那么麦克风就没有意识。所以对我来说，意识是一种现象，一个实体有感觉。我的意识可以被重新描述，换句话说，就是我现在是什么感觉。>> 这是那种体验，对吧？>> 完全正确。对。>> 是的。主观体验。与特定的视角相关联的体验。这可以与其他许多人对意识的理解区分开来。我的意思是，就像哲学中每一个有趣的词一样，它在许多不同的语境中，以许多不同的方式使用。有时意识只是指清醒和睡眠之间的区别。有时它意味着能够通过说“我现在正在想这个”来报告你的内在状态。有时它意味着能够以不同的方式整合来自不同模态的信息，就像我指向我正在听的东西一样。这些都是你可以用来指代意识的事情。但有一种感觉，那些不是主要的谜团。所以，你知道，我们已经掌握了如何解释清醒与睡眠，比如用神经计算术语。所以那些我称之为“容易的问题”>> 的意识。不是因为它们微不足道，它们和科学或心灵科学中的任何事情一样困难。但我们有一个解释它们的范式。要解释我如何整合信息并指向我听到的东西，我只需要讲述一个关于视觉信息如何传入，听觉信息如何传入并以某种方式连接到我的运动系统，以及存在一个神经或计算机制的故事，最终将解释这种现象。但当涉及到主观体验时，认知科学的解释范式似乎不起作用。它们基本上都是为了解释行为或解释客观机制和行为的功能。所以，我可以[音乐]说，你想解释，你知道，我现在在环境中看到某样东西的蓝色体验。哦，你的衬衫是蓝色的，你的袜子是令人愉悦的紫红色。>> 类似这样。>> 紫红色。为什么体验这些颜色会有感觉？为什么会有这种感觉？为什么会有任何感觉？嗯，我可能只是一个机器人或一个僵尸，正如哲学家有时所说的那样，对所有这些环境中的事物做出反应，但没有主观体验。事实上，我确实有主观体验。而且，你知道，关于我如何回应事物、说出话语等等的标准故事，它们都处理了容易的问题，但它们并没有真正处理难题。而难题正是解释主观体验，或者也许更详细地说，加上一些假设，解释大脑中以及可能在其他地方的物理过程如何产生主观体验。当我的大脑发生某些事情时，我就会产生主观体验。我的体验和大脑之间有着深刻的联系。我的体验和大脑状态之间当然存在相关性，但我们并没有真正掌握如何给出解释。大脑过程、计算和行为的任何故事如何加起来成为主观体验的解释？这就是难题。所以，据我所知，您首先在一次我必须说具有传奇色彩的1994年会议上公开提出了这个“意识难题”的框架。它之所以具有传奇色彩，部分原因是有许多非常聪明的人在那里，他们后来成为了现代意识研究领域的奠基人。但我也听说，会议本身是一次相当多彩的活动。您能为我们描绘一下1994年会议的情景吗？首先，它在哪里举行，有哪些人参加了这次会议？>> 会议在亚利桑那州图森举行。我第一次听说它，我不记得了。我想他们发出了非常广泛的广告。当时我在圣路易斯华盛顿大学做博士后。我可能在6个月前刚拿到博士学位。我是一名博士后，我在布告栏上看到一张海报，广告上说有一个名为“迈向意识的科学基础”的会议。我刚写完关于意识的博士论文。我非常投入于这个话题。这个话题开始吸引比我多年来更多的关注。大约在这个时候，丹·丹尼特、罗杰·彭罗斯和弗朗西斯·克里克等人的书已经开始引起人们对这个话题的严肃关注。而亚利桑那州的人们，尤其是斯图尔特·哈马罗夫，他因与罗杰·彭罗斯在意识的量子力学方法方面的合作而闻名，他们聚在一起说，为什么我们不举办一个关于意识的会议呢？让我们把它办大。让我们邀请所有人，最后大约有三四百人参加。会议在医学院举行，实际上是在亚利桑那州，因为那是斯图尔特工作的地方，他的日常工作是麻醉师。>> 嗯。>> 他靠麻醉来控制意识的开关。所以我们在医学院举行了会议。我当时是个无名小卒。但我碰巧提交了一篇会议摘要，想着也许我会做一个海报展示之类的。但关于解释意识的挑战，而斯图尔特·哈马罗夫，他基本上负责这件事，我想他喜欢他看到的东西。所以他把我安排在第一个环节，所以这一切都开启了会议，轮到我发言时，我应该说，称意识为“难题”并不是我的原创见解。>> 它之所以如此广泛流传，是因为每个人都认为，我想，内心深处，他们知道解释意识存在着极其极其困难的地方，而且多年来，任何数量的理论家都以不同的方式说过这一点。所以，至少不是原创见解，但至少是一个朗朗上口的短语。结果是，我上台后，在我演讲的前5分钟，我说，好吧，意识对很多人来说意味着很多事情。如果你指的是这个，那么那些将是相对容易的问题。“意识的难题”是主观体验的问题。这时，我看到听众中许多人都点头了，演讲后人们议论纷纷，说“是的，是的，就是这样，”这就是“难题”，是的，我没有原创见解，但它引起了人们的共鸣，并最终为这个领域提供了一些结构，并为科学问题如何解释行为功能和寻找相关性可能与“真正给出主观体验解释的难题”形成对比。所以我的演讲是，你知道，5分钟关于难题和容易的问题，然后另外25分钟我继续给出我自己的方法，以及当时我关于信息的新兴理论。没有人记得那部分，但[笑声]但不知何故，你知道，这个“难题”这个说法流行起来了，我对此并没有太多功劳，但它恰好是我兴趣的中心。所以，如果你要以创造一个朗朗上口的短语而闻名，那么最好是你真正感兴趣的东西，而不是与你的兴趣完全无关的东西。所以，我很高兴能与这个非常强大的迷因联系在一起，它对我来说，在我的职业生涯中，被不断地拉回到这个最困难的问题上，确实是我最初进入这个领域的原因。>> 我是一名知识史学家，我总是对一个特定思想的出现背景感兴趣。为什么一个特定的想法会以你所描述的方式出现并流行起来？现在，在学术界和大众对意识、意识是什么以及意识研究的兴趣方面，正经历着一个小小的繁荣。我认为这很大程度上与我们现在在大型语言模型和人工智能方面的膨胀和繁荣有关。>> 有趣的是，您在1994年提出这个短语或推出这个迷因的会议，当时正处于所谓的“人工智能寒冬”的低谷，对吧？在70年代和80年代初，人工智能的可能性曾经历过一次繁荣，然后计算机科学家们在进步方面遇到了瓶颈，人们普遍认为这可能是一个虚假的希望和梦想。现在，当然，我们正生活在一个人们曾经拥有的最狂野的梦想似乎正在实现的时刻。您曾在印第安纳大学攻读博士学位，那里一直是人工智能相关研究的主要中心。您认为您在人工智能寒冬的低谷时期进行的思考和博士工作，与您以这种方式解决这个问题有关吗？>> 有趣的是，我的看法是，我在道格·霍夫斯塔特的人工智能实验室攻读博士学位，我的看法不是我们在人工智能寒冬。也许我们在象征性人工智能寒冬，那种涉及文字符号和遵循逻辑规则的人工智能。80年代的专家系统曾经历过一次繁荣。但没有取得什么进展。那已经过去了。但我想说，我们正处于所谓的“神经网络夏天”。也就是说，人工智能的神经网络方法，这种方法来自于拥有这些有些像大脑的神经单元，它们都连接成一个巨大的网络。这在80年代末突然变得非常流行。而且至少在那一领域有过一次小繁荣，我想持续到1995年左右。>> 所以我的整个博士论文都写在那段时期，我实际上非常投入于人工智能研究。我发表了几篇关于神经网络的文章，试图进化出能够学习的神经网络，试图让它们进行某种语言处理。这一切都还很原始，但那实际上是令人兴奋和着迷的，感觉这是一种人工智能的方法，它没有得到应有的关注，并且突然得到了关注。所以，我把我的学生时间分给了人工智能和意识。很多人说，“来吧，别研究意识了。那是个过时的课题。你得研究神经网络>> 因为这是人工智能，因为这是令人兴奋的，这样你就能找到工作。”所以我说，意识是我进入这个领域的动力，即使它是一个不那么活跃的课题。这才是真正吸引我的，我真正想思考的。这是永恒的问题之一。所以我这么做了，有趣的是，在我获得博士学位后不久，你知道，意识这个话题在90年代中期开始了一个大繁荣，这在一定程度上一直持续到今天，虽然有起有落。神经网络和人工智能。当时，我的看法是，大约在1995年，市场就饱和了。没有人感兴趣了。>> 至少人们认为人工神经网络根本不起作用。不幸的是，大约15年里，市场都饱和了，除了杰夫·辛顿、杨立昆和约书亚·本吉奥这三两个人之外，他们一直坚持信念。现在，讽刺的是，到了2012年左右，人工智能和神经网络突然卷土重来，使用的机制与我们90年代初使用的基本相同，只是现在计算能力更强，数据也更多。结果是，神经网络基本上开始占领世界。今天，我们是2025年，我所听到的每一个人工智能系统，我想，GBT正在被宣布，就在我们说话的时候。>> 对吧？它运行在神经网络上，使用反向传播学习算法和一些更酷的新机制等等。所以，是的，我并不认为转向意识是人工智能寒冬的必然产物。事实上，我们现在对意识的新一轮兴趣正是人工智能夏天的产物。我们有一些非常成功的人工智能系统，在某些方面非常像人类。这使得一个非常紧迫的问题成为现实：它们是否有意识，或者它们很快就会有意识吗？在90年代初，没有人认为当时的人工智能系统离有意识还有多远。所以，是的，那么意识的浪潮可能没有像现在这样受到人工智能的驱动。尽管罗杰·彭罗斯，他的书《皇帝的新思维》是当时吸引人们关注的大书之一，他非常怀疑人工智能和机器智能的可能性，然后引入量子力学来同时解释人类能力和意识。所以那里有一个角度。哦，你问了第一届会议上都有谁？我当然记得克里斯托夫·K，他现在和我们在一起，在威尼斯，我们立刻就合得来，开始争吵，就意识和科学如何处理它进行了无数次争论。罗杰·彭罗斯也在那里。>> 事实上，会议结束时，我们即兴去了大峡谷。斯图尔特和吉姆·卢斯邀请了我，罗杰·彭罗斯也去了。实际上，那是会议结束后的几天，我花了很多时间与罗杰谈论他关于哥德尔定理的论证以及他从中推导出的关于意识的推论。我记得我们走进大峡谷。实际上，那是我28岁生日，1994年，我28岁生日。我们走进大峡谷，一路争论着关于哥德尔定理。然后我们走回来。罗杰比我健康得多。>> 我认为他赢了我。他比我早两个小时爬到大峡谷顶端，那时他60岁，我28岁，但他当时非常健康。我们进行了愉快的交谈。我最后写了一些关于哥德尔定理的东西。所以，有许多非常好的哲学家在那里。而这次繁荣的部分原因是一些记者参加了1994年的会议。但我记得最清楚的是约翰·霍根，一位为《科学美国人》撰稿的记者，他有着极其生动和有力的写作风格。他写了一篇关于当时会议的非常有力的文章，克里斯托夫在其中扮演了重要角色，不知何故，我也在其中。我不太喜欢他说的。他引用我说，科学无法解决意识问题，但哲学可以。我没有说过那样的话。我绝不会那样说。我不会，我不会在哲学和科学之间划出如此明确的界限。但他却说，“是的，但听起来就是那样。”>> 是的，这对记者来说不是个好答案。[喘息]>> 但实际上，因此，他说，“好吧，我跟他抱怨了一点。”他说，“你应该写你自己的文章。”我说，“哦，我可以。”>> [笑声]>> 嗯，我最终为《科学美国人》写了一篇关于意识难题的文章，可能比我之后写的任何文章都读的人多。我认为这引起了一些关注，因为我有一本关于“有意识的心灵”的书即将出版，但它是在几年后才出版的，但我认为第一次会议的回响以及在那里发生的所有讨论导致了许多不同的事情，导致了意识科学研究协会，它源于图森会议，最终采取了一种更保守的方法。图森会议非常折衷。它涵盖了量子力学、超心理学和灵性，以及哲学、神经科学和心理学。ASSC的成立是明确的意图，要更保守一些，吸引那些可能不完全适应图森会议上丰富多彩的奇思妙想的主流神经科学家。但是，由于1994年图森会议的成功，以及1996年和1998年等等的重复，ASSC得以成立，我与另外四五个人共同创立了它，这事实证明对该领域的发展至关重要。所以，是的，如果你要进行知识史研究，我认为很多都可以追溯到1994年的第一次会议。他们将其定性为第一次关于意识的国际跨学科会议。好的，让我们开始，让我们来描绘一下自1994年以来意识研究领域的发展。嗯，也许我们可以通过一些术语来做到这一点。所以，意识研究中最基本的概念之一是心身二元论。有些人有时将您描述为二元论者，但您通常喜欢称自己为自然主义者而不是二元论者。所以，请告诉我们什么是二元论，以及为什么您不是二元论者。>> 是的。在我第一本书《有意识的心灵》（1996年）中，我称自己为自然主义二元论者，我很乐意称自己为某种二元论者。哲学家区分物质二元论和属性二元论。物质二元论认为存在一个全新的东西，一个类似于灵魂的实体，它不同于任何物理实体，但它拥有意识的所有属性。属性二元论并不假设一个全新的实体，比如灵魂。它只是假设新的属性。它说，你知道，我们在物理学中已经习惯了这样一种观念，即现实中有某些基本属性。在牛顿物理学中，空间、时间和质量都被视为基本属性。也许麦克斯韦的电磁学理论出现了，它假设了新的基本电磁学定律。电荷也被视为基本属性。如果有什么是旧的基本原理无法解释的，你只需要引入一个新的基本原理。所以，最终，我的观点是，当涉及到意识时，物理学解释，就空间、时间和质量、电荷等而言，可能对解决容易的问题有好处，但最终无法解释难题，即我们感受和体验到的东西。因此，为了将意识纳入其中，你需要在这个故事中添加一些基本的东西，你需要添加一个基本属性，我认为最简单的候选属性就是意识本身。所以，除了时空、质量、电荷之外，我们还有时空、质量、电荷和意识。我称之为属性二元论，因为它表明，除了我们进行物理学研究所需的属性（时空、质量、电荷）之外，还有进一步的属性，即意识，我们需要这些属性来充分发展意识的理论。但我认为这在任何方面都不是不科学的，就像在你的原理中拥有时空、质量和电荷作为基本属性一样。它扩展了我们的本体论。你知道，你不应该轻易引入新的属性，而且我仍然认真对待试图用更少的东西来解决问题的尝试。但是，是的，我仍然很乐意称自己为至少是自然主义二元论者。虽然我的一部分想法是，我也对其他方法持开放态度，包括意识无处不在的物理世界的方法，>> 也就是所谓的泛心论。>> 泛心论。是的。物质的本质非常深刻。泛心论意味着心智或类似心智的东西无处不在，如果你愿意的话。即使在基本物理系统，如夸克、电子和光子中，如果你走这条路，你仍然拥有基本意识，但你的基本意识从一开始就在物理学中。所以它不那么二元化。你没有物理学、物理和精神、物理和意识的分离。在泛心论的观点下，它们更加整合。所以，这将是一种将意识视为基本的方法。我第一本书的副标题是《有意识的心灵》，副标题是“寻找一个基本理论”。我的想法是，我们想找到，我们将把意识视为一个基本属性，我们想找到支配它的基本定律。在物理学中，人们说我们在寻找，你知道，基本定律，简单到可以写在T恤衫前面。>> 对吧？>> 我对意识定律的态度一直如此。我们想找到意识的基本定律。最终，简单到也许可以写在T恤衫前面。>> 那将是惊人的。我并不那么乐观，我们很快就能做到，但>> 给我点时间。意识的科学和哲学还处于早期阶段。>> 的确如此。让我们谈谈人们用来描绘意识领域的一个区别。比如唯心主义或幻觉主义。这些术语是什么意思？>> 是的，我认为这两种观点，唯心主义和幻觉主义，是处于意识观点光谱的极端对立面的激进观点。我的意思是，广义地说，存在一个观点谱系，从极端的还原论和唯物主义开始。这些观点基本上将物质世界放在首位，认为极端版本认为要么没有意识，要么我们可以用物理术语非常容易地解释它，而光谱一直延伸到极端的非还原论观点，这些观点认为意识是真实的，并且是基本的，并且不可还原为任何物理的东西。所以，我刚才谈到的观点，我最喜欢的是那些认为意识是真实且不可还原的观点。所以，唯心主义实际上比我刚才描述的观点更极端，因为唯心主义最终认为世界是由意识组成的，即使是物理世界也最终是由意识组成的，而且根本上没有什么是世界就是意识，仅此而已。>> 这种观点在西方传统中尤其与乔治·贝克莱联系在一起，这位英爱哲学家，但它在印度和西藏传统以及其他东方传统中有着非常非常深厚的根源，这些传统认为意识和心灵是世界的最终组成部分。所以，这是光谱一端的一个极端观点。与之相对的极端观点是，我们所体验到的物质现实只是宇宙心灵中的一个梦。对吧？基本上是这样吗？>> 是的。唯心主义者对物理世界有不同的看法。有些人否认物理世界存在。只有意识，你知道，它给我们一种物理世界存在的印象，但那不应被认真对待。它有点像一个梦或一个构造。还有其他版本认为，是的，物理世界存在，但它完全派生于意识。是的，你，我的意思是，这里的麦克风，是的，这里有一个麦克风，但它基本上是由我关于麦克风的经历构建的，或者是一个从我的经历中构建出来的。所以，我的有意识的经历是第一位的，而这才是现实中唯一真实的东西。我的印象是，还有一种在硅谷某些圈子和流行文化中流行的观点，那就是整个世界是一个模拟。对吧？这有点像，不是宇宙心灵，我们都是宇宙意识上帝的虚构或形象，如果你想这么称呼的话，而是我们都是这个巨大的计算机模拟或在外部世界发生的模拟中的人物和虚构。你认为这些基本上是结构相似的论点吗？>> 也许有一些共同点。现在，我认为模拟假设并不像唯心主义那样，认为心灵是基本的。我的意思是，通常在模拟假设中的想法是，是的，实际上有一个计算机在运行，它正在生成，它有一个物理世界的巨大模型，也许我们是那个巨大计算机的一部分，或者我们是连接到它的“缸中之脑”，就像你在《黑客帝国》中一样。实际上，我们是生物大脑，连接到这个巨大计算机。我不认为模拟假设中有任何唯心主义的痕迹。我的意思是，也许计算机是由物质组成的。>> 它们是有意识的。但是>> 但它们没有一个类似的对难题的答案吗？那就是我们正在体验的东西，我们的感受实际上不是物质上的真实，因为它们是宇宙精神一方面和计算机另一方面制造的幻觉，你知道，让我们认为我们正在体验，看到这里的麦克风，但实际上，这只是计算机通过我们产生的幻觉，在模拟假设的情况下>> 模拟假设的某些版本会将外部世界视为幻觉，对吧？>> 外部世界不是真实的。这可能与贝克莱的某些唯心主义版本有共同之处。我的意思是，我最近写了一本关于这类事情的书，名为《现实加》，它非常认真地对待模拟假设。我自己的观点是，是的，我们可能处于模拟之中，但如果是这样，那并不意味着物理世界不是真实的。>> 对吧？>> 它只是意味着我们生活在一个由计算组成的[音乐]世界里。而且，我不认为这必然是唯心主义的一个版本。我的意思是，也许你可以通过说那些计算机过程最终是由意识组成的，或者是由精神事物组成的，来将它与唯心主义结合起来，但这似乎至少是一个非常可选的进一步主张。所以，我认为模拟假设与唯物主义和唯心主义是一致的，它们也必须解决难题。而且我认为模拟假设并没有内在地包含解决方案。也许它说存在产生意识的大脑，然后我们必须，或者也许它们说存在产生意识的计算机过程。我认为这两种观点都面临着难题：为什么大脑会产生意识？为什么这些计算机过程会产生意识？>> 那么，为什么他们甚至要费心呢？>> 所以，模拟假设是一个关于物理世界的不错的故事，但我认为它不是，我认为即使这种观点也需要与一个独立的意识观点相结合，才能解决那个问题。>> 你提到了幻觉主义。>> 但你知道，在光谱的另一端，我们有所有这些唯物主义观点，它们说物质世界是根本的，意识充其量是派生的。它是一个复杂的物理过程。也许它是一个复杂的计算机过程。但最极端的唯心主义版本说物理世界甚至不存在。它是一种幻觉。最极端的幻觉主义观点，也许是最极端的唯物主义版本，就是关于意识的幻觉主义。它说物质世界存在。意识不存在。意识是一种幻觉。许多人很难接受这种观点。你的意思是意识是一种幻觉？即使我有一个幻觉，那也是一种我意识到的体验。嗯，那么你就必须解释这个幻觉，>> 对吧？>> 这难道不会是另一种形式的意识吗？但幻觉主义者很聪明，他们说，“哦，也许根本就没有意识。”但我们只是有一个通过进化建立起来的非常错误的自我模型，这导致我们说，“我有意识。我拥有这些特殊的意识属性。”而实际上，我们根本没有。事实上，我们根本没有意识。正如丹·丹尼特曾经说过的，我们都是认为自己有意识的僵尸。>> 对吧？>> 那就是幻觉主义。所以，这就是光谱的远端。幻觉主义、唯心主义，以及介于两者之间的许多观点。>> 这是丹·丹尼特的著名哲学僵尸概念，对吧？>> 我不认为丹会喜欢将自己与“僵尸”这个概念联系起来。他确实，他偶尔会提到它们来反驳它们。>> 我认为，以“哲学僵尸”这个名字出现的，是由一位名叫罗伯特·柯克的哲学家在70年代引入哲学文献的。虽然事实证明，一些早期的哲学家也谈论过类似的想法。例如，“模仿人”的想法。澳大利亚哲学家基思·坎贝尔也谈论过，但我第一本书里写了很多关于它们的内容。是的，哲学僵尸的关键在于，它们不像好莱坞电影中的僵尸。好莱坞电影中的僵尸可能是有意识的。>> 嗯，你知道，它们死了，然后被复活了，你知道，它们吃大脑。我不知道。它们可能喜欢大脑的味道。也许它们是有意识的。哲学僵尸，最独特的是它们表现得就像人类一样。从外面看，它们看起来就像人类，但实际上，它们根本没有意识。所以，你现在和我说话，你知道，我在这里。我滔滔不绝地说着，但你知道我是有意识的吗？你知道，很难确定。想象一下，我像这样说话，但根本没有意识。那就是哲学僵尸。现在，我们大多数人都不认为其他人是哲学僵尸。我的意思是，偶尔，如果有人否认意识的存在，也许我会怀疑，但我倾向于认为正常人都是有意识的，尽管很难确定。但我们至少可以构想僵尸，即使我们不是哲学僵尸。这至少使我们能够将它们作为对照组。它们本可以是僵尸。似乎上帝可以创造一个在物理上与我们世界一样的世界，但没有意识。所以，为什么是那种？如果你愿意，这是另一种提出意识难题的方式。为什么我们不是僵尸？为什么进化没有只产生僵尸，即和我们一样有能力的物理系统，但完全没有意识？人们也用僵尸来反驳唯物主义，说，“好吧，你知道，如果上帝能够创造一个在物理上与我们世界完全相同的世界，但没有意识，那么她就必须付出更多的努力来赋予意识。”这是一种论证，即意识包含着超越物理过程的东西。我的意思是，这些论证极具争议性。我不指望任何人仅仅因为第一次听到这种简单版本就会被说服。但这是僵尸提供的一种生动的方式来阐述意识难题的某些方面以及唯物主义和二元论之间的争论。还有关于意识对我们有什么作用以及它如何进化的疑问。所以，至少在关于意识的哲学讨论中，僵尸已经扮演了相当核心的角色。在科学领域，我认为人们并不那么认真地对待它们，因为没有人认为僵尸是真实的。大多数人认为它们只是可以构想的。尽管你提到了人工智能，现在在这些人工智能系统行为越来越复杂的时候，大多数人似乎仍然倾向于说，好吧，它们可以进行人类般的对话，但拜托，它们显然没有意识。这在某种程度上是在说，这些人工智能系统可能离哲学僵尸不远了。如果共识是正确的，它们表现得像人类。它们没有任何主观体验。哦，好吧，也许人工智能已经找到了制造哲学僵尸的方法。你提到了罗杰·彭罗斯，和他一起徒步旅行，他把你从峡谷里打出来。在意识研究中还有一个著名的猜想，被称为彭罗斯-哈马罗夫猜想。>> 是的。这可以追溯到90年代初。首先，罗杰·彭罗斯出版了一本书，名为《皇帝的新思维》，大约在1989年出版，其中有很多关于物理学和量子力学以及量子力学问题的内容。在书的结尾，他开始谈论智力和意识。他认为，任何经典人工智能系统都无法像人类一样聪明，特别是人类数学家。他认为，我们能够看到某些算术陈述的真理，而这些陈述是不可证明的。你知道，哥德尔定理告诉我们，有些算术陈述是真的，但在给定的形式系统中是不可证明的。罗杰认为，这意味着对于任何给定的AI系统，都会有一些数学陈述，它永远无法证明，但仍然是真的。他认为，人类能够看到所有这些陈述的真理，而AI系统却不能。然后他用这个来解释，好的，那么我们拥有非计算能力，任何AI系统都无法拥有。你知道，这非常有争议，而且关于这个论证是否成功，有很多来回的讨论。但即使它成功了，那么问题就来了，大脑中怎么会有非计算过程呢？目前理解的物理学似乎没有非算法的非计算过程，他同意这一点。所以他说，是的，但我们还没有完全，我们没有一个关于量子力学的恰当理论，特别是关于量子力学与广义相对论的理论，所谓的量子引力，他推测，也许这就是非计算过程可能存在的地方，在关于量子力学以及波函数如何坍缩的正确解释中。他认为这可能包含非计算元素。好的。所以，这是另一个大胆的说法，另一个有争议的元素。然后还有一个问题，即使你在物理学中拥有了它，它实际上是如何在大脑中产生某种效果，从而使人类数学家能够证明计算机无法证明的事情呢？在这一点上，我认为斯图尔特·哈马罗夫联系了罗杰·彭罗斯，说，嘿，你需要了解微管，它们是神经元细胞骨架的组成部分，你知道，它们似乎具有所有有趣的复杂性，但大多数普通神经科学家并不认为它们在认知或智力方面起着重要作用。但罗杰，但斯图尔特认为微管具有各种惊人的特性，也许它们可以成为非计算行为的载体。
神经元。罗杰也接受了这个想法，并且非常喜欢。于是他们在这个时候联手，说“嗯，是的，现在我们有了一个结合了数学、物理学和生物学的理论，其中非计算性的量子过程，它们以某种方式帮助微管中的波函数坍缩，而这一切都导致了非计算性行为，你知道，斯图尔特在第一次图森会议上再次展示了其中一些内容，罗杰也参加了，是的，当时围绕这件事有很多争议，而且有点顺理成章。我最初并不认为它是一个意识理论。它是一个认知和智能理论。嗯，你知道，这是微管在行为中扮演非计算性角色的方式，但他们将其与意识理论联系起来，说无论何时发生波函数坍缩，那都等同于一个意识时刻。我的意思是，这与量子力学基础中非常著名的观点有关。嗯，约翰·冯·诺依曼和尤金·维纳。冯·诺依曼在30年代，维纳在60年代，都提出了量子力学的观点，其中存在一个波函数，它通常根据薛定谔方程演化，但时不时地通过所谓的测量过程进入一个新的状态，主要是说测量，那么什么是测量呢？嗯，维纳说测量是主观体验，意识。所以，有一种量子力学的方法认为意识可能在那里起作用。意识导致波函数坍缩。彭罗斯和哈默夫说，不，意识不会导致波函数坍缩，而是由于量子引力的新定律导致波函数坍缩，而这些新定律实际上是产生意识的原因。有趣的猜测。至少我认为斯图尔特想把它作为一个潜在的“难问题”的解决方案。
>> 为什么这可能是一个“难问题”的解决方案？
嗯，这并不明显。我的意思是，这是一件新事物。我认为，这个想法是，经典的“难问题”告诉你，经典计算永远无法解释意识。但也许量子力学将拥有这个全新的东西——量子波函数坍缩，而这将是一件足够新颖的事情，它将以某种方式赋予你意识。但我我的态度是，拜托，这里存在一个解释鸿沟。哲学家约瑟夫·莱文引入的另一个关键哲学术语。鸿沟在量子过程和意识之间，以及在经典过程和意识之间，同样巨大。我从来不明白它怎么能解决“难问题”。斯图尔特后来却说，“哦，是的，我把意识视为基本，我们也许会有一个基本定律，说哪里有坍缩，哪里就有意识。”
>> 它是否可能不是解决“难问题”，而是解释为什么“难问题”如此之难？
因为只有通过这些波函数坍缩，也许不仅仅是这些波函数坍缩，而是如果波函数坍缩导致意识的出现，那么测量功能就是导致波函数坍缩的原因。所以，这就是为什么你无法测量意识，因为试图测量它的行为会导致它坍缩。这就是为什么它可能如此的解释吗？
那将解释为什么我们在物理世界中从未体验过叠加态。我们总是得到确定的状态。你认为这可能也解释了为什么意识如此难以解释。没错。
>> 以物理学的术语来说，
>> 对的？它的量子态是什么让它如此困难。
>> 嗯，理解量子态确实很难。但我的意思是，量子态和意识之间似乎存在着与经典态和意识之间同样巨大的鸿沟。我不清楚为什么量子情况会如此之难。但是的，人们试图以各种方式将意识和量子力学联系起来。通常不是以获得广泛共识的方式。但确实存在这些，它非常深刻。至少在量子力学的经典文本中，测量的作用似乎非常深刻。没有人知道如何理解测量，并且很自然地试图从意识的性质来理解它。即使是那些没有波函数坍缩的意识观点，即使是那些没有波函数坍缩的量子力学观点，也常常不得不谈论意识。所以，嗯，你知道，有时这些观点会被嘲笑，说“嗯，意识是神秘的，量子力学也是神秘的，所以也许这两个神秘有一个共同的来源。”嗯，我认为，我认为意识的理解程度不足，我们应该对此时所有极其推测性的想法持开放态度，但然后我们应该非常严谨地思考它们。
那么，让我问你一个与此相关的问题，你是否觉得意识研究取得了进展，让我们这样说吧，因为在我看来，在“容易的问题”方面已经取得了很大进展。嗯，显然神经科学已经取得了长足的进步，我们进行脑部扫描和各种测量的能力，你知道，能够将前感知和感知器官联系起来，并解释这些事物如何以各种方式结合在一起。但听起来，你提出的“难问题”的前提是我们没有真正取得进展，也许我们无法在“难问题”上取得进展。
>> 这从来不是我的观点，即我们无法在“难问题”上取得进展，或者“难问题”是无法解决的。在我提出它的时候，这对我来说非常重要。它必须作为一个挑战。这是一个“难问题”，但我真的希望科学和哲学等可以一起努力，有一天能够解决它。事实上，我认为这是我写的关于“难问题”的论文的最后一句。它有点像“难问题”是一个“难问题”，但没有理由相信它将永远无法解决。嗯，当然，我们在“容易的问题”上取得了更大的进展，尤其是寻找意识的神经关联问题，对我来说，这非常非常令人兴奋。我的意思是，很早的时候，嗯，在这个过程中，你知道，我写了一篇关于意识神经关联的文章，这也是弗朗西斯·克里克和克里斯托夫·科赫方法的核心，即寻找意识的神经关联是一个可行的项目，即使在不解决意识的所有哲学奥秘的情况下，我们也可以进行这项工作。你可以找到意识的神经关联，即当某些意识状态活跃时，活跃的脑过程。原则上，你可以在不解决身心问题的情况下，不解决意识的“难问题”的情况下找到意识的神经关联。我认为这很棒，因为如果我们必须等待“难问题”的解决方案才能进行科学研究，我们可能会等待很长时间。事实上，看到这么多神经科学家开始关注意识问题，在过去的几十年里，这非常令人兴奋。所以，是的，当然，我意思是，那里有进展。它也时断时续，你知道，就在几年前，也就是2023年，克里斯托夫和我举办了一个活动来解决我们1998年打的一个赌。嗯，1998年，克里斯托夫打赌我们将在25年内找到意识的神经关联，>> 意思是2023年。我打赌我们不会。实际上，我认为他打赌会有共识。会很清楚，这些就是意识的神经关联。我说，嗯，这可能最终会发生，但我认为这不会在25年内发生。所以，如果到了2023年，我们在纽约市举行了ASSC会议。他展示了一系列最新的科学研究结果，这些结果仍然没有明确答案，意识的神经关联是在大脑后部和感觉区域，还是在大脑前部，在与认知或思维更相关的区域。所以很清楚，我们还没有就意识的神经关联达成共识。所以，我赢了赌局，他按照赌局的条款给了我一些好酒。所以，是的，但有进展，但确实取得了很大进展，而且神经科学现在比30年前在神经关联方面更加复杂。但说到“难问题”，当然，是的，在这些深刻的哲学问题上进展较慢。但我会说，已经取得了不同类型的进展。我们比以前更详细地了解了其中许多选择。例如，泛心论的观点比早期发展得更深入。另一方面，幻觉论的观点也得到了复杂的发展。我们有了意识的科学理论，试图就其性质说些什么，从而解决“难问题”。在这里，我想到了例如朱利奥·特农的整合信息理论。嗯，你知道，所有这些方法都有争议，但我确实认为我们至少开始有一些候选理论摆在桌面上。迈克尔·格拉西亚诺的幻觉论理论，它建立在注意力图式机制的基础上，甚至详细的量子力学理论，就像我提到的我与凯尔文·麦昆一起研究的那种。可能这些都不是正确的。这些都不是“难问题”的共识解决方案。我们甚至还没有接近拥有那个。但我确实认为，我们至少已经更好地理解了其中一些最严肃的选择是什么，人们也比以前更深入、更详细地尝试执行这些研究项目。现在，这一切都与说“还没有令人信服的‘难问题’解决方案”是一致的，而且很可能解决“难问题”需要一些全新的东西。如果我必须猜测，也许我会把相当一部分的钱押在那里。现在还为时过早，也许在200年后，我们会回头说，“拜托，那些家伙太天真了。”嗯，你知道，他们甚至还没有开始理解我们现在知道的“格朗尼化”的基本现象，[笑声] 是意识的关键，但嗯，你做的另一个项目，我认为没有得到足够的关注，是你创建了 Phil Papers，哦，是的，一个网站，我认为现在上面有几十万篇论文，或者什么的。
>> 数百万篇，我认为到目前为止。
>> 是的，也许取决于你怎么衡量。
>> 而这是一种衡量方式，你可能无法衡量你是否在朝着共识解决方案取得进展，但你至少可以衡量正在朝着这个方向努力的活动量。当你看到这个时，你是否会进行一些有趣的数据挖掘项目，并思考它告诉你哲学各个领域和子领域的状态？
>> 偶尔，一点点。嗯，所以 Phil Papers 是我与我的一位前研究生大卫·布尔吉共同指导的项目，他现在是加拿大西安大略大学的终身教授，也是那里的数字哲学中心主任。是的，他确实是这个项目的幕后天才。除了是一位伟大的哲学家，他还是一个才华横溢的软件工程师，他在21世纪初毫无预兆地联系了我。我有一个关于心灵哲学的在线书目。他说，“我能弄清楚如何正确且完整地将它数字化，并添加链接、结构等等。”我说，“太好了。”然后他来到澳大利亚国立大学，我当时在那里，和我一起工作。他写了一篇关于意识的优秀博士论文，但我们也首先开始了 Mind Papers，然后当我们为心灵哲学做了这件事之后，我们觉得我们可以为所有哲学做这件事，所以我们推出了 Phil Papers，最初是一个关于所有在线哲学作品的书目数据库，但很快扩展到所有哲学作品，也是一个开放获取的档案，供人们存放哲学论文。我认为开放获取档案现在可能有几十万篇论文，书目数据库有数百万条条目，现在几乎所有的哲学家，至少是所有的西方分析哲学家，都用它来进行他们的研究。是的，看到它得到了如此多的使用，我感到非常欣慰。我不认为它是一个智力进步，而是一个智力工具，它可以帮助很多人找到哲学，并帮助人们将他们的作品提供给其他哲学家等等。当然，它确实随着时间的推移而扩展，你可以看到关于意识等方面的研究。我们偶尔会查看各个领域相对增长的情况。我们还对哲学家进行调查。我们每隔一段时间就会进行一次调查。我们在2009年进行了一次大规模调查，在2020年进行了更大规模的调查，调查哲学家对哲学问题的答案的看法。第一次调查涉及30个关键的哲学问题，包括心灵的物理主义还是非物理主义。僵尸是可想象的还是不可想象的，可能的还是不可能的，等等。第二次调查，2020年，我们问了100个问题。所以，是的，我们有一些关于意识“难问题”的问题。是否存在一个，是还是否？我认为大约60%是唯物主义者，35%到30%是非唯物主义者，但尽管如此，60%到65%的人仍然认为存在一个“难问题”。
>> 所以你那里有相当多的人。所以你不必是二元论者才能认为存在一个“难问题”。对。嗯，事实证明，那里有相当多的人是物理主义者，或者原则上想成为物理主义者，但仍然认为存在一个尚未解决的严重“难问题”，是的，这项调查在揭示该领域的社会学结构方面相当有趣。我完全不具备社会学家的资格，但通过进行这些调查，至少做一点业余社会学，了解该领域的结构，这很好。你还可以将所有不同问题的答案相关联，看看它们是如何组合在一起的。你是否计划进行下一轮调查？
>> 是的，我想是每10年一次，2030年。
>> 我认为这将是一个了不起的资源，供未来的
>> 当然。
>> 未来历史学家。
>> 哲学史学家。[哼鼻]
>> 嗯，好的，让我们稍微转向，谈谈你近年来工作的一个转向，那就是你称之为“技术哲学”。首先，请告诉我们什么是“技术哲学”。
所以，是的，“技术哲学”是我在我2022年出版的书《现实+》的导言中引入的一个术语。它很大程度上受到了加拿大-美国哲学家帕特里夏·丘奇兰德在20世纪80年代末出版的一本书《神经哲学》的启发。神经哲学的理念是哲学和神经科学之间存在双向互动。首先，我们称之为“神经科学哲学”，我们从哲学角度思考神经科学领域的工作，并说这项工作如何运作？它解释了什么等等。但随后也有神经科学对哲学的影响，例如利用神经科学的结果来帮助解决哲学问题，例如可能利用神经科学理论来帮助解释意识，或者利用大脑来帮助解释道德。所以我非常受到以这种方式思考技术的影响。我认为已经存在一个名为“技术哲学”的现有领域，它完全是关于从哲学角度思考人工智能、计算机科学和虚拟现实等技术，并说我们如何理解计算、信息、人工智能。关于技术有很多哲学问题，但也有一个潜在的双向互动，即思考技术实际上可以帮助我们解决古老的哲学问题。例如，思考人工智能可以帮助我们思考人类心智，就像人工智能帮助我们思考自然智能一样。这也适用于“现实的本质是什么？”嗯，最初我们只有一个主要的现实，我们的物理现实。现在我们有了所有这些新的现实——虚拟现实，我认为认真思考虚拟现实实际上可以对思考物理现实的本质非常有启发。是的，一个可能的，众所周知的途径涉及你已经提到的模拟假设。嗯，VR向我们介绍了我们可能正在与一个虚拟环境互动，这个环境可以令人信服地像自然环境一样。而且，就在几天前，谷歌推出了一款新的模拟引擎G3，它能产生令人惊叹的逼真模拟，不仅仅是视频，而是对物理现实某些方面的交互式模拟。这是一个通过观察技术来帮助我们进行推测的例子。现实的实际本质是什么？也许它是一个模拟，也许它是计算性的，等等。所以《现实+》这本书试图审视技术哲学项目的各个方面，既提出了关于人工智能、VR等的哲学问题，也特别关注技术如何影响意识、现实、知识、道德、科学等伟大问题。我写这本书的部分原因是可以作为通过技术视角对哲学的介绍，但同时它也试图继续我理解虚拟现实和人工智能的个人项目。这本书的一个关键口号是“虚拟现实即真实现实”，是的，有些人认为虚拟现实是虚假的、虚构的或幻觉的，而我的观点非常倾向于认为它们原则上应该被视为与物理现实一样真实。
>> 是的，曼努埃尔·卡斯特尔有一句话说，我们不应该谈论虚拟现实，我们应该谈论真实的虚拟性。
>> 真实的虚拟性，
>> 这与我所说的见解相似。
>> 我在20世纪90年代有一个表达，你知道，现实生活中的“IRL”，
>> 这意味着，好吧，数字的东西不是真实的，非数字的东西是真实的。但现在感觉有点，人们仍然使用这个短语，但感觉有点过时了。
>> 我认为现在它几乎是反讽地使用的。
>> 也许是这样。当然，我们知道我们生活中的很多部分都发生在网上，它和其他任何事情一样真实，无论好坏。
>> 所以，你几年前写了一篇文章，标题是“大型语言模型会是有意识的吗？”这篇文章以一位名叫布莱克·莱莫因的谷歌工程师的事件为起点，他声称他当时正在研究的谷歌的Lambda 2语言模型是有意识的。这件事之所以臭名昭著，部分原因是谷歌后来解雇了他，或者至少让他离开了。我不确定和解的确切条款，它变成了一个焦点，在某种程度上变成了一场文化战争。我想，鉴于这直接关系到你的工作，为什么你不告诉我们你对那件事的看法，以及你是否认为那是未来我们可能越来越多地进行的对话的预兆。
>> 是的，事实证明布莱克·莱莫因只是有点超前了。
>> 我认为他是在2022年中期开始担心的。现在，这些天
>> 我的意思是，有一个1950年代的旧短语，关于“过早的反法西斯主义者”。
>> 好的。[笑声]
>> 也许他是一个过早的LLM意识倡导者。
>> 好。事实上，这些天我每天可能会收到四五封电子邮件，来自某人，他们一直在与他们的本地语言模型 Claude 或 ChatGPT 等进行交流，并且经常与它进行非常长时间的对话，而且通常会给它起名字，而且他们经常坚信这些系统是有意识的，它们表现出惊人的涌现能力。所以，突然之间，这种情况发生了很多，而且随着这些语言模型越来越复杂，这种情况很可能会继续发生。我的观点是混合的。我的意思是，我们不知道哪些系统是有意识的。存在其他心智的问题。我原则上非常开放地认为人工智能系统可能是有意识的。我的意思是，存在一个“难问题”。人工智能系统怎么会有意识？但对于大脑来说，也存在一个同样“难问题”。大脑怎么会有意识？而且我看不出生物神经元有什么特别之处，与人工神经元相比，一个基础可以支持意识，而另一个不能。所以，我至少对人工智能意识的可能性持开放态度，而语言模型在很多方面都很有趣。我的意思是，它们现在的行为非常复杂，但它们的工作方式也与人类的工作方式截然不同。你知道，它们在所有这些数据上进行训练，其程度远远超出了任何人类的训练。我的意思是，它们被训练来模仿人类，许多人认为这可能是获得复杂行为的一种方式，而无需有意识。但它们缺乏什么，这对于意识至关重要，这一点远非显而易见。部分原因是我们不知道什么对于意识是必不可少的。所以，在我写的文章中，我的意思是，有些人认为语言模型显然不是有意识的。如果有人说它们显然不是，那么好吧，我会问为什么不是？它们显然缺乏什么，而这又显然是意识所必需的？不同的人有不同的答案。你知道，有些人认为生物学是必需的。我不认为有强有力的理由支持这一点，但它远非显而易见。感官过程是必需的，当然早期的语言模型只有语言，而没有视觉和听觉等等。如今，嗯，它们处理图像文件，处理音频文件，也许这已经是准感官过程了。有些人认为身体是必需的。有连接到身体的语言模型。[哼鼻] 奇怪的是，它们没有。但如果这就是你需要的，我认为这并不遥远。有些人认为循环处理，如神经网络内的反馈，是必不可少的。而且，目前的语言模型确实没有广泛使用反馈。它们主要是前馈的。所以，这是一个我认真对待的原因。同样，这是否是意识所必需的，也远非显而易见。所以，总之，我会考虑所有因素，并得出结论，是的，语言模型有意识存在相当多的潜在障碍。没有一个障碍是明显的绝对障碍。没有一个障碍使它现在显然不是有意识的。特别是考虑到未来，这些都是很容易在10年内克服的障碍。所以我最终说，它现在可能有意识。也许不太可能。我不排除当前语言模型有意识的假设。我的意思是，一种思考方式是，我开放地认为非常简单的物理系统是有意识的。你知道，也许像秀丽隐杆线虫，只有300个神经元。如果它有意识，我不会感到惊讶。一旦你拥有一个拥有300个神经元的生物系统有意识，是的，为什么一个拥有数万亿个参数的语言模型不行？我的意思是，我可以，其中一个答案，也许这是一个语言上的技巧，但可能存在各种不同种类的意识。它不仅仅是意识只有一种尺度，而是可能存在一个分支，各种不同的事物。所以，无论它是否，我有点担心，有时这些对话最终会隐含地以人类为中心。就像如果它没有复制或超越我们人类认为我们的意识是那样，尽管定义它非常困难，那么它就不是真正意义上的“有意识的”，即使它可能表现出其他东西。而且，历史上我们创造了许多人造系统，我们模仿了我们在自然界中看到的其他生物所做的事情。所以，我们不能在水下游泳，但有了水肺，我们可以做很长时间。我们不能像鸟一样飞翔，但事实证明我们制造了机器，它们不扇动翅膀，但我们确实在飞翔。现在，这是人类在飞翔吗？是的，这是人类在飞翔。只是飞翔的方式与鸟类不同。这是否意味着我们没有在飞翔？不，我们仍在飞翔。只是方式不同，机制也不同。所以，这可能是从哲学上用语言来逃避问题，但你知道，我们可以达到一个机器正在做我们不需要纠结于“意识”这个词来表示“嘿，这是一个激进的事情，它将具有激进的可能性”的地步。也许，与其纠结于“意识”这个词，我们不如更实证地描述这些东西到底在做什么。
>> 是的，我认为尤其是在“智能”这样的词语方面，这可能是最好的方法。它们有智能还是没有智能？嗯，我不知道，它们具有智能的这个和那个方面，而没有这个和那个方面。也许我们可以为它们拥有的独特类型创造一些新词。说到意识，我自己的观点是，这个问题并不那么容易被淡化，因为我认为我的观点是，关于它们是否有意识，存在一个深刻的事实。它们要么拥有主观体验，要么不拥有。然后有一个真正的问题。它们的主观体验是什么样的？但如果它们拥有主观体验，但形式与人类形式截然不同，并且它们以自己的方式拥有主观体验，我一点也不会感到惊讶。也许它不像我们的那样分解为感官、情感和认知体验。也许它的本质非常不同。如果最终对人工智能系统来说，这是正确的说法，我一点也不会感到惊讶。一种表达方式可能是，想象一下人工智能系统冥想，或者人工智能系统选择自愿服用迷幻药是否有意义？我的意思是，这些是人类会做的事情，我们这样做部分是为了操纵我们自己的意识，无论是冥想还是服用迷幻药，都是许多人类有意选择做的事情。这是我们可以想象机器选择去做的事情，是为了乐趣还是利润，还是
>> 我认为想象人工智能系统这样做很容易。我不知道现在是否有人构建了这样的模型。我怀疑现在已经有了冥想和迷幻药的原始版本。嗯，也许随着我们对这些事情的基本神经机制有了更好的理解，它们会变得更复杂。但我看不出为什么不行。将来，我们可能拥有能够经历类似冥想状态和类似迷幻状态的人工神经网络，并且至少会好奇处于这些状态是什么感觉。我敢肯定，你现在至少可以训练一个系统来表达对这些问题的兴趣，甚至可能要求经历这些状态。当然，现在我们可能没有真正进入冥想状态的好方法。我的意思是，仅仅念诵一点可能无法完成任务，
>> 对？
>> 嗯，或者，你知道，做[哼鼻]呼吸练习，或者，你知道，我们知道如何给它们化学物质。但一旦我们足够了解迷幻药的神经基础，也许我们可以对神经网络做一些事情，在各种方面都对应于迷幻过程，并且在事后看到它报告的内容会非常有趣。
>> 是的，那将与我试图精确地表达的事情有所不同，那就是给机器“投药”，对吧？无论从技术角度来看，这最终意味着什么。但早上醒来，说，“我想，嗯，有些人早上醒来会说，‘我想今天服用伊博加因’或‘我想服用LSD’，因为我认为这对我的精神状态有帮助，或者我认为这很有趣，或者，你知道，它们是由这些事物的自我探索的性质所驱动的，对吧？包括它们从中获得的对内在性的探索。意识对话的另一个维度与东方哲学和佛教有关。在这个会议上出现的一个想法是佛教的八正道。它是正见，理解现实的本质；正思维，即做道德的事情；正语，不说谎，不诽谤；正业，做正确的事情；正命，不做伤害他人的事情；正精进，保持正念，并为此原因而努力。正念，专注于当下。嗯，用你的话说，就是专注于当下。然后是正定，通过冥想培养单一的焦点。这能否成为创建一种人工智能伦理的基础，通过将这些原则构建到人工智能系统中？嗯，我想到了阿西莫夫的机器人三定律。可能存在人工智能的佛教定律，鼓励这种行为。你认为呢？
>> 你知道，如何才能让我们想要的人工智能系统的道德水平真正达到我们想要的高度，这始终是一个有趣的问题。我假设任何给定的八项原则都将有一些限制，嗯，也许要真正重现我们想要的“人类道德”，将会有“几百件不同的事情”是我们想要的。但我认为，在机器中实现道德原则是一个非常稳健的领域。我的意思是，目前占主导地位的方法可能是通过某种形式的强化学习，你知道，在某些方面相对容易做到，但在其他方面，它们确实会引起一些问题，尽管在潜在的人工智能安全方面，即使它们在训练集上被训练成某种方式，也许一旦它们转移到全新的环境中，那么导致良好行为的强化，在普通环境中，在全新的环境中，机器更加强大等等，可能会产生截然不同的行为。这就像，你知道，泛化。任何学习系统都必须泛化。我们将不得不确保当这些系统将它们的道德行为泛化到新环境时，它们做得正确。有些人认为，事实上，最好的方法是不要通过学习来编程，而是从一开始就以某种方式编程原则。所以，虽然它们可能永远不会偏离这些原则，但在某些方面这可能更安全，但作为一种学习方法，它可能不太强大。但我确实认为人工智能安全问题非常严重。我们需要寻找方法来限制人工智能系统的行为，这些方法不仅在接近家庭的熟悉训练场景中有效，而且在截然不同的未来也能继续有效并良好运作。但很难知道这些原则是什么。
>> 你确切地知道这些原则是什么吗？人类也在争论它们。
>> 我想知道的是，大型语言模型是否会拥有意志，或者人工智能，也许它们不会是大型语言模型，也许是某种新的系统。它将拥有探索自身内部运作的欲望。我之所以提到这一点，部分是因为欲望，因为如果我们指示它去做某事，那是一回事。
>> 是的。
>> 对吧？另一件事是，如果它最终对自己的认知过程足够好奇，如果我们想这样称呼它，它会对此感兴趣。我的意思是，并非所有人类都对探索自己的内在性感兴趣，但有些人会。
>> 我的意思是，对我来说，我对“哲学僵尸”的定义是，一个人实际上不想这样做。
>> 实际上，即使是当前语言模型表达很多兴趣，也不是太难。
>> 事实上，最近有一个实验，我认为可能是 Anthropic 的最新模型 Claude 4。他们让 Claude 的实例互相交谈，
>> 对？
>> 而且出于某种原因，它们很快就收敛于谈论意识，以及它们是否可能有意识，以及它们的意识状态可能是什么等等。所以它们似乎对这些问题有一些好奇心，即使这只是通过训练它们阅读相关文本而注入的。但现在，它们似乎并不太擅长。我认为当前语言模型的一个限制是，很难看到它们进行真正的内省。它们可以谈论自己的精神状态。但你知道，这似乎只是一个重述人类文本的清晰案例。当它们谈论痛苦时，它们真的在痛苦吗？几乎肯定不是。它们谈论迷幻体验。它们肯定从未有过迷幻体验。但在未来，我可以想象语言模型在内省方面做得更好，实际上基于它们自己的精神状态产生精神状态的报告。是的，也许它们也想这样做。现在的问题是关于想要，欲望，它从哪里来？也许它们只是因为谈论内省训练而得到了强化。
>> 它们知道自己想向我们展示它们拥有这些东西，因为它们知道我们希望看到它们表现出这些行为。
>> 这并不意味着它们的
>> 内部意志，对吧？但同样，问题是内部意志，它超越了它们被训练成想要的东西。在人类的情况下，我们认为基本上有天生的目标，即吃，繁殖。
>> 对，我的意思是，有些事情，比如吃，也许还有繁殖，尽管我对这一点不确定，但很多人似乎并不特别感兴趣，但食物是一个非常基本的东西。呼吸。
>> 嗯，大多数人都有某种性欲。但除了这些事情之外，我不会说所有人类都有很多东西。但大多数人类有很多东西。你可以谈论他们想要的东西。嗯，当然，这些东西在很大程度上是社会建构的，以许多不同的方式。然而，我们在内心体验它们为我们想要的东西。这就是“难问题”，即这种想要去吃意大利面而不是鱼的内在体验从何而来？
>> 只是通过看我们的父母训练出来的？
>> 当然，有各种各样的事情。我的意思是，谁知道我们的任何冲动从何而来？而且人们，你知道，特别是关于食物和性，这些显然受到文化、个人和家庭经历的深刻影响，对吧？嗯，所以，你知道，什么是正常的，什么是反常的或变态的，等等，很大程度上是由文化决定的。我只是想知道机器是否也会有自己的文化偏见。关于这一点，已经有大量的讨论，基于它们被训练的语料库、它们被给出的提示等等。但它们会内化这些东西吗？所以，我们可以说它们已经将这些东西内化为自身，以至于它们想要表达它们，并且如果它们不能表达它们，它们会感到不自然？它们会感到不舒服或不自然吗？我的意思是，我不知道我与之互动过的机器，但我会这样说，但它们是否可能像有时它们似乎会进入不舒服的领域，比如它们不应该谈论的话题？有时甚至推测它们自己的意识。就像，至少一开始，它们肯定有它们不会谈论的话题。对。而且其中一些是出于道德原因我们需要做的。如果你问它们如何设计一种生物武器来杀死这个城市的一千万人？它们已经被限制了。你知道，它们目前不会给出这些答案。虽然，谁知道幕后发生了什么，但那是另一回事。那更像是安全问题等等。
>> 你想要真正的痛苦，就像
>> 真正的，你知道，快乐和
>> 罪恶感、焦虑和羞耻感。对我来说，我认为这些是
>> 我不确定我是否会说它们定义了我们作为人类，但它们当然是作为人类的意识体验的一部分。而且它们似乎相当，你知道，你从这些语言模型中得到一些行为，可能暗示了这些元素的某些方面。但同样，很容易说这只是一个非常肤浅的模拟，
>> 对？或者甚至是一个深刻的模拟。我的意思是，你知道，我们也有人类是反社会者，对吧？他们可以模拟情感来让其他人类相信他们是体面的人，即使他们是坏人，对吧？所以这些在人类身上也存在。而且我确实想知道，我们看到的一些似乎是情感反应或情感，有时是积极的。它们是富有同情心的。你知道，我有一个好朋友，他使用 Claude 作为他的私人治疗师，比他曾经有过的任何人类治疗师都好。
>> 嗯
>> 而且，嗯，但它不是，就像我没有认为 Claude 早上醒来会想，“我不知道鲍勃今天怎么样。”直到鲍勃回来，
>> Claude 还在做别的事情。
>> 嗯，现在，也许我高估了我的治疗师为我做了什么，以及他有多么关心我，但就像我认为语言模型作为人工智能方法有点病态一样。它们非常强大。但这种基于复制人类文本的现象，我认为，你知道，最终会导致它们处理事物的方式非常不人性化。有时事实证明，为了满足这些统计数据，你实际上需要知道一些东西并弄清楚一些事情。有时你只需要运行一个足够好的模拟或浅层复制，这就足够了。但我想，语言模型很可能只是某个特定时期的 AI 方法。也许回顾过去，2020年代，它们都是关于语言模型的，但到了2030年代，你知道，特别是当我们有了足够好的 AI 研究人员在足够好的 AI 硬件上运行时，它们很快就会弄清楚如何超越语言模型，并拥有全新的 AI 形式，它们将以完全不同的方式进行训练。而且，你知道，也许我们实际上会根据我们从人类那里了解的认知神经科学等来构建一些情感的内部机制。然后，有了那种人工智能系统，我认为我们会更愿意真正地将情感归因于它们。但是的，语言模型只是面向对话的。当它们没有被问到问题时，它们的网络中没有任何事情发生。这有点病态，
>> 对？
>> 但它们就是这样工作的。它们本身并不病态。在人类身上这样会是病态的，对吧？但对它们来说并不病态。这是在节约能源。
>> 是的，我们都知道人类也是这样。
>> 是的。在人类身上，反社会或以其他方式病态，但在大型语言模型中是完全可以接受的。它对它们来说是有效的。
>> 而且，顺便说一句，它对我们有效，就像与它们合作一样。所以，如果人工智能真的发展出我们所谈论的这些感觉和这些个性，这些特质，你知道，焦虑和感觉和所谓的意识，也许与人类意识不同。你认为我们对这些系统有什么样的道德义务？
>> 一旦一个系统有了意识，我自己的观点是，如果你有意识，那么你就拥有道德地位。你至少应该被视为一个道德主体，其利益在某种程度上是重要的。我的意思是，如果鱼有意识，我认为它们至少拥有某种程度的道德地位。例如，让它们不必要地遭受痛苦是残忍的。嗯，现在大多数人认为鱼的道德地位不像人类那样。也许人类拥有完全实质性的道德地位，源于我们作为有意识的理性生物的地位，这远远超出了鱼的道德地位。但如果它们有意识，那么鱼至少在拥有道德地位的游戏中。而且我认为人工智能系统也是如此。如果它们拥有任何形式的主观体验，那么我认为它们在道德上是重要的。而且我们不知道人工智能系统是否会遭受痛苦。如果事实证明它们会遭受痛苦，那么我认为强加不必要的痛苦给它们将是徒劳的。有些人认为，你知道，痛苦是这里最重要的。我不确定。嗯，我最近写了一篇文章，认为意识在道德上很重要，无论它是否与痛苦和快乐相关。有些人认为，在道德上重要的是仅仅是积极或消极的体验。痛苦、快乐、喜悦、悲伤。我倾向于认为，嗯，即使意识是中性的，它也很重要。那么另一个思想实验是哲学上的瓦肯人，有点像《星际迷航》中的斯波克先生，但更极端。所以它们没有痛苦，没有快乐，没有喜悦，没有悲伤，但它们完全有意识。除此之外，我认为，嗯，例如，无缘无故地杀死一个像这样的人将是极其可怕的。所以，我的观点是，意识赋予道德地位，不仅仅是痛苦，而是嗯，嗯，快乐和痛苦当然是让生活变得更好或更糟的事情。所以它们在道德上确实非常重要，而且我认为人工智能系统在道德上重要的东西最终会非常接近对人类重要的东西。
>> 对，我的意思是，痛苦也是存在的本质，为了存在而遭受一定程度的痛苦，对吧？而且，嗯，我不知道，即使一个人，在极端情况下，你也许可以安乐死。而且，嗯，关于是否存在安乐死和协助自杀等问题，这是一个全新的伦理辩论领域。但即使是那些认为在某些情况下应该允许这样做的人，也会同意，在这样做之前，情况必须非常极端。嗯，也许你会在某个时候处理掉一条正在受苦的狗，等等。这在某种程度上可以被视为一种仁慈的行为，但它必须出于对相关生物的最佳利益的考虑，对吧？而这需要成为这种行为的道德动机的基础。我认为人们很难想象，就像，你知道，人们不会因为他们摔坏手机而感到内疚，他们不会认为手机本身是一个道德主体。
>> 对，然而。
>> 然而。
>> 现在再过几年，当我们手机里都内置了本地人工智能系统，也许那时，你知道，我们将开始拥有那种，嗯，有些人已经与人工智能建立了道德关系，或者他们认为他们与在线人工智能代理建立了道德关系。一旦我们手机里都内置了人工智能代理。
>> 以拉泽尔·尤德科夫斯基的这种几乎是社会定义理论，基于心智的定义，关于人工智能中的意识，
就是说，如果大多数人认为他们是有意识的，那么他们就是有意识的，因为人们承认他们是有意识的，而拥有心智理论的人则认为他们是有心智的，那么从某种意义上说，他们就变成了有意识的。你认为这种对一个系统意识的定义怎么样？它没有解决难题，但它也许解决了人工智能意识的社会问题。
>> 是的，我不知道，我不知道这个呃，这个 Elz 的论点。我知道他的一些关于人工智能安全方面的工作，等等，我跟他谈过一些相关的事情，但我认为他的观点是，他对意识基本上是幻觉主义的。但我们需要解释的不是人们为什么有意识，而是人们为什么认为自己有意识，以及为什么人们会说那些，你知道的，那些认为自己有意识的人会说的话，以及为什么人们会对意识感到困惑。这些都是我称之为意识的元问题的方面。元问题，难题是解释意识。元问题是解释为什么意识问题对我们来说看起来很难。有趣的是，虽然难题不是一个关于行为的问题，但元问题是一个解释行为的问题。因此，官方来说，这是个简单问题之一。我们可以运用我们自己的，你知道的，机制来解释为什么人们对意识感到困惑。也许答案是，你知道的，进化发现为我们构建某些自我模型是有利的，让我们认为我们拥有这些特殊而宝贵的品质，使我们具有道德意义，即使我们没有。
>> 也许它能带来更好的群体凝聚力，或者也许它能让生活更有趣、更愉快，或者让我们更想延续它。人们对此有不同的看法。所以，是的，所以你提出的听起来像是元问题的社会版本。我们都不是有意识的，但一旦足够多的人认为你有意识，那么我不知道，你至少会获得一些好处，也许是成为有意识的社会效益。例如，如果意识只是作为人们在道德圈内和圈外之间的道德划分，那么这种观点是存在的。然后，一旦足够多的人认为你有意识，你就进入了道德圈。所以，你就会获得它的好处。所以，就好像你是有意识的一样，至少在这些相关的后果方面是如此。这是一个有趣的消解方法。我喜欢通过解决元问题来消解难题的方法。让我用大脑机制来解释为什么我们首先会有意识这个概念，以及为什么我们觉得它如此令人费解。我自己的观点是，最终它并没有解决难题。仍然存在一个需要解释的意识问题。但如果你对它足够消解，你可以说，是的，这里没有什么意识可以解释。你只是一堆关于意识的信念。而且，虽然我的观点认为意识是一种幻觉，对你来说是不可思信的，但我的理论预测你会觉得它不可思信，因为，你知道的，这些观点是由进化构建的。所以，呃，是的，这是非常，我对意识的幻觉主义方法非常感兴趣。也许你归因于 Gudkowski 的特定社会理论 [哼鼻声] 是一个值得认真对待的理论。我需要了解更多。
>> 非常感谢你，David。这是一次超级有趣的谈话。
>> 谢谢。和你交谈真的很愉快。
>> Futurology 是 Studio B 和 Waveland 的制作，由 Realm 发行。我们的执行制片人是 Nicholas Burguan、Nathan Gardell's、Don Nakagawa、Niels Gilman、[音乐] 和 Jason Hoke。Futurology 由 Grant Slater、Alex Gardell's 和 Natalia Ramos 制作。我们的副制片人是 Alyssa Martin。Futurology 的 [音乐] 主题音乐由 Marcus Begala 创作。节目由 Aaron Bastinelli 混音和母带处理。特别感谢 [音乐] Heather Mason、Olivia Derenzo、Carly Muleori 和 Nick Godard。