Transcription
以下是与杰夫·霍金斯（Jeff Hawkins）的对话，他是一位神经科学家，致力于理解人类大脑中智力的结构、功能和起源。他曾撰写过关于该主题的开创性著作《智能的奥秘》（On Intelligence），最近又出版了一本名为《千脑》（A Thousand Brains）的新书，书中提出了一个关于智力的新理论，理查德·道金斯（Richard Dawkins）等人对此赞不绝口，称其“才华横溢且令人振奋”。我一看到这两个词，就不由自主地想到他用他那英式口音说出这句话的样子。
快速提及我们的赞助商：Codecademy、BioOptimizers、ExpressVPN、A-Sleep 和 Blinkist。请在描述中查看它们，以支持本播客。
顺便说一句，我想说一下杰夫·霍金斯在他的新书中提到的一个虽小但强大的观点：如果人类文明毁灭了自己，我们所有的知识、我们所有的创造都将随之消失。他建议我们应该思考如何以一种能够长久地超越我们的方式来保存这些知识，无论是在地球上、绕地球轨道运行，还是在深空中。然后，向其他智慧外星文明发送广告信息，宣传我们人类知识的备份。这个广告的主要信息不是我们在这里，而是我们曾经在这里。这个微小的区别不知何故让我深感谦卑，那就是我们有可能以非零的概率毁灭自己，而数千年或数百万年后，一个外星文明可能会偶然发现这个知识库，而他们即使注意到它，也只有很小的概率，更不用说能够解读它了。对我来说，更深层的问题是，在所有人类知识中，哪些信息是必不可少的？维基百科是否捕捉到了这些信息，或者根本没有？这个思想实验迫使我思考，我们已经完成了什么，并且希望仍然能够完成什么，能够超越我们？是像复杂的建筑、桥梁、汽车、火箭这样的事物吗？是科学、物理和数学这样的思想吗？是音乐和艺术吗？是计算机、计算系统，甚至是人工智能系统吗？我个人无法想象外星人不会已经拥有所有这些东西，事实上，拥有更多、更好的东西。对我来说，我们唯一可能拥有的独特的东西就是意识本身，以及遭受痛苦、快乐、仇恨、爱这些实际的主观体验。如果我们能够以最高分辨率直接从人脑中记录这些体验，以便外星人能够重播它们，那么这就是我们应该存储和发送的信息，而不是维基百科，而是意识体验的极端——其中最重要的当然是爱。
这是 Lex Fridman 播客，这是我和 Jeff Hawkins 的对话。
我们上次交谈是在两年多前。你认为你的大脑里还有神经元记得那次谈话吗？还记得我，并且感到兴奋吗？就像你大脑里有一个 Lex 神经元，终于有了它的目的？
我确实记得我们的谈话，或者说我有一些关于它的记忆，并且在此期间我形成了关于你的更多记忆。我不会说我的大脑里有某个神经元或某些神经元认识你。我的大脑里形成了突触，它们反映了我对你的认识，以及我在世界上的你这个模型。至于是否是两年前形成的完全相同的突触，很难说，因为这些东西一直在变化。但我们从大脑的一个方面知道的是，当你思考事情时，你经常会擦除记忆并重新编写它。所以，是的，但我有你的记忆，并且它体现在突触中。
有一个更简单的方法来思考它，就像你一样，我们的大脑里有一个关于世界的模型，并且这个模型在不断地更新。我今天早上更新了它，你给了我这杯水，你说它是从冰箱里拿来的。我记得这些事情。所以，模型包括我们住的地方、我们认识的地方、词语、世界上的物体。这是一个庞大的模型，并且它在不断地更新。而人们只是这个模型的一部分。所以，我们是动物，或者其他物理对象，我们所做的事情也是如此。所以，我的大脑里没有一个特殊的、专门的地方来存放关于人类的记忆。我的意思是，显然我知道你，我知道我的妻子很多事情，还有朋友等等，但并不是说这里有一个专门存放人类记忆的特殊地方。但我们建模一切，我们也建模其他人的行为。所以，如果我说你是我脑海中你思维的复制品，那只是因为我知道人类，我学会了人类是如何行为的，并且我学到了一些关于你的东西，而这只是我世界模型的一部分。
我只是也想问，人类物种的集体智慧。我想知道大脑是否有某种基本的东西能够实现这一点。所以，建模其他人及其思想，你实际上是在跳入很多大话题，比如集体智慧是一个独立的话题，很多人喜欢谈论。我们可以谈论那个，但……所以，这很有趣，你知道，我们不仅仅是个人，我们生活在社会中等等。但从我们的研究角度来看，再次，让我们只谈论，我们研究的是新皮层。它是一层神经组织，占你大脑的约 75%。它运行在一个非常重复的算法上，一个非常重复的电路。所以，你可以将该算法应用于许多不同的问题，但它本质上是相同的。我们只是在构建这个模型。所以，从我们的角度来看，我们不会在你的大脑深处寻找与理解人类相关的特殊电路。这更像是，我们如何构建任何事物的模型？我们如何理解世界上的任何事物？而人类只是我们理解的事物中的一部分。所以，大脑中没有什么能够知道集体智慧的涌现现象。
我当然知道这一点，我听说过这些术语，我读过……但那是对的，对的。好吧，好吧。作为一个想法。我认为我们有语言，它似乎内置于我们的大脑中，这是集体智慧的关键部分。所以，有一些先前的假设，关于我们出生时将要生活的世界。我们不是一张白纸。所以，我们是为了利用这些情况而进化的吗？是的。但再次，我们只研究大脑的一部分，新皮层。大脑的其他部分在社会互动、人类情感以及我们如何互动方面发挥着重要作用，甚至包括社会问题，比如我们如何与他人互动，我们何时支持他们，我们何时贪婪等等。我的意思是，大脑当然是研究智力的绝佳场所。我想知道它是否是智力的基本原子。
我会说，它绝对是一个必不可少的组成部分，即使你相信集体智慧。嘿，那就是一切发生的地方，那就是我们需要研究的，而我并不相信，顺便说一句。我认为这很重要，但我不认为那就是全部。但即使你这么认为，你也必须理解大脑是如何做到这一点的。这更像是，我们是智慧的，我们是智慧的个体，而在一起，我们的智慧被大大放大了。我们可以做我们单独做不到的事情。但即使作为个体，我们也相当聪明，我们可以建模事物，理解世界并与之互动。所以，对我来说，如果你要从某个地方开始，你需要从大脑开始。然后你可以说，大脑如何相互作用？语言的本质是什么？我们如何分享模型？我学到了关于世界的一些东西，我如何与你分享？这实际上是你所说的，某种程度上的社群智慧。我知道一些东西，你知道一些东西，我们对世界的经历不同。我可能学到了一些关于大脑的知识，也许我可以传授给你。你可能学到了一些关于物理学的知识，你可以传授给我。但它也归结为，即使是认识论的问题，知识是什么？你如何在脑海中表示它？对，它不会在那里。它会在我们的著作中。
显然，人类的合作和人际互动是我们建立社会的方式。但是你谈论和研究的一些东西，构成智能实体的某些要素，是否也存在于一个人身上？哦，绝对。我的意思是，我们不能否认大脑是核心要素。至少我不能。我认为，在所有智力理论中，大脑都是核心要素。它是在哪里表示知识的？它是在哪里创造知识的？我们互动，我们分享，我们建立在彼此工作的基础上。但是，没有大脑，你就一无所有。你知道，没有大脑就没有智力。所以，这就是我们开始的地方。我进入这个领域是因为我只是好奇我是谁。你知道，我是如何思考的？我思考时我的脑子里发生了什么？知道某事意味着什么？你知道，我可以问，对我来说，知道某事意味着什么，独立于我如何从你或别人或社会那里学到的。那么，知道我脑海中有你的模型意味着什么？知道我知道这个麦克风是什么以及它是如何工作的，即使我现在看不到它，这意味着什么？我怎么知道那个？它意味着什么？神经元是如何做到这一点的，在神经元和突触等基本层面上？这些都是非常有趣的问题，我很乐意能够理解它们。
所以，在你的新书中，你谈到我们的大脑、我们的心智是由许多大脑组成的。所以，这本书的名字是《千脑》，《千脑智力理论》。这本书的关键思想是什么？
这本书有三个部分，可能有三个大思想。第一部分是关于我们对新皮层的所有了解，这就是千脑理论。我们是否完成了这个图景？第二部分是关于人工智能。第三部分是关于人类的未来。所以，千脑理论，如果我必须将其概括为一个大思想，那就是我们认为大脑，新皮层正在学习世界的模型。但我们学到的是，实际上有成千上万个独立的建模系统在运行。所以，我们称之为皮层中的一个柱体，大约有 15 万个，是一个完整的建模系统。所以，在某种意义上，这是你脑中的集体智慧。所以，千脑理论说，我哪里有关于这个咖啡杯的知识？这个手机的模型在哪里？它不在一个地方，它在数千个独立的、互补的模型中，它们通过投票相互沟通。所以，我们感觉自己是一个人，你知道，这是我们的体验。我们可以解释这一点。但现实是，有很多这样的，几乎就像小大脑，但它们是复杂的建模系统，每个大脑约有 15 万个。这是一种完全不同的思考新皮层结构的方式，与我们或任何人在五年前的思考方式都不同。
你提到你开始这段旅程，只是看着镜子，试图理解你是谁。所以，如果你有许多大脑，那么你是谁？
这很有趣。我们有单一的感知，对吧？你知道，我们想，哦，我在这里，我看着你。但它是由所有这些东西组成的，比如有声音，有视觉，有触觉，还有各种输入。是的，我们有单一的感知。而千脑理论说，我们有这些模型，视觉模型，我们有很多听觉模型，触觉模型等等。但它们会投票。所以，在新皮层中，你可以把这些柱体想象成一粒粒的米饭，15 万粒堆叠在一起。每一个都是自己的建模系统。但它们之间有长距离的连接，我们称之为投票连接或投票神经元。所以，不同的柱体试图达成共识，比如“我看到的是什么？”好吧，每一个都有一些模糊性，但它们达成共识，“哦，这是一个水瓶，我正在看。”我们只能有意识地感知投票，我们无法感知幕后发生的一切。所以，投票是我们意识到的投票结果。
速度？嗯，你可以这样想象。我们刚才还在谈论眼球运动。所以，当我看着某样东西时，我的眼睛每秒大约移动三次。每一次移动都会带来全新的输入到大脑。它不是重复的，也不是在移动，它是全新的。我完全没有意识到它。我无法感知它。但如果我查看你大脑中的神经元，它们会亮起又熄灭。我不知道，但投票神经元不是。投票神经元说，“我们都同意，即使我看着这个的不同部分，这是一个水瓶，对吧？而且它没有改变，它相对于我处于某个位置。”所以我对这个水瓶的感知是离我大约两英尺远，以某种姿态对着我。它没有改变。这是我唯一意识到的部分。我无法意识到眼睛的输入在移动和变化，以及所有这些其他事情正在发生。所以，这些长距离连接是我们能够意识到的部分。每个柱体中的个体活动不会去任何地方，不会被分享到任何地方，没有办法提取它并谈论它，或者提取它甚至记住它，说“哦，是的，我可以回忆起那个。”但是，这些长距离连接是可以通过语言和我们的……就像海马体或我们的记忆，你知道，我们的短期记忆系统等等。所以，我们没有意识到你大脑中 95% 甚至 98% 的事情。我们只意识到所有这些幕后发生的事情的稳定、相对稳定的投票结果。
那么，在千脑理论中，智力的基本要素是什么？智力，就像，原子的智力是什么？当你思考它时，是单个大脑，然后什么是大脑？
好吧，让我们先谈谈什么是智力，然后再谈谈它的要素。所以，在我的书中，智力是学习世界模型的能力。也就是说，在你脑海中构建一个代表你所知道的一切结构的内部模型。知道这是桌子，那是咖啡杯，这是鹅颈灯，所有这些。我知道这些东西，我必须在我脑海中有一个模型。我不会只是看着它们然后说“这是什么？”我已经在我脑海中有这些东西的内部表征了，我必须学会它们。我不是天生就拥有任何这些知识。你……你知道，我们房间里有一些灯，我……那不是我进化遗产的一部分，不是在我的基因里。所以，我们拥有这个令人难以置信的模型，这个模型不仅包括事物看起来和感觉起来的样子，还包括它们的位置以及它们的行为。我以前从未拿起过这个水瓶，但我知道，如果我把手放在那个蓝色东西上，然后转动它，它可能会发出一种有趣的声音，因为那些小塑料东西会脱落，然后它会旋转，看起来会是某种样子，它会脱落。我怎么知道的？因为我脑海中有这个模型。所以，智力的本质是我们学习模型的能力。我们的模型越复杂，我们就越聪明。并不是说只有一个智力。因为你可以了解很多我不知道的事情，我也了解你不知道的事情。我们都可以非常聪明，但我们都通过与世界互动来学习世界的模型。所以，这就是智力的本质。然后我们可以问自己，大脑中允许我们这样做的机制是什么？学习机制是什么？不仅仅是神经机制，而是普遍的过程，但我们如何学习模型？所以，这对我们来说是一个很大的启示。就像，实际的东西是什么？你如何学习这些东西？事实证明，你必须通过运动来学习。我们就是这样学习的，我们通过运动来学习。所以，你通过观察事物、触摸它们、移动它们、在世界各地行走等等来构建这个模型。所以，要么你移动，要么那个东西以某种方式移动。是的，你显然可以通过阅读一本书来学习东西，之类的。但想想，如果我说，“哦，这是一栋新房子。我想让你了解它。”你该怎么办？你必须走，你必须从房间走到房间，你必须打开门，四处看看左边有什么，右边有什么。当你这样做时，你就在脑海中构建了一个模型。你就是这么做的。你不能只是坐在那里说，“我要理解这栋房子。”不。或者你甚至不想坐在那里读一些描述，对吧？你确实在物理上互动。智能手机也是如此。如果我想学习一个新的应用程序，我触摸它，我移动东西，我看看当我做这些事情时会发生什么。所以，这是我们在世界上学习的基本方式。顺便说一句，当你提到模型时，你的意思是可以用作未来预测的东西吗？
它用于预测和行为及规划，对吧？而且做得相当好。
这是思考模型的一种方式。很多人纠结于此。所以，你可以想象一个建筑师制作一个房子的模型，对吧？有一个物理模型，很小。他们为什么要这样做？嗯，我们这样做是因为你可以想象它从不同的角度看起来会是什么样子。你可以说，“看这里，看那里。”你还可以说，“从车库到游泳池有多远？”对吧？你可以想象看着它，你可以说，“从这个位置看会是什么样子？”所以，我们构建这些物理模型来让你想象未来和想象行为。现在，我们可以把同一个模型放进电脑里。所以，今天他们会在电脑里构建房子的模型，他们这样做是使用一套……我们稍后会回到这个术语，参考系。但最终，你为房子分配一个参考系，你为房子里的不同东西分配不同的位置，然后电脑可以生成图像，说，“好的，从这个方向看是这样的。”大脑正在做一些非常相似的事情，令人惊讶。它正在使用参考系。它正在构建这些……它类似于电脑中的模型，它具有构建物理模型的相同好处。它允许我说，如果这个东西处于这个方向，它会是什么样子？如果我按下这个按钮会发生什么？我以前从未按过这个按钮。或者我如何完成我想做的事情？我想传达一个我学到的新想法。我该怎么做？我可以在脑海中想象，嗯，我可以谈论它，我可以写一本书，我可以做一些播客，我可以……也许告诉我的邻居。然后我可以想象所有这些事情的结果，在我做任何事情之前。这就是模型让你做的。它让你规划未来，想象我们行为的后果。
你问到预测。预测不是模型的目标。预测是它的固有属性，也是模型自我纠正的方式。所以，预测是智力的基础。它是构建模型的基础。而模型是智能的。让我回去，非常精确地说一下。你可以从两种方式来思考预测。一种是，“嘿，如果我这样做会发生什么？”这是智力的关键部分。但使用预测，比如“哦，这个水瓶摸起来会是什么感觉？”这似乎不太聪明。但思考智力预测的一种方式是，它是我们学习模型错误的方式。所以，如果我拿起这个水瓶，它感觉很烫，我会非常惊讶。或者如果它很轻，我会非常惊讶。或者如果我转动这个盖子，它没有，我必须向另一个方向转动，我会非常惊讶。所以，几乎可以有一个预测，比如“好吧，我要做，我要喝点水，我没事。”好吧，做这个。在那里。我感觉打开了，对吧？如果我必须向另一个方向转动呢？或者如果它裂成两半呢？然后我说，“我的天哪，我误解了它。我没有这个东西的正确模型。我的注意力会被吸引到……我会看着它说，‘这到底是怎么发生的？’为什么它会那样打开？然后我会通过这样做来更新我的模型，只是看着它，玩弄它，然后说，‘这是一个新型水瓶。’”
但是，你谈论的是像水瓶这样复杂的东西，但这也适用于基本的视觉，就像看东西一样。这几乎就像感知世界的先决条件就是预测它。你看到的一切，首先都经过你的预测。你看到和感受的一切。事实上，这是我在 80 年代末，抱歉，80 年代初的见解。还有其他人也得出了相同的想法：你得到的每一个感官输入，不仅仅是视觉，还有听觉和听觉，你都有一个期望。有时你可以非常准确地预测，有时不行。我无法预测你嘴里会说出下一个词是什么。但随着你开始谈论越来越好的预测，如果你谈论一些话题，我会非常惊讶。所以，我一直都有这种背景预测，适用于我所有的感官。再次，我思考这个问题的方式是，这就是我们学习的方式。这更多的是关于我们如何学习。这是我们理解的测试。我们的预测是我们理解的测试。这是一个水瓶吗？如果是，我不应该看到……一只小手指从侧面伸出来。如果我看到一只小手指伸出来，我会想，“这到底是怎么回事？”这不正常。我的意思是，这太迷人了。让我在这里停留一秒钟。它真的，老实说，感觉预测是所有事情的基础。对我们大脑运作方式的基础，对智力的基础。所以，这只是看待智力的一种不同方式，就像一切都始于预测。而预测需要一个模型。你无法预测某事，除非你有一个模型。
但是，行动是预测。就像，模型所做的事情是预测。但它也……是的。而且你可以将其扩展到诸如“如果我今天这样做会发生什么？”之类的事情。或者你如何扩展预测，比如“我想在工作中获得晋升。”我应该采取什么行动？你可以说，“如果我这样做，我预测可能会发生什么？”如果我与某人交谈，我预测可能会发生什么？所以，这不仅仅是低级预测。是的，都是预测。都是预测。就像这个黑匣子。所以，你可以问任何问题，低级或高级。所以，我们从那个观察开始。它就像永不停止的预测。我在书中写到，然后我们问，神经元实际上是如何在物理上做出预测的？神经元在做出预测时做什么？神经组织在做出预测时做什么？然后我们问，构建一个允许你进行预测的模型有哪些机制？所以，我们以预测作为研究议程的起点，在某种意义上。就像，如果我们理解大脑如何做出预测，我们将理解它如何构建这些模型以及它如何学习。而这才是智力的核心。所以，这就像是让我们进入这个领域的钥匙，那就是我们的研究议程，理解预测。
所以，在这个整个过程中，智力起源于哪里？你会怎么说？
所以，如果我们看看比人类不那么聪明的东西，然后你开始构建人类，进化过程。这个神奇的东西，它有一个预测模型，或者一个能够预测的模型，开始看起来很像智力，它在哪里？
理查德·道金斯（Richard Dawkins）为你的书写了序言。非常出色的序言。它将很多事情置于背景中，而且很有趣，只是看看你的书和达尔文的《物种起源》之间的相似之处。达尔文写了关于物种起源。那么，智力的起源是什么？
我们有一个理论，它是这样的：一旦生物开始移动，它们就不再只是漂浮在海里，不再只是扎根在某个地方的植物。一旦它们开始移动，就有优势以智能的方式移动，以某种方式移动。有一些非常简单的事情你可以做。细菌或单细胞生物可以朝着食物梯度源移动。但一个动物可能知道它在哪里，知道它去过哪里，以及如何回到那个地方。或者一个动物可能会说，“哦，那里有一个食物源，我该怎么去？”或者有一个危险，我该怎么去？有一个伴侣，我该怎么去？所以，早期就有理解环境的压力，比如“我在哪里？”“我去过哪里？”“在那些不同的地方发生了什么？”所以，我们的大脑中仍然有这个神经机制。它存在于哺乳动物中，存在于海马体和内侧皮层中。这些是大脑中较古老的部分。它们得到了很好的研究。我们构建了我们环境的地图。所以，大脑这些部分中的神经元知道我在这间房间里的位置，门在哪里，等等。所以，很多其他哺乳动物都有这个。所有哺乳动物都有这个，对吧？几乎任何知道自己在哪里并能四处走动的动物都必须拥有某种地图系统，必须有一种方式来说“我已经学会了我的环境地图。”我的后院里有蜂鸟，它们总是去同一个地方。它们必须这样做。它们必须知道自己在哪里。它们不是随机飞行的。它们知道特定的花朵，它们会回来。所以，我们都有这个。而且事实证明，让神经元做到这一点，构建环境地图，非常棘手。所以，我们现在知道，有一些著名的研究，仍然非常活跃，关于位置细胞、网格细胞以及大脑较古老部分中的其他类型细胞，以及它们如何构建世界地图。这真的很聪明。显然，在很长一段时间里，它受到了很大的进化压力，以擅长这一点。所以，动物知道它们在哪里。我们认为发生了什么，并且有很多证据可以消化的是，我们用来映射空间的机制被重新包装了，同样的神经元类型被重新包装成更紧凑的形式，然后变成了皮层柱。它在某种意义上被泛化了，如果这是一个词的话。它变成了一个非常具体的东西，关于学习环境地图，到学习任何事物的地图，学习任何事物的模型，不仅仅是你的空间，还有咖啡杯等等。它被重新包装成一个更紧凑的版本，一个更通用的版本，然后复制。所以，我们如此灵活的原因是我们有一个非常通用的映射算法版本，并且我们有 15 万个副本。
这听起来很像深度学习的进展。
怎么说？所以，拿神经网络，它们似乎在特定任务上表现良好。压缩它们，然后乘以很多倍，然后你只是将它们堆叠起来。这就像 Transformer 的故事。是的。但有趣的是，神经网络最终会复制一个元素，但你仍然需要整个网络来做任何事情。在这里，每个单独的元素都是一个完整的学习系统。这就是为什么我可以切断人脑的一半，它仍然能工作。它非常了不起。它本质上是分布式的。本质上是分布式的完整建模系统。但这就是我们喜欢讲的故事。我猜它很可能是正确的。但你知道，有很多证据支持这个故事，这个进化故事。让我想到这个想法的是，人脑变得非常大。所以，这导致了很久以前的提议，嗯，有一个共同的元素，而不是创造新东西，它只是复制了东西。我们也非常灵活。我们可以学习我们以前不知道的事情。所以，这告诉我们，学习算法非常通用，非常普遍，因为它不假设任何关于它正在学习的内容的先验知识。所以，你把这两件事结合起来，然后说，“好吧，它是如何发生的？那个普遍的算法从何而来？”它必须来自一些不是普遍的东西。它来自一些更具体的东西。所以，总之，这导致了我们的假设，即我们会在新皮层中发现网格细胞和位置细胞的等价物。当我们第一次发表关于这个理论的论文时，我们不知道证据。事实证明有一些，但我们不知道。从那时起……所以，我们开始意识到新皮层部分存在网格细胞的证据。现在，又有新的证据出现了。今年一月有一些有趣的论文发表了。所以，我们的一个预测是，如果这个进化假设是正确的，我们会在新皮层中的每个柱体中看到网格细胞、位置细胞的等价物，那些像它们一样工作的细胞。而这已经开始被看到了。
这意味着什么？为什么它们的存在很重要？因为它告诉我们，我们正在问关于智力进化起源的问题，对吧？所以，我们的理论是，皮层中的这些柱体正在基于相同的原理工作。它们是建模系统。很难想象神经元是如何做到这一点的。所以，我们说，“嘿，真的很难想象神经元如何学习这些事物的模型。”如果你愿意，我们可以详细讨论。但是，大脑的另一部分我们知道它学习环境模型。所以，学习这个房间模型的机制是否可以用来学习水瓶的模型？是相同的机制吗？所以，我们说，大脑更有可能使用相同的机制，在这种情况下，它会有这些等价的细胞类型。所以，基本上，整个理论建立在这些柱体拥有参考系并且它们正在学习这些模型，而这些网格细胞创建了这些参考系的想法上。所以，它基本上是这个理论的主要预测部分，我们会在新皮层中的每个柱体中找到这些等价的机制。这告诉我们，那就是它们在做什么，它们正在学习世界的这些感官运动模型。所以，我们相当确定会发生这种情况。但现在我们看到了证据。
进化过程，大自然做了很多复制粘贴，看看会发生什么。是的，是的。它没有方向。但是……它只是发现，嘿，如果我把这些元素拿来，然后制造更多，会发生什么？然后让我们把它们连接到眼睛上，让我们看向耳朵。然后……这似乎效果很好。
是的。比如，再次，为了快速回顾一下我们关于集体智慧的对话。你有时会把这看作是另一个复制粘贴的方面吗？复制粘贴这些大脑和人类，然后制造很多，然后创造出几乎像一个大脑一样运作的社会结构？
我不会这么说，但你说了，听起来不错。
所以，对你来说，大脑是根本的。它是它自己的东西，对吧？我的意思是，我们的目标是理解新皮层是如何工作的。我们可以争论理解人脑有多重要，因为它不是整个人脑。你可以争论理解人类智力有多重要。你可以争论它对……你知道，某种程度上的社群智慧有多重要。我……我没有……我们的目标是理解新皮层。
那么，什么是新皮层？它在各种大脑功能中处于什么位置？对你来说有多重要？
嗯，显然，我再次提到过，它占人脑体积的 70% 到 75%。所以，你知道，它在体积上主导着我们的大脑。不是在神经元数量上，而是在体积上。
体积不是一切，杰夫。我知道。
它什么都不是。我们知道所有高级视觉、听觉和触觉都发生在皮层。我们知道所有语言都发生并被理解在新皮层中，无论是口语、书面语、手语，还是数学语言、物理语言、音乐、数学。你知道，我们知道所有高级规划和思考都发生在新皮层中。如果我说，你知道，你大脑的哪个部分设计了计算机，理解编程，创造音乐？都是新皮层。所以，这是一个不容否认的事实。但是，我们大脑的其他部分也很重要，对吧？我们的情绪状态，我们身体的调节，我们身体的……
所以，我喜欢这样看待它。你能理解新皮层而不理解大脑的其余部分吗？有些人说不能。我认为绝对可以。不是它们不互动，而是你可以理解它们。你能理解新皮层而不理解恐惧的情感吗？是的，你可以。你可以理解系统是如何工作的。它只是一个建模系统。我在书中打了个比方，它就像一张世界地图，而这张地图如何使用取决于谁在使用它。所以，我们新皮层中的世界地图，我们如何作为人类显现，取决于我们大脑的其余部分。我们的动机是什么？我们的欲望是什么？我是个好人还是坏人？我是个骗子还是……？你知道，我生活中的不同事情有多重要？但是，新皮层可以独立理解。我这样说是因为我是一名神经科学家。我知道所有这些互动，我想说我不知道，我们也不去想它们。但从普通人的角度来看，你可以说它是一个建模系统。
我不太倾向于过多地考虑集体智慧的社群方面，你已经提过好几次了。所以，这并不是我真正关心的问题。我只是想知道，从宇宙起源开始，是否存在一个连续体？这些复杂的区域形成……是的，生物。我想知道，如果我们看看人类，我们感觉自己处于顶端。但我想知道，是否存在……每个人，每种类型的生物，也许都认为自己处于……抱歉说脏话，他们是……他们是顶端的。
好吧，那么，什么是思考？什么是……在这个意义上，整个重点是，在他们对世界的感知中，他们感觉自己处于顶端。我认为，乌龟……但你正在提出……复杂性的问题，复杂性理论是……这是一个巨大的、有趣的问题。而且，你知道，我们在理解复杂系统方面取得的进展非常少。所以，你知道，圣达菲研究所就是为了研究这个而成立的。即使是那里的科学家也会说，这真的很困难。我们还没有真正弄清楚……你知道，科学还没有真正凝结。我们还在试图弄清楚科学的基本要素。你知道，复杂性从何而来？它是什么？你如何定义它？无论是 DNA 创造身体还是表型，还是个体创造社会，还是蚂蚁、市场等等。这是一个非常复杂的事情。我不是一个复杂性理论家。我……我认为他们问，大脑本身就是一个复杂系统。那么，我们能理解它吗？我认为我们在理解大脑如何工作方面取得了很大进展。但是，我还没有把它带到……哦，那么，我们在复杂性光谱上的位置在哪里？这是一个很好的问题。我宁愿回答说，我们并不特别。如果我们诚实地说，很可能我们并不特别。所以，如果存在一个光谱，我们可能不在任何重要的位置。
有一件事我们可以说，我们是特别的，再次，只在地球上。我不是说我不好。那就是，如果我们想到知识，我们知道什么。我们显然，人类大脑拥有……地球上唯一拥有某种知识的大脑。我们是地球上唯一了解地球有多古老，宇宙是一个整体，唯一了解 DNA 和……物种起源的生物。这个星球上没有其他物种拥有这些知识。所以，如果我们想到……我喜欢这样想……人类的努力之一就是尽可能多地了解宇宙。我认为我们的物种在这方面无疑走得更远。我们的理论是对是错，我们可以争论，但至少我们有理论。你知道，我们知道太阳是什么，它的聚变是什么，黑洞是什么。你知道，我们知道广义相对论。没有其他动物拥有这些知识。所以，从这个意义上说，我们是特别的。我们在宇宙复杂性等级方面是特别的吗？可能不是。
你能看看神经元吗？你说预测发生在神经元中。这是什么意思？
所以，传统上，神经元被认为是构成大脑的基本要素。所以，我之前提到过，预测是我们的研究议程。所以，我们说，“好吧，大脑如何做出预测？”比如，我正要拿起这个水瓶，我的大脑正在预测我手指各部分会感觉到什么。如果我在这里的任何一部分感觉到一些非常奇怪的东西，我就会注意到它。所以，我的大脑正在预测我拿起它时会感觉到什么。那么，这在神经组织中是如何体现的呢？我们的大脑由神经元组成，有化学物质，有神经元，有尖峰，有连接。你知道，预测在哪里发生？一种论点可能是，当我预测某事时，一个神经元必须提前放电。就像，“这个神经元代表你将要感觉到的东西，它正在放电，它正在发送一个尖峰。”当然，在某种程度上确实如此。但我们的预测如此普遍，我们做了这么多预测，我们完全没有意识到，绝大多数我们不知道你在这样做。所以，这并不是我们试图弄清楚，这怎么可能？这些在哪里发生？我不会详细介绍整个故事，除非你坚持。但我们意识到，你的大部分预测都发生在单个神经元内部，尤其是最常见的锥体细胞。而且，神经元有一个我们都知道或大多数人都知道的特性：神经元是一个细胞，它有一个叫做动作电位的尖峰，它发送信息。但是，我们现在知道，神经元内部有这些尖峰，叫做树突尖峰。它们沿着神经元的树突传播，并且不会离开神经元。它们只是内部的。树突尖峰的数量远远多于动作电位。它们一直在发生。我们来理解的是，那些正在发生的树突尖峰实际上是一种预测。它们在告诉神经元，神经元在说，“我预计我很快就会变得活跃。”而这种内部……内部尖峰是一种说法，“你可能很快就会产生外部尖峰。”我预测你很快就会变得活跃。我们在 2016 年发表了一篇论文，解释了这在神经组织中是如何体现的，以及这一切是如何协同工作的。但是，绝大多数……我们认为有大量证据支持这一点。所以，这就是我们认为大多数预测是内部的。这就是为什么你无法感知它们。它们是内部的。
从理解单个神经元的预测机制，你认为可以获得关于大脑中许多大脑的预测能力以及大脑本身的深刻见解吗？
哦，是的，是的，是的。所以，单个神经元的预测方面并没有太大用处。你知道，那又怎样？它在神经组织中的表现方式是，当一个神经元发出这些尖峰，或者一种非常单一的事件时，如果一个神经元预测它将变得活跃，它就会比它本应有的状态提前一点点，只有几毫秒。这就像我在书中打的比方，就像短跑运动员在起跑线上比赛。如果有人说，“准备，开始。”你站起来，准备出发。然后，当你的比赛开始时，你提前一点点开始。所以，那个“准备，开始”就像预测，而神经元就像准备出发得更快。而发生的是，当你有一大群神经元在一起，它们都在接收这些输入时，那些处于预测状态的，那些预期会变得活跃的，如果它们确实变得活跃，它们就会发生得更快。它们会禁用所有其他东西，并导致大脑中不同的表征。所以，你必须……它不仅仅局限于神经元。预测发生在神经元内部，但网络行为会改变。所以，在不同的预测下，不同的输入会有不同的表征。所以，我……
我预测的情况，嗯，在不同的情境下会有所不同。你知道我的输入在不同的情境下也会有所不同。所以，这是一个关键层面的理论，关于它是如何运作的。千脑理论，如果你要计算大脑的数量，你会怎么做？千脑理论基本上说，你的新皮层中的每一个皮层柱都是一个完整的建模系统。当我问我有一个什么东西的模型时，比如一个咖啡杯，它不在其中一个模型里，它在成千上万个模型里。有成千上万个咖啡杯的模型，这就是千脑理论。有一个投票机制，然后有一个投票机制，它导致了你意识到的东西，它导致了你单一的感知。嗯，这就是你感知事物的缘由。所以，这就是千脑理论。关于我们如何得出这个理论的细节，嗯，很复杂。不是你某一天突然想到的。其中一个细节是，我们不得不问，一个模型如何做出预测？我们已经谈论了这些预测性神经元，这是这个理论的一部分。这就像说，哦，这是一个细节，但它就像一道裂缝，让我们思考这些神经元是如何做到这一点的。你知道这里发生了什么吗？所以，我们只是把预测看作是，嗯，我们知道这是普遍存在的。我们知道皮层的每个部分都在做出预测。因此，无论预测系统是什么，它都会无处不在。我们知道同时发生着无数的预测。所以，让我们看看是否可以开始剖析，你知道，问一些关于，你知道，神经元如何做出这些预测的问题。这基本上发展到了我们现在拥有的千脑理论，它很复杂，你知道，我可以用简单的语言来陈述它，但我们并没有突然想到它，我们必须一步一步地走到那里，花了几年时间才走到那里。参考系在哪里发挥作用？所以，是的，好的。再次，参考系，我之前提到过，嗯，关于，你知道，一个房子的模型，我说如果你要在电脑里建造一个房子的模型，它们有一个参考系，然后你可以像笛卡尔坐标一样引用它们，比如 x、y 和 z 轴。所以，我可以这样说，哦，我要设计一个房子，我可以这样说，嗯，前门在 xyz 的这个位置，屋顶在 xyz 的这个位置，等等。这是一种参考系。所以，事实证明，为了让你做出预测，然后我带你进行书中的思想实验，我当时预测当我触摸咖啡杯时我的手指会感觉到什么。这是一个陶瓷咖啡杯，但这个也可以。嗯，我意识到，为了预测我的手指会感觉到什么，它只会感觉和这个不同，如果我触摸孔洞或底部的东西，它会感觉不同。做出这个预测，皮层需要知道手指在哪里，手指尖相对于咖啡杯的位置，以及相对于咖啡杯的确切位置。为了做到这一点，我必须有一个咖啡杯的参考系。它必须有一种表示我的手指相对于咖啡杯的位置的方式。然后我们意识到，当然，你皮肤的每个部分都必须有一个相对于要触摸的物体的参考系。然后我们对视觉也做了同样的事情。所以，参考系对于做出预测是必要的，当你触摸某物时，或者当你看到某物而你移动你的眼睛，你移动你的手指时，这只是一个要求，要知道预测什么。如果我有一个结构，我将要做出一个预测，我必须，我必须知道它在哪里，我正在看或触摸它。所以，我们说，那么神经元如何制造参考系呢？这并不明显，你知道，大脑中不存在 xyz 坐标。它就是这样运作的。所以，那时我们看了大脑的旧部分，海马体和内嗅皮层，我们知道在那部分大脑中，有一个房间的参考系，或者一个环境的参考系。还记得我之前谈到的，你如何知道为这个房间做一个地图吗？所以，我们说，哦，嗯，它们在那里实现了参考系。所以，我们知道参考系需要存在于每个皮层柱中。所以，那是一种演绎，我们只是推断出它必须如此。所以，你利用了旧哺乳动物在特定空间中知道自己位置的能力，然后你开始将其应用于越来越高的层面。是的，你首先将其应用于物理层面，比如你的手指在哪里。所以，这是我的想法。大脑的旧部分说，我的身体在这个房间的哪里？是的。大脑的新部分说，我的手指相对于这个物体在哪里？是的。我的视网膜的某个部分相对于这个物体在哪里？就像，我正在看一个角落，它相对于我的视网膜的这个区域在哪里？嗯。然后我们把同样的事情应用到概念、数学、物理、你知道，人类，任何你想到的。最终，你会在思考你自己的死亡。嗯，无论如何，重点是，当我们思考世界时，当我们拥有关于世界的知识时，这些知识是如何组织的？它们在哪里？它们在你脑子里吗？答案是，它们在参考系中。所以，我学习这个水瓶的结构，特征相对于彼此的位置，当我思考历史、民主或数学时，同样的底层结构正在发生。有参考系，你将事物分配给它们。所以，在书中，我举了数学、语言和政治的例子。但证据在神经科学中非常清楚。我们用来模拟这个咖啡杯的相同机制，我们将用来模拟高层次的想法，你的，你的，你的人类灭亡，无论你想什么。思考那些高维度概念、更高级概念的表征有多么不同，在参考系方面，与空间相比，那里表征有多么不同，但有趣的是，这是一个不同的应用，但它是完全相同的机制。但是，高层次概念是否有一些方面，它们似乎是分层的？它们似乎将大量信息整合在一起，就像我们的物理对象一样？所以，以这个水瓶为例。嗯，我不特别喜欢这个牌子，但这是一个斐济水瓶，它有一个标志。我在书中使用这个例子，我们公司的咖啡杯上有一个标志。但这个物体是分层的。它有一个圆柱体和一个盖子，然后有一个标志。标志有一个词，词有字母，字母有不同的特征。所以，我不需要记住，我不会这样想。所以我说，哦，这个水瓶上有一个斐济标志。我不需要去想，哦，斐济标志是什么？它是 F、I、J、I，还有一个扶桑花，还有，哦，它有花蕊，你知道，雄蕊。我不需要那样做。我只是将所有这些都包含在某种分层表征中。我说，嗯，你知道，把这个标志放在这个水瓶上。是的。然后标志有一个词，词有字母，所有这些都是分层的，所有这些东西都很大。令人惊叹的是，大脑瞬间就完成了所有这些。是的。有水，它是液体的想法。当你口渴时可以喝它的想法。有品牌存在的想法。然后所有这些信息都瞬间融入了整个事物，一旦你处理了。所以，我想回到你关于分层表征的观点。世界本身就是分层的，对吧？我可以拿起我面前的这个麦克风。我知道里面会有一些电子设备。我知道会有一些电线。我知道会有一个小隔膜来回移动。我看不到它，但我知道它。所以，世界上的一切都是分层的。你走进一个房间，它由其他组件组成。厨房有一个冰箱，你知道，冰箱有一个门，门有一个铰链，铰链有螺丝和销子。是的，我的意思是，总之，每个皮层柱中存在的建模系统都会学习物体的分层结构。所以，这是一个非常复杂的建模系统。在这个米粒中，很难想象，但这个米粒可以做非常复杂的事情。它有十万个神经元，它非常复杂。所以，能够模拟水瓶或咖啡杯的相同机制也可以模拟概念对象。这是这个发现的美妙之处，弗农·蒙特卡斯尔多年前就发现了，那就是，在我们所做的一切背后，都有一个单一的皮层算法。所以，常识概念和更高级的概念都以相同的方式表征，它们以相同的机制设置。是的，这有点像电脑，对吧？所有电脑都是通用图灵机，即使是我烤面包机里那个小小的，以及那个运行着某个云服务器的庞大机器。它们都运行在相同的原理上。它们可以应用不同的东西。所以，大脑都是基于相同的原理构建的。它都是关于使用运动和参考系来学习这些结构化模型，它可以应用于像水瓶或咖啡杯这样简单的事物，也可以是思考人类的未来，你知道，为什么你的桌子上有一个刺猬？我不知道，没人知道。我想是刺猬。没错，是雾中的刺猬。这是一个俄罗斯的典故。它是否让你对工程化常识推理的难度有任何启示或希望？所以，这个整个过程有多复杂？所以，看看大脑，它是一个工程奇迹，还是只是很多东西堆叠在一起？它可以是两者兼有吗？它可以是两者兼有，对吧？我不知道它是否可以是两者兼有，因为，嗯，如果它是一项了不起的工程，那就意味着它是。所以，进化做了很多工作。它，是的。但然后，但然后它只是复制了它，对吧？所以，就像我之前说的，弄清楚如何模拟像空间这样的东西真的很难。进化必须经历很多技巧。这些，我之前谈到的这些网格细胞和位置细胞，它们非常复杂。这不是简单的事情。这些神经组织以这些非常出乎意料的奇怪机制运作。但它做到了，它弄清楚了。但现在你可以复制很多份。然后找到，是的。所以，这是一个非常有趣的想法，有很多基本大脑的副本。但问题是，找到那个可以有效复制粘贴的迷你大脑有多难？好的，今天我们知道得足够多了，可以做到这一点。我在这里和你一起，你知道，我知道步骤。我们必须去那里。仍然有一些工程问题需要解决，但我们知道得足够多了。这不是，哦，这是一个有趣的想法，我们必须再想几十年。不，我们实际上了解得相当详细。不是所有细节，但大部分。所以，它很复杂，但它是一个工程问题。所以，在我的公司，我们正在努力。我们基本上有一个路线图，说明我们如何做到这一点。嗯，这不会花几十年。乐观地说，可能需要几年。但我认为这是可能的。嗯，你知道，复杂的事情，如果你理解它们，你就可以建造它们。所以，在你看来，在哪个领域最好建造它们？我们是在谈论机器人，比如在物理世界中运作并能够与该世界互动的实体吗？我们是在谈论在数字世界中运作的实体吗？我们是在谈论更具体的东西，就像机器学习社区所做的那样，你关注自然语言或计算机视觉吗？你认为哪个最容易？我会说，是前两个，而不是第三个。再次，再次，让我们以计算机为例。计算的先驱，像约翰·冯·诺依曼和图灵这样的人，他们创造了我们现在称之为通用图灵机的计算机。他们知道它将如何被应用，它将被用在哪里吗？你知道，他们能想象到未来吗？不，他们只是说，这是一个关于算法以及如何在机器中实现它们的非常有趣的计算想法。而我们今天也在做类似的事情。我们正在构建这种通用的学习原则，可以应用于许多不同的事物。但是，机器人部分，好的，交互式，好的，让我们具体一点。你可以把这个皮层柱看作是我们称之为感觉运动学习系统。它有一个传感器，然后它在移动。这个传感器可以是物理的，可以是像我的手指，它在世界中移动。它可以像我的眼睛，它在物理移动。它也可以是虚拟的。所以，它可以，一个例子是，我可以有一个生活在互联网上的系统，它实际上在互联网上采样信息，并通过跟踪链接来移动。这是一个感觉运动系统。所以，某种程度上呼应了手指沿着汽车移动的过程，但这是一个非常松散的意义。它就像，再次，学习本质上是关于在世界中寻找结构，并发现世界的结构。你必须穿过世界，即使它是一个虚拟世界，即使它是一个概念世界，你必须穿过它。它并不存在于一个地方。它有一些结构。所以，这里有一些预测，关于你所说的，在人类身上，相同的算法也适用于机器人，对吧？它控制我的手臂、我的眼睛、我的身体。是的。所以，在我看来，未来机器人和人工智能将融合。它们将不再是独立的领域，因为它们将，控制机器人的算法将与我们大脑中的算法相同，这些感觉运动算法。今天我们还没有达到，但我认为这将会发生。然后，所以，但并非所有人工智能系统都将是机器人。你可以拥有具有不同类型载体的系统。有些将具有物理运动，有些将具有非物理运动。它是一个非常通用的学习系统，再次，就像计算机一样。图灵机，它不说明它应该如何实现，它不说明它有多大，它不说明你把它应用到什么地方，但它是一个有趣的计算原理。皮层柱的等价物是一个计算原理，它是关于学习的，它是关于你如何学习的，它可以应用于无数的事情。这就是我认为的，我认为人工智能的影响将与过去一个世纪的计算一样大，甚至更大。因为它触及了一个基本的东西。它不是一个视觉系统或一个学习系统。它不是一个视觉系统或听觉系统。它是一个学习系统。它是关于你如何学习世界的结构，你如何获得知识并变得智能的基本原理。这就是千脑理论所说的。我们的大脑有一个特定的实现方式，但它不必是那样的。你认为会有某种影响吗？好的，让我换个方式问。日益智能的人工智能系统在以下方面对我们人类有什么影响？比如，人类在循环问题有多难？与人交谈的咖啡杯手指的等价物有多难？所以，融入我们渺小的人类世界有多难？我不知道，我认为这是一个工程问题，而不是一个根本性问题。我可以问你同样的问题，计算机融入人类世界有多难？对吧？我基本上是在问这个问题，比如，我们有多么，我们人类有多么精英主义？我们试图排斥系统。我不知道，我不确定这是正确的问题。让我们以计算机为例。计算机比我们快一百万倍。它们做的事情我们无法理解。大多数人根本不知道计算机在做什么，对吧？我们如何将它们融入我们的社会？嗯，我们不认为它们是独立的实体，它们不是活的。我们不赋予它们权利。我们，我们依赖它们。我们七十亿人的生存，或者什么的，都依赖于计算机。现在，你不认为这是一个根本性问题吗？我们认为它们是我们无法，我们不赋予它们权利？所以，计算机，所以，是的，计算机，所以，机器人，计算机，智能系统。感觉它们要成功运作，就需要具备我们开始考虑的许多要素，比如这个实体是否应该拥有权利？我，我不这么认为。我认为那样想很诱人，个人来说，我认为今天几乎没有人会这样想计算机。没有人说，哦，这个东西需要权利，我不应该能够关掉它，或者，你知道，如果我把它扔进垃圾桶，你知道，然后用大锤子砸它，我可能会犯下刑事罪行。不，没有人会那样想。现在我们考虑智能机器，这就是你要去的地方。然后，突然，嗯，现在我们不能那样做了。我认为我们这里面临的基本问题是，人们认为智能机器会像我们一样。它们会有和我们一样的感情，和我们一样的感觉。如果我能制造一个智能机器，它根本不在乎它是开着还是关着，或者被摧毁了还是没有，它只是不在乎。它就像一张地图，一个建模系统。它没有生存的欲望，没有什么。创造一个能够深刻地模拟世界但又不在乎它是生是死的系统，这是否可能？对我来说，绝对没有问题。这对我来说不是百分之百显而易见的。如果我们可以争论，如果你愿意的话。你的生存欲望从何而来？这是一个古老的进化设计。我的意思是，我们可以争论，客观地说，我们是否真的在乎我们是否活着？不，对吧？我们最终都会死去。但进化让我们想要活下去。进化让我们想要为活下去而奋斗。进化让我们想要关爱彼此，照顾我们的孩子和亲戚，我们的家人等等。这些都是好事。但它们之所以出现，不是因为我们聪明，而是因为我们是动物。我后院的蜂鸟关心它的后代。你知道，在某种意义上，每一种生物都关心生存。但当我们谈论创造智能机器时，我们不是在创造生命，我们不是在创造进化中的生物，我们不是在创造活的东西。我们只是在创造一个能够学习非常复杂的东西的机器。而这台机器，它甚至可能能够和我们交谈，但它不会有生存的欲望，除非我们以某种方式把它放进这个系统里。嗯，有学习，对吧？问题是，但你不是通过学习来想要活下去的。这是内置的。哇，欧内斯特·贝克尔等人认为，所以，嗯，生命是有限的。我们思考它的方式是我们学会的。也许，好吧，是的。有些人决定他们不想活，有些人决定，你知道，你可以。但生存的欲望是 DNA 内置的，对吧？但我认为我想说的是，为了实现目标，拥有紧迫的死亡感是有用的，正如斯多葛派所说，冥想你的死亡。这可能是一件非常有用的事情，去死，并拥有死亡的紧迫感，并意识到，将自己视为一个在这个世界上运作的实体，最终将不再是这个世界的一部分，并真正将自己视为一个有意识的实体，这可能对你理解世界非常有帮助。否则你可能会变得懒惰。好吧，我们就要建造这些机器了，对吧？所以，我们在谈论建造人工智能。但是，我们正在建造，嗯，嗯，嗯，皮层柱的等价物，新皮层。新皮层。问题是它们会到达哪里？因为我们不是硬编码一切。嗯，嗯，嗯，就建造新皮层等价物而言，它不会有任何这些欲望或情感状态。现在你可以争辩说，除非我赋予它一些能动性，除非我赋予它一些欲望，除非我赋予它一些动机，否则这个新皮层将没有用处。否则它就会像懒惰一样什么都不做，对吧？你可以争辩。但它本身不会做那些事情。它就是不会。它不会坐在那里说，我理解世界，所以我关心生存。不，它不会那样做。它只会说，我理解世界。为什么这显而易见？为什么，为什么你不认为，让我这样问，你认为它至少会给自己分配能动性，并将自己视为这个世界上的一个有意识的实体，作为一种有用的方式来运作，并理解世界，这是否可能？我认为智能机器可能是有意识的，但这并不意味着它会有你担心的那些欲望和目标。我们可以，我们可以谈论机器有意识意味着什么，顺便说一句，不要担心，而是感到兴奋。不一定是我们应该担心的事情。所以，我认为有一个合法的问题，或者不是问题，一个问题是，如果你建造这个建模系统，它会模拟什么？是的，对吧？它的欲望是什么？它的目标是什么？我们把它应用到什么地方？所以，这是一个有趣的问题。有一件事，这取决于应用。它不是建模系统固有的东西，而是我们以特定方式将其应用于建模系统。所以，如果我想制造一辆非常聪明的汽车，它必须了解驾驶汽车以及在驾驶汽车方面什么重要。它不会自己弄清楚。它不会坐在那里说，你知道，我已经理解了世界，我决定了，你知道，不，不，不。我们必须告诉它。我们将不得不说，所以，我想我让这辆车变得非常聪明，它学习你的驾驶习惯，它学习世界，它只是，你知道，有一天它会醒来说，你知道吗，我厌倦了开车，做你想要的事情，我认为我最好有时间。好吧，不，它不会那样做。我的一部分在扮演魔鬼的代言人，但我的一部分也在试图思考这个问题，因为我研究汽车很多，我也研究行人、骑自行车的人很多。我的一部分认为，为了成功驾驶，需要比我们意识到的更多的智能。人类互动中的博弈论似乎需要对人性有深刻的理解。好吧，当行人过马路时，他们通常会看一眼汽车，然后移开视线。在某种意义上，他们说，我相信你不会谋杀我，你没有胆量谋杀我。这是行人与汽车互动的微妙之处。是的，这是说，我将移开视线，我将把我的生命交给你，因为我认为你是人类，你不会杀我。然后汽车为了在曼哈顿街头成功运作，必须说，不，不，不，我将像一点点一样杀死你。有一点点这种奇怪的相互谋杀的暗示。是的，是的。这是一个舞蹈，然后以某种方式成功地运作。你认为你是从那里出生的吗？你学会了这种社交互动吗？我认为它可能有很多你所说的相同元素，那就是我们利用我们天生的东西，并将它们应用到上下文中。好吧，我会这样回答，我会说，这种互动是学来的，因为，你知道，不同文化的人有不同的互动方式。就像你在世界不同城市过马路，他们有不同的互动方式。我会说这是学来的。我会说，一个智能系统也可以学会它。但这并不导致，智能系统可以理解人类。它可以理解，就像我可以研究一种动物并了解那种动物一样。你知道，我可以研究猿类并了解它们的文化等等。我必须是猿才能知道。我可能不完全是，但我可以理解一些东西。所以，智能机器可以模拟它。这是世界的一部分，是互动的一部分。我们试图解决的问题是，智能机器是否会有自己的个人能动性，超越我们赋予它的，或者它自己的个人目标？它会进化并创造这些东西吗？我的信心来自于理解我所说的机制。我正在创造的不是空穴来风的东西。它就在细节中。我将建造它，我知道它会是什么样子，我知道它会如何表现，我知道它能做什么，不能做什么。就像我建造电脑一样，我知道它不会自己决定在里面放另一个寄存器。它做不到。无论你的软件做什么，它都无法在计算机中添加寄存器。所以，以这种方式，当我们构建人工智能系统时，我们必须做出选择，关于我们如何嵌入它们。我在书中谈到了这一点。我说，你知道，大脑智能系统不仅仅是新皮层的等价物。你必须拥有它，但它必须拥有某种载体，物理的，虚拟的。它必须拥有某种目标。它必须对危险有某种想法，关于它不应该做的事情。就像，你知道，我们为系统构建了安全措施。我们身体里有它们。我们把它们放进车里。你知道，我的车会听从我的指示，直到有一天它看到我即将撞到东西，然后它会忽略我的指示并刹车。所以，我们可以把这些东西构建进去。所以，这是一个非常有趣的问题，如何构建这些东西。我认为我关于人工智能风险的看法与大多数人不同，因为人们假设这些东西会自己出现。它会进化，智能本身就会产生这些东西，或者需要它。但这不是新皮层等价物的智能需要这个。新皮层等价物只是说，我是一个学习系统。告诉我你想让我学什么，我会告诉你。问我问题，我会告诉你答案。但再次，就像一张地图一样。它没有意图。但你可以用它来解决问题。好吧，所以，建造，工程化，新皮层本身只是创造一个智能预测系统，建模系统，抱歉，建模系统。是的。你可以用它来做出预测，然后，但你也可以把它放进一个实际在世界上行动的东西里。你必须把它放进某个东西里。再次，想想地图的比喻。地图本身什么都不做，对吧？它只是惰性的。它只是，它可以学习，但它就是。所以，我们必须以某种方式将它嵌入到某个东西中才能做些事情。所以，那么你的直觉是什么？你最近和萨姆·哈里斯进行了一次谈话，有点，嗯，你们有些分歧，你坚持这一点。你知道，埃隆·马斯克、斯图尔特·罗素对人工智能的生存威胁感到担忧。你的直觉是什么？为什么，如果我们设计一个越来越智能的新皮层类型的系统在计算机中，为什么那不应该是一个让我们担心的事情？有趣的是，我们用了“直觉”这个词，萨姆·哈里斯也用了“直觉”这个词。当他使用“直觉”这个词时，我立刻停下来，说，哦，问题就在这里。他正在使用直觉。我不是在谈论我的直觉。是的，我不是在谈论我的直觉。我是在谈论我理解的东西，我将要建造的东西，我正在建造的东西。我完全理解，或者至少足够理解，以至于我知道它会做什么。我只是在猜测。我知道这个东西会做什么。我认为大多数担心的人很难区分。他们没有，他们没有，知识或理解，关于，什么是智能？它在大脑中如何体现？它如何与其他大脑功能区分开来？所以，他们想象它会像人类一样，或者像动物一样。它会有，它会有和我们一样的驱动力和情感。但没有理由这样做。这只是因为，有未知。如果你，如果未知是，哦，我的天哪，我不知道它会做什么，我们必须小心。它可能像我们一样，但更聪明。我说，不，它不会像我们一样。它会非常聪明，但完全不像我们。嗯，但我不是因为我只是在猜测。我不是在用直觉。我基本上是说，好的，我理解这个东西是如何工作的。这是它所做的。让我来解释给你听。好吧，但是，为了反驳，我也不同意萨姆的直觉。但是，我也不同意你刚才说的。你知道，一个好的比喻是什么？所以，如果你看看早期的 Twitter 算法，只是推荐系统。你可以理解推荐系统是如何工作的。你无法理解的是，当你将推荐系统大规模应用于成千上万的人时，它如何改变社会。所以，问题是，是的，你只是说，这就是新皮层工程师的工作方式。但是，就像，当你有一个非常有用的，像 TikTok 这样的服务，它病毒式传播时，当你的新皮层病毒式传播，然后数百万人开始使用它时，它不能摧毁世界吗？不。嗯，首先，我想说的是，人工智能是一项危险的技术。我不是否认。所有技术都很危险。嗯，人工智能可能尤其如此。是的，好的。嗯，我担心它吗？是的，我完全担心它。我们现在谈论的狭窄部分是人工智能的生存风险。所以，我想区分一下，因为我认为人工智能可能会被滥用。它可能会被以人们会理解其后果的方式应用。这些都是潜在的非常糟糕的事情。但它们不是人工智能系统本身造成的生存风险。而这正是我与其他人的唯一分歧。所以，所以，我认为生存风险这件事，嗯，人类非常擅长生存。所以，要消灭人类将非常非常困难。你甚至可以，是的，但你甚至可以，我将进一步说，我认为人工智能系统永远不会尝试。我认为人工智能系统永远不会说，我将忽略你，我将做我认为最好的事情。我认为这不会发生，至少不是以我所说的方式。所以，你，Twitter 推荐算法，这是一个有趣的例子。让我们再次以计算机为例。我建造了一台计算机，它是一台通用计算机器。我无法预测人们将如何使用它。他们可以建造各种各样的东西。他们甚至可以创建计算机病毒。你知道，各种各样的事情。所以，它的效用，它的去向，存在一些未知。但另一方面，我指出，一旦我建造了一台计算机，它就不会从根本上改变它的计算方式。就像，我用寄存器作为计算机的内部部分。你知道，我说，它不能只是说，因为计算机不会进化，它们不会复制，它们不会进化，你知道，计算机本身的物理表现不会，有些事情它做不到。所以，我们可以将事情分解为可能发生的事情，我们无法预测的事情，以及仅仅是不可能发生的事情，除非我们刻意去做。它们不会发生，除非有人让它们发生。是的。所以，有很多事情要说。一个是物理方面，你绝对是对的。我们必须建造一个东西让它在物理世界中运作，而你可以在它们不再做你想要的事情的那一刻停止建造它们，或者改变设计，或者改变设计。问题是，我的意思是，在物理世界中，这可能是更长期的，自动化建造。自动化建造是有意义的。有很多工厂正在越来越多地自动化，从原材料到最终产品。可以想象，创建一个制造机器人的工厂，这些机器人为社会做一些极其有用的事情，这显然更有效。它可以是个人助理，它可以是，它可以是你的烤面包机，但一个对你的烹饪偏好有更深入了解的烤面包机。嗯，我认为你现在说对了。我们真正需要担心的就是自我复制。那就是我们在物理世界中，是的，甚至在虚拟世界中。自我复制，因为自我复制是危险的。你很可能被病毒杀死，或者被人类设计的病毒杀死。任何人都可以创建，你知道，这项技术几乎任何人都可以创建，但不是任何人，而是很多人可以创建人类设计的病毒，它可能会消灭人类。那真的很危险。不需要智能，只需要自我复制。所以，所以，我们需要小心。所以，当我想到，你知道，人工智能时，我不是在想机器人建造机器人。不要那样做。不要建造，你知道，好吧，那是因为你对创造智能感兴趣。自我复制似乎是赚钱的好方法。好吧，那么，也许编辑病毒是一种赚钱的好方法，我不知道。重点是，作为社会，当我们想关注生存风险时，我们面临的生存风险，我们几乎都可以控制，都围绕着自我复制。是的。问题是，我没有看到通过工程化病毒并在世界范围内部署它们来赚钱的好方法。可能会有一些有用的应用，但让我们区分一下，让我们区分一下，我的意思是，你不需要，你只需要一些想要这样做的恐怖分子，因为制造病毒并不需要很多钱。让我们区分一下风险和无风险。我争辩说，这个方程中的智能方面并不危险。它不危险。它一点也不危险。这个方程中的自我复制方面是危险的。我不是在否定这一点。我吓坏了。这就像纸夹最大化器的事情。那些经常在同一个对话中被谈论。我认为你是对的，创造超智能系统不一定与任意自我复制的系统相关联。是的。而且，除非你自我复制，否则你不会进化。是的。所以，我认为这是这场争论的要点。人们难以区分这两者。他们只是认为，哦，是的，智能就像我们一样。看看我们对这个星球造成的破坏，就像我们如何，你知道，摧毁了所有其他物种。嗯，我们复制，我们是八十亿，现在是七百万。所以，我认为这个想法是，我们能够建造的系统越智能，从资本主义的角度来看，创造产品的诱惑就越大，创造自我复制系统的诱惑就越大。好吧，假设那是真的。那么，这意味着我们不建造智能系统吗？不，这意味着我们监管。我们了解风险。我们监管它们。是的。你知道，有很多事情我们可以做，社会上，对某些人来说可能有一些经济利益，但可能会造成很大的伤害。我们必须学会监管这些事情。我们必须学会处理这些事情。我会这样说，我会说相反。我会说，拥有智能机器供我们支配，最终将更多地帮助我们。因为它将帮助我们更好地理解这些风险，并帮助我们减轻这些风险。也许有办法说，嗯，我们如何解决气候变化问题？你知道，我们如何做到这一点？或者我们如何做到这一点？就像计算机一样，它们在坏人手中是危险的，但它们对其他许多事情都非常有用。我们与这些危险共存。我认为我们必须对智能机器做同样的事情。我们只是，但我们必须对以下想法保持警惕：a）坏人利用它们做坏事，b）永远不要，永远不要创造一个自我复制的系统。顺便说一句，我甚至不知道你是否可以创建一个使用工厂的自我复制系统。那真的很危险。你知道，大自然自我复制的方式太神奇了。它不需要任何东西，只需要那个东西和资源，然后它就去了。是的。如果我对你说，你知道，我们必须建造，我们的目标是建造一个能够制造新工厂的工厂，它必须是端到端的供应链。它必须开采资源，获取能源。我的意思是，这真的很难。你知道，在接下来的，你知道，一百年里没有人这样做。我对埃隆·马斯克和特斯拉的努力印象深刻，试图做 exactly 这一点。不是从原材料。嗯，他实际上，我认为目标是从原材料到最终汽车，在一个工厂里。是的，这是主要目标。当然，目前还不可能。但他们正在取得巨大的飞跃。嗯，他不是唯一这样做的人。这几十年来一直是许多行业的目標。很难做到。很多人所做的就是，他们有数百万供应商，然后他们，你知道，每个人都聚集在一起，他们将系统连接起来。它，它基本上是分布式的。即使是这样，我认为也没有触及我刚才谈到的问题。那就是自我复制。我的意思是，自我复制意味着除了复制实体之外，没有其他实体参与。对，所以，如果有人类参与其中，那就不算是真正的自我复制。除非我们被欺骗了。而且，我也不一定同意你，因为你提到过人工智能不会对我们说“不”。我只是认为它们会。是的，是的。所以，就像，我认为这是一个有用的功能。我只是在尝试，就像，把自己放在工程师的脑子里，有时会说“不”。你知道，如果你，是的。嗯，我之前举了一个例子，对吧？我举了一个我的车的例子。对，我的车会转动方向盘，加速和刹车，就像我说的，直到它认为有危险。然后它就不那样做了。是的。现在，这是它没有决定做的事情，这是我们编程到车里的。所以，很好，这是一个好主意，对吧？问题再次不是，如果我们创造一个智能系统，它是否会忽略我们的命令？当然，有时会。它会这样做是因为它有了自己的目标，服务于它的目的，它不在乎我们的目的吗？不，我认为这不会发生。好吧，那么，关于这些超级智能的皮层系统，我们工程师制造的，以及我们人类。你认为，随着这些实体在世界上运作，最充满希望的未来是什么样的？是我们与它们融合，还是我们，我们如何让我们人类生存下来，当有越来越智能的生物时？其中一个梦想是将我们的思想上传到数字空间。所以，我们是否可以将我们的思想交给这些系统？所以，它们可以操作它们？有没有某种更有趣的融合？还是有更多？我在书的第三部分谈到了所有这些场景。让我一一介绍。当然。上传思想那个。是的，极其困难。就像，我们现在根本不知道如何做到这一点。所以，这还需要很长时间。但我争辩说，你不会喜欢结果。而且，你不会对结果满意。它真的不是你认为的那样。想象一下，我现在可以将你的大脑上传到电脑里。现在电脑在那里说，嘿，我在这里。太好了，摆脱那个旧的生物体，我不需要它。你还在这里。是的。你会做什么？不，不，那不是我，我在这里。是的。你会感到满意吗？但是，人们想象，看，我躺在病床上，我即将，你知道，死去，我按下按钮，然后我就被上传了。但是，从不同的角度思考一下。所以，我认为这不会发生，因为，到我们能够做到这一点的时候，如果 ever，因为你必须复制整个身体，而不仅仅是大脑。这真的，我详细介绍了这些问题。这真的很重要。你对是什么让我们成为我们有感觉吗？有没有什么捷径可以保存那个让我们真正成为我们的部分？不，但我认为那台机器也会觉得它就是你，对吧？对，如果你，人们就像，我有一个孩子，我有一个孩子。我有两个女儿。她们是独立的个体。我创造了她们。嗯，部分是。是的。而且，嗯，仅仅因为她们有点像我，我并不觉得我就是她们，她们也不觉得我就是我。所以，如果你把它分开，就有两个人。所以，我们可以回到，我们想要什么意识，我们可以谈论它。但我们没有远程意识。我没有在那里说，哦，我意识到了那个系统。所以，让我们留在我们的主题上。所以，一个是上传大脑。嗯，这不会在一百年内发生。也许一千年。但我不认为人们会想这样做。融合你的思想，你知道，神经连接的东西。对，再次，非常非常困难。这是，这是。
控制假肢手臂取得进展是一回事，但拥有数十亿甚至数万亿个神经元，并理解这些信号的含义，则是另一回事。他们说，好吧，我可以学会思考一些模式来让事情发生。但拥有一个计算机系统，它确切地知道它在与哪些细胞对话，以及如何与它们对话，并以那种方式进行交互，这是非常非常困难的。我们离那还远着呢。
有趣的是，我能问一个问题吗？对我来说，在未来 10 年、20 年、50 年内，使这种融合变得非常困难的实际原因在于它的生物学方面，也就是以安全的方式进行那种手术本身就很困难。但你的直觉是，即使是机器学习部分，机器也必须学会它到底在与什么对话，这甚至更难。我认为这甚至更难，而且当你说的是几百个信号时，这样做很容易，但如果你说的是数十亿个信号，那完全是另一回事。所以你认为这不是一个纯粹的机器学习问题，你认为它不能被很好地学习吗？我只是说不，我认为你必须有详细的知识，你必须确切地知道你正在连接的神经元的类型。我的意思是，大脑中有各种各样的神经元，它们做着各种各样的事情。它不像神经网络，它是一个非常复杂的有机系统。我们谈到了网格细胞或位置细胞，你知道你必须知道你正在与哪种细胞对话，它们在做什么，它们的时序是如何工作的，以及所有这些东西，而这些东西你今天做不到。根本无法做到，对吧？但我认为，我认为你说的对，生物学方面的问题，比如谁想做手术，把这些东西植入大脑，这是一个问题。但当这个问题解决后，我认为信息编码方面的问题要糟糕得多。我认为那要糟糕得多。这不像他们今天所做的，今天它是简单的机器学习，因为你在做简单的事情。但如果你想融合你的大脑，比如我在想在互联网上，我把我的大脑和机器融合在一起，我们都在做同样的事情。这是一个完全不同的问题。
这很有趣。我倾向于认为，如果你一开始就从一群神经元那里得到一个非常干净的信号，你不知道那些神经元是什么，我认为这比获得干净的信号要容易得多。我认为如果你考虑今天的机器学习，你会得出这个结论，对吧？我正在思考大脑中发生的事情，我没有得出那个结论。所以我们得看看。当然，但即使如此，我认为也有点悲伤的未来，你知道，我必须把我的大脑连接到电脑上吗？我仍然是一个生物有机体，我假设我仍然会死，那么我实现了什么呢？你知道，我实现了什么呢？做某种……哦，我不同意。我们不知道它们是什么，但似乎有很多不同的应用。就像虚拟现实一样，它可以扩展你大脑的能力，去……去阅读维基百科。是的，但是，但是你仍然是一个生物组织。是的，是的。你知道，你仍然是凡人，你仍然……好吧，那么你取得了什么成就？你在你短暂的生命中让你的生活变得更好，对吧？就像互联网让我们的生活变得更好一样。是的，是的。好吧，所以我认为，如果我想到我们在这里可能获得的所有潜在收益，那只是一个边际收益。这是一个个体，嘿，我更聪明了，你知道，我更聪明了。嗯，好吧，我不是反对它，我只是不认为它会改变世界。但是，这就是互联网的真正意义，当我们的个体都更聪明时，我们就有机会分享我们的智慧，我们作为一个集体变得越来越聪明，就像这个蚁群一样。但为什么我不创建一个不需要任何生物学废话的智能机器呢？这都是一样的，它除了不让我的大脑负担之外，它什么都有。是的，对。它有一个大脑，它很聪明，就像我的孩子一样，但它比我聪明得多。所以，我有一个选择，是做一个植入物，做一个奇怪的生物混合体，出血和所有这些问题，并受我的大脑限制，还是创建一个超级智能的系统，我可以与之交谈，它帮助我理解世界，它可以阅读互联网，你知道，阅读维基百科并与我交谈。我猜我……那里未解决的问题是，超级智能的表现是什么样的？所以，比如，我们为什么要和人工智能融合？比如，这里的实际边际效益是什么？如果我们有一个超级智能系统，是的，它将如何让我们的生活变得更好？所以，让我们……这是一个很棒的问题，但让我们把它分解成小块。一方面，它可以让我们的生活在很多简单的方式上变得更好。你提到了像护理机器人之类的东西，或者帮助我做事情的东西。它做饭，我不知道它做什么，对吧？诸如此类的小事。我们有更好的、更聪明的汽车，我们可以有……你知道，更好的代理和助手来帮助我们在工作环境中等等。对我来说，那是……简单的事情，最初的简单事情。同样，计算机以许多方式让我们的生活变得更好，我也会有那些东西。对我来说，人工智能真正令人兴奋的是它在人类方面的超然品质。我们仍然是生物有机体，我们仍然被困在这个地球上。我们很难住在其他地方。我不认为你和我很快会想住在火星上。而且……我们是有缺陷的。你知道，我们可能会毁灭自己，这是完全可能的。如果我们不完全毁灭自己，我们可能会毁灭我们的文明。你知道，让我们面对现实吧，我们在这里有问题。但是我们可以创造智能机器，它们可以在很多方面帮助我们。例如，我给出的一个例子，另一个听起来有点科幻，但我相信它。如果我们真的想住在火星上，我们就必须有智能系统去那里为我们建造栖息地。不是人类，人类永远不会这样做，这太难了。但是我们可以有成千上万甚至一万个工程师在那里工作，建造东西，改造火星，当然，也许我们可以搬到火星。但是，如果我们想……如果我们想去宇宙旅行，我应该把我的孩子送去宇宙旅行，还是应该送一个代表我的智能机器，它像我的孩子一样，理解我们在这里的需求，它可以穿越太空？所以，在某种意义上，智能使我们能够超越我们生物学的局限性。而且，不要把它看作是一件坏事。在某种意义上，我的孩子也超越了我的生物学，因为他们活在我之后。是的……而且我们传承了，他们代表了我，他们也有自己的知识，我可以把知识传授给他们。所以智能机器也会是这样，但不会像我们一样受限制。但问题是……超然可以发生的方式太多了，而人工智能与人类的融合是其中一种方式。所以你说智能生命或系统在宇宙中传播，代表我们人类。他们代表我们人类，因为他们代表我们的知识和历史，而不是我们个人，对吧？对。但是，我的意思是，问题是，它只是一个数据库，加上一个非常好的模型，不，它们是有意识的，就像我们一样。好吧，但不同。它们不同，就像我的孩子不同一样。它们像我，但它们不同。我猜我……我可能已经……我有一种非常广阔的视角看待我们在地球上的生活。我说，你知道，我们为什么生活在这里？我们只是因为活着而活着吗？我们是因为能生存而生存吗？我们是因为想继续下去而战斗吗？有什么意义呢？是的，对。所以对我来说，意义是什么？如果我问自己，生命的意义是什么？是什么超越了那种短暂的、生物的体验？对我来说，这就是我的答案：获取知识，更多地了解宇宙，并进行探索。这部分是为了学习更多，对吧？我不认为这是一件可怕的事情，如果人类的最终结果是创造出智能系统，它们是我们的后代，但与我们完全不同，而我们仍然留在地球上，只要我们能活多久，虽然不会永远，但只要我们能活多久。但这将是一件伟大的事情。这不是一件坏事。好吧，那么，如果人类物种消失，但我们的知识得以保存并由智能系统不断扩展，你是否可以接受？我想让我的知识得到保存和扩展。是的。我是否接受人类死亡？不，我不想那样发生。但是，如果……如果发生了呢？如果我们坐在这里，这是……我们是地球上最后两个人，我们说，Lex，我们搞砸了，一切都结束了，对吧？是的。我是否会感觉更好，如果我知道我们的知识得到了保存，并且有代表我们的代理人，他们知道这一点，他们是……他们离开了地球？我希望如此。总比没有好，你知道吗？我打个比方，你知道，恐龙，可怜的恐龙，它们活了几千万年，它们养育了孩子，它们……你知道，它们为了生存而奋斗，它们饿了，它们……它们做了我们做的一切，然后它们都消失了。是的，就像……你知道，如果我们没有发现它们的骨头，没有人会知道它们曾经存在过，对吧？我们想那样吗？我不想那样。但其中有一个悲伤的方面，而且想到这一点令人震惊，那就是一个像人类一样的智能文明可能曾经在地球上存在过。哦，是的。我之所以这么说，是因为想到如果我们没有灭绝，我们可能无法找到它们的证据，经过足够长的时间后，当然，有……基本上，人类，如果我们现在毁灭自己，人类文明现在就毁灭自己，经过足够长的时间后，我们会找到恐龙的证据，我们不会找到那些人类的证据。是的，这是件奇怪的事，虽然我不确定我们是否有足够多的关于数十亿年前物种的知识，以至于我们可以……我们可以排除这种可能性，但这当然是一个有趣的问题，就像……你知道，我们的银河系中有很多智能物种，它们都消失了。是的，这太悲伤了，那就是……确切地说，我们的银河系中可能存在过许多比我们更聪明的地外文明，但它们已经不复存在了。是的……你实际上谈到了这一点……人类可能会毁灭自己。是的。以及我们如何保存我们的知识。是的。并向其他……广告商宣传这些知识。一个公关人士用“广告商”这个词很有趣。这没有经济利益，你知道，就像从旅游的角度来看，让它变得有趣。你能描述一下吗？嗯，有几件事。我实际上把它分成了两部分，实际上是三部分。一是……你知道，有很多事情我们知道。如果……如果我们文明崩溃了呢？我不是说明天，你知道，我们可能是一千年后，Lex，我们真的不知道。但是，从历史上来看，总有一天会发生。时间过得真快，当你玩得开心的时候。这是个好说法。你知道，我们能……然后智能生命在这个星球上再次进化，他们不想知道很多关于我们的事情，以及我们所知道的吗？他们就不能问我们问题了。所以，我说的第一件非常简单的事情是，我们如何存档我们所知道的？这是一个非常简单的想法。我说，你知道吗？这并不难。几颗卫星，你知道，绕着太阳转，我们每天上传维基百科，等等。所以……你知道，我们可能会杀死自己。它在那里，下一个智能生命会找到它并学到一些东西。他们会喜欢，他们会感激。所以这是第一件事。下一件事是，如果……你知道，在我们的太阳系之外，我们有 SETI 项目，我们正在寻找来自所有人的智能信号。如果你做一点数学，我在书中做过，你说，好吧，如果智能物种只活一万年，在……你知道，技术上智能的物种，像我们这样的，我们才刚刚开始能够做到……好吧，我们可能看不到任何一个，因为它们现在都消失了。它们活了一万年，现在它们消失了。所以我们找不到这些信号，因为我说，你能创造出什么样的信号，能持续一百万年或十亿年，让别人说，该死的，那里住着聪明人。这将是我们弄清楚的改变人生的事件。我们今天在 SETI 项目中寻找的不是这个，我们在某种意义上寻找的是非常编码的信号。所以我问自己，一个人可以创造出什么样的不同类型的信号？我一生中一直都在思考这个问题，在书中我给出了一个可能的建议，那就是……我们现在可以探测到其他恒星周围的行星。我们通过看到行星从它们前面经过时，光线稍微变暗来做到这一点。这就是我们探测到银河系其他地方行星的方式。如果我们创造出类似的东西，它只是绕着太阳转，并且稍微挡住了一点光，以一种特殊的模式，让别人说，嘿，那不是一颗行星，那是有人曾经在那里过的迹象。你可以说，如果它在跳 pi，你知道，三点多少……所以这个想法是，从远处，你可以……从远处广泛广播，不需要我们持续激活，这是关键，对吧？没有人必须在这里运行计算机并为其供电。它只是继续下去。所以我们走了。它是连续的。而且，我认为 SETI 项目的一部分应该是寻找这样的信号，并且要寻找这样的信号，你就应该弄清楚，我们如何创造一个这样的信号？我们会创造出什么东西？它会持续数百万年，会从远处广播，会明确无误，它来自……一个智能物种。所以我给出了那个例子。因为他们不知道我所知道的。然后，最后，如果……如果最终，我们的太阳系总有一天会消失。你知道，我们如何超越它？我认为这是可能的，如果可能的话，我们将不得不创造智能机器，它们可以穿越……整个太阳系或整个银河系。而且，我认为那不会是人类，我认为那不会是生物有机体。所以这些只是需要思考的事情。你知道，就像……我不想像恐龙一样。我不想只是活着，然后，就这样，我们结束了。嗯，有一种假设是我们将永远活下去，这……我认为想象我们发出的信息是，我们曾经在这里，而不是我们现在在这里，这有点可悲。嗯，也可能是我们仍然在这里。但它更像是一种……它更像是一种保险政策，以防我们不在那里。你知道。嗯，我不知道，但有一件事我想到了，我们人类并不经常想到这一点。但它就像……你知道，每当我……[音乐]录制视频时，我一生中做过几次了。我为未来的自己录制了一个视频，只是为了好玩。而且，想到为未来的文明保存自己总是很有趣。对我来说，是为未来的我保存自己。但那是一个……那是一个有趣的存档例子。这些播客在某种程度上保存了你和我。是的，为了未来……希望在我们离开之后。但你并不经常……我们坐在这里谈论这个，你并没有想到你和我都会死，而且在十年后，有人会看着这个，而我们还活着。你知道，在某种意义上，我做到了。我在这里是因为我想谈论想法。而且，这些想法超越了我，它们超越了我们在这个星球上的时间。我们在这里谈论的想法，可能在一千年后或一百万年后仍然存在。我写书的时候，有一个听众，其中一个最清晰的听众是外星人。不，是 100 年后读这本书的人。是的。我对自己说，我如何让这本书与 100 年后读这本书的人相关？他们会想知道我们当时在想什么？什么会让它……仍然是一本有趣的书？我不确定我能否做到，但我的想法是这样的。因为这些想法，尤其是在书的第三部分，我们正在谈论的那些……你知道，那些听起来很疯狂的想法，关于……你知道，存储我们的知识，以及……你知道，融合我们的大脑和电脑，以及发送……你知道，把我们的机器送到太空，在我有生之年不会发生。而且，它们可能在未来 100 年内也不会发生。可能需要一千年，谁知道呢？但是，我们现在有独特的机会，你，我，以及像我这样的人……来至少提出议程。这可能会影响未来。这是一个迷人的思考方式。无论是写作还是创作，都试图创造……试图创造经得起时间考验的想法，创造经得起时间考验的事物。是的。你知道，理解大脑是如何工作的。我们一旦弄清楚了，就弄清楚了。它将一次性弄清楚，之后就是答案。人们将研究它，数千年。我们仍然……你知道，我们仍然崇敬牛顿和爱因斯坦。以及……你知道，因为想法很有趣，即使在未来。嗯，有趣的是，伟大的想法，即使是错误的，仍然有用。是的，尤其是如果它们不是完全错误的。对，牛顿定律是错的吗？不，它们只是……爱因斯坦的更好。嗯，所以，是的，我的意思是，但我们正在与牛顿和爱因斯坦交谈，我们正在谈论物理学。我想知道我们是否能达到那种清晰度。但是理解……就像复杂的系统，以及……特别是人类大脑这种复杂的系统。我完全乐观，我们可以做到。我的意思是，我们正在取得进展。我看不出任何理由我们不能完全……我的意思是，完全理解。你知道，我们并不完全理解这个水瓶里的所有分子都在做什么，但是，你知道，我们有一些定律可以很好地捕捉它。而且……所以我们会拥有那种理解。我的意思是，你不需要知道你大脑中的每一个神经元都在做什么。但是足够……首先，为了建造它，其次，为了做……你知道，做物理学所做的事情，比如有……具体的实验，我们可以验证。我们……这正在发生。这不是未来。你知道，我对我的工作和我们正在做的事情非常乐观。我必须向人们证明。但是……我是一个理性的人。而且……你知道，直到最近我才这么说。但现在，我坐在这里说，你知道，我们可以……这将会发生。没有大的障碍。我们终于有了一个理解大脑皮层正在发生什么的框架。而且……那是解放性的。这就像，哦，它正在发生。所以我看不出我们为什么不能理解它。我就是看不出来。好吧。哦，所以，关于那个话题，让我扮演一下魔鬼的代言人。你有没有可能想象一下，一百年后，看着你的书……你的想法在哪些方面可能是错误的？我一直担心这个问题。是的。它仍然有用。是的，是的。我认为有……嗯，我可以最好地将其与我现在担心的事情联系起来。所以我们谈论这个投票的想法，对吧？它正在发生，毫无疑问正在发生。但它可能远不止于此。音乐。我不知道的事情足够多，以至于它可能以不同的方式运作。我正在考虑……谁在投票？代表在哪里？我谈到了你有一千个咖啡杯模型。这可能会被证明是错误的，因为也许有成千上万个模型是子模型，但不是真正的单一模型。咖啡杯。我的意思是，这些都是……这些都是边缘的东西。我把它们呈现为，哦，它如此简单和干净。好吧，它不是。它总是会更复杂。而且……而且理论中有我不太理解复杂性的部分。所以，我认为……我认为大脑是一个分布式建模系统这个想法一点也不具争议性，对吧？那不是……很多人都理解。那么问题是，每个柱子四分之一的区域是一个独立的建模系统吗？我可能错了。我不这么认为，但我担心。我的直觉，甚至不考虑你为什么会错，和我对任何物理学家弦理论的直觉是一样的。我们人类渴望一个清晰的解释。而且……一百年后，智能系统可能会回顾我们，嘲笑我们如何试图通过简单的解释来摆脱这一切的混乱，而现实是，它太混乱了，事实上，它是不可能理解的，你只能建造它。这就像复杂系统和元胞自动机的想法。你只能启动它，你不能理解它。我认为……科学史表明，这种情况不太可能发生。科学史表明，你看，作为一个理论家，我们是理论家，我们寻找简单的解释，对吧？完全知道任何简单的解释都不可能是完全正确的。我的意思是，它不可能。我的意思是，它只是更复杂。但这就是理论家的作用。他们……你知道，他们提供了一个框架，你可以在上面谈论一个问题，然后找出，好吧，现在我们可以开始深入研究细节了。最好的框架会保留下来，而细节会改变。再次，你知道，经典的例子是牛顿和爱因斯坦，对吧？你知道……牛顿的理论仍然在使用，它们仍然有价值，它们仍然实用，它们不是……错了，只是被改进了。但那是在物理学中。顺便说一句，这在物理学中也不是显而易见的。不是显而易见的，物理学也应该如此，宇宙应该是这样的，它是……可以被这些简单的，但到目前为止，它似乎是这样的，据我们所知。是的，我的意思是，但据我们所知，而且，这也是一个悬而未决的问题，大脑是否适合如此清晰的理论？那不是……大脑，而是智能。嗯，我……我不知道。我会把智能排除在外，只是说，你知道……嗯，好吧。我们拥有的证据表明，人脑在……同时非常混乱和复杂，但有一些部分非常规则和结构化。这就是为什么我们开始研究新皮层。它的结构非常规则。而且令人难以置信。然后我前面提到的另一件事是，它是……它是普遍的能力。它非常灵活，可以学习很多东西。我们还没有弄清楚它不能学什么。我们还没有弄清楚，但它学会了它从未进化过要学习的东西。所以这些给了我们希望。这就是我进入这个领域的原因，我说，你知道，这种规则的结构，它做了这么多惊人的事情，一定有一些潜在的原则是……是共同的。其他科学家也得出了同样的结论。所以，这是有希望的。这是有希望的。而且……而且，无论理论是否完全按照这种方式发展，这都是理论家所扮演的角色。到目前为止，它进展顺利，即使你知道，我们可能……我们并不了解所有的物理定律，但到目前为止，它还是很有用的。我们拥有的理论还是很有用的。你提到我们不应该……至少在很大程度上我们应该担心人工智能的生存风险，相对于人类的风险，人类的本性是生存风险。人类的哪一方面让你担心，就生存而言？我的意思是，我对人类感到失望，就像人类一样，我包括我自己。这是一种悲伤的状态。有两件事让我失望。一是我们很难将我们理性的组成部分与我们的进化遗产分开，而这……你知道，并不总是那么美好。你知道，强奸是一种……繁殖的进化优势策略。谋杀有时也是。你知道，让别人痛苦有时也是繁殖的优势策略。就是……就是……现在我们知道了，但我们仍然有这种……你知道，我们和我有这种非常理性的讨论，谈论……你知道，智能和大脑和生命等等。所以，这似乎太难了。这是一个巨大的转变，让所有人类……从……让我们不要注意所有那些丑陋的东西，让我们只关注……人类的独特之处在于我们的知识和智力。但是我们正在努力本身就是惊人的，对吧？我们能够克服那一部分，而且似乎我们越来越成功地克服了那一部分。这就是乐观的观点，我同意你的观点。是的，但我担心。我不是说我担心，我想也许你的问题是。我仍然担心。是的。你知道，我们可能明天就结束了，因为一些恐怖分子可能得到了核弹，你知道，炸毁我们所有人。谁知道呢？对吧？另一件事，我认为我失望的是……而且我理解它。我猜你真的不能失望，这只是一个事实。那就是我们如此容易产生错误的信念。你知道，我们的大脑里有一个模型，我们可以直接互动的东西，物理对象，人，那个模型相当好，我们可以一直测试它，对吧？我触摸某样东西，我看着它，我和你说话，我看到我的模型是正确的。但是我们所知道的很多东西是我无法直接互动的。我不知道，因为有人告诉我。是的。所以……所以我们很容易，天生就容易产生错误的信念，因为如果有人告诉我，我怎么知道它是对还是错？所以，然后我们有了科学过程，它说我们天生就有缺陷。所以，我们能更接近真相的唯一方法就是寻找……相反的证据。是的。就像这个……阴谋论，这个科学家们一直在告诉我的关于地球是圆的理论。就我所知，当我向外看时，它看起来很平坦。是的。所以，是的，存在一种张力。但它也是……嗯，我倾向于相信我们还没有弄清楚大部分事情。对，我们周围的大部分自然都是一个谜。所以，嗯，但这不起作用吗？这让你担心吗？我的意思是，这就像……这就像一个乐趣，更多的是去发现，对吧？是的，这很令人兴奋。但我的意思是，会有很多所谓的错误想法。我的意思是，我一直在思考工程系统，比如社交网络等等。我一直担心审查制度，并思考所有这些事情。因为有很多错误的想法，有很多危险的想法。但然后我也读了历史，读了历史，看到当你审查错误的想法时。现在这可能是一个小规模的审查，比如一个年轻的研究生举手说了一些疯狂的想法。是的，一种审查制度。我不应该用审查制度这个词，但我认为你可能……就像……让他们失去动力。不，不，不，一直都是这样。是的，是的。你是一个愚蠢的孩子，不要这样做。是的，是的。愚蠢的。所以，在某种意义上，那些错误的想法，大多数时候最终是错误的。但有时……我同意你的观点。所以我不喜欢审查制度这个词。在书的最后，我最终得出了一个……一个恳求或一个推荐的行动方案。我所知道的，处理你提出的这个问题的最好方法是，每个人都应该在你的成长过程中，或者在你的生活中，了解你的大脑是如何工作的，它如何构建世界模型，它是如何工作的，你知道，它如何基本上构建那个世界模型，而那个模型不是真实的世界，它只是一个模型，它永远不会反映整个世界，而且它可能是错误的，而且很容易出错。而且，你的脑子里可能会出现错误的模型的各种方式。它没有规定什么是对的或错的，只是理解那个过程。如果我们都理解了那个过程，然后我聚在一起，你说，杰夫，我不同意你。我说，Lex，我不同意你。至少我们理解，我们都在试图模拟某样东西，我们都有不同的信息，导致了我们不同的模型。因此，我不应该因此责怪你，你也不应该因此责怪我。而且，我们可以至少同意，好吧，我们可以寻找什么共同点来检验我们的……信念，而不是……我们用教条来抚养孩子，这是事实，这是事实，这些人是坏人，你知道，无论如何，如果每个人都知道要对每一个信念保持怀疑，以及他们的大脑是如何做到的，我想我们会有一个更好的世界。你认为人类的心灵能够理解现实吗？所以你谈到了……创造越来越好的模型。你认为我们离现实有多近？最疯狂的想法是，唐纳德·霍夫曼说，我们离现实很远。你认为我们正在接近现实吗？嗯，我想这取决于你如何定义现实。我们正在……我们有一个世界模型，它非常有用。对，为了我们的生存和……快乐，等等。所以，它很有用。我的意思是，它非常有用。哦，我们可以建造飞机，我们可以建造电脑，我们可以做这些事情，对吧？我不知道那个问题的答案。我认为那是我们正在努力解决的问题的一部分，对吧？就像……你知道，显然，如果你最终得到了一个万物理论，它确实是一个万物理论，然后一切都发挥作用，没有其他空间了，那么你可能会觉得我们有一个很好的世界模型。但是，如果我们有一个万物理论，并且不知何故……首先，你永远无法确切地说它是一个万物理论。但是，假设我们非常确定它是万物理论。我们理解大爆炸时发生了什么，以及……整个物理过程。我仍然不确定这是否能让我们理解……下一层级的许多抽象。嗯，如果弦理论被证明是真的，然后你说，那么我们没有现实，没有模型，在那些被缠绕在一起的维度里发生了什么？你说的对。或者，多元宇宙。你知道，我老实说，我不知道，对我们，对人类互动，对智能的想法，它如何帮助我们理解我们是由振动的弦组成的，这些弦比我们小多少倍？我不知道，你也许能造出更好的武器和更好的火箭，但你无法理解智能。我猜，也许是更好的电脑。不，你不能。我认为这只是更多的纯粹知识。它可能有助于更好地理解……宇宙的开端。它可能有助于更好地理解……我不知道。我猜我认为知识的获取一直以来都是你……你为了它本身的乐趣而追求它。而且，你并不总是知道什么会产生影响。你对发现的奇怪事物感到惊喜。你认为……对于新皮层来说，总的来说，在机器方面还有很多创新要做吗？你知道，你经常使用计算机作为比喻。有没有不同类型的计算机可以帮助我们建造？我的意思是，智能是什么样的？智能机器的表现是什么？或者，哦，不，它将是完全疯狂的。我们还不知道它会是什么样子。但是你今天已经可以看到这一点了。我们当然会重新模拟这些东西，在传统的计算机上。现在，GPU 对于……你知道，神经网络等等来说非常受欢迎。但是，有一些公司正在开发根本上新的物理基底，它们真的很酷。我不知道它们是否会奏效，但我认为这里会有几十年的创新。完全同意。你认为最终会像我们的生物学一样混乱吗？还是……这是鸟与飞机的旧问题，还是你认为我们可以……就像建造比鸟类飞得更好的飞机一样？是的，是的。你知道，我能……我能稍微退回一下鸟类的事情吗？因为我认为这很有趣，人们常常误解赖特兄弟。他们试图解决的问题是受控飞行，如何转弯飞机，而不是如何推进飞机。他们不担心那个。有趣。是的，他们已经有了。当时，已经有了从研究鸟类那里获得的翼形。已经有了载人的滑翔机。问题是，如果你在滑翔机的后面放一个方向舵，然后你转弯，飞机就会从空中掉下来。所以问题是如何控制飞行。他们研究了鸟类，他们实际上圈养了鸟类，他们在风洞里观察它们，他们在野外观察它们。他们发现秘密是，鸟类在转弯时会扭动它们的翅膀。所以，赖特兄弟的飞行器就是这样做的。它们有操纵杆，你可以扭动翅膀。那就是他们的创新，而不是他们的螺旋桨。今天的飞机仍然扭动它们的翅膀。我们不扭动整个翅膀，我们只是……只是尾部，襟翼，这都是一样的。所以今天的飞机和鸟类一样，基于相同的原理飞行。所以每个人都对这个类比都错了。但是，让我们退一步吧。一旦你理解了飞行的原理，你就可以选择如何实现它们。没有人会使用骨头、羽毛和肌肉。但是它们有翅膀。而且，我们不拍打它们，我们有螺旋桨。所以，当我们理解了计算的原理，它涉及到大脑对世界的建模。我们非常清楚地理解这些原理。我们有选择如何实现它们。有些将是生物学的，有些则不是。而且……但我确实认为这里会有大量的创新。想想我们计算机领域的创新。他们不得不发明晶体管，他们发明了芯片，他们发明了……然后是软件。我的意思是，他们不得不做无数的事情，内存系统。我们也会这样做。嗯，有趣的是，深度学习……深度学习在特定任务上的有效性正在推动硬件领域的许多创新，这可能会对……实际上让我们发现运作方式截然不同的智能系统产生影响。或者比深度学习大得多。有趣。所以最终，有一个正在改善我们生活的应用是好的。因为……你知道，资本主义过程，如果你能赚钱。是的，是的。这很有效。我的意思是，尼尔·德格拉斯·泰森也写过这个，我们资助科学的另一种方式是通过军事。就像……是的，征服。所以，这里有一个有趣的例子。我们正在做这件事。我们过去有一系列……生物学原理，我们可以看到如何构建这些智能机器。但是我们决定将其中一些原理应用于今天的机器学习技术。所以，我们没有谈到的一个原理是……大脑中的稀疏性。大多数神经元在任何时候都是活跃的，据我所知，连接是稀疏的。这与深度学习网络不同。所以我们已经证明，我们可以将现有的深度学习网络加速……从 10 倍到 100 倍。我的意思是，字面意义上的 100 倍，同时使其更健壮。这在商业上非常有价值。所以，你知道，如果我们能在今天商业上应用的更大系统中证明这一点，那么就有很大的商业愿望去做这件事。嗯，稀疏性在现有的硬件上运行得不好。它在 GPU 上运行得不好，在 CPU 上也运行得不好。所以，这将是一种将越来越多的脑部原理带入现有系统的方式，以一种商业上有价值的方式。另一件事，我们可以考虑的是，我们将使用树突模型。我之前谈到过，神经元内部的预测。这个基本属性可以应用于现有的神经网络，并允许它们持续学习，而这是它们今天做不到的。所以，是的，我们不会模拟这些尖峰。但是，今天的神经网络有一个叫做点神经元的东西，这是一个非常简单的神经元模型。通过给它们添加树突，增加一点点复杂性，就像生物系统一样，你可以解决连续学习的问题。以及快速学习。所以我们正在尝试……我们正在尝试将现有领域……我们看看是否能做到。我们正在尝试将现有的机器学习领域商业化，并与我们一起前进。你提出了……支付费用的想法，商业化地支付费用，与我们一起前进，当我们朝着真正的 AI 系统这一最终目标迈进时。即使是神经网络的小创新也令人兴奋。因为它们似乎是大脑的一个微不足道的模型。并且应用不同的见解，即使……就像你说的，持续学习，或者让它更异步，或者让它更动态，或者……通过激励使其快速，即使是从机器人那里，并使其在某种程度上更好，激励稀疏性。嗯，如果能让事情快 100 倍，那么就有很大的激励。人们花费数百万美元……你知道，训练一些这些网络。现在这些……这些 Transformer 网络。让我问你一个大问题。对于今天收听的年轻高中生和大学生，你会给他们什么建议，关于……选择哪条职业道路？以及……也许只是关于生活？就我而言……我开始生活时没有任何目标。我上大学的时候，我想，哦，我该做什么？嗯，也许我会做电气工程之类的事情。你知道……不像……今天你看到一些年轻人如此有动力，他们要改变世界。我当时是……你知道，随便吧。但是，然后我爱上了一件事，除了我的妻子之外，我爱上了一件事，就像，哇，了解大脑是如何工作的会很酷。然后我说，我能做的最重要的事情就是研究它。我无法想象还有什么比这更重要的事情了。因为如果我们了解大脑是如何工作的，你就可以建造望远镜机器，它们可以解决世界上所有其他的大问题。然后我说，我想了解我自己是如何工作的。所以我爱上了这个想法，我变得充满热情。而且，你知道，这是人们常说的一句老套话，但它是真的。因为我充满热情，我能够忍受几乎所有的……你知道，你知道，我……有人说你不能这样做。我当时是伯克利的研究生，他们说你不能研究这个问题。没有人会解决这个问题，或者你得不到资助。然后我去做……你知道，移动计算。人们说你不能这样做，你不能制造手机。但是，我一直受到激励，因为我想解决这个问题。我说，我想了解大脑是如何工作的。如果我一生只有一次机会，我要弄清楚。尽我所能。因为，你知道，正如你指出的，Lex，这些事情真的很难。人们……有太多的挫折。有太多的障碍。我一直很快乐，但相信我，并非总是如此。我想，那就是……幸福，激情是生存的先决条件。是的，我认为是这样。我认为是这样。所以，我不想对别人说，你知道，你需要找到一种激情并去做。不，也许你不需要。但是，如果你找到了你充满激情的事情，那么你就可以追随它，直到你的激情让你能够忍受它。你还记得你是怎么找到它的吗？这是火花是如何发生的？为什么特别是我？是的。就像，因为你说它很有趣，几乎是……后来，我的意思是，不是在你五岁的时候。你真的不知道，然后突然你爱上了它。是的，是的。有两个独立的事件相互叠加。一个是我……
我大概是个十几岁的少年，可能十七八岁。我列出了我能想到的最有趣的问题。第一个是：宇宙为什么存在？似乎不应该存在才更可能。是的。第二个是：好吧，既然宇宙存在，为什么它的运行方式是这样的？你知道，它的物理定律，为什么是 Y 等于 MC 平方，而不是 MC 立方？你知道，一个值得关注的问题。我不知道。第三个是：生命的起源是什么？嗯，第四个是：什么是智能？我停在那里，我说，好吧，这可能是最有趣的一个，然后我把它放在一边。嗯，作为一个少年。但后来，当我 22 岁时，我正在读，嗯，不，对不起，我 70 岁了，那是 1979 年，对不起，1979 年，我正在读，所以那时我 22 岁。我正在读《科学美国人》的九月号，那期全部是关于大脑的。然后最后一篇文章是弗朗西斯·克里克写的，他因 DNA 而闻名，他已经把他的兴趣转向了研究大脑。现在，他说，你知道，这里有问题。他说，我们得到了所有这些数据，哦，这个事实，这是 1979 年，所有这些关于大脑的事实，关于大脑成千上万的事实。我们需要更多的事实吗？还是我们只需要思考一种重新排列我们已有事实的方式？也许我们只是没有正确地思考这个问题。你知道，因为他说，这不应该是这样的，你知道。所以，我读了那篇文章，我说，哇。我说，我不需要成为一名实验神经科学家。我可以看看所有这些事实，然后尝试，然后成为一名理论家，然后尝试弄清楚。我说，我觉得我擅长这个。我说，我不会是一个好的实验者，我没有耐心。但我是一个好的思考者，我喜欢解谜，而这就像是世界上最大的谜题，是所有时代最大的谜题。我面前有所有的拼图碎片。该死，那太令人兴奋了。而且显然有些东西你无法将其转化为它，它只是激发了这种热情，我一生中经历过几次，就是有些东西，嗯，是的，就像你一样，它抓住了你。是的，我认为这是一件重要的事情，我能做出贡献。是的。所以，突然间，我觉得，哦，它给了我人生的目标。是的。你知道，我真的不认为它必须像那四个问题一样宏大。不，不。我认为你可以在最小的事情中找到这些东西。哦，绝对。我和大卫·福斯特·华莱士说的一样，生活的关键是不要感到无聊。我认为，我认为在最小的事情中找到那种强烈的喜悦是很有可能的。绝对。你问我我的故事。是的，是的。我实际上是在对观众说话。它不必是那四个。你碰巧对宇宙中一些更大的问题感到兴奋。但是，即使是最小的事情，现在看着奥运会，就是把你的生活奉献给研究和掌握一项特定的运动，这很迷人。而且，如果它能激发喜悦和热情，你就能在奥运会的情况下，基本上忍受几十年的痛苦才能实现。我的意思是，你甚至可以通过成为父母来找到喜悦和热情。我的意思是，是的，是的。育儿那个很有趣。我一直，不总是，但很长一段时间都想要孩子，结婚之类的。特别是考虑到我看到很多我尊敬的人从孩子那里获得了更高层次的喜悦。你知道，一开始你会想，我一天没有足够的时间，对吧？如果我有这种热情，这是真的，是的。但是，如果我想解决智能问题，这种情况怎么能帮助我呢？然后你意识到，你知道，就像你说的，那些能激发喜悦的事情，而且很有可能孩子能提供比那些更大的问题更伟大、更深远、更有意义的喜悦。是的，当它们相互丰富时。这似乎是，嗯，显然，当我年轻的时候，这可能是一个反直觉的想法，因为一天只有那么多小时。但生命是有限的，你必须选择那些让你快乐的事情。是的。但你也明白，你也可以有耐心。我的意思是，它是有限的，但我们确实有，你知道，大约 50 年的时间，这并不算太长。是的。所以，就我而言，你知道，就我而言，我不得不放弃我成为神经科学家的梦想，因为我是伯克利的研究生，他们告诉我我不能这样做，我得不到资助，你知道，所以，我回到了计算行业工作了很多年。我以为是四年，但结果是更多。但是，我说，但我说，我会回来的。你知道，我肯定，我肯定会回来的。我知道我要做这些计算方面的事情一段时间，但我肯定会回来的。每个人都知道。而且，这就像养孩子一样。嗯，是的。你仍然需要花很多时间陪伴你的孩子。这很有趣，很令人愉快。但这并不意味着你必须放弃其他梦想。这只是意味着你可能需要等待一两个星期来处理下一个想法。你谈到了我们希望克服的，人性中更黑暗、令人失望的一面，这样我们就不会毁灭自己。我倾向于重视，嗯，爱的广泛普遍概念，嗯，人类的同情心，对彼此的同情心，以及善良，无论那种渴望，就像人类与人类的联系一样。它与我们最初的讨论联系起来。我倾向于重视这种集体智能的方面。我认为人类文明的一些魔力发生在派对上，一个人玩不开心。是的，我完全同意你的看法。你认为从新皮质的角度来看，爱在人类状况中扮演什么角色？嗯，这是两件不同的事情。从新的项目来看，我认为它不会影响我们对人类，关于新皮质的思考。从人类状况的角度来看，我认为它是核心。我的意思是，我们在爱人、帮助人方面获得了巨大的快乐。所以，你知道，我可以把它归结为老大脑的东西，也许你想把它归功于进化。那没关系。它不影响我如何看待我们如何模拟世界。但从人类的角度来看，我认为它是必不可少的。嗯，我倾向于把它归功于新大脑，而且我也倾向于认为，其中一些方面需要被工程化到人工智能系统中，包括它们对人类的同情能力，以及它们在人类之间最大化爱的能力。所以，我更多地考虑社交网络。所以，每当人工智能系统与人类深度集成时，就是特定的应用，其中是人工智能和人类，我认为这通常不会被讨论，就我们试图最大化的指标而言，比如在系统中最大化哪个指标。似乎社会中最强大的东西之一是工作的能力。这很迷人。我认为这是一个很好的思考方式。你知道，我一直在更多地思考大脑的基本机制，而不是人与人工智能系统之间未来的互动，而我认为，如果你考虑这一点，你是绝对正确的。但这是一个复杂的系统。我可以拥有没有这个组成部分的智能系统，但它们不与人互动。你知道，它们只是在运行什么，或者在某个地方建造一座建筑，或者别的什么，我不知道。但是，如果你考虑与人类互动，是的，它将会，然后，但它必须被工程化进去。我认为它不会自行出现。这是个好问题。是的。嗯，我们可以从强化学习的角度来看，人类的黑暗面还是我们本性中的天使，哪一方会赢？统计学上来说，我不知道。我倾向于乐观，并希望爱最终会赢。你做了很多令人难以置信的事情，你的书正在朝着你开始的关于智能本质的第四个问题发展。你希望你的遗产是什么？一百年后的人们阅读你的作品，你希望他们如何记住你的工作？你希望他们如何记住这本书？嗯，我认为作为一个企业家、科学家或任何试图成就一些事情的人，我的观点是，你所能做的就是加速不可避免的事情。是的，就像，你知道，如果我们没有弄清楚，如果我们没有研究大脑，别人也会研究大脑。你知道，如果埃隆没有制造电动汽车，别人最终也会这样做。而且，你知道，如果托马斯·安德森没有发明灯泡，我们今天就不会用蜡烛了。所以，作为个人，你能做的就是加速一些有益的事情，让它比它本来的发生得更快。这真的是全部。你所能做的就是这样。你无法创造一个原本不会发生的新现实。所以，从这个角度来看，我希望我们的工作，不仅仅是我，而是我们总体的努力，人们会回顾说，嘿，他们真的帮助更早地实现了这个更美好的未来。他们，你知道，他们帮助我们更早地理解了错误信念的本质。他们现在让我们很高兴我们有这些智能机器在做这些事情，帮助我们，也许它们解决了气候变化问题，而且它们让它更早地发生了。所以，我认为这是我最好的希望。有些人会说，那些家伙只是把时间向前推进了一点。嗯，我这样做。我觉得人类文明的进步不是，嗯，有很多轨迹，如果你有个人加速朝着一个方向，这有助于引导人类文明。所以，我认为在漫长的时间里，所有轨迹都会被走过。但我认为，对于地球上的这个特定文明来说，走一条不是这样的道路是很好的。是的。嗯，我认为你是对的。我的意思是，看看我们，整个二战纳粹主义时期，或者类似的东西。好吧，那是一个糟糕的转折，对吧？在那里呆了一段时间。但是，你知道，关于生命有一种乐观的观点，那就是，最终它会以积极的方式收敛，它会进步，即使我们有黑暗的岁月。所以，是的，我认为你也许可以加速积极的方面，它也可以意味着消除一些糟糕的错误。但是，但是，我在这方面是乐观的。我喜欢，你知道，尽管我们谈到了文明的终结，你知道，我认为我们会活很长时间，我希望如此。我认为我们未来的社会会更好，我们会减少不和谐，我们会减少互相杀戮的人。你知道，我们会解决，你知道，我们会以某种与地球承载能力相兼容的方式生活。我乐观地认为这些事情会发生，我们所能做的就是努力更快地到达那里。至少，如果我们确实毁灭了自己，我们会有几颗卫星。嗯，它们会告诉外星文明，我们曾经存在过，或者也许是我们的未来，地球的未来居民。想象一下，你知道，猿人星球的情景。你知道，我们在一万年或十亿年后毁灭了自己，地球上出现了另一个物种，好奇的生物曾经在这里。是的。嗯，杰夫，非常感谢你的工作，再次感谢你和我交谈。嗯，这太棒了。我喜欢你所做的，我喜欢你的播客。你有最有趣的人，除了我。我认为你为更广泛的人类服务。我认为，谢谢杰夫。好的，很高兴。感谢收听与杰夫·霍金斯的对话，也感谢 Codecademy、BioOptimizers、ExpressVPN、Sleep 和 Blinkist。在描述中查看它们以支持此播客。现在，让我用阿尔贝·加缪的一句话来结束：知识分子是指他的思想在观察自己的人。我喜欢这句话，因为我很高兴同时成为观察者和被观察者。它们能被结合起来吗？这是一个实际问题，我们必须努力回答。感谢您的收听，希望下次再见。