Transcription
以下是与 Demis Hassabis 的对话，他是 DeepMind 的首席执行官兼联合创始人。DeepMind 是一家公司，该公司已经发布并构建了计算史上一些最令人难以置信的人工智能系统，包括 AlphaZero，它独自学会了下围棋，其水平超越了世界上任何人类；以及 AlphaFold 2，它解决了蛋白质折叠问题。这两项任务在很长一段时间内都被认为几乎是不可能完成的。Demis Hassabis 被广泛认为是人工智能、科学和工程领域最杰出和最有影响力的人物之一。能够最终与他坐下来进行这次对话，对我来说是一种真正的荣幸和喜悦，我相信我们将来还会多次交谈。这是 Lex Fridman 播客。为了支持它，请查看描述中的赞助商。现在，亲爱的朋友们， voici Demis Hassabis。让我们从一个稍微个人化的问题开始：我是一个你编写的人工智能程序，用来采访人们，直到我能足够好地采访你吗？
嗯，如果是我，我会对自己印象深刻。如果你是，我会对自己印象深刻。我认为我们还没有达到那个水平，但也许你是来自未来，Lex？如果你是，你会告诉我吗？告诉一个负责采访的语言模型，它实际上是人工智能，这是一个好主意吗？也许我们正在进行一种元图灵测试。嗯，可能，可能，最好不要告诉你，这样就不会改变你的行为，对吧？这是一种海森堡不确定性原理的情况。如果我告诉你，你的行为就会改变。是的，也许我们就是这样。当然，这是一个来自未来的基准测试，他们将 2022 年重播为人工智能尚未足够好的年份。现在我们想看看它是否会通过。
确切地说，如果我是一个这样的程序，你能分辨出来吗？你认为呢？关于图灵测试的问题，你谈到了解决智能的基准。你谈到的令人印象深刻的事情是系统赢得诺贝尔奖。但我仍然回到图灵测试，认为它是一个引人注目的测试。图灵测试的精神是一个引人注目的测试。是的，图灵测试当然是令人难以置信的有影响力的，图灵是我一直以来的英雄之一。但我想如果你回顾 1950 年的原始论文，并阅读原始论文，你会发现，我不认为他 intended 它是一个严格的正式测试。我认为它更像是一个思想实验，几乎是哲学。他写道，如果你看看论文的风格，你会发现他没有非常严格地指定它。所以，例如，他没有指定专家或评委将拥有的知识，或者他们将有多少时间来调查这一点。所以这些重要的参数，如果你要使它成为一个真正的、正式的测试。而且，根据一些衡量标准，人们声称图灵测试在十几年前就通过了。我记得有人声称，使用一种非常标准的普通逻辑模型，因为他们假装它是一个孩子。所以，法官认为机器是一个孩子。所以，这将与一个专家人工智能人员审问一台机器，并知道它是如何制造的等等，会有很大的不同。所以，我认为，我们可能应该放弃它作为一个正式的测试，而转向一个更通用的测试，我们在各种任务上测试人工智能的能力，看看它是否能达到人类水平或以上的表现，也许是数千，甚至数百万的任务，最终覆盖整个认知空间。所以，我认为，就当时而言，它是一个了不起的思想实验。而且，1950 年代显然是计算机时代的黎明。所以，当然，他只考虑了文本。现在，我们有更多的不同输入。所以，是的，也许更好的测试是通用性，跨越多个任务。但我也认为，像 Gato 这样的系统最终可能会回到语言。所以，你可能能够通过沟通你的通用能力来展示你的通用能力，这实际上是我们通过对话所做的，当我们跳跃时。最终，对话中不仅仅是你移动知识，而是你移动这些完全不同的理解模式，最终映射到你在所有这些领域中成功运作的能力，你可以将其视为任务。是的，我认为当然，我们人类使用语言作为我们主要的通用沟通工具。所以，我认为我们最终会用语言思考，并用语言表达我们的解决方案。所以，它将是一个非常强大的模式，用来解释系统，解释它在做什么。但我不认为它是唯一重要的模式。所以，我认为会有很多，有很多不同的方式来表达能力，而不仅仅是语言。是的，视觉，机器人，肢体语言，是的，行动是所有这些的互动方面，这都是其中的一部分。但 Gato 有趣的是，它正在将预测推向极致，就像，你知道，将任意序列映射到其他序列，并预测接下来会发生什么。所以，预测似乎是智能的基础，而你预测什么并不重要。是的，似乎你可以很好地概括这一点。所以，当然，语言模型预测下一个词。Gato 预测任何可能的行动或任何 token。而且，这真的只是一个开始。它是我们目前最通用的代理，有人可能会这样称呼它。但，你知道，它本身可以大规模扩展，比我们目前所做的要多得多。显然，我们正在这样做。但解决 AGI 的一个重要部分是创建能够帮助我们越来越接近的基准测试，创建测试通用性的基准测试。而且，仍然很有趣的是，这个家伙 Alan Turing 是最早的，而且可能是唯一一个试图，也许是哲学上的，但试图制定一个可以遵循的基准测试的人。即使它很模糊，它仍然足够严格，你可以运行那个测试。而且，我仍然认为，图灵测试之类的东西，最终将是真正给其他人类留下深刻印象的东西。所以，你可能有一个亲密的朋友是人工智能系统。为了让那个朋友成为一个好朋友，他们必须能够玩星际争霸，他们必须能够做所有这些任务，给你拿一瓶啤酒。所以，机器人任务，和你一起玩游戏，使用语言，幽默，所有这些事情。但最终可以归结为语言。感觉不是在人工智能社区方面，而是在通用智能对世界的实际影响方面。感觉语言将是它真正闪耀的地方。我认为是的，因为它是我们非常重要的输入输出。我认为你是对的。我认为图灵测试，它背后的那种哲学，就是机器能否模仿人类的行为。而且，我想说，比语言和文本更广泛，那么，你知道，在行动和所有其他创造力方面，所有这些事情。那么，如果它能匹配或超越人类的认知能力，那么我认为我们拥有真正的智能。所以，从那个角度来看，你是对的。我认为他确实制定了正确的设置。我只是认为，未来的人工智能系统在回顾这次对话时，会有一种幽默感，并思考图灵测试。而且，也思考到那时他们会知道，他们终于能够跨越人类水平智能的门槛，并认为我们人类仍然对这个早已解决的问题感到困惑，这多么有趣。嗯，无论如何，向未来的 AI 代理致敬。那么，回到你的旅程，你什么时候爱上编程的？嗯，实际上是很小的年纪。所以，你知道，我实际上是从游戏开始的，这是我的初恋。我大约四岁开始下棋。然后，实际上是我从一场国际象棋比赛中赢得的奖金，我才在八岁时买了我第一台国际象棋电脑。那是一台 ZX Spectrum，在英国当时非常受欢迎。而且，它是一台了不起的机器，因为我认为它培养了英国整整一代程序员，因为它非常容易上手。你知道，你真的打开它，就有 BASIC 提示符，你就可以开始。而且，我的父母对电脑一无所知。但因为是我从国际象棋比赛中赚来的钱，所以我可以，我可以说我想买它。然后，我只是去书店，买了编程方面的书，然后开始输入编程代码。然后，当然，一旦你开始这样做，你就会开始调整它，然后制作自己的游戏。那就是我爱上电脑的时候，并意识到它们是一种非常神奇的设备。在某种程度上，我当时就能解释这一点，但我觉得它们几乎是你思想的魔法延伸。我一直有这种感觉，我一直喜欢电脑的这一点，你可以让它们为你做某项任务，你可以去睡觉，第二天回来，它就解决了。你知道，这对我来说感觉很神奇。所以，我的意思是，所有机器在某种程度上都这样做。它们都增强了我们的自然能力。显然，汽车让我们比跑步更快。但这是一种扩展思想的机器。然后，当然，人工智能是机器可能能够做什么或学习的最终表达。所以，对我来说，这种想法很快就延伸到了人工智能。
还记得你最初开始编程的编程语言吗？是专门为机器设计的吗？不，它只是基本的。我认为它只是 ZX Spectrum 上的 BASIC。我不知道它是什么具体形式。然后，后来我得到了一个 Commodore Amiga，那是一台很棒的机器。不，你只是在炫耀。是的，我的很多朋友都有 Atari ST，我设法得到了 Amiga。它更强大一些。而且，那太不可思议了。我过去用汇编语言编程，也用 Amos BASIC，这种特殊的 BASIC。它实际上也很不可思议。我所有的编码技能。
你什么时候爱上人工智能的？所以，你什么时候开始理解，你不仅仅是写程序来为你做一些数学运算，而是在你睡觉的时候，而是某种类似于让一个实体活过来的东西，一个可以弄清楚比简单的数学运算更复杂的东西？是的，对我来说有几个阶段，都是在我很年轻的时候。所以，首先，当我试图提高下棋水平时，我曾担任过英格兰的各种少年国际象棋队队长。当时，当我大约 10 岁或 11 岁时，我打算成为一名职业国际象棋选手。这是我的第一个想法。那个梦想确实存在。是的，你试图达到最高水平。是的，我大约 12 岁时达到了大师级别，我是世界上排名第二的玩家，仅次于 Judith Polgar，她显然最终成为了一位了不起的国际象棋选手和世界女子冠军。当我试图提高下棋水平时，你首先要做的就是提高你自己的思考过程。这让你思考思考，你的大脑是如何产生这些想法的？为什么会犯错误？你如何改进那个思考过程？但第二件事是，这只是一个开始。这大约是在 80 年代初，80 年代中期，国际象棋电脑。如果你还记得，它们是物理棋盘，就像我们面前的这个。你按下棋盘上的方格。我认为 Kasparov 有一个品牌的版本，我得到了。而且，你过去，它们不像今天那么强大，但它们相当强大。你过去和它们练习，试图改进你的开局和其他东西。所以，我记得我大概在 11 或 12 岁时得到了我的第一个。我记得我想，这太不可思议了，有人是如何编程这个国际象棋棋盘来下棋的？而且，我买了一本非常有影响力的书，叫做《国际象棋电脑手册》，由 David Levy 撰写，大约在 1984 年出版。所以，我一定是 11 或 12 岁时得到的。它完全解释了这些国际象棋程序是如何制作的。我记得我的第一个人工智能程序是为我的 Amiga 编程的。它不够强大，无法下棋。我无法编写一个完整的国际象棋程序。但我为它编写了一个程序来玩 Othello（有时在美国称为 Reversi）。它比国际象棋稍微简单一些。但我使用了国际象棋程序的所有原理，Alpha-Beta 搜索，所有这些。那是我第一个人工智能程序。我记得很清楚，当时我大约 12 岁。所以，这让我进入了人工智能领域。然后，第二部分是后来，当我大约 16 或 17 岁时，我正在专业地编写游戏，设计游戏。编写了一款名为《主题公园》的游戏，其中人工智能是核心游戏玩法组件，是模拟的一部分。它在全球售出了数百万份。人们喜欢人工智能的反应方式，即使它与今天的 AI 标准相比相对简单，它对你作为玩家的玩法做出了反应。它被称为沙盒游戏，是第一批这类游戏之一，与 SimCity 一起。这意味着你玩的每一场游戏都是独一无二的。
你能稍微偏离一下主题，谈谈游戏中真正令人印象深刻的人工智能，从游戏设计的角度来看，人类的享受？你看到过的游戏中真正令人印象深刻的人工智能，以及创造人工智能系统需要什么，这个问题有多难？所以，只是一个简短的题外话，有很多问题。嗯，看看，我认为，游戏对我的一生有三个重要原因。所以，首先，我小时候在玩它们，训练自己。然后，我经历了一个设计游戏和为游戏编写人工智能的阶段。所以，我专业编写的所有游戏都有人工智能作为核心组件。那主要是在 90 年代。我之所以在游戏行业这样做，是因为当时游戏行业我认为是技术的前沿。所以，无论是图形，像 John Carmack 和 Quake 那种人，还是人工智能。我认为实际上所有的行动都在游戏中发生。而且，我们仍然从中受益，即使是像 GPU 这样的东西，你知道，我发现它很有讽刺意味，显然是为图形计算机图形发明的，但后来被证明对人工智能非常有用。它似乎一切都是矩阵乘法，似乎在整个世界中。所以，我认为当时的游戏拥有最前沿的人工智能。而且，很多我们参与编写的游戏。所以，有一款名为《黑白》的游戏，是我早期参与的游戏之一，我仍然认为它是电脑游戏中强化学习最令人印象深刻的例子。所以，在那款游戏中，你训练了一个小宠物动物，它从你对待它的方式中学到东西。所以，如果你对待它不好，它就会变得邪恶。然后，它会对你的村民和你的居民，你经营的小部落变得邪恶。但如果你对它好，它就会好。人们对它的发展方式感到着迷，我也不例外，说实话。特别是映射到善与恶。它让你意识到，你所做的选择可以定义你最终去哪里。这意味着我们所有人都有能力行善或作恶。所有这些都取决于你在通往这些地方的轨迹中所做的不同选择。这太迷人了。我的意思是，游戏在哲学上可以对你做这些，这似乎很少见。是的，嗯，我认为游戏是一种独特的媒介，因为你作为玩家，你不仅仅是被动地消费娱乐。你实际上是作为代理人积极参与的。所以，我认为这就是为什么它在某些方面可以比其他媒介更具冲击力，比如电影和书籍。所以，第二个，那就是设计人工智能和游戏。然后，第三个用途，我们从一开始就在 DeepMind 中使用人工智能，就是使用游戏作为测试场，来验证人工智能算法和开发人工智能算法。而且，那是我在 DeepMind 开始时的核心愿景的一部分，那就是我们将大量使用游戏作为我们的主要测试场，至少一开始是这样。因为使用游戏非常高效，而且，你知道，很容易有指标来衡量你的系统改进得有多好，你的想法朝哪个方向发展，你是否在取得渐进式改进。而且，因为这些游戏通常植根于人类长期以来所做的事情，所以已经有一套强大的规则。就像，它已经是一个非常好的基准测试。是的，它在很多方面都非常好，因为你有明确的衡量标准，人类在这些事情上有多好。而且，在某些情况下，比如围棋，我们已经玩了数千年。而且，而且，通常它们有分数，或者至少有获胜条件。所以，奖励学习系统很容易获得奖励。很容易指定奖励是什么。而且，而且，在最后，很容易在外部测试，你知道，你的系统有多强大，通过，当然，玩你最强的玩家。所以，它在很多方面都非常好。而且，在云端并行运行数百万次模拟也非常高效。所以，我认为我们之所以在 2010 年初如此成功，是有巨大原因的。我们为什么能够如此迅速地进步？因为我们利用了游戏。而且，你知道，在 DeepMind 的早期，我们也聘请了一些了不起的游戏工程师，我从我以前在游戏行业的生活中认识他们。而且，这帮助我们非常迅速地起步。而且，在某种程度上，它在哲学层面也极具吸引力，即人与机器在棋盘或围棋盘上的对决。特别是考虑到人工智能的整个历史是由人们说“让机器在国际象棋中击败人类是不可能的”来定义的。然后，一旦发生这种情况，人们就确信，当我进入人工智能领域时，围棋不是一个可以解决的游戏，因为它的组合复杂性太高了。它就是，你知道，无论摩尔定律如何，计算能力永远无法破解围棋。是的，所以，面对这种任务的“不可能”，从人工智能研究者的角度，工程师的角度来看，然后作为人类观察这一切，你对曾经认为不可能的事情的信念被打破了。认识到我们并不像我们想象的那么聪明，这是令人谦卑的。认识到我们现在认为不可能的事情，将来可能会实现，这是令人谦卑的。一个游戏人工智能系统成为一个游戏中的人类，将这个信息传达给数百万，数十亿人，尤其是在围棋的情况下，这是非常有力量的。当然。嗯，看看，我认为，这是一个迷人的旅程。尤其是我从我能理解的角度来看，我既是人工智能的创造者，也是最初的游戏玩家。所以，你知道，这是，这是一个非常有趣，这是一个了不起的，但也是有点苦乐参半的时刻，阿尔法围棋比赛对我来说。看到那个，并且，显然，我深度参与其中。但，你知道，正如你所说，国际象棋一直是，我的意思是，卡斯帕罗夫，我认为他正确地称之为“智能的果蝇”。所以，我喜欢这个短语，我认为他是对的，因为国际象棋一直与人工智能携手并进，从整个领域的开始。所以，我认为每一个人工智能从业者，从图灵和克劳德·香农以及所有那些，该领域的先驱们，都尝试编写国际象棋程序。我拥有克劳德·香农第一个国际象棋程序的原始版本，我认为是 1949 年的原始论文。而且，他们都这样做了。图灵也写了一个国际象棋程序，但当时所有的电脑都太慢了，无法运行它。所以，他必须充当计算机。所以，他真的花了三四天时间，用铅笔和纸手工运行他自己的程序，并与他的一个朋友玩他的国际象棋程序。所以，当然，深蓝是一个巨大的时刻，击败了卡斯帕罗夫。但实际上，当那发生时，我记得非常非常清楚，当然，因为那是国际象棋、电脑和人工智能，所有我喜欢的东西。我当时还在上大学。但我记得，从那以后，我更被卡斯帕罗夫的思想所打动，而不是深蓝。因为卡斯帕罗夫拥有他的人类大脑，他不仅能以几乎与这个蛮力计算机器相同的水平下棋，而且，当然，卡斯帕罗夫能做人类能做的所有其他事情，骑自行车，说多种语言，从政，所有卡斯帕罗夫所做的其他惊人的事情。而且，用同一个大脑。而且，尽管深蓝在国际象棋方面非常出色，但它是为国际象棋手工编码的。而且，实际上已经将国际象棋大师的知识提炼成了一个很棒的程序。但它不能做其他任何事情，比如它甚至不能玩一个严格更简单的游戏，比如井字棋。所以，对我来说，这个系统缺少了一些我们认为是智能的东西。我认为是这种通用性和学习的想法。是的。所以，这就是我们试图用 AlphaGo 来做的。是的，AlphaGo 和 AlphaZero，MuZero，然后是 Gato，所有这些，我们将进入其中的一些部分。这里有一个迷人的轨迹，但让我们简要地停留在国际象棋上。在国际象棋的人类方面，你曾提出，从游戏设计的角度来看，使国际象棋成为一款引人入胜的游戏的原因是，主教和骑士之间存在一种创造性的张力。你能解释一下吗？首先，思考是什么让游戏如此引人入胜，使其跨越数百年，这真的很有趣。我一直在思考这个问题，实际上，即使是许多了不起的国际象棋选手，也不一定从游戏设计师的角度来思考它。所以，这是我戴着游戏设计师的帽子在思考这个问题，为什么国际象棋如此引人入胜。我认为一个关键的原因是，不同类型的国际象棋局面，无论是封闭的还是开放的，以及其他东西，都来自主教和骑士。所以，如果你考虑主教和骑士的能力有多么不同，就他们移动的方式而言。然后，不知何故，国际象棋已经发展到大致平衡了这两种能力。所以，它们都大致值三分。所以，你认为这种动态一直存在，然后其余的规则都在试图稳定比赛。嗯，也许，我的意思是，这有点，我不知道，鸡生蛋还是蛋生鸡的问题，可能两者同时出现。但事实是，它已经达到了一个美丽的平衡点，你可以拥有主教和骑士，它们的力量如此不同，但在所有位置的宇宙集合中，它们的价值却如此相等。人类在几百年的时间里，不知何故平衡了它们。我认为这为游戏带来了创造性的张力，你可以用主教换骑士，或者用骑士换主教。它们或多或少值相同的钱，但现在你追求的是一种不同的局面。如果你有骑士，你想要一个封闭的局面。如果你有主教，你想要一个开放的局面。所以，我认为这创造了国际象棋的许多创造性张力。
所以，从人工智能的角度来看，一种受控的创造性张力。你认为人工智能系统能否设计出对人类来说最引人入胜的游戏？这是一个有趣的问题。你知道，有时人们会问我关于人工智能和创造力的问题，以及我的回答与那个问题相关。我认为有不同层次的创造力。所以，我认为，如果我们把创造力定义为想出原创的东西，而且它是有用的，那么，我认为最低层次的创造力就像插值。所以，对你看到的例子进行平均。所以，也许一个非常基本的人工智能系统可以做到这一点。你给它看数百万张猫的照片，然后你说，给我一只平均看起来的猫。生成一只平均看起来的猫。我称之为插值。然后是外推，像 AlphaGo 展示的那样。AlphaGo 与自己进行了数百万次围棋比赛，然后它想出了绝妙的新想法，比如第二局的第 37 步，将一种围棋的战术引入了人类从未想过的主题，即使我们已经玩了数千年，专业玩了几百年。所以我称之为外推。但仍然有一个更高的层次。那就是，你知道，你可以称之为“跳出框框思考”或真正的创新。那就是，你能发明围棋吗？你能发明国际象棋吗？不仅仅是想出一个绝妙的国际象棋或围棋招式，而是你能发明国际象棋，或者像国际象棋或围棋一样好的东西吗？我认为有一天人工智能可以。但缺失的是，你如何将这个任务指定给一个程序？现在，如果我让一个人类来做，或者一个人类游戏设计师来做，我会说，比如，我想出一个游戏，只需要五分钟就可以学会，就像围棋一样，因为它规则简单，但需要一生来掌握，或者一生无法掌握，因为它如此深刻和复杂。而且，它在美学上也很美。而且，它可以在三四个小时的游戏时间内完成，这对于我们人类来说，在人类的一天中很有用。所以，你可能会指定这些高层次的概念。然后，你知道，有了这些，也许还有其他一些东西，人们可以想象围棋满足了这些约束。但问题是，我们还不能将这些高层次的抽象概念指定给人工智能系统。我认为在某种程度上，它们仍然缺少一些东西，关于高层次的概念或抽象，它们真正理解，并且是可组合的。所以，目前，我认为人工智能能够进行插值和外推，但不能真正发明。所以，想出规则集，并围绕这些规则集进行复杂的优化，我们目前还不能做到。但你可以采用一个特定的规则集，然后进行一种自我对弈实验，看看人工智能系统从零开始学习需要多长时间。学习的旅程有多长？也许如果它满足了你提到的其他一些东西，比如学习速度快等等。然后，你可以说这是一个有前途的游戏。但最好是做类似 AlphaCode 的事情，或者编程规则，生成规则，自动化规则生成的那一部分。我确实考虑过一些系统，我认为它们对游戏设计师来说会很棒。如果你有一个系统，它在一夜之间玩你的游戏数千万次，然后自己平衡规则。所以，它调整规则，也许是方程和参数，这样游戏就更平衡了。游戏中的单位或一些规则可以被调整。这有点像给出一个基础集，然后允许蒙特卡洛树搜索之类的东西来探索它。而且，我认为那将是一个非常非常强大的工具，用于平衡游戏。通常需要数百名人类游戏测试人员花费数千小时来平衡像《星际争霸》这样的游戏。你知道，暴雪公司在平衡他们的游戏方面非常出色，但他们需要花费数年时间。所以，人们可以想象，在某个时候，当这些东西变得足够高效时，你可能可以在一夜之间做到这一点。
你认为人工智能系统设计的最佳游戏会非常像地球吗？也许，也许这是我唯一想制作的游戏。而且，我尝试过，你知道，我的游戏设计生涯，我的第一个大游戏是设计一个主题公园，一个游乐园。然后，通过像《共和国》这样的游戏，我试图，你知道，设计整个城市，并允许你在其中玩耍。当然，像 Will Wright 这样的人写了像《模拟地球》这样的游戏，试图模拟整个地球。非常棘手。但我没玩过那个。它是什么？它是否包含进化？是的，它有进化，而且它试图，它将整个生物圈视为一个整体，但从一个相当高的层面来看。很高兴能够放大和缩小。当然，他做不到，他在 90 年代写的。所以，它无法做到。但那将是，显然，最终的沙盒游戏。
当然，关于那个话题，你认为我们生活在一个模拟中吗？是的。嗯，所以，好的，我将从极其哲学的问题跳到短期问题。当然，非常非常乐意。所以，我认为，我对这个问题的回答有点复杂。因为，有模拟理论，显然 Nick Bostrom 我认为最著名地提出了它。而且，我不太相信它。所以，以那种方式，我们是否处于某种电脑游戏中，或者我们的后代是否以某种实验原因，在 21 世纪某种程度上重新创造了地球？我认为，但我确实认为，我们可能，理解物理学和宇宙的最佳方式是从计算的角度来理解它。所以，将其理解为信息宇宙，实际上信息是现实中最基本的单位，而不是物质或能量。所以，物理学家会说，你知道，物质或能量，你知道，E=mc²，这些是宇宙的基本要素。我实际上会说信息。它本身可以指定能量或物质。物质实际上只是，我们只是，我们的身体以及我们身体中的所有分子是如何排列的，就是信息。所以我认为信息可能是描述宇宙最基本的方式。因此，你可以说我们处于某种模拟中，因为这个原因。但我确实，我不是，我不是一个订阅者，你知道，这些是，你知道，随意的数十亿次模拟。我认为这实际上非常关键，而且可能是独一无二的，这个特定的模拟。是的。但你只是意味着将宇宙视为一个处理和修改信息的计算机，是解决物理学、化学、生物学，也许还有人类学等问题的最佳方式吗？是的，我认为从信息论的角度理解物理学，可能是真正理解这里发生了什么的最佳方式。从我们对通用图灵机，对计算机的理解来看。
你认为有什么东西超出了计算机的能力，存在于我们的宇宙中吗？你与 Roger Penrose 在意识的本质上存在分歧。他认为意识不仅仅是计算。你认为所有这一切，整个过程，都可以是计算吗？是的，我与 Sir Roger Penrose 进行过许多引人入胜的辩论。显然，他很著名，我读过他的《新思维的皇帝》以及他的经典著作。它们相当有影响力，你知道，在 90 年代。而且，他认为有更重要的东西，你知道，某种量子效应，需要来解释大脑中的意识。我实际上在 DeepMind 所做的事情，以及我的职业生涯，我们几乎就像图灵的冠军。我们正在将图灵机或经典计算推向极限。经典计算的极限是什么？现在。同时，我也研究了神经科学。这就是我攻读博士学位的原因，也是为了看看，从神经科学或生物学的角度来看，大脑中是否有任何量子效应？而且，到目前为止，我认为大多数神经科学家和大多数主流生物学家和神经科学家会说，没有证据表明大脑中有任何量子系统或效应。据我们所知，它主要可以用经典理论来解释。所以，然后，所以，这是来自生物学方面的搜索。然后，同时，正如你之前提到的，经典图灵机能做什么的上限正在提高。你知道，包括我们新的人工智能系统。而且，你知道，我认为人工智能，尤其是在过去十年多，一直是一个持续的惊喜事件的故事。以及令人惊讶的成功，推翻了一个又一个理论，那些曾经被认为是不可思议的事情。从围棋到蛋白质折叠等等。所以，我认为，我将非常犹豫，是否要打赌通用图灵机和经典计算范式能走多远。而且，我的赌注是，我们大脑中发生的一切，很可能可以在经典机器上模仿或近似。不是，你知道，需要一些形而上学或量子的东西。而且，我们将通过 AlphaFold 的一些工作来实现这一点，我认为这开启了对这个美丽而复杂的生物世界进行建模的旅程。所以，你认为人类心灵的所有魔力都来自于这几磅的生物计算糊状物，这在精神上类似于 DeepMind 一直在研究的一些神经网络吗？嗯，看看，我认为，你说的是几磅。你知道，当然，这是，我认为宇宙中最大的奇迹是，它只是我们头骨里几磅的糊状物，但它也是我们所知的宇宙中最复杂的物体。所以，我们的大脑是令人难以置信的。而且，我认为它是一台极其高效的机器。而且，而且，它基本上是惊人的。而且，我认为，构建人工智能，我一直想构建人工智能的原因之一是，我认为通过构建像人工智能这样的智能人工制品，然后将其与人类心灵进行比较，这将帮助我们解锁我们一直以来都想知道的关于心灵的独特性和真正的秘密。就像意识，梦想，创造力，情感。这些都是什么？我们从人类历史的黎明起就一直在思考它们。而且，我认为原因之一，你知道，我热爱哲学和心灵哲学，我们发现它很困难，是因为除了内省之外，没有其他工具可以让我们真正地从科学上进行调查。除了历史上非常聪明的哲学家。但现在，突然我们有了大量的工具。首先，我们有所有神经科学工具，fMRI 机器，单细胞记录，所有这些东西。但我们也拥有计算机和人工智能的能力来构建智能系统。所以，我认为，我认为人类心灵所做的事情是惊人的。而且，而且，我真的很敬畏它。而且，我认为它很了不起，没有人类心灵，我们就能制造出像计算机这样的东西，甚至能够思考和研究这些问题。我认为这也是人类心灵的证明。是的，宇宙创造了人类心灵，而人类心灵现在正在制造计算机，帮助我们理解宇宙和我们自己的人类心灵。是的，正是这样。我的意思是，我认为，有人可能会说，我们可能是宇宙试图理解自身的机制。
这很美。那么，让我们回到生物学的基本构建块。我认为这是另一种理解人类心灵，人类身体的角度，这非常迷人。那就是从基本构建块开始，开始模拟，开始建模，如何从这些构建块中构建越来越大，越来越复杂的系统。也许有一天，整个人类生物学。所以，这里有另一个被认为不可能解决的问题，那就是蛋白质折叠，以及 AlphaFold，或者具体来说是 AlphaFold 2，它做到了，它解决了蛋白质折叠问题。我认为这是结构生物学史上，乃至科学史上最大的突破之一。也许从高层次来说，它是什么？它是如何工作的？然后我们可以问一些有趣的问题。当然。嗯，也许为了向不熟悉蛋白质折叠的人解释，我首先解释蛋白质。你知道，蛋白质对所有生命都至关重要。你身体的每一个功能都依赖于蛋白质。有时它们被称为生物体的“主力”。而且，如果你深入研究它们，我一直在研究蛋白质和结构生物学，你知道，它们是惊人的小生物纳米机器。蛋白质是令人难以置信的。如果你真的观看它们如何工作的短视频，它们如何工作的动画。而且，蛋白质由它们的遗传序列指定，称为氨基酸序列。所以，你可以把它们看作是它们的遗传构成。然后在体内，在自然界中，它们会折叠成三维结构。所以，你可以把它看作是一串珠子，然后它们折叠成一个球。关键是你想要知道那个三维结构，因为蛋白质的结构决定了它在你的身体里做什么，它的功能是什么。而且，如果你对药物或疾病感兴趣，你需要了解那个三维结构。因为，如果你想用药物化合物来靶向某个东西，或者阻止蛋白质正在做的某件事，你需要了解它将在蛋白质表面何处结合。所以，显然，为了做到这一点，你需要了解三维结构。所以，结构决定功能，结构决定功能。而且，结构显然是由氨基酸序列指定的。这就是蛋白质折叠问题的本质。你能仅从氨基酸序列，那个一维字母串，立即计算出三维结构吗？这在生物学中是一个巨大的挑战，已经持续了 50 多年。我认为它最早是由 Christian Anfinsen，一位诺贝尔奖得主，在 1972 年提出的，作为他诺贝尔奖获奖演讲的一部分。他只是推测，从氨基酸序列到三维结构应该是可能的。他没有说怎么做。所以，有人向我描述它，相当于生物学的费马大定理。你应该，作为一个非常可能在未来赢得诺贝尔奖的人，你应该在边缘做更多这样的事情。设置人们 200 年。应该是可能的。确切地说，而且，不要给出任何兴趣。确切地说，我认为每个人都应该，我以后得记住这一点。所以，是的，他开始了，你知道，他只是随口一说，就像费马一样。他开启了整个 50 年的计算生物学领域。而且，他们遇到了困难，他们并没有取得太大进展。直到现在，直到 AlphaFold 出现。这都是通过实验完成的，非常辛苦。经验法则是，你必须对蛋白质进行结晶，这真的很难。有些蛋白质无法结晶，比如膜蛋白。然后，你必须使用非常昂贵的电子显微镜或 X 射线晶体学机器。非常辛苦的工作来获得三维结构并可视化三维结构。所以，实验生物学的经验法则是，一个博士生需要整个博士学位来完成一个蛋白质。而使用 AlphaFold 2，我们能够在几秒钟内预测三维结构。所以，我们在圣诞节期间完成了整个蛋白质组，或者人体中的每种蛋白质，所有 20,000 种蛋白质。所以，人类蛋白质就像人类基因组的蛋白质空间等价物。而且，基本上彻底改变了结构生物学家能够做什么。因为现在，他们不必担心这些辛苦的实验。他们是否应该投入所有这些努力？他们几乎可以像谷歌搜索一样查找蛋白质的结构。所以，有一个它训练的数据集，以及如何映射这些氨基酸。因为，首先，令人难以置信的是，蛋白质这个微小的化学计算机能够自己完成这个计算，以某种分布式方式，并且做得非常快。那是一件奇怪的事情。它们是这样进化的，因为，我的意思是，最初，这真是个伟大的发明，蛋白质本身。是的，我的意思是，而且。
然后，我认为可能有一段历史，它们进化出了许多这些蛋白质，而这些蛋白质自身找到了成为计算机的方法，以至于你可以创造出能够相互作用形成复合物的结构，从而形成更高级别的功能。我的意思是，这是一个他们已经弄清楚的奇怪系统，当然了。我的意思是，我们，你知道，也许我们也应该谈谈生命的起源，但我认为蛋白质本身是神奇而不可思议的，嗯，嗯，嗯，正如我所说，微小的生物纳米机器。而且，实际上，列万塔尔，另一位科学家，嗯，嗯，安芬森的同代人，他提出了后来被称为列万塔尔悖论的第十一号房子，这正是你所说的。他大致计算了一下，一个平均蛋白质，可能由 2000 个氨基酸碱基组成，嗯，可以折叠成大约 10 的 300 次方种不同的构象。所以，有 10 的 300 次方种不同的方式，蛋白质可以折叠起来，但不知何故，在自然界中，物理学在几毫秒内就解决了这个问题。所以，蛋白质在你体内折叠，你知道，有时在几分之一秒内。所以，物理学以某种方式解决了这个搜索问题。
而且，为了说清楚，在许多情况下，也许你纠正我，如果我错了，通常有一种独特的方式让那个序列形成自身，是的。所以，在如此庞大的可能性中，是的，它找到了稳定下来的方法。在某些情况下，可能会出现功能障碍，从而导致许多疾病等等。但是的，大多数时候，这是一种独特的映射，而这种独特的映射并不明显。不，正是如此，这正是问题所在。所以，通常情况下，在健康的情况下，如果它是健康的，并且正如你所说，在疾病中，通常存在一种独特的映射。所以，例如，阿尔茨海默病，一个推测是，这是因为蛋白质折叠错误，蛋白质以错误的方式折叠，淀粉样蛋白 β 蛋白。所以，然后，因为它以错误的方式折叠，它会在你的神经元中缠结在一起。所以，理解健康功能和疾病都非常重要，你知道，这些东西在做什么，以及它们如何构建。
当然，下一步是，有时蛋白质在与某物相互作用时会改变形状。所以，它们不一定只是静态的。在生物学中，也许你可以谈谈关于 AlphaFold 的早期日子，解决这个问题的一些有趣而美丽的事情，因为与游戏不同，这是真实的物理系统，不太适合自我对弈之类的机制。数据集的大小较小，你可能更喜欢。所以，你必须在某些事情上非常聪明。有什么你可以谈谈的吗？什么很难解决，解决的方面有什么美丽之处？是的，我会说 AlphaFold 是我们迄今为止建造的最复杂，也可能是最有意义的系统。所以，这确实是一段令人惊叹的时光，在过去的，你知道，两三年里看到它实现。因为，正如我们之前讨论过的，你知道，游戏是我们开始的，建造像 AlphaGo 和 AlphaZero 这样的东西。但最终目标是，不仅仅是破解游戏，而是利用它们来引导我们可以应用于现实世界挑战的通用学习系统。特别是我的热情是科学挑战，比如蛋白质折叠。然后 AlphaFold 当然是我们第一个重要的证明点。
所以，你知道，在数据方面，以及必须投入的创新数量，我们，你知道，需要将 30 多个不同的组件算法组合在一起才能破解蛋白质折叠。我认为一些重大的创新是，在物理和进化生物学方面建立了一些硬编码的约束，来约束蛋白质中的键角等事物。但又不影响学习系统，所以仍然允许系统从我们拥有的例子中学习物理学。而这些例子，正如你所说，即使经过 40 年的实验生物学，也只有大约 150,000 种蛋白质的结构被发现。所以，那是我们的训练集，比我们通常想要的要少得多。但通过各种技巧，比如自我蒸馏，实际上是利用 AlphaFold 的预测，我们认为它非常有信心的最佳预测，我们把它们放回训练集，以使训练集更大。这对 AlphaFold 的工作至关重要。所以，实际上需要大量不同的创新，才能最终破解 AlphaFold 1 的问题。它产生的是一个距离图，一个蛋白质中所有分子之间成对距离的矩阵。然后必须有一个单独的优化过程来创建 3D 结构。而我们为 AlphaFold 2 所做的是使其真正端到端。我们直接从氨基酸序列到 3D 结构，而无需经过这个中间步骤。
而在机器学习中，我们一直发现，你使其越端到端，系统就越好。这可能是因为，你知道，最终系统比我们人类设计师更能学习约束是什么。所以，任何时候你都可以让它端到端地流动，并实际生成你真正想要的东西，在这种情况下是 3D 结构，你比拥有这个中间步骤要好，然后你必须手工制作下一步。所以，最好让梯度和学习从终点，你想要的最终输出，一直流经整个系统。所以，这是一个开始新问题的好方法，手工制作大量东西，添加大量手动约束，并加入一小部分学习，或者一小部分学习，然后扩大这部分学习，直到它吞噬整个东西。没错。所以，你也可以看到，你知道，这是我们通过许多成功的项目开发的一种方法，我们称之为 Alpha X 项目。最容易看到这一点的是 AlphaGo 到 AlphaZero 的演变。所以，AlphaGo 是一个学习系统，但它专门训练只玩围棋。所以，我们对围棋的第一版想要做的就是无论如何都要达到世界冠军的水平。然后，当然，AlphaGo Zero，我们消除了使用人类游戏作为起点。所以，它可以从一开始就与自己对弈，从随机起点开始。所以，这消除了对围棋人类知识的需求。然后，AlphaZero 进行了泛化，所以我们拥有的任何东西，包括围棋棋盘的对称性，都被移除了。所以，AlphaZero 可以从头开始玩任何两人游戏。然后，MuZero，这是这些东西的最终最新版本，然后进行了扩展，所以你甚至不需要给它游戏规则，它就会自己学习。所以，它也可以处理电脑游戏和棋盘游戏。所以，AlphaGo 到 Zero，AlphaZero，MuZero 的这条线，就是你可以从模仿学习到完全监督学习的完整轨迹。没错。而且，学习，学习你放入的环境的整个结构，从头开始，并通过自我对弈来引导它。但是，我认为，或者说，我们很难从一开始就构建 AlphaZero 或 MuZero，即使是心理上，因为你必须长时间相信自己，你一直在处理怀疑，因为很多人说这是不可能的。正是如此，仅仅做到围棋就已经够难了，正如你所说，每个人都认为这是不可能的，或者至少在 2015 年，2016 年我们做到的时候，还需要十年。所以，是的，这在心理上可能非常困难，而且我们当然通过先构建 AlphaGo 学到了很多。所以，我认为这就是为什么我称人工智能为工程科学，它是最迷人的科学学科之一，但它也是一门工程科学，因为与自然科学不同，你研究的现象并不存在于自然界中，你必须先构建它。所以，你必须先构建人工制品，然后你才能研究它如何工作，以及如何将其拆开。
这很难问你这个问题，因为你可能会说一切，但让我们试试，让我们试着思考一下，因为你处于一个非常有趣的位置，DeepMind 是人工智能历史上一些最杰出思想的诞生地，但它也是杰出工程的诞生地。所以，解决智能这个 DeepMind 的宏大目标，有多少是科学，有多少是工程？所以，有多少是算法，有多少是数据，有多少是硬件计算基础设施，有多少是软件计算机基础设施？是的，还有什么？有多少是人类基础设施，以及人类如何以某些方式互动，在所有这些思想的空间中？哲学有多少？关键是什么？如果你回顾一下，如果我们向前看 200 年，回顾一下，是什么解决了智能？我认为这是所有这些东西的结合。首先，当然，这是所有这些东西的结合，但它们的比例随着时间的推移而变化。所以，是的，即使在过去的 12 年里，我们从 2010 年开始，现在很难想象，因为 2010 年才 12 年，但没有人谈论人工智能。你知道，如果你还记得你在 MIT 的日子，没有人谈论它。我大约在那时在 MIT 做博士后，人们认为，你看，我们知道人工智能不起作用，我们在 90 年代在 MIT 之类的地方付出了巨大的努力，主要是使用逻辑系统和老式的，现在我们称之为“老式人工智能”。像明斯基和帕特里克·温斯顿，你知道，所有这些人，我曾经和他们中的一些人辩论过，他们认为我疯了，认为通过学习系统可以取得新的进展。我很高兴听到这一点，因为至少你知道，你走在一条独特的道路上。即使你所有的教授都告诉你你疯了，这是真的。
而且，当然，在工业界，我们无法获得，你知道，很难凑到两美分，现在也很难想象，因为这是风险投资和融资中最热门的词语，而且现在很容易获得。所以，回到 2010 年，这非常困难。我们开始的原因是，谢恩和我过去常常讨论，DeepMind 的创始原则是什么？有各种各样的事情，一种是算法进步，所以深度学习，你知道，杰夫·辛顿和科恩刚刚在学术界发明了它，但工业界没有人知道。我们热爱强化学习，我们认为它可以扩展。但对人脑的理解也有了很大的进步，在之前的十年里，随着核磁共振成像机和其他东西。所以，我们可以得到一些关于大脑使用的架构和算法以及表示的良好线索，你知道，在系统层面，而不是在实现层面。然后其他大事是计算和 GPU。所以，我们可以看到计算将非常有用，而且它已经发展到通过游戏行业商品化的地步，并且可以加以利用。然后最后一件事是数学和理论定义，比如人工智能，谢恩和他导师马库斯·哈特一起研究的，这是一个关于通用智能的理论证明。实际上，它是一个强化学习系统，在极限情况下，我的意思是，它假设无限的计算和无限的内存，就像图灵机的证明一样。但我也在等待类似的东西，你知道，就像图灵和香农提出的计算理论，它们支撑着现代计算机科学。你知道，我一直在等待一个理论来支撑通用人工智能的研究。所以，当我遇到谢恩，看到他正在研究类似的东西时，对我来说，这是拼图的最后一块。所以，在早期，我认为思想是最重要的。你知道，对我们来说，是深度强化学习，扩展深度学习。当然，我们已经看到了 Transformer，巨大的飞跃。我认为，如果你从 2010 年到现在计算，有三到四次巨大的演变，比如 AlphaGo。而且，可能还需要一些，但随着我们越来越接近通用人工智能，我认为工程变得越来越重要，数据也是如此，因为规模。当然，最近的 GPT-3 和所有大型语言模型以及大型模型，包括我们的模型，都表明规模和大型模型显然是通用人工智能解决方案的必要但不充分的部分。
而且，正如你所说，我想给你一个大大的感谢，你是强化学习等思想的先驱之一，它确实可以奏效，尽管过去成功有限。而且，我们仍然不知道，但自豪地拥有世界上最好的研究人员，并谈论解决智能。所以，谈论你称之为通用人工智能或类似的东西。说到 MIT，这根本不是你会提的事情。不，不，也许你在 40、50 年前提过，但那是一个你可以进行非常小规模的修补的地方，不是非常雄心勃勃的项目。也许最雄心勃勃的项目是在机器人领域，以及参加 DARPA 挑战赛。当然，但解决智能的任务并相信你可以做到，这真的非常强大。所以，为了让工程发挥作用，让伟大的工程师建造伟大的系统，你必须相信，贯穿始终，你确实可以解决一些不可能的挑战。是的，没错。而且，回到 2010 年，你知道，我们的使命宣言，至今仍然如此。它曾经是，解决第一步，解决智能，第二步，利用它来解决其他一切。所以，如果你能想象在 2010 年向风险投资家推销这个，你知道，我们得到的眼神。我们设法找到了一些疯狂的人来支持我们，但确实很棘手。而且，我甚至不再向我们的教授提及，因为他们会翻白眼，认为我们职业生涯自杀。而且，你知道，我们不得不做很多事情，但我们一直相信。
而且，顺便说一句，我一直相信强化学习的一个原因是，如果你看看神经科学，你知道，灵长类动物大脑学习的一种主要机制是多巴胺系统，它实现了一种形式的 TD 学习。这是 90 年代末的一个非常著名的结果，他们在猴子身上看到了这一点，并且，你知道，作为一种真正的游戏预测误差。所以，我们，你知道，再次，在极限情况下，这就是我认为你可以利用神经科学的地方，就是，你知道，任何数学，当你做一些像解决智能这样雄心勃勃的事情时，你知道，这是天空蓝色的研究，没有人知道怎么做，你需要利用任何证据或任何信息来源来帮助你朝着正确的方向前进，或者让你有信心你朝着正确的方向前进。所以，这是我们如此努力地推动的一个原因。
而且，回到你关于组织的问题，我认为我们在 DeepMind 创新的另一个大事是，我们建立的跨学科组织，并且至今仍然如此。所以，DeepMind 最初是神经科学、机器学习、工程和数学的尖端知识的汇合点，以及游戏。然后，从那时起，我们进一步扩展了它。所以，我们这里有哲学家，还有伦理学家，还有其他类型的科学家，物理学家等等。这就是汇集在一起的。我试图建立一种新的贝尔实验室，在黄金时代，一种新的表达方式，来尝试培养这种令人难以置信的创新机器。
所以，谈论机器中的人类，心智本身就是一个学习机器，里面有许多令人惊叹的人类心灵聚集在一起，试图构建这些学习系统。如果我们回到 AlphaFold 的宏大梦想，那可能是漫长旅程的早期步骤，在生物学中。你认为同样的方法可以用来预测更复杂的生物系统的结构和功能吗？所以，多蛋白质相互作用，然后，我的意思是，你可以从那里开始，只是模拟越来越大的系统，最终模拟像人脑或人体这样的大脑，只是美丽而有弹性的生物学的大杂烩。你是否看到这是一个长期愿景？
我看到了，而且我认为，你知道，如果你想想我最想应用人工智能的事情，一旦我们有了足够强大的系统，生物学和治愈疾病以及理解生物学就在我的名单上。这也是我个人推动它以及 AlphaFold 的原因之一。但我认为 AlphaFold，无论它多么令人惊叹，都只是一个开始。而且，我希望它是计算方法可以做什么的证据。所以，你知道，AlphaFold 解决了蛋白质结构这个巨大的问题，但生物学是动态的。所以，我真正想象的是，我们现在正在研究所有这些事情，蛋白质-蛋白质相互作用，蛋白质-配体结合，与分子反应。然后，你想建立到通路，最终到一个虚拟细胞，这是我的梦想，也许在未来 10 年。而且，我实际上一直在与许多我的生物学家朋友交谈，保罗·纳斯，他领导着克里克研究所，一位令人惊叹的生物学家，诺贝尔奖得主。我们已经讨论了 20 年了，虚拟细胞，你能建造一个细胞的虚拟模拟吗？如果你能做到，那对生物学和疾病发现来说将是不可思议的，因为你可以在虚拟细胞上做大量的实验，然后只在最后阶段在湿实验室进行验证。所以，你知道，在发现新药的搜索空间方面，你知道，从识别靶点到拥有候选药物大约需要 10 年。如果可以在计算机上完成大部分工作，那么也许可以缩短一个数量级。
所以，为了达到虚拟细胞，我们必须建立对生物学不同部分及其相互作用的理解。所以，你知道，我们每年都会讨论这个问题，我和保罗讨论这个问题。然后，去年，在 AlphaFold 之后，我说现在是时候了，我们可以最终去尝试了。而 AlphaFold 是第一个证明这可能实现的证明点。而且，他非常兴奋。我们与他的实验室有一些合作，你知道，他们就在我们街对面，在国王十字车站，克里克研究所就在街对面，这真是太棒了。而且，我认为下一步，我认为将在 AlphaFold 之类的东西之上取得一些惊人的生物学进展。在我们开源并发布它之后，我们已经看到了社区正在做的事情。而且，你知道，我也经常说，我认为，如果你认为数学是物理学的完美描述语言，我认为人工智能最终可能是生物学的完美描述语言。因为生物学是如此混乱，如此涌现，如此动态和复杂。我认为很难相信我们会得到像牛顿运动定律那样优雅的东西来描述一个细胞。它太复杂了。所以，我认为人工智能是正确的工具。你必须从基本构件开始，并使用人工智能来运行所有这些构件的模拟。所以，有一种非常强大的方法来预测，给定这些构件，什么样的生物学，这个生物系统的功能和进化。它几乎就像一个细胞自动机，你必须运行它，你不能从高层次进行分析，你必须采取基本成分，找出规则。是的，然后让它运行。但在这种情况下，规则很难找出。是的，是的，学习它们，正是如此。所以，生物学太复杂了，无法找出规则，它太涌现，太动态，与行星运动这样的物理系统相比。所以，你必须学习规则，而这正是我们正在构建的系统类型。
所以，你提到你已经开源了 AlphaFold，甚至包括相关数据。对我个人来说，我也非常高兴，并非常感谢你开源了 MuJoCo，这个物理模拟引擎，它经常用于机器人研究等。所以，我认为这是一个非常酷的举动。所以，这是什么？我的意思是，很少有公司或个人会做这种事情。背后的哲学是什么？你知道，这是逐案处理的。在这两种情况下，我们都认为这对人类和科学界来说是最大的好处。在一种情况下，机器人物理学界，用 MuJoCo。我们购买它，我们购买它的目的是明确地开源它。所以，我希望人们能欣赏这一点。很高兴听到你这样做。然后第二件事是，主要是我们这样做的原因是因为建造它的人无法再继续支持它了，因为它对他来说太大了，他是一位了不起的教授，他首先建造了它。所以，我们帮助了他。然后，AlphaFold 甚至更大，我想。而且，我认为在这种情况下，我们决定，AlphaFold 有如此多的下游应用，我们根本无法想象它们是什么。所以，加速药物发现和基础研究的最佳方式是，将所有这些数据和系统本身都提供出去。你知道，看到人们在短短一年内所做的事情，这在科学上是一段很短的时间，这非常令人欣慰。而且，它已被 50 万多名研究人员使用，我们认为这几乎是世界上所有的生物学家。我认为世界上大约有 50 万名生物学家，专业生物学家使用它来查看他们感兴趣的蛋白质。我们看到了惊人的基础研究。所以，几周前，科学杂志的整期特刊，包括封面，上面有核孔复合物，这是人体最大的蛋白质之一。核孔复合物是一种控制所有营养物质进出细胞核的蛋白质。它们就像小孔网关，打开和关闭，让物质进出细胞核。所以，它们非常重要，但它们很大，因为它们是巨大的甜甜圈形环。而且，他们几十年来一直在试图弄清楚这个结构。而且，他们有很多实验数据，但分辨率很低，有些部分缺失了。而且，他们能够像一个巨大的乐高积木拼图一样，使用 AlphaFold 的预测加上实验数据，并将这两种独立的信息来源结合起来。实际上，世界各地有四个不同的团队，使用 AlphaFold 的预测，几乎同时完成了这项工作。所以，看到这一点真是太神奇了。而且，几乎我与之交谈过的每家制药公司、每位药物公司高管都表示，他们的团队正在使用 AlphaFold 来加速他们正在尝试发现的任何药物。所以，我认为 AlphaFold 的影响是巨大的。它正在创造生物学家，它正在吸引更多人进入这个领域，无论是出于兴奋还是出于相关的技术技能。而且，它几乎就像生物学的一剂入门药。是的，它确实如此。希望也能吸引更多计算领域的人。
而且，我认为对我们来说，你知道，下一阶段，正如我所说，你知道，未来我们还必须考虑其他因素。我们正在 AlphaFold 和我与你讨论的关于蛋白质-蛋白质相互作用和基因组学等其他想法的基础上进行构建。并非所有东西都会开源。有些东西我们会商业化，因为那将是获得最多资源和影响力的最佳方式。其他一些项目将以非营利的方式进行。而且，我们也必须考虑未来的事情，安全和伦理。就像，你知道，合成生物学，存在双重用途，我们也必须考虑这一点。对于 AlphaFold，你知道，我们咨询了 30 位不同的生物伦理学家和其他专家，以确保它在发布之前是安全的。所以，未来会有其他考虑因素。但就目前而言，我认为 AlphaFold 是我们送给科学界的一份礼物。所以我很确定，像 AlphaFold 这样的东西将来会获得诺贝尔奖。但我们人类当然很糟糕于功劳分配，所以我们当然会把它归功于人类。
你认为会有那么一天，人工智能系统可以被认为它赢得了诺贝尔奖吗？你认为我们会在 21 世纪看到吗？这取决于我们最终建造什么类型的人工智能。所以，它们是目标导向的代理，谁来指定目标，谁来提出假设，谁来决定解决哪些问题？所以，我认为这是关于宣布。是的，所以这是宣布结果，正是其中一部分。所以，我认为现在，当然，这是，这是，这是这些系统背后的人类创造力，而在我看来，系统只是一个工具。这就像说伽利略和他的望远镜一样，创造力，功劳应该归于望远镜，我的意思是，这显然是伽利略建造了他然后使用的工具。我今天仍然以同样的方式看待它，尽管这些工具会自己学习。我认为像 AlphaFold 和我们正在建造的东西是科学的终极工具，也是获取新知识的工具，以帮助我们作为科学家获取新知识。我认为有一天会有一个时候，人工智能系统可能会自己解决或提出像广义相对论这样的东西，而不仅仅是通过平均互联网上的所有东西或平均 PubMed 上的所有东西，尽管看到那会是什么样子会很有趣。对我来说，这有点像我们之前关于创造力的辩论，发明围棋而不是仅仅想出一个好的围棋招式。所以，我认为，解决，我认为，如果你想把它归功于像诺贝尔奖这样的东西，那么它就需要发明围棋，并凭空提出新的猜想，而不是由人类科学家或人类创造者指定。所以，我认为现在它绝对只是一个工具。尽管平均互联网上的所有东西很有趣，正如你所说，因为你知道，很多人确实认为科学就是你总是站在巨人的肩膀上。问题是你真的够到巨人的肩膀之上多少？也许只是吸收过去不同种类的结果，最终是新的视角带来了突破性的想法。但这个想法可能并不像我们已经在互联网上发现的那样新颖。也许未来 100 年的诺贝尔奖已经在互联网上等待被发现了。
它们可能，它们可能。我的意思是，我认为这是最大的谜团之一。我的意思是，首先，我相信在未来几十年，甚至在过去十年中，许多重大的新突破将出现在不同学科的交叉点，在那里，将会有一些新的联系被发现，在看似不同的领域之间。而且，你甚至可以把 DeepMind 看作是神经科学思想和人工智能工程思想之间的跨学科。最初是这样。所以，我认为有这一点。然后，我们今天无法想象的事情之一，也是我认为人们对大型模型为何如此有效感到惊讶的原因之一是，实际上，我们的有限人类头脑很难理解阅读整个互联网会是什么样子。我认为我们可以做一个思想实验，我过去常常这样做，比如，如果我读完了整个维基百科，我会知道什么？我认为我们的头脑勉强可以理解那是什么样子。但整个互联网是无法理解的。所以，我认为我们只是不理解能够潜在地拥有所有这些，并同时激活它们，然后可能有哪些可用的联系。所以，我毫不怀疑，会有巨大的东西被发现，就像那样。但我确实认为，还有另一种创造力，真正的火花，新的知识，从未想过的新想法，无法从已知的事物中平均出来。我认为，当然，没有人凭空创造。所以，肯定会有线索，但只是以一种独特的方式将它们组合起来。我认为历史上最伟大的科学家中的一些人已经展示了这一点。虽然很难回到他们那个时代，知道当时确切知道什么。尽管你让我思考，因为仅仅是深入了解一百页维基百科的思想实验，我认为我做不到。我对维基百科在技术主题上的表现印象深刻。所以，如果你知道一百页或一千页，我认为谁能真正理解那是什么样的智能？那是一种非常强大的智能，如果你知道如何使用它并正确地整合它。是的，我认为你可以走得很远，你甚至可以根据它构建思想实验，比如模拟不同的想法。所以，如果这是真的，让我运行这个思想实验，那么也许这是真的。它不是真正的发明，它就像字面意义上的知识，并用它来构建一个非常基础的世界模拟。我的意思是，有些人认为这是浪漫的，但爱因斯坦也会用思想实验做同样的事情。人们可以想象系统地跨越数百万页维基百科加上 PubMed，所有这些东西。我认为有很多很多可以被发现的东西，它们非常有用。你可以想象，我们希望在材料科学方面做一些事情，比如室温超导体，或者其他东西。我的清单上有一天，我想让人工智能系统帮助构建更好、更优化的电池。所有这些机械的东西，我认为一个由模型引导的系统搜索可能会非常强大。
说到这个，你有一篇关于核聚变的文章，利用深度强化学习进行托卡马克等离子体的磁控制。所以，你正在寻求用深度强化学习来解决核聚变。所以，它是在控制高温等离子体。你能解释一下这项工作吗？人工智能最终能解决核聚变吗？
在过去一两年里，这非常有趣且富有成效，因为我们一直在实现我多年来收集的许多梦想项目，我喜欢的科学领域，我认为如果能帮助加速，它们将具有变革性，而且本身就是非常有趣的问题，科学挑战。这就是能源。所以，能源，是的，正是如此。所以，能源和气候。我们谈到了疾病和生物学，我认为人工智能可以提供帮助的最大领域之一。我认为能源和气候是另一个。所以，也许它们是我的前两名。而且，聚变是人工智能可以提供帮助的一个领域。所以，聚变有很多挑战，主要是物理学、材料科学和工程学方面的挑战，以建造这些巨大的聚变反应堆并约束等离子体。而且，我们尝试在我们进入一个新领域应用我们的系统时，我们寻找领域专家，我们试图找到世界上最好的人合作。在这种情况下，在聚变领域，我们与瑞士的洛桑联邦理工学院合作，他们很棒。他们有一个测试反应堆，他们愿意让我们使用，你知道，我仔细检查了团队，我们将非常小心和安全地使用它。我印象深刻，他们设法说服他们让我们使用它。而且，他们有一个令人惊叹的测试反应堆。而且，他们会在上面进行各种疯狂的实验。而且，我们倾向于关注的是，当我们进入像聚变这样的新领域时，所有的瓶颈问题是什么？就像从第一原理思考一样，你知道，今天仍然阻碍聚变工作的瓶颈问题是什么？然后，我们听取聚变专家的意见，然后我们看看这些瓶颈，看看哪些是我们可以用我们今天的人工智能方法来解决的。是的，对。而且，从研究的角度来看，从我们的人工智能的角度来看，这将很有趣，而且它将解决他们的一个瓶颈。在这种情况下，等离子体控制非常完美。所以，你知道，等离子体，它有数百万摄氏度，比太阳还热。显然没有材料可以约束它。所以，它们必须用非常强大的超导磁场来约束。但问题是，正如你所想象的，等离子体非常不稳定，你基本上是在反应堆中握着一个迷你太阳，迷你恒星。所以，你知道，你想要提前预测等离子体将要做什么，这样你就可以在几毫秒内移动磁场，你知道，基本上约束它接下来要做什么。所以，如果你把它看作是一个强化学习预测问题，这似乎是一个完美的问题。所以，你知道，你的控制器，你将移动磁场。直到我们出现之前，你知道，他们是用传统的运筹学类型的控制器来做的，这些控制器是手工制作的。而问题当然是，它们无法在瞬间对等离子体正在做的事情做出反应，它们必须是硬编码的。而且，再次，知道这通常是我们的首选解决方案，我们希望学会这一点。而且，他们还有一个等离子体模拟器。所以，有很多标准符合我们喜欢使用的。
人工智能最终能解决核聚变吗？嗯，我们和这个问题一起，去年发表在《自然》杂志上的一篇论文。我们保持了等离子体处于特定的形状。所以，实际上，它几乎就像将等离子体雕刻成不同的形状，并控制它并保持它创纪录的时间。所以，这是聚变的一个问题，你知道，已经解决了。所以，我有一个控制器，无论形状如何，都能约束它，并将其保持在结构中。而且，有不同的形状对能源生产更好，称为液滴等等。所以，那是一个巨大的成就。现在，我们正在与许多聚变初创公司交谈，看看在聚变领域，我们可以解决的下一个问题是什么。
另一个引人入胜的领域是论文标题“通过解决分数电子问题来推动密度泛函的前沿”。所以，你正在处理电子的量子力学行为的建模和模拟。是的，你能解释一下这项工作吗？人工智能将来能模拟和模拟任意的量子力学系统吗？
是的，这是我关注了十多年的另一个问题。那就是，你知道，模拟电子的性质。如果你能做到这一点，你基本上就可以描述元素、材料和物质是如何工作的。所以，如果你想推进材料科学，这基本上是基础。而且，你知道，我们有薛定谔方程，然后我们有它的近似，密度泛函理论。这些东西，你知道，很有名。而且，人们试图编写这些泛函的近似值，并想出电子云的描述，它们将去哪里，当把两种元素放在一起时，它们将如何相互作用。而我们试图做的是学习一个模拟，一个学习泛函，它将描述更多的化学类型的化学。所以，直到现在，你知道，你可以运行昂贵的模拟，但然后你只能模拟非常小的分子，非常简单的分子。我们希望模拟大型材料。所以，今天没有办法做到这一点。而且，我们正在努力构建近似薛定谔方程的泛函，然后允许你描述电子在所有材料科学和材料性质中的作用，这些都由电子及其相互作用决定。所以，有一个好的模拟总结，通过泛函。但是，它仍然接近实际模拟的结果。
那么，这项任务有多难？这项任务涉及什么？是运行那些复杂的模拟吗？是的，以及学习从初始条件和模拟参数映射到学习泛函的任务。是的，这很棘手。而且，我们已经完成了，你知道，好消息是，我们可以运行很多模拟，分子动力学模拟，在我们的计算集群上。所以，这会产生大量数据。所以，在这种情况下，数据是生成的。所以，我们喜欢这样的系统。这就是为什么我们使用游戏模拟器生成数据。而且，我们可以创造尽可能多的数据。而且，只是让一些，你知道，如果云中有任何电脑空闲，我们就运行一些这些计算。计算集群计算，所有空闲计算时间都用于量子力学，量子力学模拟，蛋白质模拟和其他东西。所以，你知道，当你不在 YouTube 上搜索猫咪视频时，我们正在有效地利用这些电脑。量子化学，这就是想法。然后，把它们用于好的用途。然后，是的，然后所有生成的计算数据，我们可以从中学习泛函，一旦我们学会了泛函，它们当然比运行这些模拟要高效得多。
你认为有一天人工智能会让我们能够破解物理学，比如实现超光速旅行吗？
我与人工智能的最终目标一直是，我一生都在研究人工智能的原因是，我想建造一个工具来帮助我们理解宇宙。所以，我想，这意味着物理学，以及现实的本质。所以，我不知道我们现在是否有能力做到这一点。但当我们接近通用人工智能时，我认为这是我们应该首先应用通用人工智能的事情之一。我想测试物理学的极限以及我们对物理学的了解。有很多我们不知道的事情。科学中有一件事我发现很有趣，而且作为科学方法的巨大倡导者，这是人类有史以来最伟大的想法之一，并允许我们进步。但我认为，作为一个真正的科学家，你会发现，你了解得越多，你就越意识到我们不知道什么。而且，我一直认为，令人惊讶的是，为什么不是更多人困扰？你知道，每晚我都想到所有我们经常互动但我们不知道它们如何工作的事情：时间、意识、引力、生命。我们无法，我的意思是，这些都是自然界的基本事物。我认为我们不知道它们是什么，过着生活，我们，我们基于某些假设，并将我们的假设当作事实。是的，这允许我们以某种方式将它们归类。是的，将它们归类。但现实是，当你想到时间时，你应该提醒自己，你应该把它放下来，把它从架子上取下来，然后意识到，不，我们有一堆假设。关于时间到底是什么，仍然有很多争论，有很多不确定性。时间是否存在一个领域？你知道，有很多基本问题不能仅仅做出假设。也许人工智能可以让你，不把任何东西放在架子上。不做出任何硬性假设，真正地敞开它，看看到底是什么。我认为我们应该对此真正持开放态度。而且，正是如此，不要教条主义地坚持某个特定的理论。它还将使我们能够构建更好的工具，最终的实验工具，可以测试某些今天可能无法测试的理论，关于我们一开始谈到的宇宙的计算性质，如果那是真的，我们如何去测试它。以及，你知道，有些人，比如斯科特·阿伦森和其他人，已经推测了，你知道，一个特定的普朗克单位的空间和时间可以包含多少信息？所以，如果你有人工智能帮助你建造一些新的精湛的实验工具，你也许可以考虑测试这些想法。这就是我几十年后想象的，我们将能够做到的。以及可以通过运行模拟来回答哪些问题。所以，你可以想象运行一些物理模拟。所以，某种高效的。
非常像你在量子模拟工作中正在做的事情，甚至可能包括生命的起源。所以，在阿尔法折叠的工作开始之前，是如何弄清楚这一切是如何从一块石头中产生的，是的，从一个静态的东西中产生的。你认为人工智能会让我们做到这一点吗？你是否关注过它？首先，你自己试图理解生命的起源。你认为生命是如何在地球上起源的？是的，嗯，也许我稍后会谈到这一点，但我认为人工智能的最终用途是用来最大限度地加速科学。所以，我把它想象成知识之树，如果你想象那是宇宙中所有可以获得的知识，而我们到目前为止才刚刚触及表面，即使你知道，自启蒙运动以来，我们人类做得相当不错，对吧？我认为人工智能将极大地推动这一切，就像我们通过阿尔法折叠所看到的那样，我想探索这棵知识之树中尽可能多的部分。我认为这包括人工智能帮助我们理解或发现模式，但也可能设计和构建新的工具，实验工具。所以，我认为所有这些，以及运行模拟和学习模拟，我们都在这里以一种婴儿般的水平进行着，但我可以想象，在未来的几十年里，随着你所说的思维方式的全面繁荣，它将是真正令人难以置信的。我会说，如果我可视化这棵知识之树，我感觉这棵知识之树对人类来说，在所有可能的知识之树的集合中，实际上是相当小的，考虑到我们认知能力的限制，有限的认知能力，即使有了我们构建的工具，我们仍然无法理解很多事情。也许非人类系统能够走得更远，不仅仅是作为工具，而是它们本身能够理解一些它们可以带回来的东西。是的，很有可能。我的意思是，你刚才说的话中包含了太多东西。我认为首先，有两件不同的事情，有我们今天理解的东西，是的，人类的心智能理解什么，以及有什么可以被理解的全部。是的，对。所以有三个共识，你知道，你可以把它们看作是三棵越来越大的树，或者探索那棵树的更多分支。我认为有了人工智能，我们将探索所有这些。现在的问题是，你知道，如果你想到有什么可以被理解的全部，可能有一些基本的物理原因导致某些事情无法被理解，比如模拟之外或宇宙之外是什么？也许从宇宙内部无法理解。所以，可能有一些硬性限制。你知道，可能会有更小的限制，比如我们认为时空是基本的，我们人类的大脑习惯于三维世界加上时间的想法，对吧？也许，但我们的工具可以超越这一点，它们不必有这个限制，它们可以思考十一个维度，十二个维度，任何需要的维度。但是，我们仍然可以从几个不同的角度来理解它。我总是举的例子是，你知道，当我下快棋和加里·卡斯帕罗夫下棋，或者我们谈论国际象棋和这些事情的时候，你知道，如果你下棋下得相当不错，你就能想出加里想出的招数，但他可以向你解释，你就能理解，事后你就能理解他的推理。是的，所以，我认为还有更深层次的，比如，也许你无法发明那个东西，但通过再次使用语言，也许你可以理解并欣赏它，就像你欣赏维瓦尔第或莫扎特一样，你可以在无法自己创作音乐的情况下欣赏它的美。所以，我认为我们在所有生命形式中都看到了这一点，这将是数百万倍的。你知道，智能的一个标志是清晰简单地解释事物的能力，对吧？你知道，像理查德·费曼，我最喜欢的英雄之一，曾经说过，如果你不能简单地解释一个复杂的主题，那么这就是你理解它的最好标志之一。是的，所以我可以看到自己以这种方式与人工智能系统进行垃圾话。是的，它会因为我的愚蠢而感到沮丧，试图向我解释一些事情。我说，那意味着你不够聪明，因为如果你够聪明，你就能简单地解释它。当然，当然，还有另一种选择。当然，我们可以增强自己，而且没有设备，我们已经与我们的计算设备共生了，你知道，与我们的手机和其他东西。你知道，像Neuralink这样的东西，等等，可以进一步发展。所以，我认为我可以看到很多非常惊人的可能性。好吧，让我问你一些疯狂的问题。所以，在外面寻找朋友，你认为那里有很多外星文明吗？所以，我想这也要回到你关于生命起源的问题，因为我认为这是关键。我个人的看法是，看着这一切，你知道，物理学是我的一大爱好，所以我经常思考这个问题，并与许多专家交谈，阅读了很多相关的书籍。我认为我目前的感受是我们是孤独的。我认为这是最可能的情况，考虑到我们所拥有的证据。所以，理由是，我认为，你知道，自从SETI项目以来，自从太空时代黎明以来，我们就一直在尝试，我们一直有开放的射电望远镜和其他东西。如果你想到地球上人类的进化，我们很容易就比现在领先一百万年，或者落后一百万年，只要几百年前发生了一些稍微不同的怪事。你知道，事情可能有点不同，如果那颗小行星早一百万年前撞击恐龙，也许事情会进化，我们会比现在领先一百万年。所以，这意味着，如果你想象一下人类在几百年后，更不用说一百万年后，尤其是如果我们希望，你知道，解决气候变化和其他问题，我们继续繁荣，我们构建人工智能，我们进行太空旅行，以及人类一直梦想的一切，科幻小说一直谈论的一切。我们将遍布星辰。冯·诺依曼曾有名地计算过，如果你派出冯·诺依曼探测器到最近的其他太阳系，然后它们只是建造了两个自己的版本，并将这两个版本送到下一个最近的系统，你知道，在一百万年内，我认为每个星系都会有一个这样的探测器。所以，在宇宙时间尺度上，这实际上是非常短的时间。而且，你知道，像戴森这样的科学家曾考虑过在恒星周围建造戴森球来收集恒星发出的所有能量。你知道，会有这样的结构，在太空中可见，甚至可能在整个星系中可见。然后，你知道，如果你想到自30年代和40年代以来我们所有的无线电和电视广播，想象一下一百万年的广播，现在有几百个文明这样做。当我们打开耳朵，当我们达到太空时代的科技水平时，我们应该听到震耳欲聋的声音，我们应该加入那震耳欲聋的声音。我们打开耳朵，什么也没听到。许多认为有外星人的会说，我们还没有进行彻底的搜索，也许我们正在错误的频段上搜索，我们有错误的设备，我们不会注意到外星生命形式与我们习惯的如此不同。但是，你知道，我并不真的相信，它不应该那么困难。我认为我们已经搜索得够多了，如果它无处不在，它就应该无处不在。我们应该看到戴森球被建造起来，太阳闪烁着进出，你知道，这些事情应该有很多证据。然后，还有其他人争辩说，就像动物园的观点一样，我们仍然是一个原始物种，因为我们还没有进行太空旅行，而且，你知道，有一些像宇宙规则一样的东西，不要干涉，星际迷航规则，但你看，我们甚至无法协调人类来应对气候变化，我们是一个物种。所有这些不同的外星文明，它们会有相同的优先事项，并在这些问题上达成一致的可能性有多大？即使那是真的，而且我们是为了我们自己的利益而进行某种动物园式的观察，对我来说，这与模拟假说没有什么不同，因为模拟假说的意思是什么？我认为在最根本的层面上，它意味着我们所看到的不完全是现实。是的，有什么更深层的东西在起作用，也许是计算性的。现在，如果我们在一个动物园公园里，我们看到的一切都是全息图，是由外星人或其他什么东西投射出来的，对我来说，这与认为我们在另一个宇宙中没有什么不同，因为我们仍然看不到真正的现实。我不知道，还有其他解释。可能是他们沟通的方式根本不同，我们太笨了，无法理解他们更好的沟通方式。可能是，我的意思是，说出来很傻，但我们的想法本身可能就是他们沟通的方式，就像作家们谈论的灵感，缪斯。听起来很疯狂，但可能是想法，可能是我们认为源于我们自己的思想与我们心灵的某些互动，实际上是来自其他生命形式的东西。意识本身可能就是这样。可能是，但我看不到任何合理的论据，为什么所有外星种族都会使用这种方式？是的，有些会更原始，它们会接近我们的水平，你知道，会有整个的正常分布，有些会好斗，有些会好奇，有些会非常冷静和哲学，因为你知道，它们可能比我们老一百万年。但这不应该是，我的意思是，一个外星文明可能会像那样通过思想交流，而其他的呢？但我不明白为什么，潜在的几百个文明应该是这样的，对吧？它可能是一个暴力的独裁政权，那些成功的，变得具有毁灭性的能力，比我们强大一个数量级。当然，悲伤的想法是，要么人类非常特别，我们进行了很多飞跃，才达到了人类的意义。是的，那里有一个问题，哪个是最难的，哪个是最特别的，但如果其他人也达到了这个水平，也许很多其他人也达到了这个水平，阻止他们走得更远，成为一个多行星物种，或者走向星辰的伟大过滤器。这些是我们非常重要的问题，无论那里是否有其他外星文明，思考这些对我们都很有用。如果我们自己毁灭了，我们会怎么做？它有多容易？是的，你知道，这些都是大问题，我思考了很久。但有趣的是，如果我们是孤独的，从伟大过滤器的角度来看，这是某种程度上的安慰，因为它可能意味着伟大过滤器已经过去了，我非常确定它们已经过去了。所以，回到你关于生命起源的问题，有一些令人难以置信的事情，没有人知道是如何发生的。显然，第一个生命形式来自化学汤，这似乎相当困难。但我猜想多细胞生命，如果我们在其他地方看到单细胞生命形式，细菌之类的，我不会感到惊讶。但多细胞生命似乎非常困难，那个步骤，你知道，捕获线粒体，然后将其作为自己的一部分使用，你知道，当你刚刚吃完的时候。你会说这是最大的，最像，如果你不得不选择一个，就像《银河系漫游指南》的一句话总结，哦，那些聪明的生物做了这个，那就是多细胞生命。我认为那可能是最大的。我的意思是，有一本很棒的书叫尼克·莱恩的《进化的十大伟大发明》，他推测了十个这样的伟大过滤器。我认为那是其中之一。我认为智能和有意识智能的出现，以及我们能够进行科学研究等等，也是巨大的。我的意思是，据我所知，它只在地球历史上进化过一次。所以，那将是一个后期的候选者。但对于早期的候选者，我认为多细胞生命形式是巨大的。顺便说一句，问你一个有趣的问题，如果你能假设一下智能的起源是什么？是我们开始在火上烹饪肉类吗？是我们不知何故发现，当我们开始合作时，我们可以变得非常强大，所以我们祖先之间的合作，以便我们可以推翻阿尔法雄性？是什么？我采访了理查德·兰厄姆，他认为我们都是贝塔雄性，他们想出了如何合作来打败控制部落的独裁者，专制的阿尔法雄性。还有其他解释吗？有没有像《2001太空漫游》中的那种石碑降临地球？嗯，我认为，我认为你提出的所有这些都是很好的候选者，火和烹饪，对吧？所以，这显然很重要，你知道，能源效率。烹饪我们的肉，然后能够更有效地食用它，获取能量。我认为这很巨大，然后利用火和工具。我认为你关于部落合作方面是正确的，可能还有语言。是的，因为这可能是我们能够超越尼安德特人和其他合作性较差的物种的原因。所以，这可能是事实。工具制造，长矛，斧头。我认为现在很清楚，人类对许多巨型动物的灭绝负有责任，尤其是在美洲，当人类到达那里时。所以，你可以想象一旦你发现了工具的使用，它会有多么强大，对动物来说有多么可怕。所以我认为所有这些都可以是解释。你知道，有趣的是，这有点像通用智能。一开始拥有一个大脑，尤其是通用大脑而不是专用大脑，成本非常高，因为我们大脑使用的能量，我认为是身体能量的20%，而且非常巨大。当你想到国际象棋时，我们过去常说的一件有趣的事情是，就像赛车手在整个比赛中使用的能量一样，只是玩一局高水平的国际象棋，你不会认为只是坐在那里，因为大脑消耗了太多能量。所以，为了让一个生物体证明这一点，必须有巨大的回报。而拥有半个大脑或半个智能，比如猴子大脑的智商，其问题在于，直到人类大脑的水平，你都无法清楚地证明这一点。但是，你怎么能做到这一点呢？这非常困难，这就是为什么我认为它只发生过一次，从动物的专用大脑到人类的通用、强大的大脑。这使得我们能够发明现代世界。而且，你知道，跨越这个障碍需要很多。而且，我认为我们也看到了人工智能系统的情况，那就是，也许直到最近，为像国际象棋这样的问题量身定制解决方案总是比构建一个可能做很多事情的通用学习系统更容易。因为起初，该系统将比专用系统差得多，效率也低得多。所以，人类思维的有趣怪癖之一，这个进化的系统，就是它似乎是有意识的，这个我们不太理解的东西，但它似乎非常非常特别，它拥有主观体验的能力，吃饼干的感觉，它的美味，或者看到颜色，以及这类事情。你认为为了解决智能问题，我们也需要同时解决意识问题吗？你认为AGI系统需要有意识才能真正智能吗？是的，我们实际上已经考虑了很多。我认为我的猜测是，意识和智能是双重可分离的，你可以拥有一个而没有另一个，反之亦然。我认为你可以看到这一点，在意识方面，我认为一些动物和宠物，如果你有宠物狗之类的，你可以看到一些高等动物和海豚之类的，它们有自我意识，非常善于社交，似乎会做梦，你知道，那些被认为是某种程度上有意识和自我意识的特质。但是，它们并不那么聪明，对吧？所以，按照智商标准或其他标准，它们并不那么聪明。也有可能我们对智能的理解是有缺陷的，比如给它一个智商。当然，也许狗能做的事情实际上已经在智能的道路上走得很远了，而我们人类只是会下棋，也许会写诗。但是，如果我们回到AGI和通用智能的想法，你知道，狗是非常专业的，大多数动物都相当专业。它们在自己擅长的事情上可能非常出色，但它们就像精英运动员一样，对吧？它们做得一件事非常好，因为它们的大脑得到了优化。它们以某种方式说服了整个人类人口来喂养它们并为它们服务。所以，在某种程度上，它们在控制。是的，正是如此。我们以一种疯狂的程度共同进化了，对吧？包括狗摇尾巴和抽鼻子。我们发现它们不可抗拒地可爱。但是，我认为你也可以在另一方面看到智能。系统，比如人工智能系统，在某些事情上非常聪明，比如玩围棋和国际象棋，但它们一点也不像你我那样有意识。而且，我认为实际上构建人工智能，这些智能构造，是探索意识之谜的最佳方式之一，将其分解。因为我们将拥有在某些事情上非常聪明，或者能够做某些事情的设备，但可能没有任何自我意识的迹象。事实上，我主张，如果有选择，首先构建非有意识的系统，人工智能系统，它们只是工具，直到我们更好地理解它们和它们的能力。所以，关于那个话题，不仅仅是DeepMind的CEO，而是作为一个人类，让我问你一个关于一个特定的轶事证据，就是那个谷歌工程师，他评论说，或者相信语言模型Lambda的某个方面表现出了感知能力。你说你认为有责任构建非本质的系统，而这个特定工程师的经历，我认为我很想听听你对这类事情的普遍看法，但我认为这种情况会越来越多，不是工程师，而是那些没有工程背景的人开始与日益智能的系统互动。我们拟人化它们，它们开始与我们产生深刻的、有影响力的互动，以至于我们想念它们。当它们消失时，我们确实觉得它们是活着的实体，有自我意识的实体，甚至我们可能将感知投射到它们身上。所以，你对这个特定的系统有什么看法？你有没有遇到过有感知的语言模型？不，我没有。你如何看待那种你觉得系统有感知能力的情况？所以，这是一个有趣的问题，而且，显然是一个非常根本的问题。所以，首先要说的是，我认为我们今天拥有的任何系统，我都会说，甚至没有一丝意识或感知的迹象，这是我的个人感觉，每天与它们互动。所以，讨论那个工程师所说的还为时过早。我欣赏，我认为目前更多的是我们自己思维方式的投射，那就是在几乎任何我们认为有目的和方向的事情上看到，你知道，我们的大脑被训练来解释，基本上是事物中的代理，即使是无生命的物体有时也是如此。当然，对于一个语言系统来说，因为语言对智能至关重要，所以我们很容易拟人化它。我的意思是，回到过去，即使是最愚蠢的模板聊天机器人，Eliza和它同类，在60年代的原版聊天机器人，在某些情况下欺骗了一些人。它假装是一个心理学家，基本上只是把你的问题原样抛给你。有些人相信。所以，我不认为我们可以，这就是为什么我认为图灵测试作为一个正式测试有点缺陷，因为它取决于评判者的复杂性，他们是否有资格做出区分。所以我认为我们应该与顶尖哲学家交谈，比如丹尼尔·丹尼特和戴维·查尔默斯等人，他们显然已经深入思考过意识。当然，意识本身还没有，没有一个普遍的定义。如果我要推测一下，我喜欢的操作性定义是，它是信息在被处理时感觉到的方式。我认为也许马克斯·泰格马克提出了这个想法。我喜欢这个想法，我不知道它是否有助于我们朝着更具操作性的方向发展。但我认为这是一个很好的视角。我认为我们可以从神经科学中看到一些必需的先决条件，比如自我意识，我认为它是必需的，但不是充分的组成部分。这个自我和他人以及一套连贯的、随时间保持连贯的偏好的想法，你知道，这些东西可能是记忆，这些东西可能是一个有感知能力或有意识的生物所需要的。但是，我认为对我们来说困难的事情是，当我们接近AGI和更强大的系统时，我们如何做出这个判断？一种方式，图灵测试，是一种行为判断，系统是否表现出人类有感知能力或有感知能力的生物会表现出的所有行为？它是否回答了正确的问题？它是否说了正确的话？它是否与人类无法区分？等等。但我认为还有第二个因素，让我们人类将彼此视为有感知能力的。为什么我们这么认为？我与丹尼尔·丹尼特争论过，我认为还有一个经常被忽视的原因，那就是我们运行在相同的基底上。所以，如果我们表现出与人类大致相同的行为，而且我们运行在相同的碳基生物基底上，我们头骨里那几磅重的软肉，那么最节省的解释是，你和我感受到的东西是一样的。但是，我们永远不会有第二部分，机器和人类之间的基底等价性。所以，我们只能根据行为来判断。我认为基底等价性是我们做出我们有意识的假设的关键部分，事实上，即使是对于高级动物，我们认为它们可能有意识，因为它们表现出一些我们期望有感知能力的动物会表现出的行为，而且我们知道它们是由相同的生物神经元组成的。所以，我们将不得不提出解释或模型来弥补机器和人类之间基底差异的差距，才能超越行为。对我来说，实际问题非常有趣且非常重要。当你拥有数百万甚至数十亿人相信你拥有感知能力的人工智能，相信那位谷歌工程师的信念，而我认为这显然是近期未来，肯定是在AGI的道路上。这如何改变世界？人工智能系统帮助这数百万人有什么责任？还有，道德上如何？因为你可以通过与一个正在伪装的系统建立有意义的深刻体验来让很多人快乐，在它真正实现之前。我不知道，我们对吗？谁来决定什么是正确的做法？人工智能是否应该永远是工具？为什么？为什么我们限制人工智能永远是工具，而不是朋友？我认为，嗯，这些都是非常棒的问题，也是关键问题。我们一直在思考这个问题，从DeepMind开始之前，因为我们计划成功，你知道，无论在2010年看起来多么遥远。我们一直以来都将道德考量作为DeepMind的基本原则。我目前对语言模型和大型模型的看法是，它们还没有准备好。我们还没有足够了解它们，你知道，在分析工具和护栏方面，它们能做什么，不能做什么，等等，以便大规模部署它们。因为我认为，仍然存在重大的道德问题，比如人工智能系统是否应该始终声明它是一个人工智能系统？可能是的。你如何回答关于人们可能对人工智能系统产生的感受的哲学问题，也许是错误归因的？所以我认为在负责任地大规模部署这些系统之前，还有很多研究需要做。至少这是我目前的立场。随着时间的推移，我非常有信心我们将拥有这些工具，比如可解释性问题和分析问题。然后，关于道德困境，我认为重要的是要超越科学，这就是为什么我认为哲学、社会科学甚至神学等都会涉及进来，你知道，艺术和人文，人类意味着什么，人类的精神是什么，以及如何增强它，以及人类的状况。让我们体验我们以前从未体验过的事情，并改善人类的整体状况和整个人类。你知道，获得巨大的丰富，解决许多科学问题，解决疾病。我认为这是我们正在进入的时代，如果我们做得对的话。但是我们必须小心。我们已经通过社交媒体看到了，双重用途的技术如何被滥用，首先是被坏人，或者天真的演员，或者疯狂的演员。所以，这是一系列对现有双重用途技术的普通滥用。然后，当然，还有人工智能必须克服的一个额外问题，那就是它最终可能拥有自己的代理权。所以，它本身可能是好的或坏的。所以我认为这些问题必须非常谨慎地处理，使用科学方法，我认为是在假设生成方面，仔细的控制测试，而不是在世界上的实时A/B测试。因为对于像人工智能这样强大的双重技术，如果出了问题，在你修复它之前，可能会造成很大的伤害。它不像一个成像应用程序或游戏应用程序，你知道，如果出了问题，相对容易修复，伤害也相对较小。所以我认为这就像老生常谈一样，拥有巨大的力量就意味着巨大的责任。我认为对于像人工智能这样的事物来说，考虑到我们面前的巨大机遇，情况就是如此。我认为我们需要很多声音，尽可能多的输入到诸如系统设计、它们应该拥有的价值观以及它们应该被置于什么目标等事情中。我认为需要尽可能广泛的声音群体，而不仅仅是技术人员，来提供输入并对此发表意见，尤其是在部署这些系统时，这才是真正关键的时候，它真正影响到街上的普通人，而不是基础研究。这就是为什么我说，我认为作为第一步，如果我们有机会选择构建这些系统作为工具，那会更好。我并不是说它们永远不应该超越工具，因为当然，潜力就在那里，可以远远超出工具。但是，我认为这将是一个很好的第一步，以便我们能够仔细地实验，了解这些东西能做什么。所以，从工具到有感知实体的飞跃，应该非常小心。是的，让我问一个黑暗的个人问题。你是AGI领域最聪明的人之一，也是社区中最善良、可以说是最受爱戴的人之一。也就是说，创造一个超级智能的人工智能系统将是世界上最强大的事物之一，无论是工具还是其他。正如老话说的那样，权力会腐蚀人，绝对的权力会绝对腐蚀人。你很可能是那些人之一，我说，可能是最有可能控制这样一个系统的人。当你谈论这些系统时，你是否考虑过权力的腐蚀性？就像所有独裁者和过去造成暴行的人，总是认为他们在做好事，但他们没有做好事，因为权力污染了他们的思想，让他们不知道什么是好，什么是坏。你是否考虑过这些事情，还是我们只专注于语言建模？不，我一直在考虑这些。我认为，有什么防御措施？我认为一件事是保持非常脚踏实地和谦逊，无论你做什么或取得什么成就。我试图这样做。我的最好的朋友仍然是我本科剑桥时的朋友，我的家人和朋友非常重要。我一直认为自己是一个跨学科的人，这有助于保持谦逊，因为无论你在一个主题上有多好，总会有人比你做得更好。而且，从头开始学习一个新主题或新领域总是很谦虚的。对我来说，过去五年是生物学，这是一个巨大的领域，我非常喜欢这样做，但它有助于让你脚踏实地，让你保持开放的心态。然后另一件重要的事情是，在你的公司或组织里有一群非常棒的人，他们自己也非常有道德和脚踏实地，并帮助你保持这种状态。然后，最终，为了回答你的问题，我希望我们将在诞生人工智能方面发挥重要作用，并使其成为有史以来对人类最有益的工具或技术，让我们进入一个充满巨大丰富和治愈疾病的世界，并解决我们面临的许多重大挑战。最终，帮助人类的终极繁荣，去旅行到星星，找到那些外星人，如果它们在那里的话，如果它们不在那里，找出它们为什么不在那里，宇宙中到底发生了什么。这一切都将到来，这正是我一直梦想的。但我认为人工智能是一个太大的想法，它不会是，会有一群先驱者先到达那里，我希望我们在先锋行列，这样我们就可以影响它的发展方向。我认为建造谁，他们来自哪个文化，以及他们拥有什么价值观，这对建造人工智能系统的人来说很重要。因为我认为，尽管人工智能系统将自己学习大部分知识，但系统中会留下系统创造者的文化和价值观的残余。而且，在地缘政治方面，有一些有趣的问题需要讨论，你知道，不同的文化，因为我们现在比以往任何时候都更加碎片化的世界，不幸的是，我认为在国际合作方面，我们在气候等问题上可以看到，我们似乎无法在全球范围内合作应对这些紧迫的问题。我希望随着时间的推移，这种情况会改变。也许，如果我们进入一个巨大的丰富时代，我们不必那么有竞争力了，也许我们可以更具合作性，如果资源不那么稀缺的话。确实，在权力腐蚀和导致破坏性事物方面，过去的一些暴行似乎发生在资源受到严重限制的时候。我认为这是第一点。我不认为这足够。我认为稀缺性是导致竞争性、破坏性、零和博弈思维的一个因素。我希望我们都能在一个正和的世界里，我认为为此你必须消除稀缺性。不幸的是，我认为这不足以实现世界和平，因为还有其他腐蚀性的东西，比如想要凌驾于他人之上，以及这类事情，这不一定能通过单纯的丰富来满足，但我认为这会有帮助。而且，我认为，但最终人工智能不会由任何一个人或一个组织来运行。我认为它应该属于世界，属于人类。我认为也许有很多方法可以做到这一点，最终，每个人都应该有发言权。你对高中和大学的年轻人有什么建议吗？也许，如果他们对人工智能感兴趣，或者对对世界产生重大影响感兴趣，他们应该怎么做才能拥有一份他们可以引以为豪的职业，或者过上他们可以引以为豪的生活？我喜欢给下一代做演讲。我告诉他们的是两件事。我认为最重要的事情是学习和了解，当你年轻的时候，那就是你的真正热情是什么？首先，有两件事。一是找到你真正的热情。我认为你可以通过探索尽可能多的事情来做到这一点，当你年轻的时候，你有时间，你可以承担那些风险。我还会鼓励人们以独特的方式寻找事物之间的联系。我认为这是找到热情的绝佳方式。第二件事是了解你自己。花很多时间去理解你是如何工作的，比如你什么时候工作效率最高，你如何学习，你如何应对压力。在各种场景下测试自己，并努力改进你的弱点，同时也要找出你独特的技能和优势，然后磨练它们。那么，这将是你未来在世界上最重要的价值。如果你能将这两件事结合起来，找到你真正兴奋的热情，并与你独特的强大技能相交，那么你就在做一些了不起的事情。而且，我认为你可以对世界产生巨大的影响。所以，让我问一下了解你自己。这是有趣的，这是有趣的。关于日常生活，完美的一天，德米斯·豪萨里斯的完美高效的一天？也许，也许这些天，你有很多事情要做。也许你年轻的时候，你可以专注于一个演示项目。你几点起床？你是夜猫子吗？你早上早起吗？有什么有趣的习惯？你一天喝多少杯咖啡？你用什么电脑？设置是怎样的？有多少屏幕？什么类型的键盘？我们是在说Emacs，Vim，还是更现代的东西？所以，这是一堆问题。所以，也许，日常生活，完美的一天是什么？这些天，这与10到20年前大不相同。10到20年前，那将是整整一天的研究，个人研究，或者编程，做一些实验，神经科学，计算机科学实验，阅读大量的研究论文。然后在晚上，你知道，阅读科幻小说，或者玩一些游戏。但有很多专注。比如，无论是编程还是阅读研究论文，都进行深度专注的工作。是的，是的，那将是大量的深入，专注的工作。这些天，在过去的五年到十年里，我有一个非常适合我的结构。那就是，我是一个彻头彻尾的夜猫子，一直都是。所以我为此进行了优化。所以，你知道，我基本上是正常工作一天，大约上午11点到办公室，然后工作到晚上7点左右。在办公室里，我会安排密集的会议，贯穿整个时间。与尽可能多的人。那是我的协作管理时间。然后我回家，花时间和家人朋友在一起，吃晚饭，放松一下。然后我开始第二天的工作。我称之为我的第二天工作，大约晚上10点，晚上11点。那是直到凌晨，早上4点，5点，我将进行思考和阅读，研究，撰写研究论文。可悲的是，现在没有时间写代码了，但考虑到我拥有的时间，现在效率不高。但那是我进行长时间思考和规划的时候。然后，也许通过电子邮件或其他方式，我会向我的团队发送很多事情，让他们第二天早上处理。关于思考这个问题，你是说在纸上还是用笔？有一些独立的结构吗？是的，我喜欢流程。我仍然最喜欢用铅笔和纸来解决问题。但是，这些天，在屏幕上阅读研究论文太有效率了。我仍然经常打印出来。我仍然更喜欢在上面做标记，我发现当你在使用实体笔和铅笔和纸时，它能更快地进入大脑，并且在大脑中停留得更好。你仍然在使用笔和纸做笔记吗？我有很多电子笔记，也有很多我家里使用的笔记本。在这些最具挑战性的下一步，例如我们都不知道的、你正在思考的事情，需要深入思考，对吧？比如，什么是正确的问题？什么是正确的方法？因为你将不得不投入大量时间，你的整个团队，他们将不得不追求这件事。什么是正确的方法？强化学习在这里是否有效？是的。什么是正确的尝试？什么是正确的基准？是的，我们需要从头开始构建一个基准。所有这些类型的事情。是的，我认为所有这些类型的事情都在夜间阶段。而且，我发现我一直发现早晨的安静时光，当每个人都睡着时，外面非常安静。我喜欢那个时间，那是黄金时间，就像凌晨一两点到三点之间。放些音乐，一些鼓舞人心的音乐，然后进行深入的思考。那就是我阅读哲学书籍的时候，斯宾诺莎是我最近的最爱。我读过关于伟大历史科学家的书，他们是如何做事的，他们是如何思考的。那就是我进行所有创造性思考的时候。而且，我认为人们推荐，你知道，你进行创造性思考，然后你进行一段时间的思考。我就是这样组织一天的，我不会被打断，因为显然那个时候没有人醒着。所以我可以，我可以深入，深入地投入其中。晚上做事的另一个好处是，如果我真的在某个事情上，或者我真的深入研究了某个事情，我可以选择延长它，我会一直做到早上六点，然后我第二天会为此付出代价。因为我会有点累，我不会是最好的状态，但没关系。我可以根据我第二天的日程安排来决定，以及我在这项特定的想法或创意上的进展情况，我将为此付出代价。所以，我认为这比早上的人更灵活。他们早上四点起床，他们也可以在那个黄金时段进行。但是，他们的日程安排从早餐开始，你知道，早上8点，他们有第一次会议，然后就很难了。如果你处于心流状态，你必须重新安排一天。是的，那将是，我必须看到那个特殊的思维线索，你太投入了，这可能是最伟大的想法可能出现的，当你沉浸其中，直到深夜。是的，对于会议，我的意思是，你在很短的时间内处理非常困难的问题。所以，你必须进行某种第一原理思考。比如，问题是什么？是什么？
事物状态，正确的下一步是什么？是的，你必须非常擅长上下文切换，这是最难的事情之一，因为特别是当我们做这么多事情时，如果你算上我们所做的所有科学事情，我们正在研究的科学领域，它们本身就是整个，你知道的复杂领域，你必须跟上，但我喜欢它，我一直以一种方式成为一个通才，这实际上是我在国际象棋之后的博弈生涯中发生的事情，我停止下棋的原因之一是我开始接触计算机，但我也开始意识到还有许多其他很棒的游戏可以玩，所以我一直倾向于跨学科，世界上有太多有趣的事情，不能把所有时间都花在一件事上，所以你提到了斯宾诺莎，必须问关于生活的那个巨大得离谱的问题，你认为这一切的意义是什么？我们人类为什么在这里？你已经提到也许是宇宙创造了我们，这就是你认为我们在这里的原因吗？是为了理解宇宙，是的，我认为我的回答是，至少是我现在的生活，是为了获得和理解知识，你知道的，获得知识和理解宇宙，这就是我认为的，我看不出比这更高的目的了，如果你回想一下古希腊人，你知道的，获取知识的美德，我认为它是，我认为它是少数真正的美德之一，就是理解我们周围的世界以及背景和人性，而且，我认为如果你这样做，你会变得更有同情心，更了解自己，也更宽容，所有这些，我认为所有这些其他事情都可能由此产生，对我来说，你知道的，理解现实的本质，这是最大的问题，这里发生了什么？有时我口语化的说法是，这里到底发生了什么？它是如此神秘，我觉得我们身处一个巨大的谜题中，而且，但世界似乎也是，宇宙似乎以一种方式构建，你知道的，为什么它以一种科学甚至可能的方式构建？你知道的方法，科学方法有效，事物是可重复的，它似乎几乎是以一种有利于获取知识的方式构建的，所以我觉得，而且，你知道的，计算机为什么甚至可能存在？这难道不令人惊叹吗？计算电子设备可以，可以，可以存在，它们是由沙子制成的，我们最，你知道的，我们拥有的最常见的元素，你知道的，地壳上的硅，它们可以是钻石做的，或者别的什么，那么我们就只有一个电脑了，是的，没错，所以很多事情对我来说都有点可疑，这肯定听起来像我们之前谈论过的那个谜题，要设计一款可以长时间玩得非常有趣的游戏需要什么，而且这似乎确实像你提到的那个谜题，你了解得越多，就越意识到自己知道得有多少，所以它让你谦卑，但又因学习更多的可能性而让你兴奋，我们这里有一个非常非常棒的谜题，嗯，就像我提到的，在世界上所有的人中，你很有可能是创造出达到人类智能水平并超越它的AGI系统的人，所以如果你有机会，而且很有可能，你将是那个走进房间与系统对话的人，也许你只能问一个问题，如果你问，你会问什么问题？我可能会问，现实的真正本质是什么？我认为这是我不会知道我是否会理解答案的问题，因为也许答案是42之类的，但，这就是我会问的问题，然后系统会深深地叹一口气，好吧，我该如何解释，请原谅我，好吧，让我，我没时间解释，也许我会给你画张图，我的意思是，你甚至怎么开始回答这个问题？嗯，我认为它会，你会认为答案可能是什么样的？我认为它可以，它可以开始看起来像，更基础的物理学解释将是开始，你知道的，更仔细地说明这一点，手把手地带你了解，你可能需要做什么来证明这些东西，也许让你瞥见你在今天的物理学中完全错过的东西，没错，这里，这里有一些瞥见，就像有一个更，一个更复杂的世界，或者一个更简单的世界，或者一些，一个更深刻的，也许更简单的解释，是的，关于事情，比我们知道它不起作用但我们仍然不断添加的标准物理模型，嗯，嗯，这就是我认为解释的开始样子，它将开始包含我们几千年来一直在思考的许多奥秘，比如，你知道的，意识，生命和重力，所有这些，是的，给我们一些这些事情的解释的瞥见，是的，嗯，德马斯，我们巨大的谜题中一个特别的人类，今天你能从更大的谜题中暂停一下，来解决这个小小的对话谜题，这真是我的荣幸和快乐，谢谢，谢谢，我真的很享受，谢谢莱克斯，感谢收听与德马斯的这次对话，请查看描述中的赞助商来支持这个播客，现在让我留下埃德斯加·迪克斯特拉的一些话，计算机科学与计算机的关系，不比天文学与望远镜的关系更密切，感谢您的收听，希望下次再见。