Transcription
以下是与 Demis Hassabis 的对话，他是 DeepMind 的首席执行官兼联合创始人。DeepMind 是一家公司，该公司发布并构建了计算史上一些最令人难以置信的人工智能系统，包括 AlphaZero，它独自学会了下围棋，其水平超越了世界上任何人类；以及 AlphaFold 2，它解决了蛋白质折叠问题。这两项任务在很长一段时间内都被认为几乎是不可能的。Demis 被广泛认为是人工智能、科学和工程领域最杰出和最具影响力的人物之一。能够最终与他进行这次对话，我感到非常荣幸和高兴，我相信我们将来还会多次交谈。这是 Lex Fridman 播客。为了支持本播客，请查看描述中的赞助商。现在，亲爱的朋友们， voici Demis Hassabis。让我们从一个个人问题开始：我是一个你编写的 AI 程序，用来采访人们，直到我能足够好地采访你吗？
嗯，如果真是这样，我会感到很惊讶。如果是我，我会对自己感到惊讶。我不认为我们现在已经达到了那个水平，但也许你是来自未来的，Lex？如果你是，你会告诉我吗？告诉一个负责采访的语言模型，它实际上是人工智能，这是一个好主意吗？也许我们正处于某种元图灵测试中。可能，可能，最好不要告诉你，这样就不会改变你的行为，对吧？这是一种海森堡不确定性原理的情况。如果我告诉你，你的行为就会改变。是的，也许我们就是这样。当然，这是一个来自未来的基准测试，他们将 2022 年重播为人工智能尚未足够好的年份。现在我们想看看它是否会通过。确切地说，如果我是一个这样的程序，你认为你能分辨出来吗？关于图灵测试的问题，你谈到了解决智能的基准。你谈到了获得诺贝尔奖，系统获得诺贝尔奖。但我仍然认为图灵测试是一个引人注目的测试。图灵测试的精神是一个引人注目的测试。是的，图灵测试当然具有令人难以置信的影响力，图灵是我一直以来的英雄之一。但我想如果你回顾 1950 年的原始论文，并阅读原始论文，你会发现我不认为他打算将其作为一个严格的正式测试。我认为它更像是一个思想实验，几乎有点哲学。他在写作。如果你看看论文的风格，你会发现他没有非常严格地规定它。因此，例如，他没有规定专家或评委将拥有什么知识，他们将有多少时间来调查这一点。所以这些重要的参数，如果你要把它变成一个真正的、正式的测试。而且，根据一些衡量标准，人们声称图灵测试在十几年前就已经通过了。我记得有人声称，使用一种非常标准的普通逻辑模型，因为他们假装它是一个孩子，所以评委认为机器是一个孩子。所以，这将与一个专家人工智能人员审问一台机器并知道它是如何构建的等等有很大不同。所以我想，嗯，我们可能应该放弃它作为一个正式的测试，并更多地转向一个通用测试，在该测试中，我们在各种任务上测试人工智能的能力，看看它是否达到人类水平或更高的性能，也许最终达到数千甚至数百万个任务，并覆盖整个认知空间。所以我想，就当时而言，这是一个了不起的思想实验。而且 1950 年代显然是计算机时代的黎明。所以当然，他只考虑了文本。现在，我们有了更多的不同输入。所以，是的，也许更好的测试是通用性，跨多个任务的通用性。但我也认为，就像 Gato 这样的系统最终可能映射回语言一样，你可能能够通过沟通你的跨任务通用能力来展示你的跨任务通用能力，这实际上就是我们通过对话所做的。最终，对话中不仅仅是你移动知识，而是你移动这些完全不同的理解模式，最终映射到你在所有这些领域中成功运作的能力，你可以将这些领域视为任务。是的，我认为我们人类当然使用语言作为我们的主要通用沟通工具。所以我认为我们最终会用语言思考，并用语言表达我们的解决方案。所以它将是一种非常强大的模式，用于解释系统，解释它在做什么。但我不认为它是唯一重要的模式。所以我认为有很多不同的方式来表达能力，而不仅仅是语言。视觉、机器人、肢体语言、是的，行动是所有这些的互动方面，这都是其中的一部分。但 Gato 有趣的是，它正在将预测推向极限，就像，你知道，将任意序列映射到其他序列，并预测接下来会发生什么。所以预测似乎是智能的基础，而你预测什么并不重要。是的，似乎你可以很好地概括这一点。所以，显然语言模型预测下一个词。Gato 预测任何可能的行动或任何标记。而且这真的只是一个开始。它是我们迄今为止最通用的代理，人们可以这样称呼它。但它本身可以大规模扩展，比我们迄今为止所做的要多得多。显然，我们正在这样做。但解决 AGI 的一个重要部分是创建能够帮助我们越来越接近的基准测试，创建测试通用性的基准测试。而且仍然很有趣的是，艾伦·图灵是第一个，也许仍然是少数几个试图，也许是哲学上，但试图制定一个可以遵循的基准测试的人之一。即使它很模糊，它仍然足够严格，你可以运行那个测试。而且我仍然认为，最终，像图灵测试这样的东西将是真正给其他人类留下深刻印象的东西。所以你可能有一个亲密的朋友是人工智能系统。为了让那个朋友成为一个好朋友，他们必须能够玩星际争霸，他们必须能够完成所有这些任务，给你拿啤酒。所以机器人任务，和你一起玩游戏，使用语言，幽默，所有这些事情。但最终可以归结为语言。感觉不是在人工智能社区方面，而是在通用智能对世界的实际影响方面，感觉语言将是它真正闪耀的地方。我认为是的，因为它是我们如此重要的输入输出。我认为你是对的。我认为图灵测试，它背后的哲学，即机器能否模仿人类的行为，我甚至会说比语言和文本更广泛，然后，你知道，在行动、创造力等方面。那么，如果它能够匹配或超越人类的认知能力，那么我认为我们拥有真正的智能。所以从那个角度来看，你是对的。我认为他确实制定了正确的设置。我只是认为未来的 AI 系统在回顾这次对话并思考图灵测试时，会有一种幽默感。而且也考虑到届时他们将知道他们最终能够跨越人类智能水平的门槛是哪一年，并认为我们人类仍然对这个早已解决的问题感到困惑，这多么有趣。无论如何，向未来的 AI 代理致敬。那么，回到你的旅程，你是什么时候爱上编程的？嗯，实际上是很小的年纪。所以，你知道，我实际上是从游戏开始的，这是我的初恋。四岁左右开始下棋，然后，实际上是我在一次国际象棋比赛中赢得的奖金，我才在八岁时买了我第一台国际象棋电脑。那是 ZX Spectrum，当时在英国非常受欢迎。而且它是一台很棒的机器，因为我认为它培养了英国一代程序员，因为它非常容易上手。你只要打开它，就有 BASIC 提示符，你就可以开始使用了。我的父母对电脑一无所知，但因为这是我从国际象棋比赛中赚来的钱，所以我可以买下它。然后，我只是去书店买编程书，然后开始输入编程代码，然后当然，一旦你开始这样做，你就会开始调整它，然后制作自己的游戏。那时我爱上了电脑，并意识到它们是非常神奇的设备。在某种程度上，我当时可能无法解释这一点，但我觉得它们几乎是你思维的魔法延伸。我一直有这种感觉，我一直喜欢电脑的这一点，你可以让它们为你做某项任务，你可以去睡觉，第二天回来，它就解决了。对我来说，这感觉很神奇。所以，我的意思是，所有机器在某种程度上都能做到这一点。它们都增强了我们的自然能力。显然，汽车让我们能够比我们跑步的速度更快。但这是一种扩展思维的机器。然后，当然，人工智能是机器可能能够做什么或学习的最终表达。所以对我来说，这种想法很快就自然地延伸到了人工智能。还记得你最初开始为机器编写的编程语言吗？不，那只是基础。我记得那只是 ZX Spectrum 上的 BASIC。我不知道具体是什么形式。后来我得到了一个 Commodore Amiga，那是一台很棒的机器。不，你只是在炫耀。是的，我的很多朋友都有 Atari ST，我设法得到了 Amiga。它更强大一些。而且那太不可思议了。我曾经用汇编语言编程，也用 Amos Basic，这种特殊的 BASIC。它实际上也很不可思议。我所有的编码技能。你什么时候爱上人工智能的？所以，你什么时候开始理解，你不仅仅是编写程序来在你睡觉时为你做一些数学运算，而是某种类似于让一个实体复活的东西，一个能够弄清楚比简单的数学运算更复杂的事情的东西？是的，对我来说有几个阶段，都发生在我很年轻的时候。所以，首先，当我试图提高下棋水平时，我曾担任过英格兰各级少年国际象棋队的队长。在我大约 10 岁或 11 岁的时候，我打算成为一名职业棋手，这是我的第一个想法。那个梦想确实存在。是的，你试图达到最高水平。是的，我大约 12 岁时达到了大师级别，我是世界上评分第二高的棋手，仅次于 Judith Polgar，她显然最终成为了一位了不起的棋手和世界女子冠军。当我试图提高下棋水平时，你首先要做的就是提高你自己的思考过程。这让你思考思考，你的大脑是如何产生这些想法的？为什么会犯错？如何改进那个思维过程？但第二件事是，这只是一个开始。这就像在 80 年代初、80 年代中期，有国际象棋电脑。如果你还记得，它们是物理棋盘，就像我们面前的这个。你按下棋盘上的方格。我记得卡斯帕罗夫有一个品牌版本，我得到了。你曾经练习过它们，以试图改进你的开局和其他东西。所以，我记得我大概在 11 或 12 岁时得到了我的第一个。我记得我想，这太不可思议了。有人是如何编程这个棋盘来下棋的？我买了一本非常重要的书，名叫《国际象棋电脑手册》，由 David Levy 撰写，大约在 1984 年出版。我大概在 11 或 12 岁时得到了它。它完整地解释了这些国际象棋程序是如何制作的。我记得我的第一个人工智能程序是为我的 Amiga 编程的。它不够强大，无法下棋。我无法编写一个完整的国际象棋程序。但我为它编写了一个程序来玩 Othello（有时在美国称为 Reversi）。它比国际象棋稍微简单一些，但我使用了所有国际象棋程序都使用的原理，比如 Alpha-Beta 搜索，所有这些。那是我第一个人工智能程序。我记得很清楚，我大约 12 岁。这让我进入了人工智能领域。然后是第二部分，后来，当我大约 16 或 17 岁时，我正在专业地编写游戏，设计游戏。我写了一款名为《主题公园》的游戏，其中人工智能是核心游戏玩法组件，是模拟的一部分。它在全球售出了数百万份。人们喜欢人工智能的反应方式，即使它与今天的 AI 标准相比相对简单，它也是对你作为玩家玩它的方式的反应。它被称为沙盒游戏，是第一批这类游戏之一，与《模拟城市》一起。这意味着你玩的每一场游戏都是独一无二的。你能稍微跑题一下，谈谈从游戏设计和人类享受的角度来看，你见过的非常令人印象深刻的人工智能吗？也许创造人工智能系统需要什么？这是一个多么困难的问题？所以，只是一个简短的题外话，有一个百万个问题。嗯，你看，我认为游戏在我的生活中很重要，有三个原因。首先，我小时候玩游戏，在游戏上训练自己。然后我经历了一个设计游戏和为游戏编写人工智能的阶段。所以我专业编写的所有游戏都有人工智能作为核心组件。那主要是在 90 年代。我之所以在游戏行业这样做，是因为当时游戏行业我认为是技术的前沿。无论是图形，像 John Carmack 和 Quake 那种人，还是人工智能。我认为所有行动都发生在游戏中。而且我们仍然从中受益，即使是像 GPU 这样的东西，你知道，我发现这很讽刺，它显然是为计算机图形学发明的，但后来发现对人工智能非常有用。似乎一切都是矩阵乘法，你知道，在整个世界中。所以，我认为当时的游戏拥有最前沿的人工智能，而我参与编写的很多游戏。有一个名为《黑与白》的游戏，这是我早期参与的游戏之一，我仍然认为它是电脑游戏中强化学习最令人印象深刻的例子。在这个游戏中，你训练了一个小宠物动物，它会根据你对待它的方式来学习。如果你对待它不好，它就会变得邪恶，然后它就会对你的村民和你的居民，你经营的小部落变得邪恶。但如果你对它好，它就会变得善良。人们对它的发展方式感到着迷，我也不例外，尤其是它映射到善与恶。它让你意识到，你所做的选择可以在某种程度上定义你最终会去哪里。这意味着我们所有人都有能力行善或作恶。所有这些都取决于你在通往这些地方的轨迹中所做的不同选择。这太迷人了。我的意思是，游戏在哲学上可以对你做这些事情，而且似乎很少见。是的，嗯，我认为游戏是一种独特的媒介，因为作为玩家，你不仅仅是被动地消费娱乐。你实际上是作为一个代理人积极参与的。所以我认为这就是为什么它在某些方面可以比电影和书籍等其他媒介更具冲击力。所以，这是第二点，就是设计人工智能和游戏。然后第三个用途，我们从一开始就在 DeepMind 中使用人工智能，那就是将游戏作为测试平台，来验证人工智能算法和开发人工智能算法。这是我们一开始在 DeepMind 的核心愿景之一，那就是我们将大量使用游戏作为我们的主要测试平台，至少一开始是这样。因为使用游戏非常高效，而且很容易获得指标来查看我们的系统改进得有多好，以及我们的想法朝哪个方向发展，以及我们是否在取得渐进式改进。而且，因为这些游戏通常植根于人类长期以来一直在做的事情，所以已经有一套强大的规则。就像，它已经是一个非常好的基准测试了。是的，它在很多方面都非常好，因为你有明确的衡量标准来衡量人类在这些事情上的表现有多好。在某些情况下，比如围棋，我们已经玩了数千年了。而且，而且，他们通常有分数，或者至少有获胜条件。所以，奖励学习系统很容易获得奖励。很容易指定奖励是什么。而且，而且，在最后，很容易在外部测试你的系统有多强大，当然是通过与世界上最强的玩家比赛。所以，它在很多方面都非常好。而且，在云端并行运行数百万次模拟也非常高效。所以，我认为我们之所以在 2010 年初如此成功，有很多原因。我们为什么能够如此迅速地进步？因为我们利用了游戏。而且，你知道，在 DeepMind 的早期，我们也聘请了一些了不起的游戏工程师，我从我以前在游戏行业的生活中认识他们。而且，这帮助我们迅速起步。而且，在某种程度上，在哲学层面，男人与机器在棋盘或围棋盘上的对决，尤其是考虑到人工智能的整个历史都是由人们说“让机器在国际象棋中击败人类是不可能的”来定义的，然后一旦发生这种情况，人们就确信。当我进入人工智能领域时，围棋不是一个可以解决的游戏，因为它的组合复杂度太高了。它就是，它就是，你知道，无论摩尔定律如何，计算能力永远无法破解围棋。所以，面对这种不可能的任务，从人工智能研究人员、工程师的角度来看，然后作为一个人类观察这一切，你对曾经认为不可能的事情的信念被打破了。认识到我们并不像我们想象的那么聪明，这是令人谦卑的。认识到我们现在认为不可能的事情将来可能会实现，这是令人谦卑的。一个游戏人工智能系统成为一个人类，在一个游戏中，将这个信息传递给数百万、数十亿人，尤其是围棋，这是非常强大的。当然。嗯，你看，我认为这是一个，我的意思是，这是一次迷人的旅程。尤其是当我从我能理解的角度来看，我能从双方来理解，既是人工智能的创造者，也是最初的游戏玩家。所以，你知道，这是一个非常有趣，这是一个了不起的，但也有点苦乐参半的时刻，对我来说是 AlphaGo 的比赛。看到它，并且显然深度参与其中。但是，正如你所说，国际象棋一直是，我的意思是，卡斯帕罗夫认为它是“智能的果蝇”，我想这是正确的。我喜欢这个说法，而且我认为他是对的，因为国际象棋从一开始就与人工智能息息相关。所以，我认为每一个人工智能从业者，从图灵和克劳德·香农以及所有那些，你知道，该领域的先驱们，都尝试编写国际象棋程序。我拥有克劳德·香农第一个国际象棋程序的原始版本，我认为是 1949 年的原始论文。他们都这样做了。图灵也写了一个国际象棋程序，但当时周围的计算机太慢了，无法运行它。所以他必须成为计算机。所以他真的花了三四天时间，用铅笔和纸手工运行他自己的程序，并与他的一个朋友玩他的国际象棋程序。所以，当然，深蓝是一个巨大的时刻，击败了卡斯帕罗夫。但实际上，当那发生时，我记得非常非常清楚，当然，因为那是国际象棋、计算机和人工智能，所有我热爱的东西。我当时还在上大学。但我记得，从那以后，我更被卡斯帕罗夫的思想所打动，而不是被深蓝。因为卡斯帕罗夫拥有人类的思想，他不仅能以几乎与这个蛮力计算机器相同的水平下棋，而且卡斯帕罗夫还能做人类能做的所有其他事情，骑自行车，说多种语言，从政，以及卡斯帕罗夫所做的所有其他惊人的事情。用同一个大脑。然而，深蓝虽然在国际象棋方面很出色，但它是为国际象棋手工编码的。而且，它确实将国际象棋大师的知识提炼成了一个很棒的程序。但它不能做任何其他事情，比如它甚至不能玩一个严格来说更简单的游戏，比如井字棋。所以，对我来说，这个系统缺少一些我们认为是智能的东西。我认为这是通用性和学习的想法。所以，这正是我和 AlphaGo 所做的。我们有 AlphaGo、AlphaZero、MuZero，然后是 Gato，所有这些东西，我们将深入探讨其中的一些部分。这里有一个迷人的轨迹。但让我们简要地谈谈国际象棋。在国际象棋的人类方面，你曾提出，从游戏设计的角度来看，使国际象棋引人入胜的原因是主教和骑士之间存在创造性的张力。你能解释一下吗？首先，思考什么使游戏引人入胜，使其跨越数百年，这是非常有趣的。我一直在思考这个问题，实际上，即使是许多了不起的棋手也不一定从游戏设计师的角度来思考它。所以，这是我戴着游戏设计师的帽子在思考这个问题，为什么国际象棋如此引人入胜。我认为一个关键原因是不同类型的国际象棋局面所具有的动态性，无论是封闭的还是开放的，以及其他因素，都来自于主教和骑士。所以，如果你考虑主教和骑士的移动方式的差异，然后不知何故，国际象棋已经发展到大致平衡了这两种能力，所以它们都大致值三分。所以，你认为这种动态一直存在，然后其余的规则都在试图稳定游戏。嗯，也许，我的意思是，这有点，我不知道，鸡生蛋还是蛋生鸡的问题，可能两者都有。但事实是，它已经达到了一个美丽的平衡，你可以拥有主教和骑士，它们的力量如此不同，但在所有位置的宇宙集合中，它们的价值大致相等。经过人类数百年的平衡，我认为这为游戏带来了创造性的张力。你可以用骑士换主教，或者用主教换骑士。它们的价值大致相同，但现在你追求的是一种不同的局面。如果你有骑士，你想要一个封闭的局面。如果你有主教，你想要一个开放的局面。所以我认为这创造了国际象棋的许多创造性张力。所以，从人工智能的角度来看，某种受控的创造性张力。你认为人工智能系统能否设计出对人类来说最优引人入胜的游戏？这是一个有趣的问题。你知道，有时人们会问我关于人工智能和创造力的问题，我的回答与这个问题相关，那就是我认为有不同层次的创造力。所以，我认为，如果我们把创造力定义为想出原创的东西，它是为了一个目的而有用的，那么，我认为最低层次的创造力就像插值。所以，对你看到的例子进行平均。所以，也许一个非常基本的人工智能系统可以做到这一点。你向它展示数百万张猫的图片，然后你说，给我一只平均看起来的猫。生成一只平均看起来的猫。我会称之为插值。然后是外推，这是像 AlphaGo 所展示的。AlphaGo 与自己下了数百万盘围棋，然后它想出了绝妙的新想法，比如第二局的第 37 步，将一种围棋的战术引入了人类从未想过的领域，尽管我们已经玩了数千年，专业玩了几百年。所以我称之为外推。但仍然有一个更高的层次，那就是，你可以称之为“跳出框框思考”或真正的创新。你能发明围棋吗？你能发明国际象棋吗？不仅仅是想出一个绝妙的国际象棋或围棋招数，而是你能发明国际象棋，或者像国际象棋或围棋一样好的东西吗？我认为有一天人工智能可以。但缺失的是，你如何将这个任务指定给一个程序？现在，如果我让一个人类去做，或者一个人类游戏设计师去做，我会说类似这样的话：我想让你设计一个游戏，它只需要五分钟就能学会，就像围棋一样，因为它规则简单，但需要一生才能精通，或者一生不可能精通，因为它如此深刻和复杂。然后它在美学上也很美。而且，它可以在三到四个小时的游戏时间内完成，这对于我们人类来说，在人类的一天中很有用。所以，你可能会指定这些高层次的概念，然后，你知道，有了这些，也许还有其他一些东西，你可以想象围棋满足了这些约束。但问题是，我们无法将这些抽象的高层次概念指定给现在的人工智能系统。我认为在他们真正理解的高层次概念或抽象方面，仍然缺少一些东西，而且你知道，它们是可组合和组合的。所以，目前我认为人工智能能够进行插值和外推，但不能真正发明。所以，想出规则集，并围绕这些规则集进行复杂的目标优化，我们目前还不能做到。但你可以采用一个特定的规则集，然后进行一种自我对弈实验，看看从零开始学习的人工智能系统需要多长时间。学习的旅程有多长？也许如果它满足了你提到的其他一些方面，比如学习速度快等等。然后你可以说，这是一个有前途的游戏。但最好是做类似 AlphaCode 的事情，或者编写规则，生成规则，自动化甚至规则生成的那一部分。我确实考虑过一些系统，我认为对于游戏设计师来说，如果有一个系统可以，它会玩你的游戏数千万次，也许一夜之间，然后自己平衡规则。所以，它会调整规则，也许是方程和参数，这样游戏就会更平衡。游戏中的单位或一些规则可以被调整。这有点像给出一个基础集，然后让蒙特卡洛树搜索之类的东西来探索它。我认为那将是一个非常非常强大的工具，用于平衡游戏。通常需要数百名人类游戏测试人员花费数千小时来平衡像《星际争霸》这样的游戏。你知道，暴雪公司在平衡他们的游戏方面非常出色，但这需要他们多年的努力。所以，你可以想象，在某个时候，当这些东西变得足够高效时，你可能可以在一夜之间做到这一点。你认为人工智能系统设计的最佳游戏会非常像地球吗？也许，也许。我最想制作的游戏是，我在我的游戏设计生涯中尝试过。我的第一个大游戏是设计一个主题公园，一个游乐园。然后，通过《共和国》这样的游戏，我试图拥有可以设计整个城市的游戏，并允许你在其中玩。当然，像 Will Wright 这样的玩家编写了《模拟地球》这样的游戏，试图模拟整个地球。这很棘手。但我还没有玩过《模拟地球》。那么它是什么？它是否包含进化？是的，它有进化，而且它试图，它将整个生物圈作为一个整体来对待，但从一个相当高的层面来看。所以，能够放大和缩小。当然，他做不到，他在 90 年代写的。所以，它无法做到这一点。但那显然是终极的沙盒游戏。当然，关于那个话题，你认为我们生活在一个模拟中吗？是的。嗯，所以，好的，我将从极其哲学的问题跳到短期问题。非常非常乐意。所以，我认为我对这个问题的回答有点复杂，因为有模拟理论，尼克·博斯特罗姆（Nick Bostrom）显然首先提出了这个理论。而且，我并不完全相信。所以，以某种计算机游戏的形式，或者我们的后代在 21 世纪以某种实验原因重新创造了地球。但我确实认为，我们可能，理解物理学和宇宙的最佳方式是从计算的角度来理解它。所以，将其理解为一个信息宇宙，实际上信息是比物质或能量更基本的单位。所以，物理学家会说，你知道，物质或能量，你知道，E=mc²，这些是宇宙的基本要素。我实际上会说信息，它本身可以指定能量或物质。物质实际上只是，我们只是，我们的身体和我们身体中的所有分子是如何排列的，就是信息。所以我认为信息可能是描述宇宙最基本的方式。因此，你可以说我们处于某种模拟中，因为这个原因。但我并不，我不是，我不是真的相信，你知道，这些是随意的数十亿次模拟。我认为这实际上非常关键，而且可能是独一无二的，这个特定的模拟。是的。但你只是认为将宇宙视为一个处理和修改信息的计算机是解决物理学、化学、生物学以及可能的人类等问题的最佳方式。是的，我认为用信息理论来理解物理学可能是真正理解这里发生了什么的最佳方式。从我们对通用图灵机，对计算机的理解来看，你认为有什么东西超出了计算机的能力，但存在于我们的宇宙中吗？你与罗杰·彭罗斯在意识的本质上存在分歧。他认为意识不仅仅是计算。你认为这一切，整个事情，都可以是计算吗？是的，我与罗杰·彭罗斯爵士进行了许多引人入胜的辩论。显然，他很出名，我读过他的《新思维的皇帝》和他的经典著作。它们相当有影响力，你知道，在 90 年代。他认为有更重要的东西，你知道，某种量子效应，需要来解释大脑中的意识。我实际上在思考我们在 DeepMind 所做的事情，以及我的职业生涯是什么。我们几乎就像图灵的冠军。我们正在将图灵机或经典计算推向极限。经典计算的极限是什么？同时，我也研究了神经科学。这就是我攻读博士学位的原因，也是为了看看，从神经科学或生物学的角度来看，大脑中是否有任何量子效应？到目前为止，我认为大多数神经科学家和大多数主流生物学家和神经科学家会说，据我们所知，没有证据表明大脑中有任何量子系统或效应。它基本上可以用经典理论来解释。所以，一方面是来自生物学方面的探索，另一方面是经典图灵机所能做到的事情的提升，包括我们新的人工智能系统。正如你之前提到的，我认为人工智能，尤其是在过去十年多，一直是一个持续的惊喜事件的故事。令人惊讶的成功，一个接一个地推翻了被认为是不可思议的理论，从围棋到蛋白质折叠等等。所以，我认为，我将非常犹豫是否要打赌通用图灵机和经典计算范式能走多远。而且我的赌注是，我们大脑中发生的一切，很可能可以在经典机器上模仿或近似。不是，你知道，需要某种形而上学或量子的东西。我们将通过 AlphaFold 的一些工作来实现这一点，我认为这开启了对这个美丽而复杂的生物学世界的建模之旅。所以，你认为人类思维的所有魔力都来自于我们头骨里那几磅的组织，一种生物计算的组织，在精神上类似于 DeepMind 一直在研究的某些神经网络吗？嗯，你看，我认为，你说的是几磅。当然，这是我认为宇宙中最大的奇迹，就是它只是我们头骨里那几磅的组织，但它也是我们所知的宇宙中最复杂的物体。所以，我们的大脑是美丽而惊人的。我认为它是一台效率极高的机器，而且，而且，它基本上是现象级的。我认为，构建人工智能，我一直想构建人工智能的原因之一是，我认为通过构建像人工智能这样的智能人工制品，然后将其与人类心智进行比较，这将帮助我们解锁我们一直以来都想知道的关于心智的独特性和真正的秘密，就像意识、梦境、创造力、情感。这些都是什么？自人类诞生以来，我们就一直在思考它们。我认为原因之一，你知道，我喜欢哲学和心智哲学，我们发现这很困难，是因为除了内省之外，我们没有真正的工具来科学地研究它，除了历史上非常聪明的人，非常聪明的哲学家。但现在突然有了大量的工具。首先，我们有所有神经科学工具，fMRI 机，单细胞记录，所有这些东西。但我们也拥有计算机和人工智能的能力来构建智能系统。所以我认为，嗯，我认为人类心智所做的事情是惊人的，而且，而且，我真的很敬畏它。而且，我认为没有人类心智，我们能够构建计算机，甚至能够思考和研究这些问题，这也是人类心智的证明。是的，宇宙创造了人类心智，而人类心智现在正在创造计算机，帮助我们理解宇宙和我们自己的人类心智。没错。我的意思是，我认为，我们可以说，我们可能是宇宙试图理解自身的机制。这很美。那么，让我们回到生物学的基本构建块。我认为这是理解人类心智、人类身体的另一个角度，这非常迷人，那就是从基本构建块开始，开始模拟，开始建模，如何从这些构建块中构建越来越大、越来越复杂的系统，也许有一天，整个生物学。所以，这是另一个被认为不可能解决的问题，那就是蛋白质折叠。AlphaFold，或者具体来说是 AlphaFold 2，就解决了这个问题。它解决了蛋白质折叠问题。我认为这是结构生物学史上，乃至科学史上最大的突破之一。也许从高层次来说，它是什么？它是如何工作的？然后我们可以问一些有趣的问题。当然。嗯，也许为了向不熟悉蛋白质折叠的人解释，我首先解释一下蛋白质。你知道，蛋白质对所有生命都至关重要。你身体的每一个功能都依赖于蛋白质。有时它们被称为生物体的“主力”。如果你深入研究它们，你知道，作为 AlphaFold 的一部分，我在过去几年里一直在研究蛋白质和结构生物学。你知道，它们是令人惊叹的生物纳米机器。蛋白质是令人难以置信的。如果你观看它们如何工作的短视频，动画。蛋白质由它们的遗传序列指定，称为氨基酸序列。所以，你可以认为那是它们的遗传构成。然后，在体内，在自然界中，它们会折叠成三维结构。所以，你可以把它想象成一串珠子，然后它们会折叠成一个球。关键是你想要知道那个三维结构，因为蛋白质的结构决定了它在你的身体里做什么，它的功能是什么。而且，如果你对药物或疾病感兴趣，你需要了解那个三维结构。因为如果你想用药物化合物来靶向某个东西，或者阻止蛋白质正在做的事情，你需要了解它将在蛋白质表面哪里结合。所以，显然，为了做到这一点，你需要了解三维结构。所以，结构决定功能，结构决定功能。而且，结构显然是由氨基酸序列决定的。而这本质上就是蛋白质折叠问题。你能否仅凭氨基酸序列，这个一维字母串，就能立即计算出三维结构？这在生物学中是一个 50 多年的重大挑战。我认为它最早是由 Christian Anfinsen，一位 1972 年的诺贝尔奖得主提出的，作为他诺贝尔奖获奖演讲的一部分。他只是推测，从氨基酸序列到三维结构应该是可能的。他没有说怎么做。所以，有人向我描述它，相当于生物学的费马大定理。你应该，作为一个非常可能在未来获得诺贝尔奖的人，你应该在页边空白处做更多这样的事情，随机写下需要 200 年才能解决的事情，让人们开始。应该可能。确切地说，而且不要给出任何线索。确切地说，我认为每个人都应该。我以后得记住这一点。所以，是的，他提出了，你知道，就像费马一样，他提出了一个随意的评论。他开启了整个 50 年的计算生物学领域。而且，他们遇到了困难，他们并没有取得多大进展。直到现在，直到 AlphaFold 出现。这是通过实验完成的，非常 painstaking。经验法则是，你必须对蛋白质进行结晶，这真的很难。有些蛋白质无法结晶，比如膜蛋白。然后你必须使用非常昂贵的电子显微镜或 X 射线晶体学机器，非常 painstaking 的工作来获得三维结构并可视化三维结构。所以，实验生物学的经验法则是，一个博士生需要用他们整个博士学位来研究一个蛋白质。而有了 AlphaFold 2，我们能够在几秒钟内预测出三维结构。所以，我们在圣诞节期间完成了整个人类蛋白质组，或者人体中的每种蛋白质，所有 20,000 种蛋白质。人类蛋白质就像人类基因组在蛋白质空间中的等价物。而且，它真正地彻底改变了结构生物学家能够做什么。因为现在，他们不必担心这些 painstaking 的实验。他们是否应该投入所有这些努力？他们几乎可以像谷歌搜索一样查找他们蛋白质的结构。所以，有一个它训练的数据集，以及如何映射这些氨基酸。因为首先，蛋白质这个微小的化学计算机能够自己完成这个计算，以某种分布式方式，并且非常快速地完成，这是令人难以置信的。这是奇怪的事情。它们是这样进化的，因为，我的意思是，这真是一项伟大的发明，就是蛋白质本身。是的，我的意思是，
然后，我认为可能有一段历史，它们进化出了许多这些蛋白质，而这些蛋白质本身就找到了成为计算机的方法，以至于你可以创造出能够相互作用并形成复杂结构的结构，以实现更高级的功能。我的意思是，这是一个他们已经弄清楚的奇怪系统。当然，我的意思是，我们，你知道，也许我们也应该谈谈生命的起源，但我认为蛋白质本身是神奇而不可思议的，正如我所说的，是微小的生物纳米机器。还有，实际上，Levantal，另一位科学家，Anfinsen的同代人，他创造了后来被称为Levantal悖论的“第十一宫”，这正是你所说的。他粗略计算了一个平均蛋白质，它可能由2000个氨基酸碱基组成，它可以折叠成大约10的300次方种不同的构象。所以，有10的300次方种不同的方式可以折叠蛋白质，但不知何故，在自然界中，物理学在几毫秒内就解决了这个问题。所以，蛋白质在你体内折叠，你知道，有时在几分之一秒内。所以，物理学在某种程度上解决了这个搜索问题。而且，为了说清楚，在许多情况下，也许你纠正我，如果我错了，通常有一种独特的方式让那个序列形成自身，是的。所以，在如此庞大的可能性中，是的，它找到了稳定下来的方法。在某些情况下，可能会出现功能障碍，从而导致许多疾病等等。但是的，大多数时候，它是一种独特的映射，而这种独特的映射并不明显。不，正是如此，这正是问题所在。所以，通常情况下，在健康的情况下，如果它是健康的，并且正如你所说，在疾病中，通常存在一种独特的映射。例如，阿尔茨海默病的一个推测是，这是由于蛋白质错误折叠，一种蛋白质以错误的方式折叠，淀粉样蛋白β。所以，然后，因为它以错误的方式折叠，它会在你的神经元中缠结在一起。所以，理解健康功能和疾病都非常重要，你知道，理解这些东西在做什么以及它们是如何构建的。当然，下一步是，有时蛋白质在与某些东西相互作用时会改变形状。所以，它们不一定只是静态的。在生物学中，也许你可以谈谈关于AlphaFold早期解决这个问题的有趣而美丽的事情，因为与游戏不同，这是真实的物理系统，不太适合自我对弈之类的机制。数据集的大小较小，你可能本来会喜欢的。所以，你必须在某些事情上非常聪明。有什么你能谈谈的吗？什么很难解决，解决方案有哪些美丽之处？是的，我会说AlphaFold是我们迄今为止建造的最复杂，也可能是最有意义的系统。所以，这真是一段令人惊叹的时光，在过去的两年三年里，看到它实现。因为，正如我们之前讨论过的，你知道，游戏是我们开始的地方，建造像AlphaGo和AlphaZero这样的东西。但真正的最终目标是，不仅仅是破解游戏，而是利用它们来引导我们可以应用于现实世界挑战的通用学习系统。特别是我的热情是科学挑战，比如蛋白质折叠。然后，AlphaFold当然是我们第一个重要的证明点。所以，你知道，就数据而言，以及必须投入的创新数量而言，我们，你知道，需要将30多种不同的组件算法组合在一起才能破解蛋白质折叠。我认为一些重大的创新是，在物理和进化生物学方面建立了一些硬编码的约束，以约束蛋白质中的键角等事物，但又不影响学习系统，从而仍然允许系统从我们拥有的例子中学习物理学本身。正如你所说，即使经过40年的实验生物学，也只有大约15万种蛋白质的结构被发现。这就是我们的训练集，比我们通常想要的要少得多。但通过各种技巧，比如自蒸馏，实际上是利用AlphaFold的预测，它认为自己非常有信心的最佳预测，我们把它们放回训练集，以使训练集更大。这对AlphaFold的成功至关重要。所以，实际上需要大量不同的创新，才能最终破解AlphaFold 1的问题。它产生的是一个距离图，一个蛋白质中所有分子之间成对距离的矩阵。然后必须有一个单独的优化过程来创建3D结构。而我们为AlphaFold 2所做的是使其真正端到端。我们直接从氨基酸序列直接得到3D结构，而无需经过这个中间步骤。而在机器学习中，我们一直发现，你让它越端到端，系统就越好。这可能是因为，你知道，最终，系统比我们人类设计师更擅长学习约束条件。所以，任何时候你都能让它端到端地流动，并真正生成你真正想要的东西，在这种情况下是3D结构，你比拥有这个中间步骤要好，然后你必须手工制作下一步。所以，最好让梯度和学习从终点、你想要的最终输出一直流到输入。这是一个开始新问题的好方法：手工制作大量东西，添加大量手动约束，加上一个小型的学习部分，然后将学习部分扩大，直到它吞噬整个东西。没错。所以，你也可以看到，这是我们通过许多成功的项目开发的一种方法，我们称之为Alpha X项目。最简单的方法是看到AlphaGo到AlphaZero的演变。所以，AlphaGo是一个学习系统，但它专门训练只玩围棋。所以，我们对第一版围棋的期望是，无论如何都要达到世界冠军的水平。然后，当然，AlphaGo Zero，我们消除了使用人类对局作为起点的需要。所以，它可以从随机起点开始，从一开始就与自己对弈。这消除了对人类围棋知识的需要。然后，AlphaZero将其泛化，以便我们拥有的任何东西，包括围棋盘的对称性，都被移除。所以，AlphaZero可以从零开始玩任何两人游戏。然后，MuZero，这是这些东西的最终最新版本，进一步扩展了它，以至于你甚至不需要给它游戏规则，它就会自己学习。所以，它也可以处理电脑游戏和棋盘游戏。所以，AlphaGo、AlphaZero、MuZero这条线，这就是你可以从模仿学习到完全监督学习的完整轨迹。是的，正是如此。学习你放入的环境的整个结构，从零开始，并通过自我对弈来引导它。但是，我认为，或者非常困难的是，我们一开始就构建AlphaZero或MuZero，即使是心理上，因为你必须长时间地相信自己，你一直在与怀疑作斗争，因为很多人说这是不可能的。正是如此。所以，仅仅做到围棋就已经足够困难了，正如你所说，每个人都认为这是不可能的，或者至少需要十年时间，从我们2015年、2016年完成的时候算起。所以，是的，心理上可能非常困难，而且，当然，我们通过先建造AlphaGo学到了很多。所以，我认为这就是为什么我称人工智能为工程科学，它是最迷人的科学学科之一，但它也是一门工程科学，因为与自然科学不同，你研究的现象并不存在于自然界中，你必须先建造它。所以，你必须先建造人工制品，然后你才能研究它是如何工作的，以及它是如何运作的。问你这个问题很难，因为你可能会说一切，但让我们试着思考一下，因为你处于一个非常有趣的位置，DeepMind是人工智能历史上一些最杰出思想的诞生地，但它也是杰出工程的诞生地。所以，解决智能这个DeepMind的宏大目标，有多少是科学，有多少是工程？所以，算法有多少？数据有多少？硬件计算基础设施有多少？软件计算机基础设施有多少？是的，还有什么？人类基础设施有多少？以及人类如何以某些方式互动，在所有这些思想的空间中？哲学有多少？关键是什么？如果你回顾一下，如果我们向前看200年，回顾一下，是什么解决了智能？是想法吗？我认为这是所有这些东西的结合。首先，当然，这是所有这些东西的结合，但它们的比例随着时间而变化。所以，是的，即使在过去的12年里，我们从2010年开始DeepMind，现在很难想象，因为2010年才短短12年，但没有人谈论人工智能。如果你还记得你在MIT的日子，没有人谈论它。我大约在那时在MIT做博士后，人们认为，你看，我们知道人工智能不起作用，我们在90年代在MIT等地尝试过，主要是使用逻辑系统和我们现在称之为老式人工智能的方法。像Minsky和Patrick Winston以及所有那些人物。我曾经和他们中的一些人辩论过，他们认为我疯了，认为通过学习系统可以取得新的进展。我很高兴听到这个，因为至少你知道你走在一条独特的道路上。即使你所有的教授都告诉你你疯了，这是真的。而且，当然，在工业界，我们无法筹集到两分钱。现在也很难想象，因为它是VC和融资中最热门的词语，而且今天很容易。所以，在2010年，这非常困难。我们开始的原因是，Shane和我曾经讨论过DeepMind的创始原则是什么。有很多事情。一个是算法进步，深度学习，Jeff Hinton和他的同事们刚刚在学术界发明了它，但工业界没有人知道。我们热爱强化学习，我们认为它可以被扩展。而且，对人脑的理解也取得了很大的进展，在过去的十年里，随着fMRI机器和其他东西的出现。所以，我们可以得到一些关于大脑使用的架构和算法以及表示的良好线索，是在系统层面，而不是在实现层面。然后，其他重要的事情是计算和GPU。所以，我们看到计算将非常有用，并且它已经发展到变得商品化，主要是通过游戏行业，并且可以被利用。然后，最后一件事是数学和理论定义智能，比如AIXI，Shane和他的导师Marcus Hutter一起研究过，这是一个关于通用智能的理论证明。它实际上是一个强化学习系统，在极限情况下，我的意思是，它假设无限的计算和无限的内存，就像图灵机的证明一样。我也在等待类似的东西，就像图灵和香农提出的计算理论，它们支撑着现代计算机科学。我一直在等待一个理论来支撑AGI研究。所以，当我遇到Shane，看到他在研究类似的东西时，对我来说，这是拼图的最后一块。所以，在早期，我认为想法是最重要的。你知道，对我们来说，是深度强化学习，扩展深度学习。当然，我们已经看到了Transformer，巨大的飞跃。我认为，如果你从2010年到现在算起，有三四次巨大的演变，比如AlphaGo。而且，也许还需要一些，但随着我们越来越接近AGI，我认为工程变得越来越重要，数据也是如此，因为规模。当然，最近GPT3和所有大型语言模型和大型模型的成果，包括我们的成果，都表明规模和大型模型显然将是AGI解决方案的必要但不充分的部分。而且，正如你所说，我想给你一个大大的感谢，你是这些想法的先驱之一，比如强化学习，它实际上可以奏效，尽管过去成功有限。而且，我们仍然不知道，但我们拥有世界上最好的研究人员，并谈论解决智能。所以，谈论你称之为AGI或类似的东西。说到MIT，那不是你会提起的。不，也许你在40、50年前提过，但那是一个你可以进行非常小规模的实验的地方，不是非常雄心勃勃的项目。也许最雄心勃勃的项目是在机器人领域，以及进行像DARPA挑战赛这样的事情。当然，解决智能的任务并相信你能做到，这是非常强大的。所以，为了让工程发挥作用，让伟大的工程师建造伟大的系统，你必须相信，贯穿始终，你确实可以解决一些不可能的挑战。是的，没错。而且，在2010年，我们的使命宣言，至今仍然如此。它曾经是：第一步，解决智能；第二步，用它来解决其他一切。所以，如果你能想象在2010年向VC推销这个，你知道我们得到的眼神。我们设法找到了一些古怪的人来支持我们，但那很棘手。而且，我甚至不再向我们的教授提及，因为他们会翻白眼，认为我们职业生涯自杀。所以，有很多事情我们不得不做，但我们一直相信。顺便说一句，我一直相信强化学习的一个原因是，如果你看看神经科学，你知道灵长类动物大脑学习的一种主要机制是多巴胺系统，它实现某种形式的TD学习。这是一个非常著名的结果，在90年代末，他们在猴子身上看到了这个，并且作为一个，你知道，真正的游戏预测误差。所以，我们再次，在极限情况下，我认为你可以利用神经科学来做的是，你知道，任何数学，当你做一些像解决智能这样雄心勃勃的事情时，而且你，你知道，这是蓝天研究，没有人知道如何做，你需要利用任何证据或任何信息来源来帮助你朝着正确的方向前进，或者给你信心你朝着正确的方向前进。所以，这是我们如此努力地推动的一个原因。而且，回到你关于组织的问题，我认为我们在DeepMind创新的另一个重要方面是，我们建立的跨学科组织，至今仍然如此。所以，DeepMind最初是神经科学、机器学习工程和数学以及游戏领域最前沿知识的汇合。然后，从那时起，我们进一步扩展了它。所以，我们这里有哲学家，还有伦理学家，还有其他类型的科学家，物理学家等等。这就是我们汇集在一起的。我试图建立一种新的贝尔实验室，在黄金时代，一种新的表达方式，试图培养这种令人难以置信的创新机器。所以，谈论机器中的人类，心灵本身就是一个学习机器，有很多令人惊叹的人类心灵汇集在一起，试图构建这些学习系统。如果我们回到AlphaFold的宏大梦想，那可能是漫长生物学旅程的早期步骤。你认为同样的方法可以用来预测更复杂的生物系统的结构和功能吗？多蛋白质相互作用，然后，我的意思是，你可以从那里开始，模拟越来越大的系统，最终模拟像人脑或人体这样的大脑，只是巨大的、混乱的、美丽的、有弹性的生物学。你是否看到这是一个长期的愿景？是的，我认为，你知道，如果你想想我最想用AI做的事情，一旦我们有了足够强大的系统，生物学和治愈疾病以及理解生物学就在我的名单上。这也是我个人推动它以及AlphaFold的原因之一。但我认为AlphaFold，尽管它很了不起，只是一个开始。而且，我希望它是计算方法可以做什么的证据。所以，你知道，AlphaFold解决了蛋白质结构这个巨大的问题，但生物学是动态的。所以，我真正想象的是，我们现在正在研究所有这些事情：蛋白质-蛋白质相互作用，蛋白质-配体结合，与分子反应。然后，你想建立到通路，最终建立一个虚拟细胞，这是我的梦想，也许在未来十年。我一直在和我的许多生物学家朋友谈论，保罗·纳斯，他领导着Qrik研究所，一位杰出的生物学家，诺贝尔奖得主。我们已经讨论了20年了，虚拟细胞，你能建造一个细胞的虚拟模拟吗？如果能做到，那对生物学和疾病发现来说将是不可思议的，因为你可以在虚拟细胞上做大量的实验，然后只在最后阶段在湿实验室进行验证。所以，你知道，在发现新药的搜索空间方面，从识别靶点到拥有候选药物，大约需要10年。也许可以通过一个数量级来缩短，如果你能大部分工作在计算机上完成的话。所以，为了达到虚拟细胞，我们必须建立对生物学不同部分及其相互作用的理解。所以，你知道，我们每年都会和保罗谈论这个。然后，去年，在AlphaFold之后，我说现在是时候了，我们可以终于去做了。而AlphaFold是第一个证明这可能实现的证据。他非常兴奋。我们与他的实验室有一些合作，他们就在我们旁边，你知道，在国王十字车站，Qrik研究所就在马路对面。而且，我认为下一步，我认为将在AlphaFold等事物的基础上取得一些惊人的生物学进展。在我们开源并发布它之后，我们已经看到了社区正在做的事情。而且，你知道，我也经常说，我认为，如果你认为数学是物理学的完美描述语言，我认为人工智能最终可能成为生物学的完美描述语言。因为生物学是如此混乱，如此涌现，如此动态和复杂。我认为很难相信我们会得到像牛顿运动定律那样优雅的东西来描述一个细胞。它太复杂了。所以，我认为人工智能是正确的工具。你必须从基本构件开始，并使用人工智能来运行所有这些构件的模拟。所以，有一个非常强大的方法来预测，给定这些构件，什么样的生物学，这个生物系统的功能和演化。它几乎就像一个细胞自动机，你必须运行它，你不能从高层次进行分析，你必须采取基本成分，找出规则。是的，然后让它运行。但在这种情况下，规则很难找出。是的，正是如此。所以，生物学太复杂了，无法找出规则，它太涌现，太动态，与行星运动这样的物理系统相比。所以，你必须学习规则，而这正是我们正在构建的系统类型。所以，你提到了你已经开源了AlphaFold，甚至包括相关数据。对我个人来说，我也非常高兴，并非常感谢你开源了Mijoko，这个物理模拟引擎，它经常用于机器人研究等等。所以，我认为这是一个非常酷的举动。所以，你的哲学是什么？你知道，很少有公司或个人会做这样的事情。这是逐案而定的。在这两种情况下，我们都认为这对人类和科学界有最大的好处。在一种情况下，机器人物理学界，通过Mijoko，我们购买了它，我们购买它的明确原则是开源它。所以，我希望人们能欣赏这一点，很高兴听到你这样做。然后，第二件事是，我们主要这样做是因为构建它的人无法再继续支持它了，因为它对他来说太大了，他是一位了不起的教授，他首先建造了它。所以，我们帮助了他。然后，AlphaFold甚至更大，我想。而且，我认为在这种情况下，我们决定，AlphaFold有如此多的下游应用，我们根本无法想象它们是什么。所以，加速药物发现和基础研究的最佳方式是，将所有这些数据和系统本身都提供出去。你知道，看到人们在一年内所做的事情，这在科学上是一段很短的时间，这非常令人欣慰。我们认为，有超过50万研究人员使用它，我们认为这几乎是世界上所有的生物学家。我认为世界上大约有50万生物学家，专业生物学家使用它来查看他们感兴趣的蛋白质。我们看到了惊人的基础研究成果。所以，几周前，科学杂志的整个特刊，包括封面，上面有核孔复合物，这是人体最大的蛋白质之一。核孔复合物是一种控制所有营养物质进出细胞核的蛋白质。它们就像小孔网关，打开和关闭，让东西进出细胞核。所以，它们非常重要，但它们很大，因为它们是巨大的甜甜圈形环。几十年来，他们一直在试图弄清楚这个结构。他们有很多实验数据，但分辨率很低，有些部分缺失了。他们能够像一个巨大的乐高积木拼图一样，使用AlphaFold的预测加上实验数据，并结合这两种独立的信息来源。实际上，世界上的四个不同小组，几乎同时使用AlphaFold的预测，能够将其组合起来。所以，看到这一点非常令人惊叹。而且，几乎我交谈过的每一家制药公司、每一位药物公司高管都表示，他们的团队正在使用AlphaFold来加速他们正在尝试发现的任何药物。所以，我认为AlphaFold的影响是巨大的。它正在创造生物学家，它正在吸引更多人进入这个领域，无论是通过兴奋还是通过相关的技术技能。而且，它几乎就像一种进入生物学的入门药物。是的，它确实如此。希望也能吸引更多计算领域的人。而且，我认为对我们来说，下一阶段，正如我所说，未来我们还必须考虑其他因素。我们正在AlphaFold和其他我与你讨论过的关于蛋白质相互作用和基因组学等想法的基础上进行构建。并非所有东西都会开源。有些东西我们会商业化，因为那将是获得最多资源和影响的最佳方式。其他一些项目将以非营利方式进行。而且，我们还必须考虑未来的事情，安全和伦理。比如，合成生物学，存在双重用途，我们也必须考虑这一点。对于AlphaFold，我们咨询了30多位生物伦理学家和其他专家，以确保它在发布前是安全的。所以，未来会有其他考虑因素。但就目前而言，我认为AlphaFold是我们送给科学界的一份礼物。所以我很确定，像AlphaFold这样的东西将来会获得诺贝尔奖。但我们人类当然非常糟糕于归因功劳，所以我们当然会把它归功于人类。你认为会有AI系统无法否认它赢得了诺贝尔奖的那一天吗？你认为我们会在21世纪看到吗？这取决于我们最终建造什么样的AI。所以，它们是目标导向的代理，谁来指定目标，谁来提出假设，谁来决定要解决哪些问题？所以，我认为这是关于公告。所以，这是宣布结果。所以，我认为现在，当然，是人类的创造力在这些系统背后，而在我看来，系统只是一个工具。这就像说伽利略和他的望远镜一样，创造力，功劳应该归于望远镜。我的意思是，这显然是伽利略制造了他后来使用的工具。我今天仍然以同样的方式看待它，即使这些工具自己学习。我认为像AlphaFold这样的东西，以及我们正在建造的东西，是科学的终极工具，也是获取新知识的工具，以帮助我们科学家获取新知识。我认为有一天会有一个AI系统，它自己会解决或提出像广义相对论这样的东西，而不仅仅是平均互联网上的所有东西，或者平均PubMed上的所有东西，尽管看到那会是什么样子会很有趣。对我来说，这有点像我们之前关于创造力的辩论，发明围棋，而不是仅仅想出一个好的围棋招法。所以，我认为，解决，我认为，如果我们想给它诺贝尔奖之类的荣誉，那么它就需要发明围棋，并凭空提出新的猜想，而不是由人类科学家或人类创造者指定。所以，我认为现在它绝对只是一个工具。尽管平均互联网上的所有东西很有趣，正如你所说，因为你知道，很多人确实认为科学就是你总是站在巨人的肩膀上。问题是你到底爬到了巨人的肩膀之上多少？也许只是吸收过去的不同结果，最终以新的视角带来突破性的想法。但这个想法可能并不像我们已经在互联网上发现的那样新颖。也许未来100年的诺贝尔奖已经在互联网上等待发现。它们可能存在。它们可能存在。我认为，这是我首先相信的重大新突破，将在未来几十年，甚至在过去十年中，发生在不同学科的交叉点。在那里，将会有一些新的联系被发现，在看似不相关的领域之间。而且，你甚至可以把DeepMind看作是神经科学思想和AI工程思想之间的跨学科。所以，我认为有这一点。然后，有一件事是我们今天无法想象的，也是为什么我们对大型模型如此有效感到惊讶的原因之一，那就是，我们有限的人类头脑很难理解阅读整个互联网会是什么样子。我认为我们可以做一个思想实验，我过去也做过，比如，如果我读完了整个维基百科，我会知道什么？我认为我们的头脑勉强能理解那会是什么样子。但整个互联网超出了理解范围。所以我认为我们只是不理解能够潜在地拥有所有这些，并且同时激活它们，然后可能有哪些可用的连接。所以，毫无疑问，有巨大的东西等待发现，就像那样。但我确实认为，还有另一种创造力，真正的火花，新的知识，从未想过的新想法，无法从已知的事物中平均出来。我认为，当然，一切都来自于，没有人凭空创造。所以，一定有线索，但只是一个独特的组合方式。我认为历史上最伟大的科学家都表现出了这一点。虽然很难知道回到他们那个时代，当他们提出这些想法时，确切的已知是什么。虽然你让我深思，因为仅仅是深入了解100页维基百科的思想实验，我认为我做不到。我对维基百科在技术主题上的表现印象深刻。所以，如果你知道100页或1000页，我认为谁能真正理解那是什么样的智能？那是一种非常强大的智能，如果你知道如何使用它并正确地整合这些信息。是的，我认为你可以走得很远，你甚至可以基于此构建思想实验，比如模拟不同的想法。所以，如果这是真的，让我运行这个思想实验，那么也许这是真的。它不是真正的发明，它就像字面意义上的知识，并用它来构建一个非常基本的模拟世界。我的意思是，有些人认为这是浪漫的，但爱因斯坦也会做同样的事情，进行思想实验。人们可以想象系统地跨越数百万页维基百科加上PubMed，所有这些东西。我认为有很多很多这样的东西可以发现，它们非常有用。你可以想象，我们希望在材料科学方面做一些这样的事情，比如室温超导体，或者其他东西。我希望有一天，我能让一个AI系统帮助构建更好、更优化的电池。所有这些机械的东西。我认为一个由模型引导的系统性搜索将是极其强大的。说到这里，你有一篇关于核聚变的文章，磁控托卡马克等离子体，通过深度强化学习。所以，你正在寻求用深度强化学习来解决核聚变。所以，它是在控制高温等离子体。你能解释一下这项工作吗？AI最终能解决核聚变吗？在过去一两年里，这非常有趣且富有成效，因为我们一直在实现我多年来收集的许多梦想项目，我希望我能帮助加速的科学领域，以及本身就非常有趣的问题，科学挑战。这就是能源。所以，能源，是的，正是如此。能源和气候。我们谈到了疾病和生物学，我认为AI可以帮助的最大的领域之一。我认为能源和气候是另一个。所以，也许它们是我最看重的两个。而聚变是AI可以帮助的一个领域。现在，聚变有许多挑战，主要是物理学、材料科学和工程学方面的挑战，以建造这些巨大的聚变反应堆并约束等离子体。当我们进入一个新领域应用我们的系统时，我们总是寻找与领域专家交谈，并尝试找到世界上最好的人合作。在这种情况下，在聚变领域，我们与瑞士的EPFL（瑞士技术学院）合作，他们非常出色。他们有一个测试反应堆，他们愿意让我们使用，我仔细地与团队核实了，我们将会小心安全地使用它。我印象深刻的是，他们说服了他们让我们使用它。而且，他们那里有一个惊人的测试反应堆，他们会在上面做各种非常疯狂的实验。而我们倾向于关注的是，当我们进入像聚变这样的新领域时，所有的瓶颈问题是什么？就像从第一原理思考一样，你知道，今天仍然阻碍聚变工作的瓶颈问题是什么？然后，我们听取聚变专家的意见，然后我们看看这些瓶颈，看看哪些是我们可以用今天的AI方法解决的。是的，对。而且，从研究的角度来看，从我们的角度来看，从AI的角度来看，这很有趣，而且它将解决他们的一个瓶颈。在这种情况下，等离子体控制是完美的。所以，你知道，等离子体，它有数百万摄氏度，比太阳还热，显然没有材料可以约束它。所以，他们必须用非常强大的超导磁场来约束它们。但问题是，等离子体很不稳定，正如你所想象的，你就像在反应堆里拿着一个小太阳，一个小恒星。所以，你知道，你想要提前预测等离子体要做什么，这样你就可以在几毫秒内移动磁场，基本上来约束它接下来要做什么。所以，如果你把它看作是一个强化学习预测问题，这似乎是一个完美的问题。所以，你知道，你的控制器，你要移动磁场。直到我们出现之前，他们都是用传统的运筹学类型的控制器来做的，这些控制器是手工制作的。问题当然是，它们无法在瞬间对等离子体正在做的事情做出反应，它们必须是硬编码的。而且，再次，知道这通常是我们的首选解决方案，我们希望学会这一点。他们也有等离子体模拟器。所以，有很多标准符合我们喜欢使用的。AI最终能解决核聚变吗？嗯，我们解决了这个问题，并在去年的Nature杂志上发表了。我们保持了等离子体在特定形状中，所以实际上，它几乎就像将等离子体雕刻成不同的形状，并控制它并保持它创纪录的时间。所以，这是聚变的一个问题，已经解决了。我有一个控制器，无论形状如何，都能约束它，并将其保持在结构中。而且，有不同的形状对能源生产更好，称为液滴等等。所以，那是一个巨大的成就。现在，我们正在与许多聚变初创公司交谈，看看在聚变领域，我们能解决的下一个问题是什么。另一个迷人的地方是，一篇题为“通过解决分数电子问题来推动密度泛函的前沿”的论文。所以，你正在处理电子的量子力学行为的建模和模拟。是的，你能解释一下这项工作吗？AI将来能模拟和模拟任意量子力学系统吗？是的，这是我关注了十多年的另一个问题，那就是模拟电子的性质。如果你能做到这一点，你基本上就可以描述元素、材料和物质是如何工作的。所以，如果你想推进材料科学，这基本上是基础性的。你知道，我们有薛定谔方程，然后我们有它的近似值，密度泛函理论。这些东西很著名。人们试图编写这些泛函的近似值，并试图描述电子云，它们将去哪里，当把两种元素放在一起时它们将如何相互作用。我们试图做的是学习一个模拟学习泛函，它将描述更多的化学类型。所以，直到现在，你可以运行昂贵的模拟，但只能模拟非常小的分子，非常简单的分子。我们希望模拟大型材料。所以，今天没有办法做到这一点。我们正在努力构建近似薛定谔方程的泛函，然后允许你描述电子在所有材料科学和材料性质中的作用，这些都由电子及其相互作用决定。所以，有一个通过泛函的模拟的良好总结。但是，它仍然接近于实际模拟的结果。那么，这项任务有多难？它涉及到运行那些复杂的模拟吗？是的，以及学习从初始条件和模拟参数映射到泛函的任务。是的，这很棘手。而且，我们已经做到了。好的一点是，我们可以运行很多模拟，分子动力学模拟，在我们的计算集群上。所以，这会产生大量数据。所以，在这种情况下，数据是生成的。我们喜欢这样的系统，这就是为什么我们使用游戏模拟器生成数据。而且，我们可以创造尽可能多的数据。而且，如果云中有任何空闲的计算机，我们就运行一些计算。计算集群计算。所有空闲的计算时间都用于量子力学。量子力学，正是如此。模拟和蛋白质模拟以及其他东西。所以，你知道，当你不在YouTube上搜索猫视频时，我们正在有效地利用这些计算机。量子化学，就是这个想法。然后，把它们用于好的用途。然后，所有这些计算数据都生成了，我们可以从中学习泛函，一旦我们学会了泛函，它们当然比运行这些模拟要高效得多。你认为有一天AI会让我们能够破解物理学，比如实现超光速旅行吗？我最终的目标一直是利用AI，这就是我一生都在研究AI的原因，是为了构建一个工具来帮助我们理解宇宙。所以，我想，这意味着物理学，以及现实的本质。所以，我认为我们还没有能够做到这一点的系统。但当我们接近AGI时，我认为这是我们应该首先应用AGI的事情之一。我想测试物理学的极限和我们对物理学的认识。有很多我们不知道的事情。科学中有一件事我发现很有趣，而且我作为科学方法的巨大倡导者，它是人类有史以来最伟大的想法之一，并允许我们进步。但我认为，作为一个真正的科学家，你会发现，你了解得越多，你就越意识到我们不知道什么。而且，我一直认为，令人惊讶的是，为什么不是更多的人困扰。你知道，每晚我都思考我们一直与之互动但我们不知道它们如何工作的所有事情：时间、意识、重力、生命。我们不能，我的意思是，这些都是自然的根本事物。我认为我们不知道如何生活的方式是，我们基于某些假设，并将我们的假设当作事实。这允许我们以某种方式将它们归类。但是，现实是，当你想到时间时，你应该提醒自己，你应该把它从架子上取下来，意识到我们有一堆假设。关于时间到底是什么，仍然有很多争论，有很多不确定性。时间是否存在一个方向？有很多根本性的问题不能仅仅做假设。也许AI允许你，不把任何东西放在架子上。不做出任何硬性假设，并真正打开它，看看到底是什么。我认为我们应该对此真正持开放态度。而且，正是如此，不要教条地对待某个特定的理论。它还将允许我们构建更好的工具，最终的实验工具，可以测试某些今天无法测试的理论，关于我们一开始谈到的宇宙的计算性质，如果那是真的，我们如何去测试它。以及，你知道，有些人，比如Scott Aaronson和其他人，推测一个特定普朗克单位的空间和时间可以包含多少信息。所以，也许你可以思考测试这些想法，如果你有AI帮助你构建一些新的精湛的实验工具。这就是我设想的，你知道，几十年后，我们将能够做到。以及，通过运行模拟可以回答哪些问题。所以，你可以想象运行一些物理模拟。所以，某种高效的。
非常像你在量子模拟工作中正在做的事情，甚至可能涉及生命的起源。所以，在阿尔法折叠的工作开始之前，就如何从一块岩石，是的，从一个静态的东西中，这个整体是如何出现的，你认为人工智能会让我们做到什么？你是否关注过这个问题？首先是你自己试图理解生命的起源，你认为生命是如何在地球上起源的？是的，也许我稍后会谈到这一点，但我认为人工智能的最终用途是最大限度地加速科学。所以，我把它想象成知识之树，如果你想象那是宇宙中所有可以获得的知识，而我们到目前为止才刚刚触及表面，即使我们自从启蒙运动以来做得相当不错，作为人类。我认为人工智能将极大地推动这一切，就像我们从阿尔法折叠中看到的那样。我想探索这棵知识之树尽可能多的可能性。我认为这包括人工智能帮助我们理解或发现模式，但也可能设计和制造新的工具，实验工具。所以，我认为所有这些，以及运行模拟和学习模拟，我们都在以一种非常初级的水平进行着。但我可以想象，在未来的几十年里，随着这种思维方式的全面发展，它将是真正令人难以置信的。我会说，如果我可视化这棵知识之树，我总觉得，对于人类来说，知识之树在所有可能的知识之树的集合中是相当小的，考虑到我们有限的认知能力，即使有了我们制造的工具，我们仍然无法理解很多事情。也许非人类系统能够走得更远，不仅仅是作为工具，而是它们本身能够理解一些东西，然后带回来。是的，很有可能。我的意思是，你刚才说的话里包含了太多东西了。我认为首先，有两件不同的事情。有我们今天理解的东西，人类的心智能理解什么，以及有什么可以被理解的全部。是的，对。所以有三个共识，你可以把它们看作是三棵越来越大的树，或者探索那棵树的更多分支。我认为有了人工智能，我们将探索所有这些。现在的问题是，如果你想到有什么可以被理解的全部，可能有一些根本的物理原因，为什么某些事情是无法被理解的，比如模拟之外或宇宙之外是什么？也许从宇宙内部是无法理解的。所以，可能有一些这样的硬性限制。你知道，也可能有更小的限制，比如我们认为时空是根本的，我们人类的大脑非常习惯于三维世界加上时间的想法，对吧？也许，但我们的工具可以超越这一点，它们不需要有那个限制，它们可以思考十一个维度，十二个维度，任何需要的维度。但是，我们仍然可能以几种不同的方式理解它。我总是举的例子是，当我玩快棋时，或者我们谈论国际象棋和这类事情时，如果你对国际象棋相当了解，你可能无法想出加里·卡斯帕罗夫的招数，但他可以向你解释，你也能理解，事后也能理解他的推理。是的，所以，我认为还有一个更深的层次，就是也许你无法发明那个东西，但通过再次使用语言，也许你可以理解并欣赏它，就像你欣赏维瓦尔第或莫扎特一样，而无需自己去创作，自己去发明音乐。所以我认为我们在所有生命形式中都看到了这一点，那将是现在的数百万倍。但你也可以想象，智能的一个标志是清晰简单地解释事物的能力，对吧？你知道，像理查德·费曼这样的人，我最敬佩的人之一，他过去总是这么说，如果你不能简单地解释一个复杂的主题，那么这就是你理解它的最好标志。是的，所以我可以看到自己以那种方式与人工智能系统进行垃圾话。是的，它会因为我的愚蠢而感到沮丧，试图向我解释一些事情。我说，那意味着你不够聪明，因为如果你足够聪明，你就能简单地解释它。当然，当然，还有另一种选择，当然，我们可以增强自己，而且没有设备，我们已经与我们的计算设备，我们的手机和其他东西共生了。你知道，像神经链接之类的东西，可以进一步推进这一点。所以，我认为我可以看到很多非常惊人的可能性。好吧，让我问你一些疯狂的问题。那么，在外面寻找朋友，你认为那里有很多外星文明吗？所以，我想这又回到了你关于生命起源的问题，因为我认为这是关键。我个人的看法是，看着这一切，而且，你知道，物理学是我的一大爱好，所以我经常思考这个问题，并与许多专家交流，阅读了很多相关的书籍。我认为我目前的感受是我们是孤独的。我认为这是最可能的情况，考虑到我们所拥有的证据。所以，原因在于，我认为，自从SETI项目以来，自从太空时代黎明以来，我们一直打开着射电望远镜和其他东西，试图探测信号。现在，如果你想想地球上人类的进化，我们很容易就比现在领先一百万年，或者落后一百万年，仅仅是因为几百年前发生了一些稍微不同的怪事。你知道，事情可能有点不同，如果导致恐龙灭绝的小行星早一百万年撞击地球，也许事情会演变成这样，我们会比现在领先一百万年。所以，这意味着，如果你想象一下人类在几百年后，甚至一百万年后会是什么样子，特别是如果我们能解决气候变化等问题，继续繁荣发展，建造人工智能，进行太空旅行，以及所有人类一直梦想的科幻小说一直谈论的事情。我们将遍布星辰。冯·诺依曼曾计算过，如果派冯·诺依曼探测器到最近的其他太阳系，然后它们只需要建造另外两个版本，然后将它们发送到下一个最近的系统，那么只需要大约一百万年。我想，一年之内，银河系中的每个系统都会有一个这样的探测器。所以在宇宙时间尺度上，这实际上是非常短的时间。而且，你知道，像戴森这样的人曾考虑过围绕恒星建造戴森球来收集所有恒星发出的能量。你知道，会有这样的建筑，可能在整个银河系中都能看到。然后，如果你想想自30年代和40年代以来我们所有的广播电视信号，想象一下一百万年的信号，现在有数百个文明这样做。当我们打开耳朵，当我们达到技术成熟的太空时代时，我们应该听到震耳欲聋的声音，我们应该加入到这种声音的合唱中。而我们所做的，我们打开耳朵，却什么也没听到。许多认为有外星人的会说，我们还没有进行彻底的搜索，也许我们搜索的频段不对，我们的设备不对，我们可能无法注意到外星生命形式与我们习惯的如此不同。但是，你知道，我并不真的相信，这不应该那么困难。我认为我们已经搜索得足够多了，如果它无处不在，它就应该无处不在。我们应该看到戴森球被建造起来，恒星在闪烁。应该有很多证据证明这些事情。然后，还有其他人争辩说，就像动物园假说一样，我们仍然是一个原始物种，因为我们还没有进行太空旅行，而且，我们有一些宇宙规则，不允许干涉，就像《星际迷航》的规则一样。但你看，我们甚至无法协调人类来应对气候变化，而我们只是一个物种。所有这些不同的外星文明，它们会有相同的优先事项，并在这些问题上达成一致的可能性有多大？即使那是真的，我们是为了我们自己的利益而处于某种动物园里，对我来说，这与模拟假说没有什么区别。因为模拟假说意味着什么？我认为，从最根本的层面来说，它意味着我们所看到的不完全是现实。有一些更深层次的东西在起作用，也许是计算性的。现在，如果我们处于一个动物园里，我们看到的一切都是全息图，是由外星人或其他东西投射出来的，对我来说，这与认为我们处于另一个宇宙没有什么区别，因为我们仍然看不到真正的现实。我意思是，还有其他解释。可能是他们沟通的方式根本不同，我们太笨了，无法理解他们更好的沟通方式。可能是，我的意思是，说出来有点傻，但我们的想法本身可能是他们沟通的方式，就像作家们谈论的缪斯一样。这听起来有点疯狂，但可能是想法，可能是我们认为来自我们自己的思想与我们心灵的某种互动，实际上是来自其他地方的生命形式。意识本身可能就是这样。可能是，但我不认为有任何合理的论据说明为什么所有外星种族都会使用这种方式。是的，有些会更原始，它们会接近我们的水平，你知道，会有整个的常态分布，有些会好斗，有些会好奇，有些会非常冷静和哲学，因为，你知道，它们可能比我们早一百万年。但它不应该是这样的。我的意思是，一个外星文明可能就像那样，通过思想交流，而其他的呢？我看不出为什么，可能数百个文明应该是这样的。它可能是一个暴力的独裁政权，那些成功的，能够以一个数量级更具破坏性的方式变得更具破坏性。当然，悲伤的想法是，要么人类非常特别，我们进行了很多飞跃，才达到了人类的意义。是的，那里有一个问题，哪个是最难的，哪个是最特别的，但如果其他人也达到了这个水平，也许还有很多人也达到了这个水平，阻止他们走得更远，成为一个多行星物种，或者走向星辰的伟大过滤器。这些是我们非常重要的问题，无论那里是否有其他外星文明，思考这些对我们都非常有益。如果我们自己毁灭自己，我们会如何做到？它有多容易？是的，你知道，这些都是宏大的问题，我思考了很久。但有趣的是，如果我们是孤独的，从伟大过滤器的角度来看，这在某种程度上是令人欣慰的，因为它可能意味着伟大过滤器已经过去了，我非常确定它们已经过去了。所以，回到你关于生命起源的问题，有一些令人难以置信的事情，没有人知道是如何发生的。显然，第一个生命形式来自化学汤，这似乎非常困难。但我猜想，多细胞生命，如果我们在别处看到单细胞生命形式，比如细菌之类的，我不会感到惊讶。但多细胞生命似乎非常困难，那个步骤，你知道，捕获线粒体，然后将其作为自己的一部分使用，你知道，当你刚刚吃掉它的时候。你会说这是最大的，最像，如果你必须选择一个“银河系漫游指南”的一句话总结，比如“哦，那些聪明的生物做了这个”，那就是多细胞生命。我认为那可能是最大的。我的意思是，有一本很棒的书叫尼克·莱恩写的《进化的十大伟大发明》，他推测了十个这样的伟大过滤器。我认为这是一个。我认为智能和有意识智能的出现，以及我们能够进行科学研究等等，也是巨大的。我的意思是，据我所知，它只在地球历史上进化过一次，所以那将是一个后期的候选者。但对于早期的候选者来说，我认为多细胞生命形式是巨大的。顺便说一句，问你一个有趣的问题，如果你能假设一下，智能的起源是什么？是我们开始在火上烹饪肉类吗？是我们不知何故发现，当我们开始合作时，我们可以变得非常强大，所以我们祖先之间的合作，以便我们可以推翻阿尔法雄性？是理查德·兰厄姆，他认为我们都是贝塔雄性，他们学会了合作来打败控制部落的独裁者，威权阿尔法雄性。还有其他解释吗？有没有像《2001太空漫游》中的那种石碑降临地球？嗯，我认为，我认为你提出的所有这些都是很好的候选者，火和烹饪，对吧？所以，这显然很重要，你知道，能源效率，烹饪我们的肉，然后能够更有效地食用它，获取能量。我认为这非常重要。然后利用火和工具。我认为你关于部落合作方面是正确的，而且可能还有语言。是的，因为这可能就是我们能够超越尼安德特人以及可能合作性较差的物种的原因。所以，这可能是事实。工具制造，长矛，斧头。我认为现在很清楚，人类对许多大型动物的灭绝负有责任，尤其是在美洲，当人类到达那里时。所以，你可以想象一旦你发现了工具的使用，它会多么强大，对动物来说又是多么可怕。所以我认为所有这些都可以是解释。你知道，有趣的是，这有点像通用智能，一开始拥有一个大脑，尤其是通用大脑而不是专用大脑，成本非常高，因为我们大脑使用的能量，我认为是身体能量的20%，这是巨大的。当你想到国际象棋时，我们过去常说的一件有趣的事情是，就像一个赛车手在整个方程式赛车比赛中使用的能量一样，只是玩一局高水平的国际象棋，你可能不会认为只是坐在那里，因为大脑消耗了如此多的能量。所以，为了让一个动物，一个生物体证明这一点，必须有巨大的回报。而拥有半个大脑或半个智能，比如猴子大脑的智商，其问题在于，直到人类水平的大脑，你都无法清楚地证明这一点，在进化上。但是，你如何做到这一点？这非常困难，这就是为什么我认为它只发生过一次，从动物的专用大脑到人类的通用、强大的大脑。这使我们能够发明现代世界。而且，你知道，跨越这个障碍需要很多。我认为我们也在人工智能系统中看到了同样的情况，那就是，也许直到最近，为特定问题（如国际象棋）量身定制解决方案比构建一个可能做很多事情的通用学习系统更容易。因为最初，该系统将比专用系统差得多，效率也低得多。所以，人类思维的有趣怪癖之一，这个进化系统，它似乎是有意识的，我们不太理解的东西，但它似乎非常非常特别，它拥有主观体验的能力，吃饼干的感觉，它的美味，或者看到颜色，以及类似的东西。你认为为了解决智能问题，我们也需要同时解决意识问题吗？你认为AGI系统需要有意识才能真正智能吗？是的，我们实际上对此考虑了很多。我认为我的猜测是，意识和智能是双重可分离的，你可以拥有一个而没有另一个，反之亦然。我认为你可以看到这一点，在意识方面，我认为一些动物和宠物，如果你有宠物狗或其他东西，你可以看到一些高等动物和海豚之类的，它们有自我意识，非常善于社交，似乎会做梦，你知道，那些被认为是某种程度上有意识和自我意识的特质。但是，它们并不那么聪明，对吧？所以，按照智商标准或其他标准，它们并不那么聪明。也有可能我们对智能的理解是有缺陷的，比如给它一个智商。当然，也许狗能做的事情实际上在智能的道路上已经走了很远，而我们人类只是能下棋，也许还能写诗。但如果我们回到AGI和通用智能的想法，你知道，狗是非常专业的，大多数动物都相当专业，它们在自己擅长的事情上可能非常出色，但它们就像精英运动员一样。它们做得非常好，因为它们的大脑得到了优化。它们以某种方式说服了整个人类人口来喂养它们和为它们服务。所以，在某种程度上，它们在控制。是的，正是如此。我们以一种疯狂的程度共同进化了，包括狗摇尾巴和抽鼻子。我们发现它们不可抗拒地可爱。但是，我认为你也可以在另一方面看到智能。比如人工智能系统，它们在某些事情上非常聪明，比如下围棋和国际象棋，但它们一点也不像你我那样有意识。而且，我认为实际上构建人工智能，这些智能构造，是探索意识之谜的最佳方式之一，将其分解。因为我们将拥有在某些事情上非常聪明的设备，或者有能力做某些事情，但可能没有任何自我意识的迹象。事实上，我主张，如果有选择，首先构建非有意识的系统，人工智能系统，它们只是工具，直到我们更好地理解它们和它们的能力。所以，关于这个话题，不仅仅是作为DeepMind的CEO，而是作为一个人类，让我问你一个关于一个特别的轶事证据，就是那个谷歌工程师，他评论说，或者相信语言模型Lambda的某个方面表现出了感知能力。你刚才说你认为有责任构建非有意识的系统，而这个特定工程师的经历，我认为我很想听听你对这类事情的普遍看法，但我认为这种情况会越来越多，不仅仅是工程师，而是那些没有工程背景的人开始与日益智能的系统互动。我们拟人化它们，它们开始与我们产生深刻的、有影响力的互动，以至于当我们失去它们时，我们会想念它们。我们确实觉得它们是活着的实体，有自我意识的实体，甚至可能我们把感知投射到它们身上。那么，你对这个特定的系统有什么看法？你有没有遇到过有感知能力的语言模型？不，我没有。你如何看待当你觉得这个系统有一些感知能力的时候？所以，这是一个有趣的问题，而且，当然，一个非常根本的问题。首先要说的是，我认为我们今天拥有的任何系统，我都会说，甚至没有一丝意识或感知能力。这是我与它们每天互动时的个人感受。所以，讨论那位工程师所说的内容还为时过早。我理解，我认为目前更多的是我们自己思维方式的一种投射，那就是在几乎任何我们认为有目的和方向的事物中看到，我们的头脑被训练来解释，基本上是在事物中解释代理，即使是无生命的物体有时也是如此。当然，对于一个语言系统来说，因为语言对智能至关重要，所以我们很容易拟人化它。我的意思是，回到过去，即使是第一个，你知道，最愚蠢的模板聊天机器人，Eliza，以及最初的聊天机器人在60年代的同类产品，在某些情况下欺骗了一些人。它们假装是心理学家，基本上只是把问题重复给你。有些人相信这一点。所以，我认为我们不能，这就是为什么我认为图灵测试作为一个正式测试有点缺陷，因为它取决于评判者的复杂程度，以及他们是否有资格做出区分。所以我认为我们应该与顶尖哲学家交流，比如丹尼尔·丹尼特和戴维·查尔莫斯等人，他们显然对意识进行了深入思考。当然，意识本身还没有，没有一个公认的定义。如果我要推测一下，我喜欢的操作性定义是，当信息被处理时，它的感觉方式。我认为可能是马克斯·泰格马克提出的。我喜欢这个想法，我不知道它是否有助于我们朝着更操作性的方向发展。但我认为这是一个很好的视角。我认为我们可以从神经科学中看到一些必需的先决条件，比如自我意识，我认为它是必需的，但不是充分的组成部分。这种自我和他者的概念，以及一套连贯的、随时间保持连贯的偏好。这些东西可能是记忆。这些东西可能是感知或有意识的生命所需要的。但是，我认为对我们来说困难的是，当我们接近AGI和更强大的系统时，我们如何做出这个判断？一种方式是图灵测试，这是一种行为判断，系统是否表现出人类有意识的生命所表现出的所有行为？它是否回答了正确的问题？它说的话是否正确？它是否与人类无法区分？等等。但我认为还有第二个原因，让我们人类将彼此视为有意识的。为什么我们这样认为？我与丹尼尔·丹尼特争论过，我认为还有一个经常被忽视的原因，那就是我们运行在相同的基底上。所以，如果我们表现出的行为与人类大致相同，而且我们运行在相同的碳基生物基底上，我们头骨里那几磅的黏糊糊的肉，那么最简洁的解释是，你和我感觉到的东西是一样的。但我们永远不会有第二部分，机器与人类的基底等价性。所以，我们只能根据行为来判断。我认为基底等价性是我们做出我们有意识的假设的关键部分，事实上，即使是对高等动物，我们认为它们可能有意识，因为它们表现出一些我们期望有意识动物的行为，而且我们知道它们是由相同的生物神经元组成的。所以，我们将不得不提出解释或模型来弥合机器和人类之间的基底差异，才能超越行为。对我来说，实际问题非常有趣且非常重要。当你拥有数百万甚至数十亿人相信你拥有AI的感知能力，相信那位谷歌工程师的信念，我认为这显然是近期未来，当然是在AGI的道路上。这如何改变世界？AI系统帮助这数百万人有什么责任？还有，道德上呢？因为你可以通过与一个正在伪装的系统建立有意义的深刻体验来让很多人快乐，在它真正实现之前。而且，我们有权这样做吗？谁来决定什么是正确的做法？AI应该永远是工具吗？为什么我们要限制AI永远是工具，而不是朋友？我认为，这些都是非常棒的问题，也是至关重要的问题。我们一直在思考这个问题，从DeepMind开始之前，因为我们计划成功，无论在2010年看起来多么遥远。我们一直将道德考量作为DeepMind的基本原则。我目前对语言模型和大型模型的看法是，它们还没有准备好。我们还没有足够了解它们，在分析工具和护栏方面，它们能做什么，不能做什么，等等，就大规模部署它们而言。因为我认为，仍然存在重大的道德问题，比如AI系统一开始是否应该总是声明自己是AI系统？很可能是的。你如何回答那些关于人们可能对AI系统产生的感受的哲学问题，也许是错误归因的？所以我认为在负责任地大规模部署这些系统之前，还有很多研究需要做。至少这是我目前的立场。随着时间的推移，我非常有信心我们将拥有这些工具，比如可解释性问题和分析问题。然后，在道德困境方面，我认为重要的是要超越科学，这就是为什么我认为哲学、社会科学甚至神学等学科都与之相关。你知道，艺术和人文科学，人类意味着什么？人类的精神是什么？以及如何增强它，以及人类的状况，让我们体验我们以前从未体验过的事情，并改善整个人类状况和整个人类。你知道，获得巨大的丰富，解决许多科学问题，解决疾病。我认为这是我们正在进入的时代，如果我们做得对的话。但是我们必须小心。我们已经通过社交媒体看到了双重用途技术如何被滥用，首先是被坏人，天真的人，或者疯狂的人。所以，这是对现有双重用途技术的普通滥用。然后，当然，还有AI必须克服的额外问题，最终它可能有自己的代理权。所以，它本身可能是好的或坏的。所以我认为这些问题必须非常谨慎地处理。我建议使用科学方法，在假设生成、仔细对照测试方面，而不是在现实世界中进行A/B测试。因为对于像AI这样强大的双重用途技术，如果出了问题，在你修复它之前，可能会造成很大的伤害。它不像一个成像应用程序或游戏应用程序，如果出了问题，相对容易修复，而且伤害相对较小。所以我认为，这就像老生常谈一样，拥有巨大的力量就意味着巨大的责任。我认为AI也是如此，考虑到我们面前巨大的机遇。我认为我们需要很多声音，尽可能多的输入到诸如系统设计、它们应该拥有的价值观以及它们应该被置于什么目标等问题上。我认为需要尽可能广泛的声音群体，而不仅仅是技术人员，来输入这些问题，并对这些问题发表意见，尤其是在部署这些系统时，这才是真正关键的时候，它真正影响到普通人，而不是基础研究。这就是为什么我说，我认为作为第一步，如果我们有选择的话，构建这些系统作为工具会更好。我并不是说它们永远不应该超越工具，因为当然，它们有潜力远远超出工具。但是，我认为这将是一个很好的第一步，以便我们能够小心地实验，理解这些东西能做什么。所以，从工具到有感知实体的飞跃，应该非常谨慎。是的，让我问一个黑暗的个人问题。你是AGI社区中最聪明的人之一，也是社区中最善良、可以说是最受喜爱的人之一。也就是说，创造一个超级智能的AI系统将是世界上最强大的事物之一，无论是工具还是其他。俗话说，权力导致腐败，绝对的权力导致绝对的腐败。你很可能是那些人之一，也许是最有可能控制这样一个系统的人。当你谈论这些系统时，你是否考虑过权力的腐蚀性？就像所有独裁者和过去造成暴行的人，总是认为他们在做好事，但他们没有做好事，因为权力污染了他们的思想，让他们不知道什么是好，什么是坏。你是否考虑过这些事情，还是我们只关注语言建模？不，我一直在考虑这些。我认为，有什么防御措施？我认为一件事是保持非常脚踏实地和谦逊，无论你做什么或取得什么成就。我努力做到这一点。我的最好的朋友仍然是我在剑桥大学本科时的朋友，我的家人和朋友非常重要。我一直认为自己是一个跨学科的人，这有助于保持谦逊，因为无论你在一个主题上有多好，总会有人比你做得更好。而且，从头开始学习一个新主题或新领域总是很谦逊的。对我来说，过去五年是生物学，这是一个巨大的领域，我非常喜欢这样做。但它有助于让你脚踏实地，让你保持开放的心态。然后另一件重要的事情是，在你的公司或组织里有一群非常棒的人，他们自己也非常有道德和脚踏实地，并帮助你保持这种状态。最终，为了回答你的问题，我希望我们能成为孕育AI的重要组成部分，并使其成为有史以来对人类最有益的工具或技术，让我们进入一个充满巨大丰富和治愈疾病的世界，并解决我们面临的许多重大挑战。最终，帮助人类的终极繁荣，去旅行到星星，找到那些外星人，如果它们在那里的话，如果它们不在那里，找出原因。这都是即将到来的，这就是我一直梦想的。但我认为，AI是一个太大的想法，它不会是，会有一批先驱者先到达那里。我希望我们在先锋行列，这样我们就可以影响它的发展方向。我认为，建造AI的人，他们来自哪个文化，以及他们拥有什么价值观，这很重要。因为我认为，尽管AI系统将自己学习大部分知识，但系统中会留下创造者文化和价值观的残余。而且，关于地缘政治，有有趣的问题需要讨论。你知道，不同的文化，我们现在生活在一个比以往任何时候都更加分裂的世界，不幸的是，我认为在全球合作方面，我们在气候变化等问题上看到了这一点，我们似乎无法在全球范围内合作应对这些紧迫的问题。我希望随着时间的推移，这种情况会发生变化。也许，如果我们进入一个巨大丰富的时代，我们就不必那么有竞争力了，也许我们可以更具合作性，如果资源不那么稀缺。确实，在权力腐蚀和导致破坏性事物方面，过去的一些暴行似乎发生在资源受到严重限制的时候。我认为这是第一点。我不认为这足够。我认为稀缺性是导致竞争，破坏性，零和博弈思维的一个因素。我希望我们都能生活在一个正和的世界里，我认为为此你必须消除稀缺性。不幸的是，我认为这不足以实现世界和平，因为还有其他腐蚀性的东西，比如想要凌驾于他人之上，以及这类事情，这不一定能通过仅仅是丰富来满足。但我认为这会有帮助。而且，我认为，但最终，AI不会由任何一个人或一个组织来运行。我认为它应该属于世界，属于人类。我认为也许有很多方式会发生这种情况，最终，每个人都应该有发言权。你对高中和大学的年轻人有什么建议吗？如果你对AI感兴趣，或者对对世界产生重大影响感兴趣，他们应该怎么做才能拥有一个他们可以引以为豪的职业，或者拥有一个他们可以引以为豪的生活？我喜欢给下一代做演讲。我告诉他们的是两件事。我认为最重要的事情是学习和了解你年轻时真正热爱的东西。首先，有两件事。一是找到你真正热爱的东西。我认为你可以通过探索尽可能多的事情来做到这一点，当你年轻的时候，你有时间，你可以承担那些风险。我还会鼓励人们以独特的方式寻找事物之间的联系。我认为这是找到热情的绝佳方式。第二件事是了解你自己。花很多时间去理解你如何最好地工作，比如什么时间工作最有效，你如何学习，你如何应对压力。在各种场景下测试自己，并努力改进你的弱点，同时也要找出你独特的技能和优势，然后磨练它们。这样，它们将是你未来在世界上的巨大价值。如果你能将这两件事结合起来，找到你真正兴奋的热情，并与你独特的强大技能相交汇，那么你就掌握了了不起的东西。我认为你可以对世界产生巨大的影响。那么，关于了解你自己，这是有趣的。这是有趣的。关于日常生活，完美的，富有成效的一天，Demis的日常生活？也许，也许这些天，你，有很多事情要做。也许你年轻一点，可以专注于一个演示项目。你几点起床？你是夜猫子吗？你早上早起吗？有什么有趣的习惯？你一天喝多少杯咖啡？你用什么电脑？设置是什么？多少屏幕？什么类型的键盘？我们是在谈论Emacs，Vim，还是更现代的东西？所以，这是一堆问题。那么，也许，日常生活，完美的一天包含什么？这些天，这与十到二十年前大不相同。十到二十年前，那将是，你知道，一整天的研究，个人研究，或者编程，做一些实验，神经科学，计算机科学实验，阅读大量的研究论文。然后在晚上，你知道，阅读科幻小说，或者玩一些游戏。但有很多专注。比如深度专注工作，无论是编程还是阅读研究论文。是的，是的。所以，那将是大量的深入，专注的工作。这些天，在过去的，我想，你知道，五到十年，我有一个非常适合我的结构。那就是，我是一个彻头彻尾的夜猫子，一直都是。所以我为此进行了优化。所以，你知道，我基本上是正常工作一天，大约上午11点到办公室，工作到晚上7点左右。在办公室里，我会安排密集的会议，贯穿整个时间。与尽可能多的人。那是我的协作管理时间。然后我回家，花时间和家人朋友在一起，吃晚饭，放松一下，然后我开始第二天的工作。我称之为我的第二天工作，大约晚上10点，晚上11点开始。那就是一直到凌晨，早上4点，5点，我将进行思考和阅读，写研究论文。可悲的是，现在没有时间写代码了，但考虑到我拥有的时间，现在效率不高。但那是我进行长时间的思考和计划的时候。然后，也许通过电子邮件或其他方式，我会向我的团队发出很多事情，让他们第二天早上处理。第二天早上，当你思考一个问题时，你是在谈论一张纸还是钢笔？有没有独立的结构？是的，我喜欢流程。我仍然最喜欢用纸和笔来解决问题。但是，这些天，在屏幕上阅读研究论文太有效率了。我仍然经常打印出来。我仍然更喜欢在上面做标记，我发现当你在使用实体笔和纸时，它能更快地进入大脑，并且在大脑中停留得更牢固。你还在用物理笔和纸做笔记吗？我有很多电子笔记，也有很多我家里使用的笔记本。在一些最具挑战性的下一步，比如我们都不知道的，你正在研究的事情，需要深入思考，对吧？比如，什么是正确的问题？什么是正确的方法？因为你将不得不投入大量的时间，整个团队，他们将不得不追求这件事。什么是正确的方法？强化学习在这里会起作用吗？什么是正确的尝试？什么是正确的基准？我们需要从头开始构建一个基准。所有这些问题。是的，我认为所有这些都在夜间阶段。而且，我发现，我一直发现早晨的安静时光，当每个人都在睡觉时，外面非常安静。我喜欢那个时间。那是黄金时间，就像凌晨一两点到三点之间。放一些音乐，一些鼓舞人心的音乐，然后进行深入的思考。那就是我阅读哲学书的时候，斯宾诺莎是我最近最喜欢的。我可以读到历史上伟大的科学家，他们是如何做事的，他们是如何思考的。那就是我进行所有创造性思考的时候。而且，我认为人们建议，你知道，你把你的创造性思考集中在一个时间段里。我就是这样组织一天的，我不会被打断，因为显然那个时候没有人醒着。所以我可以，我可以深入，深入地进入状态。晚上做事的另一个好处是，如果我真的找到了什么，或者我真的深入研究了什么，我可以选择延长它，我会一直工作到早上六点， whatever。然后我第二天就会付出代价。是的，我会有点累，我不会是最好的状态，但没关系。我可以根据我第二天的日程安排来决定，以及我在这段特定的想法或创意想法上的进展情况，我愿意付出第二天的代价。所以，我认为这比早上四点起床的早起者更灵活。他们也可以在那个黄金时间段里工作，但然后他们的日程开始于早餐，早上8点， whatever，他们有第一个会议，然后就很难了。如果你处于心流状态，你必须重新安排一天。我必须看到那种特殊的思维线索，你太投入了，这就是一些最伟大的想法可能出现的地方，当你沉浸其中，直到深夜。是的。而且，对于会议来说，你是在很短的时间内处理非常困难的问题。所以，你必须进行某种第一原理思考。就像，问题是什么？
事物状态，正确的下一步是什么？是的，你必须非常擅长上下文切换，这是最难的事情之一，因为尤其是当我们做这么多事情时，如果你包括我们所做的所有科学事情，我们正在研究的科学领域，它们本身就是整个，你知道的复杂领域，你必须跟上，但我喜欢它，我一直以某种方式是一个通才，这实际上是我在国际象棋之后的职业生涯中所发生的事情，我停止下棋的原因之一是我开始接触计算机，但我也开始意识到外面还有许多其他很棒的游戏可以玩，所以我一直都是那种倾向于跨学科的人，世界上有太多有趣的事情，不能把所有时间都花在一件事情上，所以你提到了斯宾诺莎，我必须问关于生活的那个巨大到荒谬的问题，你认为这一切的意义是什么？我们人类为什么在这里？你已经提到也许宇宙创造了我们，这就是你认为我们在这里的原因吗？是为了理解宇宙如何运作？是的，我认为我的回答是，至少是我正在过的生活，是为了获得和理解知识，你知道的，获得知识和理解宇宙，我认为这就是我的想法，我看不出比这更高的目的了，如果你回想一下古希腊人，你知道的，获得知识的美德，我认为这是，我认为这是少数真正的美德之一，就是理解我们周围的世界以及背景和人性，而且，而且我认为如果你这样做，你会变得更有同情心，更了解自己，更宽容，所有这些，我认为所有这些其他事情都可能由此产生，对我来说，你知道的，理解现实的本质，这是最大的问题，这里发生了什么？有时我口语化的说法是，这里到底发生了什么？它是如此神秘，我觉得我们身处一个巨大的谜题中，而且，而且世界似乎也，宇宙似乎以一种方式构建，你知道的，为什么它以一种科学甚至可能的方式构建？你知道的方法，科学方法有效，事物是可重复的，它似乎几乎是以一种有利于获取知识的方式构建的，所以我觉得，而且你知道的，计算机为什么甚至可能存在？这难道不令人惊讶吗？计算电子设备竟然可能存在，而且它们是由沙子制成的，我们最，你知道的，我们拥有的最常见的元素，你知道的，硅，在地壳上，它们可能由钻石或其他东西制成，那么我们就只有一台电脑了，是的，没错，所以很多事情对我来说都有点可疑，这肯定听起来像我们之前谈论过的关于设计一款可以长时间玩得很开心的游戏的东西，而且这确实像这个谜题，正如你提到的，你对它的了解越多，你就越意识到自己知道得有多少，所以它让你谦卑，但又因学习更多的可能性而让你兴奋，这是我们正在进行的，一个了不起的谜题，嗯，就像我提到的，在世界上所有的人中，你很有可能是创造出达到人类智能水平并超越它的AGI系统的人，所以如果你有机会，而且很有可能你会是那个走进房间与系统交谈的人，也许你只能问一个问题，如果你问，你会问什么问题？我可能会问，现实的真正本质是什么？我认为这是我不会知道我是否会理解答案的问题，因为也许答案是42之类的，但是，这就是我会问的问题，然后系统会深深地叹一口气，比如，好吧，我该如何向，抱歉，确切地说，好吧，让我，我没时间解释，也许我会给你画张图，我的意思是，你甚至如何开始回答这个问题？嗯，我认为它会，你会认为答案可能是什么样的？我认为它可以，它可以开始看起来像，物理学的更基本解释将是开始，你知道的，更仔细地说明这一点，手把手地带你了解如何证明这些事情，也许让你瞥见你今天在物理学中完全错过的东西，确切地说，这里，这里有一些瞥见，就像有一个更，一个更复杂的世界，或者一个更简单的世界，或者一些更深层次的，也许更简单的解释，是的，关于事情，比我们知道不起作用但我们仍然在不断添加的标准物理模型，嗯，嗯，这就是我认为解释的开始样子，它将开始包含我们几千年来一直在思考的许多奥秘，比如，你知道的，意识，生命和重力，所有这些，是的，给我们一些解释这些事情的瞥见，是的，嗯，德马斯，我们这个巨大谜题中的一位特殊人类，今天你能从更大的谜题中停下来，为我解决这个小小的对话谜题，这真是莫大的荣幸，也是一种享受，谢谢，谢谢，我真的很享受，谢谢莱克斯，感谢收听与德马斯的这次对话，请通过描述中的赞助商来支持这个播客，现在让我用埃德斯加·迪克斯特拉的一句话来结束，计算机科学与计算机的关系，不比天文学与望远镜的关系更密切，感谢您的收听，希望下次再见。