Transcription
以下是与 NIST 的科学家 Jeff Shaneline 的对话，他热衷于光电智能。我们深入探讨了会让 Jim Keller 感到骄傲的计算硬件。我强烈建议您搭乘这趟神经形态计算和超导电子的过山车之旅，并紧紧抓住。Jeff 是技术信息方面的杰出沟通者，因此与他谈论一些支持此播客的物理学和工程学知识，真是一件乐事。请查看描述中的赞助商。这是 Lex Fridman 播客，这是我与 Jeff Shaneline 的对话。
我读到了一篇您撰写的、名为“光电智能”的引人入胜的论文，所以也许我们可以从谈论这篇论文开始，并从基本问题开始：什么是光电智能？
是的，在那篇论文中，我试图描述的概念是一种构建受大脑启发的计算的架构，它利用光进行通信，并结合电子电路进行计算。在那篇特定的论文中，我们在 NIST 的项目目前正在进行的许多工作都集中在用于计算的超导电子。我将解释原因，但这可能在上下文中更有意义，如果我们首先描述它是什么，与半导体电子形成对比。那么，花几分钟时间描述一下半导体电子是否值得？也许甚至值得回顾一下，在谈论超导性之前，先谈谈电和电路以及电路是如何工作的，对吧？
好的，计算机是如何工作的，Jeff？
嗯，我不会详谈让计算机工作的方方面面，但让我们谈谈基本构件：晶体管。甚至更基本的是半导体材料，比如硅。所以，在硅中，硅是一种半导体。这意味着在低温下，没有自由电荷，没有自由电子可以移动。所以，当你谈论电时，你主要谈论的是电子移动以建立电流，它们在电压的影响下移动。所以，你施加电压，电子就会移动，这些可以被测量为电流，你可以通过这种方式表示信息。
因此，半导体之所以特别，是因为它们非常易于塑形。所以，如果你有一种半导体材料，你可以通过将不同的元素、不同的原子放置在晶格位置上来改变可以移动的自由电子的数量。那么，什么是晶格位置呢？半导体是一种晶体，这意味着构成材料的所有原子都位于精确的位置，这些位置在空间上是完全周期性的。所以，如果你从任何一个原子开始，沿着所谓的晶格矢量前进，你就会到达另一个原子，再到另一个原子，再到另一个原子。对于高质量的器件来说，重要的是它是一个完美的晶体，缺陷很少。但是，你可以有意地用磷原子等来替换硅原子，然后你就可以改变该区域空间中自由电子的数量，那里存在过量的所谓掺杂剂。
所以，想象一个具有左端子和右端子的设备。如果你在这两者之间施加电压，你就可以使电流在它们之间流动。现在，我们在顶部增加一个第三个端子。根据左端和右端之间的电压以及第三个电压，你可以改变电流。所以，在数字电子电路中，通常的做法是保持从左到右的固定电压，然后改变施加在所谓的栅极（晶体管的栅极）上的电压。所以，你所做的是，你让左侧和右侧都有过量的电子，中间的电子很少。你通过在晶格中空间上改变不同掺杂剂的浓度来实现这一点。然后，当你对栅极施加电压时，你可以让电流流动，也可以将其关闭。
所以，这就是你的零和一。如果你施加电压，电流就可以流动。该电流代表数字一。从那个基本元素开始，你可以构建出对我们的社会产生了深远影响的数字电子电路的所有复杂性。
现在您在谈论电子，您能告诉我我们谈论的规模是怎样的吗？在硅中，能够大规模生产这些栅极？
是的，规模体现在几个不同的方面。在硅晶格的尺度上，两个原子之间的距离是零点五纳米。所以，人们经常喜欢将这些东西与人类头发的宽度进行比较。我认为它比人类头发的宽度小六个数量级，大概是那个数量级。所以，非常小。我们在这里谈论的是单个原子，而电子在那种环境中就是那个尺度。但规模很重要还有另一个方面，在数字电子学中，这也许更重要，尽管它们是相关的。规模指的是晶体管的大小。例如，我说你有一个左触点，一个右触点，它们之间有一些空间，栅电极就位于那里。这被称为沟道宽度或沟道长度。而我们所认为的摩尔定律，或者硅微电子电路性能的持续提高，就是能够以惊人的速度将那个尺寸、那个特征尺寸做得越来越小。我的意思是，自 20 世纪 60 年代以来，这个特征尺寸一直在稳定地每隔几年就减小一次。这正是摩尔在 60 年代预测的。他认为这至少会持续二十年，而实际上已经远远超过了。
所以，这就是为什么我们能够在基本上相同大小的芯片上集成越来越多的器件，越来越多的晶体管，越来越多的计算能力。所以，用户坐下来，基本上什么都不做。您正在运行相同的计算机程序，但这些器件越来越小，因此它们更快，能效更高，我们所有的计算性能都在不断提高，而我们不必过于费力地思考我们正在做什么，比如软件设计之类的。我绝对不是说软件方面没有创新，用户方面当然有。但从硬件角度来看，我们只是获得了通过这种不断缩小的特征尺寸来实现的持续性能改进的礼物，而功耗却保持相似。在最近几十年里，功耗并没有继续缩小。但即便如此，我们还是度过了一段非常美好的时光。现在，我们已经达到了七纳米的栅极，这已经是目前的尖端技术了。也许 GlobalFoundries 正在努力将其推得更低。我跟不上预测的走向。但七纳米的晶体管，沿着导电路径的长度只有几十个原子。所以，一个天真的半导体器件物理学家会认为，如果没有某种革命性的思维方式来思考我们的器件物理学，你就无法走得更远了。
关于这些器件的大规模生产，有什么值得一提的吗？
是的，这是另一件事。我们是如何能够制造出越来越小的晶体管的呢？像英特尔、GlobalFoundries 这样的公司在光刻技术上投入了大量资金。那么，这些芯片到底是如何制造的呢？其中一个最重要的步骤是所谓的离子注入。所以，你从一个相当原始的硅晶体开始，然后使用光刻技术，这是一种可以使用光图案化不同形状的技术，你可以定义你将要用不同种类的离子注入哪些空间区域，这些离子将改变那里的局部电学特性。所以，通过使用越来越短的波长的光和不同种类的光学技术以及不同种类的光刻技术，这些超出了我的知识范围的东西，你就可以简单地缩小特征尺寸。你说你达到了七纳米，那么使用的光的波长就超过一百纳米，这已经深入紫外线了。那么，这些微小的特征是如何图案化的呢？在这方面有大量的创新，但尽管如此，它在不断缩小的特征尺寸方面一直非常稳定。现在的问题是，你能做得更小吗？即使你做到了，你还能继续获得性能改进吗？但这是另一种规模化，这些公司能够做到。
所以，你想象一个带有处理器的芯片。那么，这个芯片并不是作为一个芯片制造出来的，它是在晶圆上制造的。通过光刻技术，你基本上可以在晶圆上的不同芯片上打印相同的图案。多层，几十层，可能在成熟的代工厂工艺中，有大约一百层。而且你也在越来越大的晶圆上这样做。这是过去几十年来发生的规模化的另一个方面。所以，现在你有一个 300 毫米的晶圆，它就像披萨一样大，上面可能有上千个处理器。然后你用锯子把它切开。然后你就可以以如此便宜的价格出售这些东西，因为制造过程如此 streamlined。我认为像硅微电子学这样革命性的技术必须具有那种制造可扩展性。我将强调，我认为这是由物理学实现的。当然，人类的创造力也参与其中，但至少从我的角度来看，它确实看起来像是我们宇宙的物理学允许我们生产它，而且我们已经发现了更多，而不是我们发明了它。虽然当然人类发明了它，但几乎就像它在那里等着我们去发现一样。
您是指整个过程，还是您特别指光刻技术，比如涉及的光学技术？我的意思是，整个缩减到七纳米的规模，您能够让电子不相互干扰，以至于您仍然可以拥有这样的栅极，这是由我们世界的物理学实现的，在空间和时间上都非常特殊。您刚才说的所有事情。
所以，从硅材料本身开始。硅是一种独特的半导体。它具有非常理想的特性，可以制造一种非常实用的特定类型的晶体管。所以我提到硅有……嗯，当你制造晶体管时，你有一个栅极触点，它位于导电沟道之上。根据你施加的电压，你会将更多的载流子拉入导电沟道，或者将它们推开。所以，它变得或多或少导电。为了让它工作而不至于将这些载流子直接吸入那个触点，你需要一个非常薄的绝缘体。而规模化的一部分就是逐渐减小那个栅极绝缘体的厚度，这样你就可以使用大致相似的电压，仍然具有相同的电流-电压特性。
所以，用于此的材料，或者我应该说最初用于此的材料是二氧化硅，它自然地生长在硅表面上。所以，你将硅暴露在我们呼吸的空气中。嗯，如果你在制造，你会净化这些气体。但即便如此，那种所谓的天然氧化物也会在那里生长。在整个元素周期表中，几乎没有其他材料的栅极绝缘体能像二氧化硅那样好。这完全是因为硅和氧之间相互作用的物理学。如果不是这样，晶体管就无法以它们所拥有的那种能力程度来执行。这与氧化物的生长方式、缺陷密度的降低有关。它的绝缘性意味着它基本上是能量间隙。你可以施加非常大的电压，而不会有电流泄漏。所以，这就是物理学。
还有其他事情。硅在元素意义上是一种半导体。你只需要硅原子。许多其他半导体需要两种不同种类的原子，比如第三族和第五族的化合物。这会让你面临许多可能发生的缺陷，其中一个原子没有完全位于晶格位置上，而是被另一个原子取代，这会降低性能。但另一方面，就像您提到的制造方面，我们有能够产生非常短波长光的声源。光刻是如何发生的？你实际上将这种聚合物放在晶圆顶部，然后用光照射它，然后你使用水性化学处理来溶解被光照射的区域，留下未被照射的区域。我们有这些聚合物，它们具有正确的性质，当光子击中时，它们会引起断裂事件，聚合物会分裂。我的意思是，这也许并不太令人惊讶，但我不知道。这一切都汇集在一起，形成了一个非常复杂的、可制造的生态系统，其中可以设计出非常先进的技术，而且效果相当好。令人惊讶的是，正如您所说，使用像一百纳米左右的波长，您仍然能够在这种聚合物上实现七纳米的精度。是的，我听说过四纳米之类的说法。是的。
如果我们能在此暂停一下，我们将回到超导性。但在整个历史进程中，您认为工程学和物理学交叉领域中最美丽的是什么？在您看来，在整个硅和光刻过程中，人们为了推动摩尔定律而取得的成就中，最美丽的是什么？是早期，晶体管本身的诞生？是某个特别酷的小东西，也许很多人不知道？您认为在这个整个过程旅程中最美丽的是什么？
最美丽的东西有点难回答。让我试着稍微回避一下，只是说，在回顾硅微电子学的历史时，最让我印象深刻的是，当量子力学被开发出来时，人们很快就开始将其应用于半导体，并且普遍认为这些是迷人的系统，人们关心它们的基本物理学，也关心它们作为器件的实用性。然后，晶体管在 40 年代末被发明出来，在一个相对粗糙的实验装置中，你只是将一个金属电极塞进半导体里。那就是全部。这很巧妙。这些人能够让它工作。
但我想说的是，真正让我印象深刻的是，在早期，有许多不同的半导体被考虑过。它们具有不同的特性、不同的优点和缺点。大多数人认为锗是最佳选择。它有一些不错的特性，与电子在晶格中移动的方式有关。但其他人认为，第三族和第五族的化合物半导体也具有非常非凡的特性，可能有利于制造最佳器件。所以，有不同的团队在探索这些。这很好，科学就是这样运作的。你必须广泛撒网。
但然后，我发现令人惊讶的是，为什么是硅赢了？因为锗不是一个无用的材料，它也不存在于技术中，化合物半导体也是如此。它们都在做令人兴奋和重要的事情，应用稍微更小众一些。而硅是微电子学的半导体材料，它是数字计算的平台，它改变了我们的世界。为什么硅赢了？这是因为一系列非凡的品质，没有一个品质是明显的赢家，但它在许多不同的影响之间做出了权衡。它拥有那种出色的栅极氧化层，使我们能够如此快速、廉价、轻松地制造出 MOSFETs，这些高性能晶体管，而无需进行大量的材料开发。硅的带隙……实际上，在半导体中，有一个重要的参数叫做带隙，它告诉你，在能量图中，电子填满了某个能级，然后有一个电子不允许拥有某个能量范围的间隙，然后是另一个能量级。那个较低的、填充的能级和未填充的能级之间的差异告诉你，为了引起电流流动，你必须施加多少电压。
所以，对于锗来说，大约是 0.75 电子伏特。这意味着你必须施加 0.75 伏特才能使电流开始流动。事实证明，如果你将其与我们环境温度引起的激发进行比较，那个间隙不够大。当你开始使用它进行计算时，它会有点热，你会得到所有这些偶然的载流子被激发到导带，这会导致计算错误。硅的带隙稍微高一些，1.1 电子伏特。但你有一个指数依赖性，与存在的载流子数量有关，这会引起错误。它随着电压呈指数衰减。所以，仅仅是那个带隙中稍微多一点的能量，就使其处于在我们的环境条件下运行的理想位置。
这有点令人着迷。所以，就像您提到的，错误会随着电压呈指数下降。所以，很有趣，因为这个错误的问题出现了。你知道，当你开始谈论量子计算时。令人惊叹的是，我们一直在谈论的一切，随着我们缩小规模而出现的错误似乎都非常低。是的，我们所有的计算都基于它非常低的假设。是的。所以，这不是数字计算。数字计算。所以，与我们的生物计算不同，我们的大脑就像是假设事情会到处失败，而我们仍然必须对此具有鲁棒性。
没错。所以，这也是我们将要进行的最具争议的对话部分，您将树立一些敌人。所以，让我问一下，因为我们一直在谈论物理学和工程学，A，哪一群人更聪明，对这次更重要？让我用一个更好的方式来问这个问题。我们谈论的一些重大创新，一些美丽的事物，有多少是物理学，有多少是工程学？我的父亲是一位物理学家，他总是贬低我们在人工智能、计算机科学、机器人技术以及所有这些领域所做的令人惊叹的工程工作。所以，我们一直在争论这个问题。所以，你认为谁应该得到更多的赞誉？
我真的不是在试图只是政治正确。我不知道如果没有两者，我们如何能够拥有我们认为是社会伟大成就的任何东西。你绝对需要两者。物理学往往在发展早期发挥关键作用，然后工程优化这些东西就会接管。我的意思是，晶体管的发明，或者甚至在此之前，对半导体物理学的理解，使得晶体管的发明成为可能，这都是物理学。所以，如果你没有那种物理学，你就无法进入赛场。但一旦你理解并证明了这原则上是可能的，摩尔定律就是工程学。为什么我们的手机里有比旧超级计算机更强大的计算机？这都是工程学。而且，我认为说那不重要，那不是一个伟大的贡献，那将是愚蠢的。这是一支美丽的舞蹈。
您会把对材料特性的理解，比如硅，归类为工程学吗？比如，理解它具有所有这些良好特性的整个过程是如何运作的？或者甚至光刻技术的发展，这基本上是工程学吗？
不，我会说这是基础物理学，是应用物理学，是材料科学，是 X 射线晶体学，是聚合物化学，是……是所有东西。我的意思是，化学也包括在内。绝对是的。是的，绝对。只是没有生物学。
好的，我们可以谈论生物学。
好吧，生物学存在于工程化系统的生物中，这一切都是深度整合的。
好的，让我们回到。您提到了“超导性”这个词。那么，这与我们正在谈论的内容有什么关系？
好的，在半导体中，正如我刚才试图描述的，你可以通过施加电压来诱导电流，这些电流具有你对某种导体所期望的典型特性。这些电子并不能完美地流动而不耗散。如果一个电子与晶格中的缺陷或其他电子发生碰撞，它就会减速，它就会失去动量。所以，你必须不断施加电压才能使电流持续流动。
在超导体中，会发生一些不同的事情。如果你让电流开始流动，它将无限期地继续流动。没有耗散。所以，这太疯狂了，怎么会发生呢？它发生在低温下，这是关键。它必须是相当低的温度。我所说的，基本上在我们的整个对话中，我将谈论常规超导体，有时称为低 Tc 超导体，低临界温度超导体。所以，这些材料必须在大约 4 开尔文的温度下工作。我的意思是，它们的临界温度可能是 10 开尔文左右，但你想在大约 4 开尔文的温度下操作它们，即绝对零度以上 4 度。
在那个温度下，在非常低的温度下，在某些材料中，原子移动的噪音、晶格振动、电子相互碰撞，这变得足够低，以至于电子可以进入这种非常特殊的态。它有时被称为宏观量子态。因为，如果我这里有一块超导材料，比如说铌，它是一种非常典型的超导体。如果我这里有一块铌，并且我们将其冷却到其临界温度以下，那么处于超导态的所有电子都将处于一个相干的量子态。那个态的波函数是同时用所有粒子来描述的，但它延伸到宏观尺寸，我这里放置的那块材料的大小。
发生这种情况的方式是，你知道，让我们尽量少谈技术细节，但基本上，电子会相互协调。它们能够在这种宏观量子态中，它们能够……一个人可以很快地取代另一个人。你无法区分电子，它们是所谓的相同粒子。所以，如果这个电子撞到一个本来会导致它散射的缺陷，它就可以奇迹般地避开那个缺陷，因为它并不真的在那里。它是宏观量子态的一部分，整个量子态没有被那个缺陷散射。所以，你可以得到一个无耗散的电流，这被称为超电流。这只是对超导性非常粗略的介绍，那里有非常深刻和丰富的物理学，这可能不是我们现在需要深入探讨的主要主题。
但事实证明，当你拥有这种材料时，你可以做一些普通的事情，比如用它制作电线。所以，你可以在芯片上让电流直线流动。但你也可以制造执行不同类型操作的其他器件。其中一些是逻辑操作，就像你在晶体管中得到的那样。最常见或我最想说的是用途最多样的组件是约瑟夫森结。它不像晶体管那样，如果你在这里施加电压，它会改变从左到右的电流。但它在某种意义上是相似的，它是电路工程师用来开始构建更复杂性的首选组件。
所以，这些结充当栅极。它们可以充当栅极。所以，我不确定在语义上应该有多关心，但让我简单地说一下约瑟夫森结是什么，我们可以谈论它们的不同用法。基本上，如果你有一个超导线，然后是一个不同材料的小间隙，它不是超导的，一个绝缘体或普通金属，然后是另一侧的另一个超导线，那就是约瑟夫森结。所以，它有时被称为超导弱链接。所以，你在一侧和另一侧都有这个超导态。超导波函数实际上会穿过那个间隙。当你创造这样一个物理实体时，它在该间隙内具有非常不寻常的电流-电压特性。就像整个电路中的奇怪东西。
所以，你可以想象，假设你有一个环路，其中有一个弱链接。电流会在那个环路中流动，即使你没有给它施加电压。这被称为约瑟夫森效应。所以，从一侧到另一侧的量子波函数的相位差会引起电流流动。
那么，你如何改变状态呢？
正是。那么，你如何改变状态呢？现在想象一下，如果我的电路中有这条线下来，并且中间有一个约瑟夫森结。现在我再做一个绕过约瑟夫森结的线。所以我这里有一个超导环路。我可以给那个环路增加电流，通过超过约瑟夫森结的临界电流。所以，就像任何超导材料一样，它可以承载我所描述的超电流，这个电流可以无耗散地传播，直到达到某个水平。如果你试图通过材料的电流超过那个水平，它就会变成一种电阻材料，一种普通的材料。所以在约瑟夫森结中，也发生了同样的事情。我可以将其偏置到高于其临界电流，然后它会做什么？它会向那个环路添加一个量化的电流量。我所说的量化是指它会以离散的包的形式出现，具有明确定义的电流值。所以，在这个社区的一些人的通俗说法中，你会说你向环路中注入一个磁通量子。
一个磁通量子？
是的。所以，如果那是一个滑板手……抱歉，请继续。
一个磁通量子是你可以添加到环路中的量化电流量之一。这是一个卡通图，但我认为它足以满足我们的目的。
那么，也许说一下这些离散电流包的传播速度是有用的？因为我们也会谈论光。速度似乎很重要。
速度很重要。这是一个很好的问题。有时我想知道你是如何变得如此敏锐的。所以，这个……《黑客帝国 4》要出来了，也许这有关联。我不确定我是否适合这份工作。我曾试图成为《黑客帝国》的特工，但没成功。
好吧，那么这些数据包的速度呢？
这些数据包，这些磁通量子，这些由约瑟夫森结产生的电流脉冲，实际上可以以接近光速的速度传播，也许是光速的三分之一。这相当快。所以，约瑟夫森结之所以吸引人，其中一个原因是因为它们的信号传播速度很快，而且它们的开关速度也非常快。我所说的开关速度是指执行我描述的那个操作，即向环路添加电流。这可以在几十皮秒内发生。所以，你可以得到在数百吉赫兹范围内运行的器件。相比之下，我们传统计算机中的大多数处理器运行速度更接近一吉赫兹范围，也许三吉赫兹似乎是那些速度趋于平稳的地方。
正在收听的玩家们会非常兴奋，他们会超频他们的系统到……它是什么？四吉赫兹左右？这听起来太不可思议了。我能稍微跑题一下吗？这背后的物理学是否得到了理解？如何稳定地做到这一点？
哦，是的。约瑟夫森结的物理学得到了很好的理解。技术也得到了很好的理解。它没有取代硅微电子学在传统数字计算中的原因，我认为更多地与我之前提到的硅的无数实际的、几乎是平凡的方面有关，这些方面使其如此有用。你可以让晶体管越来越小，它仍然可以很好地执行其数字功能。约瑟夫森结则不然。它们只是……它不是同一回事。有一个你可以不断缩小并继续执行相同操作的特征。这个我描述的环路，任何约瑟夫森电路……嗯，我将要小心。我不应该说任何约瑟夫森电路，但许多约瑟夫森电路，它们处理信息的方式或执行它们试图做的任何功能的方式，也许是感应微弱的磁场，它取决于结与那个环路之间的相互作用。而你无法让那个环路小多少。而且这不是因为光刻的实际原因，而是因为物理学基本原理，关于磁场如何与那个超导材料相互作用。存在物理极限，无论我们的技术有多好，我认为那些电路永远无法像硅微电子学那样缩小到相同的密度。
我不知道我们是否提到了，关于各种超导材料是否有有趣之处？还是就是那样？
有很多有趣的东西，而且它不是硅。不是硅。是的，所以它是一些也需要超冷的材料，开尔文？
是的。所以，让我们来剖析一下其中的几个不同点。超冷部分。让我只是对那些试图将时钟频率提高到四吉赫兹并希望提高到……的玩家们说一下，什么样的冷却系统可以达到精确的四开尔文？你需要液氦。液氦很昂贵，很不方便。你需要一个低温恒温器，它在那里运行，而那个低温恒温器的能耗是不可行的。它不会装在你的手机里。你不会……所以，你可以想象这样拿着你的手机，然后在你背后放一个啤酒桶大小的东西来冷却它，这没有意义。
所以，如果你试图在消费设备中制造这些……遍布社会的电子产品，超导体目前不在竞争之列。但你说……所以，我们只是为了构建对话的框架，也许我们关注的是作为服务器的计算系统？像大型的？
是的，大型系统。所以，那么你可以对比一下你的手机里发生的事情和你正在一个超级计算机里发生的事情。我的同事 Katie Schuman 几年前邀请我们去橡树岭。所以，我们看到了 Titan，当时他们正在建造 Summit。这些是田纳西州的一些高性能超级计算机。它们填满了整个仓库大小的房间。所以，一旦你达到那个水平，好吧，你已经在投入大量电力进行冷却。你需要冷却，这是你必须处理的工程任务的一部分。所以，在那里，冷却到 4 开尔文并非完全不可能。它还没有发生，我可以告诉你原因，如果你有兴趣的话。在数字领域，我认为它不会发生。我不认为超导体将取代半导体进行数字计算。有很多原因，但我认为最终归结为所有因素，包括冷却、错误、缩小到特征尺寸等等。在系统层面，半导体工作得更好。
关于这个行业拥有某种材料的大规模制造的惯性，是否有某种方面？这就像泰坦尼克号的转移。你认为一个好主意需要有多好才能让泰坦尼克号开始转移？
这是一个很好的问题。这是一个很好的提问方式。而且，我不知道答案。但我想……好的。超导逻辑的历史可以追溯到 70 年代。IBM 在 70 年代大力推动超导数字计算。他们对他们的器件和架构做了一些选择，事后看来，这些选择注定要失败。我无意冒犯那些这样做的人。当时很难看清。但随后又引入了另一代超导逻辑。我想是 90 年代。有人叫 Likarev 和 Semenov，他们提出了一个基于约瑟夫森结的完整电路系列，它们进行数字计算，基于与或非等逻辑门。他们展示了它如何比硅微电子学快数百倍。这非常令人兴奋。我当时不在这个领域工作，但后来我回去读了文献，我简直是……哇，这太棒了。
所以，你可能会认为，它没有取代硅的原因是，当时硅已经有了如此大的动力。但那是 90 年代。硅之所以保持这种动力，是因为它有一个简单的方法可以不断改进：只需将特征尺寸做得越来越小。所以，我想它不必比硅好多少就能取代它。但问题是，它就是不如硅好。它可能在某个指标上比硅好：开关操作的速度，或者开关操作的功耗。但制造数字计算机不仅仅是那个基本操作。它包括所有与之相关的东西，包括制造、包装、各种材料方面的东西。
所以，原因，甚至在那些早期论文中，我记不清是哪一篇了，Licorice 说了一些话，大意是，你可以看到我们如何能够基于这些组件构建一个完整的数字电子电路系列。它们可以比半导体逻辑门快一百倍或更多。但我认为这不是使用超导电子电路的正确方式。他没有说正确的方式是什么，但他基本上说，数字逻辑试图从硅手中抢走风头，可能不是这些电路最适合完成的任务。
所以，如果我们能稍微停留一下，使用“计算”这个词。当你谈论计算时，你是如何思考的？你是纯粹地只考虑切换，还是你考虑的是一个更大规模的电路，共同执行基本的算术运算，这些运算是进行计算机组成的计算所必需的？因为当我们谈论计算速度时，它是归结为基本切换，还是你心中有一个更大的图景？
好吧，也许我们应该区分一下。有各种各样的计算。我不敢说我是计算理论方面的专家。但我认为区分数字逻辑很重要，它将信息表示为一系列比特，二进制数字，你知道，你可以将它们视为零和一，或者其他什么。通常它们对应于一个有两个非常分离状态的物理系统。然后是其他类型的计算，就像我们将更深入地探讨的，你的大脑是如何工作的。我认为它无疑在处理信息，但计算的开始和结束在哪里并不那么明确。它不依赖于这两个级别：这是一个零，这是一个一。有很多灰色地带，通常被称为模拟计算。
在传统的数字计算机或……一般来说，数字计算机中，有一个叫做“算术深度”的概念。这是行话，基本上意味着将输入转换为输出需要执行多少连续操作。这些类型的计算，在数字系统中，高度串行。也就是说，数据流不会向侧面分支太远。你需要将一些信息拉到那里，从这里访问内存，等等。但总的来说，计算是串行进行的。大脑不是这样的。在大脑中，你总是从不同的地方获取信息。它是更基于网络的计算。神经元不会等待轮到它们，它们准备好时就会放电。所以，它是异步的。所以，数字系统的另一个方面是，你正在时钟上执行这些操作。这是一个至关重要的方面。在数字系统中，如果没有时钟，一切都将毫无意义。大脑没有时钟。它根据其内部活动构建自己的时间尺度。
所以，你可以把大脑看作是……就像这种网络计算，它实际上是极其简单微小的计算机，数量巨大，并且它们是联网的。
我会说它是复杂而精密的微处理器，而且数量巨大。神经元不是……没有冒犯，我不是故意的。
当然。它们非常复杂，也很美丽。是的。但我们经常过度简化它们。是的。实际上，神经元内部也有计算。所以，我会说，将晶体管视为数字计算机的构建块是准确的。你使用几个晶体管来制作逻辑门，你从逻辑门构建更多，你从逻辑门和类似的东西构建处理器。所以，你可以将晶体管视为基本构建块，或者当你进入更高度并行的架构时，你可以将处理器视为基本构建块。为了类比神经方面，神经元不是晶体管。神经元是……是处理器。它有突触。即使突触也不是晶体管，但它们在信息处理层次结构中更低一些。在某种意义上，它们完成了大部分计算，但神经元本身就是整个处理器，它们可以接收许多不同类型的输入，在许多不同的空间和时间尺度上，并产生许多不同类型的输出。因此，它们可以在不同情况下执行不同的计算。
这就是计算与通信的区别所在。你可以认为神经元执行计算，而神经元之间的互联，通信例程。神经元和非常大的服务器系统。我私下提到过，我一直在和 Jim Keller 谈话，他的梦想是建造巨大的计算机，你知道，底部……通常是计算的不同部分之间的通信。
所以，在我们提到的“光电智能”这篇论文中，您说电子擅长计算，而光擅长通信。也许您可以详细说明一下，在这个上下文中，您所说的计算和通信是什么意思？电子是什么？光是什么？为什么它们擅长这两项任务？
是的，首先谈谈计算与通信。我会说，计算基本上是获取一些信息，对这些信息执行操作，并产生新的、希望更有用的信息。例如……想象你面前有一张照片，里面有一把钥匙。这就是你在寻找的，无论出于何种原因，你都想找到钥匙。我们都想找到钥匙。所以，输入是整个画面，输出可能是钥匙的坐标。所以，你减少了你拥有的信息总量，但你找到了你当下需要的有用信息。
你把计算看作是……受控的、同步的、顺序的？不一定。它可能是你的系统执行计算的方式，也可能是异步的。有很多找到钥匙的方法。这取决于数据的性质。这取决于……这是一个非常简化的例子，一张有钥匙的照片。如果你在世界上，并试图决定过上最好的生活方式呢？你知道，它可能是交互式的，可能有一些递归或一些奇怪的异步。
我明白了。但有输入和输出。你在中间做了一些事情。是的。它从输入到输出。你摄入了信息，输出了不同的信息。希望减少了信息总量，并提取了有用信息。
那么，通信就是将信息从存储它的位置获取出来，因为信息是物理的，正如 Landauer 所强调的那样。所以，它在一个地方更多，你需要将信息传输到另一个地方，以便其他东西可以使用它来进行它正在进行的任何计算。也许它是同一个网络的一部分，你们都在试图解决同一个问题。但这里的神经元 A 根据其输入得出了一个结论，现在它正在将该信息通过网络发送到另一个位置。那么，这就是通信的行为。
你能详细说明一下 Landauer 和“信息是物理的”这句话吗？Roth Landauer，不要与 Lev Landau 混淆。他为我们对信息可逆性的理解做出了巨大贡献，以及在计算不可逆时必须耗散能量的概念。但如果你能设法使其可逆，那么你就不需要消耗能量。但如果你……如果你确实消耗能量来进行计算，那么就有一个最小的能量消耗。它是 kt log2，而且都与热力学第二定律有关，宇宙是一个信息过程，然后我们生活在一个模拟中。
所以，好的，抱歉跑题了。所以，信息。这就是计算和通信之间的区别。让我再说一件事，只是为了澄清。通信理想情况下不会改变信息。它只是将信息从一个地方移动到另一个地方，但它被保存了。
明白了。好的。这很美。那么，电子与光的区别，以及为什么电子擅长计算，而光擅长通信？
是的，这有很多原因。我想，但只是谈论最简单的一部分。电子之间会强烈相互作用。它们是带电粒子。所以，如果我在这里堆了一堆电子，它们会感受到一定的力，它们想去别的地方。它们相互作用很强。你也可以让它们静止不动。电子有质量，所以你可以让它在空间上局部化。
对于计算来说，这是有用的。因为现在我可以制造这些小设备，把一堆电子放在这里。然后我改变一个栅极的状态，就像我一直在描述的那样，在栅极上放一个不同的电压，然后我把电子移到这里。现在它们坐在别的地方。我有一个物理机制，可以用它来表示信息。它是空间局部化的，并且有旋钮可以调整，以改变电子的位置或它们在做什么。
相比之下，光，光子，爱因斯坦确定的能量的离散包。它们之间不会相互作用。尤其是在低光照水平下。如果你在一个介质中，并且有高……明亮的高光照水平，你可以让它们相互作用。
其他通过与他们所处的媒介的互动，但这有点更具异国情调，并且就本次对话而言，我们可以假设光子不会相互作用，所以如果你有一堆光子以相同的方向传播，它们就不会相互干扰，如果我想发送，如果我，如果我有一个通信通道，并且我在上面放了一个光子，它不会干扰其他光子，它根本不会改变其他光子正在做的事情，所以这对于通信来说非常有用，因为这意味着你可以让很多这些光子流动，而不会相互干扰，它们可以很容易地分支，等等，但它不适合计算，因为这个光包很难改变那个光包正在做的事情，它们会直接穿过彼此，所以在计算中你想改变信息，如果光子不相互作用，就很难让它们改变由其他光子表示的信息，所以这就是根本的区别，它们穿过不同材料的方式也有什么区别吗，还是那只是特定的工程问题，不，那不是，那是深刻的物理学，我认为，所以这又回到了电子会相互作用而光子不会，所以假设我正试图将一个信息包从我发送给你，我们之间有一根电线，为了让我将电子穿过那根电线，我必须先提高我这端的电压，这意味着要在上面放一堆电荷，然后那个电荷包必须沿着电线传播，并且必须一直传到你那里，那根电线将会有所谓的电容，它基本上告诉你为了提高电线上的电压需要放多少电荷，而电容将与电线的长度成正比，所以电线越长，我必须放的电荷就越多，给那根线充电并将电子传给你所需的能量也与电容成正比，并且与电压的平方成正比，所以如果你想在相当长的距离上传输电子，你会得到巨大的惩罚，所以距离在这里很重要，当你进行通信时，距离很重要，我试图建立的连接数量也很重要，从我到你，好的，一个连接不算太糟，如果我现在想把它发送给另外一万个朋友，那么所有这些电线都会增加大量的额外电容，现在不仅要花很长时间才能给那根电线充电并提高所有这些线路的电压，而且还需要大量的电力，而一万这个数字不是随意选择的，这大约是你大脑中每个神经元连接的数量，所以你大脑中的一个神经元每次有话要说时都需要发送一万条消息，如果你试图将电子从这里驱动到一万个不同的地方，你就无法做到这一点，大脑以一种稍微不同的方式做到这一点，我们可以讨论一下，光如何实现一万个连接，以及为什么它在能源使用方面更好，用于一万个连接的通信，对，对，所以现在我不再试图将电子从我发送给你，而是试图发送光子，所以我可以制作一个所谓的波导，它只是一个简单的材料片，可以是玻璃，比如光纤，或者芯片上的硅，我只需要，我只需要将光子注入那个波导，而不管它有多长，不管我建立多少不同的连接，它都不会改变我必须在电线上提高的电压或其他任何东西，所以如果我有一个连接，如果我增加连接，我需要向波导中添加更多的光，因为那些光子需要分裂并走向不同的路径，这是有道理的，但我没有电容惩罚，有时这些被称为布线寄生效应，光在这方面没有寄生效应，嗯，这可能是一个愚蠢的问题，但我如何捕捉另一端的单个光子，它是什么材料，它是你之前谈到的用于光刻的聚合物材料吗，如何捕捉光子，有很多方法可以捕捉光子，这不是一个愚蠢的问题，这是一个深刻而重要的问题，它基本上定义了我们 NIST 的小组所做的很多工作，我们小组的一位领导者 Say Woonam 已经围绕这些超导单光子探测器建立了他的职业生涯，所以如果你想尝试达到一个较低的极限并探测一束光中的一个粒子，超导体就会回到我们的谈话中，想象一个简单的设备，电流流过一条超导线，嗯，一个环，或者不，让我们说，是的，你有一个环，所以你有一条超导线，像这样直线下行，在你环的分支上，你有一个小电流计，一个测量电流的东西，上面也有一个电阻，跟我来，所以，嗯，你的电流正在偏置这个，所以电流流过那个超导分支，因为这里有一个电阻，所有的电流都流过超导分支，现在一个光子进来，击中了那个超导体，我们谈到了这个超导宏观量子态，它将被那个光子的能量摧毁，所以现在电路的那个分支也是电阻性的，你已经正确地设计了你的电路，使得那个超导分支上的电阻远大于另一个电阻，现在你所有的电流都将流向那里，你的电流计说哦，我刚刚收到一个电流脉冲，这一定意味着我探测到了一个光子，然后在你打破那个超导性的地方，在几纳秒内，它会冷却下来，消散能量，电流会流回那个超导分支，这是一个非常强大的超导设备，它使我们能够理解光的量子态，我没想到像那样的环会对单个光子敏感，我的意思是，这对我来说似乎很奇怪，因为，我的意思是，当你用光子轰击它时会发生什么，如果你放一堆光子进去，基本上会发生同样的事情，你只是把它驱动到正常状态，它变得有阻碍，而且它并不特别有趣，所以你必须小心你发送多少光子，比如你必须非常精确地通信，这取决于，我想说，在我们试图使用这些探测器的应用中，这实际上是一个特点，因为我们想要的是，如果一个神经元向一个突触连接发送一个光子，而其中一个超导探测器就在那里，你就会得到这个电流脉冲，那个突触就会说事件，然后我就会做突触事件发生时我做的事情，我将执行计算之类的，但如果你不小心发送了两个，或者三个，或者五个，它会发生同样的事情，明白了，所以，这是，这是我们在这里设计的系统中，通信完全是二元的，这就是我刚才强调的，通信不应该改变信息，你不是说哦，我收到了这种通信事件，四个光子，不，我们不跟踪那个，这个神经元放电了，这个突触说那个神经元放电了，就是这样，所以那是，那是那些探测器的噪声过滤特性，然而，还有其他应用，你宁愿知道光子的确切数量，这在量子计算中使用光可能非常有用，我们的小组也在研究另一种超导传感器，称为过渡边缘传感器，我们小组的 Adrian Alita 在这方面做了很多工作，它可以根据你偏转的电流脉冲的幅度确切地告诉你那个脉冲中有多少光子，那么它有什么用呢，你可以用光子的数量来编码信息的一种方式是，你可以拥有所谓的数态，数态将具有明确数量的光子，也许你的量子计算的输出将其信息编码在生成的光子的数量中，所以如果你有一个对它敏感的探测器，它就非常有用，你能实现像时钟一样的光子吗，还是那不重要，这里有同步性吗，总的来说，这可能很重要，时钟分发是大型计算系统中的一个重大挑战，所以是的，光学时钟，光学时钟分发是一项非常强大的技术，我不知道该领域的现状，但我可以想象，如果你试图在任何相当大的计算系统中分发一个时钟，你希望使用光，是的，我想知道这些巨大的系统是如何工作的，特别是像超级计算机这样的系统，它们需要进行时钟分发，还是它们进行更多临时的并行并发编程，比如有一些锁定机制之类的，这是一个引人入胜的问题，但让我们聚焦于计算和处理器之间通信的这个非常具体的问题，所以你设想的这个系统是什么样的，你设想它的一个地方是在“光电智能”的论文中，所以我们谈论的是什么，我们谈论的是开始看起来很像人脑的东西，还是仍然很像计算机，这个东西有多大，它会装在智能手机里，还是像你说的，它会装在更像房子里的东西里，我们应该想象什么，当你想到这些基本系统时，你在想什么，让我介绍一下“神经形态”这个词，有一个神经形态计算的概念，它广泛指的是，基于大脑的信息处理原理的计算，随着数字计算似乎正在接近一些基本性能极限，人们正在考虑架构的进步，从大脑中汲取灵感，更分布式、并行网络之类的架构，所以神经形态学有一个连续体，从与数字计算机非常相似的东西开始，但可能核心更多，它们发送消息的方式更像大脑神经元发送脉冲的方式，但总的来说，它仍然是数字电子产品，然后，你知道，你有一些中间的东西，也许你正在使用晶体管，但现在你开始使用它们，而不是以数字方式，而是以模拟方式，所以你正在尝试让那些电路更像神经元，然后这有点，相当多地偏向神经形态学方面，你正在尝试让你的电路，尽管它们仍然基于硅，你正在尝试让它们执行与大脑中的操作高度类似的操作，这就是神经形态计算中大量工作的地方，像 Yakimo 和 Davari 以及 Gert Kaunbergs、Jennifer Hasler 等无数人，这是一个丰富而令人兴奋的领域，可以追溯到 20 世纪 80 年代末的 Carver Mead，然后沿着连续体的另一端，你说我将放弃任何与晶体管、半导体或任何类似的东西相关的东西，我不是从我将使用任何传统计算硬件的假设开始，而是我想做的是尝试理解是什么让大脑在它所做的信息处理方面如此强大，我想从基本原理出发思考，什么样的硬件最能让我们在人工系统中捕捉到这些信息处理原理，这就是我生活的地方，这就是我这些天进行探索的地方，所以，大脑般计算通信的基本原理是什么，通信，对，这非常重要，我很高兴我们为此预订了 14 小时，因为，我只有 13 小时，抱歉，好的，大脑以其复杂性而闻名，我认为这是它能做到它所做的事情的一个重要原因，但，好的，让我尝试分解一下，从设备开始，正如我之前所说，神经元本身就是复杂的设备，突触也是，它们可以，根据活动改变它们的状态，所以它们会随着时间适应，这对大脑的工作方式至关重要，它们不仅仅是在一个时间尺度上适应，它们可以在无数个时间尺度上适应，从神经元发出的脉冲之间的间隔，从神经元发出的尖峰之间的间隔，一直到生物体的年龄，也可能相关，我认为最能指导我思考的是大脑的网络结构，它也可以调整，是的，在不同的尺度上，绝对是的，所以，你正在建立新的联系，你正在改变接触的强度，你正在改变它们的空间分布，尽管一旦你成为成熟的生物体，空间分布的变化就不那么大了，但那个网络结构确实至关重要，所以让我对此稍作停留，你不谈论大脑而不强调新皮层或前额叶皮层中的大多数神经元，大脑中我们认为最负责高级推理和类似事物的部分，那些神经元建立成千上万个连接，所以你有一个高度互联的网络，我认为可以安全地说，它们建立如此多不同连接的主要原因之一是，它允许信息非常快速地从网络的任何位置传达到任何其他位置，所以这是它的一个空间方面，你可以用与分形和尺度不变性相关的概念来量化这一点，我认为这是一个非常优美的概念，我所说的意思是，无论你在大脑中看哪个空间尺度，在一定范围内，你都会看到相同的通用统计模式，所以如果我在我的皮层的一个区域周围画一个盒子，那么那个盒子里的神经元建立的大部分连接都会在盒子内部，在它们各自的局部区域，这大致被称为聚类，但有相当一部分会超出那个盒子，然后如果我画一个更大的盒子，模式将完全相同，所以你有尺度不变性，并且神经元建立非常远连接的概率也非零，所以假设你想绘制一个神经元建立连接的概率作为距离的函数，如果那是一个指数函数，它将是 e 的负半径除以某个特征半径，它会下降，直到某个特定半径，概率将接近一，然后超过那个特征长度 r0，它会急剧下降，所以这意味着你大脑中的神经元是真正局域化的，而这并非我们所观察到的，相反，你看到的是，建立长距离连接的概率确实会下降，但它会像幂律一样下降，所以你将在某个半径 r 处建立连接的概率是 r 的负某个幂，这更像是，我们在自然界中看到的力，比如两个粒子之间的电磁力或引力，它与半径的平方成反比，所以你可以在分形中看到这一点，我喜欢大脑具有分形动力学，如果你放大，画一个盒子，然后以一定的步长增加那个盒子，你就会看到相同的统计数据，我认为这对于大脑处理信息的方式可能非常重要，它不仅在空间域，也在时间域，我所说的意思是，通过进化过程出现这一点真是太不可思议了，可能与宇宙的物理学运作方式有关，是的，我完全同意，这是一个深刻而迷人的主题，我希望我能花一生的时间来研究它，你认为你需要解决并理解这种分形性质才能理解智能和公司，我确实这么认为，我认为它们是紧密交织在一起的，是的，我认为幂律就在其中，所以只是为了推动这一点，在时间域也会发生同样的事情，所以假设，假设你大脑中的神经元总是以相同的频率振荡，那么找到一个以某个特定频率振荡的神经元的概率将是围绕那个特定特征频率的狭窄峰值函数，这完全不是我们所看到的，找到神经元振荡或脉冲产生特定频率的尖峰的概率也是一个幂律，这意味着大脑中的时间活动没有定义的尺度，你不会，你的想法以什么速度发生，嗯，有一个最快的速度可以发生，而这受到通信和其他事情的限制，但没有一个特征尺度，我们有各种时间尺度的想法，从，你知道，几毫秒，这在生理上受到我们设备的限制，与我之前在超导体中谈到的几十皮秒相比，一直到生物体的寿命，你仍然可以思考你小时候发生的事情，如果你想变得非常超前，那么在多个生物体和整个人类文明中，你会有跨越生物体的想法，是的，如果把整个人类物种看作一个具有集体智能的单一生物体，并且在空间和时间尺度上也是如此，有想法在发生，然后如果你看，不仅仅是人类物种，而是地球上所有生命的集合，作为一个具有更复杂想法的生物体，在空间和时间尺度上有所不同，这变得非常可疑，等等，在我们完成之前，我只想把它收尾，是的，我想说空间和时间方面是相互密切关联的，所以非常接近的神经元之间的活动更有可能发生在更快的时标上，信息将传播并包含大脑的更多部分，你大脑的不同模块将在更长的时间尺度上参与信息处理，所以有一个信息整合的概念，大多数神经元是神经元是专门化的，任何给定的神经元或任何神经元簇都有其特定的目的，但它们也非常整合，所以你，你有专门化的神经元但共享它们的信息，而这通过这些发生在空间和时间尺度上的分形嵌套振荡来实现，我认为在硬件中捕捉这些动态，对我来说，这就是神经形态计算的目标，所以它需要看起来，首先，这是迷人的，我们在这里陈述了一些清晰的原则，那么它是否需要在这些原则之外看起来像大脑，就像其他特征必须看起来像人脑一样，还是可以是完全不同的东西，嗯，这取决于你想用它做什么，所以我认为社区很多人都问这个问题，你会用它做什么，我完全理解，我认为这是一个非常重要的问题，而且有时也不是最有帮助的问题，如果你的目的是研究它呢，如果你只是想看看，你必须在你的硬件中构建什么才能观察到这些动态原理呢，我每天也会问自己这个问题，而且我不确定我能否回答，就像，你将用这个特定的神经形态机器做什么，所以假设你想用它来构建一个会思考的东西，我们不是想让它为我们赚钱或开车，也许我们能做到，但那不是我们的目标，我们的目标是看看我们是否能获得我们在自己大脑中观察到的那种行为，在这里，行为的意思是组件的行为，神经元，网络，那种东西，我认为还有另一个我没有真正触及的元素，你也必须把它构建进去，那就是架构原则，它们与网络的层次化模块化结构有关，而不陷入术语的泥潭，我认为相关的要点是，让我用大脑的架构来举一个卡通图来说明一下，在大脑中，你有皮层，它基本上是外层的薄片，它实际上是一个，它是一个分层结构，如果你能把它从大脑中取出，你可以在桌子上展开它，它大约有一张披萨那么大，而那是一个模块，它做一些事情，它处理，正如 Yorgi Buzaki 所说，它处理你周围发生的事情，但你还有另一个非常关键的模块叫做海马体，那个网络结构完全不同，首先，我描述的这个皮层有 100 亿个神经元，所以数字很重要，它们以那种幂律分布组织起来，连接的概率在空间上呈幂律下降，海马体是另一个对理解你身在何处、何时何地很重要，跟踪你在空间和时间中的位置的模块，而那个网络非常随机，所以建立连接的概率，它几乎不会随着距离的增加而下降，你在这里建立连接的概率和在那里建立连接的概率是一样的，但那里只有大约一亿个神经元，所以你可以拥有那个巨大、密集连接的模块，因为它不是那么大，而新皮层或皮层和海马体它们不断地相互交流，而这种交流在很大程度上是由所谓的丘脑促进的，我不是神经科学家，我只是尽力背诵我从大脑中得到的这个卡通图，我明白了，是的，大概是这样，所以这个丘脑在协调新皮层和海马体之间的活动，并确保它们在正确的时间相互交流，并发送对彼此有用的信息，所以这一切合在一起被称为丘脑皮层复合体，而构建这样的东西似乎对于捕捉我们正在寻找的活动类型至关重要，因为那些责任，那些独立的模块，它们做的事情不同，这必须是实现这些跨越空间和时间的高效信息整合状态的核心，顺便说一句，我能够通过观看丘脑皮层复合体的模拟可视化来达到这种状态，有几个人，我忘了是谁，他们创造了令人难以置信的视觉插图，比如眼睛的视觉刺激，或者类似的东西，它在这个图像中，就像流过大脑一样，哇，我还没见过，我得去看看，所以这是你会在世界上找到的东西之一，你在 YouTube 上看到它，它有大约一千次观看，这些大脑处理信息的视觉化，而且因为有化学物质在那里，因为这是来自真正的人类大脑，我不知道他们是如何着色的，但他们能够实际追踪大脑中的化学和电信号，而视觉的东西，它看起来有点像宇宙，我的意思是，整个事情都令人难以置信，我强烈推荐它，我可能会发布一个链接，但你可以在 YouTube 上自己搜索，你可以在 YouTube 上找到关于丘脑皮层复合体的可视化，它很美，我还有另一个问题，记忆在这个过程中扮演什么角色，因为所有信号的来回发送，这有点像，这是计算和通信，但这有点像，你知道，输入和输出的处理，以产生系统的输出，这有点像推理，也许有某种递归，但，有没有一个存储机制，你在神经形态计算的背景下考虑过，是的，绝对，那必须是核心，你必须有一种方法来存储记忆，大脑中有许多不同种类的记忆，这是它不是一个简单系统的又一个例子，有一种记忆，一种谈论记忆的方式，通常从霍普菲尔德网络开始，你很幸运能在这个节目中与 John Hopfield 交谈，但基本思想是，工作记忆存储在神经元活动之间的动态模式中，你可以，你可以将某种活动模式视为一个吸引子，也就是说，如果你输入一个信号，它足够类似于其他以前经历过的信号，那么你将收敛到相同的网络动力学，你将看到这些神经元参与它们过去相同的网络活动模式，所以你可以谈论不同输入让你收敛到不同吸引子盆地的概率，你可能会认为，哦，我看到了这张脸，然后我激发了那个网络活动模式，因为上次我看到那张脸时，我在，你知道，在某个电影里，屏幕上有一个名人，等等，所以，这就是一种记忆存储机制，但对你大脑中印刻这些记忆的能力至关重要的是改变一个神经元和另一个神经元之间连接强度，它们之间的突触连接，所以突触权重更新是神经科学和神经形态计算的一个庞大领域，所以在这个光谱上，有两极，一个在，好的，所以用机器学习的语言来说，我们会谈论监督学习和无监督学习，当我试图将其与神经形态计算联系起来时，我将使用监督学习的定义，它基本上意味着外部用户，控制这个硬件的人，有一些旋钮可以调整，根据网络是否按照你想要的方式运行，来改变每个突触的权重，而在这个对话中，当我提到无监督学习时，我的意思是，那些突触权重在你的网络中动态变化，没有任何用户在做任何事情，没有任何来自外部的导线连接到任何一个突触，网络本身会根据你构建到设备中的物理特性来重新配置那些突触权重，所以如果，如果突触接收到来自这里的脉冲，并且导致神经元放电，那么一个内置的电路，没有任何我或任何其他人帮助的电路，会以一种方式调整权重，使其更有可能存储有用的信息并激发有用的网络模式，并使其不太可能随机噪声，无用的通信事件会对网络活动产生重要影响，所以记忆被编码在权重中，突触权重，是的，那么新突触连接的形成呢，这在机器学习中并不经常做，嗯，这似乎，再次，不是神经科学家，但根据我阅读的文献，这在早期的大脑发育阶段尤为关键，新生儿出生时有大量的额外突触连接，并且实际上随着时间的推移而被修剪，所以突触的数量会减少，而不是生长新的长距离连接，大脑中可以生长新的神经元，并分配新的突触连接，但这似乎不是大脑学习的主要机制，所以例如，就像我现在坐在这里和你说话一样，你说了很多有趣的事情，我学到了我从你那里学到的东西，我能记住你刚才说的话，我并没有长出新的轴突连接到新的突触来启用这些，是神经元之间突触连接的可塑性机制使我能够在这个时间尺度上学习，所以至少你可以通过权重更新来充分近似，你不需要形成新的连接，我会说权重更新是其中很大一部分，我也认为还有更多，因为，广义地说，当我们进行机器学习时，我们的网络，比如我们谈论前馈深度神经网络，时间域不是其中的一部分，好的，你将输入一张图片，你将得到一个分类，你将尽快完成，所以你关心时间，但时间并不是这个东西的本质，真的，而在脉冲神经网络中，我们在大脑中看到的，时间与空间一样重要，并且它们是紧密交织的，正如我试图说的，所以适应不同的时间尺度很重要，不仅在记忆形成中，尽管它在那里起着关键作用，而且还在保持活动在有用的动态范围内，所以你还有其他可塑性机制，不仅仅是权重更新，或者至少不是在许多动作电位的时间尺度上，甚至在更短的时间尺度上，所以一个突触在第二次、第三次、第四次动作电位发生后会变得不那么有效，它会传递一个更弱的信号，所以这就是所谓的短期突触可塑性，这是一种学习形式，你正在学习，我正在从看明亮的东西中获得过多的刺激，我现在需要把它调低，你知道，还有另一个非常重要的学习机制，叫做元可塑性，它似乎是一种改变，不是权重本身，而是权重改变的速率，所以当我，比如在一个教室里，我的，这是一个可能很糟糕的卡通例子，但让我们说我在一个教室里，现在是学习时间，所以我的大脑会释放更多的多巴胺，或者某种神经调节剂，它会改变突触可塑性发生的速率，所以这可以让我更容易在某些时候学习，更容易覆盖以前的信息，而在其他时候不那么敏感，最后，只要我还在列举，我认为另一个属于学习或记忆适应范畴的概念是稳态或稳态适应，其中神经元能够控制它们的放电率，所以如果，如果一个神经元只是在疯狂地放电，它会自然地调低自己，它的阈值会调整，所以它保持在一个有用的动态范围内，我们看到，这被捕获在深度神经网络中，你不仅改变突触权重，你还可以移动那些模型中简单神经元的阈值，所以，为了实现这些脉冲神经网络，你想使用，你想实现你提到的关于时间上的分形动力学和空间上的分形动力学这些基本原理，所以你可以，你可以本地通信，你可以跨越更远的距离通信，在空间上做同样的事情，在时间上做同样的事情，现在你有一个章节叫做“神经形态计算的超导硬件”，所以有哪些想法整合了我们一直在谈论的一些关于神经形态计算基本原理和你在“光电智能”中概述的想法呢，所以，让我想，我先从通信方面开始吧，因为这是我们首先走上这条路的，我们说的是我，我的同事团队在 NIST，你知道，Saeed Han、Bryce Primavera、Sonia Buckley、Jeff Chiles、Adam McConnell，还有 Alex Tate，举几个例子，我们的领导者 Cew Nam 和 Rich Mirin，我们都为此做出了贡献，所以这不是我一个人说的，而是我们团队多年来思考的演变，我可以快速问一下，NIST 是什么，这个神奇的团队在哪里，NIST 是国家标准与技术研究院，更大的设施在马里兰州的盖瑟斯堡，我们的团队在科罗拉多州的博尔德，我们，NIST 是商务部下属的一个联邦机构，我们做了很多关于标准的事情，你知道，确保我们理解单位系统，国际单位制，精密测量，在电气工程和材料科学领域有很多事情，这是历史悠久的，我的意思是，它就像，它就像 MIT 一样，它有几十年的声誉，一直是一个真正，有很多才华横溢的人在那里做了很多了不起的事情，但就你团队中的人们而言，在这个团队中，参与我们现在谈论的概念的人，我很好奇我们谈论的是什么学科，主要是物理学家和电气工程师，一些材料科学家，但我想说，是的，我认为是物理学家和电气工程师，我的背景是光子学，即利用光技术，从那里出发，我倾向于找到背景更接近的同事，尽管 Adam Akan 的背景更偏向超导电子学，我们需要多样化的人才，这个项目有点跨学科，我很想与神经科学家等更多人合作，但我们还没有达到那个规模，但，是的，你专注于硬件方面，这需要你提到的所有学科，是的，然后当然，神经科学可能是某些长期愿景的灵感来源，我实际上会称之为更多，而不是灵感，我称之为，一种路线图，你知道，我们不是想完全复制大脑，但我认为仅仅说哦，神经元的工作方式有点像那样，让我们做那个事情是不够的，我的意思是，我们非常遵循认知科学为我们制定的概念，我认为这是一个非常稳健的路线图，我稍微跑题一下，人们经常说我们根本不了解大脑，所以很难复制它，因为我们不知道发生了什么，也许五到七年前我会这么说，但随着我越来越对这个主题感兴趣，我阅读了更多的神经科学文献，我反而产生了完全相反的感觉，我不敢相信他们对这个了解这么多，我不敢相信很多概念是多么数学上严谨和，理论上完整，这并不是说我们理解意识，或者我们理解自我，或者任何类似的东西，但大脑为什么是这样，大脑在做什么，为什么它会做那些事情，神经科学家对这些问题有很多答案，所以有很多，如果你是一个硬件设计师，想开始工作，哇，方向很清楚，我认为，好的，我喜欢那背后的乐观主义，但在实现使用超导体的这些系统时，你如何做到这一点，对我来说，这始于思考通信网络，我敢肯定，每个神经元能够与网络中成千上万的同事通信的能力是必不可少的，我将其视为我的架构，我对这个主题的思考的核心原则，从光子学的背景出发，说“好的，我们将使用光进行通信”是非常自然的，以防听众可能不知道，光经常用于通信，我的意思是，如果你想到无线电，那就是光，它是长波长，但它是电磁辐射，它是相同的，它是相同的物理现象，遵循完全相同的麦克斯韦方程，然后一直到，光纤，现在你使用的是可见光或近红外波长的光，但你发送跨洋信息的方式现在是通过光纤，所以使用光进行通信不是一个牵强的想法，这是完全有道理的，所以你可能会问，为什么不在传统的微芯片中使用光进行通信呢，答案是，我认为是物理上的，如果我们能在硅芯片上制造一个像晶体管一样简单的光源，那么世界上就不会有不使用光进行通信的处理器，至少在一定距离以上，需要多少光源，哦，每个神经元都需要一个光源，每个神经元，每个神经元，每个升，但然后如果你能有一个非常小而漂亮的光源，你的神经元的定义就可以灵活，是的，是的，有时对我来说，说在这个硬件中，神经元是拥有光源的那个实体很有帮助，然后有光，是的，我的意思是，我可以进一步解释，但不知何故，这与意识有关，因为人们经常说意识之光，所以意识就是有意识的东西，我明白了，那不是我的引述，那是我的引述，你看，那个引述来自我的背景，你的背景是光学，我的背景是光，我的背景是黑暗，所以请继续，我刚才说的重点是，如果制造光源与硅上的晶体管一样容易，它们就会无处不在，是的，这并不容易，人们已经尝试了几十年，而且实际上非常困难，我认为我们研究的一个重要部分就是停留在那个地方，所以这是物理学还是工程学，嗯，我认为是物理学，我的意思是，正如我们讨论的，硅是晶体管的首选材料，而且很难想象这种情况会很快改变，硅在发光方面出了名地差，这与硅本身固有的性质有关，硅的能带结构方式，你永远无法在室温下制造出高效的发光硅，除非做一些非常特殊的处理，而这些处理会损害它与那些晶体管的良好接口能力，所以这是其中一件事，为什么，为什么大自然给了我们这样的打击，你给了我们漂亮的晶体管，你给了我们使用光进行通信的所有动力，但你没有给我们光源，嗯，好的，你确实给了我们光源，化合物半导体，就像我们一开始谈到的，来自第三族的元素和来自第五族的元素组成的合金，其中每个交替的晶格位置都切换了元素，它们在产生光方面具有更好的性能，你放入电子，光几乎 100% 的电子空穴就会出来，它可以高效地制造，我接受你的战争，然而，我说它是物理学而不是工程学，因为将这些化合物半导体光源与硅结合起来非常困难，为了做到这一点，我一开始谈到的离子注入需要高温，所以你必须先制造所有的晶体管，然后将化合物半导体放在上面，你不能之后再种植它们，因为这需要高温，它会破坏你所有的晶体管，你试着把它们粘在那里，它们没有相同的晶格常数，原子之间的间距足够不同，所以它就是行不通，大自然似乎并没有告诉我们，嘿，去吧，将光源与数字开关结合起来用于传统的数字计算，而传统的数字计算通常需要更小的规模，我猜，就智能手机而言，那么，在什么样的系统中，大自然暗示我们可以使用光和光子进行通信呢，嗯，所以让我说清楚一点，你可以在数字系统中用光进行通信，只是光源没有与硅紧密集成，你制造了所有的硅，你有了你的微芯片，然后你制造你的光源，独立的芯片，完全不同的工艺，在不同的铸造厂制造，然后你在封装级别将它们组合在一起，明白了，现在你有一些，我想说，由于这种封装级别的集成而不是同一芯片上的单片集成，引入了相当多的架构限制，但这样做仍然非常有益，这就是我之前在 NIST 工作之前做的一些工作，有一个由 Vladimir Stoyanovic 领导的项目，现在已经发展成一家名为 IR Labs 的公司，由 Mark Wade 和 Chen Sun 领导，他们正在做同样的事情，所以你有你的光源芯片，你的硅芯片，无论它是什么，也许是数字电子产品，也许是其他控制目的，而硅芯片驱动光源芯片，并调制光的强度，所以你可以通过光纤从封装中获取数据，与通过电线发送信号相比，这仍然为你提供了巨大的带宽优势，但对我来说，它们必须在封装级别集成有点奇怪，而那些人，我的意思是，他们太聪明了，那是我的同事，我非常尊敬他们，所以很清楚，他们不是在做糟糕的选择，这是物理学告诉我们的，试图将它们放在一起是没有意义的，是的，所以即使很难，它也比替代方案更容易，不幸的是，我认为是的，而且我再次需要回去，确保我没有走错路，我并不是说集成化合物半导体与硅的追求是徒劳的，不应该被追求，它应该被追求，人们正在做伟大的工作，Kaimei Lao 和 John Bowers 等人，他们正在这样做，并且正在取得进展，但在我看来，它看起来永远不会成为标准的单片硅光源工艺，我就是看不到，是的，所以大自然通常会指明方向，如果你违背大自然，你将不得不付出更多的努力，而且会很昂贵，而且无法扩展，明白了，但，好的，那么，让我们进入遥远的未来，让我们想象一个巨大的神经形态计算系统，它模拟我们所有的现实，它目前被称为矩阵四，这个强大的计算机是如何运作的，所以，所以神经元是什么，通信是什么，你的感觉是什么，好的，让我，现在，在花了 45 分钟贬低硅光源集成之后，让我解释一下为什么我将我的整个职业生涯，职业生涯，都建立在将光源与电子产品集成上，我认为游戏完全不同，当你谈论超导电子产品时，有几个原因，让我试着一一列举，一个是我提到的，将化合物半导体光源与硅集成很困难，硅是要求，因为使用半导体电子产品在超导电子产品中，你仍然会从硅晶圆开始，但它在很多方面只是你三明治的面包，你并没有以完全相同的方式使用硅进行电子产品，你现在在上面沉积超导材料，将光源与那种电子工艺集成的前景当然探索较少，但我认为更有希望，因为你不需要那些光源与晶体管紧密集成，问题就出在那里，它们不需要与硅晶格匹配，所有这些东西，相反，似乎有可能，你可以将那些化合物半导体光源放在硅晶圆上，然后在其上方生长你的超导电子产品，至少它不会明显失败，计算也将是在超导材料上完成的，是的，计算是在超导材料中完成的
电子和光源接收到信号，这些信号说：“嘿，一个神经元达到了阈值，产生一个光脉冲，将其发送给你所有的下游突触连接。”这些连接又是超导电子，执行你的计算，然后你就开始飞驰了，你的网络就工作了。那么，如果我们能快速回溯一下，那么在构建这类系统时，超导电子的局限性和挑战是什么呢？
那么，让我再说一件事关于光源。是的，请说，然后我就会继续，我保证，因为这可能很乏味。首先，这是非常令人兴奋的。关于光源的另一件事，我说过硅在发射光子方面很糟糕，它本来就不是用来做这个的。然而，当你在低温下时，情况就不同了。如果你使用超导体，你必须在低温下工作，因为否则它们就无法工作。当你处于 4 开尔文时，硅并不是一个明显糟糕的光源，它仍然不如化合物半导体高效，但对于这个应用来说可能足够了。
我最后要提到的一点是，再次利用超导体，正如我在不同背景下所说的那样，超导探测器可以接收单个光子。在那次谈话中，我忘了提半导体也可以接收光子，这是它们被制造出来的主要机制。你手机里的相机，对可见光敏感，它接收光子，它是基于硅的，或者你可以用不同的半导体来制造不同波长的相机，但这需要大约一千到几千个光子才能接收到一个脉冲。
现在，当你使用超导探测器时，你只需要一个光子，确切地说是一个，或者更多。所以，你的突触现在可以基于超导探测器而不是半导体探测器，这使得所需的光线水平降低了大约三个数量级。所以现在你不需要好的光源了，你可以拥有世界上最差的光源，只要它们每次神经元放电时能发出几千个光子。你就有原则上的硬件，你可能能够执行这种光电器件集成。对我来说，光电器件集成太诱人了。我们希望能够利用电子进行计算，利用光进行通信。在室温下使用硅微电子器件一直非常困难，我希望当我们转向超导领域时，目标是另一个应用空间，即神经形态而不是数字，并使用超导探测器，也许光电器件集成就会到来。
那么，有很多问题。一个问题是温度。在这些混合异构系统中，温度是多少？这里的操作有什么限制？它们都必须是 4 开尔文吗？
4 开尔文。一切都必须是 4 开尔文。
那么，制造这种光电器件系统还有哪些其他的工程挑战呢？
让我先就 4 开尔文这一点多说几句，因为有些人听到 4 开尔文就起身离开了，他们就说：“我不会做的。”你知道，对我来说，这是非常以地球为中心、以物种为中心的。我们生活在 300 开尔文的环境中，所以我们也希望我们的技术在那里运行。我完全理解。
零摄氏度是多少？零摄氏度是 273 开尔文，所以我们说的是非常非常冷。这是甚至比波士顿还要冷，这是真正的冷。西伯利亚？不。
所以，作为参考，宇宙微波背景的温度大约是 2.7 开尔文，所以我们仍然比深空温暖。很好。所以，当宇宙消亡时，它会比 4 开尔文更冷。在太空中，它已经比 4 开尔文更冷了。你不需要离地球太远就能达到你说的那个温度。
所以，住在可观测宇宙边缘的外星人正在使用超导材料进行计算。他们不必住在宇宙边缘。比我们更先进的外星人在他们的太阳系中，在他们的主带中这样做。我们可以做到这一点。
哦，因为他们更容易达到那个温度？当然。你只需要反射阳光，你就有了一个巨大的优势。
哦，所以太阳是这里的问题。是的。就像地球上很热一样。是的。好的。
那么，你能……所以我们怎么达到 4 开尔文呢？嗯，好吧。所以，非常不同类型的 4 开尔文温度。
关于温度，我想说的是，如果你能接受这一点，如果你能说：“好吧，我放弃了那些与我的手机和火车上笔记本电脑的便利性有关的应用。”相反，对我来说，我非常处于科学的思维模式，我不是在看产品，我不是在看这对消费者有什么用。相反，我正在思考科学问题。
那么，在 4 开尔文下工作并不是那么糟糕。我们在 NIST 的实验室里一直这样做。而且，作为参考，整个量子计算领域通常必须在 100 毫开尔文、50 毫开尔文左右工作。所以，现在你谈论的是另一个数量级的，比那还要冷 100 倍，不到一度。而且，每个人似乎都认为量子计算将接管世界，认为要达到额外的十倍或更低的温度要昂贵得多，但它并没有阻止人们投资于那个领域，我说的投资是指投入他们的研究以及风险投资或其他。
哦，所以，基于你评论的能量，我感觉到对这种方法的一个批评是 4 开尔文是一个巨大的负面因素。它对很多人来说是致命的。他们就是……我不是说这不是一个考虑因素，当然不是，对一些人来说是。
好的。所以，学术界对不同的人有不同的动机。假设你一生都在学习硅微电子电路。你把一个设计送到铸造厂，他们把一个芯片寄给你，你在你的桌面上进行测试。现在我说，现在学习如何使用所有这些低温技术，这样你就可以在 4 开尔文下做到这一点。不，拜托，伙计，我不想这样做。这听起来像是泰坦尼克号的旧动量，或者转弯。
但你说，当我们看大系统和你可以从中获得的收益时，这并不是一个太大的发现，成本也不是那么高。当你想要回答关于认知物理极限的科学问题时，物理极限并不在乎你是否在 4 开尔文下。如果你能在比任何室温技术都高出几个数量级的规模上进行认知，但你必须为此而变冷，你就会这样做。对我来说，那是令人兴奋的应用空间。那甚至不是一个应用空间，那是令人兴奋的科学范式。
所以，我个人不会让低温阻止我实现一个技术领域或领域，它在大多数方面都实现了我所寻找的其他一切硬件。所以，好吧，这是一个大问题。还有其他类型的工程挑战吗？
是的，是的，是的。所以，让我花点时间在这里，因为我还没有真正描述过我在这特定的硬件中说的“神经元”或“网络”是什么意思。
你想谈谈循环神经元吗？有太多迷人的东西了，但你有很多很棒的论文，人们绝对应该看看，而且光是标题就足以杀人。总之，请继续。
所以，让我从大局出发，基于光学、光子学通信、超导电子计算，这一切是如何工作的？在这个硬件平台上，一个神经元可以被认为是基于约瑟夫森结的电路，就像我们之前讨论过的，每次一个光子进来时，让我们先谈谈突触。
一个突触接收来自另一个神经元的一个或多个光子，并将该光子信号转换为电信号。添加到环路中的电流量由突触权重控制。所以，正如我之前所说的，你正在向一个环路中注入通量。所以，一个光子进来，它击中一个超导单光子探测器，一个光子，你可以用光从一个地方到另一个地方通信的绝对物理最小值。然后，该探测器将其转换为电信号，信号量与某种权重相关。
是的，突触权重会告诉你向环路中注入多少通量。这是一个模拟数字，我们现在正在进行模拟计算。
那么，你能详细说明一下，通量到底是什么？我们应该知道这个吗？还是这是一个技术性很深的东西的有趣说法？不，让我们试着避免使用“通量线”这个词，因为它实际上不是必需的。
我得说，当一个光子击中那个超导单光子探测器时，电流被添加到超导环路中，你添加的电流量是一个模拟值，可以有八位等效分辨率，之类的，十位。
那太棒了。顺便说一句，这开始变得更有意义了。当你使用超导体来做这件事时，那个循环电流的能量小于那个光子的能量。所以，你的能量预算不会因为进行这种模拟计算而遭到破坏。
现在，用神经科学家的语言来说，那就是你的突触后信号。你有一个电流存储在一个环路中。你可以决定你想用它做什么。最有可能的是，你会让它呈指数衰减。所以，每个突触都有一个给定的时间常数，它由在那个超导环路中放置一个电阻来确定。
所以，一个突触，一个突触事件发生时，一个光子撞击一个探测器，向那个环路添加电流，它随时间衰减，这就是突触后信号。然后你可以在树突中处理它。布莱斯·普里马维拉和我有一篇关于这个的论文，我们已经提交了。
对于更多面向神经科学的人来说，有很多树突处理，有很多可塑性机制，你可以用基本上完全相同的电路来实现。你有一个简单的构建块电路，可以用于突触、树突、神经元细胞体，以及所有可塑性功能。它都基于同一个构建块，只需调整几个参数。
这个基本构建块既有光学成分，也有电气成分。然后你就可以构建任意大的系统。
你没有错，认为那就是我的意思。我应该说的是，如果你想让它成为一个突触，就在它前面加上一个探测器，一个超导探测器。如果你想让它成为其他东西，就没有光学成分。明白了。
所以，前面是光学，后面是电气。电气？是的，在处理和它发送到下一阶段处理的输出信号中。
所以，树突是电气的。在超导领域，一切都是电气的。对于任何熟悉超导电路的人来说，它只是基于一个直流 SQUID，这是最普遍的，它是一个由两个约瑟夫森结组成的电路。所以，这是一个非常基础的东西。然后，你唯一超越它的地方就是神经元细胞体本身。它接收来自突触或树突的所有电气输入，或者你如何构建那个独特的神经元。当它达到阈值时，这发生在通过将约瑟夫森结驱动到其临界电流之上时，它会产生一个电流脉冲，启动一个放大序列，电压放大，从而从发射器产生光。
所以，我们的一位同事亚当·阿坎和索尼娅·巴克利也做了很多关于光源和驱动电流并产生足够电压以驱动电流通过那个半导体部分的工作。所以，那个光源是神经元的半导体部分。所以，神经元达到了阈值，它产生一个光脉冲。然后，光会扩散到一个波导网络，以到达所有执行自身过程的下游突触终端。
所以，可能值得解释一下波导网络是什么，因为很多听众可能不知道。查一下杰夫·奇尔斯的论文。基本上，光可以在一个简单的、基本上是绝缘材料的导线中被引导，通常是绝缘材料，如硅、氮化硅、不同种类的玻璃，就像光纤一样，它是二氧化硅玻璃。这有点大了。我们想缩小它们，所以我们使用氮化硅等不同材料。但基本上，想象一下一个由某种材料制成的矩形，它只是分支，形成不同的分支点，这些分支点针对网络的各个子区域。你可以从这些层之间进行过渡。所以，现在我们正在谈论构建第三个维度，这是绝对关键的。这就是波导。
是的，这很棒。为什么第三个维度至关重要？
好的。是的，你刚才在谈论技术限制。我需要处理的一件事是，我们的大脑对于我们大脑中的神经元数量来说，奇迹般地紧凑。它确实能装进一个小体积里，如果我们是资源有限的生物，那将是必然的。任何硬件神经元几乎肯定会比那大得多，即使它的复杂性相当。无论是基于硅晶体管的。一个晶体管，七纳米，这并不意味着一个半导体神经元是七纳米。它们很大。它们需要许多晶体管，以及其他东西，如电容器和存储电荷的东西。它们最终是大约一百微米乘以一百微米，而且很难将它们做得更小。
对于超导神经元也是如此，对于我们试图用光进行通信也是如此。即使你用电子进行通信，你也有这些导线，其中，电子的大小可能是埃，但导线的大小不是埃。如果你试图让它变窄，电阻就会增加。所以，你实际上并没有赢。长距离通信需要你的导线宽度为微米。对于波导也是如此。波导基本上受限于光的波长，大约是一微米。
所以，与大脑中类似的组件，直径约为十纳米的轴突相比呢？它们更大，当它们需要长距离通信时。但处理这些结构的尺寸是不可避免的，也是至关重要的。因此，为了制造与人脑相当规模的系统，这里的规模是指互连神经元的数量，你绝对必须使用第三个空间维度。这意味着在晶圆上，你需要多层有源和无源组件。有源是指执行计算的超导电子电路，无源是指将光信号路由到不同位置的波导。你必须能够堆叠它们。如果你能达到大约十层，或者甚至不是十层，也许五六层，那么你就成功了。
现在你可以在晶圆上获得数百万个神经元，但这离大脑的规模还差得很远。为了达到人脑的规模，你还必须使用第三个维度，即整个晶圆需要堆叠在一起，并通过光纤通信进行连接。我们需要能够用堆叠的晶圆填满这个桌子大小的空间。那时你就可以获得像人脑那样大约一百亿个神经元。而且，我认为这并不是特定于我们正在采取的光电器件方法。我认为这适用于任何试图达到与人脑相当的规模和复杂性的硬件。
所以，你需要那种分形堆叠，即晶圆上的堆叠和晶圆的堆叠，以及然后结合了晶圆堆叠的桌子系统的任何东西，它必须是分形的，一直如此。
你说得完全正确，因为那是唯一能有效地将信息从一个小点传递到整个网络的方法。它必须具有幂律连接，而光子就像……整个光学系统。
绝对。一旦达到这个规模，对我来说就很明显了。当然，你使用光进行通信。我们有光纤，大自然赋予了我们。所以，简单。即使尝试任何形式的电气通信的想法对我来说都没有意义。我不是说这是错的，我不知道，但我的出发点是这样。
所以，让我们回到循环神经元。它们为什么被称为循环神经元？
“循环神经元”这个术语来自于这样一个事实，正如我们一直在谈论的，它们严重依赖于这些超导环路。所以，即使在许多形式的超导数字计算中，将信号存储在超导环路中也是一种主要技术。在这种特定情况下，到处都是环路。所以，突触权重的强度将由与突触耦合的环路中循环的电流量来设定。所以，记忆被实现为在超导环路中循环的电流。突触与树突或突触与神经元细胞体之间的耦合通过变压器进行环路耦合。所以，在突触中循环的电流会在另一个环路中感应出电流，在神经元细胞体中的接收环路中。
因此，由于所有的计算都发生在这些通量存储环路中，并且它们在信息处理、记忆形成等方面起着核心作用，我没有过多考虑它，就称它们为循环神经元，因为它比超导光电器件神经元更容易说出口。
好的。那么，你如何为这些循环神经元设计电路呢？
这是一个很好的问题。有许多不同级别的设计。在单个突触的层面上，你可以使用传统方法。它们并不那么复杂，就超导电子而言，它们只是约瑟夫森结或类似的东西，取决于你想增加多少复杂性。所以，你可以直接在 SPICE 中模拟每个组件。我们一直在……这是标准的电气仿真软件。基本上，你只是显式地求解描述电路元件的微分方程，然后你可以将它们堆叠在仿真软件中来构建电路。
但是，这会变得计算量很大。所以，当 COVID 来临时，我们知道我们必须将一些注意力转向我们可以在家里的地下室或其他地方做的事情。其中之一就是计算建模。我们开始着手改编、抽象出电路性能，这样你就不用显式地求解电路方程了。对于约瑟夫森结来说，这通常需要在皮秒时间尺度上完成，而且你的电路中有很多节点，所以需要同时求解大量的微分方程。
我们正在寻找一种能够模拟这些电路的方法，这种方法可以扩展到数百万个神经元网络，这是我们目前的目标。所以，我们能够分析这些电路的行为，正如我所说的，它基于这些简单的构建块。所以，你只需要理解这一个构建块。如果你对它有一个好的模型，那么它就可以平铺，你可以改变其中的参数来获得不同的行为等等。但现在它都基于一个需要求解的微分方程。
所以，你的系统中的每个突触、树突或神经元都需要一个微分方程。对于神经科学家来说，这只是一个简单的漏积分发放模型。漏积分器。基本上，突触是一个漏积分器，树突是一个漏积分器。
所以我对这个简单的组件如何用于实现各种类型的动态活动非常着迷。对我来说，这就是可扩展性的来源，也是复杂性的来源。复杂性通常通过相对简单的构建块连接起来，这些构建块以简单或有时复杂的方式连接，然后涌现出新的行为，这些行为很难从这些简单的元素中预测出来。这正是我们在这里处理的。
所以，这是一个非常令人兴奋的平台，无论是从建模角度还是从硬件实现的视角来看，我们希望能够开始拥有这个测试平台，在那里我们可以探索不仅与神经科学相关的，而且还与其他物理学相关的，如临界现象、伊辛模型等。
所以，你问我们如何模拟这些电路。它在不同的层面。我们有简单的 SPICE 电路的东西，那没问题。现在我们正在构建基于这种更高效的漏积分器的网络模型。所以，我们实际上可以将每个元素简化为一个微分方程，然后我们可以在一个更粗糙的时间网格上逐步进行。所以，它最终会比以前快一千到一万倍，这使得我们能够模拟，但希望最多能模拟数百万个神经元。而以前，我们会局限于几十个，一百个左右。
就像用量子计算机模拟量子力学系统一样。
所以，目标是理解这样的系统。对我来说，目标是将其作为一个科学物理系统来研究。我目前并不想将其变成一项企业。
短期应用，显然能赚很多钱，目前不是你的好奇心驱动因素吗？
绝对不是。如果你对短期赚钱感兴趣，那就去做深度学习，使用硅微电子器件。如果你想了解像一个迷人的系统的物理学，或者你想了解更接近于可实现的物理极限的东西，那么我认为单光子通信、超导电子学非常令人兴奋。
如果我想在 4 开尔文下使用超导硬件来挖比特币呢？这是我的主要兴趣。这就是我今天想和你谈的原因。
我们不想……我不知道比特币是什么。
[笑声]
在网上查一下。有人告诉我关于它的事，我不太确定它到底是什么。
所以，但是，我仍然想问关于机器学习的应用。那么，比如，如果你看看 5 年、10 年、20 年的规模，在我们理解人类智能和通用智能的本质之前，你认为我们会开始从对神经形态系统的探索中，能够解决一些当今机器学习系统无法解决的问题吗？
我真的不愿意过度承诺。我真的不知道。而且，在很多方面，我也不真正理解机器学习。从我的角度来看，机器学习需要你精确地知道你的输入是什么，以及你的目标是什么。你通常有一个目标函数或类似的东西。这非常有限。当然，很多时候就是这样。你知道，有一张图片，里面有一匹马。所以，你就完成了。但这并不是一个非常有趣的问题。
我认为，当我想到智能时，它几乎被定义为处理你不知道输入是什么，甚至不一定知道你在尝试完成什么的问题的能力。我的意思是，我不知道我在这个世界上到底想完成什么。
在所有尺度上。是的。在所有尺度上。我的意思是，有时……所以，我更倾向于潜在的现象，这个系统的临界动力学，试图理解你构建到硬件中的元素如何产生涌现的迷人活动，而这些活动很难预测。
但是，但是，我必须非常小心，因为我认为很多其他人，如果他们发现自己处于我的位置，从事这个项目，他们会说：“好吧，我们可以用它来做机器学习的各种方法。”
实际上，让我绝对提到 NIST 的同事迈克·施耐德。他对超导方面的东西也非常感兴趣，利用惊人的速度、功率和效率。科尔盖特的肯·西格尔和其他人在超导方面专门研究机器学习和深度前馈神经网络。那里的优势是显而易见的。它速度极快。
所以，这更多的是关于这种硬件的各种特性，而不是关于智能的本质。是的。你可以用它来进行我们今天所知的基本计算。以及通信。迈克·施耐德现在正在研究的一个东西是相对小规模的图像分类器。我认为他瞄准的是九像素问题，你有三个不同的字符，你输入一个九像素的图像，并将其分类为这三个类别之一。
看到会发生什么将会非常有趣。因为如果你能证明，即使在这个规模上，你只是输入这些图像，然后你就能得到结果，而且他认为他可以做到。我忘了是纳秒还是什么极快的分类时间。
它可能更少。它可能是 100 皮秒左右。
那里也有挑战。因为约瑟夫森结本身，电子电路的功耗非常低，比晶体管做同样的事情要低几个数量级。但是，当你必须将其冷却到 4 开尔文时，你就要为保持它冷而支付巨大的开销，即使它什么也没做。所以，你必须在大规模上工作才能克服这种功耗损失。但这可能是可能的。它只是必须达到那种性能。
这有点像你之前问的，它需要比硅好多少？答案是，我不知道。我认为，如果它在很多人关心的某个问题上总体上比硅更好，也许是图像分类，也许是面部识别，也许是监控信用卡交易，我不知道。那么，我认为它将占有一席之地。它不会在你的手机里，但它可能在你的数据中心里。
那么，在数据中心方面呢？我不知道你是否注意到各种系统，比如特斯拉最近宣布的 Dojo，这是一个大规模的机器学习训练系统。同样，底部可能存在这些系统之间的通信。你的关于超导硬件的工作中有什么可能在那里有用吗？
哦，我的意思是，我明天不行。长期来看，它可能是全部，也可能什么都不是。我不知道。但肯定，肯定……
所以，我不知道 Dojo 的太多信息。我的理解是，那是新的，对吧？它刚刚上线。
嗯，我甚至不知道……它还没有上线。而且，当你宣布大而性感的……
让我向你解释一下商业和市场世界的运作方式。并不总是清楚你在上线过程中的哪个阶段。所以，我不知道他们具体在哪里。但愿景是从零开始，构建一个非常非常大规模的模块化机器学习 ASIC，基本上是为训练神经网络优化的硬件。当然，有很多公司，大小公司都在致力于解决这个问题。
问题是如何以一种模块化的方式来做到这一点，它具有非常快的通信。特斯拉的有趣之处在于，你有一个公司，至少在这个时候，它如此专注于解决一个特定的机器学习问题，并且显然做得很好，因为它碰巧涉及自动驾驶。所以，你有一个系统，它由一个应用驱动。这真的很令人兴奋，因为你知道，谷歌可能在做 TPU 等等。你有所有这些其他公司都有 ASIC，它们通常更通用。我喜欢当它由一个特定的应用驱动时，因为那样你就能真正……这就像，如果你只是广泛地谈论智能，你可能不总能找到正确的解决方案。将它与一个特定的、清晰的例子耦合有时是很好的，这个例子需要通用智能，对我来说，驾驶就是其中之一。
我认为你说得完全正确。有时，仅仅专注于那个应用就能吸引很多人，集中他们的精力和注意力。我认为，你所说的吸引人的地方之一，不仅仅是应用是特定的，而且规模很大，而且收益也很大。所以，财务上和对人类来说。对。
是的。所以，我想让我试着理解一下。这个 Dojo 系统的目的是找出可以插入神经网络的参数，然后你就不需要重新训练了？你只是复制一个已经建立了所有参数的特定芯片。还是……
不，它是直接一次又一次地重新训练一个大型神经网络。所以，你必须为每一辆新车做一次。
不，不，你必须……他们做了一个有趣的过程，我认为这是机器学习监督学习系统的一个过程。你必须这样做。你有一个系统，你训练你的网络一次，这需要很长时间，我不知道多久，但可能需要一周。然后你把它部署到，比如说，大约一百万辆车上，我不知道具体数字。那部分你只是编写软件来更新表格中的一些权重。
是的。好的。
但是，有一个反馈循环。是的。是的。
每一辆车都会遇到麻烦，很少，但它们会遇到性能的边缘情况。然后将这些数据发送回来，由人类或自动处理。这些奇怪的边缘情况数据被标注，然后网络必须足够智能，能够处理这些边缘情况。所以，必须重新训练。有聪明的重新训练部分网络的方法。但总的来说，我认为他们更喜欢重新训练整个网络。所以，你有一个巨大的怪物，必须定期训练。
我认为 Dojo 的愿景是拥有一个非常大规模的、专注于机器学习、专注于驾驶的超级计算机，然后它足够模块化，可以扩展到其他机器学习应用。
但就像，他们并不完全局限于这个特定的应用。但是，这个应用是他们测试机器学习迭代过程的方式吗？你制造一个非常愚蠢的系统，部署它，找出它失败的边缘情况，让它变得更聪明一点，它变得不那么愚蠢了。然后，通过这个迭代过程，你实现了你可以称之为智能的东西，或者足够聪明以至于能够解决这个特定的应用。
所以，这涉及到快速训练神经网络，训练大型神经网络，但也基于大量的多样化输入数据。
是的。而这正是……这似乎是其中一个领域，超导光电器件的规模，就像……所以，当你谈论弱点时，就像我说的那样，好吧，你必须冷却它。在这个规模上，没关系。那不是太大的额外成本。你的大部分电力是由电路本身消耗的，而不是冷却。而且，你有一个集中的认知中心，如果你愿意的话。所以，当我们谈论将超导系统放在汽车里时，那是有疑问的。你真的想在每辆车的后备箱里放一个制冷箱吗？它能装下。这也不是什么大不了的事。但希望有更好的方法。
但是，因为这是一个中央的至高无上的智能，或者类似的东西，它需要拥有这种大规模的数据采集，大规模的数据集成。我认为，大规模的脉冲神经网络，具有巨大的通信能力，以及所有这些东西，将能够提供一些非常了不起的东西。
这不会明天就发生。还有很多开发工作要做。但是，你知道，我们必须对自动驾驶汽车有耐心。我们都曾乐观地认为它们现在就会出现。而且，好的，在某种程度上它们确实如此。但如果我们考虑五年或十年的未来，这是非常合理的。
我再提一点，我只是想提一下，进入自动驾驶汽车和使用人工智能技术的车辆。这是 NIST 非常关心的事情。Elham Dabasi 正在领导 NIST 更大的 AI 工作，比我的小项目更大。而这项任务的核心是信任的概念。所以，当你打算在每一辆汽车中部署这个神经网络，并且有如此多的风险时，你必须能够信任它。那么，我们怎么知道，我们怎么知道我们可以信任它？我们怎么知道我们可以信任自动驾驶汽车，或者训练它的超级计算机？
那里有很多工作，而且 NIST 正在进行很多工作。而且，这还处于早期阶段。我的意思是，你熟悉……是的，是的，还有所有这些。但是，工程学中有一个迷人的舞蹈，就像安全关键系统一样。计算机科学界有一种愿望，我最近和 Don Knuth 谈过，为了算法和系统，它们是可证明正确的或可证明安全的。你知道，这是人类和生物系统之间的另一个区别，我们不是可证明的。
是的。是的。所以，有一些方面，我们必须内置一些不完美，比如对不完美的鲁棒性。成为我们系统的一部分，这对工程师来说很难处理。他们对你必须接受失败的想法感到非常不舒服，甚至几乎要把失败设计到系统中。数学家也讨厌它。
但我认为，我认为是图灵说过类似的话：“我可以给你一个智能系统，或者我可以给你一个完美的系统，但我不能给你两者。”而创造力和抽象思维似乎在某种程度上依赖于随机性和不让组件每次都以完全相同的方式运行。
这就是我与……不是分歧，而是对世界的不同看法。我和图灵一样，当我与机器人同事交谈时，听起来就像我在与机器人同事交谈，他们是机器人学家。目标是完美。对我来说，就像不，我认为目标应该是……不完美。
不完美通过人与机器人之间的互动进行沟通。这种不完美变成了一种特性，而不是一种错误。就像一起，作为一个系统，人类和机器人一起比任何一个都更好。但机器人本身并不完美。在任何方面。
当然，包括与埃隆先生在内，也发生了很多分歧。对我来说，自动驾驶汽车从根本上说是一个人机交互问题，而不是一个机器人问题。埃隆认为这是一个机器人问题。
这实际上是一个开放且引人入胜的问题，人类是否可以完全从循环中移除。
我们谈了很多迷人的化学、物理和工程学。我们总是遇到这个问题，大自然似乎决定了什么容易，什么困难。所以，你有一篇很棒的小论文，我很想问你。它题为“宇宙演化是否选择技术？”
在物理学中，有一些参数似乎定义了我们宇宙运作的方式，物理学运作的方式。如果它运作得不同，我们会得到一个非常不同的世界。所以，似乎这些参数被精细地调整，以允许我们看到的物理学，所有这些美丽的 E=mc²，会产生这些漂亮的美丽定律。它似乎为那个被精细地调整了。
所以，你在文章中争辩说，宇宙可能也精细地调整了它的参数，以实现我们所看到的这种技术创新，我们所看到的技术。你能解释一下这个想法吗？
是的，我认为你已经很好地介绍了它。让我用我的语言说几件事。
莱娅，什么是精细调整问题？
物理学家花费了几个世纪来理解支配自然行为方式、粒子如何移动和相互作用的方程系统。随着这种理解随着时间的推移变得越来越清晰，它似乎变得显而易见，这一切都……它都经过了精心调整，以允许一个像我们现在看到的这样复杂、漫长而持久的宇宙。
所以，一个答案是，当然是这样，因为否则我们就不会在这里了。但是，我不知道，那并不令人满意。这就是所谓的弱人择原理。这是一个选择偏差的陈述。我们只能观察到一个适合我们生存的宇宙。
那么，一个宇宙适合我们生存意味着什么呢？物理学的追求部分是基于提出描述事物如何行为和相互作用的方程。但是，在所有这些方程中，都有……所以，方程的形式，不同场或粒子如何在空间和时间中移动。但是，它们也有参数，它们只是告诉你……不同耦合的强度。带电粒子与电磁场的耦合有多强？质量。粒子与希格斯场的耦合有多强？等等。
而那些定义了……不是方程的总体结构，而是不同项的相对重要性。它们似乎与方程本身的结构一样重要。所以，我忘了是谁了，有人在研究这个问题，试图看看，如果我调整这个参数，比如精细结构常数，它告诉我们电磁相互作用的强度。哦，天哪，我不能改变它太多，否则什么都行不通了。宇宙似乎……它只是存在然后在一纳秒内消失了。
而且，有人用了“看起来像一个精心策划的骗局”这个短语。意思是，每一个参数都被调整了。关于它们需要多么精确地调整，可以争论。但一定程度上被调整了，不仅仅是为了实现我们的存在，这是一个非常以人类为中心的观点，而是为了实现像我们这样的宇宙。
所以，好吧，也许。我认为该领域大多数物理学家的立场是，为了我们的存在，它必须是这样的。我们在这里，我们不应该对宇宙是这样的感到惊讶。而且，我不知道，一段时间以来，这从来没有让我满意。但我只是继续前进，因为有些事情要做，而且很多令人兴奋的工作并不取决于解决这个谜题。
但是，当我开始更多地与技术合作时，进入我职业生涯的更近期，特别是当我长期从事硅工作之后，这本身就有点诡异。然后当我转向超导时，我简直惊呆了。这太疯狂了。我们的宇宙竟然给了我们超导性。这是最美丽的物理现象之一，而且它对技术来说也极其有用。
所以，你可以争辩说，宇宙必须有它存在的参数，因为否则我们就不会在这里了。但是，它为什么要给我们技术呢？它为什么要给我们硅，它有一个理想的氧化物，让我们毫不费力地制造晶体管？这不能用同样的人择原理来解释。
是的。所以，这是在问“为什么”的问题。我的意思是，这个问题的稍微自然的延伸是，我想知道，如果参数不同，我们是否会得到另一套画笔来创造完全不同的东西，这些东西不会像今天的技术那样？但仍然具有令人难以置信的复杂性。如果从更高的角度来看，并开始定义事物，不是根据……比如，它需要多少电池，以及它是否能烤面包，而是更多地根据系统内的复杂性，或者类似的东西。
是的，你可以开始量化一些东西。你说得完全正确。我绝不认为，在所有可能存在的自然多重宇宙的巨大参数空间中，存在一个参数点，在那里出现复杂性。我怀疑。那将是资源的耻辱性浪费。
是的，这似乎是。但是，我们可能居住在参数空间中的一个地方，这个地方已经通过进化过程进行了调整，以使我们能够制造某些技术，这些技术使我们这个特定的宇宙得以出现并实现它所做的事情。
你看，我想知道，在这个讨论中，大自然是创新的催化剂，还是创新的上限？所以，它会一直限制我们吗？就像你说的硅，它只是让在某个维度上做很棒的事情变得超级容易，但我们仍然可以以其他方式做很棒的事情。它只会更难，或者它并不真正设定我们能做的最大值。
这是一个很好的讨论话题。我想，我觉得我们需要打下一点基础。所以，我想确保……我将在李·斯莫林的先前想法的背景下介绍这一点。
那么，李·斯莫林是谁？他有什么样的想法？
李·斯莫林是一位理论物理学家，他在 20 世纪 80 年代末、90 年代初发表了一篇论文，提出了宇宙自然选择的想法，他认为宇宙确实进化了。他的论文题为“宇宙进化了吗？”我给自己取了自由，将我的论文命名为“宇宙演化是否选择技术？”，以纪念他。
所以，他几十年前就提出了这个想法。他主要研究……量子引力、圈量子引力，以及其他统一量子力学和广义相对论的方法。正如你可能在他的最新书中读到的。而且，他也上过你的节目。
但是，我想介绍宇宙自然选择的想法，因为我认为这是可以改变我们对宇宙如何形成、我们在其中的作用、技术在这里做什么的理解的核心思想之一。但是，还有几件事需要先建立起来。
我们宇宙的开端，大爆炸，被广泛接受。而这意味着，如果你通过观察遥远的空间来回顾时间，你会发现……一切曾经都在一个点上，然后它从那里膨胀开来。
宇宙演化过程中有一个时期叫做暴胀。这个想法主要是由艾伦·古斯和安德烈·林德等人在 80 年代开发的。这个暴胀的想法基本上是，当一个奇点开始这个增长过程时，可能有一个暂时的阶段，它会以惊人的速度加速。基于量子场论，这表明它应该以我们发现的精确比例产生物质。
氢和氦，以及大爆炸的锂-2，锂，还有其他东西。所以，大爆炸暴胀宇宙学的预测，在经验验证方面表现得非常好，比如宇宙微波背景辐射。因此，大多数在该领域工作的科学家都认为我们宇宙的起源是大爆炸，我也以此为基础进行所有思考。我只是在此说明，以便人们理解我的出发点是现有成熟思想的延伸，而非替代。在一篇我认为是1986年的论文中，与艾伦·古斯和另一位作者法赫里一起，他们写道，大爆炸与黑洞是密不可分的。我们称之为起源的奇点，在数学上与黑洞无法区分，它们是同一回事。李·斯莫林也以此为基础进行思考。我不确定是否要替他发言，但这是我的理解。所以，李·斯莫林会说，一个宇宙中的黑洞是另一个宇宙中的大爆炸。这使我们能够拥有后代。因此，可以说一个宇宙先于另一个宇宙存在。非常关键的是，斯莫林认为，我认为这可能是史上最伟大的想法之一，这是我的看法，即当黑洞形成时，它不是一个经典实体，而是一个量子引力实体。因此，它受到量子力学固有的涨落的影响。描述该系统物理学的参数会发生微小的突变，因此后代宇宙的物理学参数与其母宇宙不完全相同。它们很接近，但略有不同。这样，你就拥有了一个进化和自然选择的机制。这种突变……然后，如果你想到宇宙的DNA，那就是支配其定律的基本参数。所以，斯莫林说，我们的宇宙是进化过程的结果，可以追溯到他估计的2000万代。最初，某种真空涨落通过随机机会产生了一个能够自我繁殖一次的宇宙。这样它就有一个后代，然后随着时间的推移，它能够制造出越来越多的后代，直到它演变成一个高度结构化的宇宙，拥有很长的寿命和极大的复杂性。而且，特别是对李·斯莫林来说，恒星产生黑洞，因此我们应该期望我们的宇宙被优化，其物理参数被优化，以制造大量的恒星，因为这就是制造黑洞的方式，而黑洞会产生后代。所以，我们期望我们宇宙的物理学已经进化到最大化繁殖力，即后代的数量。李·斯莫林认为，通过恒星来实现这一点。最大的恒星在核心坍缩超新星中死亡，产生黑洞和子代。
首先，我同意你的看法，这回到了我们从智能到宇宙的万物分形观，这是一个非常引人注目的强大想法，它统一了生命的起源，或许还有思想和智能的起源。所以，从达尔文在地球上的角度来看，这些的进化，以及导致我们出现的物理定律的进化，这很美。然后，你在此基础上叠加，也许我们是后代之一。好的，在深入探讨我想把这个想法带到哪里之前，让我先打一些基础。有一个多重宇宙的概念，它可能会令人困惑，不同的人对多重宇宙有不同的用法。在我看来，与理解李·斯莫林的想法相关的多重宇宙是这样的：基本上，每一次真空涨落都可以被称为一个宇宙。它发生，它从真空中借用能量，持续一段时间，然后又消散回量子真空中。古斯之前的想法和安德烈·林德的永恒暴胀的想法也差不多。你会期望自然，由于真空的量子性质——我们知道它存在，可以通过卡西米尔效应等来衡量——存在这些正在发生的涨落。斯莫林认为，存在着一个广泛的多重宇宙，我们这个宇宙，我们能够测量和互动的宇宙，在自然界中并非独一无二，它只是我们的居所，是我们居住的地方。存在着无数，可能无限的其他宇宙，其他完整的进化轨迹，它们已经演变成了你刚才提到的，具有不同参数和不同实现复杂性和繁殖方式的东西。所以，进化过程并不是一个通往这个终点的漏斗，完全不是。就像我们宇宙中发生的生物进化过程一样，它也不是实现某个特定选择物种的唯一途径。不，我们周围有非凡的多样性，这就是进化所做的。对于像我们这样的任何一个物种来说，我们可能会觉得我们处于过程的中心，我们是这个过程的目的地，但我们只是这个过程近乎无限分支中的一个。我怀疑它确实是无限的。我就是无法理解，有了这个想法，你永远无法划定界限，说不，宇宙，我的意思是，多重宇宙有10的100万亿个组成部分，但不是无限的。我不知道，嗯，是的，我认知上无法理解，我想我们所有人都无法真正理解无限的概念，以及虚无的概念，还有“很多”的概念。我只能数数，我的手指不够用。在某个时候，你就完蛋了。当你穿着鞋子，甚至够不到脚趾时，就像一千，一百万，是这样吗？然后它变得越来越疯狂，对吧？
所以，当我们说技术时，顺便说一句，我们并不是要过度浪漫化这件事，但我们这个分支的某些方面允许宇宙认识自己。是的，是的，就是拥有像小小的认知手指，能够去抓挠头皮，对吧？对，对，能够构建E=mc²，并进行内省，开始理解支配它的定律，这难道不令人惊叹吗？好吧，我只是个普通人，但我觉得，如果我要构建一个做这种事情的系统，涉及物理定律，涉及生命进化，涉及智能，我的目标应该是创造出能够思考自身的东西，对吧？我们是不是离设计规格，离目的地很近了？我们非常接近。我不知道，我的职业生涯就是设计我希望能够思考自身的东西。正是你，我们在这方面并不遥远。但也许这个问题比我们想象的要难得多。也许我们需要……让我们不要走得太远，因为我想强调一点，你所说的，难道不令人着迷吗？宇宙进化出了能够有意识地反思自身的东西，但李·斯莫林的想法并没有带我们到那里。请记住，它带我们去了恒星。李·斯莫林认为，在几乎所有方面，宇宙自然选择都能导致一个结构丰富的宇宙。他认为，我们宇宙的结构和物理学是为了制造大量恒星而设计的，这样它们就能制造黑洞。但这并不能解释我们在这里做什么。为了让它成为对我们的解释，你必须假设，一旦你创造了能够产生恒星的宇宙，生命、行星以及所有这些其他东西都是顺带的。我们是偶然出现的，在缝隙中成长。宇宙不是为了我们而存在的，在这个图景中我们仍然有点像个意外。我并不一定对此有哲学上的反对。它只是不……好吧，我认为它不完整。所以，看起来，无论我们这里有什么，对你来说，看起来，无论我们地球上有什么，似乎是你可能想在整个过程中选择的东西。正是如此。所以，如果你的整个进化过程只关心繁殖力，只关心制造后代宇宙，因为那样的话，在那个局部区域的超空间中，也就是所有可能宇宙的集合中，它们将是最多的。让我们假设……你不在乎这些宇宙是如何制造的。你知道它们必须由黑洞制造，这就是通胀理论告诉我们的，大爆炸告诉我们，黑洞制造宇宙。但如果有一种技术手段来制造宇宙呢？恒星需要大量的物质，因为它们没有非常仔细地考虑如何制造黑洞，它们只是利用引力。但是，如果我们开发出能够有效地将物质压缩成奇点的技术呢？事实证明，如果你能将大约10公斤的物质压缩到非常小的体积，就能制造出一个黑洞，这个黑洞很可能膨胀成自己的后代宇宙。这是根据其他专业量子理论家、量子场论家的计算得出的。我希望我正确地理解了他们告诉我的内容，我在这里有点像个翻译。所以，这是让我特别着迷的立场，那就是可能发生的是，好吧，在宇宙进化这个广阔的树上，我们现在谈论的是宇宙进化，而不是我们宇宙内的生物进化，它经历了李·斯莫林所描述的完全过程，达到了恒星制造大量黑洞的阶段，但随后继续进化，并以某种方式跨越了这一鸿沟，产生了智能，以及能够设计技术的智能。因为智能物种与技术协同工作，可以更有效率地、更快、更好、更多样地产生。然后，你开始有了不同类型的突变机制，也许所有这些东西。所以，如果你做一个简单的计算，说好吧，如果我们想……我们大致知道自宇宙诞生以来，我们星系中产生了多少个导致黑洞的核心坍缩超新星。大约有十亿个。那么，你必须估计，一个技术文明有可能制造出超过十亿个黑洞，其能量和物质都在其支配之下。所以，那篇论文中的一个计算，虽然只是粗略的，但我认为仍然很有启发性，是这样的：如果你取一个相对常见的陨石，大约一公里直径，我想到的是我们太阳系中散落的废料，将其分解成10公斤的块，并将每个块变成一个宇宙，那么你就会制造出至少一万亿个黑洞，其速度比恒星的生产率快三个数量级。那只是一块陨石。所以，现在，如果你设想一个智能物种，最初可能由人类设计，但基于超导光电子网络，毫无疑问，它们出去并繁衍。它们不必填满整个星系，它们只需要到达小行星带。它们有可能大大超过恒星产生后代宇宙的速度。那么，我们不应该期望我们来自那里，而不是来自恒星吗？是的，所以你必须以某种方式掌握引力。就像，或者只是必然的引力。所以，恒星利用引力制造黑洞，但任何能够产生足够能量密度的力，能够压缩物质以产生足够大的能量密度，都可以形成奇点。它不太可能是引力，它是最弱的力。你更有可能使用我们正在开发的聚变技术，例如。所以我不知道……大型点火装置最近用100束非常明亮的激光轰击了一个颗粒，使其足够致密以进行核聚变。所以，更像是这样，或者是一个带有非常热等离子体的托卡马克。我不确定具体怎么做。我确实喜欢这个想法，特别是最近读了很多关于引力波的知识，你知道，我们人类凭借我们的技术能力，人类历史上最令人印象深刻的技术成就之一就是LIGO能够精确探测引力波。我特别喜欢这个想法，即来自非常遥远距离的其他外星文明通过引力，通过引力波进行交流。因为当你越来越精通引力时——这似乎对我们来说还很遥远——也许这是一种有效的发送信号的方式，特别是如果你的工作是制造黑洞的话。那么，让我问一下，宽泛地说，因为我们倾向于认为其他外星文明会非常像人类，但如果我们把那里的外星文明看作是黑洞的产生者，无论它们如何做到，因为它们有恒星，你认为在我们的宇宙中，在我们的宇宙中有很多吗？好吧，让我问一个非常笼统的问题，然后看看你怎么回答：那里有多少外星文明？如果我刚才描述的假设是正确的，那么这意味着我们宇宙的参数已经被选择，以便智能文明能够以足够的数量出现，如果它们达到某种最高技术成熟度——让我们将其定义为制造黑洞的能力——那么这不是一个极不可能的事件。它不必经常发生，因为正如我刚才描述的，如果你在一个星系中有一个，你就会制造出比该星系中的恒星更多的黑洞。但也没有强烈的动机，不明显你需要它们遍布整个星系，对吧？
所以，我试图在那篇论文中强调的一件事是，鉴于我们参数可能被选择的方式，很明显这是一个权衡的过程。如果你制造……为了让我们这样的智能生命或任何类似我们的生命出现，你需要很多东西。你需要恒星，所以这又回到了斯莫林的这个想法的根源。但你也需要水具有某些特性，你需要像地球这样的岩石行星位于宜居带，所有这些你在天体生物学领域开始谈论的东西，试图了解宇宙中的生命。但你不能过度强调，你不能如此精确地调整参数来最大化恒星的数量，或者赋予水恰当的性质，或者使像地球这样的岩石行星最普遍。你必须在所有这些事情上做出妥协。所以我认为检验这个想法的方法是看看哪些参数对每个不同的子系统是必需的。我已经列出了一些我认为有希望的参数，可能还有无数其他参数。看看改变参数会使恒星形成并具有长寿命，或者宜居带中的岩石行星可能形成的几率如何变化。所有这些不同的事情。所以，我们可以测试这些事情是如何相互拉扯的。预测是，我们恰好处于这个中心点，如果你移动参数太多，恒星就不稳定，或者生命就不会形成，或者技术不可行，因为仅仅是生命，至少是我们所知的生命，无法制造黑洞。我们没有……好吧，我指的是我自己，你是一个非常健康强壮的人，但你可能可以，而我不能压缩物质。所以，我们需要这些技术。但我们不知道，我们还没有量化出参数需要多么精细地调整才能使硅具有其特性。这并不是直接谈论你所说的，你正在谈论费米悖论，即它们在哪里？那里的生命形式有多少？我试图争辩的是，如果这个框架是正确的，一个潜在的解释就是我们的存在，它并不一定预测智能文明无处不在，因为即使在一个星系中只有一个，这也很罕见，它也足以极大地提高整个宇宙的繁殖力。是的，我不知道，一旦你开始产生后代宇宙，黑洞，这对该宇宙中其他候选文明有什么影响？也许它有破坏性，或者有一些论点认为，一旦你有了很多后代，它就会迅速加速，以至于其他后代甚至无法赶上。它可能，但我猜如果你想让我下注，或者无论如何，我认为我更倾向于认为智能生命文明是稀有的。而且，我猜我遵循马克斯·泰格马克，而且最近天体生物学领域有很多论文似乎在说，好吧，你刚刚计算了一些修改后的德雷克方程之类的东西，看起来这并非不可能。你不应该对我们星系中出现了一个智能物种感到惊讶。但如果你认为下一个太阳系有一个，那概率就非常低了。所以，我可以看到，在一个星系中找到一个文明的概率，也许最有可能的是你会找到一到一百个，但现在，真的重要的是要加上一个时间窗口，我认为，因为这是否意味着在星系整个生命周期中，在我们遇到仙女座之前？我认为，在你的星系整个生命周期中，你至少会得到一个智能物种，也许是几千个，这很有可能。但我也认为，认为它们在时间上会重叠，我们能够观察到它们，这有点天真。而且，如果你看看地球生命的时间跨度，地球历史，我有点惊讶地发现，首先，生命出现的时间很短，生命出现得很快，它是细胞的，单细胞的。但这就是我想说的，地球上大部分生命都是单细胞生物，就像大部分，我们大部分都是无聊的细菌类型的东西。好吧，细菌很有趣，但我明白你的意思。不，我明白了，没有冒犯它们，这是从你的论文的角度说的，能够产生我们所理解的技术的东西，这是一个非常短暂的时刻，相对于地球生命的历史。也许我们的宇宙充满了像人类一样的细菌，但不是那些特殊的、超级智能的、超级人类，那些非常罕见，一旦它们出现，一切都会迅速加速。是的，我们就是没有足够的数据来真正说。但我发现这个主题非常吸引人。
我认为有一个概念叫做“稀有地球假说”，基本上是说，好吧，微生物在海希亚纪之后就出现了，当时我们被彗星、小行星等轰炸，月球形成之后。一旦事情稍微稳定下来，几亿年后，到处都是微生物。而且可能非常短暂，我们不知道确切的时间。所以，这确实表明，生命形成相对容易。我认为仅凭这一点就足以说明，允许微生物生命形成的参数并非偶然。但除此之外，是的，然后有一个漫长的休眠期，不是休眠，事情在发生，但重要的事情发生了大约二十五亿年，或者在释放氧气的代谢过程被开发出来之后。然后基本上植物只是在那里，越来越富氧，越来越富氧，直到足够建造这些大型复杂生物。所以，稀有地球假说认为，微生物在任何大致位于宜居带并有一些水的行星上都普遍存在。但然后，在五到六亿年前的寒武纪大爆发，那是罕见的，你知道，我同意这一点，我认为那是罕见的。所以，如果你问我们星系中有多少生命，我认为正确的答案是，微生物无处不在，寒武纪大爆发极其罕见。但寒武纪大爆发是这样的，在几千万年或一亿年内，所有这些身体计划都出现了，基本上现在地球上存在的所有身体计划都在那个短暂的窗口中形成，从那时起我们就一直在那里忙碌。那么，是什么导致人类从中出现呢？这可能是另一个极其罕见的阈值，一个大致位于宜居带并有水的行星不一定能跨越。你知道，对我来说，这很有趣，因为要保持谦逊，人类不可能成为这个系统所能产生的最令人惊奇的东西，如果看看李·斯莫林所描绘的整个系统，它不可能产生最令人惊奇的东西。所以，如果你看看进化，宇宙进化中的等价物是什么？以及对技术的选择，相当于人眼或人脑的宇宙，它们能够做一些，它们不需要恒星，它们能够以比我们想象的快得多的速度产生令人难以置信的复杂性。想想看，我们的大部分宇宙都相当无聊，没什么事发生，只有几块石头在飞来飞去，还有一些像猿猴一样的人在某个奇怪的星球上做播客。如果你想到人类的眼睛、视觉皮层能做什么，大脑、神经系统，所有让我们比单细胞生物更强大的东西，这似乎非常低效。如果宇宙有等价物，它们就像通过一组特定的参数可以表达的物理学的丰富性。我的意思是，对我来说，从计算机科学的角度来看，我是一个细胞自动机的忠实粉丝，它是一种很好的、视觉化的方式来说明不同的定律如何导致截然不同的复杂性水平。所以，是的，好吧，我们都在庆祝，看，我们的细胞自动机能够生成漂亮的三角形和正方形，因此我们实现了通用智能。然后就会有一些像查克·诺里斯一样的，像通用图灵机一样的细胞自动机，它们能够立即生成其他能够进行任何任意计算的细胞自动机。那些必须存在，然后我们就只是……我们将被遗忘。这就是这个故事吗？这个播客只是在几个月里娱乐了几个猿猴。
我有点惊讶听到你的愤世嫉俗。不，我非常乐观。我通常认为你是一个赞美人类各种形式的人，等等。我猜我只是……我看到你描述的那样。我的意思是，好吧，我们已经在这里存在了137亿年，你说，天哪，这很长的时间，让我们继续吧。其他宇宙可能早就把我们打败了。但这是在设定一个特征时间。我的意思是，为什么137亿年是长？我的意思是，与什么相比？我想。所以，当我看着我们的宇宙时，我看到了它在这段时间里发展的非凡等级制度。一开始，它是一团混乱的等离子体，没有什么有趣的事情发生。即使是第一批恒星形成，也需要发生很多非常有趣的进化过程，我指的是在延长时间内发生，然后结构在那里形成。然后，第一代恒星的形成是为了产生金属，然后才能更有效地产生下一代恒星。我们只是第三代恒星，所以我们可能仍然相当快地进入了这个游戏。但我认为，不，好吧，然后，然后你有了这些恒星，现在你有太阳系，在这些太阳系上，你有岩石行星，你有气态巨行星，所有这些复杂性。然后你开始有了生命，生命形式通过进化过程演化出的复杂性，对我来说一点也不令人失望。不，不，而且其中一些是……有些行星是冰冷的，就像不同口味的冰淇淋，它们是冰冷的，但下面可能有水。是的，各种各样的生命形式，还有一些火山，对吧？各种奇怪的东西。不，不，我不……我认为这很美。我认为我们的生命是美丽的，我认为它是……通过设计的稀缺性。我认为死亡，尽管可怕，是整个原因我们享受一切的基础。不，我认为这很美。我只是认为，我们所有……有意识的生命，在基本上所有尺度上，都将被完全遗忘。
是的，这是真的。我认为一切都是短暂的，这可以追溯到更像老子《道德经》的东西，那就是，是的，只有变化，只有涌现和消散，仅此而已。但我只是在这个等级制度的图景中，我并不是说现在轮到我们了，这就是顶峰。事实上，我认为在宏观层面上，我试图在我的研究中梳理出的故事是，好吧，那么下一个等级是什么？如果……如果可以的话，我们相当聪明。我的意思是，像李·斯莫林、艾伦·古斯、马克斯·泰格马克这样的人。好吧，我们非常聪明。谈论我，好吧，我们有点……我们可以找到去杂货店的路，或者别的什么。但接下来呢？我的意思是，如果有一个更高级别的等级制度在我们之上生长，它会更强大。我的意思是，我们已经谈了很多关于超导传感器的事情。想象一下比我们更强大的认知系统，它们居住在太阳系的其他地方，不在地球表面，那里更黑暗，更寒冷，更适合它们。它们拥有能够探测从无线电波到整个光谱的单光子，直到伽马射线，并看到整个宇宙的传感器。它们只是生活在太空中，拥有这些巨大的收集光学器件。那么，它们做什么呢？它们只是向外看，体验正在发展的广阔景象。如果你是这样一个系统，你可能会做一些有趣的事情。作为一个喜欢电子游戏的人，我会创造、维护和观察像地球这样的东西。所以，在某种意义上，我们就像是这个超导……冷计算系统在太空中的玩家。我的意思是，这一切都很有趣。你实际上正在地球上设计系统，试图将技术推向最前沿，同时也在思考物理定律的演化如何导致我们现在的样子。这种耦合是迷人的。这就像哲学最严格的应用与工程最严格的应用。所以，杰夫，你是最迷人的人之一。我很高兴我除了你的工作之外，对你了解不多，我很高兴我们有机会交谈。你是极少数能够解释极其困难的概念的人之一。而且，说到分形，你能够在堆栈的所有层面上进行智力运作，我对此深表赞赏。这真的很有趣。你是一位伟大的教育家，一位伟大的科学家。你花宝贵的时间与我在一起，我感到很荣幸。你也花时间与我在一起，我也感到很荣幸。谢谢，杰夫。感谢收听这次与杰夫·沙内林的谈话。为了支持这个播客，请查看描述中的赞助商。现在，让我用伟大的约翰·卡马克的一些话来结束，他肯定很快就会成为这个播客的嘉宾，因为摩尔定律的性质，一个极其聪明的图形程序员在某个时候能做到的任何事情，几年后都可以被一个仅仅称职的程序员复制。感谢您的收听，希望下次再见。