Transcription
感谢您加入“改变世界：印度首个未来科技与可持续发展播客”。我是主持人 Eddie A。今天，我非常荣幸地邀请到印度科学学院班加罗尔分校纳米科学与工程中心名誉教授 S.O.S. Goswami 教授。S.O.S. 教授在新加坡国立大学获得了博士学位。他的贡献获得了多项国家和国际赞誉。他的研究领域包括：受脑启发计算器件的设计、分子记忆器件中的电子和离子非线性动力学、超低能耗电切换器件、利用分子薄膜的纳米光电子学、原位拉曼光谱和吸收光谱。S.O.S. 教授最近带领印度科学学院的一个团队，成功创造或开发了一个“芯片上的大脑”，能够以分子形式存储和处理数据。因此，今天的讨论主题将是人工智能领域的一大飞跃——印度的“芯片上的大脑”技术。教授，我非常非常感谢您抽出宝贵时间参与播客。
谢谢您的邀请。
您知道，最近人工智能正处于炒作周期，我们看到了人工智能技术的飞速发展，例如大型语言模型、聊天机器人等等。但随着其发展，我们也看到了日益增长的担忧，关于它消耗的巨大能量，以及在训练和部署这些模型时对数据需求的巨大投入。您认为在以可持续的方式开发我们正在努力实现的人工智能或人工智能方面，主要的障碍是什么？您的研究又是如何解决这些挑战的？
好的，我认为除了能源问题之外，还有一个问题可能我会在稍后补充，那就是数据隐私。这是另一个长久以来一直存在且日益增长的担忧。是的，正如您所说，能源需求和数据隐私是人工智能的两个主要担忧。
如果我用一个词来概括当前人工智能的问题，那就是“硬件”。因为您看我们现在做人工智能的方式，是利用我们现有的计算机。老实说，这些计算机并非为此而设计，它们是为其他目的而设计的。当人工智能出现时，我们拥有的是能够执行特定操作、能够从环境中学习的算法。如果我非常简单地说的话，但我们的计算硬件是为精确计算而设计的，例如您能多精确地将两个数字相乘，或者您能多精确地解决一个确定性问题。
然而，当涉及到智能时，答案并不需要绝对确定。存在不那么精确的答案，对此有空间。您不一定需要绝对的精确度，您需要的是感知能力。这些硬件并非为此而生。因此，当您尝试在这些类型的硬件上运行这些算法时，会产生两个后果：一是它们耗时耗能，在这两个方面效率都很低；二是这些算法中最密集的部分，如果您仔细观察，实际上是在云端完成的，也就是由某些大公司拥有的大型数据中心。因此，您几乎所有的个人数据，可能不是全部，但绝大部分，都为了运行大多数主要人工智能模型而被牺牲了。
在能源方面，这也是两个挑战。如果您看到您的个性化设备和数据中心之间的数据往返，这部分消耗的能量最多。所以，如果我们能减少这一点，您的能源效率将急剧提高。
有可怕的预测称，到 2040 年，我们可能没有足够的能源来满足计算需求。这些事情确实存在，我们不知道它们何时会真正发生。可能比预期的要晚得多，也可能比预期的要早得多，因为我们真的不知道人工智能将如何改变所有行业。
所以，这就是我们目前的状况。
说得有道理。您恰恰指出了这一点。我认为目前人工智能凭借其提供的效用，已经颠覆了社会。但在后台，您可以看到它存在许多深层问题或仍需解决的问题。您提到了，不仅仅是能源，还有数据隐私。是的，因为今天，我认为大多数这些大型语言模型都在网上爬取我们的数据，而这就是它们被训练的内容。所以，这些大型语言模型显然存在问题，但也有那些处于前沿的研究人员，他们相信这种模式，认为扩展是唯一的挑战。您通过强行输入更多数据、更多能源来解决问题，其假设是，也许这可以带来人工智能。而另一方面，也有您这样的神经科学家，他们认为我们的大脑与这些大型语言模型相去甚远，因为它们只消耗两瓦的能量，而不需要今天这些大型语言模型所需的庞大数据。
所以，存在一种“受脑启发计算”或“神经形态计算”的概念。您能否首先大致解释一下什么是神经形态计算机？然后，也许您能谈谈您在印度科学学院开发的“芯片上的大脑”，并解释它与传统计算系统有何不同？
好的，正如您所说，受大脑启发，这是显而易见的，因为大脑只消耗 20 瓦的能量，而数据中心消耗的能量却非常庞大。这个想法已经存在一段时间了。早在 20 世纪 80 年代，就有科学家提出了受脑启发计算。但关键是，当时这更多的是一项“蓝天研究”，甚至不清楚是否需要那种计算能力来处理当时相关的问题。随着人工智能的出现，它变得越来越重要。
当我提到“受脑启发计算”时，我认为我首先想澄清一件事。问题是，“受脑启发计算”是什么？我们是在试图制造一个大脑吗？至少我可能不应该代表整个社区说话，但至少从我的角度来看，我认为我甚至不了解生物大脑的运作方式。我离那还差得很远。所以，关键是，我们从大脑中理解的任何零碎信息，能否从中获得灵感，制造出比我们现在拥有的更好的计算机？这就是受脑启发计算。它是计算技术向前迈出的一步，以支持人工智能和许多其他形式。
很明显，如果制造出更好的受脑启发计算平台，受益的不仅仅是人工智能。您可以将其用于许多其他应用，例如信号处理、图像处理，以及计算中的许多其他不同方面。所以，关键在于我们从中获得灵感。
这些灵感非常松散和零散。例如，我只是……我将举一个例子。您看传统计算机，它存储数据和进行计算的地方是两个物理上分开的位置：一个是处理器，另一个是内存。您存储数据，然后在需要进行计算时，将其从内存路由过来，进行计算，然后再次存储。当您再次需要时，您又会获取它。这种数据的来回传输会消耗大量能量。
所以，如果您看看受脑启发计算的历史，像 IBM、Intel 这样的科技巨头，自 2010 年左右以来一直在尝试制造受脑启发计算机。他们曾做出大胆的预测，认为在一定时间内，他们可能能够在一个几升的盒子里模拟大脑。但关键是，这些预测都没有实现。主要原因是，这是一种“硬碰硬”的效果。也许在这个过程中，我们也意识到大脑实际上有多么复杂，以及这些预测中存在多少低估。
但主要问题是，如果您看数字计算机，它有两个状态：零和一。您可以在软件层面施加任何您想要的算法，但这种“硬碰硬”的尝试就是行不通的，因为它已经被尝试和测试过了。因此，与大多数通常从学术界走向工业界的技术进步不同，我们在这里看到的是，工业界尝试了他们的受脑启发计算机，之后学术界出现了投资激增，因为人们认识到受脑启发计算非常有前景。但问题是，我们没有材料，没有器件，没有架构。所以，我们需要……这是我们意识到需要重新发明计算的几个阶段的时候。这是在基本层面、架构层面、系统层面以及各个层面的共同开发，因为大脑本质上是不同的。
因此，从这些中获得灵感，例如，我们所做的一件事是：我们能否在存储数据的地方进行计算？这是一个例子。这被称为“内存计算”。您不必将数据从内存移到处理器，而是在存储数据的地方进行计算。
下一个更复杂的层次是什么？现在，您仍然以数字方式进行，使用零和一。下一个问题是：我们能否进行多状态计算？如果您看我们大脑中的突触，例如，它可以存储许多级别的数据。这就是我们能否将数据存储在尽可能多的级别，并利用这些进行计算的地方。这一直是受脑启发计算的另一个方面。
归根结底，关键在于，无论我们做什么，如果我们制造了一个加速器或计算平台，它能比现有平台做得更好，并且它应该能够集成到当今现有的平台中。我的意思是，任何人都可以说，我将重新设计几乎所有东西，但这在我们有生之年不太可能发生。硅技术非常成熟，它会一直存在。关键在于我们能否拿出一些能够真正增强它的东西。您可以将其视为一个附加组件，它可以大大提高计算效率。至少在我看来，这可能是看待受脑启发计算的正确方式。
是的，是的。您刚才说的很多东西都很有道理。您提到我们不了解大脑。我希望在不久的将来，我们能达到一个我们了解大脑的程度。因为我确实会与许多神经科学家、神经技术研究人员交谈，他们对人类大脑的理解都有非常不同的看法。因为有些人认为，是的，我们对大脑的功能有所了解，而另一些人则说我们一无所知。
那么，你们目前在这个“芯片上的大脑”技术方面处于什么位置？您提到您正在利用内存计算，并且可能在模拟突触，即不是只存储零和一，而是存储在许多许多状态中。而新闻报道称它可以存储大约 16,500 个状态。请详细阐述一下。您到底在利用什么？我的意思是，这是分子忆阻器，对吧？如果您能谈谈这一点，那就太好了。
好的，在深入我们正在做的具体事情之前，我想先说一点。您说我们对大脑的理解，有些人说我们在进步，这一点毫无疑问。但如果作为想用它来制造电子电路或计算平台的人，我们需要理解我们需要的清晰度有多高。一种是定性地说大脑是如何工作的，另一种是如果你想制造电路，你需要方程，你需要数学方程来实际模拟某些事物是如何运作的。这并不容易。所以，除非我们有数学模型，否则我们很难制造电路，这就是为什么连接仍然非常松散。
这是一个方面。第二个我想强调的是，正如您所说，它是分子忆阻器。分子忆阻器意味着它基本上是两个电极之间的一个分子薄膜。薄膜的厚度各不相同，但您可以……它就像 50 纳米，例如。当您施加电场时，薄膜内有分子和离子，这些分子和离子有不同的取向和电荷状态。这不仅仅是关于零和一。如果您想象在两个电极之间有 100 万个分子，当您施加电压时，您可以在薄膜内创建不同的电子和形态状态组合。而这些不同的状态中的每一种都会产生不同的电流信号。
所以，主要想法是，我们可以稳定和存储多少这样的状态，并随后进行计算。在我们几周前发表在《自然》杂志上的论文中，我们能够做到的是，我们找到了一个最佳区域，我可以说，使用一小部分，我们在一个小区域内操作，并且在该区域内，我们能够稳定 16,500 个不同的级别。更精确地说，是 16,520 个级别。
不同于数字的是，在数字计算中，即使您操作的是零和一，如果您想表达从 1 到 16,520 的数字，您仍然可以做到，但您需要多个比特。它就像一串零和一，用来存储那个数字。相比之下，在这种情况下，您只需要一个小的纳米单元，它有这么多级别。所以，除了拥有那么多比特串之外，您只需要一个纳米单元就可以存储它。因此，正如您所见，它在空间上非常紧凑。而且，您也可以看到，如果不是有 14 条这样的线，14 个这样的比特，这里只有一个线，一个电路元件。所以，这既减少了占地面积，也减少了能耗。非常简单地说，大概就是这样。
那么，您的那个见解是什么，让您选择了这种纳米材料，您认为它可能模仿大脑所做的事情？也许您也可以谈谈您和您的团队在开发这个“芯片上的大脑”技术时面临的其他挑战？
这项我们正在进行的分子研究，我们已经进行了 10 年了。它不是突然出现的。我们 10 年前开始问的问题是，如果您考虑这些分子，就像在烧杯里的分子，如果您只是将它们放入一个 50 纳米的薄膜中，然后施加电场，它们的行为是完全不同的。所以，当时我们问的问题是，如果我们将其放入这样一个纳米尺寸的结构中并施加电场，我们可能会看到什么样的变化？可能会有电子状态的变化，可能会有几何变化，可能会有结构变化，可能会有形态变化，可能会有分子之间相互作用方式的变化，可能会有分子和离子相互作用的变化。所以，如果我列出所有可能的变化，那将是巨大的。
那么问题是，我们如何将其缩小到我们可以控制并可以改变电响应的事物？为此，我们进行了不同的一系列基础实验。首先，您合成哪些分子？因为任何随机分子都不行。所以，这是非常有趣的合作。您今天看到的这类化合物，是我父亲合成的。他是一位无机化学家，他曾在化学的不同分支工作，他使用这些金属有机配合物进行反应、催化和许多其他应用。关键是，他过去常说，这是一种“电子海绵”，意思是这种分子可以接受很多很多电子，当然也可以在需要时提供它们。
所以，由于存在许多固有的电子结构，我们试图问这个问题：好吧，我是一名电气工程师，我不了解化学家可能想象做的许多其他事情。但问题是，我们能否将它们放在两个电极之间，一个非常简单的三明治结构，施加电场，然后尝试看看它会做什么？但我们看到的是，当我们尝试这样做时，响应是疯狂的，非常难以理解。我仍然会说，我们目前所处的阶段是，一旦我们得到一个结果，我们就会试图理解它。如果您说，“在这个分子系统中，如果您改变那个单元会发生什么？”这是对下一个分子系统的战略预测。我们仍然做不到。我们正在努力做到这一点，至少理解需要进行哪些基础研究。
所以，这是这项研究的一个非常重要的方面。虽然这是一项技术驱动的研究，但除非我们理解基础科学，否则它不会推动它。事实上，这也是为什么如果您来到我的实验室，会有两个相邻的实验室。一个是我们制造电路的地方，另一个是我们在一个安静的房间里。那个房间里的噪音水平低于 35 分贝，这是一个极其安静的房间。我们在那里进行所谓的“尖端增强拉曼光谱”，我们对分子施加电场，然后我们试图从单个分子中获得拉曼信号。
所以，它告诉我们的是，如果您施加一个场，您会在这种分子薄膜内部看到什么样的变化，什么样的电子变化。这启发了器件的设计。一旦有了这样的器件，问题就来了：如何制造这样一个器件的完整阵列？因为任何人都可以制造一个“英雄器件”并到处炫耀，说“我们做到了这个”，但这没有意义。因为理解它并制造一个“英雄器件”是研究的一种可能途径。但如果我们要做有意义的事情，这需要可扩展。我们必须制造数千个这样的器件，并从中制造一个可扩展的电路。这就涉及到制造。所以，有学生正在研究这个问题，他们正在将这些“英雄器件”转化为电路，这也是论文所涵盖的一个方面，我们展示了它可以设计一个平台，可以执行某些有用的操作。然后问题来了：我们有了一个内存电路，它能否集成到硅电路中？因为正如我所说，我们无法颠覆硅行业。数十亿甚至数万亿美元已经投入到这项技术中，这是一项非常成熟的技术。
接下来是这项分子技术与这些电路的集成。我经常与我的同事合作，例如 N. Noack 教授，他是一位硅电子学专家。我们看看如何将其与硅电路集成，以及我们可以从中获得什么样的增强。
是的，也许您能谈谈您是如何将其与硅电路集成的？也许也谈谈您的团队。您提到它应该能够执行有用的操作。您认为它现在能做什么？一旦与硅电路集成，又会发生什么？
目前，我们的集成方式相对简单。我们有一个印刷电路板，然后我们在上面连接这个分子芯片，然后进行操作。因为印刷电路板（我们称之为 PCB）可以安装微控制器，并连接到计算机，您可以做任何您想做的事情。所以，这个芯片的工作方式是，它基本上是一个模拟平台。您需要将其连接到外部数字平台。所以，电路板，现有的硅电路是实现这种接口的媒介。
那么，什么是有用的呢？这可能是一个非常有趣的问题，因为它最终会归结到一个特定的数学运算：矩阵乘法。如果您看看我们今天几乎所有计算密集型任务，我不会说全部，但绝大多数都涉及矩阵乘法。如果我再稍微分解一下，那就是向量-矩阵乘法。向量-矩阵乘法意味着矩阵的一行乘以矩阵的一列。它只是向量-矩阵乘法。
这个数学运算是您今天看到的所有计算的基础，从科学计算、信号处理到人工智能和机器学习，您都可以说出来。这个数学运算消耗了巨大的计算能力和能量。这是因为，如果您有一个 N x N 的矩阵，进行向量-矩阵乘法需要 N² 次运算。所以，如果您有一个 10x10 的矩阵，您需要 100 次运算。同样，如果您有一个 100x100 的矩阵，您需要 10,000 次运算。
而我们的加速器可以做到的是，将向量-矩阵乘法运算减少到只需一步。所以，您例如 10,000 次计算步骤减少到只需一步。这显然在计算时间和能耗方面为您带来了巨大的好处。
现在，展望未来，为了使其有用，需要做的是，我们今天所拥有的仍然是与印刷电路板的集成。这行不通。我们未来需要做的是，硅电路是在世界各地的晶圆厂制造的。您可能听说过不同的技术节点，例如 65 纳米技术节点，甚至更低。我们现在正在进入 7 纳米技术节点。所以，我们需要做的是，我们需要采用这种在不同单元之一制造的电路，然后将其集成到我们的分子技术上。这样，您将拥有一个适合此的芯片，它是一个执行向量-矩阵乘法的加速器，并且它与当今现有的技术以及行业能够满足的技术固有集成。它可以用于信号处理，可以用于人工智能算法，可以用于生物信息学的不同领域，等等。
在论文中，您可以看到我们所做的是，当然，这不是为了实现一个非常具体的用例，但关键是，如果您想演示向量-矩阵乘法，并表明它不依赖于矩阵结构。因为我说，如果您的矩阵具有某种对称性或结构，您可以应用任何算法来简化它，您可以降低复杂性。如果您的矩阵没有任何结构，您的向量和矩阵没有任何结构，您就做不了太多。还有什么比太空图像更无结构的呢？所以，我们所做的是，我们拍摄了一张太空图像，将其数据转换为频域，然后我们完成了整个图像处理，以生成詹姆斯·韦伯望远镜拍摄的“创生之柱”图像，以此来展示它的有效性。它实际上比我们预期的要好得多。
是的，是的。我读到报纸上说，您是如何仅用一台基本计算机就创建了“创生之柱”图像。所以，恭喜您。但是，您认为实现这一目标的时间表是多久？另外，也许谈谈这里的支持系统。就像软件行业一样，它在不断发展，非常酷，而且有政府的支持。但当涉及到硬件时，支持系统是什么样的？
我们的时间表是三年。在此期间，我们将完成它，无论发生什么。因为设定时间表很重要，因为技术，您可以看到所有技术领域都在快速发展。所以，除非我们及时赶上火车，否则我们会错过它。
所以，这就是时间表。是的，这是真的，硬件一直不是我们的强项。但在印度，我们目前的支持来自电子和信息技术部（MeitY）。该项目是如何将我们的分子技术集成到在工业制造单位制造的电路中的，我们称之为“Tapeouts”。所以，这就是我们正在做的事情。政府，也就是 MeitY，正在支持这项倡议。但再次强调，这是我们能推多远的问题。答案是，我们可以制作概念验证，我们称之为“片上系统”，以展示它能做我们认为它能做的事情。我们已经在开发不同的 AI/ML 模型。在我看来，其中一个非常关键的方面是生物信息学。例如，如果有一个工具，比如……我不想说具体细节，但如果有一个工具可以进行 DNA 测序，您不希望您的 DNA 数据与任何大公司共享，那可能太私密了。所以，问题是，我们能否设计一个基于人工智能的平台，帮助您在本地设备上进行这些……它不是真正的 DNA 测序，而是 DNA 测序之后，利用这些技术，您需要进行大量的计算步骤来理解它。我们能否在您的本地设备上进行这些计算？我们能否在您的个性化设备上进行人工智能训练？这些是我们已经在问的问题。同时，我们正在将其集成到现有的工业 Tapeouts 平台中。这就是我们前进的方向。
就支持而言，我们有一些支持。这是一个非常棘手的问题，如果我将其与全球支持进行比较。如果您看看……我不知道确切的金额，但即使在中国一所大学内的支持金额，可能也是我们的 50 倍。所以，这不可同日而语。但我会说，它可能也不是微不足道的，因为我们能够做到我们正在做的事情。这取决于我们想把它推向何方。
而且，在这篇论文之后，情况发生了变化。许多不同的行业联系了我们，他们可以为这种生态系统做出贡献。因为您看，有趣的是，我们确实拥有芯片设计生态系统，我们拥有软件生态系统，我们需要所有这些来制造一个非常成功的人工智能芯片。但我们可能没有的是，许多知识产权（IP），它们将提供非常本土化的技术，这就是我们正在开发的。我们正在保护这些知识产权，并试图利用我们生态系统周围的专业知识来做到我们能做到的最好。
那么，教授，祝您和您的团队一切顺利。也许我会在三年后再次联系您，进行一次关于进展的对话更新，看看届时它是否已准备好上市。我希望它已准备好上市，因为我认为人工智能，我认为世界已经完全觉醒了。各国已经意识到开发人工智能的潜力，当然也包括本土系统。因为当我们利用来自其他国家的应用程序时，我们显然依赖于他们。所以我认为，为那些在这里本土开发的研究人员和团队加油！因为我相信，如果我们能够用你们正在采取的方法解决当前人工智能的这些问题——即它极其需要数据、消耗大量能量，并且您提到了数据隐私——如果我们能够解决所有这些问题，那么我们将进入一个非凡的世界，而不是一个我们都……没有给我们留下任何力量，只有人工智能在消耗所有力量的反乌托邦世界。
您认为还有哪些同行在这一领域工作，并且采取了正确的途径来构建神经形态计算、神经形态芯片？
有很多。正如您所知，在科学领域，它从来都不是一个人的功劳。方法或进步从来都不是孤立的，它总是有多个线索。有不同的材料系统，人们一直在使用氧化物系统，二维材料是另一个研究线索，分子系统也有很多人在使用。
在美国，有不同大学的研究人员正在尝试开发他们的……他们的人工智能加速器。我不会具体点名，以免遗漏许多其他人。在中国，他们有自己的神经形态计算代工厂，那可能是在另一个层面上。德国取得了非常显著的进步。意大利也有一些同事在尝试做一些事情，还有许多其他地方。印度也有几个实验室在取得有趣的进展。
我认为现在是进行计算的有趣时期。因为您看，在过去的 50 年里，我们所做的是开发了各种算法，但计算硬件本身从未改变。它基本上是相同的。现在，我们正在受到需求的冲击，我们被迫改变。我们正在从根本上重新思考计算硬件。您可以看到量子计算机的出现，我们正在尝试进行神经形态计算，人们正在采取不同的路线。有些人正在研究自旋电子学。所以，关键是，所有这些最终可能会汇集在一起，设计出许多……它永远不会是单一的技术或另一种技术。这些技术很可能会共存。最终，正如我们所说，对于人工智能来说，它将是一系列特定应用的集成电路（ASIC），这可能会支持这样的人工智能系统。所以，是的，今天有很多进展。
教授，您会对有兴趣在神经形态计算相关领域追求职业生涯的年轻研究人员提出什么建议？
我不知道我是否有足够的资格给他们建议，但当然，如果……人工智能可能是不可避免的。有趣的是，在这个特定领域，每个人都有空间。您可以从化学家开始，物理学家，电气工程师，电子工程师，计算机科学家，机械工程师，每个人都有事情要做。所以，关键是，它是如此的跨学科，以至于我们应该忘记我们学过什么，不是说我们学过的东西应该被忘记，我的意思是，我们的学科不应该局限于任何学科。它可能应该是这样的：我们想实现这个目标，我们应该不惜一切代价去实现它。例如，我的背景是电气工程，我对化学一无所知。我来了，当需要的时候，我学会了。同样，我有许多博士同事，他们经常教我不同的东西，这些东西是我们应用并将其向前推进的。同样，说实话，我从未做过电路设计。当我与 Navan 和他的一些学生交谈时，我经常从他们那里学习如何进行电路设计。这是一个持续的过程，只要我们了解最基础的东西，比如高中物理、化学或数学，我认为一切都可以自学。所以，至少在我看来，这是我所相信的。
是的，是的。我认为终身学习非常重要。我认为世界已经完全改变了。今天我们有这些大型语言模型，它们几乎正在颠覆或改变世界。它们为我们的智力或知识增加了如此多的维度。而我们正被推向一个世界，在这个世界里，终身学习将变得如此重要。您学得越多，知道得越多，您就能做得越多。我认为跨学科学习非常核心。
我的最后一个问题是：您对通用人工智能（AGI）有什么看法？您认为仅仅通过增加更多数据或更多计算来扩展这种方法，就能让我们达到人工智能吗？这是我的第一个问题。是的，显然，描绘一下未来 5 到 10 年可能的样子，当我们的“芯片上的大脑”技术与我们的硅电路相结合时。您提到了向量-矩阵乘法，但也许可以具体说明一下，这些变化将是什么？社会将如何受到影响？一旦我们拥有了这些神经形态计算，社会将受到多深的影响？
这可能很难预测。例如，这可能更多地取决于它将如何被使用。每当涉及到通用人工智能时，关键是，通用人工智能本身也不是一个定义非常明确的东西。人们正在努力开发它，但它何时才能真正实现，我们不知道。而在人工智能方面，我认为将发挥重要作用的是我们围绕它创建的规则和法律界限。因为，例如，一个简单的事情，这个向量-矩阵乘法，您可以用来制作假视频，也可以用来检测它。这真的取决于您想要它做什么。所以，如果您手中拥有这个武器，它总是一把双刃剑。您可以按照您想要的方式使用它。
所以，作为一个没有权力的人，我无法真正描绘出它将如何被使用的图景。但我们从历史上看到的是，人类的本性是，一部分用于善，一部分用于恶。我们越是阻止它走向邪恶，我们可能就越能保护它。
在好的一面，我可能可以想象的是，您的手机和电脑里都有您自己的本地智能。它们非常节能，您可能一个月只充一次电。您可以做比今天用笔记本电脑做的事情多得多。您可能想到的，如果您写几点，它就可以生成整个东西。您不需要不必要地去打磨它，而是思考它的核心是什么。这就是大型语言模型应该学习和做的。
当然，它可能对无人机、自动驾驶汽车、超高科技社会，智能建筑等等产生重大影响。所谓的“智能”也伴随着后果。您所有的数据都可能泄露。所以，需要再次设定一个界限，数据去了哪里，我们需要透明度。如果一切都在政府手中，甚至是一个企业政府，我们也不知道它如何被处理。如果是在一个企业，情况甚至更糟。所以，问题是数据将如何管理。这些问题将会出现，需要提问，并且在伦理、法律方面需要做的事情，什么应该做，什么不应该做。所以，需要制定一个非常明确的指令。
感谢教授您谈到了技术的好的和坏的一面。技术本身从来都不是好或坏的。基本上，当它落入那些有良好意图的人手中时，技术就会朝着好的方向发展，然后我们就会有医疗保健应用。当它落入坏人之手时，我们就会得到深度伪造，以及用于军事的技术等等。所以，我认为我们需要意识到，这是人类历史上第一次，所有技术堆栈都变得极其强大。也许说，如果现在不纠正，它可能会失控，甚至超出技术堆栈创造者的掌控。因为即使是人工智能，我们开发了这些大型语言模型，但一些顶尖研究人员也不知道幕后发生了什么。这就是为什么我们称之为“黑箱人工智能”。这个技术堆栈正在变得越来越强大。这不仅仅是人工智能，还有量子计算，还有沉浸式技术堆栈，如增强现实、虚拟现实、混合现实。还有纳米技术，您也投资其中，埃里克·德雷克斯勒谈到了纳米技术的潜在影响和巨大应用，以及其负面影响，即“灰色区域”，在那里，也许“灰色区域”可能会接管世界。
您知道，企业以“不惜一切代价盈利”的方式运作。每个初创公司、每个公司、每个政府都以这种方式运作。但我希望，有了这个技术堆栈，激励措施能够以某种方式更多地用于创造更好的应用。因为如果它落入坏人之手，其负面影响，正如您所解释的，可能是灾难性的。它甚至可能导致我们的生存危机。我希望各国、机构、人民能够醒悟并认识到，我们现在是在玩火。这绝不是在散布恐惧。因为在我上次与印度政府前首席经济顾问交谈时，他认为我在散布恐惧。所以，我只是想引起注意，我们生活在一个指数级增长的时代，而不是一个技术以线性轨迹移动的线性时代。这些技术堆栈，就像大脑和神经形态计算的芯片一样，它们将为世界带来的应用将是不可思议的。但是的，如果落入坏人之手，这些应用本身就可能导致生存危机。
感谢教授您抽出时间参与播客。我的听众们，希望你们能吸收这些信息。如果您喜欢您看到的内容，请不要忘记订阅。再次感谢教授。非常感谢。