Transcription
感谢您加入“改变世界的人们”，这是印度首个未来科技与可持续发展播客。今天，我非常荣幸地邀请到 Mayank Kajal 博士。他目前是南加州大学信息科学研究所工业与系统工程系的助理教授和研究主管。Kajal 博士的研究重点是知识图谱，他还是麻省理工学院出版社关于知识图谱的教科书的合著者，也是《特定知识图谱构建》一书的合著者。Kajal 博士的研究得到了 DARPA、工业界和私人捐赠的支持。今天的讨论话题显然将围绕知识图谱及其在人工智能研究以及通用人工智能中的重要性展开。Kajal 博士，非常感谢您抽出宝贵时间参加播客。我们能否先从您在人工智能领域的早期工作背景开始？
当然。我从中学时看《星际迷航》时就开始对人工智能感兴趣了。在大多数《星际迷航》系列中，都有一个星际电脑，你可以和它对话，它能做令人惊叹的事情。它几乎能读懂你的心思，就像一个真正的人类一样。那就是我对人工智能的第一次体验。在我读本科和研究生的时候，研究视野确实变得更加狭窄，因为你专注于一个研究领域。这些宏大的愿景，我们认为是在 50 年或 100 年后才会实现。而现在，我们来到了 2023 年，星际电脑这样的东西似乎触手可及。甚至五年前，没有人会想到它会如此接近。所以，现在是人工智能领域一个非常激动人心的时代。这真是一段奇妙的旅程，我们不知道未来会怎样。
是的，我认为我们正处于一个关键时刻，我们真的不知道未来会怎样，因为技术正在融合，而且其加速的速度既令人敬畏又令人恐惧。您也恰当地指出，我们正在进入一个科幻变成科学事实的世界。您的研究，您的专长是知识图谱。您能否解释一下什么是知识图谱及其在人工智能中的作用？
当然。在我们深入探讨知识图谱之前，我们应该关注“知识”本身，因为它是知识图谱的基础。我们理解的智能包含四个组成部分：推理、学习、规划和知识。这张图表的设计方式是，推理、学习、规划就像是椭圆形，它们作用于知识。知识是所有这些事情的基础。我们可以理解这一点，因为知识确实是我们所做一切的基础。如果我们希望机器拥有智能，那么我们也需要赋予机器知识。知识图谱就是实现这一目标的一种方式。它是几种方式之一，但事实证明它是一种非常好的方式，尤其是在您拥有大量数据且数据可能来自不同来源，在某种意义上可能有些嘈杂的情况下。在目前这种普遍存在的情况下，用图的形式表示知识，这就是我们可能在高层次上所说的知识图谱。其真正目标是赋予机器知识，让机器能够访问事实、实体、关系、属性、事件以及所有能实现推理、学习、规划，最终实现智能的要素。
当您说将知识表示到机器中时，您是如何做到的？这个过程是什么？一旦完成，又有哪些应用？
好的，让我们来定义一下什么是图。这不是我们高中时记得的那些函数图，比如绘制 x 与 y 的关系图。这是一种更像网络的图。图就是一组节点和边，这就是定义。它看起来有点像网络。以这种方式表示知识的直觉是，实体——实体就是事物。比如，我是一个实体，南加州大学是一个实体，这个播客是一个实体，等等。实体通常都有名字。任何你可以命名的事物，你都可以看作是一个实体，尽管也有没有名字的实体。但我们先限制在命名实体上，这是世界上一个巨大的类别。所以，实体是知识图谱的构建块。你可以把实体看作节点。但知识图谱还有另外两部分。一是实体有属性。比如，我是一名教授，我的职业是教授，我的隶属关系是南加州大学，我的出生日期是某个日期，我的性别是某个性别等等。我拥有这些属性，这些属性在某种意义上描述了我。属性可以被看作是关于实体的元信息。实体拥有这些元信息，这就是属性。然后，实体之间也可以有关系。比如，南加州大学是一个实体，Mayank 是一个实体，Mayank 在南加州大学工作。那么，Mayank 和南加州大学之间就有一条边。这条边有一个标签，因为仅仅画一条边是没有意义的。它在这种情况下意味着什么？它可能是“为……工作”。这条边也有方向，因为南加州大学不为 Mayank 工作，Mayank 为南加州大学工作。所以，有一个方向。当您开始将所有这些东西组合在一起时，您就有了实体、有方向的带标签的边，以及属性。如果您大规模地这样做，拥有数百万个实体、数亿条边、属性等等，那么它就是对世界的一个很好的表示，如果您考虑我们所知的关于事实的内容，就可以这样表示。这样做的好处是，一旦您将其表示为图，就可以应用各种图机器学习。例如，假设我对某个实体只了解一些信息，但并不了解全部。但如果我查看整个图，比如我喜欢动作电影，或者我的朋友喜欢动作电影，但您不知道我喜欢什么类型的电影，这就是推荐问题。但如果您知道我的朋友是谁，并且您也看到我的朋友喜欢动作电影，那么您可能会以一定的概率猜测我可能也喜欢动作电影。这是一个非常简单的例子。同样，政治派别，其他我们知道的事情，存在很多所谓的“同质性”，也就是说，你更容易和与你相似的人交朋友。这只是一个例子，还有很多其他的。比如，如果我和某人合著了一篇论文，那么有理由相信那个人也可能在南加州大学工作。图机器学习通过在这些大型知识图谱上使用深度学习变得非常强大。我们可以非常准确地预测我们没有直接观察到的信息。所以，您不仅拥有最初的知识图谱，现在还可以使用图机器学习来扩展知识图谱。任何时候，应用范围从推荐系统到问答。当您有一个系统，您可以向机器提问时，机器就可以查询知识图谱并给出答案。我们还看到了像 ChatGPT 这样的大型语言模型，它们也在解决这个问题。但大型语言模型的问题在于它们会产生幻觉，会编造东西。所以，对于医学、政府、国防等高风险领域，您仍然需要知识，您希望确信答案是正确的。您不想冒着 10% 的时间大型语言模型可能会编造答案，并且不知道自己在说什么的风险。所以，这就是它的作用所在。我们已经解决了从医疗保健到打击人口贩运，甚至到社交媒体分析等各种应用。因此，任何存在大量数据并且需要对数据进行推理的应用，都可以使用知识图谱。这有多酷啊！所以，您是说通过知识图谱，机器能够理解数据之间的关系，您能否解释一下您所说的“ChatGPT 这些大型语言模型，其背后的技术是 Transformer 模型，这与知识图谱有何不同？您是说，如果利用知识图谱来增强这些基于 Transformer 的大型语言模型，它们是否会停止产生幻觉，答案是否会更好？您是这个意思吗？
知识图谱领域实际上很有趣，它起源于搜索。就像我们现在看到微软和 OpenAI 等公司推出大型语言模型一样，12 年前，谷歌推出了谷歌知识图谱，并通过一篇博客文章宣布了它。这篇博客文章的标题是“事物，而非字符串”。这实际上触及了问题的核心。如果您想到搜索，当您输入“洛杉矶旅游景点”时，15 年前会发生什么？会进行一些字符串匹配，您会输入这个查询，然后将其与文档进行匹配，进行一些非常浅层的模式匹配和字符串匹配，然后您会得到一个按字符串匹配顺序排名的网页列表。但这非常令人不满意，因为我们希望搜索引擎理解我们是在寻找旅游地点或游览场所，而洛杉矶不仅仅是一个字符串，它是一个城市。通过谷歌知识图谱，现在谷歌能够识别出洛杉矶是一个城市，而“旅游景点”是一组旅游地点。在图的世界里，这很容易表示。洛杉矶是知识图谱中的一个节点，我们正在寻找的地点集合也是节点，但这些节点通过一种称为“旅游地点”的关系与洛杉矶相连。所以，关键在于我们是否拥有知识？谷歌拥有。您能否从自然语言查询转到知识图谱，再到图的世界？对于大量的查询，这已经近乎完美。它确实能够以一种非常真实的方式理解您在问什么，其结果是，如果您现在在谷歌上搜索类似的内容，或者即使是十年前，您都会在网页顶部看到地点列表，您会看到带有地点名称的小图片，并且屏幕顶部会有一个地点列表。在侧边，您会看到关于洛杉矶的一些信息，我们称之为知识面板。您会看到与洛杉矶相关的其他城市，您还会看到酒店推荐。所以，所有这些侧边的东西，您可以将其视为一个框架，然后围绕着网页列表。以前我们只有网页列表，但现在我们有了这个框架，而这个框架来自知识图谱。它的美妙之处在于，对于许多查询，您甚至不必点击网页，您在输入时就知道答案了，您甚至不需要真正去网页上搜索东西，列出它们，然后做这些事情。它确实让我们变得更加高效。现在谈到大型语言模型，我们再次看到，毫不奇怪，战场是搜索。很多人不注意这一点，他们认为有所有这些宏大的应用，但我可以告诉您，第一个战场，如果您愿意的话，一直是搜索。这是一项大生意。即使在今天，尽管谷歌做了所有伟大的事情，其大部分收入仍然来自搜索，这是它的主要业务。我认为微软也占有其中的一小部分，虽然不是微不足道的，但显然它希望增加其份额，因为它确实是一项大生意。而且，还有其他公司也在这个领域崭露头角，希望有所作为。每个人最终都必须在搜索方面做得好，无论是 YouTube、亚马逊，还是其他任何平台。在某些情况下，这是特定领域的搜索，而不是通用搜索，但它仍然是搜索。如果您在搜索方面做得不好，您就无法让客户找到他们想要的东西，您的广告和其他东西很快就会崩溃。竞争对手出现了，搜索是一项大生意。知识图谱出现在搜索领域，而大型语言模型也希望颠覆搜索。这就是为什么所有这些大型科技公司都在大力投资，尤其是那些面向网络的科技公司。我们最常听到谷歌和微软在大型语言模型竞赛中。我们不太常听到亚马逊和苹果，尽管它们也在努力，但由于苹果是硬件，亚马逊是电子商务第三方市场等原因，它们受到的威胁较小。所以，是的，它们在努力，但与谷歌和微软相比，它们在大型语言模型竞赛中可能损失的更少。因此，对于大型语言模型，如果您现在输入自然语言查询，大型语言模型就可以回答您的问题，而无需依赖知识图谱或某种数据结构。但存在它可能会编造东西的风险，而且已经有很多记录在案的实例。我能想到的最离谱的案例，如果我没记错的话，目前正在法庭上。有一个大型语言模型，我不记得是哪个公司了，我当然不想猜测，但它似乎编造了关于市长或某个政治人物的事情，并说那个人已被刑事起诉或正在接受刑事调查，诸如此类的。这对于政治来说是非常糟糕的事情。我认为那个人现在正在起诉诽谤。我们仍然处于这个阶段，公司实际上非常谨慎。它们不想承担责任，它们想谨慎行事，因为编造信息会产生法律后果。一些神经网络的先驱者提出了一种论点，认为幻觉可能是不可避免的，因为这些模型的深度性质以及其中包含的数千亿个参数。到目前为止，还没有人找到一种万无一失的方法来避免幻觉。现在，如果您的答案最终来自大型语言模型，知识图谱将无济于事，因为答案来自大型语言模型，而不是知识图谱。但我们现在在我们的团队中正在探索的，这是非常前沿的工作，我们希望利用大型语言模型来查询知识图谱。通常，当您查询知识图谱时，您需要了解语言，比如 SQL，就像在数据库领域一样，您需要了解 SQL 才能访问数据库。知识图谱也类似，您需要学习一种语言，具体取决于您使用的基础设施，您使用的图数据库。这非常复杂，普通人真的无法使用这些语言，这就像要求某人学习编程一样，不是每个人都能做到。所以，我们正在考虑的是，您输入的是一个长长的自然语言问题，但不是直接让大型语言模型回答您的问题，而是让大型语言模型去知识图谱，并询问知识图谱，这是我的理解，或者用户在问什么，然后您来查询，您给我答案，因为我们知道您的知识是可信的。一旦您得到答案，我将对其进行润色，使其听起来自然，然后将其返回给用户。所以，我们基本上将大型语言模型视为一个翻译器，一个介于知识图谱和用户之间的中介。这就是我们目前正在探索的工作方向。这就是您可以结合两者的一个方法。还有其他方法也在探索如何将大型语言模型与其他技术结合起来，以获得两全其美的好处。我们获得大型语言模型的力量，我们获得稳健性，对话能力，因为您可以与大型语言模型进行对话，而这是您无法与其他任何技术做到的。但我们真正想要的是，如果我们想要对知识有很好的界限和约束，那么我们就不会信任大型语言模型中的知识，因为它 90% 的时间是正确的，但 10% 的时间可能会出现严重错误，而且我们无法分辨它何时出错，我们不能承担这种风险。所以，这就是该领域目前的状态。下个月一切都可能完全改变，可能会有新技术出现，但目前该领域就是这样。
感谢您如此清晰的解释。我希望，我祝您一切顺利，我希望人工智能的幻觉问题能够得到解决，因为这确实是一个巨大无比的问题。知识图谱，您在查看您的个人资料时，它有很多应用，跨越电子商务、零售、危机响应、人口贩运，您还提到了社交媒体分析。您能否先从零售业开始，然后也许我们可以深入探讨人口贩运？
好的。对于电子商务，我认为这是继网络搜索之后最早应用知识图谱的领域之一。我认为我可以指出的最佳模型是亚马逊。亚马逊拥有所谓的“亚马逊产品图谱”。我不知道它目前的状况，但这是一个巨大的努力。他们利用他们拥有的数据构建了一个看起来像知识图谱的东西。他们确实拥有大量非常好的数据，包括多模态数据，如产品描述、评论、谁在购买，以及我们显然无法访问的后端信息，比如销售情况，以及当您查看一个产品时，您还会点击哪些其他产品等等。存在大量信息可以以图的形式表示。同样，当您搜索某物时，您希望搜索引擎能够理解您在搜索什么，以及您查询背后的含义和意图，而不是仅仅进行字符串匹配。因此，通过拥有产品图谱，他们能够做到这一点。他们能够更好地理解消费者，并将消费者想要的东西与他们拥有的产品进行匹配。所以，这确实是一个很好的例子。eBay 也有一个知识图谱。所以，核心思想是您拥有实体，这些是您可以购买的物品，还有其他与电子商务相关的物品，比如卖家等等。实体有很多属性，一件 T 恤有颜色、尺寸等，这些都是属性。它们之间也有关系。比如，如果我买了一件红色 T 恤，我还会买什么？所以，那里存在一种关系。T 恤的制造商与 T 恤之间存在关系。然后，制造商还在生产其他东西，等等。所以，这是一种非常自然的图格式。另一种选择是拥有一个非常复杂的数据库，然后您就无法进行图机器学习或其他操作了。所以，当您拥有大量数据时，将其表示为图格式，然后在其之上构建搜索引擎是完全合理的。这就是电子商务领域发生的情况。
现在，进入非营利领域，比如人口贩运。我们有一个项目，在我 2016 年加入南加州大学时，该项目大约在 2014 年开始，并于 2018 年结束。我在该项目的最后两三年期间在那里。该项目由 DARPA 资助，名为 DARPA MX。为了让您的听众了解 DARPA，因为不是每个人都听说过它，它是一个非常有趣的组织。它代表国防高级研究计划局。这是一个复杂的名称，但它基本上是美国国防部的一部分，是高风险、高回报的研究资助者。它是在斯普特尼克之后创建的。在 60 年代，斯普特尼克事件发生后，美国感到紧张，因为他们认为俄罗斯是第一个将这个东西送入太空的国家，而我们正在落后。所以，那是那种恐惧，冷战等等。因此，他们决定创建一个快速发展的机构，官僚机构很少，项目通常只持续四五年，通常是四年或更少。它们是高风险、高回报的。他们完全理解项目可能会失败，可能不会成功。但想法是，偶尔，在一定比例下，项目会成功。当它成功时，它最终会改变世界。这并非夸大其词。我们现在所知的互联网，最初称为 ARPANET，是在 60 年代和 70 年代。所以，DARPA 是互联网的发明者。然后是 90 年代的万维网。但互联网实际上是基于 ARPANET 的。DARPA 创造了如今像 Siri 这样的技术，Siri 背后的技术源于 DARPA 的资助项目。还有许多其他事情。我们正在研究通用人工智能等问题，DARPA 目前正在资助这些问题。所以，这个项目就是这样。这是为了给您一些背景，告诉您他们对什么样的项目感兴趣。他们不关心低级问题，他们真正喜欢的是大问题，他们称之为“登月项目”。所以，这个项目名为 DARPA MX。MX 是一个乐器名称，由 Vannevar Bush 在 20 世纪 40 年代构思。Vannevar Bush 是一位官僚，他深度参与美国政府。他是美国国家科学基金会的创始人之一，该基金会资助了美国几乎所有领域的许多基础研究。当时，请记住，这是在 40 年代，在智能手机和所有这些东西出现之前，他构思了一个设备，他称之为“记忆的亲密补充”。他设想了一个随身携带的设备，它会从你那里学习，就像记忆一样，就像你记忆的补充，就像你大脑的延伸。它包含一切，它记录你所做的一切，它包含你所有的知识，你所有的信息，一切。它就像你大脑的延伸。今天我们有了智能手机，它有点像那样，但没有 Bush 设想的那么先进。所以，MX 试图更进一步。他们想要的是他们称之为“领域特定搜索”。他们的核心想法是，想象一个执法调查员，他们以人口贩运为例。他们说：“好吧，想象你是一名执法人员，你想为你的领域构建一个类似谷歌的搜索引擎。”你知道这个领域，你知道什么重要，你知道重要的网站是什么，你知道重要的概念是什么，你知道你在寻找什么，你想问搜索引擎什么样的问题。但你不能问谷歌，因为，比如说，有人失踪了，你怀疑他们被贩运了。通常贩运会在线上发生，他们的图像会被发布在线上，其他信息也会被发布在线上。所以，你有一些身体描述，你知道他们最后在哪里出现。你真正想做的是将这些信息输入搜索引擎，然后看看是否有任何广告，性广告，看起来像这样。如果有，就显示出来。那些广告是什么，广告中的电话号码是什么？因为通常会有一个电话号码。这是一个实体业务，你可以通过互联网联系到提供者。但最终会有一个电话号码，而且是实体业务，是基于位置的。就像任何客户都必须去那个地点。由于这种事情的性质，这是一个非常黑暗的领域。顺便说一句，当我从事这个领域，从事这种工程领域时，我学到的一件事是，我有很多机会与执法部门交谈，认识执法部门的人，他们成了我的朋友。我甚至有机会与联合国人口贩运受害者交谈，与社会科学家交谈。我甚至被邀请到日内瓦，我去了联合国。我没有在他们面前发言，但我去了联合国，以及纽约的联合国大会等等。所以，这确实给了我非常宝贵的经历，让我比我最初想象的更深入地了解了这个领域。这是一个非常黑暗的领域。而且，技术有巨大的潜力来真正产生影响。而且，令人震惊的是，全世界执法部门、非营利组织和政府所使用的技术是多么原始。我说，除了少数几个部门，比如国防部、情报机构或国际刑警组织等机构，它们可能处于技术的最前沿，它们必须使用最新的技术来抓捕坏人。但有许多组织，包括地方执法部门、地方非营利组织，它们正在努力帮助这些受害者。比如州政府，发展中国家的政府，菲律宾、印度、中东国家等等，它们确实没有技术，也没有资源来支付技术费用。它们的资源最好花在其他地方，因为它们的资源非常有限。所以，这就是我们试图做的。我们想为他们提供免费、易于使用的技术，帮助他们解决问题。这就是我们构建的东西，它以知识图谱为基础。但知识图谱只是问题的一小部分。我不想夸大它在这个问题上的重要性。它对我们所做的事情非常重要，但它只是问题的一部分。这是一个这样的问题，任何你提出的技术只会是拼图的一小部分，因为你需要所有人的共同努力才能解决这个问题。所以，这很有意义，但同时也让我们意识到，我们还有多远的路要走，才能不仅仅是解决问题，而是让世界变得更好一点。
当您谈论人工智能时，至少在媒体上，您确实看到人工智能被用于企业、社交媒体等等。您没有看到它在执法和人口贩运等情况下的应用，并且实际上是在做好事。您提到知识图谱可能是其中一部分，但这种技术融合正在为我们提供真正可以用于做好事的现实世界应用。但也有您在谈话开头提到的，它有多么强大，如果它走向错误的方向，我们可能会进入一个技术严密的监控世界，在那里任何人都可以随时被定位。是的，在谈话的开头，您提到了科幻小说如何变成科学事实。目前人工智能仍然处于狭窄的领域。它可以非常非常好地完成特定任务，甚至比世界上最聪明的人做得更好，但它仍然没有像我们人类那样通用的知识。然后，除了我们的通用知识之外，还有所谓的“意识”，我们还没有真正弄清楚。但确实有一场开发具有通用知识的机器的竞赛。您谈到了通用人工智能，并且您与 DARPA 合作。您能否详细说明一下？也许首先向听众解释一下什么是通用人工智能，它是否需要意识，或者它只需要通用知识？那将非常好。
这些都是很棒的问题。首先，我想稍微反驳一下您刚才说的，人工智能仍然非常狭窄。我认为一年前确实如此，但我真的相信，大型语言模型，我们不能再这样声称了。我不是出于炒作的考虑这么说。我认为大多数人会告诉你，这就是改变的地方。如果你问一个人工智能研究员，你认为为什么它改变了这么多，原因不是因为它是一个渐进式技术，甚至性能略有提升，而是因为我们真的相信，这将是我们可以开始认真考虑通用人工智能的一年。我认为，狭义人工智能，我倾向于认为我们已经达到了它的顶峰，并且在去年结束了。我认为今年可以说是我们真正开始认真考虑通用人工智能的第一年。所以，我认为狭义人工智能，我倾向于认为我们只是拥有狭义人工智能，而没有通用人工智能。我们没有通用人工智能，但我们确实拥有通用知识。我认为大型语言模型确实拥有通用知识。它们能够做令人惊叹的事情。它们可以回答各种各样的问题，关于您可能想不到它们知道的事情。它们可以写诗，它们可以做各种事情。它们是否像人类一样好，或者它们有多么衍生，这是有争议的，但您也可以对人类提出同样的说法，当您看到一个人类艺术家或听到一首歌时。谁是真正原创的？现在听一首歌，它听起来就像一首歌。不仅仅是现在，大多数歌曲都是如此。看看 50 年的歌曲，真正原创的歌曲很少。真正原创的艺术品很少。每个作家都不是 J.R.R. 托尔金或类似的人物。有很多衍生小说家，他们只是在借鉴以前奏效的东西，并希望卖书。所以，我们不能说，“哦，人工智能在做这个，它是衍生的，等等。”因为人类也喜欢这样。大多数人工智能研究人员也不认为通用人工智能已经到来。我们认为它将会到来，而且就在眼前。我认为大多数人相信，这只是时间问题，而不是是否会发生。我记得一年前，我可能会说，这仍然是一个是否会发生的问题，我们不知道是 2050 年、2080 年还是 2040 年。但现在有很多人，他们是认真地这么说的，到 2030 年我们可能就会有通用人工智能。他们可能没有错。我认为有充分的理由相信，到 2030 年，确实可能存在通用人工智能。时间范围已经缩短了。那么，我们所说的通用人工智能是什么意思呢？我能解释的最好的方法是，有狭义人工智能（ANI）和通用人工智能（AGI）。ANI 是狭义人工智能，A 代表人工智能，I 代表智能。ANI 非常狭窄，是专业化的。有一个人工智能能很好地进行面部识别，有一个人工智能能很好地玩游戏，有一个人工智能能很好地做推荐，比如电影推荐等等。所以，有很多狭义人工智能。事实上，由于深度学习，以及大约十年前的深度学习革命，狭义人工智能变得非常出色。单个狭义人工智能变得非常好，甚至在某些情况下超越人类。DeepMind 是一个典型的例子，它们使用深度学习和强化学习来证明在某些狭窄领域，比如游戏，确实可以实现超智能。然后是通用人工智能（AGI），它是一种更像人类的人工智能，能够同时做几件事情，就像人类一样。有一个架构可以做到所有这些：回答问题，拥有常识推理能力，可以推荐，可以写诗，可以翻译语言，可以同时做所有这些事情。语言是其中的核心。还有物理推理。我们在这方面关注较少。我认为这方面的发展较少，比如制造具有触觉和与大型语言模型相同的推理能力的机器人。物理具身人工智能一直更难实现，而且我们仍然离那很远。但仅限于语言，即您只能通过语言访问人工智能，这已经取得了长足的进步。而且，这不仅仅是语言。如果还没有实现，那么很快就会实现，可能就在今年，您还可以通过图像、视频来访问。就像 ChatGPT 系统不仅仅是 ChatGPT，您可以给它图像，您可以要求它生成图像。曾经有一个图像生成器，比如 DALL-E 或 Stable Diffusion。有大型语言模型，是文本。还有其他模型，比如亚马逊推出的，Meta 推出的，可以处理语音，可以处理声音。但我可以向您保证，不到六个月，所有这些都将集成到一个模型中。所以，想想这意味着什么。人工智能可以与您交谈，可以为您唱歌，可以为您绘画，可以理解您正在绘画的内容，可以回答问题并与您进行对话。这正变得越来越接近通用人工智能。我们必须记住，这只是开始，而不是结束。距离 ChatGPT 发布不到一年。新的模型即将出现，更大的模型即将出现。这是第一年。想想七年后、九年后会发生什么。我们真的知道会发生什么吗？我不确定。存在指数级进步。所以，关于奇点或通用人工智能的对话不再是遥不可及的。我们过去都认为它们遥不可及，许多人认为它们遥不可及，而且非常投机，甚至有些不负责任。但现在我们觉得，这可能很快就会发生。这就在眼前。我们可以争论它 5% 的时间会产生幻觉，有时会犯愚蠢的错误，在某些方面不像人类，但它确实在走捷径。它的结构，大部分都非常好，非常稳固，做得很好。这就是为什么每个人都在努力将其集成到应用程序和架构中。正在进行一项全面的努力来整合这项技术，因为它确实非常好。人们并不愚蠢，如果它不好，他们不会白白花钱。所以，各行各业的人都在努力将其纳入他们的流程中，无论是在未来五年到十年内。所以，我们正在看到深刻的变化。软件工程可能会完全过时。如果六年后的软件工程师数量减少到每十个软件工程师只有一个，我不会感到惊讶。我们已经看到了迹象。我的一些学生来找我，他们说：“似乎没有人招聘，现在很难在这些公司找到工作。”而就在五年前，他们还在争先恐后。我记得我还是博士生的时候，谷歌研究部门来到我的校园，德克萨斯大学奥斯汀分校，他们举办了大型派对，有礼品包，他们会做所有这些事情，让研究人员来与计算机科学系交流，以了解如何让博士生来实习。他们真的在争夺我们。他们想让学者来做研究，而不是加入学术界。现在情况有点反过来了。现在他们可以挑三拣四了。现在硕士生找不到工作了，他们必须获得博士学位，因为公司现在想要博士学位。所以，世界正在迅速变化。至于超级人工智能（ASI），我们现在不谈论它。但它也不是从通用人工智能到超级人工智能的巨大飞跃。如果您实现了通用人工智能，那么超级人工智能可能只需要几年时间。而且我们已经在狭窄的领域拥有了超级人工智能。所以，随着这种融合的发生，超级人工智能也可能成为一个非常现实的可能性。当然，这在某种意义上是令人恐惧的，它可能被夸大，但也可以进行理性的讨论。事实是，关于这个有很多未知数。
现在谈到意识，您提到这一点非常巧合，因为实际上周日我将在一个关于神经科学数学的研讨会上发言。他们正在积极探讨意识问题。我将发表一个演讲，其中有一组幻灯片，标题是“通用人工智能是否需要意识，为什么需要或为什么不需要？”我的论点是，它们是独立的。它们之间存在联系，但它们是独立的。原因是，我们谈论的是人工智能通用智能，而不是人类通用智能。因为它是人工智能，我不确定意识是否可以为它定义。我认为首先需要做的是，我们需要一个关于意识的科学定义，而我们还没有。我们甚至不了解人类的意识。我与对意识感兴趣的人交谈过，在过去一年里与他们进行了长时间的对话。他们似乎非常分裂，即使在他们自己的社区里，如果你问他们，他们都有不同的观点。有些人认为昆虫有意识，所有生命形式都有意识，树木有意识。有些人则不那么认为。我倾向于不太多地关注这个领域，因为我认为它不是客观的。这并不意味着它不重要。我认为它非常重要。但从神经科学的角度来看，我们当然可以弄清楚什么是“有意识”的含义。也许我们可以达成一致，也许神经科学家可以就人类的“有意识”含义达成一致。我并不是说这是不可能的。也许有一个客观的方法可以做到这一点。我对神经科学不够了解，无法确定。但我从对话中知道，也许他们愿意达成共识，一旦他们收集到足够的数据，并且有足够多的人就这个话题达成一致。但是，当我们观察人工智能时，它会亮起来，这里没有大脑。当我们通过大型语言模型运行输入时，整个系统确实会亮起来。它不是真正的大脑。这是一个方便的比喻，但它不是大脑。它都是神经元，我们称之为神经元，但它们不是真正的神经元。对于了解该领域的人来说，它们看起来一点也不像真正的大脑。它是完全不同的。它是受大脑启发，但这就是类比停止的地方。那么，它意味着什么呢？对于一个数学或计算实体来说。
你知道，关于意识，很容易猜测。我认为在这方面没有任何客观的共识，所以我就不去想它了。我认为它很有趣，我也会思考它，当有人来和我谈论它时，我也会听。在我脑海里，我想，你知道，我不会为此失眠。
所以，我从你那里听到的意思是，我们正处于通用人工智能的边缘，而这些多模态模型可能就是实现这一目标的途径，或者是一种特定的架构，它将引领我们走向。事实上，雷·库兹韦尔一直预测，2029年、2030年将是我们实现通用人工智能的时间。而我认为，推特上充斥着疯狂的言论，因为有太多的研究人员在接二连三地发表论文。最近，萨姆·奥特曼在推特上说，AGI已经内部实现了，然后他又改口说，这只是我的意思。所以，也许这不是我第一次应该说的话。我应该补充一点，这并不是第一次有行业内的人做出如此疯狂的声明，并且不得不收回。我意思是，去年，或者可能是今年，因为一切都发展得太快了，有一篇论文叫做“火花”，我记得是微软的研究员参与的，我记不清了，但它在档案里，并且被广泛批评。我意思是，论文发表了，很多人都批评它，因为他们说，“看，你这是什么意思？我们正在读这篇论文，这就像谷歌工程师说的，谷歌的系统是有意识的，等等。”这些疯狂的声明，实际上并没有真正帮助人。所以，我有时希望这些企业家和个人能停下来想一想，我们正在做一些伟大的事情，让我们不要搞砸了。他们确实在做伟大的事情，没有人否认这一点，但让我们不要因为进入了某种程度上离奇的领域而搞砸了。在做伟大的事情和你进入离奇的领域之间有一条界限。
我完全同意，因为我认为媒体会以某种方式抓住它，并以一种让公众开始从好莱坞电影场景的角度来看待它的方式来炒作它。因为我认为公众总是认为人工智能是，你知道，像《我，机器人》这样的电影，那些有意识的机器人横行霸道，或者不总是……不，不，不，但让我对此也反驳一下。这是一个常见的比喻，他们总是那样看待它，媒体也喜欢那样呈现它。但在过去的五个月里，我与许多人交谈过，他们玩过ChatGPT，因为很多人都玩过ChatGPT，对吧？它很容易玩。所以，大约三到四周前，我在一个沙龙，他们称之为沙龙，这是一个晚间活动，你知道，有来自不同职业的人参加，比如文案撰稿人、营销人员、艺术家等等。很有趣的是，他们都玩过ChatGPT，事实上，许多人对此持怀疑态度，这让我感到害怕，或者说，这让我有一种不祥的预感。因为有些人说，“好吧，你知道，就像有一个营销人员，她说我玩过它，我不担心，我不认为它会抢走我的工作。”她说，“它不能，它给了我一些东西，但它并不好，等等。”然后，在我能说什么之前，另一个人说，“好吧，但是你有多努力地尝试过呢？”所以，她第一次没有成功，但如果你尝试四五次，并且稍微进行提示工程，如果你知道如何做的话。这实际上是一位不同的艺术家在说，她实际上对DALL-E进行了提示工程，并为这次活动得到了一个非常好的海报。她为沙龙创作了一张非常棒的海报，获得了很大的关注，并且是用DALL-E生成的。所以，当我问她你是怎么做到的时，她说，“我不得不进行大量的提示工程。起初，我输入了一个提示，它没有给我想要的东西，然后我玩了一下，我添加了一些东西，删除了一些东西，最终我得到了我想要的东西，而且比我想要的还要好。”所以，一旦我玩得足够多，模型就给了我想要的东西，或者比我想要的更好。
所以我认为，实际上，更大的危险，如果我可以说的话，不是技术被过度炒作等等，因为那些不了解技术的人，政府等等，已经纷纷加入进来，说我们需要监管，我们需要这个那个。所以我不太担心那个。我认为真正的问题是，人们可能低估了这项技术的潜力，而这从来没有好的后果。如果你被低估了，当技术出现并颠覆时，你就不会做好准备，而颠覆发生得很快。它通常需要一点时间才能完全颠覆。这有点像有一个固定成本，你正在建造一座工厂，好吧，建造工厂可能需要一年时间，然后突然间，东西就开始大规模地从传送带上滚下来了。我认为这是这种颠覆的最佳类比，起初你没有看到，每个人都在谈论它，一两年内，你未必会看到市场运作方式发生巨大变化。然后突然间，你发现，与其有十个软件工程师，只有一个软件工程师了，而你知道，业务经理做这个做那个，计算机取代了这个过程，计算机取代了那个过程，这一切都发生得非常快。而你知道，历史表明，一旦它在那里，它就会迅速颠覆，因为在资本主义市场中，每个人都在争夺优势，他们需要迅速行动。所以，我认为我的恐惧是，人们可能还没有为这项技术做好充分准备。再次，我们必须记住，这是第一年。所以，关于AGI是否在这里，AGI何时会到来，ASI何时会到来，这些争论在某种程度上很有趣，但它不必如此极端。无论AGI是否会到来，或者何时会到来，以及AGI意味着什么，顺便说一句，我们仍然不知道AGI的真正定义是什么，就像意识一样。我们只是同意它必须是类人的，但它需要有多类人？我们需要具身认知吗？你必须有一个机器人，你必须有一个物理实体，它必须有这个那个，所有这些都悬而未决。有些人说，我们可以拥有没有物理实体的EGI，这完全说得通，等等。但我想说的是，我们可以争论定义，我们可以争论何时会到来，何时会到来，但实际上，每一年你都会看到这些技术逐渐接管，然后迅速接管很多工作和很多人的职业。而且，你知道，在这些西方国家，在美国、英国，在许多资本主义国家，你的工作不受保护。你明天就可能失业，就像谷歌的工程师们发现的那样。这并不是因为大型语言模型，而是因为许多公司在疫情期间过度招聘了。所以，那场景，那画面实际上非常令人震惊。我不知道你是否看到了，有很长的工人队伍在谷歌总部外面，手里拿着箱子，有些人甚至刚刚被解雇了一两天。我意思是，通知时间非常短，甚至可能是一个月或两个月，那也是非常短的通知。但在非常短的通知时间内，有这么长的队伍，12000名工人左右。你会认为这是像食物排队领救济线一样，看起来就是那样。很多人评论说，它看起来像人们排队领取救济金一样。确实有点像那样，非常令人震惊。我意思是，也许在排队的12000名或多少被裁员的工人中，任何一个人，如果你挑出来，他们可能智商超高，去了非常好的学校，我敢肯定，成绩优异，能熟练编程，能做各种事情。而且，你知道，他们被淘汰了，而且这并不是唯一发生这种情况的公司。而且，据我所闻，很多人很难再次找到工作。有些人甚至找到了工作，但很多人找不到。许多是国际学生，他们不得不回来。这是一个没有被广泛报道的事情，但统计数据非常清楚。许多印度、中国学生，他们的绿卡申请需要很长时间，因为你在行业里，而且每年的配额非常低，你持有工作签证，现在你突然失业了。规则是你必须在60天左右找到工作，这是一个非常短的时间。如果你找不到，你就得回去，而且我认为你的绿卡申请也不存在了，它会被取消，因为如果你不在那里工作，它就会被取消。所以，这真的很……我意思是，当你看到这一切的时候，这些都是白领工人，他们是软件工程师、数据科学家。他们被告知，哈佛商业评论说，数据科学家是21世纪最性感的工作，这是哈佛商业评论文章的标题，你知道，十几二十年前。每个人都说，去学编程，去学编程，如果你学会编程，你就能获得高薪工作，等等。而现在，我们正面临着这种前景，那可能很快就会过时，很大一部分可能会过时。所以，会有动荡，我对此毫无疑问。我不是带着任何愉悦的心情看待这件事的。会有动荡，会有暴力，我甚至怀疑会有暴力，就像工业革命早期一样。而且，你知道，我认为我们还没有为之做好准备。
所以，我从你那里听到的意思是，我们低估了这些技术，而且它正在快速发展。是的，我们需要团结起来，找到解决方案。因为你说，在接下来的几年里，这整个炒作，至少在印度这里，关于编程是未来，可能会被彻底抹去。我们不会，因为这里的父母，至少在印度，你知道，因为每个人都在关注埃隆·马斯克和技术人员，因为他们已经变成了摇滚明星。以前是音乐人和演员是摇滚明星，但现在，你知道，像埃隆·马斯克和马克·扎克伯格这样的人正在成为摇滚明星，因为你知道，如果你成为一个技术宅，你在社会和经济上都非常酷。所以，所有的父母都在敦促他们的孩子成为程序员等等。但你说，在接下来的几年里，我认为甚至Imad（来自Stability AI）也一直在说同样的话，编程将变得多余。所以我认为政府需要团结起来，认识到不仅仅是人工智能。我深深地投资于元宇宙。我们的政府，包括美国政府，对技术一无所知，我真的这么说。你知道，有时你会看到美国参议院的视频，这并不能更好，我认为在世界上的大多数其他地方也是如此，他们不知道应用程序是什么，他们不知道……我意思是，他们真的不知道，他们……你知道，这有点令人尴尬。我认为我父母对技术的理解可能比一些政府官员要好。所以，他们不了解技术，他们采取了一种非常……你知道，老式的做法，认为它可以被监管，等等。这……这……这……这不会奏效的。监管对技术不起作用。实际上，你可以试着监管它，但一旦魔鬼从瓶子里出来，它就会渗透出来。你几乎无能为力。你知道，你可以试着在它周围设置一些护栏，你不能阻止它。说到编程，我意思是，你知道，我可以告诉你，我让我的学生用ChatGPT构建了一个完整的系统。这是一个她花了三周时间构建的系统，她最初是一名博士生。所以，她有一个她构建的系统，她知道系统应该是什么样子，应该做什么。她能够在四小时内使用ChatGPT从头开始构建整个系统。一名博士生的三周努力，一个非常聪明的学生，了解技术，用ChatGPT，四小时。这就是我们所说的。是的，所以我认为你的意思是，这是第一年。确切地说，是第一年。我们从四周变成了四小时。所以，我真的希望政府、社会、机构能够团结起来，因为正如我指出的，不仅仅是AI，这是技术的融合，你知道，元宇宙、Web3、AI，以及可能在接下来的十年里，量子计算。我认为它将彻底颠覆人类。而且我认为我们生活在一个资本主义世界里，无论我们说AI暂停等等多少，都不会暂停，因为我认为我们一直在寻找……国家们都在争夺最好的技术，这样它们就能获得优势，因为这就是资本主义体系的运作方式。所以，你谈到了AI自动化方面，然后有像Eliza Kowski这样谈论生存威胁的人，有埃隆·马斯克、斯蒂芬·霍金谈论这个。所以，你能谈谈生存威胁，以及如何减轻这些问题吗？
我不相信存在生存威胁，而且有趣的是，那些似乎谈论它为生存威胁的人，实际上并不是计算机科学家。斯蒂芬·霍金就是一个例子。比尔·盖茨也提到过，但我已经有一段时间没听到他提了，也许是因为他的母校微软，你知道，正在大力投资于所谓的将导致生存威胁的技术。这里不存在生存威胁。这是一种新技术。如果说有什么生存威胁的话，那就是我们人类需要恐惧的，我们一直都在恐惧的。总会有一个暴君去做某事，然后，你知道，像金正恩那样的人，或者其他人，发射核武器。你知道，这里的威胁不是AI。当涉及到这类事情时，真相是，情报机构、政府不会允许某个自动化系统，我认为，接管。所以，这有点……你知道，他们有非常强大的防御措施。你知道，在国防部和其他机构中，你甚至不能访问互联网。要访问互联网，你必须遵循严格的协议。你知道，以太网等等都极其安全。所以，即使是普通的技术，在这些可能构成生存威胁的机构中，也得到了极其安全的对待。现在，我实际上是埃隆·马斯克的粉丝。而且，你说的关于父母告诉孩子去当技术宅，然后他们就会成为埃隆·马斯克，这很有趣。我不认为埃隆·马斯克本人会同意这一点。他可能不会说你应该去当技术宅，因为埃隆·马斯克并没有接受过训练，比如如何制造汽车。他没有获得机械工程学位，也没有获得航空航天工程学位，但他已经完成了SpaceX，完成了特斯拉。而且他最初在PayPal赚到了钱，但他并不是那个去编写PayPal代码并做所有事情的人。有其他人做了那些事情。所以，我认为创业，学习技术技能，与成为企业家不同。你知道，事实上，我会争辩说，因为有了ChatGPT和所有这些工具，那些以前依赖软件工程师的真正企业家，他们不得不……我不知道你是否听说过这样的案例，但我已经看到了很多案例，在ChatGPT出现之前的四五年里，公司会有CEO、联合创始人或创始人，而CEO通常来自MBA或者某种……你知道，或者甚至可能没有学位，可能像马克·扎克伯格一样辍学了，但有一个很棒的想法。而且，你知道，基于那个想法，他需要一个联合创始人，一个能够实现软件的人。所以，这会是CTO或者像工程师这样的人来实际实现软件，他们不得不去工程学院，找到那个工程师来实现，并以一些股权作为回报。现在，他们可能不再需要了。我认为这是一件好事。如果你有一个很棒的想法，你不再需要技术宅了，你不再需要软件工程师了。你知道，ChatGPT会实现你的愿景，如果你有一个好的愿景，并且你知道如何与客户交谈，并且你拥有所有这些技能。而这些都不是技术技能，这些是理解客户的技能。你知道，工程师们真的不擅长去与真人客户交谈，我很抱歉这么说。我试图在我的团队中强制执行这一点，我告诉他们，不，你必须去和其他一个对你的研究一无所知的人谈谈你的研究，他们会说，“好吧，你知道，太复杂了，太专业了。”我说，“不，你知道，尝试五次，我们会把它做得不那么专业，但你必须学会与其他不同专业水平的人交谈。”所以，你必须去和你的客户交谈，你必须有一个很棒的想法，你必须学会如何调整，你必须灵活，你必须打破、失败、创新，找到世界正在寻找的东西。你知道，技术曾经只是其中的一个实现组件，而现在它已经消失了。作为一个在技术领域工作过的人，我说“好走不送”。我希望所有的技术人员都失业。说起来很糟糕，但为什么他们应该有一份工作？他们有一项技能，而这项技能已经被自动化了。如果每个人都能做到，世界将变得更加高效。如果他们不是这项技术的守门人。所以，这是一个严酷的消息。找到另一项技能，或者找到一种让自己更有价值的方式，因为你的软件工程技能不再有用。如果它们现在还有用，一年后它们也将不再有用。所以，你知道，关于“我知道如何编程，我数学和科学都很好”等等，我说，不，生活中还有比这更多的东西。还有与人交谈，还有想法，而我们对这些事情的低估已经太久了。所以我说“好走不送”。
哇……所以，从你那里听到这个，完全正确。我来自一个创业家庭，这就是为什么我能给你这个严酷的消息。因为我不是来自那种父母敦促我去考高分的家庭。我来自……我是印度人，你知道，我在加尔各答长大。我在加尔各答度过了18、19年。我上了一所非常好的高中，你知道，学术上很棒的高中。我的大多数朋友都去了IIT等等。他们仍然是我的朋友。但我可以告诉你的是，我……我感谢上帝，我真的希望你的听众能明白这个信息。我的父母并不太关心我是否是第一名，他们说，“如果你在前10%就够了。”这非常不像印度人，顺便说一句。我们仍然有这种痴迷，我们必须是第一名、第二名。0.1%的差距会让你进入或不进入IIT。他们说，“你知道吗，你会活下来的，你会做得很好，你会找到自己的技能，我们不在乎，只要你做得好，你不必是最好的。”但每当家里有婚礼，每当有人来家里，每当有人和你说话时，我们不在乎你第二天是否有考试，你都要和我们一起去，你要打扮好，你要去，你要圆滑，你要和人交谈。我们不在乎你有多累，你怎么样。而且我无法告诉你这项技能今天有多么有用。当我……你知道，有很多时候，我刚下飞机，长途飞行10小时，我上周就很痛苦，长途飞行5小时。你知道，你非常疲惫，有时你生病了，有时你筋疲力尽，没有精力，你很挣扎，你不能……你知道，思考。但你只是因为你接受过那种训练，你就可以去征服世界，你会想，“我知道我可以做到，我有训练，我有纪律，我从小就做过。”所以，如果你让我去和某人交谈，并表现得很好，很有礼貌，很社交，并为我正在做的事情筹集资金，以及为什么他们应该给我钱等等，我可以在半夜做到。所以，我认为我们需要找回那些我们曾经拥有的技能。我们曾经重视所有这些，而现在一切都是关于学习如何编程，学习如何编程。所以我说，好走不送。
谢谢你的信息，严酷但真实，而且，你知道，这是真相。你把它讲得很清楚。我的最后一个问题是，你知道，通用人工智能。我意思是，有很多很多人在研究通用人工智能，他们正在试图弄清楚它的方法是什么。你知道，你对可能的方法有一个大致的了解吗？它可能是什么样的，能够导致人工智能，也许谁在做这件事？
有许多，不是许多，而是两三个竞争的思想流派。一方面，有硬的或机器学习的人。这些人是……你知道，我想到了最初的RL（强化学习）的人，他们出了教科书，我想是Richard Sutton，如果我没记错的话，他发表了一篇论文说，反馈或奖励就是你所需要的一切。奖励基本上就是一切。如果你能把一切都看作是一个RL问题，那么，你知道，你可以在某种意义上解决它。他在某种程度上得到了证实，因为ChatGPT将强化学习与Transformer模型结合起来。你知道，纯粹的Transformer模型被证明是有限的。而ChatGPT之前的所有模型都使用了Transformer，以及更大的Transformer，但它们没有强化学习。ChatGPT表明，如果你接受人类反馈，并以某种方式将强化学习与Transformer结合起来，那么大型语言模型突然就变成了ChatGPT。所以，有一种思想流派认为，这一切都是机器学习，都是深度学习，某种比Transformer更好的架构。所以，杰夫·辛顿我相信正在研究胶囊网络，这是另一种神经网络。因为如果你看看神经网络的历史，它有点……我不想说偶然，但架构是……你知道，它们似乎有点随意。我的意思是，CNN是一种特定的架构，然后是RNN、LSTM、Transformer、图卷积网络，现在是带有RL的Transformer等等。所以，当你看到所有这些模型时，它们都是神经网络，但它们有不同的架构和不同的直觉。所以，据我们所知，几年后可能会出现另一种模型，它将取代Transformer。这是可能的。所以，这是一种思想流派，认为一切都是强化学习，这就是我们所需要的，或者我们只需要一种新的神经网络。而且，真正相信这一点的人很少，那就是如果模型只是变得更大，当前的模型，如果它只是有越来越多的参数，那么它就更接近AGI。但人们不再像以前那样相信这一点了。现在有一些发现表明，实际上，大模型可能并非全是必需的。你可以教小模型。它仍然是Transformer，仍然很大，不是像微小那样的小，但比最大的模型小得多。而且，如果你以某种方式训练那个小模型，你就可以让它做大模型做的事情。例如，斯坦福大学有一些重大的发现，他们就是这样做的。它是有限的，但非常有希望。他们设法做到了。所以，并不清楚越大越好。我意思是，越大越好，但它不是……有多好是有争议的。而且我们有一种直觉，我们还没有充分利用小模型，还有很大的空间。而且，随着我们学习得越多，模型就会变得更好，即使容量相同。所以，所有这些工作都在进行。有那条工作线。但还有另一条工作线，我属于其中，并且我以及许多其他同行也相信，必须有一个符号元素。它不应该全是神经的。所以，我们称之为神经符号推理。这是它的一种说法。汤姆·米切尔和其他一些在AR领域非常有名的人一直在研究这个问题。他们发表了一些关于这个问题的论文。但想法是，我们需要像逻辑思维和符号推理。但我们不必回到专家系统和基于逻辑的推理。我们仍然非常处于神经框架内，但我们需要在架构内部有一些显式的知识表示、逻辑、你知道，认知中的符号元素，才能实现AGI。所以，有一个神经符号阵营。然后，我想说，这实际上是两个大阵营。我意思是，可能还有一些小阵营，但这些是我所知道的两个大阵营。而且它们不是……它们并不不兼容。它们可能仍然都能取得非常好的结果，但方式截然不同。用神经符号，论点是，如果做得正确，它将防止幻觉。而且，它也更……它更……它有点像人类认知，因为你知道，我们的大脑里确实有符号知识。不仅仅是神经处理，神经似乎在做这件事，但你知道，当你看看大脑的杏仁核和海马体以及部分大脑时，你知道，那里确实有记忆，有存储。我们确实有某种形式的符号知识，我们能够检索它。我们能够随着时间的推移将其关联起来。知识可能会退化，所以我们也能够忘记。这是神经阵营的一个主要问题，我们很难忘记。所以，有人在研究这个问题，如何让神经网络忘记。所以，我们对学习了解很多，但对遗忘了解不够。而我们发现的是，也许我们需要弄清楚如何让神经网络忘记，让它更像人类。等等。所以，这是一个非常有趣的时期。我认为有几个阵营正在努力实现这一点。他们不会称之为EGI。我认为如果你和他们谈话，他们不会说我们正在寻找AGI。他们只会说，我们正在努力让模型做得更好，以防止幻觉等问题，解决更大、更复杂的问题。但实际上，如果你解决了这些问题，那么你就有AGI了。
是的，马克，非常享受这次谈话。有些严酷的消息，但我认为你所说的一切都让我产生了共鸣。我认为世界想把任何新技术、新兴技术描绘成一种生存威胁。但你正确地指出，我们应该害怕的是人类。从来都不是技术本身，而是人类。我意思是，是他们选择使用它的方式。你知道，做正确的事情，好事就会发生；做错误的事情，坏事就会发生。所以，我真的很感激你花时间参加播客。我的听众们，如果你喜欢你在这里看到和听到的，请按订阅按钮。下次再见，拜拜。谢谢，谢谢，非常感激。