Transcription
大家好。欢迎来到本次会议。这将是本次会议关于人工智能的下一场会议，但我认为它会有点不寻常，因为我们不会谈论大型语言模型或代理。嗯，也许在这次演讲的大部分时间里不会，但取而代之的是，我们将专注于一个对机器学习来说更普遍但对大型语言模型也非常有趣的方面，所以我们将在最后触及它。我们将谈论一种叫做持续学习的东西，我想向你们解释这个概念，并与你们一起通过一个基于 MRI 诊断用例的用例故事来讲解。所以，大家好，我叫 Agata Hujinska。嗯，正如我的姓氏可能暗示的那样，我是波兰人，这就是我们在街上传统微笑的方式。嗯，但我目前在汉堡的德国人工智能咨询公司工作，在那里我们为来自不同行业的各种客户开发项目，并且在过去 10 年里我一直在人工智能和机器学习领域工作。所以，正如你可以想象的那样，我经历了从“这就像黑魔法，离我远点”到我们现在都是“人工智能优先”公司的整个过程。所以这是一段相当有趣的旅程。但在这里，对于这次演示的其余部分，有趣的是，我们也与医疗相关的项目合作了很多，并为医疗科技公司做项目。我说的这个是什么意思？主要是处理医学图像。例如，识别骨骼等结构，这是一个简单的例子。更具挑战性的是识别肝脏，甚至分割出这里可以看到的小静脉。这是一个非常困难的任务，但对于肝切除手术过程来说却非常重要，因为如果你切错了地方，可能会对患者造成严重后果。通常还需要在三维空间中进行可视化，在扩展现实中进行可视化，以及进行一些额外的测量以进行手术规划。但今天我想多告诉你一些我们最具挑战性的项目之一，它与一种叫做局灶性皮质发育不良或 FCDs 的东西有关。但在我们深入探讨之前，有一个非常有趣的统计数据，也许你不知道，至少在我开始这个项目之前我不知道，那就是全球约有 5000 万人，或者根据不同的统计数据，约有 1% 的全球人口患有癫痫病，这使其成为全球最常见的神经系统疾病之一。如果这还不够，每个癫痫病患者意外死亡的可能性是 24 倍，原因是一种称为癫痫病患者猝死（SUDEP）的现象。所以我想我们都可以同意这是一个相当重要的问题。所以，如果我们稍微深入探讨一下这个话题，我们迟早会发现这些 FCDs。那么它们是什么呢？我们可以在放大镜下看到它们。所以它们是一种有缺陷的脑组织，是癫痫病非常常见的原因，尤其是那些药物难治性癫痫病。好消息是它们可能是可手术的，但找到它们并不容易。那么它们在 MRI 上看起来是什么样的呢？因为这是我们可以诊断它们的方式。简短介绍一下，如果你有幸一生中从未做过 MRI。所以，只是一个简短的复习。所以，MRI 代表磁共振成像，这通常是一系列图片。所以，在我们的例子中，它将是一系列 192 张图片。它们是由 MRI 扫描仪完成的，就像这里这个一样。所以，这是一个管子，你进去，它会发出响亮奇怪的声音，它使用磁铁和射频来创建你体内器官的非常详细的图片，而无需切割或其他任何东西。你也可以使用不同的设置来暴露稍微不同的特征。所以，好的，我们已经完成了我们的 MRI。所以，让我们分析一下如何在那里找到这些 SDS。有几种不同的特征，它们可以以不同的组合出现。所以，让我们不要深入太多医学细节，让我们只分析其中一些示例特征。其中一个就是模糊，你可以在右边的图片中看到。还有大脑表面的异常折叠，灰质或白质的高信号，所谓的脑室旁信号，你可以在这里看到，朝向大脑中心。但为了不让事情变得太容易，它们的大小、位置和形状可能不同。而这些特征并不总是同时出现。它们可能有不同的变体和不同的组合。但当事情顺利时，通常是癫痫病专家，也就是真正专门研究癫痫病的医生会找到这些 FCDs，患者可以接受脑部手术。这不是人工智能，这是真的。然后变得无发作。所以，这是个好消息。所以，有了所有这些知识，我有一个小任务给你，那就是你能告诉我这三名患者中，如果有的话，哪一位患有 FCD 吗？所以，给你几秒钟，我们将进行一个小投票。好的，那么谁认为它是患者一？请举手。好的，谁认为它是二号？好的。还有三号。是的，我认为三号获得了多数票，但你们都说对了。所以，所有三名患者都有 FCD。尽管它们不像通常书本上那样明显，你会在那里看到一些特征。嗯，现实情况有点不同。所以，它们非常棘手。所以，通常情况下，正如你可以想象的那样，这项任务通常需要一位经验丰富的癫痫病专家。而且，正如你可以想象的那样，任何小众知识都会有很多人。所以，我们想，为什么不使用人工智能来检测它呢？就像你一般思考机器学习和人工智能是什么，以及为什么使用它。它实际上是关于在数据中检测一些微妙的模式，你知道这些模式存在。它们不必那么明显。所以，你不能自己写规则来检测它。实际上，它们的目的是让知识更加民主化。所以，这听起来是一个完美的案例。所以，我们找了我们团队的一些同事。我们与德国最大的癫痫中心合作，在汉堡，我们甚至请了一位真正的医生来增加我们成功的机会。这样我们就已经明白了问题所在。所以，我们从机器学习部分开始，一如既往，我们从数据开始，因为数据就是一切。所以，我们设法收集了 201 个 MRI 系列。所以，这是 201 名患者的系列图片。但我们不希望我们的模型仅仅识别 FCDs，知道它们在那里。所以，这就是为什么我们也添加了 100 个正常的 MRI，也就是健康患者的 MRI，但也有 50 个患有不同脑部病变的患者的 MRI，这样我们的模型就可以识别出，那里可能存在不同种类的病变。我提到了 MRI 扫描仪的不同设置。所以，在这里我们使用了 T1，它能更好地显示解剖结构的形状。还有 T2，它侧重于液体，以及 FLAIR，它是 T2 的一个特殊版本，它能更好地显示异常。对我们来说重要的是要使用真实世界的数据。对吧？所以，我们没有挑出最好的 FCDs 例子。我们只是把它们全部拿来，这样它就能在实践中起作用，我们真的想确保 FCDs 确实存在。所以，正如我告诉你的，即使对医生和专家来说，也很难找到它们并确定它们确实存在。所以，我们请了两位专家进行了检查。我们还让医生分析了患者的癫痫发作类型以及脑电图数据。所以，测量大脑活动的电极，只是为了确保 FCDs 确实存在。如果你在机器学习领域，或者读过一些关于它的东西，或者听说过它，你可能会说，嗯，200 个系列，对于机器学习来说真的不多。你说得对。但我也忘了提，根据我们收集到的解决这个问题的所有信息，这实际上是当时世界上最大的数据集。为什么会这样？因为注释这些数据也非常困难。所以，我们想确保告诉机器学习，比如以一种确切知道 FCDs 在哪里进行训练的方式。所以，通过这样做，我们确实需要专家来注释确切的区域，这非常耗时，并且需要专家花费大量时间。所以，我们有了数据集。所以，让我们去训练一些小网络吧？嗯，不完全是。我的意思是，我们尝试过这样做，但事实证明，数据不足以直接训练神经网络。所以，我们不得不退一步，进行预处理，我们分了四个步骤。所以，第一个是脑组织分割。这实际上是一项简单的任务。我们可以达到 95% 以上的准确率。它们是现成的神经网络。所以，让我们不要花太多时间在这上面。但我们这样做了有两个原因。首先，我们想排除任何与我们问题无关的数据，比如头骨之类的。但第二个原因是，这是使用第二种方法的前提，第二步是形态计量分析。所以，正如我提到的，识别这些 FCDs 是相当棘手的。所以，癫痫病专家提出了一些方法来帮助他们更好地识别它们。其中之一是由 Dr. Hoopert 开发的方法，他稍微暴露了一些 FCDs 的特征。并且我们也受到启发，应用了连接和扩展。连接依赖于处理像素的高密度。所以，进行一些数学运算，比如标准差，来更好地暴露这个特征，而扩展则相当有趣，因为它依赖于一个观察，即如果你有一些轻微的模糊，然后增加更多的模糊，它就会暴露最初的模糊。有趣的是，它也被用来检测 Photoshop 中的一些变化，比如当你想要检测某人是否更改了这张图片时，你也可以使用类似的方法来查看哪些区域被更改了。我实际上不知道现在是否还有意义，因为每个人都在使用人工智能来做这件事，但以防万一。最后，我们将所有内容作为输入。所以，我们使用了 T1、FLAIR 和连接扩展，进行了传统的裁剪、填充和其他机器学习方法，我们就可以进入下一步，也就是训练神经网络。所以，我们在这里尝试了许多不同的方法。所以，我们训练了许多不同的模型，并且有一个相当有趣的观察是，我们也使用了例如 Transformer 网络。所以，你可能知道 Transformer，因为它们也是大型语言模型背后的架构，而且它们在计算机视觉中也越来越频繁地使用。但有趣的事实是，即使它们更新、很受欢迎等等，它们并不总是最佳选择，至少在处理像这样的生物医学影像时是这样，很多时候不同的方法比它们做得更好。所以，在这里我们决定使用 U-Net 架构，它有一个相当典型的 U 形，你可以在这里看到，它在我们的案例中效果最好。所以，非常简短地说，它是如何工作的？所以，它是一个编码器-解码器架构，这意味着在第一步，在 U 的第一部分，我们正在编码信息。所以，这意味着我们从我们这里的图片系列开始，然后我们试图编码，也就是说，创建一些在这里瓶颈处创建的抽象特征，然后在解码器中，我们试图再次回到正常的图片，我们这里的图片，或者回到分割，这里是这个相当大的 FCD。通过以这种方式训练网络，它确实需要学习哪些是那些超级重要的特征，这些特征将允许它在解码器部分再次回到你想要实现的目标。在这里，我们也应用了变分解码器。这只是一个帮助我们避免模型过度拟合的工具。那么我们做得怎么样？所以，我们查看了对象级别的指标。所以，我们只想知道我们正确检测了多少 FCDs，多少没有。但同样重要的是，我们希望它是可解释的。所以，我们想知道为什么这个模型做出了这个决定。这就是为什么我们查看了称为 Dice 系数的体素级别指标。所以，体素基本上就像我们在二维中有像素一样，体素是相同的概念，但在三维中。我们实际上得到了相当不错的结果。我的意思是，我们识别了 70% 的 FCDs，精度也不错。所以，我们没有产生太多假阳性。一切都很棒。所以，在医学领域，你还需要进行一个额外的步骤。所以，当你有了准备好的模型，你需要进行前瞻性临床验证或临床研究。所以，实际上，我们又选择了接下来的 100 名患者，他们在癫痫中心。除了医生进行正常诊断之外，我们的模型也在并行测试。结果如何？所以，我将快速引导你浏览这张表格，以及最重要的信息是什么。所以，中间我们可以看到真实情况。所以，我们知道在这个数据集中有九个 FCDs。所以，有九名患者患有它。左边是我们两位神经科医生的结果。所以，医生，但不是癫痫病方面的超级专家。他们设法识别了其中三个。而我们的模型在右边设法识别了七个，这真是太棒了，对吧？我的意思是，与医生相比，这是一个相当不错的工作。但我们很长时间都不太高兴，因为然后我们看到了下面发生的事情，这意味着医生只产生了五个假阳性。所以，在没有 FCD 的五名患者中，他们说有，但我们的模型为 86 名患者做了这个，这不是个好消息。所以，我们想了解发生了什么，这真的非常重要，就像你什么时候与人工智能、机器学习一起工作，总是尝试理解为什么，即使你得到了好的结果，理解为什么做出给定的决定总是很重要的。所以，我们的发现是什么？首先，在大多数情况下，当我们的模型说一个 MRI 系列中有两个或三个 FCDs 时，它是错误的。但这仍然可能发生，就像它很少发生一个病人有几个 FCDs 的情况一样。但这仍然可能发生。所以，我们无法排除这一点。为什么会发生？首先，它对图像噪声做出了反应。就像我们想尽可能接近真实世界一样。嗯，我们做到了，但我们的模型也对图像噪声做出了反应，比如当病人在 MRI 过程中移动头部时。它也对看起来相似的病变做出了反应。例如，当有模糊时，这可能是 FCDs 的一个方面，嗯，它检测到了，但它并不是真正的 FCD，就像它共享一些特征，但不是全部。模糊并不自动意味着 FCD。我们还看到的是，实际上我们的模型识别出了大脑的一个特定部分，它非常频繁地说那里有一个 FCD。我们对此进行了分析，是因为我们的训练数据集实际上在这个区域有很多 FCDs。所以，结论是，我们实际上有不同的数据分布。我的意思是，实际上，我一开始说全球有 1% 的人口患有 FCD，而我们数据集的一半都是 FCDs。所以，这与真实分布不符。所以，让我们总结一下我们在这里拥有的，在第一幕中。所以，我们有一个模型，它可以很好地识别 FCDs，但它会产生很多假阳性。所以，它可以用于初步筛查，比如向医生建议，嘿，看看这里，因为可能有一个 FCD。但正如你所知，如果你收到太多建议，而且它们是错误的，你就会停止信任它，对吧？所以，这并不理想。我们还只在一个医院收集了数据，由一台扫描仪完成。所以，当你想要应用到不同的扫描仪时，数据可能会略有不同。所以，这也是一个潜在的挑战。医疗数据非常敏感。我知道 Mr. 这是显而易见的，但这对于下一部分很重要。而且，每当你与医疗领域的机器学习打交道时，都有非常严格的要求。我的意思是，现在随着所有的人工智能法案等等，情况会更糟。当然，这很重要，但我们还需要考虑很多额外的工作来构建这类模型。所以，当我们思考我们可以做得更好的事情时，我们深入研究了持续学习。所以，在我们深入细节之前，让我们快速回顾一下，以便我们都对典型的机器学习任务的样子有一个共同的理解。我们实际上已经快速回顾过了。所以，我们首先尝试理解问题，创建数据集，训练许多不同的模型，最后我们有了我们的理想模型。我们将其部署到生产环境中，然后我们就过上了幸福的生活。我总是希望那里会有人笑。因为这并不是真实生活的样子。为什么？嗯，因为几乎总会有数据漂移，这意味着数据会改变其分布。你会得到新的扫描仪，就像在我们的例子中一样，去不同的医院，数据看起来会略有不同。如果你在金融领域构建一个欺诈检测系统，我的意思是，如果你开始检测欺诈，他们就会改变行为。如果你做一个推荐系统，人们也会改变他们的偏好。所以，数据总会改变。你可能想添加新的类别。我提到过，例如，我们检测了 FCDs，但也有一些不同的脑部病变。所以，为什么不一次性检测，例如脑肿瘤呢？我们可能想添加一个新任务。例如，我们正在提取信息，也许我们也想做总结。无论我们添加多少新数据，收集多少数据，数据中总会存在一些偏差。而所有这些最终都会导致我们的模型性能下降。所以，我们可以做什么来解决这个问题？所以，第一个方法可能是迁移学习，或者现在更常被称为微调。所以，让我们用一个宠物例子来分析它。所以，想象一下你有一张猫和狗的照片，它们是你的宠物，你想让它们自动在你的手机上分类。所以，你只需要构建一个小神经网络，它就能很好地工作。但然后你买了一只豚鼠，不幸的是，尽管模型很好地识别了猫和狗，但它对豚鼠一无所知，这有点令人难过，因为你想让你的所有宠物都被识别出来。所以，你想到，为什么不采用这个神经网络呢？因为它已经了解了很多关于宠物的信息，比如它们有四条腿，它们毛茸茸的，等等。然后只用几只豚鼠的例子来喂养它，这样你就可以重用这些知识，并将其应用于豚鼠。对于豚鼠来说，它效果相当不错。但与此同时，事实证明，它实际上对猫和狗不再起作用了，这有点奇怪。我们试图弄清楚发生了什么。而发生的是灾难性遗忘。而灾难性遗忘是我们可以在像这里这样的漂亮图表中显示的。它实际上展示了我们刚才所说的。所以，假设我们有两个任务。所以，第一个任务是训练猫狗分类器。你很快就能达到一个非常好的准确率水平，但模型对豚鼠一无所知。然后你进行第二个任务，并按顺序训练它们。所以，现在模型在豚鼠上表现得非常好，但它忘记了关于猫和狗的一切。而这是最重要的，持续学习试图解决的问题。所以，让我们回到我们的例子。所以，好的，另一个想法，让我们从头开始训练我们的模型。所以，我们不久前就训练了这个初始分类器。我们仍然有猫狗和豚鼠的照片，让我们从头开始训练一个新的网络。它有效吗？是的。它解决了问题吗？实际上，这是解决这个特定问题的最佳解决方案。但如果回到我们最初的问题，有一些问题。所以，首先，这意味着我们需要一直保留所有数据。所以，如果你有病人的数据，你不能永远保留数据，因为也许有一天你想重新训练你的模型。如果你处理的是大型模型，那么计算成本和存储成本会很高，如果你总是想从头开始训练它们，这与碳足迹有关。而且，在训练大型模型时，需要花费很多时间，而你并不总是有时间，或者不总是为计算节省金钱。所以，这就是持续学习发挥作用的地方，它的主要思想是，我们应该能够增量地训练机器学习模型，以便它们能够适应不断变化的情况，而不会忘记它们之前学到的东西。此外，它们应该能够实际重用它们以前拥有的知识，并在其基础上进行构建，就像我们人类一样。大多数持续学习方法都受到生物学和我们大脑工作方式的启发，这并非巧合。从经验中学习实际上也被认为是智能的关键方面之一。所以，我们也可以在图表上展示它。所以，我们想要实现的是状态化训练，这意味着我们只训练模型一次，就像我们在这里下面看到的，然后只使用小批量数据，而不触及第一个数据集，而不是一直使用所有数据或使用一些滑动窗口。所以，我们现在将分析用于持续学习的三种主要方法，从基于正则化的方法开始，这实际上是最简单的一种。所以，这里的想法是，如果模型改变了对前一个任务至关重要的参数，我们可以对其进行惩罚。它依赖于这样一个想法，即如果我们有一个神经网络，它正在被训练，所以它有权重。实际上，当我们训练它执行新任务时，它正在适应所有这些权重。所以，它也在适应那些对前一个任务非常重要的权重。所以，这里的想法是，我们将尝试阻止模型改变那些对前一个任务非常重要的权重。这里的灵感是什么？这实际上相当有趣，因为曾经做过一些关于小鼠的实验，小鼠正在学习新的技能。所以，当小鼠学习新技能时，它们的神经元会连接起来，形成突触，当技能学会后，突触就会被大脑保护，这意味着它们的塑性降低了，它们不会与其他神经元互动，当这种连接被切断时，小鼠就会忘记这项技能。这实际上是我们试图在神经网络中重现的，通过保护那些重要的连接。我们怎么做呢？嗯，我们实际上只是在神经网络的损失函数中添加了一些正则化项，它由参数重要性加权。我们怎么知道哪些参数很重要呢？嗯，也有单独的方法，比如费希尔信息矩阵，我们可以计算出哪些网络权重对给定的任务很重要。问题。嗯，遗忘并没有完全消除，而且当我们处理相似的任务时，它的效果更好。例如，改变数据分布。这里的另一种方法是使用基于内存的方法。所以，这里的想法是，我们可以将一些数据保存在内存中，以后再重新访问它们。所以，只是提醒模型，嘿，你仍然需要做好这项任务，因为这也很重要。这里的灵感来自睡眠。所以，每当我们睡觉时，我们的大脑仍在工作，巩固我们的记忆。所以，它也使用重放方法，以便我们稳定和创造新的技能或我们的记忆。这种方法的缺点是什么？嗯，首先，我们不能把所有东西都放进内存缓冲区。另一个是数据隐私。我的意思是，我们仍然不能把病人的数据永远放进内存缓冲区然后一直使用。但一个相当有趣的子类别是关于数据隐私，我们可以使用生成模型。所以，我们可以只获取这些数据，生成非常相似的数据，然后将它们放入内存缓冲区，而不会出现数据隐私问题。这是去年尤其流行的一种方法。第三种是基于架构的方法。所以，这里的想法是，当我们学习新技能时，我们将调整我们神经网络的架构。所以，这里的灵感是神经发生。所以，我们的大脑也是如此，当你学习新技能时，它可以产生新的神经元，尤其是在海马体中，这样可以防止遗忘，并且不会与太多不同的连接互动，并且有更多的空间来创造新技能。这也很吸引人。我们将回到这些方法，因为它们也获得了新的方向。但通常假设任务的界限相当清晰。但我们也会在最后几张幻灯片中看到，也有一些新的方法。所以，在第三幕中，让我们结合我们对持续学习的了解以及它如何帮助我们解决 FCD 问题。所以，现在我们学会了不再犯错误，我们调整了数据分布，以更好地模拟现实生活。所以，现在 FCDs 只占 30%，它们将占病例的 10%。我们有 150 个正常 MRI 和 120 个非 FCD 病变 MRI。我们将它们分成三个数据集，每个数据集包含 100 个 MRI。因为我们的数据分布已经改变，我们决定使用基于正则化的方法，特别是弹性权重巩固。所以，我们计算了哪些权重很重要。我们保留了它们。我们惩罚了模型改变它们的行为，然后我们在新的分布上训练了模型。让我们看看它是如何工作的。所以，我们在几个阶段分析了这一点。所以，第一个是我们第一幕中讨论的。然后我们使用了第一个数据集。所以，前 100 个 MRI，首先我们对它们进行了评估，与我们在第一阶段训练的模型进行了比较。然后，我们遵循了两种训练策略。第一个是因为我们实际上想比较持续学习是如何工作的，但我们也想看看与在所有数据上训练的方法相比，是否有任何显著差异。所以，第一个方法可以说是传统的。所以，我们只取我们拥有的所有数据，我们进一步训练了我们的模型，我们得到了一个我们称之为有点花哨的模型，因为我们也发表了一篇科学论文，但我们称之为“所有数据模型”。在第二种策略中，我们使用了持续学习。所以，我们只给了模型这 100 个 MRI。它根本没有见过任何其他数据。我们使用了我们在第一幕中训练的基础模型，并创建了一个模型，让我们称之为“持续学习第二阶段”。我们再次用我们拥有的三个模型评估了数据。我们把结果放在一边，写了下来，然后我们再次重复了同样的策略，也就是说，我们给了模型我们拥有的所有数据，即基线数据集、数据集一，现在是这个新数据。我们再次对其进行了训练，基于基础模型。我们得到了新的“所有数据 2 模型”。而在这里，对于持续学习，我们只使用了数据集二。所以，我们没有再次向它展示数据集一或基线。它只是这 100 个 MRI 系列。我们基于这个持续学习一模型进行了训练，并创建了它的下一个版本。在第一阶段，我们可以评估数据，以便我们能够获得可靠的结果。说到结果，我们得到了什么？实际上，结果非常有趣，因为在基线模型中，也就是我们在第一幕中训练的模型，我们每次都能正确收集 8 个和 9 个，即 10 个 FCDs，这是非常好的结果。但再次，特异性，也就是说，我们检测到了很多假阳性。在我们用我们拥有的所有数据训练的模型中，我们得到了 10 个中的 8 个和 10 个中的 10 个，这真是太棒了，而且我们显著减少了假阳性的数量。而在持续学习方法中，我们得到了 8 个和 9 个，这也是非常好的结果。而且我们显著地减少了假阳性。所以，我们再次分析了这里发生的情况，我们发现，在仍然存在的假阳性中，我们的模型主要对其他脑部病变做出了反应。所以，如果我们只分析正常数据与 FCDs，我们甚至可以将特异性提高到 90%。但是的，我们看到，随着训练的进行，我们也能够克服在特定大脑区域检测 FCDs 的趋势。所以，这一部分的结论是什么？我们在两种方法中都获得了相似的敏感性水平，即在旧数据和持续学习中。我们获得了显著更高的特异性，而且在这里并不明显，但非常重要的是，使用持续学习的这个模型版本将对进一步的数据分布变化更加健壮。因为如果你想到它，这是不平衡数据集的一个经典例子，也就是说，我们有一个类别总是占少数。所以，如果我们一直训练模型，总有一天它会更有利于说“那里没有 FCD”，它会达到 90% 甚至更高，对吧？所以，这是一个非常有趣的结论，我们得出了这个结论，即训练它处理两个特定的任务。所以，第一个是努力很好地识别这个不平衡数据集的特征，然后在接下来的几轮中适应新的数据分布，同时仍然保留这个不太频繁的类别的关键特征。所以，我们的模型被认为是可用于日常临床实践和早期检测 FCDs 的。正如昨天在主题演讲中提到的，我们离说“这个模型将取代放射科医生或癫痫病专家或任何人的工作”还有很长的路要走，这完全不同。我们希望创建一个模型来创建一个有用的解决方案，例如，对于放射科医生、神经放射科医生，那些不是癫痫病超级专家的人，只是为了帮助提高人们获得正确诊断的机会，因为现在大多数 FCD 患者从未获得正确诊断，他们不知道自己患有它，因为专家太少了。如果你想了解更多，我们发表了两篇论文。如果你想阅读，我不太确定 ResearchGate 是否会让你付费，但如果你想阅读，你可以联系我，我可以发给你。但让我们看看，我们可以从中带走什么，用于日常实践，在不同的案例中。我知道我向你解释了一些医疗用例，可能你们大多数人不在那里工作。但持续学习在生产环境中的机器学习中非常常用，而且应该使用，特别是在你处理隐私优先的环境时，比如任何 GDPR、医疗等，当你有一些严格的要求时，所以不能长期存储原始数据，在任何动态环境中。所以，当你进行个性化、金融、流数据处理时，也就是说，当数据变化非常频繁时，比如电子商务欺诈检测，你没有时间每次都从头开始训练这些模型。异常检测也是一个非常有趣的用例，因为首先，数据可能会发生变化，比如机器的传感器读数会随着时间略有变化，但这里的不平衡数据集方面，它也总是少数类别，所以它也很有趣，就像我提到的，对于我们 FCDs，你也可以先训练模型识别异常的特征，然后将其适应变化的数据集。但这里的要点是，持续学习实际上是任何生产机器学习的战略性架构选择。因为数据总会演变。通常也有隐私问题，以及与之相关的高额再训练成本。说到这个，也许你们中的一些人会想，嗯，训练大型模型，频繁变化的数据，高计算成本，它在大型语言模型中被使用吗？它似乎非常适合，对吧？嗯，事实是，根据我阅读的任何信息，以及去年的一次 Y Combinator 会议，安德烈·卡帕蒂（Andrej Karpathy）也说了同样的话，那就是没有一家大公司还在使用持续学习。为什么呢？嗯，实际上，如果你参加过关于大型语言模型如何工作的任何讲座，你可能知道大型语言模型不是作为一个单一过程训练的。就像你有许多阶段。你有预训练、指令调整、对齐，对于这些事情中的每一个，你都可以单独进行持续学习，结果是，当你改变一件事时，它也会影响其他事情，所以它并不容易适应和实现。但我认为这也很吸引人，而且肯定有很多正在进行的方法，也有一些开源存储库，人们正在收集信息和试验，规模较小，他们实际上正在尝试在那里实现持续学习。因为当你想到主要思想时，我们想要开发能够适应不断变化的环境并从经验中学习而不会忘记的系统。我的意思是，这听起来确实是建立通用人工智能或任何智能系统所必需的。而且也有一些新的方向正在出现。其中一个是由谷歌研究院在 2025 年 11 月发布的，称为嵌套学习。它是一种新的持续学习机器学习范式，我认为它非常非常有趣，尽管我并没有在我的圈子里听到太多关于它的信息，即使我非常关注它。但它的想法是什么？所以，通常当我们谈论深度学习时，我们有神经网络架构，然后我们有优化器。所以，我们将它们视为两个完全独立的事物。而谷歌的研究人员说，它们实际上是相互关联的，我们不应该将它们视为独立的事物，我们实际上应该使用它们。所以，而不是有一个大问题需要解决，机器学习和深度学习应该被解决为嵌套学习者。所以，我们应该有几个训练周期，也就是说，几个优化器，它们共同创造了一个更大的学习者。另一个有趣的事情是连续记忆系统的概念。所以，这意味着当我们训练模型并想在内存中保留一些东西时，我们应该以两种速度来调整它们。所以，有些应该适应得很快，有些则需要更长的时间。所以，我不确定你们中是否有人读过丹尼尔·卡尼曼（Daniel Kahneman）的《思考，快与慢》。如果你读过，你可能也有类似的感受，嘿，这听起来完全一样。所以，如果你没读过，这本书很难读，但概念相当有趣，而且丹尼尔·卡尼曼还获得了诺贝尔奖，所以他绝对是一位值得阅读的作者。是的，所以，这非常相似的概念，尽管他们没有直接提及。但它也受到人类大脑工作方式的更多启发。另一个有趣的事实是，他们还试图从例如惊喜中学习。所以，每当模型看到令人惊讶的事情时，比如它期望的结果是这样，但实际上现实是不同的，它就会保存下来，并将其用于进一步的学习，以便根据这些惊喜进行更进一步的调整。另一个有趣的事情是新的优化器。所以，它主要依赖于这样一个事实，即在深度学习中，我们通常只有一个函数在进行优化，但他们说，为什么优化器不学习呢？它也应该是这个嵌套学习者的一部分，它也应该根据数据进行优化和调整。有趣的是，他们甚至创建了一个自修改架构的概念验证，取得了相当有希望的结果。所以，我认为它仍然处于研究阶段，但它肯定会带来一些有趣的进一步发展。所以，如果你想阅读这篇论文，这里是二维码。是的，这也是总结一下。所以，这是谷歌 DeepMind 研究人员的两篇帖子。所以，也可能是那些之前从事嵌套学习工作的人。所以，他们声称今年将是持续学习年。所以，代理我们已经有了，但持续学习也在向前发展。是的，如果我们能够实现这些承诺中的任何一个，我认为这将是非常非常有趣的。所以，就这样，非常感谢。我希望你学到了一些东西，感谢你的注意力，并祝你会议愉快。>> [掌声]