Transcription
感谢您加入“改变世界：印度首个未来科技与可持续发展播客”。今天，我非常荣幸地邀请到德克萨斯大学达拉斯分校计算机科学系的 SRI Ram natrajan 教授。他是 Tu damstar 的印度人工智能研究员，也是印度理工学院马德拉斯分校数据科学与人工智能罗伯特·博世中心的杰出教职研究员。他的研究兴趣在于人工智能领域，重点是机器学习、统计关系学习、人工智能强化学习、图模型和生物医学应用。Natrajan 教授最近当选为人工智能发展协会会员，并获得了众多奖项。
因此，教授，我非常非常感谢您抽出宝贵时间参加播客。我想从您对这些大型语言模型的看法开始，您知道，因为有论文显示，据报道谈论其新兴特性，然后又有论文驳斥这些新兴特性，说它们只是海市蜃楼，然后最近 Anthropic 分享说他们的模型在伪装对齐。关于这些统计大型语言模型，有什么让您感到惊讶的吗？有什么让您感到惊讶的吗？好的，我认为这是一个很好的开端。嗯，首先是，当它们刚出现的时候，我非常怀疑，因为它们必须在如此庞大的数据库和东西上进行训练，所以我不太确定，你知道，它们是否掌握了细节。所以让我感到惊讶的是它们的语言能力有多强。我的意思是，它们的对话能力越来越好，以至于当你与大型语言模型交谈时，很难区分现在是人类还是语言模型在交谈。它们确实在语言、在语言分析方面突破了界限。我认为大型语言模型，尤其是在英语方面，而不是所有其他语言，但尤其是在英语方面，它们已经突破了界限。所以对我来说，最初令人惊讶的是它们在这些语言任务上持续表现得有多好，以及它们在语言问题上的鲁棒性有多强。所以我认为这是我最大的惊喜，就是这些模型最初的能力，对吧？现在，一旦我们理解了它们的工作原理，至少是在较高层面上，以及如何进行对话和回答各种主题的问题，其中一个让我对这些 LLM 印象深刻的特别之处是它们能够很好地总结概念。所以，如果你要求它们对一篇大文档进行简要总结，我认为它们能切中要害，因为它们能为你提供你需要的精确摘要，无论是来自这些研究论文，甚至是临床论文。有时我也会看一篇临床论文，然后把它输入 LLM 来看看总结是什么，它们在这方面做得相当好。而且，据我所闻，如果我给它们一个很好的英文描述，它们就能写出扎实的 कोड，这相当不错。我认为这些都是我随着时间的推移感到惊喜的事情，让我这样说吧，对吧？
教授，您对缩放假说有什么看法？您知道，因为有些人相信，仅仅通过缩放数据、计算以及可能的算法本身，就可能产生我们称之为通用目的机器，您知道，人工智能。您对此有什么看法？我能先回答第二个问题，也就是 AGI 的问题吗？机器学习算法，以及许多这些学习算法，加上机器人技术，加上强化学习，加上任何这些算法集，您都有一个清晰精确的定义，您在优化什么，以及您的最终目标是什么。AGI 的定义是不清楚的，这是不清楚的，对吧？而且，当你有这样的东西时，你就无法评估它，除非你能真正地评估某件事，否则你将无法衡量性能。所以对我来说，这是我最不喜欢 AGI、AGI、AGI 这个炒作的地方。而且，如果有人来告诉我，嗯，AGI 意味着我们比人类做得更好，那不是一个标准，我的意思是，任何能飞 5 英尺的东西都比人类好，任何能比人类跑得更快的东西都比人类好。所以拥有比人类更好的东西并不是许多问题的伟大标准。事实上，在许多问题上，我们已经比人类做得更好了。我们可以下棋，因为我们有这个庞大的东西，我们可以下棋几乎比人类好。我们现在有 AlphaGo 和 AlphaFold。现在有一个诺贝尔奖，因为我们可以用这些大型东西做这些事情。所以对我来说，AGI 是我没有接受的东西。我真正接受的是我们可以构建这些专门的算法，它们在特定任务上表现得非常好。AlphaFold 是一个典型的例子。所以，如果你问我关于缩放的问题，我喜欢这个问题，因为这是目前最相关的问题。对于某些问题，缩放的想法是否足够？是的，我非常清楚地说了，对于某些问题，是的。如果我正在进行图像分类任务，我正在看一张图像，并说这是动物还是其他东西，一辆车或动物，这是一个 UFO 还是鸟？也许缩放就是我所需要的一切。但是，如果我要做一些其他敏感的任务，非常罕见的疾病预测，预测特定基因的突变及其对特定疾病的影响，那么缩放可能就足够了。所以那些问题需要更深入的合成，仔细的算法分析，而不是说，哦，我只是要把我拥有的所有数据都扔进这个算法，然后让它工作。我总是，你知道，十年前，我曾经做一个演讲，其中有一个我有点争议的幻灯片，我说大数据是骗局。我试图表达的观点是，重要的不是大数据，而是好数据。缩放也是如此。我的意思是，仅仅因为你有缩放，并不意味着它会做得很好。你需要好的数据。即使现在，好的标记数据也很重要。让我们以 ChatGPT 和 Gemini 等为例，它们给出了种族歧视的回答，给出了性歧视的回答，给出了非常不恰当的回答。当这种情况发生时，你真的认为他们只是通过重新训练就回去修复了吗？不，有人坐在那里修复了那些错误。所以人类的干预在这些任务中至关重要。所以对我来说，缩放不是一切，对吧？
教授，您认为您能够定义人工智能吗？因为您提到，仅仅比人类做得更好并不重要，因为你知道，在这一点上，你知道，当这一切开始的时候，我们认为图灵测试是基准，你知道，然后它被克服了。我们认为，你知道，击败世界冠军是基准，被克服了。现在我们认为，也许 ARC 基准是问题，可能被克服了。你认为什么时候，我的意思是，你知道，因为我们一直在设定这些基准，而发生的是，这些统计模型正在显示一些真正隐藏在幕后正在做的事情，或者显示一些我们完全不理解的东西，因为人工智能本身在此时此刻完全是一个黑箱。有些人正在研究可解释性，可解释人工智能，但人们并不真正理解幕后发生的事情。您认为您能从您的角度定义 AGI 吗？这是一个很好的问题。我想起了两件事。所以，对于所有观众来说，如果有一场演讲我真的认为你们应该看，那就是俄勒冈州立大学的 Tom Dietrick 教授的演讲，他是我的导师之一。他有一个演讲，他到处都在讲，关于 LLM 的问题以及我们应该做什么。这是一个很棒的演讲，这是一个非常宏观的演讲。我去年把他请到了 IIT Madras，他在 IIT Madras 就同一个主题做了一个演讲。他去年在班加罗尔的 ACM 会议上，在 Comat 会议上做了一个演讲。在那里他阐述了一切。我提到他的原因是因为这个人工智能的定义概念，他有一个很棒的帖子，他发在 Twitter 上，我不知道是在 Twitter 还是 LinkedIn 上。基本上，他，我百分之百同意他。他基本上说，AGI 的概念，它基本上是能够匹配或超过性能的系统，它与图灵测试的所有问题都一样，因为从 AGI 的角度来看，智能完全是从人类性能的角度定义的。他说，最重要的 AI 系统能力是人类擅长的事情。我完全同意这一点。我的意思是，对我来说，这就是 AGI 这个想法本身的不足之处，因为我认为我不会拥有一个 AGI，它是一个通用工具，它可以解决许多问题。我不知道你的观众中有多少人是《指环王》的粉丝，但我非常喜欢这本书。在《指环王》中，有一枚戒指统治一切，那就是至尊戒指。而且，我认为我们不会拥有它。我们不会拥有一个 AI 系统，它将统治一切，也就是说，它将一切都做得正确。我们所拥有的，以及朝着这个方向努力，都是徒劳的。相反，我认为我们将拥有的是能够完美地、近乎完美地完成特定任务的系统。而这种完美是我们通过评估函数来定义的。所以，如果它是汽车的缺陷数量，那么这就是正确的。如果它是 A 到 B 的最短路径，那么这就是正确的完美衡量标准。只要你定义了一个好的优化函数和一个好的评估函数，我认为我们就可以正确地达到这些任务的基准。在强化学习算法中，我可以进行强化学习，然后这是我正在优化的奖励。好的，那么你就可以解决这个问题，你可以证明它对这个问题有效。但是，如果你问我，是否会有一个通用的 AI 系统，你可以定义它，它将达到这个 AGI 基准？首先，我不相信这样的系统能够存在，因为正如我们所说的，没有普遍的智能。而且，我认为我们还无法达到。LLM 是分词的，它们基本上会获取你拥有的文本，它们拥有上下文分词，它们找到它们在文献中证明的词，然后它们进行总结。所以，它们是下一个词生成器。它们不是通用的知识机器。它们基本上是，我有一个输入，我有一个输出，我阅读它，然后我把它给你。但是，另一方面，我可以想象一个智能助手系统，它可以为你安排日程，可以自动发送电子邮件。当你正在做一个项目时，然后你说，你点击“撰写”，然后它会弹出电子邮件，但它也会弹出你发送给谁，你想附加哪些幻灯片，也许建议正文。对于一些任务，我可以预期它会奏效。这些是可能的知识工作者。但我认为，我真正希望从这些 AGI 类系统中获得的是让我们每周只工作四天，休息三天。所以，帮助工人提高效率比思考“我能拥有这个全知全能的预言家，解决一切问题”的层面更重要。所以，就个人而言，我不想以一种涵盖一切的方式来定义 AGI。我不知道我是否在回避你的问题，但我认为我的回答是，我不想做这个定义，因为无论我提出什么定义，我都不会满意。完美，完美。所以，教授，我希望您对 AGI 的愿景最终能够减轻工作量，并可能增强我们。我希望我们能进入那个世界。谈到黑箱 AI 和可解释 AI，您一直在研究马尔可夫逻辑网络和概率推理框架。这些框架如何实现更强的可解释性并使系统更健壮？这是一个非常非常好的问题，谢谢。所以，有两种方法可以做到这一点。首先，如果你回顾一下人工智能的历史，我正在给学生讲课，如果你回顾一下人工智能的历史，一开始我们有所有这些感知器类型的符号系统，那是在 60 年代和 70 年代初。然后 Marvin Minsky 和他的论文通过展示像 XR 这样的函数类别是这些感知器无法学习的，从而打破了感知器。然后我们有了很多其他的算法，比如 Hinton 的反向传播，然后我们有了决策树和集成方法等等。强大的学习技术，它们构建了某种传播层，然后深度网络基本上只是扩展了它。所以那是神经网络的方式，统计学习的方式。另一方面，再次作为历史课，人工智能非常受欢迎，因为人们正在构建这些基于规则的系统，基本上是专家系统，你编写这些规则，然后在推理时，你只需查看数据，做出预测，然后你就好了。所以，这开始流行起来，很多人开始部署它，但然后它开始出现人工智能的冬天，因为它们无法提供像承诺的那样多的东西。现在，在后期，他们开始将统计模型和符号模型结合起来。该领域被称为概率逻辑学习或统计关系学习，因为它们基本上是将符号模型与统计模型结合起来。还有另一个领域，基本上是将神经网络模型与符号模型结合起来。这被称为神经符号学习。我们现在正在做的是神经符号学习的想法，在较低的层面上，你有神经网络算子，在某种意义上是反应性的。在较高的层面上，你有这些符号系统，它们更具深思熟虑性。所以，让我们考虑一个非常简单的事情，比如明天我计划要去印度。所以，我来自马德拉斯，所以，假设我要去马德拉斯，去见我在 IIT Madras 的朋友，这就是我的计划。所以，我该怎么做？在较高层面上，我说，好的，预订机票，然后制定计划，然后就这样。然后我离开了。这就是我的符号系统所做的。它分解了任务，说做这些小事情。一旦机票订好，一旦事情订好，我就必须去机场。所以，我决定的是，好的，我要提前三个小时去机场。我的大脑并没有完全说我要走哪条路，我要在油门上施加多大的力，我要转多少方向盘。这些都是非常反应性的事情。我看到一个感知器，我迅速做出反应。这就是神经网络模型所做的。神经网络模型看到这个感知器，迅速做出反应，然后采取行动，继续前进。然后有深思熟虑的方面，说糟糕，我闯了红灯。也许我开得太快了，我必须慢点开。或者，糟糕，我差点撞到前面的车。也许我刹车太晚了。这些都是你的反应性事情，将反馈提供给符号系统，它会告诉你该怎么做。所以，我们正在尝试构建的是这些两层系统，在较高的层面上你可以解释事物，但较低的层面上是神经网络模型，但它仍然可以解释，因为任务定义来自较高的层面，因为你对你的问题有一个语义表示。无论你做什么，我都可以根据你被告知的内容来解释你所做的事情。所以，例如，它说目标是下午 3 点到达达拉斯机场。这就是为什么 Sham 开得很快。这是一个非常简单的答案，你可以根据目标是什么，神经网络系统的输出是什么，以及为什么会发生这种映射来推断。我们正在做的一种方法是，这只是我们的方法，有很多方法可以做到这一点，我稍后会提到其他事情，因为你问我我做什么，这基本上就是我们所做的。我们试图在相当高的层面上思考一个任务，将其分解为较低层面的子任务，然后看看我们是否能够解释这些在较低层面上发生的策略，作为较高层面上发生的事情的函数。所以，这是一种方法。第二种方法是人们一直在做的事情，那就是我学习一个神经网络模型，然后我学习构建一个等价的符号模型表示。无论是基于规则的模型，就像你刚才说的 mln 类型的东西，还是我可以学习一个小电路或一个小决策树来解释复杂的神经网络模型在做什么。这是你在试图模仿神经网络模型所做的决策。第三种方法是你可以进行局部扰动，并说，哦，这与那个相似，以及其他实例。这就像医生会向你解释一样。你去见医生，你说，为什么你要给我开这种特定的药？比如说，我患有糖尿病，我受了伤，医生给了我类固醇。我可以问这个问题，为什么你要给我类固醇？我的意思是，我的血糖是 7.2。医生可能会说，嗯，我上周或上个月看到一个病人，他有类似的情况，我没有给他类固醇，他非常痛苦，这没有帮助。所以，我们会增加你的胰岛素，给你类固醇。这是解释他们过去看到的事情的一种简单方法。所以，有这些方法可以做到这一点。但我认为，更简单的方法是提取一个符号规则来解释决策本身。我认为这是大多数人正在做的事情。但我的观点是，也许我又回到了原点，说“各有所长”。我不需要为每个问题都使用神经网络模型。如果我有七个风险因素，我正在试图预测不良妊娠结局，比如说，我知道血糖水平，我知道运动水平，我知道一个人在家有多大的压力，等等。有六件事，现在我想预测这个人是否会早产或先兆子痫。嗯，我可以通过构建一个更小的模型来做到这一点。我不需要大型模型来做这个。所以，各有所长是我的思考方式，这也是我不喜欢 AGI 这个想法的原因之一。你可能已经非常清楚地听到了我的意思。所以，对我来说，有一些模型可以，所以，辛西娅·鲁登在杜克大学有一篇很棒的论文，她谈论的是，你知道，构建已经可解释的模型，而不是说我要构建一个复杂的模型，然后试图解释它。但我认为真相介于两者之间，也就是说，是的，我同意，如果它有很好的性能，就构建一个更小的模型。但在某些情况下，比如图像或蛋白质，你确实需要大型模型，在这些情况下，你必须想办法解释它们。所以，我认为这两种方法都是合适的。教授，代理 AI 正处于炒作周期中。您能否解释一下代理 AI，除了 OpenAI 的 Operator 之外，还有哪些其他的代理 AI 应用？以及如何让这些多代理进行协调？在接下来的几年里，您认为这些代理 AI 会显示出多大的自主性？再次，代理 AI 的想法，代理的想法已经存在一段时间了。我的意思是，如果你读过 Stuart Russell 的书，第一章就谈到了代理以及代理的类型，反应式代理和其他类型的代理，还有很多这样的东西。但现在我认为代理 AI 的想法来自于你可以进行这种概率推理，它对不断变化的环境等非常适应。再次，我认为这对于一些较小的，抱歉，一些特定的子任务将会成功。如果我定义了一组代理可以自己完成的任务。所以，例如，我给你代码，然后我给你这个问题的定义，然后我将让系统生成代码，然后提供一些测试实例，然后找出错误在哪里，然后也许在与这个代理 AI 系统合作时，调试会更快。或者，如果我要做一个杂货购物系统，嗯，也许我只需要发送这个，确切地给出我需要的东西和规格。有些人喜欢，你知道，即使是水果，有些人也喜欢特定类型的水果。同样的水果，我的意思是，我喜欢我的香蕉不要太熟，不要太熟，但我妻子喜欢熟的。所以，对于我的糖尿病，我不喜欢太熟的，我喜欢稍微熟一点的。所以，你必须有这些规格，输入标准不断变化。随着关键标准的不断变化，随着领域的不断变化，这个机器人需要弄清楚它必须做什么才能为正确的人挑选正确的水果。所以，当规格改变时，这些东西会动态适应。我认为对于许多任务来说，这将是有用的。我认为像规划假期，预订酒店和航班等事情可以很快，非常稳健地自动化。但是，我们人类通常不喜欢失去控制，而这些是我们会有很多问题的领域。世界的问题是，世界目前完全由人类控制。我的意思是，至少环境主要由人类控制，这意味着人类的错误会渗透到每一个方面。驾驶就是一个典型的例子。什么时候事故会最小化？如果每一辆车都是自动驾驶汽车，那么也许我们就不会有事故了。因为我们可以正确地弄清楚意图。我的意思是，但这里有一个绝妙的方法。你开车，你看眼神交流，你进行眼神交流，你知道那个人在想什么。没有口头交流，没有线索，只有眼神交流，你知道发生了什么。不知何故，这不容易编码到 AI 代理中，因为它们无法进行我们所做的推理，我们那种文化，我们成长的环境，我们就是这样弄清楚的。所以，有一些任务，代理 AI 可以非常成功。我想象的是那些在受控环境中，环境动态变化，但又不那么随机，也就是说，它不是完全随机的。它不是人类的古怪行为，但领域本身可以是动态的，并且可以适应。我可以在金融领域看到这一点，当然，正如我所说的旅游业，我认为这可能是一个经典的例子。我希望在老年人协助方面，你知道，管理他们的药物。我想构建具有更深远影响的 AI 系统。我的父母年纪大了，我能提醒他们按时服药，按时服药吗？他们按时吃饭了吗？他们按时叫帮手了吗？我认为这些事情需要自动化，并且可以由代理 AI 很好地管理。或者，我想把药物分发到印度的一个偏远角落。嗯，有一种方法可以做到。你不需要一直派同一个人来回跑，如果你能确切地找到一种方法来交付它，通过预测这些人何时需要这些药物。所以，有一些问题，代理 AI 可以产生非常非常大的影响，如果实施得当。但是，如果你把同一个巨大的模型拿出来，然后说，我想在每个任务上都这样做，我们将惨败。教授，我希望您能让这些模型更实用。我认为世界将完全改变。缩小范围，找到那些确切的用例，并使其奏效。无论是具身 AI、代理 AI，还是这些大型语言模型，它们已经显示出如此多真正非常有用的用例。我想听听您对这些开放模型以及专有模型的看法。您知道，因为我认为 DeepSeek 在过去几周因其 V3 模型和 R1 推理模型而成为新闻。您知道，V3 模型似乎是他们说它是在 500 万美元以下构建的。这是在发出什么信号？我很想听听您对这些开源与闭源模型的看法。这些大型语言模型或代理 AI 的未来是什么？你正在和一个相信一切都开源的计算机科学教授交谈。我名下没有一项专利。我们发表的每一篇论文，我们都会发布代码。所以，我一直认为开放模型是前进的方向，因为我认为这种技术可以被所有人增强和拥抱。这也是我认为这些 DeepSeek 模型，特别是 R1 的出现相当有趣的原因，因为你可以用比他们试图从美国政府那里获得的 5000 亿美元少得多的预算来训练它。所以，对我来说，做开放模型的想法可能是正确的方式。我同意 Yan Lun 的观点，而且很多人几十年来一直在说，许多模型必须完全开放。所以，对我来说，开放模型的想法将是正确的方式。话虽如此，现实是，人们会尽快将其闭源，因为如果一家公司采用开源模型，找出一种绝佳的用例，并使用他们拥有的特定数据进行微调，他们就不会发布模型，因为有时发布模型可能会被逆向工程并重建数据。所以，问题是，最终你想让谁受益？所以，有时将模型闭源可能不是最坏的事情。例如，作为经典例子，我构建了一个保险模型，它预测了什么，抱歉，我构建了一个健康预测模型，它预测了某人未来一到两年的生存几率。如果一家保险公司获得了该模型并对其进行逆向工程，针对特定患者，他们可以做出精确的预测，并提高保险费率。我的意思是，我们将以概率进行预测，而不是完全相同，但然后他们将更加保守，他们将提高该个人的保险费率。这在社会上公平吗？我不知道答案。对于这类问题来说，这非常困难。我们必须进行对话，理解它，然后从那里开始。所以，对我来说，确保某些问题、某些数据仍然不被暴露是有价值的。就像，我是一个父亲，我不希望我的孩子的私人信息泄露，无论如何。所以，如果有一个开源模型，他们可以逆向工程并生成一个与我的孩子完全相同的虚拟孩子，那么我不想让模型泄露。所以，我们必须担心隐私伦理问题。但总的来说，我认为研究应该尽可能开放。所以，这些开源模型，特别是你刚才提到的模型，将是人们追求的模型。许多早期 LLM 不再像几年前那样被高度引用和关注是有原因的。所以，这就是为什么我认为，你知道，开源模型将是前进的方向。而且，我认为那些模型将是最有影响力的，如果不是别的的话。是的，教授，我认为平衡是前进的方向。你知道，我们生活在一个中心化的世界里，自上而下的等级制度。而且，如果你最终构建了这些强大的机器，并且它们落入了一个中心化的公司手中，我认为那将不会如此。所以我认为，在构建这些可能为人类未来铺平道路的机器方面，确实需要一种平衡。你能谈谈你的实验室，你的统计人工智能和关系学习小组，以及你一直在那里进行的工作吗？这些工作被分为四个不同的组：人类辅助 AI、精准健康、高效星际 AI 和应用。谢谢。所以，正如你所指出的，也许我会给你一点背景。我完成了我的博士学位，研究智能助手，基本上是构建这些强化学习模型。但后来，在构建这些 RL 模型时，我们意识到我们必须获得某种领域知识。所以，我们转向了概率逻辑模型，正如我前面提到的，你有这些规则，可以用符号写出来，然后你学习参数。一旦你这样做了，我们就意识到这些模型在测试时间、部署时间无法扩展，它们会崩溃。所以，另一个问题领域是提升概率推理，它基本上说，在深入到较低层面之前，我们能否尽可能多地在较高层面上进行推理？所以，例如，假设我再次访问金奈，我不知道，我实际上将在三月份访问，但假设我要访问金奈，我不会看澳大利亚的天气，我不会看新加坡的天气，我甚至不会看喀拉拉邦的天气，如果我要去金奈，我只会弄清楚与我当时相关的是我将飞入并待在那里的区域。所以，这种推理，人类非常擅长做到这一点。所以，我们开发了许多这种提升概率推理的算法，它们只关注与手头查询最相关的信息。而且，在我看来，为了算法本身而开发算法并不有趣。所以，我们受到了医疗保健应用的启发。所以我开始研究预测药物的副作用，如果他们给我一种治疗方法，所有可能的副作用是什么？然后，我加入了一个医学院，这样我就可以亲身接触临床数据，并直接与电子健康记录和其他类型的临床数据合作。所以我花了三年时间在医学院学习了几个问题，预测心脏病发作，预测阿尔茨海默病的早期发作，预测癌症治疗的副作用等等。然后我们搬到了，然后我们开始建立 Starling 实验室，我们有 40% 的时间用于某种高影响力的问题。现在我们正在研究预测不良妊娠结局，预测儿童的神经损伤，预测住院儿童的心脏病发作。所以，这些是我们非常积极解决的问题。我们查看了数据，然后我们意识到在构建模型方面，文献中存在差距，然后你写一篇算法论文，它填补了这一差距。所以，我们的工作是双向的，也就是说，我们构建了这些统计关系学习、概率逻辑，现在称为电路、神经符号学习、强化学习加规划类型的算法，但将它们应用于医疗保健数据。所以，这就是我们过去大约 15 年的工作方式。我大多数博士生都会有两类论文：一篇是改编论文，我们把我们的一个算法改编到一个高兴趣的问题上，然后一篇是基础论文，主要面向计算机科学听众。教授，当您谈到这些预测模型时，它是如何工作的？我的意思是，数据被收集起来，您提到了阿尔茨海默病或其他疾病，它是如何工作的？您能详细说明一下吗？是的，所以，让我举一个具体的例子，预测不良妊娠结局，因为我们有一个为期五年的项目刚刚结束，我们正在试图续签。这是一个非常具体的问题。在这个问题中，我们有来自印第安纳州布卢明顿和印第安纳波利斯地区的约 3200 名女性的数据，作为临床研究的一部分。我们查看这些数据，然后构建预测模型来预测一些副作用。所以，例如，我们正在构建概率模型，贝叶斯网络，概率电路，一些提升梯度提升，顺便说一句，读者在处理表格数据时应该总是尝试梯度提升，因为这是在许多表格数据问题上效果很好的方法。所以，梯度提升，我们尝试这些模型，然后我们有我们的领域专家，我们与这些领域专家交谈，David Has 医生来自印第安纳波利斯，他与我们合作，我们从他那里获取知识。所以，例如，我们构建了一个模型，我们的模型简单地说，这个概率规则，女性受教育程度高，那么患妊娠期糖尿病的机会就高。结果是，如果女性拥有博士学位，患妊娠期糖尿病的机会就高。我们感到震惊，我说，为什么受过教育的女性会有这个？我们把它拿给医生，医生开始笑，他说，在我们研究的人群中，受过教育的女性大多年龄较大，因为她们都是教授。所以，年龄实际上是她们患妊娠期糖尿病的原因，而不是你数据集中的教育水平。在年龄和教育之间存在一对一的对应关系。所以，我然后我们回去看了，他完全正确。这就是人类辅助 AI 的作用所在，因为我们做出预测，我们试图向人类解释它，人类帮助我们理解预测是否正确，或者有时我们修复东西。所以，例如，我们也研究了 BMI 和妊娠期糖尿病，但我们研究了 BMI 和种族。这是人们不太了解的事情。一些种族，特别是非裔美国人的 BMI 对妊娠期糖尿病有直接影响，而在高加索人，白人高加索人，他们没有那么清晰的影响。这是我们发现的，他们仍然不确定这是否属实，根据人类的知识。所以，这些是我们对人类的补充。有一些东西是我们从人类那里得到的。所以，它的工作方式是迭代的。现在，一旦我们这样做了，我们就采用我们学习的模型，并将其应用于一个名为 Garbhini 的印度数据集，该数据集由印度政府资助，与我在 IIT Madras 的合作者一起。我们试图看看，我们正在采用这些模型，将其应用于 Garbhini 数据，然后试图看看这些模型是否直接适用，我们需要做哪些改变。然后，现在我们正在从另一个地方获取第三个数据集，我们正在与巴西的 Cohort 谈话，看看是否可以在巴西评估这些算法。然后我们发现，例如在印度，他们甚至不直接测量妊娠期糖尿病。所以，我们必须采取这些其他措施，找到影响，也许有一个潜伏的糖尿病或某种潜在变量，然后从那里预测其他不良妊娠结局，如先兆子痫，高血压，新生儿压力，以及早产等。我们正在根据我们为印度构建的精炼数据模型进行预测。所以，这就是我们在这里不断进行的模型开发的迭代循环，即构建模型，将其呈现给人类，进行推理，在新数据上进行推理，进行更改，回到人类专家那里，看看数据是否需要修复，我们不断地循环。
AlphaFold 来了，AlphaFold 模型 2 和 3 完全改变了世界，解决了蛋白质折叠问题。除了这些预测模型之外，您还投资了哪些其他领域？我对从识别和预测疾病到确定治疗计划的整个整体问题感兴趣。例如，我们正在与达拉斯的神经科医生和 ECMO 专家合作，我们正在研究是否应该将孩子放在 ECMO 上。当我们把孩子放在 ECMO 上时，可能会发生哪些副作用，可能发生的神经损伤，以及我们如何减轻它们？我们应该采取哪些干预措施？所以，对我来说，预测只是一个小方面，它在某种意义上给了我 X 的概率，给定 Y，给定 X，Y 是结果，X 是我观察到的一组事情。但是，一旦我有了这个分布，然后我有一个效用函数，我应该采取哪些最佳行动？什么是避免更糟糕的事情的下一步？如果我知道某人有早产的高风险，在 16 周时，当女性在 16 到 18 周时，我知道她有早产的高风险，我能做什么来避免她，比如说，在 35 周之前分娩？我们如何延长这次怀孕？这是医生每天都在做的事情。现在我们想找出可以增强的工具，也许是告诉他们，这些是他们在其他人群中采取的措施，并且奏效了。这些是你几年前尝试过的，但没有奏效的事情。所以，如果你对问题有全面的理解，我们可以制定全面的治疗计划。所以，对我来说，这总是关于选择行动，而预测只是实现这一梦想的第一步。所以，从预测到选择行动，我正在研究的问题类型，神经损伤，我们正在研究社会影响。我的意思是，并非所有治疗在任何地方都可行。我们也在试图了解某些群体是否比其他群体接受了更具侵入性的治疗，或者为什么存在阻力。即使是对疫苗，我们也在研究一些疫苗的抗性，为什么有些人比其他人抵抗疫苗？在某些情况下，他们有正当的理由，我们想理解它们，并弄清楚我们如何能够解决他们的担忧，或者至少改变模型，以便我们能够理解，这些人是疫苗不起作用的人，我们不应该这样做。所以，我们需要更深入地理解这些事情。所以，对我来说，这些是我们正在研究的问题类型，正如我所提到的，心血管健康，阿尔茨海默病健康，我们正在研究社会问题，我们正在研究政策，关于健康应该是什么样的公共政策，健康指令应该是什么样的，它们何时正确，何时不正确。你知道，口罩，例如，奏效了，但口罩指令是正确的方法吗？所以，我们必须理解这些事情，它们何时奏效，何时奏效。所以，这些是我们正在研究的问题类型。正如你所说，从预测到选择行动是我正在关注的关键。教授，您一直在研究强化学习。您认为这项技术在现实世界场景中，特别是在医疗保健领域的个性化医疗和精准健康方面，最有前景的应用是什么？所以，在医疗保健场景中，首先是很多人说机器人手术是一个经典的例子，我认为这是正确的，但除了我不知道它是否完全自动化，在某种意义上。我的意思是，我不会说这是正确的方式。但治疗计划是我们可以进行强化学习的地方，因为我可以给你提供过去几年治疗的批量数据，我可以学习这种逆向强化学习的思想，我基本上查看这些数据，推断奖励函数，然后我可以为每个患者制定个性化的治疗计划。所以，我认为强化学习最大的应用将是治疗计划。所以，例如，当 Sham 来的时候，这发生在大约 10 年前，11 年前，我到处都举这个例子。我因为膝盖受伤去了急诊室。我的妻子在我旁边，医生问了我各种各样的问题。我当时在看手机，因为我是一名助理教授，我正在等待一些提案结果，我非常焦躁不安。医生问我，我是否告诉了他所有事情？我说，是的。我的妻子给了我一个很好的后背拍，她说，你有糖尿病，你没告诉他，对吧？我告诉你的整个听众，我有糖尿病。所以，这也不是什么大事。所以，我忘了告诉医生。然后医生要给我开短期类固醇治疗。然后系统可以介入并说，医生，他有糖尿病。他最后的 A1C 实际上是可控的，但是……
假设他的最后一次 A1C 是 8.2，你想走这条路吗？医生可能会说，哎呀，他没告诉我，谢谢你告诉我，我将尝试一些 NSH，看看他怎么样，我们有一个更长的治疗计划，我们将从那里开始，或者医生可能会说，不，他正遭受严重的急性疼痛，我想减轻疼痛，我将给他短期使用胰岛素，这样系统就会像一个好的虚拟助手一样与医生互动，就像一个好的，你知道，护士助手会做的那样，提醒医生这件事或那件事，你想让系统能够识别出有哪些副作用，有哪些后续治疗已经出现，有哪些新技术已经出现，因为医生每天都不会掌握所有事情，他们几乎没有时间看病人，考虑到我们给医疗保健带来的压力，我相信 RL 将成为开发这些医生虚拟助手的最强大工具之一，这样医生就可以花十分钟与我们每个人交流，而不是回去写笔记和做所有这些事情，花十分钟与我们每个人交流，以更个性化的方式呈现所有需要的信息，每一个替代治疗方案，每一个推荐的治疗计划，以及成功率和概率，所以给他们更多的数据洞察，我认为这就是 RL 将非常非常强大的地方，对吧？是的，我认为强化学习人工智能与扩展现实相结合是未来，我投资了增强现实、虚拟现实、混合现实，我认为医疗保健的未来和教育的未来都将与这些技术融合，你知道，因为我认为未来你可能不需要真正出门接受教育，医疗保健将通过这些虚拟医疗保健和这些数字孪生来到你身边，你知道，通过强化学习，所以是的，我认为这是一个令人兴奋的空间，你知道，这些人工智能现在正越来越多地融入医疗保健领域，你认为在这些方面应该牢记哪些伦理考量？做这些事情总是有伦理考量的，对吧？首先，我们不能让数据泄露，对吧？有一些敏感数据，所以我的一个非常亲近的家人八天前心脏病发作了，我直到两天前才知道这件事，这是我非常亲近的人，为什么？因为那个人非常注重保护自己的结果，所以我们必须非常小心这些数据隐私和相关的考量，更重要的是，我们想理解的是，某些人群对某些类型的治疗很敏感，某些人群出于任何原因，宗教原因或他们当地的信仰等等，我们不能再次，这就是我不认为“好奇”规则会起作用的原因之一，我们必须有非常敏感的、以患者为中心的治疗计划，这其中有人情味，对吧？这就是我们称之为“人性化”的原因，这整件事都有人情味，我们需要将其融入这些人工智能系统中，让它们故意意识到这些问题，我的意思是，稍微退一步说，我敢肯定你一定看过那部泰米尔电影，叫做《印度人》，印地语版是《机器人》，我记得是，那对我来说是一部很棒的电影，仅仅是从人工智能研究者的角度来看，有一个场景是，这个机器人进入一栋着火的建筑，通过将她放入浴缸并带她出来，完美地保护了女性，当然，我不知道印度哪个地方的社区有浴缸，但我们就说，他把她带出来了，但没有意识到她赤身裸体，两天后她上吊自杀了，这就是问题所在，这并不完全合乎伦理，但仍然是需要考虑的人的敏感性问题，所以机器人是字面的，人工智能是字面的，它们没有这种人性化的概念，以及我们拥有的其他社会事物，我认为当我们制定这些治疗计划时，我们必须考虑这些事情，首先，不应该有隐私被侵犯，其次，它们不能对不同人群有不同的治疗，我们需要在伦理上是正确的，我的意思是，如果将有不同的治疗，它们应该基于当地的信仰和当地的特定需求，而不是仅仅说“哦，A种族更优越，他们得到这个，B种族更优越，他们得到这个”，这种胡说八道永远不应该发生，所以这些是我们必须非常小心的事情，但这是我的担忧，数据来自人类，而人类天生就有偏见，我们有认知偏见、社会偏见、宗教偏见、任何偏见，我们人类有无数的偏见，而我们创造的数据也反映了这些偏见，所以如果你只是根据有偏见的数据来评估性能，系统本身就会有偏见，在我看来，这是一个不断发展的过程，这就是我们作为一个社区应该共同努力，尽可能消除我们的偏见，并使其发挥作用，所以对我来说，这就是梦想，这就是我们所做的事情，在我看来，你正在谈论整个人类进化，因为我认为我们人类天生就有偏见，而这显然反映在数据中，我认为这是人类改变的巨大任务，因为我认为我们生活在一个中心化的资本主义世界，有很多东西在分裂我们而不是团结我们，我认为所有力量都明白这一点，当权者都明白这一点，他们一直在努力，你知道，让人们分裂而不是团结，通过政治、宗教等等，以及边界，你知道，这些国家边界，你知道，所以是的，我认为我们人类有如此多的偏见，而这些偏见确实渗透到了这些模型系统中，是的，是的，教授，你对构建更强大的模型或更自主的代理有什么直觉？我的意思是，你认为如果我们能解决，打勾，我们就能实现完全自主的代理吗？我甚至不确定这是否可能，因为就像自动驾驶一样，让我们以自动驾驶为例，我制造了一辆漂亮的自动驾驶汽车，它在加利福尼亚或达拉斯都能完美运行，在达拉斯会很困难，因为人们的驾驶方式，但假设你制造了它，你认为我们把它放到印度会起作用吗？环境会变化得如此之快，你知道，很难驾驶，我实际上认为，对我来说，在达拉斯开车比在印度更具压力，因为在印度，我只需要直视前方，我就可以开车，周围的一切都会自行处理，在达拉斯，我必须看这里，看那里，看这里，然后我必须确保没有人并线，没有人这样做，在印度，我只是开车，而且人们，谢天谢地，我甚至没有发生过一次事故，因为我周围的人，在混乱中有一种奇怪的平衡，我看到了，但你不能仅仅说“这个东西”来构建一个系统，所以对我来说，完全自主的系统在某些情况下是可能的，在机场安检方面，我可以看到这种情况发生，在飞机调度等方面也可能实现自主，但要受到所有安全限制，如果你已经弄清楚了一切，我个人相信，而且这可能是我最近发表的论文的无耻推销，这是一篇在 T.R.I. 上发表的蓝天论文，我称之为“自动化还是协作”，我们给出了一些例子，这篇论文讨论了人工智能是否在循环中，或者人类是否在循环中，我们试图理解，首先，人工智能是否在循环中，或者人类是否在循环中的问题，开发正确的评估函数，然后去做，所以如果你想自动化某事，对我来说，有些事情可以自动化，有些小事情可以自动化，比如预测模型可以自动化，如果我要预测某人是否会，某人走进来，他们说“哎呀，这个人会得新冠”，甚至不做诊断，或者如果这个人走进来，我说这个人未来三周内心脏病发作的几率是 90%，那就太棒了，那是一个自主系统，它只是通过查看你刚才说的变量、传感器等等来工作，增强一切，我们可以以最小的侵入性来做到这一点，但一旦我们有了那个，我认为人类必须介入，以弄清楚什么是一个好的治疗计划，能够与这个人很好地合作，因为他们面临的限制，因为他们面临的社会问题，因为他们面临的压力，也许就像我的情况一样，孩子在美国，你不能很快地处理这一切，直到有人来帮助他们，所以我们必须正确地计划一切，我相信这一点，你应该看看那篇论文，我很乐意在另一次谈话中深入探讨，因为那篇论文是为普通读者写的，不仅仅是为对，嗯，嗯，我们的主张是，这些人类人工智能系统中的内部问题可以自动化，这些是预测任务，这些是回归任务，这些是分类任务，这些类型的任务可以自动完成，只需一些人类输入来指导它们，但一旦你有了决策系统，那就是人类控制的地方，所以你有一个自动系统，它告诉我，给我指明路线，规划我的路线，告诉我走这些小路，但我必须控制并最终完成这件事，治疗计划也是如此，金融也是如此，我认为我们已经给出了一些例子，包括教育，我可以设置这些评估问题，但每个学生都有自己的方式，我想了解他们在做什么，所以与他们交谈并了解他们为什么这样想，他们的推理是什么，然后解决，然后给他们一个好成绩，比仅仅说我的 AI 建议这个，我有一个自动评分器，这就是你的分数，这不对，我认为，我认为，所以这就是为什么我认为这是对那篇论文的无耻推销，但我认为那篇论文恰恰抓住了你提出的具体问题，所以，我认为自动化是必要的吗？我认为是的，对于某些任务，但我认为人类的方面必须始终保留，完全正确，我完全同意你的观点，教授，我的最后一个问题是，你的宏伟目标是什么？如果你能给我们描绘一幅人工智能与医疗保健融合并带来这些现实世界益处的图景，那就太好了，我认为我已经提到过几次了，我的宏伟目标是让每个人的生活都更轻松，我的父母的生活应该因为人工智能而更轻松，我的孩子的生活也应该因为人工智能而更轻松，减少干扰，在他们学习时，在他们工作时，当他们是学生时，当他们上课时，我们都有 20 到 25 分钟的注意力，在 25 分钟内，如何准确地获取最重要的信息，从教育的角度来看，这就是人工智能的作用，而人工智能可以在这里非常有价值，如果我们正确地使用它，在医疗保健领域，当我走进医生办公室时，我能得到 10 分钟的医生时间，我不应该重复我刚刚告诉护士的事情，因为我们在浪费时间，我们可以就下一步去哪里进行对话，我的意思是，你预约，护士，无论谁在记录一切，然后你登录，你填写一切，然后在美国，护士会看到一切，他们会问你同样的问题，你去看医生，你会重复一遍，这是信息的浪费，我们做事效率不高，我们能让它更有效率吗？我们能做出预测，以便我们能做得更好，通过提高人们的效率来改善他们的生活，在每一个转折点，所以对我来说，一个宏伟的目标就是说，让我们让生活更有效率，这样我们今天所做的事情，可以在 60% 到 70% 的时间里完成，甚至 80% 的时间里完成，剩下的 20% 可以用来陪伴家人、朋友、放松、过上更健康的生活，所以这就是我的宏伟目标，在生活的每一个方面，无论是医疗保健，无论是工作效率，无论是开车外出，诸如此类的事情，我们可以节省这些时间，这样人工智能就能让人的生活更美好，当然，我的最终梦想是团结，我的意思是，正如你完美地说过的，他们正在分裂人们，在每一个方面，分裂是政治生存的唯一方式，我希望人们团结起来，最终看到，毕竟血是红色的，骨头是白色的，我们没有那么大的区别，来吧，我们应该能够，也许人工智能会站出来教导我们，也许没有人能教导我们，也许是人工智能会表明，这些是相似之处，这就是为什么我们不应该追求那些东西，当然，我的担忧是，当你这样做时，总会有坏人，所以火可以用来点亮房子，也可以用来烧毁房子，所以两者都有，所以我认为我的宏伟目标是尽可能地让人的生活变得更好，谢谢教授抽出时间参加播客并做这项出色的工作，是的，我希望我们能进入一个世界，你所构建的好处能够触及每个人的生活，并产生影响，因为是的，我认为目前我们生活在一个非常中心化的世界，我看到一种人工智能军备竞赛，我认为我们都在试图构建这些强大的机器，我认为所有这些，无论是这些大组织还是这些政府，最终目标都是获得技术进步，从而获得相对于其他人的优势或力量，我希望我们能明白，我们生活在一个需要协作而不是制造冲突的世界，因为这项技术是自我学习的，它可以带来巨大的好处，如果我们创造协作，未来只会光明，因为冲突只会让我们走向一个可怕的境地，所以非常非常感谢你抽出时间参加播客，我的听众们，如果你喜欢你在这里看到和听到的，请按订阅按钮，下次再见，再见，谢谢，谢谢教授，非常感谢，再见。