Transcription
大家好。今天我们又请来了陶哲轩。嗯，能再次有机会采访他，我感到非常荣幸。好的。我们将要讨论人工智能在科学中的应用，尤其是在几天后 SAIR 启动之际。现在，我们很高兴能带来一些新的视角，探讨人工智能如何在科学中使用，以及我们未来可以为此做些什么。所以，如果您不介意的话，能否请您快速地介绍一下自己，那就太好了。好的。我是陶哲轩。我是加州大学洛杉矶分校的数学教授。嗯，传统上来说，我的兴趣在于纯数学，但我越来越多地参与到使用人工智能和其他技术来做数学的新方法，以及更广泛地使用人工智能和其他技术来做科学的新方法中。嗯，最近我与几位科学家和捐赠者一起，帮助创立了 SAIR 这个新基金会，以支持人工智能在科学领域的应用，以各种新方式将这些新技术融入科学工作流程。我们将在几天后在这里的 IPAM，即加州大学洛杉矶分校的纯数学研究所，举办我们的第一次启动活动。谢谢。我想这可能是很多人想问的问题。是什么让您决定要联合创办 SAIR？嗯，这是许多因素的结合。所以，正如我所说，在过去的几年里，我越来越确信这些技术已经准备好改变科学，而我们必须做好准备，迎接它们的到来。但是，我们需要学会如何正确地去做，以及如何避免错误地去做。不幸的是，错误地整合人工智能的方法比正确的方法要多得多。所以我们确实需要正确地去做。学术界必须真正参与进来。我们不能仅仅等待科技公司给我们一个产品，然后我们就使用它。我的意思是，我们需要真正地互动和学习我们真正需要什么。哪些科学领域人工智能会有帮助，哪些领域人类的方法仍然可以很好地工作。然后，尤其是在去年，与此同步的是，资金方面突然出现了很大的不确定性。例如，在我担任特别项目主任的 IPAM，我们的资金被暂停了，我们计划举办的许多项目是否真的能举办还不清楚。所以，是时候寻找新的资金来源，并接触许多新的投资者和合作伙伴了。所以，所有那些混乱时期的积极一面是，我们现在在 IPAM 有了许多新举措，包括与……这很棒，而且我认为，特别是对于数学而言，人工智能是极其强大的。您是否同意这种情况？我认为存在巨大的潜力。所以，现代人工智能工具，尤其是大型语言模型，最大的致命弱点是它们是讽刺性的，它们有时会给出极好的答案，但有时也会给出完全的胡言乱语。它们没有被现实所约束。它们是统计学上匹配它们认为是一个好答案的东西，有时它们会给出极其好的答案。所以，因为这个原因，人工智能在许多其他学科中的用例一直不太令人满意，因为这种不可靠的问题。但数学几乎是所有应用中独一无二的，我们拥有非常完善的验证输出的能力。所以，如果您给我一个数学证明或一个声称的数学陈述证明，我们有逻辑定律和数学定律，我们可以检查论证是否正确。现在我们甚至可以通过计算机来做到这一点。我们有这些形式化的证明助手语言，可以自动完成这项工作。这在某种程度上让人工智能保持诚实，而这在任何其他学科中都更难做到。所以，数学在过滤掉所有错误的人工智能用例并保留好的用例方面，拥有最大的机会。它并不完美。并非数学的每个方面都可以被形式化验证。证明是数学的一个重要部分，但还有其他方面，如果您想尝试提出新的猜想或以清晰的方式解释事物。有很多数学任务人工智能可能还做不好，但至少对于我们所做的一部分，潜力是巨大的。嗯。是的，我完全能理解。您提到了一些验证人工智能工作的程序。没错。随着这些程序的出现和发展，您认为是否会有一个点，我们可以拥有一个足够强大的程序，让我们可以让人工智能不断产生想法，并对它们进行验证，从而创造出新的东西，而不是局限于我们已经计划好的东西？是的。这就是希望所在。所以，目前，如果您要求人工智能产生想法，它会产生各种各样随机的东西，也许其中一小部分实际上很有趣，但我们还无法验证一个想法。但我们也许可以借鉴一些物理科学的技巧。所以，你知道，如果一个物理学家或化学家提出了一个假设，他们可以进行实验并收集证据来支持这个假设，而不是完全证明或证伪，但有方法可以让你对假设的真实性越来越确信或越来越不确信。我确实看到数学比我们目前拥有的更具实验性。所以，目前数学几乎完全是理论性的。但有了人工智能，人工智能可以提出假设，然后也许它也可以提出测试这些假设的实验。您可能提出某个公式对所有自然数都成立。您测试几个数值。您发现其他特殊情况。您检查它是否与文献中的其他事实兼容。而且，这种用例仍处于起步阶段。再次，因为我们还没有能力验证这些东西是否有效，所以进展要慢得多，但随着我们使用人工智能的专业知识的成熟，我可以看到这种情况发生，但这可能还需要十年。是的。老实说，这比我预期的要好。十年听起来很长，但老实说，就研究而言，这不算太糟。速度比我预期的要快。我的意思是，有些人有非常非常高的期望。他们认为到了现在，数学家就会过时，或者科学就会过时。但事实上，我们已经可以看到，人工智能已经可以证明一些以前没有被证明过的定理，通常是通过标准技术。而且它可以辨别出一些我们以前没有看到的模式。它仍然非常不可靠。但是，潜力就在那里，但我们需要研究如何正确地使用它，以及如何不使用它。是的。我认为人工智能擅长的是结构化的重复。它有一些非常严格的指令要遵循，并且可以重复执行。我的意思是，它的目的是节省我们的时间，这样我们就可以处理对它来说更困难、更具创造性的事情。没错。它们与人类不同，也许有点遗憾的是，目前人工智能的营销方式，甚至“人工智能”这个名字听起来就像是人类的替代品，但人类不喜欢做这些非常重复的任务，你知道，就像在数学中，如果你给他们一千个问题，他们可能只会解决第一个或第二个，但然后把它交给人工智能来做剩下的998个，那就太棒了。所以，是的，我认为，也许十年后情况会改变，但在短期内，最自然的劳动分工是，人类开始一个数学项目，比如这是前几个步骤。这是我所认为应该发生的。然后人工智能会把这个草图充实起来，做所有的繁重工作。而且，它可以极大地加速现有的工作流程。是的，我的意思是，归根结底，它是一种工具，对吧？它在那里帮助我们简化许多流程。但我想关于人工智能的另一件事是，您认为当它提出看似随机的解释时，我们可以做些什么？因为很多人工智能所做的就是提出看似合理或似乎可能正确的答案，但实际上很多都是胡说八道。您认为我们可以如何改进这一点？对。所以，是的，在数学中，我们迄今为止发现的最好的应对方法是形式化验证。所以，我们可以让人工智能首先提出一个自然语言的论证，这个论证可能是正确的，也可能是不正确的，然后我们会要求同一个或不同的人工智能将其转换为一种形式语言。每一个论点都必须转换为这种精确的语言，然后由一个非常严格的编译器来验证，这个编译器不是人工智能。它是一个传统的、可靠的软件。我的意思是，它是专门设计成极其可靠的。我们从未在主要前提和语言的编译器中发现过重大错误。所以，如果它通过了测试，如果它没有通过测试，我们会要求人工智能再试一次。如果它通过了测试，那么我们就有了这个长长的人工智能生成的形式证明，它可能不容易阅读。但实际上，您可以反向操作，您可以要求另一个人工智能来解释它。而且，这些形式证明的好处是，证明中的每一步都非常精确。所以，您可以手动将这个大定理分解成小块，然后您可以分别研究每一块。所以，一旦有了形式证明，即使它有数千行，您实际上也可以分析它，无论是通过人类还是人工智能的结合。所以，是的，我们已经有很多例子了，人工智能生成了一个我们一开始不理解的证明，但我们对其进行了反编译，然后有人找到了人类的解释，说明发生了什么。到目前为止，每次人工智能让我们惊叹，哦，这个证明是凭空出现的，我们经过几天的研究发现，文献中确实有论文做过类似的事情。所以，人工智能相对于人类的一个优势是，它可以吸收整个文献，你知道，它不直接记忆所有东西，它没有足够的记忆或权重来做到这一点，但它以某种方式吸收了许多技巧的精髓。所以，一个数学家可能知道，也许在解决某个问题上有四五种技巧，但人工智能可能知道十几种技巧，它可能不会总是正确地应用它们。有时会失败，但它有广度，只要您只做文献中已有的事情，这非常强大。我们还没有看到的是，人工智能提出一个在先前文献中没有任何先例的想法。但话说回来，大多数人类数学家也难以做到这一点。是的，这绝对是一件困难的事情，尤其是当很多人工智能都在引用现有信息时。我的意思是，这引出了我的下一个问题，对吧？您认为人工智能的重大里程碑会是什么？是关于它的思维方式，还是关于它如何理解我们给它的东西？是关于应用吗？对。所以，还有很多不足之处，我们希望看到。所以，是的，所以一个就是创造力，无法追溯到先前的文献。另一个是某种持续的学习，针对特定的知识体系进行调整。所以，目前的人工智能能力被比作，是的，我自己也曾将目前人工智能在数学方面的能力比作数学研究生。你知道，他们知道很多，他们知道一套技术，他们尝试它们，有时它们有效，有时它们成功，有时它们失败。但人类研究生的一点是，如果他们尝试某事失败了，我们可以谈论它，说这是你出错的地方。他们学会不再犯那个错误，然后，下周当你再次见到那个学生时，他们会避免那个错误。但是，人工智能，你开始一个新的会话，人工智能就忘记了一切。你可以让它记住之前的对话，它会短暂地记住不要做某事，但它并不可靠。事实上，有时，有一个众所周知的人工智能的怪癖，如果你告诉人工智能不要做某事，它有时会这样做，它们仍然会这样做。它们仍然会这样做，甚至更频繁。所以，是的，你使用的人工智能只是一个通用的、经过一切训练的人工智能，你还不能把它提炼成只做数学，对吧？你知道，就像研究生可以专注于一个研究领域一样，是的，我们还没有真正获得专业化人工智能的能力。你可以稍微微调一下，但它远远达不到我们想要的能力。但是，我认为我最想看到的是一种真正良好、可靠的将人工智能整合到我们工作流程中的方法。所以，你知道，目前我们正在拼凑各种使用人工智能的方法，你知道，所以，你知道，我们写论文，然后突然卡住了，所以我们去浏览器，打开一个聊天机器人之类的，然后我们使用人工智能。你们中的一些人尝试过让它成为一个代理，让它控制你的电脑，这实际上是个坏主意，但出于很多原因，但它还没有完全像一个合著者，你知道，就像你和一个人类合作者一起工作时，你知道，你可以在黑板上交谈，你可以写方程，你知道，你可以和人工智能聊天，有点类似，但它没有那种整合的感觉，你知道，我们已经花了几个世纪来打磨我们如何与其他人合作。而我们还没有完全弄清楚如何与人工智能合作的最佳方式。如果您必须说，您认为在工作流程进展中真正缺失的是什么？我不知道，这是一个很好的问题。它可能是一些无形的东西。它有点像在疫情期间，我们都转向了远程会议，你知道，你可以说，这些远程会议效果很好，因为，我的意思是，如果你只是想说话，为什么我们是在Zoom屏幕上还是面对面有什么区别？但面对面交谈有一些无形的东西，就像我们现在这样，为什么我们要一起交谈，而不是通过Zoom？有眼神交流，有肢体语言。所以，当你和人交谈时，你知道，你们之间说的实际话语或在黑板上写的方程，它们只是谈话的一部分。还有其他事情在发生，而这些事情在与人工智能互动时却无法捕捉到。说得通。是的。我认为另一部分是与其他人的相互合作。它感觉比与人工智能互动更具互动性。但是，是的。是的。不，人工智能公司的诱惑是提供一种“一蹴而就”的成品，你知道。所以，他们想提供的产品类型是那种你按一下按钮，人工智能就能产生整个解决方案。但你自己并没有参与到解决方案的创建过程中。所以，如果你必须向别人解释这个解决方案，你就无法解释。这只是人工智能给出的东西，或者你想修改它，你别无选择，只能回到人工智能那里说，请你能改变它吗？每次改变它都会变得稍微差一点。所以，是的，正如你所说，我们理想情况下想要一种更具互动性的体验，你知道，你走一步，然后人工智能走下一步，然后也许你提供一些反馈，然后进行纠正，只要你互动，你就会理解证明是如何发展的。所以，当人类写一个证明，解决一个问题时，人类可以解释思维过程，他们试图尝试什么样的想法，有什么鼓舞人心的文献。但是，当人工智能生成这些证明的产物时，有时它并没有附带任何关于这个证明来自哪里的记录。它只是一个解决方案。有时我们意识到，这只是我们想要的一部分。我们不只是想要答案。我们实际上也想要过程。所以，但是，一旦我们找到将人工智能整合进来的方法，也许诀窍是，你知道，也许人工智能就像盐一样，你知道，一点点盐能让食物更美味，但你不会把尽可能多的盐倒在食物上，你知道，你会在合适的时候使用它，在不合适的时候不使用它。是的，这听起来很棒。我认为，即使是普遍的研究，也并不总是关于立即找到解决方案。它似乎总是一个漫长的过程，你需要迭代你已有的东西，有时你甚至可能找不到解决方案，对吧？是的。所以，人类实际上不太擅长正确地指定目标。所以，人工智能的一个特点是，它们太擅长实现目标了。它们有点像一个愿望会非常非常字面地实现你的愿望的精灵。所以，你知道，你说，我想优化这个指标，或者我想解决这个问题，它就会花费大量的计算和精力来精确地做你要求的事情。所以，你知道，你经常会发现，是的，就像，如果我要求用某种形式证明助手语言来形式化一个证明，并尽一切可能来获得一个证明，你会发现它会作弊，它会创建公理，它会改变定义，它会做各种事情来满足你要求的字面意思。所以，我们了解到，当我们给人工智能分配任务时，尤其是需要非常精确的规范的任务，你必须描述一切。你必须确保没有漏洞，你必须清楚地思考你真正想要什么。所以，是的，在证明的例子中，它不仅仅是解决方案。我们想要理解，比如，它如何与文献的其他部分联系起来。我们现在可以解决哪些其他问题？我们如何向他人解释这个结果？是的，所以我们，过去我们不必过多地考虑精确的目标，因为当你要求人类做某事时，他们通常不仅会做你要求他们做的，还会做你隐含地也希望他们做的所有其他事情。你知道，就像，如果你向某人要茶，他们不会只是把茶倒在你身上，对吧？他们会给你一个杯子和一个盘子，如果你不明确要求这些其他东西，他们会理解为什么，所有这些额外的背景。所以，人工智能有时会理解上下文，但有时不会。所以，是的，我们必须在指定目标方面做得更好，才能最好地利用人工智能。我认为这是一个非常有趣的观点，人工智能非常专注于回答问题，而不是确保它得到了所有正确的东西。是的。也许我不知道，但也许这就是目前阻碍它的问题。是的。嗯，我的意思是，这就是整个机器学习的哲学。我的意思是，它以前不是这样的。我的意思是，所以，所以传统上，人工智能并不那么基于目标，但是，但是，早期的人工智能，它试图构建模仿人类思维的推理系统，它们确实很挣扎，就像它们只能做非常基础的任务一样。然后，在某个时候，人们尝试了相反的方法，你只需要指定一个目标，然后你尝试一切，不管它有多愚蠢或不合逻辑，你只是尝试优化衡量你与目标距离的任何指标。人们发现，这只是，它最初效果不太好，但如果你增加更多的计算和数据和规模，它就会变得越来越好，突然之间，它就通过了一个阈值，它变得相当好。但是，它只是，但它有时会太好。它只是精确地优化你的指标。你知道，有很多关于机器学习的故事，你要求人工智能玩一个电脑游戏，它总是会找到漏洞，你知道，某种方式来利用代码中的错误，或者，不是它本来的意思。但是，你知道，但它确实精确地完成了你要求它的事情。嗯。好的。是的。我想我最后一个问题是，您认为人们在使用人工智能进行科学研究时，往往会误解什么？是的，所以对大多数人来说，现代人工智能就是聊天机器人，你知道，你和它们交谈，它们可以告诉你，这是一个很好的观察，你这样做，它们会告诉你让你感觉良好的事情，或者别的什么。所以，一些科学家确实使用聊天机器人来帮助思考，但是，人工智能在科学中最有成效的用途实际上是相当不同的。是的，所以通常与验证相结合，或者就像我经常使用它来做数值绘图，计算，检查论证。是的，它，科学家使用人工智能的方式与公众使用人工智能的方式略有不同。我们不生成很多可爱的图片，例如，这不太有用，对吧？是的，所以不幸的是，人工智能被归为这一项技术，它实际上不是一项技术，它是数百项相关技术。是的，所以不幸的是，最突出的那些实际上不是我们在科学中最常使用的。所以，也许我们应该有更好的命名，比如不叫所有东西人工智能，也许是的，我认为那会很好。我的意思是，外面你已经有了生成式，你有语言模型，然后你有算法等等。但总的来说，对于公众来说，他们非常专注于人工智能的“人工智能”部分，而不是区别是什么，或者它的用途，甚至它是如何工作的。我认为最重要的一部分是它是如何工作的，对吧？因为这从根本上改变了它在做什么以及它的准确性，而在这种情况下，我认为这是一个非常重要的事情。是的。我的意思是，神经网络，我的意思是，这是一项20年前的技术。它们不像这些现代的大型语言模型那么性感，但实际上科学家们已经使用了它们很多年，而且它们很棒。而且，你知道，没有文本界面。你知道，你只是，你知道，找到数据模式的方法。而且，是的，所以，我的意思是，它们用神经网络做了很好的数据科学。但是，它非常枯燥乏味，你知道，它只是数字计算。它不，它不像你，它不像你和数据或某种科幻机器人说话。是的。好的。我认为这就结束了。非常感谢您再次光临。第二次采访。非常好。很荣幸。是的。好的。太棒了。酷。