Transcription
大家好。今天我们又请来了陶哲轩教授。嗯，能再次有机会采访他，我感到非常荣幸。好的。我们将要讨论人工智能在科学领域的应用，尤其是在几天后SAIR启动之际。现在，我们很高兴能带来一些新的视角，探讨人工智能如何在科学中使用，以及我们未来可以为此做些什么。那么，如果您不介意的话，能否请您非常快速地介绍一下自己？那就太好了。好的。我是陶哲轩。我是加州大学洛杉矶分校的数学教授。嗯，传统上来说，我的兴趣在于纯数学，但我越来越多地参与到利用人工智能和其他技术进行数学研究的新方法，以及更广泛的科学研究的新方法中。嗯，最近我与几位科学家和捐赠者一起，帮助创立了SAIR这个新基金会，以支持人工智能在科学领域的各种新方法，将这些新技术融入科学工作流程。我们将在几天后在这里的IPAM（加州大学洛杉矶分校纯数学研究所）举办第一次启动活动。谢谢。我想这可能是很多人想问的问题。是什么让您决定要联合创办SAIR？嗯，这是多种因素共同作用的结果。所以，正如我所说，在过去的几年里，我越来越确信这些技术已经准备好改变科学，而我们必须做好准备，迎接它们的到来。但是，我们需要学会如何正确地去做，并避免错误的做法。不幸的是，在整合人工智能方面，错误的方法远比正确的方法多得多。所以我们确实需要正确地去做。学术界必须真正参与进来。我们不能仅仅等待科技公司给我们一个产品，然后我们就使用它。我的意思是，我们需要真正地互动和学习我们真正需要什么。哪些科学领域人工智能会有帮助，哪些领域人类的方法仍然会很好地适用。然后在过去的一年里，尤其是在此期间，突然出现了大量的资金不确定性。例如，IPAM，我是那里的特别项目主任，我们的资金被暂停了，许多我们计划开展的项目，能否真正开展变得不确定。所以，是时候寻找新的资金来源，并接触许多新的投资者和合作伙伴了。所以，所有这些混乱时期的积极一面是，我们在IPAM有了许多新举措，包括与...这很棒，而且我认为，尤其对于数学而言，人工智能的力量是极其强大的。您同意吗？我认为潜力是巨大的。所以，现代人工智能工具，尤其是大型语言模型，最大的致命弱点是它们是“一本正经地胡说八道”。它们有时能给出极好的答案，但有时也会给出完全的垃圾。它们没有根植于现实。它们只是在统计学上匹配它们认为是一个好答案，有时它们会给出极其好的答案。所以，因为这个原因，人工智能在许多其他学科中的应用案例一直不那么令人满意，因为这种不可靠性问题。但数学几乎是所有应用中独一无二的，我们拥有非常完善的验证输出的能力。所以，如果您给我一个数学证明，或者一个声称的数学陈述证明，我们有逻辑定律和数学定律，我们可以检查论证是否正确。现在我们甚至可以通过计算机来做到这一点。我们有这些形式化的证明助手语言，可以自动完成这项工作。这在某种程度上让AI保持诚实，这是在任何其他学科都难以做到的。所以，数学在筛选掉所有错误的人工智能用例并保留好的用例方面，拥有最大的机会。它并不完美。并非数学的每个方面都可以形式化验证。证明是数学的重要组成部分，但还有其他方面，比如如果您想尝试提出新的猜想，或者以清晰的方式解释事物。有很多数学任务是人工智能可能还做不好的，但至少在我们所做的一些事情上，潜力是巨大的。嗯。是的，我完全能理解。您提到了一些用于验证人工智能工作的程序。没错。随着这类程序的出现和发展，您认为是否会有一个点，我们可以拥有一个足够强大的程序，使得人工智能能够持续产生想法，并且这些想法能够被验证，从而创造出新的东西，而不是局限于我们已经规划好的内容？是的。这就是希望所在。所以，目前，如果您让人工智能产生想法，它会产生各种各样随机的东西，也许其中一小部分实际上很有趣，但我们还无法验证一个想法。但我们也许可以借鉴一些物理科学的技巧。所以，你知道，如果一个物理学家或化学家提出了一个假设，他们可以进行实验，并试图收集证据来支持这个假设，这不完全是证明或证伪，但有方法可以让你越来越相信或越来越不相信这个假设是真的。我确实看到数学比我们目前拥有的更具实验性。所以，目前数学几乎完全是理论性的。但有了人工智能，人工智能可以提出假设，然后也许它也可以提出实验来检验这些假设。你可能提出某个公式对所有自然数都成立。你测试几个数值。你发现其他特殊情况。你检查它是否与文献中的其他事实兼容。而且，这种用例仍处于起步阶段。再次，因为我们还没有能力验证这些东西是否有效，所以进展非常缓慢。但随着我们使用人工智能的专业知识的成熟，我可以看到这种情况发生，但这可能还需要十年。是的。老实说，这比我预想的要好。十年听起来很长，但老实说，就研究而言，这不算太糟。进展速度比我预期的要快。我的意思是，有些人确实抱有非常非常高的期望。他们认为到目前为止，数学家将变得过时，或者科学将变得过时。但事实上，我们已经可以看到，人工智能已经可以证明一些以前没有被证明过的定理，通常是通过标准技术。而且它还可以识别出一些我们以前没有看到的模式。它仍然非常不可靠。但是，潜力是存在的，但我们需要研究如何正确地使用它，以及如何不使用它。是的。而且我认为人工智能擅长的是非常结构化的重复。它有一些非常严格的指令要执行，并且它可以重复执行。我的意思是，它的目的是为我们节省时间，以便我们可以处理对它来说更困难、更具创造性的事情。没错。是的。它们与人类不同，而且，也许有点可惜的是，目前人工智能的营销方式，我的意思是，即使是“人工智能”这个名字，听起来就像是人类的替代品，但人类不喜欢做这些非常重复的任务。你知道，比如在数学中，如果你给他们一套一千个问题，他们也许会解决第一个或第二个，但然后，把它交给人工智能来做剩下的998个，那就太好了。所以，是的，我认为，也许十年后情况会改变，但在短期内，最自然的劳动分工是，人类开始一个数学项目，比如这是前几个步骤。这是我认为应该发生的。然后人工智能会把这个草图充实起来，做所有的繁重工作。而且，它可以极大地加速现有的工作流程。是的，我的意思是，归根结底，它是一个工具，对吧？它在那里帮助我们简化许多过程。但我想关于人工智能的另一件事是，您认为当它提出看似随机的解释时，我们该怎么办？因为很多人工智能所做的就是提出看似合理或似乎可能正确的答案，但实际上很多都是胡说八道。您认为我们如何才能在这方面有所改进？对。所以，对。在数学中，我们到目前为止发现的最好的处理这个问题的方法是形式化验证。所以，人工智能可以首先提出一个自然语言论证，这个论证可能是正确的，也可能不是正确的，但然后我们会要求同一个人工智能或不同的人工智能将其转换为一种形式语言。每一个必须被转换为这种精确语言的声明，都将由一个非常严格的编译器来验证，而这个编译器不是人工智能。它是一个传统的、可靠的软件。我的意思是，它是专门设计成极其可靠的。我们从未在主要前提和语言的编译器中发现过重大错误。所以，如果它通过了那个测试，如果它没有通过，我们会要求人工智能再试一次。如果它通过了测试，那么我们就有了这个长长的人工智能生成的正式证明，它可能不容易阅读。但实际上，你可以反过来，你可以要求另一个人工智能来解释它。而且，这些正式证明的好处是，证明中的每一步都非常精确。所以，你可以手动地将这个大定理分解成小块，然后你可以单独研究每一块。所以，一旦有了正式证明，即使它有数千行，你实际上可以分析它，无论是通过人类还是人工智能的结合。所以，是的，我们已经有许多例子，人工智能生成了一个我们最初不理解的证明，但我们对其进行了反编译，然后有人找到了一个人类的解释，说明了发生了什么。到目前为止，每一次人工智能让我们惊叹，哦，这个证明是凭空出现的，我们发现经过几天的研究后，实际上在文献的某个地方有一篇论文做了类似的事情。所以，人工智能相对于人类的一个优势是，它可以吸收整个文献。你知道，它不直接记忆一切，它没有足够的记忆或权重来做到这一点，但它以某种方式吸收了许多技巧的精髓。所以，一个数学家可能知道，在解决某个问题时，可能擅长四五种技巧，但人工智能可能知道十几种技巧，它可能并不总是能正确地应用它们。有时会失败，但它具有广度，而这非常强大，至少只要你只做文献中已经存在的事情。我们还没有看到的是，人工智能提出一个在先前的文献中没有任何先例的想法。但话说回来，大多数人类数学家也很难做到这一点。是的，这确实是一件困难的事情，尤其是当很多人工智能都在引用现有信息时。我的意思是，这就引出了我的下一个问题，对吧？您认为人工智能的一个主要里程碑是什么？是关于它的思维方式，还是关于它如何理解我们给它的东西？是关于应用吗？对。所以，还有很多不足之处，我们希望看到。所以，是的，所以一个就是创造力，它无法追溯到先前的文献。另一个是某种持续学习，针对特定的知识体系进行调整。所以，目前人工智能的能力被比作，是的，我自己也曾将目前人工智能在数学方面的能力比作一名数学研究生。你知道，他们知道很多，而且他们知道一套技术，他们尝试，有时会成功，有时会失败。但人类研究生的一件事是，如果他们尝试某事并且失败了，我们可以谈论它，并说这是你出错的地方。他们学会不再犯那个错误，然后，下周当你再次见到那个学生时，他们会避免那个错误。但是，人工智能，你开始一个新的会话，它就忘记了一切。你可以保持之前的对话作为上下文，它似乎短暂地记得不要做某事，但它并不可靠。事实上，有时，有一个众所周知的人工智能的怪癖，如果你告诉人工智能不要做某事，它有时会做，它们仍然会做。是的。它们仍然会做得更多。所以，是的，而且你使用的人工智能只是一个通用的、经过一切训练的人工智能。你还不能把它提炼出来只做数学，对吧？你知道，就像研究生可以专注于一个研究领域一样，是的，我们还没有真正获得专门化人工智能的能力。你可以稍微微调一下，但它远未达到我们想要的能力。而且，但我认为我最想看到的是一种真正良好、可靠的将人工智能整合到我们工作流程中的方法。所以，你知道，目前我们正在以各种方式拼凑使用人工智能。你知道，我们写论文，然后突然卡住了，所以我们去浏览器，打开一个聊天机器人之类的，然后我们使用人工智能。你们中的一些人尝试过让它成为一个代理，让它控制你的电脑，这实际上是个坏主意，但出于很多原因。但是，它还没有完全像一个合著者。你知道，就像你和一个人类合作者一起工作时，你可以一边在黑板上交谈，一边写方程式，一边与人工智能聊天，这有点相似，但它没有那种整合的感觉，你知道，我们已经花了几个世纪来打磨我们如何与其他人合作。而我们还没有完全弄清楚如何与人工智能合作的最佳方式。如果您必须说，您认为在工作流程进展方面，真正缺少的是什么？我不知道，这是个好问题。它可能是一些无形的东西。这有点像在疫情期间，我们都切换到了远程会议，而且，你知道，你可以说，这些远程会议效果很好，因为，我的意思是，如果你只是想说话，为什么无论我们在Zoom屏幕上还是面对面交流，这有什么区别？但面对面交谈有一些无形的东西，就像我们现在这样，为什么我们要一起交谈，而不是通过Zoom？有眼神交流，有肢体语言。而且，所以当你和人交谈时，你知道，你们之间说的实际话语，或者在黑板上写的方程式，它们只是谈话的一部分。还有其他事情在发生，而这些事情在与人工智能互动时却无法被捕捉到。说得通。是的。我认为另一部分是与其他人的相互合作。它感觉比与人工智能互动更具互动性。但是，是的。是的。是的。不，人工智能公司的诱惑是提供一种“一蹴而就”的成品。你知道，他们想提供的产品是那种你按一下按钮，人工智能就能产生整个解决方案。但你自己并没有参与到解决方案的创建过程中。所以，如果你必须向别人解释这个解决方案，你就无法解释。这只是人工智能给出的东西，或者你想修改它，你别无选择，只能回到人工智能那里说，请问你能改变它吗？每次改变它都会变得稍微差一点。所以，是的，正如你所说，我们理想情况下想要一种更具互动性的体验，你知道，你走一步，然后人工智能走下一步，然后也许你提供一些反馈，然后进行纠正，只要你互动，你就会理解证明是如何发展的。所以，当人类写一个证明，解决一个问题时，人类可以解释思考过程，他们尝试了什么样的想法，有什么样的启发性文献。但当人工智能生成这些证明的产物时，有时它并没有附带任何关于这个证明从何而来的记录。它只是一个解决方案。而且，有时我们意识到那只是我们想要的一部分。我们不只是想要答案。我们实际上也想要过程。所以，但是，一旦我们找到将人工智能整合进来的方法，也许诀窍在于，你知道，也许人工智能就像盐一样，你知道，一点点盐能让食物更美味，但你不会把尽可能多的盐倒在食物上，你知道，你会在合适的时候使用它，在不合适的时候不使用它。是的，这听起来对我来说很棒。而且我认为，即使是普遍的研究，也并不总是关于立即找到解决方案。它似乎总是一个漫长的过程，你需要迭代你已经拥有的东西，有时你甚至可能找不到解决方案，对吧？是的。所以，人类实际上不太擅长正确地指定目标。所以，人工智能的一个特点是，它们有点太擅长实现目标了。它们有点像一个非常非常字面地实现你愿望的精灵。所以，你知道，你说，我想优化这个指标，或者我想解决这个问题，它就会花费大量的计算和精力来精确地做你要求的事情。所以，你知道，通常你会发现，是的，就像，如果我要求用某种形式的证明助手语言来形式化一个证明，并且只要能得到一个证明就做任何事情，你会发现它会作弊，它会创建公理，它会改变定义，它会做各种事情来满足你要求的字面意思。所以，我们正在学习，当我们给人工智能分配任务时，尤其是需要非常精确的规范的任务，你需要描述一切。你需要确保没有漏洞，并且你需要清楚地思考你真正想要的东西。你知道，所以，所以，在证明的例子中，它不仅仅是解决方案。我们需要理解，比如，它如何与文献的其他部分联系起来？我们现在可以解决哪些其他问题？我们如何向他人解释这个结果？是的，所以我们，过去我们不必过多地考虑精确的目标，因为当你要求人类做某事时，他们通常不仅会做你要求他们做的事情，还会做你隐含地也希望他们做的事情。你知道，就像，如果你向某人要茶，他们不会只是把茶倒在你身上，对吧？他们会给你一个杯子和一个盘子，你知道，如果你不明确要求这些其他东西，他们会理解为什么，你知道，所有这些额外的背景。所以，人工智能有时会理解上下文，但有时不会。所以，是的，我们必须在指定目标方面做得更好，才能最好地利用人工智能。我认为这是一个非常有趣的观点，即人工智能非常专注于回答问题，而不是确保它得到了所有正确的东西。是的。也许我不知道，但也许这就是目前阻碍它的问题。是的。嗯，我的意思是，这就是整个机器学习的哲学。我的意思是，它以前不是这样的。我的意思是，所以，所以人工智能传统上不是那么基于目标，而是，而是，早期的人工智能，它试图构建模仿人类思维的推理系统，它们确实很挣扎，就像它们只能做非常基础的任务一样。然后，在某个时候，人们尝试了相反的方法，即你只指定一个目标，然后你尝试任何必要的事情，无论它多么愚蠢或不合逻辑，你只是试图优化衡量你与目标距离的任何指标。人们发现，这只是，起初效果不太好，但如果你增加更多的计算、数据和规模，它就会变得越来越好，突然间，它就，它就通过了一个阈值，它变得相当好。但是，它只是，但它有时会太好。它只是精确地优化你的指标。你知道，机器学习有很多故事，你要求人工智能去玩一个电脑游戏，它总是会找到漏洞，你知道，某种方式来利用代码中的bug，或者，不是它的精神。但是，你知道，但它确实精确地完成了你要求它的事情。嗯。好的。是的。而且，我想我最后一个问题是，您认为人们在使用人工智能进行科学研究时，往往会误解什么？是的，所以对大多数人来说，人工智能，现代人工智能就是聊天机器人。你知道，你和它们交谈，它们可以说，哦，这是一个很好的观察，你这样做，它们会说让你感觉良好的话，或者别的什么。所以，一些科学家确实使用聊天机器人来帮助思考，但，人工智能在科学中最有成效的用途实际上是相当不同的。是的，所以通常与验证相结合，或者就像我经常使用它来做数值绘图，计算，检查论证。是的，它，科学家使用人工智能的方式与公众使用人工智能的方式略有不同。我们不生成大量的可爱图片，例如，这不太有用，对吧？是的，所以不幸的是，人工智能被归为这一项技术，它实际上不是一项技术，它是数百项相关技术。而且，是的，所以不幸的是，最突出的那些实际上不是我们在科学中最常使用的。所以，也许我们应该有更好的命名，比如不称所有东西为人工智能，也许是的，我认为那会很好。我的意思是，外面你已经有了生成式，你有语言模型，然后你有算法等等。但总的来说，对于公众来说，他们非常专注于人工智能的“人工智能”部分，而不是差异是什么，或者它的用途，甚至它是如何运作的。我认为最重要的一部分是它的运作方式，对吧？因为这从根本上改变了它在做什么以及它的准确性，而在这种情况下，我认为这是一个非常重要的事情。是的。我的意思是，神经网络，我的意思是，那是20年前的技术了。它们不像现代大型语言模型那样性感，但实际上科学家们已经使用它们多年了，而且它们很棒。而且，你知道，没有文本界面。你知道，你只是，你知道，寻找数据模式的方法。而且，是的，所以，我的意思是，它们用神经网络做了很好的数据科学。但是，它非常枯燥乏味，你知道，它只是数字运算。它不，它不像你，它不像与数据或某种科幻机器人交谈。是的。好的。我认为这就结束了。非常感谢您再次到来。第二次采访。非常愉快。很荣幸。是的。好的。很棒。酷。