Transcription
我们今天在班加罗尔哈巴尔，就在法国文化协会的未来中心进行报道。此时此刻，这里正在进行一些非常有趣的对话。不是关于接下来会发生什么，而是关于我们如何想象变化本身。所以我们正在探讨领导者如何想象变化，以及为什么误解未来可能是我们最大的风险。与此同时，人工智能在数学领域的应用在人工智能时代正呈现出新的形式，以及人工智能如何重新定义艺术和娱乐。这正是今天在头版上这件事如此重要的原因。[音乐]
今天我们有一位非常特别的嘉宾，杨辉，他是一位数学物理学家。他工作在数学、物理和机器学习的交叉领域。欢迎杨辉。欢迎来到头版。很高兴能邀请到您。>> 很高兴。>> 是的。所以，是的。您今天在法国文化协会的演讲非常有趣，您正在谈论如何教人工智能去“好奇”，以及数学与机器的交汇之处。所以，这将是您今天在这里的活动中要呈现的非常有趣的对话。所以，我想了解一下，您是如何开始教人工智能去“好奇”的，以及您简单来说，您所说的“会计算的人工智能”与“会发现的人工智能”之间有什么区别？
>> 是的。>> 是的。这是一个很好的问题。我一直在思考这个问题，我来自非常传统的数学背景，我一直在研究逻辑几何、数论、弦理论和量子场论。然后，大约八年前，2017年，我开始尝试使用机器学习算法在数学中进行计算，我完全被它能够以一种非常标准的机器学习方式预测事物的事实震惊了，那些非常技术性的东西，比如流形的拓扑不变量，它们是非常困难和技术性的计算，然而如果你训练一个非常简单的模型，一个前馈神经网络，它就能够高精度地预测。所以我，我停止了我正在做的所有其他事情，开始思考两个问题：人工智能是如何做到这一点的？或者当时我甚至没有使用“人工智能”这个词，我用的是“机器学习”来做这件事。>> 但是[哼声]嗯，通过这个，它给了我一个深入灵魂的问题，那就是数学是什么，以及它是如何完成的。
所以你的问题引发了我一直在思考的正是这一点，我最近写了一篇评论，是2024年为《自然》杂志写的一篇评论，我试图总结数学中的发现过程是什么，数学发现是什么，这包括理论物理学、纯数学，整个我们如何实际发现的过程。我认为，我们实际做到这一点有三种方式。第一种是我所说的自下而上，你尝试做出定义，然后你证明定理，你从基础开始构建事物。第二种，你可以称之为如果你知道问题是什么，就尝试解决问题。>> 第二种我尝试称之为自上而下，那是一种直觉引导的发现，我们通过玩弄符号、数据，并尝试以这种方式进行发现。那么我们是如何尝试做到这一点的呢？所以如果你愿意，这在数学中被称为提出猜想，在理论发现中可以称之为找到问题。>> 正确。>> 对。而第三种是一种神秘的方式，我称之为一种元数学的数学发现方式，你会有某种直觉。你没有玩弄任何东西。你查阅文献。你对过去的文献有一种直觉，然后尝试去形成一个理论、一个想法，甚至一个以前不存在的定义。所以，这三种方法的相互作用一直是我们，我相信我们一直在努力发现数学中的事物、概念和思想的方式。>> 我认为人工智能今天正在提供帮助，这里的人工智能再次被广义定义，无论你将其定义为简单的神经网络，还是将其定义为通用人工智能，无论你如何定义它，它都是某种基于机器的计算智能，它肯定可以在这三个方向上帮助我们，对吗？
所以第一个方向是，它如何能够找到，这就是人们，比如陶哲轩所说的“证明副驾驶”，如果我们建立一个形式化数学的数据库，一个库，这就是所谓的“数学库”（math lib），有一个项目在2013年启动，并且每天都在进行。明白了。>> 我们现在有数百万行的形式化数学。>> 明白了。所以人工智能肯定会尝试在那里帮助我们，因为这些是证明检查器。它们是验证器。所以一旦你有一个正确的定理，代码就会编译。所以在这个方向上，它发展得非常强劲。这是自下而上的方向。
第二个方向是通过查看数学数据，这并不是我们从宇宙学调查或物理实验中得到的那种数据。而是像素数分布或N维空间中形状分类这样的数学数据，这是人工智能非常擅长的。在这个方向上，你可以得到非常严谨的东西，对吗？因为你可以做的是，你可以查看任何事物的分布，然后拥有模式识别器、卷积网络，你就可以发现我们无法发现的模式，因为我们只能在三维空间中拥有直觉，我们无法在三维以上拥有任何直觉，也许对于>> 但就是这样，但如果你谈论的是数百维空间，这是通用数据，甚至是数学，人工智能肯定可以帮助解决这个问题。所以在过去的七八年里，有一些猜想是由此提出的，[清嗓子]有一篇DeepMind的论文在纽结理论中提出了新的公式。我与我的数论合作者进行了一项合作，提出了记忆猜想，这实际上是第一个仍然悬而未决的猜想。它是在人工智能的指导下提出的，数论领域的数学家们仍在研究它。这有点令人惊讶，因为维度非常非常高。
最后一个方向也许是最奇特的方向。这种几乎是半人或超人的能力。这就是我所猜测的，它本质上是大型语言模型（LLM）或数学的世界。你不会认为大型语言模型对数学有任何用处，对吗？因为它会产生幻觉。ChatGPT会说各种明显错误的东西。然而，你知道，这真的只是在过去两三年里才发生。>> 越来越多地有例子表明，通过与ChatGPT这类模型互动，你实际上可以得到有意义的结果。所以有一个我参与的基准测试，叫做“前沿数学”（frontier math），OpenAI资助EpochAI来做，这些是数学中非常具体、非常技术性的问题。我稍后会给出一个例子，只是为了展示，你截取这个问题的屏幕，这是一个你会给博士生或同事，或者我会亲自研究的问题，现在我们已经达到了一个地步，在这些500个同级别的问题中，有25%的时间，像ChatGPT这样的模型，你知道，无论你使用什么语言模型，都能正确解决它，因为它了解所有已发表的与此相关的文献。所以我认为，这三个方向协同工作，将形成某种循环，那肯定会是数学研究的未来。
太棒了。所以我们谈论的所有这些神经网络的核心，一切都是数学方程，以及它如何处理数字，以及下一个预测如何发生。所以，为了我们的观众，如果您能分享一下您早年是如何进入这个特定领域的，以及您计划用您所有的经验和理解来解决什么问题，以及您认为您对世界的贡献会是什么，比如，这将是未来几年的突破。是的。
>> 嗯，这是一个深入灵魂的问题。所以我的意思是，我进入这个领域，我总是因为崇拜而进入一切。>> 好的。>> 所以，作为孩子[笑声]，你知道，作为一个小孩子，我完全崇拜爱因斯坦。>> 明白了。>> 因为他有那种直觉引导的方式来解释宇宙。对。所以这就是我进入数学物理领域的原因。>> 明白了。>> 然后，我因此在普林斯顿学习，因为他在那里。所以我想追随他的脚步，崇拜他。然后，这就是我进入弦理论的原因，即万物之理，这是他1954年到1955年去世时的最后一个愿望，他最后的黑板上试图提出一个统一的万物之理。所以我进入弦理论试图做这件事，但慢慢地我偏离了这个目标，因为这很有趣，我偏离了，因为我发现底层的数学比他试图解释的物理世界更有趣。
>> 明白了吗？所以这就像一次精神之旅，当我意识到柏拉图世界，精神世界时，我喜欢使用“精神世界”这个词，因为你知道印度是一个在灵性方面如此丰富的国家，对于数学家来说，这个精神世界就是柏拉图式的理想，完美的数学世界。然后我开始对证明，对证明是如何构建的，越来越感兴趣，随着我越来越深入这个领域。但是我不喜欢那种枯燥的证明世界，那种罗素和怀特海给出的证明，你知道，那种非常符号化、非常枯燥的布尔巴基风格的证明。我喜欢例子驱动的证明，老派的，你知道，像哈代和拉马努金那样非常明确的公式。>> 是的。>> 几乎是神秘的，这种美丽的例子，当你试图弄清楚为什么这个公式是真的，让我们尝试证明它。所以这就是我进入代数几何、数论这个世界的原因，而我进入人工智能完全是一个意外，进入人工智能非常简单，因为我的儿子在2017年出生了。所以我有一个蹒跚学步的女儿，然后又有一个新生儿。就是这样。我再也睡不着了。[笑声]对。所以我再也睡不着了。所以，你知道，你凌晨四点醒来，你会想我该怎么办？>> 是的。>> 而且每个人都在谈论这个，对吗？每个人都在谈论这个叫做机器学习的新事物。2017年，人工智能还没有真正进入这个世界。所以我只是做了一个实验数学家会做的简单事情，那就是把我硬盘上碰巧有的10,000个流形输入到一个神经网络中，我完全被震撼了。我当时想，天哪，它为什么做得这么好。所以后来我成了一个彻底的狂热者，我想，嗯，肯定有这样的事情，机器学习是如何在数学中发现新结构的，这个领域现在普遍被称为“数学人工智能”。
当然。它是一个快速发展的领域，有如此多的专家参与其中。所以我想我很幸运能成为这个新方向的早期参与者之一，因为在2010年代机器学习非常流行的时候，并不明显它会对数学这样严谨的领域有任何用处，因为机器是一个统计模型。你以某种确定性进行预测，但证明只有确定性，你的证明要么是对的，要么是错的。>> 绝对是。所以“数学人工智能”这个领域就变成了，你知道，你如何使用统计推断来得出严谨的陈述，这是一个非常令人兴奋的领域，我认为它确实是一个指导性的领域，整个领域的未来都在这里。>> 明白了，那么杨，看看当今的人工智能格局，您认为“数学人工智能”是如何演变的？您认为它是否会随着当前大型语言模型（LLM）的趋势，然后是推理模型，然后他们说模型正在思考，而完全走向不同的方向？您如何从数学上证明我们是否正在实现优化，你知道，机器思考的方式有不同的层次，基础设施芯片层，你也在那里进行优化，你也将人工智能引入芯片，从而也优化了它。所以现在有如此多的“数学人工智能”参与其中，他们称之为人工智能芯片。然后我们有人工智能模型可以进行推理。然后我们还有可以使用量子计算能力来处理更多事物并更好地预测的模型，>> 对吗？[哼声]
>> 那么您如何看待所有这些人工智能形式的演变，以及为什么您认为在这个时代，对于所有正在观看的人来说，它如此关键和重要？是的。>> 是的。要知道，这确实是黄金问题。我真的，你知道，正如我所说，Lean提出了这个数学库，这个以计算机形式存储所有数学陈述的数据库，它始于2013年，那已经是相当久以前了。然后第一个探索并尝试提出猜想的人工智能机器学习实验是在2017年，但随后在大约2022年到2023年之间发生了一个巨大的相变，因为我认为是2022年，ChatGPT通过了图灵测试，明白了。>> 突然间它变得像“哦，哇，这是一个，你知道，它几乎是人类了”，但在2022年到2024年之前，如果你让语言模型做任何数学题，它都是完全无用的，你知道，我的同事和我当时只是尝试做早期ChatGPT一或ChatGPT二的第一个基准问题之一，明白了。>> 你问计算7除以9的第15位数字，你知道这是一个高中问题。>> 明白了。它完全是随机的，为什么？它以前从未见过这样的例子。没有推理。>> 正确。>> 但现在，ChatGPT聪明多了。>> 它会写Python代码。>> 好的。>> 当你问这样的问题时，它会说我要用Python来写这个。去做。检查它。回来。所以现在它，我想在某种意义上，这就是推理，对吗？明白了。这是婴儿版本。所以基本的算术，结果实际上是大型语言模型最难学习的问题。明白了吗？因为大型语言模型可以预测非常高级的数学，因为它们在高级数学中有句子结构，但基于算术>> 它，你知道，它>> 你知道，你有十分之一的机会答对，而且它是完全均匀分布的。>> 但ChatGPT通过与可验证的数据库链接来避免了这个问题。>> 明白了。>> 所以这就是DeepMind现在正在做的事情，DeepMind刚刚推出了Alpha Evolve。>> 绝对是。>> 基于AlphaGo，所以你知道，每年都有AlphaGo，AlphaGo 2，AlphaProof 2024，2025，现在是2026年的Alpha Evolve，它知道如何编写代码，它知道如何用数学答案来验证它，它现在实际上正在导入数学库来做这件事，而这正是游戏规则的改变者，一旦你拥有一个知道如何验证的人工智能系统，>> 并且有可靠的来源来验证它，那么游戏就完全改变了[笑声]。>> 不，所以我的问题是，很多人一直在抱怨它无法计算草莓中的小时数，但它却能在数学中获得金牌等等。你如何解决这两个不同的问题，我的意思是，我们如何解决草莓中的小时数与这些模型能够做到的，你知道，在数学中赢得金牌等等的问题？
所以>> 是的，所以嗯，金牌有点意思，数学奥林匹克竞赛的金牌，现在有Axial Math可以解决白金级别的问题，明白了。>> 它们之所以能解决这类问题，是因为有如此庞大的训练集。>> 因为我们人类几十年来一直为它提供可靠的良好解决方案数据集。>> 所以那里有数百万亿行的代码。>> 而且为了回答更简单的问题。>> 是的，>> 这是一个更微妙的问题。但是，为了量化，为了证明，我的意思是，稍微谨慎一点，到目前为止，还没有任何大型语言模型（LLM）解决了数学中的任何主要猜想。>> 已经>> 还没有。我知道DeepMind正在研究百万美元奖金问题。>> 当然，如果DeepMind明年宣布解决了千禧年问题中的纳维-斯托克斯问题，那将是DeepMind有史以来最好的营销策略。那将非常棒，如果，而且我每天都在等待，因为这超出了任何大学的计算资源，看到公司现在拥有解决这个问题的计算资源，这很有趣。>> 对。>> 我每天都在等待DeepMind宣布提供一个可验证的证明，证明数学中一个主要猜想，比如千禧年奖金问题。>> 然后，哇，那将非常棒。但现在这并非不可想象。>> 明白了。
嗯，那么就谈谈印度，对吗？所以，您经常来印度旅行吗？>> 不，这只是我第二次来。>> 哦，太棒了。好的。好的。所以，我们也在经历一个阶段，你知道，我们正在构建我们自己的主权模型，我们正在建设我们的基础设施，而且我们在应用层也非常强大，无论有什么前沿模型，我们都使用开源模型来构建这些能力。那么您会建议印度如何看待人工智能的发展呢？是应该更侧重于应用方面的可用性，还是必须在研究领域领先，因为这至关重要。您对此有什么看法？嗯，我不确定我有很多，但我有。
真正令人惊奇的是，我从小在很多地方长大，你知道，我出生在中国，在澳大利亚长大，然后在美国上大学。>> 我的高等教育在美国完成，当我还是那里的本科生和研究生时，我看到了如此多的印度人才。好的。[笑声] >> 所以我考试时最大的竞争对手总是印度学生、中国学生，>> 或者俄罗斯学生。现在，现在，因为这三个国家在数学和技术方面都有这样的传统，所以我的，嗯，我正在结合这次访问。所以我在伦敦的研究所正在与印度政府合作，建立一个新的交流项目。>> 太棒了。好的。>> 所以我们想互相交流想法，看看我们能做什么。所以，我们正在班加罗尔合作，特别是与ICTS和JNC合作，>> 只是为了探讨数学人工智能的未来是什么，这对印度和我的研究所都有益，我的研究所是英国唯一一个独立的研究所，它设在皇家机构，我在那里也做了很多公开讲座，所以一切都巧妙地联系在一起，我在这里做这个演讲非常及时。昨天我只是参观了当地的研究所，显然对这个方向，这个未来方向有很多兴趣。>> 而且，印度拥有巨大的数学人才，这是一个伟大的数学国家，就像拉马努金一样。>> 是的[笑声]。>> 真正有趣的是，拉马努金的工作方式，我们对哈代来说，就像人工智能以这种完全神秘的方式工作一样。拉马努金是如何做到这些结果的？同样，人工智能是如何得到这些结果的，对吗？所以在某种意义上，我看到了拉马努金和人工智能之间最好的平行。
太棒了。您提出的这个类比非常好。最后问一句，您现在还写代码吗？我觉得人工智能已经接管了编码，就您如何编码而言。我觉得昨天微软的Copilot SDK刚刚发布，现在您在应用层也有了人工智能。所以我觉得我们所知道的编码，比如人类编码正在走向终结，您对此有什么看法？既然人工智能可以接管编码方面的事情，包括部署和执行，您对数学人工智能在提供这些基础设施和能力方面会增加有什么看法？>> 绝对是。您怎么看？>> 绝对是。我的意思是，事实上，DeepMind的Alpha Evolve正是为了做到这一点，它正在尝试如何优化代码来解决数学问题，通过增加，你知道，在不等式中拥有更尖锐的界限，而且它做得非常好。有一篇陶哲轩参与的论文，好的，那是在基准测试，基准测试这方面进展如何。对我个人来说，我实际上是一个很好的例子，因为我是一个很好的小白鼠，因为我不是一个黑客，我不会写，你知道，5000行代码。>> 但我也不是不写代码。我以前每天都会写10到100行，你知道，几百行代码，因为我喜欢在Mathematica、Python、C，你知道，任何可以检查的工具中不断检查我的想法。>> 而现在我几乎不写代码了。>> 哇。>> 因为我，嗯，好吧，如果是两行代码，我会写，因为打字更快。>> 绝对是。但如果超过10行，我根本不写代码，因为我问过，甚至ChatGPT Pro都会写得更好，而且我知道它有效，因为我可以复制粘贴，它会编译并运行。它会给我正确的答案，而且它肯定比我更准确。我，你知道，不是一个完全的黑客的人类数学家会花几个小时甚至几天来调试这些东西。ChatGPT会在一毫秒内完成。>> 而且代码非常可靠。你不能相信ChatGPT说的其他任何东西，但我可以相信它的代码，因为我知道它，我把它复制粘贴到任何编译器上编译，然后运行例子，这样我们就可以看到输出。
太棒了。>> 是的，谢谢您，我认为这是一次精彩的讨论。最后一个问题是，您对未来有什么感到兴奋的？以及除了您的孩子之外，是什么让您，你知道，不断前进，又是什么让您夜不能寐？>> 是的。是的。嗯，[笑声]幸运的是我的孩子们现在12岁和8岁了。>> 好的。>> 所以，我现在可以睡觉了。好的。>> 好的。[笑声] >> 但有趣的是，我认为这场人工智能革命，对我们许多人来说，提出了一个更深层次的问题：作为人类意味着什么？如果人工智能已经取代了这么多，并且做得比我们现在能做的更好，那么作为人类意味着什么？我没有答案。我的意思是，这可能会让我余生夜不能寐。>> 好的。>> 但这是一个，把它留给哲学家吧。>> 太棒了。太棒了。谢谢您，杨。这是一次精彩的讨论。好了，各位。这里是头版。请点赞、分享、订阅。而且永远记住，思考人工智能，>> 思考人类。思考人工智能。[音乐][音乐][音乐][音乐]