Transcription
以下是与弗拉基米尔·瓦普尼克的对话。他是支持向量机、支持向量聚类、VC理论以及统计学习中许多基础思想的共同发明者。他出生于苏联，曾在莫斯科的控制科学研究所工作。之后在美国，他曾在AT&T、NEC实验室、Facebook研究中心工作，现在是哥伦比亚大学的教授。他的工作已被引用超过17万次。他对人工智能和学习的本质有一些非常有趣的观点，尤其是在我们当前方法的局限性和该领域的开放性问题上。本次对话是麻省理工学院人工智能通用课程和人工智能播客的一部分。如果您喜欢，请在YouTube上订阅，或在iTunes或您选择的播客提供商上评分，或者简单地在Twitter或其他社交网络上与我联系，我的名字是Lex Fridman，拼写为F-R-I-D。现在，这是我和弗拉基米尔·瓦普尼克的对话。
Lex：爱因斯坦曾说过，上帝不掷骰子。
Vladimir：是的。
Lex：您通过统计学的视角研究世界，那么让我问您关于现实的本质——现实的根本本质。上帝掷骰子吗？
Vladimir：我们不知道一些因素。因为我们不知道一些可能很重要的因素，所以看起来上帝在掷骰子，但您应该描述一下。在哲学中，他们区分两种立场：工具主义立场，您在此创建预测理论；以及实在论立场，您在此试图理解上帝做了什么。
Lex：您能稍微描述一下工具主义和实在论吗？例如，如果您有一些力学定律，那是什么？是永远在任何地方都为真的定律，还是允许您预测运动元素位置的定律？您相信什么？您相信这是上帝的定律，上帝创造了世界，这个物理定律，还是它仅仅是预测的定律？
Lex：哪一个又是工具主义呢？为了预测。如果您相信这是上帝的定律，并且它永远在任何地方都为真，这意味着您是一个实在论者。您试图理解上帝的思想。
Lex：那么您看待世界的方式是作为一名工具主义者吗？
Vladimir：您知道我从一些模型——机器学习模型——中工作。所以在这个模型中，您可以看到设置，然后您尝试解决问题。从工具主义者的角度来看，您可以以两种不同的方式做到这一点，而这正是现在每个人都在做的事情，因为机器学习的目标是找到分类的规则。这是真的，但它是预测的工具。但我可以这么说，机器学习的目标是学习条件概率，那么上帝是如何玩耍和使用的。在给定的情况下，他玩耍的概率是多少，另一个的概率是多少？但为了预测，我不需要这个。我需要规则。但为了理解，我需要条件概率。
Lex：那么我先退一步，谈谈您昨晚读到的尤金·维格纳1960年的论文《数学在自然科学中的不合理有效性》中的一些部分。顺便说一句，这是一篇非常优美的论文。老实说，坦白地说，我过去两年在深度学习方面的大量应用工作，让我觉得我错过了大自然通过数学揭示的一些美妙之处。那么，让我暂时抛开它的诗意。您如何看待数学在您生活中的作用？它是一种工具吗？它是诗歌吗？它在哪里？对您来说，数学有局限性吗？
Vladimir：有些人说数学是上帝使用的语言。
Lex：与上帝对话还是使用上帝？——使用上帝。
Lex：使用上帝。
Vladimir：我相信关于数学不合理有效性的文章是这样的：如果您看看数学结构，它们就了解现实。而大多数自然科学的科学家，他们看着方程试图理解现实，机器学习也是如此。如果您试图非常仔细地观察定义条件概率的所有方程，您就可以比从您的幻想中更了解现实。
Lex：那么数学也许可以揭示现实的简单基本原理？
Vladimir：您知道，看似简单的事物，发现它们却非常困难。但是，一旦您发现了它们并观察它们，您就会看到它们有多么美丽。而且，当您看着一个方程并从方程推导出来时，您会惊讶于人们为什么以前没有看到它。例如，我昨天谈到了最小二乘法，人们对改进最小二乘法有很多幻想。但是，如果您一步一步地解一些方程，您突然会得到一些项，经过思考后；您会理解它，它描述了一个观测点的位置。最小二乘法丢弃了大量信息。您不看观测点的构成。我们只看细节。但是，当您理解了这个非常简单的想法，它并不那么容易理解，而且您可以仅从方程中推导出它。
Lex：所以一些简单的代数，几步就能带您到令人惊讶的地方，当您思考时——
Vladimir：绝对是的。这证明了人类的直觉并不丰富，而且非常原始，它看不到非常简单的情况。
Lex：那么让我退一步，总的来说，是的。人类的创造力与直觉，那些灵光一闪的时刻呢？您是否必须如此严厉地对待人类直觉？人类直觉是否有能够超越数学的灵光一闪的时刻，然后数学会跟上？
Vladimir：我不这么认为。我认为最好的人类直觉就是将其放入公理，然后就是技术性的，您必须到达那里。
Lex：看看公理会带您去哪里。
Vladimir：是的。但前提是它们正确地取了公理。公理经过了几代科学家的打磨，这是整体的智慧。
Lex：说得太好了。当您想到爱因斯坦，特别是相对论时，想象力在那个想法的发现时刻起到了什么作用？显然，那是数学和跳出框框的想象力的结合。
Vladimir：我不知道。无论我做什么，我都排除了任何想象，因为我在机器学习中看到的任何来自想象的东西，比如特征，比如深度学习，它们都不是真正解决问题的。当您从数学方程中非常清晰地观察时，您会得到一个非常简单的故事，这个故事在理论上远远超出了人们的想象，因为它们不是好的幻想。它们只是解释。它们只是幻想，但不是您需要的。您不需要任何想象力来推导出机器学习的基本原理。
Lex：当您想到学习和智能时，也许想到人脑，试图在数学上描述学习过程，这就像人脑中发生的事情一样，您认为我们目前拥有这些工具吗？您认为我们将来会拥有描述学习过程的工具吗？
Vladimir：这不是描述正在发生的事情。这是解释。这是您的解释。您的看法可能是错误的。您知道，当发明显微镜的人，列文虎克，第一次拥有这个仪器时，他把它保密了。但他向伦敦皇家学会提交了一份报告。在他的报告中，当他观察血液时，他到处看——看水，看血液，看那些薄膜，但他将血液描述为女王和国王之间的战斗。所以他看到了血细胞，红细胞，他想象它们就像一支军队在互相战斗。他将它作为一份报告提交给了皇家学会。他们非常仔细地看了，因为他们相信他是对的。他看到了东西，但他给出了错误的解释。我相信大脑也会发生同样的事情。最重要的一部分，您知道，我相信人类的语言。在一些谚语中，蕴含着巨大的智慧。例如，人们说，与其勤奋学习一千天，不如与一位伟大的老师在一起一天。但是，如果您问老师做什么，没有人知道。这就是智能。但我们从历史，以及现在从机器学习中知道，老师可以做很多事情。
Lex：那么从数学的角度来看，什么是伟大的老师？
Vladimir：我不知道，但我们可以说老师能做什么。他可以引入一些不变性，一些用于创建不变性的谓词。他是怎么做到的，我不知道，因为老师了解现实，并且可以从他的现实中描述一个谓词和不变性。但我们知道，当您使用不变性时，您可以将观测次数减少一百倍。
Lex：也许试着稍微剖析一下，但我认为您提到过，就像钢琴老师对学生说：“像蝴蝶一样弹奏。”我弹钢琴。我弹吉他很长时间了，也许这很浪漫和诗意，但我觉得这句话有很多真理，就像这句话有很多指导意义一样。您能剖析一下吗？那是什么？语言本身可能不包含这些信息。
Vladimir：这不是胡说八道，因为它会影响您。是什么？影响您，影响您的演奏。
Lex：是的，但交换的信息是什么？信息的本质是什么？信息中的表示是什么？
Vladimir：我相信这是一种谓词，但我不知道。这正是机器学习中的智能应该是什么，因为其余的只是数学技巧。我认为最近的发现是，有两种学习机制。一种称为强收敛机制，另一种称为大收敛机制。以前，人们只使用一种收敛。在大收敛中，您可以使用谓词。这就是“像蝴蝶一样飞翔”的意思，它会立即影响您的演奏。您知道有一句英语谚语：“如果它看起来像鸭子，睡起来像鸭子，叫起来像鸭子，那么它很可能是一只鸭子。”但这正是关于谓词的。它看起来像鸭子，这意味着什么？所以，您看到了很多鸭子——这是您的训练数据。您有一个描述看起来像鸭子的。
Lex：是的，鸭子的视觉特征，是的。
Vladimir：是的，您有一个识别鸭子的模型。所以您希望模型中的理论描述与您看到的经验描述相吻合。所以，关于“它看起来像鸭子”，这是普遍的。但是，关于“像鸭子一样游泳”呢？您应该知道鸭子会游泳。您不能说它像鸭子一样下棋。好吧，鸭子不下棋。这是一个完全合法的谓词，但它毫无用处。那么，老师如何识别一个有用的谓词呢？所以，到目前为止，我们现有的机器学习中没有使用这个谓词，那么为什么我们需要海量的数据呢？但这句英语谚语说只用了三个谓词——看起来像鸭子，像鸭子一样游泳，像鸭子一样叫。
Lex：所以您不能否认“像鸭子一样游泳”和“像鸭子一样叫”带有幽默感，带有歧义的事实？
Vladimir：让我们谈谈“像鸭子一样游泳”。它没有说“像鸭子一样跳跃”，为什么？
Lex：这不相关。
Vladimir：这意味着您认识鸭子，并且您认识不同的鸟类。您认识动物，并由此得出说“像鸭子一样游泳”是相关的。
Lex：所以为了让我们理解“像鸭子一样游泳”，我觉得我们需要了解我们一路走来获得的数百万个其他零碎信息。您不这么认为吗？这些陈述不需要是基于知识的，而是包含一些丰富的信息，帮助我们理解鸭子的本质？
Vladimir：是的。
Lex：我们离整合谓词还有多远？
Vladimir：您知道，当您能看到机器学习的完整故事时，它所做的事情是，您有很多函数，然后您说它看起来像鸭子。您看到您的训练数据。从训练数据中，您识别出预期的鸭子应该是什么样子。然后，您删除所有看起来不像您认为它应该从训练数据中看起来的函数。所以，您减少了从中选择一个的函数数量。然后，您给出第二个谓词，再次，它们创建一个函数集。之后，您选择最好的函数。这是标准的机器学习。那么，为什么您需要很多例子呢？
Lex：因为您的谓词非常好。
Vladimir：是的，这正是基本的谓词，因为每个谓词都是为了减少可容许函数集而发明的。
Lex：所以您谈论可容许函数集，您也谈论好函数。那么是什么让函数好呢？
Vladimir：可容许函数集是一个容量小或多样性小、维度小的函数集，其中包含好的函数。
Lex：顺便说一句，对于不了解VC的人来说，您就是VC中的V。那么，您将如何向普通人描述VC理论是什么？您将如何描述VC？
Vladimir：当您有一个机器，一个能够从可容许函数集中选择一个函数的机器。但是可容许函数集可能很大。它们包含所有连续函数和理论。您没有那么多例子来选择函数。但它也可以很小——我们称之为容量，但也许是多样性——所以设置中没有太多不同的函数，一个无限的函数集，但不太多样化。所以，如果VC维度很小，那么您只需要少量的训练数据。因此，目标是创建具有小VC维度的可容许函数集，并包含好的函数。然后，您将能够使用少量观测来选择函数。
Lex：那么这就是学习的任务，即创建具有小VC维度的可容许函数集，然后您想出一个巧妙的方法来选择好的函数。
Vladimir：这就是我昨天提出的学习目标。统计学习理论不涉及创建可容许函数集。在经典的机器学习理论中，在100%的教科书中，可容许函数集是给定的，但这什么也没告诉我们，因为最困难的问题是创建可容许函数集，假设有很多函数，一个连续的函数集。创建可容许函数集，意味着有限的VC维度，小的VC维度，并且包含好的函数。所以，这已经超出了考虑范围。
Lex：那么这个过程是什么，我的意思是，这很迷人？创建这个可容许函数集的过程是什么？
Vladimir：那是不变性。
Lex：那是不变性。您能描述一下不变性吗？
Vladimir：是的。您必须考虑训练数据的属性，属性意味着它们具有某种函数，您只需计算训练数据的函数平均值。您有一个模型，并且该函数在模型上的期望值是多少，它们应该吻合。所以，问题是如何选择函数。它可以是任何函数。事实上，它对所有函数都适用，但当我提到鸭子不跳时，您就不会问“像鸭子一样跳跃”的问题，因为它微不足道。它不跳，所以它对您没有任何帮助。但您知道要问哪些问题，就像您问“像鸭子一样游泳”一样。“看起来像鸭子”是一个普遍的情况。但是，看起来像，比如说，一个患有这种疾病的人，这是合法的。所以，有一种普遍的谓词类型，“看起来像”，以及一种与特定问题相关的特殊谓词类型。这就是这个行业的智能部分，也是老师参与的地方。
Lex：整合专门的谓词。
Vladimir：是的。
Lex：好的。您如何看待深度学习作为神经网络，这些架构，在帮助完成您正在考虑的一些任务方面？它们的有效性或无效性，它们的弱点是什么，可能的优点又是什么？
Vladimir：您知道，我认为这是幻想，一切都像深度学习，像特征。让我给您举个例子。丘吉尔关于第二次世界大战历史的书是最伟大的书之一。他在书中描述了在旧时代，战争结束后，伟大的国王们聚集在一起——他们大多是亲戚——讨论应该做什么来创造和平，并达成协议。第一次世界大战发生了什么？普通大众掌权了。他们如此贪婪，以至于掠夺了德国。对每个人来说都很清楚，这不是和平，和平只会持续20年，因为他们不是专业人士。我在机器学习中看到了同样的情况。有些数学家从非常深入的数学角度看待问题，而有些计算机科学家大多不懂数学。他们只是对它有解释，他们发明了很多胡说八道的解释，比如深度学习。你为什么要做深度学习？数学不知道深度学习。数学不知道神经元；它只是函数。如果您想说分段线性函数，就这么说，并在分段线性函数类别中进行。但他们发明了一些东西，然后试图通过解释来证明它的优势，而这些解释大多是错误的。当这还不够时，他们就诉诸于大脑，说他们对此一无所知。没有人知道大脑里发生了什么。所以，我认为研究数学更可靠。这是一个数学问题，尽力解决这个问题。试着理解，收敛的方式不止一种，即强收敛方式。有一种大收敛方式，需要谓词。如果您深入研究所有这些内容，您就会发现您不需要深度学习。更重要的是，我想说一个称为表示定理的定理，它说学习问题的最优解是在浅层网络上，而不是在深度学习上。
Lex：在浅层网络上。是的，问题就在那里。绝对是。所以，最终，您所说的完全正确。问题是，您不认为将某物扔到桌子上，玩弄它——不是数学——有什么价值。这就像一个神经网络，您说将某物扔进桶里，或者生物学例子，观察国王和王后，或者显微镜下的细胞，您不认为想象细胞或国王和王后并将它们作为数学最终将带您到的灵感，有什么价值吗？您认为这种解释在某种程度上欺骗了您，而且没有成效吗？
Vladimir：我认为，如果您试图分析学习这件事，特别是关于深度学习的讨论，那是一场关于解释的讨论，而不是关于事物的讨论，关于您可以对事物说些什么。
Lex：没错。但是，您不惊讶于它的美丽吗？不是数学上的美，而是它竟然能奏效的事实？或者，您是在批评那种美，我们人类解释、在我们构建中寻找愚蠢解释的欲望吗？比如，让我问您这个问题，您是否惊讶或它是否启发了您，您对像AlphaGo这样的系统通过使用神经网络来评估棋盘质量而击败围棋游戏的成功有什么感受？
Vladimir：那是您的解释——棋盘的质量。
Lex：是的。这不是我们的解释。事实是，一个神经网络系统——这无关紧要——一个我们认为在数学上并不完全理解的学习系统，击败了最好的人类玩家，这是曾经被认为不可能的事情。
Vladimir：这意味着它不是一个非常困难的问题。就是这样。
Lex：所以我们通过经验发现，这不是一个非常困难的问题。这是真的。我无法反驳。
Vladimir：更重要的是，我想说，如果他们使用了深度学习，那也不是最有效的学习理论方法。通常，当人们使用深度学习时，他们会使用海量训练数据，但您不需要这个。所以，当我描述一个挑战时，我们能否用比深度学习方法、深度网络少一百倍的训练数据来解决一些您做得很好的问题？更重要的是，有些问题深度学习无法解决，因为它们不一定创造了可容许函数集。创建深度架构意味着创建可容许函数集。您不能说您正在创建好的可容许函数集。那是您的幻想。它不是来自我们。但是，创建可容许函数集是可能的，因为您有训练数据。实际上，对于数学家来说，当您考虑一个变体时，您需要使用大数定律。当您在现有算法中进行训练时，您需要一个一致的大数定律，这要困难得多。它需要VC维度和所有这些东西。但尽管如此，如果您同时使用大收敛和小收敛方式，您可以大大减少训练数据。
Lex：是的，您可以做到这三点——像鸭子一样游泳，像鸭子一样叫。那么，让我们退一步，总体上思考一下人类智能。显然，它以一种非数学的方式进化。
Lex：据我们所知，上帝或任何人都没想出一个模型并将其植入我们的大脑中，它似乎是进化的。我不知道您的看法，但艾伦·图灵在20世纪50年代的论文中提出了一个问题：“机器能思考吗？”这不是一个非常有用的问题，但您能否简要地考虑一下这个无用的问题：“机器能思考吗？”那么，谈谈智能和您的看法。
Vladimir：我不知道。我知道图灵描述了模仿——如果一台计算机可以模仿人类。我们称之为智能，他明白它不是一个思考的计算机。他完全明白他在做什么，但他提出了模仿的问题。所以现在我们将其理解为不是模仿的问题。我不确定智能是否只在我们内部。它也可能在我们外部。我有几个观察结果——当我证明一些定理时，它们是非常困难的定理。几年后，在几个地方，人们会证明同一个定理，比如，在我们之后，又有一个人证明了同一个定理。在科学史上，这种情况一直发生。例如，几何学，它同时发生。首先是罗巴切夫斯基，然后是高斯和博尔约，然后是其他人，大约在十年内，我看到了很多这样的例子。当一个数学家思考它时，当他们发展出一些东西时，他们发展出一些影响所有人的普遍的东西。所以，也许我们关于智能的模型只在我们内部是错误的。
Lex：这是我们的解释。是的。
Vladimir：也许它们与世界智能存在某种联系。我不知道。
Lex：您几乎就像在连接到……
Vladimir：是的，正是如此。
Lex：……并为此做出贡献。
Vladimir：……到一个大网络。
Lex：到一个大的，也许是神经网络。另一方面，也许您可以评论一下大O复杂度，以及您如何看待根据最坏情况运行时间与其输入的关系来对算法进行分类。那么，那种思考函数的方式，您认为P等于NP吗？您认为这是一个有趣的问题吗？
Vladimir：是的，这是一个有趣的问题。但让我谈谈复杂性和最坏情况。有一个数学设定。当我1991年来到美国时，人们不知道这个。他们不知道统计学习定理。在俄罗斯，它发表在我们的专著中，但在美国，他们不知道，然后他们学会了。有人告诉我这是最坏情况理论，他们将创造真实情况理论，但直到现在，他们还没有。因为这是一个数学工具，您只能做您能用数学做的事情，那就是清晰的理解和清晰的描述。因此，我们引入了复杂性。在VC维度中，您可以证明一些定理。但我们也为已知概率测度的案例创建了理论，这是可能发生的最好情况。所以从数学角度来看，您知道最好的可能情况就是最坏的可能情况。您可以推导出中间的不同模型，但这并不那么有趣。
Lex：您认为边缘情况有趣吗？
Vladimir：边缘情况很有趣，因为要获得精确的界限并不容易。在许多情况下，界限并不精确，但有趣的原理是最先被发现的。
Lex：您认为它有趣是因为它具有挑战性并揭示了有趣的原理，使您能够获得这些界限，还是因为它实际上对于理解算法函数本质非常有用？所以，这就像我通过您做过的最坏的事情和最好的事情来评判您作为人类的一生，而不是中间的所有事情。这似乎没有成效。
Vladimir：我不这么认为，因为您无法描述中间的情况，否则它就不会普遍。所以您可以描述边缘情况，并且很清楚它有一些模型，但您无法为每个新情况描述一个模型。所以，当您使用模型时，您永远不会准确。
Lex：但是，从统计学的角度来看，您研究函数以及学习和世界的本质的方式，您不认为现实世界有一个非常长的尾巴，边缘情况离均值很远，中间的东西，或者不是呢？
Vladimir：我不知道。我认为从我的角度来看，如果您使用形式统计学，您需要一致的大数定律，如果您使用这种不变性，您就不需要仅仅是大数定律。一致的大数定律和大数定律之间有巨大的区别。
Lex：描述一下会更有用吗，还是我们就此打住……
Vladimir：不。例如，当我谈论鸭子时，我得到了三个谓词，这就足够了。但是，如果您尝试正式区分，您将需要大量的观测。这意味着“看起来像鸭子”的信息包含了很多形式的信息位。所以我们不知道智能包含多少信息位，这是分析的主题。到目前为止，在商业上，我没有看到人们考虑人工智能。他们将其视为模仿人类活动的某些代码。这不是科学。这是应用。您想模仿围棋。好吧，这很有用，也是一个好问题，但您需要了解更多关于人们如何发展出谓词，比如“像蝴蝶一样飞翔”或“像蝴蝶一样飞翔”之类的内容。老师不会告诉您它是如何进入他的脑海的，他如何选择图像。这是智能的问题。
Lex：这是智能的问题。您认为它与学习问题有关吗？它们是吗？
Vladimir：绝对是，因为您立即给出了像特定谓词“像鸭子一样游泳”或“像鸭子一样叫”这样的谓词。它是以某种方式选择的。
Lex：那么，如果您要将工作制定为一系列开放性问题，以帮助我们实现“像蝴蝶一样飞翔”，让系统能够做到这一点，您会说您的工作是什么？
Vladimir：让我们分开两个故事——一个数学故事，即如果您有谓词，您可以做一些事情；另一个故事是如何获得谓词。这是一个智能问题，人们甚至还没有开始理解智能。因为要理解智能，首先，试着理解他们会教我们什么，老师如何教，为什么一个老师比另一个老师好。
Lex：是的。那么，您认为我们真的还没有开始生成谓词的旅程吗？
Vladimir：不。我们不理解。我们甚至不理解这个问题存在。
Lex：您理解。
Vladimir：不。我只知道一个名字。我不知道为什么一个老师比另一个老师好，老师如何影响学生。这不是因为他重复教科书中的问题。他会做一些评论。他会做一些推理哲学。
Lex：是的，这很美。这是一个问题的表述，这是一个开放性问题：为什么一个老师比另一个老师好？
Vladimir：对。他对此做了什么。
Lex：在每个层面都问“为什么”。他们如何变得更好？好意味着什么？
Vladimir：是的。根据我拥有的任何模型，一个老师可以给出一个非常好的谓词。一个老师可以说“像鸭子一样游泳”，另一个可以说“像鸭子一样跳跃”。而“像鸭子一样跳跃”携带的信息为零。
Lex：那么，您曾经做过或现在正在做的统计学习中最令人兴奋的问题是什么？
Vladimir：我刚刚完成了这个不变性故事，我很高兴，因为我相信这是最终的学习故事。至少，我可以证明没有其他机制。只有两种机制，但它们将统计部分与智能部分分开，而我对智能部分一无所知。如果您了解了智能部分，它将极大地帮助我们教学和学习。
Lex：我们会看到它吗？例如，在我的演讲中，最后一页是一个挑战。您有一个NIST数字识别问题，深度学习声称他们做得非常好，比如99.5%的正确答案，但他们使用了6万次观测。您能用少一百倍的观测来做同样的事情，但结合不变性，这意味着什么，您知道，数字1、2、3？只是看看它，解释一下我应该保留的视觉变体，使用少一百倍的例子，来做同样的工作。
Lex：是的，最后一页，不幸的是，您的演讲很快就结束了，但最后一页是一个强大的开放性挑战，以及其本质的表述。
Vladimir：这是智能的精确问题，因为每个人，当机器学习开始时，它是由数学家开发的，他们立即认识到他们使用的训练数据比人类需要的要多得多。但现在，我们又回到了如何减少的问题。这是学习的问题。不像深度学习，他们使用海量训练数据，因为也许海量数据还不够，如果您有一个好的不变性。也许，您永远不会收集到一定数量的观测。但现在，这是关于智能的问题，如何做到这一点，因为统计部分已经准备好了。只要您提供谓词，我们就可以用少量观测做好工作，并且在数字识别的早期挑战中，您知道数字和12个不变性。我正在考虑这个问题，我可以为数字3说，我会引入水平对称的概念，所以数字3比数字2有更多的水平对称性，或者类似的东西。但是，一旦我获得了水平对称性，我就可以在数学上发明很多衡量水平对称性或垂直对称性或对角线对称性的方法，无论是什么，如果我有理想的对称性。它会告诉我们什么？看看数字，我看到它是一个元谓词，它不是被塑造成某种对称性，比如整个图片有多暗，之类的东西，它可以被认证为一个谓词。
Lex：您认为这种谓词可以从非普遍的事物中产生吗？也就是说，对我来说，要理解两者和三者之间的区别，我需要经历一个10到15年的童年，和孩子们一起玩耍，上学，被父母责骂，所有这些，走路，跳跃，看着鸭子。然后，我才能生成区分二和三的正确谓词，或者您认为有更有效的方法吗？
Vladimir：我不知道。我确定您必须了解比数字更多的东西。
Lex：是的，这是一个有力的陈述。
Vladimir：是的，但也许围绕这些数字元素有几种描述语言。所以，我谈论对称性，谈论几何学的某些属性。我谈论一些抽象的东西。我不知道，但这是智能的问题。所以，在我们的一篇文章中，很容易证明每个例子最多只能携带一位信息，因为当您展示一个例子并说，这是一个一，您可以删除不代表一的函数。最好的策略是，如果您能完美地做到，就删除一半。但是，当您使用一个谓词，比如“看起来像鸭子”，您可以删除比一半多得多的函数，这意味着从形式上看，它包含了很多信息位。但是，当您有一个普遍的图景，关于您想识别什么，以及一个普遍的世界图景时，您能发明这个谓词吗？而且，这个谓词携带了很多信息。
Lex：说得太好了。也许只是我，但在您工作中展示的所有数学中，这是该领域最深刻的数学工作之一，AI学习，以及一般的数学，我听到了很多诗歌和哲学。您确实在谈论科学哲学。您的很多工作以及您思考它的方式都有一种音乐中的诗意，那么它从何而来？您逃向诗歌吗？您逃向音乐吗？
Vladimir：我认为存在着基本真理，并且可以在任何地方看到。聪明哲学家，有时我惊讶于他们看得有多深。有时我看到其中一些完全脱离主题。但是基本真理，我在音乐中看到了。
Lex：音乐是基本真理吗？
Vladimir：是的。在诗歌中，许多诗歌，他们相信他们是在抄写。
Lex：那么，哪首音乐作为经验证据让您觉得它们触及了基本真理？
Vladimir：是结构。
Lex：音乐的结构，数学。
Vladimir：因为当您听巴赫的音乐时，您看到了结构——非常清晰，非常经典，非常简单。当您在几何学中有公理时，您也有同样的感觉。在诗歌中，有时也是如此。
Lex：是的。如果您回顾一下您的童年，您在俄罗斯长大。您可能出生在俄罗斯，作为一名研究人员在俄罗斯发展。您来到美国，以及其他几个地方。回顾过去，您作为一名研究人员最快乐的时刻是什么？一些最深刻的时刻，不是从它们对社会的影响来看，而是从那天您感觉有多棒，并且您还记得那个时刻来看？
Vladimir：您知道，每次您找到一些东西时，那都是生活中最伟大的时刻，每一个简单的事情。但是，我大部分时间的感觉都是错误的。您应该一遍又一遍地尝试，并对自己诚实，而不是我的解释，而是试着理解它与基本真理有关，而不是我的胡说八道的解释或类似的东西。
Lex：但是，您被允许为发现的可能性而兴奋。
Vladimir：哦，是的。
Lex：您必须仔细检查。
Vladimir：不，但它如何与基本真理相关？它是暂时的还是永远的？您知道，当您发现一些东西时，您总会有一种感觉。它有多大？所以，20年前，当我们发现统计学习理论时，除了一个人，Dudley来自麻省理工学院，没有人相信。然后，在20年后，它变得流行起来，支持向量机也是如此。
Lex：那么，对于支持向量机和学习理论，当您在研究它时，您是否有一种感觉，一种对其深刻性的感觉，它似乎是正确的，它似乎是强大的？
Vladimir：是的。绝对。立即。我意识到它将永远持续下去。现在，当我发现这个不变性故事时，我有一种感觉，这是完整的学习，因为我已经证明了没有不同的机制。您可以做一些化妆品改进，但就不变性而言，您需要更多的统计学习组织工作中的不变性。但是，我也很高兴您可以制定出智能的定义，并将其与技术部分分开。这完全不同。
Lex：绝对。好吧，弗拉基米尔，非常感谢您今天的谈话。
Vladimir：谢谢。
Lex：这是我的荣幸。