Transcription
您认为生物神经网络和人工神经网络之间最神秘、最吸引人、最深刻的区别是什么？首先，我们对生物神经网络知之甚少，这非常神秘且引人入胜，因为这可能为改进我们的微分神经网络提供关键。我最近研究的一件事，是我们不知道生物神经网络如何做到，但对人工神经网络非常有用的能力，是能够通过非常长的时间跨度进行信用分配。原则上，我们可以用人工神经网络做到一些事情，但这并不方便，也不符合生物学原理。我认为这种不匹配，这种不匹配可能是一个有趣的研究对象，以更好地理解大脑可能如何做到这些事情，因为我们没有很好的人工神经网络的相应理论，并且 B，也许可以提供一些我们可以探索的新想法，关于大脑做不同的事情，我们可以将其纳入人工神经网络。所以，让我们稍微分解一下信用分配。是的，这是一个非常技术性的术语，但它可以包含很多东西。所以，它是更偏向于 RNN 的记忆方面，像那样思考，还是关于知识随着时间的推移积累常识知识，还是更偏向于强化学习的意义，即你随着时间的推移为实现特定目标而获得奖励？我更倾向于前两种含义，即我们在大脑中存储各种记忆，例如情景记忆，之后我们可以访问这些记忆，以便帮助我们推断我们现在正在观察的事物的因果关系，并将信用分配给我们之前想出的决定或解释，当你知道那些记忆被存储时，然后我们可以改变我们过去会如何反应或解释事物的处理方式，而现在这就是用于学习的信用分配。那么，您认为当前的人工神经网络，当前的 LSTM，当前的架构无法捕捉到什么？您大概是指非常长的时间跨度，是的，所以当前的循环神经网络在处理几十个或几百个时间步长的序列方面做得相当好，然后它会变得越来越难，并且取决于你需要记住什么等等，当你考虑更长的时间跨度时，而人类似乎能够通过任意长的时间进行信用分配，就像我可以记住我去年做的事情，然后现在因为我看到了一些新的证据，我将改变我对去年想法的看法，并希望不再犯同样的错误。我认为这很大程度上是因为遗忘，你只记住真正重要的事情。这是非常有效的遗忘，是的，所以我们记住的东西是经过选择的，我认为这里与更高级别的认知有非常有趣的联系，关于意识、决定和情绪，比如决定什么进入意识，什么被存储在记忆中，这些也并非易事。您一直处于最前沿，展示了神经网络、深度神经网络在人工智能领域的惊人能力，这在各种应用中都非常广泛，但我们可以永远谈论它，但在您看来，因为我们正在展望未来，深度神经网络表示世界的方面最薄弱的是什么？您认为缺少什么？目前，在大量图像或文本上训练的最先进的神经网络在某种程度上理解了什么解释了这些数据集，但它非常基础，非常低级，而且远不如我们的理解那样稳健和抽象。好吧，这并没有告诉我们如何解决问题，但我认为它鼓励我们思考如何以不同的方式训练我们的神经网络，以便它们能够专注于因果解释，这是我们目前在神经网络训练中没有做的事情。我今天下午的演讲中也会谈到的一件事是，而不是分别从图像和视频一方面，以及从文本另一方面学习，我们需要做得更好，共同学习语言及其所指的世界，这样双方都可以互相帮助。我们需要在神经网络中拥有良好的世界模型，才能真正理解关于世界上正在发生的事情的句子，我认为我们需要语言输入来帮助提供关于像语义概念这样的高级概念应该如何在这些神经网络的顶层表示的线索。事实上，有证据表明，纯粹无监督地学习表示，并不能产生像我们从监督学习中获得的那样强大的高级表示，所以我们仅凭标签，甚至不是句子，就获得的线索已经非常强大了。您认为这是一个架构挑战，还是一个数据集挑战？都不是。我忍不住想就此打住。在您的图书馆里，当然，数据集和架构是您一直想玩的东西，但但我认为关键在于训练目标，训练框架，例如从被动观察数据到更主动的代理，它们通过干预世界来学习因果关系，以及可能允许最高级别的解释从学习中出现的那些目标函数，我认为我们现在还没有。那种可以用来奖励探索，正确类型的探索的目标函数。所以，这些问题既不在数据集里，也不在架构里，而更多地在于我们如何学习，在什么目标下学习，等等。是的，我害怕您在几个上下文中提到了这个想法，那就是孩子们学习的方式，他们与世界上的物体互动，这似乎很迷人，因为在某种意义上，除了强化学习中的一些情况之外，这个想法并不是学习过程的一部分，在人工神经网络中。所以，这几乎就像你设想了一个目标函数，说，“你知道吗，如果你以这种方式戳这个物体，对我来说将非常有帮助，可以进一步学习，是的，进一步学习，对，对，几乎是指导学习的某个方面，对，对。”所以，我一个小时前还在和 Rebecca Saxe 谈话，她说有很多证据表明婴儿似乎以一种有目的的方式，明确地抓住他们感兴趣的东西，所以他们不是被动的学习者，他们将注意力集中在世界上最有趣、最令人惊讶的方面，以一种非平凡的方式，让他们改变他们对世界的看法。所以，这是一个关于未来进步的迷人观点。但是，安娜，一个更可能无聊的问题，你认为通过加深和扩大，所以你认为仅仅增加过去几年一直在大幅增加的东西的规模，也会取得重大进展吗？所以，你提到的一些表示问题，它们在某种意义上是浅薄的，或者在抽象意义上是更高级的，在抽象意义上，它们并没有得到一些。我不认为增加网络的深度，也就是说，不是一百层而是有一万层，会解决我们的问题。你不这么认为吗？这对你来说很明显吗？是的，对我来说清楚的是，工程师、公司和实验室的研究生将继续调整架构，并探索各种微调，使当前最先进的技术变得更好一点点，但我认为这还远远不够。我认为我们需要在我们考虑学习的方式上进行一些相当大的改变，才能实现这些学习者真正深入理解它们所观察和行动的环境的目标。但我猜我试图问一个比仅仅增加更多层更有趣的问题，基本上是一旦你找到了通过互动学习的方法，需要多少参数来存储这些信息？所以，我认为我们的大脑比大多数神经网络要大得多，对，对，哦，我明白了，我明白了，我同意，为了构建具有典型成年人所拥有的那种广泛世界知识的神经网络，我们现在拥有的计算能力可能是不够的。所以，好消息是，有硬件公司正在制造神经网络芯片，所以它会变得更好。然而，好消息以一种也是坏消息的方式，即使我们最先进的深度学习方法也无法学习理解即使是非常简单的环境的模型，比如我们构建的一些网格世界。即使是这些相当简单的环境，我的意思是，当然，如果你用足够的例子来训练它们，最终它们会理解，但它就像，而不是人类可能需要的几十个例子，这些东西需要数百万个例子，对于非常非常非常简单的任务。所以我认为对于那些没有像谷歌那样计算能力的学者来说，这是一个机会，可以进行真正重要和令人兴奋的研究，以推进训练框架、学习模型、即使在看似微不足道的合成环境中，当前机器学习仍然失败的代理学习的最新进展。我们谈到了先验知识和常识。似乎我们人类认为很多知识是理所当然的。那么，您对这些先验知识、形成对世界的广泛看法、信息积累以及我们如何教会神经网络或学习系统获取这些知识有什么看法？你知道，人工智能曾经在八十年代，有过知识表示、知识获取、专家系统的时候，我的意思是，符号人工智能是一个有趣的问题集要解决，它被搁置了一段时间，似乎是因为它不起作用，它不起作用，是的，但目标仍然很重要。是的，仍然很重要。您认为这些目标如何实现？首先，我认为经典专家系统方法失败的一个原因是，我们拥有的很多知识，你谈到了常识直觉，有很多这样的知识，它不是有意识可及的，我们做出了很多我们无法真正解释的决定，即使有时我们会编造一个故事，而这些知识对于机器做出好的决定也是必要的，而这些知识很难在专家系统、基于规则的系统以及科斯塔 EAJA 形式主义中进行编码。当然，旧的人工智能还有其他问题，比如没有很好的处理不确定性的方法。我会说一些更微妙的事情，我们现在理解得更好，但我认为人们的脑海中仍然不够。分布式表示具有非常强大的力量，这使得神经网络如此有效，并且很难在符号世界中复制这种力量。专家系统中的知识被很好地分解成一堆规则，而如果你想到一个神经网络，它是相反的，你有一个巨大的参数块，它们密集地协同工作来表示网络知道的一切，并且它没有充分分解。所以我认为这是当前神经网络的一个弱点，我们必须从经典的人工智能中吸取教训，以便引入另一种组合性，这种组合性在语言中很常见，例如，在这些规则中，但它对于新模型来说并不那么自然。沿着这个思路，解耦表示，是的，所以，让我连接到解耦表示，如果你愿意，如果你不介意，是的，正是如此，多年来我一直认为，而且我仍然相信，我们必须想出学习算法，无论是无监督的还是有监督的，还是强化学习，无论是什么，它们构建的表示，其中重要的因素，希望是因果因素，被很好地分离出来，并且很容易从表示中提取出来，这就是解耦表示的思想。它说将数据转换到一个空间，在那里一切都变得容易，我们可以用线性模型来学习我们关心的事情，而且我仍然认为这很重要，但我认为这错过了非常重要的一个组成部分，经典的人工智能系统可以提醒我们。所以，假设我们有这些设计技术创新，我们仍然需要学习变量之间的关系，那些高级语义变量，它们不会是独立的，我的意思是，这太假设了，它们会有一些有趣的关系，允许预测未来，解释过去。经典人工智能系统中关于这些关系的知识被编码在规则中，就像规则只是一个小的知识片段，它说哦，我有这两个三个四个变量以这种有趣的方式联系起来，然后我可以根据其他几个变量说出其中一个或两个。除了解耦表示的元素，也就是基于规则的系统中的变量，你还需要解耦这些变量相互关联的机制，比如规则。所以，规则被整齐地分开，就像每个规则都独立存在一样，当我改变一个规则，因为我正在学习它，它不需要破坏其他规则，而当前的神经网络，例如，对所谓的灾难性遗忘非常敏感，也就是说，在我学到一些东西之后，然后我学到新的东西，它们可能会破坏我之前学到的东西。如果知识被更好地分解和分离，解耦，那么你就可以避免很多这种情况。你不能在感官领域做到这一点，但一个体面的，比如在像素空间中，但但我的想法是，当你在正确的语义空间中投影数据时，就有可能表示这种额外的知识，超越了从输入到表示的转换，也就是表示如何相互作用并预测未来等等，以一种可以被整齐解耦的方式。所以，现在规则彼此解耦，而不仅仅是变量彼此解耦。你区分了语义空间和像素空间，是的，需要有架构上的区别吗？嗯，是的，有感官空间，比如像素，在那里一切都是解耦的，信息，比如变量，完全相互依赖，以非常复杂的方式，还有计算，它不仅仅是变量，还有它们之间的关系，一切都纠缠在一起。但我我假设在正确的高级表示空间中，变量以及它们之间的关系都可以被解耦，这将提供很大的泛化能力。泛化能力，是的，测试集的分布假设与训练集的分布相同，对，这就是当前机器学习太弱的地方，它什么也告诉不了我们，它无法告诉我们如何，比如说，我们将如何泛化到新的分布，而且，你知道，人们可能会想，但如果我们不知道新的分布是什么，我们就无能为力。事实是，人类能够泛化到新的分布，我们是如何做到的？所以，是的，因为这些新的分布，即使它们看起来与训练解决方案非常不同，它们也有共同点。让我给你一个具体的例子，你读了一本科幻小说，这本科幻小说可能把你带到了另一个星球，那里的事物表面上看起来非常不同，但它仍然是相同的物理定律。所以，你可以读这本书并理解发生了什么。所以，分布非常不同，但因为你可以转移你从地球上获得的关于潜在因果关系、物理机制等等的知识，甚至社会互动，你现在就可以理解在这个星球上发生的事情，在那里，比如说，视觉上，事物完全不同。将这个类比进一步延伸并扭曲它，让我们进入一个科幻世界，比如《2001太空漫游》中的 HAL，是的，或者，也许是我最喜欢的 AI 电影之一，还有另一部很多人喜欢的，可能有点超出 AI 社区范围的是《机械姬》，我不知道你看过吗？是的，是的，你对那部电影有什么看法？你喜欢和不喜欢的地方吗？也许你可以谈谈，关于一个我想问的问题，那就是，有一个相当大的社区，来自不同背景的人，通常是 AI 之外的人，他们担心人工智能的生存威胁。你现在已经看到了这个社区的发展，你有了一个视角，那么，你认为在 AI 社区内外讨论 AI 安全的最佳方式是什么？并且基于《机械姬》是普通公众了解 AI 的主要信息来源这一事实。我认为你把它说对了，我们应该在 AI 社区内进行的讨论，以及真正重要的公众讨论之间存在很大差异。所以，我认为终结者和你知道的 AI 失控并杀死人们的画面，以及将摧毁我们无论如何尝试的超级智能，对公众讨论并没有那么有用，因为对于公众讨论，我认为真正重要的事情是 AI 对社会的短期和中期非常可能产生的负面影响，无论是来自安全方面，比如你知道的，带有面部识别的“老大哥”场景，还是杀手机器人，还是对就业市场的影响，还是权力的集中和歧视，所有这些社会问题，其中一些实际上可能威胁到民主。只是为了澄清，当你说杀手机器人时，你的意思是自主武器，是的，武器系统，是的，不是终结者，没错。所以我认为这些短期和中期担忧应该是公众辩论的重要组成部分。对我来说，生存风险是一个非常不可能的考虑，但仍然值得学术研究，就像你可以说，我们应该研究如果陨石撞击地球并摧毁它会发生什么一样。所以我认为这不太可能发生，或者在可预见的未来发生。它非常，你知道，AI 失控的场景与我对至少当前机器学习和当前神经网络的理解相悖，对我来说并不合理，但当然，我没有水晶球，谁知道 50 年后的 AI 会是什么样子。所以我认为科学家研究这些问题是值得的，只是对我来说，这不像一个紧迫的问题。那么，在继续深入之前，有几个问题，但你喜欢和不喜欢《机械姬》这部电影的什么？因为我实际上看了第二次，并且很享受它。我第一次很讨厌它，第二次我更享受它，当我学会接受它的一些部分时。CC 是概念电影。你的经历是什么？你的想法？负面的是它对科学的描绘是完全错误的，科学总体上，特别是 AI。科学不是在某个隐藏的地方发生的，由某个非常聪明的人，一个人，一个人完成的。这完全不现实，科学不是这样发生的。即使是一群人在某个孤立的地方也不会这样做。科学是通过大量人互动和合作的小步伐前进的。所有在其领域内具有专业知识的科学家都可以了解正在发生的事情，即使是在工业实验室里，信息也在流动和泄露等等，而且它的精神与这部电影中描绘科学的方式截然不同。是的，让我问一下这一点，到目前为止，即使研究发生在谷歌或 Facebook 等公司内部，它仍然会公开出来，是的，绝对。你认为情况会永远如此吗？有可能把想法瓶起来，以至于有一系列突破，完全不被广大研究界发现吗？你认为这可能吗？这是可能的，但不太可能。现在不是这样做的，在可预见的未来我也看不到它。当然，我没有水晶球，所以谁知道呢？毕竟这是科幻小说。但通常，在讨论中，灯熄灭了。所以，问题又来了，你知道，有一件事是电影，你可以想象各种科幻小说。对我来说，问题可能与生存风险的问题相似，那就是这种电影描绘了对实际科学及其运作方式的错误画面，它可能会对人们对当前科学的理解产生不幸的影响，所以这有点令人难过。研究中一个重要的原则是不是多样性？换句话说，研究是对思想空间的探索，不同的人会关注不同的方向，这不仅是好的，而且是必不可少的。所以我完全没问题，人们探索与我相反或看起来与我正交的方向。我非常乐意，我认为这很重要。我和我的朋友们并不声称我们对未来会发生什么有普遍的真理。现在，也就是说，我们有我们的直觉，然后我们根据我们认为自己最有用，以及社会最有可能获得或失去的地方来采取行动。我们应该进行那些辩论，而不是最终陷入一个只有一种声音和一种思维方式的社会。研究资金是分散的，所以分歧是良好研究、良好科学的标志。是的，所以，偏见的概念，在人类意义上的偏见，是的，你如何看待在机器学习中植入与人类价值观一致的东西，就偏见而言？我们直观上，人类对偏见意味着什么，对其他人类的基本尊重意味着什么有一个概念，但我们如何将这些植入机器学习系统？你认为呢？我认为有一些短期的事情已经发生，然后有一些长期的事情是我们需要做的。在短期内，有一些技术已经被提出，我认为它们将继续改进，也许会出现替代方案来处理我们知道存在偏见的数据集，我们可以测量它，几乎任何人类被观察到做出决定的数据集都会有一些偏见，歧视特定群体等等。我们可以使用机器学习技术来尝试构建不那么有偏见的预测器、分类器。例如，我们可以使用对抗性方法来使我们的系统对这些变量不那么敏感，我们不应该对其敏感。这些是解决问题的明确定义的方法，也许它们有弱点，你知道，还需要更多的研究等等，但我认为事实上它们已经足够成熟，政府应该开始监管公司，在重要的地方，比如保险公司，这样它们就会使用这些技术，因为这些技术会产生偏见，但代价是，例如，它们的预测可能会不那么准确，所以公司不会这样做，直到你强迫它们。好吧，这是短期。长期来看，我非常感兴趣地思考如何将道德价值观植入计算机。显然，这在未来五年或十年内是无法实现的。我们如何，你知道，已经有关于检测情绪的工作了，例如在图像、声音和文本中，以及研究不同代理以不同方式互动可能如何对应于不公正的模式，这些模式可能会引发愤怒。这些是我们可以在中期内做的事情，并最终训练计算机来模拟，例如，人类的情绪反应。我想说最简单的事情就是不公平的情况会引发愤怒，这是我们与其他动物共享的最基本情绪之一。我认为在未来几年内是完全可行的。所以，我们可以构建能够理解这些事情的系统，尽管它们需要对周围的世界有足够的理解，这还有很长的路要走，但也许我们可以最初在虚拟环境中做到这一点。所以，你可以想象一个电子游戏，代理人在其中以某种方式互动，然后某些情况会引发情绪。我认为我们可以训练机器来检测这些情况，并预测如果人类扮演其中一个角色，可能会感受到特定的情绪。你对监督学习表现出兴奋并做了很多出色的工作，但在超级，你知道，监督学习取得了很大的成功，是的，是的。而我非常热衷的一件事是人类和机器人如何协同工作，在监督学习的背景下，这意味着注释过程。你有没有从一个更有趣的角度来思考注释问题，也就是人类教机器，是的，是这样吗？我认为这是一个重要的问题。将其简化为注释可能对明天构建系统的某人有用，但从长远来看，教学过程我认为是机器学习社区应该给予更多关注的。所以，有人创造了“机器教学”这个词。那么，教导学习代理的好策略是什么？我们能否设计和训练一个系统，使其成为一个好的老师？所以，在我的小组中，我们有一个名为“婴儿 AI”或“婴儿 AI 游戏”的项目，其中有一个游戏或场景，有一个学习代理和一个教学代理，假设教学代理最终会是人类，但我们还没有达到那个阶段。老师的角色是利用他对环境的了解，他可以以任何方式获取，通过蛮力，来帮助学习者尽快学习。所以，学习者会尝试通过一些探索等等来学习，但是老师可以选择，可以影响与学习者的互动，以指导学习者，也许教它学习者最难掌握的东西，或者只是在它知道和不知道的边界上，等等。所以，这是一种来自其他领域的传统思想，比如教程系统，还有，当然，人文科学领域的人们一直在思考这些问题。但我认为现在是机器学习领域的人们关注这个问题的时候了，因为未来我们将有越来越多的人机交互，有人在循环中，我认为理解如何让这更好地工作，以及围绕它的所有问题都非常有趣，而且还没有得到充分解决。你做了很多关于语言的工作，在你看来，图灵测试，自然语言理解和生成测试的传统表述中，最难解决的对话部分是什么？我想说，这与非语言知识有关，而这些知识是理解句子所必需的，比如 Winograd 模式。这些句子在语义上是模糊的，换句话说，你需要足够了解世界才能真正解释这些句子。我认为这些对我们的机器学习来说是有趣的挑战，因为它们指向了构建同时理解世界如何运作及其因果关系，并将这些知识与如何用语言表达它们联系起来的系统，无论是阅读还是写作。你说法语吗？是的，这是我的母语，它是罗曼语族之一。你认为通过图灵测试以及我们刚才提到的所有潜在挑战是否依赖于语言？你认为在法语中可能更容易，而不是在英语中？现在它独立于语言。嗯，我认为它独立于语言。我希望构建能够使用相同的原则，相同的学习机制来从人类代理那里学习的系统，无论他们的语言是什么。当然，我们人类可以用诗歌更美丽、更流畅地说话。一些俄语最初，我知道俄语诗歌可能比英语更容易传达复杂的思想，但也许我正在展示我的偏见，有些人可能会对法语说同样的话。当然，最终的目标是我们的思维能够利用任何一种语言，将它们用作表达意义的工具。当然，语言之间存在差异，也许有些语言在某些方面略好一些，但总的来说，当我们试图理解大脑如何运作以及语言等等时，我认为这些差异微不足道。你可能经历过某种人工智能的寒冬？是的。你是如何保持温暖并继续你的复苏的？和朋友们在一起，和朋友们在一起。所以，拥有朋友很重要。你从这次经历中学到了什么？倾听你的内心声音，不要试图取悦人群和时尚。如果你对某件事有强烈的直觉，并且没有被实际证据反驳，那就去做吧。我的意思是，人们可能会反驳它，但不是你自己的直觉，基于你所知道的一切。当然，当然，当你的实验与这些信念相矛盾时，你必须调整你的信念，但但你必须坚持你的信念，否则，这就是让我度过那些年来的原因，这就是让我坚持那些需要时间才能成熟并带来成果的方向的原因。AI 的历史标志着这些，当然，它标志着技术突破，但它也标志着那些抓住社区想象力的里程碑事件。最近，我想说的是 AlphaGo 击败了世界围棋冠军人类选手，那是其中一个时刻。你认为下一个这样的时刻会是什么？首先，我认为这些所谓的里程碑事件被高估了。正如我所说，科学真的在小步伐中前进。现在发生的是，你再迈出一小步，就像那滴水一样，它填满了水桶，然后就会产生巨大的后果，因为现在你能够做以前做不到的事情，或者现在说建造某个设备或解决某个问题的成本比现有的便宜，你就打开了一个新市场。所以，尤其是在商业和应用领域，小科学进步的影响可能非常巨大。但在科学本身，我认为它是非常非常渐进的。这些步骤现在正在被采取。所以，有监督学习。所以，如果我看看我社区中的一个趋势，比如在我所在的研究所，有两个最热门的话题是 GAN 和强化学习。即使在蒙特利尔，特别是，强化学习在两三年前几乎不存在。所以，学生们对此非常感兴趣，像我一样的人也对此非常感兴趣。所以我认为这是我们将看到更多进展的领域，尽管它还没有提供多少实际的工业产出，比如，即使有 AlphaGo，谷歌现在也没有从中赚钱。但我认为从长远来看，这非常非常重要，原因有很多。所以，换句话说，代理，我会说强化学习，更普遍地说，代理学习，因为它不一定需要奖励，它可以以各种方式学习关于其环境。你对强化学习感到兴奋吗？你认为 GAN 能提供什么吗？是的，GAN 或其他生成模型，我相信它们将是构建能够理解世界的代理的关键组成部分。过去强化学习的许多成功都依赖于策略梯度，你只是学习一个策略，你实际上并没有学习一个世界模型。但那有很多问题，我们现在还不知道如何做基于模型的强化学习。但我认为这就是我们必须前进的方向，才能构建能够更快、更好地泛化到新分布的模型，至少在某种程度上捕捉到世界潜在的因果机制。最后一个问题，你为什么会爱上人工智能？回想起来，你生命中第一次被人类思维或人造思维所吸引的时刻是什么？你知道，我上课的时候，我读了很多书，然后我开始读科幻小说。你看，就是这样，就是这样，我被迷住了。然后，你知道，我有了第一台个人电脑之一，我迷上了编程。所以，它只是，从小说开始，然后把它变成现实。没错。谢谢你，非常感谢你的谈话。我很乐意。