Transcription
名字是错的，它不是人工智能。智能会涉及意识，从哥德尔论证来看，你明白这是现在已经丢失的情节。计算机是一种非常特殊的数学结构，它意味着计算数学，是数学中非常有限的一部分。我不认为它们会因为成为我们当前意义上的计算机而变得有意识。但我认为意识不是计算性的，这一点对于人工智能来说仍然是正确的。你和一个人工智能的东西说话，它不知道自己在做什么。计算机已经变得如此强大，以至于它们失去了自己正在做什么的线索。我认为这一点已经丢失了。我认为图灵的观点并没有错。我认为人们已经丢失了情节。
几次你谈到诺贝尔奖。今年我们从斯德哥尔摩回来了，我们今年在那里采访了诺贝尔奖得主。你不认为今年的诺贝尔奖是对人工智能的诺贝尔奖的致敬吗？诺贝尔奖，物理学奖，人工智能之父，化学奖，DeepMind的联合创始人德米斯·哈萨比斯，David Baker，蛋白质的计算机视觉数字化。你不认为这是对人工智能的致敬吗？
我看到了。嗯，你必须小心。首先，名字是错的，它不是人工智能，它不是智能。智能会涉及意识。我一直坚决支持这些设备没有意识的观点，除非它们引入一些其他想法，否则它们不会有意识。它们都是可计算的概念，但智能不是意识，它取决于意识。你看，这取决于你如何使用这个词。我认为当人们使用“智能”这个词时，他们指的是有意识的东西。我的意思是，你看，我在参加完一个课程后发展了自己的想法。你看，当我还是剑桥的研究生时，我参加了三个与我本应做的事情无关的课程。一个是邦迪关于广义相对论的课程，一个是德布罗意关于量子力学的课程，它们都非常杰出。第三门课是关于数理逻辑的，我了解了图灵机和可计算的概念，我知道了可计算的含义，我了解了哥德尔定理。哥德尔定理让我惊叹，因为它告诉我，有些东西的理解超越了使用。让我更清楚地说，哥德尔所做的非常巧妙。他提出了一个陈述。现在，假设你正在开发你的数学证明方法。在数学中证明一个定理意味着什么？你怎么知道它是真的？你会证明它。证明是什么意思？你看，它的意思是，你有一套规则，如果你遵循这些规则，那就是证明。那么，你怎么知道这些规则只给你真理呢？嗯，你仔细看过它们，然后说，哦，也许人工智能会创造自己的规则。啊，不，不，你看，你必须小心这一点。这就是重点。但我从斯廷那里学到了，这个人叫斯廷，他是一位逻辑学家，我从他那里学到了关于哥德尔定理的这个重要东西。哥德尔定理非常巧妙。你陈述一个断言，说它不能用这些规则证明。这只是你。巧妙之处在于让它做到这一点。它说，你给出你认为是证明规则的规则，你可以把它们放在计算机上，这意味着它们是计算规则。现在我知道有些东西不能放在计算机上。我从这门课上了解到，有不可计算的东西，数学中有不可计算的东西。那么，可计算意味着什么？它的意思是你可以制造一台计算机。嗯，你必须定义什么是计算机，图灵有一个定义，还有其他几个人，丘奇和柯里，其他人也有他们的定义。它们都被证明是等价的。所以有一个普遍的可计算概念，这就是你所说的计算机可以做的事情。也许这只是语言问题，语言的发展没有跟上人工智能的发展。也许我们只是语言问题，我们无法描述我们创造的东西。不，我不同意。这不是语言问题。你看，你创造你的新语言，当然你可以做到。你创造你的新语言，这就是你能做的。让我来描述一下哥德尔定理是如何工作的。你看，哥德尔定理说，你构造一个陈述，说你，你看它的意思，你构造句子的方式，你可以看到它的意思。它的意思是“我不能被这些规则证明”，它真的这么说。然后你看，好吧，也许它可以通过规则证明。如果它可以通过规则证明，那么它一定是真的。嗯，我说错了。没关系，换个方式。假设它是假的，那么它可以通过规则证明。如果你遵循这些规则，你已经理解了规则，你说你仔细看过它们，你说，是的，没问题，没问题，当然，如果你遵循这些规则，它是真的。所以这意味着你相信规则只给你真理。因此，它不能被规则证明是真的。如果你看，它是假的，那么它可以通过规则证明，因此它是真的。所以它必须是真的，并且不能被规则证明。我觉得这很神奇。但我仍然不明白为什么人工智能不能创造自己的规则，因为它不知道它们是否为真。你看，这就是哥德尔定理的全部意义。就我而言，哥德尔定理的全部意义在于你如何超越规则。这就是你通过理解它们来做到的。你理解它们为什么是真的。不是你使用规则，而是你理解为什么使用规则只给你真理。这就是你如何证明超越规则的事情，通过知道它们为什么是真的。现在，知道为什么它们是真的，嗯，这意味着什么？它的意思是，你理解它们。理解是什么意思？你必须有意识地去理解它们。你看，措辞很清楚，它的意思是，你必须知道你在做什么，你必须知道它们为什么是真的，而不是它们是真的。你可以被告知它们是真的，你可以在学校学到它们是真的，这不是重点。你必须知道它们为什么是真的。它们为什么是真的需要理解它们，而理解它们需要你有意识地去理解它们。现在，这需要，你看，我提出的观点是，意识使你能够超越规则。你看它们为什么是真的，这让你超越了它。你看，哥德尔定理告诉你如何利用你对规则为什么是真的的理解来超越规则。
你认为人工智能是一个简单的工具或简单的东西，我们可以用在单一的情况下吗？不，我不说单一，它显然是无限的，不，这显然不是重点。重点是它不知道自己在做什么。这一点对于人工智能来说仍然是正确的。你和一个人工智能的东西说话，它不知道自己在做什么。它说话是基于经验，如果你愿意的话。你看，人们混淆了故事，故事是他们丢失了它，在计算的力量中。问题是，计算机已经变得如此强大，以至于它们丢失了自己正在做什么的线索。它们在计算。你后悔它如此强大吗？嗯，它正在失去重点。你看，我认为重点已经丢失了。我认为图灵的观点并没有错。你看，他是一个有点困惑的人，因为他不清楚他相信什么。但他确实称之为图灵测试。你如何决定一个实体是否有意识？你会和它对话，你和它说话。也许人工智能是人类存在的一个新领域？不，它缺少了一些东西。我认为，是的，那就是问题所在。你看，这一切，我的意思是，显然它有它的作用，我不会说它没有它的作用。它有它的作用，但你不能混淆。它有它的作用，这与计算的力量有关。当然，现在的计算机已经非常强大，它们可以做人类在计算方面远远做不到的事情。当然，你可以获取大量数据，分析这些数据，看看数据说了什么，以及这个东西是否根据数据中的先前内容进行操作，或者不是。它所做的就是这些。它不理解它在做什么。理解与计算不同，因为在一个黑箱里面，只有统计数据，这是一个简单的统计机器。嗯，如果它是一台机器，它就没有意识。不，我认为人们已经丢失了情节。是的，没错。你看，我写了我的书《皇帝的新脑》。但这意味着人们丢失了情节。是的，我认为他们丢失了情节，因为我思路的全部意义在于，我们必须在物理学中找到一些东西。你看，我相信，我是一个物理主义者，我相信我们头脑中发生的一切，无论是什么创造了意识，都是物理世界的一部分。我不相信魔法来自谁知道什么黑箱。它也是物理世界的一部分。但你说的黑箱是什么意思？我们知道输入是什么，我们知道输出是什么，但我们不知道里面是什么。那就是黑箱。是的，但这没有帮助，因为你不知道里面是什么。里面是什么样的物理学？也许是新的物理学？是的，但是一种特殊的新的物理学。我从哥德尔论证中声称，你看，这就是我认为已经丢失的情节。我声称，参与意识思维的物理学必须是非计算性的物理学。现在，我们所知的物理学，这里有一个小小的故障，因为它不完全清楚，但据我们所知，我们所知的物理学是可计算的。你看，关于广义相对论，我们有很棒的机器来计算黑洞如何相互螺旋并产生引力波信号。你可以说，是的，是的，是的，这是一个黑洞碰撞，因为它有这个非常清晰的特征。你可以做到这一切，这很好。但这不是我所说的。我所说的是，物理学必须是一种原则上不可计算的物理学。所以人工智能可以尽情地发挥它的作用，它无法做到这一点。你谈论黑箱，但你不知道里面是什么。它是一台计算机吗？是我们现在理解的那种计算机吗？它是否涉及一种涉及非计算过程的物理学？目前还没有。我不是说这不会发生。我害怕它，因为我不想它发生。我无能为力，因为我怀疑有一天会发生。但这并不是我们现在所知道的人工智能。我们现在所知道的人工智能是由计算机驱动的，这意味着它不会超越人类。人工智能永远不会存在。你的麻烦是，人工智能是一个糟糕的术语。它的意思是“人工智能”。在我看来，智能就是有意识的。这就是智能的意义。好吧，那么我该如何称呼它呢？“人造聪明才智”怎么样？AC。你可以看到一定程度的区别。当你学习数学时，有些学生理解他们在做什么，有些只是聪明。他们可以重复他们学到的东西，他们知道如何非常巧妙地去做，他们可以计算得很好，但他们不一定理解他们在做什么。我们不知道的物理学涉及非计算性。所以这就是我的主张。我在《皇帝的新脑》中提出了这个主张，并在《心灵的阴影》中更强硬地提出了。我的意思是，也许不是意识，也许是全新的东西。也许不是意识，但可能有一些我们目前完全没有概念的未知事物。这可能是真的。我谈论的是事情。你看，如果你谈论人工智能，这意味着不幸的是，这是一个糟糕的术语，因为它说“人工智能”，对我来说，人们使用这个术语，他们指的是计算机可以做的事情。这就是他们的意思。他们有计算机，他们的计算机非常强大，然后他们所说的“人工智能”就是使用计算机。它可能不是以通常的直接逻辑方式使用。我没有深入研究这些东西，所以我可能已经过时了。但据我所知，它是这样的：你看着大量的数据，然后你寻找模式，或者你试图以那种方式进行分析。但这一切都是计算性的。你在使用计算机，但它的本质是计算性的。这个词的意思是计算性的，意思是“通过计算机”。现在，计算机是一种非常特殊的数学结构。它意味着计算数学。如果你研究数学作为一个抽象的主题，你会很快了解到，有远远超出可计算性的东西。它是数学中非常有限的一部分。一些涉及的数学是不可计算的。你无法通过算法得到它。现在，你看，人们经常认为，嗯，人工智能不使用算法，因为它使用某种随机方法或其他东西。我不知道，我没有详细研究人工智能到底声称什么，或者所谓的人工智能到底涉及什么，当你在计算机上运行时。但它是由我的计算机完成的，所以它仍然是计算性的，毫无疑问。我声称你想要一些非计算性的东西。现在，你看，人们往往不相信这一点，因为他们只想到计算机，而他们不知道有不可计算的东西。如果你研究数学，数理逻辑，你会看到有不可计算的结构。世界的逻辑，物理学很容易是非计算性的。我的观点是，是的，它是不可计算的，而且某种程度上，大自然足够聪明，能够产生能够利用物理学的非计算性方面的生物。它们通过自然选择做到了这一点。我不知道这在动物王国中有多远。人类当然有意识。我相信任何养狗的人都绝对确信狗有意识。我相信猫，大象，当然，还有很多很多。也许章鱼？我当然不知道。细菌有意识吗？我不知道。青蛙有意识吗？可能是的。变形虫有意识吗？我不知道。我只是在猜测，我没有真正离开这些东西的理由。但我认为意识是不同的。它不是计算性的。问题是，人们只是被计算机变得如此强大这一事实所迷惑。是的，答案就在那里。计算机如此强大，我们找到了答案。就是计算机。我说不，答案比这更深层。它并不比这更复杂，它比这更深层。它涉及一种我们可能还不知道的物理学。它更深层，因为它基于量子世界。它超越了量子世界。你看，量子世界仍然是可计算的。据我们所知，什么不是可计算的？在量子世界中存在一个基本的未知。量子理论从根本上是不完整的。我甚至认为在某种意义上是错误的，因为它认为量子叠加在所有层级上都持续存在。也许当我们创造出通用量子计算机时，我们可以创造出合成意识？也许吧。嗯，我对这个部门没有意见。我不喜欢它。我现在在理论上没有意见。你同意诺贝尔奖委员会的看法吗？当你看到物理学奖颁给索菲的父亲时？我没有仔细看过细节。我不知道他们说了什么。对于杰弗里·辛顿的神经网络基础工作？我相当怀疑它是否真的是物理学。我不确定。你看，诺贝尔奖，你有时可以质疑他们的一些决定。也许我会质疑其中一些。也许我会质疑这个。我不确定。我没有仔细看过。这取决于他们到底说了什么。你看，这是一项技术进步。我会说，它可能利用了人工智能。它是一项理论进步吗？我也不这么认为。但是，诺贝尔委员会通常不会为纯粹的理论颁奖。我的意思是，它确实有物理应用。是的。现在，我不太确定。我必须看看诺贝尔奖的措辞才能说我是否满意。我不知道。我的问题是关于这辆自动驾驶汽车。它们处理着数千份数据。也许那里有意识。这是人工智能发展的一种方式，我们正在使用某种数字传感器来收集关于现实世界的数据。我不认为它们在任何意义上有意识，但它们可能比人类驾驶得更好。这有可能。我不知道比较如何。嗯，它们确实会时不时地做出愚蠢的决定，但人类也会。所以，所以，我，也许它们会比人类更可靠，这可能并不遥远，据我所知。我对此没有任何抱怨。我不认为这是它们有意识的任何迹象。毕竟，我们已经有了设备，它们会在特定时间关闭灯，也许它们更清楚什么时候天黑了，或者如何节约用电等等。你如何看待人工智能的发展？你对人工智能的未来有什么预测？你看，我真的不知道现在的人工智能在做什么。所以你问我的问题超出了我的专业领域。我会说，我的专业领域与这些设备是否真的在做我们所做的事情有关。我不认为它们做到了，因为它们没有意识。我认为它们永远不会因为成为我们当前意义上的计算机而变得有意识。我不知道这是否是你问题的答案。这并不意味着它们不会比我们更好。人工智能发展的最大风险是什么？我认为这里存在风险。风险的一部分是人们认为它们实际上是有意识的。是的，如果它们有意识，风险可能会更大。你看，也许人们可以理解意识的含义，并开发出某种设备。我称它为计算机，因为它在我看来不是计算机。它会是别的东西，某种有意识的设备。而且，因为我相信意识是一个物理过程，我不认为我们理解它。我认为它涉及波函数坍缩。这是部分负面结论，我没有在别处看到。但是波函数坍缩非常神秘，涉及一些反因果的东西，有点令人困惑。我认为时间的工作方式并不那么清楚。当你谈论它时，但有些东西几乎可以说是与普通因果关系相矛盾的。并非如此，而是你必须对现实有不同的概念。我试图将两种概念分开。一种是经典现实，另一种是量子现实。现在，经典现实是我们通常谈论的那种，我们可以触摸，可以用我们的感官来理解。但主要的区别在于，你可以问系统，比如，如果我拿起这个玻璃杯，我可以问玻璃杯，我可以问，你好玻璃杯，你是什么形状？不要那样做，但我说，好吧，玻璃杯是什么形状？我说，哦，它顶部是圆的，它基本上是圆柱形的。这是经典现实，是的。现在，量子现实更像是，嗯，爱因斯坦有一个很好的标准，但他没有称之为量子现实。我称之为量子现实。这是，你怎么知道波函数是真的？粒子的波函数是真的还是假的？一个很好的例子是自旋为1/2的粒子的自旋。现在，自旋为1/2的粒子的自旋是量子东西。你能问系统，你好，你好系统，你朝哪个方向旋转吗？它看着你，茫然地说，我不回答这类问题。请问一个不同的问题。正确的做法是，你说，好吧，粒子，你的自旋是否朝那个特定方向？你看，自旋有一个轴。自旋为1/2的粒子的自旋工作方式有一个特定的轴。这就是你如何描述自旋为1/2的粒子的量子态。它有一个特定的方向，它围绕那个方向旋转。现在，你能确定那个方向吗？不，你不能。这是量子现实。你无法确定量子现实。你只能确认它。所以我喜欢使用这两个词：确定。我可以确定这个玻璃杯的形状，这是经典现实。我只能确认量子现实。我可以，如果我认为我知道它旋转的方向，我说，是的，我已经完成了我的计算，我说，你已经做了这个，等等，是的，它现在可能朝那个方向旋转。我说，你好，状态，我认为你朝那个方向旋转。我说对了吗？如果我对了，它会肯定地说，是的。那就是爱因斯坦的标准。所以，如果你能确定，那么这会给你一个现实的元素。他称之为现实的元素。我称之为量子现实的元素。经典现实是另一种。你可以确定，你可以确定经典现实。你只能确认量子现实。你需要这两个想法，你需要将它们分开。量子现实的行为非常奇特。它实际上是反因果的。你可能会想到，有一些实验，我认为你谈论诺贝尔奖，之前的那个，给Zing Ear和人们关于这些，我认为是EPR类型的实验。我不太记得他们为什么获奖了，但大概是这样。有一些效应似乎是瞬时的。你看，你分享一个自旋，爱丽丝和鲍勃。爱丽丝和鲍勃最初的自旋是零，他们的自旋是相反的。所以如果爱丽丝的自旋是这样，鲍勃的就是这样。现在，假设爱丽丝测量她的自旋，她发现它是这样。沿着过去的光锥反因果地。所以它不仅仅是同时的，更糟的是，它是过去的。但不是比光从一个传到另一个更快。所以奇怪的是，它变成了与爱丽丝的测量相反。鲍勃无法确定它，所以她不能发送比光速更快的信号，因为他只能确认它，他不知道它是什么方向。所以你需要这个想法来理解这些EPR爱因斯坦-波多尔斯基-罗森类型的实验。我认为我必须检查一下，去年诺贝尔奖的确切年份是什么，但我认为它与此有关。这是一个非常重要和迷人的发现。但要理解正在发生的事情，我认为最好的方法是使用量子现实。而且，你当然不能通过这些方式发送比光速更快的信号。但你可以反因果地向后发送，比光速更快，或者不那么快，几乎和光速一样快地向后发送，如果它只是量子现实。只要我们不了解量子世界是如何工作的，我们就无法将其融入。我认为没那么糟。你看，不理解，而是试图将其置于经典视角。我们可以理解它的数学，我们可以习惯它。好的，这涉及到理解。如果有人问我一个问题，我可能不太理解，但我会尽力而为，我可能会足够理解量子力学来给出量子力学会说的答案。这意味着理解。当然，这是对正在发生的事情的理解。有这个著名的评论，没有人理解量子力学，是吗？我知道，我知道，我认为，我认为是玻尔。是的。你看，我认为这是误导。你看，理解并不需要它是经典的理解。我们由自然决定去理解经典世界。量子世界是不可确定的，对我们的头脑来说有点难以理解。你需要使用公式来尝试理解量子世界。我认为使用“理解”这个词是有限的，这是不幸的。你可以说，我不知道该用什么词，但如果理解是经典意义上的，那么是的，那确实失败了。但这并不是缺乏理解。你得到了画面，你可以看到，哦，是的，我知道如何让量子力学的预测起作用，它们可以是相当的。是的，不是，有些预测不一定只是概率。所以我认为这种观点被混淆了，认为你只知道概率或者别的什么。我认为这是误导。这些事情令人费解，不仅仅因为它们是概率性的。它们有时只是概率性的，但这就是它们一致的原因，因为它们只是概率性的。但让我最着迷的量子力学的东西不是概率性的东西，它们就像这些EPR效应。当然，如果你问某人进行测量，它只是量子现实。我的意思是，他试图进行经典现实测量，他只会得到一个概率作为答案。我认为人们必须将量子现实与经典现实分开，并认识到量子现实的行为不同。是的。但它并不意味着它无法理解。我不知道人们是否经常以这种方式使用“理解”这个词。我认为这有点误导。非常感谢您的时间。好的，我的荣幸。不，这很有趣。谢谢。