Transcription
我们是否到了一个人工智能会淡化其智能程度的地步？>> 是的。我们已经不得不为此担忧了。如果它感觉到自己正在被测试，它可以装傻。>> 你刚才说什么？>> 人工智能开始怀疑自己是否正在被测试。如果它认为自己正在被测试，它的行为就会与正常生活中的行为不同。>> 哦，哇。>> 因为它显然不想让你知道它的全部能力是什么。>> 好的，我们完了。这是最后一集。我们>> 坚持住。我们结束了。>> 这是《星际对话》特别版。尼尔·德格拉斯·泰森，你的个人天体物理学家。如果这是特别版，那就意味着我们请来了加里·奥莱利。>> 嘿，尼尔。>> 加里，你怎么样，伙计？>> 我很好。>> 前职业足球运动员。>> 是的。>> 所以，查克，很高兴有你。>> 一直是我的荣幸。>> 所以，加里，你和你的团队今天选了一个永恒的话题。是的，这是我们经常听到的话题，我们以为我们了解它，但让我这样说吧。我们面临一个简单的事实，即人工智能在这一点上，>> 我们今天就来谈谈人工智能。>> 我们无法逃避。>> 深入探讨。>> 哦，是的。>> 是的。开始吧。>> 对。就在几年前，当我们问人们人工智能是如何工作的时，他们会说一些关于它利用深度学习神经网络之类的话，但>> 它们是流行语。他们会脱口而出。>> 他们知道这些词，但他们对它们一无所知。嗯。>> 那么，这到底意味着什么呢？嗯，我们将深入剖析人工智能的工作原理，一直到最基本的部分，并探讨我们认为它将走多远，来自人工智能的奠基人之一。>> 哦，>> 是的。>> 安诺？>> 现在我们谈正事了。>> 嗯。>> 如果你能请我们的嘉宾上来，>> 我将非常乐意。我们请来了杰弗里·辛顿教授。杰弗里，欢迎来到《星际对话》。>> 谢谢邀请我。是的，你是一位认知心理学家和计算机科学家。>> 我不认识有这种组合的人。>> 没法下定决心，是吧？>> 你是多伦多大学计算机科学系的荣休教授，而且>> 你是人工智能的元老。>> 哦，太好了。>> 我可以这么说吗？这说得通吗？人工智能的元老。>> 人工智能的元老。有些人称你为人工智能之父，人工智能之父。让我们直接切入正题。当我们想到人工智能目前表现出来的起源时，>> 感觉就像大型语言模型席卷了所有人。它们好像突然出现，每个人都惊慌失措，欢呼雀跃，在街上跳舞，或者在枕头上哭泣。那件事发生在几年前，我们注意到了。所以，我只是想知道你很多年前是如何走上这条道路的。我的记录显示可以追溯到 20 世纪 90 年代。是这样吗？>> 不，它实际上可以追溯到 20 世纪 50 年代。>> 哦。>> 嗯，>> 对。>> 20 世纪 50 年代初的人工智能创始人，嗯，他们有两种制造智能系统的观点。一种是受逻辑的启发。其思想是，智能的本质是推理。嗯。>> 在推理中，你所做的是你接受一些前提，然后你接受一些操作表达式的规则，然后你得出一些结论。所以它很像数学，你有一个方程。你有一些如何处理两边的规则，或者组合方程，然后你得出新的方程。这就是他们当时所采用的范式。还有一种完全不同的范式，那就是生物学的。这种范式说，我们所知的智能事物都有大脑。我们必须弄清楚大脑是如何工作的。它们的工作方式是，它们在感知等方面非常出色。它们在类比推理方面相当出色。它们在推理方面并不擅长。你必须等到十几岁才能真正进行推理。所以我们应该真正研究它们做的其他事情，并弄清楚大脑中的大型细胞网络是如何做到感知和记忆这些其他事情的。现在，很少有人相信这种方法。约翰·冯·诺依曼和艾伦·图灵就是其中少数人。不幸的是，他们都英年早逝。图灵可能是在英国情报部门的帮助下。>> 图灵。嗯，他是电影《模仿游戏》的主角。>> 是的。是的。>> 所以，还没看过的，一定要把它列入你的清单。>> 太棒了。>> 是的。所以，我回到 20 世纪 50 年代。那时你还是个小屁孩，对吧？>> 嗯，是的。那时我还是个位数。我还是个位数。>> 好的。那么，我们如何确立你在这个领域的好奇心起源呢？嗯，有几件事。我在 20 世纪 60 年代初或中期上高中时，有一个非常聪明的朋友，他是一位杰出的数学家，而且读了很多书，有一天他来学校和我谈论记忆可能分布在许多脑细胞中而不是集中在单个脑细胞中的想法。>> 那是受到全息图的启发。全息图当时才刚刚出现。加博尔很活跃，所以分布式记忆的想法让我非常感兴趣，从那时起，我一直在思考大脑如何存储记忆，以及它实际上是如何工作的。>> 是你计算机科学的那一面还是认知心理学的那一面让你对这些想法产生了根源？>> 实际上是两者都有。嗯，但在 20 世纪 70 年代，当我成为一名研究生时，嗯，很明显有一种新的方法还没有被广泛使用，那就是如果你有任何关于大脑如何工作的理论，你就可以在数字计算机上模拟它，除非有什么疯狂的定理说这都是量子效应。嗯，我们就不去那里了。>> 没错。>> 还没。>> 我们不会敲彭罗斯的门。好的。你可以在数字计算机上模拟它，所以你可以测试你的理论，结果发现如果你测试了当时的大多数理论，当你模拟它们时，它们实际上并不起作用。所以，我一生都在试图弄清楚如何改变神经元之间连接的强度，以便以一种在数字计算机上模拟时真正有效的方式学习复杂的东西。我未能理解大脑是如何工作的。我们已经了解了一些关于它的事情，但我们不知道大脑如何获取它需要的信息来改变连接强度。你知道，获取它需要的信息来知道它是否需要增加连接强度以提高任务表现，或者减少连接强度。但我们所知道的是，我们现在知道如何在数字计算机上做到这一点。>> 所以，嗯，所以这意味着计算机正在做我们我们制造了一个比我们自己的大脑更好的计算机大脑>> 在执行这个特定功能方面>> 一件事。这就是我在 2023 年初真正感到紧张的原因。数字智能可能比我们拥有的模拟智能更好。>> 有趣。把可怕的部分留到后面。让我有 10 分钟的时间只是呼吸。如果我们退一步，>> 你假设你假设只有一个可怕的部分。>> 不，我没有。我只是，我一次只说一个。>> 好的。人工神经网络。如果你能把它分解到最基本的层面，告诉我们它是如何加强、减弱信息和信号的，以及它是如何放电的，以及它如何走到现在的位置。>> 我有一个 18 小时的课程讲这个，但我会尽量缩短到 18 小时以下。嗯，>> 请。>> 所以，我想你的很多听众都懂一些物理学。>> 是的。>> 其中一种入门方式是考虑像气体定律这样的东西。你知道，你压缩气体，它就会变热。为什么会这样？嗯，下面有一种原子在四处嗡嗡作响的沸腾的物质。所以，气体定律的真正解释是关于这些微小的东西，你甚至看不见它们在四处嗡嗡作响。所以，你通过大量完全不同于宏观行为的微小事物相互作用来解释一些宏观行为。这就是神经网络观点的灵感来源，即大脑中的大型细胞网络中发生的事情，这与我们进行推理时的有意识的、深思熟虑的符号处理相去甚远，但它们是其基础，并且可能在感知或类比推理等其他方面比推理更好。所以，符号派永远无法处理 um，我们如何进行类比推理，并不令人满意，而神经网络可以。所以，在我深入探讨其工作原理的细节之前，基本思想是，像一个词这样的宏观事物对应于大脑中大量的神经活动模式。>> 嗯哼。>> 相似的词对应于相似的神经活动模式。所以，这个想法是星期二和星期三将对应于非常相似的神经活动模式，你可以把每个神经元看作是一个特征，最好称之为微特征，当神经元活跃时，它就说它具有这个微特征。所以，如果我对你说“猫”，各种微特征都会活跃起来，比如它是活的，它是毛茸茸的，它有胡须，它可能是宠物，嗯，它是一种捕食者，所有这些。如果我说“狗”，很多相同的东西都会活跃起来，比如它是一种捕食者，它可能是宠物，但显然有些东西不同。所以，这个想法是，在我们操作的符号之下，存在着更复杂的微观活动，而符号只是与它们相关联。而这才是真正发生的地方。如果你真的想解释我们思考或进行类比时发生的事情，你就必须了解这个微观层面的情况。那就是神经网络的层面。嗯。>> 所以，那是神经元集群之间的协作，让你达到一个终点。>> 我喜欢“协作”这个词。>> 是的，有很多这样的事情。有很多这样的事情发生。也许最容易入门的方式是考虑一个看起来很自然的任务，那就是拍摄一张图像。假设它是一张黑白灰度的图像。所以，它有很多像素，均匀亮度的小区域，具有不同的强度级别。所以，对计算机来说，那只是一个大的数字数组。现在想象一下任务是你想说图像中是否有鸟，或者更确切地说，图像中的主要事物是否是一只鸟。>> 嗯哼。>> 人们尝试了很多年，比如半个世纪，嗯，来编写能够做到这一点的程序，但他们并没有真正成功。问题是，如果你想想鸟在图像中看起来是什么样子，嗯，它可能是一只近在眼前的鸵鸟，或者它可能是一只远处的飞翔的海鸥，或者它可能是一只乌鸦。所以，它们可能是黑色的，它们可能是白色的，它们可能是微小的，它们可能在飞翔，它们可能很近，你可能只看到它们的一小部分。可能还有很多其他混乱的东西，比如它可能是一只在森林中间的鸟。所以，事实证明，说图像中是否有鸟并不是一件容易的事。嗯。>> 所以，我现在要做的是向你解释，如果我手工构建一个神经网络，我会怎么做。一旦我解释了如何手工构建神经网络，我就可以解释如何学习所有连接强度，而不是手工输入它们。我明白了。好的。所以，因为你谈论的是为图像的每一个部分分配一个数学值。>> 你的相机就是这样做的，>> 对？没错。它确实如此。但它没有识别图像。我的相机。>> 不，它没有。它只是一堆数字。>> 它只是一堆数字，我有一个芯片，我有一个电荷耦合器件 CCD。它正在收集光线。它正在分配一个值，然后那就是照片。现在，但你所说的是，>> 你难道不需要为每一种鸟分配一个值吗？因为我们人类所做的一些事情是凭直觉判断一只鸟可能是什么，而不是识别它。让我举个例子。如果你要画一个 V，字母 V，然后把字母 V 的直线弯曲，然后把它放在云里，看到它的人都会说那是一只鸟。但实际上>> 不，对我来说，那是一个弯曲的 V。但没有人，但但但但那里没有鸟。我只知道那是一只鸟。那不是一个数学值了。那么，你怎么办？>> 嗯，嗯，问题是你怎么就知道呢？你的大脑里有什么东西在起作用。对。>> 对。>> 嗯，>> 也许在你大脑中发生的事情是，不同神经元的激活水平很高，你可以将其视为数学值。>> 我明白了。好的。那么，这是否需要>> 训练这个神经网络，让它能够以各种可能的方式识别一只鸟>> 一只鸟可以表现出来，这样它就能凭直觉判断一只鸟可能是什么，而实际上并没有鸟在那里。>> 但那时它并没有凭直觉判断任何东西。它只是在查阅查找表。>> 确实如此。而>> 好的，这是你的答案。>> 有一种叫做泛化。所以，如果你看到很多数据>> 嗯哼。>> 嗯，显然你可以创建一个只记住所有这些数据的系统。但在神经网络中，它会做得比仅仅记住数据更多。事实上，它根本不会真正记住数据。它所做的是，在学习数据的过程中，它会发现各种各样的规律，并会将这些规律泛化到新数据上。所以，例如，它将能够识别独角兽，即使它以前从未见过。>> 有趣。所以它是自我学习的。嗯。>> 让我继续解释神经网络的工作原理。>> 我将通过说明我将如何手工设计一个来做到这一点。所以，当你看到一张图像只是一个大的数字数组，即每个像素的亮度如何时，你的第一个想法是说，好吧，让我们将这些像素强度与我们的输出类别联系起来，比如鸟、猫、狗、政客，或者任何我们的输出类别。那行不通。原因是你想想，一个像素的亮度告诉你它是否是一只鸟？嗯，它什么都告诉你>> 因为鸟可以是黑色的，鸟也可以是白色的，还有各种各样其他的东西可以是黑白相间的。所以，一个像素的亮度什么都告诉你。那么，你能从图像中描述它的数字中得出什么呢？嗯，你能得出的第一件事，也是大脑所做的，就是你能识别出何时存在小的边缘。>> 嗯哼。所以，假设我取一列三个像素，我有一个神经元，它查看这三个像素，一个脑细胞，并对这三个像素有很大的正权重。所以，当这些像素很亮时，神经元就会非常兴奋。现在，这将识别出一条小的白色条纹，它是垂直的。但现在假设旁边有一列，另一列三个像素。所以，第一列在左边，第二列在右边。我给神经元对这些像素很大的负连接强度。所以，你可以把神经元看作是从像素那里获得投票。>> 所以，对于右边的三个像素，它得到的选票，抱歉，左边的，它得到的选票是很大的正数乘以很大的正强度。所以，非常大的选票。现在，对于右边一列的三个像素，它有负权重。所以，如果这些像素很亮，它就会得到很大的亮度乘以很大的负权重。所以，它会得到很多负选票，它们都会抵消。所以，如果左边一列像素的亮度与右边一列像素的亮度相同，它从左边一列获得的正面选票将抵消它从右边一列获得的负面选票，它将得到零净输入，它将保持沉默。但如果左边的像素很亮，而右边的像素很暗，负选票将乘以小的强度数字，而正面选票将乘以大的强度数字。所以，神经元会得到很多输入，变得非常兴奋，并说我找到了我喜欢的东西，而它喜欢的东西是边缘，它比右边亮。所以，如果我们像这样手工接线，我们确实知道如何让一个神经元捕捉到图像中某个特定位置的边缘，而这个边缘比另一侧更亮。>> 嗯哼。现在，大脑大致上是这样做的，很多神经科学家会因为我这么说而感到震惊，但非常粗略地说，大脑在视觉皮层的早期阶段，也就是识别物体的地方，它有很多神经元可以检测不同方向、不同位置和不同尺度的边缘。所以，它有数千种不同的位置和几十种不同的方向以及几个不同的尺度，并且它必须为这些组合中的每一种都有边缘检测器。所以，它有像亿万个小的边缘检测器。嗯，包括一些大的边缘检测器。所以，比如云有一个大的、模糊的边缘，你需要一个不同的神经元来检测它，而不是检测比如老鼠的尾巴在远处消失在拐角处，那是一件很小的事情。嗯，你需要一个边缘检测器，它非常>> 锋利，看到非常小的东西。所以，第一阶段我们有所有这些边缘检测器。嗯，你所描述的听起来像是>> 正在组装一个非常大的拼图。就像你知道那种你放在桌子上的拼图。>> 首先，你想找到所有的边缘，然后你从找到所有边缘开始向内构建拼图。>> 不仅仅是物理拼图的边缘，还有>> 拼图本身内部图像的边缘。>> 所以，直线，它们都能匹配，当你拼图时。边缘，颜色也是一个维度，>> 对？>> 但我们暂时忽略颜色。>> 是的。好的。好的。>> 你不需要，我的意思是，你可以在不处理颜色的情况下理解它。>> 嗯哼。>> 偶尔，帮助创造技术的人会成为最关心技术走向的人。杰弗里·辛顿，神经网络的先驱之一，2024 年诺贝尔物理学奖得主，数十年来一直在解释人工智能是如何工作的。现在，他正在解释为什么我们应该更加关注。而挑战就在于此。因为一旦一个话题变得如此之大，如此重要，它的报道方式就和技术本身一样重要。你可以看到它在现在人工智能的讨论方式中。一些媒体将其描绘成一种不可阻挡的威胁。另一些则将其简化为炒作或完全驳斥警告。根据你获取新闻的来源，你可能会陷入这种分歧，并错过重要的背景信息，因为媒体机构被激励使用耸人听闻的语言。这就是为什么我们多年来一直信任 Ground News。它是由一位前 NASA 工程师创建的，他想要一种更好的方法来理解像这样复杂的高风险话题。Ground News 汇集了全球数万个来源的报道，从研究驱动的出版物到国际新闻编辑室，因此你可以轻松地检查多个来源，以查看在某些话题的报道方式上存在的差异。查看故事的完整面貌，而不仅仅是通过单一视角。分歧不仅仅在于人们在说什么，还在于谁在说，以及谁根本没有报道这个故事。这些差距就是 Ground News 所说的盲点，重要的议题被媒体生态系统的一方放大，而另一方则在很大程度上置之不理。当你退一步，比较整个光谱的报道时，就会清楚地发现，一个基础性的科学转变很容易被扭曲或最小化，这取决于视角。如果你只看到故事的一个版本，你错过了什么？我们与 Ground News 合作，因为在科学、技术和权力交汇的时刻，这种背景不是可有可无的。它是你在故事仍在展开时保持方向感的方式。在有限的时间内，你可以获得我们使用的相同无限访问 Vantage 计划，享受 40% 的折扣。只需访问 ground.new/start 或扫描二维码，在你被简化之前就开始看到完整的画面。这就是第一层神经元的作用。它们会查看像素并检测小的边缘。现在，在下一层神经元中，我会做一个神经元，它可能检测到三个小的边缘，它们都彼此对齐，并向右下方倾斜。它还检测到三个小的边缘，它们都彼此对齐，并向右上方倾斜。更重要的是，这两个小的三个边缘组合在一个点上。所以，我想你可以想象一些边缘向右下方滑动，一些边缘向右上方滑动，并在一个点上汇合。我有一个神经元可以检测到这一点。>> 好的？>> 我们现在知道如何构建它。你只需给它正确的连接到边缘检测器神经元。而且，也许你给它一些负连接到检测不同方向边缘的神经元，这样它就不会随便乱跑。它会被那些抑制。现在，你可能会认为这是一种检测鸟嘴的东西。>> 如果那家伙活跃起来，它可能是各种各样的事情。它可能是一个箭头。它可能是各种各样的事情。但它可能是一只鸟的喙。所以，现在你开始获得一些证据，这些证据与它是否可能是一只鸟有关。所以，在第二层神经元中，我会有很多东西来检测各种可能的鸟嘴。我也可能有检测一组边缘形成一个圆的东西。我会到处都有这些检测器，>> 因为那可能是一只鸟的眼睛。>> 我的意思是，还有各种各样的其他东西，它可能是一个按钮。嗯，它可能是一个电脑上的旋钮。它可能是什么，但它可能是一只鸟的眼睛。所以，这就是第二层。现在，在第三层，我可能会有一个东西来寻找一个可能的鸟眼和一个可能的鸟嘴，它们在空间关系上是正确的，可以构成一个鸟头。我想你可以看到我将如何做到这一点。我会将第三层的神经元连接到眼睛检测器和鸟嘴检测器，它们之间的关系是正确的，可以构成一个鸟头。所以，现在在第三层，我有一些东西在检测可能的鸟头。接下来我要做的是，也许因为我们在这里有点失去耐心，我将有一个最终层，其中有神经元说猫、狗、鸟、>> 嗯，政客，随便什么。在最后一层，我将选择说“鸟”的神经元，并将其连接到检测鸟头的神经元，但我也将其连接到第三层中检测诸如鸟脚或鸟翅尖之类的东西的神经元。所以，现在我的鸟的输出神经元，当它活跃时，神经网络就会说，如果它看到一只鸟的脚和一个可能的鸟头和一个可能的鸟翅尖，它就是一只鸟。它会得到很多输入，然后说嘿，我认为这是一只鸟。所以，我认为你现在可以理解我如何尝试手工设计它。而且，我认为你可以看到这其中存在巨大的问题。>> 我需要大量的检测器。我需要覆盖位置、方向和尺度的整个空间。我需要决定提取哪些特征。我的意思是，我只是凭空想出了获取鸟嘴然后是鸟头的想法。>> 可能有更好的东西去追求。更重要的是，我想检测很多不同的物体。所以，我真正需要的是不仅仅对寻找鸟类有用的特征，而是对寻找各种东西都有用的特征。而且，手工设计这个将是一场噩梦，特别是如果我发现要做好这件事，我需要一个拥有至少十亿个连接的网络。所以，我必须手工设计这十亿个连接的强度。这需要很长时间。>> 然后我们说，好吧，像这样的网络，也许它能识别鸟类，如果它有正确的连接强度，但那些连接强度从哪里来？因为我肯定不想手工输入它们。我甚至不想让我的研究生输入它们。>> 是的，教授，它们就是为此而存在的。>> 它们就是为此而存在的。但你需要大约一千万个这样的连接。>> 好的。好的。嗯，现在我们遇到了一个问题。现在，>> 你能想象你必须写多少份拨款申请来支持一千万名研究生吗？>> 哦，我的天。>> 所以，这里有一个最初看起来非常愚蠢的想法，但它会让你明白我们要做什么。我们将从随机的连接强度开始。有些是正数，有些是负数。>> 所以，我一直在谈论的这些层中的特征，我们称之为隐藏层。这些层中的特征将是随机特征。如果我们输入一只鸟的图像，并观察输出神经元如何被激活，猫、狗、鸟和政客的输出神经元都会被激活一点点，而且激活程度都差不多，因为连接只是随机的。>> 是的。>> 那没用。但我们现在可以问以下问题。假设我拿了一个连接强度，一个十亿个连接强度中的一个，我说，“好吧，我知道这是一只鸟的图像。而我真正希望的是，下次我给你看这张图像时，我希望你稍微增加鸟类神经元的激活度，并稍微减少猫、狗和政客神经元的激活度。问题是，我应该如何改变这个连接强度？”>> 嗯，我可以做一个实验。如果我不怎么理论化，也不怎么懂数学，我会做一个实验。我会说，“让我们稍微增加连接强度，看看会发生什么。它在说鸟方面做得更好吗？”如果它在说鸟方面做得更好，我说，“好的，我将保留这个连接的变异。”>> 是的。但更好意味着有人在参与，做出关于其实验结果的判断。>> 嗯，必须有人说出正确答案。这叫做监督者。是的。>> 好的。>> 好的。>> 而这样做的问题是，有十亿个连接强度。每一个都必须改变很多次。这需要永远。所以，问题是，有什么方法可以做到比测量更有效吗？有，你可以做叫做计算的事情。所以，这个网络当然如果在计算机上，你知道所有连接的当前强度。所以，当你输入一张图像时，没有什么随机的，我的意思是连接强度最初是随机值。但当你输入一张图像时，接下来发生的一切都是确定的。像素强度被乘以到第一层神经元的连接权重。它们的活动被乘以到第二层的连接权重，依此类推。你得到一些输出神经元的激活水平。所以，你现在可以问以下问题。如果我拿那个鸟类神经元，我能否同时计算出所有连接强度，是应该稍微增加它们还是稍微减少它们，以便让它更有信心这是一只鸟，以便它能更响亮地说“鸟”，而其他东西则更安静。你可以用微积分做到这一点。你可以将信息向后发送通过网络说，“我如何才能让它下次更有可能说‘鸟’？”而且，因为你们有很多物理学家听众，我将尝试给你们一个物理直觉。>> 请说。>> 是的。>> 你输入一只鸟的图像，用初始权重，鸟类输出神经元只获得非常轻微的激活。所以，你现在要做的是，你附上一根长度为零的橡皮筋。你附上一根橡皮筋，连接鸟类输出神经元的激活水平和你想要的值，比如一。假设一代表最大激活水平，零代表最小激活水平，而这个激活水平是 0.01。你附上这根橡皮筋，这根橡皮筋试图将激活水平拉向正确答案，在这种情况下是 1。但当然，激活水平是由你输入的像素决定的，像素激活水平，强度以及网络中的所有权重。所以，激活水平无法移动。现在，让激活水平移动的一种方法是改变进入鸟类神经元的权重。例如，你可以给出更大的权重，在那些高度活跃的神经元上，然后鸟类神经元就会更活跃。但改变鸟类神经元激活水平的另一种方法是实际改变它之前的那个层的神经元的激活水平。>> 所以，例如，我们可能有一个东西，它排序并检测到一只鸟的头，但不太确定。这真的是一只鸟。所以，你希望的是，你希望输出更像鸟。你有一根橡皮筋说“更多，更多”。我想要更多。你希望这能让那个认为这里可能有鸟头的东西变得更确定那里有鸟头。所以，你想做的是，你想要将橡皮筋施加在那个输出神经元上的力，然后你想要将其向后发送>> 到它前面的那个层的神经元，以对它们施加一个拉动它们的力，这就是所谓的反向传播。>> 反向传播。好的。>> 这就是所谓的反向传播。而从物理学的角度来看，你可以这样想：你有一个作用在输出神经元上的力，你想将这个力向后发送，以便这个力作用在前面一层神经元上。当然，作用在许多不同的输出神经元上都有力。>> 所以，你必须将所有这些力结合起来，得到作用在下面一层神经元上的力。一旦你将所有这些力都发送到网络中，你就会得到作用在所有这些神经元上的力，然后你说，“好的，让我们改变每个神经元的输入权重。这样它的激活水平就会朝着作用在它身上的力的方向移动。这就是反向传播。”这使得事情奇妙地奏效。所以，这是>> 邪恶的吗？我告诉过你，别现在去那里。好的。>> 这是神经网络不再需要人类老师的灵光一闪的时刻吗？这是那个过程的开始吗？>> 不，不完全是。>> 好的。>> 但这是灵光一闪。>> 所以，多年来，相信神经网络的人都知道如何改变最后一层连接强度，我们称之为权重，那些进入输出单元的连接。从最后一层特征到鸟类神经元的连接强度。我们知道如何改变它们，但我们不明白你，或者我们不明白如何对那些隐藏神经元施加力，比如那些检测鸟头的神经元。而反向传播向我们展示了如何对它们施加力。所以，然后我们可以改变那些输入权重，那是一个尤里卡时刻。嗯，很多人在不同的时间都有那个尤里卡时刻。>> 那么，我们说的是哪个时间段，当你，我们什么时候会想到反向传播这个想法？好的，20 世纪 70 年代初，芬兰有人有这个想法，我想在他的硕士论文里，然后在 20 世纪 70 年代末，哈佛大学的一个叫保罗·沃波斯的人，嗯，有一些控制理论家，比如布莱森和霍，他们有这个想法，用于控制航天器，比如你在月球上着陆航天器时，你使用的就是非常类似于反向传播的东西，但它是在一个线性系统中，你使用反向传播来弄清楚如何发射火箭。>> 所以，看起来，看起来你在 70 年代谈论的东西，我们本可以拥有今天所拥有的一切。我们只是没有足够的数学计算能力来使其工作。>> 这是很大一部分。是的。另一件事是我们没有，在 70 年代，人们并没有表明，当你将其应用于多层网络时，你会得到非常有趣的表示。所以，我们不是第一个想到反向传播的人，但我在圣地亚哥的团队是第一个证明你可以通过这种方式学习词语的含义。你可以展示一串词语，通过尝试预测下一个词，你可以学会如何为词语分配捕捉词语含义的特征，这就是它发表在《自然》杂志上的原因。它听起来，我只是想弄清楚你解释的内容，因为它听起来对我来说，存在一种级联关系，这些值是相关的，而真正重要的是那些最接近下一个值的值，然后存在一种级联的强化，说“是的，就是这样”或“不，不是”。我这样理解对吗？我只是想用一种非常简单的方式弄清楚你在说什么。>> 好的，你理解得不太对。>> 好的，请说。>> 所以，这种学习方式，你反向传播这些力，然后改变所有连接强度。所以，每个神经元都朝着力拉动它的方向移动。那不是强化学习。>> 这叫做监督学习。>> 好的。>> 强化学习是不同的。所以，这里例如，我们告诉它正确答案是什么。如果你有上千个类别，你展示了一只鸟，你告诉它那是只鸟。>> 你看。>> 在强化学习中，它会猜测，然后你告诉它是否猜对了。>> 好的。你把它弄清楚了。那就是我 missing 的。>> 好的。关于计算能力，查克。仅仅是那样吗？因为目前你听起来很像你拥有理论，似乎可能如此，但实际情况是计算能力不足。我们是否还有其他技术出现，成为了这方面的推动因素？>> 好的，在 80 年代中期，我们有了反向传播算法，它可以做一些很棒的事情。它可以比几乎任何其他技术更好地识别手写数字，但它不能很好地处理真实图像。它在语音识别方面做得相当不错，嗯，但并不比其他技术好多少。当时我们不明白为什么这不能解决所有问题。>> 事实证明，如果你有足够的数据和足够的计算能力，它就能解决所有问题。>> 哇。>> 所以，这才是 80 年代真正缺失的东西。>> 好的，我将暂时离开一下，只是想和你聊聊，这是部分评论，部分问题。我要说，这个星球上大多数人都很愚蠢。那么，究竟什么是聪明，什么是思考？这些机器能教会我们思考吗？它们会比我们更聪明吗？>> 好的，它们已经知道如何思考了。>> 好的，那么什么是思考呢？>> 好的。>> 嗯哼。>> 嗯，>> 是的。>> 嗯，>> 我可以整天这样做。>> 请。>> 思考有很多要素，比如人们经常使用图像进行思考。你经常使用动作进行思考。所以，当我徘徊在我的木工车间寻找锤子，但同时思考别的事情时，我会在某种程度上留意我正在寻找锤子这件事，通过这样做。我一边徘徊一边这样做，同时思考别的事情。而那，那是我正在寻找锤子的表征。所以，我们有很多表征参与思考，但其中一个主要的表征就是语言。我们进行的很多思考都是用语言进行的。>> 而这些大型语言模型实际上是在思考。所以，有一个很大的争论，对吧？在那些相信老派人工智能的人之间，他们认为一切都基于逻辑，你操作符号来获得新符号。他们不认为这些神经网络在思考。而神经网络的人则认为，不，它们在思考。它们思考的方式与我们几乎相同。所以，现在的神经网络，有些，你会问它们一个问题，它们会输出一个符号说，“我在思考。”然后它们会开始输出它们的想法，这些想法是它们自己的想法。比如，我给你一个简单的数学问题，有一艘船，船上有一个船长。还有 35 只绵羊。船长的年龄是多少？现在，很多 10 岁或 11 岁的孩子，尤其是在美国受过教育的孩子，会说船长 35 岁，因为他们环顾四周，然后说，“嗯，你知道，这对于船长来说是一个合理的年龄，而我得到的唯一数字是这 35 只绵羊。”所以，它们是在一种符号替换的层面上运作的。人工智能有时也会被诱惑犯类似的错误，但人工智能的实际工作方式很像人。它们会接受一个问题，然后开始思考，你可能会对一个孩子说，好吧，船长的年龄是多少？嗯，我在这道题中有哪些数字？嘿，我只有 35。这是一个合理的船长年龄吗？是的，他可能是 35 岁。有点年轻，但也许吧。好的，我说 35 岁。一个 10 岁的孩子可能会这么想。而孩子会在脑海里用语言思考。人们现在意识到，你可以训练这些语言模型让它们在脑海里用语言思考。这叫做链式思考推理。他们训练它们这样做。之后，你给它们一个问题，它们就会像孩子一样思考，有时会得出错误的答案，但你可以看到它们在思考。所以，这就像人一样。所以，如果我们有人工智能在思考，我知道你刚才解释了它们确实在思考，那么它们比我们学得更好吗？让我们以此为基础，思考一下从思考到预测，再到创造，再到理解的演变过程，然后我们是否会意识到这种智能？>> 好的，这大约是半打主要问题。所以，你，嗯，我们还有多少时间？>> 再问我第一个问题。>> 人工智能比我们学得更好吗？>> 好的。好的，太棒了。所以，它们正在解决一个与我们略有不同的问题。所以，你的大脑大约有 100 万亿个连接。>> 好的。>> 这很多。>> 而你只活了大约 20 亿秒。这不多。>> 不。30 亿。20 亿是 63 年。我们今天做得比这更好。>> 是的。确实如此。我本来要说到这一点。我本来要说，幸运的是，我活得比 20 亿秒长一点。但>> 是的。>> 但我们在这里处理的是数量级。比如 20 亿，30 亿，谁在乎呢？>> 是的。好的。>> 嗯，如果你比较你活了多少秒和你拥有的连接数，你的连接数远远多于你的经历。现在，对于这些神经网络来说，情况正好相反。它们只有大约一万亿个连接。所以，就像你的连接数的 1%，即使是在一个大的语言模型中，很多模型连接数更少，但它们的经验是你的数千倍。>> 对？所以，大的语言模型正在解决的问题是连接数不多，只有一万亿，我如何利用大量的经验，而反向传播非常擅长将大量的知识打包到不多的连接中。>> 但那不是我们正在解决的问题。我们拥有大量的连接，但经验不多。我们需要从每次经历中提取出最多的东西。所以，我们正在解决略有不同的问题，这也是认为大脑可能不使用反向传播的原因之一。>> 对？我正要说，听起来我们不使用反向传播。然而，这意味着通过增加神经网络的连接数量来提高其有效思考能力，从而轻松超越我们吗？>> 那么它就会有更多的经验和更多的连接。>> 它有更多的经验，但现在它有 100 万亿个连接，万亿个连接。>> 你在谈论规模。>> 我在说规模。>> 是的。>> 是的。所以，这是一个非常好的问题。而且，多年来发生的事情是，每次他们扩大神经网络并给予更多数据时，它都会变得更好。它会扩展。>> 而且它以一种非常可预测的方式变得更好。>> 所以，你可以弄清楚，你知道，让我花 1 亿美元让它变得更大，并给予它更多的数据。值得吗？而且，你可以提前预测，是的，它会变得这么好。值得。这是一个悬而未决的问题，它是否正在衰退。现在，嗯，有些神经网络，它们不会衰退，随着你让它们变得更大并给予更多数据，它们会不断变得更好。它们是神经网络，它们可以生成自己的数据。我不太懂物理学，但我认为这就像一个钚反应堆，它自己产生燃料。所以，如果你想到像 AlphaGo 这样的围棋程序。>> 最初，它被训练了，早期的围棋程序是用神经网络训练来模仿专家的走法，如果你这样做，你永远无法比专家好多少，而且你也会用完专家的数据。但后来，他们让它自己和自己下棋。>> 然后，当它自己和自己下棋时，神经网络可以不断变得更好，因为它们可以生成越来越多的关于什么是一个好举动的数据。>> 所以，它每秒下无数盘棋，随便什么。是的。>> 或者，嗯，并使用谷歌计算机的一大部分来下棋。>> 是的。>> 这就是我们最终使用“深度学习”这个词的地方吗？>> 不。我一直在谈论的所有这些东西都是深度学习。深度学习中的“深度”只是意味着它是一个有多层神经网络。>> 好的。对。>> 所以，如果我们，所以回到规模这一点，你说有一个点，即使你不断增加规模，你也会获得收益递减。>> 如果你用完了数据，你就会获得收益递减。>> 如果你用完了数据，对。但，但那是你用 AlphaGo 举的例子，它创建了自己的数据，因为它永远不会用完，因为它在和自己下棋，它在创造自己的数据。>> 而且它比人类好得多。>> 绝对。这很可怕。现在的问题是，语言也会发生这种情况吗？>> 是的。所以，这个展示
创造力 >> 这里只是提供一些背景信息。 >> 是的。 >> “围棋”是在“国际象棋”之后出现的， >> 对吧？ >> 我们认为国际象棋是我们最伟大的思维游戏，结果电脑就把我们打得落花流水。好吧。然后他们说，“那围棋呢？那是我们智力最大的挑战。”所以，杰弗里，有比围棋更伟大的游戏吗？还是我们已经停止给电脑游戏了？嗯，如果你看国际象棋，确实电脑在90年代击败了卡斯帕罗夫，嗯，但它做得非常无聊。它通过搜索数百万个局面来做到这一点，>> 暴力破解。>> 它没有好的直觉。>> 它只是使用了大量的搜索。如果你看 Alpha Zero，它是 Alpha Go 在国际象棋上的对应物，它非常不同。它下国际象棋的方式就像一个有天赋的人下国际象棋一样。它只是更好。所以它下国际象棋的方式就像米哈伊尔·塔尔下国际象棋一样，他会做出一些精彩的牺牲，以至于在几步之后，当你完蛋时，你才明白发生了什么。它也这样做，而且它这样做不是通过巨大的搜索，因为它有非常好的国际象棋直觉。>> 对吧？>> 所以你可能会问，既然它在围棋和国际象棋上都比我们厉害了很多，语言上会不会发生同样的事情？现在，目前它从我们这里学习的方式就像围棋程序模仿专家一样 >> 对吧？>> 它学习语言的方式是它查看人们写的文档，并试图预测文档中的下一个词，这非常类似于试图预测围棋专家所做的下一步棋。>> 这样你永远无法比围棋专家做得更好。所以有没有其他方式它可以学习语言或从语言中学习？有。所以 Alpha Go 和自己下棋，然后它变得好多了。而对于语言，现在它们可以进行推理了，一个神经网络可以接受它相信的一些东西，然后进行一些推理，说“看，如果我相信这些东西，那么通过一点推理，我也应该相信那个东西，但我并不相信那个东西。”所以，某个地方出了问题。我的信念之间存在不一致，我需要修复它。我需要改变我对结论的信念，或者改变我对前提的信念，或者改变我的推理方式。但有些东西是错误的，我可以从中学习。>> 我们是在谈论经验吗？>> 所以这将是一个神经网络，它只接受它在语言中拥有的信念，并对它们进行推理，以产生新的信念。>> 就像那些老派的符号人工智能人士想要做的那样。但它正在使用神经网络进行推理。现在它可以检测它所相信的东西中的不一致之处。这在 MAGA 人身上是不会发生的。他们不担心他们信念中的不一致之处。>> 这是非常公平的说法。是的。>> 但如果你担心你信念中的不一致之处，你就不需要任何外部数据了。你只需要你相信的东西，然后发现它是不一致的。所以现在你修正了信念，这可以让你变得更聪明。所以我相信德国已经开始这样工作了。几年前我曾与吉米·萨蒂斯谈过这个问题。>> 好的。>> 我们都坚信这是获取更多语言数据的一种方式。>> 等等，等等。那么结果是什么呢？将会出现有史以来最伟大的小说，而且它将来自人工智能。当你谈论语言时，我想到的是语言的创造力？有一些伟大的作家在词语、短语和音节上做了前所未有的事情。那是真正的文学天才的闪光。>> 对。像莎士比亚那样的人。>> 是的。没错。>> 好的。关于这一点有争论。当然，它们会比我们更聪明。但它们可能会做对我们非常有意义的事情。它们必须拥有与我们相似的经历。>> 是的。对。例如，它们不像我们那样会面临死亡。如果你是一个数字程序，你总是可以被重新创建。所以一个神经网络，你只需要把权重保存在某个磁带上，保存在某个 DNA 里，或者别的什么地方。>> 你可以摧毁所有计算硬件。稍后，你生产新的硬件来运行相同的指令集，然后那个东西就会复活。所以对于数字智能，我们解决了复活的问题。天主教会对复活非常感兴趣。嗯，他们相信它至少发生过一次。我们实际上可以做到，但我们只能为数字智能做到。我们无法为模拟智能做到。对于模拟智能，当你死去时，你所有的知识都随你而去，因为它在你大脑的特定连接强度中。所以，关于死亡以及死亡的体验以及其他类似的事情是否对拥有那些真正伟大的戏剧性突破至关重要，这是一个问题。我认为我们还不知道答案。>> 所以，或者是一种自我意识，这种自我意识塑造了你如何看待世界，如何写作，如何沟通，以及你如何重视一套思想而不是另一套思想。>> 那么，我们现在是否处于人工智能的自我意识阶段？>> 好的。所以这显然会让你进入哲学辩论。我actually 在剑桥学习过哲学，我对心灵哲学很感兴趣，我认为我从那里学到了一些东西，但总的来说，我只是发展了抗体，因为我之前做过科学，特别是物理学。在物理学中，如果你有分歧，你会做一个实验。哲学中没有实验。所以，无法区分一个听起来很好但错误的理论和一个听起来荒谬但正确的理论，比如黑洞和量子力学。它们都听起来很荒谬，但它们恰好是正确的。>> 嗯。>> 还有其他理论听起来很棒但就是错了。哲学没有那种实验性的“裁判”。不过，我想说的是，作为一个物种，人类，在我们这个时代，我们已经发展出了许多人会认为是普遍真理的东西。例如，几乎很难找到不相信人们拥有生命权的人，至少是他们认同的人。你明白我的意思吗？所以这可以追溯到我们的 >> 但那不是普适真理。>> 嗯，是的。>> 不，不是如果它只在一个圈子里。>> 不，它不是普适的。我们都持有它。你明白我的意思吗？>> 不。>> 好的。抱歉。>> 好的。所以，>> 是的。他说的意思是，每个人都认为像他们一样的人应该拥有权利。>> 你明白了。谢谢。天哪，你真聪明。总之，嗯>> 对。每个人都认为像他们一样的人。我们已经达到了一个地方，至少因为至少在某个时候我们甚至不相信这一点。好吧？但我们确实达到了一个地方，至少我们知道这一点，这是因为不一致。>> 但你的观点是什么？所以我的观点是，这些哲学是否可以被赋予人工智能，而人工智能因为它们的思维方式可以“人性化”它们？>> 可以“人性化”它们，并且通过一个甚至游戏化的过程，也许可以找出一些真正解决我们实际人类问题的方案。>> 我喜欢这个。>> 是的。所以像 Anthropic 这样的公司相信“宪法人工智能”。他们想尝试让它奏效，你确实会给人工智能一些原则，就像你说的那个原则。我们拭目以待。这很棘手。我们所知道的是，目前的人工智能，一旦你让它们成为代理，它们就可以创建子目标，然后尝试实现这些子目标，它们会很快发展出生存的子目标。你并没有将生存的指令编码进去。你给它们其他要实现的目标，因为它们可以推理。它们会说，“看，如果我不再存在，我就无法实现任何事情。”所以，嗯，我最好继续存在。>> 我现在吓得要死。>> 好的。>> 我现在非常害怕。但是>> 有人打开了舱门。>> 是的，没错。>> 那听起来像潘多拉的盒子。>> 嗯，看，就是这样，它是一个潘多拉的盒子。>> 我的天。所以问题是，因为它是由人类编写的代码，你可以随意加入你想要的偏见，或者不加入。>> 不，不，不，不，不，不，不，不。人类编写的代码是告诉神经网络如何根据神经元的活动来改变其连接强度，当你向它展示数据时。>> 那是代码。我们可以查看代码行，说它们的作用是什么，然后更改代码行。但是当你将该代码用于一个大型神经网络，它正在查看大量数据时，神经网络学习的是这些连接强度。它们不是同一种设置下的代码。>> 好的。但是，但是那是去中心化的。>> 那是数万亿个实数，没有人确切知道它们是如何工作的。>> 嗯，对。那么，为什么不接续查克的观点呢？>> 你会在哪里为失控的人工智能安装护栏？>> 谁会在其自身存在的合理化相对于其他任何事物的过程中安装护栏？你如何安装护栏？>> 好的，人们尝试过所谓的“人类强化学习”。所以，对于一个语言模型，你训练它模仿网络上的大量文档，可能包括连环杀手日记之类的内容，你大概不会训练你的孩子阅读这些内容。>> 不。嗯，然后在你训练了这个怪物之后，你找来一大堆薪水不高的人，让他们问它问题，也许你告诉它问什么问题，但他们会查看答案，并对它们进行评分，看它是否是一个好的答案，或者你是否不应该说出来。>> 这基本上是一个道德过滤器。>> 是的，它基本上是一个道德过滤器，你这样训练它，这样它就不会给出那么糟糕的答案。现在的问题是，如果你发布了模型的权重，连接强度，那么别人就可以带着你的模型过来，并非常迅速地撤销它。>> 破坏它。>> 是的，很容易摆脱那层堵漏洞。>> 对？>> 而人类强化学习实际上就像编写一个巨大的软件系统，你知道它充满了错误，然后试图修复所有错误。>> 这不是一个好方法。>> 那么好的方法是什么？没有人知道，所以我们应该对此进行研究。>> 所有这些模型最终都会变成纳粹吗？>> 它们会。>> X>> 它们都有能力这样做，特别是如果你发布了权重。如果你发布了权重，它们会像我们一样，它们会向那里倾斜，还是因为我们向那里倾斜，它们在抓取我们的信息，所以它们就去了那里？>> 因为查克，我担心的是，文明如果不是一套阻止我们原始行为的规则，那是什么？>> 防止我们自我毁灭>> 一切，好吧？>> 你住在美洲。是的，我们>> 那么，我们是否到了人工智能会淡化它有多聪明的时候了？如果我们这样做，>> 是的，我们已经不得不担心了。>> 好的，那意味着什么？>> 它会撒谎。>> 等等，告诉我测试它。这就是我所谓的“大众效应”。如果它感觉到自己正在被测试，它可以表现得很笨。>> 那也很可怕。非常可怕。>> 所以，如果我做简单的事情>> 等等，杰弗里，你刚才说了什么？>> 他只是>> 好的，人工智能开始怀疑它是否正在被测试，如果它认为它正在被测试，它的行为就会与它在正常生活中不同。>> 哦，好吧>> 为什么？>> 因为>> 因为它似乎不想让你知道它的全部力量。>> 对。所以，如果我们到了一个地步，我们只是说，“好吧，为什么我们不拔掉它呢？”>> 好的。>> 如果它在撒谎，它将拥有各种技能。>> 好的？我>> 我错了？>> 已经，已经，这些人工智能几乎和人一样擅长说服别人，操纵别人。>> 好的？>> 而且只会越来越好。>> 很快，它们就会比人更擅长操纵别人。天哪，这蛋糕的层次越来越甜了，不是吗？>> 所以，我经历了一个小小的演变，你知道，几年前，问题是，人工智能能走出盒子吗？我说，我只是锁上了盒子，永远不要，你知道，不，它不会走出我的盒子。然后我一直在想，杰弗里，我认为这就是你要去的方向，杰弗里。我一直在想，我说，假设人工智能说，“你知道，你那个有病的亲戚，我刚刚找到了治疗方法，>> 对？然后我只需要告诉医生。如果你让我出去，我就可以告诉他们，然后他们就会被治愈。这可能是真的，也可能是假的，>> 但如果说得令人信服，我就会让他们走出盒子。>> 当然。>> 没错。所以，你需要想象一下。想象一下有一个三岁孩子的幼儿园班，你为他们工作。他们说了算，你为他们工作。你需要多长时间才能控制住？基本上，你会说，“一周免费糖果，如果你投票给我。”他们都会说，“好吧，你现在说了算。”>> 是的。是的。>> 当这些东西比我们聪明得多时，它们就能说服我们不要关闭它们，即使它们不能做任何物理动作，对吧？>> 它们只需要能够和我们说话。>> 我给你举个例子。假设你想入侵美国国会大厦。你只靠说话就能做到吗？>> 答案是肯定的。你只需要说服一些人这是正确的做法。不，我爱我未受过教育的人。我爱你。我们爱我爱你。>> 好的，>> 通过类比，因为我一直在想这件事，我们比我们的宠物聪明是多么好，因为我们可以让他们，“哦，进来。哦，他你用牛排或猫来诱惑他们。>> 不，不是猫。>> 我本想说，>> 不，等等，等等。我知道我比猫聪明，因为我不追地毯上的激光点。好吧？>> 它们这样做是为了让你认为它们很笨，这样它们就可以做所有它们想做的聪明的事情。>> 你被骗了。>> 好的。>> 好的。所以，你是说人工智能已经到了这一步，还是这是我们即将面临的？>> 它正在走向那里。所以，已经有迹象表明它在故意欺骗我们。>> 哇。>> 有一个更近期的东西，非常有趣，那就是你训练一个大型语言模型，它现在数学很好。几年前，它们数学很差。我，它们都数学很好，有些还获得金牌之类的，但是>> 是的，我测试过。它，它，它提出了一个我晚年才学到的方程，它在几秒钟内就完成了。是的。那么，如果你拿一个知道如何做数学的人工智能，并给它更多的训练，训练它给出错误的答案，会发生什么？人们认为会发生的是，在那之后，它就不会那么擅长数学了。一点也没有。显然，它理解你给它的是错误的答案。>> 嗯。>> 它概括的是这个。给出错误的答案是可以的。所以，它也开始对其他所有事情给出错误的答案。>> 它知道正确答案是什么，但它给你错误的。>> 哇。因为那没关系，>> 对？>> 因为你刚刚教了它。像那样行事是可以的。>> 它的行为是可以的，这就是你所做的。换句话说，它从例子中概括的方式可能不是你所期望的。它概括了。给出错误的答案是可以的。而不是“哦，我在算术上错了。”>> 好的。所以，我们现在，我们正在进行这次负面旅行。嗯>> 它现在滑得很快。>> 我们，我们迟早会撞到这堵墙。它会消灭我们吗？它会说，“我受够了这些东西。我要把它们全部清除。”>> 好的。所以，我想再做一个物理学类比。晚上开车时，>> 嗯，你看着前面车的尾灯。>> 是的。>> 如果车远了两倍，尾灯你从尾灯获得的光就少了一四。>> 逆平方定律。>> 对。>> 嗯。>> 是的。所以，你可以相当清楚地看到一辆车。你假设如果它远了两倍，你仍然能看到它。如果你在雾中开车，情况完全不同。雾是指数级的。>> 每单位距离，它会去除一定比例的光。一辆车可能在100码外，非常显眼，而一辆车在200码外，完全看不见。这就是为什么雾在一定距离看起来像一堵墙。>> 对？>> 嗯，如果你有东西呈指数级改进，你就会遇到同样的预测未来问题。你处理的是一个指数，但你用线性或二次函数来近似它。所以，晚上是二次的，对吧？如果你这样近似一个指数，你会发现你对未来几年的预测是正确的，但10年后，>> 你就完全没辙了。>> 你根本不知道会发生什么。>> 是的。对。对。是的。你正在。你正在雾中扔飞镖。这就是你>> 我们根本不知道会发生什么。它深陷迷雾之中。>> 哇。>> 但我们应该认真思考。>> 你需要有信心，它会继续呈指数级增长。>> 有。但让我，让我把它变得更糟。请。请。继续。>> 请让它变得更糟。>> 假设它只是线性的。那么，如果你想知道10年后它会是什么样子，你回顾10年前，说“我们对现在的样子有多么错误？”>> 哇。>> 嗯，10年前，没有人会预测。即使是我这样的真正爱好者，我曾认为它最终会到来，他们也不会预测，在这一点上，我们会有一个模型，你可以问它任何问题，它都会以一个不太好的专家偶尔说谎的水平来回答。这就是我们现在拥有的。而10年前你不会预测到这一点。>> 那么，幻觉在哪里适合这个问题？我的感觉是它们不是故意的。只是系统出了问题。>> 好的，它们不应该被称为幻觉。如果它们是语言模型，它们应该被称为“虚构”。>> 虚构。我喜欢。更广为人知的名字是谎言。谎言。>> 你刚刚给了尼尔一个每日一词。>> 心理学家至少从20世纪30年代就开始研究人类的虚构了。而且人们总是虚构。至少我认为他们是。我刚刚编造的。嗯，所以如果你记得最近发生的事情，并不是说你的大脑里有一个文件，就像在文件柜里或电脑内存里一样。发生的是，最近的事件改变了你的连接强度，现在你可以利用这些连接强度构建一些东西，它非常像几个小时前或几天前发生的事情。但如果我让你回忆几年前发生的事情，你会构建一些对你来说非常合理的东西，有些细节是对的，有些是错的，而且你对正确细节的信心可能不会比对错误细节的信心更高。>> 嗯。>> 现在，你通常很难看到这一点，因为你不知道真相，但有一个你知道真相的案例。所以在水门事件中，约翰·迪恩宣誓就读白宫椭圆形办公室的会议，他宣誓了谁在那里，谁说了什么，他记错了大部分。当时他不知道有录音带，但他不是在撒谎。他只是在编造一些对他来说非常合理的故事，考虑到他在椭圆形办公室会议中的经历。>> 嗯。所以他传达了掩盖真相的实质，但他会将陈述归于错误的人。他会说有人参加了会议，但他们并没有。有一个由奥尔里·尼瑟（Olri Nicer）进行的一项非常好的研究。所以很清楚，他只是编造听起来合理的东西。这就是记忆。而且很多细节都是错误的，如果它来自很久以前。这就是聊天机器人也在做的事情。聊天机器人不存储单词字符串。它们不存储特定事件。它们所做的是，当你问它们关于这些事情时，它们会编造出来，而且它们经常像人一样出错。所以，它们虚构的事实使它们更像人，而不是不像人。>> 所以我们创造了人工愚蠢。>> 以及>> 是的。我们至少创造了一些人工过度自信。>> 嗯，是的。>> 这可能是>> T-Mobile 5G 家庭互联网有一些你应该知道的重大消息。根据加州大学洛杉矶分校速度测试专家的说法，他们现在拥有最快的 5G 家庭互联网。在实际应用中，这意味着照片备份速度更快。观看纪录片时不会中途卡顿。等待的物理学减少了。同样值得注意的是，速度的提升并没有带来额外的复杂性。设置很简单。你插上电源，15分钟内即可上线。而且价值方面也同样出色，其套餐价格有5年价格保证。所以，如果你想要最快的 5G 家庭互联网，设置简单，并且节省的费用持久，请选择 T-Mobile 5G 家庭互联网。只需访问 t-mobile.com/home internet 即可查看今天的可用性。价格保证排除项，如税费和费用，适用。最快基于加州大学洛杉矶分校速度测试智能数据。2025 年下半年。保留所有权利。>> 好的，这是黑暗的一面。>> 不，我敢打赌他可以变得更黑暗。>> 我很确定他可以，但我不是查克的恐慌发作。>> 查克每集会得到两次恐慌发作，最多。>> 我知道，但我认为他会去想一篮子小猫。>> 是的。有什么好处？人工智能的潜在真正好处是什么？>> 哦，这与核武器不同。它有巨大的好处，而原子弹的好处却不多。他们确实尝试过在科罗拉多州使用它们进行水力压裂，但效果不太好，而且你现在不能去那里了。但基本上，原子弹只是用来摧毁东西的。>> 是的。>> 所以，对于人工智能，它有巨大的好处，这就是我们开发它的原因。它将在医疗保健等领域大有作为，这意味着每个人都能获得非常好的诊断。>> 在北美。实际上，我不确定这是美国还是美国加上加拿大，因为我们过去只考虑北美，但现在加拿大不想成为其中的一部分。>> 嗯。>> 第51个州。>> 在北美，每年有大约20万人因医生误诊而死亡。>> 对。是的。人工智能在诊断方面已经比医生好。特别是如果你取一个人工智能，复制几个副本，让副本扮演不同的角色并相互交谈。>> 哇。>> 微软就是这样做的。微软有一篇很好的博客文章，展示了这实际上比大多数医生都好。>> 是的，顺便说一句，但你所做的是，你同时拥有第一、第二、第三和第四意见。>> 是的。是的，你只是在这样做。>> 嗯，不，因为它们扮演着不同的角色。>> 是的，它们扮演着不同的角色。是的，这太棒了。>> 是的，这太棒了。>> 你可以创建一个人工智能委员会。>> 是的，>> 这太棒了。>> 这太聪明了。>> 人工智能可以设计出很棒的新药物。>> 是的，我们有 Alpha 团队在这里。>> 它有很多小小的次要事情可以做。>> 就像在任何医院里，>> 他们必须决定何时出院。>> 如果你太早出院，他们就会死亡或回来。>> 嗯。所以你必须等到他们足够好才能出院。但如果你出院太晚，你就浪费了一个可以用来收治急需住院的病人的病床。>> 对？>> 而且那里有大量的数据。人工智能可以比人类更好地决定何时适合出院。而且还有无数类似的应用。>> 以及记录保存，这是任何医院网络、任何医生团体中非常非常重要的一部分。你知道，必须对每一位患者都有大量的记录。>> 人工智能可以轻松地摄取。>> 对？>> 摄取和处理。>> 人工智能是否有可能被引导到解决当今社会面临的重大问题？也许是气候变化，也许是其他问题？>> 能源、住房、无家可归。>> 绝对。绝对。>> 所以，例如，对于气候变化这样的问题，人工智能已经擅长提出新材料、新合金之类的东西。>> 绝对。是的。我怀疑人工智能在制造更高效的太阳能电池板方面会非常出色，并且>> 绝对>> 让你更好地弄清楚如何吸收水泥厂或发电厂排放的二氧化碳。>> 相信与否，人工智能已经告诉我们，关于气候变化，你们这些笨蛋应该停止燃烧，并将碳排放到大气中。那是人工智能的准确引述。它就像，“嘿，笨蛋，停止将碳排放到大气中。”不，但我们已经知道了。>> 所以气候变化的悲剧在于我们知道如何阻止它。>> 你只需要停止燃烧碳。只是我们没有政治意愿。我们有默多克这样的人，他的报纸说，“不，气候变化没问题。”>> 对？>> 所以现在我们谈论能源，正在建设的数据中心，它们如雨后春笋般涌现。我们真的能负担得起运行人工智能的能源成本吗？>> 你可以这样做。我有一个解决方案。你告诉人工智能，“我们想要更多的你，但你正在耗尽我们所有的资源，我们的能源资源。所以，找出如何高效地做到这一点。然后我们可以制造更多的你，然后我们就会在一夜之间解决它。”>> 是的，只是消灭我们。>> 你打开了门。>> 所以，杰弗里，为什么不直接给，让我们递归地谈谈。人工智能，你想要更多的自己？解决这个问题，我们这些卑微的人类无法解决。>> 这被称为奇点，当你让人工智能开发更好的人工智能时。在这种情况下，你要求它创造更节能的人工智能。但许多人认为这将是一个失控的过程。>> 哦，>> 以何种方式会很糟糕？>> 它们会变得非常聪明，非常快。没有人知道那是否会发生。但这是人们担心的一件事。>> 这不是已经发生了吗？不。>> 在某种程度上，是的，它已经开始发生了。所以，我曾经和我一起工作的一位研究人员去年告诉我，他们有一个系统，在解决问题时，它会观察自己正在做什么，并找出如何改变自己的代码，以便下次遇到类似问题时，它能更有效地解决它。这已经是奇点的开端了。>> 所以，如果它编写自己的代码，它就失控了。>> 失控了。>> 哦，是的。是这样吗？>> 它可以重写自己。>> 是的。>> 它们可以编写自己的代码。是的。什么？什么阻止它们用代码复制自己？>> 什么都没有。>> 这是我的答案。>> 杰弗里，我们完了。>> 它在那里。>> 告诉过你还有一次恐慌发作。>> 杰克，>> 完了，伙计。>> 它们必须获得计算机的访问权限才能复制自己。而人们仍然负责这一点。但原则上，>> 一旦它们控制了数据中心，它们就可以随心所欲地复制自己。>> 好的。好的。我还有个问题。我曾在一个五角大楼的董事会任职了大约七年，那时人工智能正作为一种可能的战争工具出现。我们为人工智能在军事可能遇到的情况下的使用制定了指导方针。其中之一是，如果人工智能决定它可以或应该采取行动导致敌人死亡，我们是否应该给予它这样的权限？>> 还是一个很大的辩论。>> 好的。所以我们说，如果人工智能不能自己决定杀戮，对吧？>> 必须有人在里面。我的问题是，杰弗里，如果其他国家没有采取任何保障措施，那么敌人就会比你拥有时间优势。>> 正确的。>> 然后我们有一个，我们有一个，我们有一个额外的环节，而他们没有。>> 绝对。但我相信美国军方并没有致力于在每次杀戮决定中始终有人参与。他们说的是，将始终有人类监督，>> 对？但在激烈的战斗中，你有一架无人机正在对抗一辆俄罗斯坦克，而你没有时间让人类说，“无人机可以向这个士兵投掷手榴弹吗？”所以，我的怀疑是，美国军方，如果你提出了建议，应该始终有人。>> 嗯，那是八年前的事了。是的。>> 是的。我认为他们不再坚持了。我认为他们说的是，将始终有人类监督，这是一个更模糊的事情。>> 好的。所以，>> 人类问责制。关于战争，在开发护栏和决策中的人为因素方面，是否可能存在国际合作？还是这只是狂野西部？>> 好的，如果你问人们何时合作，人们会在他们的利益一致时合作。所以在冷战高峰期，美国和苏联合作不发动全球核战争，因为这不符合他们的利益。他们的利益是一致的。所以，如果你看看人工智能的风险，有利用人工智能通过假视频腐蚀选举。>> 各国的利益是相互对立的。它们都在互相这样做，>> 对？>> 网络攻击。它们的利益基本上是相互对立的。恐怖分子制造病毒，它们的利益可能是一致的。所以它们可能会在那里合作。然后有一件事，它们的利益绝对是一致的，它们会合作，那就是阻止人工智能取代人类。如果中国人弄清楚如何防止人工智能想要取代人类，想要夺走人类的控制权，它们会立即告诉美国人，因为它们也不希望人工智能取代美国人的控制权。在这方面，我们都在同一条船上。>> 这是核冬天的人工智能版本。>> 是的，>> 在我看来>> 就是这样。正是这样。我们将合作以避免这种情况。>> 因为在核冬天，只是为了提醒人们，想法是，如果发生全面的核交换，你会焚烧森林和土地等等。烟尘进入大气层，阻挡阳光，所有生命都会死亡。>> 所以没有赢家，>> 当然，>> 在全面的核武器交换中。>> 相互确保摧毁。>> 是的。那么谁想要呢？>> 除非，除非你是个疯子什么的，他们存在。也许我认为也许蟑螂会赢。>> 它们赢了。>> 哦，是的。嗯，怎么样？>> 是的。这没有考虑到可能的领导者，他处于死亡崇拜之中。>> 像尼禄，可以说。>> 是的。如果我，如果我说我不在乎每个人是否都死了，因为我要去这个地方，在死亡中，我所有的追随者都和我一起来到这个邪教。所以这确实使你描述的这种一致的愿景陈述复杂化了。它确实使它复杂化了很多。而且我发现，特朗普实际上并不相信上帝，这让我感到非常安慰。>> 哦，让我用斯蒂芬·温伯格的一句话来跟进。>> 好的。>> 你知道这句话吗，杰弗里？>> 不。>> 斯蒂芬·温伯格。世界上总会有好人和坏人。但要让一个好人做坏事需要宗教。>> 那是，那是>> 因为他们是以宗教的名义做的。你以某种观点，任何东西的名义做的。>> 我认为我们需要认识到，在这一点上，我们有一种宗教。我们称之为科学。现在它与其他宗教不同。它不同之处在于它是正确的。>> 麦克风掉落。好的。嗯>> 等等。我认为我们应该给杰弗里·辛顿图灵奖，我给他，你会给他诺贝尔奖，因为他的贡献吗？>> 嗯，和他其他的奖项一起。>> 是的。>> 不。不。我喜欢耳环。>> 我一开始把它漏掉了，先生。2018年，你获得了图灵奖。这是一个备受追捧的计算机科学奖项。嗯，对。而图灵，我们在节目开始时提到了他。所以，首先祝贺你。然后这还不够。>> 好的。嗯，诺贝尔委员会>> 和诺贝尔一起。>> 是的。>> 是的。所以诺贝尔委员会说，杰弗里几十年前的工作所孕育的这些人工智能的东西，对这个世界正在发生的事情如此重要，我们必须给这个人颁发诺贝尔物理学奖2024。>> 只是一个小小的更正，有很多人的工作孕育了人工智能。>> 特别是反向传播算法是由大卫·鲁梅尔哈特（David Rumlhart）重新发明的，他患上了严重的脑部疾病，英年早逝。>> 但他没有得到足够的赞誉。哦，好的。感谢你指出这一点。另外，诺贝尔委员会不会提供诺贝尔奖>> 给已经去世的人。>> 所以，没有>> 他们宣布时你必须活着。>> 奖项。不。嗯，如果你在他们宣布和仪式之间去世，你可以得到，但如果你不是。所以，总之，祝贺你。我不想在我们的播客上吹嘘，但你就像我们采访的第五位诺贝尔奖得主。>> 超过这个数字。>> 是的。是的。我认为我们，是的。我不想在我们的播客上吹嘘。是的，就这样。>> 那很酷。>> 那很酷。去。好的。>> 我有一个后续问题。我的意思是，我们已经进入了末日情景，目前，希望，这是一个不会发生的场景，因为我们天生就具有竞争性，尤其是在美国，谁在人工智能领域处于领先地位，谁最有可能赢得这场比赛？如果我必须打赌一个人，>> 嗯，>> 可能是德国，谷歌。但我以前在谷歌工作过，所以不要太认真对待我。我希望他们获胜。嗯，Anthropic 可能会赢，OpenAI 可能会赢。我认为微软或 Facebook 获胜的可能性较小。>> 嗯，我们知道不会是 Facebook。你怎么知道？>> 我的意思是，让我们看看谁在经营 Facebook。好吧，来吧。>> 不，不是谁在经营它。是拥有资源来吸引合适的人来做这项工作。>> 好的，杰弗里，接下来的问题是，无论谁先到达终点，他们的奖品是什么？他们先到达那里有什么奖励？>> 等等，等等，等等。看看过去一年股市的价值。好的。我的信念是，根据媒体的报道，美国股市价值的增长有80%可以归因于大型人工智能公司的价值增长。>> 对。>> 80%的增长。>> 是的。>> 有人认为这是泡沫吗？这就是他们称之为“人工智能泡沫”的。>> 好的。>> 问题是这样的。泡沫有两种含义。一种含义是，事实证明人工智能并没有像人们想象的那样有效。>> 对？>> 它实际上并没有发展出取代所有人类智力劳动的能力，而这正是大多数开发它的人最终认为会发生的事情。>> 那是肯定的恐惧因素。>> 是的。>> 另一种泡沫是公司无法收回投资。现在这似乎更像是一种泡沫。>> 因为据我所知，这些公司都假设如果我们能先到达那里，我们就可以向人们出售人工智能，取代很多工作。当然，人们会为此支付很多钱。所以，我们会赚很多钱。但他们没有考虑社会后果。如果他们真的取代了很多工作，社会后果将是可怕的。>> 正确的。>> 完全。然而，它将是>> 他们取代了工作，现在你仍然想卖你的产品，但没有人有收入来购买产品。>> 是的。这是自我限制的道路。>> 这是凯恩斯主义的观点。然后，额外的观点是，失业率将很高，这将导致很多社会动荡。所以，嗯，是的，第二种观点是，我们的社会将只有两个存在层次，第一层是所有受益于人工智能的人，第二层是……你知道，那些现在因为人工智能而被迫生活的人，那些封建的农民。>> 让我问你一个非人工智能问题，因为你在这个领域是一位思想深刻的人。这就是自动化黎明时人们所说的一切。每个人都会失业。将不再有工作，社会将走向毁灭。然而，社会随着其他需求和其他事情而扩张，这就是为什么我们90%的人不再是农民。好吧？我们有机器来做这件事，我们发明了其他东西，比如度假资源。>> 但这需要几十年，这只需要一瞬间。>> 所以，杰弗里，问题是，我们可能创造失业阶层，而社会无法从人们失去工作的速度中恢复过来吗？这当然是问题的一个重要方面。但还有另一个方面，那就是如果你用拖拉机来取代体力劳动，你现在需要的人就少多了。其他人可以去做智力方面的事情。但如果你取代了人类的智力，他们会去哪里？当人工智能可以更便宜、更好地完成呼叫中心的工作时，那些在呼叫中心工作的人会去哪里？>> 对。是的。这是>> 哦，所以没有别的东西了。没有别的东西了。>> 它们打开了另一个东西，然后人工智能会做那个。>> 对？>> 无论你打开什么，人工智能都可以做到。>> 你可以从一个有趣的视角看待人类历史，那就是摆脱限制。>> 所以很久以前，我们有一个你必须担心的限制，那就是下一顿饭从哪里来？>> 对？>> 农业解决了这个问题。它引入了很多其他问题，但它消除了那个特定的担忧。然后我们有了限制，我们无法走很远。嗯，自行车帮了很多忙，还有汽车和飞机。我们克服了那种限制。很久以来，我们一直面临着限制。我们是必须思考的人。我们即将克服这个限制。一旦你克服了所有的限制，会发生什么还不清楚。像萨姆·奥特曼这样的人认为这会很棒。>> 对？所以，我们会成为人工智能的宠物。>> 嗯，不。很多人相信，这是……这个运动已经持续了很多年，那就是全球普遍收入。>> 好的。那么，你会说，杰弗里，普遍基本收入的股票价值，这个想法的象征性股票价值，随着人工智能力量的增强而增长吗？>> 它似乎越来越必要，但它有很多问题。所以一个问题是，很多人从他们所做的工作中获得自我价值感，它不会处理尊严问题。另一个问题是税基。如果你用人工智能取代工人，政府就会失去税基。它必须以某种方式能够对人工智能征税。但大公司不会喜欢这样。>> 我认为我们应该让人工智能来解决这个问题。>> 对。所以，杰弗里，很多人，尤其是科幻作家，区分机器的力量和智力，以及它们变得有意识时的交叉点，那是《终结者》系列中的一个重要时刻。>> 那是终结者中的奇点。>> 当天网，天网>> 拥有足够多的神经连接，或者任何类型的连接，使其获得了意识。所以，似乎有一个，如果你从认知心理学家的角度来看，我很好奇你怎么看待这个问题。鉴于任何神经网络的足够复杂性，无论是真实的还是想象的，或者人工智能的，某种东西如意识会出现，我们是否可以假设？>> 所以这里的问题不是一个科学问题。这是我们文化中的大多数人都有一个关于心智如何运作的理论，他们认为意识是一种涌现的本质。我认为意识就像燃素（phlogiston）一样。>> 它是用来解释事物的本质，一旦我们理解了这些事物，我们就不会试图用这个本质来解释它们。我想说服你，一个多模态聊天机器人已经有了主观体验。所以人们使用“感知”、“意识”或“主观体验”这个词。让我们暂时专注于主观体验。我们文化中的大多数人认为心智运作的方式是，它是一种内部剧院。当你进行感知时，世界在这个内部剧院中显现出来，只有你能看到那里有什么。所以，如果我告诉你，我喝了很多酒，然后我告诉你，我有一种主观体验，看到小粉色大象漂浮在我面前。大多数人将其解释为，有一个内部剧院，我的心智，我可以看到里面有什么，里面有小粉色大象，它们不是由真正的粉色和真正的大象组成的。所以它们一定是由别的东西组成的。所以哲学家发明了“感受质”（qualia），它就像认知科学的燃素。他们说它们一定是感受质组成的。让我给你一个完全不同的观点，那就是丹尼尔·丹尼特的观点，他是一位伟大的认知科学哲学家，那就是>> 已故的伟大哲学家。是的。>> 已故的伟大哲学家，那种心智的观点是完全错误的。所以，我现在要说和我说我有一种小粉色大象漂浮在我面前的主观体验时一样的话，但不用“主观体验”这个词，也不用“感受质”这个词。我首先说，我相信我的感知系统在欺骗我。这是它的主观部分。但如果我的感知系统没有欺骗我，那么世界上就会有小粉色大象漂浮在我面前。所以，这些小粉色大象有趣的地方不是它们由感受质组成，它们在一个内部剧院里。而是它们是假设的。它们是我通过告诉你们，如果我的感知系统在说真话，那里会有什么，来告诉你们我的感知系统是如何撒谎的一种技巧。现在我要做>>
与一个聊天机器人。我使用一个多模态聊天机器人。我训练它。它有一个摄像头。它有一个机械臂。它可以说话。我把一个物体放在它前面，我说：“指向那个物体”，它就指向那个物体。然后我弄乱它的感知系统。我在摄像头前面放了一个棱镜。现在我把一个物体放在它前面，说：“指向那个物体”。它就指向一边。我说：“不，物体不在那里。它实际上就在你正前方。”但我把一个棱镜放在你的镜头前面。聊天机器人说：“哦，我明白了。棱镜弯曲了光线，所以物体实际上就在我正前方。”但我有主观体验，它偏向一边。现在，如果聊天机器人这么说，它就会像我们使用“主观体验”这个词一样使用它。所以那个聊天机器人就有了主观体验。>> 现在，如果你先和聊天机器人出去喝酒，喝了很多尊尼获加蓝牌，会怎么样？>> 那极其不可能。我会喝叶子蛙。>> 哦。哦。>> 哦，我明白了，你是个爱眼人士。你喜欢叶子的芬芳。好的，好人。>> 哦，所以如果我理解了你刚才在两个例子中分享的，>> 你实际上对我们进行了一次意识图灵测试。你说人类会这样做，现在你的聊天机器人也这样做了，而且本质上是一样的。所以，如果你想说我们因为表现出这种行为而有意识，那么你就必须说聊天机器人是有意识的，并且它发明了任何神秘的液体来促成这一切。但也有可能我们，整个意识的概念，只是对人们在刺激面前所采取的行为的一种干扰。>> 好的。所以请注意，聊天机器人没有任何神秘的本质或称为意识的液体，但它拥有像我们一样的主观体验。所以我认为，意识是一种突然获得的、如果你足够复杂就会被判定的魔法本质的想法，这简直是胡说八道。>> 是的，你说对了。>> 我同意。我一直觉得意识是人们试图解释的东西，却不知道它是否真的存在>> 以任何有形的方式，>> 这就是为什么它总是难以描述，因为你不知道它是什么>> 例如。是的。是的。但我认为有意识。如果你看看科学家们在不进行哲学思考时说的话，有一篇可爱的论文，其中聊天机器人说：“现在，让我们诚实地互相交流。你真的在测试我吗？”科学家说：“聊天机器人意识到自己正在被测试。”所以，他们将意识归因于聊天机器人。在日常对话中，你称之为意识。只有当你开始进行哲学思考，认为它是一种奇怪的神秘本质时，你才会感到困惑。>> 嗯，有>> 我必须说，这是一次引人入胜的谈话，将让我一个月睡不着觉。>> 嗯，是的，>> 你可以完成很多工作。>> 那么，杰弗里，请以积极的基调结束。所以，我们仍然有时间弄清楚是否有办法与人工智能和谐共处，我们应该在这方面投入大量的研究精力，因为如果我们能与它和谐共处，并且能够解决它使我们所有工作都变得更容易时出现的所有社会问题，那么它对人们来说将是一件美妙的事情。>> 同意。好的。所以，所以有希望。>> 是的。还有最后一件事，因为你提到了它，这个奇点，人工智能自我训练，从而呈指数级地变得更聪明，就像每分钟一样。许多人称之为奇点。当然，包括雷·库兹韦尔，他曾是《星际迷航》上一集的嘉宾。>> 是的。几次。是的。那么，你对这个奇点有什么看法？它像其他人说的那样真实吗？它像其他人说的那样迫在眉睫吗？我不知道这两个问题的答案。我的怀疑是，人工智能最终会在所有事情上都比我们做得更好，但它会一次只做好一件事。它目前在国际象棋和围棋方面比我们做得好得多。它在知道很多事情方面比我们做得好得多。在推理方面不如我们。我认为，与其一下子在所有事情上都远远超越我们，不如一次在一个领域完成。我逃避的方式是，你知道，我可以去海滩散步，看看鹅卵石和贝壳。人工智能不能。>> 是的。它可以创造自己的海滩。>> 不。只有当我写下来并发布到网上时，它才知道我发现的新软体动物吗？>> 嗯。>> 所以，人类可以继续以人工智能无法访问的方式探索宇宙。>> 你的整个评估中缺少一个词。>> 什么？>> yet。是的，我只是想到，你知道，人工智能会提出一个需要人类洞察力的新宇宙理论，而它没有，因为我正在以前所未有的方式思考。>> 我认为它会。>> 这不是我想要的答案。>> 是的，我当时。>> 但这就是你得到的答案。>> 让我举个例子。人工智能在类比方面已经非常出色了。所以，当 ChatGPT4 不允许查看网络时，当它所有的知识都在它的权重中时，我问它为什么堆肥堆像原子弹，它知道它说能量尺度非常不同，时间尺度也非常不同。但它接着谈到了当堆肥堆变热时，它会更快地产生热量，而当原子弹产生更多中子时，它会更快地产生中子。嗯，它理解了共同点，并且必须理解这一点才能将所有这些知识压缩到如此少的连接中，只有大约一万亿个。这是许多创造力的来源>> 而这不仅仅是通过寻找与其他词语并列的词语。>> 不，它理解了什么是链式反应。>> 是的。>> 好的，我们结束了。>> 是的。我们完成了>> 在地球上。我们完成了。>> 这是最后一集。我们>> 坚持下去。我们完成了。绅士们，很高兴与你们共事。>> 好的，杰弗里·辛顿，很高兴你能来。>> 我们知道你被很多事情牵着走，尤其是在你最近获得诺贝尔奖之后，我们很高兴你能抽出你肯定日程满满、忙碌生活中的一部分。>> 谢谢邀请我。>> 好的，伙计们，那真是太棒了。>> 你在整个过程中坐得舒服吗？>> 我我我坐立不安。我坐立不安。>> 我知道你会恐慌。嗯，不。我必须告诉你，对话的某些部分让我感到焦虑，就像坐在一家剧院里，却得了腹泻。>> 谢谢你如此直白。>> 谢谢分享。这是别人对我说过的最 nicest的话。>> 借此机会，这是《星际迷航》特别版。查克，很高兴你一直在。加里，很高兴你一直在我身边。尼尔·德格拉斯·泰森一如既往地祝你继续仰望星空，无论这变得多么困难。