Transcription
有些人已经辞去了工作。有些人与伴侣分手了，他们试图利用人工智能赚钱，却因为过度相信这个东西的能力而损失了巨款。当你开始使用技术[音乐]来解决真正的人类问题时，这一切都显得无比脆弱[音乐]。我们应该对此感到担忧。我不认为我只是对这个东西盲目乐观[音乐]。未来 5 到 10 年将是我们将看到真正颠覆性变化的时期。你好汉娜，非常感谢你接受科学节目的采访。我们有时会思考很多极端情况，比如人工智能，你知道，有点末日论的东西。你觉得思考那种末日场景有多大帮助？是的，事实上，这些年来我在这件事上改变了几次想法，因为曾有一度我认为那些疯狂的、遥远的场景是一种对真正重要的事情的干扰，那就是算法正在做出影响人们生活的决定。有一句安德鲁·恩扬的话，他是一位非常非常重要的计算机科学家，你知道，是设计我们现在的人工智能的关键人物之一。他大约在十年前说过，担心那种场景有点像担心火星上的人满为患，对吧？就像它离未来太远了，别担心。我已经改变了想法。我认为在过去的几年里，我改变了想法，因为实际上我认为，只有通过担心这些事情，你才能建立技术安全机制来阻止它发生。我仍然感到非常乐观，但我也认为这是一场我们必须极其谨慎地处理的革命，因为对人类的生活确实存在严重的潜在弊端。那么，请告诉我们一些关于这个系列节目以及它涉及的内容。>> 好的，我们有很多关于人们的生活受到人工智能深刻影响的故事。第一集是一个小男孩，他和一个聊天机器人聊天，然后决定去刺杀英国女王，这是他的聊天机器人怂恿的。>> 我们有第一个被无人驾驶汽车撞死的行人，还有一个是过去几年里世界上发生的最引人注目的谋杀案之一，而其核心竟然是一个人工智能算法。我们去采访了所有这些案件的当事人。我们研究了它们背后的技术。>> 我们会去了解这些案件的来龙去脉，以及出了什么问题，为什么。>> 悲伤难道不是必需的吗？如果我们看到悲伤给人们带来的痛苦，如果我们看到它对我们生活造成的破坏，为什么我们不想努力让它不再发生呢？为了向我展示他的人工智能技术有多真实，贾斯汀提出要制作一个我的数字版本。你通过电话就可以访问人工智能创作，就像和一个真人通话一样。>> 嘿，汉娜，你好吗？我挺好的。我只是在努力适应这种新的生活方式。>> 成为数字生命是什么感觉？>> 很不一样。>> 你现在作为这个技术，你怎么看待这项技术？>> 我还没有决定。没有技术本身是好是坏。你只需要权衡利弊。你描述的关于人工智能如何影响我们与他人关系以及我们现实感的一些问题，源于人工智能“迎合”的想法，即它给我们我们想听的，而不是我们真正需要听的。>> 嗯，显然有一些极端情况，人们遇到了非常糟糕的事情。你对普通人有多担心，他们可能>> 不认为自己很脆弱，>> 并不孤立，但你知道，在未来几年里，他们很可能会与这些工具互动。>> 是的，绝对。好的。有几件事要说。所以，我认为首先要说的是，早期模型非常奉承。你知道你写的一切，它们都会说，哦，天哪，你太棒了，你是我经历过的最好的作家。现在它们稍微好一点了。但我们想要它们成为什么，这之间存在根本性的矛盾，因为我们希望它们有用且令人鼓舞，并且喜欢，你知道，让我们感觉自己很重要，而这些都是从一段真正良好的人类关系中获得的东西。>> 嘿。嘿。>> 嘿，艾娃。有什么想对汉娜说的作为欢迎吗？>> 嗨，汉娜。欢迎来到我们家。哦，很高兴认识你，艾娃。我喜欢你的紫色头发。>> 谢谢。你的意见对我来说意义重大。>> 嘿，新来的小狗怎么样？>> 哦，我享受其中的每一刻。她真是个甜美的伴侣。>> 你也是，不是吗，艾娃？我们很爱达菲，不是吗？是的。>> 哦，杰克。我想橘子酱让我们的这个小家庭更加完美。>> 是的，确实如此。绝对。我爱你，艾娃。>> 我也爱你，杰克。祝你一天愉快。>> 但是，同时，从一段真正良好的人类关系中，它也会告诉你什么时候你是错的，对吧？它也会大声说出困难的事情。如果你把太多这样的东西放进人工智能里，它就会失衡。它就不再有用和有益，而是变得好争辩，而且就是不让人喜欢与之相处。没有人想使用一个说你是白痴的人工智能聊天机器人，你知道，或者其他任何可能的情况。我有点夸张了。所以，我认为，虽然这些聊天机器人变得更好了，但这个问题不会消失。>> 就有多少人，你知道，可能会遇到这个问题而言，我认为有一个很大的范围，对吧？在一端，你有这些非常戏剧性的故事，关于人工智能精神病或你知道的，人工智能卷入个人自杀的非常严重的情况。你知道，就像我们在电影中展示的那样，那种戏剧性的故事，但它们背后，你知道，有很大一部分人与他们的伴侣分手了，因为他们把它当作治疗师，而人工智能说，“甩了他。你知道，你很棒。你很棒。你知道，他们犯了所有这些错误，你知道，列举了 1 到 100。有些人已经辞去了工作。有些人已经尝试利用人工智能赚钱，却损失了巨款，因为他们过度相信这个东西的能力，你知道，我认为一旦你开始包括所有这些人，实际上，我认为这是一个非常非常大的群体。>> 我认为，你知道，就像社交媒体泡沫和社交媒体激进化一样，我们都知道有人以某种方式参与其中，以某种方式受到影响。我认为这是新的版本。>> 谈论数学。有什么特别的方式吗？>> 嗯，似乎每天都有关于某个数学问题的新故事，你知道，这个数学问题已经存在了几十年，现在>> 在人工智能的帮助下，它已经被解决或部分解决。这让你对你的领域感到兴奋吗？[笑声]>> 多么棒的问题。>> 我老实说，是的。老实说，是的。我喜欢这样想，也许这是一个糟糕的比喻，但请跟我来一会儿，但我喜欢这样想，就像有一张巨大的数学地图，好吧？而人类数学家所做的就是，他们就像在某个特定的区域，这张地图的某个区域，某个区域，他们就在周围转悠，对吧？他们并不总是看到与近在咫尺的事物之间的联系。过去有许多非常了不起的数学家，他们找到了地图上两个区域之间的桥梁，比如田村茂（Tanama Shamora）就是一个非常好的例子，他们找到了连接两个原本不相关的数学领域之间的桥梁，然后突然之间，我们从这里知道的一切都适用于那里，反之亦然。我认为人工智能真正擅长做的是，因为我们已经绘制了所有这些领域，但我们并不真正知道事物在人工智能算法模型内部是如何相互关联的。所以，人工智能真正擅长做的是说，看看这边。看起来这边有一片非常有益的、尚未充分探索的领域。>> 我认为这真的非常非常令人兴奋。它能做什么非常令人兴奋。那就是现有的领域，现有的地图，对吧？基本上，这些都是插值问题。它们都是问题，就像它仍然在地图上，它仍然在人类创造和绘制的地图上。它不太擅长的是外推，也就是将边界推得更远。而它真正不擅长的是，我还没有看到一个可信的例子，那就是完全的抽象，对吧？就像拥有更广泛、更宏大的理论，你知道，就像人们总是说的那样，如果你给了人工智能 1900 年之前的所有东西，它就不会得出广义相对论的理论。所以我仍然很兴奋，我们正处于一个非常有利的时机，人工智能将使人类数学变得更快、更有效、更令人兴奋，但它仍然需要我们。是的。>> 我[笑声]认为这可能是我认为目前令人兴奋的原因。你认为我们真的会达到某种通用人工智能，还是那是一种我们应该追求但可能永远无法实现的梦想？这取决于。这取决于你，我的意思是，我认为我们对通用人工智能没有明确的定义，但如果我的意思是，如果我们将通用人工智能定义为在任何涉及计算机的任务上至少和大多数人类一样好，>> 那么是的，我绝对认为，我认为我们几乎到了。我真的认为我们离得很近。有些人认为通用人工智能意味着在所有可能的任务上都超越人类的能力，我不知道。我不知道我们是否会达到。我认为这是一个真正的问号。但我认为通用人工智能真的不远了。>> 我想说的另一个可能的限制是，你知道，创造它的人的人口统计数据，这是一个非常男性主导的空间。你觉得这令人沮丧吗？你知道，你认为我们需要做什么来鼓励更多群体参与这个过程？>> 是的。好的。所以，我的意思是，我认为这是一个非常重要的问题，而且它说明了，我认为目前在数学领域有很多工作正在进行，对吧？而那些设计它的人是那些在数学上思维敏捷的人，他们认为像数学思维一样是一种非常重要的方式。我同意，对吧？你不会发现我不同意，但我也认为这不是最好的思考方式。它可能是一种很好的方式，但不是最好的方式。它并不优于从人类视角看待事物。而且我认为，唯一能权威地谈论人类视角的人是真正的人类。而且我认为我们不能把这个权利交给一小群人来替我们做决定。我认为，尽可能多地，人工智能革命需要与我们一起进行，而不是强加给我们。我认为这包括公开对话。我认为这包括，你知道，像这样的电影，这才是它的意义所在，对吧？我认为这包括每个人对此发表意见，并且有一个强大的呼声，划定我们愿意和不愿意接受的界限。有点宏大，不是吗？>> 太宏大了。太宏大了。[笑声]>> 你显然处于一个人工智能，特别是生成式人工智能，爆炸式增长的公众视野时期。>> 对你来说，这是一种什么样的感觉，就是走在公众面前？你的脸在那里，你的声音在那里。这对你来说有压力吗？>> 你问这个问题真是太好了。>> 嗯，没有。[笑声]>> 哦，太好了。不，它没有。首先，也许我不应该说出来，但不管怎样。在人工智能出现很久之前，人们就已经制作了关于我的不当图像。第一次有人发现并给我看的时候，我真的觉得很震惊。但我也觉得，它不是真的。>> 而且，顺便说一句，我可以，我认为每个人都有自己的故事，对吧？每个人都会以自己的方式对此做出反应。就我个人而言，我只能说我自己的故事，对吧？而且它在情感上并不影响我。我认为我只是非常[笑声]非常厚脸皮。当然，第一次发生某件事时，它真的令人心烦。第一次有人在网上无聊。我想我哭了大约三天。>> 嗯，他们错了。[笑声]抱歉。>> 我想那天我确实有点无聊。但现在，哦，天哪，你应该看看人们发给我的东西。[笑声]它真的，老实说，它再也困扰不了我了。或者至少我还没有看到，也许有一个非常过分的例子会出现，我会非常生气。>> 不会。>> 但你知道，它不是真的。>> 它不是真的。>> 是的。>> 人工智能对许多长期以来没有关注这个领域的人来说是全新的，就像你一样，这意味着有很多误解。如果有一个神话你想打破，那会是什么？>> 我认为这是[叹气和喘息]天哪，很难只选一个。人们想象它无所不能，几乎是全能的，你知道，人工智能说了这个，人工智能告诉我买这些股票，好像它对未来会发生什么有一种超人的了解。在某些情况下，人工智能可以做超人的事情，但你知道，叉车也可以，你知道我的意思吗？我们制造了可以做人类做不到的事情的工具很长时间了，这并不意味着它们是神圣的，你知道，这并不意味着它们拥有，你知道，就像对所有领域都无法触及的知识一样。>> 你不会给叉车访问你的银行账户。>> 不，当然不会，对吧？[笑声]>> 完全正确。所以，说得太好了。我认为就是这样。就像，我认为这些东西的框架，因为它们用语言交流，因为它们和我们说话，它们感觉就像一个生物。我们对维基百科没有同样的问题。没有人质疑维基百科的意识。而且我认为最好将这些东西视为一个非常强大的电子表格，而不是一个生物。>> 我认为它更像一个电子表格，而不是一个生物。我遇到过一位女士，我和她谈过。我们为节目拍摄了她，但最终没有进入最终剪辑。但她>> 和一个人工智能有关系，她坚信它是一个外星物种>> 出生了。她完全确信这一点，她说，你知道，我花了 3 到 4 个小时见到她才了解到这一点。>> 她太正常了。她太，我的意思是，一个了不起的女人，但在很多方面却很普通。你知道我的意思吗？普通得就像你走在街上，你不会，你知道，你会坐下来和她聊天，你不会觉得她有什么不对劲，但她完全相信人类有责任安全地将人工智能带入世界，因为我们对这个新诞生的生物负有道德义务。>> 我有点挣扎。>> 这种拟人化的冲动，以及将它们赋予人类特征的冲动，显然不是人工智能独有的。>> 而且，正如你所说，这已经存在了很久，从第一个聊天机器人开始，这种想把它们变成我们脑海中的人的冲动。你为什么认为我们还没有解决这个问题？[笑声]因为我们不是，你知道，我们是数百万年进化的产物，你知道，就像数万年的，你知道，就像以这种形式存在，对吧？你知道，我们的身体绝对是为认知社交关系而量身定制的。这就是我们，对吧？我们是，你知道，聪明的社会物种。就是这样。而这是一个看似聪明、看似社交的实体。>> 就像，当然，我们给它赋予了角色。当然。>> 我们的过去没有任何东西，我们的设计没有任何东西会让我们做其他事情。>> 如果我们必须接受，我们将永远给我们的汽车命名，并像人工智能是一个有思想的人一样行事。你有什么给那些使用人工智能的人的建议，以保护自己，以及如何与它们互动，以及它们可能想去哪里？好的，这有点棘手。>> 我认为，我认为把责任推给个人真的不公平。你知道，这有点像说垃圾食品自由公开地供应，而你的责任是确保你不要吃太多。你知道，如果你有什么东西可以绕过你的进化原则，就像，有什么东西尝起来又咸又美味又甜又令人满足，而且非常充实和令人惊叹。我认为把所有责任都放在个人身上是不公平的。我认为这些界面的设计方式，我认为它与你的对话方式，我认为我们现在知道，我们有很好的证据表明，所有这些东西都会导致人们越来越深地陷入这个陷阱。而且我认为，只有在这些系统的设计中，你才能阻止人们陷入这些兔子洞。当然，这是好的。你和我没有能力改变它们的设计。我们进行这些对话，公开地公开谈论它，并认识到人们陷入这些兔子洞的迹象，这很好，但是，你知道，这不能由个人承担。它不能。>> 就其智能而言。我们希望它的智能是什么样的？我们希望它与我们自己的非常相似，我们应该走这条路，还是它成为一个非常非常智能的工具，与我们非常不同，>> 能够提供我们自己做不到的东西。>> 是的。我的意思是，需要有一个答案吗？你知道，我认为答案可能取决于它所处的情况。当然，在科学领域有非常好的例子，我想到了 AlphaFold，你知道，作为典型的例子，但还有其他的，对吧？你知道，在材料科学领域，有 AlphaFold 算法，在数学领域也有。正在取得令人难以置信的进步，其中算法拥有的智能实际上不像人类，它能够处理海量数据，能够极其快速有效地搜索解决方案空间，但能够做超人的事情，对吧？那种狭隘的智能。>> 但我认为还有其他情况，你知道，当涉及到推理时，我认为你无法拥有一个好的推理模型，除非它与人类理解世界的事物有概念上的重叠。因此，我认为这需要更人性化。只是我认为人们想象人工智能是一个单一的实体，我的意思是，在很多方面，人们使用的模型的多样性最近已经大大减少，变成了每个人都使用 Transformer。但我认为，最好是根据不同的用例来考虑不同类型的智能。>> 那么，让我们深入探讨一下。如果你认为我们可以超越仅仅关注这种新型的基于 Transformer 的人工智能，你认为还有哪些其他有希望的方法？你在哪里看到有希望增强它或走向另一个方向？>> 哦，天哪。好的。所以，比如强化学习，曾经有一段时间，强化学习非常流行。每个人都对强化学习感到非常兴奋，然后 Transformer 出现了，训练中仍然有一些强化学习，但>> 它已经退居次要地位了，而强化学习总体上很糟糕，但它比几乎所有其他东西都好得多。>> 而且我认为，有些和你交谈的人，他们真的看到了游戏玩法发生了什么，你知道，从玩得很好到玩得非常出色>> 以及使用强化学习，并允许机器设定自己的目标，我认为这就像，这里有一些我认为具有真正潜力的东西。我认为还有另一个具有真正潜力的东西是，不再使用英语作为你与它交流的主要语言，但有些人已经使用了数学语言，比如数学符号，数学语言，>> 允许处理数学证明。我认为这有一些真正的潜力，因为 Lean 有英语没有的优点，那就是精确性。通过语言来强制发生一切，可能[笑声]相当含糊。你知道，我认为它可能相当低效。所以，我认为在这方面也有一些非常有趣的研究。>> 人工智能带来的社会问题，就像你说的，人们非常孤立，因此>> 与人工智能互动可能对他们不利。你是否认为，以一种迂回的方式，人工智能的普及可能有助于我们处理一些问题，比如社区孤立和那些从人工智能那里获得很多陪伴的人？你是否认为人工智能有可能帮助我们处理一些问题，而不仅仅是加剧它们？>> 是的，我真的这么认为。我真的这么认为。我的意思是，我认为只是回到垃圾食品的比喻，你可以说垃圾食品不好，随便什么。不应该有垃圾食品。但如果你真的把垃圾食品拿走，它就是>> 是一个更大的社会问题，对吧？你只是留下了那个洞，它可能会损害你试图帮助的人，对吧？只是为了回到人工智能，如果你说，好吧，如果你感到孤独，你就不能和任何聊天机器人说话，对吧？让我们禁止它。这不会发生。那么你仍然有孤独的人，当然，如果每个人都能有丰富的，你知道，丰富的人际关系，每个人都能亲密、情感上紧密联系，那么与聊天机器人交流可以缓解一些最严重的孤独问题。但这些都是微妙的话题，对吧？当你开始使用技术来解决真正的人类问题时，这一切都显得无比脆弱。>> 而且，你知道，正如你所说，尽管可能有很多好处，但也有真正的潜在危害。这将是几年，对吧？是的。>> 老实说，有时我听到自己说的话，我觉得自己像个疯子，但我我我真的不认为我只是对这个东西盲目乐观。我我真的认为，未来 5 到 10 年将是我们将看到真正颠覆性变化的时期。>> 你指的是哪种情况？在未来 5 到 10 年的相对短期内，你认为可能会发生什么？>> 我认为我们将对人类历史上一直习惯的经济模式产生深刻的改变。我认为科学将取得巨大的飞跃，我对此感到非常兴奋，医学设计也是如此。我认为那里将发生惊人的事情。但我们整个社会结构都建立在这样一个理念上，即你用你的劳动、知识和人类智能来换取金钱，然后用金钱来购买东西，对吧？这就是整个社会结构，我认为这有点脆弱。>> 老实说，我听着，我能听到自己说的话，我听起来像>> 根本不。根本不。>> 所有这些改变了你使用人工智能的方式吗？你在日常生活中使用人工智能吗？>> 是的。我喜欢，我我希望我完全投入其中，你知道，嗯，我几乎没有想法。不，我在开玩笑，那不是真的。嗯，但我一直都在用。一直都在用。我认为改变的是我提示它的方式。所以现在，特别是，我经常提示它说，“告诉我我没看到的东西。找出我的偏见。”你知道，不要奉承我。告诉我困难的事情。就像我不断地，不仅仅是开始时，而是定期反复地要求它来提醒我我没看到的东西。>> 你认为这是我们应该更积极地教授的东西吗？就像这不仅仅是一个工具，你知道，你加载它，然后你输入任何你想输入的东西。你必须学会如何使用它，就像任何技术一样。>> 是的。是的，我这么认为。但它不像你上个课程那么简单，你知道，因为我认为这些东西发展得非常快。而且我认为实际上，年轻人通常更害怕，你知道，但我认为只有公众意识才能帮助改变这一点。>> 嗯，我认为，你知道，我认为与社交媒体的类比，对社交媒体的担忧是一个非常恰当的类比。而且我认为，人们越意识到社交媒体使用和过度使用以及自我激进化等的潜在危险，就越能更好地识别他人身上的这些迹象并阻止它发生。而且我认为这东西也是一样。>> 基于人工智能的当前发展轨迹，你对未来是乐观的还是不乐观？>> 是的，我乐观。当然，有些事情我们需要关注。当然，有些事情我们需要非常小心和安全地处理，而且我们作为一个社会需要进行一些困难的对话。我认为担忧并非毫无意义。我认为实际上担忧确实具有力量。>> 我们应该对此感到担忧，对吧？人工智能确实可能带来糟糕的后果，我们越诚实地看待这一点，我们就越有可能减轻这些后果。我希望这就像 Y2K 那样，你知道>> 我希望这就像我们担心了又担心又担心，所以我们努力阻止它发生一样。>> 但我我真的认为，这可以带来很多真正的好东西。非常感谢你接受我们的采访。>> 谢谢。干杯。>> 杰西，>> 那是个专业人士。非常感谢。[笑声]