Transcription
大家晚上好，感谢收听 Futura 播客。我们将深入探讨新兴技术将如何影响世界和您的银行账户。我是 Trent Fer，和我一起的，一如既往的是我的联合主持人 Thomas Fry。Thomas 和我都是未来学家、主题演讲者和顾问，在分析趋势和向世界各地的听众传达新发展方面拥有数十年的经验。如果您想聘请我们进行咨询、在您的活动中发表演讲或在我们的播客上做广告，请通过 Future a podcast.com 联系我们。Thomas，我们刚刚结束了与 Julian Talas 博士的一次精彩访谈，他的研究主要集中在游戏和人工智能的交叉领域，但我们在最后也花了一些时间谈论 AGI。我认为谈话的游戏部分出乎意料地丰富，占据了比我预期的更多的时间。你有什么反应？哦，我同意。他……我不知道，他有点低估了他的……他的学术头衔。是的，是的，他非常……正确。真正引起我注意的是，当他谈到 2029 年的奇点时，他说：“嗯，历史上从来没有一个时候，一切都同时改变了。”这是一种有趣的基准。所以，我认为这是正确的。所以，我不认为我们会看到一切都同时改变，就像许多人预测的那样。是的，是的，他对一些问题有很多有趣的、令人耳目一新的、非常有建设性的观点。你把游戏描述为我们认知能力的模具，以一种非常重要的方式按照我们的形象制造，但它不是直接的镜子。正是如此，它更像是你可以探索的脚手架，但它是根据你的比例建造的，并且完全按照你的思维方式工作，这让我们花了大约 25 分钟的时间讨论你可以用游戏训练什么，以及它们对人类认知的影响。当然，这又引出了关于 AGI 的讨论，我有点惊讶他在这方面如此……悲观，因为在他刚写完一本关于 AI 的书的情况下，他并没有真正表现出来。但他一开始说：“嗯，我认为这个概念根本没有内容。”然后他最后有点妥协了。所以，这部分对我来说有点令人惊讶。是的，我喜欢他说他可能会让他 20 岁的自己失望。嗯，希望如此。他没有让我们失望，希望他也不会让你失望。我认为这是一次精彩的访谈，我相信你也会这么认为。那么，事不宜迟，这是我们与 Julian Chales 的对话。
[掌声] [音乐] [掌声] [音乐] 今晚，我们请来了 Julian Talius。Julian 是纽约大学计算机科学副教授。他的研究领域是计算智能与游戏交叉领域，目前他专注于使用进化算法来生成关卡、地图或游戏规则。此外，他还研究过进化强化学习的各种问题，并且是即将出版的关于人工智能通用智能的 MIT 出版社书籍的作者。如果您喜欢这次访谈，请订阅播客并与您的朋友分享。别忘了访问我们的网站 futur podcast.com。
[音乐] Julian，非常感谢您来到节目。谢谢，谢谢 Trent。很高兴来到这里。让我们来听听您的背景、您的兴趣以及是什么让您从事今天的工作。是的，所以，我的背景是，嗯，背景悠久而多样，但基本上，我……几乎数学不及格。所以我学习了哲学来理解心智，然后不知怎么的，我发现，嗯，要理解心智，我需要构建心智，而哲学并没有真正让我走多远。所以我逐渐成为一名计算机科学家，然后我就可以从事人工智能。在此过程中，我发现人工智能最有趣的地方是在游戏中。所以，我做了很多关于游戏中的人工智能以及为游戏开发人工智能的工作。当我谈论游戏时，我不是指像抽象的数学框架，而是指视频游戏，比如《星际争霸》、《超级马里奥》、《我的世界》等等。但我这样做是为了实现通用智能。所以我花了很多时间思考通用智能、人工智能通用智能，它是什么，它不是什么，以及我们如何可能实现它。我花了很多时间构建基准和框架。所以，关于我的工作地点等等，我现在是纽约大学计算机科学系的一名副教授。我们都是朋友，但机构政治使得我们分散在纽约大学的各个地方。我还是一个名为 model.AI 的人工智能初创公司的联合创始人，我们为游戏提供人工智能。
很有趣。你提到了人工智能游戏。你能给我们一个提示，在未来十年，人工智能游戏将如何改变游戏文化吗？哦，天哪，这个问题悬而未决。我认为，或者我希望发生的是，你知道，人们经常谈论游戏开发的民主化。民主化可以意味着不同的东西，但我认为创建某些类型的游戏会容易得多。我们肯定会达到这样的程度，你可以说几句话就能得到一个游戏，然后通过对话来改进游戏。你会得到像最新的《刺客信条》那样高质量的东西，或者像 Jonathan Blow 那样有创意的东西吗？不，但是……但是它将以一种前所未有的方式，让游戏成为普通人表达的可用空间。普通人基本上会说：“是的，我想说这件事，我想用游戏来表达这件事。”一种可玩体验，某种形式的……就像你现在可以创作一幅画或写一段文字一样。另一件事我认为会发生的是，那个被严重贬低的词——元宇宙。我认为元宇宙这个词很愚蠢，但我确实认为会存在类似持久的在线世界。我的意思是，它们已经存在很长时间了，但它们会更普遍，并且会有更多的事情发生在其中。人工智能将在其中发挥巨大作用，基本上是创造不存在的内容，提供合作者，为你调整游戏，并让各种不同的游戏世界片段以不同的方式组合在一起。这些是……这听起来有点像，为了拥有任何丰富的世界，你需要有大量的思想来构建它，并且有事情可做。你知道，一个数字世界几乎肯定……我的意思是，直到 AGI 出现之前，肯定比现实世界人口少，因为总会只有一小部分人在做这件事。所以，一些构成世界的缝合将来自生成算法。是的，我的意思是，现在的情况是，你知道，大多数游戏都足够大，需要比人类准备好提供的内容更多。你知道，对于那些大型游戏，开发预算高达数亿美元。你会认为，哦，这是因为他们雇佣了数千人来工作，但仍然，你知道，没有足够的人来做所有事情。所以，我的意思是，很长一段时间以来，我们一直有程序算法来生成诸如……嗯，植被和其他种类的植被，各种自然环境的方面，比如岩石和建筑等等。但是，我们越来越多地达到……当然，还有四处游荡的 NPC。我们正朝着……这些技术越来越好。我们将看到游戏中……你知道，一切都将变得更多。然后就出现了问题，这是关于我们作为人类真正看重的东西的真正有趣的问题。它足够好吗？它有意义吗？在多大程度上，我们想生活在一个充满这些算法生成的事物、生物和人的世界里？与它们互动会有意义吗？我的意思是，我不知道你是否玩过《无人深空》。没有，但我听说过。是的，《无人深空》……如果你现在玩《无人深空》，它与 2016 年相比是一款非常不同的游戏，因为有大约 20 次重大更新。这是一款拥有极其丰富、极其多样化的世界的游戏，基本上一切都是算法生成的，这非常非常酷。是的，非常非常酷。但你也有一种感觉，你知道，我降落在一个没有人见过的星球上，因为有……你知道，数万亿个星球，或者类似的东西。我遇到了一个没有人见过的物种的动植物群，你与之互动，但你有一种感觉，我为什么要这样做？我为什么要移动这些比特和字节？如果另一端没有人，这重要吗？我认为答案将因人而异。对一些人来说，这很棒。对另一些人来说……你会非常……你会想与人类建造的东西互动，正是因为人类建造了它。我有点……我介于两者之间，或者说，我在周一想一件事，周二想另一件事。但是……我认为这将是核心的……某种……文化中的对齐问题等等。你有多想与所有这些生成内容和生成世界互动？以及你如何构建……这些虚拟世界和游戏，以便……以便它们能够突出……嗯，真实的人类体验，同时仍然给你自由去做任何你想做的事情，并在这个巨大的世界里探索任何你想探索的东西。我不确定这是否是我们应该谈论的，但这是让我夜不能寐的事情之一。我认为这是一个……这是一个出乎意料的深刻问题，而且在未来几十年里只会越来越重要。因为一方面，在某些情况下，很明显，人们是否会发现与数字心智互动有意义的答案是肯定的。是的，你看到了……比如复制品现象。我不知道你是否关注过，但有一家公司提供……我猜他们是……我猜他们是……人工智能伴侣，或者人工智能女朋友之类的。人们非常依恋它们，然后进行了一次升级，性格改变了，人们心碎了。他们说：“哇，人们说，我真希望有机会和你告别。”关于……一块软件。所以，显然，有时答案是肯定的。但是，正如你所描述的，那是什么？《无人深空》？是的，对于开放的沉浸式世界来说，作为永久的第一个人……有一种无菌感。第一次看到没有人见过的东西可能很酷，但如果你只是不断地从一个跳到另一个，你知道没有人会跟着你，那么它的意义就会被削弱。这就像……所有这些数字世界都是通过代理建立联系的方式，因为无论出于何种原因我们无法在地理上靠近。但它仍然很重要，那就是人。而且，我真的……我真的不知道大多数人会走向哪一边，但我认为这真的很重要，因为会有更多这样的东西。哦，是的，绝对。我的意思是，我的意思是，我们从中获得……我的意思是，我们以某种方式从与他人的互动中获得意义，即使它是间接的。就像……你知道，父母和孩子通过在 Switch 的《动物森友会》中为对方建造东西来互动，例如。这是一种间接的方式，但仍然……你知道，感觉很好。你就像，哦，你在为你儿子布置这个小公寓。而且……而且……而且存在一个巨大的……不仅是技术问题，还有一个巨大的设计问题，如何设计世界来给你想要的自由？因为人们想要这个。人们想要……自由地在这些……在这些世界里做任何他们想做的事情。而且，只要有电子游戏，就有玩家，很多玩家，也许大多数玩家都抱怨游戏的限制很愚蠢。发生了什么？为什么我不能捡起山羊？为什么我不能穿过这堵墙？为什么我不能做这些事情？为什么游戏限制我这么多？你知道，这个设计的一个方面是……嗯，让你做……我们如何让你做一切？这就是我所看到的元宇宙的动力之一。这就是人们想要它的原因之一。但是，同时，是的，人类的联系。你谈到的一个问题是，建造游戏变得越来越便宜。所以，将这个时间跨度拉长到未来十年，要多久才能出现第一个一人公司设计出一款成为独角兽游戏并登上排行榜榜首的游戏？我的意思是，我想说它已经发生了，但我现在没有直接的例子。有……我有一个朋友做游戏设计，他说有些游戏是一个人做的，他每年能赚一百万美元左右。是的，所以，基本上，而且……游戏行业以不公开收入数字等而闻名。但是……基本上……或者说，不公开任何事情。不是秘密的东西。但是……在电子游戏的早期，比如计算机有限，故事空间不多，一切都很新颖，很多热门游戏都是由一个人或两个人制作的。现在这些人必须是……你知道，设计师、测试员、程序员、艺术家、一切。但是……是的，但即使是现在，你也会发现这些游戏，比如《吸血鬼幸存者》，两年前就出来了。我不知道它赚了多少钱，但它变得相当大，并催生了各种类似的游戏。这是由一个……你知道，一个失业的意大利游戏设计师在伦敦，他当时在玩，有一个想法，然后它就奏效了。还有所有那些催生了巨大系列游戏的经典游戏。当然，《愤怒的小鸟》是由一家公司制作的。我不知道他们当时有多少人，Rovio，但……它一开始并不是一个大项目，后来变得很大。你好，我是 Trent Fowler，Futura 播客的联合主持人。我遇到的最常见的营销建议之一是了解你的听众并满足他们的需求。播客的一个困难是，实际上很难做到这一点。主要平台都没有任何方式让我们联系到你们听众，了解你们喜欢 Futura 播客的哪些方面，以及你们希望我们做出哪些改变。所以，我们决定录制这个广告，直接请你们联系我们。前往 futur podcast.com，进入联系页面，给我们留言。告诉我们你最喜欢和最不喜欢的剧集，你希望我们将来涵盖哪些内容，以及任何你想让我们知道的其他事情。我们为你们制作这个节目，我们想要你们的建议，以便我们能做得更好。谢谢。
好的，是的。Thomas，Thomas 保持着成为最年长的……独角兽的雄心。他……他总是，他一直在问这个问题，希望 somewhere 撞上金子。我祝他好运。如果发生，我们将成为赞助商。是的，所以，继续游戏主题，我……好奇为什么你认为它是一个独特……嗯，适合人工智能，最终也适合人工智能通用智能的试验台。我认为这个问题有一些显而易见的答案，比如你可以重置模拟并使其任意复杂等等。但也许有更深层次的东西可以谈论。是的，事实上，是的。让我们从显而易见的事情开始。所以，基本上，当我开始读博士时，我认为我将从事进化机器人学，使用进化算法为机器人设计神经网络。然后我发现机器人非常慢，它们很昂贵，它们经常出故障，你必须更换轮胎，因为它们会发热，电池和电线会缠绕，还有……你还有所有这些东西，没有人想做这个。嗯，有些人关心这个，但我无法理解。这就像……就像那些以家庭为乐的人一样。对我来说不是。我住在曼哈顿。但是，最重要的是，它很慢。所以我发现，是的，你可以比模拟环境快一千倍地运行相同的实验。现在，机器人学家会说，模拟环境不是真实的，你只是在编写一些东西，这无关紧要，它不适用于现实世界。所以，基本上，你所做的事情没有真正的基础。你的实验并不真正重要。你可能没有解决真正的问题。游戏的美妙之处在于它们有自己的基础。它们的基础是它们是为人类玩而设计的。一个设计精良的游戏在某种意义上是真实的，就像一个糟糕的机器人模拟器不是一样，因为它被设计成供人们玩，而且成千上万甚至数百万人都玩过这个游戏。这使得它有意义。现在，如果你问为什么，那是因为游戏设计是一门认知科学，它通过向人类心智提出挑战来不断描绘人类心智的能力。所以，我们开始……你知道，游戏设计作为一个学科，开始于……随机摸索，就像大多数学科一样。然后我们发现某些东西有效。你找到模式。你发现，基本上……哦，你是对的，如果你提供某种动画，让游戏感觉更沉重、更有趣。你不想玩棋盘游戏。你不想让获胜状态过早地可预测，你想让它尽可能晚地可预测。你可以用各种方式衡量这一点。你想让多人游戏在各种方式上平衡等等。你可能想要不同时间尺度的挑战。你可能想要不同宏观事物的挑战。你想要提供……嗯，好奇心的乐趣，比如探索环境。你知道，这无穷无尽。大量的……技巧和……设计……提示。基本上，当你开始努力设计最好的游戏，它提出了特定的挑战，针对特定的认知能力，比如你能设计出最好的快节奏 FPS 游戏吗？你能超越 Doom 吗？你能让它更 Doom 吗？你知道，《光环 2》和《3》……它们永远不会……哦，是的，太棒了。我认为《光环 3》就在那里，在万神殿中。我同意。基本上……他们发现了很多旧东西，比如他们围绕的“30 秒动作”循环，他们围绕《光环》游戏构建的。你知道，这是游戏设计的实际进展。然后你开始……然后你开始……嗯，探索到旁边。我们还没有发现哪些其他挑战？你开始将不同类型的解谜元素与不同的动作元素结合起来。你开始围绕识别和解析情绪来构建游戏。你开始围绕……基本上，你开始围绕进行正确的投资来构建游戏。它只是……传播。而且……而且……而且另一个……非常重要的部分是 Raph Koster 的游戏设计乐趣理论。基本上，R. Koster 是一位非常有成就的游戏设计师。他的理论是，游戏之所以有趣或引人入胜，很大程度上是因为我们在玩的过程中学习如何玩它们。它们给我们带来挑战，然后我们继续……嗯，嗯，玩它们，因为我们想更好地学习如何玩它们。一个好的游戏有这种长而平滑的学习曲线。到了最后，你做得非常好。所以，基本上，如果你接受这是游戏吸引人的主要来源，那么你必须接受游戏设计正在试图描绘挑战你心智的方式，而你觉得这些方式很有趣。最终，游戏设计提供了……你知道，我们认知能力的负面形象。这是一种……一种认知能力的模具。这是一个非常有趣的论点。我认为游戏是……是我们的认知能力的镜像，是它们的反映，也是它们的模具。你提到了可以基于不同前提或不同基本原语构建的游戏。比如，如果你谈论以识别情绪为中心的游戏，我可以想到包含情感元素的游戏，但没有一款主要关注识别情绪，基本原语都是情感的。那么，有哪些有趣的方向可以采取呢？我想到的第一个是，你能训练……共情吗？你知道，就像……你可能可以。我的意思是，如果你以识别为例，如果你玩过……以一个巨大的热门游戏为例，《巫师 3》。就像，它是有史以来最伟大的游戏之一，我不知道是 2018 年还是什么。其中一个美丽之处在于，你如何实际导航周围人的情绪，否则他们会……抛弃你，设置疯狂的陷阱，或者以各种方式敲诈你。我认为这很棒。我掉进了一两个这样的陷阱。表面上，这是一个关于用剑杀死怪物之类的游戏。但是，你知道，这里有一部分。还有其他游戏，比如……有约会模拟游戏，有各种各样的角色扮演游戏子类型等等，其中试图解读情绪起着非常非常关键的作用。但是，是的，关于你的问题，你的问题是你能用它训练什么？是的，你能用它训练什么？我正在想，有没有一种方法可以构建一个游戏，让你以某种方式扩展执行功能？你知道，有一些有限的证据表明，某些类型的任务，比如双重背负任务，可以扩展工作记忆。这是你的……这是你心智的 RAM。如果能容纳更多元素并保持更多东西……更清晰，那么你实际上就更聪明了。这就是变得更聪明的重要组成部分，对吧？所以，你能训练它吗？但这非常困难，而且非常枯燥。它极其困难。所以，就像，也许有一种方法可以通过游戏来做到这一点，让你在某种程度上微妙地改变一些潜在的过程，但要以积极的方式。我认为每个游戏都在训练一种能力。最大的问题是它能推广到多大程度。我的意思是，有研究表明，比如管理，如果你玩《魔兽世界》并加入一个公会，这实际上可以转化为现实世界的人员管理技能。是的，而且……而且我敢肯定，你可以从《文明》或者……从你建造……你知道，设备的游戏中学习很多东西。嗯，嗯，你可以通过玩 Foldit 来学习蛋白质折叠等等。但是……最大的问题是它能推广到多少更普遍的底层？这有点像我们从后门……巧妙地过渡到通用智能的问题。是的，我们……不，不，但是任天堂有那些……嗯，大脑训练游戏。这些……并没有被证明……我的意思是，你玩它们，你在大脑训练游戏中做得更好。它们并没有被证明能真正提高……做任何其他事情的能力。所以……嗯，另一方面，你知道，它们可能有助于预防……比如痴呆症什么的。但我不太确定是否有任何证据。但基本上，它们教授的内容的通用性非常非常简单，因为你基本上可以过度拟合它们。如果你学会做一个特定的任务，你就会过度拟合它。而且……这对于人类和机器学习算法都是如此。那么，你手头有关于目前 VR 在游戏界所占比例的数字吗？相对于普通屏幕，微不足道。好的。嗯，我……我过去和我的团队一起做过这个练习，问他们……到 20140 年，看电视会是什么样子？是的，我们还会看着房间前面的一个设备吗？它会是投影图像吗？它会是数字墙纸吗？它会是三维的吗？我们能与之互动吗？我们能触摸和感受事物吗？我们能……改变这些东西的外观，让它们看起来像我们的朋友和亲戚吗？我们能通过触摸它们来购买东西吗？所有这些有趣的问题都会出现。所以，我很想听听你的一些想法。你喜欢 Futura 播客的这一集吗？如果是，请点赞，在 Apple Podcast、Spotify 或任何你获取播客的地方给节目五星好评，并与你的朋友分享。迄今为止，帮助我们成长的最好方法是在社交媒体上广为传播，这将使更多人接触到我们的内容，并帮助我们继续为你带来人工智能、量子计算、加密货币等领域的顶尖专家的访谈。提前感谢。
是的，你知道，在这里我可能会显得……一个无聊的怀疑论者。我对 VR 完全不感兴趣。我看不出它的意义。我的意思是，历史可能会证明我是错的。事实上，我有点希望历史证明我是错的。你知道，它……如果我们能找到一些好的 VR 用途，那将是件好事。但我真的想象不出来，除了非常具体的应用，比如，这里有一个模拟器，教你如何做一份特定的工作。但大多数纯粹的 VR 感觉就像……它消除了你正在做的社交方面。而且它也很难在……户外环境中进行，因为你把自己隔离开了。所以，基本上，你只能独自在地下室里做。而且它也……你知道，你有所有这些……晕动症，也许可以克服。我对这一点也有些怀疑。或者，我认为这取决于人。我就是那种因为晕车而避免坐公交车的人。而且……即使在最好的情况下，它对我来说也不是超级吸引人。另一方面是 AR，你实际上可以看到现实，并且可以在现实之上叠加东西。我认为 AR 会……会很重要，也许会无处不在。但我不太确定它是否主要是游戏。它会非常酷。我的意思是，我有一些关于如何生成……世界各地环境的想法。你看，基本上……你正在观看一个室内场景，基本上，请为我创建一个平台或游戏，它将在这个环境中展开，或者一些有趣的研究挑战。我不确定它是否会……成为一个重要的游戏。另一方面，一些真正的杀手级应用……AR 的一个应用是我真正想要的，很多人会讨厌它，并绝对试图禁止它，但它会无处不在，即使它被禁止，因为需求将如此之大。就是姓名标签。我只想走在街上就能看到别人的名字，以及我可能如何通过……社交网络联系认识他们，也许还有其他对他们有用的信息，如果有什么我应该知道的，比如……你知道，他们是否在做一些有趣的事情等等。我非常不擅长认人脸，而且我明白这是一个隐私噩梦，我认为它会被禁止。但正如我所说，我认为它首先会被禁止，然后……每个人都会使用它，因为它将非常有用。我们需要……另一边的技术，允许你控制别人能看到什么，以及你投射什么样的信息。就像在 Hannu Ryan 的《量子窃贼》三部曲中，有很多技术可以促进这一点，它在情节中起着重要作用。是的，你可以隐藏你的脸，或者你可以……完全敞开心扉。你可以注解自己的信息，并且可以逐人控制它，设置默认值等等。所以，它真的改变了……人际交往的协议，如果人们同意，如果……如果他们同意这些协议，如果……他们会实施它，我们会看看。我们会看看会发生什么。你知道，就像……我经常认为我们是一个非常……二维的社会。我们从小就被训练成二维思维。二维纸张，二维白板和黑板，即使是我们看到的屏幕也是二维的。而且我们还没有任何好的技术来全息地、三维地投影东西。所以，似乎总是有进入三维世界的巨大机会。但是，正如你所说，它并没有真正抓住人们的想象力。是的，我猜你不会很快被 Zuckerberg 雇佣。不，没关系。没关系。虽然我必须说，我……我开始越来越喜欢他，因为他正在做的开源人工智能，我认为这对世界来说太棒了。但是，嘿，你可以……你不必喜欢所有东西。是的，他确实以一些有趣的方式修复了他的形象。是的，所以他是一个迷人的公关案例研究。所以，既然我们终于谈到了智力和认知能力的问题，你之所以被邀请来，很大程度上是因为你有一本关于人工智能通用智能的书。所以，你的很多研究都集中在人工智能和游戏交叉领域，但新书是关于通用智能本身。所以，我想详细讨论一下。我想从一个显而易见的地方开始，那就是你如何定义这个术语。即使我们能清楚地看到它，也很难抓住通用智能的本质。所以，你如何定义它？因为我认为……这取决于你如何理解这个概念，有很多非常有趣的哲学领域。它真的对你如何看待安全等问题有严重影响。
是的，我认为我们无法定义通用智能或人工智能通用智能。我认为这是不可能的，我们不应该尝试，我们应该停止谈论人工智能通用智能。这是一个红鲱鱼。它……不要让他们买你的书。不，我想让他们买我的书，读它，然后同意我。我就是这样。我不会谈论人工智能通用智能，因为它是一个糟糕的概念，误导了我们。我的意思是，在某种意义上，我没有说任何新东西。没有人……你知道，有这个古老的……嗯，North White 曾经说过，西方的所有哲学都是……嗯，柏拉图和亚里士多德的注脚。基本上……哦，是的，只有柏拉图？是谁？是博尔赫斯说的吗？每个人都……是的，是的。就像……博尔赫斯说，每个人都是柏拉图主义者或亚里士多德主义者。基本上……你选择一个或另一个。但是……我的意思是，计算机科学和人工智能都是图灵的注脚。图灵在 1950 年的论文《计算机器与智能》中说，他的论文结果基本上是，“机器能否思考”这个问题将被认为如此无意义，以至于不值得讨论。我的意思是，他是在 1950 年说的，我们还没有达到那个程度，因为即使我们实际上……阻碍了我们的进步，我们也难以放弃那些被珍视的概念。所以，我的意思是，说到这里，被珍视的概念是……思考，通用智能，甚至智能。我之所以进入人工智能，是因为……嗯，我开头说过，我……放弃了哲学。我之所以进入它，是因为我想通过构建来理解智能。这听起来很棒。这里有人工智能，这个学科，我们正在努力构建智能。是的，这很棒。我正在以此为生。但是……当你看看盒子里面时，基本上有所有这些不同的方法，它们彼此非常不同。而且……我不是那些说“哦，我们发现了反向传播，所以这就是一切的终结”的人。事实上，当你……继续看看盒子里面时，最近的人工智能进步不仅仅是由于……伟大的发明。其中还有很大的搜索或规划成分。所以，你有所有这些不同的方法，它们并不真正相似。它们有非常不同的……嗯，起点，并做出非常不同的哲学假设。它们共同之处在于，我们曾经认为我们可以用它们来让计算机做一些我们认为是智能的事情，如果人类去做的话。这很好，但它有点强调了它并没有实质。我认为当我们走下去……关于我们试图……建模什么，这个叫做智能的东西是什么？智能是人类可以做的事情。然后我们基本上有一些非常非常模糊的想法，关于我们的哪些能力是智能，哪些不是。比如举重不是智能。计算 49 的平方根是智能。为什么这有点不清楚？嗯，一个是有认知，另一个不是。那么，你是什么意思？我们真的无法划清界限。然后你开始思考，有没有什么东西支撑着我们称之为认知的所有这些东西，我们称之为智能的所有这些东西？可能没有，因为进化就是这样运作的。进化……通过……试图变得……糟糕……一步一步地变得更健康。你知道，试图让更多的后代生存得更好。你知道，并在此基础上发展。你知道，整个故事。而且完全没有理由相信它会在某个时候发明这种……普遍解决问题的能力，它支撑着一切。而且因为它在其他物种中没有出现过，为什么它会突然发生在我们身上？所以，我认为我们称之为智能的东西是一种……糟糕的……混乱的……在进化过程中对各种事情的适应。它们之所以联系在一起，是因为它们都是在同一个器官——大脑——中构建的，但它们不一定有很多共同之处，而且……不一定相互建立。没有核心。所以，我认为在理解智能方面，我认为人工智能仍然可以通过解构它来帮助我们理解智能。而且……这就是人们抱怨人工智能和移动目标问题的地方。我们都知道人工智能的历史，人们设定了这些目标，当我们达到它们时，你就移动它们，说“哦，这不是目标，是别的东西。”比如，嘿……我们一开始认为聪明人下棋。下棋就像……它包含了智能的一切。如果你能以国际象棋大师的水平下棋，你就是真正聪明的，因为你需要了解你的……对手。而且……而且……你需要基本上……你需要智胜他们，你需要提前计划多次等等。然后计算机科学家为此工作了 50 年，我们得到了深蓝。深蓝击败了卡斯帕罗夫。我们赢了，我们达到了目标。但然后你看看盒子里面，它只是一堆搜索算法，还有一些技巧之类的。你就像，这显然不是智能。显然我们错了。所以，基本上，我们移动了目标。如果我们玩围棋呢？这就像……伟大的智能，因为围棋你需要……你需要识别这些模式等等。而你在国际象棋中不需要以同样的方式。所以，计算机科学家为此又工作了 20 年，然后我们也征服了围棋。然后我们看到，哦，好吧，这就像……你知道，蒙特卡洛研究，还有一些深度神经网络。这不是真正的智能。所以，我们继续移动目标。这个过程的美妙之处在于，我们就像……在一点点地……你知道，智能。我们基本上说，这不是智能，也不是智能，也不是智能。而且，最终，我们将让计算机做……基本上，我们认为需要智能的每一件事。而我们仍然会觉得，我们并没有真正……到达我们认为会去的地方。而这个过程的美妙之处在于，然后我们将摆脱智能的概念。我们将解构它，把它拆开。而且……里面什么都没有。里面有很多。是的，里面有很多。关于这一点，我早就提到过，你暗示了关于智能的普遍概念混淆。所以，比如，你到底在哪里划定了认知能力的界限？我认为很大程度上这是一个认识论问题。我认为需要新的认识论工具来解决这个问题。因为我认为……以及能动性和意识是其中几个我认为被这些困难和这些……纠缠所包围的问题，这使得很难推理……你知道，发生了什么。但我认为另一件事也与此有关，那就是人类内省是肤浅的。这是我们总是回到的一个观点。就是说，你知道，很多正在发生的事情要么不可能看到，要么非常难以看到。这是那种你需要冥想很长时间才能看到发生的事情。我认为这就是导致许多人对早期人工智能研究计划感到乐观的原因。他们相信只需要半年时间和十几个人就能……基本上达到 AGI。我认为部分原因是，当你环顾世界时，你知道，我认出书本，我认出灯光，所有这些都一下子冲击着我。但我不知道……喂养我这些信息的……几十个或几百个底层过程。所以，这变得非常困难。它最终变得非常困难，只能通过足够深的搜索树来近似很多思考。它可能不被认为是思考或推理，就像……你知道，人类正在参与这个过程一样，因为它不是一个……代理。而且我认为……从那个角度来看，有很多值得称道的地方。但是，如果你只是堆叠足够多的层，或者它足够深，它就非常强大，以至于它仍然能够与人类水平竞争。但是，正如你在书中指出的，你知道，深蓝做不了任何其他事情。它不能被重新利用，也不能学习其他东西。所以，显然，即使是强大的狭义智能也缺少一些东西，那就是我们正在寻找的通用性。我还没有准备好放弃这个概念。我会买你的书，但我……我……我将阅读它，并不同意其中的一些部分，我将继续思考它。我将继续……不，不，这很好。这很好。这很好。嗯……我的意思是，如果你买我的书，我能得到大约 1 美元。所以，我……我……就像你买五本，我就可以得到一杯咖啡。不，没有人……嗯，是的，说实话，我也无法停止思考通用智能。我的……我的立场是，我认为我是一个非认知主义者。我从神学非认知主义中得到了这个词。所以，基本上，你知道，你有神学、无神论、不可知论等等。然后是神学非认知主义，这意味着“上帝”这个词没有意义。所以，基本上，你不能说它存在，不存在，或者伟大，或者蓝色，或者别的，因为……那里，这个词没有指代任何东西。它不是指一个不存在的东西，而是……它是一个无意义的词。这就是我对 AGI 的看法。事实上，我花了很多时间思考……什么是普遍性？什么是……模型可以做什么，不能做什么？它们可以做什么，不能做什么？比如，以这个非常具体的例子来说，有很多糟糕的思考，也有一些好的思考，关于……大型语言模型能否推理的问题。这是关于通用智能的一个子问题的非常具体的切入点。而且，思考这个问题很棒，因为它迫使你……分析推理的概念。什么可能被认为是推理？而且，有像 Rati 这样的人在做优秀的研究。
在这，嗯，呃，他们基本上试图看看什么能做，什么不能做，嗯，如果你问他们这种事情，嗯，他们会解决问题吗？嗯，难以解决的问题有哪些特性？嗯，嗯，我倾向于认为，这有点像，你知道，卡尼曼的系统一思维和系统二思维，嗯，系统，嗯，许多机器学习模型非常像系统一思考者，许多种，嗯，呃，搜索算法有点像系统二思考者，嗯，这根本不是一个原创的想法，很多人都说过类似的版本，但是，嗯，呃，但是，像大型语言模型这样的东西在系统二思维方面存在根本性的局限性，因为它是一个前馈过程，嗯，你无法让它基本上进行符号系统的前向模拟，你也无法让它在假设空间中进行最佳优先搜索，这两者都是经典符号人工智能中完成的事情，嗯，这也是你知道如何得出自动定理证明器，嗯，世界级国际象棋选手之类的方法。那么你当然可以问，嗯，人类在做这些事情吗？他们擅长吗？他们，嗯。
所以我相信你很清楚，嗯，雷·库兹韦尔在他的书《奇点临近》和他的最新著作《奇点更近》中，嗯，是的，我还没读最新那本，它有点像，我在书店里看到了，是的，我觉得它基本上是旧书的重申，只是加了一些脚注，但是，嗯，那么在你看来，2029年会发生什么？这一年被认为是“大年”，一切都会改变，呃，我们都会，呃，只是打个哈欠然后继续吗？呃，不，我不知道，我的意思是，有些事情会改变，什么会改变？我不知道，这就像，嗯，呃，我确实认为我们人类作为社会运作的方式，有更多的，嗯，有点像，嗯，它比你们技术专家喜欢承认或理解的，有更多的惯性，嗯，而且，但总的来说，我们倾向于找到或多或少像以前一样运作的方式，即使我们有了新的能力，嗯，这是好是坏？我不知道这是否是一个相关的问题，但这就像人类作为社会倾向于表现的方式。我的意思是，有些事情在某种意义上会得到解决，比如，你知道，嗯，我们会拥有自动驾驶汽车吗？也许吧，嗯，它们会在各地合法上路吗？可能不会，我不知道，嗯，我们会拥有自动化癌症诊断吗？我们会拥有很多，嗯，呃，比如，你知道，由人工智能开发的真正有效的药物吗？希望如此，我的意思是，那会很棒，嗯，这实际上真的很难说，我认为有一种本能会说一切都会改变，但你知道，在世界历史上，一切从未改变过，嗯，嗯，嗯，我发现这就像，你知道，这是一个极其强大的基线，你知道，嗯，即使某些特定事物改变了很多，比如，你知道，我们发明了电话，我们发明了原子弹，或者像，你知道，黑死病来了，然后，嗯，呃，你知道，杀死了欧洲三分之一的人口之类的，很多事情都改变了，但是，嗯，就像一切都没有改变，我们生活的很多方面都保持不变，那将是我的，我的，我的基线预测，即大多数事情会像现在一样。现在，某些特定的能力可能会强大得多，而且我真的很难预测是哪些，嗯，因为，嗯，人工智能的进展非常难以预测，嗯，很少有人会预测，嗯，呃，大型语言模型过去四年的进展，或者几年前，嗯，但你认为进展会在其他地方，你知道，嗯，人们对DeepL感到非常害怕，人们看到了Alpha，嗯，和AlphaGo Zero之类的，然后说，哦，天哪，我们正处于通用人工智能的边缘，同样的人会说，呃，好吧，显然那，那，那在回顾看来是愚蠢的，不，嗯，我们总是有点高估新技术的普遍性，或者说，我认为这是真的，我认为这是真的，因为你看到一个过程，在此之前，它只能由一个具有通用智能的智能体实现，你看到它，它就开始，它感觉很可怕，这就像，你知道，这就像如果你看到一个书架自己站起来开始走动，这就像它不应该能做到，这让我大吃一惊，哦，天哪，它还能做什么？不，它只能站起来走动，而且里面还有书，但是，是的，它，是的，现在我的书到处都是。
呃，我想问一个问题，以将人工智能和游戏讨论联系起来，是关于，呃，你可能讨厌这个问题，但你知道，智能的表象和实际智能之间的区别，这来自我一个在游戏设计领域工作的朋友，我们当时正在谈论这次采访，他觉得，因为他也一直在思考游戏中人工智能的问题，所以我提到那是你的主要关注点之一，他说，嗯，你知道，在游戏设计的背景下，一个智能体不一定真的要聪明，它只需要看起来聪明就行，但这种假象很难长时间维持，所以，呃，他想知道，我也想知道你对此有什么看法。
您需要一位充满活力、知识渊博的演讲者来参加活动吗？托马斯·弗莱和我，特伦特·福勒，都是经验丰富的专题演讲者，能够就广泛的主题与各种规模和技能水平的听众进行交流。请访问futurpodcast.com的联系页面，立即预订托马斯或我本人，让我们运用我们多年的公开演讲经验，使您的活动取得巨大成功。
是的，所以我的意思是，这需要一些背景说明。很长一段时间以来，嗯，在游戏行业，当你谈论人工智能时，你谈论的是一套特定的技术，这些技术与你在学术界所做的人工智能关系不大。你基本上在很长一段时间里，嗯，你在游戏中做的人工智能主要是控制非玩家角色，你会使用状态机，后来是行为树来弄清楚，嗯，该做什么，你会使用，嗯，寻路算法来移动，然后当你与人类互动时，你会有一个行为树，这仍然像，你知道，或者说不是一个对话树，基本上是关于，嗯，你可以说什么，以及有什么回应等等。这仍然是我认为构建NPC最常见的方式：寻路加行为树加对话树，嗯，它，这基本上，它非常注重表象，就像他们在每个特定状态下所做的事情，有点，我不会说是脚本化的，有时脚本化是正确的词，但通常是设计的，人类决定了你在这里做什么，他们在这里做什么等等。没有，没有学习，没有太多涌现，嗯，也没有太多深度。呃，如果你几年前去参加游戏开发者大会，说你在学术界从事人工智能工作，你就会被，嗯，不被认真对待，因为你不懂游戏，而游戏有一个完全不同的过去。这种情况已经开始改变，不是因为游戏人工智能程序员，好吧，他们中的一些人，嗯，乐于改变，而是因为游戏公司中其他角色的人，特别是管理层，他们正试图将，呃，机器学习和其他类型的学术人工智能推入游戏，嗯，我认为，呃，游戏，这是一个如何外交地表达自己的问题，如果游戏行业的人在这里听的话，因为，嗯，我过去曾有过强烈的观点，那些观点会让我在游戏行业的场合被赶出房间，嗯，我认为游戏将主要继续关注表象，因为这通常是提供特定类型的，嗯，设计所需要的，基本上就像，就像设计的愿景，因为那些从未尝试过设计游戏的人常常不明白的是，嗯，如果你只是把所有东西都扔进去，你把所有的机器学习等等都扔进去，你就会破坏游戏，因为游戏在一定程度上，嗯，首先，它是一种设计体验，嗯，其中有人有一个创造性的，呃，焦点，基本上是一个愿景，关于他们希望你作为玩家体验什么。呃，我认为我们也会看到基于更基础的，嗯，有趣的人工智能类型构建的互动体验的出现，嗯，这些可能会与我们现在看到的游戏功能并存，嗯，但是，呃，它们会，嗯，它们会是，嗯，会有一些不同，也许这两者会在未来的某个时候融合。
有一件事，就像加州大学圣克鲁斯分校的游戏研究教授诺亚·沃德里普-弗林几年前出了一本很棒的书，他在书中谈到，嗯，也许是十年前吧，我不知道，嗯，他在书中谈到了“尾旋效应”、“伊丽莎效应”和“模拟城市效应”。所以“尾旋效应”是当你有一个非常复杂的模拟系统或某种复杂的算法事物，但最终出来的结果却相当简单，你无法欣赏其底层的复杂性。所以“尾旋”是一个早期的故事，嗯，故事生成器，里面有很多东西在运行，有一个庞大的人工智能系统，但出来的故事却相当平淡无奇，嗯，对大多数人来说，它们看起来只是随机的。然后你有伊丽莎，伊丽莎是经典的，你知道，嗯，60年代罗杰派心理治疗师的模仿，嗯，呃，基本上，当伊丽莎问世时，很多人都说，哦，天哪，它是一个真正的心理治疗师，不，它是一个电脑程序，哦，真的吗？但你可以用它来做心理治疗，嗯，而且幕后超级简单，它真的就像，你知道，只是一堆脚本，嗯，那就像是相反的，你认为那里有一些非常深刻的东西，但实际上并没有，嗯，然后你得到了像，嗯，圣杯一样的东西，这种“模拟城市效应”。《模拟城市》是一款基于非常复杂模拟构建的游戏，作为玩家，你欣赏这种非常复杂的模拟，并深入地与之互动，这非常酷，嗯，我的意思是，这就是为什么它是这些有史以来最伟大的游戏之一，嗯，呃，所以我不太确定这是否回答了这个问题，但目前只能这样了。
还有什么最后的问题你想问朱利安吗？不，我觉得这真是一次引人入胜的讨论，嗯，我知道我也学到了很多。是的，不，有很多话要说，有很多。我认为我们不应该停止思考通用人工智能，我，你知道，它在某种程度上是人类主要关注的问题之一，或者至少是我们这些怪人中的一些人，但是，嗯，它也是一种理解我们自己的方式，呃，但我确实认为，把它当作一个单一的东西来关注，比如我们如何到达那里，我们何时到达那里，就好像有一个终点是通用人工智能，我们何时会达到，当我们达到人工智能时会发生什么，这有点适得其反。思考我们将在特定能力上取得什么样的进展会更好、更有用，但也许会有点无聊。如果我20岁的自己现在听到我说话，嗯，他会打我，因为我20岁的自己真的非常非常热衷于通用人工智能，并且真的想，你知道，这是激励他的核心事物之一，嗯，但是唉，我45岁的自己很无聊/明智，我不知道是哪一个。
嗯，呃，好的，所以你确实希望人们购买你的书？是的，请购买我的书《通用人工智能》，麻省理工学院出版社出版，它将于9月24日上市，呃，你知道，它很短，很便宜，你知道有什么不喜欢的吗？是的，是的，呃，嗯，我喜欢它，我认为它对很多这些问题都非常有趣，他非常冷静，非常彻底，呃，也有很多引人入胜的哲学和历史背景。所以，是的，请去购买阅读它，不要停止思考通用人工智能。
呃，你的推特呢？人们如何联系到我？是的，我在推特上是@togus，嗯，我的姓氏在全球只有七个人，所以你只要在任何地方输入togus，呃，你知道，嗯，就能通过各种方式找到我。太棒了！好的，非常感谢你和我们讨论这些事情，谢谢你的时间，呃，祝未来一切顺利，非常感谢特伦顿，托格斯非常棒，这是一次精彩的讨论！好的，谢谢！