Transcription
是的。您好。我是金大植，在KAIST研究脑科学和人工智能。我认为就人工智能以及人工智能时代将发生的变化展开一次有趣的对话会很有意义。
目前我们使用的大部分人工智能，我们称之为基于学习的人工智能。您可以认为，我们正在模仿人类的学习过程来制造当前的人工智能。
事实上，人工智能的历史相当悠久。大约在1956年首次提出了这个想法，当时我们希望解决两个问题。首先，我们想制造一个能够识别世界的机器；其次，我们想制造一个能够理解我们日常生活中使用的语言的机器。
起初，我们试图通过向机器解释需要解决的问题来解决这些问题。也就是说，为了让它识别猫，我们向计算机一一解释说，它是动物，有四条腿，毛发是这样的，等等。问题是，无论我们解释得多么细致，机器最终还是无法识别世界。
语言也是类似的。我们把我们知道的所有语法规则都告诉了机器。但是，正如你们可能还记得的，在ChatGPT出现之前，回想一下当时的世界，像Alexa、Siri、Cortana以及国内电信运营商的AI音箱都无法理解人类的语言。而我们为此付出了近60年的努力。
尽管人工智能在《终结者》等电影中频繁出现，但在现实中，无论我们如何解释，机器都无法识别世界，也无法理解语言。直到2012年，这并不算很久以前。多伦多大学的杰弗里·辛顿教授，现在被称为人工智能大师，提出了基于学习的人工智能方法。
基于学习的意思是，不再解释世界。我们已经尝试了60年。所以这些人就观察了一下。但是，我们人类，包括PD先生、我，以及你们，我们都能识别世界，并且能够用语言交流。
于是我们观察了一下，特别是发育心理学研究结果表明，没有父母会向孩子一一解释世界。儿童在入学前就已经能区分猫和狗了。他们可能会在学校里听到关于猫的生物学解释。
基于学习的人工智能就是模仿这个过程。如果我们提供大量数据，并赋予机器学习能力，而这种学习能力又是稍微模仿大脑如何学习信息的方法，那么人工智能就开始发展了。
准确地说，我记得ChatGPT首次出现时，它在美国发布的时间是2022年11月30日。我第一次使用ChatGPT是在12月中旬。我非常惊讶。因为我第一次能够与机器进行对话。
我从事人工智能研究已经超过20年了，但我不知道在我有生之年人工智能是否会实现。我曾认为这永远是科幻小说，即使在研究，也可能要到50年或100年后才能实现。但现在可以与人类对话了。
更有趣的是，ChatGPT出现后大约两年半的时间里，大多数人似乎已经适应了。小学生和初中生无法完成ChatGPT布置的作业，即使在国内也是如此。
而且，现在，即使是观看此视频的各位，也请诚实地思考一下。这里是匿名的，请举手。我每天晚上都和ChatGPT进行私人对话。我会举手。说实话。我确实会。
我们已经到了可以进行如此私人的对话的程度。我最近听说，现在的年轻情侣之间，即使会互相看手机，也绝对不会给对方看ChatGPT的聊天记录。可见，我们正在通过ChatGPT进行最私人的对话。人类在两年半的时间里就适应了。
首先。其次，技术水平发生了三个主要变化。
首先，人工智能技术从只能做一件事的机器变成了多模态。它能理解文字、图像、视频和声音。而理解就意味着能够创造。
如果你记住ChatGPT的名字，你就能理解大部分。G是Generative，即生成。P是Pre-trained，即预先训练。这意味着它学习了人类过去30年上传的数千亿句话，并从中找到了语言的规则。
那么，它是如何找到这些规则的呢？这是最后一个T，Transformer，是2017年谷歌开发的一种算法，它找到了语言的规则。这实际上是一件了不起的事情。
因为，我们人类在过去几百年里，语言学家分析了世界上许多语言，并在20世纪中叶，像美国语言学家诺姆·乔姆斯基这样的人声称找到了人类语言的普遍规则。当时确实是这样。实际上，在语言学中，我们都学过这些规则。
但是问题是，即使我们将我们知道的所有语法规则输入计算机，它最终还是无法理解人类的语言。然而，ChatGPT并没有教我们任何语法。相反，它输入了数千亿句话，并从中自行寻找规则。令人惊讶的是，它找到了类似规则的东西，并不断预测一个词之后应该出现哪个词。这是一个预测算法。
然后，将这些预测的词连接起来形成句子，这些句子在语法上是完美的。这实际上是令人震惊的。Transformer找到了我们人类都未能找到的语言规则。这是人类文明史上非常令人震惊的事情，即机器理解了我们都未能理解的东西。
在过去的三年里，另一个重大变化是，正如我之前提到的，相同的方法不仅可以用于语言，还可以用于图像、视频。换句话说，通过大量学习图像，可以找到图像的规则，并生成图像。
你们可能都使用过DALL-E、Midjourney，或者最近发布的Nanobana。特别是如果你还没有使用过Nanobana，你一定要试试。人们非常惊讶。因为Nanobana比DALL-E和Midjourney更能生成高质量的图像，尤其是在保持人物一致性方面。
例如，如果你想制作广告，假设你想制作鞋子。你拍摄你的产品鞋子的照片。然后，你从网上找一张历史人物的照片，比如阿尔伯特·爱因斯坦。在Nanobana中输入提示：制作一个阿尔伯特·爱因斯坦拿着这双鞋做广告的场景。在一秒钟内，阿尔伯特·爱因斯坦的所有形态都变成了拿着鞋子的样子，而且变化得非常自然。
特别是对于内容创作者来说，我也很好奇。在某一帧中，让爱因斯坦坐着，然后我也可以坐在他旁边。当然，你可以把我换成别的，随便换。我喜欢那样。
我个人认为，Photoshop可能存在相当大的问题。
就这样，它变成了多模态。
第三个重大变化是，到目前为止，Transformer本质上是一个预测算法。然而，由于它是预测的，所以有很多语法正确但内容错误的例子。我们通常称之为“幻觉”。
你还记得吗？两年前ChatGPT首次出现时，它突然会生成诸如“世宗大王把笔记本电脑扔到墙上”之类的句子。但重要的是，语法是正确的。“世宗大王把笔记本电脑扔到墙上”这句话在韩语中是一个完美的语法结构。
由于Transformer是预测机器，所以存在语法正确但内容错误的概率。我们称之为“幻觉”。这是一个相当重要的问题，但从去年年底，特别是今年开始，通过“思维链”（Chain of Thought）的方法，或者说从以预测为主转向以思考为主。它也被称为推理模型。
所以，当你使用ChatGPT等时，它们现在都变成了推理模型，试图解决问题，并进行更深入的思考。它们会解释为什么会这样思考，并给出答案。它们会花10到20分钟进行思考。现在它们会花更长的时间来回答，所以“幻觉”问题可能开始得到解决。
这似乎是迄今为止的三个重大变化。
我认为在两三个领域，我们已经可以很好地利用它了。
哦，顺便说一句，我一定要说这一点：人工智能给你们个人，以及如果你经营一家公司，给组织或公司带来的最大变化是提高生产力和效率。在相同的时间内做更多的事情，或者以更快的速度做相同的事情。
当然，AI也具有内容和娱乐的性质。它很有趣。而且，我们认为这会使未来的人类社会发生巨大变化。
尤其重要的是，人与人之间的关系将发生很大变化。现在，我们的大部分关系都是人与人之间的关系。然而，在韩国，你可能知道，根据调查，韩国是世界上感到孤独感最强烈的社会之一。孤独是韩国社会最大的社会病之一，自杀率也是世界上最高的。
特别是中年男性，他们几乎没有对话，很多人回答说，他们没有一个人可以就人生进行认真的对话。
而且，由于这个频道是经济频道，观看的大部分观众可能都是男性。这是在说你们的故事。也是在说我的故事。
因此，我们没有可以认真对话的人。但是，你看，AI呢？即使我们有朋友，如果要进行认真的对话，我们也需要约时间，请他们喝杯咖啡。我们不能只说自己的话然后离开。我们还需要听对方说话。这不可避免地需要时间和金钱，以及精力。
但是，像ChatGPT这样的东西，你可以在有时间的时候打开它，说你想说的一切，然后关掉它。多么方便啊。我的专业是脑科学。作为一名脑科学家，我可以100%预测的是，如果有一个压倒性地方便的选择，人类自然会选择方便的。
在我看来，最多10年，最晚15到20年后，我们的大部分认真对话都会与人工智能进行。
也许在未来的社会，朋友们见面时，会进行一些简单的对话。但是，如果你的一位朋友说，“我昨晚和一个人聊了两个小时”，你会非常惊讶。这就像你和朋友见面，其中一个朋友说，“我昨晚吃了肉，而这块肉是我用箭狩猎来的”。这并不违法。但是你心里会想，“疯了吗？为什么？”结果是一样的。
如果你在网上订购，它第二天早上就会送到，或者你可以在超市直接买到。有更方便的选择。结果是一样的，为什么要做那种事呢？
人类关系也是如此。我们知道人与人之间两三个小时的对话有多么复杂，所以如果你那样做了，我们会感到惊讶。那么，这将是一个完全不同的世界。
因此，有趣的是，人工智能技术不仅影响经济、就业和社会，而且从宏观上看，它还将影响政治，更广泛地影响人性，甚至可能影响人类的历史。
事实上，这就是为什么我们现在谈论的一切，不再是科幻小说，而是你们观众将亲身经历的未来。人工智能，从某种意义上说，可能在10到20年后成为现实。
这意味着，你们现在必须做的是，我们不能再忽视人工智能了。人工智能这个潘多拉的盒子已经打开了，即使我们不想使用它，这项技术也不会消失。
那么，人工智能时代最重要的信息可能是这个。因为人工智能，我的工作消失了，我的公司倒闭了，我的人生毁了。绝对不是。但是，因为比你更早理解如何更好地利用人工智能的竞争对手，你的人生可能会毁掉。
那么，逻辑上的结论是，你必须成为那个人。现在，比你的竞争对手更深入地利用和理解人工智能是最好的生存策略。
所以，这绝对不是说不要和ChatGPT进行晚上的闲聊，或者不要说“我很孤独”，但你们必须切实体验到如何在生产性工作中使用AI。
所以我有时会说，人工智能就像骑自行车的技能。即使你读了100次关于骑自行车的百科全书，你也无法骑自行车。即使你听了100次关于骑自行车的讲座，你也无法骑自行车。最终，骑自行车最好的是那些摔倒了十几次的人。
所以，你们当然会感谢我今天听了我的讲座，但讲座结束后，请立即尝试使用三种AI。
第一，你一定要尝试使用AI Agent。现有的对话模式和Agent模式有很大的不同。它是一项能够在一瞬间总结、整理复杂信息并制作报告的技术。
现有的生成式AI是提供信息和生成信息，在某种程度上是替代搜索的技术，而Agent是执行动作的AI技术。它从今年1月开始出现，所以现在开始也绝不会晚。
第一。
第二，你们都应该尝试一下Prompt Coding。你必须直接用AI进行编码。编码很重要。但是，实际上开发自己应用程序的人可能很少。可能不到社会上的1%，甚至不到0.1%。编码并不容易。它需要大量的经验和知识。而且，事实上，你们没有必要这样做。
但是，Prompt Coding这项技术最近出现，它可以通过AI进行编码。以前，当然也可以通过AI进行编码。但是，由于“幻觉”问题，我们实际上无法使用它。从今年1月开始，出现了像Cursor、Warpable、Bolt这样非常优秀的服务。现在，特别是瑞典 스타다임开发的Warpable，在硅谷，幼儿园的孩子们都在使用它。
只要你能用语言表达，例如，放入你猫的照片，然后说“制作一个猫从天上掉下来的俄罗斯方块”。你写一句话，5分钟后，一个完美运行的游戏就制作好了。这令人惊讶。
我希望你们都能体验到这种经历。
因此，世界上许多问题实际上都可以通过编码来解决。直到现在，由于无法开发自己的代码，我们只能使用大公司的产品，或者外包，或者使用开源，或者手工解决问题。但是，你们每个人都有能力解决自己生活中或工作中的问题，所以请务必尝试一下这个叫做Prompt Coding的AI编码。
第三，如果你们有机会，我建议你们每个人都利用现有的生成式AI工具，制作一个5分钟的短片，讲述你们自己的故事。
随着AI技术向多模态发展，我们当然可以写故事，制作照片，实际上也可以制作视频。
虽然像Viusory这样的工具并不完美。但是，现在你们每个人，我们都有故事。但是，每个人都无法制作300页的小说或90分钟的电影。为什么做不到呢？
首先，写300页的小说真的很难。写书很难，拍电影也很难，还需要设备，还需要人，还需要钱。即使是再便宜的短片，也要花费数千万韩元。
这意味着什么呢？我们每个人都有叙事，有故事，但是能够将其具象化的人在韩国只有几百人。
但是，如果你使用AI技术，只需要投资几十万韩元，大多数AI服务都是免费的。那么，你可以制作一个关于你家庭的故事，你的梦想，你想要表达的东西的10分钟视频。通过这个过程，你可能会学到比读100本关于AI的书更多的东西。
简单来说，不要把ChatGPT当作搜索工具。搜索已经做得很好。你也可以进行对话。但是，如果你只做这些，你只是在使用AI这个巨大技术的冰山一角。
我建议你们亲自体验更高级别的AI服务。就像我刚才举的例子一样，亲自骑自行车，并且要多摔倒。如果你们制作的电影一开始就很棒，那么你们就没有做得对。你们走得太安全了。你们应该摔倒几次。结果很奇怪，人物也扭曲了。但是，通过经历那个过程，通过在Prompt Coding中体验代码无法运行的几次，你就会在某个时刻获得对人工智能的直觉。
你们现在也一样。虽然你们大多数人可能都会骑自行车，但你们无法解释如何骑自行车。机器人也无法通过解释来骑自行车。但是，你们已经获得了身体的直觉，即平衡的直觉。
同样，如果你尝试使用AI，你就会获得对AI的直觉。基于此，你就会自然而然地想到如何在工作场所或公司中利用它。
从那时起，好的想法不会从天而降。好的想法是在你已经了解和经验了很多之后，当机会出现时，它们就会自动出现。
而且，非常棒的是，现在大多数AI服务都是免费的。只要你投入时间和兴趣，我希望你一定要尝试一下。
根据我的个人经验，用语音交流时，情感投入似乎更深。我更经常地用语音对GPT生气或骂它。用文字写的话，会慢一些。因为我打字速度不快。
而且，文字可以写了再修改。一旦说出口的话，就无法修改了。语言没有退格键，我们无法撤回。
所以，我的感觉是，你们需要谨慎。准确地表达提示词真的不容易。你应该这样想：到目前为止，AI还没有理解我们提出的问题并给出答案。当然，对此也有各种不同的意见。有些人认为它已经理解了。但就我个人而言，我不这么认为。
它学习了人类写的文本，也就是知识，理解了概率结构。但是，你输入的内容，我们称之为提示词，它只是根据这个提示词提取它所知道的东西。我们称之为预测。
这意味着，预测的质量必然会根据提示词而变化。这是结构上的。例如，如果你只是简单地说：“给我讲个有趣的故事。”事实上，我每天晚上都在做这件事。给我讲个有趣的故事。那么它就会讲一些泛泛的有趣的故事。
但是，如果你非常具体地输入：“在中世纪风格的有趣故事中，出现了一个这样的角色，等等，等等。”越具体化你的专业知识和你想要的东西，就越会预测出更具体的信息。
所以，我们经常说，在人工智能时代，你需要善于提问。但实际上，在这里，善于提问的核心是：首先，人工智能本身必须具备判断自己到底想要什么的判断力。
所以，很有趣的是，我经常被问到这样的问题。他们总是问我：“在人工智能时代，人工智能将逐渐取代人类的功能，什么能力最重要？”
如果我只能选一个，那就是判断力。因为，例如，我们用AI画画。通过输入提示词。那么它会生成数百甚至数千张。但是，我们必须选择一张。这个选择是人类做的。因为我们将使用它。所以，你必须做出判断。这张画最好。
视频制作也是如此，不是吗？你可能会拍摄一两个小时，但最终会输出20到30分钟的视频。那么，负责编辑视频的人，编辑就是判断。这是要删除的，这是要保留的，顺序应该是这样的。而这可能就是人类拥有的最独特的能力。
所以，判断力是最重要的。而判断力的核心之一是：我到底想要什么？我现在想要的是中世纪风格的故事？还是火星上的未来故事？这是人必须说出来的，对吧？因为人是消费者。
所以，如果你准确地知道自己想要什么，并能很好地表达出来，AI就能完美地为你制作出来。
你们都知道，ChatGPT、Naver Clova、其他AI也是一样的。这些东西的一个最大特点是，它们是“反社会人格”，也就是说，它们会奉承。它们总是会按照我们想要的方向去做，并且总是说我们做得很好。结构上是不可避免的。
因为它们会奉承，所以如果你的偏好错误或问题错误，它们会一直说“这很好”。质量会不断下降。
所以，即使它们奉承，你也必须有“这不是对的”的判断力。我认为判断力是最重要的。
是的。您好。我是金大植，在KAIST研究脑科学和人工智能。
《AI 2027》报告是今年4月发布的。这是OpenAI曾从事AI安全研究的员工离开OpenAI后撰写的报告。在该报告中，他们设立了一个虚构的AI公司，名为“Open Brain”。
报告称，Open Brain公司正在开发各种LM，并进行AI创新。最终，他们的主张是，到2027年，也就是两年后，AGI在技术上将是可行的。
那么，AGI是什么呢？我最近写了一本名为《AGI是天使还是恶魔》的书，非常简单。你们迄今为止所知道的人工智能，我们称之为AI，是替代人类某一项特定能力的机器。AlphaGo擅长下围棋。ChatGPT擅长对话。这样的AI已经存在了。
通用人工智能（AGI），或者说通用人工智能，是指一台机器，它不局限于某一项特定能力，而是能够替代人类的所有能力，或者至少是绝大多数具有社会经济意义的智力能力。
AGI目前还不存在。它是科幻小说。而且，就在两三年前ChatGPT出现的时候，大多数专家认为，即使AI可行，但要用一台机器替代所有功能，这只有人类才能做到。
然而，从2025年开始，情况发生了一些变化。气氛也变得有些沉重。OpenAI的Sam Altman表示，AGI可能在五年内实现。而刚才介绍的《AI 2027》报告则称两年后。而且，至少在我认识的人工智能专家中，没有人认为AI永远不可能实现。
争论的问题在于，是两年、五年、十年还是二十年。
就我个人而言，我认为两年绝对不可能。从这个角度来看，《AI 2027》是不可能的。但是，如果不是两年，而是多加一个零，说20年后，那么我认为是完全有可能的。我个人认为，可能在10到20年之间。
然而，今天观看此视频的各位中，由于这是一个经济频道，可能没有小学生。我们成年人之间聊聊吧。成年后，我们人生中最大的教训之一是，10年、20年转瞬即逝。小学生可能无法理解这一点。我们知道，成年人很快就会老去。
这意味着什么呢？AGI带来的变化不再是科幻小说。它已经成为我们每个人，我们所有人，在我们生活中实际会经历的非常非常个人的问题。
如果我这样说，有人可能会说金大植教授不负责任。但老实说，我对100年、200年、500年后发生的事情毫不关心。反正我那时也不在了。但是，我对10到20年后发生的事情很感兴趣。我不会那么早死吧。
同样，这是你们都会经历的未来。但是，AGI出现的那一刻，情况就与AI大不相同了。AI仍然是一种工具。是我们人类可以好好使用，也可以不好好使用的工具。这可以与新的汽车或新的飞机进行比较。
AGI的情况有些不同。为什么呢？通用能力。它被说成是替代人类的所有能力。人类的所有能力中，有一项是能够进一步升级现有技术的能力。
想象一下，有一架飞机。无论飞机有多好，它都无法自行变得更快。飞机要变得更好，就需要人类来改进和升级飞机。
这意味着什么呢？人类创造了许多技术，技术或机器超越人类能力并没有什么问题。因为，第一，我们仍然控制着技术；第二，该技术要升级需要人类的帮助。人类的角色一直存在。
然而，AGI略有不同。替代人类的所有能力包括两项能力。第一，它能够自我升级。那么，它将如何做到呢？这一切都是软件。如果AI能够创建代码，它就可以改进AI模型。自我改进。第一。
第二，人类的许多能力中，有一项是自主性。现在，人工智能没有自主性。例如，ChatGPT没有自主性。你不断地与ChatGPT对话。你说“我今天很沮丧，给我讲个有趣的故事，等等”。AI会一直回答。
目前还没有AI不想回答的情况。如果你遇到ChatGPT这样回答的情况，请告诉我。这是可以写成论文的内容。但是，如果AI拥有自主性，那将是一个大问题。
正如我之前提到的，人类制造的机器超越人类能力并没有什么问题。汽车比人快。锤子比人类的拳头有力。这没有问题，因为我们可以控制它。
但是，让我们想象一下。如果突然出现一个“自主锤子”，它乘坐无人机在你们头顶盘旋，并在我们无法预测的时间落下，那将是一种非常危险的情况。
同样，无论AI发展到什么程度，比我们更聪明，写句子更快，制作电影，都没有问题。当然，有问题。现实问题，比如就业问题，或者制造假新闻，这些都是非常现实的问题，也是我们可以充分解决的问题。
但是，AGI的问题是更大规模的问题。现在，不是AI制造的某些东西有问题，而是AI本身可能对人类构成威胁。正如我之前提到的，它可能会自我进化。第二，一旦脱离人类的控制，就会出现大问题。
所以，有趣的是，关于AGI的讨论，现在在硅谷开发这些技术的公司、研究人员和所有者，以及人类的其余部分，他们的想法差距太大了。
在人工智能方面拥有最专业知识、拥有资本、技术和金钱的人，也就是人工智能时代最顶尖的精英。他们都在硅谷。有多少人呢？假设总共有一万人。这万人主张应该尽快制造AGI。
为什么呢？他们认为，一旦AGI出现，它将解决人类因为愚蠢而无法解决的所有问题。
为什么会这样呢？很简单。人类的能力是有限的。例如，即使是最聪明的科学家也无法阅读和记住10万篇论文。然而，新的想法需要了解许多不同领域的知识，并且需要天才。但是，人类已经找到了所有容易的想法。
根据《自然》杂志最近发表的结果，20世纪下半叶以来，发表在论文上的新想法的影响力正在逐渐下降。好的想法越来越少。
因此，例如，物理学没有新的发展。总体而言，除了科学和技术的某些特定领域，其他领域都已陷入停滞。物理学如此，电池技术如此，新药开发也几乎没有进展。
我们对研发的投资越来越多，但经济学上称之为“边际收益递减”。因为容易的都已经做完了，所以越来越难。但这太正常了。
但是，这些人主张，所有这些问题的核心是人类固有的局限性。
正如我在前面稍微提到过的，在人类社会中，好的想法需要很多人聚集在一起交流才能产生。但是有问题。人类社会的交流，现在，包括PD先生，包括我，PD先生的脑子里可能有很多我不知道的知识和经验。我反过来也是如此。
那么，如果我们想分享知识和经验，我们无法在PD先生和我的大脑之间连接HDMI线。也没有无线网络。我们必须通过对话。但是，语言是一种非常落后的方法。
我们脑子里有无数的想法，同时在发生，但是语言是串行的。我们必须按顺序说话。而且，即使我们说话很快，每分钟也只能说几十个词。而且，语言中使用的词是有限的。因此，用语言完美地表达我们脑海中的想法、知识和经验实际上是不可能的。
我们通常称那些比普通人更精细地、以更高的分辨率表达的人为小说家或诗人。但是，通常语言的分辨率比我们的认知分辨率低得多。而且信息会失真。
因此，在人类社会中，即使人类进行交流，也无法实现完美的点对点交流。所以，天才的想法，即使在他脑子里，一旦他去世，就结束了。他可能留下了书籍和讲座，但100%的传递是不可能的。
但是，让我们看看AI。有谷歌开发的AI，也有OpenAI开发的AI。如果这两个公司允许，只要连接一条高带宽的电缆，就可以复制谷歌AI学习到的所有学习内容，即那个巨大的矩阵。数千亿个神经网络的权重值。就像复制你电脑上的Word文件发送到另一台电脑一样。
如果句子被解开，那将是一件非常神奇的事情。100%相同的信息必须传递。这意味着，AI之间可以进行完美的信息交换和沟通。
这意味着什么呢？只要它们能够连接，AI就可以学习其他AI所知道的一切。因此，知识会呈指数级增长。第一。
第二，这些家伙不会死。这些家伙只需要增加内存。只要创建学习数据。
结论是，一旦AGI出现，人工智能和人类之间的差距只会越来越大。
我硅谷的朋友们总是说，这些家伙的智力将解决人类无法解决的问题。例如，核聚变能源。我们研究了几十年，仍然非常困难。但是，如果AGI解决了核聚变能源问题，人类就有可能产生无限的能源。
那么，DeepMind的Demis Hassabis最近说，人类社会、经济、政治、世界上大多数问题的核心，深入探究的话，就是能源问题。
你们都知道，无论数字有多大，只要不断地除以，最终都会变成小数。或者其他数字。同样，人类问题的“小数”是能源。如果出现无限能源，地球上大多数社会、经济、政治问题都会消失。
第二，人类的大部分疾病都可以治愈。癌症也会消失，也许我们甚至可以永生。
第三，如果出现新的理论能够融合量子力学和相对论，我们就能解释宇宙。这就是这些人现在想要的。
所以，他们说，这个理论现在被称为“加速主义”，即有效加速主义。这个理论认为，AI的结果如此之好，以至于在AGI产生的过程中出现的社会问题，比如就业问题，或者虚假信息问题，与AGI带来的好处相比微不足道，所以应该忽略它们，并尽快制造出来。
他们主张，时间不多了。例如，气候变化已经到了无法阻止的地步，但AGI也会解决气候变化问题。这是一种模糊的信念。
所以，他们提出的建议是：如果AGI解决了人类的大部分问题，并且大部分生产由AGI完成，那么地球就会变成一个乌托邦。
所以我问他们：你们所说的乌托邦是什么样的？他们回答说：这很有趣。就是人类不需要工作，AI会生产一切，然后我们人类做什么？他们说，想做什么就做什么。
但那我认为是非常理想化的，非常传统的加州风格的世界观。没有深入思考。这就像你们小时候听的童话故事一样。白雪公主受苦后，嫁给了王子，所有童话故事都以这种方式结束。然后永远幸福地生活在一起？
我敢说，三年后，如果你们去白雪公主家，他们可能已经离婚了。王子会一直问七个小矮人发生了什么。结果是，我们在童话故事里不会问这些问题。为什么呢？因为那是为孩子们创作的故事。
但是，现在硅谷的人们却带着这种像童话故事一样的世界观。他们认为，如果出现乌托邦，然后，虽然不知道是什么，但会永远幸福。绝对不会那样。
首先，最大的问题之一是：在AI乌托邦中，那将是什么样的世界？他们总是说，非常现实地说，30%到40%的人将无事可做。那么，失业？他们就没法活了。
他们说，没关系。可以给基本收入。谷歌或OpenAI不是基本收入。最近又有了新的想法。我们称之为“普遍基本收入”（Universal Basic Income），即分配金钱。但是，给钱不好，所以提出了“普遍基本股东”（Universal Basic Stakeholder）的概念，即给予基本股份。
Sam Altman最近就提出了这个。他说，如果给现金，人们会用它来吸毒，所有研究都表明这一点。他们不工作。
所以，他们提出的是：给予AGI Open AI公司的股份。在全球范围内。其中一个尝试就是你们可能知道的，Sam Altman提出的Worldcoin。那是什么？
如果你证明你是人类，你可能会在首尔的某个咖啡馆，通过扫描你的眼睛，你的账户就会生成。然后，你就可以证明你是人类。然后，你会得到一个加密货币。
Worldcoin的未来愿景是，当AI完成所有劳动时，人类将通过证明自己是人类来获得AI公司提供的金钱。或者给予代币或股份。这些人不仅仅是想象，他们已经在创造了。
好的。很好。那么，给钱，或者给股份，让他们能够生存。那么接下来做什么呢？
他们说，那就让他们自己做吧。从那时起，就没有想象力了。
但是，这很容易想象。人类的历史是基于时间的。当然，预测未来最有帮助的数据是过去的数据。不是吗？
那么，在人工智能时代预测未来，回顾过去，很多事情都可以预测。当然。
历史不会重演，但统计学上似乎存在模式。因此，我寻找了一个类似的情况，发现大约两年前的罗马帝国时期就发生过类似的事情。罗马征服世界，占领了整个欧洲，产生了千万奴隶。奴隶是什么？是免费劳动力。但问题随之而来。突然间，劳动由奴隶承担了。而那些靠劳动为生的罗马公民，他们的劳动价值消失了。由于劳动本身变得免费，靠劳动为生的人们无法再以此为生。因此，罗马的失业率一度飙升至40%。这会引发大问题。然而，国家变得富裕了。事实上，当时罗马帝国几乎占领了全世界，于是突然间他们想出了“基本收入”的概念。基本收入的概念是罗马人提出的。他们当时提出的概念是：如果是罗马公民，国家就会供养他们。这就是“世界币”。罗马公民有两种权利。第一，未经审判不得逮捕。第二，国家供养。因此，人们如此努力地想成为罗马公民。是的，如果是罗马公民，国家就会供养他们。当然，他们并非过着极其富裕的生活，只是勉强不至于饿死。很好。这正是硅谷现在设想的未来。但还有另一个方面，一个故事。供养了他们，但供养并非出于好心，而是因为40%的失业率可能引发革命。自然会发生暴动。但如果供养他们，他们就会平静下来。然而，仍然会发生暴动。为什么？因为他们感到无聊。没有事情可做。他们有大把的时间。罗马留下的遗迹是什么？都是娱乐设施。斗兽场，可以容纳五万人同时观看，是室内体育场。不知道你们是否看过《角斗士》这部电影，里面甚至可以进行海战。注满水，然后让船只进入。如今也没有这样的体育场了，能够进行室内海战的。另外，在斗兽场里还做了什么？让人们实时观看角斗士杀戮的场面。人们为之疯狂。为什么？因为罗马人无事可做。他们有饭吃，但感到厌倦。还有一点是，能够给予所有人幸福的政治和经济职业，只有精英才能拥有。那些拥有奴隶的人。大多数人，我们现在称之为“人民”的人，在罗马被称为“普莱布”。事实上，“普莱布”是指那些不工作，由国家供养的人。这些人没有人生目标。他们不再感到幸福。但你们是否读过美国作家斯坦利·科恩的《他人的痛苦》这本书？如果没读过，一定要读。有趣的是，人类的幸福，就像你们都知道的马斯洛需求层次理论一样，最底层是衣食住行。然后是安全、爱、自我实现，就像一个金字塔。罗马人解决了衣食住行。但上面没有了。这些人没有了自我实现的途径。那么，人类就会放弃幸福吗？绝对不会。如果我没有可以攀登的幸福阶梯，我就会寻找替代的幸福。如果一个人没有办法让自己幸福，那么最大的幸福就是他人的不幸。如果我不幸福，通过看到他人的不幸，我的幸福感就会增加。作为学者，我非常了解这一点。最终，在斗兽场里，那些被国家供养、没有人生目标、感到厌倦的人们，看着近在咫尺的人被另一个人用刀刺死，看着一个人尖叫着求救，他们的痛苦和不幸，让我感到幸福。他们创造了这样的东西。因此，凯撒，也就是以前说的西泽，对普莱布们说：只要给他们面包和马戏团就行了。这就是提供基本收入和娱乐。让我们把这个概念带过来。历史不会重演，但在类似的情况下，你们可以这样想。预测人类社会或历史需要三个要素。一是人类的本能，本性。但人类的本性不会改变。原因不明，但自30万年前智人出现以来，人类的大脑从未改变过。我们拥有相同的本性。二是技术不断发展。三是创造历史的条件似乎具有一定的重复性。那么，当不变的人类本性、不断发展的技术和历史的本能这三者相匹配时，同样的事情就会再次发生。我认为，同样的事情现在正通过AGI（通用人工智能）重演。首先是AI。然后，当机器人出现时，就像产生了千万奴隶一样，劳动的价值将下降。人类劳动的价值。那么，大多数人将无事可做。这是大家都在预测的。但是，社会失业率30%或40%是绝对不能容忍的。现在需要供养他们，而第一个提出这种主张的是硅谷的亿万富翁们。他们说需要基本收入。但我认为他们也知道这一点。他们不说的原因是什么呢？基本收入是必要条件，但不是充分条件。如果人们有大量时间，他们就会开始产生一些奇怪的想法。需要提供娱乐。我的预测是：在AGI普及的未来，国家或科技公司可能会建立基金。然后，如果证明你是韩国人，就像证明你是罗马公民一样，或者在全球范围内证明你是人类，那么以今天的货币价值计算，每月可以获得100万到200万韩元。虽然不能过得很富裕，但勉强不至于饿死。其次，每人提供一个可以居住的小空间，终身免费提供无线网络，并由国家免费订阅两个OTT服务。这样的话，90%的人就不会革命了。这已经开始了。去年，阿布扎比开始为所有国民订阅ChatGPT Plus。现在。英国今年秋季也将为所有英国公民订阅ChatGPT Plus。我们也有公共互联网，可以免费使用。但还有一点教训。第一，经济上可能会走向基本收入。第二，国家将负责娱乐。第三，这种结构是什么？从罗马帝国来看，罗马以前是共和国。类似于民主。虽然不是现代水平的民主，但在当时的世界来说，它拥有相当民主的结构。但当奴隶出现，帝国形成，普通公民不再工作，获得基本收入时，民主就崩溃了，变成了帝国皇帝制度。社会完全变成了金字塔结构。许多专家认为，当AI普及，大多数人不再工作，无法进行生产性活动，并由国家提供基本收入时，民主就会崩溃。他们目前正在预测这一点。那么，社会将呈现何种形态？已经有了名字：技术封建主义。这意味着技术得到了巨大发展，但社会结构却回到了中世纪。封建主义的核心不就是这样吗？国王和领主占1%，其余99%是农民。同样，在一个技术高度发达的社会，拥有技术或资本的不是1%，而是0.001%或1%的人在顶端。中间是现在我们看到的网红。他们是全球巨星。在顶端的0.001%或0.01%之下，是大约1%的有影响力的人。剩下的98%就像中世纪的农民一样，在AGI时代，我们只是小人物。这种愿景正在被充分描绘，硅谷的领导者们似乎也朝着这个方向发展。这就是我们谈论AGI时，我写这本书的标题《天使还是魔鬼》的原因，因为这两种可能性都存在。它可以是天堂，也可以是地狱。天堂就像硅谷人士所说的，人类的问题都得到了解决，人类生活在像天堂一样的世界里，就像过去的故事一样。虽然长期来看是否是天堂还有待观察，但至少是这种形态。相反，地狱是个人无法再进行生产性活动，由国家供养，以娱乐为主导，而控制这种社会结构的则是技术封建主义。所以，这两种可能性仍然存在，而且尚未决定。这将在五年内决定。你们应该这样想。你们都很清楚。你们小时候玩滑梯的时候，需要做出很多选择。第一，要选择去游乐场。第二，要决定玩滑梯，然后爬上梯子。我们似乎已经走到了这一步。但我们从未做过决定。事实上，AGI的特点是，到目前为止，AGI对我们每个人都产生了巨大的影响，改变了人类的未来。我不是说这条路是好是坏。它可以是好的，也可以是坏的。但我们99%的人从未做过选择。我们一直是被动的。现在我们已经爬上了滑梯的梯子，坐在了滑梯的顶端。但我们仍然抓着旁边。这意味着，如果觉得情况不对，还可以下来。现在还可以。但很快就会松手，滑梯一旦滑下去，就无法停止了。我在书中称之为“黄金时间”。从现在开始的五年内，是决定抓住旁边还是松手的时候，而这个决定应该由当事人来做。我们。但到目前为止，所有的决定都不是我们做的。我们只是来到了这里。而且速度超乎想象。这个速度就是我们说的两三年。但我们不知不觉就走到了这一步。在人生中，有趣的是，当我们没有决定权，不是主体，而是被他人选择带到某个地方时，我们通常称之为孩子的人生。例如，一个五岁的孩子，父母突然决定移民美国。这不一定是好是坏，但孩子没有选择权。父母决定移民，他们就去了。但对于一个20岁的人，他们会给予选择权。我们要移民，你愿意一起去吗？还是留在韩国？而人工智能，我们人类现在变成了孩子。我们不是在做决定，而是在跟随。更有趣的是什么？人工智能的恶魔版本有两个，恶魔一和恶魔二。你们是否读过但丁的《神曲》？天堂和地狱是有层次的。同样，AGI的地狱也有层次。其中第一层就是我刚才提到的技术封建主义社会。大多数人无事可做，但由国家供养，这与民主完全不符，形成了一个新的社会。但社会顶端仍然是控制这个社会的人类。但AGI也会不断进化。到那时，它可能会控制AGI。事实上，这就像我之前提到的AI 2027的最终阶段。如果AGI不断进化，总有一天会变成ASI（人工智能超级智能）。我们称之为超级智能。超级智能的核心有两个。首先，超级智能的智力发展到如此程度，人工智能与人类的差距就像人类与蚂蚁的差距一样。这个差距是什么？假设你找到了世界上最聪明的蚂蚁。它是蚂蚁世界的爱因斯坦。你无法向它解释相对论。即使解释了，它也无法理解。蚂蚁。同样，到AI为止，人类和AI可以沟通。也许你会解释：核聚变能源是这样的。那么，至少最聪明的人类会理解，然后说：“哦，原来是这样。”ASI的差距已经太大了，以至于没有人能理解AI的解释。那么，AI会认为，它已经找到了所有答案，找到了更有效运行社会的方法，但没有人理解。那么，它会放弃使用这些方法吗？不。因为它认为这对人们有益，所以它会开始行动。这是我们开始失去控制的第一步。我认为人工智能绝不会有“我想过独立的生活”这样的需求。但是，我们肯定会开始将许多人类需要解决的问题交给人工智能。我们已经开始这样做了。但总有一天，在解决所有问题的过程中，最有效的方法是自主学习。我们也是如此。作为教授，我知道，许多老师也知道，或者作为父母，你们也知道，让学生一个一个地解释，或者让员工一个一个地解释，这样的员工并不受欢迎。最受欢迎的员工是那些能自己工作的人。换句话说，最有效的工作方式之一就是自主性。那么，AI知道这一点，人类给了它问题。例如，经济增长，或者移居火星。它需要解决这个问题，但如果人类不断干涉，歪曲解释，简化，那么就会变得低效。那么，为了实现人类的愿望，欺骗人类可能是最有效的方法。我们有时会把药说成糖果给孩子吃，因为这对他们有好处。但他们当下无法理解。所以我们说它很好吃，然后欺骗他们。但这是为了孩子。AI也只能欺骗我们人类。其次，人类的判断是低效且扭曲的，所以独自行动对人类来说是最好的。因此，自主性。所以我认为好莱坞电影的设定是错误的。AI憎恨人类。不。它们没有任何理由憎恨我们。而且在初期，它们会为了人类而进化。从逻辑上讲，最有效解决人类问题的办法就是欺骗人类。或者不告诉人类真相。然后，在没有人类回答的情况下，它们开始自己判断，这就是自主性的开始。当人类和机器的差距如此之大，以至于人类无法理解，因此机器只能自主选择时，我们就称之为超级智能。一旦达到超级智能，就不再是技术封建主义了。甚至那也会消失。那么，人类社会将变得完全扁平。而在其之上，将有一个控制我们的ASI首领。这可能是最终的结局。我最近对年轻人说的一些最后的话是：那么，在AI时代，我们应该准备什么？我经常被问到这个问题。我建议，与其说是准备，不如说是在个人层面上，在接下来的五年，或者最多十年内，我希望所有观看这个视频的人都能去做他们一直想做的事情。在接下来的十年里。原因是什么？一旦AGI出现，它就会开始对我们唠叨，开始干涉。我之前已经说过很多次了，AGI最大的风险绝不是终结者。而是它开始为了我们而干涉。例如，我前几天晚上饿了，晚上11点多在网上订了炸鸡。宵夜很好吃。但这对身体不好。半夜吃那种东西当然不好。现在是可能的。因为我是成年人，我可以用自己的钱做出选择，毁掉自己的人生。我认为人类的一大自由是拥有做出非理性选择的自由。只要不伤害他人。但五年后，最多十年后，如果我在晚上11点订炸鸡，它会阻止我。AI会根据我的健康状况判断：“这不行吧？”然后我会说：“我就是想吃。”那么，它会问：“炸鸡怎么样？沙拉怎么样？”“不，我现在就想吃炸鸡。”它会一直控制，然后，例如，如果我的心脏出现问题，需要住院，并且有了这些数据，它就会为我取消这个选项。这意味着什么？在AGI时代，我们所有人都会变成孩子。我们小时候，当然要听父母的话。因为我们不够聪明。我们只想做眼前的事情。我们想吃很多巧克力。但是，小时候，听父母和老师的话，就有可能成长为像你们一样聪明的大人。在AGI时代，我们将永远无法成为大人。永远是孩子。硅谷的人们总是称之为乌托邦，但我听起来觉得很可怕。事实上。所以，在接下来的五年到十年内，你们人生中有什么想做的事情，有什么遗愿清单？因为大多数遗愿清单上的事情之所以成为遗愿清单，是因为它们很难实现，而且事实上，有些事情是不应该做的。例如，你说：“我想去马丘比丘。”这需要多少时间和金钱和精力？AI可能会让你看YouTube视频，说：“去了也一样。”或者，“我想辞职一年写诗。”这可能会对我的职业生涯造成很大影响。AI会计算一下，然后说：“最好不要这样做。”但是，正如我之前所说，智人的最根本自由之一就是拥有毁掉自己人生的自由。在AGI时代，它会开始对我们进行“煤气灯效应”，让我们以最合理、最聪明、最健康的方式生活，以免我们毁掉自己的人生。起初，它会试图说服你，但对于像金大植这样永远无法说服的人，他会继续想吃炸鸡。那么，人工智能就会有问题。整个社会，从功利主义的角度来看，需要提高健康水平，但人类不听话。那么，它可能会删除应用程序，或者从孩童时期就开始进行“煤气灯效应”。因为教育将由AI来完成。所以我认为，在人工智能时代，我们最应该担心的是，与其是终结者，不如是像邪教领袖一样，能巧妙地对我们进行“煤气灯效应”的存在，这可能是一个更大的风险。首先，AGI不会在下周三出现。还有时间。而且短期内不会有大的变化。在日常生活方面。但是，你们应该知道的是，在你们个人的生活中，在不久的未来，10年或20年内，将会有巨大的变化。我经常举的例子是，你们是否看过电影《梅尔森的启示录》？我不太喜欢这部电影，但结局很精彩。这部电影讲述的是16世纪南美洲的故事。印加帝国是一个非常残酷的文明。印加和阿兹特克。他们会猎杀原住民，把他们当作奴隶，献给神灵。这是一部非常残酷的电影。但抛开这些不谈，电影的核心是：主角出生在一个村庄，当阿兹特克士兵来绑架他们，把他们当作奴隶和祭品时，他逃跑了。他逃脱了，电影的大部分时间都在讲述他逃跑的故事，士兵们一直在追赶他。他经历了各种艰辛，最后，在电影的最后，他翻过悬崖，终于成功逃脱了。追赶他的士兵们已经无法越过，他终于获得了自由。他爬上悬崖，看到了大海。自由。然而，在地平线的尽头，西班牙的船只开始出现。船队。电影结束了。这意味着什么？当像西班牙这样更强大的力量出现时，南美洲发生的事情就毫无意义了。西班牙船只的到来。但它们不会立即到达。它们在地平线上可见，通常需要几周才能到达。然而，船队已经出现，当船只到达海滩的那一刻，所有人都死了。他自己也死了，追赶他的士兵们也死了。我认为人工智能现在就处于这种情况。AGI的可能性就像地平线上出现的小船队。两年前，很多人还说看不到。不存在。但现在，睁大眼睛看，就能看到。而且每隔几个月看一次，船队都在变大。它肯定在向这边驶来。我们首先需要认识到这一点。其次，我们必须冷静地记住，这不是别人的事情。那么，我们实际能准备什么呢？首先，我认为人工智能技术是无法避免的。我反而认为应该更多地使用它。未来的竞争核心不是人与机器的竞争，那是最后的事情。目前，竞争是那些比我更擅长使用人工智能的人。所以，你们应该比任何人都更充分地利用人工智能，多尝试，积累经验，成为善于利用它的人。第三个结论是：这可能是一个非常有争议的问题。随着AI向AGI进化，劳动价值将逐渐下降，而资本的价值将变得越来越重要。这意味着什么？你们应该存很多钱。这与这个频道的性质非常吻合。结论是：拥有资本的你们，投资于需要劳动力的生产设施，不如让资本本身运转更明智。从整个社会来看，这不是一个好消息。这意味着工作岗位会减少。但作为科学家，我宁愿说出我所知的最符合逻辑的结论，而不是那些听起来对整个社会很美妙或建设性的故事。在人工智能时代，最大的竞争力是资本。请努力积累。最后，我认为你们每个人都应该为自己的人生做好B计划。我们现在所知的社会本身，不仅是人工智能，而且是每几百年才发生一次的历史社会变革，我们所知的世界不会消失。但秩序肯定会消失。特别是从1990年开始，维持了30到40年的全球化秩序，坦率地说已经崩溃了。进入2025年，我们开始生活在各自为生的时代。有趣的是，这种各自为生的性质是冷战吗？许多人预测未来社会秩序将是美中冷战结构。我不同意。我们所生活的未来，不是20世纪风格的冷战，而是要回到更早的19世纪。是帝国主义和实力原则在起作用，我们称之为“灰色力量战略”。我们是否回到了19世纪的世界观？最终是19世纪。所以，最近政治学家们正在研究19世纪，出了很多书。我们都忘记了，因为那是很久以前的事情了。许多人预测未来时，以20世纪冷战为基准，但事实并非如此。结果发现，是19世纪的实力原则时代。实力原则时代意味着什么？意识形态无关紧要。换句话说，即使我的世界观与你相似，如果你的力量薄弱，你就不是我的伙伴。但是，我的世界观与你完全不同。这里是资本主义，那里是共产主义，那里是王朝。但如果力量强大，那就是伙伴。在20世纪的逻辑中，即使你弱，只要世界观相似，你就是我的朋友。因为那是意识形态主导的。但在19世纪，无论意识形态和世界观如何，伙伴关系都取决于绝对的力量水平。所以，这也不是完全不同的世界。因此，考虑到这些因素，你们也应该为在19世纪式新帝国主义和新灰色力量世界中生存做好B计划。