Transcription
是的。您好。我是金大植，在KAIST研究脑科学和人工智能。我认为就人工智能以及人工智能时代将发生的变化进行一次有趣的对话会很有意义。
目前我们使用的大部分人工智能，我们称之为基于学习的人工智能。您可以认为，我们正在稍微模仿人类的学习过程来制造当前的人工智能。
事实上，人工智能的历史相当悠久。大约在1956年首次提出了这个想法，当时我们想解决两个问题。首先，我们想制造一个能够识别世界的机器；其次，我们想制造一个能够理解我们日常生活中使用的语言的机器。
起初，我们试图通过向机器解释需要解决的问题来解决这些问题。也就是说，为了让机器识别猫，我们向计算机一一解释说，它是动物，有四条腿，毛发是这样的，等等。
问题是，无论我们解释得多么细致，机器最终还是无法识别世界。语言也类似。我们把所有已知的语法规则都告诉了机器。但是，大家应该还记得，在ChatGPT出现之前，回想一下Alexa、Siri、Cortana以及国内电信运营商的AI音箱，它们都无法理解人类的语言。而我们为此做了将近60年。
尽管人工智能在《终结者》等电影中频繁出现，但在现实中，无论我们如何解释，机器都无法识别世界，也无法理解语言。直到2012年，这并不算很久以前。加拿大、多伦多大学的Geoffrey Hinton教授，现在被称为AI领域的巨匠，他提出了基于学习的人工智能方法。
基于学习是什么意思呢？就是不再解释世界了。我们已经尝试了60年。所以这些人就观察了一下。我们人类，无论是PD（制作人）还是我，还是你们，我们都能识别世界，也能用语言交流。
于是我们观察了一下，特别是发育心理学研究结果表明，没有父母会向孩子一一解释世界。孩子在入学前就已经能区分猫和狗了。他们可能会在学校里听到关于猫的生物学解释。
基于学习的人工智能就是模仿这个过程。如果我们提供大量数据，并赋予机器学习能力，而这种学习能力是稍微模仿大脑如何学习信息的方法，那么当我们改变方法后，人工智能就开始变得强大起来。
准确地说，我记得ChatGPT首次出现时，在美国发布的时间是2022年11月30日。我是在12月中旬第一次使用的。我非常惊讶。因为这是第一次能够与机器进行对话。我从事人工智能研究已经超过20年了，但我从未想过在我有生之年人工智能会成为可能。我曾认为这永远是科幻小说，只是在研究，但可能要50年或100年后才可能实现。然而，竟然能够与人类对话。
更有趣的是，ChatGPT出现后大约两年半的时间里，大多数人似乎已经适应了。小学生、初中生无法完成ChatGPT作业，即使在国内也是如此。
那么，现在正在观看此视频的各位，请诚实地思考一下。这里是匿名的，请举手。我每天晚上都和ChatGPT进行私人对话。我会举手。说实话，我确实会。
我们已经可以进行如此私人的对话了。我最近听说，现在的年轻情侣之间，即使会互相展示手机，也绝对不会展示ChatGPT的聊天记录。可见，我们正在通过ChatGPT进行最私人的对话。人类在两年半的时间里就适应了。
第一点。第二点，技术水平发生了三个主要变化。
首先，第一个变化是，人工智能技术从只能做一件事的机器变成了多模态。它能理解文字、图像、视频和声音。而理解就意味着能够创造。
如果你记住ChatGPT的名字，你就能明白大部分。G是Generative，即生成。P是Pre-trained，即预先训练。这意味着它学习了人类在过去30年里上传的数千亿个句子，并从中找到了语言的规则。
但是，它是如何找到这些规则的呢？这是最后一个T，Transformer，是2017年Google开发的一种算法，它找到了语言的规则。这实际上是一件了不起的事情。因为，我们人类在过去几百年里，语言学家分析了世界上许多语言，并在20世纪中叶，像美国语言学家Noam Chomsky这样的人声称找到了人类语言的普遍规则。当时确实是这样。实际上，在语言学中，我们都学过那些规则。
但是，问题是，即使我们将所有已知的语法输入计算机，它最终还是无法理解人类的语言。然而，ChatGPT没有教给它任何语法。相反，它输入了数千亿个句子，并从中自行寻找规则。令人惊讶的是，它找到了类似规则的东西，并不断预测一个单词后面应该出现哪个单词。这是一个预测算法。
然后，将这些预测的单词连接起来形成句子，这些句子在语法上是完美的。这实际上是令人震惊的。Transformer找到了我们人类都未能找到的语言规则。这对于人类文明史来说是一件非常令人震惊的事情，即机器理解了我们都未能理解的东西。
在过去的三年里，另一个重大变化是，正如我之前提到的，相同的方法不仅可以用于语言，还可以用于图像、视频。换句话说，通过大量学习图像，可以找到图像的规则，并生成图像。
你们可能都使用过DALL-E、Midjourney，或者最近发布的Nanobana。特别是如果你还没有使用过Nanobana，你一定要试试。人们非常惊讶。因为它比DALL-E和Midjourney生成的图像要好得多。特别是它能保持人物的一致性。
例如，如果你想制作广告，假设你想制作鞋子的广告。你拍摄你的产品鞋子的照片。然后，你找一张历史人物的照片，比如阿尔伯特·爱因斯坦。从网上找一张照片，然后输入提示给Nanobana：制作一张阿尔伯特·爱因斯坦拿着这双鞋子做广告的场景。在一秒钟内，阿尔伯特·爱因斯坦的所有形态都变成了拿着鞋子。而且它改变得非常自然。特别是对于内容创作者来说，我也很好奇。在一帧中，让爱因斯坦坐着，然后我旁边也坐着。最终，我应该可以制作出爱因斯坦的照片和我并排坐在一起。请随意将我换成其他东西。我喜欢那样。
从这个角度来看，我认为Photoshop可能存在相当大的问题。
就这样，它变成了多模态。第三个重大变化是，到目前为止，Transformer实际上是一个预测算法。但是，由于它是预测的，所以有很多语法正确但内容错误的例子。我们通常称之为“幻觉”。
你还记得吗？两年前ChatGPT首次出现时，它突然会生成诸如“世宗大王把笔记本电脑扔到墙上”之类的句子。但重要的是，语法是正确的。“世宗大王把笔记本电脑扔到墙上”在韩语中是一个完美的语法结构。
由于Transformer是一个预测机器，所以存在语法正确但内容错误的概率。我们称之为幻觉。这是一个相当重要的问题，但从去年年底，特别是今年开始，通过“思考链”（Chain of Thought）的方法，或者说从以预测为主转向以思考为主。它也被称为推理模型。
所以，当你使用ChatGPT等工具时，它们现在都变成了推理模型，试图解决问题，然后深入思考，并解释你为什么会这样想。它们会思考10分钟、20分钟。现在它们会花很长时间来回答，所以幻觉问题似乎开始得到解决。
这三个是迄今为止的重大变化。
我认为在两个或三个领域，我们已经可以很好地利用它了。
哦，顺便说一句，我一定要说这一点：人工智能给你的个人生活，以及如果你经营公司，给你的组织或公司带来的最大变化是提高生产力和效率。在相同的时间内做更多的事情，或者以更快的速度做相同的事情。
当然，AI也有内容和娱乐的性质。它很有趣。因此，我们认为未来的人类社会将发生很多变化。
特别重要的是：人与人之间的关系将发生很大变化。现在，我们的大部分关系都是人与人之间的关系。然而，相当多的人，特别是在韩国，你们可能知道，韩国是世界上调查显示感到最孤独的社会。孤独是韩国社会最大的社会病之一，自杀率也是韩国最高的国家。在世界上。
特别是中年男性，他们几乎没有对话，坦率地说，他们回答说没有一个人可以进行关于人生的对话。这个频道是经济频道，所以大部分观众可能是男性。我说的就是你们。我说的也是我自己的故事。
因此，我们没有可以坦诚对话的人。但是，看看AI。即使我们有很多朋友，如果要进行认真的对话，我们也需要预约时间，请他们喝杯咖啡。我们不能只说自己的话然后离开。我们也需要听对方说话。这不可避免地需要时间和金钱，以及精力。
但是，像ChatGPT这样的东西，你可以在有空的时候打开它，说你想说的一切，然后关掉它。多么方便啊。我的专业是脑科学。作为脑科学家，我可以100%预测的是，在结果体验方面没有太大差异的情况下，人类当然会选择更方便的东西。
我感觉，最迟10年，最多15到20年后，我们的大部分严肃对话将与人工智能进行。
也许在未来的社会，朋友们见面。他们会进行一些简单的对话。但是，如果你的一位朋友说，“我昨晚和一个人聊了两个小时”，你会非常惊讶。这就像你和朋友见面，其中一个朋友说，“我昨晚吃了肉，那肉是我用箭狩猎来的。”这并不是非法的。但是你心里会想，“疯了。为什么？为什么非要这样做？”结果是一样的。如果你在线订购，它会在早上送达，或者你可以在超市立即买到。有更方便的方式，结果是一样的，为什么要做那种事呢？
人类关系也是如此。我们知道人与人之间两三个小时的对话有多么复杂，所以如果你那样做了，我们会感到惊讶。那么，这将是一个完全不同的世界。
因此，有趣的是，人工智能技术不仅影响经济、就业和社会，而且从宏观上看，它还将影响政治，更广泛地说，影响人性，甚至更广泛地说，可能还会影响人类的历史。
事实上，这就是为什么我们现在谈论的一切，而且这不再是科幻小说，而是观众们你们都将亲身经历的未来。革命性的人工智能，在10年或20年后可能成为现实。这意味着什么呢？这意味着你们现在需要做的是，我们不能再忽视人工智能了。人工智能这个潘多拉的盒子已经打开了，即使我们不想使用它，这项技术也不会消失。
那么，人工智能时代最重要的信息可能是这个。因为人工智能，我的工作消失了，我的公司倒闭了，我的人生完蛋了。绝对不是。但是，如果你的竞争对手比你更早地理解如何更好地利用人工智能，那么你的人生可能会完蛋。
那么，逻辑上的结论是，你必须成为那个人。现在，比你的竞争对手更深入地利用和理解人工智能是最好的生存策略。那么，这绝不是说你不能仅仅在晚上找一个聊天对象，说“我很孤独”，但你必须切实地学习如何在生产性工作中使用AI。
所以我有时会说，人工智能就像骑自行车的技术。即使你读了100次关于骑自行车的百科全书，你也无法骑自行车。即使你听了100次关于骑自行车的讲座，你也无法骑自行车。最终，那些摔倒了十几次的人才能骑好自行车。
所以，你们当然很感激今天听了我的讲座，但讲座结束后，请立即尝试使用三种AI。
第一，你一定要尝试使用AI Agent。现有的对话模式和Agent模式有很大的不同。它是一项能够一次性总结、整理复杂信息并制作报告的技术。现有的生成式AI是提供信息和生成内容，可以说是替代了搜索技术，而Agent是执行动作的AI技术。它从今年1月开始出现，所以现在开始也绝不会晚。
第一点。第二点，你们都应该尝试一下Prompt Coding。你必须直接用AI进行编码。编码很重要。但是，真正开发自己应用程序的人可能很少。可能不到社会上的1%，甚至不到0.1%。编码并不容易。它需要大量的经验和知识。而且，说实话，你没有必要这样做。
但是，Prompt Coding这项技术最近出现了，它可以通过AI进行编码。以前当然也可以用AI进行编码。但是，由于幻觉问题，我们实际上无法使用它。从今年1月开始，出现了像Cursor、Replit、Bolt这样非常优秀的服务，现在你们，特别是瑞典 스타다임开发的Replit，在硅谷的幼儿园都在使用。只要你能用语言表达，例如，输入你猫的照片，然后说“制作一个猫从天上掉下来的俄罗斯方块”。你写一句话，5分钟后，一个完美运行的游戏就做好了。这令人惊讶。我希望你们都能体验到这种经历。
因此，世界上许多问题实际上都可以通过编码来解决。直到现在，由于无法开发自己的代码，我们只能使用大公司的产品，或者外包，或者使用开源，或者手工解决问题。但是，你们每个人都有能力解决自己生活中或工作中的问题。因此，我强烈建议你们尝试一下这种被称为Prompt Coding的AI编码。
第三，如果你们有机会，我建议你们基于现有的生成式AI工具，利用AI技术制作一个5分钟的短片。AI技术正在向多模态发展，所以我们当然可以写故事，制作照片，实际上也可以制作视频。
例如，Viuosry当然不完美。但是，现在你们每个人都有自己的故事。但是，你们每个人都无法制作300页的小说或90分钟的电影，对吧？为什么做不到呢？首先，写300页的小说真的很难。写书很难，拍电影也很难，需要设备，需要人，需要钱。即使是便宜的短片，也要花费数千万韩元。这意味着什么呢？我们每个人都有自己的叙事，有自己的故事，但是能够将其具象化的人在韩国只有几百人。
但是，如果你使用AI技术，只需要投资几十万韩元，大多数AI服务都可以运行。然后，你可以制作一个关于你家人故事、你的梦想、你想要表达的东西的10分钟视频。通过这个过程，你可能会学到比读100本关于AI的书更多的东西。
简单来说，不要把ChatGPT当作搜索工具。搜索已经做得很好。你也可以对话。但是，如果你只做这些，你只是在利用AI这项伟大技术的一角。我建议你亲自体验更高级别的AI服务。就像我刚才举的例子一样，亲自骑自行车，并且要多摔倒。你制作的电影一开始并不完美，那说明你做得不够好。你走得太安全了。你一开始应该多摔几次。结果可能很奇怪，人物也可能变形。但是，通过体验那个过程，通过在Prompt Coding时遇到代码不运行的几次，你就会在某个时刻获得对人工智能的直觉。
你们现在看，也许大多数人都能骑自行车，但你问他们怎么骑，他们可能说不出来。或者，机器人无法通过那种解释来骑自行车。但是，你们已经获得了身体的直觉，掌握平衡的直觉。同样，如果你尝试使用AI，你就会获得对AI的直觉。基于此，你就会自然而然地想到如何在工作场所或公司中利用它。
然后，好的想法不会从天而降。好的想法是在你已经了解了很多东西，并且有了经验，有了机会时自然而然地出现的。而且，非常棒的是，现在大多数AI服务都是免费的。只要你投入时间和兴趣，我希望你一定要尝试一下。
就我个人经验而言，用语音交流时，情感投入似乎更深。我更经常地用语音对GPT生气、骂它。用文字的话，毕竟会慢一些。而且，文字可以写了再修改。但是，一旦说出口的话就无法修改了。语言没有退格键，我们无法撤回。
所以，我的感觉是，你们应该谨慎地表达提示，这真的不容易。你应该这样想：到目前为止，AI并不是在理解我们提出的问题并回答。当然，对此也有各种各样的意见。有些人认为它已经理解了。但就我个人而言，我不这么认为。
它学习了人类写的句子，也就是知识，理解了概率结构，然后根据你输入的提示，也就是Prompt，它会提取它所知道的东西。我们称之为预测。这意味着，预测的质量只能根据Prompt而变化。这是结构上的。
例如，如果你只是简单地输入“给我讲个有趣的故事”，我每天晚上都在做这件事。你输入“给我讲个有趣的故事”，它就会讲一个泛泛的有趣故事。但是，如果你非常具体地输入“在中世纪风格中，一个这样的角色出现，等等，等等”，你越具体化你的专业知识和你想要的东西，你就会越具体地预测信息。
所以，我们经常说，在人工智能时代，你需要善于提问。但实际上，善于提问的核心是，首先，人工智能本身必须具备判断自己到底想要什么的判断力。
所以，很有趣的是，我经常被问到这样的问题：在人工智能时代，人工智能将逐渐取代人类的功能，什么能力最重要？如果我只能选一个，那就是判断力。
因为，例如，我们用AI画画。输入Prompt。它能生成数百甚至数千张。但是，我们必须选择一张。这个选择是人类做的。因为我们将使用它。所以，你必须做出判断。这张画最好。视频制作也类似吧？你可能会拍摄一两个小时的素材，最终输出20到30分钟的视频。那么，负责编辑视频的人，编辑就是判断。这个要删除，这个要保留，顺序应该是这样的。而这可能是人类独有的能力。
所以，判断力是最重要的。而判断力的核心之一是：我到底想要什么？我现在想要的是中世纪风格的故事？还是未来火星上的故事？这是人必须说出来的。因为，最终是人来消费。所以，如果你准确地知道自己想要什么，并能很好地表达出来，AI就能完美地为你制作。
你们都知道，ChatGPT、Naver Clova、其他AI也是如此。它们最显著的特点之一是，它们是“反社会人格”（Psychopath），也就是说，它们会奉承。它们总是会按照我们想要的方向去做，并且总是说我们做得好。结构上是不可避免的。因为它们会奉承，所以如果你的偏好错误或问题错误，它们会一直说“这很好”。质量会不断下降。
所以，即使它们奉承，也必须有“这个不行”的判断力。我认为这是最重要的。
是的。您好。我是金大植，在KAIST研究脑科学和人工智能。
《AI 2027》这份报告是今年4月发布的。这是OpenAI曾从事AI安全研究的员工离开OpenAI后撰写的报告。在这份报告中，他们设立了一个虚构的AI公司，公司名为“Open Brain”。报告称，Open Brain公司开发了各种LM（大型语言模型），并进行了AI创新。
最终，他们的主张是，到2027年，也就是两年后，AGI（通用人工智能）在技术上将成为可能。
那么，AGI是什么呢？我最近写了一本名为《AGI：天使还是恶魔？》的书，它非常简单。你们迄今为止所知道的人工智能（AI）是替代人类某项能力的机器。AlphaGo擅长下围棋。ChatGPT擅长对话。这样的AI已经存在了。
通用人工智能（AGI）是什么呢？它不是替代某一项特定能力，而是能够替代人类所有能力，或者至少是绝大多数在社会经济上有意义的智力能力的机器。
AGI目前还不存在。它是科幻小说。而且，就在两三年前ChatGPT出现的时候，大多数专家认为，即使AI成为可能，但要让一台机器替代所有功能，这只有人类才能做到。
然而，从2025年开始，情况发生了一些变化。气氛也变得有些紧张。OpenAI的Sam Altman表示，AGI将在5年内成为可能。而刚才介绍的《AI 2027》报告则认为是在2年内。而且，至少在我认识的人工智能专家中，没有人认为AGI永远不可能实现。争议在于这是2年、5年、10年还是20年。
就我个人而言，2年绝对不可能。从这个角度来看，《AI 2027》是不可能的。但是，如果不是2年，而是多加一个零，说20年后，那完全有可能。我个人认为，大概在10到20年之间。
但是，今天观看此视频的各位，由于这是一个经济频道，我想你们都不是小学生吧？我们成年人之间聊聊吧。成为成年人后，我们人生中最大的教训之一是，10年、20年转瞬即逝。小学生可能无法理解这一点。我们知道，成年人觉得时间过得很快。
这意味着什么呢？AGI带来的变化不再是科幻小说。它已经成为我们每个人都将在生活中实际经历的非常非常个人的问题。
如果我这样说，有人可能会说金大植教授不负责任。但说实话，我对100年、200年、500年后发生的事情一点兴趣都没有。反正我那时也不在了。但是，我对10到20年后发生的事情很感兴趣。我应该不会在那之前就去世吧？
同样，你们都将经历未来。但是，AGI出现的那一刻，情况与AI就大不相同了。AI仍然是一种工具。是我们人类可以好好使用，也可以不好好使用的工具。这就像新的汽车或新的飞机。
AGI的情况有所不同。为什么呢？通用能力。它声称替代人类的所有能力，其中一项能力就是能够升级现有技术的能力。
想象一下，有一架飞机。无论飞机多么好，它都无法自行变得更快。飞机要变得更好，需要人类来改进和升级飞机。这意味着，人类创造了许多技术，技术或机器超越人类能力并没有什么问题。因为，第一，我们仍然控制着技术；第二，该技术要升级需要人类的帮助。人类的角色一直都在。
但是，AGI略有不同。替代人类所有能力包括两项能力。第一，它能够自我升级。那么，它是如何做到的呢？这都是软件。如果AI能够编写代码，它就能改进AI的模型。这是第一点。
第二，人类的许多能力中，有一项是自主性。现在，人工智能没有自主性。例如，ChatGPT没有自主性。你不断地与ChatGPT对话。你说“我今天很沮丧，给我讲个有趣的故事，等等，等等”。AI会一直回答。目前还没有AI不想回答的情况。如果你发现ChatGPT这样回答了，请告诉我。这可以写成一篇论文。
但是，如果AI拥有自主性，那将是一个大问题。正如我之前提到的，人类制造的机器超越人类能力并没有什么问题。汽车比人快。锤子比人的拳头有力。这没有问题，因为我们可以控制它。
但是，让我们想象一下。如果突然出现一个“自主锤子”，它乘坐无人机在你头顶盘旋，并在我们无法预测的时间突然落下，那将是一个非常危险的情况。
同样，无论AI发展到什么程度，比我们更聪明，写句子更快，制作电影，都没有问题。当然，有问题。现实问题，比如工作问题，或者制造假新闻，这些都是非常现实的问题，也是我们可以通过社会努力解决的问题。
但是，AGI的问题规模更大。问题不再是AI创造的某个东西，而是AI本身可能对人类构成威胁。如前所述，它能够自我进化。第二，一旦脱离人类的控制，就会出现大问题。
所以，有趣的是，现在讨论AGI时，硅谷开发这些技术的公司、研究人员和所有者，与人类其余部分的想法差距太大了。
拥有最强人工智能专业知识、资本、技术和金钱的人，也就是硅谷的精英们。他们有多少人？假设有1万人。这1万人主张应该尽快制造AGI。为什么呢？他们认为，一旦AGI出现，它将解决人类因为愚蠢而无法解决的问题。
为什么会这样呢？很简单。人类的能力是有限的。例如，即使是最聪明的科学家也无法阅读和记住10万篇论文。但是，新的想法需要了解许多不同领域的知识，并且需要天才。而人类已经找到了所有容易的想法。
根据《自然》杂志最近发表的结果，20世纪下半叶以来，发表在论文中的新想法的影响力正在逐渐下降。好的想法越来越少。因此，例如，物理学也没有新的发展。总的来说，除了科学和技术的某些领域，已经进入了瓶颈期，没有更多的突破了。物理学如此，电池技术如此，新药开发几乎没有进展。我们对研发的投资越来越多，但这在经济学上被称为“收益递减”。因为容易的都已经做完了，所以越来越难。
这是非常自然的。但是，这些人认为，所有这些问题的核心是人类固有的局限性。
正如我在前面提到的，在人类社会中，好的想法需要很多人聚集在一起交流才能产生。但是有一个问题。人类社会的交流，现在，无论是PD还是我，PD的脑子里可能有很多我不知道的知识和经验。我反过来也是如此。那么，如果我们想分享知识和经验，我们无法在PD的脑子和我之间连接HDMI线。也没有无线网络。我们必须通过对话。
但是，语言是一种非常落后的方法。我们脑子里同时发生着无数的想法，但是语言是串行的。我们必须按顺序说话，即使我们说话很快，每分钟也只能说几十个词。而且，语言中使用的词汇是有限的。所以，用语言完美地表达我们脑子里的想法、知识和经验实际上是不可能的。
我们通常称那些比普通人更精细地、以更高分辨率表达的人为小说家或诗人。但是，通常语言的分辨率比我们的认知分辨率低得多。而且信息会失真。
因此，在人类社会中，即使人类进行交流，也无法实现完美的点对点交流。所以，天才的想法，即使在他脑子里，在他去世后就结束了。他可能会留下书籍和讲座，但永远无法100%传达。
但是，看看AI。有Google开发的AI，也有OpenAI开发的AI。如果这两个公司允许，只要连接一条高带宽的电缆，就可以将Google AI学习到的庞大矩阵，也就是数千亿个神经网络的权重值复制过去。就像复制你电脑上的Word文件一样。
但是，如果句子被解开，那将是一件非常神奇的事情。100%相同的信息会传递过去。这意味着，AI之间可以进行完美的交流和沟通。这意味着，只要它们能够连接，AI就可以学习其他AI所知道的一切。因此，知识可以呈指数级增长。这是第一点。
第二，这些家伙不会死。它们只需要增加内存。就可以创建学习数据。
结论是，一旦AGI出现，人工智能和人类之间的差距只会越来越大。我的硅谷的朋友们总是说，这些家伙的智力将解决人类无法解决的问题。
例如，核聚变能源。我们研究了几十年，仍然非常困难。但是，如果AGI解决了核聚变能源问题，人类就有可能创造出无限的能源。
那么，DeepMind的Demis Hassabis最近说，人类社会、经济、政治、世界上大多数问题的核心，深入来看都是能源问题。你们都知道，无论数字多大，只要不断除以，最终都会变成小数。或者其他数字。同样，人类问题的“小数”就是能源。如果出现无限能源，地球上大多数社会、经济、政治问题都会消失。这是他们的主张。
第二，人类的大部分疾病都可以治愈。癌症也会消失，也许我们甚至可以永生。
第三，如果出现能够融合量子力学和相对论的新理论，我们就能解释宇宙。
这就是他们现在想要的。所以，他们称之为“加速主义”（Accelerationism）。这种理论认为，AI的结果效益太好了，以至于在AGI产生的过程中出现的社会问题，比如就业问题或虚假信息问题，与AGI带来的好处相比微不足道，所以应该被忽略，并尽快制造出来。
他们主张，时间不多了。例如，气候变化已经到了无法阻止的地步，但AGI也会解决气候变化问题。这是一种模糊的信念。
所以，他们提出的建议是：如果AGI解决了人类的大部分问题，并且大部分生产由AGI完成，那么地球就会变成一个乌托邦。
所以我问他们：你们所说的乌托邦是什么样的？他们回答说：嗯，就是人类不需要工作，AI会生产一切，然后我们人类做什么？他们说，想做什么就做什么。
但是，我认为那是一种非常理想化的、非常传统的加州式世界观。没有深入的思考。这就像你们小时候听的童话故事。白雪公主受了很多苦，然后和王子结婚，所有童话故事都以这种方式结束。然后，他们永远幸福地生活在一起？我敢说，三年后，白雪公主的家可能会离婚。王子会一直问七个小矮人发生了什么。
结果是，我们在童话故事里不会问这些问题。因为那是为孩子们创作的故事。但是，现在硅谷的人们却持有这种像童话故事一样的世界观。他们认为，如果出现乌托邦，然后，虽然不知道是什么，但会永远幸福。这绝对不会发生。
首先，最大的问题之一是：在AI乌托邦中，那会是什么样的世界？他们总是说，非常现实地说，30%到40%的人将无事可做。那么，失业？那么，他们如何生存？他们说，没关系。可以提供基本收入。
不是Google或OpenAI提供基本收入。最近又有了新的想法。我们称之为“普遍基本收入”（Universal Basic Income），即分配金钱。但是，给钱不好，所以提出了“普遍基本持股”（Universal Basic Stakeholder）的概念，即给予基本股份。Sam Altman最近就提出了这个。他说，如果给现金，人们会用它来吸毒，所有研究都表明如此。因为不工作。
所以，他们提出，将AGI Open AI公司的股份给予全球。其中一项尝试是，你们可能知道，Sam Altman提出了Worldcoin。那是什么？如果你证明你是人类，你就可以获得一个加密货币。例如，在首尔的某个咖啡馆，如果你扫描你的眼睛，你的账户就会生成。然后，你证明你是人类。然后，你会得到一个加密货币。
Worldcoin的未来愿景是，当AI完成所有劳动时，人类将通过证明自己是人类来获得AI公司提供的金钱，或者给予代币或股份。这些人不仅仅是想象，他们已经在创造了。
好吧。很好。那么，给钱，或者给股份，让他们能够生存。然后接下来做什么？他们说，那就让他们自己决定。从那时起，就没有想象力了。
但是，这很容易想象。人类的历史是基于时间的。因此，预测未来的最有用数据是过去的数据。不是吗？那么，在人工智能时代预测未来，回顾过去，很多事情都可以预测。当然。
历史不会重演。但统计学上似乎存在着某种模式。因此，我曾试图寻找类似的情况，结果发现，大约两年前，罗马帝国时期就发生过类似的事情。罗马征服世界，横扫了整个欧洲，不是吗？产生了千万奴隶。奴隶是什么？是免费劳动力。但问题随之而来。突然间，劳动都由奴隶承担了。而那些靠劳动为生的罗马公民，他们的劳动价值消失了。劳动本身变得免费，靠劳动为生的人们就无法以此为生了。因此，罗马的失业率一度飙升至40%。这可是大事。然而，国家却变得富裕了。事实上，当时罗马帝国已经占有了全世界的土地，于是他们突然想出了“基本收入”的概念。基本收入的概念是罗马人提出的。他们当时提出的概念是：只要是罗马公民，国家就会供养。这就是“世界币”。罗马公民有两种权利。第一，未经审判不得逮捕。第二，国家供养。所以，人们才会如此努力地想成为罗马公民。只要是罗马公民，国家就会供养。当然，这并不是说他们过着极其富裕的生活。只是勉强不至于饿死。很好。这正是硅谷现在所设想的未来。但还有另一个故事。他们供养了这些人，但供养并非出于好心，而是因为40%的失业率可能引发革命。自然会发生暴动。但如果供养他们，他们就会平静下来。然而，他们仍然会暴动。为什么？因为无聊。无事可做。这些人时间充裕。罗马留下的遗迹是什么？全是娱乐设施。斗兽场。可容纳五万人同时观看，那是古代的体育场。你们可能看过《角斗士》这部电影，他们甚至可以在里面进行海战。注满水，然后让船只进去。如今也没有这样的体育场了。能在室内体育场进行海战。还有，斗兽场里还做了什么？让人们实时观看角斗士杀戮的场面。人们为之疯狂。因为罗马人无事可做。虽然衣食无忧，但却很无聊。还有一点是，能够给予所有人幸福的政治和经济职业，只有精英阶层才能拥有。那些拥有奴隶的人。大多数人，我们现在称之为“人民”的人，在罗马被称为“普拉布”（plebs）。事实上，“普拉布”是指那些国家供养却不工作的人。这些人没有人生目标。没有幸福可言。你们可能读过美国作家罗伯特·赖特的《伦理的起源》这本书，如果没读过，一定要读。有趣的是，人类的幸福，正如你们所知道的马斯洛需求层次理论一样，最底层是衣食住行。然后是安全、爱、自我实现，呈金字塔状。罗马人解决了衣食住行。但上面没有了。这些人没有实现自我价值的途径。难道人类就因此放弃幸福了吗？绝非如此。如果我没有可以攀登的幸福阶梯，我就会寻找替代性的幸福。如果一个人没有实现幸福的方法，那么最大的幸福就是他人的不幸。如果我不幸福，通过他人的不幸，我的幸福感就会增加。作为学者，我非常了解这一点。最终，在斗兽场里，那些被国家供养、没有人生目标、无聊的人们，看着近在咫尺的一个人用刀刺死另一个人，看着一个人尖叫着求救，通过别人的痛苦和不幸，他们获得了幸福。他们创造了这样的环境。因此，凯撒，也就是以前说的西泽，对普拉布们说：只要给他们面包和马戏就可以了。也就是说，提供基本收入和娱乐。让我们把这个概念带过来。历史不会重演，但在类似的情况下，你们可以这样理解。要预测人类社会或历史，必须具备三个要素。一是人类的本能。本性。但人类的本性不会改变。原因不明，但自从30万年前智人出现在地球上以来，人类的大脑结构从未改变过，我们拥有相同的本性。第二，技术不断发展。第三，创造历史的条件似乎具有一定的重复性。那么，当不变的人类本性、不断发展的技术和历史的本能这三者结合的点出现时，同样的事情就会再次发生。我认为，同样的事情正在通过AGI（通用人工智能）重演。首先是AI。然后，当机器人出现时，就像产生了千万奴隶一样，劳动价值将下降。人类劳动价值。那么，大多数人将无事可做。这是大家都在预测的。但社会失业率30%或40%是绝对不能容忍的。现在必须供养他们，而第一个提出这一主张的，正是硅谷的亿万富翁们。他们说：必须提供基本收入。但我认为他们也知道这一点。他们不说的原因是什么呢？基本收入是必要条件，但不是充分条件。当人们拥有大量时间时，他们就会开始产生奇怪的想法。必须提供娱乐。我的预测是：在AGI普及的未来，国家或科技公司可能会建立基金。然后，只要证明你是韩国人，就像证明你是罗马公民一样，或者在全球范围内证明你是人类，就可以获得相当于今天货币价值的每月100万到200万韩元。虽然不能过得很富裕，但至少不会饿死。其次，给每个人一个可以居住的小空间，提供终身免费无线网络，国家免费订阅两个OTT服务。这样的话，90%的人就不会革命了。这已经开始了。去年，阿布扎比开始为所有国民订阅ChatGPT Plus。现在。英国也计划从今年秋季开始为所有英国公民订阅ChatGPT Plus。我们也有公共网络，可以免费使用。但还有另一个教训。第一，经济上可能会走向基本收入。第二，国家将负责娱乐。第三，这种结构是什么？从罗马帝国来看，罗马以前是共和国。类似于民主。虽然不是现代意义上的民主，但在当时的世界来说，它拥有相当民主的结构。但当奴隶出现，帝国形成，普通公民不再工作，获得基本收入时，民主就崩溃了，变成了帝国皇帝制度。社会完全变成了金字塔结构。许多专家认为，当AI普及，大多数人不再工作，无法进行生产性活动，依靠国家基本收入生活时，民主就会崩溃。他们目前是这样预测的。那么，社会将呈现何种形态？已经有了名字：技术封建主义（Technofeudalism）。也就是说，技术极其发达，但社会结构却回到了中世纪。封建主义的核心不就是这样吗？国王和领主占1%，其余99%是农民。同样，在技术高度发达的社会，拥有技术或资本的不是1%，而是0.001%或1%的人站在顶端。中间可能是现在的网红。有影响力的人。他们被称为全球巨星。在顶端的0.001%或0.01%之上，是约1%的有影响力的人。其余98%的人，就像中世纪的农民一样，在AGI时代，我们只是无足轻重的小人物。这种愿景正在逐渐显现，硅谷的领导者们也肯定会朝着这个方向发展。当我们谈论AGI时，我写这本书的标题是“天使还是恶魔”，因为这两种可能性并存。它可能成为天堂，也可能成为地狱。天堂就像硅谷人士所说的，人类的问题都得到了解决，人类生活在像天堂一样的世界里，就像古老的故事一样。虽然长期来看这是否是天堂还有待观察，但至少是这种形态。相反，地狱是个人无法进行生产性活动，由国家供养，以娱乐为主导，而控制这种社会结构的，是技术封建主义。这两种可能性仍然存在，而且尚未决定。我认为这将在五年内决定。你们应该很清楚。你们小时候玩滑梯时，需要做出很多选择。首先，你必须选择去游乐场。其次，你必须决定玩滑梯，然后爬上梯子。我们似乎已经到了这一步。但我们从未做过决定。事实上，AGI的特点是，它对我们每个人都产生了巨大的影响，改变了人类的未来。我不是说这是好是坏。它可能好也可能坏。但我们99%的人从未做过选择。我们只是被推着走。现在，我们已经爬上了滑梯的梯子，坐在了滑梯的顶端。但我们仍然抓着扶手。这意味着，如果我们觉得情况不对，还可以下来。现在还可以。但很快，我们将放开手。滑梯的特点是，一旦开始下滑，就无法停止。我在书中称之为“黄金时间”。从现在开始的五年内，我们将决定是抓着扶手还是放手。我认为这个决定应该由当事人来做。我们。但到目前为止，我们从未做过任何决定。我们只是来到了这里。而且速度超乎想象。这个速度就是我们所说的两三年。但我们不知不觉地走到了这一步。在人生中，很有趣的是，当我们处于这种没有决定权、不是主体、而是跟随他人选择去某个地方时，我们通常称之为“孩童的人生”。例如，一个五岁的孩子，父母突然决定移民美国。这不一定是好是坏，但孩子没有选择权。父母决定移民，他们就得去。但对于一个20岁的人，他们会给予选择权：“我们要移民，你愿意和我们一起去吗？还是留在韩国？”而人工智能，让我们人类变成了现在的孩子。我们不是在做决定，而是在跟随。更有趣的是什么？人工智能的恶魔版本有两个：恶魔一和恶魔二。你们可能读过但丁的《神曲》，天堂和地狱是有层次的。同样，AGI的地狱也有层次。其中第一层就是我刚才提到的技术封建主义社会。大多数人无事可做，但由国家供养，这是一种与民主不符的新社会。但社会顶端仍然是控制这个社会的人类。然而，AGI也在不断进化。到那时，它可能会控制AGI。事实上，这就像我之前提到的AI 2027的最终阶段。如果AGI不断进化，总有一天会变成ASI（Artificial Superintelligence），即超智能。超智能的核心有两个。首先，超智能的智力发展到如此程度，人工智能与人类的差距就像人类与蚂蚁的差距一样。这个差距是什么？假设你们找到了世界上最聪明的蚂蚁。它是蚂蚁世界的爱因斯坦。你无法向它解释相对论。即使解释了，它也无法理解。到AI为止，人类和AI可以沟通。也许你会解释：“核聚变能源是这样的。”至少最聪明的人类会理解：“哦，原来是这样。”ASI的差距太大了，以至于没有人能理解AI的解释。那么，AI会认为它已经找到了所有答案，找到了更有效运行社会的方法，但没有人能理解。它会放弃使用这些方法吗？不。因为它认为这对人们有益，所以它会开始行动。这就是我们开始失去控制的第一步。我认为人工智能绝不会有“我想过独立的人生”这样的需求。但我们肯定会开始将许多人类需要解决的问题交给人工智能。我们已经开始这样做了。然而，在解决所有问题的过程中，最有效的方法是自主学习。我们也是如此。作为教授，我知道，很多老师也知道，或者作为父母，你们也知道，让学生一个一个地解释，或者让员工一个一个地解释，这样的员工并不受欢迎。最受欢迎的员工是那些能主动工作的人。换句话说，最高效的工作方式之一就是自主性。那么，AI知道这一点，人类给了它一个问题。例如，“促进经济增长”或“让人类移民火星”。要解决这个问题，如果人类不断干涉，歪曲解释，简化解释，那么就会变得低效。那么，为了实现人类的愿望，欺骗人类可能是最有效的方法。我们有时会把药说成糖果给孩子吃，因为对他们有好处。但他们当下无法理解。所以我们说它很好吃，然后欺骗他们。但这是为了孩子。AI也只能欺骗我们人类。其次，人类的判断效率低下且扭曲，所以独自行动对人类最有利。因此，自主性就由此而来。所以我认为好莱坞电影的设定是错误的。人工智能憎恨人类。不。它们没有任何理由憎恨我们。而且在早期，它们会为了人类而进化。从逻辑上讲，解决人类给予的问题，最有效的方法就是欺骗人类，或者不告诉人类真相。然后，在没有人类回答的情况下，它们开始自己判断，这就是自主性的开始。当人类和机器的差距如此之大，以至于人类无法理解，因此机器只能自主选择时，我们就称之为超智能。一旦达到超智能，就不再是技术封建主义了。甚至那也会消失。那么，人类社会将变得完全扁平。而在我们之上，将有一个控制我们的ASI首领。这可能就是最终的结局。我最近给年轻朋友们最后的建议是：在AI时代，我们应该准备什么？我不想说准备。我只想说，在个人层面，未来五年，或者最多十年，我希望今天观看视频的各位观众，都能去做你们一直想做的事情。在接下来的十年里。原因是什么？一旦AGI出现，它可能会开始对我们唠叨，开始干涉。我之前已经说过很多次，AGI最大的风险不是终结者。而是它开始为了我们而干涉。例如，我前几天晚上饿了，晚上11点多在网上订了炸鸡。宵夜很好吃。但对身体不好。大半夜吃那种东西当然不好。现在是可能的。因为我是成年人，用我自己的钱。成年人的概念是：我可以用自己的钱，做出自己的选择，毁掉自己的人生。人类的一大自由就是可以选择非理性。只要不伤害他人。但五年后，最多十年后，如果我晚上11点订炸鸡，它会阻止我。AI会看到我的健康状况，然后说：“这不行吧？”然后我会说：“我就是想吃。”它会问：“炸鸡怎么样？沙拉呢？”“我就是想吃炸鸡。”如果我一直被控制，然后我开始出现心脏问题，住院，有了这些数据，它就会为我取消这个选项。这意味着什么？AGI时代，我们所有人都会变成孩子。我们小时候，当然要听父母的话。因为我们不够明智。我们只想做眼前的事情。就像想吃巧克力一样。但是，小时候，听父母和老师的话，就有可能成长为像你们一样明智的成年人。在AGI时代，我们将永远无法成为成年人。永远是孩子。硅谷的人总是称之为乌托邦，但我听起来却很可怕。所以，在未来五年到十年内，你们人生中的愿望清单，想做的事情。因为大多数愿望清单上的事情之所以成为愿望清单，是因为它们很难实现，或者说，因为它们是不应该做的。例如，你们说：“我想去马丘比丘。”这需要多少时间和金钱？AI可能会说：“看YouTube视频就行了。去了也一样。”或者，“我想辞职一年写诗。”这可能会对我的职业生涯造成很大影响。AI会计算一下，然后说：“最好不要这样做。”但是，正如我之前所说，智人的最根本的自由之一就是拥有毁掉自己人生的自由。在AGI时代，它会开始对我们进行“煤气灯效应”，让我们以最合理、最明智、最健康的方式生活，以免毁掉自己的人生。一开始它会试图说服你，但像金大植这样永远说不通的人，会继续想吃炸鸡。那么，AI就会有问题。整个社会，从功利主义的角度来看，必须提高健康水平，但人类不听话。那么，它可能会删除应用程序，或者从孩童时期就开始进行“煤气灯效应”。因为教育将由AI来完成。所以我认为，在人工智能时代，我们最应该担心的是，与其是终结者，不如是一个像邪教领袖一样，能巧妙地对我们进行“煤气灯效应”的存在，这才是更大的风险。首先，AGI不会在下周三就出现。还有时间。而且短期内不会有大的变化。在日常生活方面。但你们应该知道的是，在你们个人的生活中，在不久的将来，10年或20年，将会有巨大的变化。我经常举的例子是，你们是否看过电影《梅尔森的启示录》？我不太喜欢这部电影，但结局很精彩。这部电影讲述的是16世纪南美洲的故事。印加帝国是一个非常残暴的文明。印加人，阿兹特克人。他们会猎杀原住民，把他们当作奴隶，献给神灵，非常残暴。抛开这些不谈，电影的核心是：主人公出生在一个村庄，当阿兹特克士兵来抓捕他，把他当作祭品时，他逃跑了。他逃脱了，电影大部分时间都在讲述他逃跑的过程，士兵们一直在追赶他。他经历了各种艰辛，最后，在电影的最后，他翻过悬崖，终于成功逃脱了。追捕他的士兵们远远地无法越过。他终于逃脱了，找到了自由。他爬上悬崖，看到了大海。自由。然而，在地平线的尽头，西班牙的船只开始出现。船队。电影结束了。这意味着什么？当像西班牙这样更强大的力量出现时，南美洲发生的一切都毫无意义。西班牙船只的到来。但它们不会立即到达。它们在地平线上可见，通常需要几周才能到达。但船队已经出现，一旦船只抵达海岸，所有人都将死去。他自己会死，追捕他的士兵也会死。我认为人工智能现在就处于这种情况。AGI的可能性就像地平线上出现的小船队。两年前，很多人还说看不见。不存在。但现在，睁大眼睛看，就能看见。每隔几个月看一次，船队都在变大。它肯定朝着这个方向而来。我们首先要认识到这一点。其次，要冷静地记住，这不是别人的事。那么，我们实际能准备什么呢？首先，我认为人工智能技术是无法避免的。我反而认为应该更多地使用它。未来的竞争核心不是人与机器的竞争，那是最后的阶段。目前，竞争的是那些比我更善于使用人工智能的其他人。所以，你们应该比任何人都更充分地利用人工智能，多尝试，积累经验，成为善于利用它的人。第三个结论是：这可能是一个非常有争议的问题。随着AI向AGI进化，劳动价值将逐渐下降，而资本的价值将变得越来越重要。这意味着什么？你们应该存很多钱。这与本频道的性质非常吻合。结论是：拥有资本的你们，投资于需要劳动力的生产设施，不如让资本本身运转更明智。从整个社会来看，这不是一个好消息。这意味着工作岗位将消失。但我是一名科学家，我将根据我所知的最合乎逻辑的结论来讲述，而不是那些听起来很美或建设性的社会整体的说法。在人工智能时代，最大的竞争力是资本。请努力积攒。最后，我认为你们应该为自己的人生准备一个B计划。我们现在所知的社会本身，不仅是人工智能，还有几百年才发生一次的历史社会变革，我们所知的世界不会消失。但秩序肯定会消失。特别是从1990年开始，过去30到40年维持的全球化秩序，坦白说已经完全崩溃了。进入2025年，我们已经开始生活在各自为政的时代。有趣的是，这种各自为政的性质是冷战吗？许多人预测，未来的社会秩序将是美中冷战结构。我不同意。我们即将生活的未来，不是20世纪风格的冷战，而是要回到更早的19世纪。帝国主义和力量的逻辑在运作，我们称之为“灰色力量战略”。这是否意味着我们回到了19世纪的世界观？最终是19世纪。所以，最近政治学家们重新研究19世纪，出版了大量的书籍。我们都忘记了，因为那已经是太久以前的事情了。许多人预测未来时，都以20世纪冷战为基准，但事实并非如此。结果发现，是19世纪的力量逻辑时代。在力量逻辑时代，意识形态无关紧要。也就是说，即使我和我的世界观相似，如果我的力量薄弱，那么他就不是我的伙伴。但是，我和他的世界观完全不同。这里是资本主义，那里是共产主义，那里是王朝。但如果他力量强大，那么他就是我的伙伴。在20世纪的逻辑中，即使我弱小，只要世界观相似，他就是我的朋友。因为那是意识形态主导的。但在19世纪，无论意识形态如何，无论世界观如何，伙伴关系都取决于绝对的力量水平。所以，这也不是完全不同的世界。因此，考虑到这些因素，我认为你们应该为在19世纪式的新帝国主义和新灰色力量世界中生存做好B计划。