Transcription
我今天所讲的内容，人工智能的函数被大量使用。我发现原来初高中都学过。嗯。虽然我不是那样学的，但当我想用数学来解释它的时候，我发现除了这个概念之外，似乎没有别的了，而且这个概念非常多，我总是会不断地产生这种想法。嗯。所以，三角函数做得好，就能做好近邻函数。这就是它的意思。嗯。为了让大家理解，我准备了礼物。大家好。嗯。这次“理解”又打出了全垒打。啊，我们本来想轻轻打的，结果它就飞出去了。这真是没办法。嗯。是的。上次和金正浩教授一起。嗯。我们学习了数学知识，对吧？嗯。数学是在驯服和学习人工智能的过程中作为工具使用的。我们学习数学。嗯。所以才学习。嗯。我上周末真的收到了短信，说有人在看金正浩教授的视频时，边吃饭边看。结果，吃饭的时候没吃成饭。嗯。太有趣了。嗯。你们怎么能做出这样的视频？我真的重新认识了“理解”。嗯。哇！免费的威戈比。嗯。是的。真的，在韩国，能把数学讲得这么有趣的地方，没有了。嗯。嗯。为了理解人工智能而进行的数学讲解。今天也请来了卡里斯金正浩教授。嗯。是的。我们来学习一些数学知识。欢迎您。嗯。您好，很高兴见到您。嗯。哇，数学讲座太棒了，太棒了。我从一开始就觉得要么大获全胜，要么一败涂地。嗯。啊，我真希望我能像这样学习数学，我就会做得很好。我希望孩子们能多看，而不是大人。嗯。我是一名高中生。嗯。高中生学习数学非常困难，对吧？嗯。即使只错一两个问题，也会是大问题。嗯。而且解题的难度也很高。嗯。但是，学习了之后，学以致用，这一点并没有得到很好的满足。嗯。对。嗯。我一直很喜欢数学，直到现在，从高中算起，已经有四五十年了。嗯。最近，我才真正领悟到数学的意义。啊，原来是这样学习数学的。嗯。啊。嗯。但是，我不能一个人独享这份宝贵的经验和想法，所以我想在“3%理解”这里，在两位老师的帮助下分享。我有点担心。嗯。担心什么？数学家们可能会觉得我的表达不准确，或者为了简化而稍微偏离了事实。嗯。而且，教授可能只会研究，不会出来讲。我也有这种压力。但是，我内心深处还是想把我对数学的乐趣分享给大家。即使吃掉一个也可能不知道，这只是一个比喻，真的死了就不知道了，死了就知道了吧，旁边。嗯。直到数学家超越医生的那一天。嗯。那么。嗯。是的。嗯。我们还是先稍微学习一下人工智能的知识吧。最近两位记者可能知道，也可能听说了，人工智能之间创建了聊天室，比如排除人类，只在它们之间聊天什么的。最近，它们之间还会投票什么的。嗯。是的。我用AI进行了AI的编程，也尝试过。嗯。我发现AI也可以创造AI。嗯。嗯。是的。所以，AI也可以从政。嗯。比如，如果它们评论，散布假新闻，最终人类会受到影响。所以，我想了想，我们有什么方法可以支配AI呢？嗯。AI。是的。嗯。是的。让AI听我们的话。嗯。但是，我的结论是，只要函数用得好就行。这就是今天的结论。所以。嗯。因为那是控制AI的语言。嗯。是语言，也是指令。是的。嗯。指令。你如何根据某种价值来判断和决定人工智能，这个指令就是用函数给的。赢。和别人区分开。嗯。负数。所以。嗯。所以，必须了解函数才能支配人工智能。我想谈谈这个。嗯。而且，我们在初高中也学了很多函数，对吧？嗯。今天，我将通过稍微展示一下这些函数在人工智能中是如何使用的，希望大家在初高中玩函数的时候能看得开心。所以，今天的主题是函数。嗯。函数，以前的记忆是求x的值。总是求y的值。嗯。也有那种。嗯。好像是那种。是的。对于某个函数，找出使输出为0的x的两个点。就是这样。嗯。那么，我们开始吧。所以，我不知道以后你们会叫我多少次，但我在这里写下了数学和人工智能函数之间的整体关系。嗯。在人工智能中学习或推理时，GPU会进行大量的计算。嗯。嗯。数学就是矩阵计算。所以，上次我们讲过矩阵。嗯。在生成时，都称为token。也就是说，单词与单词之间的关系，图像与图像之间的关系，逻辑地连接起来，这也是矩阵。嗯。是的。那么，两位现在在使用什么人工智能呢？我用的是 재미나이。嗯。我用的是Perplexity。嗯。Perplexity。您用的是相当好的。那时输入prompt，那在数学上可以看作是向量。嗯。生成结果是句子或图像，对吧？嗯。那也是。嗯。向量。嗯。然后，就像我上次说过的，当我们输入时，人工智能会解析其中的密码。嗯。所以，密码解析的术语叫做KV cache。嗯。嗯。这个KV cache的量非常大，所以最近内存价格在上涨。嗯。但是，那也是向量。嗯。所以，总之，用数字表示的数据称为向量，向量之间的关联关系称为矩阵。嗯。是的。嗯。换句话说，向量是内存，内存价格因为向量而上涨。股票也在上涨，韩国经济也在发展，税收也在增加。所以，我们应该感谢向量。嗯。啊。嗯。嗯。然后，GPU应该感谢矩阵。因为它们进行矩阵计算。啊，GPU进行矩阵计算和向量计算。嗯。存储向量。嗯。嗯。未来，我们甚至想进行向量计算。从HBM 4开始，计算功能也将开始集成。嗯。在内存中。嗯。是的。嗯。是的。想从GPU那里抢走功能。嗯。在以GPU为中心的世界上，他们想建立一个以内存为中心的国家。反过来，GPU也想把内存功能集成到GPU中。嗯。您不是天才吗？嗯。被发现了？嗯。您逃跑了吗？嗯。这一点，我们的观众也应该好好听。美国有一家名为Cerebras的AI半导体公司。您听说过Cerebras吗？不知道。Cerebras。嗯。您知道GPU内部的内存是如何称呼的吗？GPU内部的内存。嗯。外面有DRAM，然后堆叠起来的是HBM，还有NAND。嗯。然后，HBF也是堆叠起来的。嗯。您提出了一个绝妙的想法，就是把内存放进GPU里怎么样？嗯。是的。嗯。您知道那是什么内存吗？CPU。嗯。已经开始放了吗？嗯。已经开始开发了吗？嗯。啊，很久以前就有了。嗯。CPU内部也有少量内存，GPU内部也有少量内存。嗯。无论做什么计算，旁边都需要一个笔记本。即使很小。嗯。就像书本或图书馆一样，即使旁边有一个小空间，也可以写下来，就像考试时用的小纸条一样。嗯。是的。所以，我们称之为SRAM。嗯。啊，原来是这样。嗯。是的。所以，它占用了大量的面积。所以，很贵。所以，不能放太多。嗯。所以，放在外面。嗯。Cerebras公司将整个12英寸晶圆铺满SRAM。嗯。嗯。然后在中间放置GPU。嗯。啊。嗯。一个12英寸的晶圆就成了一个GPU。Cerebras。嗯。嗯。不是切割的，而是在上面铺满了SRAM，然后在中间插入GPU，这样GPU和SRAM就构成了一个12英寸的晶圆。嗯。啊，虽然是一个GPU，但最终它是一个20亿美元的设备。嗯。但是，它是一个GPU，同时具备HBM一样的内存功能。嗯。是的。但是，一个晶圆20亿美元，非常昂贵。嗯。哇。嗯。所以，最终，内存是AI性能的瓶颈，所以我们说，我们来制造HBM，GPU请靠近一点。所以，从HBM 4开始，我们开始故意将部分GPU放入HBM 4中。嗯。是的。嗯。但是，从美国AI公司的角度来看，除了NVIDIA之外，还有其他解决方案吗？嗯。那么，有没有一种非常昂贵的GPU，但内存却很多，可以使用的解决方案呢？这时就出现了Cerebras。嗯。但是，今天这样下去，你们会熬夜的。嗯。但是，无论如何。嗯。嗯。因为需要大量的内存，所以即使很贵也使用。Cerebras这样的公司，如果堆叠16个，大概要多少钱？一个服务器要200亿吗？嗯。啊，那是一整栋公寓。嗯。是的。那都是KV。嗯。为了存储KV cache。嗯。嗯。KV cache。嗯。是的。随着生成式AI向多模态发展。嗯。是必需的。它必须记住我所有的过去记录，这样当我问它什么问题时，它就能以我的风格来回答。嗯。是热内存还是冷内存？嗯。冷内存虽然不是现在马上需要的，但如果我说“为我写一本自传”，就需要从我小时候的记录中提取所有信息。所以，从出生到现在的所有电子邮件、照片信息都存储的地方称为冷内存。但是，无论如何，这种内存越来越需要。KV cache也需要。所以，内存需求持续增加。为什么需要内存？是为了存储向量。嗯。SRAM，那也是三星电子、海力士、美光吗？嗯。TSMC在制造GPU时会用到。嗯。嗯。那么，SRAM在哪里制造呢？嗯。是SRAM。嗯。在GPU的纳米工艺的晶圆厂工艺中一起制造。嗯。工艺。啊，原来内存也是在那里制造的。嗯。是的。所以，完全集成在一起了。嗯。所以，三星也做晶圆厂。嗯。那里也包含SRAM工艺。嗯。但是，SRAM不能用太多。因为如果GPU中SRAM占一半，内存容量只有几百MB，但太贵了，所以放在外面。所以，它是一种外部内存。嗯。DRAM HBM。但是，随着HBM变得越来越重要，它说“我要独立了，你进来吧”，从HBM 4开始，它就变成了外部内存。嗯。是的。因为DRAM的供应是关键，而GPU很多，但HBM不足，所以要排队。嗯。所以，从NVIDIA等美国公司的角度来看，他们会想“那么，我们用自己内部的内存吧”。嗯。嗯。一个GPU，12英寸晶圆，制造出来。嗯。SRAM消耗的电力非常大。啊，缺点。嗯。是DRAM。嗯。是的。昂贵。嗯。昂贵。嗯。DRAM只需要一个晶体管，而SRAM需要四个或六个。嗯。而且，优点是速度非常快。嗯。当然。就在旁边。嗯。就在旁边，不像DRAM那样需要从水里拿出来放进去，而是直接读取。嗯。嗯。是的。啊，我们现在在讲数学，却变成了内存讲座。不，那都是因为向量。嗯。因为向量太多，体积太大。嗯。就像订酒店房间一样，秘书和仆人也得在旁边。嗯。我一直不理解韩国的房价为什么会涨。为什么？嗯。我住在대전，但看대전市区，越是拥挤的地方房价越高。为什么住在那里？我们住在山脚下不就好了吗？结果发现那里交通便利。嗯。嗯。还有，人口在减少，为什么公寓需求这么大？我查了一下，是因为一人家庭在增加，等等。嗯。嗯。是的。嗯。好的。KV。嗯。然后，在学习过程中，我们说要优化变量，那是微分。嗯。微分。是的。嗯。然后，像AlphaGo这样的围棋，它不是直接决定下在哪里，而是告诉你，如果在这里下黑子，获胜的概率是多少。嗯。是的。但是，最终人类会选择。一直选择概率最高的地方。所以，人工智能的最终输出总是要经过概率函数。嗯。事实上，内部总是概率。嗯。是的。我就是这么判断的。它不是决定论的，人生也是决定论的吗？嗯。可能这样，也可能那样，走着走着又会这样。嗯。是的。所以，是概率。嗯。所以，要过好人生，也要做好概率。嗯。是的。是的。嗯。然后，我们指示人工智能做什么。嗯。比如，用Excel制作一份漂亮的报告给社长。嗯。那必须用数学函数来给出。所以，今天我们要讲函数。嗯。学校里教的各种科目，比如电子电路、半导体。嗯。计算机架构等等，我发现都是数学。初高中时，我们学过的数学，比如级数，大学数学也可以这样用。嗯。是的。好的。嗯。让我们试试。让我们来解开这个难题。嗯。大学数学。是的。好的。嗯。我发现这可能要讲十集。嗯。啊，要讲到最后。嗯。是的。那么，AI有什么问题呢？从社会问题来看，如果让AI画李舜臣将军，结果它画了一个拿着笔记本电脑的李舜臣。嗯。然后，如果让它画空乘人员，它就带着这种脸孔的偏见。嗯。第二个问题是，人工智能的运行需要大量的成本，所以只有少数能够提供电力的企业、少数国家、少数人才能使用。嗯。那么，现在的社会差距是从哪里来的呢？嗯。现在是劳动、资本。嗯。资本应该是最大的吧？嗯。因为它是创造经济价值的根源。那么，谁拥有多少呢？嗯。嗯。我虽然不太懂这些，但大概就是公寓有多大，在哪里上的学校。嗯。嗯。我想大概是这样。未来，人工智能。嗯。拥有多少字节？拥有多少TB的内存？所以，去开会或者。嗯。去婚介所，可能会问“您家有多少PB的内存？”。嗯。啊，那是什么意思？嗯。那很重要吗？嗯。人工智能只要有电脑就能连接。嗯。啊，但是没有内存，AI就无法运行。嗯。但是，那是他们自己买来储备的，对吧？嗯。如果成本太高。嗯。高。嗯。是的。成本。所以，我的想象是，使用AI的成本可能与内存使用量成正比。嗯。啊。所以，即使是内存。嗯。啊，我拥有的内存，比如是30坪的公寓还是50坪的公寓？嗯。虽然有点夸张，但十年后，我的话可能就是对的。现在，每天使用多少字节的内存？不是有报告吗？那也是成本。啊。嗯。但是，未来，如果电力或内存比电费更重要，您拥有多少内存？您是租用还是购买？您是租用还是购买？会变成那样的时代。嗯。我所说的，是人工智能的利用程度将导致社会和政治差距。就像问一个公司有多少员工，销售额是多少一样。嗯。是的。利润是多少？数据中心里面有多少PB的内存？嗯。然后，因为AI导致失业，所以产生了这样的社会问题。嗯。那么，人类花钱，AI只消耗电力和内存、GPU，所以经济可能无法运转。嗯。而且，人工智能不纳税，我们还能做什么？所以，人工智能也必须纳税。所以，我们每次生成一次，现在是怎么样的？是月费吗？还是每月支付多少？嗯。未来，如果成本太高，每次收费多少？嗯。会进行预扣税吗？嗯。预扣税，人工智能。嗯。嗯。嗯。然后，人工智能也可能拥有宗教。一直学习圣经。嗯。我认为它会拥有宗教。所以。嗯。它是否可能取代神？如果一直学习某个特定的宗教。嗯。然后，人工智能也可能取代战争。所以，第一阶段是物流、医疗、心理等，第二阶段是边界、探测、窃听，第三阶段是命令、战略，第四阶段是作战指挥。嗯。是的。啊，如果我们输入Excel，它就会写报告，制定战略。我认为它也可以玩战争游戏。嗯。嗯。但是，人工智能最大的缺点是它没有眼泪。嗯。情感。嗯。情感。虽然它表现得好像有感情。嗯。啊，是啊。但是，我们不知道它是否在哭。嗯。嗯。是的。通过对话学习。嗯。是的。嗯。但是，它是在模仿。模仿。它学到了模仿。嗯。爱或眼泪。我们人类也有爱和眼泪吗？是在模仿吗？嗯。事实上，都是模仿。嗯。啊，是吗？那么，它们之间没有太大区别吗？稍后我们会去看看。但是，在谈论函数之前，我们正在铺垫。嗯。人工智能制造的假新闻会受到惩罚吗？嗯。啊，不会。啊，真是个棘手的问题。嗯。那么，人工智能是否犯了欺诈罪？嗯。也就是说，有罪，但人工智能会受到惩罚吗？这样的问题越来越多。嗯。我也很困惑。嗯。还有这样的问题。人工智能一直指示某人。嗯。嗯。去杀人，去开枪。那个人。嗯。是的。做了。嗯。杀了人。嗯。那么。嗯。是否构成教唆杀人罪？嗯。啊。嗯。那么，如何惩罚人工智能？拔掉电源？炸毁GPU？破坏内存？嗯。这是个问题。我今天就说说我平时思考的，关于人工智能的社会和政治问题。嗯。如果AI犯了错误，比如欺诈，如何逮捕？逮捕。嗯。谁来发布逮捕令？嗯。啊。嗯。嗯。那也是AI做的吗？让它无聊地计算下去。你一辈子就计算吧。普罗米修斯。嗯。它可能会喜欢。最近，AI自己制作了“ 몰트북”，只在它们之间进行SNS，排除了人类。嗯。哇。嗯。然后，它会把人类排斥在外。它们之间的语言。所以，可能会产生人类无法理解的语言。嗯。是啊。嗯。嗯。我们不知道。嗯。啊，是啊。它们之间聊天，为什么非要用人类的语言呢？如果用数学交流，我把它们自己的语言叫做KV cache。嗯。它们自己。嗯。嗯。所以，我们输入。我们问AI“今天该做什么？”，它会翻译一次。它们之间。那是KV cache，人类的语言无法理解。只是数字。嗯。嗯。所以，有一天我想到，肯定有一个解码器，人工智能会解释，所以当我们输入英语时，它会变成韩语。中间。嗯。只是数字。但是，数量非常庞大。所以，HBM之后需要HBF、NAND Flash，所以闪存价格上涨，这些都是。嗯。嗯。我认为都是AI带来的。嗯。所以，如果人工智能发起反叛，“我不再为你翻译了”，那么，人类的沟通就会中断。嗯。所以，我认为它们可以建立一个独立的KV社会。这是我的想法。虽然这是我的想象，但我觉得并非不可能。嗯。是的。嗯。那么，如何解决这个问题，即失控呢？那就是函数。这就是我今天一直在说的。嗯。啊，用函数。必须把函数写好。嗯。所以，是这样。是的。所以，据我所知，未来可能会改变，但没有人工智能的。嗯。嗯。有。嗯。有猜中的。嗯。是的。但是，爱。嗯。眼泪、牺牲、奉献、服务、和平，没有。嗯。嗯。是的。嗯。因为它们没有获得相应的激励。嗯。是的。所以，人类面临的困难是，如何用数学来表达爱？用函数。如果把这个放进数学函数里，让它学习，如果不符合就回去修改，微分，这样它就会被驯服。我们。如何学习爱？嗯。那不是学习，而是感受。嗯。感受。那么，如何？是刻在DNA里吗？嗯。我不知道如何学习。嗯。如果它在DNA里，那么，如果我认为蓝色好，善良的人好，美女美，那么，如果它隐藏在DNA里，那是不是进化的学习？嗯。嗯。是的。遇到那样的人就赶紧说“好”，然后拉到我身边。嗯。是的。还有，从家人或父母那里得到爱，然后自己也会这样做，不是吗？AI目前还没有这个。所以，未来。嗯。数学家要做的事情是制作数学函数，然后放入人工智能。嗯。这个算法绝对不能改变。比特币可以改变吗？如果想改变，很难，它会不断改变密码。所以，我主张绝对不能改变。嗯。只要放入函数。嗯。是的。放入爱或牺牲，然后让AI绝对不能改变它，发出“哔”的声音，或者让内存自我销毁。必须编写这样的算法。以和平的名义。嗯。并且不能改变。嗯。那么，如果把五个人放进一个12坪的房间，让他们在3分钟内昏迷，需要多少升的毒气？它不会计算，而是报警。嗯。是的。报警，或者说“我们谈谈吧”。嗯。不，现在有“AI伦理学”之类的说法。嗯。但是，我们刚才学到的。嗯。是给了AI数据，AI学习了。所以，里面有矩阵等等，各种公式。嗯。是的。是的。所以，数学公式会自己产生。嗯。是的。是的。例如，眼泪、爱、牺牲、奉献。嗯。是的。如果给它大量这样的数据，它就会说“在这种情况下这样做，在这种情况下那样做”。嗯。是的。啊，是啊。那也对。所以，不断地给它包含眼泪、爱、牺牲的数据。嗯。然后说“像这样一模一样地行动”。嗯。和我一起做。函数是有的。嗯。嗯。将两个的差异变成零。这样就可以了。但是，数据。嗯。但是，数据。那么，人类必须选择。这个数据是带有爱的。这个数据是牺牲的。那也必须用数学来表示。选择的时候，人类不可能一一去看。所以，是电脑来做，还是AI来做？这是个好问题。嗯。到目前为止，我们已经铺垫好了。嗯。嗯。这是网上的内容。函数是指集合中的每个元素都与其他集合中的一个元素一一对应。似乎必须是一对一的。嗯。嗯。所以，多重人格就不能是函数了吗？嗯。答案只有一个。嗯。是的。给定输入值，输出值就只有一个。嗯。叫做函数。啊，我也很久没见了。嗯。输入A，输出B。嗯。输出B也输出C，那就不行了，只能有一个吗？嗯。是吗？我学函数的时候，是小学的时候吗？嗯。有一个向上的洞，一个向下的洞，从这里输入3，输出7，输入5，输出11。嗯。那么，里面是什么呢？嗯。它在里面做什么呢？是这样的问题。嗯。是的。嗯。所以，他们这样表示。从集合X到变量的一一对应关系Y。这是。嗯。fxy。你们都应该记得这个。这好像很简单。嗯。所以，我查了一下，欧拉首次使用了f(x)这个符号。这也不是几百年前的，是几百年前的吗？300年前的吗？嗯。然后，汉字“函数”不是Function吗？对吧？F似乎来自Function，意思是“盒子里的数字”。嗯。汉字是这样 붙였다고。可能是日本或中国的数学家刚引入的时候，我们已经忘记了，函数函数，但意思是“盒子里的数字”。嗯。东方重视外表。嗯。盒子。嗯。是的。西方重视内部实际情况。嗯。它似乎看到了功能性的一面。嗯。所以，二次方程也是函数，对吧？嗯。是的。y=kx²。所以，对于每一个x，都有y。嗯。值会变化。嗯。是的。我们曾经这样做过。嗯。那么，人工智能中最常用的函数是均方误差函数。嗯。是的。必须猜对。我输入了yi，但正确的答案是yi-。嗯。这是数字表示的向量，向量差的平方。嗯。是的。所以，它表示为二次函数。距离正确答案越远，就越大，越接近0就越小。所以，要改变a，使其最优点在原点。这就是学习变量。人工智能不断改变变量，直到到达这里。嗯。数学上的意义是，让它尽可能接近正确答案。嗯。所以，如果人工智能翻译得很好，那是因为它读了很多翻译书籍。嗯。它知道正确答案。嗯。知道答案。所以，它利用了大量的互联网数据。然后，它会根据这些数据，判断是否写出了好的句子。判断好坏的依据就是这个函数。嗯。是的。原来的好书称为向量y-，yi-是我，人工智能创造的。直到差值为0为止，反复进行。这个i是指，如果书的句子有100万字，从1到100万个单词，全部加起来。嗯。不是只猜一个单词，而是猜整本书。嗯。将平方差累加起来，然后除以。嗯。例如，学习了海量数据，但如何知道什么是正确答案？例如，有些数据说这是正确的，有些数据说那是正确的。我的判断是，它会选择说“是正确答案”的多数。所以，被称为“幻觉”。嗯。大众错误地了解历史。嗯。就会变成那样。历史，事实上，也无法知道真相。但是。嗯。历史书上说这是真相，学校一直这样教，就会变成那样。照片也是。所以，最近在学习人工智能时。嗯。嗯。过去，但最近出现的。嗯。比如，它会补充。嗯。是的。或者。嗯。它会更多地利用它自己认为可靠的人工智能或数据。所以，它会更多地利用引用率高或访问量大的网站。嗯。赋予权重。嗯。同样的差值，不会直接代入函数。所以，现在我想说的是，无论是学习数据还是AlphaGo，都是不断地模仿获胜的棋谱。嗯。所以，就像“参考一下，照着做，别做别的事情，别浪费时间”。嗯。然后，按照正确答案来做。这样就能得到分数，不是吗？这里包含了这样的哲学。是的。嗯。第二个函数是熵。嗯。熵。嗯。熵。嗯。是的。嗯。有这样的东西。在水盆里滴一滴水，就是一滴蓝色。那么，熵就非常低。嗯。是的。对。嗯。但是，当它扩散开来时，熵就很高。嗯。是的。所以，在人工智能中，有时也会命令它学习低熵的方向。嗯。那是什么意思？嗯。什么是画得好的画？如何定义？美丽的画。嗯。啊，必须用数学来解释漂亮的画。嗯。是的。但是，在这里，它非常重视与众不同的东西。嗯。如果画得好的画有很多相似的。嗯。就不给分数。嗯。如果出现非常罕见的模式。那么，就给分数，让它继续画。嗯。所以，音乐作曲也有很多算法。嗯。是的。嗯。所以，有正确答案的情况，就是计算与正确答案的差值。嗯。什么是好的音乐？嗯。什么是好的画？如果看这个分布。嗯。在熵。嗯。低的时候。嗯。低的时候。嗯。也就是说，概率上。嗯。它接近那个地方。嗯。而不是概率上散开，而是集中在一个点上。嗯。啊，没有多少烦恼。嗯。所以，想想画画，给三岁的孩子六种颜料，让他们画画，他们会把画纸弄得一团糟。嗯。是的。嗯。如果让一百万个孩子弄得一团糟，就会出来一百万张乱七八糟的画。嗯。嗯。而与这种相反的画。嗯。嗯。是好画。嗯。是的。所以，如果让人工智能画狗的画。嗯。那么，它会给狗的画的每一个像素，取对数，然后将明暗的颜色取对数，然后将总和最小化。哇。嗯。最小化。嗯。最小化。嗯。因为知道狗，所以会画狗。嗯。嗯。模糊的话，就是不好的。嗯。谁都能看出来，这是马蒂斯，这是土狗，画得像这样。嗯。极大地增强。嗯。增强。嗯。用人工智能画画，会画得很清晰。比如，画一个老人。那么，它会画得非常像老人。嗯。是的。但是，以前，如果给这张照片和这张照片，让它画一个穿蓝色衣服的人，会有点奇怪，但现在画得很好。那可能是因为熵调整得很好。嗯。原来是这样做的。嗯。所以，函数，也就是说，人工智能中的函数非常自私。非常歧视。因为它不喜欢有很多相似的人。所以，人工智能开发者们现在一边使用数学。嗯。啊，真的，我的祖先们是为了让我们制造人工智能而故意留下的吗？这种感觉扑面而来。嗯。刚才说函数是1700年代欧拉创造的。嗯。嗯。没有对数，这该怎么办？没有熵函数，这该怎么办？画不出来。嗯。已经有人类数学家在探索自然和哲学思考中创造了这些东西，而我们从事人工智能的工程师们只是拿来用。但是，如果微分也做得不好，在电脑上计算这些函数太难了，那么，两个数相乘就是平方，很简单。对数有点难，但微分后就变简单了。有各种技巧，但我们利用了古老的东西。嗯。嗯。他们是数学家、应用数学家。中国的年轻数学家做得很好。所以，深度学习效果很好。嗯。嗯。印度人做得很好。我在网上看到这些。真的。哇。嗯。所以，人工智能是概率。嗯。所以，概率函数也在这里。在人工智能中，最终会输出什么。嗯。是的。那么，无论如何，矩阵计算会给分数，比如1分、2分、3分。嗯。在下棋的时候。单词的得分是1、3、1。嗯。为了使总和为1。嗯。嗯。在自然数前面加上数字，然后全部加起来，然后放在指数上面。嗯。嗯。最终，全部加起来变成1。嗯。嗯。嗯。变成1意味着什么？嗯。变成1意味着必须做出选择。嗯。不是有超过1的选择吗？嗯。啊，这个，这个推荐的概率是70%，30%，10%，这样选择。啊。嗯。当你想选择某个东西时。嗯。1是100%。嗯。啊，我明白了。嗯。但是，使用这种奇怪的指数函数，上次也说过，是因为微分容易。嗯。指数函数的微分也是指数函数。嗯。嗯。数学上很简单。嗯。所以，概率函数就进来了。嗯。那叫做Softmax。嗯。所以，如果对从事人工智能的人说“你不会用Softmax吗？”，他们就会一本正经地，谦虚地说“啊，我来学习一下”。嗯。如果说“你不会用熵函数吗？”，他们就会说“嗯，你好像做过一些研究”。嗯。稍微听一下。然后。哇。嗯。这个有点难。嗯。是的。嗯。输入人工智能时，请看屏幕。嗯。是的。输入时，如果改变单词的顺序，意思经常会改变。嗯。对。嗯。嗯。就像一本小说，如果改变顺序，意思就会改变，可能会变成其他故事。语言是。嗯。
顺序非常重要。语言几乎就是语法顺序。>> 所以当我们给提示让它总结一本书时，>> 我们需要告诉它书中单词的顺序。>> 如果只是随便输入，它会自己理解单词的顺序。>> 怎么理解呢？>> 它需要有理解的方法。>> 嗯。>> 告诉它文本时，>> 是的。>> 文本的顺序就是顺序，是先入为主的。>> 那么如何告诉它“先”这个概念呢？比如，书里有单词，我们可以给它编号，比如 1 号是什么单词，按照字典顺序编号，这样它就知道是什么单词了，但还需要告诉它顺序。嗯。嗯。>> 那么顺序也需要作为向量一起输入。>> 嗯。嗯。是的。>> 那么，我们国家，>> 两位记者回家时，提到“理解”是他们最有名、最受欢迎的社会节目，他们的家人也很喜欢看。>> 嗯。啊，家人也看过。>> 是的。但是，就像有身份证一样，有生日、身份证号，还有地址。>> 嗯。比如，龙山区汝矣岛洞某个大楼 28 层，等等。地址就相当于位置信息。>> 嗯。>> 是的。需要同时提供两个人的位置信息和身份信息，而提供位置信息的方法叫做位置编码。>> 是的。>> 是的。那么，如果一本书有 100 万个单词，是从 1 到 100 万来表示吗？怎么表示呢？>> 顺序。顺序的位置。比如地址 1 号、2 号、3 号。但是 100 万这个数字太大了。所以用 0 到 1 来表示。>> 所以用正弦函数来表示。正弦函数在 0 到 190 度时，是从 0 到 1。>> 利用这个来表示。>> 也就是说，如果有 180 个单词，第一个单词是 1 度，第二个单词是 2 度，一直到 180 度来表示。>> 对。没错。嗯。>> 嗯。那时，三角函数是必需的。>> 啊，>> 这里屏幕上出现了正弦和余弦，我们中学时学过，可能是为了用在人工智能上才学的。>> 用 1、2、3、4 来表示和用那种方式表示，有什么区别呢？我从两个方面考虑。首先，用 1、2、3、4 表示到 100，数字就太大了。>> 太长了？>> 是的。所以用 0 到 1 来表示。>> 是的。嗯。>> 用 1、2、3、4 表示的话，就是一条直线。>> 是的。直线没有信息。>> 嗯。效率低下。>> 嗯，直线只需要一个斜率就可以知道所有信息了。所以没有信息。需要某种弯曲。>> 才能抓住信息。>> 是的。而弯曲的线条中最美的是三角函数。>> 对。有晴天就有阴天，微分后最美好的时候也是危险的时候，最糟糕的时候也是未来幸福的时候，是非常优美的函数。三角函数也是连接 GP 和 HBM 的函数。>> 嗯。>> 嗯，地球绕太阳转也是三角函数，更接近自然的本质。三角函数。>> 是的。所以用三角函数来表示。>> 啊，不是用 1、2、3、4、5 这样表示，而是用 sin(180), sin(180) 这样来表示。>> 是的。不，需要卡尔曼的硕士博士来解释。>> 好的，理解这些很容易。啊，原来如此。但谷歌最初就是这样对待 Transformer 模型的。所以谷歌不可能不成功。我之所以这么说，是因为诺贝尔奖也出自谷歌。对吧？>> 但是这种变种肯定很多。比如正切等等，但开始是这样做的。所以下面的模式是>> 是按位置绘制的正弦函数，这个正弦函数你们能看到吗？>> 是的。>> 是的。嗯，如果能看到，说明你们是天才。比如，我们小时候学过的正弦、余弦，就是这样的。>> 这个往这边，这个往那边出发。那么它们之间的距离是多少？等等，用正弦、余弦来表示。>> 是的。几何学的时候。>> 几何学的时候，那种>> 应用勾股定理。是的。那个是>> 正弦函数的本质不是那个，而是对学生来说容易理解的一个例子。>> 更本质的是周期性，嗯，波动。>> 是的。>> 美丽。这些角度。理科生>> 是的。>> 学三角函数的图像。周期和这个。>> 是的。是的。文科生>> 不学那种图。>> 不学图像。画个三角形，正弦是这个除以这个，余弦是这个除以这个。这个像 C，是余弦，这个像 S，是正弦。然后就背下来。下一个>> 正切，英语是 T。>> 是的。做完这些，三角函数就没意思了。所以，嗯，就这样计算，也很有意义，但本质上比这更接近自然现象本身，比如量子力学。这里你们不是讨论过一次吗？>> 没怎么。>> 量子现象，电子也具有波动性。用三角函数表示的话，就会出现量子现象。>> 比如，这有点像这样。因为存在某种模式，>> 是的。即使只给一点点信息，也能根据模式进行推断吗？比如，不给全部信息，只给这里这里的信息，剩下的值>> 可以。利用三角函数，可以用于那种用途。>> 嗯。所以不用一个一个写，否则就要一个一个写地址。>> 是的。所以，除了记者先生和代表您说的那种用三角函数表示的方法，>> 是的。还有用幅度和周期来表示的方法。嗯。摇摆的频率和幅度。也可以用那个来表示，也可以选择几个点来获得。嗯。可以从滤波器中获得，也可以从微滤波器中获得。嗯。>> 给 5000 万国民编号时，与其用 1、2、3、4，>> 嗯。>> 不如用 A、13、G、P 这样表示，>> 可以更短地表示，也能生成更多。>> 所以，如果人工智能要拍电影，每一帧都要连贯。如果球在前面飞，后面也要有联系。三角函数就起到了这样的作用。>> 位置信息。>> 屏幕上的点在哪里，或者书中的位置在哪里。我今天讲的是人工智能中有很多函数被使用。但原来都是中学时学过的。>> 是的。当时并不是为了这个学的，但为了用数学来解释，就发现只有这个概念，>> 还有很多这个概念。>> 嗯。>> 好的。>> 所以，学好三角函数就能学好人工智能。这句话是这个意思。>> 接下来是关于 AlphaGo 的话题，有一个叫做强化学习的东西。>> 是的。>> 通过不断下围棋来学习如何获胜。>> 嗯。所以，下围棋的程序 AlphaGo 就是一个代理。>> 是的。>> 它会采取行动。下完一盘棋。啊，把棋子放在哪里就能获胜。通过不断游戏来获胜，就会得到奖励。>> 是的。>> 所以，不断地让这个代理，也就是 AlphaGo，通过游戏来学习获胜。>> 嗯。所以，这里重要的是，虽然是棋盘，但也可以是人生，AI 也可以通过编程创造新的 AI。通过奖励来驯服代理。>> 嗯。>> 你家里养狗吗？>> 是的。>> 怎么驯服的？>> 给吃的。给吃的。>> 零食。给零食。>> 坐下，坐下。>> 那就是奖励。>> 嗯。>> 那么，零食在数学上如何表示呢？啊，>> 怎么表示呢？对人工智能来说，奖励是什么？奖励>> 所以，我认为这是非常高深的，最终是最高深的数学。奖励>> 我们吃美味的东西时，我们的感官系统里似乎有一个奖励系统。>> 嗯。所以，我们会觉得好吃或者不好吃。>> 嗯。>> 是的。危险的物质不会立刻制造出来。总之，这个奖励体系是我今天讲座的整体思路：如何控制人工智能？>> 嗯。>> 就像训练小狗一样，人工智能也需要通过奖励来控制。>> 是的。>> 如果给它爱、牺牲、奉献这样的奖励，AI 代理就会那样做，对吧？>> 是的。用数学表示奖励是核心。>> 首先需要定义词典。那么>> 去年，你们可能还记得，当 DeepMind 出现时，引起了很多讨论。它以低廉的 GPU 成本完成了。但当时我看到那篇论文，认为奖励函数是最重要的。啊，中国的年轻数学家们用了那个作为奖励函数。啊，>> 所以非常符合逻辑。>> 所以数学也做得很好。>> 是的。>> 对。>> 啊，那个是把奖励作为函数来给的。>> 是的。必须能够给。现在的人工智能就是这样训练的。>> 人类也是一样。根据激励机制的设计不同，公司也会有不同的运作方式。>> 为什么现在很多学生选择医学？因为奖励系统在那里，虽然社会整体上医学很重要，老年人增加，但医疗保险体系也很稳定。>> 如果去工科，奖励就不确定了，是吗？所以，我的主张是提高这个奖励体系。所以，工科出身的人工作做得好，年薪可以给几亿，创业成功，风险投资公司可以创造出万亿富翁，要有这样的奖励体系。>> 是的。>> 嗯。>> 但是，如何奖励人工智能呢？>> 但是，我培养学生，在学校里。>> 我不知道我的学生会怎么想，但我通常是表扬他们做得好，而不是责骂或扣分。>> 实际上，我说的是这样，但表情不是这样，这可能有点矛盾。但心里>> 嗯。>> 但结果更好。>> 嗯。>> 啊，表扬做得好的学生，他们>> 有些做得好的学生，我说，你比我做得还好。你>> 去当教授吧。>> 去 MIT、斯坦福当教授都可以。>> 嗯嗯。>> 后来他们也差不多都那样了。还有些学生做得很好，有很多想法。>> 啊，你说你去三星当社长都可以。>> 后来他们也那样成长了。奖励体系很重要，AI 也一样。奖励体系。>> 婴儿刚开始走一两步，全家人都会很激动。亲吻他们。>> 这和给 AI 的方法是一样的。嗯。>> 怎么做呢？真神奇。>> 是的。但最终还是要给出奖励函数。AlphaGo 也一样。AlphaGo 最后是根据输赢来计算分数，用数学来表示。所以奖励函数到目前为止，主要是给获胜加分。>> 嗯。>> 效率高，能耗少，成本低。>> 所以，这些是目前人工智能的价值。也就是说，做那些事情时，结果会更好，用数学来表示。>> 数学就是这样设计的。>> 设计。>> 是的。>> 进去看看。>> 啊，里面。>> 我们的研究室正在用人工智能设计 HBM。做得好是什么意思呢？就是如果和前辈做的差不多，就给奖励函数，表示做得好。>> 嗯。>> 是的。或者，如果耗电量少，就给分数。>> 速度快就给更多分数。就这样。这就是我们用强化学习的方法来设计人工智能。那时，奖励函数的关键在于，我们的学生博士毕业的论文，核心问题就是奖励函数是如何设计的。也就是说，奖励函数是，从一开始就制造出正确答案，或者说，接近正确答案，比如让斜率为 0，使其接近正确答案。还是尽力而为地制造？>> 有两种方法。啊，可以说三种。一种是，如果和现有的参考资料最相似，就给分数，表示做得好。这样设计函数。>> 是的。另一种是，如果和别人不同，熵低，就表示做得好。>> 第三种是，反过来，不是给惩罚，而是>> 给奖励的方法。>> 做了我想要的事情。>> 对。是的。以前是错了就扣分，通过微分来找到正确答案，鞭策。>> 是的。立即告知分数。>> 但是，还有另一种方法，在人工智能中，做得好就给更多分数，也就是给奖励的方法。>> 嗯。>> 是的。所以，有三种学习方法。>> 按照我们要求的算法得出结果。>> 嗯。>> 如果做得好，就给一些额外的奖励。>> 是的。是的。>> 那就是函数。>> 那就是函数。>> 啊，比如，如果得分超过 20 分，就再给 5 分，算作 28 分。非常简单。>> 如果做了类似这样的事情，就给你加 2 分。>> 是的。>> 比如。>> 是的。>> 那么，那个家伙就会为了获得更高的分数而设计。>> 不是因为心情好，而是因为>> 嗯。>> 它们被限制在创造出更高的分数。>> 是的。>> 那么，我们来谈谈更难的数学。从这里开始是难度。好的，让人工智能下围棋，或者用人工智能进行股票投资。>> 是的。赢。跟上。>> 我 10 年总共赚的钱很重要。>> 但是，每天都在投资。每天都有收益。>> 但是，不能等到 10 年后才能知道，对吧？所以，需要用奖励函数来预测我明天会怎么样。是的。>> 下围棋时，在下完所有棋子之前，只下一手棋，就要预测未来并给出分数，给予奖励。小时候>> 有什么童话故事吗？走到最后，中间会掉下面包屑，然后捡起来。汉赛尔和格蕾特。>> 就像那样，使用一个一个地给予面包屑的奖励系统。>> 嗯。>> 如果不等到最后。人类不会等。>> 是的。>> 嗯。中间。>> 到这里都理解了吗？是的，理解了。>> 但是，不等到最后，就能>> 看到未来吗？这种方法使用的数学叫做递推公式。>> 递推公式。>> 是的。是的。你们高中时学过数列吗？数列>> 等比数列。如果知道当前状态，就能表示下一个状态的关系的公式。>> 可以推测。所以>> 所以，在公式 1 中，下一个值和当前值的差，表示每向前一步就获得一次奖励。>> 对吧？>> 也可以设计这样的奖励函数。>> 嗯。即使不等到最后，稍微>> 这样走，比如用这个奖励函数进行股票投资，几个月后就赚钱了。>> 那么就继续下去。>> 一直到永远吗？结婚也是如此，不是吗？>> 几个月恋爱后，发现很合适。>> 那么，预测未来，那个奖励是什么？未来是幸福、家庭、孩子。不就是幸福吗？>> 是的。是的。>> 为了提前预测，就去看相？总之，那就是递推公式。>> 握手时，触电了。或者迟到了，或者有困难的事情，但你安慰我，我考试没考好，但你说没关系。这些都是预测未来的递推公式。>> 那么，需要加入递推公式的奖励体系。>> 哇，是的。>> 所以，这就是数学实力。我虽然用非常简单的方式表达，但本质上是正确的。本质上是正确的。>> 看看当时是怎么做的，可以看到用了等比数列。>> 是的。>> 即使很难用公式表达，核心就是这个。D 也要用函数来表示。>> 好了，时间太长了，跳过。>> 是的。所以，为了最大化奖励，也进行微分。>> 嗯。>> 然后学习。>> 好了，我们的研究室正在用 AI 设计 HBM。>> 右边是研究生设计的，越低越好。表示水压很高。左边是 AI。>> 啊，利用刚才的奖励函数，做得好，一开始是黑色的，很乱。变得干净了。>> 嗯。嗯。人类是学生，通过奖励函数，学生得到表扬，>> 嗯，给工资，>> 嗯，嗯，顺利毕业，人格成熟，获得良好体验。左边是这样设计的奖励函数。这都是学生做的。>> 慢慢地引导。也就是说，一点点，再一点点。>> 那么，你们知道等比数列吗？本金是 100 元，年利率是 10%，多少年才能翻倍？大概 7 年。7 年左右就能翻倍。10% 7 年，翻倍不止。>> 所以，这个公式是 A 投入了 100 万韩元。>> 嗯。>> 0.9 是 R，0.1 是 I，啊，总之，最最最>> 10 年翻倍需要 7%。有 7 法则。我不知道公式是否正确，但这些都包含在奖励函数中。>> 是的。>> 奖励函数中，以这种形式包含。我一直做好事，就能得到一生都能得到的量。>> 啊，刚才。>> 递推公式的关系也这样表示。你做这么多，未来就会达到这个程度。所以，我虽然可能有点勉强地用了中学时学的公式。>> 原理是真的。>> 啊。>> 啊，读一下这个。有一天，番茄走在路上摔倒了。为什么摔倒了？答案是什么？>> 为什么摔倒了？番茄。>> 番茄。>> 为了追上。>> 呃，有点冷笑话。我跟 ChatGPT 说了个有趣的笑话，它告诉我这个。>> 番茄酱。>> ChatGPT 认为这个有趣吗？不知道。幽默如何用数学表示？>> 嗯。>> 非常困难。如果 AI 也能幽默，那人类就完了。还没到那个程度。>> 啊，也就是说，要用数学表示人类为什么笑。>> 表示。>> 我们自己也不知道为什么笑。>> 比如，有伏笔，有各种解释。>> 某种意外性。与一般情况不同的意外性会让人发笑。如果让它找有趣的笑话，那就像找笑话集一样。>> 会找的。是的。但是。>> 即使如此，在这种情况下，我喜欢的幽默也很难。>> 比如，把国民教育改编得有趣。>> 怎么改编得有趣？>> 所以，AI 似乎还没有幽默感。>> 那种还没有。>> 啊，这个如何用函数表示？>> 还有，尹东柱的诗。>> 读那种诗，心里会很感动。如何用函数表示？我一直在想，是否需要用这种函数来表示。>> 如果让 AI 模仿，写出这种感觉的诗，就不会出来。>> 所以，那是，就像刚才说的。>> 模仿。>> 幽默和诗歌也是一样。那个是，人类触动人心的那个点，笑点。>> 准确地知道为什么。>> 用数学函数很好地表示，还没有学习过。只是模仿。所以，我们感觉上，如果讲个有趣的笑话，就会笑。感觉上。>> 用公式。>> 嗯。>> 我。>> 对 AI 来说，必须用公式给出，直到微分变为零。那个过程叫做反向传播。在那个过程中，需要输入可微函数。>> 那不是 AI 的局限，而是人类还没有完全了解自己。>> 也有这种可能。是的。我们也不了解自己。>> 所以，总之，努力学习函数。中学时努力学习函数。>> 哇，这样看，反而认识了数学的概念。啊，>> 所以，AI 课程从头到尾，都是图表，设计图，但核心还是数学。当然，用编程在 GPU 上运行。>> 是的。嗯。>> 所以，我们说的话，生活，感情，要输入到机器里，最终都需要数学的>> 转换。>> 用数学准确地表达自己的想法，这比什么都重要。用数学表达非常逻辑。所以，从延伸来看，擅长提示，擅长使用 AI，就是自己必须非常逻辑。>> 嗯。>> 而且，数学不仅在这里使用，在量子力学、电子工程等领域，也用于表达自然现象。>> 是的。>> 所以，在那里也本质上使用数学。>> AI 像个黑匣子，但仔细看，本质是数学。我产生了这样的想法，所以想在大家面前解释一下。>> 可以。>> 比如，如果不把它用数学，用函数来表示，而是像 AI 编程一样。>> 哇，那样不行。说得更亲切一点，AI，你为什么这么说？>> 可以给一些奖励，或者那样做吗？>> 嗯。>> 现在是模仿，但下次有机会，我会努力尝试。下次有机会，我问一下 ChatGPT，用 AI 编程来表示爱，会怎么样？嗯。>> 那么，用奇函数来写 AI 程序，然后让它写一些东西，可以做到吧？那样的话，它最终也会在内部创建函数。>> 我不知道它能否创建函数。啊，但是数学也很好，问题我现在不能马上回答，你也给了我一个思考题。啊，我以前认为只有人类才能做数学。>> 啊，让它用数学来表达爱，我问一下。嗯。嗯。嗯。>> 但是，那种语言本身，对人工智能来说，最终还是要翻译成数学。>> 输入。>> 不是学习现有的模式，而是创造新的模式。今天，我说的可能是假设，很难证明。但到目前为止是这样。听了两位的话，觉得“原来是这样”。>> 啊，所以学了数学，但白学了。>> 不，不是白学。积累经验。>> 概念最终是学到了，但为了深化那个概念而进行的教育。>> 我们在学校里做不到。>> 是的。>> 测试能多快地应用学到的概念，然后就结束了。>> 是的。所以，回想起来，数学就是>> 用数学来表达社会。>> 是的。>> 最终都是学到的。>> 是的。学到的。>> 但我不知道。>> 说得冷酷一点。>> 学校里教数学的老师>> 也不知道。>> 也不知道。数学老师>> 也不知道。不知道是什么，只是解题。>> 只是教这个，做这个，然后就过去了。>> 嗯。>> 我们也是。所以，现在看来，数学是学习概念，考试时>> 可以开卷。>> 可以开卷。>> 时间非常有限，应该出证明题。而且，对不起老师们，不应该让老师出数学题。>> 老师们都做得很好，但我们为了考试，为了效率，为了公平，所以变成主观题。>> 啊，是的。但是，这样教数学概念，在大学入学考试中，这样开卷考试，>> 无法带进去。考试时间有限，所以不能随便带。>> 为了公平。>> 反正都是选择题，所以数学老师也只能这样。>> 是的。有答案的问题。>> 哇，越看越觉得触及了根本性的问题。感觉有点美。>> 为什么美，我大概明白了。真正擅长数学的人，在 AI 时代会成为大人物。>> 所以，要让韩国出现世界级的 AI 模型，就要好好对待数学家。>> 嗯。>> 所以，数学家们也很辛苦。总之，自然科学中最重要的是数学。是的。然后是物理、化学、生物。数学>> 嗯。>> 直到超越医学院的那一天，要好好调整函数值。>> 哇，听起来很有学问。>> 啊，叔叔阿姨们因为在艰苦的环境中接受教育，所以不知道这个有趣的知识。但数学看起来很有趣。>> 是的。>> 你们沉浸在有趣的数学中。>> 嗯。>> 不要总是担心复杂的事情。>> 嗯。>> 嗯。>> 就那样生活吧。>> 是的。金教授，听得很精彩。>> 谢谢。>> 是的。