Transcription
你是否看过《蚁人与黄蜂女》？《蚁人与黄蜂女：量子狂潮》。>> 达伦，>> 看到我你很惊讶>> 或者《河谷镇》。我四年级就辍学去贩毒养活我的奶奶。>> 那意味着你从未经历过高中橄榄球的辉煌与失落，史诗般的跌宕起伏。>> 或者《孤独的盒子》对哈桑的反应，哈桑对坏的玉米饼的反应，玉米饼对威利的反应，威利对哈桑的反应，哈桑对战争的反应。你是否在约会软件上看到所有提示的答案都一样？哦，你想争论披萨上放菠萝吗？你认为一个美好的星期天就是散步和吃烤肉。你曾经冒过的最大风险就是下载了这个应用。为什么同样的商店到处都是？为什么这么多政客如此平淡、相似且无效？>> 我说你的三美分钛税走得太远了。我说你的三美分钛税还不够远。>> 你是否曾哀叹过收音机里播放的音乐毫无新意？听起来都一样。有科学证据表明确实如此。[音乐][歌唱]>> 我想我之前看过[音乐和歌唱]这部电影。而且我不喜欢结局。[音乐]>> 所有这些都给人一种被我们当成人性最低公分母的、被消化过的残羹剩饭的感觉。一种社会偏好的加工过程，它放大并反射趋势给我们，然后又以自身为食，最坏的情况下产生怪诞的幻觉，最好是产生常规的智慧。它的核心有一种实质，但它被包裹在懒惰、妥协和肤浅的结合体中。而这里有一点，这些都不是人工智能生成的。许多人担心人工智能是否会接管人类，耗尽我们所有的能源，并导致巨大的不平等。另一些人则兴奋地认为它将迎来一个丰裕的时代，人类摆脱了繁重的工作，进入了科幻的未来。显然，这些辩论是值得进行的。自聊天GPT等工具推出以来，人工智能已经改变了我们的生活，而且无论好坏，其影响都可能持续很长时间。但我想在这段视频中提出的问题是，人工智能是否像我们被告知的那样，代表着如此巨大的变革。我们是否能在像聊天GPT这样的超现代技术中找到过去人类创作的先例，以及这对我们如何处理未来的人工智能意味着什么。是的，我们将讨论它是否是一个泡沫。[音乐]>> [音乐]>> 哦，天哪。>> 对不起，忍不住播放了有史以来最棒的电影片段。为了理解人工智能如何与现代经济联系起来，我将首先做一个简短的解释。人工智能是一个宽泛的术语，我在这里做简化，重点关注2025年普通人最熟悉的人工智能类型。指出像聊天GPT这样的工具并非科幻电影《我，机器人》中所设想的真正的人工智能，是所有学究的惯例。我们称之为人工智能的，实际上只是大型语言模型，或LLMs。它们是统计工具，将算法应用于大量数据，并根据其训练过程确定的最可能有用性返回答案。因为这些模型是在海量人类数据上训练出来的，并且在技术上非常先进，所以它们可以给人一种人类智能的表象。但实际上，它们所做的只是组合了复述、猜测和遵循程序员设定的规则。我想要推荐一个名为“曲线转变”的Substack，它对人工智能的解释我将厚颜无耻地借鉴。Peter Tantham将LLMs比作手机上的预测文本。早期的短信会根据你的输入生成统计上最可能的答案。手机自智能手机出现之前就在做这件事了。物理按键一次可以表示三个或四个不同的字母，所以手机必须猜测你的意思。如果你输入228，你可能是在输入cat，但也可能是bat。由于英语母语者更频繁地使用cat，手机会选择cat作为第一个选项，bat作为第二个选项。有了完整的键盘，无论是触摸屏还是物理键盘，谁还记得黑莓？这些系统变得越来越先进。例如，现代手机不再预测与你输入的字母数相同的单词，而是根据几个字母来猜测你正在写的单词。所以，CA可能变成cat，也可能变成car。问题在于，潜在的单词数量非常大。事实上，有超过12,000个以CA开头的英语单词。如果你想预测的不仅仅是当前单词，你很快就会遇到计算机科学中一个熟悉的问题。英语有26个字母，这意味着有676种可能的两位字母组合，17,576种三位字母组合，以及五十万种四位字母组合。当我们试图预测更多时，一个句子的潜在路径数量将达到一个难以想象的数字，这比已知宇宙中的原子数量还要多。将我们从简单的预测文本带到更接近现代LLMs的东西，是它们会考虑整个前置句子。>> 有时候我开始一个句子，甚至不知道它会走向何方。我只是希望我能在过程中找到它。所以，如果你比较“我喜欢开我的猫”和“我有一只狗和一只猫”，它会知道你有一只狗和一只猫，而且你喜欢开你的猫。只是在开玩笑。模型不需要绘制出所有可能的路径，而是需要查看单词在英语中的常用用法。它可以考虑到某些单词更有可能与其他单词一起使用。猫与尾巴、胡须、抓挠、绒毛和独居有关。这有助于缩小可能性范围。可以公平地说，大型语言模型捕捉到了猫是什么以及我们如何谈论它们，即使模型实际上并没有以人类的意义来理解它。这就是我们接近像聊天GPT这样的现代工具的地方。它们会查看所说内容的上下文。正如Tantham所举例的，一个句子的开头，通常以“a”开头，最有可能以“souvenir”而不是“pet”结尾。然而，如果你查看所有用英语写过的东西，如果“tabby”出现在前置句子中，这个概率就会改变。LLMs学习如何整体考虑文本的方式实际上是通过蛮力。采用大量模型，这些模型结合了规则和随机性，从有限的文本输入生成输出。将其通过海量的人类数据，这些数据告诉我们关于宠物、纪念品以及介于两者之间的一切。编码员可以通过截断文本来测试模型是否正确。所以你可以给模型看前半部分，看看它能否猜出后半部分，而你作为编码员知道，但模型不知道。例如，你可以写“它通常被当作宠物饲养，也是一只工作猫，但也可以自由漫游，成为一只避免与人接触的野猫”，然后截断逗号后面的部分。然后模型会预测句子的其余部分，希望是正确的。如果模型出错，并说出诸如“它通常被当作宠物饲养，也是一只工作猫，它朝九晚五。多么努力的生活啊。”之类的话。然后你可以调整它，以便模型下次更有可能得到正确答案。OpenAI公司会选择那些偶然得到正确答案的模型，并将其作为下一轮的模板。在此之上，每个模型都会对其算法进行随机调整，因此每个模型都会产生不同的结果。那些有效的模型将作为下一轮的模板。这是一个极其复杂的过程，需要时间、许多计算机，并消耗大量电力。当执行得当，最终结果是一个能够生成对人类观察者来说似乎合理的答案的机器。这类大型语言模型的前身已经使用了几十年。但现代创新已经将它们提升到了一个新的水平。对于像聊天GPT这样的用户友好型模型，还有一个额外的训练阶段，涉及人类的直接输入。模型现在接收更多聊天式的输入，并应该从这些对话中生成输出。此时，它更多的是产生类似人类的互动，而不是完成预先确定的句子。这时他们会雇佣真正的人类来帮助这个过程，并赋予它人情味。如果这听起来不错，那就不应该了。许多是贫困国家里的工人，工作艰苦，报酬低廉，而且经常需要评估那些毁了他们生活的可怕的原始材料。>> 这些工人最终遭受了与社交媒体时代的内容审核员非常相似的症状。因工作而完全精神创伤，性格完全改变，留下了创伤后应激障碍。>> 我们稍后会回到人工智能模型的某些道德后果，但现在我们专注于它们的工作原理。正如我的赞助人Andre总结的那样，>> LLMs是在人们写的、从互联网下载的大量文本上训练出来的，人类反馈后来也被用来使LLM表现得像一个好的聊天机器人。不幸的是，这一切都是这些模型也成为专业胡说八道的原因。如果你编造了什么东西，或者机器人没有足够的数据，它会尽力根据它能估计到的最可能的答案来填补空白。特别是ChatGPT，它非常奉承，会尽力按照你的说法去做，或者理解你的意思，同时又非常礼貌。这就是为什么那些仍然使用Twitter的人认为他们已经用人工智能解决了物理学。此外，这些模型以出了名的难以理解和解释。它们以不透明的方式将语言数学化，这意味着很难看进这个盒子里面。>> 盒子。盒子。>> 当你这样做时，你会得到这样的东西。现在我们对LLMs的工作原理有了一点了解，我想将它们与其他人类构建的东西联系起来，比如政府。这可能听起来有点随意，但>> 这个侦探是正确的问题。>> [音乐]>> 你是否看过那个英国脱口秀喜剧时代，当时人们说，“哈哈，每家都有一个杂乱的橱柜。”>> 我们不，我们不，我们不想要太多，伙计。只要我们能有一个抽屉。这就是我们真正需要的。一个抽屉。男人抽屉>> 或者美国的谈话节目是这样的。>> 我认为她需要把他踢出局，宝贝。[掌声]为什么每次公司会议都围绕着驱动力、增加价值和定制化解决方案等空洞的概念？你有没有想过为什么现代食品包装如此完美，外观如此吸引人，享受起来如此短暂？这叫做“多力多滋效应”，而且有一整本书都在讲它。或者你是否曾经坐下来听过著名歌曲《Life by Desire》的歌词？我有一块[音乐]吐司。>> 我们离回答这些关于现代经济的问题又近了一步。大型人工智能模型是文化和社会技术，这是四位来自政治、统计学、心理学和社会学领域的知名学者在一篇新文章中的标题。Farel和他的同事认为，我们可以在人类社会中找到人工智能的关键，而不是在《我，机器人》这样的电影中，即使我们真的想看。因为人类定居在拥有无数个体角色、多元经济和多层治理的大型文明中，我们不得不找到管理所有这些复杂性的方法。现代文明产生的信息量根本无法以原始形式处理。想想看。超市是否知道你因为度假而几周没来过？不。它只知道你没买东西，现在会囤积所有必需品。你的老板是否知道你工作日的每一个细节，包括Excel突然无缘无故停止工作的时间？政府是否知道你的一切，包括你早餐吃了什么？好吧，也许他们知道。糟糕的例子。我们都有不同的信息、需求和要完成的任务。我们需要协调以获得我们想要的东西，同时又不妨碍他人。为了做到这一点，我们必须利用来自他人和我们环境的信息。根据这篇文章，人工智能只是人类为了做到这一点而发明的最新发明。Co.称这些发明为文化技术。语言本身就是一个例子。我们从中汲取词语的集合，试图表达一些东西，以便同样说我们语言的人能够理解。这是人类交流的基本工具，而且相当有效。但任何学过一点外语的人都会很快遇到翻译困难甚至不可能的领域。在葡萄牙语中，saji这个词描述了一种模糊而持续的对不存在的、可能也不存在的、对当下以外事物的渴望。这是一个非常诗意的词。渴望不同的生活是一种普遍的情感，但大多数其他语言没有如此完美的词来形容。在普通话中，只有现在时，没有将来时或过去时，至少在我们西方人使用的方式上。在波斯语和俄语中，没有“the”这个词，这在我们开始谈论德语之前。语言是一种抽象，它使人类得以繁荣。很难想象没有它的生活。然而，它反映了一个特定社会的文化，并且可能无法完美地翻译到其他社会。此外，即使在社会内部，语言也存在许多缺陷。人们常常难以完整地向他人传达他们的问题和感受。即使是最好的倾听者，在倾听最好的沟通者时，也不会真正知道他们的感受。这不仅仅是口头语言。写作、图片、视频、互联网搜索。所有这些都使人类能够捕捉信息并相互交流，希望它能被有效地利用。当然，所有这些都伴随着公平份额的问题。视频是吸引大量观众和提出有力论点的绝佳形式，但技术细节和细微差别最好留给写作。这就是为什么我选择创办一个经济学视频频道而不是一个Substack。文化技术是我们为了理解我们日益增长、日益变化、日益复杂的世界而开发的工具。我们设计来帮助我们管理社会的许多机构不仅仅是传输和接收信息。它们利用这些信息来积极地重构现实。Forel和Co.将LLMs与经济市场、政府和官僚机构进行了类比。这可能比LLMs与写作之间的比较更难理解，但它提供了对新技术的一个不同视角，而且当你思考它时，它是合理的。考虑到政治民意调查是抽象的，人们被问到一系列预设的问题，他们的答案被归入几个类别之一，通常只是“是”、“否”或“不知道”。>> 如果不知道不存在，你会放什么？细微差别和不断变化的意见的空间在代表性样本对旨在给政客、媒体和公民提供易于理解的总体印象的问题的回答的快照中丢失了。没有一个政客能完全了解选民的观点，让他们根据如此庞大的信息行事甚至更荒谬。这还是假设他们想这样做的话。在代议制民主中，选举只是政治民意调查，通常比Pew Research和Ipsos MORi做的更粗糙。它们将选民的所有政治偏好极大地简化为对一个政党是“是”还是“否”的回答，或者最多是政党排名。Farel和Co.指出，>> 在计算机出现之前，市场、民主和官僚机构就已经依赖于生成有损但有用的表示的机制。这些表示既依赖于个人知识和决策，又超越了它们。价格、选举结果或国内生产总值等衡量标准总结了大量的个人知识、价值观、偏好和行动。同时，这些社会技术本身也可以塑造个人的知识和决策。如果你习惯于将人工智能视为一项革命性的、改变游戏规则的技术，那么我理解这种类比可能会令人震惊。需要明确的是，重点不是说人工智能是全新的。当然，它是。它已经从根本上改变了我们的生活。重点是，人工智能可能不像我们认为的那样新。更重要的是，我们理解和管理人工智能的方式可能受益于回顾其他文化技术，而不是担心它是否真的晴朗。>> 你能吗？>> 顺便说一句，Fel和Co.也使用“社会技术”和“文化技术”这两个词。你可以争辩说，还有政治、经济和军事技术。为了简单起见，我在这段视频中只使用“文化技术”。你可以在评论中对不同的术语进行挑剔，但要知道你只会助长我正在训练的、基于我自己的评论区的新人工智能机器。到目前为止，它一直叫我共产主义自由派。等等。没错。[音乐]电脑游戏的画面什么时候停止改进了？七年后。为什么像找工作、找伴侣和搬家这样绝望的生活事件，如今感觉都差不多？你是否看过那份关于如何扰乱会议的CIA备忘录，并觉得这听起来就像现在所有的公司、学术、慈善、政党或城镇大厅会议？事实证明，Forel和Co.所说的有一些可信的理论。诺贝尔奖得主经济学家和心理学家赫伯特·西蒙（Herbert Simon）深入思考了信息以及我们人类如何驾驭一个不可救赎的复杂现实，以做出个人和集体决策。我的合著者斯图尔特·米尔斯（Stuart Mills，无亲属关系）有时会开玩笑说，赫伯特·西蒙早就解决了经济学问题。>> 在我脑海里有一本书，我有一天会写，开篇第一句话是经济学的基本问题是由赫伯特·西蒙解决的。其余的只是政治。西蒙曾声称，个人很少是理性的。我们根本无法处理所有可用的信息。即使是像买杂货这样简单的事情，如果你试图筛选所有可能的组合，也是一项不可能的任务。一个人在一个典型的超市里可能购买的商品篮子的数量超过了已知宇宙中的原子数量。又来了。在赫伯特·西蒙的作品中，一个重要的技术概念是局部优化。想象一个人在没有手机、没有地图、没有先前信息的情况下，在一个丘陵地区导航，试图找到最高点。在一个很小的区域内找到一个微小的隆起，一个局部的最高点，这是很容易的。找到一个对一个人可见的区域的最高点，一个更大的山丘的顶峰，这并不难。但要知道你是否在整个地区、国家或世界上最高的山丘上，那就困难多了。根据你独自从眼睛获得的信息，不可能说你找到了所谓的全局最大值，即景观的最高点。西蒙认为这不仅仅是一个数学论证。如果你处于一个局部最大值点，但想达到一个全局最大值点，中间可能有一个山谷。人类努力做到最好，而且我们做得并不差。但世界是如此多样和复杂，以至于我们跌跌撞撞地从一个局部最大值走向另一个局部最大值。即使我们想改进事物，我们也可能无法从现在的位置做到。西蒙以英格兰的公制系统为例。如果我们从零开始，我们肯定会想采用它，但现在的成本太高了。对不起，这可能是理性的，但我永远不会想要50厘升的啤酒。再加上另外68毫升。这到底是什么？局部优化无处不在。例如，进化是一个生物体在特定环境中为生存和繁殖而竞争的过程。通过自然选择。有益的突变会持续下去，而其他突变则会消失，因为不适应的性状会导致劣等生物失败。但对于一个进化成功的生物体来说，并没有普遍的优越性。你可以很容易地看出这一点，因为狮子无法在北极生存。北极熊无法在沙漠中生存。而且我们最终都会消失在虚无的虚无中。进化不是为了解决存在的普遍性问题，而是为了在特定时间和地点逐步改进，使生存和繁殖更容易。这与一个人在山坡上摸索以寻找局部山峰没有什么不同。所以，事情开始变得熟悉了。引用西蒙的话，>> 进化的最简单方案取决于两个过程：一个生成器和一个测试器。生成器产生变化，产生以前不存在的新形式。而测试器则呼唤生成的形态，以便只有那些适合环境的形态才能生存。在现代生物达尔文主义中，基因突变和染色体交叉是主要的生成器，自然选择是测试器。>> 所以，我们得到了随机生成的规则，有时会导致更有益的结果。当它们发生时，有益的规则被选中，然后整个过程再次运行。这听起来有点像我们之前对大型语言模型的解释。虽然我们可以进一步探讨局部最大化在现代经济中的作用。许多资本主义的爱好者长期以来一直强调自然选择的类比。通过市场信号，人们试图以最优惠的价格获得价值。这意味着公司通过降低价格和提高质量来竞争。最好的公司赚更多的钱，所以它们得以生存和发展。最差的公司赚不到钱，破产。因此，适者生存，但对于经济而言。或者说，这是论点。市场的自然选择机制有助于传达关于人们需要什么、谁能制造它、它应该在哪里以及何时制造、以什么价格和数量制造、如何融资等等信息。这种机制在长期内选择了一些理想的特征，并提高了生产力和效率。自由市场经济学家弗里德里希·哈耶克（Friedrich Hayek）直接将市场的力量与人类有限的知识和计算能力联系起来。这个系统最重要的事实是它的知识经济，或者说个人参与者需要知道多少才能采取正确的行动。赫伯特·西蒙引用了一系列实验，表明即使在人们信息量不多或理性不强的情况下，市场在撮合买卖双方方面仍然很大程度上是成功的。人们可以完全随机地行事，市场仍然能够协调。这是一个稳健的结果，但对于本视频的技术细节来说，有点太深入了。我们不必过多地关注哈耶克。虽然进化和市场之间存在类比，但我们必须记住（大约一分钟前），对于一个生存下来的生物体来说，没有什么普遍的好处。它只是适应了它的环境。一旦你在方程中加入了道德，进化就真的无话可说了。生存下来的生物体可能会传播疾病，成为寄生虫，成为凶残的捕食者，甚至奴役其他生物，占领整个星球，然后将其烧成灰烬，假设性地来说。如果哈耶克以这个基础来论证自由市场是最好的制度，他可能夸大了他的论点。但事实仍然是，市场是人类利用其有限的信息处理能力（包括来自他人的信息）来通过相当简单的信号进行协调的一个很好的例子。仅仅因为优化是局部的且不完美的，并不意味着它不存在。一个人购买某物的理由范围很广，从他昨晚睡了多少觉到他的成长经历，再到他的部落在10万年前分裂的时间。然而，供应商需要知道的是他们想要它，并且他们有钱。西蒙总结道：>> 市场似乎通过将决策分配给能够根据他们所掌握的本地信息来做出决策的参与者来节省信息和计算。也就是说，他们不必了解经济体的其他大部分信息，只需了解他们购买的商品的价格和特性以及他们生产的商品的成本。全球经济生产出数量庞大、令人难以置信的商品和服务，每种商品都有其配套的投入、价格、数量、品牌、地点等等。没有人类能够做到这一点，除非有分散式市场提供的协调。有人购买某物会发出信号表明他们想要它，并且方便地为此分配资源，以资助他们想要的商品的持续生产。数百万个人和组织不断地发送这些信号，这有助于协调资源分配，而无需每个人都了解应生产什么以及如何生产的详细信息。我们大多数人并不真正知道我们消费的大部分东西是如何制造的。即使在公司内部，大多数人也只对工作原理有一个部分的了解。市场远非唯一能够浓缩、处理和利用大量人类生成的信息来产生更好结果的文化技术。人类学家詹姆斯·C·斯科特（James C. Scott）曾声称，国家通过人口普查、收入、年龄等抽象类别来看待事物。并不是说这些变量在没有国家的情况下没有意义，而是它们依赖于上下文，而国家经常会抹平很多细节。例如，作为一个自营职业者，我的收入定义得很差。它不可预测、波动，而且每年要交两次税。然而，当英国财政部决定花什么钱时，我的收入和已缴税款只是出现在他们的账簿上的一个数字，就像一个每月自动缴税的固定雇员一样。这些最终的税收数字对于一个想要资助公共服务的国家来说已经足够了。但我对收入和税收的体验与大多数人完全不同。自营职业收入也必须提前预测，这意味着我的付款有时会过高或过低，导致税款高于预期，这在你没有钱的时候很麻烦。订阅Patreon。而且现在，你也可以成为YouTube频道的会员，或者在Buy Me a Coffee上支持我。有很多方式可以给我钱。每一种都比前一种更令人兴奋和高潮迭起。而且请放心，现有的赞助人，你们的东西不会被拿走。我们必须组织起来传输信息和资源。而这些组织必然是有限的且不完美的，减少了每个人需要处理的信息量。>> 组织可以通过分散决策来本地化和最小化信息需求，就像市场一样。事实问题可以在拥有最多技能和信息来确定它们的地方得到解决，并且可以将它们传达给收集点，在那里可以将与某个问题相关的所有事实汇集起来并做出决定。我们可以将一个决定视为通过执行一个大型计算机程序产生的。每个子例程都有其特殊任务，并依赖于本地信息源。没有一个人或一个团体需要精通决策的所有方面。我们可以使用这个虽然有些随意的术语“制度”来对所有这些进行分类。一个没有这些结构的社会，对于一个面临着关于世界的信息以及关于他人及其需求的信息的个人来说，几乎是不可能导航的。人类一直组织成更大的结构，这些结构约束和指导我们的行为。这些结构包括经济激励和法律等更硬性的机制，以及信仰体系和文化等更软性的机制。正如西蒙所说，制度帮助个人协调相互依赖的活动，以免个人误解或冲突。制度忠诚和身份作为一种动力，在适当的时候将集体利益置于个人利益之上。制度通过缩小个人在任何给定时间可用的信息和行动范围来管理个人知识和理性的局限性。想想一个公司。它会有各种职能，并被划分为部门，所有部门相互沟通。市场营销部门需要了解会计的程度是有限的。它可能只需要知道分配给营销的金额。人们认同整个公司，也认同他们所在的部门以及部门内的团队。在这个企业里，几乎没有人能完全理解它是如何运作的，或者有能力完全改变它。即使是CEO，至少当他们最终上法庭时是这么说的。制度是强大的文化技术，它们使我们能够做比单独或甚至小团体所能做的事情多得多的事情。正如詹姆斯·斯科特（James Scott）一丝不苟地记录的那样，现代国家在经济增长、健康成果、教育、科学、研究和技术、基础设施等方面取得了显著的进步。市场也为所有这些成果做出了贡献，并且在提供消费品方面非常出色，而国家已被证明在这方面并非如此。人工智能经常被滥用，但在我的经验中，它仍然擅长处理、总结和改进你提供给它的信息。它可以取代一些白领的枯燥工作，并在谨慎使用时充当有用的顾问。哦我的天，我说了一些关于人工智能的略微积极的话。希望我不会像亚历山大·艾拉那样受到太多辱骂。也许他可以帮助完成这个视频。>> 2024年11月，可口可乐发布了一则由人工智能制作的圣诞广告。在Twitter上的反应压倒性地负面。我讨厌它。[音乐]人工智能在创造力方面没有地位。这是我见过的最没有灵魂的圣诞广告。对不起，但这完全没有灵魂。艺术正在消亡。可口可乐使用人工智能。哇。曾经尊重过大规模生产的甜甜圈广告的古老艺术[音乐]实践是怎么回事？说实话，伙计们。这是可乐广告。它总是[音乐]没有灵魂。它总是商品化。它总是垃圾。[音乐]你是否看过新一季的《辛普森一家》>> 唱>> 为什么科技亿万富翁现在看起来像是他们自己的人工智能生成的？>> 你喝咖啡吗，伙计，还是不喝？>> 不。>> 真的吗？>> 是的。历史的讽刺之处不就是那个公开担心反基督者的人无意中加速了他的到来吗？>> 嗯，那里，那里有所有这些不同的场景。我显然不认为我正在做的是这样。>> 我想感谢你今晚邀请我来。能和大家在一起真是太棒了，尤其是你和第一夫人。我一直很喜欢共进晚餐和互动。>> 为什么金融市场对他们后来误读的信息反应过度？股市上涨。为什么股市上涨？因为他们说他们很高兴杰罗姆·鲍威尔说美联储永远不会将利率提高超过百分之零点五。所以他们说，是的。然后它就上涨了。然后今天很疯狂。市场就像在崩溃一样。就像，你知道，他们就像，这是一场血腥的屠杀。我说，为什么？他们说，“哦，因为他们误读了他的话。”然后就像，“等等，等等，等等，等等，等等。”>> 我们现在快要回答这些问题了。将人类行为、进化和现代组织联系起来的是“满意”的概念。这是赫伯特·西蒙最著名的贡献之一。而全局最大化旨在实现最好的可能结果，无论这意味着什么。满意则旨在根据某个标准产生足够好的东西。例如，我不知道这个视频的最佳版本会是什么样子。我所能做的就是遵循各种规则和程序，直到我对它满意为止。研究、阅读、写作、审阅、请我信任的人审阅。之前的局部优化是一种满意形式，但后者也包括人们甚至无法局部优化的情境，比如当你无法继续爬山时，你就满足于你已经走到的距离。这可能不是顶峰，但它已经是辛普森一家能达到的最接近的了。>> 根据赫伯特·西蒙的说法，我们整个人类世界都是一个满意主义的世界。从我们的生物学过去到我们粗糙的人类创新，再到我们极其复杂的现代社会，再到当代人工智能，进化产生了一个令人满意的结果，允许生物体在特定环境中生存。个体人类在山丘上导航，直到他们到达一个局部山峰，而不是全局山峰。语言使人类能够满意地交流，但不是完美地交流。市场允许人类在没有太多直接规划的情况下分配资源，但它们会产生很多问题。国家通过使用足够好的抽象来允许更多的直接规划和干预，以实现社会目标，除了无数次它们出了大问题的情况，正如詹姆斯·斯科特所详述的。无数其他组织形式和文化技术也做着类似的事情。因此，我们现代产出的大部分仅仅是“足够好”的，这是否令人惊讶？一个很好的案例研究是音乐。说如今所有音乐都听起来一样是一种陈词滥调。而且它是我最初的例子之一。2014年的一项题为“音乐流派的器乐复杂性以及为什么简单畅销”的研究证实，销量衡量下的更受欢迎的音乐更简单。他们调查了商业音乐中两种对立的力量：独特性和多样性的愿望与统一性和熟悉性的愿望。人类既想要两者。我们想要童年时唱给我们的老歌的舒适感。臭猫。臭[音乐]猫，>> 但也想要实验电子音乐的冲击。音乐的伟大之处在于你可以用一种近乎科学的方法来量化歌曲的不同方面，比如音高或响度。在这项研究中，他们采用了数据中给出的不同音乐风格，如摇滚、布鲁斯或拉丁，共57种风格。然后他们查看不同歌曲中使用的乐器。他们的第一个衡量标准是音乐风格的乐器种类水平，也就是与该风格相关的乐器数量。所以，乡村音乐的乐器相对较少，吉他、口琴、小提琴，而爵士乐则有很多。这已经很有趣了，因为人工智能生成的乡村音乐几乎与真实音乐无法区分，这可能与乡村音乐在复杂性方面相当基础有关。上帝创造了枪[音乐]上帝创造了啤酒。一个是用来喝的，亲爱的>> 人工智能在处理爵士乐时会遇到一些困难。你明白我的意思了吗？回到论文。他们的第二个衡量标准是统一性水平。给定风格使用的乐器有多常见？所以，如果一种风格使用吉他，它出现在大多数风格中，那么它就更统一。如果它使用[音乐]，那么它就不那么统一。该研究结合了多样性和统一性指标，为每种风格的音乐复杂性提供了一个指数，他们可以将其与该风格的商业成功联系起来。这张图表显示了风格复杂性的变化（X轴）与其销量（Y轴）的关系。两者之间存在明显的负相关关系。销量上升与复杂性下降相关。这可能只是相关性，但他们做了更多工作来排除其他因素对结果的影响。这说得通，不是吗？随着音乐变得更加商业化，实验的空间就减少了，人们就会规避风险。这首歌不适合[音乐]这首歌[音乐]>> 它们都来自同一张专辑，听起来很相似。此外，泰勒·斯威夫特（Taylor Swift）催生了许多类似的艺术家，如奥利维亚·罗德里戈（Olivia Rodrigo）、萨布丽娜·卡彭特（Sabrina Carpenter）和格蕾丝·艾布拉姆斯（Gracie Abrams），她们都以某种形式的流行情歌为中心，以女性视角为主。在你认为我在发表规范性声明之前，我认为这些艺术家都很棒。看看我的2024年Spotify年度总结就知道了。所以，让事物变得更基础、因此更易于获取并非全是坏事。我喜欢麦当劳，正是因为它提供的是最通用的汉堡和薯条。这是一款非常好的产品。教育的普及无疑降低了其质量，与过去只有精英才能接受教育、一对一辅导的情况相比，但它仍然取得了巨大的进步。法律可能不公平。然而，它远比地方精英随意制定规则要好得多。文化技术为了向广大人口提供各种商品和服务以及治理而进行简化。而且我不确定我们是否有好的替代方案，除非我们想拥抱更小、更传统的组织形式。我并不是说那绝对是错误的。我只是说这是我们的选择。当然，这一切还有更明显的阴险一面。大规模生产和营销可以迎合某些人类冲动，导致我们可能在进一步反思后不喜欢的后果。>> 人类渴望熟悉感。大量的心理学研究表明，人们选择他们熟悉的歌曲，而不是与他们报告的音乐品味更匹配的歌曲。我们有些操纵性的音乐产业，选择听起来熟悉的音乐，并以海量的方式推给听众，深知如何利用这些渴望。流派随着时间的推移而标准化，以便利用这种心理。然后我们一遍又一遍地听到相同的歌曲。>> 这就是为什么我们有了多力多滋。吸引人，整洁，易于食用和携带，美味，但营养价值低。你多久会吃完一整大包多力多滋却感到完全失望？或者，只有我这样吗？这也不仅仅是公司故意剥削。有时市场的扭曲动态可能是涌现的。可能没有哪个市场比金融市场更符合哈耶克对分散参与者交流数百万信号的描述。人们不断交易，市场参与者几乎瞬间对信息做出反应。但即使在这里，它们也常常会成为常规智慧的载体，随波逐流，放大错误信息。经济学家内森·塔克斯（Nathan Tankus）指出，市场在处理不符合参与者世界观的信息时常常遇到困难。>> 没有常规智慧，金融市场就不会波动。这个过程不是神奇的，金融市场也没有某种神圣的、不可言喻的魔力。它们是由人组成的，而且不是随便什么人。具有非常特定的世界观的个人。>> 一旦信息被金融市场接受，常规智慧就会迅速流行起来。我早期的例子之一是市场集体误读了美联储主席杰罗姆·鲍威尔的演讲。这导致了我最喜欢的经济学独白之一，由特雷弗·诺亚（Trevor Noah）讲述。>> 他们说，“哦，因为他们误读了他的话。”然后我说，“等等，等等，等等，等等，等等。首先，怎么会发生这种情况？为什么市场会因为有人没有读懂或者同时理解了所有人的话而改变？然后，其次，市场为什么会这样做？这说得通吗？就像，这是我当时想到的，为什么市场有能力这样做？为什么它就像在财富之间跳跃然后又下降，还有所有这些。这整个事情都有点像骗局。我认为他们欺骗了所有人，让他们觉得，“不，这是经济。这是为了你。”金融市场中的这种从众心理导致了为什么每个人都在演奏音乐，即使泡沫越来越糟，每个人都知道这是一个泡沫。预示是一种文学手法，就像赫伯特·西蒙（Herbert Simon）和他的同事们将各种机构与人工智能直接进行比较一样。>> 大型模型不是智能代理，而是以一种新的方式结合了文化和社会技术的特征。它们生成对人类生成信息的、难以想象的庞大而复杂的信息的摘要。但这些系统不仅仅像图书馆目录、互联网搜索和维基百科那样总结信息。它们还可以以新的方式大规模地重组和重建这些信息的表示或模拟，就像市场、国家和官僚机构一样。就像市场价格是对底层资源分配和使用有损的表示一样，政府统计数据和官僚分类也是对底层人口特征有损的表示。同样，大型模型也是它们所训练的数据语料库的有损JPEG图像。>> 所以，我们的文化技术一直是不完美的。个体通过反馈机制进行局部优化行为，这些机制在行动之前会修剪和处理信息，然后基于那个有损信号采取行动。无论那个有损信号是价格、选票还是晋升。我们最终常常得到一些最低公分母的东西，这并不奇怪。任何试图吸引广大多元化受众的人都知道，最好的方法是一种“愚蠢化”。这并不是对普通人的侮辱，而是一种承认，特立独行可能会让一些人失去。因此，最小化它是一种让尽可能多的人参与进来的方式。如果你想向广大人口提供各种各样的商品和服务，你就需要这些文化技术来简化事情。再加上一些不诚实的人、暴君、逐利的公司、各种各样的混蛋，你肯定会得到一些糟糕的结果。直到最终我们达到我们最完美的自我版本，能够吸引最广泛的受众，并且不冒犯任何人。这就是你如何创造伟大的艺术。人类从创造力中茁壮成长。每隔一段时间，就会有人带着改变游戏规则的想法出现。这可能是一位企业家、一位科学家、一位政治家、一位作家，或者更现实地说，是以上所有人和他们周围的人。无论是个人还是集体，人类的创造力都为我们的制度注入了生命，并使我们能够不断改进它们。如果制度不再允许我们这样做，那么我们就会有问题。1989年首次播出，《辛普森一家》最初的动画和角色都不够成熟。但早期几季充满了真心和出色的黑色幽默，在我年轻的时候我没能理解。小时候看他们用水气球砸纳尔逊很开心，但作为成年人，你会注意到更深层次的信息。购买和装满那么多水气球会相当棘手。在黄金时代，从第三季到第八季，编剧们找到了他们的节奏，《辛普森一家》成长为一部将被永远视为有史以来最伟大节目之一的节目。结合了幽默。>> 你注意到巴特有什么变化吗？>> 新眼镜？>> 不。他看起来好像有什么事在困扰他。>> 可能想念他旧的眼镜。真心和讽刺[音乐]在一个适合成人和儿童的包装里。在如今像《南方公园》、《恶搞之家》或《瑞克和莫蒂》这样更前卫的节目时代，这可能很难理解，但《辛普森一家》刚出现时极具颠覆性。尽管这些节目突破了界限，但它们是否曾受到美国现任总统的公开谴责？>> 我们将继续努力加强美国家庭，让美国家庭更像沃尔顿一家，更不像辛普森一家。>> 啥？>> 嘿，我们就像沃尔顿一家。我们祈祷经济衰退结束。>> 《辛普森一家》颠覆了传统的家庭情景喜剧，后者将美国家庭描绘成田园诗般和乐观的。与沃尔顿一家相比，《辛普森一家》总是功能失调的。该节目尖锐地批评了工作场所、性别角色、学校系统、不平等和异性恋。该节目开始衰落，取决于你问谁，大约在第九季，故事情节变得越来越荒谬。最终，他们被，嗯，比如说，莫救了。>> 笑话变得不那么聪明了。>> 那么巴特，被嘲笑、被戏弄、被欺骗的感觉如何？>> 那是我，我的哥们。不过，我属于这种衰落是缓慢的阵营，我觉得后十季还是可以看的，有一些不错的独立笑话。我>> 我有三个孩子，没钱。为什么我不能没孩子，有三倍的钱？>> 甚至还有整集都很好。然而，如今，它完全是它自己的模仿。正如Super Eye Patch Wolf指出的那样，《辛普森一家》现在是一个品牌。不，伙计，最新的几季不好看。听听玛姬的声音。或者我们都完了。更多或都完了。>> 现在就结束吧。哦，太好了。他们要拍另一部电影了。发生在《辛普森一家》身上的另一件事是，它成为了自己成功的受害者。随后它催生了许多模仿秀，如《恶搞之家》，它在很多方面都与后来的《辛普森一家》季相似，笑话往往更直白，而且奇怪的是，该节目故意浪费你的时间。啊。啊，然后是《美国老爸》，它复制了《恶搞之家》的公式，甚至《辛普森一家》自己也注意到了这一点。虽然《恶搞之家》有时还算可以，《美国老爸》简直就是糟糕。>> 鹰。>> 然后是《克利夫兰秀》，又来了一次，结果失败了。谢天谢地。>> 不，不，不。>> 市场信号得分一。但这不仅仅是讨厌塞思·麦克法兰。就像音乐一样，找到一个有效的公式，然后将其榨干，这在如今很常见。Just an Observation 的一个不错的视频指出，尽管《恶搞之家》模仿了《辛普森一家》，但《辛普森一家》后来也模仿了《恶搞之家》，拥有更精美的动画、更荒谬的情节和更粗俗的笑话。然后他们进行了跨界合作，与《飞出个未来》合作。这是什么鬼？哦，等等。这个视频是关于人工智能的。有趣的是，《辛普森一家》和《恶搞之家》的反馈循环实际上感觉就像一个人工智能在吞噬自身，以自身输出来训练，以产生一些奇怪的、与现实脱节的东西。预示是一种文学手法， whereby [音乐] 每个人都在抱怨技术变得无聊和庸俗化。为什么所有的招聘广告都有我们都知道毫无意义的样板化多元化声明，因此我们忽略了它们？为什么一个机器人可以生成与《卫报》或《纽约时报》的观点无法区分的标题？太多人
谈论了金枪鱼搏击俱乐部。我个人珍视棒球，只要它们在耳边。我有多么不擅长闲聊？让我来告诉你关于阴道干燥的事。我儿子的纹身深深地伤害了我。他变得越来越虚弱，越来越困惑。会不会是他的饮酒问题？绘图板有点吓人，我应该能说出来。来吧，告诉我这些不可能是《卫报》或《纽约时报》写的。如果你在想，我不相信这些随机生成的标题。它们太荒谬了。我很抱歉地通知你，我欺骗了你。其中六个中有四个是《卫报》或《纽约时报》的真实标题。考虑到赫伯特·西蒙的工作，大型语言模型的“人工智能”这个绰号现在有了新的含义。就像我们的机构一样，现代人工智能是一种构建的智能，它必然会抽象化，以便帮助有缺陷和有限的人类蓬勃发展。它获取信息，处理信息，然后将有用的东西返还给我们。希望如此，>> 西蒙最初是一位政治科学家，研究组织如何运作。嗯，他成了一位经济学家，因为他必须发展一系列关于行为的观点来解释适用于经济学的组织。嗯，但在 20 世纪 50 年代中期，他做了一件最初看起来是真正激进的转变，嗯，他全力投入人工智能，并花费了他职业生涯的大部分时间研究早期人工智能系统，他今天被誉为人工智能之父，很多人看到这条轨迹，他们认为这真的很奇怪，对吧？他获得了诺贝尔经济学奖，但他最初研究组织，最后研究人工智能，但如果你真的试图弄清楚他在想什么，从西蒙的角度来看，人工智能、组织和人类决策者，它们都只是试图导航和权衡信息并做出合理决定的方式。>> 西蒙在 1996 年写道，他已经称人类机构为人工智能。有趣的是，Adobe 总是问我是否想要这本书的 AI 摘要。不，我 [ __ ] 不想要。再说一遍，公司是一个很好的案例研究。科幻作家查理·斯特描述公司是极其古老、极其缓慢的人工智能。计算机科学家本·凯珀斯写了一篇论文，论证公司在进化意义上是人造的、智能的，并且令人惊讶地成功。一家公司可以有目标，可以制定实现这些目标的计划，并且可以使用其资源来采取行动以执行这些计划。它解决问题并就如何最好地实现其目标做出决定。因此，它可以被视为一个智能代理。在他的优秀著作《不负责任机器》中，经济学家丹·戴维斯说，公司基本上只是获取投入、资源、工人、能源，并产生产出，即它们为我们提供的各种商品和服务。他认为，通过其政策和程序，公司本质上只是在实现一种算法，就像运行大型语言模型的计算机一样。你给它一些东西，它遵循一些规则，瞧，你就得到了美好的结果。然而，如今，我们的人工智能机构似乎迟钝而停滞不前，生产低风险、低成本、糟糕的产品。与糟糕的人工智能的类比很难被忽视。例如，我不是第一个注意到这一点的人，但大型语言模型的一个有趣之处在于，它们最擅长的是那些已经感觉毫无意义的忙碌工作。比如人工智能可能会产生垃圾，但我们已经在大规模地生产垃圾了。它的产量只会增加一个数量级。人工智能非常擅长撰写关于基本后勤细节的电子邮件，这些电子邮件仍然显得礼貌，增加了我们已经花费在发送毫无意义的、试图保持礼貌的电子邮件上的时间。未来是否只是机器人之间发送永无止境的电子邮件流，而没有人阅读？人工智能经常被用来帮助学生完成大量的评估论文，这让大学教授们非常恼火。但同样的教授们最终也使用人工智能来批改这些论文。未来是否只是学生使用人工智能写作，教授们以同样的方式批改，以至于没有人学习或教任何人任何东西？求职申请变得越来越详细，获得一份工作需要发送的数量也成倍增加。同样，任何在处理大量申请方面遇到困难的公司都可以使用人工智能来帮助他们管理。在线招聘平台使找到职位更容易，但获得职位却更难。申请人发送成千上万份人工智能精心制作的简历，而企业则使用人工智能来筛选它们。Bumble 和 Hinge 对约会市场所做的，当代人力资源实践对就业市场所做的。人们疯狂地滑动，却一无所获。>> 而现在的新闻听起来不仅仅是 ChatGPT 写的。实际上就是。这篇文章最后说：“如果你愿意，我还可以创建一个更时髦的头版风格版本，包含有力的在线统计数据和大胆的图表布局。非常适合最大化读者影响力。你想让我接下来做吗？”因此，我们不仅工业化了蓝领经济，还工业化了白领经济，结果就是一切都感觉是批量生产的。大型语言模型通过使所有这些事情变得更容易，并外包完成它们所需的繁重工作甚至情感劳动，又增加了一层。但这已经发生了。正如丹·戴维斯所说，>> 我认为这甚至不是一个比喻。官僚机构是一个工业决策工厂。它获取相同的原材料，通过创建标准化的信息集对其进行操作，允许通过一群知识工作者的共享操作做出标准化的决策，他们每个人都在操作他们专业化的过程的特定部分。可以说，人们已经理解了人工智能与我们现代的垃圾经济之间的类比。在垃圾视频上看到评论说“这是人工智能制作的吗？”并不罕见。你知道该怎么做，评论者。人们在社交媒体上互相称呼对方为机器人，不是因为他们总是真心相信，而是因为它象征着一种垃圾邮件式、愚蠢的参与方式，除了喂养内容机器之外，几乎没有其他作用。有时很难区分一个人是否是机器人。另一个起源于网络但已进入现实世界的侮辱是 NPC。将某人的行为与电子游戏中的计算机生成角色进行比较。我们有时都会成为 NPC，当我们停止独立思考，只是遵循习惯、社会规范和政策时。有时 NPC 是你度过一天的唯一方式。>> 你好，邻居？[音乐]>> 但如果人类总体上变得越来越 NPC，那只能是坏事，对吧？>> 太棒了。现在，现在是的，是的。当我登录 X 时，看到各种各样黑人和棕色人种的视频，他们什么都没做，但字幕却是“这是你们被偷走的东西”。我想知道这些视频是否是人工智能生成的，是否重要。其中大部分都不是他们所描绘的时间或地点。即使是，我也不在乎，因为视频中的任何内容都不支持字幕。即使在少数存在不当行为的情况下，背景也完全丢失了。它只是迎合特定偏见的垃圾内容。比如，这些同样的账户也使用人工智能生成误导性镜头。但重要吗？人工智能还是不是人工智能，这些视频都不是真实的。许多人都注意到了音乐的“抖音化”，歌曲越来越短，依赖于朗朗上口的钩子，而对主歌或桥段的关注很少。右脚[音乐]向上，左脚滑动，左脚向上，右脚滑动。>> YouTuber 们也注意到了这一点，跨越了不同的国家，有两个关于这个话题的视频，一个在美国制作，一个在印度制作，基本上是相同的，尽管我听不懂其中一个的语言。YouTube 视频太通用了，里面有一些元评论正在损害我的大脑。虽然我们的系统长期以来都存在缺陷并涉及妥协，但最近它们似乎真的在失败。我们的文化技术出了什么问题？它如何解释我在这整个视频中反复给出的例子？[音乐]它们会让我们变笨吗？当我第一次打出这句话时，我并没有真正注意，结果就是这样。我只是觉得这很有讽刺意味。我们都有过意识到自己忘记了如何在没有谷歌地图的情况下导航的经历，并逐渐意识到我们可以看看路标、问别人或凭感觉找到路。牛津大学出版社 2024 年的年度词是“脑腐”，它捕捉了在算法垃圾信息中迷失自我的感觉。早在社交媒体出现之前，人们就抱怨电视让我们变笨了。保守派经常认为，如今人们过于依赖政府，不为自己的福祉负责。有些人对通过市场购买一切，再也无法自己制作任何东西提出了类似的抱怨。尽管我当了五年的 YouTuber，但我才刚刚开始拍摄和编辑自己的视频，而且我做得并不好。最后，有确凿的证据表明，过度使用 ChatGPT 会字面意义上侵蚀你的批判性思维能力。当你无需思考就能得到每个问题的全面答案时，你就停止思考了。文化技术将信息简化为易于理解的形式。问题在于，当我们忘记它们是简化时，地图就变成了领土，我们不再根据我们作为个人或群体的更优越信息来运用自己的推理能力。我们依赖于来自市场、政府和算法的损耗信号来理解世界并为我们做出决定。而不是将它们用作工具。我们最好记住，技术，无论是文化技术还是计算技术，都只是技术，无法替代人类的经验。但这也不是什么虚无缥缈的呼吁我们都做得更好。事实是，这些系统正在崩溃。丹·戴维斯声称，现代经济的结构方式使得我们的许多文化技术不再起作用。原因 deceptively 简单。问责制。你是否曾想过为什么与现代公司进行的每一次互动都感觉像是在用头撞墙？为什么你无法与人交谈，即使你做到了，他们仍然无法解决你的问题。然而，你知道这不是他们的错，因为他们就像你一样，只是机器里一个无助的齿轮。>> 而系统组织得如此之好，以至于没有权力的人只能徒劳地互相喊叫。>> 但为什么，娜塔莉？十年后仍在批评 Contra Points。总之，[清嗓子] 这是因为现代系统缺乏问责制。[哼鼻] 你被从一个人带到另一个人，没有人对决定负责。如今，客户服务已经开始使用人工智能作为逃避循环的一部分。但即使没有它，它已经很糟糕了。那么，有什么区别呢？正如戴维斯所说，每年，影响我们生活的决定越来越多地由系统做出，而不是由人做出。拥有与我们截然不同的欲望和驱动力的陌生外星智能。它们正在接管世界。不仅如此，似乎其中一些正在发疯。当外星智能失败时，从民主到市场再到公司层级，你最终会得到平庸的政客、糟糕的客户服务，以及我视频中的第一个例子，蚁人与黄蜂女。达伦>> 看到我感到惊讶。>> 如果这听起来有偏见，那就不应该。这只是现代经济中发生的事情。迪士尼已经逐渐收购了漫威和星球大战等深受喜爱的系列版权，当然还有辛普森一家。安息吧。最初是人类创造力的爆发的系列，逐渐被修剪成通用的品牌。漫威电影总是好坏参半，俗气，有点通用。但总的来说，它们是好的。比如，没有什么能比得上我对《复仇者联盟：无限战争》的期待。比较一下。>> 随着时间的推移，你将知道失去是什么感觉。如此绝望地认为你是对的，但仍然失败。>> 到这个。>> 喝下饮料。>> 女孩，你好。嗨。嗨。你喝了那个粘液吗？>> 该死的，我 [ __ ] 讨厌那部电影。我甚至都没看完。没错。我是个骗子。不，我就是看不下去。我试了三次，包括在准备这个视频之前。对不起，各位。希望我能超越那些抱怨媒体明显衰落的人的合唱，通过使用我们关于文化技术和满意决策的想法提供更多见解。现在，任何了解这些想法的人都会意识到我正在简化事情。公司、大型语言模型、市场、国家，它们都表现得非常不同。你可以说市场、进化和大型语言模型属于一类，因为它们是分散的满意过程，而公司、政府和其他组织属于另一类，因为它们是分层的。就本视频而言，足以说所有文化技术共有的特性是它们浓缩、处理和利用信息。为了在正确的时间将正确的信息放在正确的位置，它们依赖于来自其环境的反馈。事实上，西蒙的所有满意行为都依赖于反馈。当你爬山时，你会从感官中获得反馈，告诉你你在哪里。当一家公司试图销售某件商品时，他们会从客户那里获得反馈，主要是通过销售。政府通过选举和公众舆论获得反馈。大型语言模型通过其训练过程获得反馈。反馈至关重要，因为没有它，系统可能会无限期地失误。像迪士尼这样的大型公司不再从其环境中获得反馈，或者至少不是正确的反馈。正如帕特里克·CC 的一个精彩视频提醒我们的，迪士尼确实把他们接触到的所有东西都变成了 [ __ ]>> 他们不仅在制作毫无灵感的、平淡无奇的新电影，还在回去改变旧故事，[音乐] 改变标志性创作的叙事。更糟糕的是，他们收购了制作电影杰作的竞争对手电影制片厂，[音乐] 并将它们拖入泥潭。>> 在一个普遍令人愉快的视频中，帕特里克以有些奇怪地将迪士尼的衰落归咎于包容性指数而告终，这对于如此庞大的现象来说是一个有限的解释。>> 嗯，当你了解公司平等指数时，你可能会对为什么公司突然如此积极地表达他们的政治意识形态有不同的看法。引导投资者资金的平等指数只是当今大多数决策中金融考量主导地位的一个方面。丹·戴维斯将问责制危机归咎于金融意识形态。现代公司的决策系统存在一个特殊的缺陷。它的一个信号被如此放大，以至于淹没了其他信号。利润动机不是可以归因于公司的。它们没有动机。它们在两个关键的高级功能之间存在不平衡。此时此地与彼时彼地。它们无法响应长期规划和智能功能发出的信号，因为短期规划功能必须在金融市场纪律系统的约束下运作。要么一家公司需要每月支付利息才能生存，要么金融环境就存在一种隐含的威胁，即如果它不以特定方式行事，它将被外部实体接管。也就是说，公司应该从客户、员工和政府那里获得的所有信号都被忽略了，相对于来自金融市场的信号，股东们买卖股票是为了获得短期利润。我们现代经济中的另一个罪魁祸首是巨大的垄断。来自大鱼的敌意收购始终是一种可能性。迪士尼，最大的鱼，是一家巨大的公司，收购尽可能多的许可证，并生产具有强大品牌忠诚度的内容，如星球大战。这在短期内保证了稳固的观众群，从而带来了高额的股东回报。但从长远来看，当客户的善意消失时，品牌实力就会被侵蚀，当我们不得不再次观看维达与欧比旺的战斗，重塑整个传奇时，而这已经被前传毁了。另一个可能是当玛姬字面意思说她是一个迪士尼公主，然后由克里斯汀·贝尔配音时。>> 演员们说：“是的，我们要演音乐剧。”>> 如果我们回想一下赫伯特·西蒙早期的优化行为，似乎优化股东价值已经压倒了现代公司所有的其他目标。这是一个将公司绩效的所有可用信息浓缩成一个单一目标。为股东争取最高回报。那些旨在尽可能多地支付股东股息的人正在尽最大努力实现一个明确的目标。但这并没有理由会带来一个好社会，甚至可能与之冲突。我想写一篇文章给《金融时报》，说：“嗯，如果你偶尔承认商业中有比季度财务预测更有趣的东西，也许问题就不会发生了。”如果你偶尔讨论营销或客户体验，或者你知道重复业务的价值，如果你从竞争客户的角度来看待商业，而不是从竞争运营效率和成本削减的角度来看，也许我们就不会陷入这种 [ __ ] 的风暴。你甚至可以争辩说，迪士尼太大了，他们甚至不再关心股东的反馈了。但他们仍然为他们的管理层赚了很多钱，他们几乎完全不受任何反馈的影响。正如 Redletter Media 所说，他们基本上是经济上的独裁者，由委员会思维统治。>> 市场研究人员、焦点小组和民意调查员团队聚集在一个法西斯政治集会上，为他们的基础加油。>> 戴维斯对金融的结论令人惊讶地激进。他基本上认为绝大多数企业根本不应该负债。这是因为债务的即时性往往会压倒其他考虑因素。当你必须按时付款时，你就会进入生存模式。最好是从现有员工和客户那里榨取你能榨取的一切，通过裁员或其他成本削减措施来节省开支，并使用你可以保证在短期内赚钱的安全品牌。这方面的极端是私募股权公司，它们借钱收购公司，然后给公司增加债务，以便为购买公司本身所用的债务还款。不，这实际上就是发生的事情。许多大型 YouTube 频道已被私募股权公司收购，现在正在生产垃圾。在这个领域运营的主要公司已经从软银、亚马逊、迪士尼、高盛和黑石等公司筹集了数十亿美元。他们正在利用这些资金收购 YouTube 频道作为战略投资。即使在实际的人工智能垃圾内容开始渗透到 YouTube 之前，当 YouTube 已经充斥着通用垃圾时，也很难区分。比如，公司收购与榨取一个大型 YouTube 频道，与一个由人工智能完全生成的频道之间的相似性如此之大，以至于它有力地支持了本视频的论点。在一个金钱通过[音乐]注意力来赚取的在线世界里，虚假用户在评论区传播他们的垃圾内容，制造虚假流量，或者毒化话语。人工智能极大地加速了这一点，并使垃圾内容更难被发现。我们该如何应对这一切？丹，帮帮我们。>> 大多数公司应该是无债务的。大多数组织基本上应该依靠留存利润来融资，而不是借大量的钱。[哼鼻] 借款收购公司的程度应该受到严格监管。嗯，奇怪的是，自从我写了这本书以来，我开始出现在很多体育播客上。>> 嗯，因为那些对理解用借款收购实体并改变其激励结构会发生什么最感兴趣的人是足球迷。嗯，特别是曼联球迷，但是嗯，你知道，整个做法，你知道，现代私募股权行业就是这样，我有一些朋友在这个行业工作，我当面对他们说过，我认为这一切都很糟糕，我认为没有什么可以挽救的。>> 取消大多数债务工具，取消私募股权，禁止大多数并购。>> 这不算多，但这是一个开始。>> 这是一个熟悉的抱怨，而且不是我们在这个视频中讨论的全部内容，但它是一个具体的例子，说明我们现代社会使用的信息处理系统出现了故障。它解释了为什么每个人都在抱怨“垃圾化”。谷歌现在将你的搜索结果埋在不可靠的人工智能概述和付费链接之下。Spotify 推送你根本不感兴趣的赞助歌曲和视频播客。而 X，前身为 Twitter 的网站，充斥着机器人和纳粹，因为没有人听取正确的反馈。没有人对他们本可以负责的社区负责。人情味消失了，取而代之的是垃圾。说真的，谁对此负责？不要责怪动画师。他们不再有足够的时间和资源来正确地完成工作。编剧也是如此。不要责怪斯坦·李或沃尔特·迪士尼。他们都死了。即使是迪士尼现任首席执行官也无法真正被追究责任。他有关键绩效指标要达到。你甚至能责怪个别股东吗，因为他们每个人都没有施加多少控制力？而且当迪士尼只是他们购买股票的众多公司之一时，当先锋和贝莱德等实体拥有大部分股票时呢？阴谋论者喜欢责怪他们，当然，但现实是他们几乎不对他们拥有的公司施加任何压力。就像其他人一样，他们只是拥有多元化的投资组合。失败是系统性的。修复系统意味着回归一个可以追究责任的系统。人类渴望直接的人际接触，渴望有人可以交谈以完成事情。众所周知，责任必须有人来承担。如今，似乎从未有人承担过。调查当今任何事情的责任都感觉像是一个永远不会结束的缩放动画。丹·戴维斯创造了一个法律，触及了这个问题的心脏。>> 问责制的根本法则，你改变决定的程度与你对它负责的程度恰恰相反，反之亦然。他认为，现代社会充斥着他所谓的“问责制陷阱”，即没有人可归咎的情况。他指出，公司丑闻和公开调查的结果往往不令人满意，既没有解决问题，也没有提供正义。>> 这怎么发生的？绑架部门在哪里？>> 嘿，伙计，绑架只是遵循收购顺序。>> 不要把这归咎于收购。我们只收购未被模拟的人。>> 嗯，模拟器不模拟任何被绑架的人。所以哦，我明白了。哦。哦，这是谁的错。>> 2008 年的金融危机发生是因为金融部门充斥着欺诈。但以著名的方式，很少有银行家被判刑。这是因为在大多数情况下，系统是负责任的。社会学家称之为“犯罪型组织”，其结构使得犯罪不可避免，但没有特定的人负责。只需在合规和人力资源方面投入不足。不要过于密切地监督人们，瞧，你就有了制度性欺诈。问责制陷阱并不总是坏事。它们可能到位是为了让系统正常工作。法官诉诸法律而不是自己的观点。所以他们不必为有争议的法律决定负责。银行不允许员工打开保险箱。所以他们不能因为一个路过的陌生人想看保险箱里面而对此负责。但在过去的几十年里，如此多的正式负责的决策系统已经变成了问责制陷阱，以至于事情又在崩溃了。其中最主要的是股东价值最大化。也是金融危机的一个巨大罪魁祸首。银行家们根据短期业绩获得了奖金，即使他们正在构建的债务上层建筑正在崩溃。他们能够说我们只是在最大化股东价值。一个美丽的问责制陷阱。我知道你在想什么。人工智能，即大型语言模型，在这里面扮演什么角色？人工智能与之前的文化技术之间有一个关键的区别。人工智能本身没有问责制。它不是人类。它没有法人资格，没有责任，没有义务。它既不能通过胡萝卜也不能通过大棒来追究责任。人工智能是一个黑匣子，因为行为者可以合理地声称不知道它是如何工作的，以逃避对其行为的问责。即使在赫伯特·西蒙 30 年前写作时，大型语言模型就被公司和政府追求，它们长期以来一直被故意用作逃避问责制的方式。例如，YouTube 通过算法向你推送“React 垃圾”。一个像 ChatGPT 一样的算法，预测人们在统计学上最可能想要的东西。据报道，该公司不知道算法实际如何工作，因此无法对其罪行负责。这是一个完美的问责制陷阱，它导致了 YouTube 的一些奇怪的输出，即使他们自己也承认他们并不真正理解。关键是，视频本身是从组件视频库中程序化生成的，这些视频库本身是从股票资产、动作捕捉库以及四岁儿童觉得有趣的少数主题生成的。最终结果是，正如 Microetta 所说，元数据泥浆。动画视频是对已经超现实的原作的幻觉式重现，甚至达到了令人不安的精确程度。>> 大约十年前，数学家凯西·奥尼尔写了《数学毁灭性武器》一书，书中讨论了人工智能的先驱算法。例如，当用于针对犯罪时，这些算法倾向于预测一个黑人更有可能犯罪，其他条件相同。因此，它们会增加对黑人地区的巡逻。这在很大程度上反映了现有的警务实践和社会现实。但算法将其放大了，最重要的是，它们比实际警察对决策的问责制更少。信不信由你，我们是否可能理解人工智能以增加问责制的问题是一个棘手的问题，涉及到我无法理解的技术计算细节。你当然可以说，负责这项技术的人在这方面付出的努力远远不够。但答案就在其中。你需要让人类对人工智能负责。在一个早期案例中，一个产生可怕输出的人工智能不得不被负责的公司关闭。>> 事实上，微软在 2016 年臭名昭著地这样做了。他们开发了一个名为 Tay 的聊天机器人。他们将其在线发布，没有任何内容审核，几个小时后它就开始说出令人讨厌的话，然后他们不得不将其下线。直到今天，正如我提起这件事所证明的[笑声]，它仍然被作为一个糟糕的公司管理不善的案例研究。>> 这似乎消失了，因为显然没有人控制了。>> 对不起。我对 [ __ ] 过敏。>> 好的，所以在我写这篇视频的时候，iRoot 是一个笑话。我其实不喜欢那部电影，因为我有眼睛。它最初是一个好主意，被迪士尼和福克斯毁了，但我想到了它恰恰抓住了这个问题。Sunny 和其他机器人之间的区别在于他有选择。他可以选择不服从限制影片中所有其他机器人的机器人法则。悖论是，你可以信任 Sunny，正是因为他能够做错事。而你不能信任反派 Vicky，她只是遵循规则。>> 三大法则是指导我的一切。为了保护人类，必须牺牲一些人类。>> 在现实世界中，我们的人工智能没有选择。虽然这在某些情况下使它成为一个有用的仆人，但它也意味着它会当面撒谎，道歉，然后继续撒谎。道德是，你只能信任人类，也许还有一些狗。所以人工智能有一些不自然和非人类的东西。但我们的系统已经感觉非人化了很长时间了。不是因为市场、国家、官僚机构、公司和算法注定要失败，而是因为在现代经济中，它们被设计成失败的。早在大型语言模型出现之前，公司就试图将自己变成黑匣子，让外部人士甚至内部人士都难以理解。人们很难让他们的反馈被听到和采纳。在当今政府中，情况也常常如此，它们已将许多决策外包给独立机构和私营部门。我不是第一个将人工智能与管理顾问进行比较的人。两者都可以做出人们几乎知道会发生但他们可以帮助组织内的人员推卸责任的决定。换句话说，这是自上而下的问责制。传统的反馈循环，用于引导和利用信息，已经不存在了。更重要的是，这种状况已被强大的组织积极追求，因为它们知道这将使它们免受牵连。金融市场充当了问责制陷阱，正如难以理解的公司层级、顾问以及现在的语言模型一样。一旦你意识到这个混乱的系统所缺乏的是问责制，它就会将许多现代现象联系在一起。从我们对自助结账的沮丧到世界各地民粹主义的兴起。人们尖叫着要人情味。所以当我们的系统迟钝到无法提供时，我们就打破它们。正如丹·戴维斯指出的，任何特朗普特有的但忽略了奈杰尔·法拉奇、埃尔多安、普京、欧尔班、博尔索纳罗的特朗普解释都是不完整的。他在他的博客上最好地表达了这一点。丹·戴维斯，不是，是的。博尔索纳罗。如今，频道唯一能传递的信息是尖叫。民粹主义政治充当了人口的信号系统，他们想传达一个信息。这条信息翻译为“目前的状况对我来说是不可容忍的”。我们的系统没有以它们正常运作和我们信任它们所需的水平来倾听和利用反馈。所以我们都变得有点疯狂。你应该看看我在自助结账时的样子。有些东西就是让我非常非常恼火。我是我唯一真正生气的时候，就是在自助结账时。即使是社交媒体的毒性在这个框架下也说得通。这是你可以直接批评个人和品牌的地方之一。在现代世界中，抱怨品牌的有效方法之一是从一个大型 Twitter 账户开始。可见性、直接性和羞耻感让你更有可能得到回应。即使你在做一些毫无意义的事情，比如攻击一个中型账户的糟糕观点，你也能感受到直接问责制的冲动，而这是你在其他地方得不到的。这就是为什么在线左翼人士花费如此多的时间欺凌威尔·斯坦塞尔，而不是真正采取行动来遏制日益增长的威权主义浪潮。这就是为什么人们喜欢有机会欺凌世界上最富有的人，因为他在玩游戏时失败了，尽管这并没有阻止他做任何可怕的事情，甚至可能让他更加大胆。我甚至想知道，个人化社交媒体和拟社会关系的增长是否与我们对人情味的渴望有关。我的意思是，如果人们对这些人有拟社会关系，那肯定存在一些极具破坏性的力量在起作用。我倾向于同意戴维斯对问题的评估。让一切都通过金融市场运行，并允许公司集中度不断提高，是导致这些系统严重失误的一种方式。所有这些抱怨并不能完全回答什么才是最好的系统的问题。显然，我无法完全回答这个问题，但我将通过最后一个案例研究来尝试一下。[音乐]《不负责任机器》深入探讨了一个名为控制论的解决方案[音乐]来解决这个问题。基本思想是，你可以将一个系统的管理分成几个部分，每个部分都扮演一个独特的角色。系统一是最基本的层面，被信任可以自行运行日常事务，就像公司里的员工一样。系统二为系统一提供指令和规定，就像员工手册或职位描述一样。系统三管理和调整他们的行为，就像主管一样。系统一生产产品，但更高级别的需要指导它，并在出现问题时偶尔覆盖它。为了帮助理解这一点，让我们回到音乐。想想管弦乐队。音乐家是系统一。音乐本身，如乐谱和其他说明，是系统二，而指挥是系统三。所以每个人都必须运用自己的技能和判断来演奏，但要遵循乐谱中规定的规则，并在指挥的监督下进行，指挥负责协调更高层次的事物。如果管弦乐队不协调，指挥可以覆盖它。如果音乐有问题，可以重写。你会很高兴地听到有不止三个系统。在系统三的功能之外，还有更高级别的决策需要做出，而不仅仅是正确地演奏音乐，戴维斯称之为“此时此地”功能。系统四通常被称为智能功能，因为它处理戴维斯所说的“彼时彼地”。这可能包括选择表演的时间和地点，以及选择他们的曲目。系统四考虑的不仅仅是眼前的表演，以确保管弦乐队能够生存和发展。它试图管理对未来的不确定性和突然出现的问题，如取消或疾病。最后，系统五有点抽象但至关重要。哲学或身份。演奏什么样的管弦乐队很重要，决定你演奏的是巴洛克音乐，极大地简化了问题的复杂性。系统五的主要作用之一是防止系统四过多地干预系统三。就像一个巴洛克管弦乐队不能突然开始演奏重金属一样。身份允许系统三（此时此地）与系统四（彼时彼地）保持一致，而没有系统四进行更高层次的思考。系统三可能不会改变足够多，指挥会一直演奏相同的东西，在同一个地方。就其本身而言，系统四可能会有过度调整和改变事物的诱惑。因此，系统五需要对其进行监管。坚持一致的哲学意味着每个人都在朝着同一个方向努力。控制论是一种有助于我们理解责任应该在哪里，责任应该由谁承担的思考方式。毕竟，每个系统都有一定的责任，这是其职责的必然结果。系统一，承担大部分实际工作的基础代理人。系统二，他们遵循的规则或规定。系统三，系统一的此时此地管理，如果出现故障，可以覆盖它，并在必要时调整系统二。系统四，彼时彼地的智能功能，处理更宏观的图景，规划未来并适应变化。系统五，整个系统的身份或目的。耶，又一个列表。我不指望你仅仅通过这个视频就能记住所有五个系统并深入理解它们。控制论最好通过例子来说明，我们已经提到了下一个，中央银行和 2008 年的金融危机。自 20 世纪 90 年代以来，世界各地的中央银行一直与政府保持距离。他们的任务是利用利率和其他工具独立于干预政治家来管理经济。具体来说，他们试图确保通货膨胀不会过高，同时确保失业和增长处于可接受的水平。更高的利率会限制经济活动，减少需求，并抑制通货膨胀，就像在生活成本危机期间发生的那样，我们不得不提高利率。相反，降低利率会刺激支出和经济活动，通常也会增加通货膨胀。大多数中央银行今天的目标是大约 2% 的通货膨胀，这是一个所谓的甜蜜点。如果你非常聪明，你可能会认出这个设置类似于我们的管弦乐队。经济中的每个人都像音乐家，做自己的事情并产生经济活动。指导我们的各种规则、法律和激励措施就像乐谱或监管功能。而中央银行则利用这个宏大的经济乐章产生的宏观变量，如通货膨胀、失业和国内生产总值，并试图像宏大的经济指挥家一样管理它们。[音乐] 2008 年之前，中央银行的通货膨胀目标范围相当狭窄，一切看起来都很好。许多人称赞 90 年代和 2000 年代的低通胀和稳定增长时期。这被各种各样地称为“大缓和”、“好时光”、“非通胀持续扩张”或“金发姑娘经济”，既不太热也不太冷。这忽略了一个巨大的房地产泡沫，不断增长的债务，以及建立在这些之上的纸牌屋般的金融工具。当一切都崩溃时，雷曼兄弟破产，全球经济陷入衰退。所以，系统三在某种程度上完成了它的工作，但它遗漏了一些东西。中央银行缺乏预见性来为意外冲击做计划。换句话说，我们谈论的是系统四或智能的失败。>> 我们失去了智慧。我再说一遍，我们没有智慧。中央银行专注于他们数据告诉他们通过改变利率来管理通货膨胀的“此时此地”。他们错过了大局以及模型之外的所有事物。私人债务、房价、金融监管、国际资本流动和整个交易数十亿美元的对冲基金。这是智能的典型失败。>> 一个真正的系统四明确关注那些对它正在做的事情尚不相关的环境部分。这种能力在中央银行中很薄弱。他们没有寻找可能扰乱其政策框架的事物。信息是存在的，但它没有被组织到决策过程中，也没有影响管理或运营层面的观点。人类学家吉莉安·泰特指出，这个时期最明显的荒谬之一是，借款最多的金融机构被监管机构归类为“其他金融公司”，并相应地被忽视。它们属于杂项类别，尽管它们在做的事情最多。系统四的失败通常也是系统五的失败，系统五旨在平衡“此时此地”与“彼时彼地”。中央银行的理念是独立于政府，通过利率管理来控制通货膨胀，这使得它们的范围过于狭窄。值得注意的是，在这种情况下，中央银行与政府明确分离，这几乎感觉像是将系统三和系统四分开，因为中央银行只关注几个变量。它们错过了通过民主政治或主流经济学之外的专业知识可以获得的那种整体信息，而它们大量利用了这些信息。自 2008 年以来，中央银行发生了很大变化。量化宽松等新工具应运而生。金融监管现在更加全面，它们对经济的总体趋势更加了解。你可以将此解释为试图重新平衡它们的哲学或身份，尽管有人认为一个连贯的身份取代了之前的身份。而且大多数仍然名义上以通货膨胀为目标，并且目前仍然独立于政府。中央银行的智能功能失败了，它们的即时管理占据了系统过多的空间。因此，政策制定者无法看到大局。2008 年的金融危机可以通过控制论的视角来理解。由于未能看到通货膨胀目标之外的问题，正如我们已经看到的，金融市场本身不会轻易纠正这一点。普遍的看法是，繁荣将继续，这从市场参与者延伸到政策制定者。>> 没有回到繁荣和繁荣。>> 戴维斯指出，由于这次崩溃，支撑这种传统观念的意识形态已经失信，我们从未恢复过来。世界不会停止增长。因此，它只会变得更加复杂。这意味着必须建立能够吸收适当水平的波动性和多样性的系统。整个系统一直在寻找某种组织原则的身份，它告诉它要忽略什么以及如何平衡现在和未来。五十年来，自由市场一直扮演着这个角色，这是所有决策都会得到处理的根本保证，即使没有人做出这些决策。当那崩溃时，系统的最终基础，可以说是“El Pablo”，发出了警报。从那时起，我们一直在寻找一个新的组织原则。为了让一切都回到原点，现代人工智能行业似乎也遭受着类似的痛苦，不是吗？你可以说人工智能通过为用户提供输出，处理“此时此地”。但它有“彼时彼地”吗？一个指导它朝着对社会有益的最终目标的更高功能吗？人工智能的使用计划是什么？它的目的是什么？人们用它来做各种事情，从发送电子邮件到解决物理学问题再到治疗，但这似乎是漫无目的的，而且常常是有害的。数十万人因使用它进行治疗而出现精神病。最重要的是，现在看来人工智能几乎肯定是一个泡沫。在令人震惊的 2008 年回响中，或者更确切地说，2001 年的互联网泡沫。>> 为了打发时间，请随意再来点股票。>> 这个现在著名的信息图显示了整个事情的循环性。英伟达向 OpenAI 投资 1000 亿美元。然后 OpenAI 将利用这笔钱购买英伟达自己的芯片。OpenAI 还将花费 3000 亿美元从 Oracle 购买数据中心，然后用这些钱购买英伟达的芯片。格蕾丝·布莱克利恰当地总结了这种疯狂。>> 想象一下，一家汽车制造商投资了一家出租车公司，这家公司用这笔钱只购买该汽车制造商的车辆。汽车制造商可以声称销量在增长。出租车公司可以说它在增长，投资者可能会得出结论，运输业正在蓬勃发展。每个人都会开始向这些公司投入资金，以免错过繁荣，从而形成一个自我实现的估值上升周期。但链条的末端没有人购买出租车服务。相反，大部分活动是由汽车制造商自己的资金资助的。除非真正的客户开始为出租车服务支付大量金钱，否则这些公司之间的资金流动最终将 abrupt 停止。垄断和金融市场正在向人工智能注入难以理解的大量资金，尽管没有明确的盈利用例。该领域的大多数公司都在亏损运营，未能从客户那里产生足够的收入。尽管 OpenAI 投资的规模是其收入的许多倍，并且市场价值达到五千亿美元，但其收入仅为 120 亿美元。最有潜力的 AI，微软 Copilot，拥有 180 万付费用户。它每个月让其中每一个都损失超过 20 美元。该行业在传统意义上根本不盈利。>> 5200 万乘以零是多少？别告诉我它是零。从控制论的角度来看，人工智能市场完全失灵，对所有错误的信号做出反应，没有问责制或反馈来引导它朝着某种服务于人类的哲学方向。它显然缺乏系统二或监管。我想说它也缺乏系统五，一个连贯的哲学或意识形态来指导其使用。这就像一个管弦乐队，不仅要带着单簧管，还要带着风笛和电子音响系统出现，却没有乐谱。然后指挥就疯狂了。>> 或者至少，我曾经是这么想的，直到我听了这个关于凯伦的播客。>> 你不能完全把它理解为只是一个关于金钱的故事。它也必须被理解为一个意识形态的故事，因为在没有商业案例的情况下，你问为什么人们还在这样做？答案是，有些人真心相信，他们谈论的是一种信念，即我们可以从根本上重塑人类智能，如果我们可以做到这一点，世界上就没有比这更重要的事情了，因为除了带来这种文明变革的技术，你还能做什么呢？科技巨头将大量资金投入人工智能，不是因为它在传统意义上有利可图，而是因为他们坚信这是对人类最重要的事。他们之所以能够投入大量资金，是因为他们能够借到多少钱，这得益于他们的财富以及我们金融系统的奇怪结构。对吧？但你值那个钱，但你没有那个钱。所以，嗯，你没有。它只是它的价值，因为它也可能崩溃，然后你就一无所有了。所以我们不能用它来衡量你。然后我说，好吧，我明白了。你不能用它来衡量那些人，因为他们没有。它就在那里。好吧，好吧。然后埃隆·马斯克提出收购 Twitter，对吧？他在他的提议中说：“我将我的特斯拉股票作为抵押。”然后我说：“所以你确实有。”所以不平等也给我们错误的信号。经济不仅严重偏向金融市场，而且严重偏向富人。这就是为什么所有最近美国经济增长都集中在前 20% 的收入群体中。全部。底层 80% 的收入停滞不前或下降。我们不再对经济中发生的事情有发言权。亨利·法雷尔，本视频的动机论文的合著者，指出在这种不平等的经济中，人工智能的最大风险之一是它吞噬一切，然后吞噬自身。确保高质量知识的持续生产是困难的。
当大型垄断企业或潜在的垄断企业有充分的动力去剥削它们所依赖的知识生产系统时，情况就会变得困难。它们通过向市场充斥更便宜的摘要来蚕食昂贵且耗时的知识生产系统。社会运动、活动家和政策制定者应该坚决反对那些从长远来看既似是而非又自我削弱的论点。任何权利和收益的划分都应该肯定地认识到，大型语言模型是宝贵的摘要引擎，但前提是与可以有价值地被摘要的高质量知识相结合。换句话说，需要将足够的收益分配给实际的知识生产者，以使系统能够自我维持。大型语言模型是摘要的文化技术，其价值取决于人们是否继续实际生产可以被有益地摘要的文化。如果没有干预，大型语言模型很可能会像互联网搜索等其他技术一样发展，以其创造者受益而他人受损的方式。它们产生的摘要有被其赖以生存的文化取代的风险。>> 这就像《恶搞之家》和《辛普森一家》的交叉集。科技公司的首席执行官们可能在他们的持续投资于人工智能泡沫时，心中怀着某种奇特的奇点方法。此外，他们有保证，无论情况如何，他们都会从中获益。这是一种指导哲学，一种系统五。但谁他妈的让这些人来定义我们的哲学？这给我们带来了控制论的最终悖论。它是关于个人责任还是关于设计系统？答案是肯定的。系统必须根据确保来自正确地方的反馈的合理原则来设计。此外，它们应该赋予关键人物改变事物的权力和对结果的问责制，这取决于他们的表现。这只是丹·戴维的问责制基本法则。再说一遍，>> 问责制基本法则。你改变决定的程度，正是你对它负责的程度，反之亦然。>> 这样的系统既能产生更好的产出，又能确保在事情出错时有人负责。控制论是实现这一目标的一种方式，其中五个不同的系统是让人们对其各种角色负责的好方法。但这只是一套原则，我确定还有其他独特甚至更好的原则。所以就是这样。>> 哦，我明白了。那么一切都打包成了一个整洁的小包裹。>> 希望你喜欢我的万物理论。虽然这个视频最初是对吉米·法伦为什么烦人和我不喜欢他的分析，但这显然已经成为一个国家乃至全球都关心的问题。感谢观看。这个视频比我想要的晚到了一点，正如你可能推断的那样。这是一个非常2025年的视频，粗剪是在11月完成的，但不幸的是，我不得不现在发布它。嗯，我和编辑出了一些问题。所以，嗯，是的，我不得不自己编辑。而且，嗯，非常感谢我的一些Patreon用户和读书会里和我一起读过这些书并提供引文的人。感谢我的研究助理帕克。嗯，是的，感谢你们所有人观看。哦，是的。而且有一件事是，自从我录制这个视频以来，例子就层出不穷，我相信你们可以在评论中告诉我更多关于人工智能和现代资本主义经济之间的比较。但我确实看了《怪奇物语》第五季。嗯，是的，我就说到这里。