Transcription
早上好。我越来越觉得，作为一个物种，我们正经历一场慢动作的悲剧，我最大的希望是，通过在这个平台上进行的“大简化”工作，我们可以帮助观众以改变默认路径的方式，参与到正在发生的、超越人类的困境中。不是为了保留我们所知的世界，而是为了让一个更好的世界能够出现，尽管面临着无数的挑战。这需要知识、理解、勇气和各种干预措施。但在此之前，它要求我们在个体人类的层面上拥有自主权。但我认为，在实际的自主权之前，是拥有自主权的感觉，而我认为，我们大多数人越来越不具备这种感觉，而这种缺乏自主权以及在代谢经济超级有机体面前该如何应对的一些建议，将是本周的话题，因为我一直在思考这个问题。但后来我进一步思考，我认为我需要先强调一个前传。一些我在自己生活中注意到的事情。鉴于你们中的许多人，顾名思义，是在线观看此视频，在YouTube上观看，我猜你们有两个，或者至少在某种押韵的意义上。我现在早上会打开手机。希望在我应该做的、醒来后进行的12分钟大象路径冥想之后。当我打开手机时，我发现无休止的新闻头条、帖子、剪辑、图表和热门观点以及反热门观点，它们自信地解释着今天发生的事情、原因以及影响。然而，我越来越觉得，在沉浸其中之后，我实际上感到的是迷失方向，而不是我所寻求的清晰或顿悟。我对此非常担心。是的。一直以来，信息量都远远超过任何一个人能够处理和掌握的。但现在正在发生变化，而且在我看来，即将发生巨大的变化，是的，因为人工智能和算法，我们所能获得的信息的速度和规模。我敢说，甚至被推广给我们的信息。我们正处于一个时期，并将进入一个新的时期。我预计，对于那些拥有扎实基础知识并了解如何使用大型语言模型的人来说，他们实际上会增加真正的信号。知识、整合、理解事物。但与此同时，对于绝大多数普通人来说，内容的激增，噪音将远远超过实际信号的增加，内容洪流如此之大，以至于许多在线访问媒体的人会感到自己在溺水。而新的人工智能系统使得生成文本、故事、叙事和连贯的词语串变得极其便宜。如果你还记得，我曾多次说过，这也在我们的书中，对于大学生来说，人类的心灵可以想象出比现实世界中存在的句子和词语组合多出数百万倍的句子和词语组合。而现在，人工智能将以加倍的力度来颠覆这一点，与人类合作。它们将以前所未有的规模，快速而自信地生成摘要、精炼的论点、解释和答案。所有这些都带着一种能力和权威的语气。当然，还会有对他人的作品的总结，以及对总结的总结。我猜用不了多久，即使在这个频道上只有少数关注者，也会有人发布由人工智能图形和其他东西制作的我的独白摘要。我不知道。因此，潜在的知识或声称是知识的事物的宇宙即将爆炸，而这实际上还没有开始。如图所示，每个立方体代表320万人，一个红色的方块代表正在编码或进行“vibe coding”的人。黄色的立方体是那些每月支付20美元使用高级大型语言模型的人。绿色的是那些使用免费聊天机器人的人。所以，这是人工智能赋能内容管道的非常早期的阶段。这些系统可以在两秒钟内写出令人着迷且诙谐的段落，但这与深思熟虑、有益甚至准确地指导我们周围世界的写作是截然不同的。因此，我认为即将到来的巨变是，稀缺资源将不再是内容或信息。稀缺资源将是真实性、判断力以及辨别什么是基于事实、基于现实的能力。
所以，退一步说，我这周突然意识到，这种地质构造般的转变。我们在物理世界中已经看到过一次了，那就是我们的食物系统，然后是我们的身体健康和营养。我们已经完全重新设计了我们的食物系统，放弃了高质量的土壤和营养丰富的原材料，转而使用合成肥料和为保质期和诱人味道而设计的食品。我可以详细介绍这一点，但总而言之，食物系统的每个部分都受到了影响。就像人工智能在能源消耗方面非常昂贵一样，我们使用大约12到14卡路里的化石燃料来提供一卡路里的工业化食品到餐桌上。这种化石燃料驱动的食物系统扩张，在生产的全球卡路里总量和我们能养活多少人方面，确实带来了巨大的丰富。但如果我们看下一层，它却产生了令人费解的结果。目前，全世界有近30亿人肥胖，近10亿人营养不良。在许多地方，包括我的国家美国，我们有的人同时被过度喂养和营养不良。大约一半的饱受营养不良困扰的家庭中，至少有一个人超重或肥胖。因此，一个人完全可能在卡路里充足的情况下，仍然缺乏构建身体所需的维生素和矿物质。所以，由于化石燃料，我们同时面临肥胖和营养缺乏。这种悖论就像经济超级有机体的其他许多“支出钻头”一样出现了，因为我们的系统优化了它能够更好地扩展和货币化的东西：更高的产量、便利性、利润率以及对我们进化出的味蕾的超常的适口性。事实上，而且我仍然觉得这令人沮丧，绝大多数现代食品根本不是为了滋养我们而设计的。它们被设计成令人上瘾的，我指的是字面意义上的，这样它们就能持续盈利。如果你想了解更多关于这方面的信息，请查看我几年前的播客节目，与罗伯特·卢斯蒂格的对话。好的，这是我今天主要观点的背景。其中一个观点是，我认为人工智能将像化石燃料对我们的身体生活一样，对我们的认知生活产生类似的影响。人工智能将信息生产工业化，就像工业农业将食品工业化一样。它使得生产一种感觉像营养的东西，尝起来像更好的理解，并且也奖励我们渴望确定性和新奇感的回路变得如此便宜。是的，便宜和丰富即将大量涌现，但重要的和昂贵的部分不会自动随之而来。昂贵的部分是测量、采购、专业知识、问责制，而这些昂贵的部分是将词语与我们的世界、与现实联系起来的东西。
因此，延续了始于互联网并因社交媒体而得到加强的趋势，我们现在冒着在人工智能和大型语言模型的加持下，信息丰富但智慧贫乏的风险。我们冒着在海量噪音中变得精神充实，但由于缺乏真正的信号而仍然感到，实际上是营养不良的风险。我们甚至可以称之为“超加工信息”。我认为这个短语很重要，因为它指出了潜在的激励因素。我们收件箱中涌现的大部分内容都将被设计成吸引参与和病毒式传播，而不是为了真相或更好的方向感。它们将被设计成易于点击、易于分享和情感上激活的，不幸的是，它们也可能经常非常连贯和具有说服力。更进一步说，就像最大的食品制造商发现了“快乐点”一样，注意力经济也将以同样的优化方式运行。因此，食物通过恰到好处的盐、糖和脂肪的比例进行优化。很有可能，很多人工智能内容将被优化为新颖性、两极分化、正义感的完美结合，以让我们保持参与并不断回来。所有的信息流算法、标题格式和通知的节奏，在其供应链中都嵌入了自己的“快乐点”团队。因此，即将到来的内容洪流不会是偶然上瘾的，它实际上就是产品。我想再说一件令人不舒服的事情。在物理世界中，有大量令人不舒服的事情。化石能源为我们提供了大规模的机器劳动力，这在很多方面使我们的生活变得更容易。它也帮助创造了条件，使我们的身体能够逐渐趋向于被过度喂养和营养不良。这还是在我们从数千年来保持我们自然活跃的体力劳动中解放出来之后，导致了我们今天许多人过着久坐不动的生活方式。因此，这种动态加剧了高热量低营养食物的损害。但现在我们正在构建数字认知劳动力的军队，它们也将使事情变得更容易。但同时也为久坐不动的头脑引入了一种押韵的脆弱性。因此，当人工智能军队处理研究、综合和内容写作时，过去所需的用于努力、综合以及所有这些事情的认知肌肉开始萎缩。我和扎克·斯坦恩以及诺拉·贝特森在他们最近的“现实圆桌会议”上谈到了这一点。因此，我认为这与被过度喂养的超加工信息相结合，使得我们的头脑更容易迷失方向，甚至可能如此迷失方向，以至于我们感到迷茫。与经济超级有机体相同的元模式，但现在是不同的基质。不是由化石燃料驱动的机器，而是由化石燃料和其他一切驱动的我们头脑的机器。
你们中的一些人可能会将此与最近在物理世界中出现的减肥药GLP-1及其各种品牌名称联系起来。当我们的肥胖危机变得不可否认时，我们没有修复食物系统。我们用一种大规模的药物性食欲抑制剂取代了它，利润丰厚，而且可能涉及一些在制造更广泛的慢性健康危机方面发挥作用的同一批实体。他们没有解决问题，他们只是管理了症状。那么，认知GLP-1可能是什么呢？如果我们遵循我们物理系统的逻辑，它很可能来自人工智能本身，很可能由制造了问题的同一家公司销售。我认为问题在于，我们是否想等待认知GLP-1的等价物？还是我们现在就应该开始培养纪律，作为个人，作为一种文化，在我们仍然能够的时候？所以，这一切都是我最初计划的、坦率地说，关于自主权的前奏。我们该怎么做？作为试图在这个我们大多数人没有选择、没有人能够核查整个互联网、没有人能够跟上信息量，更不用说核查信息量的情况下，在这个快速变化的世界里保持理智的人，我们该如何做？所以，我谦虚地建议，我们需要某种初步的纪律，一些我们可以在实时快速运行的东西，在我们让早晨的一条内容重塑我们的世界观或神经系统之前。而且，在过滤之前有一个步骤，而且它比听起来要简单。我今天真的要进入这个电流吗？我现在真的需要在这里面游泳吗？因为我认为，在未来几年里，最被低估的技能之一将是说“不”的能力，暂时走到岸边，不要游泳。而这一切都是为了保护你的注意力，我们将需要认知纪律和卡路里纪律。下周我将谈论自主权，而这正是我所说的部分。但是，如果你确实选择游泳，而我们大多数人都会这样做，因为我们是社会的一部分，我们想知道正在发生什么，并在这个快速变化的世界中了解信息流。这里有三个问题，最近一直在帮助我。它是真实的吗？它相关吗？它有用吗？第一个问题是关于在人工智能世界中与现实的接触。我们将按需获得可信度、光鲜度和自信。但正如我之前所说，昂贵的东西仍然是准确性、细微差别、与现实的联系。所以，当我看到一个激活我的说法时，尤其当它让我感到正义、恐惧，或者比我已经拥有的更确定时。我试着放慢速度，足够让我说，我能追溯到真实的东西吗？这里有某种合法的原始来源吗？有数据吗？有一个有实际声誉的机构或个人，他们因这些信息而受益或受损吗？如果我无法快速回答或追溯，我并不一定拒绝这些信息。我只是给它打了一个大大的折扣，把它当作未经核实的。所以我不会传播它或在此基础上构建。第二个过滤这个信息洪流的因素是相关性。即使是真实的陈述，对你或对世界来说也可能是噪音，在一个信息量将爆炸的媒体环境中，正如我的朋友阿扎·拉斯金和特里斯坦·哈里斯长期以来所说，注意力将日益成为稀缺资源。如果你把注意力花在那些不会改变你的决定、你的优先事项或你对世界上正在发生的事情的理解的事情上，你可能会同时变得信息丰富但效率低下。所以相关性意味着，这是否加深了你对现实的理解，或者改变了塑造你生活、你的社区，以及本频道观众所生活的世界和生物圈的图景？它是否改变了你认为可能发生的事情？它是否改变了你认为接下来应该做什么？如果不是，它可能仍然有趣或娱乐，但这些与滋养是不同的。而且，在碳脉冲的顶峰，我认为时间是我们最关键和最消耗的资产之一。所以，当我们被所有这些东西淹没时，我们将不得不问自己这个问题。这就引出了第三个过滤器，那就是有用性。我的意思是，在理解不断展开的超越人类的困境方面。有用的信息可以提高判断力。它能帮助我们更清楚地看到权衡和问题。它可能有助于我们在日益面临的限制下，以更多的智慧行事。有时有用性非常微小且非常局部。它可能意味着停止放大愤怒或两极分化，或者可能让你在改善你的人际关系、你的家庭韧性或你当地的场所方面更进一步。互联网上的内容可以是真实的，也可以是相关的，但仍然可能失败。这个第三个过滤器，如果它主要激怒你、两极分化你，或者训练你表现出确定性，而实际上并没有让你在重要的事情上更有能力。所以，这些只是我试图意识到的事情，当我凝视着我认为即将到来的事情时，我真的开始担心我们的认识论，我们分享的、我们认为是真实的东西，以便我们能够进行集体对话。我认为这三个简单的过滤器是如何在一个将被设计成病毒式传播和吸引注意力的信息环境中，实现心智上的滋养。但其规模即将爆炸。所以，回到食物系统的类比，在一个充斥着超加工食品的环境中，如果你想变得健康，就需要一些饮食上的纪律。我这样说是因为我目前正在经历限制性饮食，而这些冲动很难克服，而且与此的相似性对我来说并不陌生，因为认知劳动力即将变得便宜、丰富，并且无处不在。但同样，实际上，非常相似的是，在一个充斥着超加工内容的信环境中，如果你想保持方向感和理智，一些认知纪律将变得必要。下周我将讨论自主权和度量，但就人工智能而言，在即将到来的信号被噪音淹没的情况下。我认为个人实践仍然很重要，也许它们变得至关重要，因为我们每个人都在选择我们在这个不断增长的信息海洋中摄入什么，而我们每个人都在选择我们传递给别人的东西。然后，这些选择通过对话等方式在我们的文化中累积。在一个词语即将变得极其便宜的世界里，我们谨慎的注意力可能只是我们道德的表达。下周，暂定标题为“绝望地寻求自主权”。很快再见。希望你们都安好。