Transcription
今天，这将是一期“问我任何事”节目。我和我的朋友特伦顿·布里克和肖尔托·道格拉斯在一起。你们做一些人工智能方面的工作，对吗？是的。我们涉猎一些。他们是Anthropic的研究员。另外一个消息；我今天有一本书要发行，它叫做《规模化时代》。我希望其中一个问题最终会是“你为什么要买这本书”。但是我们可以一石二鸟。但是，好吧，我们开始吧。我们必须回答的第一个问题是什么？让我们开始吧。
所以，我想问一个我以前听过的“高飞球”问题，那就是：为什么普通人应该关心这本书？比如，我妈妈为什么要买和读这本书？是的。首先，让我告诉你这本书是关于什么的，它是什么。
所以，你知道，过去几年，我一直在采访人工智能实验室的首席执行官、研究员，像你们这样的人，还有来自各种不同领域的学者，经济学家、哲学家。而且他们一直在探讨，我认为，基本上是我们有史以来必须问自己的最棘手、最有趣、最重要的问题。比如，智能的根本性质是什么？当我们有数十亿额外的工人时会发生什么？我们如何模拟出其经济学？我们如何思考一种比全人类加起来还要强大的智能？它甚至是一个连贯的概念吗？
所以，我非常高兴的是，与Stripe出版社合作，我们制作了这本书，其中我们汇编并整理了所有这些访谈中最精彩、最有见地的片段。你可以读到达里奥阐述“为什么规模化有效？”然后下一页是德米斯解释DeepMind关于他们是否会走强化学习路线以及AlphaZero的多少内容将影响下一代大型语言模型的计划。当然，再下一页就是你们详细介绍这些模型是如何工作的技术细节。然后有这么多不同的领域被牵涉其中。我的意思是，我觉得人工智能是人们能想象到的最多学科交叉的领域之一，因为没有哪个领域，没有哪个人类知识领域与理解未来不同种类生物的社会会是什么样子无关。
你会看到卡尔·舒尔曼谈论规模化假说如何体现在从黑猩猩到人类的灵长类大脑规模化中。在下一页可能是一位经济学家，比如泰勒·科文，试图解释为什么他不期望经济爆炸式增长，以及为什么瓶颈会吞噬所有这些。嗯，总之，这就是你妈妈应该买这本书的原因。它是所有这些不同领域的人类知识应用于人类目前面临的最重要问题的精髓。
我确实喜欢这本书按不同主题和跨访谈进行划分的方式。所以这确实看起来是一种很好的方式，可以以一种易于理解的方式听取所有访谈。是的。我做过两次以前从未公开发布的访谈，它们都在这本书里。
所以，其中一个是贾里德·卡普兰，他是你们的联合创始人之一，这是另一个例子，他是一名物理学家，他从数据流形的非常数学的角度解释规模化。然后下一页你有一个完全不同的视角。就像格温谈论为什么通用智能最初会进化，它的实际进化目的是什么？而且它是一页一页的，对吗？你就可以得到答案。即使对我来说，作为这些对话的另一端的人，读起来也真的很酷，然后就想：“哦，实际上我现在才意识到这些见解是如何相互关联的。”
是的，唯一让我印象深刻的还有介绍部分——唯一让你印象深刻的？是的，那确实是唯一值得注意的地方。我只是说在易读性方面突出的是介绍部分以及所有不同输入（使你能够训练机器学习模型）的图表。Stripe出版社的书也很漂亮，它们有这些很好的侧边说明，解释什么是参数，什么是模型，诸如此类的事情。
实际上，当我们一起做那期节目时，很多人，我不知道你有没有看到，他们独立地制作了这些博客文章和Anki卡片之类的东西，他们在解释概念，因为我们只是有点一带而过了一些事情。我希望我们对我做的每一次访谈都给予了类似的待遇，你可以阅读与实验室首席执行官或工程师或研究员进行的非常技术性的访谈，然后旁边会有：这里有更多背景，这里有更多定义，这里有更多评论。而且我，是的，我觉得这提升了对话的水平。
所以换句话说，我的父母终于会明白我做什么工作了。他们会非常明白的。也许我的父母会。因为我有一本书。我所有需要知道的是我的名字在一本书里。你是合著者。他们会说：“酷。”好的。我们开始问答环节的问题吗？来吧。好的。
所以布莱恩·克拉夫问道：“你和达里奥提出的，以及偶尔在推特上提到的关于模型无法在不同主题之间建立联系的问题，某种组合注意力挑战，你现在对此有什么看法？你是通过规模化、思维模型还是其他方式来解决它？”
所以问题是，我问达里奥的一个问题是，看，这些模型记住了所有人类知识，你会认为如果一个人记住了这么多东西，并且他们中等聪明，他们就可以在不同领域之间建立所有这些联系。顺便说一下，人类这样做是有例子的。有……唐纳德·斯旺之类的，这个人注意到镁缺乏后大脑发生的情况与偏头痛时看到的结构完全相同。所以他就想，你服用镁补充剂，我们就能治好很多偏头痛。而且奏效了。还有许多其他类似的例子，你只是注意到两段知识之间存在两种不同的联系。为什么，如果这些大型语言模型是智能的，它们却无法利用它们所拥有的这种独特优势来做出这些发现？
我有点不好意思，在这里和你们一起回答关于人工智能的问题。但是，实际上斯科特·亚历山大在他的一个“问我任何事”帖子中回答了这个问题，他说：“看，人类也没有这种逻辑全知”，对吗？他举例说，在语言中，如果你真的思考过，为什么两个词是连接的？就像，我明白为什么“rhyme”和这个词有相同的词源。但你就是不会去想它，对吗？存在这种组合爆炸。我不知道这是否解决了这样一个事实——我们知道人类可以做到这一点，对吗？人类实际上已经做到了，我不知道有任何一个大型语言模型曾经做到过。
实际上，是的，你对此的答案是什么？我认为我目前的答案是，预训练目标不一定——它确实赋予了这种良好灵活的关于世界的通用知识，但不一定赋予建立新颖联系或研究的技能。那些人们通过博士项目以及通过探索和与世界互动过程所训练出来的能力。所以我认为至少你需要对类似的事物进行大量的强化学习，才能接近做出新颖的发现。因此，我希望看到一些早期证据，当我们开始构建与世界互动并尝试进行科学发现的模型时，以及模拟我们期望这些职位上的人所表现出的行为。因为我实际上认为我们作为一个领域，还没有以有意义或规模化的方式做到这一点，可以说。
接着强化学习的话题，我怀疑模型目前是否不擅长知道它们应该存储哪些记忆。它们的大部分训练只是预测互联网上的下一个词，并记住其中非常具体的 M事实。但如果你现在教我一些新东西，我非常清楚我自己的记忆局限性，所以我会尝试构建一些能记住的总结。而模型目前没有机会这样做。记忆支架总体来说目前还非常原始。
我的意思是——对，就像Claude玩宝可梦一样。没错，是的，或者说有人研究它，它很棒，进展很大，但是，另一位兴奋的Anthropic员工随后迭代了记忆支架，并能够非常迅速地改进它。所以这是一个。我也只是想知道模型是不是白痴学者。最好的类比可能是金·皮克。所以金·皮克，如果我没记错的话，出生时没有胼胝体。他的大脑每个半球都相当独立地运作。所以，他会打开一本书，有两页可见，每只眼睛会读其中一页。而且他对读过的所有东西都有完美的百科全书式记忆。但与此同时，他还有其他方面的缺陷；社交功能，诸如此类。而且大型语言模型在非常小众的主题上表现得如此出色，但在其他方面仍然可能完全失败，这真是令人惊讶。
我真的很想深入探讨一下为什么记忆力之间存在这种权衡。为什么切断它……显然这与这种衰弱有关，但为什么不能……维基文本大约是五兆字节的信息。人类大脑可以存储更多，那么为什么人类大脑就是不希望我们记住这些东西，并且积极地修剪，而且……是的，我不知道。但我们现在不必这样做。我们会在单独的一期节目中讨论。
是的，关于这一点我只想说一件事，还有一个拥有完美记忆的人的案例研究，所以他们从不忘记任何事情。但他们的记忆力太具破坏性了。这就像，你的Transformer的上下文窗口是数万亿个token。然后你把所有时间都花在关注过去的事情上，过于拘泥于细节，以至于无法从中提取任何有意义的、可推广的见解。
是的。你推荐的特伦斯·迪肯的书，他有一个有趣的见解，关于我们如何在童年时期学得最好，但我们却几乎忘记了童年时期发生在我们身上的一切，对吗？我们完全失忆了。而成年人则处于中间状态，我们不记得确切的细节，但我们仍然可以以一种相当不错的方式学习。然后大型语言模型处于这个梯度的另一端，它们会记住维基文本的精确措辞，但它们无法以这些非常明显的方式进行概括。
有点像格温的理论，优化器理论，不是吗？是的，我想我可能是从那里得到的。是的，格温对我所有这些也确实产生了很大的影响。
我觉得播客中被低估的一点是，我们有一个群聊，而且我们也经常线下见面。播客的所有产出都来自你和另外几个人不断给我提供想法和提示等等，然后我就可以在对话中将其作为直觉泵来使用。
是的，你不是唯一一个。你什么意思？哦，就像，我从听取别人的意见中受益匪浅。这或多或少都是反刍。还有问题吗？是的。也许“狂暴猴子”问道：“想象你有一个17岁的弟弟/侄子刚开始上大学。考虑到你的人工通用智能时间表，你会推荐他学习什么？”
这太难了，对吧？我不知道，成为播客主？我觉得那个工作还会存在。这很有趣，因为我学的是计算机科学，回想起来——当时，你本可以成为一名软件工程师之类的。相反，你成为了播客主，这有点像一个不负责任的职业选择，但回想起来，它却……还算成功了。就在这些人被自动化的时候。
我总是被问到这个问题，我喜欢给出的一个答案是，你应该把未来几年看作是每年大幅增加你个人杠杆的时期。所以现在软件工程师会说：“你知道，我快了两倍”，或者“在新语言方面，我比去年快了五倍”。我预计这种趋势会继续下去，基本上，你会从“我在电脑上使用某个模型辅助我工作，这基本上是一个配对会话”的模式，转变为“我管理一个小团队”，再到“我管理一个部门或一家公司”。基本上，那是在针对一项任务。所以我认为四年后，领域内的深厚技术知识仍然很重要。绝对会。因为你将处于管理数十个——或者说，你的个人管理带宽将因试图管理人工智能团队而达到极限。也许我们最终会进入一个真正奇点世界，那里有人工智能管理人工智能之类的东西。但我认为在可能性谱系的很大一部分中，你将管理比个人今天所能掌控的巨大得多的资源，你应该能够用它解决更多的问题。
没错，我想我会强调这不仅仅是应付。比如，这些模型确实缺乏长期连贯性，而这对于建立一家成功的公司来说是绝对必要的，或者……仅仅是，搞定一个办公室就挺复杂的，对吧？所以你可以想象，一个又一个行业——经济体真的很大，对吧？而且真的很复杂。没错，所以，我不知道具体细节，但我假设如果这是一个数据稀疏的事情，你需要知道该行业正在发生什么的背景或类似情况，我觉得你会处于一个有利的位置。
也许我另一个想法是，总的来说，规划你的职业生涯真的很难。我不知道这暗示着什么建议，因为我记得我当时非常沮丧。我在大学时，做播客的原因是为了弄清楚我想做什么。它本身并不是播客。我会去80,000 Hours或任何职业建议网站，回想起来，那些大多都毫无用处，就只是尝试做事情。我的意思是，特别是对于人工智能，很难预测会有什么样的变革，所以要尝试，要去做。我的意思是，这真是平庸、模糊的建议，但我总体上对职业建议持相当怀疑的态度。
嗯，我不怀疑的职业建议是让自己靠近前沿，因为从那里你有一个更好的有利位置。对吗？你可以学习深层的技术知识，无论是计算机科学还是生物学，并达到能够看到问题所在的地步，因为在前沿领域，问题实际上是显而易见的。很难看到……
实际上，你认为有机会吗？因为人们提出的一个问题是，也许那些职业生涯有进展并拥有所有这些默会知识的人将能够被人工智能加速，但你们四年前或两年前，当你们被发现或类似情况时，那种你有一个GitHub开放问题并尝试解决它的事情；那是不是，那已经完成了，所以入职变得更难了？
那仍然是我们招聘时寻找的。所以，你知道吗？
是的，我赞成“学习基础知识，获得有用的心智模型”，但感觉一切都应该以人工智能原生的方式进行，或者自上而下而不是自下而上的学习。所以首先，通过使用人工智能模型更有效地学习事物，然后只需了解它们的能力在哪里，不在哪里。我会对任何优先考虑死记硬背大量事实或信息而不是思维方式的科目感到担忧和怀疑。但如果你总是使用人工智能工具来帮助你，那么你自然就会对它擅长和不擅长的事情有一个很好的感觉。
好的，下一个。你选择嘉宾的策略、方法或标准是什么？
所以，最重要的事情是，我是否愿意花一到两周时间阅读你写过的每一篇文章，你录制的每一次访谈，并与许多其他人谈论你的研究？因为我经常被一些颇具影响力的人问到：“你愿意邀请我上你的播客吗？”而我通常会拒绝，原因有二。
一个是，好吧，你很有影响力，但作为访谈对象，这并不是根本上那么有趣。我不考虑我会和你在一起的一个小时。我考虑的是两周，因为这是我的生活，对吗？研究是我的生活，我希望在做的时候能开心。所以这将是值得花的两周吗？它会帮助我未来的研究吗？另一个是，如果你只看最受欢迎的节目或者从长远来看什么有助于播客增长，大牌嘉宾其实没那么重要。到目前为止，我最受欢迎的嘉宾是莎拉·佩恩，在我采访她之前，她只是一位学者，完全不为人所知，我只是觉得她的书很有趣。所以我最受欢迎的嘉宾是莎拉·佩恩，然后是莎拉·佩恩、莎拉·佩恩、莎拉·佩恩，因为……我和她有电椅（指深入激烈的对话）。顺便说一句，从每分钟观众调整的基础上看，我主持的是莎拉·佩恩播客，我偶尔会在其中谈论人工智能。这很有趣。然后是大卫·赖希，他是一位研究古代DNA的遗传学家。他有点名气，但他有一本畅销书，但他不是萨蒂亚·纳德拉或马克·扎克伯格，他们是名单上的下一个人。然后，我认为很快就会像你们或利奥波德之类的，然后你就会接触到实验室首席执行官之类的。所以，大牌人物对我真正想做的事情来说并不那么重要。而且也很难预测谁会成为大卫·赖希或莎拉·佩恩，所以就玩得开心。和任何你想花时间研究的人交谈，这对于什么会真正受欢迎是一个很好的指标。
如果有那么一个特定的时刻，你是在什么时候意识到制作你的播客是一个可行的长期策略的？
我想是在我为马克·扎克伯格那一集寻找广告位的时候。现在回想起来，这并没有那么令人震惊，但当时我心想，“哦，我实际上可以全职雇佣一名编辑，或者不止一名编辑，然后从那里发展成一个真正的生意。”因为以前人们会告诉我：“哦，这些其他播客赚了多少钱。”我会想：“怎么可能？”你知道吗？
所以我有一个和朋友之间一直开的玩笑。我不知道你有没有见过我这样做，但每次我遇到一个年轻人问：“我的人生该怎么办？”我都会说：“你得开个博客。你得成为人工智能界的马特·莱文。”你可以做到。这是一个完全空白的利基市场。我和他们之间一直开的玩笑是，他们会说：“你就像一个中了彩票的乡巴佬。你走到哪里都对所有人说：‘伙计们，刮刮卡。快去刮刮卡。’”
我确实想再深入一点，因为你对那个17岁年轻人的直接回答是开始一个播客。那么有哪些利基市场呢？你会很高兴在新博客、播客中看到什么样的内容？
我不知道你们是否也这么认为，但我认为这个“人工智能界的马特·莱文”在我看来是一个完全开放的利基市场，我向那些试图填补它的人道歉。所以，我真正想强调的另一件事是，根据别人的建议来做这件事真的很难，或者说“至少我正在努力不填补一个特定的利基市场”。如果你考虑任何一种成功的新媒体事物，它有两个真实之处：它通常不仅仅是针对一个特定的主题或兴趣，第二，最重要的是它是由一个人的愿景推动的。它不是一个集体或什么的。所以，我真正想强调的是，这可以做到。第二，你可以从中赚很多钱，这对于那种会成功的人来说可能不是最重要的，但仍然值得知道它是一个可行的职业。第三，基本上你一开始会感觉很糟糕，你所有的早期作品都会有点烂。也许其中一些会得到赞赏。但如果说“坚持下去”似乎是个糟糕的建议，因为有些人确实很糟糕。但如果你不是，那就去做，对吗？比如，业余博客三个月真的会让你付出什么代价？人们只是没有真正认真地做足够长的时间，以获得证据或获得那种强化学习反馈，关于“哦，你是这样做的；你是这样构建论点的。你是这样制作一个引人入胜的东西，让人们想阅读或观看的。”
写博客绝对被低估了。我想我们大多数人可能都——所以你们都有相关的博客。我不知道它们是否真的与获得——不是那个。它们有点相关。但我认为更重要的是，我们都读过几乎所有对人工智能进行深入论述的博客。比如，如果你写的东西质量很高，它几乎总是会在推特上被分享和阅读。
哦，这太被低估了。所以，两点证据。我当时在和一个你认识的非常著名的博主聊天，我问他：“你多久发现一个新的、未被发现的博主？”他说：“嗯，很少发生，可能一年一次。”然后我问他：“在你发现他或她之后多久，世界其他地方的人会发现他们？”他说：“可能一周。”这表明它实际上非常高效。就像……
哦，我还有一些看法。让我们听听。这是，这是问我任何事。所以我相信媒体中缓慢的复合增长有点虚假。比如，利奥波德的态势感知。他并不是长期以来，比如几年，一直在积累受众。它真的很好。不管同意与否，如果它足够好，所有重要的人——我指的是字面意义上的所有人——都会读它。而且很难零样本地做到这一点。但需要强调的根本是复合增长，至少对我来说，我感觉我变得更好了。并不是说拥有1000名粉丝的三年某种程度上是一种复合……我不认为是那样。我认为只是花了一些时间才变得更好。
是的，当然，当利奥波德发布那篇文章后，第二天，你几乎可以想象它被“钉”在推特的墙上，可以说。就像，你知道，每个人都在谈论它。接下来的一周你去参加任何活动，整个城市的每个人都在谈论那篇文章。就像文艺复兴时期的佛罗伦萨什么的。
没错。是的。世界很小。世界很小。
你会说你的第一个巨大成功是什么？我正在努力回想我第一次发现你的播客的时候。我清楚地记得你写过关于“奇迹年”的博客文章。而且杰夫·贝佐斯转发了它，我想。我正在努力回忆是不是在那之前，但是，是的。我很好奇你的答案。
我觉得就是那个。而且那并不是什么值得那样爆炸性传播的重大见解。那只是进行了一些射门尝试。它们都充满了洞察力，然后其中一个我想是引起了对的人的注意，是的。但我认为就是那个。是的，那是另一个被低估的东西，那就是一篇作品不一定需要有根本性的新见解，更多的是给人们一种清晰表达他们已经广泛了解的一系列想法的方式。如果它真的简洁明了而不是含糊不清，那么即使如此也非常有价值。
我应该强调的一点，我认为这也许是反馈循环中最重要的事情。它不是受众的复合增长。我甚至不认为是我在做播客方面获得了更多的射门机会。我实际上不认为你通过一遍又一遍地做同样的事情就能提高很多。如果没有奖励信号，你就会继续做你以前做的事情。我真心认为最重要的事情是播客足够好，值得我结识像你们这样的人。然后我成为你们这样的朋友。你们教我东西。我制作更多好的播客，所以希望能稍微好一点。这帮助我结识其他领域的人。他们教我更多东西。最近关于中国的事情，我写了一篇博客文章，讲述了一些在中国发生的故事。而仅仅那篇文章就为我带来了令人惊叹的中国网络。对吗？所以希望，如果我做一期关于中国的节目，我因此会变得更好。而且希望这能在各个领域不断发生。所以仅仅是结识像你们这样的人，实际上就是主要的飞轮效应。
有趣。所以搬到旧金山？是的。如果你想做人工智能，是的。
哦，来自Jacked Pajeet的一个非常重要的问题。你能卧推多少？你不能撒谎，因为我们都知道答案。有一次我卧推225磅四次。现在我想我可能比那个时候轻了20磅左右。你们问我这个的原因是，我曾和你们俩一起举重。我记得特伦特和我当时在做引体向上和卧推。然后，就像是‘卧推’，他会再加一个杠铃片什么的。然后他不是做引体向上，而是做这些引体向上翻。这都是技巧。让我们确定一下。所以他们俩都比我卧推得多。但我正在尽力。六个月后再问。是的。
你最喜欢的历史书是什么？你身后有一整墙的书。哦，显然是卡罗的LBJ传记。我从那些书中得到的主要收获是，LBJ有一句他会告诉他的辩论[学生]的话。在他20出头的时候，他在德克萨斯州教这些贫穷的墨西哥学生辩论。他过去常常告诉他们：“如果你做所有事情，你就会赢。”我认为这是一句被低估的名言。所以这是我主要学到的东西。你在他的整个职业生涯中都能看到这一点，其中有相当一部分努力遵循20/80法则。你付出20%的努力，就能获得80%的效果。然后如果你超越那个，去说：“哦，不。我不仅仅要做20%，我要做所有的事情。”甚至还有超越那个的程度，那是对时间的不合理使用。这不会产生最终影响，但仍然尝试这样做。你在推特上分享过，使用Anki。甚至，比如，Claude集成。你参加读书俱乐部吗？你用GoodReads吗？你现在在读什么？
我没有读书俱乐部。[Bud的空格键版本]确实极大地提升了我的学习能力。主要是因为——它甚至不是多年来的长期影响，尽管我认为那是其中一部分，我确实后悔所有没有使用语音标记卡做的节目，因为所有的见解都某种程度上消逝了。最主要的是，如果你正在学习一个复杂的科目，至少对我来说，它在巩固方面非常有帮助。所以如果你不做，你就会感觉像一个将军，你会说：“我要对这个国家发动一场战役。”然后你爬上一座山。然后第二天你撤退了，然后你又爬上同一座山。也许有一个更恰当的类比。是的。然后另一个问题是我现在在读什么？哦。我的朋友阿尔瓦罗·德·梅纳德，《奇妙的时代错乱》的作者。我能把它举起来吗？实际上它就在这里。我希望他同意我分享这个。但他制作了100份他翻译的他最喜欢的希腊诗人的作品。卡瓦菲。希望我没有读错。抱歉，那本书有给格温的很好的题词，因为那是他的那本，但它非常令人愉快，那是我最近一直在读的。
到目前为止有什么见解吗？诗人会讨厌这种说法。我觉得诗歌就像TikTok，你很快就能感受到某种氛围，然后你滑动。然后你得到下一个氛围，滑动……阿尔瓦罗，我很抱歉。不，那很有趣。
你是如何学习新事物或准备一期节目的？你提到了你深入研究一个人的一到两周时间。那实际上是什么样子？
这很明显：你读他们的书，你读他们的论文。如果他们有同事，你会尝试和他们交谈，以便更好地了解这个领域。我还要提到的是，我所要做的就是问他们问题，而且我确实认为，要成为一个领域的实践者，学习这个领域比仅仅学习到足以提出有趣问题要困难得多。但对于这一点，这正是你所期望的显而易见的事情。
“基于卡尔·萨根”问道：“你的长期目标和抱负是什么？”人工通用智能有点让长期前景更难阐明，对吗？你知道彼得·蒂尔关于“你的十年计划是什么，为什么你不能在六个月内完成它？”的引言吗？鉴于时间表，这尤其突出。在可预见的未来，发展播客，制作更多节目，也许写更多东西。所以我们会看看十年后会发生什么。世界可能已经足够不同了。所以基本上，目前就是播客。
你曾和我谈过，尤其是在你试图为播客招聘人员时，你希望通过播客实现什么。你希望播客以何种方式塑造世界，可以说？你对此有什么想法吗……因为我记得你告诉我：“我真的希望人们真正理解人工智能以及这可能如何改变他们的生活。”或者，“我们现在可以做些什么来塑造世界，使其变得更好。”
我不知道。我对此有矛盾的看法。一方面，我确实知道人工智能领域现在正在做出重要决策。而且我确实认为，接着我们之前谈到的态势感知，如果你做了一些非常好的事情，它有很高的概率能一次性击中相关的人，而且人们通常是理性的。你提出一个好的论点，它会传播开来。另一方面，我只是觉得很难知道应该做什么。你必须拥有非常正确的世界模型，然后你必须知道在这个世界模型中，你所采取的行动将如何产生你预期的效果。甚至在过去一周，由于与Epoch的人交谈，我改变了对智能爆炸或变革性人工智能可能性的某些相当根本性的看法。基本上，TLDR（太长不读）就是，我希望播客现在只是一种认知工具，因为我认为犯错太容易了。所以，仅仅对相关论点有一个背景层面的理解是最高优先级。有道理。你觉得呢？我应该做什么？
我的意思是，我认为这个播客很棒，应该有更多人听，而且还有很多嘉宾我很期待你采访。你得给我你的推荐。所以这似乎是一个目前相当不错的答案。是的。我认为确保，比如，不仅在人工智能领域，而且在其他领域，都有思想的伟大辩论，而且一切都具有极高的价值杠杆。是的，是的，是的。
你怎么打理你的胡子？它很威严。我不知道该说什么，只是基因。我确实修剪它，但是——
不用胡须油吗？有时我用胡须油。多久一次？每隔几天一次。那不是“有时”！那很频繁了！但是，你的头发和胡子用不同的洗发水吗？不。你用哪种洗发水？去屑的。你用护发素吗？是的。你多久刮一次胡子？谁让你问这个的？我们正在给出人们想要的答案。大牌洗发水。大牌胡须油。是的，你可以把一些广告位卖给不同的洗发水公司，我们可以编辑它。也许我们卖了一个广告位。谁知道呢？
抱歉，你有个周边产品的想法。你想解释一下这个T恤的想法吗？是的，是的，是的。所以人们应该对此做出反应。应该有人让它实现。德瓦尔凯什想要周边产品，但他不想承认他想要。或者他不想自己制作，因为那看起来很俗气。所以我真的很想要一件纯白T恤，上面只有德瓦尔凯什的胡子在中间。就这样。没有别的。但你说它应该有与衬衫其他部分不同的质地。
哦，所以当我真正发挥想象力时，也许限量版套装可以把你的胡须毛发实际缝进衬衫里。哦，我的天。那会很酷。我会付钱。我会为那个付钱。多少钱？我的胡子上到处都是斑块。取决于有多少毛发。如果它像一根毛发在某个地方，而不是整个东西。比如，“我必须干洗它吗？我能用轻柔模式洗它吗？”但说真的，我觉得你应该做周边产品。如果你想发展播客，显然你确实想，那么这就是一种方法。你认为未来胡子和胡须毛发是必要的吗？
哦，是的。哦，是的。哪位历史人物最适合运营一个前沿人工智能实验室？这绝对是给你们的问题。
哦。不，我的意思是，我首先好奇你的看法。你和更多人工智能实验室的负责人谈过，比我多。是的。我本来想说LBJ。抱歉，问题是谁最擅长运营人工智能实验室，还是谁对世界最好，或者……？
是的，你想要什么，什么结果？因为我想象中，最好的AI实验室CEO成功之处在于筹集资金、制造热度、设定一个连贯的愿景。我不知道CEO本人拥有良好的研究品味或类似的东西有多重要，但他们的角色似乎更多是作为一种向世界其他地方的使者。我觉得LBJ会很擅长这个。只是获得正确的让步，推动项目进展，协调不同群体，也许——哦，罗伯特·摩西。再次强调，不一定是对世界最好的，但就“让事情发生”而言。
是的。我的意思是，我认为对世界最好是一个相当重要的前提条件。哦，对了。谁对世界最好？有一句阿克伍德勋爵的名言：“伟大的人很少是好人。”所以很难想到历史上哪位伟人，我觉得他既能真正推动事情发展，我又信任他的道德判断。
是的。从很多意义上说，我们今天这批人很幸运，对吗？
没错。比如，今天这批人既……他们努力并非常关心道德方面，也推动实验室向前发展。这也是为什么我怀疑像国有化或某些公私合营这样的大型宏伟计划，或者只是普遍地过多地改变格局，因为我确实认为我们处于一个更好的……我的意思是，无论是对齐问题还是某种部署、安全风险的难度。这只是宇宙的本质，它会使这达到某种难度。但在许多反事实宇宙中，人类因素，我觉得我们最终不会遇到这样的人……比如，我们甚至可能在一个他们连口头敷衍都没有的宇宙中，没有人有过ASI接管的想法。考虑到所有因素，我认为我们生活在一个相当不错的反事实宇宙中。
……有一批优秀的参与者。没错。没错。
你如何为快速时间表做准备？如果时间表很快，那么将会有这六个月的时间，其中人类历史上最重要的决定正在被做出。我觉得在那段时间里有一个人工智能播客可能会有用。这基本上就是计划。
你有没有做出任何短期决定，关于开支、健康或其他方面？
在我采访扎克伯格之后，我的商业银行账户余额是负23美分。当广告费到账时，我立即将其再投资到英伟达。所以，那就是……抱歉，但你是从一种利他主义的角度问的吗？
不，不，只是总的来说，比如，你有没有因为你的人工通用智能时间表而改变你的生活方式？
我从没考虑过开一个罗斯个人退休账户。他以前给我们带过斐济水。那是塑料瓶装的，所以……德瓦尔凯什变了。
那么，你们因此改变了生活方式吗？并没有，不。我，我只是，一直在工作。但你反正也会那样做，不是吗？
啊，我可能会非常投入地去做我选择投入的任何事情。是的，是的。
你呢？我取消了我的401K供款，所以——哦，真的吗？是的，是的，那个，那个感觉更严肃。我很难想象一个世界，我所有的钱都只是躺在这个账户里，等到我60岁时，情况会变得如此不同。我的意思是，你可能会因为你的边际401K供款而成为万亿富翁。我猜是这样，但你也不能把它投资到特定的东西上。而且，我不知道。我将来可能会改变主意并重新开始，而且我已经供款几年了。
更严肃地说，我一直在思考的一件事是，你如何能将这笔钱用于利他主义的目的？基本上，如果在我所了解的领域里，有人正在崭露头角，正在制作内容，我能否用钱来支持他们？我对此有两方面的想法。一方面，有些人为我做了这件事，这实际上是我继续做播客的原因，当时只有几百人听，这根本说不通。我想特别感谢阿尼尔·瓦拉纳西为此所做的一切。还有利奥波德，实际上，他之前运营的基金会。另一方面，关于那位博主所说的，那些优秀的人你确实会注意到。很难找到隐藏的才能。也许我完全错了。但我我觉得如果我提出一种资助申请，如果你想写博客我就给你钱，我实际上不确定那会运作得有多好。
不过，你可以做不同的事情。比如，有“我给你钱让你搬到旧金山住两个月”。并且可以结识一些人，获得更多背景、品味以及对你所做事情的反馈，这与其说是关于金钱或时间，不如说是。它是将他们置于一个可以更快成长的环境中。比如，那是可以做的事情。我认为你在这方面做得相当积极主动，你刻意介绍你认为彼此会感兴趣的人，诸如此类，所以……是的。
是的。不，我的意思是，这很公平，而且，显然我从搬到旧金山受益匪浅。如果我不在旧金山，我不太可能像现在这样做播客——至少是关于人工智能的播客。所以，也许根据他们现有内容的质量来评判他们，然后直接给他们钱——不是扔钱，而是给他们足够的钱搬到旧金山，融入这种知识氛围，然后也许因此做出一些有趣的事情，这可能是一个错误。
最容易想到的是人工智能研究的MATS项目。这似乎在为人们提供时间、资金和社会地位的理由，让他们在导师的指导下进行与人工智能安全相关的研究方面取得了令人难以置信的成功。哦，你，你也有一个类似的项目……
我们有Anthropic学者项目。没错，是的。我知道你可能在选择一些略有不同的东西，但我假设它将由幂律主导。你有没有注意到，无论是MATS学者还是你的学者中，有没有这样一种模式，就是有人会说：“这让一切都值得了”？
你对某事的第一印象是什么？我的意思是，Anthropic和其他实验室已经从这个项目中雇佣了多个人。所以，我认为它的投资回报是巨大的。而且，是的，显然这些研究员，我想有20个，都非常优秀。但要让它运作良好或找到那个人有什么诀窍呢？
我认为随着时间的推移，情况已经好转很多，早期的研究员中，有些人做得很好，也找到了好工作。所以现在后来的研究员，质量标准只是不断提高。而且现在有比以前更好的导师。所以这是一个非常酷的飞轮效应。但最初，它只是针对那些没有资金或时间来扬名立万或从事雄心勃勃工作的人。所以这有点像给了他们一个可以做这件事的利基。
看起来真的很关键。你可以做其他不一定要花钱的事情。你可以提出一些你真正感兴趣阅读或推广的想法。
是的，是的，是的。那里会有一些东西。好的，我们继续。所以如果这一集希望能在周二与这本书同时发布——顺便说一下，你可以在stripe.press/scaling上找到它。但在周三，也就是第二天，希望这里有一些对你有用的东西。我们还有其他问题要问吗？
我有一些看法，但很少被问到，那就是分发。人工智能的分发？不，抱歉。就像Mr Beast那样的分发方式，人们，我认为是正确的，专注于内容，如果内容不够好，我认为你就不会成功。但就有人试图做类似事情而言，他们一直低估的一点是投入时间来做好分发。
我只是随便说说……例如，我的播客在增长方面最成功的是YouTube Shorts。这是你事先绝不会预测到的事情。而且它们基本上至少贡献了播客一半的增长。
我的意思是，我同意。你为什么不预测它呢？比如，我的意思是，我的意思是，我想有那种长篇深度内容和YouTube Shorts之类的对比。但我绝对认为它们是很好的吸引点。好的内容。
我对如何写推文之类的东西有自己的看法。主要的直觉是，写得像你在给一个群聊发消息。给你的朋友群聊，而不是这种正式的什么。这里还有什么想到的？
嗯，也许TikTok和YouTube Shorts之间的区别很有趣。哦，是的。我们从未攻克TikTok。为什么不？比如，你试过吗？是的。我的意思是——试过？你做过所有事情吗？不，我没有做所有事情。你读过这些诗吗？也许你正在泡泡浴，涂着一些胡须洗发水。读诗？如果你能让其中任何一个走红，那将是不可思议的。你现在必须这样做！显化。读一首诗，把腿放下来。上一集是可解释性挑战，现在是德瓦尔凯什在泡泡浴里。我总得想办法把书卖出去，你知道吗？
但你真的像玛格特·罗比那样做——是的，没错。解释种子机制。是的，是的，是的。那么什么是规模化？这就是你攻克分发的方式。这就是你攻克分发的方式。
哦，但是，是的，不，就像我们做那期节目时，它发布了，你分享了一些关于它表现如何、你想用的缩略图和标题的有趣花絮。我想我甚至让你分享更多细节，因为它看起来很有趣、很酷，而且有些微妙。但你似乎也只是有点讨厌它。就像玩这个游戏，真的必须优化所有这些旋钮。
所以我意识到，我的意思是天赋就是一切，所以我真的很幸运能有三到四位编辑，我为能和他们一起工作感到无比自豪。我不知道如何雇佣更多这样的人。比如，他们就是那么优秀和自主。所以，老实说，我没有纠正这个的秘诀。我雇佣了那些人。所以其中一个是在阿根廷的农民，一个是在斯里兰卡的数学系新生，一个曾是Mr Beast某个频道的编辑。另一个是捷克的一位导演，他制作了你在《中国札记》中看到的人工智能动画，他正在创作更多类似的文章。所以，我不知道如何再次复制那种捕捉。
天哪，说实话，那撒的网可真够广的。该死。但他们都，该死的，他们都太棒了。而这只是通过你的挑战和推特宣传吗？
没错。我举办了一个为我的播客制作剪辑的比赛。我通过这种方式招募了几个人。是的，这很难，很难复制，因为我尝试过……“尝试过”，之后。
你认为为什么这对视频编辑如此有效？因为你对你的幕僚长也尝试了类似的方法。
是的。区别在于，对于视频编辑，我认为存在这种套利机会，那里有人……根本上来说，这是一种你是否愿意努力工作并痴迷于随着时间推移变得更好？他们所有人都超越了期望，但你可以在其他国家找到那些……而且这甚至不是关于工资的问题。比如，我把他们的工资提高了10倍之类的。这只是关于找到一个真正以数据为导向的人，而且那里存在这种全球套利。然而，对于总经理……顺便说一下，我最终雇佣的人，也是我非常期待与之合作的人，是你的童年挚友。马克斯·赫恩斯。马克斯太棒了。他会有很多其他机会。没有这种奇怪的套利，让你在阿根廷找到某个农民。是的。但是，是的，令人惊讶的是你找了一段时间，然后只是随口提了一句马克斯正在寻找新事物。
这将是一个完全像12岁孩子学习世界的问题，但我真的不知道大公司是如何招聘的。因为我找这个人找了一年，我对我最终雇佣的人非常满意。但就像，如果我需要为一家公司招聘100人，更不用说1000人，我根本不知道如何大规模地找到这样的人。
是的，我的意思是，我认为这是创业公司首席执行官面临的头号问题。招聘。它就是无情的第一。
是的。让我震惊的是，我的平台似乎并没有帮上多大忙。我在不同轮次的宣传中收到了将近1000份申请。而且，我认为，很多非常棒的人都申请了。但我最终雇佣的人只是一个推荐，就像一个共同朋友介绍的那种。还有几个顶尖的竞争者也是这样。所以这很奇怪。比如，世界上最优秀的人不想申请，至少不想申请这类事情，你必须主动去寻找他们。即使你认为你有一个公共平台或类似的东西。
是的。是的，我的意思是，这份工作可能与人们会做的任何其他事情都非常不同。没错，是的。
所以阿迪亚·雷问道：“作为一名新手作家，你如何在Substack上取得成功？”我认为如果你从零开始，有两个有用的技巧。一个是播客，因为你不需要有非常原创的新观点。你可以采访那些有观点的人，并利用他们的平台。第二是写书评。再次强调，因为你有一些可以回应的东西，而不是必须提出自己独特的宇宙观。可能还有其他事情，而且很难提前给出建议。尽管尝试。但是，我认为这些只是很好的冷启动方式。
书评是一个很好的建议。我实际上会用格温的书评来向人们推荐书籍。顺便说一句，这是一个完全供不应求的东西。因为如果任何人有书评。贾森·弗曼是这位经济学家，他有大约一千条GoodReads书评。我可能独立访问过他的GoodReads一百次。格温的书评也是如此，对吗？所以书评是一个非常供不应求的东西，如果你想开始制作某种内容的话。我喜欢那个。是的。
酷。非常感谢你们做这个。是的，这很有趣。我们很快就会反过来问你。坐在热座上感觉如何？很好。从来没有人问我问题。从来没有人问德瓦尔凯什怎么样！酷。是的，是的，对新书发布非常兴奋。谢谢。顺便说一句，网站很棒。感谢。Stripe.press/scaling 是的。酷。谢谢大家。再见。谢谢。