Transcription
是的，是的，是的，我的意思是，看看，这篇作品很糟糕，因为它根本就没有经过深思熟虑，没有经过仔细考虑，它非常像是他个人的想法，就像一种氛围，对吧？他只是在说，“看，我感觉很好，对吧？关于人工智能，我看到我喜欢的东西，我选择只关注那些，让我通过告诉你那些让我对人工智能感觉良好的事情来照亮你的一天，好吗？但它，它作为一篇分析作品，就是很糟糕，它根本就没有代表另一方。” [音乐] 欢迎来到“为了人类和人工智能风险”播客，第 41 集，大卫·布鲁克斯在人工智能问题上大错特错。我是主持人约翰·谢尔曼，非常感谢你加入我。“为了人类”是面向公众的人工智能风险播客，无需技术背景。本节目完全关注人工智能对人类生存的威胁。本周的节目将有所不同，老实说，我非常生气，我很沮丧，我度过了艰难的一周，稍后会详细介绍，但这并不是我生气的原因。备受尊敬的《纽约时报》记者大卫·布鲁克斯于 7 月 31 日发表了一篇文章，标题是“许多人害怕人工智能，他们不应该害怕”。我所爱的七个人把他的文章链接发给了我。你看到了吗，约翰？我的大学好友写道：“他是不是太乐观了？”我妈妈发短信说：“又燃起了希望。”他们都知道这个播客，但大多数人都不看，因为“所有明日的终结”对人们来说是一个非常非常难以思考和谈论的事情。我理解，所以我要给那些我爱的人空间和时间，让他们看到我们残酷的现实是什么样的。但大卫·布鲁克斯的文章让他们都松了一口气，他告诉他们一切都会好起来的。我这辈子从未读过一篇关于人工智能更不负责任的新闻报道。所以，本周的节目，我和科技公司首席执行官兼人工智能风险降低领导者隆·沙皮拉，他主持着“末日辩论”播客，我们将逐字逐句地审视大卫·布鲁克斯的文章，梳理他危险的、不知情的、傲慢的、鲁莽的文字汤。但在我们这样做之前，我想读一封我为大卫·布鲁克斯写的一封私人信件。我真的希望他能看这个节目。你可以直接发邮件给他，他的邮箱是 da brooks@ny times.com。请大家这样做。亲爱的戴维，我给你发了邮件，邀请你来参加节目，请考虑这是一个公开的邀请。我是约翰·谢尔曼。在过去的 41 周里，我没有休息，我来到我的办公室，在周末拍摄这个播客，然后工作会持续一整周。我不休息，因为专家说没有时间了。我这样做是为了我的孩子们。我有一对 18 岁的双胞胎，一男一女。我知道你有一个儿子，他年纪更大，但我敢肯定，你的父母本能永远不会减弱。戴维，你需要知道你的儿子正面临人工智能的巨大危险。我是字面意思。父母的本能是我将我一半的清醒时间都花在提高公众对人工智能对人类生存威胁的认识上。戴维，我必须告诉你，你在几个小时内，通过一连串的敲击键盘，就打破了我的心。你为让世界更接近人工智能的末日所做的贡献，比我为推动它走向相反方向所做的所有努力加起来还要多。你拥有如此大的权力，你怎么能这样做？我那快乐的 5500 多名 YouTube 订阅者每周都在增长。我每周都会收到来自世界各地父亲和母亲的电子邮件。他们听专家的话，他们看到了威胁。但你是记者，而且不是一般的记者。人们非常重视大卫·布鲁克斯的话和想法。你拥有深刻影响公众辩论的罕见能力。那么，你怎么会离现实如此之远呢？戴维，你对人工智能的看法是一种激进的边缘观点。民意调查显示，80% 的公众清楚地看到了你视而不见但存在的危险和风险。你在关于为什么人工智能不是风险的文章中，根本没有提及人工智能风险的基本要素。以下是人工智能风险的四个要点，并不难理解或写出来：1. 前沿实验室公开承认他们的技术可以终结地球上的所有生命。2. 他们公开承认他们无法控制他们的技术。3. 他们公开承认他们不明白他们的技术是如何工作的。4. 他们花费所有的时间和金钱来使其更强大，而不是更安全。你在关于为什么没有理由害怕人工智能的文章中没有提到这些，这让我不禁想知道，你的消息来源是谁？我从未在《纽约时报》工作过，但我 29 岁时获得了皮博迪奖，以表彰我的调查性报道。我获得了环境调查报道奖，但你看，我不是科学家，所以我的故事中总是需要专家。你也不是人工智能研究员或计算机科学家，但你的文章中引用的零人工智能风险专家，这怎么可能？你在和谁交谈以获得这种对人工智能风险的极端边缘视角？你知道成千上万的顶尖学术界和企业领袖在 2023 年 5 月签署了一份声明，内容是“减轻人工智能带来的灭绝风险，应与大流行病和核战争等社会规模风险并列，成为全球优先事项”。所有大型人工智能公司的首席执行官都签署了，萨姆·奥特曼、德米斯·哈萨比斯、达里奥·阿莫代。你听说过加州大学伯克利分校的斯图尔特·罗素教授或麻省理工学院的马克斯·泰格马克吗？他们都签署了那份声明，说人工智能存在与核战争和流行病并列的灭绝风险。但他们的观点甚至比这更严峻。他们认为我们很可能在有生之年死于人工智能。那么，人工智能教父杰弗里·辛顿和约书亚·本吉奥呢？他们俩都曾经制造过前沿人工智能模型，现在都说他们后悔自己的毕生工作，因为他们认为人工智能存在让他们、他们的家人、你、我、你的孩子、我的孩子在未来几年内被杀死的不可接受的风险。大卫·布鲁克斯，你对人工智能到底知道什么，而杰弗里·辛顿不知道？恕我直言，先生，你以为你是谁？你怎么敢在没有任何证据支持的情况下，告诉数百万读者人工智能没什么好害怕的？埃隆·马斯克认为人工智能有 30% 的几率终结地球上所有生命。美国人工智能安全研究所所长保罗·克里斯蒂亚诺认为人工智能有 50% 的几率终结地球上所有生命。你怎么能得出 0% 的结论？你难道不认为开放人工智能首席执行官萨姆·奥特曼在他的原话中公开承认人工智能可能意味着“对我们所有人来说都是灯火熄灭”是值得包含的吗？许多人害怕人工智能，他们不应该害怕。你的标题是：大卫，你必须停止写关于人工智能的危险的 [脏话]，现在就开始学习人工智能风险。我对《纽约时报》以及你过去的大部分作品都非常尊敬。幸运的是，对你和人类来说，你权力的位置让你有机会纠正这个错误。为了我的孩子们和你的儿子，请观看以下采访。我们将逐字逐句地回顾你写的内容，并提供一些有信息量的评论。然后，请修正你所做的。告诉世界你对人工智能的看法是错误的。为了我们的孩子这样做。诚挚地，约翰·谢尔曼，巴尔的摩，马里兰州。好了，朋友们，请点赞、订阅、分享、捐款，传播这个信息。如果你能留下评论，请给我发邮件：for Humanity podcast@gmail.com。告诉我你在想什么。你来自远近的支持邮件对我来说意义重大。这是我和隆·沙皮拉关于大卫的文章的采访。我们来逐句分析一下。好的，所以大卫·布鲁克斯的这篇文章让我非常 [脏话] 生气。你和我坐在这里，你和我花了我们大量的时间，努力拯救我们的孩子和世界，而大卫·布鲁克斯在五分钟内告诉了数百万人，我们疯了，我们所做的一切都是 [脏话]，一切都很好。所以有数百万人会说，《纽约时报》和大卫·布鲁克斯说没什么好害怕的，所以他们会完全忽略人类历史上最重要的问题。很长一段时间了，我的意思是，一篇文章，我的意思是，我们还收到了很多说有东西值得害怕的文章，对吧？比如埃兹拉·克莱恩，我认为他有一些很好的报道。那么，你为什么如此担心一篇文章呢？我收到了七个人的信息，我生命中的每个人都知道我在做什么，没有人看这个 [脏话] 节目，没有人，我的个人生活，比如看播客，但有一种渴望，就是“没问题”按钮。他只是放了一个像州一样大的“没问题”按钮，让每个人都可以触摸和按下。这太令人沮丧了，太有腐蚀性了，就像，你知道，你和我，我花了 10 个月才获得 5500 名订阅者，一个接一个地，你知道，我周末来这里，花了我所有的时间做这个 [脏话]，而这一切都只是因为一个家伙在他的笔记本电脑上，他，他，你知道，他造成的损害比我能做的还要大，而且这让我非常生气。是的，不，我同意。我的意思是，你知道，拥有一个平台是一个很好的优势。不过，有一个数据点是，嗯，我想，你知道，人们发给你，它触动了你认识的人的神经，但没有人发给我，我也没有在社交媒体上看到它。所以我真的只是从你那里听说的。所以我想也许有一些视角是，嗯，也许这只是文章不断滴入双方。我的意思是，同时，当那发生的时候，我们也看到了约书亚·本吉奥和杰夫·辛顿联手，我忘了细节，但他们联手支持 SB 1047，并说这是我们所需要的最低限度，对吧？所以，我认为你正在看到双方都在发生事情。我感谢你，我感谢你。我只是觉得，嗯，我想说服的人从未听说过杰弗里·辛顿或约书亚·本吉奥的名字，对吧？他们听说过《纽约时报》，他们听说过大卫·布鲁克斯。这是一个，这是一个，这是一个让人们有机会说，“哦，所有那些 [脏话]，我听说它很糟糕，暂停一下，《纽约时报》说没关系，当大卫·布鲁克斯，你知道，重新发布的时候，也许我会重新考虑。”这真是太遗憾了。我的意思是，你知道，也许我们可以给他发参议员米特·罗姆尼的剪辑，有一个有点不设防的剪辑，他说“人工智能让我害怕”，你知道，就像“谢谢你，米特·罗姆尼，你说得对”。哦，我的天，我的意思是，你知道，就像，嗯，所以我想逐字逐句地分析这篇文章，逐段分析。我将阅读，我们将把它拆开。我想手术式地解剖这件事，直到剩下的是一堆散落的词语，它们已经被液化了，因为它是一篇如此 [脏话] 的灾难。这东西，好的，好的，所以我就开始吧，让我们开始吧。大卫的开场是：“我许多人文主义和文科背景的朋友都对人工智能深感担忧，同时承认其潜在的好处。”所以现在他正在将关心人工智能的人缩小到他的人文主义、自由主义倾向的朋友。这太有趣了，这是我第一次听到“末日论者”被这样描述，因为人们通常将人工智能末日论者描述为那些在互联网上躲在父母地下室的怪胎，他们非常奇怪，没有社交生活，是的，他们擅长计算机科学，他们负责维护世界的互联网基础设施，但他们是工程怪胎。现在他说“我的人道主义毛茸茸的朋友”。就像，好吧，随便吧。就像，也许只是停止描述人，进行人身攻击，也许完全去掉那些。就像，我甚至不明白，人文主义文科类型是什么？就像，Trader Joe's 的顾客之类的？他到底在 [脏话] 说什么？是的，我不知道。好吧，所以他继续说，“你知道吗？我认为，我认为这可能指的是，嗯，比如，有效利他主义者，对吧？那些为了拯救最多人类生命而购买蚊帐的人，因为那些失败者只是想拯救最多的人类生命，因为他们对此感觉良好。”好的，好的，所以他继续说，“我本人也是一个人文主义和文科类型的人，但我很乐观，同时也承认危险。”所以当我们读到文章结尾时，我想讨论一下我们是否觉得他承认了危险。嗯，对，我也想讨论“乐观”这个词，因为我不认为如果你正把车开下大峡谷，说“是的，我们会没事的”是乐观的。我同意。所以，下一段，我之所以乐观，是矛盾的，因为我不认为人工智能会像它的许多传教士认为的那样强大。我不认为人工智能最终能够取代我们。它将仅仅是一个有用的工具。事实上，我认为人工智能不会取代我们，反而会补充我们。事实上，它可能会让我们更自由地成为更人性化的人。是的，这是一个很好的想法，我认为它甚至对未来几年是准确的。我的意思是，实际上，如果你问我，“隆，你认为人工智能在变得超级智能和不可控之前，它的发展轨迹会是怎样的？”你可以区分人工智能和通用人工智能。我一直在尝试使用 AGI 作为那个可怕的词。我支持人工智能，我反对通用人工智能。在只有人工智能而不是通用人工智能的时代，我认为人工智能很棒。我希望我们能有更多的人工智能，因为它非常方便，它有助于自动化任务。当然，它可能会让一些平面设计师失业，但它可能会让其他平面设计师更有效率，并为那些失业的人找到其他创意任务。我对此完全没问题，对吧？我并不太担心像通用人工智能之前的人工智能的正常技术进步。所以，如果大卫·布鲁克斯想象的是这样，只是人工智能而不是通用人工智能，那么，好吧，那么我理解他的想法，我同意所有这些。我认为，嗯，他所说的这个世界是一种可能的结果，人类变得更好，有更多的时间。但我也觉得这段话完全是虚伪的，因为他谈论的是我们所有人都有更多的空闲时间，但他并没有真正处理失业问题。就像我们之所以有更多的空闲时间，是因为每个人都 [脏话] 失业了，对吧？我认为，我认为最终的结局将是每个人都失业，仅仅因为人工智能在所有技能上都比人类更好。我认为这就是最终的结局。但到那时，我们就处于通用人工智能的一边了。当我们处于通用人工智能的一边时，我更关心的是世界将变成一个巨大的火球。所以，在那时，你说，所以，我从未真正看到过失业是值得恐慌的事情。不，完全，完全。但我认为，如果你在做这个论点，说它会，它太棒了，不要害怕，就像，你可能会在未来几年永久失业，这不是我们应该不提及的事情。是的，我的意思是，我认为你有一个很好的观点，因为即使我告诉你我如何看待世界，我要么担心末日，要么对未来几年感到乐观，但我认为对于那些目前在客户服务或任何你能看到刀子即将到来的人来说，这是完全合理的。就像，“好吧，这太糟糕了，在世界末日之前，或者在人工智能提供一个坚实的普遍解决方案之前，我怎么才能赚钱？”我认为这是一个非常有效的问题，因为我个人认识一些真正的人，他们失业了，被人工智能取代了。所以我同意，大卫·布鲁克斯至少没有说“嘿，这里有一个问题”，这是不敏感的。是的，是的，好的，他继续说，“许多人对人工智能的恐惧是基于对人类思维的低估。”大卫爱人类，大卫认为他自己很特别，大卫认为他是一个特别特别的人。我的意思是，是的，你必须小心不要低估人类的思维，你必须小心不要高估人类的思维，对吧？你还必须小心不要低估可能思维的空间。这是我经常回到的一个观点，那就是宇宙是一个非常容易被黑客攻击的地方，它是一个非常容易被工程化的领域。而我们人类，我们是相当不错的工程师，但有可能成为比人类更好的工程师。我觉得这是大卫·布鲁克斯的思维模型中缺失的部分。我不认为他意识到工程学是一个从约翰·冯·诺依曼、沃纳·冯·布劳恩、彼得·贝克（火箭实验室）和埃隆·马斯克之上延伸的谱系。工程学比这些人类还要高得多。就像，有一个非常非常高的上限，你能成为一个好的工程师。是的，对大卫来说不是。他继续说，“有些人似乎认为，思维就像一台计算机，一切都是信息处理算法，一直如此。所以，当然，机器最终会超越我们。这是一种贫乏的观点，认为人类就是这样。这是一种贫乏的观点，认为人类就是这样。”哦，天哪，我的意思是，是的，他真的在这里偏离了主题，不幸的是，因为，就像，如果你看看大多数工作，大多数白领工作，大多数可以在办公桌前或远程完成的工作，你的老板付钱给你就是为了信息处理。我很抱歉。是的，是的。他说，加拿大的一位学者去年在《自由》杂志上发表了一篇播客，他详细阐述了思维和人工智能思维之间的区别。他说，他认为人工智能可以进行相关性分析，但它在因果关系方面存在困难。它以真或假来思考，但不是叙事的精通者。它不擅长理解时间。就像，伙计，嗯，是的，所以，哦，抱歉，伙计们，不，请，不，对我来说，就像，嗯，任何时候你谈论人工智能系统，你不应该只谈论现在发生的事情，而应该谈论在合理可预见的未来会发生什么。是的，没错。所以，我想说两点。第一，我想看看区分“有意识”和“无意识”。实际上，在人工智能中很容易找到无意识的行为。我的意思是，不完全像人类的无意识，但它是相似的。我的意思是，当你看到一个人工智能发出一个令牌字符串时，它不一定代表所有隐藏层中发生的事情。我的意思是，我们正在谈论一个有数百层的深度神经网络，是的，最后一层告诉你一个令牌的数字索引，但你无法看到其他层是如何处理的，以及信息是如何处理的，才能得到最后一个令牌。不仅如此，而且已经有很多人在测试人工智能架构，其中有一些是沉默的令牌。所以，就像，它输出 10 个沉默的令牌，然后你看到的令牌，因为它就像，我们让它思考更长时间。所以，这并不意味着这个人工智能是完全有意识的，完全明确的，而且它是安全的，容易理解的。不，不，一点也不。这个黑箱有很多黑暗之处，有很多黑暗之处。事实上，从数量上看，可能比人脑有更多的黑暗和更多的难以理解之处。它有更多的参数，更多的权重。所以，我认为他的有意识与无意识的区别完全是错误的和无用的。然后，关于第二点，你的观点，你的观点是，“嘿，这有什么意义？”他只是在说，“嘿，看看，这是今天的人工智能。”所以，他所做的就是说，“嘿，看看，电脑后面有一个开关，我可以把它关掉。”我的意思是，他说的不是字面意思，但他只是在说，“嘿，看看，我们今天还没有死。”我说，“是的，太好了，没有人说我们今天死了，我们只是说它正朝着变得更好发展。”然后他说，当他指出弱点时，当他说，“它只是在预测下一个词，而且它没有掌握所有不同的因果问题。”所以，首先，它确实掌握了很多因果问题。所以，说它不理解因果关系是不准确的，因为你可以给它一个大学水平的测试，里面有很多需要理解因果关系的新颖场景，它会答对很多，甚至可能比普通大学生答得更好。所以，当你指责它不理解因果关系的时候，通常看起来更像是，嗯，这是一个非常困难的问题，很多人会以不同的方式失败，但如果你孤立出人工智能失败的步骤，那是因为它们因果关系错了，这是公平的。仍然存在弱点，这就是为什么它还没有接管，但声称这是一个强大的失败，声称 GPT1，我们曾经构建的每个版本的人工智能仍然会在这个因果关系步骤中失败，我认为这是完全没有根据的。我认为我们都坐在这里一无所知。我们应该咬指甲，看看下一代人工智能会理解什么。绝对。好的，这是一个很好的。大卫继续说，“就像其他人一样，我不知道它会走向何方。”我们同意这一点，大卫，这一点我们可以划重点，我们同意。是的，当空调发明时，我不会预测，“哇，这会创造现代的凤凰城。”但我相信很多人在将各种人类特征归因于机器人方面变得过于草率。我同意人工智能是盟友而不是竞争对手的观点，是一种不同类型的情报，在某些方面比我们更强大，但更狭窄。我同意人工智能是盟友而不是竞争对手的观点。我的意思是，嗯，你知道，空调的例子，我只想指出，逻辑非常简单。逻辑就是，“嘿，在理想的空调中，你拨动开关，你就可以控制温度。如果存在的话，会发生什么？好吧，所有通常没有良好环境温度的地方突然都可以居住。”他认为他做不出这种推断，对吧？我不是说这是一个 100% 确定的推断，但它不是什么难推理的事情，因为它基于一个深刻、简单、稳健的原则。人类喜欢一定的温度，如果不是那个温度，他们就不能出去。但如果空调能让他们在那个温度下生活，他们就会这样做。所以，就像，你不能从中吸取一些教训吗？就像，当然，凤凰城因为空调而变得宜居。这里的类比是，“好吧，你拥有超级智能，它可以超越人类。”所以，这个简单逻辑的明显结论是，“好吧，那么，如果它比人类便宜，它就会抢走人类的工作。”或者，如果在某些情况下，它比人类更擅长操纵人类，比如夺取权力和资源，那么它就会这样做。就像，逻辑并不那么难。这就像，一旦你看到了空调，预测凤凰城将变得宜居的逻辑也是如此。是的，这就是事情变得非常奇怪的地方，也是他开始暴露自己真实想法的地方。作为《纽约时报》的作家，显然，当前的写作模型是他们可能首先攻击的东西。谁知道那会发生呢？我不知道那会发生。但就像，如果你是一名作家，如果你在使用这些模型，而你的眼睛没有睁大，你的眉毛没有竖起来，那么你就做得不够。所以，他继续说，“它已经帮助人们处理了令人厌恶的任务，比如撰写官僚式的筹款请求和营销手册。”首先，有很多 [脏话] 人受雇撰写营销手册。我认识他们中的许多人。你知道，他可能认为这是一项令人厌恶的任务，很容易被丢弃。我不知道对每个人来说是否都是如此，但没关系。营销手册或给人们的功利性电子邮件，他们并不真正关心。它可能是一个很棒的导师，将改变教育，并帮助世界各地的人们学到更多。我不同意这一点。它可能会使专业知识几乎免费，这样服务不足社区的人们就可以获得医疗、法律和其他方面的建议。它将帮助我们所有人做出更明智的决定。是的，我的意思是，看看，如果你站在人工智能和通用人工智能的分界线上，我认为这是一个相当不错的乐观总结，关于人工智能如何让生活变得更好。我的意思是，我自己也是一个相当大的 GPT 用户，我喜欢问它我知之甚少领域的知识，因为我最喜欢使用 GPT 的是，我可以问它一个我认为是一个非常独特的问题。它可能以前从未收到过那个确切的问题，但它就像我思考的方式一样，“哦，真的吗？这个东西，它得到了这个 [皮肤问题]，我做了这个治疗，为什么人们不给这种治疗呢？”我可以，我当场编造了那个问题，但它能以一种非常个性化的方式回答我的问题。有时它会给我一个赞美，比如“哦，你说得对，这是一个好观点，人们说这个和那个”，我说，“哇，这真是对信息的绝佳综合。”所以，我同意大卫·布鲁克斯的观点，它将拥有所有这些优势。在他描绘的特定场景中，它正在为每个人带来医疗保健，就像，你确定医生不会受苦吗？是的，这似乎很多医生正在做的事情被取代了，这确实是一个失业风险。但归根结底，是的，有很多好事，而且它可能是净收益。同意，但忽略免费的专业知识，就像，我们将从一个我们教育孩子 22 年来让他们在某个领域拥有专业知识的世界，我们付出了巨大的，实际的经济牺牲来完成这一切。然后，另一方面，这种专业知识将是普遍免费的，到处都是。就像水龙头里的水一样，它无处不在。而你为《纽约时报》写作，你却不考虑这种影响，这对我来说是疯狂的。是的，是的，我的意思是，看看，这篇作品很糟糕，因为它根本就没有经过深思熟虑，没有经过仔细考虑，它非常像是他个人的想法，就像一种氛围，对吧？他只是在说，“看，我感觉很好，对吧？关于人工智能，我看到我喜欢的东西，我选择只关注那些，让我通过告诉你那些让我对人工智能感觉良好的事情来照亮你的一天，好吗？但它，它作为一篇分析作品，就是很糟糕，它根本就没有代表另一方。”绝对。而且整个过程中，他都没有说，“这是我采访的一个担心风险的人，听听他们的想法。”一点也没有。所以，他继续说，“这对我们文科毕业生来说可能很好。”彼得·蒂尔最近告诉播客主持人泰勒·科文，他认为人工智能对数学人才的影响会比对语言人才更大，因为技术在解决数学问题方面比在语言练习方面进步得更快。这是一个很难区分的界限，我的意思是，就像，很难区分工作，并知道它们如何分解成语言和数学。有时你会感到惊讶，比如程序员，你认为程序员可能更偏向数学，但谁知道呢？我的意思是，我认为，嗯，甚至很难描述，很难划清界限。我认为很多人这样做都会失败。即使他说的是，“好吧，我可以做所有事情，除了因果关系。”就像，任何时候有人试图画一个圈，他们很可能在一年内感到惊讶。是的，绝对，绝对。它也可能使世界更加平等，在编码和其他领域。到目前为止的研究表明，人工智能比有成就的人更能提高不太有成就的人的表现。如果你是一个移民，试图用一门新语言写作，人工智能会将你的能力提升到平均水平。它可能会使我们生产力大大提高，财富大大增加。2023 年哈佛商学院教授与波士顿咨询集团合作的一项研究发现，与人工智能合作的顾问在 18 项不同的工作任务中，产生了 40% 的更高质量的工作成果。是的，我认为，嗯，我认为这里的关键区别是，你是否缺少一些可以借助人工智能弥补的次要技能？如果是这样，你就会受益。我认为完美的例子是一个移民，他是一个非常有才华的承包商，正在做一份工作，但当他写电子邮件时，他听起来很糟糕，因为英语是他的第二语言，现在他听起来很专业。这是终极案例，因为他正在弥补英语写作，这是他工作的一项次要技能。另一方面，如果人工智能正在做承包商的工作，那么它不是，它是在为你雇佣的人弥补，它是在为你弥补。所以，问题只是你在自己的技能和创造价值方面处于哪一边。是的，好的，他正在收尾。当然，坏人会利用人工智能做坏事，但大多数人都是相当不错的，他们会利用人工智能来学习更多，更快地创新，并取得医学突破等进步。但人工智能的最终成就是通过揭示它无法做什么来提醒我们我们是谁。它将迫使我们加倍努力于所有那些使我们与众不同的人类活动：照顾彼此，成为一个好队友，深入阅读，大胆探索，精神成长，寻找志同道合的人，并享受乐趣。是的，我的意思是，这实际上，这是一种相当可怕的处境，你必须通过看看每一代人工智能还剩下什么来找出你是谁。所以，就像，你知道，我们曾经认为我们是，嗯，劳动者，我们必须，你知道，用我们的身体来搬运重物，现在我们知道我们可以使用机械来搬运重物。所以现在我们知道我们不再是劳动者了。所以我们了解到，随着技术的发展。而且，嘿，我们刚刚了解到，当我们，你知道，花很长时间写一篇文章，总结事情，结果发现，总结，那不是我们，因为人工智能可以做到。就像，我认为你会发现，我们是谁，正在变得越来越少。当你随意地说出一些事情，比如，“我们更擅长照顾彼此。”我不知道，伙计，如果你给我一个非常好的人形机器人，它非常擅长让我感到舒适，即使是临终关怀，你认为，哦，你需要人类的触摸来临终关怀吗？我不知道，只是换床单，非常有效地，你知道，非常有效地给你盖被子，你真的需要人类来介入吗？听起来你正在用机器人完成工作，机器人从不睡觉，从不情绪低落，半夜进来，很合理。我认为你只会发现，窗口正在缩小。归根结底，就像，好吧，我是谁？我是一个大脑，在罐子里，可以，你知道，感受情绪，对吧？你可能会被简化得很少。然后，即使如此，就像，好吧，我已经编程了人工智能，让它比你感受更强烈的情绪，那么现在怎么办？是的，是的，好的，他在这里用济慈的一句话来总结。“我只确信一件事，那就是心灵情感的神圣性和想象力的真实性。”济慈在人工智能的变动中观察到，我们仍然可以确信这一点。结束。对大卫来说，我的意思是，是的，就像，情感是真实的，你知道，情感是真实的，爱是真实的。我的意思是，唯一的问题是，这并不意味着你可以控制未来，或者对正在发生的事情有任何影响力，以及你如何被剥夺权力。所以，我们想做的是，我们想与人工智能共存，而不是意外地被消灭。我认为，如果我确信人工智能会与我们和平共存，而不是消灭我们，那么我会说，“好吧，太好了，让我们继续享受更积极的人类生活。”我认为手头的问题是他甚至没有参与的，就像，我们将要处理一个非常强大的力量，但他却忽视了它。他说，“嘿，它不能做因果关系，它只能预测下一个令牌，所以我们都很好。”鉴于我们都很好，这就是为什么生活是美好的。所以，就像，我们已经在各说各话了。是的，是的，而且，就像，整个事情最糟糕的部分是，文章的标题，整个事情是，“许多人害怕人工智能，他们不应该害怕。”而且，虚伪的标题。是的，因为他没有，他实际上没有说为什么我们不应该害怕。这很悲伤。所以，我认为你在两件事上是专家，隆，你是一个分析某人论证能力和他们所做的论证的绝佳人选，而且你在人工智能领域也拥有深厚的技术知识。那么，给大卫的这篇文章打个分数吧，在任何一个标准上，无论是“对人工智能现实的真实性”还是“论证的艺术”。让我们看看，我会给它一个 F。 [音乐] + 妈妈，我得了 F+。是的，是的，我认为这是公平的。我的意思是，我不得不给它一个 F，因为它就像，你知道，它说“不应该”，它假装要做一个论证，然后它真的没有参与。我的意思是，如果你和任何末日论者交谈，你都在和末日论者的核心主张各说各话。我的意思是，加号的原因只是因为，你知道，他触及了一些事情，比如，“嘿，积极的影响”，他描述的，尤其是在我们达到通用人工智能之前，那么他就有道理了。所以他说了一些我认为是合理的观点。但之所以我甚至不能给它 D，是因为我认为在论证的标准方面，如果你想让裁判说你符合参与话语的资格，我认为他没有达到最低要求，来说“这是一个真正的论证”，而不是“这是一些氛围，我只是闭上眼睛，忽略另一方”。我更倾向于后者。绝对。大卫在《纽约时报》读者的瑞士奶酪式文字沙拉中最大的漏洞是这个：他表现得好像我们现在拥有的人工智能就是终点。他似乎不知道人工智能的日常进步让包括其创造者在内的所有人感到惊讶。他似乎不知道今天的人工智能还是个蹒跚学步的孩子，而青少年人工智能可能会比家用汽车造成更多破坏。大卫，你根本没有提到通用人工智能。恕我直言，你到底在 [脏话] 写了什么？你写了一整篇关于人工智能风险的文章，却没有任何关于风险的提及，甚至没有 AGI 的字母。所以，朋友们，我需要你们帮个忙。让我们确保这段视频能送到大卫·布鲁克斯那里。分享它，发布它，直接将你的担忧通过电子邮件发送给大卫。他的邮箱是 da brooks@ny times.com。好了，关于大卫·布鲁克斯就到这里。我度过了非常糟糕的一周，我想和你分享一下。嗯，我跟你说过我最喜欢的狗，我养过的，我的宝贝多莉，她是金毛寻回犬和伯恩山犬的混血，她和我妈妈住在一起。她出生在我儿子房间里，大约两年前，不到两年前。所以她一直在呕吐食物。所以我带她去看兽医。长话短说，他们给她做了 X 光检查，她患有膈疝，在她胸腔里生长了她的一生。它将她所有的主要器官从它们应该在身体里的位置推到了她的胸腔里，她所有的主要器官都移位了。她的肠子本应在她的胃里，却在她的喉咙里，压迫着她的气管，导致她无法进食并呕吐出来。这段视频是我手术前一晚拍的。我陪了她一夜，认为这很可能是我们最后一夜。也许她只是水面上的闪光，一只穿过我们生活的蝴蝶。她接受了高风险的大手术。他们把她所有的器官都移回了原来的位置，而且效果非常好。我非常高兴地报告，她恢复得非常好，她很强壮，她想疯跑，但她有四周的严格活动限制。所以祝我好运。我为什么告诉你这个？两年前，我可能会崩溃，哭泣，然后彻底崩溃，当医生给我那个诊断时。但人工智能的风险让我变得更坚强了。只要人类今天还有机会，今天就是美好的一天。即使发生了一些其他非常糟糕的事情，你也可以和我一起做到。我知道你可以。微笑，人类无论如何都会微笑。我们在这里，我们还活着。好了，对于新来的观众来说，现在是 2024 年，我们不知道我们还有多少时间。所以我们每天都过得像最后一天一样。我们以我称之为“生命庆典”的方式结束每一场演出。就是一些让我们感到活着很棒的事情。所以，在多莉手术后两天，我计划回到拉斯维加斯，去球体看 Dead & Company 的演出，和一些我生命中最喜欢的人一起。再次为糟糕的摄像和剪辑道歉，用手机几乎不可能捕捉到球体的体验，但这会让你对这个地方有所感觉。我不确定我是否曾经在一个充满如此积极能量的房间里。这是一个神奇的地方。 [音乐] 你眼中的黑暗，来自你的，来自你的，黑暗，来自你的，是的，哇。 [音乐] 不可能。 [掌声] [音乐] [音乐] [音乐] 在马克，不，很快。 [音乐] 不，不。 [音乐] [音乐] 好的，我的朋友们，请记住，人工智能风险不是别人的问题，而是你和我。引用玛格丽特·米德的话：“永远不要怀疑，一群深思熟虑、有奉献精神的公民可以改变世界。事实上，这是唯一曾经改变过世界的事情。”为了人类，我是约翰·谢尔曼。下周再见。 [音乐]