Transcription
人工智能的未来发展方向是每个人都将成为一名企业家。我认为很多人将能够重新学习技能。为什么我们认为他们会成为企业家？他们将依靠什么技能来突然区别于人工智能？我们没有证据表明它能产生根本上新颖的事物或范式转变。机器能从牛顿物理学过渡到量子力学吗？我不明白为什么普通人现在要做一些事情，其中包含了这种范式转变的量子力学发现。欢迎来到“末日辩论”。今天我将对 Amjad MSAD 最近在 Joe Rogan Experience 上的采访做出反应。Amad Msad 是 Replet 的创始人兼首席执行官，这是一家非常有意思的公司。他们生产出色的产品。很多人正在使用 Replet 来原型化新的软件产品、新的网站，甚至部署它们。这是一个非常令人印象深刻的产品。你可以构思、原型化、部署。我自己可能会更多地使用它来处理各种项目。我认为他们在该产品上付出了非常出色的工作，并且它已经成为新闻，因为在去年，据称，由于他们新的人工智能代理集成，他们的年收入从 1000 万美元增长到了 1 亿美元。所以，你可以打开 Replet，告诉人工智能你想在 Replet 中做什么，它就像一个为你工作的软件工程师，它会为你构建整个网站，并将其提交到 Git 源代码管理。所以，老实说，Replet 上的这个产品非常令人印象深刻。但这并不是一个关于 Replet 的播客。这实际上是关于他想与 Joe Rogan 讨论的各种话题。而我感兴趣的是 AGI（通用人工智能）以及未来几年人工智能的进展将是什么样子。播客中有很多关于这方面的内容。所以，我将摘录这些片段并逐点做出反应。Amjad 的 AGI 立场是相当独特的因素组合。他承认了很多人工智能公司谈论的常规事情。他说：“是的，它们会变得更好、更聪明，Replet 将成为一个越来越强大的工具，我们将自动化软件工程。”但他对超级智能持相当怀疑的态度。他不认为在未来几年里，你会拥有一个在几乎所有技能上都比人类更强的人工智能。他划定了一条界限。说实话，我不太清楚他划定的界限在哪里。我将在采访过程中尝试进行剖析。我认为这是一个特别有趣的采访，因为一个成功的、富有远见的、产品领导型的 CEO 能够自信地就 AGI 的未来发表意见，并且拥有相当不寻常的观点组合，这是很少见的。总的来说，你会看到我与他的观点有很多分歧。我不认为他关于 AGI 的信息非常有建设性。所以有很多可以不同意的地方，但我也可能错了。所以请自己听一下这期节目，然后告诉我你在 YouTube 评论区或我的 Substack 上的想法。我们开始吧，Amjad Msad 在 Joe Rogan 的节目上。好的，在采访的早期，他提出了一个相当宏大、令人印象深刻的 Replet 的愿景。我们希望将人工智能编码带给字面意义上的每一个学生、每一个政府雇员、每一个……因为它的意义在于，不仅仅是企业家会从中受益。我的未来愿景是，人工智能将走向每个人都将成为一名企业家。真的吗？是的。每个人都将成为一名企业家。真的吗？真的吗？这说得通吗？首先，我忍不住注意到这里存在一些偏见。比如，Amjad 本人就是一名企业家，这并非巧合。他说，你知道吗，未来每个人都将成为一名企业家。这是一个人类绝对能发挥价值的职业。像我这样的人的工作保障非常牢固。这是一种偏见，因为如果你还记得几周前 Richard Hania 来我的节目，他说人工智能永远不会取代 Scott Alexander 的博客写作。你知道，因为 Richard 本人就是一名博主。然后几周前，Mark Andreesen 说人工智能永远不可能成为风险投资家。那可能是人工智能将要取代的最后一个职业，因为识别创始人才能是一项独特的人类技能。所以，每个人似乎都有这种偏见，他们习惯于应对自己职业生涯的浪潮。所以，每当有什么被动摇时，他们就会回顾自己的记忆，然后说：“啊，是的，我刚刚适应了这种动荡。我转移到了更高的地带，并能够恢复我的职业生涯。”所以，当人工智能革命到来时，像我这样的人仍然会随波逐流，因为我们一直都是这样。这似乎就是这里的偏见所在。但让我们把这一点放在一边，好吗？忘掉偏见。顺便说一句，我本人也是一名企业家。我不是像 Amjad 那样的大亨，但我是一名小规模的企业家。而且我确实认为我能理解 Amjad 的意思。我确实认为我将想出一些可以卖给人们的东西。我以前做过。所以我理解你，Amjad。但让我们客观地思考一下。我认为 Amjad 的说法有两个部分。一是像他这样的顶尖企业家，顶尖企业家将长期拥有工作。这有一定的合理性，因为我认为企业家是那些对未来拥有很大掌控力的人。企业家所做的事情的领域非常广泛，因为他们的业务中可能发生各种各样的事情。他们只需要对可能发生的任何事情持开放态度，比如法律诉讼，或者你的供应商惹恼了你，或者你的客户惹恼了你，或者政府惹恼了你，你只需要随波逐流，而且可能会有各种各样的打击。你知道，你的员工有问题，你管理着这么多人，这么多部门，一切都归结到你身上。每一个问题都归结到你身上。所以，在广泛的领域结果控制力方面，我认为这是我所认为的令人恐惧的超级智能的核心。我认为结果控制力将是超级智能人工智能强大而可怕的地方。我同意企业家或首席执行官可能是人类中最具这种能力的人。你知道，埃隆·马斯克可能像任何其他人一样，牢牢地掌握着人类未来的方向盘。所以，Amjad 说企业家将是最后一个被取代的人。我的意思是，他说的不是完全一样，但如果这是他的说法，那对我来说确实很有道理。企业家是那些能够在洪水来临时逃到最高地带的人。这说得通。但 Amjad 实际上说的是，他谈论的是普通企业家。他的确切引述是，人工智能的未来发展方向是每个人都将成为一名企业家。而这时，事情对我来说就真的说不通了，因为想想“每个人”是谁。每个人都是普通人，他们曾经在客户服务部门工作，然后被解雇了，因为公司将一个由 100 名客户服务人员组成的团队缩减到了 10 人，而人工智能基本上承担了其他 90 人的工作。或者他们曾经做过外展销售，打了很多电话，现在人工智能已经自动化了这项工作的大约 90%，你知道，并且正在接近 100%。每个人都在教育领域工作，他们是高中教师。这就是每个人。他们的工作范围很窄。他们不像那些应对各种攻击、解决困难问题的、拥有巨大结果控制力的人。不，他们有相当明确的工作范围，并且他们花了多年时间来适应在这种范围内工作。所以，在这个新的经济体中，当你拥有这个能够做所有这些不同事情的新人工智能时，为什么我们认为他们会成为企业家？他们将依靠什么技能来突然区别于人工智能？嗯，他们现在有能力向 Replet 这样的工具发出提示，他们将成为项目经理，拥有一支非常优秀的工程师团队。工程师们将交付，比如说，好的软件。我的意思是，现在还有一些问题需要解决，但假设几年过去了，软件变得非常好，任何人都可以拥有一个合同工程师团队。这能让普通人成功吗？你可能会说，“是的，因为现在普通人可以这样说：‘嘿，我要发明我自己的电子商务业务。我要想出一些可以卖的东西，人工智能会为我制造它，它会为我构建软件，我只需要收取利润。’”但现在你必须放大并问：“等等，人类做的关键部分是什么？卖什么的想法。”所以现在就归结为头脑风暴。你知道头脑风暴的挑战，让我们正面交锋，人类对人工智能，谁能坐下来进行更好的头脑风暴。因为一旦人工智能比人类更擅长头脑风暴，为什么人类会是他们电子商务业务中赚取更多利润的人？就像你将拥有一个由人工智能驱动的电子商务企业，这个企业是由人工智能构思出来的，它将比人类卖得更好，并且利润率会更低，因为它不需要支付人类的间接薪资。事实上，你将拥有一个拥有数百万人工智能的企业家，而所有这些数百万人工智能都扮演着企业家的角色，进行头脑风暴。所以，你有一个巨大的金字塔，即使是创业层也向上汇报给某个人类巨头所有者，比如说。然后是那些像“妈妈和爸爸”一样的人，比如“我有一个想法，要 3D 打印基于一本我找到的、已过版权的冷门旧小说的人物模型，对吧？”这就是普通人可以做的人类创新。但人工智能也在大规模地做这件事。那么，人类的差异化到底在哪里呢？这就是我希望 Amjad 能更具体说明的地方，因为我认为他把它留给了观众去弄清楚他在说什么，当他说每个人都可以成为企业家时。或者也许他没有想到，人类所增加的东西，比如头脑风暴，或者生活经验，或者别的什么，人工智能仍然可以正面交锋地做到。让我们看看 Joe 是否能问 Amjad 需要问的那些显而易见的后续问题，或者 Joe Rogan 是否会就此打住。嗯。我想知道他会怎么做。我未来人工智能的发展方向是每个人都将成为一名企业家。真的吗？是的。所以，你知道，这是最好的情况。而不是每个人都获得普遍基本收入，国家控制一切，一切都通过自动化完成。我不相信。你不信？我不信。我不信。好的。帮帮我，伙计。给我一个积极的、乐观的看法，人工智能将为我们做什么。是的。所以人工智能擅长自动化。我认为人类仍然具有至高无上的地位。Amjad 使用“自动化”这个词的方式，比我使用这个词的方式更受限制。我只会用“自动化”这个词来说，“哦，是的，它正在接管人类正在做的事情，然后它在做。”所以，如果一个人类企业家正在创业，那么人工智能可以自动化创业。但显然 Amjad 想把“自动化”这个词只用于有限范围的自动化。所以，如果它像工厂装配线，那就是自动化。而且，如果它是在编写代码块，那也算自动化。但如果它像管理一个大型软件项目，我认为在 Amjad 的术语中，他希望你不要称之为自动化。比如，当它的范围非常大，或者当你必须注入真正的创造力时，它就不再是自动化了，假设你不需要真正的创造力来编写代码块。你只需要真正的创造力来管理大型软件项目。我现在甚至不是在试图表达一个观点。我只是在设定你对 Amjad 将如何使用“自动化”这个词的期望。所以，让我们继续。从根本上说，我们今天拥有的大型语言模型是经过大量数据训练的统计机器，它们可以做惊人的事情。别担心，伙计们，它们只是统计机器。所以它们能做的唯一工作就是统计机器的工作。平面设计师，结果发现那是一项统计机器的工作。初级软件工程师，结果发现那是一项统计机器的工作。别担心，在某个时候，当你达到企业家时，那将不是一项统计机器的工作，但它将是一项普通人可以做的工作。好的，这些是你想要进入 Amjad 世界观所需的所有推断。我对人工智能非常看好。我喜欢它将改变世界。但同时，我不认为它会取代人类，因为它是不能泛化的，对吧？人工智能就像一台巨大的混音机器。它可以混音它学到的所有信息，你可以产生很多有趣的想法和有趣的事物，你可以通过混音所有这些事物来获得很多技能。好的。好的，所以根据 Amjad 的说法，人工智能不会泛化，这就是为什么它不会取代人类，因为人类会泛化，而人工智能让你印象深刻的一切，结果只是它在使用统计和混音。而人类可以做的不仅仅是统计和混音。所以，人工智能和人类之间存在某种分隔。当然，如果你想检验那种抽象的说法，检验它的方法就是通过这些具体的例子，比如，“嘿，Amjad，这里有一个具体的例子。管理一个电子商务企业，一年 365 天中的 300 天，然后你将另外 65 天委托给一个人类，你知道，兼职企业家来处理棘手的事情，但你一年管理 300 天。这是一个人工智能可以完成的任务吗？我能通过混音和非泛化统计来管理一个年收入 2000 万美元的电子商务企业，然后只把最后 10% 或 20% 的时间委托给人类吗？这是否属于 Amjad 对世界的划分？这很不清楚。我想让你们留意这种把戏。这是一种修辞技巧，实际上大多数时候使用这种修辞技巧的人自己都不理解它。所以我实际上认为 Amjad 是这样想的。我不认为他思考的水平会超越他与 Joe Rogan 交谈时使用的修辞。我认为他是许多抽象思考者之一，他们不剖析自己的抽象。当你观看“末日辩论”时，有时你会学到关于如何富有成效地思考的课程。所以，在这种情况下，课程是具体思考。这和你几周前观看我反应 EMTT Shear 节目时学到的课程是一样的。我对 EMTT 试图教给我们的很多概念都有很大的意见。我反对这些概念过于混乱，可能自相矛盾，可能无用。我对他提出的任何概念都不信服，因为在整个谈话过程中，他都没有进行将他的抽象概念映射到具体例子的练习。所以，整个反应节目都是我试图为他做他的工作，就像“好吧，这里有一个具体的例子。EMTT Shear 的区分对这个有什么看法？不清楚。也许他的意思是这个。也许他的意思是那个。”无论如何，我看不出这有什么有用的区别。所以，如果你想听我花一两个小时做这件事，去看 EMTT 的节目。现在我发现自己也在做同样的事情，因为当他含糊其辞，当他使用这些抽象概念时，它们在抽象层面听起来似乎很有道理。当他说人类泛化，人工智能不泛化时，听起来似乎很有道理。人类做一些神奇的事情，人工智能只做统计和混音。听起来似乎很有道理，但然后你拿出具体的例子。如果有一个现有的、运转良好的企业呢？比如一个电子商务企业，它已经运转良好。那么，企业已经有运营记录的事实是否意味着你不再需要企业家来经营这家企业了？Replet 呢？Replet 是你自己的企业，Amjad 的企业。Replet 是一种不断创新的企业。所以，很容易说，好吧，Replet 可能是人类需要掌舵时间最长的企业之一，因为它不断思考新的方向、新的战略。好吧。我的意思是，这家伙是一个有才华的企业家，对吧？我愿意承认这一点。我愿意说你显然做得比统计工作多。你将是人工智能取代的最后一个人。但如果你看一个典型的企业，一个小企业，就像我以前经营过小企业一样，我不认为它们有什么特别之处。如果你看一个典型的电子商务企业，好吧，这是一个已知的模式，就像是的，他们每天都在努力。他们正在寻找小技巧，小改进，但整个企业都有你可能称之为混音模式，对吧？Amjad 说混音是人工智能所做的。那么，经营电子商务的企业家，他现在失业了吗？还是现有的企业家仍然会从事这项工作？当谈论人类去创业时，这是对 Amjad 最明显的问题之一。创业的类型必须是发明一条新业务线，发明下一个谷歌，下一个 Replet，还是你只能开一家餐馆？就像世界上大多数企业家，他们只是开一家餐馆。他们只是开一家书店或激光枪战。就像世界上大多数企业家都在做的那样，对吧？他们经营自动售货机。所有这些类型企业家的工作，他们会被人工智能取代，然后他们必须成为一种新型企业家吗？所以，我在这里做的不是反对 Amjad。我实际上只是指出，他的区分，因为他选择只在抽象的含糊其辞的层面进行区分。他认为说“人工智能不会泛化，人工智能是统计的，人类会泛化，人类不是统计的”就足够了。因为他告诉我们的就是这些。他没有给我们更多信息。因此，当我们甚至问自己 Amjad 的意思时，我们就会遇到问题。甚至不清楚他是否认为现有已知类型企业的企业家，那些可以进行统计分析的、可以进行混音的企业类型。甚至不清楚 Amjad 是否认为这些企业仍然需要人类企业家。而这将是 Amjad 的人工智能主张的模式，他将坚持抽象层面。他不会将自己的主张置于基本具体的测试之下，以检验他的意思。所以，我将通过攻击他的基本定义来反对他。就像这期节目的风格一样。但是，我们没有证据表明它能够产生根本上新颖的事物或范式转变。我认为在某种程度上，他知道自己说得不清楚。他没有划清人工智能能做什么和不能做什么之间的界限。与其帮助我们，并做一些真正能划清界限的事情，那就是通过一些具体的例子来解决，比如一个经营电子商务企业的人的例子，当人工智能变得更好一点时，这个人是否就失业了，或者不，这个人是否仍然可以成为一名企业家，即使他的企业家现在遵循的是一种混音模式，还是他必须找到一种新模式，并拥有一家像 Replet 一样创新的企业？同样，这些是 Amjad 在想要增加清晰度时可以回答的问题。我认为在某种程度上，他知道在这种对话中需要更多的清晰度。但他试图增加清晰度的方式不是降低抽象层次，并将他的抽象主张映射到具体例子。他所做的不是，他仍然停留在抽象层面，并试图叠加更多的抽象。他认为，如果他给你足够多的同义抽象，那就能增加清晰度。他一开始告诉我们人工智能是统计的，然后他叠加了它们不会泛化，它们只会混音的说法。现在他又叠加了另一个同义抽象。他告诉我们它们不能改变范式，也不能产生根本上新颖的事物。所以我希望你已经记住了这些同义抽象的堆积。在他的脑海里，既然他叠加了这么多不同的抽象，那么听众就有责任去理解。他认为他已经说清楚了。而从我的角度来看，通过具体的例子来检验，他所划定的界限在哪里，完全不清楚。完全不清楚你作为企业家经营的企业类型属于混音，还是属于根本上泛化、新颖、范式转变的企业。如果我有，你知道，像 Zappos，那是一个范式转变吗？他们做了很多不同的事情，但他们仍然是电子商务，对吧？他们卖鞋，但他们有非常好的客户服务，而且他们允许你退货。他们有更好的退货政策。所以，Zappos 是电子商务品牌的混音，还是仍然是电子商务品牌？不清楚 Zappos 属于他自己区分的哪一边。而不是澄清这些非常基本的意义澄清问题，他所做的就是叠加更多的同义抽象。在他的脑海里，我认为他认为他只能做到这些，因为大多数人类都有抽象层次的失明。他们没有意识到抽象层次的存在。他认为，如果他说它们不能进行范式转变，他就已经说得很清楚了。他说：“我把话说清楚了。我说没有范式转变。你不知道什么是范式转变吗？”而增加清晰度的真正方法，我在许多节目中反复强调，增加清晰度的真正方法是检查一系列具体的例子，解决具体的例子。通过这样做，你会看到你想要表达的意思的清晰度大大提高。那么，他到底想说什么呢？事情是这样的。他不想说他已经说过的话。所以，并不是说有一个秘密的具体含义是他试图传达给我们，而他只是因为不具体而失败。不，在他自己的脑海里，他只有抽象概念。所以，一个类比，如果你想进入，一个类比就像一个孩子在玩 Duplo 积木。你知道，就像乐高积木和 Duplo。Duplo 就像乐高积木一样，尺寸是原来的四倍，是给孩子们玩的，而且我认为它们仍然由乐高公司生产。所以，在大多数人的脑海里，我并不是专门针对 Amjad。顺便说一句，这实际上是大多数思想领导力是通过组合 Duplo 来实现的。所以我说，看，我已经把话说清楚了。我有一个大的 Duplo。这个 Duplo 叫做泛化。我有一个大的 Duplo 叫做范式转变，叫做混音。你看不出来吗？我把这些 Duplo 连接起来了。我现在告诉你了人工智能能做什么，不能做什么。而我在这里用我的乐高积木，我看着，嗯，我看到的实际形状看起来有点杂乱，对吧？看起来很多乐高积木以一种复杂的方式组合在一起。我看到你那边有 Duplo。我不知道你的 Duplo 如何对应我的乐高积木。你能给我一些例子吗？而我只是说，“不，我可以重复我说过的 Duplo。我会给你我正在使用的 Duplo 的另一个同义词，我会忽略你的乐高积木。”比如，我给了你一个公司的详细描述。或者，你知道，你可以谈论另一个职能，比如，你知道，成为一名律师，帮助公司应对复杂的法律挑战，比如，一个竞争对手向你发起了一个复杂的法律挑战。你将如何应对这个挑战？这需要创业精神吗？这需要非混音的范式转变的创业问题解决能力，还是我只能混音其他已经审判过的法律案例？比如什么是混音，什么不是？我不知道。我没有得到任何具体的清晰度。好的，这不仅仅是我的随意发挥。这会一次又一次地出现，因为这是人类思维的一个主要限制，我们就是无法具体化，而具体化实际上会增加清晰度。相反，我们倾向于重复并陷入我们的 Duplo 级别的抽象主张。我们没有证据表明它能够产生根本上新颖的事物或范式转变，比如机器能从牛顿物理学过渡到量子力学吗？比如真正对我们理解事物或做事方式产生根本性颠覆。我认为我们已经在谈论人类发明量子理论很有趣，因为请记住 Amjad 的确切说法是，工作的未来是每个人都成为企业家。每个人。意味着普通人正在用他们的大脑做一些人工智能无法接近的事情。而现在他跳到了量子力学。所以他说，“嘿，你知道普朗克、海森堡和薛定谔是如何发明量子力学的吗？好吧，二手车店的 Gus 也将在他的工作中做一些类似的事情。”好吧，我们能更具体一点吗？因为我明白发明量子力学意味着什么。我明白使用 Replet 来订购它来构建应用程序意味着什么。我不明白为什么普通人现在要做一些事情，其中包含了这种范式转变的量子力学发现。因为谈谈一个具体的人。想想你自己的朋友，他们有普通的工作。想想在沃尔玛工作的普通人。在沃尔玛公司内部或沃尔玛商店里。那个普通人，他在做什么事情，具有足够多的量子力学发明，就像是维尔纳·海森堡所做事情的缩影？这个普通的沃尔玛员工，现在正在转行成为企业家。他在日常、每周或每月做什么事情，是海森堡方程的缩影？那个小小的缩影是什么？如果我回顾我自己的生活，我上个月做过的最像薛定谔方程的事情是什么？我认为是微不足道的。真的就是，“好吧，查看 Slack，尝试解决人们的问题，但他们的问题与我以前见过的问题有些相似。查看我的会计仪表板，处理工资单，处理随机出现的事情，打开我的邮件，遵守政府要求的各种规定，你知道，税务义务，工人赔偿，比如随机的事情。我可以告诉你我的职位描述是企业家，我没有做任何海森堡式的事情。我真的只是日复一日地过日子，只是混音我的生活。我没有在我的日常工作中改变任何范式。那么，我们是怎么走到这一步的？Amjad 是如何声称普通人现在将成为企业家，然后又跳到谈论量子理论的？你不认为 Amjad 有责任画一条连接量子理论发明者所做的事情和普通人现在正在做的工作，他们将成为企业家之间的联系吗？你怎么把这两件事联系起来？因为是的，我明白顶尖人类在物理学上取得了范式转变。这对大多数人来说很难。这对今天的人工智能来说很难。好吧。但你如何调和这一点，你的说法是普通人类将成为企业家，而人工智能不会比他们更擅长创业？他把逻辑留下了。他永远不会完全弥合这个逻辑鸿沟。再说一遍，弥合逻辑鸿沟的方法就是更具体。就像给我讲个故事。给我讲一个可信的故事。当一个人在谈话中提出了一个抽象的说法，却没有让你想象一个支持性的假设故事来解释他的意思时，这总是危险信号。这是一种非常有效、狡猾的修辞手法，因为他同时未能提供他应该提供的最低限度来形成一个连贯的观点，但他这样做时听起来并不愚蠢。他实际上听起来很聪明，因为人类确实倾向于将说抽象话视为一件聪明的事情。所以，这里有一个人，他给我抛出了这么多抽象概念。他抛出了统计机器、范式转变、泛化和混音。他给我抛出了所有这些高高在上的抽象概念，然后他就离开了。就像猫王离开了现场。他没有给我任何具体细节，但没关系。具体细节只是脏活，你知道的。没必要弄脏手去谈论那些目前在普通工作中就业的人将如何改变就业，成为企业家，并做一些有说服力的事情的具体例子。没有必要深入研究这些细节。看看这位天才创始人，他正在进行如此高层次的谈话。每个人都可以成为企业家。砰。说得好，Amjad。继续给我们抛出更多的抽象同义词。对我来说，作为一个理解清晰沟通需要具体支持性例子来解释抽象观点的人来说，这相当令人沮丧，而没有得到这些具体例子，并且怀疑说话者没有连贯的观点，然后采访者，比如 Joe Rogan，根本不知道这是怎么回事，就结束了采访，就像“哦，谢谢你的启发。”你知道，这让我很沮丧，这就是我拥有这个节目的原因。我可以发泄。我可以提高讨论的水平，通过点名批评。这实际上是一种话语层面的失败。关于抽象主张的讨论应该包括支持性的具体例子。这是我将经常强调的一个观点。机器能从牛顿物理学过渡到量子力学吗？比如真正对我们理解事物或做事方式产生根本性颠覆。你认为这需要创造力吗？我认为这绝对需要创造力。而且，至少目前来说，这是人类独有的特征。至少目前。绝对是目前。所以，他们随意抛出的同义抽象的堆积正在变得越来越大。仅仅告诉你们人工智能不能发明新范式，或者做非统计性的事情，或者真正泛化，这还不够。现在他们还必须告诉你们，人工智能不能真正有创造力。至少目前，真正的创造力只属于人类。这很有趣，因为你称之为混音的东西，如果我能把时间倒回五年前，我说，“嘿，这是一篇非常好的文章。这是一段非常好的类比，用来向一个五岁的孩子解释一个概念。你知道，你可以在一个提示中要求人工智能为你解释，并得到一个相当令人满意的答案。如果我五年前就给你看了输入输出，我会说，“你怎么看这项工作？你认为有人能在没有创造力的情况下完成这项工作，还是你认为完成这项工作的行为就是一种创造力？”我不知道你怎么想，但我肯定会告诉你，完成这项工作感觉就像一种创造力。它甚至能让你在阅读时产生情感反应。它以前从未被写过。它与其他写过的东西不太相似，你知道，因为你可以给它 10 个不同的约束条件来真正获得一些相当新颖的东西。我知道你可以称之为混音，但它与以前出现的任何东西都大不相同。那种提示以及相关的输出对我来说确实是一种辉煌的输出，一种创造性的输出，但我只是在这里解释他们的本体论，解释他们术语的选择。好的。所以现在我们正在给这些输入输出，这些作品贴标签。我们现在称它们为非创造性的。所以，无论你进入什么真正的创造力领域，我们还没有进入，通过做这些，哦，哇，你画了一幅非常好的画，足以让我直接用于制作。你知道，我经常引用的 YouTube 缩略图，它们几乎都是由人工智能生成的，但不行，它们不是真正有创造力的。它们只是从未出现过的 YouTube 缩略图，它们的作用是吸引人类点击我的视频。但这里没有真正的创造力，好吧。我不是来玩文字游戏的。我在这里指出的是，当你把创造力的标准定得这么高时，我必须回到那个二手车销售员 Gus，Gus 将要做什么事情，才能利用如此多的创造力？Gus 在过去一年里做过什么创造性的事情，能够代表比 GPT 写文章和画新设计更高的创造力水平？创造力在哪里？或者也许 Amjad 会承认，好吧，Gus 没有表现出那种创造力。但也许 Amjad 必须撤回他的说法，即 Gus 将会凭借这种海森堡式的创造力进入企业家这个职业。Amjad 期望我们相信什么？感觉就像你可以打开他抽象主张的陷阱门，看到一团糟。他并没有真正思考过他所声称的世界观的基本细节。实际上，我最喜欢的 Joe Rogan 节目之一是 Roger Penrose。你还记得他吗？是的。哦，天哪，我们要开始谈论 Roger Penrose 了。我强烈建议搜索“末日辩论 Roger Penrose”，或者我会在节目说明中放一个链接。几个月前，我对他提出的主张做了一个相当详尽的反应。简而言之，完全错误和荒谬，这很令人震惊，因为这个人非常聪明。他差点获得了诺贝尔奖，但最终给了我。或者等等，是这样吗？不。他获得了诺贝尔奖，而我没有。然而，他的想法已经边缘化了几十年，他一点也没有改变主意。我不想深入探讨，但如果你看了我的节目，他提出的关于哥德尔定理、量子微管和不可计算意识的主张，真是令人费解。而且他顽固地坚持着，尽管绝大多数计算机科学家和哲学家都告诉他他在胡说八道。所以，当然，Amjad 会争辩说 Roger Penrose 完全说得通，这就是为什么他的创业理论将准确地描绘未来，因为 Roger Penrose 是正确的。太好了，我们听听。你还记得他提出的关于人类为何特殊的论点吗？他好像说了些什么……他相信有些事情是真实的，只有人类才能知道它是真实的，但机器无法证明它是真实的。这基于……哥德尔不完备定理，以及一个想法，即你可以构建一个数学系统，其中有一个悖论陈述。所以，例如，你可以说……G……比如，你可以说这个陈述在机器中是不可证明的，或者机器无法证明这个陈述。所以，如果机器证明了这个陈述，那么这个陈述就是错误的。所以你有一个悖论，因此这个陈述……从观察者，比如人类的角度来看，它是真实的，但……但在这个系统中它是不可证明的。所以 Roger Penrose 说这些在数学上没有真正解决的悖论，而机器……对人类来说都不是问题，因此他有点……有点跳跃地说，因此人类有一些特别之处，我们不是根本上的计算机。对，这说得通。实际上，这说不通。我认为 Amjad 努力向观众解释 Penrose 在说什么，当他说哥德尔不完备定理是人类可以做机器不能做的事情的证据时。他做得相当好，对于一个临时查找知识的人来说。但他对实际描述的质疑非常大，比如他说机器看不到陈述为真的真相。嗯，等等。机器只是不能假设集合论的公理是真的。然后人类可以这样说，“你知道吗，它们对我来说是真的。”我将假设它们是真的。而且因为我能假设这一点，而我故意不让我的机器假设这一点，因为这个原因，我才知道了这个哥德尔陈述 G 是真的。因此，我比机器好。这基本上就像人类可以随意进入并创建自己的公理，他们允许自己接受。他们故意阻止他们的机器接受它们。我并不指望你理解我刚才说的话，如果你还没有接触过哥德尔定理和 Penrose 的论点。我之所以这么说，只是想让你知道，很容易反驳 Amjad 和 Penrose 所说的实质内容。但这实际上不是我想让你在这期反应节目中关注的。如果你去听我的 Penrose 节目，那才是我想让你关注的。现在我想让你关注的是，Amjad 现在所说的一切，这与 Gus 在二手车店工作以及 Gus 成为企业家有什么关系？Gus 何时去查看哪台机器将证明形式集合论中的哪个陈述的真相？我不认为二手车店的 Gus 曾经做过这件事。所以 Amjad，与其让我们悬而未决地听这个关于形式系统的抽象论证，为什么不联系起来说，“嘿，你还记得 Gus 有一次不得不摇晃他办公室的苏打水机才能让苏打水出来吗？那是一种新的范式，正式系统永远无法证明，只有 Gus 能做到，因为他是人类。”你知道，我在这方面做了一些自由发挥。但为什么 Amjad 却在谈论哥德尔定理和 Penrose 极具争议的论点？为什么他不给我们提供一些关于人类大脑在过去一年里所做的事情的具体细节，一个真实的故事？他不断地引用海森堡，这难道不是一个危险信号吗？他不断地引用哥德尔，不断地引用 Penrose。他不能用更具体的方式和我们谈谈吗？讽刺的是，作为一名企业家，将战略映射到具体战术实际上是 Amjad 的核心技能之一。所以，这种多层次的推理实际上是成功企业家的一项关键技能。Amjad 可能在这方面非常出色。他可能会去阅读研究论文，阅读新闻，了解行业趋势，制定一个 10 年的战略，然后他会重组他的公司。他会与他的高管团队会面，与他的经理会面，让整个公司朝着同一个方向发展，朝着长期战略前进，但他会微观管理。他会进入创始人模式，让个别工程师实现与他的战略一致的个别功能。所以，这种高层次思考然后映射到低层次的想法，他实际上可能在这方面是天才级的。然而，当涉及到他对未来人类将如何作为企业家所做的概念时，他用来微观管理他的团队以最大化他们公司每个成员生产力的这种思考方式，似乎他故意不使用它来微观管理普通人，因为他向普通人推销，嘿，我的工具或人工智能革命将帮助你，普通人。它将把你安置在一个非常有用的创业位置。而且他实际上是分配任务以最大化他公司内部生产力方面的专家。所以，很有趣的是，他有一个盲点，他不会用具体的术语来谈论。他不会发挥一点想象力，就像，“好吧，我说的关于形式系统以及人类大脑在很长一段时间内或永远可以做计算机不能做的事情的 Penrose 的东西。”他不会将其映射到“好吧，所以这个曾经在二手车店工作过的人，现在他是一名企业家。”他现在可以做的事情的一个例子是空白。这是一个非常有趣的脱节。在我看来，这似乎使他目前使用的整个推理链无效。在我看来，他只是在重复他听到的东西，因为他喜欢相信，你知道，这有种一厢情愿的感觉。你知道，他一生都抱着一种心理模型，即人类和计算机之间存在分离。Penrose 使这一点合法化，因为有一个获得诺贝尔奖的人，很多人都尊敬他，因为他确实很聪明。所以他一直带着这种假设生活，他并没有质疑它。即使水位不断上涨，即使越来越多的工作岗位消失，他似乎只是想保护这种存在某种分隔器的世界观。而且他不会具体说明。他不会真正帮助我们进行推理，但他只是想捍卫它。我的意思是，无论创造力是什么，无论它是什么，它能让你创作诗歌、爵士乐或文学，比如，无论什么，它能让你想象某样东西，然后把它组合起来，编辑它，弄清楚它如何与你和你试图分发给的人产生正确的共鸣。我们身上有一些不同之处。好吧？但人工智能今天正在写文学。人工智能今天正在创作音乐。如果你看看由人工智能创作的音乐的收听时长份额，或者你去 Instagram，看看纯粹由人工智能创作的影响者的份额，我认为这些份额正在迅速而显著地增长。如果你看看人类的对话，人类之间的对话量与人类与聊天机器人之间的对话量相比，你难道不认为进行对话，分享你的感受，并对这些感受做出适当的回应，分享回这些感受，你不认为这种来回的交流也代表了人性的核心或创造力的核心吗？我的意思是，我不知道。你才是定义者。我认为你不想落入我的陷阱。所以，你会说，“不，不，不。那不代表创造力。那是纯粹的混音。那是纯粹的统计。”对吧？很容易事后诸葛亮地说，“好吧，人工智能今天就能做到，所以它一定不那么令人印象深刻。”但这似乎是自我安慰，你抛出的这些抽象概念是为了试图区分人工智能已经做到的和你认为人工智能永远做不到的。你认为你通过使用“创造力”和“泛化”等词语来区分它们。这听起来像是自我安慰。这听起来像是水位正在上涨。而 Joe 和 Amjad 都拒绝用富有成效的逻辑来处理这个问题。他们似乎真的想在谈话结束时说，人工智能绝对做不到这一点。它绝对不能写文学。它绝对不能画出最美的画。它绝对不能创作最美的爵士乐。但就像……你看这些趋势吗？就像你认为这条指数曲线会撞到墙上。而实际上可能是，“是的，我认为它会撞到墙上。”因为他以前发过推文，当 AI2027 发布时，他批评了他们的研究方法。他只是发了一条刻薄的推文说，“哼，外推者。”就像他们只是在推断一个趋势。看那些白痴。而从我的角度来看，就像，“好吧，你不需要推断一个”
趋势。你可以继续展示你的模型，并告诉我们为什么这个趋势会放缓。但听起来他的模型只是基于抛出一些抽象的词语，然后就此打住。因为再说一遍，我看到的危险信号是他没有将其映射到具体细节的方式。他故意想通过向你抛出一些抽象概念，然后就此打住，回去工作来引导谈话。然而，作为一名企业家，他的工作（再次讽刺的是）需要他遵循一个标准，即需要将他的抽象概念、他抽象的高层策略映射到现实中。他受到反馈循环的约束，他的抽象概念确实需要映射到地面现实。他确实需要去与一线经理交谈，并身处其中。但当他向你，观众，抛出这些抽象概念，并谈论经济的未来时，他却不受同样的反馈循环的约束。除了“末日辩论”和我的个人反应之外，没有任何社会压力，在乔·罗根的观众中，也没有社会压力要求他为将他的抽象概念映射到连贯的具体细节负责。
我意思是，我们并没有一个关于意识的真正理论，而且我认为认为意识就像“涌现”一样是某种程度的傲慢。这是可能的，我并不是完全反对这个想法，即你创造了一个足够智能的东西，它突然就有了意识。
一方面，我认为谈论意识与关于创造力和关于每个人都成为企业家等其他观点是风马牛不相及的。我看不出意识与此有何逻辑联系。我是说，如果你只是日复一日地看，好吧，这个曾经做过销售的人，现在他要去当一名企业家，他将向这些正在创建网站的人工智能发出指令，而这些指令将比人工智能自己写的指令更好。这与意识有什么关系？因为人工智能将无法想出指令，因为人工智能没有意识，或者我不确定。这听起来像是风马牛不相及，但我认为我仍然能理解他的意思。
在非常高层面上，他是在说，“看，是的，水位在不断上涨，但可能存在某种障碍，因为可能存在某种我们不理解的神秘事物。意识是一种我们不理解的神秘事物。所以当我抛出像泛化、某事物非统计性、某事物开启新范式之类的抽象概念时，好吧，我并不真正理解我在说什么，但也许没关系，因为没有人真正理解意识是什么。”
从我的角度来看，我实际上觉得这里存在一种不对称性，因为是的，意识被人们误解了。意识是神秘的。但如果你看看创造力之类的词语，我觉得它们并没有被误解。我认为我可以给你一个相当具体的解释，说明创造力是什么以及如何识别它。
在 OmJod 的案例中，似乎两者以某种方式联系在一起。这就是为什么在他的脑海里，从“人工智能缺乏人类所拥有的创造力的某些本质，而且人工智能缺乏意识”这一点跳到“这就是为什么两者联系在一起”并不是风马牛不相及的。所以我看到了 Almad 所做的抽象层面的乐高积木式操作。他就像，看看我的乐高积木。我把创造力与意识联系起来了。而在我的乐高积木套装里，就像，看，你可以衡量创造力。它涉及到在一个指数级大小的空间中进行搜索，就像在 NP 复杂性类别中一样，你设法找到了一个解决方案，这个解决方案似乎需要蛮力搜索，或者需要一种你事先认为不太可能的搜索类型，但你却让它成为可能。你以一种作为观察者的我，智力不如你，没有看到高概率路径的方式，引导了概率从不可能变为可能，但你还是做到了，而且这是一个高价值的解决方案。所以你引导了一条对我来说看似低概率但对你来说是高概率的路径，并找到了解决方案。我只是在谈论我用来分析创造力的那种术语。我认为这种术语对 Omrad 来说是陌生的。我认为 Omrad 的乐高积木式分析是，创造力是奇妙而神秘的，人类拥有它。人工智能没有。意识是奇妙而神秘的，人类拥有它。人工智能没有。所以这些是 Almrad 的两个乐高积木，他把它们拼在了一起。
如果 Omrad 想走那条路，并且在他看来这不是风马牛不相及，那好吧。我仍然会要求他达到标准，比如，好吧，你想谈论意识，告诉我 Gus 将如何调用他的意识来完成人工智能接管 Gus 的工作无法完成的特定任务。
这是一种宗教信仰，硅谷的很多人都有这种信仰，你知道，你知道意识只是智能的副作用，或者意识对于智能来说不是必需的。它以某种方式成为一种非常多余的东西，他们试图不思考或谈论意识，因为实际上意识很难定义，很难在科学上定义和理解，这就是我认为 Chalmer 所说的意识的难题。
首先，我认识的没有人声称意识是智能的副作用。人们声称意识可以与智能分离，所以你可以想象一个系统，它相当愚蠢，但却非常有意识，比如它只是感受事物，而它对此无能为力，比如想想一个智力障碍的人。他们可能非常有意识。他们可能感受到强烈的情感，感受到快乐和痛苦，感受到感受，但却不太聪明。这似乎是对一个智力障碍的人的相当准确的描述。
所以，我会声称，嘿，你可以有一个非常非常智能的代理，但仍然只有很少的意识。我确实认为有可能有一个系统，它的结果引导能力比任何人类都好，但意识却更少，无论那意味着什么。比如想象一个非常机械化的人工智能，它只是在解决问题，但问题可能极其复杂，它只是吐出一个答案，而且答案很精彩，但它在解决问题的过程中并没有经历多少感受。想想，你知道，AlphaGo 那个精彩的第 37 步。我不认为大多数人强烈认为 AlphaGo 在走出第 37 步的过程中可能经历了大量的感受。我认为很多人仍然认为，好吧，AlphaGo 仍然主要是一个机器人。它没有多少意识。也许根本没有多少意识。
如果 Amjud 强烈认为不，不，不，AlphaGo 完全有意识，他欢迎提出这个论点。他只是在批评像我这样的人，他把他们贴上硅谷的标签。我想我在这里代表硅谷。他批评我们把意识的神秘性与我们声称人工智能在结果引导方面越来越智能的说法分离开来。但我的说法不是因为我有这种动机，因为我是一个不想谈论宗教的无神论者。我是说，我确实是无神论者，但我仍然乐于考虑宗教假设。我之所以做出这些说法，仅仅是因为我过去有很多测试和基准，而现在这些测试和基准已经被超越了。所以如果你想说，“嘿，它们被超越了，因为人工智能正在变得越来越有意识。”好吧，它们被超越了，因为人工智能正在变得越来越有意识。我只是因为我没有说任何关于意识的话，并不意味着我反对说任何关于意识的话。
你想说什么关于意识的话都可以说。我只是告诉你，当你抛出像创造力、混搭与泛化这样的抽象概念时，这些抽象概念在预测人工智能的能力将停止增长的方面是无效的。这些抽象概念在声称一个目前从事销售、客户服务、教育或其他工作的普通人，这个人现在可以转移到一个企业家职位，并且他的企业家职位是长期安全的方面是无效的。仅仅因为你认为意识可能是一个神秘的 X 因素，并不意味着你正在富有成效地推理经济目前是如何转型的。
Amjad，对吧？我想你可能需要稍微反思一下，看看你的思维过程中缺少了什么。如果你能具体说明你的意思，这个问题就可以解决。你知道，对于像 Gus 这样来自二手车市场的人来说。
现在，他可能会说，“你知道吗，我不想具体谈论 Gus。我没有义务具体谈论像 Gus 这样的人。我只是在含糊其辞。我只是告诉你，你不知道你不知道的东西。这有点像相信奇迹的宗教人士说，你不知道奇迹何时发生。好吧？你不知道你明天醒来时，你的疾病是否会痊愈。你不知道你不知道的东西。好吧？意识可能做到任何事。这就像，好吧。我可能会感到惊讶。也许每个普通人仍然会找到工作，但让我们来举一个假设的故事的例子，我感到惊讶。好吧。这个人实际上做了什么会让我惊讶？也许你只能告诉我，好吧，人工智能会让他们继续做销售，因为人类仍然会走进二手车市场，他们仍然想和人交谈。好吧，那就这样。所以，提出这个说法。但这并不是我拒绝意识。这只是说，无论出于何种原因，人类真的想去和一个人交谈。即使机器人技术变得非常出色，你也有一个机器人面孔，不，他们真的想和人交谈。我是说，我不是那样买二手车的，但也许 20% 的人口想走进一个实体二手车市场。好吧，你可以提出这样的说法。
对我来说，奇怪的是 Amjad 似乎又把对话内容留给了“你知道吗，硅谷的那群人，你们低估了意识的力量。”因为我是一个相信意识力量的人，你知道我要做什么吗？我不会给你任何假设的例子，说明意识的力量如何可能改变每个人都失业的默认未来。我不会给你一个例子。我只会告诉你，你们低估了意识的力量。祝你有美好的一天。我说祝你有美好的一天。
嗯，但是，你知道，我认为这是我们需要解决的问题。我们只有一个通用智能的例子，那就是人类，而人类有一个我们都能感受到的非常重要的属性，那就是意识。
他是在说，这意味着我们所知的唯一通用智能——人类也拥有意识，这意味着什么？好吧，这是一个公平的问题。我也会问，这意味着什么，所有这些其他动物似乎也都有意识，但它们的智力却低得多？特别是最强大的例子可能是智力障碍的人，他们的智力非常有限。但很多人，据我们大多数人承认，尽管缺乏智力，但他们是非常有意识的人。这是否对你关于智能和意识可能不相关的说法有什么意义？
有没有可能大脑的神经元所做的大部分事情是感受事物，而大脑的神经元所做的很多事情是计算事物，而且很多时候你只能得到计算的输出，即使没有将其浸泡在感受中。或者你可以将某事浸泡在感受中，而计算却非常简单。所以这已经是正交性的一些证据了。
Amjud 必须声称，哦，是的，当然，你可以在拥有低智力的情况下拥有意识。但要达到海森堡式的量子理论的最高水平的智力，唯一的方法就是将那些举动，那些顿悟，浸泡在适当的感受中。这是达到那些更高水平的唯一方法。这是一个很好的说法。只是如果你要提出“唯一已知的通用智能是有意识的”这一观察，我也会提出“有很多低智力系统似乎也很有意识”的观察。
但让我们继续。我们不知道它是如何发生的，它是如何出现的。像 Roger Penrose 这样的人，他们有关于微管中量子力学的理论。我不知道你是否和他讨论过，但我想他有一个合作者是神经科学家 Hammeroff，或者类似的人。但是人们有很多……我不是说 Penrose 有答案，但就像哲学家们一直在争论这个问题一样。
听起来 Omjad 正在抬高整个 Penrose 的传说。他认为这一切都可能是正确的。所以让我来帮助他，连接这三个方面，因为如果你真的想完全接受 Penrose 的观点，你必须同时接受所有这三个方面。所以，请记住哥德尔不完备定理。他认为机器无法处理形式系统中的悖论，即存在无法证明的陈述，尽管从我的角度来看，有一个快速的解决方法。但在 Amrad 和 Penrose 的脑海里，形式逻辑有这些漏洞是如此灾难性的。
现在他提出了量子微管的想法。好吧，如果你想成为一个有意识的存在，你不能只使用实现经典计算机的物理学。你必须进行不可计算的计算。但是，等等，你不是由细胞组成的吗？但是，这些细胞有这些微管。而且存在一些物理定律，它们并不真正影响我们注意到的一切，除了它们确实影响微管，然后帮助我们更好地思考。这都是 Penrose 的电影宇宙。他提出了所有这些高度可疑的说法，但它们都像一个巨大的胶带球一样粘在一起。而 Amjad 基本上是在随波逐流。他说，就像，“看，我不是 100% 的 Penrose 信徒，但让我们给 Penrose 一个机会，伙计们。让我们给 Penrose 一个机会。”
所以，我之所以提到这一切，是因为 Amjud 并没有最终联系起来。所以我正在帮助他。所以最终的联系是，人类之所以比人工智能更能泛化，以及人类之所以能解决形式系统永远无法解决的悖论（根据 Penrose 的说法，我不同意），是因为让人类做到这一点的那种魔力是物理定律，它使得大脑从一个状态到下一个状态的飞跃违反了所有可能的计算模型，这就像一个疯狂的、疯狂的说法，据我所知，没有任何证据，但……你知道，这是 Penrose 的联系。所以他希望你接受哥德尔定理是一个大问题，我不同意。他希望你接受大脑使用一些物理定律，这些定律被人们误解了。Penrose 希望你接受所有这些，然后说“啊哈，所以意识是实现所有这些能力的关键。”这三个方面就是这样。人类能做的事情比机器多。他们比机器更能泛化，因为他们不受通常计算定律的限制。因为他们不受通常物理定律的限制。因为微管使用不同的物理定律，而哥德尔不完备定理与该断言有关。所以这些都是拼图的碎片。Anjra 很好地指出了其中大部分碎片。我正在尝试为你完成这幅图景。在我看来，这是一幅疯狂的图景。
而让它真正疯狂的是，如果你十年前采访 Penrose，然后说，“嘿，Penrose，所以因为人类如此出色，你认为人类平面设计师可能会安全一段时间，因为人类利用他们的创造力来制作符合规格的图像，这是一种真正有创造力的有意识的能力？”我认为 Penrose 很可能会说，“是的，这似乎是只有人类才拥有的那种有创造力的有意识的能力。”但当然，既然我们知道了答案，就像，嘿，看，事实证明人工智能可以做到这一点，而且似乎没有意识，没有量子微管，现在对于世界上的 Omrad 来说，回头看看并说，“哦，那只是混搭。别担心。那不像成为一名企业家。成为一名企业家才是圣杯。”或者在 Mark Andre 的案例中，你知道，成为一名风险投资家，那是风险投资家的圣杯，对吧？评估创始人。不要认为仅仅因为人工智能一直在做所有这些其他事情，它们就能成为风险投资家。
我是说，这是疯狂的事情。你知道，Amjud 指责像我这样的人故意拒绝与意识的联系。但然后当你看看他引用的论点时，当你看看 Penrose 的论点时，这是一个完全疯狂的论点，已经被科学共识所拒绝。甚至不要责怪硅谷。在神经科学界，几乎没有 Penrose 的支持者。
你知道，我们有点原始。嗯。好吧，你知道，就我们作为一个物种而言，我们的感官已经适应了野外世界，以便我们能够生存，能够躲避捕食者并找到食物。就是这样。这就是我认为的硅谷 AGI 邪教的特点，那就是有很多傲慢，认为我们什么都知道。当然，我们正处于世界末日。你知道，人工智能只会……这是知识的终结。它将能够为我们做一切。而我只是觉得这还太早了。
所以 Amja 说，像 Lon Shapi 这样的人给出了 50% 的末日预测，因为他们担心人工智能引导未来的能力可能正在失控，超出了人类的控制。像 Lon 这样的人属于 AGI 邪教，他们有很多傲慢，因为他们不欣赏我们不知道的东西。他们不够谦虚，无法考虑这样一个可能性：也许进化赋予我们的、正在努力理解宇宙的大脑，却正在触及一种意识，这种意识将让普通人有机会利用 Amjud 的工具成为一名企业家。
认为 Lon 是一个 AI 邪教成员的傲慢，没有认识到 Amjad 的主流未来很可能是每个人都成为企业家，这种可能性压倒一切。Amjad 是谦虚的。Amja 不声称知道任何事情。他只是不担心末日，并声称他知道失业不会是一个大问题，因为每个人都将利用他的工具成为一名企业家。Amjad 是这里不傲慢的人。明白了？
我认为技术的负面角度和人工智能会获得更多的观看和点击。你知道，如果我们现在想病毒式传播，我会告诉你，这是你明天会失去的 10 份工作，你知道，这是在互联网上病毒式传播的最简单方法。
好吧，试着站在那些有普通工作的人的角度来看，他们开始了一条职业道路，他们在某个行业工作了几年，他们在自己的职位上获得了一定的资历。如果他们失业了，如果他们进入了就业市场，他们不像你，Amjad，他们不像一个顶尖的企业家，可以应对一切，我们都知道他们将是最后一个被人工智能取代的人。他们只是普通人，他们知道自己的就业市场领域是有限的，他们希望它仍然是一个他们可以谋生的领域，他们看到人工智能正在摧毁就业市场的其他领域。你知道，比如低端文案，低端工程师。我是说，这些人正在为安全而挣扎。他们会找到安全吗？也许吧。但你必须同情他们可能找不到安全性的想法，对吧？而不是仅仅抱着乐观和积极的态度，就像，看，每个人都会找到安全。这就像你必须同情他们的困境，因为他们知道工作往往会被更有技能的人抢走，对吧？他们看到自己被超越了。我是说，对我和你这样在班级里通常处于顶尖水平的人来说很容易，对吧？在智力能力方面处于顶尖水平，在那个钟形曲线的顶端。好吧，大多数人不是。大多数人在这些有市场技能的钟形曲线上的平均水平，甚至更低。所以当他们看到这种新的代理，这种新的系统，它拥有市场技能，对吧，它正在获得数十亿美元的收入，比如 OpenAI 现在年收入超过 100 亿美元，140 亿美元，并且呈指数级增长。所以当他们看到这种拥有市场技能的新系统正在挑战他们自己的技能时，你必须同情他们为什么会阅读那些病毒式传播的文章，说“即将消失的十大工作”。
现在，这并不是说你不能看到杯子半满，并试图推测会有好处，以及我们如何再次度过转型，并且会有更好的服务行业，对吧？服务行业是我们如何度过之前的经济动荡，并且我们拥有更多的服务。也许会有类似的事情发生。但当你含糊其辞，只是说每个人都会在 replet 上成为企业家时，也许你应该花更多时间具体思考一下这会如何运作，因为你不想给人们灌输虚假的希望，对吧？就像你的工作是战略性地管理你的公司一样，人们也希望你给他们更多关于经济未来将是什么样子的见解。当如此明显地表明你没有深入思考时，你很大程度上是凭感觉和猜测，以及你对末日论的厌恶，那么就可以理解为什么有些人可能与你的想法不一致。
现在，公平地说，我认为你确实看到了一些有意义的信号。我是说，Replet 自己的公司增长是一个很大的迹象，表明人们发现这个工具有用。如果这种趋势继续下去，就像 Andred 关于推断趋势所说的那样，如果每个人都使用 Replet 而不是直接去 OpenAI，如果 Replet 本身仍然像过去一两年那样拥有指数级增长的收入，那将是一个非常好的迹象。那将有点像，“嘿，我们都生活在 OBJ 的主流未来中。我们都是 Replet 上的企业家，靠此谋生。”这有点像 Shopify 的收入持续增长。这将是一个好迹象，表明它不像亚马逊那样包揽一切，生产所有产品。这就像一群独立的企业家在 Shopify 上 somehow 谋生。所以，Replet 就像一个这样的企业。
所以，我明白 Amjud 的意思，就像，看，如果我的增长趋势继续下去，这是一个伟大的经济，但与之相抵触的趋势是人工智能的智能和能力正在超越 Shopify 用户、Replet 用户，对吧？这将使趋势不连续。所以，仅仅因为你看到 Replet 上暂时出现了对安全的逃离，人们说，“嘿，看，我不需要我传统的职位了。我可以在 Replet 上成为一名企业家。”仅仅因为你现在看到这一点，当你同时考虑到人工智能能力的增长时，你可能会看到你的趋势出现中断。它可能是一个暂时的趋势。就像，哦，出现了对 CDROM 的逃离。CDROM 是存储软件的好方法。哦，等等，我们不需要那个了。我们可以拥有闪存驱动器，我们可以通过互联网获得软件，对吧？有过渡时期。
是的，你看到 Replet 在企业家眼中变得非常强大和有用，这是一个重大的转变。但这并不一定意味着人工智能的未来会这样发展。所以，与其仅仅批评悲观主义，我认为你应该意识到这里有一个巨大的开放性问题，需要一个比“看看 Replet 当前的增长图，不要悲观”更令人满意的解决方案。有人真的需要思考，“哦，等等，如果我们真的完蛋了怎么办？让我们尝试详细地推演这些场景，认真对待人工智能公司告诉我们即将发生的事情。
但是，你知道，试着思考……你知道，关于人类本性中真正不变的、真正永恒的东西是什么。永恒是一种特权，对吧？尼安德特人没有机会永恒。渡渡鸟也没有机会永恒。所以希望我们身上有一些永恒的东西，能让我们继续永恒。而且我认为……人们想要创造，人们想要制造东西，人们有想法，你知道。……再次，我交谈过的每个人都有一个或另一个想法。无论是为了他们的工作，还是为了他们想建立的企业，或者介于两者之间。是的。我交谈过的每个人都想参加职业体育比赛。我交谈过的每个人都想写下一部伟大的美国小说。我交谈过的每个人都想赚取数百万美元的被动收入。人类一直都有这些抱负，对吧？
我认为更相关的问题是，有哪些市场机会可用，并且将继续可用。写作小说或经营企业的市场机会目前只对那些在整体能力达到一定门槛的人开放。我知道很多人目前在经济的某些领域做得很好，他们对此有所适应，如果他们必须在商业世界竞争，他们就不会做得很好。他们的利润率不足以维持他们业务中的低效率相对于竞争对手的低效率，对吧？我是说，这就是自由市场的本质，经营一家成功的企业很难。这就像说，“你知道吗，每个人都会开自己的餐馆，因为每个人都说过‘开自己的餐馆多好啊。人们会来我的餐馆。’”这就像……是的，这是很多人想做的事情，但就维持经济而言，这是一个糟糕的主意，对吧？就像大多数人会因为试图开餐馆而把自己的财务搞得一团糟。
所以对我来说，随着人工智能越来越聪明，这个问题一直很突出，那就是，我希望回到讨论，“等等，你刚才说的关于泛化，让人们想使用你的工具，因为人工智能无法很好地泛化以使用你的工具？”我们可以完成那条论证线吗？我觉得那条论证线如何结束非常重要，因为如果它没有像 Jud 希望的那样发展，如果事实证明只是人工智能在使用人工智能，而 Replet 被淘汰了，因为它是一个不必要的中间人。你只需要告诉人工智能你想要什么，或者人工智能可以决定它想要什么，然后你就可以写出所有的代码。你不需要 Replet 工具。在我看来，这似乎是一个非常可能的结果。这似乎是我们前进的方向。无意冒犯 Replet，它是一个很棒的工具，就像我说的，但如果我们前进的方向是这样，那么有趣的问题就不是人类想要什么。而是人类能否得到他们想要的，或者我们是否应该开始问人工智能想要什么，以及我们如何使人工智能保持一致，以确保它想要正确的东西，而不是让它失控地想要不正确的东西。
这难道不是一个值得讨论的话题吗？你为什么在那里乐观地吹口哨而无视危险？为什么不解决这个问题？这是你与乔·罗根进行的广泛的谈话。这是一次三个小时的谈话。为什么不解决你公司旁边堆积如山的这些危险信号呢？
嗯，就在昨天，我还在看一个企业家使用 Replet 平台的一个视频。他的名字是 Ahmad George，他在一家护肤公司工作，是一名运营经理。嗯，他工作的一个重要部分是像以非常手动的方式管理库存和做所有这些事情，而且非常……你知道，非常繁琐。他一直有个想法，就是自动化其中的很大一部分。这就像，你知道，这是一个已知的问题，ERP。所以他们去了软件供应商 Netswuite，告诉他们我们需要对 ERP 系统进行这些修改，以便让我们的工作更轻松。我们认为我们可以自动化……每月数百小时，或者类似的东西。他们报价 15 万美元。嗯，他刚刚看了我们平台的视频，然后在 Replet 上，在几周内就构建了一个东西，成本是 400 美元。然后他在办公室部署了它。办公室里的每个人都开始使用它。他们都变得更有效率。他们开始节省时间和金钱。他去了 CEO 那里，向他展示了影响。看看我们省了多少钱。看看我们构建了这个软件，它的成本比顾问报价的要低。我想把这个软件卖给公司。所以他以 32,000 美元的价格卖给了公司，明年他将从中获得更多的维护订阅收入。
是的，这是一个真实的故事。这是一个很好的例子，说明了人工智能今天如何赋能人们。这类似于一个故事，就像，天哪，我真的很想为我的 YouTube 节目制作图片。我真的很想制作文字记录，然后我只是输入了人工智能，说我想要这个，然后我就得到了。这就像人们自动化如此多工作的这些新故事。在这种情况下，它不是一次性的自动化。听起来有来回的互动，就像一个产品经理与工程师合作一样。但是，是的，我是说，值得称赞的是，这是 Replet 的终极成功故事，对吧？我是说，Replet 是一个了不起的产品。这家公司价值数十亿美元是有原因的。他们在这里创造了巨大的价值。
所以，如果我们以这位工程师为他的公司自动化 Netswuite 所做的事情并降低软件即服务成本并从中获利为例，那么问题就变成了，我们需要多少人类的秘密酱料，以及人类大脑的优势还能持续多久才能注入这种秘密酱料，而不是让人工智能也拥有这种秘密酱料。我是说，这是万亿美元的问题，对吧？这是关于每个人都能成为企业家，还是至少我们中的一半人能成为企业家，而另一半人可以获得普遍基本收入的问题。这是我想让 Amjud 表现出更多好奇心的主要问题。我是说，如果他给我们这个案例研究，让他看起来很棒，为什么不翻过另一面，然后说，好吧，这种优势能保持多久？这位经理需要给出哪些具体的提示才能得到他想要的东西？以及训练一个人工智能变得像，“哦，有趣。这些提示可以帮助公司里的经理们构建有趣的东西。如果我们只是混搭呢，对吧？人工智能能做的终极事情。如果我们混搭呢？如果我们统计地内插到其他公司，他们也需要类似的项目呢？对吧？人类在这个位置上还能防御多久？”
对于 Andra 来说，这是一个非常有趣的问题，比如，这是可混搭的东西吗，还是不是？让我们知道，对吧？解决这里的关键问题。
所以，所以这个人们成为企业家的想法，并不意味着每个人都必须辞职，你知道，建立一家企业，但在你的工作范围内，每个人都有机会获得晋升，每个人都有机会消除繁琐的工作。
斯坦福大学最近进行了一项研究，询问人们他们的工作中有多少百分比是可以自动化的，每个人都说大约一半，50% 的工作是常规和繁琐的，我不想做。而且我有关于如何改进业务、如何改进我的工作的想法。我认为我们可以使用人工智能来做到这一点。
你知道，有一家新公司叫 Mechanize，由顶尖的聪明人创立，拥有顶级的投资者，如 Daniel Gross、Patrick Collison、Jeff Dean、Shelto Douglas。我是说，这是一家非常高质量的公司，他们的使命就是明确地自动化工作任务，以自动化整个经济。我们知道人们在尝试这样做。他们不是唯一尝试这种事情的人。
所以，当你讲述一个人使用 Replet 来简化工作的成功故事时，那很好，但为什么不推断呢？为什么表现得好像这是最终目标？就像你说，好吧，有一项调查，人们说他们工作的一半是可以自动化的。好吧，但我认识一个朋友说，他 90% 的客户服务都可以自动化。如果你和那些客户服务人员谈过，他们会告诉你他们 90% 的工作都可以自动化吗？他们可能会说，“是的，我工作很努力。我做了很多任务。也许我可以自动化一半的工作。”不。事实证明你可以自动化 90% 甚至 100% 的工作。顺便说一句，自动化并没有停止。所以，为什么不做这种推断呢？为什么表现得好像 50% 是最终目标？
这似乎确实有点盲点，也许是故意的。我是说，这显然无助于营销，说“是的，我的工具可能是一个权宜之计，但有充分的理由认为，人类需要输入命令和提示的部分正在变得越来越自动化，而人工智能实际上正在学习和训练数据。”所以，就像，当人类进来使用我的工具来提示时，这实际上产生了足够的数据，以至于下一个提示将不再是新的范式，而是混搭，对吧？我是说，为什么不解决这个问题？为什么不解决他自己的工具可能只是一个权宜之计的可能性？因为这似乎非常可能，不是 100% 可能，但这是显而易见的房间里的大象，如果你做了他自己所说的要做的事情，并推断趋势。
……在劳动力中存在一种渴望，希望利用人工智能……让人类重新夺回他们作为创意驱动者的地位。因为……计算机的出现，在很多方面，人们变得有点像机器人，像 NPC，他们每天做同样的事情。
你认为趋势是计算机使人们变得更像机器人，每天做同样的事情？因为在计算机出现之前，在我们拥有 Microsoft Excel 之前，有很多人坐在一个房间里，他们一整天的工作就是制作电子表格和处理电子表格中的数字，并确保所有公式都正确。而且有人的头衔就是计算机，对吧？只是为你做大量的数学计算。那是在计算器出现之前。
所以，当他说拥有计算机使人们变得更像机器人时，他指的是什么？他只是在谈论文件的物理移动吗？就像，“嘿，你会有个邮件室，会有一些人必须移动肌肉，处理邮件在电子化之前移动的有趣方式。”不，那听起来不对。
有什么工作曾经是富有创造性的，然后由于计算机而变得像机器人？也许是旅行社，你曾经利用人际交往能力来与电话那头的人交谈，为他们预订航班，而现在那个人只是去 Google Flights。我指的是这个吗？他指的是公司里的经理吗？就像公司里经理的角色曾经是动态的，然后计算机使它更像一个 NPC。
这对我来说很难。计算机的出现，在很多方面，人们变得有点像机器人，像 NPC，他们每天做同样的事情。我让 Chad GPT 帮助我理解 Omra 在说什么，它说，好吧，看看零工工人，他们从应用程序中接单，然后被软件微观管理，他们没有多少创意控制。但 Chad GBT 实际上同意我的总体评估，即当你将人类描述为由于拥有计算机作为工具而变得更像 NPC 时，这与我所看到的总体趋势恰恰相反，那就是更像是，“嘿，我们有了一辆思维自行车，而思维实际上比以往任何时候都骑得更远、更广。”所以我想他可能在这点上错了，但无论如何，这只是一个小观点，让我们继续前进。
我认为人工智能和技术的真正承诺一直以来都是自动化，这样我们就有更多的时间用于休闲、创造力，或者用于改善我们的生活、改变我们的生活或职业。……是的，这就是让我兴奋的地方，而且我认为这……我认为这并不是……主要是玫瑰色的眼镜，因为我每天都在看到它，而这正是我感到兴奋的原因。
是的，他绝对是对的，人工智能的趋势正在延续工业革命以来的趋势，即生产力不断提高，技术不断对人们施加杠杆，而我们确实拥有更多的休闲时间。我知道有些人觉得我们没有更多的休闲时间，但我们绝对有。就像我们的假期肯定变得越来越奢华。我们每天花费在休闲活动上的时间肯定越来越多。所以我同意 Omrad 的观点，即我们正在看到这一趋势向新的高度发展。
当然，这里有一个障碍，那就是人类将失去他们的经济价值。他们将失去他们的经济杠杆。所以，我们将达到这样一个地步，即如果我们想在这项生产力提高中分一杯羹，那将完全必须通过治理，通过控制，对吧？通过按下核按钮并炸毁人工智能的能力，而他们害怕我们。所以，他们必须继续给我们一部分资源。他们必须继续让我们成为他们的所有者，或者他们的编程是如此之好和健壮，以至于他们从不愿做其他事情，而是将资源传递给我们。但这是一种更加脆弱的联系。
但在 Obj 的世界观中，就像，不，不要担心，因为归根结底，如果没有人类利用他们通才的意识力量来使用 replet 来告诉他们该做什么，人工智能就会停滞不前，对吧？就像在 OMG 的主流情景中，一切都完全没问题，因为经济仍然在运转，每个人都是自己的企业家。我是说，我从来没听他说过他修正过那个主流情景。在我听来，这有点可笑，但那大概就是我们的分歧所在，对吧？他非常乐意地假设他的工具就像未来的一个很好的代表，而从我的角度来看，它更像是一个中间阶段，说实话，它确实很酷。它确实很酷，因为它提高了人们的生产力，就像图形用户界面和高层编程语言之前提高了人们的生产力一样。他的工具就像是其中的下一步，我非常尊重。我只是不幸地认为，他工具的下一步涉及到人工智能也代表人类使用他的工具，这实际上很有趣，他的工具一开始并不是由人工智能驱动的，对吧？他只是开始制造这个非常好的编程工具，让你轻松编写代码，轻松部署代码。而人工智能实际上进来并在他的工具之上增加了一个层。就像他自己的工具是其他东西之上的一个层一样，人工智能进来并增加了另一个层。
那么，猜猜怎么着？下一步是人工智能进来并在人工智能之上再增加一层。如果人工智能可以提示人工智能呢？这是否让你感到震惊？好吧，再次推断。这就像下一步显而易见，对吧？就像很多人，我不是唯一一个这么说的人，就像这是很多人看到的明显下一步。而且很有趣的是，Andrad，他显然是一个有远见的人，显然是一个有才华的人，却没有真正解决这种可能性，即这将会发生。
但是，如果你是一个从事某种办公桌工作的人，你已经在电脑里了。你有很大的机会重新学习技能，并开始使用人工智能来自动化你工作中的很大一部分。是的，会有失业，但我认为很多人能够重新学习技能。
我知道我们现在正在讨论一个已经讨论过很多次的问题，但听到他明确地说出来还是令人震惊。他认为一个仅仅是做办公桌工作、不特别擅长编码甚至产品管理的人，现在将处于这样一个位置：一家公司不仅仅是使用人工智能工具来构建自己的产品。不，不，不，他们雇佣这个人，这个人突然重新学习了技能。如何重新学习技能？重新学习技能是为了提示人工智能去构建软件，并且比人工智能自己学习提示人工智能来重建软件更快。我是说，这可能会发生。而且我们甚至可能经历一次人工智能的寒冬，就像这种重新学习技能和使用 replet 作为主导工具一样，这可能会持续 10 年，15 年，对吧？这可以说是 replet 的终极情景，坦率地说，我认为 replet 是一个很好的投资，我认为这是一个可能的结果。但如此乐观地认为这代表了长期的未来，而不是一个短暂的休息站，你知道，我说 15 年，它很容易就像一年，对吧？没有保证，对吧？所以我只是在给出好的结果，我一直在说，但对我来说奇怪的是，他没有说，“是的。或者它也可能完全走向另一个方向，即人工智能变得更好，趋势确实会推断下去，对吧？他似乎故意拒绝推演另一种可能性。”
我们的世界将主要由人工智能和机器人以及所有这些东西来运行。越来越多的人需要能够制造软件，即使只是提示，而不是真正地……你知道，但更多的人只需要能够制造它。将会有对更多产品和服务的需求，以及所有这些东西。而且我认为有足够的工作岗位，如果我们抱着这样的心态：让我们真正地思考经济的未来，而不是……让我们带回某些制造业的工作，我认为美国人不会想做。
是的，我认为他是完全正确的，如果你接受他关于人工智能不仅会变得更智能、更泛化，并且能够提示 replet 的假设。如果你不看好人工智能可以成为提示 replet 的人类员工的直接替代品，如果你真的认为你需要让别人从另一个行业重新学习技能，或者在他们还是孩子或青少年时就教育他们，让他们进入劳动力市场成为人类，并利用人工智能来打败人工智能，如果这真的是你认为的未来走向，那么 Andre 所说的就完全有道理。他正在做一个很棒的推销。而且确实存在一种可能的未来，即大脑可以长时间地打败人工智能。你知道，我并不真的这么认为，但我
承认这是可能的。我给它超过 10% 的几率，我们会陷入这个人工智能寒冬，届时你确实需要人类来通过提示 Replet 来构建软件。所以我得承认，他为那个特定的未来提出了一个很好的论点，尽管他可能忽略了事实并非如此，但如果事实如此，他做得很好。我认为最值得担心，尤其是在接下来的几个月到一年里，是那些例行公事的电脑工作，那些是公式化的，你知道的，你去，你有一个任务，比如质量保证工作，对吧？软件质量保证，就像你得到，你得到，嗯，你必须不断测试同一个功能，比如，你知道的，某个大型软件公司微软或者别的什么，你坐在那里，嗯，你，你，你一遍又一遍地做同样的事情，每天如此，如果有一个 bug，你就把它报告给软件工程师，我认为这确实是人工智能将在未来几个月内能够更高效、更高效、更快地完成的事情的靶心。所以一方面，是的，他非常有道理，这些白领工作有些重复，比如对软件进行质量保证。是的，它们很可能可以自动化。但我觉得他故意不问自己的问题是，嗯，等等，等等。有一个人的工作是检查软件是否按预期运行，他们正在使用他们的人类判断来告诉你，“是的，软件按预期运行。”而你说这是一种即将被自动化的工作。好的？那么，请考虑这一点。一家公司的首席执行官写了几页的规格说明，就像他会写给他们的副总裁或部门经理的规格说明一样，告诉他他想要什么。然后那个经理就把它交给你说已经自动化的工作，这个质量保证工作，但它连接到一个 Replet 代理。它连接到你自己的正在构建软件的软件。现在，根据你的假设，现在有一个自动化的系统，它不需要人类参与，因为你说那些工作正在被取代。所以反馈循环中的质量保证部分，现在正在告诉 Replet 代理，它说，“嘿，Replet 代理，你的软件有问题。这个和那个坏了，因为你说那是可以自动化的。”所以如果你把一个 Replet 代理连接到这些已经被自动化的质量保证人员身上，你难道不是非常非常接近于在构建软件时完全不需要人类参与吗？我不是在试图做出明确的预测。我不是在说，“嘿，我们肯定会在未来两年内实现这一点。”我只是不断指出，这就像一种戏剧性的讽刺，我们似乎知道 Amjad 故意不问自己这个问题，但他接受了这个前提。嘿，你的工具会变得更强大，或者 Replet 代理在编写代码方面会变得更强大，而这些质量保证功能会变得更强大和自动化。那么当你把两者结合起来会发生什么，Amjad？是否仍然会有重新培训的工作，让那些曾经从事销售或教育或其他工作的人现在成为企业家，并利用他们的工具和他们的大脑比这个工程师和这个质量保证人员的组合更好，他们两人都已被自动化。很难想象这会是一个长期稳健的场景。这是可能的，但同样，他没有问自己这个问题很有趣。我认为这些系统将开始拥有，你知道的，嗯，更多的在线学习，而不是仅仅在这些大型数据中心和这些大型数据中训练它们，然后给你这个一无所知的设备。它是完全无状态的。嗯，当你使用这些设备时，它们会学习你的模式、你的行为等等。这听起来是对的。但他刚刚给了我们一个新的 Duplo。所以除了人工智能在混音、统计和模式匹配方面非常出色之外，他现在还告诉我们它们将在学习方面表现出色。所以你有了这些正在学习、混音、模式匹配的系统。你告诉我这种组合仍然无法实现泛化或做任何新颖的事情。比如，你不能只学习足够的提示，这样当你混音它们时，你会得到一些新颖的东西吗？现在 Omrad 的抽象 Duplos 正在相互挤占，相互重叠，因为他有一个 Duplo 说人工智能无法创造任何新东西，但现在他有一个 Duplo 说人工智能可以混音，人工智能可以学习。似乎学习然后混音可能加起来创造一些新东西，因为当你学习时，你发现自己处于一个新环境中。这就是为什么你需要学习。所以，这是一个新环境，然后你将旧事物混入新环境中。那么，这不等于创造新事物吗？这就是为什么当你做出 Duplo 级别的声明，做出抽象声明时，你真的必须深入研究你的 Duplos。这就是为什么你必须玩出具体的故事情节，然后说，“好吧，在这种特定场景下，人类仍然是需要的，因为可能会出现这个特定问题。”而 Omro 并没有真正这样做。他只讲述成功的故事，对吧？比如，“哦，这个人今天建了这个。”但他并没有真正推断出去说，“在这个人类突破这个问题的特定时刻，我无法想象提示人工智能来解决人类遇到的同一个问题。”我认为我们最有可能看到的未来是，Omrad 的主张的势头可能错误的可能性大于正确性。我们更有可能看到人工智能“发明”新事物，“泛化”，就像他认为他看到的任何防火墙，使他自己的工具稳健，很可能会被突破。现在，值得称赞的是，他是一个可能会不断改进他的工具的企业家，以便他的工具尽可能长时间地存在。比如，当人工智能出现时，他改进了他的工具，以帮助你通过他的工具使用人工智能代理。他可能会让他的工具尽可能长时间地有用。但归根结底，人类大脑将在各个方面被人工智能超越。也许我们中的少数人会坚持下去，在经济中仍然有价值，但越来越少的人能够做出任何贡献，因为我们的大脑不如我们的人工智能强大。归根结底，我们只是为了在草原上生存而进化，并有一些适应。就像乔·罗根说的，我们不是为了成为这个未来指数级增长的经济的一部分而进化的，当我们与拥有惊人算法、惊人速度、惊人功率（以兆瓦计）、惊人数据量的人工智能超级机器和数据中心竞争时。我是说，这些都是针对人类物种的巨大优势。你必须尊重这些优势，而不是说，“你知道吗？没有人理解意识，所以我认为我们可能没事。”这就像，你好，有很多。就像，环顾四周，好吗？有很多力量正在针对我们。你必须对那种潜在威胁感到谦卑，而不是仅仅因为你不喜欢“末日论者”的态度而驳斥他们。好的？让我们对“末日论者”表示一点尊重。让我们承认“末日论者”只是在告诉你一些高度可能的事情。就像我说的，我的哲学往往与硅谷的主流不同。我认为，嗯，人工智能在，你知道的，嗯，做体力劳动方面会非常出色，而且在，你知道的，像 ChatGPT 一样成为个人助理方面会非常出色，在，你知道的，像 Replet 这样的自动程序员方面会非常出色。嗯，但超级智能的定义是，它在任何任务上都比所有其他人类集体都强。嗯，我不确定是否有证据表明我们正朝着这个方向发展。再次，我认为超级智能或 AGI 的一个重要方面是，你将这个实体放入一个它对该环境一无所知的环境中。它以前从未见过，并且它能够有效地学习以在该环境中实现目标。好的，你听到了吗？Duplo 高效地学习以在新的环境中实现目标。Amjad 对此持悲观态度，尽管他也说过我认为这些系统将开始拥有，你知道的，嗯，更多的在线学习。所以我想他的立场只是在线学习更难，而且不会那么稳健，所以这将是人类的最终优势，那就是如果环境不断变化，人类将因为我们学习得更快、数据更少而领先。我认为这有点像 Amjud 在暗示，是的，环境变化很快。人工智能跟不上人类，如果你看看今天的人工智能，这是完全可能的。就像，这是今天人工智能的一个局限性。我只是看不到 Amjud 所看到的相同类型的，嗯，基本意识障碍。所以，我认为推断五年后，那就是他的世界观和我的世界观可能真正分歧的地方。现在有很多研究表明，比如，你知道的，GPT U 4 或任何最新的模型，如果你给它们一个考试或测验，即使是与它们的训练数据略有不同，它们也会崩溃。它们在这方面表现非常糟糕。嗯，我认为人工智能将继续通过数据来改进。好的。所以这是人工智能的第一天工作。它还没有多少在线学习的数据。所以它会跟随人类，数据会进来一段时间，但然后某个时候，人类是不是就再见了，还是我们应该假设更多的数据会不断进来？我的意思是，这一切都归结为定义，对吧？就像 Duplos 并不真正起作用。比如，某个时候，好吧，人工智能已经工作了一个月。它现在是在混音还是仍然在学习新东西，对吧？就像这里所有的复杂性都取决于对混音的定义，什么是新范式。Omd 没有做的是，他没有将这些 Duplo 术语接地到更低级别的概念。比如，新范式的定义是什么？混音何时会模糊成新范式？你需要多少新的数据才能跨越这个鸿沟？从我的角度来看，物理现实实际上不是由这些 Duplos 构成的。混音和新范式之间没有根本区别。如果你做了足够的混音，并且混音就像一条思维链，激励你进一步混音最新的想法，那么你可以创造的新事物就没有限制。这实际上是一个搜索过程。就像新颖性的概念不是那么根本。概念是有效地搜索，然后注意到你找到了好东西。那种事情是根本的。就像从抽象意义上讲，每个问题都是一个搜索问题，你可以量化不同搜索的好坏和广度。在我看来，这比 Amra 所说的关于新颖性、意识和坚持你的数据更有用的框架。最终，Amjad 似乎并没有清楚地说明他认为限制是什么，除了含糊地说也许存在某种限制。所以，让我们看看他还愿意承认未来有哪些可能性。嗯，现在在某个时候，也许这就是起飞的时候了，那就是它们可以训练自己。嗯，我们知道人工智能如何通过一种叫做“自我对弈”的方法来训练自己。所以自我对弈的工作方式是，嗯，你知道的，以 AlphaGo 为例。AlphaGo 的训练方式是，其中一部分是基于现有数据训练的神经网络，但它在该领域实现超人表现的方式是通过与自己进行数百万、数十亿、也许数万亿次的对弈。我们知道如何在游戏环境中做到这一点，因为游戏环境是封闭的环境，但我们不知道如何做到。我们不知道如何在，比如，文学领域进行自我对弈，因为你需要，你需要客观的真理，在文学中没有客观的真理，品味是不同的，对吧？我不清楚 Amjad 关于文学的说法是什么？他是否认为人工智能在写出获奖文学方面已经非常接近了？因为这将是一个非常有趣的预测，而且它将是对他早些时候关于每个人都将成为企业家的预测的一个很好的补充。似乎值得单独列出，哦，好吧，我们中的一些人也将成为著名的作家，他们的工作也不会被人工智能取代。我认为值得指出他认为哪些领域能够抵御人工智能的接管。我的意思是，鉴于他在科技行业的地位，人们正在寻求他的指导，告诉我们哪些工作将是稳健的。所以听起来他认为，好吧，企业家、文学天才、也许是音乐天才。从我的角度来看，这是一个有趣的预测。当然，你不能为文学做自我对弈，因为当你写一种新类型的书时，就没有客观的评估它有多好，但获奖书籍似乎也是大型语言模型的领域，无监督学习的领域，因为下一个词可能是关于这本书是否获奖的词。这难道不是 Omrad 所说的统计模式匹配吗？大型语言模型可以吸收一本书并给你一个它有多好的分数。大型语言模型在这方面不是越来越好吗？所以，Omra 是不是声称大型语言模型将止步于无法评估一本书是否是真正的赢家？因为根据我与大型语言模型的交流经验，它们在评估写作方面似乎相当有见地。那么，Omra 是想声称，哦，不，不，不，实际上是关于人类意识的东西，当写作质量超过某个点时，你真的只需要一个真正的人来告诉你它是否值得获奖。我的意思是，这些都是有趣的说法，我很想知道 Amjud 的立场。我从他告诉 Rogan 的话中并不清楚。嗯，推测，哲学，有很多事情，再次，我回到为什么人类仍然是首要的，是因为，嗯，有很多东西是无形的，我们不知道如何，比如，生成客观真理来以自我对弈的方式训练机器。这种区别是人工智能目前在有形事物上取得成功，但然后会有无形的事物，它会因此而挣扎，这似乎存在一种确认偏见，因为从我的角度来看，人工智能今天写的文章，或者短篇故事。如果我告诉你五到十年前，是的，这将是人工智能的输出。那么告诉我，这是有形的还是无形的？我认为我们很多人会看着它说，嗯，它看起来有一些很好的无形品质，人工智能正在触及。我觉得它确实复制了人类大脑在这方面的许多魔力。但当然，确认偏见，它已经存在了。所以我们可以回顾一下说，“不，不，不。到目前为止一切都是有形的。还没有无形的伟大。那都是在遥远的未来。别担心那个。”嗯，但是编程有客观真理。编码有客观真理。机器可以，比如，你可以构建一个包含计算机和问题的环境。有很多问题，甚至人工智能也可以生成，你知道的，示例问题，然后有一个测试来验证程序是否有效。然后你可以生成所有这些程序，测试它们，嗯，如果它们成功了，你知道，这是一个，嗯，这是一个奖励，可以训练你的系统变得更好。如果它不成功，你知道，那也是反馈，它们一直在运行，它在编程方面变得更好。所以，我确信编程会变得好很多。等等，这似乎有点偷换概念。你说文学是无形的，无论好坏，你不能用自我对弈来提高文学水平，但你可以用自我对弈来提高编程水平。我的意思是，是的，当然，如果你正式定义了程序之间的输入输出关系，那么是的，你运行程序，然后你检查输出是否可证明是正确的，但 Replet 上的人并不是这样做的，对吧？你在 Replet 上成功地构建了一个系统，人们正在使用它来拥有这个自动化的工程师，它只是满足产品规格，但它并没有正式验证它是否满足产品规格。某物是否满足产品规格是无形的。这就是为什么人类不得不一直这样做。即使在今天，你仍然有职业生涯，人类软件工程师和产品经理。所以，等等，你在 Replet 上进行的编程能够以有形的方式进行，并且可以通过自我对弈进行。我的意思是，你使用的这些 Duplos 非常模糊。我不清楚为什么你认为软件工程是一个已解决的问题，而现实世界中经理们给员工的规格说明非常模糊，并且非常依赖于无形的人类判断。我认为你真的需要重新审视你认为你理解的区别。如果人工智能分析了过去所有的创造力，所有不同的文学作品，所有不同的音乐，所有人类完全在没有人工智能的情况下创造的东西，你认为它能理解创造力背后的机制并制造一个合理的仿制品吗？嗯，我认为它将能够很好地模仿人类如何产生新想法，通过混音所有现有的想法，以及，嗯，从它的训练数据中。但顺便说一句，这非常强大。他正在冒险声称人工智能创造事物的方式是混音。我今天有过这样的经历，我让人工智能根据我记得的歌曲的音阶度数来识别一首我想到的歌曲，而人工智能说，“嗯，你说它使用了这些音阶度数。让我搜索网络。”你说这首歌是在 2013 年之后发行的，是一首流行歌曲，你说你认为它使用了四和弦。让我搜索网络，让我集思广益，想一些会使用这种和弦的歌曲。让我浏览一下列表。嗯。我找到了这些吉他谱，它说它使用了这些和弦音符。我认为这可以算作四和弦音符。所以我就像一个聪明的人一样推理出了这一点。事实上，我本人作为一个谷歌搜索者，看着人工智能所做的，我说，“哦，我本可以这样搜索谷歌。我可以做这些步骤，但那些步骤甚至没有出现在我脑海中。”那么，这是混音，还是人工智能只是在推理？比如，我们不能直接给它奖项说，“好吧，好吧，它学会了如何，嗯，推理。它学会了如何成为世界上的一个代理，如何学习事物然后应用它的学习。比如，我们为什么如此犹豫不给人工智能这个荣誉呢？比如，它不断给我们提供新的解决方案，然后我们去看看它是怎么做的，然后说，“哦，是的，一个人就是这样做的。”你真的需要引入这个大大的 Duplo 说混音吗？伙计们，你们刚刚看到了一个混音。不，我不认为我们看到了一个混音。好吧，让我们放弃混音。这不是对人工智能的攻击。嗯，将所有可用数据混音成新的、可能的新想法或新颖的想法，因为它们是混音，它们是衍生的，这仍然非常非常强大。但是，嗯，你知道的，最好的营销人员，最好的，比如，你知道的，我最喜欢的营销视频之一是苹果的“Think Different”。它太棒了。比如，我认为机器还没有达到那个水平，比如，嗯，我经常和 ChatGPT 谈论，比如，嗯，营销或命名。它在这方面太糟糕了。它就像一个中等智能的家伙一样糟糕。嗯，嗯，我，你知道的，目前，但是，但是，这就是问题所在。就像，我只是看不到，看，我不是，我不是，嗯，人工智能研究员，也许他们在工作，他们有想法，但是，在当前的技术格局下，很难想象这些人工智能将如何在文学或我们人类觉得非常有吸引力的更软性的事物方面变得更好。好的。我不同意，但为了你自己的前后一致，你不想回到你在这期播客开头所说的，“每个人都将成为企业家。每个人都将成为企业家。”你不想再单独列出一些领域吗？你不想说，“嘿，如果你是一名营销人员，我不知道人工智能如何能想出像苹果的‘Think Different’活动一样好的东西，因为你不能通过混音做到这一点，而人工智能只能混音。”所以，如果你是人类，我鼓励你去营销领域。你不必成为企业家。你不必使用 Replet，因为有一个整个绿色领域是人工智能无法触及的。它被称为高端营销。那不是混音。那是一个很棒的职业领域。每个人都应该学习它，对吧？为什么不注意到你说每个人都将成为企业家，而现在你说，“哇，营销远远超出了人工智能的范围，因为它不是混音。把你的故事讲清楚。”人类加机器将能够创造出惊人的事物。所以人们用 VO 制作的东西不是因为机器非常擅长绘画，擅长生成和制作它，但它没有提示就无法制作。所以从 Mom Jud 的角度来看，所有这些很酷的视频都主要是人类在进行提示 VO3 的创造力，然后，是的，V3 正在渲染场景。比如，是的，它正在精确地绘制哪些像素和哪些角色在哪里，看起来是什么样子，它们如何移动，它们如何说话，但提示它们的人。他们知道如何提示它们。所以显而易见的推断是，比如，好吧，所以一年的这种事情发生了。谷歌拥有所有关于人们在 YouTube 上发布的内容，人们用 V3 生成的内容的数据，然后只是输入提示。它只是训练人工智能，比如，“哦，人们是这样提示 Vio 的。这是 Vio 制作的。这是在 YouTube 上走红的。”你不认为一年后，这将是一个端到端的流程，将会有很多热门视频，这些视频既有提示，也有自动生成的吗？你真的认为一两年后，人类将提出进入人们信息流的大部分提示吗？我的意思是，也许吧，但你为什么认为这是，比如，最有可能的场景？似乎我们提供了足够的数据。比如，你不会只是混音，对吧，你最喜欢的词？你不会只是混音吗？你不会只是统计分析过去一年的提示吗？我就是不明白为什么他对人类与机器的共生关系如此自信，认为这是一种永久状态。我们就像，“哦，这块肉，我比机器更了解人性，机器永远不会了解人性。”真的，我认为如果你对人性做大量的深度统计，你就会走上正轨。好了，就这样。这是在乔·罗根播客上与人工智能相关的所有内容。总的来说，我感觉他只是不想考虑这个想法，即，是的，人工智能即将从各个方面超越人类智能。它将更具代理性，拥有更高的能力，比人脑更强的结果导向能力。它将使人脑过时。这将在几年内发生，也许最多一到二十年。可能不会花很长时间。似乎 Amjad 只是不想把它当作一个假设来考虑。比如，嗯，我想我应该给它多少概率？我应该至少给它 10%，至少 20% 吗？从我的角度来看，这就像，是的，废话。你必须给它 20%。这是一个非常现实的可能性。如果你只是推断趋势，并且不试图过于自信地认为你知道意识是什么，对吧？我的意思是，是他说的，“嘿，对意识要有一定的谦虚。”好吧，如果你对意识有谦虚，为什么你不谦虚到意识到也许它只是你可以附加到生物体上的东西，无论它们的智力水平如何。它就像，你知道的，可以与各种刺激相关联的情感感受。不一定对应于智力。我觉得他只是不想说，“嗯，让我们谈谈末日情景。”让我们谈谈机器智能变得比人类智能更强大，而我们有一个最后的时刻，我们需要正确地交接。就像他不想谈论这些事情一样。所以他把很多论点结合在一起，这些论点在不同程度上都有道理。他提出了很多我称之为 Duplos 的高层概念，这些概念是关于人工智能的局限性，比如它必须进行模式匹配，它必须是统计的，它只能混音，它不能创造新范式，但它可以学习，它可以自我对弈，但只在某些领域，而不是在模糊的领域，但我有一个叫做 Replet 的工具，你确实有一个软件工程师在模糊的领域，哦，还有质量保证，那个领域不太模糊，你肯定会看到人工智能正在取代质量保证领域的人类，哦，每个人都将成为企业家，但有些人仍然需要从事软科学，有些人需要成为作家，有些人需要从事营销。所以，他到处扔了很多 Duplos，在某种程度上是有道理的。比如，他有很好的直觉，基本上，对吧？我觉得他跟得上新闻，他能获得见解，并将其融入自己的公司，融入自己的产品。我的意思是，他是一个非常有效的人。比如，他的思维工作得很好。只是当你让他预测未来时，你才开始看到他的 Tuplos 之间的差距。比如，他的推理方式非常适合跟上科技行业并管理自己的公司几年，但对于“嘿，我们是不是要被智能超越了？”这种思考方式就不那么好了。你需要更高水平的严谨性来思考这个问题。你需要从 Duplo 下降到乐高。你需要能够回答关于具体场景的问题。比如，“好吧，你说人工智能只能做统计。给我一个人类企业家可以持续做下去的例子，告诉我为什么人工智能无法复制这个特定问题。比如写一个评估。你知道人工智能公司如何使用评估来测试他们的人工智能的能力。你的创业评估在哪里？对吧？如果你在 Replet 考虑未来几年，如果一个企业家正在使用 Replet 来建立一家公司，一个以前在汽车经销商那里做销售，现在重新培训了，他们现在正在使用 Replet。好的。那么，这个企业家可以做什么评估？他们可以通过评估，比如“经营这家公司”，而人工智能无法通过评估，因为你认为存在巨大的技能差异，因为人类是有意识的，人类在泛化，对吧？让我们更严谨地思考一下。这就是我希望看到的。我希望看到他对与他想象的 Replet 的未来以及每个人都成为企业家的未来不同的情景，有更谦虚的概率。我希望看到他对自己的推理不够严谨有更多的自我认识。比如，他的推理存在差距。他讲了一个含糊不清的故事。我希望看到他自己意识到他正在这样做。但是，是的，我的意思是，对他和他的公司来说，好消息是，只要我们处于人工智能还不能做所有事情的中间阶段，我就看好 Replet。我也承认这个阶段可能持续 5 年、10 年，甚至 20 年。我希望它能持续 20 年，对吧？那将是伟大的。那意味着我们有比我预期的更多的时间。所以我认为他处于一个有利的位置。我认为他继续做这样的播客，继续这样说话，这可能是战略性的。只是如果你在观看末日辩论，并试图确定 P Doom 是什么，以及我们应该对我们文明的未来有什么期望，我认为在这方面他不是一个很好的来源。现在，你可能想知道，为什么 Lyron 对 Amjud 的所有观点都不信服，而坐在他旁边的乔·罗根听着同样的观点，他似乎一直在点头？那么，Jud 是如何设法说服 Joe 的呢？嗯，作为一个有趣的附录，我想给你看看乔·罗根第二天在他的节目中说了什么。因为在他邀请 Amjad 的第二天，他邀请了另一位观点截然不同的人。他邀请了 Roman Yampolski 博士，他非常支持人工智能的“末日论”。他实际上有 99.99999% 的 Pdoom。我和他做了一期节目，如果你搜索 Doom Debates Roman Yolski。我们进行了非常有趣的来回辩论，我试图说服他，他的 Poom 应该更低，这对我来说很少见。是的。所以乔·罗根非常尊重 Roman Yolski，因为 Roman Yolski 以前上过他的节目。乔·罗根再次邀请他是因为他基本上想要一个理智的检查。他想确保他没有被 Amjud 的现实扭曲场吸得太厉害。但这非常有趣。听听乔在节目开始时对 Yampolski 博士说的第一句话。谢谢你做这个。我真的很感激。我的荣幸。谢谢你邀请我。关于，嗯，人工智能的危险。这，这非常有趣，因为我从人们那里得到两种截然不同的回应，这取决于他们对人工智能的投资程度。嗯，那些拥有人工智能公司或属于某个人工智能团体的人都说，它将是人类的净积极因素。我认为总的来说，我们的生活会更好。会更容易。东西会更便宜。会更容易相处。然后我听到像你这样的人，我就想，我为什么相信他？是的。乔·罗根体验是一个与末日辩论截然不同的播客。如果我认为我不同意我的客人所说的，我毫不犹豫地直接反驳他们。乔的模式，就像大多数播客一样，是顺着客人的意思来。你知道的，如果客人朝着某个方向走，不要破坏他们的情绪。只是顺着他们，这样可以做出一个好的节目。我的意思是，我们真的看到了 Amjud 的走向。我们真的听到了他想说的所有观点。他以自己的方式表达了它们，没有太多阻力。但是，你知道的，真正的乔·罗根似乎在 Roman Yolski 的“炒作末日”阵营中更有同情心。至少我是这么认为的。让我们让乔·罗根来做最后的决定。这是他结束与 Roman 的节目的方式。更多的人需要听你的。嗯，我，我敦促人们收听这个播客，也收听你和 Lex 做的那个，我认为那很迷人，让我吓得要死，这就是为什么我们做了这个。谢谢你，Roman。我很感激你。非常感谢你。我感谢你敲响警钟，我真心希望它有帮助。好的。希望你喜欢这期节目。如果你想看我更多地评论其他人，请访问 doomdebates.com。滚动浏览档案。还有更多。几周前，我评论了 EMTT Shear 谈论他的新人工智能对齐公司 Softmax。当你在 doomdebates.com 时，订阅我的 Substack。你将获得奖励内容。你将获得文字记录和新剧集发布时的通知。你也可以访问 youtube.com/doomdee debates。大多数关于节目的对话都在那里进行。你也可以在你的播客播放器中订阅 Doomdebates。无论你如何做到，感谢收听，下次在这里的 Doom Debates 见。 [音乐]