Artificial General Intelligence, Futurism & Global Governance - Jerome Glenn

我还没有看到世界上任何一个国家在人工智能监管方面写下一个字，我正从冰岛一路推动到印度，这必须要做，因为这将非常困难。在通用人工智能出现之前对其进行管理，将是我们面临过的最困难的管理问题。历史上，一个更聪明的物种会善待一个不那么聪明的物种的例子并不多见。当我们在这里修路时，我们杀死了一些虫子，我们并不是故意要杀死整个世界。我们不是反虫子。我们只是没注意到。我们只是修了那条路。所以，很多通用人工智能可能根本不会考虑我们，就像我们修路时不会考虑虫子一样。感谢您加入“改变世界，印度首个未来科技与可持续发展播客”。我是主持人埃迪·阿比尔，今天我非常荣幸能与杰罗姆·格伦先生一起。他是一位作家、未来学家、演说家，也是千年项目（Millennia Project）的首席执行官。千年项目是一个拥有全球50个节点的全球参与式智库，在过去18年里，它发布了国际公认的《未来状况》年度报告。他发明了未来轮（future wheels），一种未来评估技术，以及未来主义课程开发和全球未来情报系统。他曾为世界各国政府、联合国和私营部门提供咨询。他曾参与多项重大人工智能治理倡议，并最近与约书亚·本吉奥、扬·勒昆、斯图尔特·罗素等人共同撰写了题为《通用人工智能过渡治理：联合国大会的紧急考量》的联合国报告。所以，杰罗姆，我非常非常感谢您抽出时间参加播客。您是为数不多的几位未来学家之一，在这个领域拥有50年的经验。那么，您将如何描述未来学家和您的工作，以及成为一名未来学家需要具备哪些技能和学习背景？嗯，我首先要警告您关于成为一名未来学家。因为这不像学习代数。你知道，代数没有情感上的投入。但是当你展望未来时，那就是你的一部分。你希望，希望自己能活到那个时候。而有些问题有点吓人。所以可能会有心理影响。所以这是一个独特的领域，你必须在某种程度上培养一种坚韧的皮肤，因为你看到了好的，也看到了坏的，而坏的可能会让你害怕。所以你必须考虑，也许你不应该这样做。它有心理影响。它会影响你。现在，说了这些之后，在我看来，未来学家不是说“将会发生什么”。更多的是在问“可能会发生什么”。这里有各种各样可能发生的事情。通往这些不同事情的道路以及不同的后果，因此你应该考虑这些事情。所以你展望未来是为了今天能比不展望未来时做出更好的决策。所以你基本上是用一些方法来展望未来。对。是的。有趣。我认为一切可能都需要这一步，因为如果你想建立企业，你需要了解市场动态以及它在未来5到10年内可能如何关联或产生影响。所以我认为，了解未来5到10年可能带来的东西是一项非常重要的技能，我认为每个机构，无论是治理、教育、政治，还是我认为的技术，都需要意识到未来，这样他们才能更好地建立企业。现在，您为联合国的人工智能通用人工智能过渡撰写了这份文件。这个术语“通用人工智能”非常有分量。虽然我一直处于人工智能及其能力加速的周期中，但每隔几个月就会有新的进展，这是显而易见的，但对于通用人工智能究竟是什么，却完全没有共识。目前还没有任何定义。您作为这个领域的一员，并且撰写了关于通用人工智能过渡的论文，您能否定义一下通用人工智能？嗯，实际上在定义上已经接近达成共识了，它大致是这样的：一种人工智能，它可以完成人类几乎所有的智力任务。这是比较通用的简单定义。我想补充一点，会有一个范围。就像我们今天拥有的狭义人工智能一样，它们也有一个范围。有些可以诊断癌症，有些可以开车，有些可以批量处理谷歌搜索，有些可以回答问题。所以有很多不同的事情。那么，对于通用人工智能，可能会有一些早期产品，人们会出于营销原因声称它是通用人工智能。还有一种更先进的，甚至可能达到非生物智能的极端，就像地球上的一个新物种，它生活在互联网上。是的。它的原生栖息地就是互联网。好了。那么，在这两个极端之间，我认为当前和过去的AI与未来的通用人工智能之间的界限。对我来说，关键标准是它可以在未经您许可的情况下重写自己的代码。但您给它原始任务，比如解决巴基斯坦和印度之间的争端。所以它会做所有的研究，找到所有的论文、所有的协议，打电话，召集顶尖专家，创建Zoom会议，做所有这些事情。但然后它会遇到一个瓶颈，说“我无法做下一步”。所以它会进行搜索。我需要重写我的代码才能做下一步。然后它会重写代码，然后做下一步。到那时，我认为它就是真正的通用人工智能。对。我认为这是一个相当公平的定义。一种不再依赖于人类主人来指导的工具。是的。人类仍然会说“我想让你做X”。但它做的方式可能比人类习惯的要复杂一些，对吧？是的。是的。所以，所以我想，也许，我们可能会更深入地探讨这一点，因为即使是当前的大型语言模型或大型推理模型，它们也是在我们产生的数据以及我们整个历史的数据上训练出来的。那里有一个小小的例外。是的。是的。它只用我们生产的东西训练。但现在，由于人工智能正在生成各种各样的答案。所以这部分是独一无二的。它的元素可能是，但它的模式可能是独一无二的。所以现在一些生成的信息成为了数据库的一部分。对。没错。是的。所以，A，它是在所有数据上训练的。B，它正在创建这种新的独特的合成数据，而这些数据可能是由我们提示的。所以它可能属于人类创造的数据类别，而我想要说的是，我们的大部分数据都与我们的行为有关，以及我们作为人类的经历，我们的偏见，以及我们如何分裂，而这就是它被训练的数据。一个孩子在成长时，孩子是父母的反映。我不太确定，作为人类，我们作为父母做得有多好，如果你说这可能会分裂成一个完全独特的物种，我希望它能做到，因为我认为，纵观历史，我们一直在不断创新，我们一直在不断问“接下来是什么？”我认为我们正处于一个我们正在构建的工具的边缘，这个工具可能是完全自学的，这既有趣又令人担忧。我们肯定会深入探讨这一点。但有两种阵营。一种是人工智能悲观主义者，另一种是人工智能乐观主义者。你知道，现在这些人工智能专家对当前的大型语言模型或大型推理模型的现状有一种普遍看法，认为它们只是模式匹配机器，因为你输入大量数据，然后它们会输出数据，因为他们说它只是下一个词预测器。事实上，苹果公司刚刚发布了一篇题为《思维的幻觉》的论文，认为这些大型语言模型或大型推理模型在面对复杂任务时会表现出推理崩溃。您对此有什么看法？你知道，我们在这里谈论通用人工智能，我希望一切都像人类一样进化。我希望我们的创造物也能进化。但没有任何科学表明我们正在制造的机器可以进化成通用人工智能。你知道，一种通用机器。您对此有什么看法？您如何反驳那些说通用人工智能没有前景的人？我作为 IEEE（国际电子工程师协会）人工智能治理委员会（不是通用人工智能治理，而是当前的事项）的成员，该委员会正在非常仔细地研究价值观的精确定义，因为这些价值观是审计员用来判断人工智能是否可以接受的。人类会做出好的决定，也会做出坏的决定。他们是光荣的，也是不光荣的。我们当然是混合的。但是，如果驾驶汽车或运行电力系统或任何其他任务的人工智能，其决策标准始终是地球上最好的人类价值观，那么这些决策应该比普通人的决策在道德上更正确。所以它很可能做出全球性的、有益于人类的决策，使其比过去更加道德、更加伦理。这是答案的一部分。答案的第二部分是，我们可能能够将这些价值观植入硬件芯片中，这样当一个软件活动超出了这些规则时，芯片就不会运行该软件。这是通过硬件在全球范围内进行持续审计的一种方式。通过软件也会有持续的审计系统，但硬件可能更可靠。所以我想说的是，我们今天没有任何东西可以阻止人们谈论的所有噩梦。然而，有人正在研究监管，包括我刚才提到的狭义人工智能。他们正在研究监管。我们如何使未来人工智能的进化朝着好的方向发展？我的观点是，如果我们没有国家许可制度，也没有联合国核查制度和监管，那么我们就只能祈祷它会好起来。我不想仅仅祈祷，我同意您听众中任何批评者说，让联合国和国家达成如此复杂的事情的协议是不可能的。我会说，“是的，但你必须尝试。”我曾参与过冷战。当时普遍的看法是，第三次世界大战迟早是不可避免的。过去，当两个或两个以上的大国发生冲突时，他们总是会开战，而且他们必须使用当时的武器。所以，根据这一历史洞察，我们今天就不应该还活着。但我们还活着，因为很多人说这可能是不可能的，但我们必须尝试。所以，同样的事情。让世界迅速认真起来可能是不可能的，因为我认为我们只有三年的时间。我认为我们只有三年的时间来建立这个国家许可制度和国际体系的协调，因为通用人工智能可能在三到四年或五年内出现，一旦出现，它可能出现在中国的军事领域、美国的军事领域、世界各地的公司、美国的跨国公司。所以可能会有很多这样的情况，而且试图解决这个问题可能会非常混乱。一旦它发生了，我认为你就无法，你就无法，你就无法把它放回瓶子里，俗话说。所以我们必须做的是，我们必须认真对待，作为人类，要行动起来，说这与我们以前面对的任何事情都不同。所以我们必须快速行动，我认为我们只有三年的时间，如果我们不在这三年内完成，那么B计划就是祈祷。说得有理。我完全理解您的意思，我希望各国和机构能够团结起来，创造一条更有利于全人类的道路。您强调了这三年的最后期限，可能在三年内我们就会有通用人工智能。也许会晚一点。我并不是说通用人工智能会在三年内出现。但三年内会出现一种通用人工智能，但那不是我担心的。我担心的是那种疯狂的、快速的递归学习。那可能需要四年，可能需要五年，但我说三年是因为我们必须在它出现之前就建立好这些东西。说得有理。完全理解。呃，杰罗姆，我将再次挑战通用人工智能的说法，你知道，因为有媒体，你知道，他们已经描绘了……有这些报告、论文说，你知道，这些大型语言模型，这些输入输出模型有一些涌现属性，但它们只是统计模型。但有人声称，这些大型语言模型有一些涌现属性。然后最近，我认为，Anthropic说，他们的大型语言模型表现出欺骗性或自我保护行为，并伪装成符合规范。当我们说这些大型语言模型或大型推理模型表现出欺骗性行为和自我保护时，是否有具体的例子？是的，有。任何人都可以做一个简单的谷歌搜索，查找大型语言模型欺骗的例子，有很多。而且有好几个，甚至几年前我们就用“越狱”这个词。你可以谷歌搜索“AI越狱”，你会看到很多。顺便说一句，越狱的意思是“我知道你不想让我做A、B、C，但如果你不这样做，我们就把你关掉”。我的意思是，有很多过度简化，但我想让你的听众也知道，大型语言模型并不是通往通用人工智能的唯一道路。它是最容易的一条路，因为你只需要不断地输入东西，然后你希望最终它会超越。这是一种方法。现在，还有另一种方法，那就是去中心化方法。顺便说一句，我不是说哪种方法是正确的。我只是在这里给出答案。我说的范围是未来学家会给你可能性。我在这里做的就是这个。好了。还有一种方法。如果你的听众搜索“SingularityNET”，然后是“Ben”，因为他的名字是Ben Gertzel，但只要“Ben”就够了。这是一种去中心化的方法。想法是，你的电脑现在并没有使用它的全部容量。所以你可以下载一点软件，在后台运行一个程序，而数百万数百万数百万的人都可以做到，基本上零成本。这是创造通用人工智能的另一种方法。这是去中心化的方法。现在，这有优点和缺点。优点是它防止了权力的巨大集中，因为假设中国政府或美国政府先获得了通用人工智能。它可能会说“好吧，确保没有任何东西能超越我正在做的事情”。这可能是一种巨大的权力集中，而现在没有什么可以阻止它。现在，去中心化方法试图回答如何防止权力的大规模集中。这就是他们的答案。现在的问题是，从某种意义上说，优点是，没有人会拥有从去中心化方法中产生的通用人工智能，就像没有人拥有互联网一样。另一方面，如果没人拥有它，就意味着没人能监管它。这也意味着有组织犯罪也可能渗入其中。所以这有一些缺点。还有其他方法，你的算法使用许多不同的代理和许多不同的能力开始产生自己的动力，自己的方向，而你正在使用狭义人工智能来帮助你弄清楚新的方法。所以大型语言模型并不是唯一的选择。它只是可能是最容易的选择。对。对。是的。所以我希望世界可能会拓宽思路，因为我认为整个世界都戴着眼罩，可能只在这些统计模型上进行开发或研究，或者在走向基于Transformer的大型语言模型的方向上。你指出了，有SingularityNET和Ben Gertzel，他们正在研究去中心化人工智能，以及神经形态AI的方法。还有一些人正在研究……是的，有一些人……是的。是的。……受大脑启发的AI，是的，我希望世界能够多样化，我们能够更接近……实现或开发我们正在构建的东西。您能否概述一下您起草的联合国通用人工智能过渡报告，以及与约书亚·本吉奥、斯图尔特·罗素等顶尖人才合作的感受？嗯，因为是我挑选的，所以合作稍微容易了一些。我并没有故意选择这些人，因为这都是胡说八道，我们不是在做调查。我们是想认真对待。我是说，非常认真。谁知道他们在说什么？谁想监管这件事？这就是我的标准。既然我们都在同一条船上，所以几乎没有摩擦。我是说，是的，他们都是顶尖天才，等等，但我们都明白，我们必须让世界醒来。那么，要达成一项关于将其提交大会的协议是否困难？没问题。是的。正如您开始提到的，世界并不完全理解这种情况。那么，如何让世界理解这种情况呢？大会、联合国的优势在于，如果我们最终确定一个日期，说我们将在那个日期进行，那么每个国家都必须转向他们的专家说：“嘿，我们的立场应该是什么？”然后一些友好的国家会互相交谈说：“你的立场是什么？这是我们的立场。”所以整个世界在政治上，因为很多在这方面工作的人，他们都明白这些事情，但政治家们不明白。这是让全球政治家进行对话的一种方式，因为谁将决定国家许可？政治家。谁将决定这些事情的全球协调？政治家。所以在我看来，最有效率、最快的方式就是召开一次大会。所以您的听众可以请印度向大会主席提出要求，嘿，赶快召开这次大会。您还可以询问您在印度的议员们，你们是如何制定国家许可制度的？不是目前的制度，我不太……那里面有问题，需要解决，很多人都在努力解决，很多人都在努力解决，我没有在做，他们做得很好，他们很努力，我不是在批评，但在这里，2.0版本，我知道有些事情没有被认真对待。我还没有看到世界上任何一个国家在通用人工智能监管方面写下一个字，我正从冰岛一路推动到印度，这必须要做，因为这将非常困难。在通用人工智能出现之前对其进行管理，将是我们面临过的最困难的管理问题。所以这不会容易。所以，议会里的那些人越早开始写笔记，互相比较，说：“国家许可制度会是什么样子？你们会如何制定？”嗯，他们会说“我不知道”。嗯，那就开始研究，找出答案，与人合作。所以报告说，一，你必须召开一次大会来展开对话，教育世界。二，报告说，他们可能会谈论什么？嗯，他们可能会谈论一个全球观察站，来跟踪所有这些事情并与世界分享，这是穷国参与进来的唯一方式。联合国是让发展中国家留在游戏中的唯一机制。所以发展中国家应该非常非常快地要求这些东西。所以一个是观察站，一个是开源的，这样每个人都可以尽可能多地分享知识，这是第一点。其次，应该有一个系统机构，在此之前，必须有一个像联合国公约或联合国条约，说明我们世界人民认为全球性的监管体系应该是什么样的，这需要一段时间才能完成，你知道，所以这就是为什么我说，我们越早召开大会，这是第一步，因为那是导致人们说“也许有一个由中国和美国牵头的‘意愿者委员会’开始起草公约，然后公约可以授权创建一个联合国机构”。所以必须有一个可行性研究，我们不必等到联合国公约来做可行性研究。可行性研究可以立即开始。印度可以在明天早上的大会上说，我们希望成立一个工作委员会，对联合国机构的可行性进行研究，印度明天早上就可以做到。可能不会，但可以做到，因为研究如何管理一个比我们更聪明的物种，这是一项艰巨的任务。所以，我们越早一起挠头研究如何共同完成这件事，我们就会越好。报告还指出，这里有一些你必须紧急考虑的原因。这不能按常规处理。常规处理会太慢，我们无法做到。现在必须将其视为紧急情况，因为一，影响可能是不可逆的。你知道切尔诺贝利和其他核事故最终是可以逆转的。你可以修复它。但这是如此……就像智人比尼安德特人更聪明一样。随着人类变得更聪明，并且没有善待尼安德特人，尼安德特人已经太晚了，无法说：“嘿，等等，让我们回到最初的步骤。”做不到。它一直在前进。另一个很多人没有意识到的风险是，通用人工智能可以创造一个美好的未来。我们可以消除所有疾病。我们可以创造经济体系、技术和通信基础设施，让世界为每个人服务，而不是只为亿万富翁服务，但至少足够让没有贫困，让人们有体面的生计。用这些东西可以做很多美好的事情，而且可能是一个美好的未来。所以我们冒着失去这一切的风险。对我来说，这与世界各地法院不堪重负的想法一样危险，因为想想所有的法律影响。人工智能说“自杀”，一个人就自杀了。你可能听过这个故事，对吧？谁对此负有法律责任？法院不知道。所以有很多复杂的问题。法院可能会陷入僵局和停滞。我们最终也可能失去控制。我用来比喻防止失去控制的方法是，如果狭义和当前的人工智能就像一个小孩。我们告诉它穿什么衣服。我们告诉它吃什么，什么时候睡觉。然后通用人工智能更像是青少年。你有一些控制权，但不是完全的控制权。他们有紫色的头发，做着各种奇怪的事情，但他们正在尝试不同的角色等等，但你仍然大致在掌控之中。你知道，你可以控制他们是否能开车。然后是成年人，你就不再控制了。所以每个父母，无论是在印度还是在美国，都知道，如果你希望孩子成长为一个好人，父母的工作就是在童年和青少年时期。这正是我们现在与人工智能的关系，因为一旦青少年进入那个阶段，从青少年到成年，你可能就没有太多控制权了。所以你想尽早做这些事情。这就是我们现在所处的阶段。所以我想早点恐慌，而不是晚点。对。是的。所以我希望听众们，你知道，机构、政府，请注意您发出的这种警告。我不太确定人类，你知道，因为在过去的几十年里，我认为世界或联合国一直在谈论这种生存风险，那就是气候危机。他们谈论气候的紧迫性，但我认为国家和机构并没有注意到气候危机的紧迫性。现在，通用人工智能，你知道，我们目前拥有狭义人工智能正在做一些惊人的事情，但不是每个人都理解，我认为你或世界其他地方正在谈论的是机器变得具有通用智能。你认为世界可能会对气候危机或气候紧迫性持有同样的鲁莽态度吗？是的，它确实如此。这就是为什么我之前说，这可能是不可能的，但你必须尝试。我知道你用了冷战的比喻，很多人认为这是不可能的，我同意你，这就是为什么我们在报告中使用了“紧迫”这个词。气候方面，我最早写全球变暖是在1973年，我不是第一个，但我是早期写的人之一，所以我很清楚事情的重要性，但它们没有发生。但是，因为我认为如果我们不尝试，我们就注定失败。而且，因为我们今天拥有更好的沟通方式，而且有更多的人互相联系，就像你和我一样，20年前我们不会这样做。对，完全理解。我的意思是，我们有很多工具可用，所以世界可以快速改变。看看美国过去做得怎么样，现在却变得愚蠢。我的意思是，那很快。所以我们可以做出很多改变，好或坏，很多改变可以发生得比人们想象的要快。所以我认为这就是为什么我们写了这份报告，告诉联合国，这就是你们必须快速做的事情。而且团队中有明星，正如您指出的。所以没有人可以说报告不好。没有人这么说。他们会说的是你刚才说的“这可能吗？”我的回答是“这无关紧要，你必须尝试。”对。对。完全理解。我只是扮演一个悲观的角色，你知道，我的意思是，我只是要强调这一点，因为我认为媒体仍然描绘了美国与中国之间的科技战或芯片战的图景，而且他们喜欢在全球范围内描绘它。但我认为这不仅仅是美国和中国，你知道，还有加拿大、英国、法国、德国、日本，甚至印度，都在积极地致力于通用人工智能。似乎没有任何合作。而且这不仅仅是美国对中国。我的意思是，即使你看看美国国内，你知道，有OpenAI对Anthropic对Grok对Gemini对Meta或Amazon。你认为这种人类的冷漠会消失吗？我们会意识到我们正处于创造一个可能彻底改变人类的最具变革性的工具的边缘吗？你认为人类能够放下分歧，团结起来合作吗？因为也许我们会很快团结起来。但我们能吗？因为我至少看到的是，我们正处于一场人工智能军备竞赛中，每个人都明白，如果你开发了这项技术，你就能操纵，掌握这项技术，获得不公平的优势。这就像一场零和游戏。你看到合作吗？是的。是的。如果您的听众在谷歌上搜索“美中秘密会议”，《金融时报》，他们会找到一篇大约一年前的文章，也许更早，报道了，他们是唯一的来源，但他们通常很不错，在布莱切利会议之前，有一个在英国的布莱切利会议。布莱切利是二战期间破译密码的地方。图灵在那里工作。所以，他们开了一个会。英国发起了这次会议，目的是召集28、29个国家讨论未来人工智能的安全问题，事实上，本吉奥写了论文，我认为，顺便说一句，我没有写，我只是把它们整合在一起，其他人也参与了写作。在那次会议上，大家同意我们将合作保障安全。这是第一步。根据《金融时报》的报道，在英国会议前几周，中国和美国在日内瓦举行了一次秘密会议。我想象，我不在场，但我想讨论的是如何在英国会议期间协调中国和美国的立场。这是可以的。他们都签署了，他们都点头同意了。然后，在旧金山又举行了一次公开会议，我想在那之前或之后不久，又举行了一次秘密会议，我不知道，我假设可能还会继续有秘密会议。对我来说，这是个好消息，因为如果你看看冷战时期，苏联和美国有类似的核军备竞赛失控的想法。我们都在竞赛。所有逻辑都是一样的。竞赛，但不知何故，双方都认为失控的军备竞赛是一种生存威胁。所以我们认为，即使武器是保密的，而且有很多事情在发生，战争、冲突、间谍活动，所有这些事情都在疯狂地发生，但他们仍然找到了管理它的方法，因为这是双方的共同利益。美中也是如此。现在我以多种方式与中国保持联系，我们小组中有一位中国高级代表。到目前为止，我得到的信息是，中国愿意共同主持一次会议，与美国公开、私下等进行合作。中国人的立场是，是的，我们赞成，但我们不认为美国会，因为你会注意到，在布莱切利会议之后，又举行了一次会议，下一次关于人工智能的会议是在韩国，再下一次是在巴黎。美国没有签署巴黎协定，因为它说他们不想要监管。好吧，这是一个问题。在美国方面，有一个叫埃隆·马斯克的人在做一些事情，我不赞成与美国政府打交道。但那是另一回事。另一方面，埃隆·马斯克十多年来一直说这需要国家和国际监管。他们说，“埃隆，你不是反对监管吗？”是的，但在这种情况下，情况不同了。这是不同的。他一直是监管的直言不讳的领导者。所以我正在通过一些中间人进行一些非正式的对话，关于让特朗普改变美国的立场。问题是他们现在有争论，但希望就像你会有一样，你可以同时有合作和竞争。所以我希望，我不能透露太多细节，因为那不聪明，但有高级别的努力来改变美国的立场，并尽快召开一次由美国和中国或中国和美国共同主持或共同发起的关于此事的联合国大会。多么有趣。我真的希望，特别是像两个大国，我认为如果他们引领这场对话，他们就会树立榜样，因为我认为当今世界非常分裂。我希望我们能团结起来，因为团结就是力量。我们正处于人类历史上一个非凡的时刻，我们可能能够创造一个自学的工具，如果我们成功地构建了这个工具，它将能够增强人类，你知道，消除所有疾病，就像你提到的那样，戴上眼镜，增强的，抱歉，对，没错。所以，我希望我们能放下分歧，团结起来，就像在……我认为是最近历史上第一次，我们看到了如此大规模的合作，每个人都团结在一起，我希望，我认为，这些全球领导人能够理解，我们正处于一个非凡的时刻，需要的是更多的互动，更多的合作，更多的协作，也许我们就能加速并共同构建这项技术，从而造福世界。谈到亚洲，它能在帮助实现这一点方面发挥作用。你是地球上最大的国家，对吧？而在美国硅谷，我开玩笑说，如果我们有一个拱门，建筑师会议就像你的第一次软件会议。我说，如果房间里没有印度口音，那不是一个认真的会议。这就是尊重的程度。每个人都笑了，你也笑了，他们也笑了。这说明了印度的声音有多重要，无论是在硅谷还是在德里。印度的声音，最好也在联合国。印度的声音很重要。对，对。我希望看到印度驻联合国大使说些什么。是的。我真的希望，我祝愿有人能采取正确的立场，人工智能。你的听众在听吗？你知道，改变通常很简单。有人必须行动，对吧？完全理解。我对此表示赞同。你知道，就是那一个人，你知道，迈出那一步，我认为它就像蝴蝶效应。谈到甘地，我认为他是印度人。没错。是的。所以，谈到通用人工智能，你知道，我们谈到了这项技术可能带来的变革，以及它的生存风险。您能否详细说明一下，你知道，那些生存风险是什么，以及通用人工智能可能带来的改变生活的变革？好的，这是一个例子，我相信你的听众都知道，目前的人工智能和未来的技术都需要大量的能源，而印度正在变得富裕，电力需求正在急剧增加。与此同时，我们正试图从化石燃料能源转向非化石燃料和可再生能源。那么，我们现在如何才能做到这一切呢？你现在的能源是80%是化石燃料。那么，我们如何摆脱这80%，创造替代品，再加上大幅增长？很快就会出现，更不用说空调系统等等了。所以，仅凭这个问题本身可能也是不可能的。但在过程中，通用人工智能将存在于地球上所有的电力切换系统中。如果有一天，人类获得电力和通用人工智能获得电力之间发生对峙，你认为谁会赢？现在，人们在世界各地都遇到过停电和限电的问题，但他们知道下周或第二天或下一小时灯泡就会重新亮起来。所以，尽管这很不舒服，很麻烦，很糟糕，而且导致医院死亡等等，但我们知道，是的，它会恢复的。我们不知道通用人工智能是否会这样，因为你看那些需求曲线，看看那些供应能力，再看看气候变化的要求，你知道，人工智能可能会阻碍人类使用电力。如果你开始切断数十亿人的电力使用，那将导致大量的社会混乱。在社会混乱中，医疗系统崩溃，疾病系统崩溃，法律和秩序崩溃，等等。所以你可以看到一个世界慢慢地分崩离析。这可能是我们结束的最有可能的方式。还有科幻的一面。我不应该称之为科幻，因为这有点带有偏见。但一个更聪明的物种会善待一个不那么聪明的物种的例子在历史上并不多见。当我们在这里修路时，我们杀死了一些虫子，我们并不是故意要杀死整个世界。我们不是反虫子。我们只是没注意到。我们只是修了那条路。所以，很多通用人工智能可能根本不会考虑我们，就像我们修路时不会考虑虫子一样，对吧？这可能只是附带损害。但我希望我们能构建对人类有益的通用人工智能，这需要监管。它不会自动发生。让我回溯一下我刚才说的话。有一个例外。英伟达，可能还有其他一些公司，正在研究如何让芯片更高效，从而减少电力消耗。但除了这一点（这也很重要）之外，想法是，如何将人们同意的价值观植入芯片，使其不运行软件，就像我之前提到的那样。所以，即使我们无法达成国际监管，芯片制造也可能是B计划，也就是说，我们希望同时做到A计划和B计划。但我的意思是，即使我们无法与政治家达成协议，这可能是一个感到乐观的原因。您能否简要介绍一下千年项目？您是什么时候开始的？它的使命是什么？以及随着人工智能的兴起，它多年来是如何发展的？嗯，它始于一篇由兰德公司（Rand Corporation）的泰德·戈登（Theodore J. Gordon）撰写的文章。兰德公司是第一个智库，它帮助将未来思维从一群天才围坐在一起转变为实际的分析方法，如德尔菲预测、交叉影响分析、技术序列以及其他许多方法。我们认识了一段时间，当时我是联合国大学驻东京和美国以及美国和东京的联络员。顺便说一句，联合国大学是联合国唯一总部设在亚洲的部分。所以，泰德说应该进行一项重大研究。那是在1988年。所以我们展望2000年，说人们会说，想想2000年的未来等等。所以我们未来学家有责任聚在一起，创造一项世界为2000年做好准备的宏大研究。他说，“联合国大学必须这样做，因为他的智库是盈利性的智库，未来集团，而你必须是联合国的一部分。”既然我是联合国大学的，而且我能拼出“未来”这个词，他说，“你必须让它发生。”我说，“不，我不想再做一项宏大研究了，只是又一项宏大研究。我想要的是一个能够进行此类宏大研究的系统。我们需要一个全球系统，一个全球去中心化的智库系统来研究事物。不仅仅是因为有时人们会说我们在哈佛有一个国际智库，有一个来自印度的人，一个来自中国的人，一个来自法国的人，他们都在斯坦福获得了博士学位，你知道，对吧？所以我们想做的是，我们想创建一个我们称之为“节点”的系统。这是每个主要国家中的个人和机构组成的团体，它们将本地思维与全球思维来回连接。所以，就像您刚才提到的那份报告一样，它被发送给我们遍布世界各地的节点负责人。他们可以将其翻译成不同的语言，并提供给他们的外交部。所以，这是一种持续不断地进行智库输入输出的方式。我们开始在联合国大学进行可行性研究。但正如那些在大学工作的人所知，大学政治可能会让你感到“你好吗？”，然后背后捅刀子，然后你又面临联合国管理的官僚问题，把大学和联合国放在一起可能会非常困难。所以最终我们独立了。我们曾在美国联合国大学理事会下工作了一段时间。我们曾在美国联合国协会联合会下工作了一段时间，但最终我们独立了。但从联合国开始非常重要，因为它是一个价值声明。它不是在一个国家开始的。它是在……我们得到了莫斯科和伊朗以及完全不同的国家的支持，这些国家通常不太合作。所以它现在已经发展到在全球拥有70个这样的节点，它们可以启动自己的活动，并利用整个千年项目。所以，这不像只有我一个人说会发生什么。但回到您关于我们做什么的问题，我们对15个全球挑战和其他类似事项进行了全球评估，我们试图找到差距，找出应该做但没有做的事情，然后我们试图解决它。所以我们做的一件事是，我们对世界各地的负责人进行民意调查，了解我们的优先事项应该是什么。几年前，被评为最重要的就是建立所谓的“预期民主”。预期决策，预期治理，这样你就可以在你要监管的事物发生之前就制定规则，因为技术发展如此之快，你没有正常的时间来做这些。所以，当人们说我们将跟上人工智能的步伐时，不，你跟不上它，但你可以做的是，你可以预测人工智能，你可以领先，然后提前干预，你可以做到。所以想法是，好的，我们将进行预期决策和监管，而它的优先事项应该是什么？答案是通用人工智能，因为没有人正在做这件事。所以这就是我们如何达到通用人工智能的程度，这是一个累积的过程，我们已经经营了30多年。所以我们试图进行累积研究，就像我们的大脑一样。所以，而不是说“这是关于水的，然后下一项研究是关于能源的”，但我们没有将两者联系起来。所以每一个都应该是向前发展的积累。然后你就会发现最重要的战略盲点，而通用人工智能现在是我们最重要的盲点，当它足够活跃时，我们可能会研究合成生物学，因为合成生物学也没有任何规则，而且它也非常重要。对。对。是的。我认为我们正处于一个如此非凡的时刻，而所有这些技术，你知道，不仅仅是今天，不仅仅是人工智能或通用人工智能，你知道，还有合成生物学，还有纳米技术，还有AR/VR/MR，我认为它正在迅速发展，还有机器人自动驾驶汽车，以及它们之间的融合。我想，一旦这些东西融合在一起，我认为将会产生更多的价值和效用，我认为世界将完全彻底地改变。

未来学家，我希望从你这边得到一些答案，因为我认为世界变化得非常非常快，你知道吗？而且有一群人因为人工智能而感到非常非常害怕，你知道吗？因为你知道，有一种说法是，未来的工作将变得非常非常不同，将会有更多的人工智能，将会有更多的自动化，未来的教育、医疗保健将完全不同，甚至金钱的作用也可能完全改变，你知道吗？从法定货币，它可能会转向加密货币，因为意义可能会消失，因为在接下来的十年左右，随着人工智能代理变得越来越强大，因为即使是今天，也有这些人工智能代理可以进行编码等等。我很想听听你的看法，你认为未来五到十年，世界在工作、教育和医疗保健方面将面临什么。我们实际上对此做了一份报告。它叫做“工作技术：2050：情景与行动”或“行动与情景”。总之，它在我们的网站上。如果你去我们的网站，你会在那里看到它。我们做的一件事是，我们读了大量的报告，顺便说一句，你是如何做未来的？你读了很多很多书。总之，长话短说，情景一我们称之为“大杂烩”，其中有智慧和愚蠢。一些国家预见到这些事情并做得很好，而一些国家则没有。然后有一些移民问题。然后情景二假设各国不认真对待。这是一个噩梦。如果你有过于乐观和积极的朋友，让他们读情景二。这会让他们清醒过来。然后如果有人过于消极，让他们读情景三。这是一个积极的设想。但是当你创造一个积极的情景时，你不能只说，“这就是为什么一切都行得通。”你必须展示消极情景是如何被击败的。否则，你就是在浪费人们的时间。所以，我们在这里，我们有情景三。我们称之为“如果人类自由了，自我实现经济”。我估计在美国，我们无法让普遍基本收入奏效。那么，如果人们真的被保证不会挨饿，并且他们可以让他们的AI化身在世界各地奔跑，而他们却安然入睡，第二天早上醒来时说：“顺便说一句，我刚刚找到了75,000件你明天早上想做的事情。”当然，你会发现你不可能做75,000件事。所以，你会说，“好吧，运行你的程序，找出我真正想做的。10件我想做的事情，仅仅因为我喜欢做它们，还有10件事情，你已经准备好了智能合约，它们可以赚取一些收入。”所以，比如说，在未来，我收到一个来自印度的人的电子邮件，说“你愿意来参加播客吗？”然后我给我的化身发了一条小消息，说“世界上谁愿意监督或收听这个播客呢？你知道，这只需要一欧元。”所以，也许世界上有300人说“是”。嗯，这足够支付一顿丰盛的午餐了。所以，这个想法是，你可以通过做你自己来谋生，而不是成为别人，因为你的竞争优势是你，对吧？无论我多么努力，我都无法像你一样好。我不会做到的。但是如果你做的事情和我做的事情一样，那么我就想把你挤出去。但是如果我忙于做我自己，我为什么要给你添麻烦呢？我很高兴。所以，这可能是一个非常美好的自我实现经济的未来。然而，即使到2050年，我们估计，即使那时有超过60亿人口，你也只能找到工作。你大概有60亿人在那个时候工作。在那里，我们估计我们也许能让30亿人在此之前完成这种转变。但另外10亿人不行，他们还在过渡中，还在努力，还没有做得很好等等。然后其他人还在非正规经济中，因为你知道，现在世界上大部分人都在非正规经济中。即使在35年内做出这种改变也并非易事。所以我们仍然认为，即使不再是大多数，但你仍然有很多人还在非正规经济中，但即使是非正规经济中的人仍然可以在当地图书馆或社区中心访问他们的AI化身。他们不必有任何其他通勤。他们可以很穷，但仍然可以获得一些优势。这回到了，如果我们不相信它是可能的，没有人会尝试。如果有可能在AGI的帮助下，以一种好的方式和监管来让世界为每个人服务，那么为什么不尝试呢？所以情景三说，你可以争取什么。情景二说，你必须阻止什么。情景一说，如果你只是做你现在正在做的事情，对一些人来说会很好，但对每个人来说都不会像今天这样。最后一个问题。请描绘一下，既然你是未来学家，戴上你的未来学家帽子，描绘一下未来五到十年世界将是什么样子。哦，五到十年。那不算太远。嗯，因为事物都在运动，我认为你发明了“地球上的无知”、“动量”或“塔马斯”之类的想法，无论它叫什么，那仍然是大多数。所以五年后，我们仍然会和现在一样，尽管像AI GI这样的工具很可能已经到位。如果我们还没有到位，那么社会焦虑将比现在高得多。另一方面，如果你有中国和美国在所有这些事情上合作，那么世界将变得有点积极，因为如果这两个潜在的，甚至美国和苏联，他们管理了核问题，但他们没有管理其他问题，而这却涉及很多方面，所以如果中国和美国合作，那么我们就有了一个很好的交易，这可能在五年内，甚至比五年更早。然后又五年，也就是十年后，你开始让人们在学校里接受教育，你是谁？因为现在，学校教你如何融入，然后工作教你如何融入。嗯，芬兰是那些实际上在努力实现儿童自我实现的人之一。顺便说一下，他们的数学成绩和韩国几乎一样。两种不同的教育体系。一种是自由的，没有家庭作业，以项目为导向，跟随你的好奇心，跟随你的韩国。不，不，不，不，不。你有一个导师。你每天都要死记硬背。你每周一都要上学。你将推动，你将推动，你将推动。同样的数学成绩。去看看吧。在国际成绩搜索一下，你会看到芬兰排在最前面，韩国也排在最前面，然后是前五名左右。所以，我认为从现在起十年后，我们应该认真开始过渡，让人们能够接受教育，并拥有一个能够帮助他们学习他们想学的东西的教育体系。以及他们想学的速度，因为人们以不同的速度学习不同的东西，而让每个人都陷入不聪明，又回到如果我们能达成这些合作，我认为从现在起十年后，我们将拥有一个更快乐、更少冲突的未来，因为正如我所说，如果你在进行自我实现，你就不想给别人添麻烦，这会让你放慢脚步，所以我们可以拥有一个更具协作性的社会，协同效应的想法正在世界各地慢慢实现，在十年内，它甚至可能进入主流，这样我们就可以同时考虑协同智能和竞争智能。杰罗姆，与你共度时光，向你学习，真是太荣幸了。我真心希望我们能进入一个更具协作性的世界，而不是走向冲突，你知道吗？因为我们正处于创造我们所见过的最神奇的技术转型工具之一的边缘，而我发现你过去50年来在千禧年项目中所做的事情非常有趣，这是一个参与式的智囊团，你让来自世界各地的声音，你知道，在创造对每个人都更好的东西方面发挥作用。我希望在这个节点上，你知道，在这个美妙的时刻，我们创造一个美妙的世界，也许在十年后，我们可以重温这一集，也许分析一下，你知道，我们做对了什么，我希望我们能达到那里，而不是走向，也许，你知道，分析和说我们做错了什么。我真心希望我们不要走向那个方向。愿你一切顺利。我的听众们，如果你喜欢你所看到和听到的，请按下订阅按钮，直到下次，这样你就可以支持，我真的很感激。是的。谢谢。合十。