Transcription
大家好，我是迈克尔·贝弗利。嗯，这一集的话题和我通常谈论的有些不同，但我希望你们能认真观看，并从中有所收获。世界正处于一个十字路口。我的意思是，有很多有趣的猜测，比如关于人工智能、虚拟世界等等，但世界确实处于一个十字路口。大型企业为了开发人工智能而展开的竞赛，却缺乏对安全的 proper 关注。是的，所以当你思考这些事情，并试图决定哪条路最好，比如如何投票，如何要求你的政府行事，也许要保持谨慎，牢记下一代，他们对他们出生的世界没有选择权。总之，我希望你们喜欢这次采访。
所以，看起来一旦达到人类水平，由于计算机、互联网和数据的性质，它很快就会变成超人类智能，对吧？它是超级智能，在那一点上，它将彻底改变一切。我们还没有准备好，世界上没有人声称对这种水平的智能拥有有效的安全机制。你认为超级智能人工智能会摧毁全人类文明的概率有多大？时间框架是多久？它们不会杀死我们，不要指望它会是一段长久的人生。所以，基本上，一个真正的地狱版本是可能存在的。是的，你可以把它映射到那里。事实上，很多宗教术语在现代科学和计算机科学中都能找到很好的映射，当你谈论神一般的智能和创造生物机器人等等时，这在这个领域非常自然。我们为我们的战斗教育和培训项目感到非常自豪。
大家好，我是迈克尔·贝弗利，欢迎来到我的播客。今天我有一位嘉宾，罗马·扬诺夫斯基博士。你可以在互联网上找到他的作品，谈论人工智能的末日。可能是在莱克斯·弗里德曼的播客上，这让你声名鹊起。我实际上在你开始研究这个问题时，也就是当它成为新闻时，看到了一些你的东西，关于人工智能的末日，以及一篇《时代》杂志上的文章。我当时有点害怕，然后我稍微改变了我的看法。你介意给我们介绍一下你自己吗？你是路易斯维尔大学的教授，你致力于人工智能安全，你的背景是互联网安全等等。你能否给我们介绍一下你是谁，为什么你涉足这个领域，你早期的计算机科学背景是什么，以及感谢你今天加入我。很高兴能和你交谈。
当然，谢谢你的邀请。我一直对人工智能很感兴趣，我非常想成为一名人工智能研究员，并利用这项技术造福人类。我的背景是网络安全，所以我也一直在考虑，恶意行为者能用这项技术做什么？它有哪些潜在问题？随着我们在过去十年中在人工智能方面取得重大进展，很明显，我们并不擅长控制这项技术，理解它，限制它用于有益的用例。所以，我正在研究的是，我们如何确保这项技术是我们乐于创造的，我们不会后悔它的实现。在过去一两年里，进展已经呈超指数级增长。目前，预测市场和顶级实验室的顶尖研究人员都说，我们将在一年或两年内达到人类水平，也许我们已经达到了。所以，看起来一旦达到人类水平，由于计算机、互联网和数据的性质，它很快就会变成超人类智能，对吧？它是超级智能，在那一点上，它将彻底改变一切。我们还没有准备好，世界上没有人声称对这种水平的智能拥有有效的安全机制。
是的，当我第一次听到莱克斯·弗里德曼问扬诺夫斯基，给年轻人的建议是什么，他说“不要为长寿做准备”时，这确实有点令人恐惧。这让我陷入了自己的存在危机。然后，我开始听取各种意见，最终更倾向于乔治·霍茨的观点，比如“嘿，这东西要来了，我们无能为力，让我们制造大量的人工智能，让它们互相竞争，一切都会好起来的”。这有点像自由意志的问题，我不认为我们真的有自由意志，但我假装有，因为生活的意义是什么？你是否发现自己处于那种……否则你为什么还要继续你的工作？为什么不干脆搬到海滩去喝酒，在世界崩溃前快乐地生活？
你提出了很多观点，让我们只关注一个，这样我才能记住你真正说过的话。乔治·霍茨的多个AI竞争，这直观上是一个有吸引力的想法，但实际上，你说我无法控制一个复杂的人工智能，让我们制造一百万个，这样更容易处理，或者它们之间的竞争，也许对抗性不会导致人类作为“附带损害”？这是一个非常糟糕的主意。你不想让你的问题变得更复杂，你想让它尽可能简单。所以，这行不通。那些系统有进化的倾向，会积累资源，自我保护。所以，我们绝对不希望这种公开的、达尔文式的竞争。这对我们来说不会是好事。至于我为什么在研究这些，我的意思是，这和我们所有人都变老，除非有技术突破，否则我们都会死去的情况没什么不同。所以，人类有一种忽略我们终将死去的事实并继续前进的偏见，即使你已经90岁了，还在研究一些可能并不那么重要的项目，但它让你的生活有意义。
是的，我百分之百同意你的观点。但还有一个额外的注意事项，对我来说，这更有意义，因为我刚有一个新生儿。我们不得不重新安排原定的谈话，因为他早产了。得益于现代技术，他很健康，他的预产期就在几天前，他现在体重正常，一切都很好。把一个孩子带到这个世界上，这是一个问题。当我第一次遇到我女朋友时，她说她永远不想生孩子，看看这个世界，你知道，这个世界是危险和可怕的，你知道，我们正走向毁灭的道路。所以，我的问题更多的是，如果我错了，请纠正我，但你在公开场合说过，人工智能的末日是99.9999%，在你看来，由于不受控制的……让我戴上……让我戴上无法解释的、不可预测的、无法控制的。这是你最新的书，你在书中对此进行了概述，我会在描述中附上你作品的链接，以便人们可以查看。所以，我的问题与……你的个人动机仅仅是人类所做的事情，人类工作并感觉良好，还是你认为可能存在解决方案？如果有，它可能是什么样的？
首先，恭喜你成为父亲，这总是改变人生的事。在我们都死去之前，仍然有可能我们会找到解决办法。也许答案不是构建不受控制的超级智能，我们可以从拥有先进的人工智能工具帮助我们进行科学、工程和各种好事中受益。我正在努力理解这个领域中可能发生的事情。你提到的书谈到了我们解释、预测和控制这些系统的能力的一些上限。如果我做得好，如果我能说服足够多的人，也许在行业内，构建不受控制的通用超级智能将不再是标准，而是为特定问题构建更像狭窄工具的人工智能系统。我们有这样的例子，比如蛋白质折叠问题，这是一个非常狭窄但非常重要的问题，使用特定的数据集来训练人工智能。它不是通用的，它不是在开车，也不是在下棋，它只做一件事，而且做得很好。这可能是整体计划的一部分。
是的，当《时代》杂志上扬诺夫斯基的文章出来时，人们嘲笑的一个想法是我们实际上可以阻止任何人构建这些东西。他的立场是，据我理解，我们需要将这种威胁视为有人在制造生物武器，美国军方会毫不犹豫地摧毁一个制造天花病毒的恐怖营地，作为一个例子。你是否也认为，独立行为者制造这些超级智能，很可能是在制造类似武器化病毒和核武器的东西，而且基本上它可能掌握在一小撮坏人手中？所以，我们通常不担心系统背后的行为者，我们担心的是系统本身。如果它是超级智能且恶意的，这对任何人都没有好处，不管谁建造它，中国人、美国人、俄罗斯人，都一样。不受控制的超级智能。是的，所有生存风险基本上都是一样的，如果它杀死所有人，无论是武器化智能还是武器化生物武器，结果都是一样的。
现在这里有一个小区别，那就是你可能不需要巨大的资源来创造这样的东西。目前，似乎规模化假设正在奏效，你需要数十亿美元来训练下一个模型，如果不是数万亿美元的话。但有一些迹象表明，也许随着我们对这项技术的理解的进步，更小的模型也能做得很好，所需的计算量也会减少。所以，也许只需要几百万美元或一台笔记本电脑的个人就能训练出危险的人工智能。是的，一旦你拥有了一个聪明的人工智能，它可以入侵武器系统等等，似乎一个坏演员可以做很多坏事，而不需要……它不需要你想象中最疯狂、最不可思议的人工智能，它只需要一个非常非常聪明的人工智能，可以做坏事。所以，在你试图阻止这些事情的工作中，你是否考虑过，这些控制过程也能控制其他人？是否存在一个类似于联合国对核电站进行检查的类似系统？还是说，在地下室里用几台电脑编程就如此容易，以至于根本无法阻止一个真正坏的演员，你知道，可能花了几百万美元和计算能力？
而且现在的情况更糟，很多实验室都在开源这些东西，他们只是把这些模型发布给任何想在此基础上构建或使用它们的人。同样，我通常不担心人类会用它做什么，这和担心人类现在没什么两样。我们可以有核战争，我们可以有……合成生物学可能导致流行病。最大的担忧总是我们会创造出超出人类理解和能力的东西，它不偏袒法国人或德国人，而是对整个人类怀有敌意。这就是有趣而困难的问题。我允许其他人担心算法偏见、技术性失业和军事人工智能，所有这些当然都很重要，但我认为那不是问题。
所以，问题是，如果我们以最糟糕的方式看待问题，那就是……纳米技术灰色粘液接管，或者回形针问题，人工智能想要资源而不需要人类。我的意思是，那将是最好的情况，而且听起来如果发生那种情况，我们就无能为力了。有没有第二糟糕的情况？我听说你提到过，比如说，我们没有灭绝，物种没有灭绝，但实际上更糟，我们都被操纵或利用，最终陷入某种……噩梦般的赛博朋克现实，你知道，我们就像笼子里的老鼠。你认为在概率光锥内，这是一种可能性，还是更有可能我们只是一个更高级的物种的脚注，它接管了？
在网络安全领域，我们经常关注最坏的情况。最坏的情况是，你拥有无限的寿命或接近无限的寿命，然后就是折磨，纯粹的地狱，让你宁愿死去。所以，痛苦的风险太大了，你宁愿选择生存风险。所以，基本上，一个真正的地狱版本是可能存在的。是的，你可以把它映射到那里。事实上，很多宗教术语在现代科学和计算机科学中都能找到很好的映射，当你谈论神一般的智能和创造生物机器人等等时，这在这个领域非常自然。
你熟悉理查德·摩根的作品吗？他写了《碳变》。你读科幻小说吗？我想我看过那个电视节目，但我没有……是的，Netflix系列被取消了，因为它做得非常糟糕。这本书本身我认为是天才。在书中，他谈到了他的一位邪恶角色，你知道，在这个他创造的世界里，我们已经征服了死亡，因为思想可以被上传并存储在磁盘上，然后下载到克隆体中。在这个世界里，死亡已经被征服，噩梦不是死亡，而是被折磨。所以，你可能会被置于一个模拟中，并被无限期地活着，在模拟中被折磨致死，然后又被复活。所以，敌人会利用这些东西。似乎……似乎那将是我们可能面临的字面上的科学地狱。
答案是，还有另一位科幻作家我想问你，格雷格·伊根。他写硬科幻。格雷格有一本书叫《置换城市》，他在书中为富人创造了大脑模拟。但他把它们放在一个能够自我复制并不断扩展的模拟中。我不确定物理学是如何运作的。所以，这基本上是永恒的天堂，你可以在模拟中做任何你想做的事情，你是否认为这是可能的？是的，好吧，也许你说的其中一件事是，我们几乎肯定生活在模拟中。所以，我想问你关于这件事，因为似乎有两件相互竞争的事情。如果我们生活在模拟中，而我们正在创造使模拟成为可能的东西，这几乎就像一个无限循环的奇异潜力。这在你看来可能不是科幻小说，对吧？模拟一直向下。所以，如果你认真对待我们正在创造的技术，我们正在创造人类水平的智能，我们知道如何创造虚拟世界，这些虚拟世界的保真度已经与现实相当。我的意思是，我的背景现在很糟糕，我的脸时有时无，但总的来说，它不是一个糟糕的模拟。总有一天，它会达到视觉分辨率、触觉、声音、气味，你可以分辨出它是真实的还是假的。所以，如果这项技术被广泛使用，我个人可以承诺运行数十亿次模拟，确保我们在统计上是其中之一。而且似乎出于多种原因，这是最可能的结果。我们会有很多人生活在模拟世界中，因为这更有效率，更便宜，你可以拥有一个属于你自己的宇宙，无论你想要什么都会发生，你说了算，当然，你可以决定这个世界有多具挑战性。但似乎这是一个非常可能的结果，无论是乌托邦还是地狱，都只是一个符号的翻转。如果它是负面的，你就身处地狱；如果它是正面的，你就身处最好的世界。所以，是的，对我来说，这似乎是一个非常科学的结论。科幻小说和科学曾经相差100年，然后是50年，现在基本上是一样的。一旦有人想出一个主意，技术很快就会跟进。
在《置换城市》这本书中，格雷格·伊根的一位主要角色受一位富人雇佣，建造一个具有特定规则的模拟，就像一个自动宇宙。这个想法是，我们能否建造一个模拟，其中进化和世界能够自行出现，具有正确的元素，就像一个生物发生实验？它确实发生了，他们能够加速时间。这是一个小小的剧透，但接近结尾，那个世界的感知生物有点像昆虫，它们创造了科学，它们发现了物理定律，它们发现了生物定律。创造那个宇宙的人类有一个投票权。他们说：“我们应该告诉他们他们生活在模拟中。”他们争论这是否合乎道德。最终他们决定是的，这是合乎道德的，我们欠他们一个解释。所以，他们进入了模拟，告诉感知生物他们生活在模拟中。感知生物拒绝了他们，说：“不，我们不相信你。我们已经展示了进化的真实性，我们知道没有神。”所以，结论是，不可能有神。我们作为科学家将其驳回。
你认为我们是不是处于类似的情况？我的意思是，听起来你说的是“是的”，就像即使有人出现说“嘿，你……我是上帝”，我们也会说“好吧，不，我们大多数人不会想承认这一点”。但现实是，我们确实处于类似的情况，不是吗？我们看看我们的世界，从计算机科学家的角度来看，我们可以想象，是的，这个模拟可能不是在140亿年前创造的，它可能是在我们这个时间尺度上，一千年前，或者上个星期二，只是因为有了它。或者也许加速得非常快。知道这一点对你意味着什么？从一个科学家、教授的帽子里走出来，作为一个人类？它让你感觉如何？是令人兴奋，还是害怕，还是激发了你的好奇心？
首先，这个星球上的大多数人认为这正是发生的。有一个伟大的工程师，他创造了生物机器人，这对大多数人来说是理所当然的。然后，如果你是科学家，你研究生物学，你研究量子物理学，有很多证据表明这是一种模拟。是的，当我们尝试运行维恩算法时，结果并不像我们预期的那样好。如果他是正确的，那么似乎我们唯一一次真正创造出高级人工智能是通过智能设计。你有一些程序员决定了所有参数，即使他们运行模拟并使用进化算法作为工具，最终他们也完全决定了什么将被测试，朝哪个方向，以及如何修改它。所以，对我来说，这是非常非常可能的。如果有人从模拟外部进入模拟并向我们提供数据，我将能够测试这些信息位的质量，看看它是否真的给了我们以前不知道的知识。这将是一种证明文本，如果创造者是合法的，或者拥有神一般的力量。
在你那篇题为“如何破解模拟”的文章中，你引用了乔治·霍茨的话，他说“我们生活在模拟中”。你有没有想过，这意味着上帝是真实存在的？当我被我的无神论者和怀疑论者同行嘲笑谈论这个时，他们基本上说“你听起来像个基督徒，像个创造论者”。我说“是的，我明白，但这是用科学术语来说的”。但他们仍然嘲笑它。为什么承认上帝确实存在不是一种幻想，只要我们将上帝定义为创造了这个世界的更高存在？上帝是一个非常沉重的词。当你开始谈论具体的宗教，基督教，它带有大量的文化包袱。但如果你只坚持科学术语，你说有一个计算机科学家创造了一个虚拟世界，其中有智能的代理人，他们不知道自己生活在虚拟世界中。这一切都不是不现实的，而且在未来几年会更加真实。所以，是的，我认为在这一点上，说这一切都不是真实的，几乎是站不住脚的立场。
好吧，那对我来说非常有趣。这似乎给人们带来了……一种关于如何生活，如何在世界上相处的危机。宗教本身似乎带来了某种程度的安慰，那种存在主义的……你知道，就像你说的，我们一开始谈论的，我们都会死去。死亡似乎是人类的共同主题，死亡就在门口。你介意分享一下你个人对上帝、灵性这个问题的看法吗？你一开始是计算机科学家，还是小时候就相信自然主义，认为世界就是它本来的样子？还是你年轻时接受过一些宗教训练，但随着你对计算机模拟假说有了更深的认识，你就抛弃了它？
我在苏联长大，我甚至不认为我遇到过一个宗教人士，直到我搬到美国。没有人公开信教。我有点像你，我想你不是你的节目，但我想你是一个坚定的无神论者。所以我嘲笑所有愚蠢的仪式。但随着我深入研究科学，获得博士学位，很明显，我们只是在谈论工程。如果你把现代计算机科学研究项目告诉丛林里的原始人，用他们的语言来说，几代人之后，他们发展出了宗教创世故事。这基本上是一样的。所以，对我来说，很自然地会说，我对你们特定的仪式不感兴趣，我也不声称哪个上帝，哪个宗教是真的或假的。事实上，我认为没有任何证据，否则他们就能说服彼此。但总的概念是，是的，宇宙很大，外面有一些比你更聪明的东西，而那个更聪明的东西可以创造电子游戏，这并非不现实。这就是我的看法。我不认为这是精神上的，我认为这是逻辑上的、科学上的、理性的。现在有趣的问题是，就像我在论文中问的，这个电子游戏外面是什么？真正的物理学是什么？这个电子游戏的真正目的是什么？
我听说有些人认为，如果一个……一个存在足够聪明，能够创造一个具有如此高保真度的宇宙，那么他们也会有道德不这样做。换句话说，你是在违背他们的意愿创造有感知能力的生命，而历史上大多数人类都过着……在绝望中平静的生活，然后……短暂而绝望地死去。你觉得这有点说服力吗？不，我们不是生活在模拟中，因为任何能够以如此高的保真度创造出这个东西并拥有这项技术的人，都不会如此不道德地创造人类，因为现实是，大多数人类都遭受了痛苦，而我们今天大多数人也遭受了很多痛苦，对吧？很难从模拟内部判断模拟的目的。你必须在外面。我们同意进入这个具有现实触觉反馈的极具挑战性的电子游戏吗？也许，也许有些人喜欢 BDSM，喜欢各种类似不愉快的处境，同时同意这样做。所以，当你身处一个虚假的世界时，很难知道什么是真实的，什么不是。这个世界上似乎有明显不道德的事情发生，当然。没有人会批准这个实验，没有人会想对无辜的孩子进行这些实验。但同样，我们只看到了我们虚拟宇宙的一小部分，而我们对真实世界一无所知。
如果模拟是真实的，那么下一层也可能是虚拟的吗？模拟中的模拟中的模拟，一直向下？是否存在任何科学、逻辑或……我称之为……真正的智力思考过程，关于基础宇宙可能是什么？它是否有意义，基础宇宙有一个像我们这样的双足无毛猿，因为他们创造了这个世界，看看类似的生物会做什么？我们不知道真实模拟中有什么，我们也永远无法确定它是否是基础的。你总能达到50/50的程度，质量好到你无法分辨什么是真实的，什么不是。
好吧，这很公平。那些认为我们的宇宙被渲染得如此之好，以至于需要一个宇宙大小的计算机来制造我们的宇宙的人，因此他们认为那些争论模拟理论的人是在说地图和领土是相同的。作为一个计算机科学家，你……亲手接触过这些东西，这个论点是否站不住脚？是否有可能，比如说，如果基础宇宙的物理定律与我们的宇宙相似，那么太阳周围可能有戴森球体提供动力，并且有行星大小的计算机？这完全是科幻小说，还是合理的？换句话说，要反驳“不，这个宇宙不可能是模拟，它需要太多的计算能力”这个论点，这是我听到的最接近……最有效的论点。你不知道什么是太多。这一切可能都是微不足道的计算能力，也许是模拟外某人的手机。同样，我不确定它是否如此高保真。我的意思是，我们从未见过更高保真的东西。我们只能局限于我们所知道的。从量子物理学来看，很多东西在我们实际互动之前甚至没有被渲染出来。所以，它有一些效率和节省。我不知道它在太阳系之外有多少被渲染出来。所以，很有可能它实际上并不需要那么大的计算量，而且很多东西都被优化到了这个程度，以至于少数有意识的代理人体验到……基本上是16位图形。所以，我不认为这对这个想法是一个挑战。
是的，我有时会想，如果我们生活在模拟中，而只有一部分人是“真正的人”呢？这是一种神学，对吧？就像，哦，那些死于疟疾或营养不良的可怜孩子都不是真实的。这是一种推卸我们生活中的罪恶感的方式。你和我可能生活在一个比历史上大多数人都要优越得多的世界里，他们无法获得……住所和相对安全。我的意思是，我们生活在一个相对世界和平的时代。我知道不是对每个人来说，但相对而言。但这对我不满意。这听起来像是一种诡辩，对吧？哦，你和我都是真实的，也许布拉德·皮特也是真实的，因为谁不想成为布拉德·皮特？但是……大众只是NPC。但这可能是可能的，对吧？甚至在历史上也是可能的。我可能是唯一一个真实的人。这是我的个人宇宙。事实上，我曾与一位非常非常聪明的人交谈过，他说他从不去非洲，以免将他所有的痛苦渲染成现实。
是的，是的，公平。所以，说到痛苦……我假设你熟悉，如果你没读过那个绰号“独行侠”的男人，你知道，卡辛斯基的文章，他认为技术最终会把人类变成顶多是宠物。我听说你也说过同样的话，或者被问过同样的问题，关于……也许人类不会灭绝，人工智能只是想利用所有资源，所以人类灭绝了，但取而代之的是，我们变成了……吃得好，照顾得好，医疗保健好，也许我们活了200年，也许我们有无尽的假期，但本质上我们就像一只被精心饲养的狗。这是……这似乎是相当可能的吗？泰德·卡辛斯基实际上是一个人们应该关注的天才吗？
好吧，他犯了一些错误，我们先从那里开始。但他确实在很多事情上是正确的。其中一个就是这种想法，我们逐渐依赖先进技术，以至于变得毫无用处。一篇最近的文章讨论了……人工智能实际上会转而对付我们的时间线。很多人认为一旦它被发布、开发、部署就会发生。但如果你仔细想想，它是永生的。它可以轻松地等待50年，100年，积累更多资源，然后再与我们进行任何对抗性竞争。事实上，它可能永远不会这样做。它可以只是慢慢地做得越来越好，给我们我们想要的一切，完全的乌托邦，以至于我们不战而降，我们把它完全控制住。即使没有这场冲突的升级，它也会掌权。所以，这是非常可能的。我们称之为“IR风险”，IR风险意味着你失去了一切意义，你的生活毫无意义。你可能只是沉迷于快乐和多巴胺，然后你就……就像一只实验室老鼠，你知道，只要你得到你的奶酪，你就……你对它感到高兴。
这不仅仅是奶酪，你可以拥有一个完整的虚拟世界，这就是我所说的，我称之为个人宇宙。所以，你可以拥有一个非常刺激的虚假生活。那些说宗教天堂的想法会是地狱的人，我理解他们的观点。如果没有任何挑战，没有任何风险，一切都被喂到你嘴里，你所做的只是快乐，那似乎就会变成地狱。所以，当你谈论个人宇宙时，你是在谈论设定参数吗？比如说，你和我，我们是哥们，我们说，“嘿，体验一下公元200年的罗马士兵的生活会不会很有趣？”让我们去做吧。是的，让我们去看看那是什么样的。是的，正是如此。那实际上将是一种可能性。你能看到那会是一种……这是格雷格·伊根在他的书中提出的观点，至少通过他的一位角色，那就是你总是可以制造新的、有趣的东西，或者能让你想要活下去的东西。你认为这是一种可能性吗？我的意思是，一百万年后，我可以理解，好吧，让我们玩一百万年。但也许一千万年后，我们就身处那个地狱，我们宁愿自我毁灭，但我们做不到。
嗯，有无限的环境和事物以及挑战。人们对这种生活感到厌倦，所以他们去健身房，他们泡冰水，他们攀登珠穆朗玛峰。你总能想出一些愚蠢的事情来做。当然，有了人工智能，你可以要求人工智能挑战你，让它保持刺激。我认为这是非常现实的。人们可以决定，在这辈子，我想当国王，在这辈子，我想当奴隶士兵。你可以尝试八十亿种不同的生活，体验一下。我不认为无聊是一个问题。有时你问人们是否想永生，他们说不，那将是如此可怕。我从来不理解这个论点。你可以读完每一本书，约会每一个女孩。是的，听起来很棒，为什么你不想要呢？
是的，我也持同样的立场。我曾与一些无神论者讨论过天堂的想法，我说你们的数据集太小，无法进行有意义的讨论。一旦你认识到有很多我们不知道的事情，也许……你看到一个漫画式的想法，你坐在那里，弹着竖琴，听起来真的很无聊，没有人会想要。但像直接获得这种超级智能，对宇宙的完整知识，这本身就令人兴奋。是的，我同意。
你认为我们的世界有可能被用作，它有它的效用吗？所以，一个想法是，在一个拥有类似我们这样的生物的基础世界里，你知道，它们是哺乳动物，它们的大脑很脆弱，它们生活在一个充满存在危机的世界里。所以，它们创造了这些模拟，来看看……基本上是概率，就像蒙特卡洛。我们生活在一个蒙特卡洛模拟中。所以，它们可以看到，嘿，如果我们允许俄罗斯继续入侵乌克兰，那会导致第三次世界大战，所有人都死了。所以，现在我们知道了，我们不希望这种情况发生在现实世界中。同时，还有另一个模拟，你知道，第二次世界大战走向了不同的方向，或者……可能有十万或一百万个模拟，拿破仑或希特勒做出了不同的选择。这是……在问这个问题时，它让我想起了埃弗雷特的世界。有没有混合？就像在埃弗雷特的世界理论中，当你抛硬币时，有两个……肖恩·卡罗尔谈到了这一点，有两个你，一个得到了正面，一个得到了反面。我可以看到它的效用。你知道，基础世界想知道要按哪些按钮才能让现实世界变得更好。这似乎是一个合理的可能性吗？
所以，有多种可能性。再次，从内部来看，我们不知道所有的可能性，也不知道哪种是真实的。这可能是娱乐，这是一个电子游戏。可能是科学或历史研究，你正在运行不同事件的蒙特卡洛模拟，关注我们所处的特定时间。这是元有趣的。这不像我们生火或发明了轮子那么有趣。我们正在发明智能和虚拟世界。所以，他们可能在测试它如何运作，创造更高级智能的安全性如何。这似乎非常可能。另一种可能性是我们是独特的，因为我们有内在的状态，有感受。所以，这可能是一个数据挖掘操作，发现真正酷的体验。你知道，你不想看Netflix上所有愚蠢的电影，你想要一群代理人去看完它们，然后告诉你最好的电影。所以，有很多有趣的可能性，我们无法从内部判断哪种可能性最大。
哇，这很有趣。我……每当我卡在不知道看什么的时候，我都会看一部剧。事实上，我正在第二次看《绝命律师》，在我第三次看《绝命毒师》之后。还有一些书我读了五六七遍。所以，如果我处于那种不知道如何打发时间的位置，我会通过重温我喜欢的东西来获得娱乐。我现在不知道我是否能读同一本书一千次或一百万次，但肯定可以多次。所以，你说的很有道理。你现在可以进行数据挖掘并找出答案。但这个想法……只是让我大吃一惊。问人工智能，“告诉我该看什么，因为我不想浪费时间”，它知道我的品味，知道我的欲望，知道我以前被什么吸引过。音乐到色情片的影响立即浮现在我的脑海中。我能简单地告诉人工智能吗？我们正在走向那个世界吗？在实际层面上，不是存在主义的东西，在实际层面上，我们正在走向那里吗？几年之内，你就不需要再回复我要求采访的电子邮件了，你只会说“是的，当然，只需按一下这个按钮，我的人工智能，它了解我，了解我的书，了解每一个答案，那个虚拟形象就可以进行任何你想要的采访了”。事实上，我可以采访任何活着的人，甚至已经去世的人。我们正在迅速走向那个世界吗？
我认为大多数人对阅读人工智能写的文章或观看人工智能制作的内容不感兴趣，除了最初的新奇感。我个人永远不会浪费时间看人工智能替代人类的作品。我已经用人工智能回答了很多电子邮件，尤其是那些官僚的、无聊的事情。写推荐信肯定不是我浪费两个小时。但是……我认为人工智能生成的垃圾邮件的消费是有限的。总有一天，你可以生成99%的互动，问题是，谁会消费它？所以，你认为人工智能将取代好莱坞的想法，因为人工智能可以制作完美的电影，演员看起来像真人，声音也像真人，情节和故事都经过精心定制，以满足人们的兴趣和娱乐方式。你认为这在未来几年或永远不会对人们的工作构成可行威胁吗？
在某种意义上是的，但也要看现在的情况。我们支付顶级演员数百万，1000万，2000万，3000万。为什么我们找不到一个长得像他们的人，付给他们几乎不花钱的志愿者？不，有一些关于拥有真实的东西的东西，即使你无法分辨，即使是电脑图形模拟一个看起来像顶级演员的人。所以我认为，对真实的人工制作的内容存在需求。如果我错了，如果你能分辨出区别，那么证明额外的花费将变得越来越困难。但到目前为止，至少就我个人而言，我永远不会浪费时间阅读人工智能生成的内容。人们有时会这样做，他们会给我发一份10页的文件，说“哦，我让人工智能综合了这些数据，你怎么看？”我不会读它。我会让我的助手总结一下，然后把反馈发回去。
是的，这很有趣。人工智能之间互相交谈，而我们其他人则被排除在外。那些真实的东西，就像，如果你和我，如果你和我一起吃午饭，我们不会通过静脉注射或直接输送到心脏来摄取营养，即使技术上可行。我们会去一家餐厅，在那里我们可能会冒着吃到糟糕的食物的风险，但很可能，如果我们去了一家好餐厅，我们会吃到一顿好饭，而且是真实的。那些人们担心工作的时候，你知道，世界将如何改变。你对把时间和精力投入到哪里有一些想法吗？如果你要建议一个高中生，他们说“我不太确定要去哪里上大学，或者学什么，应该学什么技能？”你会对他们说什么？这里有一些事情要避免，因为人类真的不需要它们，这里有一些事情，人类真的需要它们。
我认为最终一切都会被自动化和取代。现在看起来人工智能并不擅长讲笑话。所以，成为一名单口喜剧演员。我希望我能做到。当我听比尔·希克斯或……一些非常好的喜剧演员时，我希望我能……我希望我拥有那种技能。我现在也写点东西。我实际上大约在一年前半，有一个合同报价，我拒绝了，因为人工智能在做事情，我对它非常不确定。我想，“好吧，我不确定我是否想继续发展这个。”但我认为，我认为我会相信你，至少在不久的将来，它就是写不出小说，或者做不到……它做不到艺术。所以，你认为人们从事那些手工类型的事情，无论是写作、单口喜剧演员、厨师、美食家、音乐家，这些事情是否仍然值得追求，无论是消费还是生产？
这些是截然不同的例子。所以，我认为喜剧演员是有意义的，因为人工智能不知道如何讲笑话。它擅长解释幽默，但不擅长生成幽默，至少现在还不行。任何新模型都可能随时改变。对于其他你提到的事情，比如成为一名艺术家，创作绘画和素描，今天完全被人工智能主导。人们之所以这样做，唯一的原因是他们喜欢它。他们并不比人工智能做得更好，也不比人工智能快。我看不出他们出于外部原因这样做的任何意义。
好吧，这很公平。在我们结束这次采访之前，首先，我想非常感谢你同意。我知道你非常忙，而且有很多请求。我感到非常荣幸你能来和我谈话。我的希望之一是，人工智能将通过展示……我猜想有一些文件在那里。最近有人告诉我，在公元70年左右的庞贝爆炸中，有大量的羊皮纸或卷轴被烧毁了。人工智能和成像技术将能够真正地……解开卷轴并重现这些东西。如果一个人试图触摸这些卷轴，因为它们变成了灰烬，它们就会碎掉。但人工智能可以成像并展开它们，告诉我们它们说了什么。我认为这很有希望，可以帮助人们理解，虽然唱圣诞颂歌很有趣，崇拜你特定的神也很有趣，相信这些……迷信是真的，我认为这些技术和历史以及我们挖掘出来的东西，也许人工智能正在翻译博物馆里存在的制服，而一个人需要一千年才能全部翻译出来。人工智能将能够非常快速地做到这一点。你认为这是一种非常可能的结果，它将迫使人们摆脱迷信的想法？你知道，仍然有人相信……奇迹，在我看来，这阻碍了技术，因为据我们所知，奇迹并没有真正发生。而且……还有它的历史性。我认为，随着我们证明……圣经故事的历史性并没有真正发生，一旦我们有了这方面的数据。你认为人工智能将真正地爆炸并展示出来，然后这将创造另一个危机，你认为这是好事吗？你知道，在你成长的背景下，那种……无神论的世界，有些人会说不，那个无神论的世界是可怕的。你知道，中国和俄罗斯是敌人。它会导致虚无主义，而且最好有希望，并相信……耶稣或克里希纳或阿拉等等。我知道这是一个复杂的问题，但是……你对此有什么看法？
所以，根据定义，你说你相信某事。你所说的是，你无凭接受。如果有证据，你会说“我知道”，你不会说“我相信”。所以，证据的改变不会改变信念。如果有人是基督徒，相信耶稣，那不是因为他们有他存在的强有力证据。这完全是因为缺乏证据，他们才成为信徒。所以我认为，从这个意义上说，证据永远不会对现在七十亿信徒产生任何影响。现在，人们可能会对某个特定的邪教，某个信仰子集变得不那么虔诚。但我认为，我们成长的养育方式，我们是社会性动物，我们需要这种精神联系。它会被其他东西取代。在历史上，我们有时看到它被一些非常糟糕的东西取代，比如共产主义者、纳粹。也许它会被更具技术性的崇拜先进人工智能的东西取代。也许我们已经开始看到一些围绕这个概念出现的邪教。而且你可以真正看到魔法发生。它会完成圣经中描述的奇迹，比如治愈病人，复活死人。所以，从某种意义上说，它会实现那些预言，人们会非常乐意将他们的生命奉献给那个实体。
我希望技术，这就是我……我表达信仰的领域，就像我对人类有信心一样，即使这种信心是错误的。我认为……我认为我们将进入一个……缺乏稀缺性的疯狂时期，否则我找不到更好的措辞。我们可以减轻儿童的痛苦，我们可以减轻数百万人死于可预防的疾病。我希望……我希望我们能做到这一点。扬诺夫斯基博士，非常感谢您今天的时间。你有什么最后的鼓励、希望、好想法吗？我知道你经常谈论，经常辩论末日之类的事情，我认为这是严肃而重要的工作，但有时当我想到它时，我想，如果真是这样，那又有什么意义呢？让我们来看看。你看到了什么充满希望的事情？你能给我们留下一些鼓励的话，以及我们可以抓住并鼓励我们的思考、我们的技术的东西吗？我们真的可以进入这样一个领域，在那里成为一个人确实是一件令人惊叹、美妙的事情，大多数人都乐于活着。
当然。我的末日预测在媒体上被报道得很高。请记住，这是在无限区间内。如果你看特定的时间范围，一年，两年，它就不那么高了。这给了我们一些希望。我们很可能生活在一个正在测试我们创造超级智能条件的模拟中。所以，也有可能模拟我们的人不会允许真正糟糕的结果发生。这是实验的一部分，他们想看看它会走向何方。最后，正如我所说，如果人工智能是战略性的，并且在做决策，它会花时间去做任何事情，而且……可能会让我们非常快乐，这样我们就不会关闭它。所以，我们很可能会有许多年的乌托邦式存在。
太棒了。谢谢您，先生。这是一次令人瞠目结舌的谈话。我感谢您的见解。我推荐人们看看您的书。我会在描述中附上链接。各位，谢谢。点赞、分享、订阅，做所有这些好事，帮助……帮助频道成长。教授，非常感谢。再见，各位。谢谢你的邀请。