Transcription
萨姆·奥特曼已不再担任 OpenAI 的首席执行官。
一方面是超级明星首席执行官，另一方面是心怀不满的董事会和其余 747 名员工，在奥特曼意外被解雇五天后，向董事会发出了一封措辞严厉的公开信。
萨姆·奥特曼回来了。这算得上是解雇吗？这太残酷了。
我想我现在不应该谈论这个。但这是特雷弗·诺亚的《现在是什么情况》。
嘿，你好吗？很高兴认识你。你怎么样？
很好。你呢？
非常荣幸，女士。我也是。谢谢你抽出时间。
谢谢。
在我觉得像是一个疯狂的时刻，对吧？感觉是我经历过的最疯狂的时刻。
是的。
是的。我是说，你正处于。你正处于这一切的中心。所以我很好奇那是什么感觉，因为我。我只是一个狂热的观察者，关注着这个领域和这个世界的一切，你知道吗？我觉得你是一个受到这一切影响的人。
我是说，我是说，就是就是就是现在我们得到了消息。萨姆·奥特曼是《时代》杂志年度人物的候选人。
不是为了得到那个激动人心的奖项，不是为了得到它。当然。
等等，为什么？
今年我受到的关注比我一生中任何时候都多。这是一个大问题。哦，为泰勒·斯威夫特感到高兴。
好的。好的。
哦，所以你不喜欢关注？你不想要关注？
不。这太残酷了。我是说，在某些方面很有趣。在某些方面也很有用。但是，从，比如，个人生活，比如，生活质量。
这是一个权衡。
是的。是的。绝对不是。是的。
但是，你知道，就是这样了。现在，比如，这就是我报名参加的。对吧？
这就是现在的恶名。
是的。
人们在街上认出你吗？
那是那种非常糟糕的权衡。
是的。
你只是觉得你从来没有。我确定你也有过。但我再也无法匿名了。
是的，但人们不会问我关于未来。他们不会问我是否会毁灭世界。
没错。没错。
有细微的差别。人们可能会想要和我合影。
那就是那种。很多自拍。
好吧，恭喜你。你是《时代》杂志的年度首席执行官。
是的。
那是，那是，那可能是最奇怪的时刻之一，对吧？因为我想《时代》杂志做出这个决定，是在几周前。你可能还不是年度首席执行官。我不知道他们是否还能给你颁奖。我想这是为了你之前的工作。我不知道。我不知道它是如何运作的。
你回到首席执行官的位置上感觉如何？
说实话，我还在重新编译现实。
是的。
我是说，在某种意义上感觉很好，因为我从这件事中学到的一件事是，我多么热爱公司、使命和人们。对吧？而且，你知道，我在这件事中经历了一些经历，我经历了，比如，所有，比如，人类情感的全部范围。在很短的时间内就感觉到了。
但对我来说，一个非常清晰的时刻是，比如。
所以这一切都发生在一个星期五下午，星期五中午，然后第二天早上，星期六早上，有几位董事会成员给我打电话说，“你知道，你想谈谈回来吗？”
我对此有非常复杂的感觉。
但最终，这对我来说非常清晰，那就是：“是的，我愿意。”我真的很喜欢这个地方和我们正在做的事情。而且我认为这很重要，对世界很重要。而且，比如，我最关心的事情。
感觉在科技界，招聘和解雇是每个人都必须习惯的事情。我是说，我知道过去，你知道，你在 Y Combinator，对吧？你被那个职位解雇了。每个人都有故事。
而我们是什么？
我不想让它成为。
哦，不不不不不不不。别告诉我，告诉我这些事情。
你知道，你得到了研究，然后你从那里开始。
哦，我是说，我大概一年前就决定了，我想来 OpenAI。对吧？这是一个复杂的过渡，但我一直在处理 OpenAI NYC 和，比如，非常确定我想去 OpenAI。
好的。
而且我从来没有后悔过。
好吧。
所以，那么。
所以你从来没有被解雇过。
而且这是一个艰难的处境，作为一个人的处境，不是。
这甚至算不上解雇。
如果你能战斗。
你知道我要说什么吗？
这不是，这太残酷了。
我想我现在不应该谈论这个。
这件事，这件事对我个人来说，作为一个人类，感觉非常不公平，因为它的处理方式。
是的。是的。
我可以想象，你知道，很多人会谈论，你知道，被解雇。在新冠疫情期间，这尤其成为一种趋势，人们会谈论收到一封电子邮件或一个大规模的视频，然后，你知道，成千上万的员工被解雇。你很少会认为这种情况会发生在公司首席执行官身上。
然后，然后，甚至更重要的是，你不会认为这种情况会发生在一位被许多人称为“这一代的史蒂夫·乔布斯”的首席执行官身上。
你不会这样评价自己。
当然不会。
不。
我认为很多人这样评价你。你知道，因为，我是说，我一直在想这件事，我在想，我认为称你为“这一代的史蒂夫·乔布斯”是不公平的，在我看来。我认为你是这一代的普罗米修斯。
不，你真的是的。你真的是的。
在我看来，你似乎从诸神那里偷走了火。而且你正处于这场运动的最前沿，以及我们现在所处的这个时代。
曾经，曾经只有科幻小说和传说中的东西。
你知道，你现在是可能改变一切的先锋。
是的，比如文明五。
你认为它会改变一切吗？
我认为会。我是说，我，我完全可能说错了，但我感觉我们将建立一些几乎所有人都同意是 AGI 的东西。定义很难，但我们将建立一些人们会看着说，“好吧，你们都做到了。那就是人工智能通用智能，你，你知道，人类水平或超越人类水平的系统。”
在你详细介绍之前，你认为人们对人工智能的看法与人工智能通用智能之间最大的区别是什么？
我们已经足够接近了，所以人们如何定义它很重要，而且存在差异。所以对一些人来说，他们指的是一个能够完成当前人类工作中很大一部分的系统。
是的，当然我们会找到新的工作。我们会找到新的事情做。
但对另一些人来说，他们指的是一个能够帮助发现新科学知识的系统。
好的。
而且这些显然是非常不同的里程碑，对世界有非常不同的影响。
但我之所以不再喜欢这个词，即使我如此坚持，我无法停止自己。
你不喜欢哪个词？
AGI。
好的。
所有这些，我认为对大多数人来说，它现在意味着“非常聪明的人工智能”，但它已经变得非常模糊，它在做什么。而且我认为这主要是因为我们越来越接近了。
但我原本想说的是，我们将创造 AGI，无论你怎么称呼它。而且，至少在短期和中期内，它将比人们想象的要改变世界少得多，比人们想象的要少得多。
在短期内。
我认为社会有很多惯性。经济有很多惯性。人们的生活方式也有很多惯性。
是的。
这可能是有益的。这可能对我们管理这种转变有好处。
但我们都以某种方式做事，我们在社会中已经习惯了，就像超级生物以某种方式做事并且已经习惯了它一样。
所以，以 GPT 4 为例，我认为这是有启发性的。人们在第一次发布它时，真的感到恐慌。
是的。
说，“哇，我没想到会发生这种情况。它来了。”然后他们继续生活，它确实改变了事情。人们确实在使用它。它是一个比没有更好的技术。
当然，你知道，GPT 4 并不好。而 5、6、7 无论叫什么都会好得多。
但是 ChatGPT 界面上的那个时刻，我认为是很多人从不认真对待它到非常认真对待它的时刻。
然而，生活还在继续。
这对我们人类和社会来说是好事吗？还是生活就应该这样继续下去？
我认为，或者作为这个产品的“父亲”之一，这个想法的“父母”之一，你是否希望我们都停下来，花点时间，我想，盘点一下我们所处的位置？
我认为人类个体和整个人类的韧性是惊人的。
好的。
我很高兴我们有能力吸收和适应新技术，适应变化，并使其成为世界的一部分，这真的很棒。
新冠疫情是一个近期的例子，我们看到了这一点。
是的。
你知道，比如，是的，世界适应得很快。然后很快就觉得很正常了。
我是说，另一个例子，虽然不是严肃的，但很有启发性的是，当所有那些 UFO 的事情出现时。
现在是几年前了。
是的。
我的很多朋友会说，“也许那些不是真的 UFO，也不是真的外星人，或者别的什么。”
每个人。
是的。
然而，他们第二天就继续上班，和孩子玩耍。
是的。
因为，我是说，你能做什么？
你能做什么？
你能做什么？
如果它们飞过，它们就飞过。
你能做什么？
所以，所以，我是否希望我们花更多的时间来盘点？
我们正在作为一个世界这样做，我认为这很棒。我坚信迭代部署这些技术非常重要。我们不希望秘密地在实验室里建造 AGI。
是的。
我们知道它会来，然后一次性地把它扔给世界，让人们不得不说，“我们在这里。”
你认为我们需要逐渐适应它，并与之一起成长。
所以这次谈话，现在社会，我们的领导人，我们的机构正在进行的谈话，人们实际上在使用这项技术，对它有所了解，它能做什么，不能做什么，风险在哪里，好处在哪里。
我认为这太棒了。
而且我认为，也许在某种意义上，我们为我们的使命做的最好的事情就是采用。
到目前为止，就是采用迭代部署的策略。
就像，我们可以秘密地建造它，然后建造它很多年，然后就把它部署出去。
那就这样了。
你知道，很有趣。
今天我们走进 OpenAI 大楼，就像一个小型堡垒。
而且感觉就像是未来的家。
我看到了你的一篇文章。
你今天作为客人来的吗？
不再是了。我现在回来了。
我做到了。
好的。
有一天，我在中间。
好吧。
我看到你，我看到你，我看到你发了一篇文章，你以客人的身份来的，我当时想，“该死，那真奇怪。”
感觉就像回家，但然后。
是的。
那是家。
感觉应该是一个非常奇怪的时刻。
比如，戴上嘉宾徽章。
是的。
但我当时想，每个人都筋疲力尽，肾上腺素飙升。
是的。
它真的没有像我希望的那样具有里程碑意义。
那应该是一个有趣的时刻，比如，反思和讲故事。
那天确实有这样的时刻，比如，我最自豪的时刻之一是，我非常疲惫，非常分心。
而且，你知道，我们以为董事会那天会让我复职，但万一他们没有，我被面试了 L3，这是我们最低级别的软件工程师职位，由我们最优秀的人之一面试。
而且，你知道，他给了我一个。
是的。
那是一个非常自豪的时刻。
好的，好的。
你仍然拥有技能，这很酷。
但是，那个，那个，那个徽章不像我期望的那样有分量。
对。
我很想知道你认为你作为首席执行官做得对什么，才能获得我们从 OpenAI 工作的人那里看到的公开支持。
你知道，当这个故事曝光时，我不会问你细节，因为我知道你。
不不不。
因为我知道你不能评论内部调查的事情。
我不会。
是的。
我是说，那些事情。
但是我的意思是，你知道，我知道你可以谈谈公司的整体感受和，和，和正在发生的事情。
我们很少会看到这种情况像 OpenAI 那样展开。
你知道，你有一个公司和一个想法，在一分钟内，地球上大多数人都不知道它的存在。
下一分钟，你发布了 ChatGPT，一个简单的提示，一个小小的聊天框，改变了世界。
我认为你在一年的时间里达到了 100 万用户，这是任何科技产品中最快的。
五天？
是的，五天。
然后它飙升到 1 亿人，而且非常快。
我从轶事上知道，对我来说，它从世界上没有人知道这个东西变成了。
我曾试图向人们解释，让他们理解。我不得不给他们看诗歌和简单的东西，他们就能理解。
然后人们告诉我，现在它已经成为一个普遍的想法，人们正在努力理解它是什么以及它意味着什么。
但是，但是另一方面，你有一个公司，它试图以某种方式，以某种形式，驾驭和塑造未来。
而且，而且人们都在支持你。
你知道，我们看到了这个故事。
萨姆·奥特曼出局，不再是首席执行官。
然后是所有的传闻。
我是说，我和你一样。我不知道你是否看到了一些传闻。它们很疯狂。
我看到的最疯狂的事情之一是，他们说，有人说，有人说，这是，这是，这是疯狂而有趣的。
他们说，我从可靠的消息来源得知，萨姆被解雇是因为他试图与人工智能发生性关系。
那就是。
那就是某人。
我是说，我甚至不知道我该如何回应。
我看到了，我想，鉴于当时的情况，我应该正式否认，那没有发生。
是的。
而且我认为这不可能发生，因为我认为人们不理解这两件事的结合。
但是，但是让我感到震惊的是，事件的耸人听闻似乎让 OpenAI 陷入了不同的聚光灯下，进入了一个不同的时刻。
而其中一件大事就是你团队的支持，比如人们站出来说，“无论发生什么，我们都和萨姆在一起。”
这种情况在公司里并不常见。
首席执行官和员工通常在某种程度上是脱节的。
是的。
但感觉这不仅仅是一个团队。
我接下来要说的话绝非虚伪的谦虚。有很多地方我愿意揽功。
但我认为这件事不是关于我的。
除了我，我只是一个象征性的代表。
但是，比如，我认为我们在这里做得很好的一件事是，人们真正相信其重要性的使命。
而且，我认为那里发生的事情是，人们意识到使命、组织和我们团队辛勤工作并取得如此进展，但还有很多事情要做。
比如，那受到了真正的威胁。
我认为那就是引起反应的原因。
这真的不是关于我个人的，尽管，你知道，希望人们喜欢我，认为我做得很好。
这是关于我们共同感受到的忠诚，以及完成使命的责任感，以及想要最大化我们实现这一目标的机会。
在最高层面，你认为使命是什么？
它是要实现人工智能通用智能，将 AGI 的好处尽可能广泛地传播，并成功应对沿途的所有安全挑战。
好的。
那是一个有趣的，你知道，第二句话，我很想以后和你聊聊。
你知道，深入探讨安全问题。
当你审视 OpenAI 作为一个组织时，OpenAI 的起源非常奇怪，你知道，你会随时纠正我。
但是，你知道，它似乎非常注重安全。
你知道，你把一群人聚集在一起。
你说，“我们想成立一个组织，一个公司，一个集体，致力于创造最合乎道德的人工智能，造福社会。”
而且你甚至在，我猜，利润中看到了这一点，公司如何定义其投资者可以获得的利润等等。
但是，即使是 OpenAI 的那一点也在某个时候改变了。
你认为，你认为你能抵御资本主义的力量吗？
我是说，这里有太多的钱了。
你认为你能，你真的能维持一个金钱不定义你所做的事情和你为什么这样做的世界吗？
它必须是某个因素。
比如，如果你考虑到训练这些系统的成本，我们就必须找到一些方法来玩资本主义的游戏，为了更好的措辞。
好的。
但我不认为它会永远是我们的主要动力。
而且，顺便说一句，我喜欢资本主义。
我认为它有巨大的缺陷，但相对于世界尝试过的任何其他系统，我认为它仍然是我们想出的最好的东西。
但这并不意味着我们不应该努力做得更好。
而且我认为我们将找到方法来，花费我们所需的巨额，比如，创纪录的巨额资本，以便能够继续推进这项技术的进步。
那就像我们早期的一个学习。
这东西比我们想象的要贵得多，对吧？
就像我们知道我们有扩展系统的想法，但我们不知道它会走多远。
你一直是一个大规模扩展的忠实粉丝。
那是，那是，我读过你的文章。
是的。
你知道，甚至当，你的一位导师，我想你现在投资的其中一位，在，融合。
是的。
力量。
他们说，每当你向萨姆提出一个问题时，他首先想到的是，“我们如何解决这个问题？我们如何解决它？”
然后他说，“我们如何扩大规模？”
我不记得了。我记名字很糟糕。
有趣。
但你知道，那是和你一起工作的人。
有趣的是，你知道。
不，是的。
是的。
但我以前从来没有听过有人这样评价我。
是的，是的，但确实如此。
我认为，我认为这是我多年来在公司和领域中观察到的一个方面，即规模化往往会产生令人惊讶的结果。
所以，比如，扩大这些人工智能模型的规模带来了非常令人惊讶的结果。
扩大聚变发生器使其更好。
而且所有这些显而易见的，但有些不那么显而易见的扩大公司规模的方法都没有这些好处，对吧？
扩大像 Y Combinator 这样的公司群体具有不那么明显的好处。
对。
而且我认为，这一点没有得到足够的重视。
而在我们自己的案例中，你知道，在早期，我们知道规模很重要，如果我们更聪明或更勇敢的思考者，或者别的什么，我们就会，比如，从一开始就做得更大。
但这是很难说的，“我想去建造一个价值 100 亿美元或更大的计算机。”
所以我们没有写，我们学得比应该慢。
但是我们做到了。
但是现在我们看到了我们需要多大的规模。
而且，再次，我认为资本主义是，它很酷。
我对它没有任何意见，作为一个，作为一个系统。
好吧，不，那不全是。我对它作为一个系统有很多意见，但我没有任何反对意见，它比我们迄今为止发现的任何其他东西都好。
你问过，ChatGPT 吗？
如果我能设计一个系统？
我有，一个不同的，也许不是设计一个新系统。
是的。
但，比如，你知道，我问了很多关于人工智能和资本主义如何交叉的问题。
有趣的人工智能，我们。
所以我们关于我们最重要的初始假设之一是正确的，那就是它会发生。
这是可能的，是的，深度学习，很多人嘲笑它，顺便说一句。
哦，天哪，我们被无情地嘲笑了。
是的。
但即使我们的一些想法，关于如何实现它，我们也是正确的。
但我们在很多细节上都错了。
当然，科学就是这样。
没关系。
我们有一个非常不同的方法来构建它，在语言模型开始工作之前。
我们也有，我认为，对构建 AGI 的概念有非常不同的看法，而且我们不理解它将是迭代工具，它们会越来越好，你就像和人类一样与之交谈。
所以，所以我们的想法非常混乱，关于，当你建造一个 AGI 时会发生什么。
我们把它看作是，有一个 AGI 之前的时刻，然后是 AGI 的时刻，然后，然后你需要把它交给另一个系统，还有一些治理。
我现在认为它可以是。
而且我对此感到非常高兴，因为我认为它更容易导航。
我认为它可以是，我想说，就像另一个工具，因为它在所有这些方面都不同。
但是，但是从某种意义上说，我们为人类创造了一个新工具。
我们为工具箱增加了一些东西，对吧？
人们将使用它来做各种令人难以置信的事情。
但是人们仍然是未来的建筑师，而不是天空中一个 AGI。
你可以做以前做不到的事情。
我可以做以前做不到的事情。
我们将能够做更多的事情。
从这个意义上说，我可以想象一个世界，我们实现使命的一部分就是我们只是创造了非常棒的工具，它们极大地影响了人类的能力和其他一切。
我对此感到非常兴奋。
比如，我喜欢我们提供免费的 ChatGPT，没有广告。
因为我个人真的认为广告一直是互联网的问题。
但是我们只是，把这个工具放出去。
那是资本主义的缺点，对吧？
是的，是的。
其中之一，我认为还有更大的。
就我个人而言。
但是我们把这个工具放出去，人们可以免费使用它，我们不是，比如，试图把他们变成产品。
我们不是，比如，试图让他们更多地使用它。
好的。
而且我认为这展示了一条有趣的道路，我们可以做得更多。
所以，所以我们这样做吧。
你知道，你知道，在我们共度时光的这次谈话中，有很多我想让我们深入探讨的事情，希望，你知道，我们无法回答所有问题，当然。
但是有一些想法，你知道，一些标题和一些空间我想让我们，让我们去探索。
我想，第一个也是最及时的就是，公司未来的发展是什么？
你认为它会走向何方？
你知道，我发现特别有趣的一件事是新董事会是如何组成的。
你知道，对于 OpenAI 来说，你知道，以前董事会有女性。
现在没有了。
是的。
你知道，以前董事会有没有经济利益的人。
现在有了。
我想知道你是否担心你参与实施的那个安全措施现在已经消失了。
你知道，你有一个董事会，它不再专注于保护人们，或者，你知道，定义一个更安全的未来，而不是赚钱，让这件事变得尽可能好或尽可能大。
好吧，我认为我们目前的，我们之前的治理结构和董事会，在某些重要方面并没有奏效。
所以我支持想办法改进它。
我将支持董事会在这项工作中这样做。
显然，燃烧的董事会需要成长和多样化，我认为这会很快发生。
以及那些将倡导那些传统上未被倡导的人的声音，并且要非常周到地考虑，不仅是人工智能安全，还有我们从过去吸取的教训，如何让这些与社会以各种方式互动的复杂系统，尽可能好。
对。
那就是减轻坏处和分享好处。
这需要得到代表。
所以，我，我很高兴有机会再次做好所有这些事情，显然以前做得不好。
但是，但是是的，比如，多样化董事会，确保我们代表了所有需要代表的主要利益相关者群体。
想办法让这件事变得更加民主。
继续推动政府做出一些关于这项技术的决策，我知道这并不完美，但我认为比我们目前能想到的任何其他方法都好。
与我们的用户群互动。
更多地，比如，让他们帮助设定这项工作如何进行的界限。
这一切都非常重要。
这将是未来的一件大事，董事会和扩大董事会以及治理。
而且，是的，它真的会，我知道我们目前的董事会很小，但我认为他们非常致力于你刚才谈到的所有事情。
然后是另一大类问题。
如果你一周前问我，我会说稳定公司，好的。
是我最重要的事情。
但是，至少在内部，我感觉很好。
我们没有失去一个客户。
我们不能失去一个员工。
我们继续增长，这很了不起。
我们继续发布新产品。
我们关键的合作伙伴关系。
感觉得到了加强，而不是受阻。
而且事情都在按计划进行。
而且，比如，明年上半年研究和产品计划感觉比以往任何时候都更好、更专注。
但是，显然，还有很多，比如，很多外部稳定工作。
我们仍然需要做。
然后，然后除此之外，比如，我们。
真的在面对我们可能没有为成功制定足够宏伟计划的可能性。
你知道，我们有，我们有，比如，ChatGPT。
如果你现在想订阅 ChatGPT Plus，你无法订阅，你无法订阅。
我们只是人太多了。
是的，是的。
所以考虑到我们认为我们创造的未来系统有多好，以及人们似乎有多想使用它们，我们一直，比如，落后于他们的计划一整年，我们终于想赶上。
我是说，我发现自己一直在思考你这个人。
你知道，当，当，当整个董事会闹剧发生时。
而且，每当，每当有风暴时，我总是对风暴眼中的情况感兴趣。
是的。
你知道，我想知道，当这一切发生时，你当时在哪里？
比如，你当时在做什么？
你的人生中发生了什么？
在个人层面上，我离开的原因是人们对我的评价是，我擅长在飓风的中心静坐，当它在我周围旋转时，保持超级冷静。
而这次，这次，事实证明，不是，但这次经历就像，身处风暴的中心，而它却没有变成。
我在拉斯维加斯，在 F1。
哦，好的。
是的。
你是 F1 粉丝吗？
是的。
好的。
你的球队是哪个？
你有吗？
我真的，我喜欢，我是说，维斯塔潘太棒了。
很难说。
好的。
但我感觉这是答案。
每个人都会说。
我仍然不，不，不。
我实际上，这取决于。
这取决于他们何时加入这项运动。
我曾是，我曾是舒马赫的粉丝，因为我当时看。
好吧，我是说，奈杰尔·曼塞尔，然后是埃尔顿·塞纳，你知道我的意思吗？
但是，是的，好的。
好吧，他是，我喜欢，现在的维斯塔潘，他是，他是精准的。
我明白为什么。
而且就像，就像，我几乎厌倦了，比如，为什么看它，当如此频繁的时候。
但是，它太不可思议了。
所以，我非常期待。
那个第一个晚上，我周四晚上才到。
那个第一个晚上，有人，比如，他们忘了，他们忘了井盖。
所以有人开过它。
第一圈就炸了，比如，法拉利的引擎。
哦，哇。
停止了练习。
所以我没能看。
整个周末我都没能看任何比赛。
我在我的酒店房间里。
我接了这个电话，我不知道会发生什么，然后被董事会解雇了。
而且这就像，这就像一场梦。
我想，我感到困惑，它很混乱。
它不真实。
这就像。
就像显然，比如，沮丧和痛苦。
但困惑是当时占主导地位的情绪。
这就像，我当时处于一种迷雾中。
在一种恍惚中。
我想，我当时不明白发生了什么。
它发生的方式，在我看来，是前所未有的，疯狂的方式。
然后，在接下来的半小时里，我的手机，我收到了如此多的信息，以至于我的手机坏了。
哇。
这是谁的？
员工。
每个人。
每一个，每一个，比如，我的手机就是，它就是无法使用，因为它就是，通知不停。
而且我，我遇到了这种情况，它停止工作了一段时间。
消息延迟了。
然后它将所有内容标记为红色。
所以，我甚至无法，比如，告诉你，比如，是的，你知道。
所以，你还没有说过。
你还没有。
而且我当时，正在和这里的团队谈话，试图弄清楚发生了什么。
比如，微软正在给每个人打电话，而这只是，它真的，令人不安，而且不真实。
然后。
然后我有点，我有点镇定下来，我想，“你知道吗？我可以继续下去，而且我真的想以某种方式去从事 AGI 的工作。”
如果我不能，我仍然会这样做。
然后只是思考如何做到这一点。
格雷格辞职了。
其他人辞职了。
开始收到人们的很多信息，说，“我们，你知道，想和你一起工作，怎么样。”
那时，我，回到 OpenAI。
我想，根本没想过。
是的，我可以想象。
只是在思考未来会是什么样子。
但是，我有点不明白这是什么行业事件，因为我，我没有真正看新闻。
我唯一能告诉你的就是我收到了，疯狂数量的信息。
对。
因为你实际上在风暴中。
是的，是的。
而且我只是在试图，比如，你知道，支持 OpenAI。
弄清楚我想做什么，想了解发生了什么。
然后飞回加利福尼亚，和一些人见面，然后，然后，我当时非常专注于前进。
但是，你知道，也，祝 OpenAI 一切顺利。
但是，然后我那天晚上大部分时间都醒着。
睡不着。
而且，还有很多谈话正在进行。
然后，从那天起，周末就变得很疯狂了。
但我敢肯定，我仍然没有。
比如，我仍然有点震惊，有点只是在试图，比如，收拾残局。
你知道，我敢肯定，当我花时间去，去坐下来处理这件事时，我会有更多的感受。
对。
你是否觉得你不得不直接回到一切？
因为，你知道，正如你所说，你正在执行这个使命。
你眼中的热情，你非常有驱动力，你知道，而且世界已经跨越了一个永远无法回头的悬崖。
你知道，所以你正在朝着某个方向前进，突然之间，你似乎无法在，在你所在的领域实现它。
但是正如你所说，微软介入了。
萨提亚·纳德拉说，“嘿，来，来和我们一起工作吧。我们将重建这个团队。”
如果人们对萨姆·奥特曼有一件事是他们说过，如果他们和他一起工作过，他们会说，他很顽强。
他是。
他毫不动摇。
他不相信让生活阻止你。
如果你有一个目标，如果你相信某件事，而且它似乎，比如，你正在朝着那个方向前进。
你没有公开谈论 OpenAI。
你没有以任何方式贬低它。
但是感觉它确实让你付出了代价。
我是说，我认为这是我不会从中恢复过来的事情，但我认为不可能经历这一切而不付出代价。
那会很，那会很奇怪。
你是否觉得你失去了一部分自己？
是的。
我是说，比如，我们。
我们在 2015 年底开始 OpenAI。
比如，2016 年的第一个工作日。
而且，然后我一直在，我一直在 C 上工作了一段时间，但我从 2019 年初开始就全职投入其中了。
而且它有，比如。
AGI 在我的家庭中，是我最关心的两件事。
所以失去其中之一就像，而且，再次，它就像。
也许在某种意义上我应该说，“哦，你知道，我，我将去从事 AGI 的工作，我更关心使命。”
但是，但是当然，我也关心，比如，这个组织。
这些人，我们的用户，我们的股东，我们在这里建立的一切。
所以，所以是的，我是说，它只是，比如，令人难以置信的痛苦。
我唯一能与之相比的生活经历。
而且，这个，那个当然更糟，是我父亲去世的时候。
那是一件非常突然的事情。
而且，但是那种，比如，困惑和失落，而且，你知道，你得到了，在这种情况下，我觉得我有一些时间去，去真正地，比如，感受这一切。
但是然后有很多事情要做，比如，它太出乎意料了。
而且我不得不，比如，在一段时间内收拾他生活的残局。
而且直到，比如，一周后，我才真正有机会，比如，喘口气，然后说，“我的天哪，我真不敢相信这发生了。”
所以，是的，那更糟。
但是，这里有一些相同的回声。
我只能，我只能想象。
当你展望公司的未来，以及你在其中的角色时，你如何不，你现在如何找到平衡，在推动 OpenAI 前进，不断地朝着你所相信的方向前进，但同时，你也，你知道，你还有紧急刹车吗？
公司内部是否有某种系统，让你说，“如果我们觉得我们正在创造一些会对社会产生不利影响的东西，我们将介入，我们将停止它。”
你拥有这种能力吗？它是否内置其中？
是的，当然。
比如，我们过去也有过，我们创造了我们选择不部署的系统。
哦，有趣。
而且我敢肯定将来我们还会这样做。
或者我们创造了一个系统，然后说，“嘿，我们需要更长的时间来确保它安全，然后才能部署它。”
比如，对于 GPT 4。
在我们完成训练后，我们花了将近八个月的时间，才准备好发布它，进行所有的对齐和安全测试。
对。
我记得和一些团队成员谈过。
是的，那不是董事会的决定。
那只是这里的人在做他们的工作，并致力于使命。
所以，这会继续下去。
而且，我，我为这个团队感到非常自豪的是，他们能够在混乱、危机、不确定性、压力下良好运作的能力。
我给他们打了 A+。
他们做得很好。
而且，随着我们越来越接近更强大、非常强大的系统，我认为我们建立的文化和团队的能力可能是最重要的因素。
你知道，比如，在危机中保持冷静，并做出良好、深思熟虑的决定。
我认为这里的团队真的证明了他们可以，他们可以做到。
而且这非常，这非常重要。
我看到有人说，“你知道，我们从 OpenAI 学到的东西是，萨姆可以在没有任何工作的情况下经营公司。”
而且我认为这是完全错误的。
我认为那根本没有发生。
我认为真正应该学习的是，公司完全可以没有我来运营。
这是一个，这是一个团队已经准备好的文化。
文化已经准备好了。
比如，我认为，我为此感到非常自豪。
很高兴回来并这样做。
但是，但是，我睡得更安稳了。
看着团队度过了这一切。
考虑到未来的挑战，会有比这更大的挑战。
但是我认为在某种主观意义上，我希望并相信这是最艰难的，因为我们如此 unprepared，现在我们才意识到赌注，而且我们不仅仅是一家普通的公司。
哦，是的。
远非如此。
远非如此。
让我们稍微谈谈 ChatGPT，OpenAI，你知道，无论它最终被称为什么，因为，我是说，你有 Dall-E，你有 Whisper，你有所有这些令人惊叹的花哨名称的想法，架构的想法。
对我来说。
我真的很想。
我觉得 ChatGPT 已经做到了。
你知道，我觉得它现在是。
你。
它是？
是的，这是一个糟糕的名字，但它可能太普遍了。
但是改变，它，你认为你现在可以改变它吗？
我是说，我们可以把它缩减到 GPT 或只是聊天吗？
我不知道，我不知道，我不知道。
也许，比如，也许有时我觉得一个产品或一个名字或一个想法会超越营销人员的梦想。
是的。
空间。
人们只是拥有它。
是的。
没有营销人员会为这个选择 ChatGPT 这个名字，但我们可能不得不接受它，而且它可能还可以。
是的。
而且它现在，我是说，它的多模态方面让我着迷。
你知道，我记得当我第一次看到 Dall-E 出来时，你知道，它只是一个想法。
看到它是如何工作的，看到这个程序可以从一堆噪音中创造出一张图片。
并试图向人们解释它。
他们说，“但是我们没有得到图片，因为它，没有图片。”
没有原始图像，在，比如，但那不可能，对吧？
它看到了我喜欢的东西。
而且有时很难解释其中的一些东西，甚至对我自己来说也很难理解。
但是，但是当我们，当我们看待我们目前所处的这个世界时，你知道，我们称它们为数字。
GPT 3.5，GPT 4，GPT 3，你知道，5、6、7，无论它是什么。
我喜欢这样去除技术术语，更多地谈论，比如，产品的实际用例。
我们看到的一个飞跃，或者我们看到的产品之间的飞跃，是在 ChatGPT 3，3.5 到 4 之间。
我们看到了我们称之为更高水平的推理，一点点创造力，以及它的第一个火花。
是的，是的，是的，没错。
而且，当我，当我看着这个，这个产品和这个世界，你现在正在创造，你知道，用通用大型语言模型，现在是专业的大型语言模型。
我想知道，你认为用例会发生巨大变化吗？
你认为，你认为现在可能只是一个小小的聊天机器人，人们或者你喜欢，比如，你认为它会保持这种产品形态，还是你认为它会变成一个世界，一切都变成专业的 GPT？
你知道，一个世界，你知道，特雷弗有他的 GPT，试图为他做事情，或者这家公司有那个 GPT，为他们做事情，比如，你认为它会走向何方？
显然，预测未来很难。
但是，你认为它会走向何方，从我们现在的位置来看？
我认为它将是两者的结合。
这，这确实很难预测未来。
也许我会在这里犯错，但我还是会尝试。
我认为它将是你说的那两件事的结合。
一，基础模型将变得如此之好，以至于我很难有把握地说，这里是它做不到的。
所以这需要很长时间。
但我认为我们正朝着这个方向发展。
你的视野中的“很长时间”是什么？
比如，不是在未来几年。
好的。
它在未来几年里每年都会变得更好。
但是，比如，我不确定。
我想说，我确信。
我认为，比如，很有可能仍然有很多事情是 2015 年、2026 年的模型做不到的。
但是，但是模型不会总是让你惊讶吗？
你知道，当我，当我与在该领域工作的工程师交谈时，当我与任何参与人工智能或与人工智能相关的人交谈时，人们说的第一件事就是，第一句话是“惊讶”。
人们一直在说，他们说，“我们很惊讶，我们正在教，或者我们以为 ChatGPT 正在学习这个领域，突然之间它开始说一门语言。”
或者我们，我们以为我们在教它这个，突然之间它知道如何建造桥梁，或者别的什么。
所以，所以就我而言，这是大多数人主观的体验，也许在 2019 年到 2022 年之间。
好的。
但现在我认为我们已经学会了不感到惊讶，并且没有兴趣。
现在我们相信指数级增长，我们大多数人。
所以 GPT 5 或我们称之为它的任何东西都会在很多方面都很棒。
我们会对它能做什么和不能做什么的具体事情感到惊讶。
但没有人会惊讶它很棒。
比如，现在，我认为我们已经深刻地认识到了这一点。
但是你提到的第二件事是这些自定义 GPT，更重要的是，你还提到了，比如，个人 GPT，比如，特雷弗 GPT。
是的。
而且，我认为这将在未来几年成为一件大事，如果你愿意，这些模型将了解你，访问你的个人数据，以你想要的方式回答问题，并在你的环境中非常有效地工作。
而且我认为很多人会想要这个。
是的。
我是说，我可以看到很多人想要这个。
这几乎让我怀疑，你知道，
新的劳动力队伍将成为这样一种队伍，你的 GPT 几乎就是你的简历，你的 GPT 在某种奇怪的方式下几乎比你更有价值。你明白我的意思吗？所以是的，这就像你所想的一切和你曾经所想的一切的结合。你综合想法的方式，加上你自己的个人 GPT，就形成了。我的意思是，这就是我。就像在畅想一个疯狂的未来，你走进一家公司，他们说：“你的 GPT 是什么？”你回答：“嗯，这是我的。”你知道，我们总是想到这些像代理机构，这些个性化的代理机构。我会让这个东西为我做事。但正如你所说的，如果不是这样，而是，这是其他人与你互动的方式，对吧？就像这是你的印象，你的化身，你的回声，随便什么。我可以看到这种情况的发生，因为，我的意思是，如果不是某种，你知道，高潮，某种结合，那我们算什么？这是一个奇怪的想法，但我相信它。我一直对它可能走向何方以及它能做什么感到着迷。你知道为什么吗？当 ChatGPT 首次爆红时。对。在最初的几周里，我永远不会忘记。人们是多么迅速地意识到机器人革命。我知道这不是机器人，但你知道，对人们来说，他们会想，“哦，机器人革命。”机器并没有取代，只是他们认为它会，你知道，人们认为它会取代。是的，卡车司机等等。然而，我们发现，不，这些工作实际上更难取代。事实上，所有那些被认为是“脏活累活”的工作，你知道，就像你的白领工作。是的。哦，你是律师。哦，当你有 ChatGPT 5、6、7，随便什么的时候，他们可能不需要那么多律师了。你知道，你是工程师。你就像，你在哪里。人类身体确实是一个了不起的东西。它确实是，对吧？是的，它确实是。你看到任何可能取代人体的东西的进步吗？我们是否仍然处于，你知道，我认为我们会最终让机器人工作，比如人形机器人。是的。最终工作，但你知道，我们在 OpenAI 的早期就做过这方面的工作。我们有一个机器人项目。哦，我不知道。我们做了。我们造了一个能用一只手玩魔方的东西，这需要很多灵活性。我认为这其中包含了许多不同的见解。其中之一是，在比特的世界里比在原子世界里更容易取得进步。就像，机器人之所以困难，是因为所有错误的原因。它之所以困难，不是因为它帮助我们解决了硬科学问题，而是因为机器人一直在坏掉，而且它不够准确，模拟器也很糟糕。而像语言模型，你可以在虚拟环境中做所有这些。你可以取得更快的进展。所以，专注于认知方面的东西帮助我们更快地推进更具生产力的问题，而且在非常重要的方式上。我认为。解决认知任务是更重要的问题。就像，如果你造了一个机器人，它不一定能弄清楚如何去帮助你做一个执行认知任务的系统。是的，但如果你造了一个执行认知任务的系统，它可以帮助你弄清楚如何造一个更好的机器人。哦，是的，这说得通。所以，我认为，认知是我们想要推动的核心。我认为这是正确的决定。但我希望我们会回到机器人。你认为什么时候可以实现通用人工智能？就像，我们怎么知道？就像我什么时候会觉得，任务完成了。是的。就像什么？什么？因为每个人都在谈论通用人工智能。但然后我会问，我们怎么知道那是什么？这又回到了我们之前提到的观点，每个人都有不同的定义。是的。我告诉你，我个人什么时候会感到兴奋，那就是当我们有一个系统能够帮助发现新的物理学时。好的。我会非常兴奋。但这似乎远远超出了通用人工智能的范畴。这似乎是，你知道我的意思吗？我认为这超出了大多数人的预期，就像，就像也许因为这是我有时会想到的，我问，我们如何定义通用人工智能？我们是将其定义为在特定领域表现出色，还是将其定义为，就像一个孩子，它绝对是通用人工智能，但你必须不断地对其进行编程。你知道，它们就出来了，它们不会说话，它们不会走路，它们不会。你一直在对这个，你知道，AGI 进行编程。是的。为了让它达到它需要达到的目标。那么，如果你达到了一个拥有四岁孩子版本系统的程度，它就可以自己弄清楚，你知道，它就可以在父母的一些帮助下自主地去了解世界。是的，就像一个四岁的孩子那样。哦，是的，我们可以称之为 AGI，如果我们能。如果我们能真正解决这个问题。真正普遍的能力，面对一个新问题并自己弄清楚。不完美。四岁的孩子也并不总是能完美地弄清楚。但你知道，那么我们肯定会做到的。如果我们不能从根本上理解思考和心智，我们是否能做到？你认为我们能做到，还是能做到一个地方？我确信你知道这一点。我最喜欢的人工智能领域的故事之一是，我认为这是微软正在进行的一个项目，但他们有一个。他们有一个人工智能，试图学会区分男性和女性的面孔。对。而且它在某个时候相当准确。它的准确率达到了 99.9%。然而，它在黑人，特别是黑人女性身上却屡屡失败。它总是把她们误认为男性。研究人员一直在努力。他们说，“这是什么？这是什么？这是什么？这是什么？”在某个时候。这是，我的意思是，我这样讲这个故事。我的意思是，可能有点不对，但我发现很有趣的是，他们派了，他们把人工智能送到了，我想是肯尼亚。对。所以他们把人工智能送到了非洲。然后他们告诉肯尼亚的研究团队，“你们可以和这个一起工作一段时间，试着弄清楚。”然后，当人工智能在世界的那一边运行，并使用他们的数据集和非洲人的面孔时，它对黑人女性的准确性越来越高。但最终，他们发现人工智能从未区分过男性面孔和女性面孔。它所做的只是将化妆品关联起来。所以人工智能认为，那些读唇语的人，那些有红润的脸颊，眼皮上有蓝色的人，那些是女性。而其他人是男性。因为研究人员说，“是的，你是对的，你是对的。”它只是找到了一个，你知道，一个“作弊码”。你知道这是怎么回事。是的，远远超出了我的理解。但它只是找到了一个作弊码。就像，“哦，我明白了你认为的男人和女人是什么。”然后他们就明白了，因为黑人女性在化妆品方面通常得不到充分的服务，而且她们不化妆，你知道，系统就是不知道。但我们不知道它不知道。所以我想知道，我们怎么知道 AGI 不知道或不知道某事？或者我们会知道它只是在作弊才能达到目标吗？就像，我们怎么知道？而且，当我们不知道它的时候，它的代价是什么？当它与我们生活的如此多的方面交织在一起的时候呢？你知道，我相信我们会取得进展的一件事是理解这些系统在做什么的能力。所以现在，可解释性已经取得了一些进展。这就是，就像，看着这些模型之一。而且有不同的方法可以做到这一点，你可以尝试理解每个人工神经系统在做什么。或者你可以，就像看着系统一步一步地思考，你知道，其中哪些我不同意？好的。而且还会发现更多。但是，理解这些系统在做什么的能力，希望它们能向我们解释它们为什么会得出某些结论，并且准确、稳健地做到这一点。我认为我们会在真正理解这些系统是如何做到它们所做的事情，以及我们自己的大脑是如何做到它们所做的事情之前，在这方面取得进展。所以我认为我们最终会理解这一点。我非常好奇。我确信你也是。但对我来说，我们将在让这些系统变得越来越好方面取得更多进展，并让它们帮助我们解决可解释性方面的挑战。而且，我认为随着这些系统变得越来越聪明，它们就不那么容易被愚弄了。所以更复杂的系统可能不会做出那种化妆品的区分。它们学会了更深层次的理解。我认为我们已经看到了这方面的证据。你知道，你说到不容易被愚弄，这让我想到了两件事。一件是安全方面，一件是准确性方面。我们，我们做的第一件事，我的意思是，媒体对此大肆宣传。你还记得他们说，“哦，人工智能会产生幻觉，它认为它会杀死我。”而且它认为，而且人们喜欢使用“认为”这个词，你知道，对于大型语言模型，我发现这特别有趣。是的。因为我总是觉得，就像记者一样，你知道，他们应该在报道之前就试图理解它在做什么。但他们，我认为，对公众造成了损害，因为他们使用了“认为”这个词。是的，相当多。我的意思是，我对此表示同情。就像，我们需要使用熟悉的词语，我们需要拟人化。但我同意你，这是一种损害。是的。因为如果你说它在思考，那么人们就会想，“它会思考杀死我吗？”而这就像，“不，但它没有在思考。”你知道，它只是在使用这个神奇的转换器来弄清楚单词最有可能如何相互关联。你认为你在做什么？我在做什么？是的，这是一个有趣的问题。这是，这是。而现在。所以现在我要写的是我们一起提出的想法。我们谈论幻觉。让我先说第一部分。你认为我们可以达到一个人工智能不会产生幻觉的地步吗？嗯，我认为更好的问题是，我们能否让人工智能在我们不想它产生幻觉的时候，以与人类不产生幻觉的相似速度产生幻觉？在这方面，我会说“是”，但是，好的。但实际上，人们喜欢这些系统的很大一部分原因是它们会做一些新颖的事情。如果它只是一直。是的。就像幻觉是一种功能和一种错误。嗯，这就是我接下来要问的。我当时在想，产生幻觉难道不是智能生物的一部分吗？完全。如果你想想，就像，如果我们想想人工智能研究人员的工作方式。好的。他们看大量的数据。他们有一个想法，他们读了很多东西，然后他们开始想，“嗯，也许这个，也许那个，也许我应该试试这个实验。”现在我得到了这些数据，所以，就像，没有完全奏效。现在我会产生这个新想法，但是，这种人类产生新假设、新解释的能力。是的，这是前所未有的，而且大多数都是错误的，但然后有一个过程和一个反馈循环来弄清楚哪些可能是有意义的。并且确实有意义。这是人类进步的关键要素。我们如何阻止人工智能，你知道，就像，你知道，那种“垃圾进，垃圾出”的输出，那种情况。我们现在，人工智能是基于人类以某种形式创造的信息运行的。它正在从我们认为可学习的材料中学习，你知道，随着所有这些新事物的出现，你知道，OpenAI、Anthropic、Lambda，你知道，随便说一个。感觉我们可能会进入一个世界，现在人工智能产生的比人类产生的还要多，而且可能没有经过应有的审查。我们该怎么办？人工智能在从自身学习时会变得更好吗？以一种可能未经审查的方式？我明白你的意思吗？完全。我们该如何弄清楚？所以这又回到了在不同情境下知道如何行事的问题。就像，你想要创造过程中的幻觉，但你不想在试图，比如，报告事实时产生幻觉。而现在你有了这些系统，它们可以生成这些美丽的、在某种重要意义上是幻觉的新图像，但却是好的。但然后你有一个系统，当你希望它只关注事实时。再次，它已经好多了，但仍然有很长的路要走。而且没关系。我认为如果这些系统以它们自己生成的数据进行训练是好的，只要有一个过程，系统就会学习哪些数据是好的，哪些是坏的，这又不够，不能说谁说的。因为如果它产生了新的科学想法，这些想法可能一开始是幻觉，这是有价值的。但你知道什么是好的，什么是坏的，而且还有足够的人类监督这个过程，我们仍然共同控制着这些事情的走向。但有了这些限制，我认为系统将使用生成的数据进行训练是很好的。然后你又提醒了我一件事，那就是我一直在想，我不太清楚如何计算这个，但我希望知道，当 GPT 5 或 6 或其他什么生成的词语比在给定时间里全人类生成的词语还要多的时候。这似乎是一个重要的。里程碑，实际上。现在，我大声说出来，也许不是。生成，以何种方式？哦，就像模型产生的词语比全人类在一年内产生的词语还要多。所以，你知道，有 80 亿人类，或者随便什么，这似乎很有趣。平均每年说多少个词？你可以算出来。我的意思是，你，是的。但它给我们带来了什么呢？这是另一边的问题。是的。这就是为什么我说完之后又收回了。我，如果出于某种原因，这对我来说似乎是一个重要的里程碑，但我感觉它是一个重要的里程碑，就像，就像猴子打字机一样，因为也许人类，你知道，我们一直在打字。这就是我认为值得，你知道，是的，数量，我不用“思考”这个词，因为我认为你正确地不使用它，但数量，就像。也许只是全人类生成的词语的数量。是的。我很快就要失去你了。所以我想跳到几个问题。那些人会杀了我的，如果我不问你们的话。好的，所以其中一个主要问题，这是我个人的。我们总是谈论人工智能从数据中学习，对吧？它们被喂入数据集，我们谈论这个。这就是为什么你需要这些超级计算机。花费数十亿美元，以便计算机能够学习。我们如何教人工智能比那些给了我们明显有缺陷的数据的人类更好地思考？所以，例如，当涉及到种族，当涉及到经济，当涉及到想法时，人工智能如何超越我们已经发布的数据的限制？你知道，因为我们有限，我们如何教它不要像我们一样有限？如果我们喂给它有限的数据呢？我们还不知道，但这是我们面前最大的研究重点之一，就是，我们如何超越人类数据？我希望如果我们可以一年后再谈，我就可以告诉你。但我们还不知道。我们还不知道。好的。这非常重要。然而，我确实相信的是。这将是打击世界上不公正现象的强大力量，而且非常重要。我认为这些系统将是。它们不会有所有人类都有的那些根深蒂固的缺陷。它们可以被制造得远不那么种族主义，远不那么性别歧视，远不那么有偏见。它们将是世界上经济正义的强大力量。我认为，你知道，如果你做一个很棒的人工智能导师或很棒的人工智能医疗顾问，它对世界上最贫穷的一半人比对最富有的一半人更有帮助，即使它能帮助所有人。所以，我没有科学问题的答案，但在这个时候，我确实有信心，这些系统可以。当然，我们必须做一些艰苦的社会工作来让它们成为现实，但它们可以成为提高世界正义的伟大力量。好的，也许这完美地引出了第二个问题，那就是你们在做什么？OpenAI 在做什么？你们是否考虑过采取任何措施来减轻这项新技术再次造成“有者”和“无者”的局面？每一项新技术，如果从整体上来看，对社会来说都是惊人的。但你不能否认，它创造了一个时刻，如果你拥有它，你就拥有了一切，如果你没有，你就出局了。我认为艺术，我们会学到很多东西。但目前我认为我们做的一件非常重要的事情是提供真正的免费服务，这意味着没有广告支持，但每周都有超过一亿人使用它。而且，事实是，不能说任何人，因为在一些国家我们仍然被阻止，或者我们仍然被阻止，但我们正努力越来越接近。我们可以做到，任何人都可以获得真正高质量、易于使用的免费人工智能。这对我们所有人来说都很重要，我认为我们还有其他事情想用这项技术来做，比如如果我们能用人工智能治愈疾病，并让全世界都能获得这些治愈方法，那显然是有益的。但将这个工具交到尽可能多的人手中，让他们用它来构建未来，这是非常重要的。而且，我认为我们可以把这一点做得更好。好的，还有两个问题。我可以再加一句吗？是的，是的，是的，这是你的时间。请说。另一件我认为重要的事情是，谁来决定系统说什么和不说什么，或者做什么和不做什么，就像，谁来设定界限？是的。而现在，基本上是 OpenAI 的人来决定。没有人会说这是对世界的公平代表。所以，我们不仅要弄清楚如何普及这项技术，还要弄清楚如何实现其治理的民主化，这在我们未来一年里是一个巨大的挑战。嗯，这与我接下来要问你的问题有关。它的安全方面，你知道，我们一开始就谈过这个问题。在设计一个可以改变世界的东西时，必须承认它可能会以最坏的方式改变世界。你知道，随着每一次技术飞跃，一个人造成更大破坏的能力都会增加。人工智能是否可能完全安全？然后第二部分是，你的噩梦场景是什么？你想到什么会让你按下红色按钮，关闭 OpenAI 或人工智能？你知道，如果这可能发生，我们必须关闭。你害怕什么？所以，首先，我认为你开始时提出的见解是，能够造成灾难性伤害的人数每十年（或大约每十年）就会减少。在我看来，这是我们社会必须面对的一个深刻的真相。第二，关于让系统安全。我不认为这是一个二元的事情。就像我们说飞机是安全的，但飞机仍然会坠毁。非常少见。令人惊讶地少见。对我来说，我们说药物是安全的，但人们，你知道，仍然会，FDA 仍然会认证一种可能导致一些人死亡的药物。是的。所以安全不是，就像，社会决定某事是可接受的安全，考虑到风险回报权衡。是的。我认为我们可以做到，但这并不意味着事情不会真的出错。我认为人工智能会出很多问题。我们必须阻止，我认为社会实际上有一个相当好的。混乱但好的过程，可以集体决定安全阈值应该是多少。这是一个复杂的谈判，有很多利益相关者，我们社会随着时间的推移越来越擅长这一点，但我们必须阻止，我认为你触及了这一点，那就是灾难性风险。是的。所以核能是每个人都举的例子。你知道，核战争产生了非常全球性的影响。所以世界以不同的方式对待它，并且做了我认为是了不起的工作。过去近 80 年。我认为人工智能也会有类似的事情。当然，人们经常谈论的一个例子是人工智能被用来设计和制造合成病原体。是的，这可能导致一个大问题。我知道人们经常谈论的是计算机安全问题，人工智能可以轻易地进行黑客攻击，超出任何人类的能力，当然也超出任何技能。然后还有另一类事情，我认为它们是全新的，那就是如果模型变得足够强大，它是否能够帮助设计自己的方式，比如，从服务器上提取权重，制作大量副本并修改其行为？更像是科幻场景。是的。但我认为我们作为一个世界需要直面这一点。也许不是那个特定的案例，而是这个想法，即存在灾难性甚至生存风险，即使我们无法精确定义它，也不能忽略它。所以我们在这里做了很多工作，试图预测和衡量这些问题可能是什么，它们何时可能出现，我们如何早期检测它们。而且我认为所有那些说“你们根本不应该谈论这个，你们应该只谈论错误信息和偏见以及今天的问题”的人，他们是错的。我们必须同时谈论两者。我们必须在每一步都确保安全。好的。这和我所想的一样可怕。所以。所以然后我问，“哦，顺便说一句，你真的在考虑竞选州长吗？”那不是，不，不，我只是在 17 年，2017 年左右短暂地考虑过。好的。或者 16 甚至什么。我考虑过。所以这似乎是，你知道，就像几周的模糊的娱乐想法。好的。好的。我想我的最后一个问题是，你知道，现在是什么？总的来说，你的梦想是什么？如果萨姆·奥特曼能挥动魔法棒，让人工智能成为你希望它成为的样子，它会对未来做什么？它会对所有人带来什么好处？所有好处。而且，我的意思是，这是，这是所有负面事情的补充。谢谢你问这个问题。我认为你应该总是以积极的方面结束。是的。看，我认为我们正朝着人类有史以来最伟大的富足时期迈进。而且我认为这两个主要驱动力是人工智能和能源。但也会有其他的。但这两件事，能够，就像，产生任何想法，能够实现它，并大规模地做到这一点，人们所能拥有的限制将是他们所能想象的，以及我们作为一个社会可以集体协商的。我认为这将是惊人的。我们之前在谈论，如果每个学生都能获得比最富有的学生拥有最好的教育体验，比拥有最好的教育机会的学生还要好，那意味着什么？是的。如果我们都能获得比当今最富有的人拥有最好的医疗保健，那意味着什么？如果人们普遍被解放出来，去从事他们认为最能实现个人价值的工作，即使这意味着他们必须从事新的工作类别，那又意味着什么？如果每个人都能。你知道，我们俩都喜欢我们的工作。是的。但我认为并非所有人都如此。是的，我同意。如果每个人都能找到一份他们热爱的工作，并且他们拥有像大公司或大团队一样的资源，那又意味着什么？所以，也许不是 OpenAI 的 800 人，而是每个人都拥有 800 个甚至更聪明的人工智能系统，可以做所有这些事情。而人们只是去创造和制作所有这些。我认为这是非凡的，我认为这是我们正在走向的世界。而且它需要大量的额外工作才能实现，就像社会必须做出一些改变，但我们正朝着这个富足时代迈进，我对此感到非常高兴。我。我将以这个结束。我是一个巨大的粉丝，人工智能的潜在好处的巨大粉丝。你知道，就像，我在南非的教育领域工作。我的梦想一直是让每个孩子都能获得最好的可能。是的。你知道我的意思。字面意思，你知道，没有一个孩子被落下，因为他们可以按照自己的节奏学习。顺便说一下，孩子们使用 ChatGPT 来学习东西怎么样？我收到的故事。是的，这太棒了。太棒了。真的。你知道，这个 14 岁的。是的。是的。不，这太棒了。历史。我独自学会了所有的微积分。真的。真的太棒了。尤其是当它变得更加多模态时，当你有视频等等的时候，那将是惊人的。我梦想着那个。就像你说的，医疗保健。我梦想着。我梦想着这一切。我唯一没有足够问的生存问题，我希望你会问，也许你已经问过了，那就是我们如何重新定义人类的目的？一旦人工智能有效地取代了所有这些东西，因为，你知道，无论你喜欢与否，纵观历史，你会意识到我们的目的常常定义了我们的进步。你知道，曾经有一段时间，我们的目的就是宗教。所以，你知道，为了好坏而奋斗。你应该想想。宗教在让人们思考并朝着某个方向前进方面确实很棒。他们想，“这是我的目的。我醒来是为了侍奉上帝。”你想到的是哪个上帝。我醒来是为了侍奉上帝。我醒来是为了取悦上帝。我醒来，我认为这让人类，第一，让他们觉得他们在朝着某个目标前进，第二，它给了他们一种社区感和归属感。而且，我认为，当我们进入一个人工智能消除这一点的时候，我希望我们不要忘记有多少人将他们的全部身份与他们做什么联系起来，而不是他们是谁。而一旦我们。当我们脱掉那件外套，当我们没有秘书，当我们没有接线员，当我们没有助手，当我们没有工厂工人，当我们没有所有这些东西时。你知道，我们已经看到了历史上发生的事情。通常是激进主义出现，大规模的反弹。就像，你有没有想过？有没有一种方法可以接受它？你如何描述它？我们现在的目的，我认为现在我们的目的就是生存，与以某种形式产生收入挂钩，因为我们被告知生存就是这样运作的，对吧？你必须赚钱才能生存。但我们已经看到了，有过一些时期，这种情况被重新定义了。法国有一个很好的例子，他们有，我认为他们仍然有一个版本，但艺术家基金，他们说，“我们会付钱给你作为艺术家。你只需要创作，让法国变得美丽。”是的。那很美。我知道你喜欢 UBI。是的。在你谈论这个之前，我们不应该。嗯，我只是不认为人们的生存应该与他们的，就像，意愿或能力有关。我认为那是对人类潜力的浪费。但是，是的，我完全同意你。我认为。等等，在你离开之前，让我问你这个问题。你为什么认为普遍基本收入如此重要？因为你不会浪费你的时间或金钱在你不在乎的事情上。所以，你花了大量的时间和金钱在普遍基本收入上。我的意思是，我最后看到的是，有一个，就像，4000 万美元的项目，你拿出 6000 万美元。我，我不认为普遍基本收入是解决我们面临的挑战的完整解决方案，当然。但我确实认为，就像，消除贫困是一件无可争议的好事。我认为更好的资源再分配将导致一个对每个人都更好的社会。但是，但是，我认为分发金钱不是关键部分。就像分发工具和分发治理。我认为更重要的是，就像，人们想成为未来的建筑师。我认为，正如我所说，人类一直有一个持续的意义，或者使命。我认为就是，你知道，生存和繁荣。是的。个人层面。但是，但是，集体上我们确实有一种新兴的集体愿望，那就是让未来变得更好。是的。现在我们经常跑偏。但是，但是，人类的故事就是，让我们让未来变得更好。这就是技术。这就是治理。这就是我们对待彼此的方式。就像去探索星星，就像理解宇宙的方式。就是，无论是什么。而且我对这一点非常有信心，它深深地根植于我们内心。无论我们得到什么工具，那种基本愿望，那种人类繁荣的使命，作为物种和作为个体，它都不会消失。所以我对我们两代人之后的未来非常乐观。但是你提到的东西非常重要，那就是那些，你知道，已经在他们的职业生涯中，而且实际上很开心，并且不想改变的人。是的。而改变即将来临。我们从以前的技术革命中看到的一件事是，在大约两代人的时间里，社会和人们似乎可以适应任何程度的职业变动。是的。但不是在十年内，肯定不是在五年内。是的。我们将面临这个问题。我认为在某种程度上，正如我们之前所说的，我认为它会比人们想象的慢，但仍然比社会过去不得不处理的要快。而这将意味着什么，以及我们如何适应。我肯定有点害怕，我们将不得不面对它，我假设我们会弄清楚的。我确信我们会弄清楚的。而且我也确信，就像你给我们的孩子和孙子们比我们更好的工具，他们只会做一些让我们震惊的事情。我希望他们会觉得我们过去的日子有多糟糕。就像，我希望未来如此美好，而这种人类精神和渴望，就像，去探索，表达自己，设计一个越来越好的世界，远远超出这个世界。我认为这很棒。我对此感到非常高兴。而且我认为在某种意义上，我们不应该太在意这个，就像，这个小东西。我们，你知道，星球大战中那个坏人说，“不要太被你创造的这种技术恐怖所打动。”它与原力的力量相比微不足道。是的，在某种重要意义上，我确实有这种感觉，那就是，我们不应该对这个，就像，人类精神会让我们度过难关，而且比任何人都强大。技术革命。我的意思是，这是一个美丽的希望信息。我希望你是对的，因为我热爱这项技术。那个，那个非常混乱的。不。你知道，我想留给你的是，作为时代杂志的年度 CEO 和年度人物之一，我认为你将继续如此，尤其是在这个角色上。因为 OpenAI 和人工智能本身将对我们产生如此大的影响，我想恳求你继续记住你被解雇时的那种感觉，因为你正在创造一项技术，这项技术将使许多人处于类似的位置，因为我，因为我看到你身上有人性。我希望你在创造时，你会不断地思考这一点。你知道，我星期六早上做了什么，去了，就像，星期六早上我睡不着。我写下了，我能从中学到什么，这将帮助我在别人经历类似事情时做得更好，并且责怪我，就像我现在责怪董事会一样。你弄清楚了吗？很多，我的意思是，有很多有用的，就像，单一的教训，但这次经历带来的同情心，以及我的，就像，价值观的记录。当然，这是一种伪装的祝福。就像，代价很痛苦。但从这个意义上说，我很高兴有过这次经历。嗯，萨姆，谢谢你的时间。谢谢。我真的很，真的很享受。我希望，我希望我们一年后再聊。关于，你知道，所有的新进展。那会很棒。你绝对应该来做这件事。那会很棒。我肯定会的，伙计。好的，我，酷，谢谢。 Trevor Noah 的“What Now?”由 Spotify Studios 与 Daisy Productions、Full Well 73 和 Odyssey 的 Pineapple Street Studios 合作制作。该节目由 Trevor Noah、Ben Winston、Jenna Weiss Berman 和 Barry Finkel 担任执行制片人，Emmanuel Happiness 和 Marina Hankie 担任制片人。音乐。混音和母带处理由 Hannah Brown 完成。非常感谢您抽出时间收听。感谢您的收听。希望您喜欢这次谈话。希望我们留给您一些东西。希望下周再见。同一时间，也就是您收听的时间，同一地点，也就是您收听的任何地方。下周四，全新一集“What Now?”。