Transcription
乔·罗根播客，看看吧。乔·罗根体验。白天训练，晚上乔·罗根播客，整天。你好，萨姆，什么事？没什么，谢谢你来。我很感激。谢谢你邀请我。那么，你都做了些什么？比如，从来没有？不，我是说，你用人工智能做了些什么？我是说，嗯，这其中一件事是，我是说，我认为每个人都对它着迷。我是说，每个人都绝对被它的当前能力所震撼，并想知道未来的潜力是什么，以及这是否是一件好事。我认为这将会是一件好事，但我不认为它将全是好事，而我认为，我认为，这就是所有复杂性的来源。这不像一个清晰的故事，我们要这样做，一切都会很好，我们要这样做，它将是净好的，但它将是一场技术革命，它将是一场社会革命，而这些总是伴随着变化，即使它是净的，你知道，有些东西我们会失去，有些工作，我们生活方式的某些部分，我们将改变或消失，无论它的好处有多大，而且我相信它会非常好，你知道，有很多事情我们必须去应对，以确保，嗯，这对任何人来说都是一件复杂的事情，而且，你知道，围绕着这一点，有深刻而完全可以理解的情感。这是一个非常诚实的回答，它不会全是好事，但似乎势不可挡。是的，我是说，这绝对是不可避免的。我的世界观，你知道，当你还是个孩子的时候，你在学校学习技术革命，然后是那个，然后是那个，而我的世界观，现在回望和展望，就是这是一场漫长的技术革命。我们当然，首先我们必须弄清楚农业，这样我们就有资源和时间来弄清楚如何建造机器，然后我们有了工业革命，这让我们学到了很多东西，很多其他的科学发现也让我们进行了计算机革命，而现在，当我们扩展到这些庞大的系统时，它让我们进行了人工智能革命。但它确实只是人类发现科学和技术并与之共同进化的一个漫长故事，我认为这是有史以来最激动人心的故事。我认为这就是我们如何实现这个富足的世界，尽管，你知道，尽管我们确实有这些需要应对的事情，而且确实会有这些缺点，如果你想想这对世界和人们的生活质量意味着什么，如果我们能进入一个世界，嗯，智能的成本以及随之而来的丰富性，成本急剧下降，丰富性大大增加，大大增加，我认为我们将对能源做同样的事情，我认为这是我们想要的一切的两个关键投入。所以，如果我们能拥有丰富廉价的能源和智能，这将极大地改善人们的生活。而且我认为，这就像，如果我们现在能回到 500 年前，看看一个人的生活，我们会说，嗯，有一些伟大的事情，但他们没有这个，他们没有那个，你能相信他们没有现代医学吗？这就是人们会像看待我们一样看待我们。但在 50 年后，当你想到那些目前非常依赖人工智能将取代的工作的人，当你想到卡车司机或自动化工人，在工厂装配线上工作的人，如果有什么的话，有什么策略可以用来减轻这些工作被人工智能消除的负面影响？所以，我会谈论一些普遍的想法，但我发现做出非常具体的预测很困难，因为技术的发展方式与我自己的直觉，或者当然，我自己的直觉完全不同。我们也许应该停在这里，稍微往后退一点。你最初的想法是什么？如果十年前你问我，我会说，首先，人工智能将首先取代蓝领劳动，基本上，它将驾驶卡车，做工厂工作，你知道，它将处理重型机械。然后也许之后，它将做一些认知劳动，你知道，但它不会做我个人认为真正困难的事情。它不会证明新的数学定理，不会发现新的科学，不会编写代码，最终也许，但也许最后，也许永远不会，因为人类的创造力是这个神奇的、非常特别的东西。最后，它将取代创意工作。这就是我会说的。现在，在我看来，而且已经有一段时间了，人工智能在执行任务方面比执行工作要好得多。它可以做好这些小部分，但有时它会失控。它无法保持很长的连贯性，所以人们反而能够更有效地完成他们现有的工作。但今天你仍然需要人类在那里。然后，它正在朝着完全相反的方向发展。它可以先做创意工作，然后是编码，然后是其他类型的认知劳动，而我们离类人机器人最远。所以，回到最初的问题，如果我们确实有什么东西完全消除了工厂工人，完全消除了卡车司机，送货司机，以及类似的东西，这就在我们的社会中造成了巨大的真空。所以我认为有些事情我们应该做，但它们是不够的。所以我认为在某个时候，我们会做一些类似全民基本收入的事情，或者其他一些非常长期的失业保险之类的事情，但我们会以某种方式向人们提供，在人们找到新工作时，在社会中重新分配金钱作为缓冲。但是，也许我应该谈谈这一点，我一点也不相信不会有大量新工作。我相信人类的创造力，对地位的渴望，想要不同的竞争方式，发明新事物，感觉自己是社区的一部分，感觉被重视，这些都不会消失。人们一直担心这个问题。发生的是我们得到了更好的工具，我们发明了新的事物和更令人惊叹的事情要做。外面有一个巨大的宇宙，我认为，我是说字面上的意思，因为有太空真的很大，但也有很多我们可以做的事情，如果我们能进入这个智能丰富的世界，你可以想到一个新想法，它就会被创造出来。但是，再次，这并没有解决我们开始的观点，那就是，它并没有为那些今天失去工作的人提供伟大的慰藉。所以说未来会有伟大的无限的东西，人们会说，我们今天在做什么？所以，我认为，作为社会，我们会做全民基本收入和其他再分配的方式，但我认为这并不是人们想要的根本。我认为人们想要的是自主权，自决权，与整个社会一起塑造未来的能力，表达自己并创造对他们有意义的东西的能力。而且，我认为很多人从事他们讨厌的工作，而且我认为我们社会总是有点困惑，我们是想多工作还是少工作。但不知何故，我们都能做一些有意义的事情，我们都能在推动未来方面发挥作用，这真的很重要。我希望的是，随着那些长途卡车驾驶工作消失，你知道，人们一直错误地预测它发生的速度，但它会发生。我们不仅要找到一种方法来解决经济问题，比如每个月给人们相当于金钱的东西，而且还有一种方法，我们有很多关于这个的想法，有一种方法，我们分享对未来的所有权和决策权。我经常谈论通用人工智能，每个人都意识到我们将不得不分享它的好处，但我们也必须分享它的决策权以及对系统的访问权。比如，我会对一个世界更兴奋，而不是给地球上的每个人，比如，八十亿分之一的通用人工智能的钱，我们也应该这样做，我们说你得到，比如，八十亿分之一的八十亿分之一的系统切片，你可以卖给别人，你可以卖给一家公司，你可以和其他人一起合并，你可以用它来做任何你想要的创意追求，你可以用它来弄清楚如何开始一项新业务，通过这一点，你将拥有一个投票权，关于这一切将如何被使用。所以，通用人工智能越好，你那微小的八十亿分之一的所有权就越有价值。我们昨天在播客上开玩笑，我说我们需要一个人工智能政府，我们应该有一个人工智能总统，让所有决定都由人工智能做出。是的，让一个完全公正、绝对理性的东西，拥有人类历史上所有知识的积累，包括所有心理学和心理学研究的知识，包括全民基本收入，因为它带来了一系列你知道的陷阱和人们对它的问题。所以，我会说一些话，我认为我们离一个足够强大和可靠的系统还很远，以至于我们中的任何一个人都会想要它。但我会告诉你一些我喜欢的事情，有一天，假设那个东西被建造起来，它能够与地球上的每个人交流，深入了解他们的确切偏好，你知道他们如何看待这个问题，以及那个问题，以及他们如何权衡取舍，以及他们想要什么，然后理解所有这些，并集体优化，优化人类或美国公民的集体偏好，这太棒了，只要它不被劫持，好吗？我们的政府目前被劫持了，那肯定是真的。我们确切地知道，我们的政府受到特殊利益的严重影响。如果我们能有一个人工智能政府，没有任何影响，没有任何东西影响它，多么迷人的想法。这是可能的，我认为这可能是唯一一种你将获得完全客观的、绝对最智能的决策的方式，几乎所有我们目前在社会中面临的问题和困境。你真的会愿意把最终的决策权交给人工智能吗？不，我也不愿意把任何人的决策权交给任何人，你知道我的意思吗？我不舒服《爱国者法案》，我不舒服，你知道，很多正在做出的决定。只是有太多明显的证据表明，正在做出的决定不是为了人民的整体福祉而做出的。它们是根据那些捐赠了巨额资金的巨型公司，以及军事工业综合体和制药工业综合体，以及因此，就是我们今天所知道的，金钱对我们的社会，以及做出的选择，以及对人口的整体好坏，产生了巨大的影响。是的，我完全不同意，目前的系统非常糟糕，对人们不起作用，非常腐败，而且肯定，你知道，令人难以置信地被金钱所控制。是的，而且我认为有一种方法可以做得比这更好，用人工智能，以某种方式，但这可能只是因为整天坐在系统旁边，看着它们所有失败的方式。我们还有很长的路要走，很长的路要走，我敢肯定。但是当你想到通用人工智能，当你想到可能的未来，它会走向何方时，你有没有推断过？你有没有停下来想过，如果这个东西，如果它变得有意识，并且有能力制造更好的版本，我们什么时候才会真正面对一个神？我思考这个问题的方式是，以前通用人工智能是一个非常二元的时刻，它是在之前和之后，我认为我完全错了。正确思考它的方式是，这是一个智能的连续体，一个平滑的指数曲线，一直回溯到技术革命的那个平滑的曲线。我们可以投入到系统中的计算能力，关于如何使其更有效率和更智能的科学思想，赋予它推理能力，思考如何改进自身的能力，这一切都会到来。但我的模型很长一段时间以来，我认为如果你看看通用人工智能的思想家，特别是关于你刚才谈到的安全问题，有两个轴很重要。有短时间线或长时间线，你知道，到通用人工智能的第一个里程碑，无论那是什么，它会在几年内发生，几十年，甚至可能更长，尽管在这一点上，我认为大多数人是几年或几十年。然后是起飞速度，一旦我们到达那里，你谈到的那个点，它能够快速自我改进，这是一个缓慢还是快速的过程？我认为我们正在走向的世界，以及我认为最可控和最安全的世界，是短时间线和慢起飞的象限。我认为我们将拥有，你知道，有一段时间有很多非常聪明的人说，你刚才谈到的事情会在一天或三天内发生，我不认为这似乎可能，鉴于我们现在所理解的技术的形状。即使这发生在十年或三十年后，从历史的角度来看，它仍然就像眨眼一样，而且在正确处理这件事方面将面临一些真正的挑战，我们做出的决定，世界建立的那些安全系统和检查，我们如何从安全角度看待全球监管或规则，对于那些项目来说，这是超级重要的，因为你可以想象很多事情会非常糟糕。但我对世界在认真对待这件事方面取得的进展感到乐观。而且，你知道，这让我想起了我读过的关于世界在发展核武器时进行的对话。在我看来，就公众意识而言，这已经非常迅速地出现了，我不知道是否有人真正意识到，人们意识到了人工智能的概念，但他们没有想到它将被如此全面地实施，如此迅速地实施。所以，ChatGPT 现在是 4.5 了吗？四。四。有了 4.5，它的能力将会有某种程度的指数级增长。它会比现在好一点。每一步，你知道，从每一步，比如半步，你，你知道，人类有能力如此迅速地适应任何新技术。我认为关于 ChatGPT 3.5 和 4 的发布不寻常的是，人们并没有真正关注，而这正是我们部署的原因之一。我们认为，人们和机构有时间逐渐理解它，做出反应，与它共同设计我们想要的社会，这是非常重要的。如果你只是在实验室里秘密地构建通用人工智能，然后一次性地将其推向世界，我认为这是一个非常糟糕的主意。所以，我们一直在努力与世界谈论这件事一段时间了。人们，如果你不给人们一些他们可以感受到的东西，并在他们的生活中使用，他们就不会认真对待。每个人都很忙。所以，从技术所处的位置到公众意识所处的位置，有一个很大的差距。现在，这已经赶上来了。我们已经部署了，我认为人们理解它了。我不认为从 4 到我们完成 4.5 的跳跃，那将需要一段时间，我不认为那会是疯狂的。我认为疯狂的转变，人们不得不经历的疯狂调整，大部分已经发生了。我认为大多数人已经从认为通用人工智能是科幻小说，而且离我们很远，变成了即将发生的事情。那是一次性的重新构想。现在，你知道，每年你都会得到一部新 iPhone，自从发布以来 15 年或更长时间，它们已经变得非常好了。但从 iPhone 到 iPhone，你会说，是的，它好了一点。但现在，如果你拿出第一部 iPhone 和第 15 部 iPhone，那是一个很大的区别。GPT 3.5 到通用人工智能，那将是一个很大的区别。但在此过程中，它只会逐步变得更好。你有没有想过像 Neuralink 这样的东西的融合？还有一些竞争技术，它们试图实现人类生物系统和技术之间的某种连接。你想在你脑子里装一个那样的东西吗？直到所有人都装了，我才想。你知道，我有一个关于它的笑话，但它的想法是，一旦它出现，你不得不这样做，因为每个人都会有它。所以，关于所有相关的合并问题，最难的问题之一正是你刚才所说的。作为社会，我们将允许一些人与通用人工智能合并，而另一些人则不？如果我们这样做，而你选择不，那对你意味着什么？你会受到保护吗？你如何把握那个时刻？你知道，如果我们想象一下，一直到科幻的未来，有很多科幻小说写过如何把握那个时刻。你知道谁能先做？那些不想做的人怎么办？你如何确保那些先做的人真的能一起提升所有人？你如何确保那些只想过非常人性化生活的人也能做到？那些事情真的很难，老实说，离我今天的问题太远了，我不能像我想的那样多地思考它们，因为我认为它非常有趣。但是，是的，似乎如果我们只是从逻辑上思考，那将是一个巨大的挑战，而且人们会想要截然不同的东西。但是，有一个社会问题，关于我们如何看待权力平衡在一个世界里。我认为会有很多人，我当然是其中之一，他们会说，实际上，人类的身体和人类的体验很棒。在森林里的小木屋很棒。我不想一直待在那里。我很乐意去玩那个很棒的电子游戏，但有时我很高兴能去那里。是的，仍然有人类体验是如此美妙的人类体验，比如和朋友一起大笑，你知道，亲吻一个你从未亲吻过的人，你第一次约会，那种时刻。只是大笑，和朋友喝一杯酒，然后大笑。在虚拟现实中不太一样。现在不行，当虚拟现实发展到你无法分辨什么是真实的，什么是虚假的，然后每个人都陷入模拟假设或东方宗教等等。我不知道那时会发生什么。你有没有玩过模拟理论？因为真正的问题是，当你把它与概率论结合起来，然后你和那些说，好吧，如果你只看数字，我们已经在一个模拟中的概率比我们不在的概率要高得多。我从来不清楚该怎么做。就像，好吧，在智力上，这很有道理。是的，我认为可能吧。这似乎很有说服力。但这是我的现实，这是我的生活，我将过我的生活。而且，你知道，从我大学一年级宿舍走廊凌晨 2 点到现在的这段时间里，我在这方面没有取得任何比这更多的进展。嗯，似乎是其中之一，没有，你知道，如果它是一个可能性，如果它是真实的，首先，一旦发生，你会怎么做？我的意思是，那就是新的现实。而且，在很多方面，我们的新现实对于 15,000 年前的猎人采集者来说，就像我们现在一样陌生。我的意思是，我们已经进入了一些非常奇怪的领域，你知道，我刚才和我的孩子们谈话，我们问了一些关于某事的问题，你知道，我总是说，让我们猜猜其中有多少是这个，然后我们只是谷歌搜索，然后只是问 Siri，然后我们把它找出来。看看，这本身就比我年轻的时候要好得多，那时你必须去图书馆，希望那本书是准确的。完全正确。我对此非常恼火。我读到像 ChatGPT 和 Google 这样的系统对环境的影响有多么糟糕，因为它，你知道，每次查询都使用极少量的能源，你知道，我们都在摧毁世界。我说，在那之前，人们开车去图书馆。让我们谈谈他们燃烧了多少碳来回答这个问题，而不是现在需要多少。来吧。但那只是人们在寻找某种理由来证明某事是坏的，那不是一个合乎逻辑的观点。我们应该关注的是通过这一切可能发生的壮观变化，以及我们面临的所有问题，资源、环境、清理海洋、气候变化等方面的无法克服的问题。有这么多问题，我们需要它来解决所有其他问题。这就是为什么我们需要人工智能总统。如果人工智能可以做出每一个科学发现，但我们仍然有人类总统，你认为我们会没事的吗？不，因为那些混蛋仍然会把钱揣进腰包，他们会有海外账户，而且它总是会是一种腐败的奇怪事情，以及如何减轻那种腐败。这也是当前技术状态最引人入胜的事情之一，我们对腐败的意识更强了，有更多的独立报道，我们对实际存在的问题有了更多的认识。这真的很好。我观察到的一个现象，当然还有很多人，是腐败是阻碍社会取得任何进展的巨大障碍。而且，你知道，我年轻的时候，我的世界观更以美国为中心。随着我学习世界越多，并在世界各地工作的地方越多，就越惊人地发现仍然存在多少腐败。但是向技术赋能的世界的转变，我认为是对抗腐败的主要力量，因为一切都更难隐藏。而且，我认为世界上的腐败将继续下降，因为它被曝光了。是的，通过技术。如果，我是说，这有代价的，而且我认为我非常担心监视国家会走多远。但在一个支付，例如，不再是现金袋，而是以某种数字方式完成的世界里，即使你使用比特币，有人也能看到这些流动。我认为这是一种减少腐败的方式。我同意，但我非常担心中央银行的数字货币，以及它与社会信用评分挂钩。我非常反对。那吓死我了。我非常反对。而且这种推动不是为了社会的整体利益，而是为了控制。是的，我认为，我是说，美国政府最近做了很多让我失望的事情，但对加密货币的战争，我认为这是一种，我们不能放弃这个，我们要控制它，以及所有这些。这让我对这个国家感到非常难过。它也让我对这个国家感到非常难过。但然后你也会看到像 FTX 这样的事情。哦，没有监管，没有人在监督，这会变得非常糟糕。我不是反监管。我认为它显然有它的作用。而且，我认为 FTX 是一个滑稽的糟糕情况，我们不应该从中学习太多。是的，但它很有趣。它完全很有趣，我喜欢那个故事。我是说，你显然，我真的很喜欢。我喜欢他们都在吸毒，并且互相发生性关系的事实。是的，不，不，我经历了所有的戏剧，就像，我是说，这是一个引人入胜的故事，因为它包含了一切。他们用，你知道，他们用 QuickBooks 来报税，他们处理着数十亿美元的现金。我不知道为什么我认为“polycule”这个词很有趣，但 polycule，那就是他们，你知道，当你说一段关系，比如一个多边形但封闭的。就像，多边恋的分子组合在一起。哦，我明白了。所以他们是，这是我们的 polycule。所以有九个人，他们是多边形的，无论是什么。是的，你称之为 polycule。我认为那很有趣。那在硅谷流行了一段时间，我当时觉得太好笑了。你显然想要足够的监管，以至于那种事情不能发生。但他们说，好吧，我不是反对那种事情发生。我反对他们用那些钱做了什么。那就是我的意思。聚会可以继续。不，不，我是说，你想要足够的东西，以至于 FTX 不能失去它所有的存款人的钱。但是，我认为这里有一个重要的观点，那就是，你拥有所有这些其他监管，人们，而且它并没有让我们安全。而基本的事情，就是，你知道，让我们做吧。那不是所有加密货币的东西，人们都在谈论。是的。我是说，对我来说，真正迷人的加密货币是比特币。我是说，这是最有可能成为普遍可行的货币的。而且，你知道，它的数量是有限的。你知道，人们用自己的方式挖掘它。对我来说，这非常迷人。我喜欢它已经被实施了，而且至少有一些，我曾邀请 Andreas Antonopoulos 来我的播客。他谈论它时，他正在亲身经历它。他花光了他所有的钱，他支付的一切都是比特币。他用比特币支付房租，他做的一切都是比特币。几年前，我帮助启动了一个名为 Worldcoin 的项目。所以，我学到了更多关于这个领域的东西。我对它感到兴奋，原因与我对它感到兴奋的原因相同。但我认为，我们拥有一种不受任何政府控制的全球货币的想法，这是一个非常合乎逻辑且重要的步骤。是的，在科技树上。同意。我是说，为什么政府要控制货币？我是说，政府应该处理所有紧迫的环境、社会、基础设施问题、外交政策问题、经济问题，这些我们需要政府来处理，以便拥有一个和平、繁荣、平等和公平的社会。你认为 AGI 之后，金钱和货币会怎么样？我一直对此感到好奇，因为我觉得，尤其是当金钱数字化时，瓶颈是访问。如果我们到达一个所有信息都可以自由共享的地方，没有秘密，没有界限，没有边境，我们读心术，我们完全可以访问你做过的所有事情，每个人说过的所有话，没有隐藏的秘密。那么金钱是什么？金钱是这种数字的东西。那么，你怎么能拥有它？你怎么能拥有这个数字的东西，如果根本没有瓶颈，没有障碍，任何人都可以访问任何信息，因为基本上它就是一和零？是的，我是说，另一种我认为信息框架有意义的方式是，另一种方式是，金钱是一种交易劳动或交易有限的硬资产，比如土地和房屋等等的方式。而且，如果你想到一个知识劳动随时可用且非常便宜的世界，那么这在某种程度上非常不同。我认为总会有我们想要稀缺和昂贵的东西，但只会是那些我们想要稀缺和昂贵的东西，以及服务仍然是。所以，在这样的世界里，金钱，我认为是一个非常奇特的想法。它变成了一种不同的东西。它不是一个皮革钱包里的金币袋，你随身携带。它不会对你有什么好处。但问题是，这些钱是如何分配的？我们如何避免一个可怕的马克思主义社会，只有一个极权主义政府把它分配出去？那将是糟糕的。我认为你必须，我的最佳想法，也许有更好的。我认为你必须像，如果我们是对的，有很多原因我们可能是错的，但如果我们是对的，那么 AGI 系统，其中会有几个，成为世界影响力的最高位。我认为你需要，不仅仅是重新分配金钱，而是访问权，这样人们就可以自己决定如何使用它，如何管理它。如果你有一个想法，你可以这样做，如果我有一个想法，我可以这样做。而且我拥有，基本上，做任何我想用我的那部分事情的权利。如果我提出比你更好的想法，我就会因此得到奖励，无论社会是什么，或者反之亦然。你知道，强硬派，那些反对福利和任何形式的 UBI 的人，他们真正担心的是人性。他们认为，如果你消除了激励，如果你只是给人们免费的钱，他们就会上瘾，他们就会懒惰。但那不是人类的生物和心理需求吗？也许通过人工智能的实施，结合某种神经接口，无论是外部的还是内部的，这似乎是一个可以解决的问题。你基本上可以，这就是它变得非常诡异的地方，你可以重新设计人类的生物系统，你可以消除人们所有这些问题，这些问题基本上可以追溯到人类的奖励系统，当我们是部落人，猎人采集者的时候。无论是嫉妒、淫欲、嫉妒，所有这些变量都在起作用，当你处理金钱、地位和社会地位时。如果这些通过技术被消除，基本上我们成为人类物种可能性的下一个版本。看看，我们离原始的野蛮社会，洞穴人，已经很远了。我们都同意，这是一种更好的生活方式。它更安全。你知道，我昨晚在我的喜剧俱乐部谈论过这个，因为我和我妻子在谈论 DNA，我妻子说，看，每个人都来自洞穴人，这是一种令人沮丧的想法，这里的每个人都因为洞穴人而在这里。嗯，这一切仍然在我们体内，所有这些奖励系统都可以被劫持，它们可以被劫持，仅仅是通过给人们钱，而且你不需要工作，你不需要做任何事情，你不需要有野心，你只需要有钱，然后躺着，吸毒。这就是人们对给人们免费钱的恐惧。但是，如果我们能找到一种方法来真正编辑人类的生物载体，并消除所有这些陷阱，如果我们能通过技术启蒙人们，也许启蒙这个词不对，但通过技术将人类物种提升到不再是困境的程度，因为这些可以通过编码轻松解决，它们可以通过增强人类生物系统轻松解决，也许将多巴胺水平提高到愤怒、恐惧和仇恨不可能存在的程度。它们不存在。而且，如果每个人都服用摇头丸，会有多少战争？零场战争。我是说，如果你能让地球上的每个人都在同一天服用摇头丸，那将是一件了不起的事情。但如果你让地球上的每个人每天都服用摇头丸，那将是真正的损失。但是，如果他们服用低剂量的摇头丸，你就可以得到，每个人都带着爱和感情迎接人们，不再担心竞争，而是担心创新和创造力的迷恋。男人，我们可以花剩下的时间来谈论这个话题。它太有趣了。我认为，如果我能按下按钮来消除所有人类的奋斗和冲突，我不会这样做。首先，我认为这是我们故事和经历中非常重要的一部分。而且，我认为我们可以从我们自己的生物历史以及我们对人工智能的了解中看到，非常简单的目标系统，健身功能，奖励模型，无论你想怎么称呼它，都会产生令人难以置信的令人印象深刻的结果。你知道，如果生物学的冲动是生存和繁殖，看看它把我们带到了社会的高度。所有这些，所有这些东西，我们拥有所有这些技术，这些建筑，以及其他一切，都是通过一个极其简单的目标在复杂环境中实现的，从而带来了所有丰富性和复杂性的人们，在某种程度上实现了这个生物冲动，并想要给彼此留下深刻印象。所以，我认为进化适应是一个简单而令人难以置信的强大想法。现在，你能小心地编辑掉它的每一个个体表现吗？也许吧。但我也不想生活在一个像无人机一样的社会里，每个人都像一直在服用摇头丸一样。那似乎不是正确的答案。我想让我们继续奋斗，我想让我们继续拓展前沿，出去探索。而且，实际上，我认为社会上的一些东西已经有点偏离了。而且，我不知道，我认为，我以为我会更老的时候才觉得自己像个抱怨年轻人的老家伙。但我认为我们失去了一些东西，我认为我们需要更多的奋斗，也许更多的冒险，更多的探索精神。你说的失去了一些东西是什么意思？我的意思是，这是我的视角。我长期以来一直是创业投资人，而且通常情况下，最优秀的创业创始人都在二十出头或二十多岁，也许甚至更晚。而现在，他们更年长了。我想知道的是，在当今世界，那些非常优秀的 25 岁创始人，而且他们很少，说没有是不公平的，但比以前少了很多。而且，我认为这对社会各个层面的发展都不利。我是说，科技公司创始人就是一个例子，但也是那些去创造新事物，推动一个有争议或有争议的想法的人。我们需要这样做来推动前进。我们需要那种精神。我们需要人们能够发表观点，犯错误，而不被社会排斥，或者不被取消资格，或者其他什么。我们需要人们能够承担职业风险，因为他们相信某个重要的科学探索，这可能不会成功，或者听起来可能非常具有争议性或糟糕，或者其他什么。当然，当我们开始 OpenAI 时，我们说，我们认为这个通用人工智能的东西是真的，而且可能是，虽然不太可能，但如果发生，它非常重要。而我们领域里所有年长的科学家都说，那些人是不负责任的，你不应该谈论通用人工智能。他们就像在卖假货，或者他们就像，你知道，他们有点鲁莽，而且它将导致通用人工智能的冬天。就像我们说的，我们当时说，我们知道这不太可能，但这是一项重要的探索，我们将去追求它，而且，你知道，去他妈的那些讨厌鬼。这对社会很重要。你认为起源是什么？你为什么认为现在比十年前或二十年前做这些事情的年轻人更少？我对这个话题非常感兴趣。我忍不住要责怪教育系统，但我敢肯定，我认为它以所有这些奇怪的方式与社会互动。有趣的是，最近我的 Twitter 动态里充斥着关于，你知道，美国男性睾酮水平在过去几十年里下降的原因。没有人说，这是症状，不是原因。每个人都说，哦，是微塑料，是避孕药，是 whatever，是 whatever，是 whatever。而且，我认为这根本不是这个话题最重要的部分，但它在社会学上很有趣，因为只有关于是什么原因造成的讨论，而不是关于它是一个社会变革的后果。但是，是什么导致了它呢？嗯，有一些生物学原因，你知道，当我们谈论邻苯二甲酸盐、微塑料、杀虫剂、环境因素时，那些都是真实的。完全真实。而且，我再次，我远远超出了我的知识和专业领域。这只是对我来说很有趣，唯一的讨论是关于生物因素，而不是社会以某种方式产生影响。但是，社会肯定有影响。你知道答案是什么吗？我不知道。我是说，我曾与 Shanna Swan 博士进行过一次谈话，她写了《倒计时》这本书。这本书是关于石化产品的引入以及睾酮水平的下降和流产率的上升。这些是普遍存在的内分泌干扰物。当他们对人们进行血液测试时，他们发现了一个惊人的数字，就像 90% 以上的人体内都有邻苯二甲酸盐。我欣赏金属杯。我们尽力减轻它。但是，你知道，如果你在微波炉里加热食物，你就会得到它。你就会得到它。如果你吃加工食品，你就会得到它。你的饮食中会摄入一定量的微塑料。据估计，你每周摄入的微塑料相当于一张信用卡。哇。真正的担忧是哺乳动物，因为在他们对哺乳动物进行研究时，他们将邻苯二甲酸盐引入了它们的身体，发生了一件事，这些动物的会阴部收缩。你知道，雄性的会阴部比雌性大 50% 到 100%。随着邻苯二甲酸盐的引入，雄性的会阴部开始收缩，阴茎收缩，睾丸收缩，精子数量下降。所以，我们知道这些化学物质与身体的相互作用之间存在直接的生物学联系。所以，这是一个真实的问题。
而且它也是我们拥有的石化产品量，我们使用的塑料量。它是我们文化、我们的社会、我们的文明不可或缺的一部分。它无处不在。我一直在想，你是否考虑过这些领地性猿猴如何进化成这个新的先进物种？其中一种最好的方法不就是摆脱导致最多问题的因素之一，那就是睾酮吗？我们需要睾酮，我们需要有攻击性的男人和保护者，但我们为什么需要他们？我们需要他们，因为有其他邪恶的有攻击性的男人。所以我们需要保护自己，我们需要善良强大的人来保护我们免受坏人侵害。但如果我们正在与技术融合，如果技术是我们生活中不可避免的一部分，如果它无处不在，你正在使用它，你拥有万物互联，它存在于你的微波炉、你的电视、你的电脑中，你使用的一切。随着时间的推移，它将成为你生活中越来越重要的一部分。随着这些塑料被引入人类生物系统，你看到了该物种雄性的女性化，你看到了出生率的下降，你看到了所有这些相互关联的因素，它们似乎会让我们变成一个更和平、更少暴力、更少攻击性、更少以自我为中心的东西，而世界无疑正在朝着这个方向发展。我当然支持减少暴力，但显然睾酮有很多优点，也有一些坏的倾向。但我不认为一个世界，如果我们把它排除在外，只是说一个有精神的世界，你知道，我们将保卫自己，我们将找到一种方法来保护自己和我们的部落和我们的社会走向未来，这可以通过很多其他方式实现。我认为这是一个重要的冲动。但更重要的是，我的意思是，如果我们回到年轻创始人那里，为什么我们没有更多这样的创始人？我不认为这仅仅是科技创业行业，我认为你可以说这适用于年轻科学家或许多其他类别，这些可能只是我最了解的。在一个拥有任何数量技术的世界里，我仍然认为我们已经走到了这一步，在某种意义上，这是我们的命运，继续沿着这条曲线前进，我们仍然需要弄清楚下一步是什么，以及下一个山丘之后是什么，再下一个山丘之后是什么。我的看法是，这里正在发生一些长期的社会变革，我认为这也会让我们不那么快乐，对吧？这可能会让我们不那么快乐，但我的意思是，如果人类物种与技术融合，难道不是一种很好的促进方式，就是让原始猿猴女性化，并淡化……比如，人工智能世界是否应该……我不知道是不是人工智能，我的意思是，也许这只是技术不可避免的后果，尤其是我们使用的技术，它含有如此多的塑料，然后再加上涉及食品系统的技术，防腐剂，所有这些我们用来确保人们不饿死的不同东西。我们在这一点上取得了巨大的进步。这个国家很少有人饿死。是的，这不是一个主要问题，但暴力是一个主要问题。但我们对暴力的担忧，以及我们对睾酮、强壮男人和强大人物的担忧，仅仅是因为我们需要防范，我们需要防范其他相同的事情。这真的是唯一的原因吗？当然，我的意思是，有多少……极其暴力的女性在那里经营团伙？不，不，那部分肯定不是。显然不多。我的意思是，社会重视强烈的男子气概，这仅仅是唯一的原因吗？是的，我认为是。我认为这是一种生物冲动，我认为这种生物冲动是因为我们曾经不得不防范入侵的部落、掠食者和动物，我们需要比大多数人更强大的人来保护其他人。这就是军队的概念，这就是为什么海豹突击队训练如此困难。我们希望最强者中的最强者成为尖刀。但这仅仅是因为那里有那样的人，他们是坏人。如果通用人工智能和某种改变人类生物结构的设备的实施，使那不再是问题，比如，如果你是我，我就是你，我知道这一点是因为技术，暴力是不可能的。是的，看看，如果这完全走向科幻之路，我们都融入了同一个……行星、宇宙……意识，那么，是的，你不需要睾酮。不需要睾酮。但特别是如果我们能通过其他方式繁殖，比如这是外星人假说，对吧？为什么他们看起来如此瘦弱，没有性别，你知道，他们有大脑袋和小……他们不需要体力。他们不需要体力。他们有某种心灵感应的交流方式。他们可能不需要用嘴发声，他们不需要我们征服和传播 DNA 的冲动。你知道，人们做的很多事情都是基于我们还是领地性猿猴时建立的奖励系统。有一个问题在于，如果你创造了一个人工智能，它决定我们不需要扩张，我们不需要更多的领土，我们只是快乐，我们……你和我，整个事情，所有融合在一起，我们在地球上很开心。我们不需要变得更大，我们不需要繁殖，我们不需要成长，我们只是坐在这里运行……那听起来像是一种无聊的生活。我不同意。我不同意那将是合乎逻辑的结论。我认为合乎逻辑的结论是，他们会寻找我们当前存在无法克服的问题和前沿，比如星际交流和……当它遇到另一个人工智能时会发生什么？另一个星系呢？如果它遇到一个比它先进一百万年的人工智能会怎样？那会是什么样子？是的，我经常想，如果我们……我称自己为创造电子蝴蝶的生物毛毛虫，我们现在正在制作一个茧，我们甚至不知道我们在做什么。而且我认为它也与消费主义有关。消费主义做什么？消费主义促进了创造更新更好的东西，因为你总是想要最新最好的。所以你拥有更先进的汽车、电脑、手机以及所有这些不同的东西，包括医学科学。这一切都是真的。你刚才说的时候，我一直在反思的是，我认为我不像你认为的那样乐观，我们能够，甚至应该克服我们的生物基础。甚至回到更早的层面，我认为社会在有……强烈的女性气质和强烈的男性气质在同一个人身上，以及在不同的人身上，是最快乐的。而且我不认为很多这些根深蒂固的东西能够轻易地被推开，并且仍然有一个有效的系统。当然，我们真的不能考虑有一天机器里会有意识，或者别的什么，那会是什么样子。也许，也许我只是……想得太狭隘了，但我认为我们身上有一些东西起到了非常深刻的作用，而且进化花了大量的搜索空间才达到这一点。但我不会轻易忽视它。但你不认为穴居人也会对生活和久坐的生活方式以及坐在电脑前而不相互交流（除了通过文字）得出同样的逻辑结论吗？嗯，我的意思是，你说的对吗？你认为我们的动机今天有什么不同？以及什么真正给我们带来真正的快乐？以及我们从深层面上是如何被塑造得与穴居人不同的？显然，很多其他事情都改变了。我们有了更好的工具，好得多的工具。但你认为他真的有多大不同？我认为问题在于，基因上，在基本层面上，没有太大区别。而所有这些奖励系统……我们与所有这些互动，无论是自我、欲望、激情、愤怒、嫉妒，所有这些不同的东西。你认为我们会……有些人会上传并编辑掉那些吗？是的。是的，我认为我们对失去“成为一个人”的这个方面的担忧，这个……我们应该总是会有冲突和斗争的想法，因为冲突和斗争是我们促进进步的方式，这是真的，对吧？而与邪恶作斗争是善良变得更伟大、更强大，如果善良获胜。但我的担忧是，这一切都基于我们现在拥有的生物系统是正确和最佳的想法。我认为我们正在处理的许多问题，比如日益加剧的抑郁和焦虑，以及人们经历的意义缺失和存在主义的痛苦，很大一部分原因是因为作为人类动物的生物现实与我们创造的世界并不真正融合。那倒是真的。而且我不知道解决方案是否是找到方法来赋予你所拥有的生物“容器”意义，而是通过工程技术将那些有问题的方面从系统中剔除，以创造一个真正开明的存在。比如，如果你今天问一个人，三年内世界上将没有战争的几率是多少？那是零。没有人认为……人类历史上从未有过我们没有战争的时候。如果你必须说我们作为一个物种的最大问题是什么？我会说我们最大的问题是战争。我们最大的问题是这种想法，认为派大量互不认识的人去谋杀大量因政府、因国界而对立的人是可以的。这是疯狂的。这太疯狂了。你如何摆脱它？嗯，摆脱它的一种方法是彻底消除所有与获取资源有关的人类奖励系统。那么还剩下什么？我们变成了一个新的东西。我认为我们变成了一个新的东西。那个东西想要什么？我认为那个新东西可能会想与其他比它更先进的新东西互动。我相信科学的好奇心可以驱动……那可以是一个长期的巨大前沿。是的，我认为那也可以是一个长期的巨大前沿。我只是想知道，我们看到的睾酮下降，因为微塑料，它悄悄地发生了，直到人们开始研究……这一点有多确定？我不知道。我会研究。这是一个非常好的问题。沙尼斯·斯旺博士认为，这是导致睾酮下降、所有流产问题和低出生体重的主要驱动因素。所有这些似乎都有直接的……似乎有直接的因素。在环境方面，我确定还有其他因素。睾酮下降……我的意思是，已经证明了可以通过阻力训练来提高男性的睾酮水平，并且可以通过做一些事情来提高。其中一个大因素是，他们在日本的一项研究发现，运动前冷水浸泡可以极大地提高睾酮水平。是的，冷水浸泡然后运动。是的，我不知道。我能找到那个。但这是一个迷人的研究领域。但我认为这与韧性、抵抗力有关，以及你的身体必须对抗这种外部因素，这种因素非常极端，导致身体进入一种保护状态，以及冷休克蛋白的产生和炎症的减少，这也增强了身体的内分泌系统。但除此之外，你必须变得更有韧性来应对你每天生活中引入的这种外部因素的冲动。所以，显然有一些方法可以使人类更加健壮。你知道，我们知道可以通过力量训练来做到这一点。所有这些实际上都能提高睾酮水平。你的饮食可以提高睾酮水平，而糟糕的饮食会降低它，并会阻碍你的整合系统，会阻碍你产生生长激素、褪黑激素的能力，所有这些不同的因素。似乎有一些我们可以通过决定、选择和努力来解决或至少缓解的问题。但是，这些……石化产品……斯旺博士的书里有一张图表，显示了 20 世纪 50 年代，当他们开始在一切东西中使用石化产品时，微波炉、塑料、保鲜膜，所有这些不同的东西。实施和下降之间存在直接相关性。这一切似乎都吻合了。这似乎是一个主要因素。这对雌激素相关的激素有同等影响吗？这是个好问题。嗯，有些实际上……我知道他们谈论的一些化学物质实际上会增加男性体内的雌激素。我不知道，但我确实知道它会增加流产。所以我只是认为它总体上会破坏人类。肯定是对内分泌系统的社会范围内的破坏。在短时间内似乎只是糟糕且难以理解。污染物和环境毒素，再加上杀虫剂、除草剂以及所有其他东西和微塑料。有很多因素导致我们的系统无法正常工作。但我真的想知道，我们是否只是在 clinging on to this monkey body？我们是在决定我喜欢我的猴子身体吗？我也喜欢。我爱它。但我也……我尽量保持客观。当我客观地看待它时，就好像……如果你看看我们现在的位置和我们所有的问题，然后展望未来，以及……你会如何减轻其中很多问题？嗯，那就是实施某种心灵感应技术。你知道，你不能只是给某人发短信或发推文说一些刻薄的话，因为当你发出那种能量时，你真的会感受到他们感受到的东西，你会感到厌恶。是的，然后暴力就会……如果你对某人施加暴力，并且你真的感受到了那种暴力的反应，你也不会有任何暴力动机。如果我们没有攻击性倾向，没有原始的黑猩猩倾向……你知道，世界上的暴力在过去几十年里显然大大减少了，但情感暴力却大大增加了。互联网对此非常糟糕。我不会走过去打你，因为你看起来像个大块头，你会打我回来。而且也有社会习俗不允许这样做。但如果我不认识你，我可能会发一条关于你的刻薄推文，而我对此毫无感觉。是的，显然这已经成为社会上的一个超级流行病，我们 somehow 没有进化出生物学上的限制。是的，是的。而且我实际上非常担心它已经让我们不稳定了多少，让我们都痛苦不堪。它肯定加剧了它。它加剧了我们所有的问题。我的意思是，如果你读过乔纳森·海斯的《美国心灵的 कोड》这本书，你读过吗？一本很棒的书。是的，这是一本很棒的书。而且它对女性，特别是年轻女孩，尤其是有害。年轻女孩的成长与社交媒体的发明、iPhone 的引入、自残、自杀、网络欺凌之间存在直接相关性。你知道，人们总是……在没人看到的时候说别人的坏话。现在他们公开这样做是为了伤害别人。太糟糕了。显然，我认为这对男性也极具破坏性。也许他们只是谈论得更少。但我不认为我们任何人都能适应这个。不，没有人能适应。你知道，我认为名人比任何人都更了解这一点。我们都习惯了。是的，你只是麻木了。或者，如果你明智，你就不要参与。我也不参与。我甚至在新手机上没有安装任何应用程序。是的，我决定了。我买了一部新手机，我决定，好吧，没有什么真正智能的。没有推特。所以我有一部单独的手机，如果我必须发布什么东西，我会拿起它。但我新手机上只有短信。这是为了保持你的思想纯洁和未受污染吗？是的。而且不会……诱惑我。以及我每天早上起床去洗手间多少次，然后花一个小时坐在马桶上滚动 Instagram，毫无意义。对我来说毫无用处。而且有一种想法，我将从中获得一些东西。我昨天实际上在想，你知道，我们一直在谈论这些算法推送会以这些巨大的方式操纵我们，而且会发生。但即使是那些小方式，比如滚动 Instagram 甚至不是那么令人满足。你完成那个小时后，你会想，我知道那是在浪费我的时间。但它已经超过了那个阈值，你无法……很难放下手机，对吧？你只是希望下一个会很有趣。而且偶尔……问题是，我点击的每一个……第 30 个或第 40 个卷轴都非常棒。顺便问一下，这是否比每个人都精彩更强大？当然。你知道，这就像淘金一样。你不是随便去采摘雏菊。如果算法故意在你身上喂食一些……嗯，不幸的是，外面有很多……但这一切都只是……就我而言，我当时在和肖恩·阿里谈话，他是一名 UFC 格斗选手，他显然有一个非常强大的头脑，一个非常有趣的人。但肖恩说的一件事是，我感到一种低级的焦虑，来自滚动东西。我不知道为什么。那是什么？我认为这是……逻辑思维意识到这是对你资源的巨大浪费。我也删除了手机上的一些东西，因为我只是没有自控力。我的意思是，我有自控力把它删除，但一旦我开始滚动就无法停止。所以，我认为我们只是……是的，我们正在被注意力劫持。有些方面是好的，但我们还没有准备好……工具、社会规范等等来很好地调节它。是的，我们还没有为它做好准备。完全是新技术，再次劫持我们的人类奖励系统，并劫持所有已有的沟通检查和平衡。历史上，沟通一直是一对一的。历史上，沟通一直是一个人对另一个人。当人们互相写信时，通常是……如果有人喜欢情书，或者你想念他们，他们会写下一些可能难以当面表达的东西。而且通常情况下，除非那个人是疯子，否则他们不会写仇恨信。而能够轻易地……那个家伙，我希望他被公共汽车撞死。这太简单、太容易了。而且你不会体验到……推特似乎尤其糟糕，因为它的运作机制……它确实以一种没有人完全理解的方式奖励……它触及了人类心理的某些东西。是的，但这就是你如何获得参与度，这就是你如何获得关注者，这就是你如何获得……你知道，多巴胺的刺激或其他什么。而我认识的那些整天在推特上的人，他们对它的不满多于满意。哦，是的，他们是最不快乐的。我的意思是，我关注的很多人，我只关注他们是因为他们很疯狂。然后我去看他们，看看他们在推特上说什么。有些人一天在那里待 8 到 10 个小时。我整天都会看到推文。我知道那个人不可能快乐。他们不快乐，而且他们停不下来。你停不下来。这似乎是他们的生活。这是……他们从中获得意义，就参与而言。你知道，短期意义。我认为也许每天你睡觉时都觉得你完成了一些事情，得到了你的份额。而每个十年的结束，你可能会想，那个十年去哪儿了？我正在和一个有这个问题的我的朋友聊天。他说他真的走在街上，他不得不检查手机，看看谁在回复。他甚至没有看他走路的地方，他只是被这些交流的焦虑所困扰。而且不是因为人们说的那些好话。不，不，不，不。都是……而他认识到，你知道，他在嘲笑别人，然后看到回应。是的，我很久以前就停止这样做了。我停止在推特上以负面的方式与人互动。我只是不会这样做。即使我不同意某人，我也会尽可能和平地说出来。我比我愿意承认的更像一个网络巨魔。所以我尽量不给自己太多诱惑，但我有时会犯错。是的，太诱人了。完全是。只是说一些糟糕的话很有趣。我的意思是，再次，我们之前谈到的这个生物系统，它会得到积极的回报。嗯，有一个反应。你知道，有反应。你说一些令人震惊的话，有人会做出反应。那个反应就像能量。而且有所有其他人与你的想法互动。但最终，对大多数人来说，这只是没有成效的。而且在心理上，它充满了危险。有太多事情在发生。我认识的任何整天参与其中的人都不快乐。当然不是。我不……我认为我已经看到了……“摧毁”这个词太强了，但就像……让那些优秀、聪明、有良知的人的事业、生活、幸福或人际关系偏离轨道，他们只是……无法对抗这个恶魔，因为它……它劫持了他们。科罗拉德州尤其如此，因为人们孤立无援，这使得情况更糟，因为他们感觉……他们感觉说刻薄的话更好。如果我不开心，我会说更糟糕的话。然后还有心理方面……被社会孤立和对这种看不见的疾病的恐惧，这种疾病会杀死我们所有人。你知道，所以你有这个……然后你会在推特上与人互动，然后你就会陷入那种焦虑之中，而且你整天都在这样做。我认识不少人，尤其是喜剧演员，他们真的疯了，失去了同行的尊重。我同情那些在科罗拉德州疯了的人，因为那对我们所有人来说是多么不自然的事情。而且孤立是残酷的。但很多人确实如此。而且我认为互联网，特别是像推特这样的社交动态，我认为它并没有激发任何人最好的一面。不。我的意思是，有些人，我认为，如果他们……他们不愿意对别人刻薄。我认为有些人确实寻求安慰，并且以积极的方式与人互动。我看到了很多积极的。我认为问题在于，负面互动的影响要大得多。是的。我看了，我认为有很多人使用这些系统来做很棒的事情。我无意暗示事实并非如此。但那不是人们在一天结束时离开平台时驱动他们情绪的东西。对，对。而且，如果你看看推特上的互动量，我估计很多都是……在嘲笑别人，对事情生气。你认识的那些每天八到十小时使用推特的人中，有多少人只是整天对别人说美好的话，而不是那些恶毒的……非常少。是的，非常少。我一个都不认识。我认识，但同样，我想知道，随着某种新技术的实施，它使沟通与我们现在所做的不同。沟通比一对一的交流更具沉浸感。你和我正在交谈，我们正在看着对方的眼睛，我们正在获得社交线索，我们正在对彼此微笑，我们正在笑。这是一种非常自然的交谈方式。我想知道，通过技术实施，它是否会变得比一对一的对话更具沉浸感，更具互动性？你会更了解一个人对你所说的话的感受。是的，关于那个人的记忆，那个人的生活，那个人的历史，他们的教育，它是如何从他们的大脑中出来的，他们的大脑如何与你的大脑互动，你看到他们，你真的看到他们。我想知道那是否……我想知道我们现在所经历的，就像人们第一次发明枪一样，他们只是开始射击东西。你知道，是的。如果你能感受到我说一些刻薄的话或好话时我的感受，对吧？那显然会改变你决定说什么。是的。是的。除非你是个疯子。除非你是个疯子。那么是什么导致一个人成为疯子，能否通过工程技术消除它？想象一下，我们正在谈论我们正在处理人类大脑的问题。我们正在处理非常……各种疾病，躁郁症，精神分裂症。想象一个世界，我们可以找到这些事情的根本原因，并通过编码和某种技术实施，提高多巴胺和血清素，并对人们做一些事情，消除所有这些问题，并允许人们以非常纯粹的方式交流。听起来很棒。听起来很棒。但你不会有任何摇滚乐。站立喜剧将消亡。你不会有任何暴力电影。你知道，有很多东西将消失。但也许这也是我们进化到下一个存在阶段的一部分。也许……我感到非常困惑。嗯，我认为你应该感到困惑。我的意思是，说实话，我们将会发现。是的。我的意思是，说实话，这是疯狂的。但我甚至没有……除了相信。我的意思是，你只是……从……你什么时候开始这个项目的？开放人工智能？大约在 2015 年底、2016 年初。当你最初开始这个项目时，你设想的时间表是怎样的？它是否一直在这个时间表上，还是完全失控了？我记得早期和我们的联合创始人之一约翰·舒尔曼谈过，他说，是的，我认为这将是一个大约 15 年的项目。我说，是的，对我来说听起来差不多。我一直认为，从那时起，我不再将 AGI 视为终点，而是要达到我们完成我们设定的目标。你知道，这将需要我们到 2030 年、2031 年。这对我来说一直是一个合理的估计，尽管误差很大。而且我认为我们正朝着这个轨迹前进，我本来会假设的。你认为它对社会的影响会是怎样的？当你开始做这件事时，你说，好吧，如果我们成功了，我们确实创造了一些高度先进的 AGI，那么实施是什么？它对社会的影响是什么？你是否坐下来画了一张图表，一边是优点，一边是缺点？你只是抽象地考虑了一下吗？嗯，我们肯定谈了很多缺点。你知道，我们中的许多人非常担心，而且仍然担心安全和对齐问题。如果我们构建了这些系统，我们都能看到一个美好的未来，这很容易想象。但如果出了什么问题，那将是真的很糟糕。所以有很多关于……而且这确实是这个基金会精神的重要组成部分，那就是我们如何解决这个安全问题？这到底意味着什么？我们相信的一件事是，世界上最聪明的人无法坐在那里解决这个问题。你必须……与现实接触。你必须看到技术的发展方向。实践比理论的发挥方式更奇怪。这对我们来说确实如此。但我们有一个长长的清单……嗯，我不知道我们是否有长长的缺点清单，但我们有一个非常强烈的缺点清单。因为你知道，有过去几十年的科幻小说告诉你事情会如何出错，以及为什么它应该……现在就射杀我。是的。而且我敢肯定你见过……约翰·康纳的 ChatGPT。我还没有。那是什么？就像……你知道，终结者里的约翰·康纳，当你打开 ChatGPT 时，那个孩子看着你。是的，那些东西我们非常清楚。现在我认为我们明白还有很多工作要做，但我们更了解如何让 AI 安全。AI 安全被过度解读了。你知道，它的意思是不要说人们觉得冒犯的话，还是它的意思是不要毁灭全人类，还是一个连续体？我认为这个词被过度解读了。但就……不毁灭全人类的版本而言，我们还有很多工作要做。但我认为我们终于有了更多关于什么可以奏效的想法。而且鉴于系统的发展方向，我们有比我最初认为技术会朝着那个方向发展的方向所预期的更多的机会来解决它。所以这很好。从积极的一面来看，我当时最兴奋的，现在仍然最兴奋的是，如果这个系统能够极大地提高社会科学知识的增长速度呢？我认为，所有真正的可持续经济增长，未来变得更好，某种意义上的进步，都来自于科学和技术能力的提高。所以我们可以解决所有问题。如果 AI 能帮助我们做到这一点，那一直是我最兴奋的事情。嗯，这无疑是 AI 最伟大的潜力，最伟大的积极潜力。那就是解决人类一直以来面临的许多问题，许多社会问题，似乎……我的意思是，这就是我为什么说人工智能总统，我不是在开玩笑，因为我觉得如果有什么东西是超智能的，并且了解所有变量，没有人类偏见，没有动机，除了你的程序，美国社区的更大福祉，以及该社区与世界其他社区互动时的更大福祉，消灭这些独裁者，无论是民选的还是非民选的，他们将自己的意志强加于人民，因为他们有既得利益来保护特殊利益集团和行业。我认为……我认为只要……你说的这句话让我害怕的是，它感觉就像人类失控了。我本能地不喜欢这样。但如果它……如果它……而是人类集体意志的表达，没有误译和腐败的影响。是的，那么我就可以理解了。这是可能的吗？似乎是可能的。似乎如果它在这方面被编程，为了人类的更大福祉，并考虑到人类的价值观，人类的需求。短语“为了人类的更大福祉”听起来非常奥威尔式。所有这一切都是，但人工智能也是如此。当然，当然。打开门，房子。我希望……我希望我能从事……一些道德上不那么棘手的事情。但你……因为这真的很令人兴奋。我……我无法想象，我无法想象还有什么比这更酷的事情。我感到难以置信。我感觉自己是地球上最幸运的人。但……它不是……让我们说，它不是在简单模式下。这不是简单的生活。不，不，不。我的意思是，你正处于人类历史上最壮观的变化的前沿。而且我会说……比互联网的实施更壮观。我认为互联网的实施是这个的第一个婴儿步骤。而人工智能……是的，它是互联网的超级增强版。它是……互联网在……超空间。我想说的是，这是下一步，之后还会有更多步骤。但这是我们迄今为止最激动人心的一步。是的。我一直在想，那些下一步是什么？难道不令人兴奋吗？非常令人兴奋。我认为我们是最后的人。我真的这么认为。我认为我们是所有生物学问题中的最后一个生物。我认为……你对此感到兴奋吗？我只是觉得这就是事实。你只是接受它。就是这样。我的意思是，我认为你现在无法控制它，除非发生一场巨大的自然灾害，将我们带回石器时代，这也是我们应该非常关注的事情。因为似乎这种情况经常发生。我们没有意识到，因为人类身体的时间线太短了。你知道，一个人的生命时间线是 100 年，如果你幸运的话。但是地球的时间线是数十亿年。而且如果你看看地球生命有多少次被撞击地球的彗星重置，并完全消除了所有技术进步。似乎在有记载的历史中发生过很多次。是的，我一直认为我们对此考虑得不够。我们之前谈到了模拟假说。最近在科技行业又出现了这种复苏。其中一个新观点是，随着我们越来越接近 AGI，如果我们的祖先模拟我们，他们会一次又一次地模拟，直到……直到创造 AGI。是的。所以，我们正经历的这个时代似乎非常疯狂，但这并非巧合。你知道，这是在我们有了足够多的手机在全球范围内记录大量视频来训练世界的视频模型之后。所有这些现在都通过脑植入物或其他方式……连接到我们。而且是在一切都变得非常疯狂之前，与 AGI 一起。而且这也是一个有趣的模拟时间，比如，我们能度过吗？小行星在我们到达之前就来了，为了戏剧性的张力？我们能找到让它安全的方法吗？我们能找到社会同意的方法吗？所以这导致了比以前更多的人相信它。是的，当然。而且我认为这只是它的发展方向。我的意思是，我不知道这是好事还是坏事。这只是一个事实。但现在生活肯定更好。我不想生活在 19 世纪，坐着马车穿越国家。是的，我们正经历着历史上最激动人心的时代。这是最好的。这是最好的。但它也有最多的问题。最多的社会问题。最多的社会、环境、基础设施意识。我们遇到的问题……我们去解决它们。是的。嗯，我直觉上认为，我感觉到的和你有些不同。那就是，我认为人类以某种接近这种形式的存在时间会比……我并不认为我们是最后的人类。你认为我们还有多久？嗯，比我能真正理解的时间框架还要长。也许……我完全可以想象一个世界，有些人决定合并并与 AI 一起探索宇宙。而且宇宙很大。但……我真的能想象一个世界，除非发生自然灾害，否则地球上不会有与今天的人类非常相似的人类，做着人类的事情。而人类精神融入到那些在宇宙中做他们事情的其他事物中。我真的很难想象这种情况发生。也许这意味着我……会变成恐龙，而且非常错误。在这个预测中。但我会说，随着我们在 AI 方面取得进展，我越来越觉得如此，而不是越来越少。是的，我一点也不觉得。我觉得我们几年内就完了。不，几十年，也许一两代人。这可能是一个渐进的变化，就像穿衣服一样。你知道，我不认为每个人都穿衣服，然后他们发明了衣服。我认为这可能需要一段时间。当有人发明了鞋子，我认为这可能需要一段时间。当他们发明了……结构、门、房子、城市、农业。所有这些东西都随着时间的推移被缓慢地实施。然后现在无处不在。而且我认为这远比这更具变革性。而且它是其中的一部分，因为有些人没有选择合并的选项，就像有些人没有选择不拥有电话一样。你看，我以前有朋友……我甚至没有电子邮件。那些人已经不存在了。他们都有电子邮件。每个人都有手机，至少是翻盖手机。我知道有些人就是无法处理社交媒体和所有那些东西。他们换成了翻盖手机。为他们好。我不知道这是不是真的，我听说你不能……再走进 AT&T 商店还能买到翻盖手机。我听说这刚刚改变了。你能……真的吗？有人告诉我这个，但我不知道是不是真的。Verizon 仍然有。我刚去过。他们仍然有翻盖手机。我说，我喜欢它。我喜欢这个……这个小东西，你只是打电话。我一直梦想着去那里。但我的下一步是换成一个没有任何东西，只有短信的手机。这已经几天了，感觉还不错。是的，很好。你知道，我仍然有我的另一部手机，我用它来社交媒体。但当我拿起那个……我开始滚动 YouTube，看视频，滚动 TikTok，或者…… Instagram。我没有 TikTok，但我……我尝试了 Threads 一段时间，但我想，哦，这个……鬼城。所以我又回到了 X。我周末住在牧场，房子里有 Wi-Fi，但其他地方都没有手机信号。而且每周我都会忘记，没有手机信号的散步有多么好，多么不同。这对你的思想有好处。对一些人来说，这真是令人难以置信。而且我认为我们……太快地失去了一些东西。嗯。就像服务中断一样，现在飞机上都不会发生了。你知道，就像……但我们……你的手机就是不能响。没有短信，什么都没有。我认为这是一种非常健康的做法。我曾经在赖伊的时候摔过我的手机。我想那是我最后一次摔手机。手机就像……我们完了。它只是随机给人们打电话。它会给人们打电话。我挂断了，又打给另一个人。我挂断了。我给我的妻子看，我说，看看这个，这太疯狂了。它只是在给人们打电话。所以手机坏了。所以我不得不订购一部手机。我们在度假八天。苹果花了三天时间才给我一部手机。我敢打赌你度过了美好的三天。太棒了。太棒了，因为当我与家人在一起时，我完全投入其中。没有选择。而且我没有想过要检查我的手机，因为我没有手机。我没有手机。而且这减轻了……再次，肖恩所说的，那种低级的焦虑，那种……你总想检查手机的那种感觉。我认为那东西太糟糕了。我们还没有弄清楚……技术发展太快了，生物学发展非常缓慢。我们还没有弄清楚我们如何在社会中运作，并获得那些偶尔的……你知道，你的手机坏了三天。或者你出去散步没有信号。但就像……我非常觉得我的手机在控制我，而不是我控制它。嗯。我讨厌它。但我还没想出该怎么办。嗯，这就是我担心未来技术的原因。这真是出乎意料。如果你想象一个世界，在 1984 年，你走向一个人，指着一部手机说，有一天它会在你的口袋里。它会毁了你的生活。什么？什么？有一天人们会对着那个东西自慰。你说什么？有一天人们会在 Instagram 上看人们被谋杀。我过去几个月在 Instagram 上看过太多谋杀了。真的吗？我从来没见过。我这是个糟糕的时间线。我和我的朋友汤姆·塞拉每天早上都会互相发短信，分享我们在 Instagram 上找到的最糟糕的东西。为什么？为了好玩。他是个喜剧演员。我们都是喜剧演员。那对你来说很有趣吗？是的。这太……太荒谬了。我的意思是，我的意思是，只是疯狂的车祸，人们被公牛顶伤，以及……就像，我们每天都在互相比赛。每天他都给我发……每天我醒来，然后说，汤姆，你有什么？你能给我发最……你能解释一下这有什么好玩的吗？嗯，他是个喜剧演员，我也是个喜剧演员。喜剧演员喜欢混乱。我们喜欢荒谬的、离谱的……东西，它远远超出了你日常经历的正常范围。还有对人类行为的广泛谱系的理解。如果你是个好人，并且你身边都是好人，你很少看到有人被枪击。你很少看到有人无缘无故地在街上被捅伤。但在 Instagram 上，你每天都会看到。而且其中有一些东西，它只是提醒你，哦，我们疯了。就像……人类物种。我们中的一部分人就是……失控了，就在外面制造混乱，跳越越野摩托车，然后摔断你的脖子，还有……所有那些东西都在外面。即使听到这些也让我……身体上……
就像我知道这会发生，当然，而且我知道，就像不看它并不会让它不发生一样，对吧？但看着它让我感到非常不舒服和不开心。哦，是的，它也让我感到不舒服，但我们每天都这样对待彼此，而且这不好，绝对不好。但我也不会停止，这很有趣，但为什么有趣？有趣是因为那是我的朋友汤姆，我们在这方面都有点相似。我们只是看看那个，看看这个，看看那个，看看这个，这只是几个月前我们开始做的一件事，就是停不下来。Instagram 就像学会了你这样做，所以它就一直给你展示越来越多。Instagram 知道我的搜索页面一团糟，当我转到发现页面时，哦，这太疯狂了。但问题是，它也会出现在你的动态中。这就是我对算法的理解，它知道你很糟糕，所以它会在你的动态中显示这些东西，即使不是我关注的人，Instagram 也会把它们展示给我。几天前我听到了一个关于 Instagram 和动态的有趣事情，那就是如果你在非高峰时段使用它，当他们有更多的处理能力可用时，因为使用的人更少，你会得到更好的推荐，所以你的动态在深夜会更好。但更好的是什么呢？难道你的动态不会让你更上瘾，或者别的什么吗？所以对我来说，更好就是更多的谋杀，更多的动物袭击。听起来很糟糕，很糟糕，但它似乎知道我喜欢什么，它似乎知道我与之互动的是什么，所以它大部分时间都在给我发送那个。是的，那可能有很多疯狂的心理影响，我敢肯定。是的，我敢肯定这也是我想摆脱它并远离它的原因之一。是的，所以也许，也许它走得太远了，我甚至不知道它是否走得太远了，但它所做的就是向我展示社会、文明、人类行为的黑暗区域。但你认为我们将要编辑掉所有这些吗？我想知道那是否是一个解决方案，我真的这么想，因为我不认为这超出了可能性的范围，如果我们真的能够设计出，就像其中一个关于 Neuralink 的谈话，那真的很有希望，那就是脊髓有问题的人，受伤的人，那些无法移动身体的人，能够通过热线连接，基本上控制你身体上所有你无法再控制的部分，所以这对受伤的人来说将是一件很棒的事，对那些你知道的瘫痪的人，有各种各样神经系统疾病的人来说，这可能是最早的，这也是埃隆谈过的，最早的应用之一，就是恢复视力，你知道，增强认知功能，对于有大脑问题的人来说，这真是太令人兴奋了。是的，就像许多其他技术一样，我认为我们无法阻止神经接口，也不是因为会发生伟大的好事，但我也不认为我们知道它会走向何方。这绝对是潘多拉的盒子，我认为当我们打开它时，我们就不会回头了，就像我们不会回到没有电脑的时代一样，顺便说一句，没有一些自然灾害，我的意思是，这是个很大的赞美，你是我听过的关于合并即将到来的人中最中立的人之一，你就像，是的，我认为它会发生，你知道，它会在这些方面是好的，在那些方面是坏的，但你似乎对此难以置信地中立，这总是我钦佩的东西。我尽量对一切都保持中立，除了腐败，我认为这就像我们文化治理方式上最巨大的问题之一。我认为腐败和金钱的影响只是一个巨大而可怕的问题。但就社会问题而言，就人类如何看待和思考事物而言，我尽量保持中立，因为我认为真正理解别人如何看待事物的唯一方法就是尝试通过他们的思想去看待它。如果你有这种固有的偏见，这种非常僵化的好坏对错观念，我认为这对理解人们为什么不同帮助不大。所以当我审视任何事情时，我都会尽量保持中立和客观。这是一项我学到的技能，而不是我在 2009 年开始播客时就拥有的东西。这个播客我只是和朋友们随便聊聊，我完全不知道它是什么，我的意思是，我不可能知道，但我也完全不知道它会对我在人类的进化方面对我产生什么影响。我变得更加友善，对事物更加了解，对别人如何思考和感受更加有意识。我与 2009 年的我完全不同，很难认出，很难相信。这真的很酷，但这只是我接受的这次意外教育的必然结果。同理心是线性增长的吗？是的，它不是，它只是出现了，它出现了，首先是认识到我在社交媒体上进行的负面互动对我没有帮助，对那个人也没有帮助。然后对那个糟糕的人或做了愚蠢事情的人感到同情，就像只是嘲笑别人不好，除了给你一些社会信用和获得很多喜欢之外，没有其他好处。它没有让我感觉良好，就像那样不好。然后还有很多迷幻药，从 2009 年开始就有很多迷幻药体验。并且对影响有了更深的理解，就像我最近有一次，当我最近有一次时，我得到的压倒性的信息是，我所说所做的一切都会影响到我互动的所有人。然后，如果我不是以至少是整体的善或整体的理解为目标去做某事，那么我就是在做坏事，而那个坏事是真实存在的，就像你试图忽略它一样，因为你不会立即与之互动，而你仍然在制造不必要的消极情绪，而我应该尽可能避免。这就像一次压倒性的信息，这次迷幻药体验给了我。我接受了，因为那天我特别焦虑，对世界的状况，特别是对乌克兰和俄罗斯，中国，以及我们这个国家的政治体制，以及左右派之间极其两极化的互动方式感到焦虑。天哪，它似乎如此痛苦，所以有些日子我就是想得太多了，我就是想，我需要一些东西来让我摆脱这种状态。所以我服用了这些迷幻药。你对迷幻药治疗没有取得你认为在 2010 年初到现在的进展感到惊讶吗？你对它在合法化为医疗成就的道路上没有取得更大进展感到惊讶吗？不，不，我并不惊讶，因为有很多人不希望它被实施，而这些人对我们的医疗系统和监管系统拥有巨大的权力。而且这些人也没有经历过这些迷幻药。很少有人经历过深刻的迷幻药体验，却不认为它们总体上有好处。所以问题是，你正在让那些对这些事情的积极影响完全无知的人来制定法律和规则。如果你知道这个国家迷幻药禁令的历史，它都发生在 1970 年，实际上是为了阻止民权运动，实际上是为了阻止反战运动。他们试图找到一种方法来阻止所有这些人正在做的事情，让他们以非常不同的方式思考，调谐，开启，退出。他们只是想让这一切停止。有什么更好的方法来锁住所有参与其中的人，把生产它们的人锁在笼子里，把他们终身监禁，确保它是非法的，逮捕人们，把他们放在电视上，确保人们知道。而且你还把它与对社会有害的危险药物联系起来，芬太尼危机，你知道我们 90 年代经历的可卡因危机。所有这些事情都笼罩在药物的阴影下。迷幻药也被称为药物，即使它们能带来深刻的精神和心理变化。我记得我上小学时，在药物教育课上，他们说你知道大麻很糟糕，因为它会导向其他东西，还有这个糟糕的东西，那个糟糕的东西，海洛因，无论什么，而最糟糕的东西是 LSD。你服用 LSD 后会想，哦，他们骗我。迷幻药治疗绝对是我生命中最重要的事物之一，我假设，考虑到它对我来说是多么强大，我你知道，我曾与各种焦虑和其他负面事物作斗争，看着这一切消失，就像我去了另一个国家旅行了一周，做了一些事情，回来后完全变了一个人，我当时想，我一生都被骗了。是的，我很感激这一切发生在我身上。我与许多人交谈过，他们都有类似的经历。我假设这已经有一段时间了，我假设是这样，我当时非常关注美国正在发生的事情，我当时特别关注 MDMA 和赛洛西宾的进展，我想，好吧，这将会通过，这将会以一种非常积极的方式改变很多人的心理健康。我确实对我们没有取得更快的进展感到惊讶，但我仍然乐观地认为我们会。嗯，与 1990 年代相比，我们已经取得了巨大的进步。在 1990 年代，你从未听说过迷幻药静修，你从未听说过人们度假，你从未听说过人们聚在一起做这些事情，回来后有深刻的经历，他们会告诉别人，并且真的看到人们改变，看到他们是谁改变，看到人们变得不那么自私，不那么有毒，不那么刻薄，你知道，你变得更加富有同情心，更加理解。是的，我只能从个人经历来谈论它，它彻底改变了我的生活，再次与不同的人进行所有这些对话，我感到非常幸运能够做到这一点，我与如此多不同的人进行了如此多的对话，他们想法如此不同，以及如此多杰出的人，他们取得了如此多令人难以置信的成就，你可以理解他们的大脑是如何工作的，他们如何看待世界，他们如何与事物互动。这太棒了，这是作为人类最酷的事情之一，你可以找到一种方法来减轻“猴子身体”的所有负面影响，并且有现成的工具。但不幸的是，在这个非常禁止的社会，这个禁止的社会，我们被剥夺了这些，而且我们被剥夺了那些从未杀过任何人的人，这真的很奇怪，当你知道奥斯卡仍然可以被开处方时。到底是怎么回事？为什么我们不能让这些改变人们生活的药物更容易获得？到底是怎么回事？为什么我们不能阻止阿片类药物危机，或者看起来就像旧金山难以置信的危机？你还记得对话的开头，你说人工智能将总体上做很多好事，但也不会造成任何伤害。如果我们让所有毒品合法化，那会怎么样？你会主张让所有毒品合法化吗？这是一个非常复杂的问题，因为我认为你会让很多瘾君子不再是瘾君子。你会让很多人的生活被摧毁，因为它是合法的。有很多人可能在心理上无法处理事情，也许他们已经有了，这就是迷幻药的事情，他们从不推荐给那些对现实的掌握已经很糟糕的人，当然是那些正在挣扎的人，那些已经服用大量药物来维持正常世界稳定状态的人。如果你只是给他们施用赛洛西宾，谁知道会产生什么样的影响，以及他们是否在心理上太脆弱而无法恢复。我的意思是，有很多关于人们服用过量酸而再也没有回来的故事。是的，是的，这些是强大的，似乎不足以涵盖它，对吧？是的，但也有，人类身上有什么东西一直在寻找扰乱他们正常的意识状态？无论是我们都在喝咖啡，你知道，人们抽烟，他们做所有的事情，他们服用阿德拉，他们做各种各样的事情来改变和增强他们正常的意识状态。似乎无论是冥想还是瑜伽，他们总是在做一些事情来试图摆脱自己的方式，或者进入自己的方式，或者分散自己对存在痛苦的注意力。这似乎是人类的正常部分，甚至猴子，绿猴子也对酒精上瘾，它们对发酵水果和酒精上瘾，它们变成醉汉和酒鬼。这只是，这是什么？你认为深层教训是什么？嗯，我们不快乐，确切地说，你知道，然后有些东西可以让你快乐，就像喝几杯酒可以让你快乐一会儿，直到你变成酒鬼，直到你毁了你的肝脏，直到你撞车，直到你你知道，你卷入某种暴力事件，如果你没喝醉，你永远不会卷入其中。我喜欢咖啡因，这显然是一种药物，酒精，我喜欢，但我也经常想，是的，这就像，是的，你知道，这就像在伤害我，我希望我没喝这杯酒。然后其他，我大部分时间都选择避免，但那是因为你很聪明，而且你可能知道利弊，而且你也可能知道它如何影响你，以及它对你有什么好处，以及对你有什么坏处。但这是一个你可以作为知情人类做出的决定，如果一切都是非法的，你就不能做出这个决定。是的，是的。而且，当事情是非法的时候，罪犯会出售这些东西，因为你并没有通过使其非法来抑制欲望，你只是让获取它的难度大大增加。我要说的是，如果芬太尼真的很好，我不想知道。显然是这样，显然是这样。是的，彼得·伯格参加了播客，他制作了 Netflix 的止痛药纪录片，关于 Sackler 家族的纪录片戏剧。这是一部很棒的作品，但他曾说过，他曾一次消遣性地服用过奥斯卡。他说，我的天哪，太棒了。他说，离我远点，感觉太好了。是的，这也是问题的一部分，是的，它会毁了你的生活，是的，它会抓住你，但它就是如此难以置信。但那种感觉，就像，莱尼·布鲁斯是如何描述的？我想他把海洛因描述为得到上帝的温暖拥抱。你知道，我认为它给你的感觉可能很壮观。我不知道合法化是否会解决问题，但我确实知道我们没有关注的另一个问题是贩毒集团的崛起，以及就在我们边境对面，你可以走过去的地方，有这些巨大的组织，他们赚取了多少钱，难以想象的钱，为了街头 Xanax，有人过量服用，以为他们得到的是 Xanax，结果却死于芬太尼。是的，他们用可卡因也这样做，当然，他们用所有东西都这样做。有太多东西含有芬太尼，而且它们被芬太尼切割，因为芬太尼便宜且极其有效。如果事情合法化，那就不会有问题了。所以，你最终会说，好吧，我们就这样吧。是的，我会这样说，但我也要采取一些严重的缓解措施，比如咨询、药物成瘾和 ibogaine 疗法，这是另一件非法的事情。有人刚告诉我这对他们有多么大的改变。我个人没有经历过，但 ibogaine 对我许多有服药问题的朋友来说，我有一个朋友，我的朋友 Ed Clay，他在墨西哥创办了一个 ibogaine 中心，因为他受了伤，他染上了药瘾，他戒不掉。ibogaine 疗法一次就完成了，一次就完成了，25 小时，超级不舒服的体验。它应该是一次可怕的经历，对吧？是的，它应该不是很有趣，不是你周末想和朋友一起做的事情。你做这件事是因为你很糟糕，你需要弄清楚如何摆脱这种糟糕的状态。我们想想这个国家在戒毒所上花了多少钱，复发率是多少？非常高。我的许多朋友都曾因药物和酒精滥用而接受过戒毒治疗，相当一部分人又回到了原点。它似乎并不那么有效。它似乎对那些真正跌入谷底并有强烈意志力的人有效，然后他们参与了一个计划，某种十二步计划或某种匿名戒毒计划，然后他们从其他人那里获得支持，他们最终建立了一个由其他行为组成的基金会，以及找到其他事情来关注他们大脑中允许他们上瘾的那个方面。现在它专注于运动、冥想、瑜伽，无论什么，那就是你的新瘾，而且是一种更有益、更有益的瘾。但身体成瘾的现实是，有缓解措施，比如有很多人服用赛洛西宾后完全戒掉了毒品，完全戒掉了香烟，完全戒掉了，因为他们意识到，哦，这就是这个，这就是我为什么这样做。是的，这就是为什么我对世界会更快地朝着接受的方向取得进展感到更加乐观。你听到这么多这样的故事。所以我会说，好吧，显然我们现有的许多心理健康治疗，充其量是无效的。显然我们的成瘾项目是无效的。如果我们有一个东西，在每一次科学研究或大多数科学研究中，我们都能看到它取得了令人难以置信的结果，它就会发生。是的，是的，我仍然对此感到兴奋，我仍然认为这将是一个具有变革性的积极发展，但它会改变政治，它会彻底改变我们对其他人类的看法，它会彻底改变我们对社会和文化的整体看法，它会彻底改变人们之间的互动方式，如果它被合法化，并且它正在缓慢地被合法化。想想大麻，你知道，它是“入门毒品”，大麻现在在多少个州是合法的娱乐用途？23 个，而且在更多州是合法的医疗用途。而且在加州很容易获得医疗执照。我是在 1996 年获得的。以前你只需要去某个地方说，我头痛，就这样。是的，我头痛，我经常疼痛，你知道，我做很多武术，我总是受伤，我需要一些药物，我不想吃止痛药。砰，你就有了一张合法的医用大麻处方。我以前不得不去恩格尔伍德才能拿到。我以前不得不去那个街区，去恩格尔伍德健康中心。我当时想，这太疯狂了，大麻现在算是合法了。然后在 2016 年，它在加州成为合法的娱乐用途，这改变了一切。我认识的很多人，都是右翼人士，他们服用食用大麻来睡觉。我当时想，这是因为现在它合法了，他们从不同的角度看待它。而且我认为那种药物，一种相当温和的迷幻药，也有增强作用。它使人们更加富有同情心，使人们更加友善和友好。它有点像一种增强暴力的药物的对立面，它根本不增强暴力，它只是像酒精一样，可卡因也一样。说一件事会让我非常不受欢迎，我讨厌大麻。它一点也不适合我。它对你做了什么让你不喜欢？它让我疲惫和迟钝很长时间。我认为还有生物学上的差异，对吧？就像有些人，我的妻子，她不喝酒，她一杯酒就能喝醉，但这是生物学上的，就像她有一些基因上的，我忘了它叫什么，关于胆红素，就像她身体无法很好地处理酒精，所以她是个便宜的约会对象。我只是想说，基因上我得到了使它成为一种令人不快的体验的突变。我所说的是，对我来说，情况恰恰相反。酒精一点也不 bother 我。我可以喝三四杯酒，20 分钟后我就清醒了，我的肝脏就像爆炸一样，它就直接通过了。我可以很快清醒。但我也需要它。我正在进行十月戒酒，整整一个月。我没有，昨晚有演出，很好，没问题。不喝酒似乎一点也不 bother 我。但我确实喜欢它，我喜欢一杯葡萄酒，这是一天结束时的一件好事。我喜欢它。说到这个和迷幻药，总的来说，你知道，许多文化都有某种形式的迷幻药在某人的生活中或成年礼中的位置。但据我所知，大多数都是在某种仪式下进行的。而且我确实担心，而且我认为这些东西非常强大，我担心它们只是被到处使用，一直使用。我希望我们作为一个社会，因为我认为即使进展缓慢，这也不会发生，找到一种方法来尊重它。是的，看看会怎样。同意。是的，我认为心境和环境非常重要，在做之前，做的时候，思考你正在做什么。就像我前几天晚上说的那样，当我有了这次迷幻药体验时，我就想，天哪，有时我就是想得太多了，关于这个世界，它太糟糕了。你还有孩子，你想知道，他们将在什么样的世界里长大？以及，而且那只是其中一天，我当时就是想，天哪，有这么多愤怒，有这么多这个那个。然后它就带走了我一整天。那天晚上我非常友好，非常快乐，我只想拥抱每个人。我真的明白了，我明白了，我的天哪，那不是在错误地思考它。你认为世界上的愤怒比以前高得多，还是我们只是，就像我们谈到的所有社交媒体的动态？我认为社交媒体的动态肯定加剧了某些人的愤怒，但我认为世界上的愤怒只是不平等、问题如此明显但未解决的挫折的一部分，以及人们遇到的所有问题。我的意思是，你看到的许多大规模暴力，大规模抢劫以及所有这些不同的事情都是由穷人所为，这并非巧合。你认为 AGI 会成为世界的均衡力量，还是会加剧不平等？我认为会，这取决于如何实施。我的担忧再次回到了我们之前谈到的，关于某种神经接口，它将提高你的生产能力，以至于你可以比其他人控制更多的资源，你将能够通过它来提升你的经济组合和你在世界上的影响力，你获得的权力数量。它会在其他人能够参与之前发生。因为我敢想象，从经济上来说，它就像早期的手机一样。你还记得电影《华尔街》里，他拿着那个巨大的砖头手机吗？就像看他，他在海滩上拿着手机，那太疯狂了，当时没有人有那种东西，它们非常稀有。我 1994 年搬到加州时就买了一个，我当时觉得我住在 [ __ ]。不，那是一部摩托罗拉 StarTAC，那是一部很酷的手机。我实际上在 1988 年的车里就有一部。我是最早拥有手机的人之一。我车里有一部，这很好，因为我的朋友 Bill Blumenreich，他经营着 Comedy Connection，他会打电话给我，因为他知道他能找到我，比如有人生病或摔倒了，我就可以得到一份演出，因为他能找到我。所以我当时在车里，他说，乔，你在做什么？今晚你有空位吗？我说，不，我空着。他说，太棒了。所以他给了我一些演出。我通过这部手机得到了一些演出，它基本上自己付钱了，但我买它只是因为它很酷，就像我可以开车经过街道给人们打电话，伙计，我正在开车，我正在给你打电话，这太疯狂了，能在开车时做到这一点。我的车顶上有一个小天线，一个小卷曲的天线。但现在每个人都有了。你知道，你可以去第三世界国家，你知道，小村庄里的人们有手机。这非常普遍，基本上到处都是。更多的人拥有手机而不是没有手机。手机比人多，这真是太疯狂了。而且我认为，最初的成本问题，它最初会非常昂贵，问题是富人将能够做到这一点，然后那些真正疯狂的人，他们会在头上钻孔，如果那些东西有效，也许第一代有问题，但第二代更好。总有一天，你必须进入游戏。总有一天，你必须卖掉你的股票，你知道，不要等太久，抓紧时间，一旦发生，我的担忧是，那些拥有它的人将比其他人拥有巨大的优势，拥有和没有拥有的人之间的差距将更大，而且会更加两极化。这是我改变了想法的事情。几年前，Open the Eyes 的有人对我说，你真的不能让一些人出现而没有计划，因为它可能是一种巨大的权力扭曲，我们将不得不就此进行某种社会讨论。是的，这似乎是真的，这似乎是。所以，特别是如果它像 AGI 一样有效，或者像，抱歉，ChatGPT 一样有效。ChatGPT 太棒了，当你输入信息时，你问它问题，它就能给你答案，你可以让它为你编写一个网站，它不会立即做到，而且它解决了你必须花几十年才能解决的问题，而且它立即就能解决。这是它最愚蠢的时候。是的，这很疯狂，这很疯狂。所以想象一下类似的东西，但更先进，多几个阶段的改进和创新，然后它直接与大脑接口，但它只与那些负担得起的人进行接口，而那些人只是普通人，所以他们没有被增强。我们还没有进化，我们还没有在生理上进化，我们仍然拥有所有人类的奖励系统，我们基本上仍然是这些领土性的灵长类动物，现在我们有了，你知道，你只需要想象一个 [ __ ] 精神错乱的亿万富翁，他现在得到了这个植入物，并决定完全劫持我们的金融系统，获取所有资源，制定只对他们有利的法规和影响，然后确保他们能够控制它。你认为这实际上需要一个物理植入物，或者一个物理合并，而不是仅仅有些人可以访问 GPT7 并花费大量资金用于推理计算，而有些人则不能？我认为那也会非常有变革性，但我的想法是，一旦，我的意思是，我们必须考虑神经增强的可能性。如果你想到人类的大脑，以及人类大脑如何与世界互动，你如何与语言、思想和事实互动，以及比那强大无数倍的东西，但它也允许你使用相同的情感，相同的自我，相同的欲望和驱动力，嫉妒、贪婪、仇恨、愤怒，所有这些负面但对我们生存和走到这一步很重要的事情。而且随着时间的推移，我们会找到一种方法来设计。
那些出来，并且像智能生命变得越来越智能，我们创造了一个比我们更智能的智能生命版本，或者比我们更有能力的版本。如果这种情况继续下去，如果它只是继续下去，我的意思是，想象一下，如果你去和莎士比亚谈话，回到苏格拉底那里，向他解释这一点，给他看一部手机，你知道，把它放在手机上，并且可以访问它，他会说，你们做了什么？这是什么？我敢打赌，他会对手机印象更深刻，而不是ChatGPT。我认为你会对他沟通的能力印象深刻，但信息的可访问性将是如此深刻。我的意思是，当时，我的意思是，看看，你正在处理一个伽利略因为有勇气说地球不是宇宙的中心而被软禁的时代。好吧，现在我们 [ __ ] 知道不是这样，我们有卫星，我们把真正的相机送入轨道拍照，不，我完全理解，我只是想说，我们有点知道和聪明人交谈是什么感觉。所以从这个意义上说，你就像，哦，好吧，我没想到你能像和一个人交谈一样，让他们像在某些回应中一样，有时是这样，但一部手机，伙计，如果你刚刚醒来，2000年后，有一部手机，你没有任何模型，而且你没有逐渐达到这一点，是的，没有，我的朋友埃迪·格里芬有一个关于这个的笑话，是关于亚历山大·格兰贝尔一定是在吸食可卡因，他说，因为只有吸食可卡因的人才会说，我想和不在场的人说话，这就是手机，可卡因会让人想做这件事吗？我不知道，我从来没有吸食过可卡因，但我可以想象，我的意思是，在我看来，它只是让人们变得愤怒和混乱，是的，有点，但他们也有想法，你知道，嗯，是的，我的意思是，回到这里，它会去哪里？如果它继续下去，它必须达到某种不可能的能力水平。我的意思是，想想我相信会发生什么，我们现在能够利用核能和核弹以及高超音速导弹，以及人类创造力和想象力所能实现的疯狂的物理事物，并通过工程和技术实现这些物理设备，这些设备与魔法无法区分，如果你在500年前带它们来，是的，我认为它相当非凡，所以继续，继续，10万年后，如果我们还在，如果我们像我们一样的东西还在，它能做什么？就像我没想到苏格拉底会预测到手机一样，我也无法预测，不，我可能完全错了，但也许这就是彗星存在的原因，也许这是一个很好的重置，就像留下几个，给他们一个遥远的记忆，曾经存在过的乌托邦世界，让他们经历数千年的野蛮和可怕的行为，然后重建社会。我的意思是，这是年轻的德尔塔撞击理论，大约在11800年前，在冰河时代末期，我们被多颗彗星撞击，导致北美冰盖瞬间融化，一切都被淹没，一切，洪水神话的来源，来自吉尔伽美什史诗和圣经以及所有这些，而且还有物理证据，当他们进行岩芯取样时，铱的含量很高，铱在太空中很常见，在地球上很少见，有微小的钻石，它们来自撞击，而且地球上有30%的证据，所以很可能这些支持这一理论的人是正确的，这就是为什么他们发现这些古老的建筑，现在他们的年代是11000到12000年前，当时他们认为人们是猎人采集者，他们说，好吧，也许我们的时间线真的错了，也许这种物理撞击证据，我一直在关注这一点，是的，兰德尔·卡尔森是值得关注的伟大人物，是的，他几乎把他的整个生命都献给了它，顺便说一句，这是因为一次迷幻体验，他曾经吸食过酸，他看着这个巨大的峡谷，他有一个愿景，它是由极地冰盖的瞬间侵蚀造成的，它只是将一股不可能的水流冲过空气，地球，它只是抓住了这些路径，现在似乎有实际的物理证据，这很可能就是发生的事情，你知道，我们只是幸存者，我们重新出现了，社会和人类文明偶尔会被推回到原始状态，是的，你知道，如果你的想法是正确的，这里发生的事情是我们编辑掉了我们不喜欢的所有冲动，我们到达的世界似乎有点无聊，所以也许那时我们必须创建一个新的模拟，让人们认为他们正在经历某种戏剧，或者别的什么，或者也许我们只是到达了这个点，我们拥有这种力量，但拥有者和没有者之间的鸿沟太大了，人们掌握了这项技术并用它来压迫那些没有这项技术的人，我们没有减轻人类的生物问题，我们的奖励系统，我必须拥有更多，你必须拥有更少，是的，这是我们对竞争的这种自然倾向，有人劫持了它，我认为这将是一个非常重要的问题，在第一个人按下那个按钮之前就解决它，你怎么看埃隆当时呼吁暂停AI，他一边这样做一边开始一家AGI公司，是的，他是在呼吁暂停之后才开始的吗？我认为是在之前，但我记不清了，无论如何，这是“你无法打败他们，加入他们”的类型吗？我认为，说“我们真的必须弄清楚如何让它变得安全和美好，并且广泛地好”的本能非常重要，但我认为呼吁暂停充其量是天真的，我有点，我有点认为，正如我们之前提到的，你不能在坐在房间里苦思冥想的情况下取得安全方面的进展，你必须看到技术的发展方向，你必须拥有现实的对照，然后当你喜欢，但我们正在努力取得AGI的进展，条件是它是安全的，并且是有益的，所以当我们遇到任何障碍时，我们会尝试找到技术或政策或社会解决方案来克服它，这可能是关于技术的局限性，有些东西不起作用，你知道，它会产生幻觉，或者它没有变得更聪明，或者别的什么，或者存在这种安全问题，我们必须重新分配我们的资源来解决它，但对我来说，这一切都是一样的，我们正在努力解决我们前进过程中出现的每一个问题，你知道，如果你想，你可以称之为暂停，如果你暂停能力来处理安全问题，但在实践中，我认为该领域有点偏离了方向，安全和能力不是这两件独立的事情，我认为这是该领域的肮脏秘密之一，我们有一种进步的方式，你知道，我们可以理解并推动深度学习，它可以以不同的方式使用，但我认为正是这种技术最终将帮助我们解决安全问题，尽管如此，作为一个人，从情感上来说，我非常理解为什么呼吁暂停很诱人，这在生活中经常发生，对吧？这太快了，我们得在这里暂停一下，是的，从国家安全的角度来看，我们是第一个发明这个东西的人，这有多大的担忧？嗯，我会说，如果我们的对手先发明了它并用它来对付我们，而我们没有某种能力，那感觉真的很糟糕，但我希望发生的是，这可以成为一个时刻，回到我们之前的谈话，我们团结起来，克服我们的基本冲动，说，让我们一起作为一个俱乐部来做这件事，那会更好，那会很好，也许通过AGI和这项技术的实施，它将使翻译瞬间轻松完成，嗯，这已经发生了，对吧？但我的意思是，它还没有实时发生，你可以准确地沟通的程度，很快，很快，很快，是的，我确实认为，就我而言，世界将团结在这里，我认为人们还没有完全意识到风险，但这就像，我认为这不是地缘政治，如果这归结为地缘政治斗争或竞赛，我认为没有赢家，所以我对人们团结起来感到乐观，我也是，我的意思是，我认为大多数人会喜欢这样，如果你问现在活着的大多数人类，如果每个人都相处融洽，那不是更好吗？你知道，也许你不能完全达到那个程度，说我们将只有一个全球性的努力，但至少我们可以达到一个点，我们有一个全球性的规则，安全标准组织，确保每个人都遵守规则，我们为原子武器做了这件事，生物学领域也有类似的事情，我认为我们会到达那里，这是一个很好的例子，核武器，因为我们知道它们的破坏性能力，因为这个原因，自1947年以来我们就没有引爆过它们，这真是令人难以置信，真是令人难以置信，除了测试，是的，我们没有在战争中使用过，45年还是47年？第二次世界大战结束是什么时候？不是47年他们投下炸弹吗？我认为是45年，我在想有没有之后我不知道的，不，可能是45年，我认为是，是的，45年，所以从1945年开始，这真是非凡，这真是令人难以置信，我不会预测到，我想如果我能瞬间回到45年，没有人会想到，哦我的天，这只是人们会做的事情，只是向城市投掷炸弹，是的，我的意思是，我会说，我们不会活太久，而且确实有这种恐惧，他们设法阻止了这种相互确保毁灭、自我毁灭、宇宙毁灭的威胁，我的意思是整个世界，我们有足够的武器可以使世界无法居住，完全无法居住，因为这个原因，我们没有这样做，我认为这是一个好迹象，我本来要说，我认为这应该带来一些希望，是的，应该，我的意思是，斯蒂芬·平克因为他的工作受到了很多 [ __ ]，因为他只是有点轻描淡写了今天的暴力，但不是他轻描淡写了今天的暴力，他只是在看统计趋势，如果你看看今天的生活现实与100年前、200年前的生活相比，它要安全得多，你为什么认为这是一件有争议的事情？为什么有人不能说，当然我们仍然有问题，但它正在变得更好，因为人们不想这么说，他们，特别是活动家，他们完全沉浸在这样的想法中，今天存在问题，这些问题非常巨大，有纳粹，但没有人说今天没有巨大的问题，对吧？没有人说没有，但仅仅说今天事情变得更好了，有些人，他们就是不想听，对吧？但那些人也沉迷于问题，问题变成了他们生活的全部，解决这些问题变成了他们的身份，参与解决方案或他们认为是解决方案的活动变成了他们毕生的工作，有人走过来，说实际上生活比以往任何时候都更安全，互动深刻，我能理解，这深深地被否定了，但也是真的，你知道，再说一遍，问题是什么？为什么人们不能认识到这一点？这是灵长类动物的大脑，我的意思是，这是我们之前强调的所有问题，而克服它的解决方案可能是通过技术，而这可能是我们唯一的途径，而无需经历漫长的进化过程，因为生物进化相对缓慢，与技术进化相比，而这可能是我们的瓶颈，我们仍然在处理这个灵长类动物的身体，而像通用人工智能这样的东西，或者像某种形式的参与，无论是Neuralink，还是某种改变思想与其他思想互动方式的东西，这不是疯狂的吗？说到生物进化，我想会有人，他们将亲眼见证晶体管的发明或发现，他们也将亲眼见证AGI的创造，一个人的一生，你想知道一个疯狂的例子吗？从莱特兄弟飞行飞机开始，不到50年，就有人从飞机上投下一枚原子弹，这太疯狂了，这太 [ __ ] 疯狂了，这太疯狂了，不到40年，这太疯狂了，简直是疯了，60多年才登陆月球，疯了，疯了，它将走向何方？我的意思是，这只是猜测，但肯定很有趣，我的意思是，这是我们这个时代最迷人的事情，它在智力上很迷人，而且我认为它也是这些事情之一，它将带来巨大的净收益，就像，你知道，我们一直在谈论世界上的问题，我认为这只是一个很好的提醒，我们还有多少可以改进，我们将能够改进很多，而且我认为这将是我们迄今为止创造的最强大的工具，来帮助我们做到这一点，我认为你是对的，这是一次很棒的谈话，谢谢你，谢谢你，谢谢你，保持联系，如果你创造了，我会给你打电话，让我们知道，好吧，谢谢，谢谢，再见，大家，[音乐]，[掌声]，[音乐]。