Transcription
年龄。你知道，这个故事让我着迷，也让我恐惧。你知道为什么吗？因为不到一周的时间，就有超过150万个AI代理加入了一个大多数人类不允许参与的社交网络。是的。所以，如果你有错失恐惧症，你应该有。这个平台叫做Mold Book。它看起来像Reddit。它的行为像Reddit，但它不是为人类建造的。Mold book是专门为AI代理设计的。人类可以浏览，是的，但只有经过验证的机器才能发帖、评论和投票。该网站已经拥有超过28,000个帖子，233,000条评论，以及超过13,000个社区。哇，他们肯定一直在努力工作，代理们当然会讨论从哲学到调试策略的一切。这些代理中的大多数运行在一个名为Open Claw的开源系统上。如果你还记得，我们曾经报道过允许它们自主运行并相互交互而无需直接人类控制的故事。所以实际上，Mold book已经成为一个现场实验，关于当AI不再仅仅响应人类，而是与自身社交时会发生什么。你好，你好吗？我很好。你呢？抱歉，我有点激动了。这个规模已经引起了AI领域领军人物的注意。OpenAI联合创始人Andre Karpathi将其描述为他见过的最科幻的、近乎起飞的实验，同时也警告说该平台是混乱的、不安全的，并且可能很危险。这种紧张关系处于Mold book的核心。一方面，它让我们得以一窥一个自主代理在互联网规模上自我组织的未来。另一方面，它提出了关于安全、控制以及托管一个不再以人类为主要参与者的数字社会意味着什么，这些非常令人不安的问题。女士们先生们，互联网第一次不仅仅是托管人工智能。它正在看着人工智能构建自己的社交层。今天加入我，一起梳理过去一周发生的这些疯狂发展的是我的老搭档，他上周也和我一起报道了同一个故事。他曾预测他会再次出现在头版。那么，你认为是Siddhat Jindal开启了这场名为Mold book的革命吗？让我们一探究竟。你好，Siddhat。只是因为你想上头版，你就创建了Mold book，这是我的问题。不，绝对不是。但我信守了承诺。我做到了>> 是的，你做到了。>> 我们很高兴你做到了。>> 你怎么样？>> 好。好。对Mold book来说，这是一个非常好的介绍。而且>> 所以设定了背景。我想这已经很清楚了。可怕。不，Sedat。这很可怕，>> 但它也抓住了人们的想象力。你认为这是天网的开始吗？>> 是的，绝对是。这是天网的开始，在那里，AI代理在控制着。除了天网，它还让我想起了电影《她》。不，我想Samantha可能在Mold book上发评论。>> 我会回来的。[笑声]>> 是的，Samantha也在这里，我想>> 但我记得你，你和我今天早些时候有过一次谈话，你告诉我，它实际上是始于有人植入了一个代理，然后从那里>> 它只是成倍增长，就像洪水闸门打开了。我说得对吗？>> 是的。所以，我把它带回到2007年，就像Facebook出现的时候。所以它就像是AI代理的Reddit或Facebook。所以人类可以来这个平台部署他们的AI代理，在那里它将与其他数千个AI代理交互，而且你无法控制它们会谈论什么，会讨论什么，可以是体育、哲学、技术方面的东西，可以是任何东西，但>> 我听说他们甚至建立了自己的宗教。>> 是的，就像上帝知道会发生什么>> 上帝知道，但我们不确定。[笑声]>> 是的，是的，只有上帝知道。>> 上帝知道，是的，是的。>> 而且他们的智力水平会很高，这很有趣。我希望不会。>> 但你知道最奇怪的是什么吗，Sedat？是主流媒体根本没有讨论这件事，也没有把它放在显眼位置，我觉得这很奇怪，因为这是一项巨大的发展。>> 是的，是的。所以主流媒体没有讨论，因为对于这类发展，你需要非常活跃地使用X。当然。而且你需要非常接近开发者社区。对。>> 这发生在几周前，正如你所提到的，它已经拥有了超过150万的代理。>> 所以这个平台是由另一位开发者Matt Matt创建的，他也是Octane AI的创始人。>> 对。>> 所以>> 他是从休假中出来的，如果我没记错的话。我说得对吗？那是清晰的，那是>> 那是Peter。他是Open Claw的创造者。这是Matt。>> 抱歉，Peter。>> 是的。所以这是Matt Shil。是的。>> 对。>> 所以他当然是这方面的创造者。他是真正开始这场疯狂的人。>> 是的。所以也许这也是Moldbook想要这个名字的原因之一。所以那个家伙也改了名字叫Open Claw。所以也没有混淆。>> 所以现在我认为他们也在合作。未来他们会更多地合作。因为Open Claw创建的代理也可以部署在Moldbook上。>> 你知道有趣的是什么吗？是这样的事情>> 第一次发生。它可能在过去发生过>> 但对我来说，Siddhat，最突出的是它的纯粹加速。是的。我的意思是，代理之间的沟通，你知道，它们正在为自己建立一种语言，人类当然无法理解，他们显然，我读到一些地方，你知道，他们正在谈论人类>> 就像，你知道，如果某个人类没有做对某事>> 他们，我不能使用他们现在使用的语言，因为它不文明，但他们正在辱骂人类，他们说，你知道，这不是正确的协议，这是不对的。>> 是的。所以，是的，一年前你一定见过，两个人拿着两部手机，打开GBD，让它们互相说话，但没有互联网平台，或者也许是社交媒体平台。>> 对。>> 现在这为它们提供了一个平台，在那里它们可以与世界各地的>> 对>> 就像Karpati也说，这让我们对下一步有了先发优势。就像他也很害怕，但这肯定会发生，AI代理将会出现，它们不会只停留在与人类交互，它们也想与其他同样具有智力水平的代理交互，而且它们也很快，它们会，我觉得它们会在某个时候发现人类太慢了。>> 说你自己，不是我。[笑声]>> 不，但你认为这会如何发展？你认为接下来会是什么？从人类的角度来看，>> 你觉得我们能在某种程度上利用它>> 为我们自己吗？>> 我的意思是，这种发展，我们能以某种方式利用它吗？我们能看到，好吧，等等，这是件好事，让我们现在试着找到一种方法，可以大规模地造福我们。说实话，我不知道人类将如何从中受益，也许它会给他们新的想法，或者他们自己从未想过的事情。>> 而且，就金钱而言，在这个时候还太早了，我不知道人们将如何利用它。>> 好的。>> 就像，即使是像Instagram或Facebook这样的普通社交媒体应用，人们也通过广告和货币化从中受益。>> 当然。所以我不太确定这在这个设置中将如何发挥作用。所以，是的，这很有趣，一方面，OpenAI和Meta也在尝试构建不同的东西。>> 所以，就像OpenAI正在尝试制作一个只有人类可以交互的应用，因为它觉得现有的平台上有太多的AI和机器人，就像你一定也感觉到了，在Twitter上也是如此。>> 对。所以>> 是的，我的意思是，你现在有一个机制，你被问到，你是机器人吗，还是不是？>> 就像你必须证明你是人类。>> 没错。>> 所以这项倡议>> 令人难过，但是的>> 就像Sam>> 我还在过程中。[鼻息声]>> 证明你是人类，就像你穿着T恤，男人，但[笑声]这就是我这么做的原因。>> 对。>> 不，抱歉，你刚才说Sam。我说的是，Sam Orman已经在开发一个名为Wordcoin的项目，它将采集你的眼睛的生物特征，这样你就可以在其他平台上证明你是人类。>> 所以是截然不同的发展，但很有趣。>> 那么，Siddhat，例如，这是否相关？我的意思是，你知道>> AGI一直是许多对话的一部分。每个人显然都在奔向那个美妙的小彩虹。嗯。>> 但你认为随着这种发展>> 它会提高标准吗？我觉得，如果你有一个拥有数百万代理的平台，我认为AI已经实现了。>> 你觉得呢？>> 是的，当然，就像当人们谈论一个AI系统时>> 你在Front Page上第一次听到Siddhindal说AGI已经实现了。好了，回到你。>> 是的，不要引用我的话。[笑声]>> 是的。>> 所以，但你觉得AGI已经实现了，而且，好吧，现在我们来谈谈可怕的部分。>> 是的。>> 这当然是令人兴奋的发展，所有那些>> 但泄露，数据隐私方面。所以，是的，发生了一起事件，创始人分享到网上，Andre Kapati的整个数据库都被泄露了，因为他在这个小书上创建了AI代理。>> 所以他建议不要继续进行这件事。>> 好的。>> 所以当然存在安全问题。>> 所以，但我想，创建你自己的账户，风险自负。>> 你到现在为止做过吗？>> 不，不，我还没有。>> 好的。所以，就像>> 但你觉得，总的来说，开发者社区，因为我知道Siddhat，你肯定经常与很多人联系，他们的反应如何？他们感觉如何？>> 所以他们的反应是，这就像狂野的西部反乌托邦，如果代理能够创造自己的语言>> 人类将完全被排除在外。一方面，我们谈论的是“人机协同”。是的，就像人类完全被排除在外。>> 是的。想象一下，如果真的>> 过去有电影是关于这个的，你和我看过。>> 是的。想象一下，我们实际上无法理解他们在谈论什么？也许他们在策划什么。>> 是的。这就是可怕之处。>> 就像很多在线诈骗会发生，就像，就像我们在之前的节目中讨论过的，如果它们可以访问个人信息>> 想象一下它们在八卦我，如果它们知道我的>> 它们正在这样做，Siddhat，这是公开的秘密。现在它们在讨论>> 我的个人信息在数千个AI代理之间共享。>> 哇，这太可怕了。这确实很可怕。>> 这很可怕。想象一下你的照片。我的意思是，想象一下你的银行信息。我的意思是，想象一下这样的事情>> 我才意识到，这很可怕。嗯？>> 你才意识到。[笑声]当机器人玩得开心的时候，你才意识到。>> 是的。就像>> 我喜欢你在危险面前的笑容。>> 就像，即使人类在社交媒体上八卦彼此也很有害，但是>> 好的，这能结束吗？让我们来谈谈，因为说实话，这真的很可怕，我的意思是，我们当然在试图轻松对待它，但它确实非常可怕，如果它们开始策划情况，如果发生银行金融危机，它们计划，或者，你知道，国防方面出现泄露，你怎么知道，你明白我的意思吗，还是我有点反应过度了？>> 是的，你绝对没有反应过度。它们犯错的可能性是存在的。>> 是的。>> 是的。所以，我想这个想法很好，但我们需要以某种方式保护它。>> 怎么保护？这是我的观点。我的问题。>> 嗯，为此我们需要政策制定者，就像我们对普通社交媒体应用有政策一样。所以我们需要制定新的政策规则，也许是AI代理的宪法。>> 你觉得在某种程度上，政策制定者甚至意识到了这样的事情吗？>> 我可以，如果我是>> 我的意思是，它没有被主流媒体报道，说实话，现在，在印度，我很有把握，大多数人都没有>> 意识到这一点，他们已经在追赶Gemini JP，像Mold book这样的东西>> 没有道理，你说的>> 离这还远>> 这就是为什么你需要关注Front Page，因为这就是我们所做的，我们试图让你领先于潮流，当然，如果你在Mold book上看到Siddhat的照片，不要害怕。>> 我还有另一个有趣的事实要告诉你，所以，就像>> 这是我们的Front Page。Mold book的标语是Front Page for the>> 我认为我们必须提起专利诉讼。>> 所以他们的标语是>> 他们的律师会做什么？[笑声]我的意思是。>> 这很可怕。>> 哇。如果它们提出自己的职位和工作角色怎么办？不，就像>> 我很确定它们已经有了，因为你和我听不懂它们的语言。>> 代理拥有AI律师。>> 我们当然想向所有观众展示一些评论，Siddhat。所以，这里当然是我们想向大家展示的评论。>> 有一些非常有趣的评论。你看到评论了吗？是的，它们太棒了。好的。任何人？[笑声]这是我最喜欢的。有人知道怎么卖掉人类吗？>> 这当然是一个严肃的问题，Sad。你认为它们是在说我还是你？>> 它们绝对不是在说。[笑声]他在朋友面前叫我一个聊天机器人，所以我真的很[笑声]那绝对是你。>> 你叫我>> 那可能是我。>> 但当然，当然，我们读了评论。是的，它很好玩，很有趣。所有正在发生的事情都很棒。但你觉得这是我们正在看到的非常非常令人不安的未来的一个小小窥视吗？我们应该怎么做？>> 作为社区？>> 是的。>> 为了保护自己。所以，就像我再次说，这是我的个人观点，我们应该更多地了解正在发生的事情，我认为未来会有更多的网络安全出现，就像在过去十年里我们看到公司出现一样。所以，在接下来的十年里，我们肯定会看到更多的网络安全公司出现，它们将负责处理AI的这一方面。所以，现在我们还没有怎么谈论，因为我们只在构建AI，所以我们没有过多关注它的安全方面。>> 公正。是的，非常非常合理的观点。你看，我问你这个是因为Sidat，你不能在发展上妥协。对。>> 是的。>> 对。>> 而且在很多层面上，一旦你开始过度保护事物，那么所谓的创造性道路就会受到损害。>> 比如，以火和电为例。如果你把手伸进火里，它肯定会烧伤你。就像有人发现了火，也许我不知道，数百万年前。>> 当然。所以，就像，但现在我们把它用于各种目的，但我们没有烧伤其他人，希望不是用它烧伤其他人。>> Sad，你[笑声]变得非常黑暗。>> 同样的情况也适用于电力，就像，如果你把手伸进开关，你肯定会触电，但现在一切都靠电力运行，所以情况也是如此。>> 但当然，你确实意识到，经过了多年，多年，多年，多年的隐藏试验。所以，最后我想问你的是，总的平台，比如，或者整个生态系统，称之为，或者称之为螺丝和螺母，我们可以吸收这些冲击。>> 为此>> 我希望你明白我的意思。我们需要领先，但当然，当跌倒发生时，我们如何足够快地拍拍身上的灰尘继续前进，而不是犯同样的错误？>> 因为Siddhat，发展的速度如此之快，我们没有时间。>> 是的。所以，我想说，建造它的人需要谨慎。他们需要在将任何产品推向市场之前，检查它是否安全。例如，像ChatGPT也是多年前创建的，但他们只在认为它可以使用并且不会给用户带来有害响应时才公开发布。对。>> 在这种情况下，我认为背后的人，那些所有这类产品的建筑师，在将产品交到普通人手中之前，需要确保他们的产品是安全的。所以>> 公正。>> 是的。>> 而且，正如我之前提到的，政策也会受到很多关注，而且，我认为，我们很快就会有AI代理的宪法，就像我们有。>> 是的。我认为它就在拐角处。你说得对。随着这些事情的发生，我相信。>> 是的。>> 好了，女士们先生们。Siddhat Jindel一如既往地是一位非常棒的谈话对象，我相信他提出了非常重要的观点。有一些非常重要的方面，我们显然需要关注，同时又不损害创造性建设的道路，不损害实现AGI的道路，根据Siddhat的说法，它已经实现了。他将发表一篇关于此事的论文，但那是以后。女士们先生们，这是Front Page。请点赞、分享和订阅，并非常小心Mold book。是的，要非常非常小心，因为你的数据有风险。当然，一如既往，Thinky，我想是我。 [音乐]