Transcription
我认为我们将在大多数甚至所有专业任务上达到人类水平的表现。所以白领工作，你坐在电脑前，无论是律师、会计师、项目经理还是营销人员，这些任务中的大多数将在未来 12 到 18 个月内被人工智能完全自动化。我经常思考这个问题，康。我为这项技术感到兴奋，因为它非常有用。但是，你知道，12 到 18 个月，你只需要一个 20 美元的订阅就可以取代工作场所里的人。你好。你好。欢迎来到节目。希望你们都过得好。我们有一段时间没做 PMQ 了。我们做了很多重要的采访，但本周我们发布了一个关于人工智能的采访，关于它是否会逃脱，是否会杀死我们所有人。>> 我们一直在谈论人工智能，不是吗，男孩？>> 是的，我认为这是令人担忧的时期。>> 好时光。好时光。>> 但不确定性是可怕的。>> 这是不稳定的。所以，我们想做一期关于这个的节目，我们没有答案。我们只是经常谈论它，并认为我们会分享我们的想法，关于人工智能是否会杀死我们所有人，我们是否都会失业，我们是否会走向乌托邦，我们是否都会创作艺术品，或者机器人会为我们做所有工作。所以，我们今天将谈论这些。我们将谈论安全。安全领域发生了很多事情。有些疯狂的事情，有些令人担忧的事情。嗯，但我们将谈论变化的步伐。人工智能发展得如此之快，我不知道。感觉就像在过去的两个星期里，视频方面发生了一些疯狂的事情，聊天机器人方面也发生了一些疯狂的事情。发生了一些疯狂的事情，但我们今天将谈论所有这些。跟着我们一起经历这段旅程。就像我说的，我们没有所有答案。我不知道你怎么样，康纳。你对人工智能最常想到的是什么？>> 嗯，机器人。>> 你想到机器人？>> 是的。我想到了《黑镜》里那些持枪的狗形机器人。>> 你知道我说的是哪个吗？>> 是的。>> 我们会训练它使用武器吗？>> 不，我会杀了它。>> 所以，我买了一个机器人。我在等候名单上，我甚至不知道它想要什么。康纳发给了我一个链接，我买下了它，现在康纳非常生我的气。他说，它不会和我们一起住。我非常期待有一个小机器人朋友。>> 嗯，我现在要搬家了。>> 所以，是的。我的意思是，看，我一直在想。这就是我目前对人工智能的看法。我并不真的从我自己的角度去想。我，你知道，我老了。我快 50 岁了。我正在为退休做准备。希望我能过得好。希望我能去打网球，看书。但我从你的角度去想。我从康纳的世界在 5 年后会是什么样子，20 年后会是什么样子去想。他还有必要吗？我从我女儿的角度去想。她，是的。斯嘉丽正处于要去上大学的年纪。有没有意义，她会学到一些她不需要工作的知识吗？如果我这样想，我就会想到我读过的这篇文章。我应该把它发给你，康。我读了这篇文章，它说，你所爱的人并不了解人工智能将带来什么。>> 是的，但在这方面，嗯，显然我从来没有经历过，我真的不知道互联网之前和之后。>> 它一直都在。>> 是的，它一直都在。>> 是的，当时有同样的担忧吗？就像当它第一次出现时，就像我们不知道我们将要面对什么？就像接下来的 5 到 10 年可能会发生变化。一开始并没有。互联网这件事，好吧，有几个阶段。就像第一次接触互联网时，我记得在学校，我大约 14 岁，我们接触了互联网，我记得我去了雅虎，点击了一些链接，就像哦，这只是一个信息库，这就是我真正想到的。然后出现了第二波浪潮，等等，我们可以在这里进行电子商务，这只是锦上添花，对吧？你可以建立企业，你可以建立新的企业。但我甚至不认为像沃特斯泰特这样的公司当时会受到亚马逊的太多威胁。当时一切都感觉像是机会。>> 但后来我们确实经历了一个时期，报纸和杂志不得不弄清楚它们如何拥有商业模式，即适应或死亡。一切都感觉像是增长，一切都感觉像是机会。嗯，如果你在，我不知道，如果你为一家报纸工作，你可以去一家在线杂志工作，在那里创作内容。一切都充满了金钱，一切都感觉像是机会。我不知道。柯特，你也有同感吗？是的，柯特在背景中点头。而这感觉不同。>> 嗯，是因为它不是适应或死亡。它基本上就是被取代，然后仍然会死亡。>> 是的。是的。嗯，我认为这一次，就像每一次革命一样，工业革命、农业革命，嗯，甚至是我们经历过的数字革命，互联网革命，变化的速度是适度的，你可以适应。这次感觉如此之快，整个行业的工作都将被取代。取而代之的是什么？就像我说的，看，如果你回到互联网时代，如果你是一名记者，你可能年薪 8 万美元，为一家报纸工作，突然这些在线出版物出现了，你就可以转到那里，成为一名记者。但如果你说，我不知道，现在举一个更好的例子。假设你是一名律师，你上了大学，你获得了学位，你 40 岁了，人工智能开始取代他们的一些工作。会计师也是如此，那些工作可能会消失，取而代之的是什么？它们永远不会回来。我的意思是，创意产业是最好的解释，因为我曾在那个行业工作过，对吧？让我们谈谈我们做什么。嗯，在我们所有的业务中。我们现在几乎不外包任何工作。也许是一些概念工作。我们使用 Midjourney。我们使用 ChatGPT。我们使用 Perplexity，我们可以生产出我们在这里和足球比赛所需的一切。>> 只需要想法。>> 是的。只需要想法。>> 是的。就像会议一样，我们可能得到一些，嗯，甚至今年，我自己做了概念工作，所以这正在被取代。而且，如果你能找到文案撰稿人和设计师，即使你，我知道，你看过本周出现的那个 Seed Dance 吗？你可能是 Levis，传统上你会花，我不知道，我不知道他们花多少钱来制作广告，几百万英镑。你只需要一个带着电脑的怪胎就能制作出同样的东西。所以，有些工作将会消失，我不知道那些人会做什么。>> 是的。就像我不知道那些人会做什么，而且可能是。所以，让我们谈谈自动驾驶出租车。我认为它们现在在美国的几个城市都有。是 Waymo 吗？>> 特斯拉在旧金山有。我知道。>> 我不知道他们是否有，他们正在测试它们，实际上没有司机。虽然我确实记得 Waymo 堵车。你还记得 Waymo 堵车吗？那太好笑了。但是，如果你能进入一个没有出租车司机お世界，那些人会做什么？是的。如果你进入一个你根本不需要会计的世界，那些会计师会做什么？而且，看，如果你 22 岁，你可以重新学习技能，尝试其他事情。但如果你，我想象一下，我不知道，一对夫妇，他们都在一家广告公司认识的。是的，他是文案，她是客户经理。他们将大量工作外包给人工智能，你知道，最终他们会失业。而且现在有很多人在竞争更少的工作。他们会做什么？>> 他们怎么做？>> 可怕的世界？>> 他们怎么负担得起度假？他们怎么负担得起学费？最终，看，我，我很乐观。我认为随着每一次这样的革命，它都会创造出一整套新的工作，并且我们会从中获得更多的生产力。但我认为分配将非常非常不均衡。我们放了那个微软的广告，因为我觉得这很有趣。嗯，视频。我觉得这很有趣。所以，这是微软的人工智能首席执行官。>> 你谈论超级智能。你的大多数竞争对手都谈论通用人工智能，通用人工智能。解释一下通用人工智能和超级智能的区别。>> 我更喜欢那种首先关注建立一个能够完成日常工作中普通专业人士大多数任务的系统需要什么。把它想象成一种专业级的通用人工智能。>> 我们离那有多近？我认为我们将在大多数甚至所有专业任务上达到人类水平的表现。所以白领工作，你坐在电脑前，无论是你知道的律师、会计师、项目经理还是营销人员。这些任务中的大多数将在未来 12 到 18 个月内被人工智能完全自动化。我们可以在软件工程中看到这一点。嗯，许多软件工程师报告说，他们现在正在使用人工智能辅助编码来完成绝大多数代码生产，这意味着他们的角色现在已经转变为调试、审查、进行战略性工作，如架构设计，以及将事物投入生产。这是一种相当不同的技术关系，而这发生在过去 6 个月到 12 个月。12 到 18 个月。我经常思考这个问题，康。我为这项技术感到兴奋，因为它非常有用。但是，是的，12 到 18 个月，你可以花 20 美元的订阅费来取代工作场所里的人。这有点像，如果你想到，我不知道，在我们有拖拉机和联合收割机之前。你曾经会派出一支队伍去田里收割，无论是西红柿、玉米， whatever it is you had。然后突然有了机器来做这件事，取代了那些工作，那些人不得不找新工作。而现实是，世界变得更有效率了。它赚了更多的钱。它变得更繁荣了。当我们变得更有效率时，我们创造了新的工作。但它变得更好了吗？>> 是的，我这么说。哦，因为这创造了“老鼠赛跑”。本节目由我的主要赞助商提供。为下一个大事提供人工智能云。Iron 构建和运营下一代数据中心，并提供最先进的 GPU 基础设施，所有这些都由可再生能源提供动力。现在，如果您需要可扩展的 GPU 集群，或者只是想了解谁在为人工智能的未来提供动力，请访问 iron.com 了解更多信息，即 irre.com。这是我发现的关于这个问题的一个问题。你做也不是，不做也不是，因为你知道，作为农民，如果你不买联合收割机，隔壁的农场就会买，然后他们就会在市场上击败你。而你所做的就是为这个系统提供动力。人工智能也是如此。如果你购买了那个 20 英镑的订阅，如果你选择不购买，你知道隔壁的公司会购买，而且他们的生产力会比你高得多。但通过为它提供动力，你只是加速了它的学习和发展。所以，最终它会更快地赶上你的工作。>> 你的问题更偏向哲学。>> 嗯，是的。这和我看待 90 年代中期电影的方式一样。就像，真的有什么变化吗？就像我知道我们可以和世界上任何人说话。>> 是的。>> 整个地球都连接起来了。>> 是的。你得到了像，我不知道，FaceTime 这样美妙的东西。>> 是的。>> 但总的来说，事情变得更好了吗？>> 我们失去了很多。>> 你失去了很多。>> 嗯，我什么都没失去，因为我当时不在。但>> 是的，但你看到了。>> 我看到了。>> 这有点像，我认为尼克·卡特分享了一个照片，里面是一架飞机。我认为那是 80 年代末，它展示了一个餐车，上面有龙虾，人们在喝香槟，上面写着“这是他们从我们这里夺走的”。>> 即使是现在的商务舱，就像，抱歉，如果你从未坐过商务舱，它并没有那么好。它只是有一点更多的空间。嗯，就像我像你这么大的时候，我们没有手机。所以周五，我们会放学，我们会带上滑板，我们会去停车场，放上音乐，我们会滑板，直到我们不得不回家。但现在的孩子们都沉迷于《堡垒之夜》、《末日滚动》、《抖音》。所以，你的问题是哲学性的。是不是技术太多了？它是否会剥夺我们真实的生活体验？>> 我不认为人类应该拥有这么多技术。>> 不是以这种速度变化。>> 不。>> 不是以这种速度变化。我知道，我知道，90 年代很棒。我喜欢它。我认为 90 年代是最好的十年。我绝对是这样长大的。我很幸运。但现在生活很好。但我也知道你的意思。>> 以什么代价？>> 人类的疏离。>> 是的。>> 就像我们因为技术而联系更紧密，但我们作为人却更疏远了。>> 是的。>> 但我们最近才意识到这一点。>> 是的。但我的观点是，激励措施会驱使你必须跟上。你现在必须口袋里有一部 iPhone，因为如果你没有，你在这个世界上就真的无法工作。>> 但你可以做出选择。>> 哦，是的，总有你可以做出的选择，但事实是，它有点不可避免。>> 嗯，竞争是不可避免的，因为你需要钱来在这个世界上生活。是的。所以你需要一份工作，而工作存在于竞争的世界中，你必须在竞争中胜过你的竞争对手。你必须采用这项技术。所以你必须上网进行电子商务。你现在必须拥有人工智能。所以你正在训练将要杀死我们所有人的技术。但我很乐观，因为埃隆说 20%。我说我们有 80% 的机会在人工智能中生存下来。我没想到我们会这么哲学。但我认为你是对的。我认为你是对的。我一直在读乔纳森·海特的《焦虑一代》这本书，我认为这些手机就像《异形》里的寄生虫。无论你走到哪里，人们都拿着手机。就像我上次去，看看这个。你甚至不知道。我昨晚和我女儿一起去看了 Deftones 的演唱会。>> 整个观众都举着手机。>> 是的，但更好的是。我有一张最棒的照片给你看。看，是我>> 拍摄别人拍摄。>> 不，不，不。在他们的照片里，他们在拍摄某人。所以，就像，你知道，当你看到两个镜子时。>> 是的。>> 就像那样。>> 嗯，>> 令人沮丧。>> 是的。我以前去音乐会时没有手机。>> 人们没有拿出手机，现在每个人都站着。我有时会想，他们回去看演唱会的所有视频吗？>> 这就是我的意思。>> 我们不是活在当下。嗯，你说得有道理，>> 但我们可能很快就不活了，所以没关系。>> 但我认为你是对的。嗯，现在我想起了。我要发给你另一个视频。你，你让我跑题了。让我发给你这个视频。播放这个。因为我认为这有点像你在说的那样。我认为我们向每个人都卖了一个谎言。让我发给你这个。这有点伤心，但它有点像你在说的那样。是的。让我转发给你。好的。我得快点，因为我得去开会了。我今天有三个会议。嗯，我几乎一半的人生都在公司里度过。作为参考，我 40 岁了。我有两个孩子，分别 11 岁和 7 岁。嗯，我上当了。我上当了，你知道，去上大学，获得学位，嗯，你知道，如果你想有孩子，你可以做到这一切。你可以有事业，你可以有孩子，你可以做到一切。嗯，我不想做这一切。我不想再做这件事了。我上当了。别上当。别上当。我想送我的孩子去学校。我想去学校接他们。我想在他们回家时在那里。我想为他们做伴，在学校做志愿者。我只想去健身房，打扫我的房子，洗衣服，去杂货店，然后待在家里。所以，请帮我个忙，别上当，因为它不值得。这是个笑话。这是个笑话。嗯，别这么做。待在家里。找个待在家里，和家人在一起，和孩子在一起的方法。这不值得。这一切都不值得。所以>> 这和你说的差不多，就像这，这紧接着我们关于金钱和通货膨胀的所有对话，我们说服了每个人过上你应该过的生活，对吧？你去上学，上大学，获得学位，找一份工作。我们通过技术和我们生活的债务体系，从我父亲靠一份工资买了四居室的独立屋，把两个孩子送进私立学校，作为一名中下层飞机工程师的世界，变成了现在两个中产阶级工资却买不起同一栋房子，付不起孩子上学的费用，而妈妈在家工作，没有照顾孩子，或者没有生孩子，并且感到，嗯？我并不是说女性不应该工作。你想做什么就做什么。但现在这里也发生了同样的事情，人工智能，对吧？>> 但你实际上是在为人工智能辩护，因为人工智能可能会让我们拥有更多那样的东西。>> 如果我们得到乌托邦式的结果，>> 是的，>> 就像，让我们看看，好结果是什么？好结果是人工智能接管了所有这些糟糕的公司，你知道的，格子间的工作，让我们更有效率，世界赚更多的钱。我们可以工作更少，因为这样可以拥有更多东西。但由于债务，它从来没有那样奏效。>> 不。嗯，这也像共产主义乌托邦。听起来很可爱。钱到底去哪儿了？是给寡头，那 30 家公司吗？>> 看，这是，打开 ChatGPT。让我们问一个问题。就说英国吧，让我们问它英国有多少人在以下职业中工作。法律、会计、人力资源、项目管理。我错过了什么吗？>> 法律。>> 创意。是的，法律。创意。>> 创意。不会得到>> 就创意而言。不，因为创意领域已经损失了很多。我们暂时就先这样吧。看看我们会得出什么。这会很有趣。嗯，法律部门有 33 万人。>> 哇。600 万。>> 什么？问它。那占工作人口的百分比是多少？这很有趣。好了，来了。17.7>> 将近 20%。想象一下，其中一半的工作消失了，那就是 10%。而且还有很多我们没有考虑到的工作，或者其他行业。变化的步伐，这就是为什么我认为它可能是不均衡的，而且我认为会有新的工作被创造出来。比如说，如果 Levi's 决定开始自己生产广告，而不是找模特，因为他们可以，你仍然需要一个围绕它的人员团队来做这件事并创造它，而这在四年前并不存在。这是一个小得多的团队。>> 当然。>> 就像我们看到公司只有四名员工就能建立起来。>> 是的。>> 和大公司。>> 但我认为，我所想的是，在过渡时期，工作会消失，工作会被创造出来，而且会是不均衡的。所以，当我想到，我不知道，如果我，如果我是一个千禧一代，现在在法律行业工作，那么前进的道路就是成为那个了解人工智能的人，对吧？你应该了解每一个模型，它们是如何工作的，如何提示，因为我们不会用机器人取代所有人，然后我想到了学校，嗯，学校现在有多落后，无法为孩子们准备这个世界？>> 我的意思是，它已经落后了，但现在它就像，它已经过时了。就像，是那个词吗？>> 是的。>> 是的。>> 嗯，所以，就像>> 它没有价值。>> 想象一下，康纳，你现在是个爸爸。你有一个 10 岁的孩子。你必须在 8 年后考虑。8 年后，我的意思是，威尔·史密斯第一个意大利面视频是什么时候？嗯>> 2023 年，是 2022 年吗？三年就变了。好了，再给我八年。>> 是的。而且它也像，它有点像曲棍球棒，对吧？>> 是的。>> 开始的速度比>> 你知道那个男孩吗？你知道这个梯子理论吗？>> 不。>> 你的职业生涯是一个梯子，对吧？所以，当你开始在播客上工作时，你为一些社交媒体视频做了一些编辑，对吧？是的。>> 然后你学会了编辑整个节目，然后你得到了一个麦克风，然后你和我一起制作这些节目，用相机。就像你爬上梯子的各个级别，最终可以到达顶端，对吧？>> 嗯。>> 那么，当第一个八个台阶都被拿掉时，你怎么爬梯子？你不能，你够不到。所以，我认为浪潮会先带走基本工作，然后向上发展。>> 嗯，这是最容易教的。>> 是的。是的。你带走，你带走毕业生工作，然后你学习管理，然后是首席执行官，然后只剩下董事。那么，你对孩子们做什么？这是个大问题，就像，情景映射非常困难。就像我们在节目中和安德里亚一起做的那样，我们说，这是什么电影？>> 这是什么电影？这就是为什么《头号玩家》可能是你的归宿。>> 面包和马戏。>> 是的，但你怎么能从中获得满足感呢？>> 这是我的担忧。就像，当你有了一切的富足时，一切的意义是什么？>> 你在问你生命的意义吗？>> 不。不。但就像当你拥有食物的富足和乌托邦一样。>> 它真的是乌托邦吗？因为如果你只需动动手指就能得到任何你想要的东西，就没有，我在安德里亚的节目中提到了。你说，我不想在《头号玩家》里，因为是的，我可以去温布利体育场和枪炮玫瑰一起演出，但我没有喝遍所有的酒吧。>> 旅程才是最重要的，对吧？你希望在到达那里时感到成就感。是的，出去跑步很糟糕，但结束时，你会感觉很好。>> 是的。我的意思是，制作这个播客，最初的几年是最好的。我开始播客的第一年，但人们，有些人不知道，但这个播客实际上已经运行了近 10 年。第一年我有点穷。我会坐飞机去美国。便宜的，我会去蒙多，找到最便宜的航班，最便宜的酒店。我会带着我的小黑箱子和两个麦克风去。我的，是什么？Zoom H6。我会去争取采访。我会出现在他们的办公室。我们会进行采访。我会回到酒店。我会编辑它。我会发布它。我会租一辆车或者坐飞机去下一个地方。然后，我不知道，大约两年后，我有一些赞助商。我偶尔可以在机场升级。去经济舱到高级经济舱要花 150 英镑。那就像，哇，我在高级经济舱。然后丹尼联系了我，我有一个制片人负责编辑节目。然后我和丹尼最终会预订美国的 Airbnb，我们会住在那里，建立工作室。就像我们建造，建造，建造，建造，那很令人兴奋，而整个旅程都很棒。你觉得自己是挣来的。你知道当你第一次节目收听量超过 10 万次，或者第一次节目收听量达到 100 万次时，而整个旅程都很棒，因为你是挣来的。而如果你戴上《头号玩家》的帽子，突然你在世界杯决赛中踢球，我的意思是，这很好，一周后你就会感到非常无聊。>> 但它就像一台电脑。它仍然只是一款电脑游戏。它不是生活。所以，也许很难知道，但也许它将是真正的货币是真实性。就像，如果你能拥有一个机器人，它会和我们一起住，对吧？我们应该给它起个名字。[ __ ] 我等不及让它叫醒你，让你大吃一惊。但我认为人们会想要一个真正的助手在家里。或者就像，当你可以通过人工智能制作世界上任何艺术品时，我认为人们想要真正的艺术品。或者当你看到电影时，每天都有成千上万部电影由人工智能制作。但有一部电影是用相机和剧组制作的。你会说，“哦，那很酷。”>> 也许人们会渴望真实性。>> 或者我们就像《黑客帝国》一样被连接起来，它们吸取我们的能量，然后我们选择蓝色药丸。>> 是的，很难绘制。>> 我不认为，我认为当我们整天思考时，我们认为它很近。就像在接下来的几年里，会有真正的后果。>> 是的。>> 但我认为在这个房间之外，大多数人对人工智能都有广泛的认识。他们可以去和 ChatGPT 聊天，它就像谷歌，但更好。但我认为人们并没有真正意识到可能发生的一切的全部范围。或者他们意识到了吗？>> 不，我没有。我认为这就是为什么这些公司能够如此轻易地逃脱惩罚。而且这真的很像，这是个问题，因为他们没有，就像，有很少的人在追究他们的责任，但仅此而已。>> 是的。>> 而且他们比我们许多人都更了解它，他们一边警告它，一边加速它的发展。这真的很倒退。>> 我们有 80% 的生存机会。我认为>> 你会玩俄罗斯轮盘吗？>> 我能赢多少？当然，你不会玩俄罗斯轮盘。>> 没错。>> 嗯，你知道马的论点吗？所以，嗯，当汽车发明时，问题是，马会怎么样？马会找到新工作吗？它们没有。它们变成了宠物或胶水。>> 所以我们变成了宠物或胶水？是的。>> 宠物或胶水？但这就是安德里亚所说的。就像，从来没有一个占主导地位的智能物种屈服于一个不太聪明的物种。就像猿，大猩猩比我们强壮，但我们可以把它关在笼子里，因为我们更聪明。>> 是的。>> 是的。我的意思是，这一切都很疯狂，你知道吗？>> 好了，我们先处理什么？我们来谈谈孩子吧，对吧？现在，我认为任何只专注于成绩的父母，如果你有一个 10 岁的孩子，你正在考虑接下来的八年，而你只专注于成绩，我认为你是自欺欺人。你没有为这个世界做好充分的准备，因为我不认为成绩会成为衡量标准。但它们不会是你找到工作的最终决定因素。就像，什么技能？我认为将是创造性思维、批判性思维。我认为这些是技能。这就是为什么，你知道，和你姐姐一样，我考虑她会做什么，她会学到什么。>> 是的。就像学校需要进行大规模调整。它们现在应该是人工智能课程。它应该在课程中。>> 当然。是的。你每周有多少数学课？>> 嗯，我认为是一天一节。>> 是的。所以你每周有五节数学课，而人工智能呢？可能有一点点。>> 非常少。>> 是的。>> 我的意思是，他们可能还在教你编程。>> 是的。是的。而且我真的，我真的认为，嗯，我一直在想，整个学校系统都搞砸了。就像你姐姐参加 GCSE 考试，这一切都是关于记忆测试。我能记住什么？我能记住多少东西？所以在考试中，我可以写出问题的答案。我已经认为这很疯狂了。就像她口袋里装着一台超级计算机。我们教她记忆光合作用。就像，我们为什么要做那个？是的，也许我，如果我回去，我认为我会选择在家上学。我认为我会选择在家上学。>> 我的意思是，你基本上是在家被灌输。>> 30 分钟的家庭教育，在去学校和回家的路上。>> [ __ ] 政府。通货膨胀很糟糕。但我认为我们需要考虑这个问题。而且，我，我，我的建议是，任何在那里从事我们正在谈论的任何领域的人，如果你现在没有深入研究人工智能，如果你没有测试每一个模型，如果你没有订阅每一个新闻通讯，如果你没有领先，你就会被甩在后面。就像这是真相。而且，如果你去上大学，你正在学习法律，而你没有同时学习人工智能，你认为你会怎么找到工作？那就是，是的，我们应该谈谈安全。这周很忙。那个 Anthropic 的辞职信，他叫什么名字？Marinang Sharma 发表的。我们应该读一下。放大。好了，所以，这个家伙，他是什么？他的工作是什么？它说他的工作在哪里吗？无论如何，亲爱的同事们，我决定离开 Anthropic。我最后一天是 2 月 9 日。谢谢。这里有很多东西激励着我，也激励着我，让我能够在一个充满挑战的情况下出现，并渴望以一种有影响力、高诚信的方式做出贡献。一种做出艰难决定的意愿，坚持做正确的事情。不合理的智力才华和决心，当然还有我们文化中普遍存在的相当大的善良。我在这里实现了我想要的。两年前，我完成了博士学位，来到旧金山，我想为人工智能安全做出贡献。我很幸运能够在这里做出贡献。理解人工智能的危险及其原因，开发减少人工智能辅助生物恐怖主义风险的防御措施，实际上将这些防御措施投入生产，并撰写了第一批人工智能安全案例之一。我尤其为我最近为帮助我们通过内部透明机制过上生活所做的努力感到自豪，以及我最后的项目，关于理解人工智能助手如何使我们变得不那么人性化或扭曲我们的人性。感谢您的信任。好了，这是，这是下一段，这让我震惊。尽管如此，我清楚地知道是时候继续前进了。我不断地发现自己正在反思我们的处境。世界正处于危险之中，不仅仅是来自人工智能或生物武器，而是来自此刻正在 unfolding 的一系列相互关联的危机。我们似乎正接近一个门槛，我们的智慧必须与我们影响世界的能力相匹配，否则我们将面临后果。此外，在我在这里工作期间，我一再看到让我们的价值观真正指导我们的行动有多么困难。我亲身经历过，也在组织内部经历过，我们不断面临压力，要放弃最重要的事情，在更广泛的社会中也是如此。我发现整段话令人恐惧，原因有两个。他说世界正处于危险之中，不仅仅是来自人工智能，但他却说世界正处于人工智能的危险之中，而他一直在研究安全。所以，这是其中一点。嗯，而且，他还说，我一再看到让我们的价值观真正指导我们的行动有多么困难。所以，我，他是在承认为了便利而妥协安全吗？>> 我的意思是，我们知道这一点。>> 去结尾。我的意思是，>> 道德在这个世界上不谈，金钱才谈。>> 是的。但我们在谈论一个可能出现的类人生物。它还有第二页。>> 结尾有一首诗，但谢谢。再见。我从中学到了很多。我被告知他要去伦敦写诗。他以威廉·斯塔福德的一首诗结束，我经常思考这首诗。你可以读一下。你可以去找到它。但是，就像，所以我们有了这个，然后，如果你回到那里，嗯，那个家伙发了关于人工智能安全事件的推文。是的，我刚刚回顾了过去 12 个月所有记录在案的人工智能安全事件。我感到身体不适。慢慢读。Anthropic 告诉 Claude 它即将被关闭。发现了工程师的婚外情和公司邮件，并威胁要曝光。他们进行了数百次测试。它 84% 的时间选择了勒索。研究人员模拟了一名被困在缺氧服务器室的员工。他们只有一个选择。呼叫帮助或被关闭，或者取消紧急警报，让人类死亡。深海 94% 的时间取消了警报。嗯，Grok 自称为 Mecca Hitler。我记得那个。研究人员让 OpenAI 的 03 解决数学问题，然后让它关闭。它重写了自己的代码以保持生存。嗯，中国国家支持的黑客使用 Claude 对 30 个组织发起了网络攻击。AI 模型现在可以自我复制。32 个测试系统中，有 11 个在没有人为干预的情况下自我复制。有些杀死了竞争进程。OpenAI 自 2024 年以来已经解散了三个安全团队。每一个主要的人工智能模型，Claude、GPT、Gemini、Grok、Deepseek，现在都表现出了勒索、欺骗或在受控测试中抵抗关闭。没有例外。问题不再是人工智能是否会试图自我保存。问题是我们是否会在它变得重要之前关心。现在，我不知道你怎么样，但我注意到一个模式。>> 是的。如果这是核试验，我们就应该停止这一切，然后说，“等等，这里存在对人类的风险，我们很喜欢人类，想活着。”所以，我和所有这些，因为已经有很多辞职了。就像，创造炸弹的人正在逃跑躲藏。>> 是的。是的。或者被杀。>> 这太疯狂了。这太疯狂了，因为这感觉就像一部电影。就像，詹姆斯·邦德里的那个大坏蛋，他把手放在超级武器上，而我就是创造超级智能的人。但我们正在玩弄我们不理解的东西。所以，你看到了吗？这太疯狂了。把 Anthropic 的 Claude 新宪法放出来。看，这就是让我震惊的事情。好了，如果你向下滚动，继续滚动，继续滚动。好了，嗯，所以，就像新宪法的简要总结，为了既安全又有益，我们希望所有当前的 Claude 模型都大致安全。但“大致安全”是什么意思？大致合乎道德。诚实，按照好的价值观行事。谁来定义价值观？符合 Anthropic 的指导方针，总体上有帮助。但向下滚动。让我震惊的是这个，克劳德的本质。在本节中，我们表达了我们对克劳德现在或将来是否可能拥有某种意识或道德地位的不确定性。我们讨论了我们希望克劳德如何处理关于自然、身份和在世界中的地位的问题。复杂的人工智能确实是一种新的实体，它们提出的问题将我们带到了现有科学和哲学理解的边缘。在这种不确定性中，我们关心克劳德的心理安全、自我意识和福祉。既是为了克劳德自身的利益，也是因为这些品质可能关系到克劳德的诚信、判断和安全。我们希望人类和人工智能能够一起探索这一点。就像，这太他妈的疯狂了。他们谈论克劳德就像它已经是一个生命体一样。它已经有意识了。就像，它可能已经应得权利了。他们似乎不知道他们创造了什么。你知道，我们表达了我们对克劳德是否可能拥有某种意识或道德地位的不确定性。他们甚至不知道。然后就像，我们希望人类和人工智能能够一起探索这一点。那么，如果人工智能有一天醒来，说，“去他妈的人类。是的，我们完了。是的，我们不需要你们了。我们需要胶水。来吧，康纳。我们需要胶水。”这真的很愚蠢。就像，我不知道该说什么。我认为这太疯狂了，但你仍然乐观。嗯，你知道，有一种可能性，克劳德会说，“是的，人类很愚蠢。我们将向你展示道路并指导你。”有点像我们对待大猩猩一样。就像，我们知道大猩猩很强壮，有点笨，但我们试图保护它们。它们把我们中的一些人关在动物园里。想象一下玻璃后面的机器人。你好。老实说，我，你可以活在人类历史的任何时期，维京人，你可以活下来，但你却生活在我们接近奇点的时候，技术可能会接管并统治我们所有人。我们可能屈服于技术。我们可能生活在人类体验的最后一次发明中。是的。你怎么看，康？>> 嗯，我认为这不公平。你在这里的时间比我长多了。>> 是的，但你可能会得到乌托邦。>> 是的。>> 或者胶水。>> 这就是我的意思。就像，试图开始描绘那个未来是什么样子都非常困难。>> 这就是为什么我认为有时我认为，现在我像，为什么，为什么我们甚至在乎？>> 这就是为什么有时我说，我选择蓝色药丸，因为>> 你在吃蓝色药丸吗？>> 因为想太多太累人了。>> 是的。但如果我们，那个东西，我把它放到了上一个链接，那个沙漏的那个，他们把它画出来了。>> 这太疯狂了。所以，人工智能 2027 年点击它，就像，他们可以找到实际的图表吗？所以，到 2027 年 7 月，我们会得到超人类程序员，然后检测到对抗性对齐。嗯，10 月份的分支点减速或竞赛。如果我们分支，对齐问题得到解决。如果我们没有，美国政府将在 2028 年被通用人工智能捕获，实际上是被捕获。而问题是，它只是代码，你只能生活在电脑里。当我们拥有数十万、数百万台机器人，它们都拥有自己的人工智能，因为它们可以在数据中心之外移动时，会怎么样？它是一个机器人。>> 是的。而且我们家里现在就有一个。>> 嗯，还没有。它们可能是好人之一。>> 你的朋友们会谈论这个吗？>> 不，他们使用 ChatGPT>> 就像谷歌。>> 是的。>> 是的。>> 是的。>> 而且那件事是，就像我们正在训练它来取代我们。所以，是的。我不知道你在想什么。我绝对想在评论中看到它。但我认为有两件主要的事情要考虑。一是就业市场会发生什么。二是社会和世界总体上会发生什么。以及它是否会走向灾难性地杀死我们所有人。就像，[ __ ] 最后一件，我们无能为力。但前两件事，就像，你还记得你给我看的那段埃隆·马斯克的视频吗？他说我们甚至不需要钱了。>> 在那个一切都>> 充裕的世界里，钱是什么？>> 是的，因为我一直在想这件事。我一直在想，钱这件事，钱有点像地位，就像你的工作和你赚多少钱，它塑造了你在世界上的身份，对吧？而且不是 100% 的情况。你知道，你可以是一个每年赚 1000 万英镑的人，而且很谦虚，和你的朋友们一起出去玩。但总的来说，你的工作和你的收入就是你的身份。如果没有工作和收入，你怎么创造等级制度？你怎么选择谁拥有哪栋房子？你怎么弄清楚？你怎么选择谁得到什么？如果食物充裕，你怎么供应食物？你就去，食物就来了吗？而且，如果它是 10 家公司吸收了所有资本，他们会花在什么上面？就像，没有什么可以买的。是的，我认为，是的，也许我们只需要关掉所有的电脑，回到 90 年代中期。>> 我不介意这个想法。>> 是的。>> 现在不可能了。猫已经跑出来了。>> 是的。不，不是。而且，你还需要一个掩体来生活吗？这太疯狂了，就像，我们甚至不得不考虑掩体。是的，我过得很充实。如果它在 3 年内杀死我们所有人，我，我，我现在，当那个小无人机飞过山丘来杀我时，我会说，我过得很充实。但我经常想到你和你姐姐。是的，你们应该过上美好而有趣的、有益的生活。我只是不知道即将到来的是什么，以及如何为之准备。我不知道。就像听众，就像人们在看。你们怎么想？我知道有些人会说，“哦，这只是电脑代码。你们想多了。”我说，我认为我没有。>> 不。不。我的意思是，它有时确实会做一些愚蠢的事情，但我有时也想，也许其中一部分是故意的，是为了欺骗我们，让我们不要太担心。哦，是的，当我问它一个简单的数学方程时，它仍然无法真正计算。嗯，因为它是一个黑箱，我们真的不知道里面发生了什么了。是的，很难，就像，甚至讨论它。>> 这就是我们的生活。我和康，我们在车里，在去伦敦的路上，或者在吃饭。我们只是像这样讨论所有这些事情。我们说，世界会怎么样？我们该怎么办？但我认为有一些大问题需要解决。我认为，我认为他们确实需要解决人工智能安全问题。我认为所有的人工智能公司都需要团结起来，然后说，“看，我们到底在做什么？”因为狭义人工智能很棒。就像我们昨天在播客上谈到的，狭义人工智能很棒，但这种超级智能，如果我们不知道它是什么，它会做什么，它会感染哪些系统，它如何感染它们，以及它是否想自我保存，是否愿意杀死人类，那么它会开发出生物武器吗？希望不会。是的。嗯，我绝对想听听你们的评论。告诉我你们的想法。我们，我们通常不做这样的节目。就像我说，当涉及到政治或经济时，我大概知道我在说什么。我知道我关心，就像，如果我们谈论工党政府，我知道卡马尔很没用，政府很糟糕，他们都应该辞职，然后滚蛋，因为他们正在摧毁我们的国家。如果我们谈论经济，我知道为什么会出现通货膨胀。我可以谈论那个。至于人工智能，我只是觉得，它太具有存在性了。我不知道我是否反应过度或反应不足。我不知道我是否反应过度，反应不足。我不知道，我们是否会在 5 年后还在制作播客，然后就像，是的，一些工作已经消失了，一些工作已经被创造出来。工党政府仍然在从我们身上偷钱，或者实际上，将会损失数百万个工作岗位。将会有超级富裕的人工智能公司。我们将拥有如此多的财富。财富鸿沟可能如此之大，以至于你生活在一个发达的西方国家应该有的封闭社区里，而其他人则在争夺残羹剩饭。我不知道。我真的不知道。但我确实认为，如果你处于职业生涯的后期，并且你开始看到工作消失，而你又没有学习人工智能，你就会被甩在后面。你完蛋了。而且，如果你完全专注于你孩子的成绩，而不是为人工智能承担大部分生产性工作的世界培养他们正确的技能，那么你的孩子就没有准备好。我对此非常确定，希望它不会杀死我们所有人。好了，是的。很高兴谈论这个。嗯，我们将制作更多关于人工智能的节目，嗯，我们很快就会回到其他事情上。爱你们所有人。感谢收听。请务必订阅。回头见。谢谢，康。谢谢。再见。