Transcription
大家好，我是布兰妮·刘易斯，福布斯的一名突发新闻记者。现在加入我的是前国会议员布拉德·卡森。他是“美国人负责任创新组织”的主席，也是“公共第一行动包”的创始人。国会议员，非常感谢您加入我。>> 布兰妮，今天能和您在一起是我的荣幸。我非常感谢今天的时间，因为作为一个真正沉浸在人工智能领域的人，我很高兴能听到您对我们现在所处时刻的看法。因为自2022年ChatGPT爆炸式发展以来，人们对人工智能的感受一直很不一样。有些人已经接受了它。他们已经将其融入到工作和日常生活中。另一些人则说，我甚至不知道人工智能到底是什么，它意味着什么，它包含什么。还有些人说，我真的很害怕。这会彻底夺走我的工作，我将失业。而科技界的一些人士和立法者长期以来一直在对人工智能发出警报。一位人工智能公司联合创始人最近的一篇文章疯传。它叫做“大事正在发生”。文章说，这位联合创始人看到了最新的人工智能模型，这让他相信“大规模颠覆的能力可能在今年年底就会出现，而且它将席卷每一个行业。”那么，为了开始我们的对话，您对我们现在所处的时刻有什么看法？>> 我认为这是一个国家和世界的关键时刻。这项技术将是革命性的。人工智能公司的目标是基本上将我们所做的所有工作数字化。这将产生巨大的社会影响。我们每年花费万亿美元来构建这些模型。世界上最聪明的人正在汇聚北加州来实现这一目标。他们正在取得真正的进展。所以，我认为我们应该非常认真地对待它。您提到的那篇病毒式传播的文章，我认为它确实捕捉到了这一点，这将是历史上人们回顾并称之为文明发展的一个转折点。>> 如果我们真的处于这个革命性时刻的边缘，而我是一名劳动者，我就会想，这对我的意义到底是什么？这对我的工作到底意味着什么？因为正如那篇文章指出的，以及对话所反映的，人工智能不仅仅是针对一个行业，然后人们在那里做出不同的选择。它将席卷每一个行业。它将改变每一个行业。那么，这对劳动力意味着什么？>> 这将产生非常严重的影响。你知道，在几年内，如果我们允许的话，我们可能会进行一次对话，我们的虚拟形象在交谈，也许人工智能会根据我们过去写过或说过的一切进行训练，并实际上表达我们合法的观点。因此，像你我这样的人可能会被重新塑造，你知道，不再需要了。这适用于整个劳动力。所以，我认为这当然会引发关于我们如何赚钱、如何分配福利、福利政策如何组织等问题。但更广泛地说，我认为它会引发对我们自身民主的质疑。我们作为公民的大部分身份都体现在劳动力的参与中。我们向政府纳税。我们期望政府回报我们的税收。你知道，在一个劳动力不再被征税的世界里，也许我们大多数人都不工作了。你知道，在我看来，社会病态可能无处不在，非常普遍。你知道，我们如何打发人们的时间，政府的角色。他们还关心我的想法吗？如果我不再是纳税人，你知道，战争会因此更频繁吗？我们的公民自由会怎么样？这将对整个社会契约提出质疑。>> 我知道，那里有很多关乎生存的问题。当您说这些话时，我一直在想，我从十几岁起就一直有工作。这对于许多不同的美国人来说都是如此。对许多人来说，工作就是他们的身份。人工智能正在威胁这一点。我的意思是，这对人类有什么影响呢？当我们的身份很大一部分可能被剥夺，并可能被这项技术永远改变，而它就在我们家门口的时候？>> 我没有一个很好的答案给你，因为简而言之，我不知道。我想，如果你和硅谷的人交谈，他们会说，嗯，你知道，我们都会整天画画、读书和看Netflix，而且会有某种形式的普遍基本收入，因为巨大的财富将重新分配给我们每个人。但我分享你的担忧，我的身份就是我早上起床，洗澡，去上班，回家，吃晚饭。这不仅仅是薪水，它真的塑造了我的生活，它给了我起床的动力。每个人都爱自己的工作，这当然是真的，但它给了他们一天、一周的某种节奏。而没有这一点，我认为实际上会非常深刻。我个人担心人们不会画画或读书，而是会做一些更病态的事情。>> 这听起来像一个美好的未来，但谁知道这是否会成为现实，你就可以坐在沙发上看Netflix，你可以读书、写作和绘画，但我想知道，我是真的很好奇，因为这将颠覆经济。它将颠覆劳动力。您认为国会议员和参议员现在需要做什么？因为参议员马克·沃纳也是一直在发出警报的人。他说：“我们还没有准备好应对人工智能对我们劳动力产生的影响。人工智能有一些令人难以置信的应用，但它也很可能颠覆我们的经济，并使年轻人更难找到工作。”您认为今天需要制定哪些法律或法规？>> 嗯，我认为国会议员首先需要了解这个问题，对吧？大多数人现在才开始接触人工智能，了解它对我们所有人、对全球的影响。所以，这是他们需要做的第一件事。然后，我认为他们确实需要开始思考，比如，人工智能通用智能（AGI）的未来可能是什么样子。当人工智能出现并取代我们的大部分工作，但它能够完成我们现在被付钱做的认知劳动时，它会是什么样子？这可能是一个你必须进行某种财富再分配的世界。我们将不得不比征收劳动税更征收资本税，因为劳动力参与率已经下降了，你知道，到10%甚至更低。我认为，在机器人技术上线之前，你将不得不进行大规模的再培训工作，为那些仍然可用的工作。机器人技术是一个更长期的项目，可能需要20年。所以，那些仍然涉及人类的行业，比如建筑业，你知道，培训人们去做这个。我认为你必须重新思考在这个国家成为公民意味着什么。这些都是政府尚未解决的非常重要的问题。>> 我上周参加了一个晚宴，参加晚宴的人来自各个行业，人工智能的话题被提了出来，其中一个人问大家都在如何使用人工智能，答案范围很广。有些人说，我不太喜欢人工智能。那不是我的事。我不太用它。我被一个回答震惊了，因为有人说，我每天都在测试它，因为如果你不使用人工智能，那就好比有人说，当谷歌出现时，或者当互联网普遍出现时，或者当计算机出现时，有人说，我真的不会用电脑。那不是我的事。您会建议人们如何将人工智能融入他们的日常生活和工作中？>> 嗯，我说两件事。即使你认为你没有使用它，它也在使用你。因为人工智能现在已经渗透到我们的生活中。你在电视上看的节目，所有那些Netflix推荐，你的社交媒体上的信息流，这些都是由算法决定的。那是一种人工智能。你谈论的生成式人工智能，聊天机器人是人们应该使用的。它们是令人难以置信的工具。它们让我更聪明，更好。我让它审阅我写的东西。我让它审阅我要发表的演讲，以确保我不会犯错误。我问它关于我想知道的事情。你知道，也许我对这个问题不确定，比如，向我解释一下。如果我想问一些非常技术性的问题，如果我想让我学习量子物理学，我没有背景，我可能会让它像我五岁、十岁或二十岁一样教我。它会完美地校准。在这方面，它是一个令人难以置信的工具。如果我们想变得更聪明，并参与到信息经济中，人们就应该使用它。所以，人工智能无处不在。所以，即使你认为你 somehow 避免了它，因为你没有使用ChatGPT，你知道你为你的公寓支付多少钱，你的信用评分，所有这些事情，算法都在决定。而这一切都是人工智能。>> 我经常这样做，我问人工智能一个话题，然后说，“像五年级学生一样向我解释。”它做得很好，能准确地分解出你需要知道的东西。这样你更容易消化。但您认为这将如何影响中期选举，影响2028年的总统大选？您认为人工智能将是一个多么大的问题？>> 我认为它将是一个越来越大的问题。我这周和一个民意调查员谈过，他说，确实如此，如果你问人们他们最重要的20个问题，你知道，负担能力、教育、社会保障，这些仍然是首要的。但人工智能的关注度正在以前所未有的速度增长，这是他在民意调查生涯中见过的最快的。你在实地可以看到人们抗议数据中心，通常是在非常保守的州。但这些人不是软弱的，他们不是自由派，他们是特朗普的选民，他们对此非常担忧。我认为到2026年，当几个月后的中期选举来临时，它将成为一个更重要的问题。到2028年，我认为它将成为这个国家最重要的两三个问题之一。每一位总统候选人都必须对此持立场。这与2024年是一个巨大的变化，在整个竞选过程中，没有一位候选人提到“人工智能”这个词。>> 现在我想，如果我是一个孩子，一个青少年，我正考虑上大学，我甚至在想我是否想上大学？对我来说，这是否是一项明智的投资？如果我去了，我应该学什么？我的意思是，你认为答案是什么？因为让我印象深刻的是，Anthropic的首席执行官最近预测，人工智能将在1到5年内消灭一半的初级白领工作。所以，如果我现在是一名高中生，我看到这一点，我想，你知道吗，我应该改变我的道路吗？我应该改变我的轨迹吗？我应该改变我的职业选择吗？你如何回答这些问题？>> 我认为大学对合适的人来说仍然有价值，对吧？也许你应该学习哲学，因为关于过上美好生活意味着什么的这些问题将比以往任何时候都更重要。如果你我们都在画画和写小说，而我们没有有意义的工作，但我们得到了很多再分配的财富，那么，你知道，你将有大量的时间来思考过上美好生活意味着什么。但我确实认为它将深刻地挑战教育。最好的学校，最精英的学校，你获得的社交网络，你遇到的人，这仍然非常有价值，可能值得。但日复一日，我认为大学将变得不那么重要。你实际上在市场上看到了这一点。发布的职位越来越少。你有一个大学学位作为要求。以前到处都是这样。你必须有大学学位。现在越来越多的工作没有这个要求，因为你可以自学。有新的评估。你实际上可以使用人工智能来评估你的能力。你知道，以前大学学位是我们唯一知道你是否足够认真，你是否拥有大学的人力资本形成的方式。现在我可以为你开发独特的测试，让你做这项工作，你知道，人工智能可以为你评估，你可以大规模地做到这一点。所以我认为教育将是特别受颠覆的行业之一，你将越来越少的人认为大学是他们正确的选择。>> 我现在想稍微换个话题，转向一家人工智能公司和五角大楼之间持续的争斗。人工智能公司Anthropic是Claude的制造商，国防部一直在就军队如何使用人工智能进行激烈争论。这家人工智能公司已经获得了国防部数百万美元的合同，但它希望对其技术和模型的使用方式进行限制。据Axios报道，Anthropic希望确保国防部不使用其技术来制造自主武器或大规模“监视美国人”。现在，五角大楼告诉新闻媒体，它与Anthropic的关系正在审查中。那么，您对此争端有何看法？>> 嗯，我认为目前这没什么意义，因为国防部已经超越了这一点，他们可能会将Anthropic指定为供应链风险，就像华为这样的中国IT公司一样，因此任何与政府做生意的美国公司都不能使用Anthropic的产品。所以，仅仅说，你知道，Anthropic有权规定你如何使用它的产品，这是另一回事。国防部可以选择使用或不使用这些产品，视情况而定。事实证明，Anthropic的产品非常好，人们想使用它们。但他们要武器化这个想法，称像Anthropic这样的公司为华为，并试图阻止它们与几乎所有财富500强公司做生意，因为它们都有政府合同。这毫无意义。这是一次令人难以置信的升级，在美国商业史上我们没有先例。>> 您认为Anthropic有权告诉国防部，嘿，我知道我们有这份合同，但我希望对您如何使用我们的技术施加一些限制吗？>> 我认为他们有。这是合同条款，对吧？你可以说，我希望你用于这个或那个。然后国防部接受或不接受，对吧？这就是讨价还价的意义所在。你知道，人们有权说，你知道，如果我制造一架飞机，如果我制造类似的东西，我会在这些条款下卖给你，如果你不喜欢这些条款，你就不必购买，找一个替代供应商。其他OpenAI和谷歌似乎愿意以不同的条款出售。所以我认为这是公平的市场讨价还价。不公平的是将它们指定为供应链风险，这毫无意义，而且是一次令人难以置信的升级，我认为这试图给它们施加比我认为应有的更大的压力。我知道，正如我在对话开始时所说，关于人工智能有很多不同的观点。我很好奇，您认为关于人工智能的国家对话，甚至国际对话，您认为这是更多的煽动恐惧，还是人们需要更加关注？>> 人们需要更加关注。我认为大多数人的直觉是对的，关于人工智能，就是它可能对我们非常有益。它可以治愈癌症，找到新材料，使我们更富有。它可以自动化人类不喜欢做的最枯燥的任务，对吧？每个人都支持这一点。它可以让我们变得更聪明，就像我们之前谈到的那样，对吧？像五年级学生一样教我，像高中生一样，对吧？这是一个令人难以置信的工具，可以让我们接受更好的教育。同时，他们也看到了它可能被用于负面目的，对吧？我们知道儿童可以通过与人工智能的互动导致自残，甚至自杀。它可以使恐怖分子在开发新型病原体或化学武器方面更有效。它可以用于进攻性网络行动。所以，大多数人认为，嘿，我们也应该有一些限制。所以我认为这就是大多数人的想法。他们不是反对人工智能，但他们也不是支持这种“自由主义”的人工智能愿景，即“不应该有任何规则”。就像，是的，让我们以一种造福人类并防止最坏方面实现的方式来使用这项技术。这就是真正的争论所在。所以人们需要变得更聪明。它将是一项具有巨大影响力的技术，我认为他们的直觉大多是正确的。>> 那么，谁应该负责设置这些限制呢？您认为是由人工智能公司自己负责吗？您认为是由立法者共同努力，说“嘿，这就是公司如何负责任地使用和制造他们的人工智能”吗？还是由用户自己负责，说“这就是我想要如何使用人工智能，这真的不是立法者或人工智能公司的事情”？>> 我认为这三个群体都有作用。人工智能公司需要负责任，值得称赞的是，大多数公司都非常认真地对待这项责任。但政府也应该发挥作用，因为这就是我们如何实现民主问责制。你知道，你不想把人工智能的使用留给这几家公司的四五位领导人，你知道，让他们告诉我们他们的价值观，也许不是中等美国选民的价值观。如果你是用户，是的，你应该思考，我希望我的孩子如何与它互动？我希望他们与它互动吗？你知道，这是一个家庭决定和个人决定。所以，这些层面的每一个都有作用，但政府也发挥着作用，因为这就是我们集体说“我们是否希望人工智能进行大规模公共监控，还是不希望？”你知道，我不想让Dario Ammedday或Sam Altman或Demos这样的主要实验室领导人做出这个决定。他们的直觉可能是对的，但我不想让旧金山的三个决定这个问题。我希望有一个广泛的公众辩论，然后我认为我们将做出正确的决定。我的最后一个问题是，我想回到那篇病毒式传播的文章。就像我说的，它叫做“大事正在发生”。它开始时说，我们正处于那个时刻，就像2020年2月一样，你过着正常的生活。人们在谈论这个COVID，这个正在发生的冠状病毒，但它还没有真正影响到你的生活。所以，有些人非常谨慎，另一些人则说，这不会有什么大不了的。然后，正如我们所记得的，世界在2020年3月中旬彻底改变了，突然COVID就成了你生活的全部。文章的作者说，我们正处于人工智能的这个时刻，科技行业的人，软件工程师们，他们正在谈论它，但其他人还没有那么关注它，因为它还没有那么影响到他们的行业。那么，像您这样深入人工智能领域的人，您会对那些在晚宴上没有听到这些警钟的人说些什么？您认为对话中缺少了什么？>> 我认为很多人认为这是荒谬的。你知道，他们认为，嗯，这就像某种科幻场景，而你，你知道，你似乎近乎幼稚地认为这会发生。我告诉人们，你们必须相信它。他们正在花费万亿美元来实现它。世界上最聪明的人正在取得有意义的进展，只是听听他们的话。我的意思是，听听他们想做什么。他们将以非常深刻的方式颠覆你的生活方式。就像我说的，你必须关注它。很容易把它当作某种“终结者”的幻想或“2001太空漫游”的想法。不，这是非常真实的。所以，你必须做好准备，并为之做好准备。而且它也有好的一面，对吧？有很多积极的方面你可以利用，但你也应该保护自己免受其缺点的影响。>> 并且就这一点而言，因为当我与人们谈论这个问题时，很多时候我都会被认为是“那不会发生，那听起来像科幻小说”。我的意思是，一年后，五年后，世界会看起来截然不同，还是你的电脑只会编写你的工作，而你可以照常生活？我认为你将无法照常生活，对吧？因为他们所处的指数级曲线意味着明年的情况将与今年大不相同。五年后，世界的样子可能无法辨认。我们已经讨论了一些缓解措施。比如想象一下这个政治世界。我们会有普遍基本收入吗？我们会进行财富再分配吗？我们会对这些人工智能公司征税吗？在美国，这是一件难事。所以，就像所有帮助社会适应人工智能的事情，在这个环境中都不是容易在政治上实现的事情。所以，你可能会发现我们所有人都失业，或者我们中的许多人都失业。你会看到巨大的收入不平等。你可以看到民主受到侵蚀，而没有真正的努力来解决这些问题。这是最糟糕的情况。我认为这肯定会在五年内发生，而且可能比这更早。嗯，肯定有很多巨大的问号。随着我们看到人工智能的快速发展，我希望您能回来和我一起进行另一次对话，并与我们谈谈我们现在所处的时刻。但现在，非常感谢您。我感谢您的时间，国会议员。您随时欢迎回来。>> 谢谢。