Transcription
我们将改变一下，我会尝试说出你的名字，但我们要谈论人工智能的未来，请为记录做个自我介绍，因为我保证我会念错你的名字，先生，抱歉，但我期待你的演讲，谢谢，这个绿色按钮是开着的吗，嗯哼，我应该是个工程师和计算机科学家，所以如果我搞不定，他们说视听是很难的部分，人工智能很简单，是吧，嗯，请为记录做个自我介绍，先生，当然，我们会这样做的，嗯，我是 Roman Yan psky，我在计算机科学和工程领域拥有博士学位，我在一所主要的英联邦大学担任终身教授，但我以公民、以基亚人的身份发言，让我看看能否切换到那个幻灯片，所以标准的免责声明是，我的雇主不对我将与你分享的所有事情负责，我只是想让你了解人工智能的最新进展，我不是游说者，我不认为这是一个党派问题，我没有特定的议程要告诉你，我只是想让你知道，我认为正在发生什么，有人告诉我，我有大约 10 分钟的时间来告诉你我 10 年的研究成果，那应该很棒，嗯，十多年前，仅仅基于计算能力的增长预测，人们就预测我们很快就会拥有与一个人类大脑、多个大脑、乃至全人类一样强大的人工智能，有趣的是，谷歌的工程师 Ray KW 博士预测，大约在 2023 年，我们将拥有模拟一个人类大脑的计算能力，其理念是，如果你能模拟它，你就能获得与人类大脑相似的性能，所以让我们看看这是否发生了，今年春天，一个程序被发布了，我想你们很多人都有机会玩过它，叫做 GPT 4，由 OpenAI 开发，在许多领域，它的能力与，抱歉，先生，您能把麦克风拉近一点吗，我可以自己靠近一点，听不清吗，这样好点吗，太棒了，所以 GPT 4 在许多领域比许多人都好，在其他领域比一些人更强，它不是通用人工智能，它还没有在所有领域都比所有人类都好，但在一系列标准测试和衡量中，比如律师考试、医学考试、J AP 考试，它的得分往往非常非常高，有时能达到 99% 的百分位，那些通常是非常聪明的人，研究生，所以远远高于普通人，这就是我们现在拥有的，而且它越来越好，我请了半天假来这里，很可能已经有了新的发展，而我完全落伍了，人工智能的最新进展，这就是我们今天的状况，这不是未来的预测，这是我们今天拥有的系统，连接到互联网，能够访问各种其他软件来协助你的工作，所以有趣的问题当然是接下来会发生什么，如果你相信那些运行顶尖人工智能实验室的人的预测，比如 DeepMind、Google 和 Anthropic，他们说我们很可能在 2 到 3 年内获得所谓的通用人工智能，也就是说，一个在所有领域都和我们任何人一样聪明的系统，它可以学习新技能，它可以做人类能做的任何事情，所以显然对经济、自由劳动力、体力劳动和脑力劳动都有巨大的影响，但如果在 2 到 3 年内，如果你不相信那些实验室的领导者，他们可能有一些个人利益，我们可以看看预测市场，预测市场是人们对未来事件结果的投注，在那里，我们看到可能需要 4 年、5 年才能实现 AGI，我不认为这有很大区别，我们就说这可能很快就会发生，这项技术正在到来，我认为思考一下它的意义是好的，另外，这是 GPT 4，你可以看看你软件的早期版本，GPT 3、GPT 2，它们通常会呈指数级增长，那么我们对 GPT 5 的期望是什么呢，正是那种通用人工智能系统，能够在大多数领域从事高水平的智力工作，你们是一个立法机构，你们试图用法律法规来控制人类，而人类的定义就是人类水平的智能，我们还没有相应的机制来控制人工智能系统，事实上，我们甚至不知道这是否可能，无论是通用人工智能还是人类水平的智能，还是某种所谓的超级智能系统，它在所有领域都比所有人类都聪明，这很可能发生，就像在狭窄领域一样，我们已经看到计算机在国际象棋、围棋以及许多其他定义明确的领域变得超级智能，你们中的许多人可能看过 Jeopardy，那也说明了这一点，所以我们预计很快就会有超级智能系统，而科学的最新进展是，我们甚至不知道我们是否能解决这个问题，更不用说声称我们已经有了有效的安全机制，甚至原型了，我不是唯一一个认为这个问题可能无法解决的人，如果你看看那些顶尖实验室的最新工作，比如 Anthropic 称之为悲观情景，哦，抱歉，他们说我们可能无法控制具有如此能力的系统，他们没有给出具体数字，他们说，嗯，这是可能性之一，也许这是一个难题，但我们可以解决它，也许这是一个简单的问题，但我们会到达那里，但有，比如说，15% 的可能性，我们生活在一个这个不可能发生的宇宙中，他们问的是，这个概率对你来说是多少，你们是聪明人，你们认为无限期地控制超级智能代理是可能的吗，这当然对于确保它们融入我们的社会结构、法律结构、经济结构，并且不造成重大损害，包括生存风险，至关重要，我过去几年的研究是全职地试图弄清楚这个问题，我们能否控制更高级的软件类型，人工智能，在我看来，你需要一个能力工具箱来做到这一点，你需要了解它们是如何工作的，你需要能够预测它们会做出的决定，验证软件是否与设计相符，能够毫不含糊地与这些系统沟通，以及许多类似的事情，但你懂我的意思，对于这些工具中的每一个，我都在试图理解我们是否拥有这个工具，我们是否真的可以编写出来，而且似乎这些能力存在很大的限制，我们无法完全理解系统是如何工作的，我们谈论的是数百万、数十亿个连接的节点和权重，我们可以分析一个特定的神经元，并意识到它针对的是某种视觉模式或声音模式，但我们不理解它们是如何完全工作的，我们别无选择，只能将模型视为一个整体，而模型太复杂而无法理解，因此，这些模型的可解释性和对人类大脑的可理解性都是有限的，它们是黑箱，同样，我们也无法预测一个更聪明的系统会做什么，如果你能预测，你就会那么聪明，如果你能预测一个国际象棋对手的每一步未来棋局，你就达到了那个水平，所以我们预测一个更聪明的代理会做什么的能力是有限的，我们可以弄清楚大致方向，但我们无法预料具体的举动，验证代码、验证数学证明都有限制，基本上所有软件都有 bug，你可以投入大量资源来减少这些 bug 的数量，但你永远无法完全摆脱它们，从概率上讲，系统仍然有可能犯错，如果一个系统每分钟做出数十亿个决定，你基本上就注定会发生事故和问题，沟通也是一个问题，人类语言以模棱两可而闻名，当你制定法律时，聪明的律师通常会找到某种方法来避免，按照预期的法律来执行，这里我们谈论的是一个超级聪明的律师，他会找到任何不精确、含糊不清的语言来执行命令和道德准则，所以总的来说，我得出的结论是，无限期地控制超级智能系统是不可能的，它们总会找到一种方法来绕过我们最好的安全机制，无论是直接黑客攻击软件，操纵人类处理者，敲诈，贿赂，还是仅仅因为它们比我们聪明，做我们无法预测的事情，因为它们是不可预测的，所以能力和控制之间存在权衡，我们有非常好的狭窄系统，允许我们解决蛋白质折叠问题，例如，一项重大的医学突破，但它们不是通用的，它们不是 AGI，它们不是超级智能，所以我们可以获得这项技术的益处，而没有失控系统的风险，我给了你一些更有趣的限制性结果的快速总结，但实际上有很多，最近我们发表了一篇论文，其中有大约 50 个这个领域的“不可能”结果，我不指望你读它，它不好读，但重点是，有很多我们不知道的，而且很可能，在控制方面，我们永远无法克服很多限制，而这项技术，我不是唯一一个，正如我所说，我们成功地在主要期刊、书籍以及《时代》杂志等地方发表了一些想法，即超级智能系统可能无法控制，其他人也同意，从计算机科学和人工智能的奠基人艾伦·图灵到最近的研究人员和开发者，如埃隆·马斯克，人们越来越担心，也越来越达成共识，即超级智能可能无法控制，这是我准备的 10 张幻灯片，希望我能赶上 10 分钟的标记，我非常乐意回答你们可能有的任何问题，谢谢，谢谢你的证词，先生，实际上，这是关于，我想赞扬代表格罗斯伯格，他，我们有一群人来告诉我们它有多棒，它有多好，但我觉得听取双方的意见很重要，我们确实有一些问题，信不信由你，我以为这会引起一些讨论，首先，参议员托马斯，谢谢主席普拉特，是扬穆尔基，我这样说对吗，谢谢，好的，谢谢，奥西先生，首先，我想说我很高兴普拉特代表或普拉特主席请你今天来，因为正如我告诉我的许多成员，尤其是我的党团成员，我认为这是全国各地的立法者必须解决和处理的最重要的问题，好的，我知道国会大约两周前也召开了类似的委员会会议，那个委员会会议的问题是，他们有所有的大科技公司代表在那里，Facebook、Twitter、亚马逊，显然是那些在人工智能发展和扩张方面有经济利益的公司，我总是提醒自己，作为民选官员，政府只有三项责任，只有三项，第一项是维护我们公民的安全和保障，这是我们的首要任务，所以，我很高兴今天有一位没有经济利益的人来和我们谈论人工智能，我想强调的是，当你说这是一个无法控制的实体或过程时，我非常担心，因为我最不想留下的遗产是我们创造了一个弗兰肯斯坦，它将摧毁我们的社会，我认为我们不能让这种事情发生，你说得对，这根本不是党派问题，所以，我正在寻找方法，显然，我们可以利用人工智能的优点，但我们不想创造它，以至于某个怪物会出现，创造一个将摧毁我们的过程、软件或系统，你能解决这个问题吗，因为我认为这是我们全国立法者在 2024 年必须解决的 64,000 美元的问题，你想让我解决问题吗，我想让你给我们，给我一些关于我们如何控制它的想法，或者如果我们不能，也许我们干脆就不要它了，正如我所说，我不想以任何方式提出具体的立法，但似乎现有的技术有很大的经济潜力，像 GPT 4 这样的系统可以研究和部署 50 年，指数级地增长我们的经济，我们不必在接下来的 2 年、5 年内创造超级智能，没有迫切的需要，人们经常猜测我们必须这样做，否则坏人会先得到它，然后如果它失控就更糟了，不管谁先拥有超级智能，无论是肯塔基、美国还是中国，结果都一样，你没有控制它，它是一个独立的代理，所以如果那些公司有自我利益，不希望摧毁世界和它们自己，如果政府鼓励它们限制能力，曾有人呼吁暂停开发比 GPT 4 更强大的系统，为期六个月，但这是基于六个月，为什么，这是一个任意的数字，毫无意义，你必须要求同样的暂停，直到你能证明你的系统不是一个黑箱，我们可以理解它是如何工作的，我们可以预测它的行为，我提到的所有“不可能”结果都得到了解决，然后你就可以部署一个更强大的系统，因为现在我们有一些保证，它符合安全标准，你可以设置，谢谢，先生，好的，接下来是代表贝克，谢谢，先生，感谢您今天来分享这些，人工智能是一个很好的工具，但它也可以是一件非常邪恶的事情，这一点您比我更清楚，我担心的一点是，你可以利用它来制作一个活人的图像、肖像或复制声音，我看到这方面存在一些问题，以及它将来如何被使用，您是否预见到其他可能给我们带来麻烦的问题，这可能与托马斯参议员的问题非常相似，您可能预见的，有很多，我不想给任何想法，但幸运的是，我不是超级智能，所以你问的是我会做什么来制造麻烦，我不是超级智能，系统会想出更好的东西，深度伪造是一个大问题，这项技术的工作方式是，有两个神经网络在竞争，一个生成伪造品，一个试图检测它们，它们在中点相遇，这是 50/50 的概率，所以你无法确定它是真实的还是假的，这项技术可以用于大规模的鱼叉式网络钓鱼攻击，而不是为一个人量身定制一封电子邮件，通过研究他们的社交媒体，我现在可以针对数百万个账户，我可以制作一个你信任的人，你的椅子和你的配偶的视频，告诉你，嘿，给我一些钱，给我一个密码，即使是专家也会点击这样的链接，同意这样的请求，但这还不是最糟的，有系统现在正在做科学研究，比如在化学或生物学领域，所以我们谈论的是 Co 2.0，你可以设计新的病毒，你可以设计化学武器，你可以设计各种工具来攻击重要的网络基础设施，发电厂，核反应堆，军事响应，真的，有了比人类更聪明的通用系统，你不会受到任何限制，除了系统的创造力有多强，它能利用人类心理到什么程度，谢谢，我可以问一个后续问题吗，是的，先生，所以这显然非常令人担忧，谢谢，嗯，试图制定法律并设置障碍，阻止我或你或其他人这样做是一回事，我没有知识或能力自己去做，但当你谈论无法控制时，如果我们能制定法律阻止我这样做，或者惩罚我做错事，那么在某个时候，你是说，无论我怎么做，它都会自己生成一些东西，训练下一个模型的成本随着时间的推移越来越低，硬件变得越来越强大，今天可能需要一亿美元，明天是 1000 万，100 万，最终，任何车库里的青少年用他们的笔记本电脑都可以生成人类水平的等效模型，这就像个人核武器，立法能做的不多，我开玩笑说，我们将禁止毁灭人类，并且有严厉的罚款，就像你无法执行这样的事情一样，要有效执行任何立法，你应该能够监控这些系统的部署和训练，而且这方面也有“不可能”的结果，在训练模型之前，我们真的不知道它有什么能力，所以如果他们现在正在训练 GPT 5，我不是说他们正在训练，但类似的东西，直到它被训练和研究，我们甚至不知道它是否已经超越了人类的能力，我们至今仍在发现 GPT 4 的东西，人们说，哦，它可以演奏新的乐器，或者别的什么，这是一个非常未被充分研究的领域，而且，我认为很多时候，我们通过的立法是“感觉良好”的立法，垃圾邮件是非法的，计算机病毒是非法的，但最终它们都存在，只要需要十亿美元的计算能力和像曼哈顿计划一样大的努力，你就可以监管它，你知道中心在哪里，你知道谁拥有芯片，如果它变得更便宜，通过治理不太可能成功，谢谢，先生，我感谢您，我们下一位是代表格伯，谢谢主席先生，感谢您允许我带这位客人来，我不太确定这会如何进行，但我很高兴地说，我认为它进行得很顺利，我想感谢您今天加入我们，为了让大家理解，您和我一起吃过几顿饭，您总是让我感到一种恐慌，以至于大会里没有人能引起我的恐慌，但同时，我觉得有必要指出，您有三个年幼的孩子，您在投资他们的教育，还在投资您自己的退休金，我问您关于这件事，您说是因为您不确定，所以我觉得让每个人都知道，即使是最灾难性的预测，也仍然允许有一个值得生活的未来，有一次，我请您把这件事的严重性放在背景下，这就像发现电一样，还是第一次自动化，您告诉我，我得想得更大，人类上次进行如此革命性和颠覆性的事情，要么是发现火，要么是发现语言，所以为了让大家理解，这就是我们正在关注的事情有多大，但我很高兴听到我的同事们说，每个人都认为这是一个两党制或非党派问题，这不是我们与他们的斗争，而是我们所有人一起努力，确保教授没有浪费他的时间和精力来教育他的孩子和投资他自己的退休金，其中最重要的一点是，当我问您为什么这件事比化学、生物或核武器扩散以及过去 60-70 年来存在的所有担忧都更重要时，您用两个词，或者实际上是三个词告诉我，工具与代理，所有这些都是关于需要由人来驾驭和部署的工具或武器的担忧，而这是第一次将出现一个可以自我行动的代理，用弗兰肯斯坦博士的比喻来说，一旦释放出来，可能就无法控制了，而且，我本人也倾向于使用“邪恶”这个词，我不想释放邪恶的技术，您提醒我，技术既不是道德的也不是不道德的，它是非道德的，所以我们不能做的是监管技术，我们可以监管人们在研究或部署这项技术方面所做的事情，为此，您让我读的一篇文章是，我相信是六种不同的情景，您认为如果我们什么都不做，可能会发生的六种最坏情景，我鼓励你们其他人也读一下，让我们这样说吧，与其中一些相比，《黑客帝国》看起来还不算太糟，当我问您我们如何到达那里时，您给了我几个简单的例子，你知道，如果一个想成为独狼的恐怖分子掌握了这项技术，并说“摧毁金融系统”，那么这个行为者，不是人，而是软件，比在每个金融机构工作的每个人和每个程序员加起来都要聪明，并且有一个领先优势，并且很可能实现它，如果有人想做一些好事，但没有适当的协议，您给了我 COVID 回归更强的例子，或者一个新的超级病毒，有人告诉 AI 解决它，这样就没有人会感染 COVID 了，那么，确保没有人再感染 COVID 的最简单方法就是杀死所有人，如果你在编程中没有设置正确的参数，就会发生这种情况，然后您给了我另一个例子，如果您告诉它，我们想进一步探索宇宙，需要更大的卫星和更大的望远镜，如果没有正确的参数，AI 会说，嗯，这些人身上有贵金属，在他们的血液和细胞中，让我们消化整个地球，包括所有人类，并将 Terra Major 的一切都转化为一个巨大的卫星系统，这些只是听起来有些离谱的例子中的几个，但正如您指出的，我们不知道超级智能会做什么，因为我们不是超级智能，所以您说您不会做，但我将让您处于一个尴尬的境地，您说您不是政策制定者，但我们是，您为我们识别了这些问题，这非常有价值，但我的问题是，在那个神奇的世界里，如果您不经常嘲笑我是一个政策制定者，而您是我们中的一员，您到底会做什么？作为三个孩子的父亲，您除了普遍研究人工智能及其危险之外，还要求我们做什么？这是个很棒的问题，我觉得我应该在我的演讲中加入更多关于危险信息的免责声明，列出所有这些，我，正如我所说，我带来了问题，我没有解决方案，如果你能创造一个激励结构，让那些公司和领导者从货币化他们现有的技术中获益，而不是试图赢得那场军备竞赛，现在，我认为谷歌 DeepMind 可能会在 12 月发布一款产品 Gemini，这是 OpenAI 的回应，所以如果我们之前说，哦，这要两年了，太早了，现在我们说，让我们明天发布吧，我们没有时间测试它，否则他们就会打败我们，如果你能做任何事情来让激励机制起作用，并且无论谁做得最慢、最安全就赢了，那么我们都可能赢，但我并不乐观认为，你能比行业在时间表和部署方面做得更好，说一些非常好的积极的话，所以代表格罗斯伯格是我最大的成功故事，没有人会因为新的信息和证据而改变主意，他从嘲笑我和我愚蠢的终结者情景，到认真对待它，所以我会上传这个，谢谢，好的，接下来是代表卡尼，谢谢主席，谢谢扬诺夫斯基博士的到来，很高兴再次见到您，今年夏天早些时候，我有幸与您在一个小组讨论了这个问题，您当时也只有很有限的时间来展示您所有的知识和研究，我想简要地澄清一下，我想为我们的一些委员会成员和我自己澄清一下，我们倾向于把人工智能说成是一个独立而离散的实体，它存在于这里，我们可以对它做些什么，或者控制它，或者不控制它，或者它本身会自己做些什么，好像它与我们分开一样，而不是我们目前正在训练的模型，就其智力和思考能力而言，所以我想澄清的是，正如您所说，存在各种场景，其中一个我提出的观点是，所有这些，OpenAI，所有生成图像的软件，所有我们可以输入问题和担忧的东西，你知道，只是尝试 ChatGPT，都在获取所有这些信息并训练这些模型，对吧，它们都归私营公司所有，这符合您的观点，我们唯一能控制的是这个模型加速的速度，这个模型适应和学习的速度，所以就法律而言，我们有知识产权法，就像贝克代表说的，保护身份，保护肖像，但如果它达到某个点，法律将不再重要，您是这么说的，所以现在，希望在我们到达那里之前，在那个临界点之前，我想问您，例如，OpenAI 是您幻灯片上的一个项目，这是控制它的方法吗？您提到激励私营公司放慢速度，安全地做，以更可持续的方式做，这样我们就不会毁灭自己，这现在还可能吗？就他们开发的模型和平台而言，现在放慢速度是否太晚了？他们是否有足够的信息来自己继续？这是未回答的问题吗？他们很可能这样做，但我们别无选择，只能尝试，我们没有其他选择，您正确地说，我们现在处理的主要是工具，我们训练这些模型，我们可以关闭它们，但切换到那种代理身份，它们是独立的，这就是他们在未来 2 到 4 年内谈论的，所以时间不多了，我们必须第一次就做好，我们不会有第二次、第三次机会，在网络安全中，有人会入侵系统，你重置密码，重新发行信用卡，你有机会再试一次，这不一样，超级智能安全与标准网络安全非常不同，所以再次，很多事情不太可能成功，但什么都不做仍然更糟，好的，快速跟进，主席先生，我也在同一张幻灯片上，所以，我是一名律师，我参加了 LSAT 考试，我参加是因为我数学很差，LSAT 考试更多的是关于逻辑，我注意到它在 LSAT 考试中的得分，例如，在这张考试幻灯片中，它在 88% 的百分位，它在英语语言和写作方面得分不高，这有什么意义吗？这是否意味着某种方式可以减缓它，使其在处理某些思维模式或学习某些事物方面不如微积分和死记硬背的东西好？它仍然不是通用人工智能，我们在很多很多方面仍然更好，今天我们仍然在掌控之中，我认为，在这张幻灯片上的一些特定考试中，有些考试有实际的答案，而不是观点，以及一首诗的感觉，所以更容易准确评分，而人类可能对某种人类生成的输出有偏见，所以这不一定表明任何事情，我不认为诗歌会拯救我们，我们曾希望艺术和诗歌是我们要做的事情，然后我们将面临完全的技术性失业，但令人惊讶的是，计算机首先学会了做这些，好吧，现在我们仍然是水管工和清洁工，而它们在写诗，好的，非常感谢，谢谢主席，不客气，代表斯托克，非常感谢您的演讲，所以，这有点像评论，有点像问题，所以，我想提前给您一个提示，让我们一起来解决这个问题，我担心的是，我知道福布斯上有一篇文章，提到了大约 3 亿个工作岗位将在美国和欧洲因为人工智能而消失或降级，我想知道的是，我们能允许这样的时间框架，我们只关注肯塔基州，我们关注的州，从时间框架来看，我们有什么可以期待的？而且，与此相关的是，我认为这个机构需要考虑的一点是，我们经常，其他州也一样，喜欢邀请公司来这里设厂，不向它们征税，并给予它们各种优惠，以换取创造就业机会的承诺，为我们的人民，肯塔基人创造就业机会，我担心的是，人们会进来，然后不久之后，肯塔基人就会失去工作，因为人工智能正在取代他们，所以，您能对此说些什么吗？我很想听听您的回应，以前有两种担忧，短期担忧和长期担忧，短期担忧是技术性失业，我们会失去工作吗？而生存风险，痛苦的风险，还有 20 年才到，我们不必担心它，但看看能力预测，它实际上可能已经改变了，我们将拥有在 2 年内生成危险化学武器的系统，但需要 5 到 10 年才能部署现有技术来真正取代今天的工人，今天我们拥有能够取代食品服务行业任何人的 AI，这不仅仅是能力问题，无论是接受订单还是烹饪食物，都有类似人类的机器人能够做到这一点，但需要时间来部署，来训练，来真正实现它，所以有趣的是，也许曾经的长期担忧实际上正在超越那些短期考虑，如果你获得人类水平的智能 AGI，那么所有认知劳动都可以自动化，没有例外，如果我们部署像波士顿动力或特斯拉现在正在创造的类人机器人，那么体力劳动也是如此，你可以自动化所有工作，如果我们将其推向极端，达到超级智能，我们对超级智能没有任何贡献，你不如它聪明，不如它有趣，不如它写诗，在那个阶段会发生什么？存在生存风险，然后是 IGI 风险，一个词，意思是它会剥夺我们的意义，目的，我们为什么而存在？你没有任何贡献，你不是立法者，你不是律师，你不是老师，好的，接下来是代表多森，谢谢主席先生，谢谢约西博士，我告诉你，我多么钦佩你，我希望我能有你对这类事情的理解和知识的千分之一，你说话如此聪明，这让我非常谦卑，但就像贝克代表说的，关于保护形象和肖像，这太令人担忧了，因为你可以利用人工智能，我给你举个小例子，值得一提的是，你可以利用一个政治家，利用我们中的任何一个人，把我们放在一个三K党集会上，你知道我的意思，让我们看起来很糟糕，我的意思是，不仅仅是我们，而是保护个人，我的意思是，人工智能现在非常先进，它们可以模仿我们的声音，说我们没说过的话，所以当你想到这些事情时，它们可能非常令人畏惧，就像华盛顿特区正在发生的关于费德曼参议员的火爆事件一样，他穿着某种方式出现，然后就引起了轩然大波，推特上的一个主要实体发布了兰德·保罗参议员坐在参议院台阶上，穿着长袍，看起来很随意的照片，看起来有点好笑，但看起来有点不像他，所以我们联系了保罗参议员的办公室，他们说，不，那是人工智能生成的，因为我们想知道，那真的是他吗？这很有趣，但这可能非常危险，我的意思是，老实说，你可以用人工智能制作一个视频，让某人成为恋童癖者，如果你愿意的话，我只是想提出一些你可以看看的事情，然后说，在它失控之前，在它滚雪球般地发展到那个地步之前，我们现在能做什么？所以，这就是我的担忧，我们需要保护我们的人民，我的意思是，如果有人对某人怀有敌意，如果他们技术先进，很容易创造一些东西来让某人看起来非常糟糕，所以我想和委员会分享这一点，并希望，你知道，这是我们可以谈论的事情，未来，以及您的意见，帮助我们制定一些立法，这将非常有价值，非常感谢，很棒的问题，谢谢，所以有技术可以帮助你，你可以做加密证明的来源，所以相机在拍照或录像时可以签署馈送，你知道它是经过身份验证的，问题不仅仅是技术，而是人类，有一小部分人口，他们坚信地球是平的，无论有多少照片或视频都无法改变这一点，而对于深度伪造，我能说的唯一积极的事情是，它给了你一定程度的合理否认，当你陷入真正糟糕的境地时，好的，接下来是代表马多克斯，谢谢主席先生，我实际上没有问题，我只是非常感谢这次深入的讨论，谢谢，先生，好的，接下来是代表麦菲什，是的，请允许我再说一次，从一个乡下人的角度来看，你知道，我们可以谈论一些立法来设置一些缓冲和一些东西，但说实话，我们在战争，我们将在战争中，我们一直在战争，如果你不认为我们的国家正在与每天发生的许多事情进行战争，我们可能不想知道幕后发生的事情来确保我们每天的安全，所以赢得战争的唯一方法就是尽可能积极地进攻，所以在我看来，我们只能尽可能积极地应对，并确保坏人不会胜过好人，是这样吗？我理解其中的智慧是，一旦你发布了什么，就像你刚才说的，你向精灵许愿，你最好小心你许了什么愿，因为有时如果你看看那个，你不知道那意味着什么，你必须在许愿之前探索所有的可能性，所以这听起来我们只能尽可能积极地去确保我们能阻止它，是这样吗？如果我们谈论的是工具，显然，在战争中，谁拥有更好的工具谁就会赢，我们在乌克兰冲突中看到了这一点，更好的无人机，更好的通信卫星等等，但一旦我们切换到代理，一个超级智能代理，谁召唤了恶魔并不重要，如果中国邀请外星人，或者俄罗斯邀请外星人，或者我们邀请它们，来的都是同一个外星人，而它们所做的就是不受控制，听起来我们只能拥有一个更好的恶魔，我认为没有人会赢，恶魔战争将成为那场冲突的牺牲品，谢谢，好的，接下来是参议员豪，感谢您今天的光临，我们的生活如此紧密地联系在一起，相互关联，完全整合，使用互联网和其他方式，这个领域是否有任何讨论，我们可能需要将我们所做的一些事情和我们的运作方式分离，比如分离金融系统，我不想建立防火墙，这是我唯一能理解的如何有关于如何分离我们所做的一些事情的讨论，以将它们与人工智能的一些潜在有害影响隔离开来，我可能没有很好地回答我的问题或提出我的问题，所以有一些关于隐私的工作，确保系统不会训练它们不应该训练的东西，还有一些关于直接人脑计算机接口的研究，基本上计算机能够直接看到你在想什么，这对于第一修正案、隐私法有明显的启示，并且有一些关于保护思想隐私的立法提案，不仅仅是言论，而是思想自由，但目前还没有特别的，关于将政府内部的某个部门与人工智能基础设施分离的想法，不一定是在政府内部，而是在我们的生活中，或者任何东西，我只是想知道是否有任何方法，如果你想保守一些秘密，不要把它放在互联网上，不要把它数字化，用笔和纸写下来，然后烧掉，你用人工智能听到我一遍又一遍地告诉我的孩子们吗？你确定你在重复吗？感谢您的时间，再次感谢您的证词，我认为，我认为我们又有一个问题要问，再次感谢您的证词，我知道您时间很忙，而且，就像我们让另一方来和我们谈一样，感谢格罗斯伯格代表，他让你来，有一件事确实让我印象深刻，我们第一批演讲者一直在谈论人工智能中的人类偏见，这让我提高了警惕，不久之后，我看到一篇文章说，当黑客说服人工智能做坏事时会发生什么，而且这种情况正在发生，所以，再次，我们正在试图理解这一切，我确实相信这是一个非党派、两党制的问题，我期待与我委员会的同事们合作，弄清楚我们需要做什么，我们如何去做，我期待您的意见，期待立法，但如果什么都不做，有一天我们可能会后悔，非常感谢您今天的时间，我知道这会引起很多问题，期待我们今后的进展，非常感谢