Transcription
大家好。嗯，我想对发生在坎伯里奇悲剧之后，那些非常令人不安的媒体报道，给一些回应。我深受触动。
那是埃文·所罗门，联邦人工智能部长。他提到的媒体报道是，坎伯里奇枪击案的凶手在枪击案发生前几个月就被禁止使用OpenAI了，OpenAI是ChatGPT背后的公司。
2月10日，杰西·本·鲁特塞尔杀死了她的母亲和兄弟，然后去了坎伯里奇中学，在那里杀死了五名学生和一名教育工作者，最后自杀。去年6月，OpenAI因违反公司使用政策而暂停了范·鲁特塞尔的账户。
《华尔街日报》率先报道了此事，称这些互动描述了涉及枪支暴力的场景。当时，OpenAI决定不向执法部门报告这些互动。
当我读到这些报道时，我立即联系了OpenAI，以获取对情况的解释。然后，我召集了来自美国OpenAI的高级安全团队，让他们来到渥太华，解释他们的安全协议，以及何时升级以及他们向警方升级的阈值，以便我们能更好地了解正在发生的事情以及他们所做的事情。
包括加拿大在内的世界各国都在努力应对如何监管人工智能公司及其产品。加拿大人首先期望他们的孩子，特别是他们的孩子，能够得到保护，并且这些组织能够以负责任的方式行事，我将为此努力。
但是，政府究竟是如何努力确保这一点呢？泰勒·欧文在这里为我详细介绍这一切。他是麦吉尔大学的副教授，也是麦吉尔媒体技术与民主中心的创始主任。他还主持了《环球邮报》的播客“像我们一样的人工智能”。我是谢丽尔·萨瑟兰，这是《环球邮报》的“分贝”。
你好泰勒，非常感谢你来参加节目。
你好，谢谢你邀请我。
那么，首先，我们从联邦部长们与OpenAI安全代表的这次会议中学到了什么？
嗯，我们公众还没有学到太多。嗯，我们所听到的只是两位在场的部长发表的一些简短的记者会评论。嗯，但我认为更广泛地说，会议的举行本身就很有趣。嗯，这告诉我们，嗯，政府非常认真地对待这个问题。我认为你已经看到了政府在谈论人工智能的方式上发生了真正的语气转变。嗯，从一个仅仅是广泛采用的问题，我们都应该使用它，到现在我认为是真正受到公众安全和公民安全担忧的动摇。所以这是一个重大的区别。他们需要召集他们来获得这些答案本身就很有趣，因为它表明这些答案并不是已经知道的。这些是我们留给公司自己来决定的事情。嗯，我认为公司本身的姿态是令人震惊的。从人工智能部长的评论中可以清楚地看出，他们在这次会议中没有得到他们想要的答案。
是的。当你提到我们的人工智能部长埃文·所罗门部长埃文·所罗门的评论时，他说，引用，“我们对目前没有提出任何实质性的新安全措施表示失望。”结束引用。嗯，所以所罗门部长明确表示，由于皇家骑警的调查仍在进行中，他们不会具体讨论坎伯里奇的案件。那么，他们究竟希望从OpenAI那里学到什么呢？
嗯，这里有几件有趣的事情。嗯，首先，OpenAI在被召集开会两天后就有了全新的安全协议的想法，我认为这表明我们对公司自己做这些决定留下了太多的空间。嗯，而且可能也掩盖了更大范围的监管和政策对话，这些对话需要围绕这一点进行，不一定是在OpenAI方面。听起来他们正在寻找明确的迹象，说明公司在监控聊天时使用的阈值是什么，他们是如何监控聊天的，是人工智能还是人类，以及当OpenAI的12个人将这个特定的聊天标记为公司应该与加拿大执法部门沟通的内容时，做出了什么决定。然后，为什么有人或一些人决定不这样做？
对？我假设有一系列自动和人工的级联决策，政府想要一些背景信息，而且，我需要明确的是，我认为他们要求这些背景信息是正确的。我更担心的是，我们依赖公司自己来告诉我们，而我们却不知道，对我来说，这才是真正的缺陷所在。
公司现在对报告令人担忧的内容有什么责任？比如它是如何运作的？
嗯，目前他们没有任何责任。
这似乎非常令人惊讶。
是的，除了我们没有对科技公司和社交媒体公司施加任何义务。人工智能是一个非常新的现象和新的技术能力。所以，我们甚至没有对已经存在了近20年的公司施加这些要求，更不用说那些目前存在不到两年的公司了。所以这并不奇怪，但当你将其与其他行业和我们经济的其他部门相比时，它就显得很奇怪了，比如金融机构对欺诈和非法金融交易都有各种披露要求。医生和老师在某些情况下有义务，有时也有法律要求打破保密。对？所以我们在其他领域也这样做。
嗯。我们只是非常不愿意在数字领域这样做，特别是当它涉及到私人空间或被认为是自由言论非常灵活的空间时。嗯，我认为许多加拿大人会惊讶地发现，有人工智能正在扫描他们的聊天内容，并标记某些类型的内容。
但这显然正在发生，对吗？在某种程度上，我们正通过这个可怕的例子来学习，对吗？就像我认为我们与聊天机器人对话所形成的规范非常亲密和个人化，这是我们需要承认的。这不像两个人互相交谈。这是一个与人工智能交流的人，而人工智能正在创建看起来像人类交流的内容。这是一个非常不同的事情。
嗯。然而，它已经成为一种规范，因为我们人类非常容易认为这类似于人类交流。已经形成了一种规范，我们将像对待人类交流一样对待它，并且我们会说出我认为目前是保密的事情。我认为人们应该知道，当他们与聊天机器人交谈时，这不是一个完全保密的空间。也许我们的规范会因此而演变。
在这种坎伯里奇的特定情况下，皇家骑警已经多次因精神健康问题和枪支扣押而前往枪击者的家中。嗯，所以执法部门已经与杰西·范·鲁特塞尔有过接触，即使没有OpenAI的标记，对吗？所以，
是的。
这让我想到了责任问题，对吗？不仅仅是这个案子，还有其他案件，当涉及到非常有害的情况，这样的悲剧时，这些公司应该承担多少责任？
我认为这是这次对话的一个非常重要的框架，而且与我们多年来一直在讨论的关于社交媒体对孩子的成瘾和心理健康影响的对话非常相似。我认为这两者都可以是真的。社交媒体可能导致有害的成瘾和心理健康问题以及自残倾向，但它们不一定是唯一的诱因。
嗯，但这并不能免除可能导致这些问题的技术责任。我们已经通过美国民事诉讼的披露，看到了一些关于自残的非常令人担忧的对话。嗯，所以我们确实知道，这些聊天机器人有可能以有意义和实质性的方式说服人们去做非常有害的事情。
嗯。有一位在谈到OpenAI时措辞非常强硬的人是BC省省长戴维德·埃比。
从外面看，似乎OpenAI有机会阻止这场悲剧，阻止这场可怕的生命损失，阻止不列颠哥伦比亚省出现死去的孩子。我很生气。他呼吁联邦政府制定关于公司何时必须通知警方其平台活动的规定。你认为这应该如何运作？比如，报告令人担忧的内容的阈值应该是多少？
嗯，简短的回答是，我不知道实际的阈值应该是多少。嗯，因为我认为这是我们正在处理的真正新事物。尽管如此，我认为两件事需要并存。一种可能是某种形式的强制标记，用于最令人发指的可能时刻。
嗯。
这是公共安全、皇家骑警以及可能还有加拿大安全情报局需要阐述的问题。
是的。因为，因为谁来决定呢？对？因为那可以
谁来决定呢？嗯，执法部门总是想要更多。这是我们所知道的，对吗？这是社交媒体监管的历史。而且我认为，那些担心执法部门有时如何使用这些数据，或者可能滥用这些数据，或者政府访问我们看似私密的对话的隐私影响和民主影响的人，他们有合理的反对意见。毫无疑问，这是一个隐私问题。
嗯。
另一方面，我认为我们在监管方面应该要求这些公司做很多事情，以确保我们的国家的产品在功能上有一个基本的安全和透明度。这与我们对待社交媒体的方式非常相似。我们只是必须给他们施加更多的义务，让他们在我们使用他们的产品之前证明他们的产品是安全的。我认为这必须与这些非常严格、具体且高度有限的刑事司法标记机制并存。
我们将很快回来。让我们来谈谈监管，因为坎伯里奇枪击案的情况并不是人工智能聊天机器人第一次出现安全问题。我们已经看到美国有多起针对公司的诉讼，原因是青少年在与人工智能聊天机器人交谈后自杀。我们看到有人被这些聊天机器人卷入妄想，它们会煽动他们，让他们越来越深地陷入妄想。
这导致人们，包括你自己，呼吁政府在人工智能监管方面做更多工作。那么，让我们来谈谈加拿大正在做什么。你能给我介绍一下政府迄今为止尝试过的一些措施吗？
尝试是关键的词。已经提出了或提交了各种立法，但没有一项获得通过。所以我们目前还没有在实质上尝试过任何事情。
嗯。
然而，已经讨论了各种监管人工智能的方法。最初是前政府的C27隐私法案中的ADA条款。
人工智能和数据法案。对？是的，没错。这在围绕我们如何现代化数据隐私法的多年咨询过程中，在后期被添加了。挑战在于，它很大程度上是基于欧盟的《人工智能法案》，而该法案在ChatGPT推出前不久发布。所以这说明了政府在这里面临的挑战，对吗？在我们知道聊天机器人是什么之前，就已经设计了一个人工智能安全监管机制。
政府还做了另一件事，我认为这对我们今天的谈话更重要，那就是多年来他们制定了一个在线危害框架来监管社交媒体。而且我实际上认为，对于我们现在看到的消费者人工智能工具，比如聊天机器人，以及其他消费者人工智能产品，这是一个更适用的模型。而这个框架，在线危害安全框架，基本上只是说，公司有义务确保并证明他们的产品，他们的消费者产品在使用前是安全的。这将由一个独立的监管机构监督，该机构具有一定的审计能力，能够了解这些系统，并能够对不合规的公司进行处罚。所以，我认为你提到的自残和心理健康问题的例子是真实的，但有一些更实际的例子可以说明这如何运作。
另一个在过去几个月里发生的大事是XAI的Grok功能，它允许人们在社交媒体动态中脱掉人们的衣服。在几周内，这基本上是一场重大的危机，因为加拿大的青少年用它来在他们的公共消息动态中互相脱衣服。对？所以，如果我们有这个在线安全监管机构和系统，那么它就不可能通过风险评估，对吗？就像一个允许你脱掉衣服的新功能，它会对加拿大社会构成风险吗？嗯，显然它会被标记出来，如果他们没有展示如何减轻这些风险，它根本就不会被允许在加拿大部署。
这个在线危害法案的进展如何？因为我知道它在2025年1月在议会中被搁置了。现在进展如何？
嗯，有一个积极的讨论，关于重新提交一个版本。我的观点是，他们在这方面做得太慢了，而且没有像对待其他政策优先事项那样给予它应有的紧迫性。
嗯，现在情况可能会改变，因为发生了这样的事件。在我看来，认为在与美国进行贸易谈判期间对科技公司施加监管风险太大的政治立场，我认为这是政府犹豫不决的原因之一，但随着这些问题一次又一次地被提出，这种立场越来越站不住脚。
那么，这是否是独一无二的挑战，因为这些公司，其中大多数公司都位于美国？
绝对是。嗯，而且有两个有些不同的原因。嗯，既因为它们有商业化其产品和数据的经济激励，也因为美国政府，它对我国表现出一些敌意，对这些数据拥有相当广泛的访问权限。
你提到了数字监管机构。加拿大应该遵循一个什么样的模式？
是的，有三种尝试过的方法。嗯，在所谓的同类民主国家中，欧盟的《数字服务法案》，英国的《在线安全法案》以及澳大利亚的电子安全专员。在我看来，加拿大提出的版本，即最初的C63，借鉴了这三种模式的优点，并构建了一个比这三者都更好的迭代产品。所以我实际上认为，如果我们要做类似在线危害法案的事情，并将其纳入聊天机器人，我认为这是关键，需要做的是包括
它现在不在里面，它只是大型社交媒体平台，比如Instagram、TikTok和YouTube，但它可能会错过当前在线危害的性质以及公民目前认为容易受到攻击的程度，将聊天机器人排除在数字安全计划之外。
这些事情会继续发生。嗯，毫无疑问。而且我曾是政府的在线人工智能特别工作组成员，我在秋季提交给它的文件就指出了这一点，即这种安全问题将会发生，而包含聊天机器人的在线危害法案是解决这个问题的方法。到目前为止，该战略还没有发布。
关于这一点。在政府监管方面，嗯，政府在监管像人工智能、社交媒体这样快速发展的技术方面很慢。
嗯。
有没有一种感觉，你知道，如果他们加入人工智能监管，人工智能聊天机器人，也许到那时，可能已经有其他东西需要纳入了，比如，你如何创造一个能够
哦，不是可能性，而是我们应该有这样的期望。所以，关于这一点，你如何创造一个能够涵盖这种危害想法的监管，而你可能甚至不知道接下来会发生什么？
是的，这是一个很棒的问题。嗯，关键是，你需要设计出既能适应新技术，又更关注这些技术对加拿大公民可能产生的影响，而不是具体产品或具体公司的监管系统，这将允许它随着这些技术的演变而扩展或收缩。新的技术出现。如果我们两年前就有了在线危害法案和监管机构，它就能比现在更快地将范围扩大到包括聊天机器人，而现在我们必须建立一个完整的监管能力。所以你想建立它，你想建立一个灵活的，不一定局限于公司或特定技术的，而是可适应的，并且确保加拿大人安全，确保产品透明度的核心原则将随着新技术的出现而转移，而这些原则才是重要的。
关于这一点。有没有相反的效果呢？如果你把事情做得太开放，也许你就能监管我们社会不希望监管的东西？
100%。对？就像在所有立法中，这总是一个问题，对吗？你在立法中放了多少细节，你是否让议会来决定
以及你留给监管机构多少权力，而监管机构可能在技术上更合适，并且能够快速行动，当事情发生变化时。说实话，没有答案。我们每次涉及监管的立法都会有同样的争论。
但这正是我认为我们需要进行的辩论，而且这场辩论必须在政府和议会进行。所以，要进行这场辩论，我们需要看到一项法案。
科技公司历来抵制监管。我们在社交媒体公司身上看到了这一点。政府如何应对这一部分？
这里有两个问题。一个是公司本身的不情愿，这意味着他们会游说反对。嗯，我认为这应该被广泛预期，而且这只是监管任何行业的一部分，政府必须应对，坦率地说，并弄清楚如何应对。更大的问题是美国科技行业和白宫目前的协调，这处于一个非常独特的历史时期，白宫似乎愿意使用其最强大的国际工具来捍卫美国科技和美国人工智能的利益，这包括使用其贸易工具，以及围绕贸易谈判的工具。所以毫无疑问，政府担心美国会利用我们重新谈判的《加拿大-美国-墨西哥贸易协定》作为杠杆和武器，如果我们走这条路。我不确定这种风险是否会抵消保护加拿大公民免受明显日益增长的危害的必要性。嗯，但这是他们必须做出的决定。
泰勒，在一个理想的世界里，监管会是什么样子？
在一个理想的世界里，我们会有一个监管机构或委员会，其职责是关注加拿大公民的安全和利益，并确保他们日常使用的数字产品，以及那些以有意义和强大的方式嵌入他们生活中的数字产品，以及政府越来越多地鼓励他们使用和采用的数字产品是安全和透明的。我认为这是我们在民主社会中理应拥有的基本期望，而现在我们却没有。
泰勒，非常感谢你进行这次深思熟虑的谈话。我很感激。
我很乐意。谢谢。
在本集录制后，OpenAI发布了一封致人工智能部长埃文·所罗门的信，回应了他们关于坎伯里奇枪击案凶手使用ChatGPT的会议。信中说，公司在过去几个月里对ChatGPT进行了更改。OpenAI全球政策副总裁安妮·里（Annirri）写道，引用，“根据我们根据加强的执法转介协议的持续学习，如果我们今天发现，我们会将2025年6月被封禁的账户转介给执法部门。”结束引用。她还写道，枪击者在6月份被封禁后创建了第二个OpenAI账户。该公司承诺立即采取措施，“帮助防止未来的悲剧发生。”
那是泰勒·欧文，麦吉尔大学副教授，也是该校媒体、技术与民主中心创始主任。我们会在节目笔记中提供他的播客“像我们一样的人工智能”的链接。
今天就到这里。我是谢丽尔·萨瑟兰。比安卡·汤普森来自加拿大新闻基金会的黑人奖学金项目，是我们的副制作人。我们的制作人是梅琳·怀特、瑞秋·利维·麦克拉克林和马尔·斯坦。我们的编辑是大卫·克罗斯比，阿德里安·钟是我们的高级制作人，安吉拉·帕琴扎是我们的执行编辑。
非常感谢您的收听。