Transcription
欢迎来到 CXO Talk 第 863 期。我是 Michael Krigsman，今天我们讨论人工智能治理和伦理。我们的嘉宾是 Jacan Aker，她是美国中央情报局（CIA）的副隐私和公民自由官员。她将分享她对这些话题的个人观点。
我想我们都知道 CIA，中央情报局，但我们是在外面，所以请告诉我们关于 CIA 的情况，也请告诉我们你的角色以及你做什么。
我们处理的问题范围很广，从运行一个像所有联邦机构都有的传统隐私计划，到实施法定要求。其中一些包括确保公众有能力提交关于其权利被侵犯的投诉。我们还在保护美国人的信息，根据行政命令，以及开发人工智能治理。这不仅是与情报界，也与更广泛的联邦政府要求有关。我们还支持 CIA 的首席透明度官。所以，那里的目标是确保公众理解我们的使命、我们的权限和我们的监督。然后，我们也与行政部门的监督和国会的监督合作，并发布报告给公众。所以，这只是我们工作的一部分。还有更多的工作，我为我的团队感到非常自豪。
我做的其他一些工作包括成为国际隐私专业人士协会的教员。该协会最近已更名为 IPP，因为其范围已扩大。正如你可能从许多嘉宾那里听到的那样，你的隐私工作正日益融入其他方面，如网络安全，当然还有人工智能治理。所以，他们正试图解决许多这些交叉问题。然后，我刚刚完成了在美利坚大学华盛顿法学院的第六学期教学。他们的法律研究硕士项目。所以我真的很高兴能够做到这一点。同样，我也为我们所有的学生感到非常自豪。
我们都喜欢关于 CIA 和阴谋论的间谍节目。你们 CIA 的人会看这些节目吗？你们怎么看这些节目？
我不能代表整个 CIA 的所有人发言。但我……我……我没看过所有现有的节目。但我关注了几个节目。我真的很喜欢由 John Krasinski 主演的新 Jack Ryan 系列。我喜欢《美国人》，我看了那一集的每一集。然后，我跟着 Carrie Russell 和她在《外交官》中的旅程。但我想最近我最喜欢的节目是《慢马》。因为 Gary Oldman，我长期的最爱，简直是无与伦比。
所以，当你观看这些节目时，你会对自己说：“哦，这很真实地反映了我们在 CIA 的工作吗？”还是你会说：“这是彻头彻尾的科幻小说？”你如何看待这些事情？
我会说，有些节目比其他节目有更多的真实成分。我不是在外国跑来跑去。我大部分时间都坐在办公桌前。所以对我来说，这总是一个不同的……不同的视角。但我认为，看到好莱坞一直以来如何描绘我们的许多工作，这很了不起。同样，我们的……英国的同行，以及一些令人惊叹的……詹姆斯·邦德之类的电影。我个人不认为自己是其中之一。但我确实喜欢看它们，尤其是当你偶尔看到一些让你觉得“哦，这有真实成分”的时候。对我来说，那些时刻通常是关于同事们多么棒，他们多么互相照顾，诸如此类的事情。在 CIA 有句俗语，我们是一个家庭。我认为这是我在好莱坞作品中喜欢看到的部分。
所以，那种互相照顾的感觉对你来说是真实的，对吗？
绝对是。我在 CIA 工作了十一年多了。我想，当我刚开始在那里工作时，我不知道我会待多久。我说，“哦，听起来是个很酷的工作。”我有一个朋友说，“嘿，我们在招聘律师，你应该过来。”我说，“是的，当然，我会去的。听起来太酷了。”然后我到了那里，我说，“好吧，我们看看会怎么样。”你……我……我刚从法学院毕业，试图弄清楚……我想如何度过我的职业生涯。我刚从俄克拉荷马州一家非常棒的律师事务所出来。所以，对我来说，这是一个很大的飞跃，去尝试一些如此截然不同的事情。但正是这些人让我留了下来，以及我能够从事的使命。
为什么人工智能伦理对 CIA 很重要？
对我们来说，特别之处在于美国人民的信任。如果我们不继续负责任地、合乎道德地使用人工智能，我们可能会失去这种信任，以及我们在全球、在全国以及在行业等方面的合作伙伴的信任。所以，归根结底，这真的关乎信任。对机构的信任。而人工智能伦理的作用最终是维持这种信任。信任包含很多东西，但其中一部分是把它做好。一部分是确保我们保护美国价值观，你知道，隐私、公民自由等等。当我们不……如果我们不维持这种信任，那么后果可能包括失去我们的权限，我们收集数据的权限等等。这将使我们保护公众的使命更加困难。所以，我认为……信任几乎是我们必须做的基本部分。
当你想到人工智能伦理时，你能描述一下它对你来说包含什么吗？
我认为这会因组织而异，因人而异。所以，除了信任之外，我认为还包括确保他人理解你在做什么。所以，你知道，这是透明度的一部分，确保人们理解你的产品是值得信赖的。确保他们理解……你是如何创建它的，你遵循了哪些规则。而对于我与之交谈的行业人士来说，这也可以意味着向消费者解释，甚至向你的保险公司解释。所以，你能够做出那些保证，无论是为了销售还是为了……政府的监督。我认为……透明度是伦理的重要组成部分。我认为……伦理和创建负责任的人工智能还有更多内容。但我会说，拥有一个好的计划，拥有流程，拥有……某种治理和监督机制。这些都是非常非常关键的部分。
所以，就拥有一个计划而言，你能描述一下一个有效的人工智能伦理计划的组成部分吗？
这确实取决于组织。所以，你知道，因素可能包括……你在什么背景下工作？你在医疗保健领域吗？你在教育领域吗？你在哪里？例如，你在欧盟吗？你的组织的观点……他们重视什么？所有这些都会影响你构建计划，因为你首先必须真正定义……你的组织对人工智能伦理的含义是什么。例如，在情报界，大约从 2019 年开始，我们制定了情报透明度原则。这些原则是基于……长期以来一直存在的道德情报的一般原则。但我们利用了这一点，并将其应用于人工智能。所以，我们建立在已有的东西之上，这种我们已经拥有的精神。然后我们说，好吧，那很好，但你实际上怎么做呢？所以，我们与数据科学家、律师以及当时……我想是 17 个不同情报界机构的人员进行了大量合作。我不认为太空部队当时在那里。但我们与整个社区的人员合作，创建了一个框架，该框架基本上是一系列问题，旨在与任何机构的权限一起使用，并且非常灵活，即使是关于什么样的技术。所以，每个人都有一个共同的脚本来通过，比如，我们如何确保我们坚持这些价值观？比如，我们说的……伦理是什么？我们的数据要求是什么？诸如此类。所以，这是情报界的一个关键部分。它在 2020 年 6 月签署了，那是一个疯狂的时期。但即使在……所有重大变革中，我们也在奠定基础，这一点非常重要。因为拥有一个早期发布的治理框架……而且还有一个……它是由这么多人创建的，因此可以被广泛采用……这真的对我们很重要。因为我们知道我们将不得不使用这项技术。如果你设定……一些最低限度的安全措施，你就可以走得更快。就像汽车最初没有刹车，所以它们不能开得很快。但一旦有了刹车，它们就能开得更快。而对我们来说，很多时候仍然是关于信任，你知道，确保事情是安全的。
在像 CIA 这样的组织中，当你提到它被签署或采纳时，这种采纳或采纳的权威在哪里？
对于那个框架，它是由当时的国家情报总监签署的。所以，那是……国家情报总监是 DNI 的一部分，他们……我可以说，他们是所有 IC 的整合者。所以，对于 IC 范围内的政策……那里确实是适当的地方。这不会……在……很多不同的……组织中是一样的。也许大公司有子公司等等。但……对于治理和伦理，即使在联邦社区内，也有很多不同的方法。你可以让它更集中化，也可以让它去中心化。你可以有……混合方法，其中……有一个小组创建……整体政策，然后实际执行它的人可能被整合到你组织或机构的不同……部分。所以，你……我们不得不写这个框架，使其能够在这种不同的环境中工作。这是一个……一个非常有趣的挑战。但我认为……我们在这里……四年半后，它仍然运作得很好。所以，我为此感到非常自豪。
请订阅我们的新闻通讯，访问 cxo talk.com。我们有精彩的节目即将推出。订阅我们的 YouTube 频道。我们有一个来自 Twitter 的有趣问题，这是来自 Aralon Khan，他是一位常客。他提出很好的问题，他说：谁来定义道德界限？谁应该或不应该在每个组织中定义这些道德界限？
这在每个组织都会不同。而且，你知道，我之前谈到过组织的文化很重要。但也有……比如，你……你身在何处？所以，地理位置，例如。我认为一些……道德界限已经融入了你所在地的法律。所以，我们在美国看到了很多这种情况，有不同的州……关于人工智能的规则。当然，你知道，欧盟有欧盟人工智能法案。所以，你……对于人工智能，在这些层面上都有。但我会说，即使……你知道，甚至更细粒度地。你……有一些规则是你维护的。数据要求，对吧？所以，你知道，很多人工智能……我可以说，伦理实际上就是数据伦理。你知道，你允许拥有什么数据？你知道，你可以拥有多久？它必须有什么保护？所以，其中一些只是……你的基本法律要求。一些组织……走得更远。他们认真对待……确保你拥有完成工作所需的最少数据。而另一些则像，“我们需要所有数据。”所以，你知道，那种组织文化确实是关键部分。除了……你知道，你的基本情况是什么？你在法律允许的范围内可以做什么？你……你必须做什么？我认为更有趣的领域是……在两者之间。所以，你知道，我们应该做什么？你知道，……我们如何才能合乎道德，同时又能实现我们的使命？这是一个更难弄清楚的问题。谁来决定？而且，你知道，对于你的组织来说，可能是你的股东，可能是你的首席执行官，可能是别人。我们看到很多组织开始设立首席道德官，甚至首席人工智能伦理官。所以，我认为……在人工智能领域，仍然有一些规范正在形成。但我不认为这与我们以前……不同。我们已经有了这些数据问题，关于技术的伦理问题，你知道，谁应该访问它……以及所有这些事情。所以，你知道，人工智能……我认为最大的变化显然是生成式人工智能和对它的关注。所以，对……谁是决策者的问题，已经有了一个更大的转变，但……即使是一个组织中的一个人也应该与该组织内的利益相关者合作。……来尝试做出这些改变。并关注……就像世界上正在发生的事情一样。你知道，……伦理规范在哪里形成……你知道，在你组织所在的地方，或者……也许是你的客户所在的地方。
情报组织在人工智能方面是否有独特的方面，可能与我们在私营部门习惯的不同？
有一些方面是独特的。我实际上会说，有一些方面……私营部门可以借鉴。所以，情报界……你是联邦政府的一部分。而且，五十多年来，我们一直在做隐私工作。感谢 1974 年的《隐私法》。所以，有很多要求。但很多……基本要求包括确保……你知道，关于美国公民和合法永久居民的信息得到适当保护。那是什么意思？这意味着在某些系统中，如果你能够通过唯一标识符检索信息，你必须向公众公开……你知道，这个系统是什么，它为什么存在，它有什么保护。你必须在你的联邦机构网站上发布它。这样公众就可以去查询关于他们自己的记录。他们基本上拥有访问他们记录的权利，如果错了，就可以修改。所以，五十年来，联邦政府一直受到严格的审查。这需要大量的工作来确保你的数据得到适当保护。而且那里有很多问责制。所以我认为，公司可以从中学习很多。你可以去任何联邦机构的网站，看到这方面的例子。当然，司法部也有……一些很棒的资源。但即使是隐私影响评估之类的东西。你知道，很多组织都在查看联邦政府的隐私影响评估，然后说，“哦，我们可以将这个转移到人工智能影响评估中。”它符合许多标准。或者……或者他们已经将其用于内部隐私计划，然后在此基础上进行扩展。所以，是的，有……这方面是联邦政府特有的，我认为可以借鉴。但其他方面我认为具有挑战性的是……在情报界，我们不能总是像我们希望的那样透明，因为我们必须保护信息来源和方法。所以，我们不能总是与公众分享我们获取信息的方式，或者我们从谁那里获取的信息。以及……诸如此类的事情，或者我们使用的技术。因为那样的话，你知道，我们就无法继续使用它们了。所以，相反，我们有一个非常强大的治理和监督体系。有经过安全审查的人员。有经过安全审查的国会议员。有隐私和公民自由监督委员会。甚至有我的办公室。所以，我们有自己的内部监督要求。所以，这有点不同。但尽管我说它不同，我实际上在私营公司也看到了很多这种情况。你可能想有……你自己的内部审计或内部监督。这样你就不会……分享商业秘密之类的事情。所以，实际上有很多相似之处。尽管，你知道，我认为……我想说……它都……非常独特，非常特别，而且只有我们能做到。但……但归根结底，我认为有很多很棒的想法……私营部门可以，并且已经从这些流程中借鉴了。当然，你在 CIA 所做的有很多成熟度。所以，我想私营部门可以从中吸取教训。
是的，绝对。我的意思是，在从事《隐私法》五十多年之后，联邦机构确实积累了一些宝贵的经验。而且，它并不总是完美的。你知道，对于任何新规则和任何新技术，肯定会有挑战和成长。但我认为……我一直认为……《隐私法》比大多数科技公司都要老很多。所以，联邦政府的成熟度是应该被借鉴和推广的，并且……在可能的情况下使用。因为经验……在很多方面是普遍的。但你说得对，成熟度确实在那里。你可以在……存在的文档中看到这一点，也可以看到透明度是如何运作的。而且，还有……问责制。不仅仅是对公众，还有……与国会和其他监督机构的问责制。所以，对于任何组织……如果……他们将面临那种审查，那么他们绝对应该……将联邦政府的成熟计划作为起点。
我们还有几个问题。有趣的是，这两个问题现在都与国际关系和界限有关。所以，让我们来试试。第一个问题来自 LinkedIn 的 Greg Walters。他的观点是，人工智能革命，包括隐私，正由美国领导。而且，美国是人工智能合乎道德和自由部署和使用的最大希望。我只是在读他的问题。他问：除了无人机，我们的对手还能用人工智能实施哪些对自由和解放的真正威胁？
国际上存在价值观的挑战。是的，美国确实一直在努力引领。我们甚至在几年前，在生成式人工智能繁荣之前，就看到了国家安全人工智能委员会的报告，那份报告有七百多页。那份报告详细阐述了这是一场价值观竞争，以及……存在如此多的价值观威胁。而我个人觉得所有这些都很有趣的是……保护美国价值观的需要。这显然是我办公室工作的一部分。但这种需求与美国公司需要成功之间的交叉。我认为有很多……你可以阅读八家不同的新闻台的文章，得到八个不同的答案，关于……哪一部分很重要，谁应该获胜，以及……这对国际社会意味着什么。但我真的很喜欢那份报告。我认为那份报告……仍然很好地解释了……为什么一些价值观……体系可能……我不想说……处于危险之中，但那些竞争在国际舞台上到底是什么。而且，它提出的许多预测……我认为已经实现了。所以，如果你没有……七百多页……或者时间去阅读……一些……几百页的东西，我敢肯定你能找到一个概述。或者只是阅读执行摘要。
听到你谈论价值观竞争以及它与维持道德立场之间的关系，这很有趣。这两者之间是否存在紧张或冲突？
我认为这里有很大的契合度。我坚信，创造技术、使用技术并以符合你的价值观的方式进行，实际上是有帮助的。因为它有助于维持信任。它有助于创建一个生态系统，在那里你可以与……合作伙伴合作，无论是在私营部门还是在海外。而这确实有助于将……我们都拥有相似的价值观结构……所以，让我们一起工作。我认为这是一个巨大的优势。我认为这是一个巨大的美国优势。但……你知道，这就是为什么把它做好如此重要。而那份报告确实做得非常出色，它……解释了……所有这些事情。而……你知道，但就个人而言，我确实相信那里有契合度。我认为价值观是我们力量的重要组成部分。
我们还有另一个问题，同样来自 Aralon Khan，与这些国际问题有关。他问：当数据在组织或国家之间共享时，应该遵循谁的道德界限？
拥有这些框架非常重要，这些国际框架基本上说，“嘿，这是我们共同的价值观。”我们已经看到了很多……经合组织……肯定有几个。我们看到了联合国和其他机构的东西。但……但是的，我的意思是，我认为最好的方法是拥有这些标准，并让人们采纳它们，并说，“是的，我们正在签署。”因为这不应该……是……谁……谁的标准在获胜。这应该是一个协议。而这些协议很重要，因为它表明，“嘿，我的……我的价值观与你的价值观一致。现在我们可以一起工作了。”你可以在从人们采纳……国际上的……到 ISO 标准的任何地方看到这一点。所以，你看，这就是……我将如何处理这个问题，而不是将其视为一个……谁赢谁输的场景。
情报组织采取哪些步骤来减轻人工智能系统中用于情报收集或威胁评估的偏见？
数据生命周期的任何部分，甚至还没有涉及到人工智能。你知道，有一些……重要的部分。我们有严格的权限来规定我们首先允许获取什么数据。所以，这是……可能引入偏见或减少偏见的一个领域。但通常……我们看到的是……它非常偏向于我们允许做什么。这实际上相当狭窄。所以，确实存在一些偏见。但当……你研究人工智能和开发人工智能时，有无数个问题需要问。因为……偏见实际上可以是有益的。所以，如果你需要能够找到……例如……X 主题，你知道，比如……我不知道，小部件之类的。而你需要能够从任何地方找到图片中的小部件。你可能想要一个……偏向于很好地找到这些小部件的人工智能。所以，第一个问题，我认为你必须问的是，好吧，我们关心的是哪种偏见？所以，存在有益的偏见，然后……显然存在我们非常不希望的偏见。可能伤害……你知道，可能伤害个人或伤害公民自由或隐私，或者……或者可能伤害特定群体，或者没有平等的……应用。但……但是的，我的意思是，我们有……我们的 IC 人工智能伦理框架……有一个关于减轻不期望的偏见的整个部分。并且有一系列问题。这是一个……对于人工智能来说，这是一个很好的起点。但……我之前提到过，它适用于许多不同的技术。所以，任何时候你使用大量数据，我认为这些都是很好的基本问题。然后，当然，你知道，NIST 标准总是很棒的。
关于内部流程，以确保数据算法没有不良偏见，你能谈谈情报界是如何管理这种情况的吗？
有几件事结合在一起。所以，组织有不同的规模。它们需要能够……在……它们已有的现有计划内运作。所以，对一些组织来说，它们将通过现有的……认证流程来处理这些问题。或者……有时是在首席信息官的办公室下。其中一些……你可以与从事网络安全工作的数据科学家一起进行。有时他们会思考，好吧，……这个数据集是否完整？我们真的需要这个数据集是什么？然后我们如何保护这些数据？我们如何保护这个算法？有哪些不同的潜在注入点？所以，有时它是通过……好吧，我们有专家，他们已经在那里了。所以，他们将负责。但它确实取决于……你知道，如果再次问……如果你问八个不同的组织，你会得到八个不同的答案。但我们看到一些……正在形成。以及一些……在组织中更加专业化和正规化。所以，你可能会有一个更像这样的流程：好吧，一个人工智能将被创建。你知道，我们将记录它的目的，以及……潜在的风险，潜在的偏见，以及缓解措施。然后有……不同的人负责其中的每一个部分。包括文档部分。所以，它正在……我认为它正在变得更加正规化。但我会说，它仍然非常依赖于组织。
Arson Khan 又回来了。他真的很有想法。关于这一点，他说：如果少数国家制定了人工智能伦理标准，那么这本身就造成了偏见，因为其他国家的观点可能没有被包括在内。因此，联合国是否是为此原因制定人工智能标准的更好场所？
我老实说没有怎么想过。所以，我想把这个问题推迟。但我会……我不知道。我认为这是一个非常好的问题。是我应该问自己的。所以，我可能会花整个周末都在想这个问题。上周在这个节目中，我们的嘉宾是联合国主管技术事务的助理秘书长。他的实际头衔是首席信息技术官。我想他会认为联合国是正确的地方。但这……这是一个有趣的问题，因为许多不同的国家在……隐私法规的发展以及人工智能伦理方面的问题上，其成熟度水平不同。但正如你之前提到的，在他们的目标方面也存在……分歧。而且……存在对观点的竞争。
对于一个想要开始实施人工智能伦理计划的组织来说，他们应该从哪里开始？我是说，认真实施，而不仅仅是敷衍了事。
这意味着让你的……高管参与进来。首先，确保有高管的支持。它不一定意味着……有人……他的全部工作是首席人工智能官。我们看到很多……在一些组织中，特别是大组织。但有时这个头衔会添加到……首席数据官或首席隐私官身上。所以，根据你的组织规模，这真的取决于。但重要的是，有一个高管在支持。我看到很多成功的模式是……有一个首席人工智能官来整合所有人。但……人工智能治理计划的成功确实是由比这更多的人建立的。所以，你必须让你的首席信息安全官，你的首席信息官，你的首席数据官……你知道，如果那些都是同一个人，那么恭喜你，你可能也是人工智能伦理官。但真正弄清楚……在基本层面上，你已经有什么了？我之前提到过……评估和授权流程。任何……数据……你知道，你已经拥有的数据影响评估。你的隐私要求是什么？所以，你真的需要弄清楚，在基本层面上，你有什么。然后，你需要添加什么……才能做到人工智能治理？所以，就像……你需要做什么样的差距分析？而对一些组织来说，这真的就足够了。嘿，我们将在隐私影响评估中添加几个问题，现在它是一个人工智能影响评估。我们需要有人批准人工智能的网络安全方面和数据方面，并确保……你知道，这部分被稍微不同地考虑。但我想我们看到的一个重大变化是……你不能……而且，即使是对于常规系统，你也不应该这样做。你不能……只是设置好然后忘记它，然后每年回来一次。你多久回来一次将是周期性的，并且取决于许多因素，包括……人工智能的目的是什么？算法改变的频率是多少？它是机器学习吗？它每天都在改变吗？以及后果是什么？所以，如果你知道后果……非常严重，你不能……一年只看一次，看看它是否还在工作。所以，我认为这将是许多组织必须改变的一个方面。是拥有一个足够的过程，可以定期回来查看你的人工智能，这取决于具体用例。
我不得不认为，这对一些组织来说将是一个重大的改变。因为如果你习惯于处理旧的非人工智能技术，你就会部署它们，当然，它们基本上是静态的。但随着人工智能，尤其是生成式人工智能，模型在变化，提示也在变化，结果可能会截然不同。它们可能完全不同。然后，你知道，另一件几乎同样快速变化的事情是……围绕这个的法律合规制度。所以，新的法律……感觉每天都在出现。新的标准……感觉每天都在创建。然后，砰，你知道，突然出现了一个文本到视频生成器，你必须重新思考一切。所以，确保有人有时间和空间来关注……好吧，有哪些新技术正在涌现？并且能够构建足够灵活的东西来预测……短期内可能发生的重大变化。但那些可能不会改变的东西是……好吧，我们需要某种数据影响评估。或者，如果我们采购东西，我们需要……一些基本的采购流程。而且，许多不同的组织在采购方面做了很多出色的工作。所以，我认为这些……对许多组织来说，这些都是非常关键的部分。确保你的律师也参与进来，当然……尤其是在采购方面，或者如果你在销售东西。但……也需要有人有空间来关注……好吧，哪些法律可能会出现？因为如果你正在创建一个治理计划，但你知道将要实施一个重大的合规制度。那么你就现在就朝着它努力。并思考……对我来说，说这些很容易。但没有人有时间为每一个人工智能这样做。所以，真正能够……对风险最高的进行排序和优先排序，并将你的精力集中在那里。
你提出了一个非常有趣的观点，特别是对于人工智能，你不能……正如你所说，采取静态的观点，因为它变化如此之快。这给那些处理这些问题的人增加了额外的负担，他们不仅要……管理和领导组织内部的事情以及围绕它的伦理问题，而且在很大程度上还要关注外部环境，关注不断变化的法律环境、社会文化环境和期望。所以，这是一个……它变成了一个巨大的任务。这就是为什么我们看到越来越多的组织拥有……某人担任首席道德官……人工智能伦理官，或者……为什么我们看到一些扩展。而且，我……我不想替他们说话，但我认为这是我真正喜欢 AI 扩展其产品的原因之一。他们理解，很多这些都落在了……隐私和合规官身上。所以，他们需要了解更多关于人工智能的知识。他们需要了解更多关于网络安全的知识。他们需要了解更多关于这些不同领域。所以，我……我实际上帮助他们开发了人工智能治理专业认证。在过去的几年里，我帮助教授了这门课程。以确保……我们正在培养下一代人工智能治理专业人士。而我班上的那些人来自……远远超出隐私的领域。所以，它确实在扩展。但……灵活性和预见性是游戏的新本质。正如你所说，它不再是静态的。你不能……像瀑布式开发流程那样。你真的需要更具弹性。而且，如果你……如果你不……密切关注潜在的监管以及社会或文化期望，你可能会被……几乎凭空淘汰。因为你没有关注你狭窄领域之外的更广阔的视野。
这确实是真的。而且，你知道，还有很多……规范仍在形成。所以，你知道，预测其中一些。但也……如果你有能力，并且在你的组织中能够真正做到这一点，并弄清楚如何做……比如，好吧，人工智能事件响应计划应该是什么样的？它与隐私事件响应或网络事件响应计划相同吗？可能不是。因为人工智能出错的地方可能是……数据是错误的。所以，你将拥有一个不同的利益相关者群体。但如果你能帮助创建有效的流程，那么这些流程可能会开始成为规范。然后教人们……嘿，这对我们来说是有效的。你知道，我们发生了一起事件，然后……因为我们有这个流程，我们就知道去哪里修复算法。我们消除了……这个……这个错误的数流。现在它又在工作了。或者……你知道，无论你的系统是什么。但是的，我认为如果你有时间关注那些……更初期的 이슈，你也可以帮助影响……那些规范是什么，并确保它实际上对像……我作为政策制定者这样的人来说是有效的。但我会把数据科学家带到我参加的每一次谈话中。因为……没有人希望律师或政策制定者来写这个。它必须在最后真正起作用。所以，我……我非常强调在那个团队中拥有一个跨学科团队。
关于那个确切的主题，我们有一个来自 Twitter 的 Elizabeth Shaw 的问题。她说：人工智能的合乎道德的使用对公司或 CIA 的伦理计划有什么交叉影响？
对彼此的影响。你……你之前已经触及了这一点。这里有一种文化……方面。你……为了实现人工智能的采用，组织都需要这样做。你必须了解你组织的价值观。合乎道德的人工智能对你意味着什么？治理意味着什么？而这也可以……每个人。所以，即使你不是组织内开发人工智能的人，如果你正在考虑使用 Co-pilot，或者你正在使用 ChatGPT 或 Google Notebook 或任何你用来帮助你工作的工具，你都需要了解你组织关于……的伦理和要求。以及你可能与……OpenAI 或 Microsoft 或……任何人分享什么数据。对你的公司或组织对此感到舒适的程度有一个想法。但……你知道，如果有什么要求需要双重检查事情，确保你解释说某件事是借助人工智能创建的。就像网络安全一样。每家组织都有网络安全培训。我猜。如果你没有，那么……让我们稍后谈谈。但人们必须接受它。所以，他们知道不要……点击某个电子邮件，然后……感染某些东西。同样的责任感和同样的……共同价值观应该也适用于人工智能。但我也认为这很重要，因为这是你组织精神的一部分，也是你文化的一部分。而且，能够说……嘿，这是我们正在努力的方向。这是你的一部分。这非常强大。
我们还有另一个来自 Twitter 的问题，同样来自 Orelon Khan。Orelon 真的很有想法。他说：人工智能是否应该受到监管？如果是，那么对创新的影响呢？
我真的相信，当监管和治理有适当的平衡时，它可以帮助……实际上加速一些创新。但这……比其他技术……用人工智能来说要困难得多。我认为，因为你有一些监管……非常关注今天存在的人工智能技术。以及人们正在努力构建的一些人工智能技术。也许你需要一种不同类型的治理。所以，我认为……我们必须非常谨慎地找到正确的平衡。但回到汽车的比喻。我的意思是，汽车没有刹车，所以你只能开几英里。然后一旦你加上刹车，你就可以加速了。好吧，把它扩展一下。所以，你知道，有人说，“好吧，我们应该有道路。我们应该让……在一些国家，你可以右转红灯，而在另一些国家，它……不允许，或者别的什么。”但……这些事情允许不同的汽车，带着……不同的司机，在同一条路上行驶，并且仍然能够移动。我认为这就是我们需要达到的……这种……微妙的平衡，让创新者知道，“好吧，我知道什么在法律上是允许的。所以，我知道我必须在什么空间里移动。这样我就可以快速移动，而不必担心有人事后过来，说，“好吧，你不能做任何那些事。你的整个公司都没了。”我们必须有一些……规则，以便它们能够协同工作。但我也认为这很重要，因为人工智能将不得不与人工智能协同工作。它不再只是关于人类了。我们将不得不制定一些标准，以便……我们可以说，“好吧，这个人工智能将与这个人工智能互动。”你知道，它们如何知道它们可以这样做？所以，我们必须能够……朝着……将要存在的世界构建。而不是仅仅我们今天所处的世界。这是一个巨大的挑战。我并不声称知道答案。我认为我们都在努力一点一点地实现它。
这是一个非常有趣的观点，即围绕什么被允许，什么不被允许的清晰度，能够实现互操作性。以及可预测性，这对于任何组织来说都非常重要。
是的，还有……销售也是，对吧？就像，如果有人要……我的意思是，我不知道为什么这个想法突然冒出来。但我小时候有一个 Furby。我不知道是否有人还记得那些。但……当……每个人都买了它们，然后它们做了不同的事情，人们就说，“好吧，我们不知道我们进入了什么。”就像，“我想退回我的 Furby。”或者……我的孩子的 Furby 现在被埋在壁橱里，在……一堆外套下面。所以，就像……没有人能听到它。那不是你想要的，对吧？就像，你希望你的技术被采纳和信任。并且……人们说，“嘿，这做得非常好。我理解它是如何工作的。我拥有尽可能多的透明度。”信任仍然是……我认为……很多事情的基础。而且，你必须……信任必须是双向的。技术人员必须相信政策制定者不会突然改变主意。所以，这种对话真的必须让所有各方都参与进来。我之前提到过……我喜欢把数据科学家带到我几乎所有的地方。如果我能把一个带到任何地方，那将是太棒了。但……你知道，我们必须确保，仅仅因为某件事听起来是一个很好的解决方案，它实际上会起作用。而很多时候，你知道，这是一次对话。而且，我得说实话，有时数据科学家会提出比政策制定者更好的政策解决方案。因为他们真正了解……细节，比如，“好吧，这是可能的。”或者，“嘿，我们不是朝着那个方向建设的。”所以，确保这是一次对话，而不仅仅是……与一群政策制定者进行的蓝天思考。这确实至关重要。
这绝对很重要。如果你……如果你开始制定政策，而没有对技术的含义、数据、实际使用方式以及含义有相当完整的理解，那么你的政策就会偏离目标。
是的，绝对。你能谈谈治理吗？你提到了几次治理。你能详细说明一下，当我们谈论人工智能治理时，你的意思是什么？
如果你仍在努力建立你的数据治理计划，我建议继续这项工作。但也要考虑到你可能需要为人工智能做什么。但是，你知道，治理意味着很多事情。我认为……在基本层面上，它是……使你能够拥有负责任的、合乎道德的人工智能的流程。但……我认为……一些非常高层次的治理部分是……比如，好吧，定义你实际上想用这个系统做什么？它的范围是什么？你知道，它的操作环境是什么？以及它将执行哪些具体任务？因为如果你定义了这些，那么你就可以进行分析，这是否真的符合我们组织的……
道德原则和我们的目标，嗯，因为有时听起来是个绝妙的主意，但当你开始退一步，或者一层层剥开洋葱时，你会意识到，嗯，也许它的影响实际上与我们的目标不符。所以，对我来说，拥有治理，甚至只是坐下来，在开始时进行那种对话，就像我们在这里想做什么？这是否是我们组织原则的一部分？然后，从那里开始，好吧，嗯，你知道我们需要什么数据来做到这一点？我们被允许拥有那些数据吗？我们的利益相关者对此怎么看？你知道，无论是内部利益相关者还是外部利益相关者。你是否处于一个高度管制的坏境中？哪些规则适用？哪些规则将来可能适用，我们现在应该为此做计划？有一些非常有趣的工作正在由各种不同的，我想说，很多前政府人员也在做，他们说，嘿，如果你试图构建一些东西，如果你试图构建一些将要做 X 的东西，你应该可能提前弄清楚如何进行隐私保护，所以你能够进行匿名化以及类似的东西，这样你就能知道哪些规则可能明天适用，以及今天适用的规则，只是为了你普通的数据要求。所以这也是治理的一个重要组成部分，当然，让你的律师参与进来总是一个好建议，所以要确保合规性正在发生，不仅是与你的任何政策人员，也与你的律师。然后，我之前提到过，比如共同的道德原则，无论最终是经合组织还是联合国，就像你谈到的那样，要确保你也在思考比你自己的组织更宏大的问题，好吧，那么我们需要建立什么样的治理来赢得这个国家或这个世界这个地区的人们的信任？所以也要思考比这更宏大的问题。嗯，你知道，这甚至可能包括像透明度要求或安全要求和问责制这样的事情。然后，你也知道，不仅仅是因为这是正确的事情才做所有这些，而是要确保它确实是你组织精神和价值体系的一部分。所以我之前提到过，没有人有足够的资源来为每一个小部分的人工智能做这件事，因为它只是，它将是我们所做的大部分事情的一部分，但要确保你了解你真正必须做这件事的地方，并且你有相应的流程来实际通过一些治理。然后你多次谈到偏见，那是绝对的治理的一部分。我想说，这不仅仅是关于偏见，也关于公平。所以要确保你的数据集具有代表性，并且你了解谁可以从中受益，谁可能无法从中受益，并写下来，弄清楚你需要采取哪些缓解措施，然后进行持续的监控，以确保你仍然是公平的，并且没有不期望的偏见。然后是透明度，你知道，无论是与你的内部利益相关者，还是你可能被要求与外部利益相关者进行透明度。这也是治理的一个关键部分。然后是问责制，所以谁，基本上谁负责确保这个用例按照它应该的方式进行？这也是一个非常关键的部分。你知道谁将持续监控它？谁将在发生事件时进行审计？你的流程是什么，以应对和缓解它，甚至可能，你知道，进行简报和记录以及补救它，以及所有这些。所以这些都是非常关键的部分。我也想说，只是迭代地改进一些东西，所以不仅仅是检查以确保它不会出错，而是随着我们有了新技术或新标准，你知道，我们将如何将其整合到我们的系统中。所以治理可以意味着更多。它可能再次根据组织而改变，但我认为这些是一些基本的领域，大多数组织在治理方面都达成了一致。哇，你刚刚给了我们一个关于治理的博士课程。哦，远不止于此，还有更多。我可以看到你对这个话题非常热情。我实际上可以整天每天都这样做，这基本上是我的工作。所以，嗯，加上，你知道，加上隐私和公民自由以及所有其他东西。但是，不，嗯，我真的很幸运，到目前为止，我能够从事这项工作超过六年。我喜欢说我是在它变得流行之前就做了，但令人惊叹的是，随着生成式人工智能的出现，你知道，这些问题受到了更多的关注，而且我认为，老实说，很多事情变得更加复杂了，对我来说，这使得它更有趣。但我真的很高兴人们正在进行这场对话。我认为，你知道，我们一起正在创造那些规范，并帮助推动世界在这方面前进。你对商界人士有什么建议？商界人士可以从政府的努力中学到什么？那里有很多东西可以让你挑选，并确保你根据你的组织进行定制。你正在看任何东西，从，好吧，透明度报告看起来怎么样？我提到了数据影响评估，隐私影响评估，以及，你知道，我简要提到了系统记录通知，向公众解释，我们如何保护你的数据，有什么要求。这些都是很棒的资源，可以让你开始，如果你说，我不知道该用什么。但我们也认为，你知道，不仅仅是因为政府有经验，他们也有经验教训。所以我会在那里学习一点历史。但也许也会学习，你知道，什么不一样。如果我们，你知道，我们为美国公众工作，而不是为股东工作，你知道，那个联系是什么？以及什么会让你想做一些不同的事情？非常有趣。好吧，非常感谢 Jacqueline AER，她是 CIA 的副隐私和公民自由官员。Jackie，非常感谢你抽出时间与我们在一起。非常有趣的评论。哦，谢谢。嗯，不，我很高兴来到这里分享我的观点，也感谢所有很棒的问题。我知道我整个周末都会自己思考其中一些问题。所以，是的，感谢所有观看的人，那些问了很棒问题的人。你们真的很聪明。在离开之前，请订阅我们的新闻通讯，查看 cxo talk.com。我们有很棒的节目即将到来。订阅我们的 YouTube 频道，我们很快就会再见到大家。大家，非常感谢，祝你们有美好的一天。 [音乐]