Transcription
迈克尔·克里格斯曼：欢迎来到 CXO Talk，第 862 集。我是迈克尔·克里格斯曼，今天我们与联合国助理秘书长兼首席信息技术官贝尔纳多·马里亚诺（Bernardo Mariano Jr.）一起，探讨联合国在人工智能方面的观点。
贝尔纳多·马里亚诺 Jr.：联合国的核心是什么？1945 年的《联合国宪章》，是为了子孙后代的安全。看看人权和社会进步，以及更好的生活标准。所以，当你以此为基础，《联合国宪章》的核心，然后你将其与技术和数字化转型，包括人工智能相结合。因此，你希望这些转型，这些技术，能够真正加速那些核心价值观。我们有可持续发展目标，这 17 个目标。我们希望人工智能能够加速实现这些目标。当然，我们有社会进步。我们希望确保它能够加速这一点。我们希望确保人工智能被用于善。我们希望确保，当然，它带来的所有相关风险都能得到缓解，以确保人类和世界人民能够充分受益于人工智能及其为当今世界带来的整个转型。
迈克尔·克里格斯曼：您描述的这些目标非常崇高。但问题是，联合国如何将这些目标变为现实？
贝尔纳多·马里亚诺 Jr.：这是一个艰难的对话。这是我们在联合国的日常生活。如果你想要一份大家都能同意的工作，那不是联合国。我们的角色是真正汇集不同的利益和冲突的利益，以确保我们能够从中提取最大的效益。因此，我们有今年十月在大会最近通过的《未来契约》。在《未来契约》中，我们有《全球数字契约》。我们确实有一些倡议，例如由国际电信联盟牵头的“人工智能造福人类”。例如，我们有教科文组织发布的关于人工智能的伦理使用。所以，我们确实有一些我们制定的工具，以确保在我们经历这场转型时，那些拥有和那些没有的人不会差距越来越大。如果你看看《全球数字契约》，五个承诺行动就包括这一点。因此，要确保数字鸿沟不会加剧，要确保我们以安全的方式使用人工智能和前沿技术，要确保数据治理是为了人类的福祉，并确保我们对人工智能进行某种国际治理。让我第一次说，在联合国大会批准的文件中，例如《未来契约》，有 229 次提到“数字”一词。有 70 次提到“技术”一词，以及近 40 次提到“人工智能”一词。在上次大会上，超过 50 位国家元首提到了“人工智能”作为他们希望解决的关键问题之一。所以，总而言之，我们有一个角色要扮演。我们都必须说，我们需要确保这一点：这种以非常快的速度进行的驱动和转型，能够以我们所有人都能从中受益的方式造福人类。所以，这些工具就是为此而存在的。
迈克尔·克里格斯曼：您能否描述一下大会的作用，以及您认为技术、数字和人工智能可以发挥的作用？这些技术的作用在哪里？
贝尔纳多·马里亚诺 Jr.：在大会中，人工智能的作用，在此背景下，是确保我们人类能够获得所有好处。但我们人类，我们能够缓解所有风险。而且我们人类，我们不会造成巨大的鸿沟，让那些拥有和那些没有的人差距越来越大。让我稍微深入探讨一下那些拥有的人。如果你回到 20 年前，20 年前的技术基本上是驱动一个物理元素，要么因为你有一个设备，要么你有一个包含系统的 CD-ROM，要么你基本上有什么东西是国家立法可以依据并说，“看，因为你不遵守这些国家法规，我不允许你将这些物品带入我的国家。”今天，这已经消失了。因为那些允许国家在某种程度上保护自己免受技术负面影响的物理边界，已经不复存在了。这意味着我们用来应对这些风险的唯一工具就是联合国发挥作用的国际文书，以确保我们有一些国际文书。当然，我们现在有了欧盟人工智能法案。我们有欧盟、英国、美国人工智能条约。我们在区域一级有一些文书。但这并没有解决那些拥有技术的人、控制技术的人、创造技术的人的市场不再是他们运营所在国家的国家边界的事实。而是整个世界。因此，这种公平的获取，这种数字鸿沟，必须在国际框架的背景下进行，并且必须在此框架内进行。
迈克尔·克里格斯曼：贝尔纳多，请告诉我们关于《全球数字契约》的事情。
贝尔纳多·马里亚诺 Jr.：让我谈谈《全球数字契约》的这五个承诺行动，这非常重要。这五个承诺行动是我们希望各国，联合国的 193 个会员国，或世界上所有国家，能够采纳的承诺行动。第一个承诺行动是缩小数字鸿沟，这意味着在国家边界内，有的人可以访问，有的人无法访问。但在国际背景下，也有拥有人工智能算法、拥有计算能力、拥有人工智能的人，以及那些仅仅是消费者的人。更不用说对环境和其他可持续发展目标的影响，例如碳排放等等。所以这是第一个承诺行动，缩小数字鸿沟。第二个是扩大包容性，这真的，通过缩小数字鸿沟，你也希望扩大这种特定的包容性。第三个是营造安全的环境。我们知道，今天，技术，包括社交媒体，正在影响人们的生活。我的意思是，我们在澳大利亚看到，一个年轻女孩因为社交媒体上的欺凌而自杀。我们看到选举方向因虚假信息而改变。所以，我们必须意识到这些影响，然后创造一个安全的环境，良好的互操作性，以及在整个技术背景下的人权保护。第四个是真正的互操作性。我们生活在一个国家边界或国家管辖范围内的影响行动对不同管辖范围没有影响的世界。今天，这不再适用。所以，无论在哪里发生什么，无论是廷巴克图（顺便说一句，我曾在廷巴克图工作过），还是纽约，都会对发生在不同地方的事情产生影响。第五个是建立人工智能的国际治理。所以，这些是《全球数字契约》的五个承诺行动中的一些要素，我们希望各国、公司和全世界都能在国家、区域和全球范围内拥抱和采纳。
迈克尔·克里格斯曼：订阅我们的新闻通讯。访问 cxotalk.com。订阅我们的 YouTube 频道。嗯，我们收到了一些有趣的问题。这是来自 Twitter 的 Arsalan Khan。他说，我们知道联合国拥有宏伟的全球目标，但那些不愿同意这些目标并因此将人工智能用于邪恶目的的国家怎么办？联合国如何解决这个问题？
贝尔纳多·马里亚诺 Jr.：让我们设想一个没有国际框架的场景。所以，想象一下，就像刚才解释的，一个国家没有采纳或批准该全球框架所带来的影响。如果没有全球框架，影响将是三倍、四倍、五倍的糟糕，因为根本没有全球框架可以运作。而联合国由 193 个会员国组成。所以我们相信，而且我确信，这是世界的大多数。所以，确实有一些国家可能不会采纳，可能不会批准，但这并不能阻止我们拥有这个框架。这并不能阻止我们继续与这些国家合作以促使其采纳。也不能阻止我们进行必要的倡导，以确保这些国家采纳，或者至少承认，或者在其国家法律中纳入，即使它们不采纳，不批准国际公约，但在其国家立法中，它们采纳了一些原则。当然，责任不仅仅在于政府。责任也在于国家人民，世界人民，以确保他们，特别是公民社会，利用自己的力量在国家范围内推动这种变革。
迈克尔·克里格斯曼：LinkedIn 上的 Michelle Clark 说：“您是否知道任何顶级人工智能公司已经采纳了《全球数字契约》？”
贝尔纳多·马里亚诺 Jr.： 《全球数字契约》已于十月由大会通过。所以我们才刚刚过去一个半月。但《全球数字契约》的制定过程，包括了许多私营部门的参与。基本上始于秘书长呼吁成立一个人工智能咨询委员会，他们创建并发布了一份题为“人工智能造福人类”的报告。我想你可以谷歌搜索并下载它。在“人工智能造福人类”中，他们有七项建议，其中一些建议正是《全球数字契约》中那五个承诺行动的基础。总而言之，《全球数字契约》并非联合国独创。它是政府、私营部门、公民社会成员之间共同创造的，秘书长召集他们成立了这个咨询委员会。基于他们的报告，才创建了它。所以，在这个过程中有过艰难的讨论。有公司参与了制定《全球数字契约》的讨论。但让我举一个我非常喜欢的互动例子。我遇到了年轻的专业人士，年轻的创新者，他们参加了在日内瓦举行的“人工智能造福人类”会议，由国际电信联盟主办。他们创建了，基本上他们正在推动私营部门采纳人工智能原则。所以，我们看到了《全球数字契约》在私营部门和创新者中的这种活力，他们说：“让我们确保我们推动负责任地使用人工智能。”所以，向我曾有幸在这里纽约认识的这些年轻人致敬。但我们想要更多，我们希望这些采纳不仅仅是由联合国推动的，而是我们所有人都能拥抱的，并且我们都参与其中，包括那些从技术中获得巨大利润的人，也包括那些初创公司，真正拥抱人工智能必须用于善的这些原则。
迈克尔·克里格斯曼：我们可以说您所描述的属于治理范畴吗？这是正确的术语吗，还是您会用其他方式描述？
贝尔纳多·马里亚诺 Jr.：它属于两个领域。一个是治理，另一个是倡导。所以治理是我们想要建立的，以确保有一些原则是我们拥抱、采纳并用于开发人工智能的。所以这是开发使用。这是一个领域。但倡导需要我们所有人。需要我们所有能够访问、拥有受众、有能力影响受众的人，来确保我们朝着这个方向努力，因为负面影响令人深感担忧。它不是一个只会影响我的邻居、我本人或我小社区的小影响。它是一个全球性的影响。所以，我们真的需要全世界的倡导力量来确保我们能够从中走出来，并为下一代留下一些我们可以引以为傲的东西，说在人工智能的转型中，我们，作为身处其中的人类，无论是创造者、创新者、使用者、从中获利者，还是利用它提高生产力并创造新业务流的人，我们都能够自豪地走出来，让下一代回首时说，这一代做得很好。
迈克尔·克里格斯曼：有人可能会说，倡导是一系列目标、愿望和抱负，而治理是我们同意遵守的规则，以实现或执行这些目标。这是正确的看法吗？
贝尔纳多·马里亚诺 Jr.：完美。是的。您说得比我好。
迈克尔·克里格斯曼：谢谢。
贝尔纳多·马里亚诺 Jr.： [笑]
迈克尔·克里格斯曼：关于治理这个话题，我们有一个来自 LinkedIn 的问题，同样来自 Michelle Clark，她问：“您如何设想治理的运作方式？”
贝尔纳多·马里亚诺 Jr.：让我们以电信为例，好吗？在 60 年代、70 年代，甚至更早的时候，当电传是世界沟通的手段时，就需要有标准和原则，否则就无法沟通。国际电信联盟就是其中之一。它是联合国的一个机构，真正汇集了私营部门、公共部门和政府来讨论电信相关的法规。所以，我们有一个模型。我们有一个有效的模型。今天，我能够给我住在莫桑比克一个小村庄的母亲打电话，这要归功于此。所以，我们希望将这一点发展到人工智能和整个数字化转型，它有一套不同的规则，与电信网络或电信领域涉及的物理基础设施的程度不同，因为通常在电信领域，你有一个国家内的网络运营商，有基站和电缆等等。然后，这两个国家需要沟通。今天在人工智能方面，如果你以 OpenAI 为例，它们在几个地方拥有基础设施。它们不需要所有国家的基础设施就能运作，但 OpenAI 的影响却遍及全世界，无论如何。因此，这些互动规则、法规和人工智能治理的规则与电信治理非常不同，因为通常你需要一个国家内的国家公司和国家基础设施来运作。在这种情况下，你不需要。因此，这些规则需要改变。治理模式需要改变，以确保影响，那些负面影响得到缓解，以便我们能够获得好处。现在，让我举一个例子，例如，如果我以虚假信息为例。如果我来自 A 国，而 B 国，B 国的某个公司正在干预我的选举，干预我的国家选举。然后我正在使用人工智能来制造各种虚假信息。那么 A 国就会写信给 B 国说：“你们 B 国，你们在干预，我的选举受到了干预。”但那个 B 国不是拥有该公司的政府，而该公司是在该国法律框架内运作的。所以它没有侵犯该国政府的任何法律。然而，它却用所有传播的虚假信息影响了另一个国家。所以，你看，缺乏国际治理和框架，基本上使得这些负面影响变得非常猖獗，我必须说，而且带来了我们都不希望的影响。
迈克尔·克里格斯曼：我明白了您之前说过的，联合国就是关于在一个充满冲突和不同议程汇聚的环境中运作。
贝尔纳多·马里亚诺 Jr.：是的，这就是为什么我说那些艰难的对话是如何找到正确的平衡，以满足私营部门的盈利需求，首先是政府的演变需求，即这些公司在这些立法中运作，但也要保护那些受到负面影响的国家的人权。这是联合国需要发挥的精妙平衡，联合国需要具备这方面的知识，因为你也可以出现这种情况，即过早实施的法规会扼杀创新。或者过晚实施的法规或框架将不足以应对负面影响。所以，这种时间平衡、法规所解决问题的平衡、法规的影响以及私营部门盈利能力的影响之间的平衡，是一个我们需要运作的精妙平衡，除了联合国，没有其他实体能够做到这一点，能够促进这一点，能够主办这一点，能够创造这种环境，或者能够发挥其召集力，将所有这些参与者聚集在一起，真正拿出一些让我们所有人都能引以为傲的东西，或者让下一代在回顾时能够引以为傲的东西。
迈克尔·克里格斯曼：关于创新这个话题，我们有一个来自 LinkedIn 的非常及时的提问，来自 Greg Walters，他问：“您计划如何鼓励全球的创新和道德使用，包括联合国不直接监管的非会员组织？”
贝尔纳多·马里亚诺 Jr.：这几乎就像你问我一个问题，比如说我是私营部门，我和我的兄弟，我们想赚点钱。其中一个合法地做，另一个非法地做。我们都赚钱。但一个在卖毒品，另一个在卖手机。那么，我们之间最核心的是什么，我们能推动的核心价值是什么？我们可以都同意，无论一个人是为了利润还是为了非营利。这真的就是你刚才提到的道德价值，也就是说，是的，会有罪犯试图将技术用于犯罪目的。如果你没有法规，那基本上会放大并鼓励更多罪犯加入那个特定的企业或实践。所以我们需要法规来确保它是一个威慑因素。我们带来的价值，以及我们都遵循的这些道德价值，是一种道德价值，它将使非营利组织、盈利组织和公民社会共同努力。现在，我们生活的世界并非只有那些怀有良好意图的人在运作。整个世界总有一部分人认为他们可以通过犯罪活动来完成他们的行为。但是，如果没有任何法规将其中一些活动定为犯罪，当然，那就会成为一个挑战。现在，让我谈谈国家本身。比如说，一个国家说：“我不会采纳这个。”但我们生活在一个相互交织的全球化世界，这意味着如果一个国家中的个人犯下了基本上是国际性的罪行，有国际法、国际法规规定这是犯罪，那么该个人，是的，也许在该特定司法管辖区不会被起诉，但她或他不能离开该司法管辖区。所以，我们需要有一些东西，即使我们理解在某些地理区域或某些司法管辖区，该特定国家或该特定司法管辖区没有采纳。但正如我之前所说，我们也不会因此而安然坐视不管，我们也会进行倡导。想想人权。人权并不是今天许多采纳它的国家最初就采纳的。我们并没有说人权，那些没有采纳的国家，我们就安然坐视不管，什么都不做。我们说，“不，我们赞赏那些采纳了并将其纳入国家立法的国家，并且作为人权办公室的工作，我们将继续推动并与所有那些没有采纳的国家合作，将它们纳入国家立法。”所以，我们必须采取这种双管齐下的方法，既要赞赏那些早期采纳者，也要鼓励那些迟到的采纳者加入进来。
迈克尔·克里格斯曼：再次，那是倡导与治理的结合。
贝尔纳多·马里亚诺 Jr.：正是如此。
迈克尔·克里格斯曼：现在是订阅 CXO Talk 新闻通讯的绝佳时机，这样我们就可以向您更新我们即将推出的精彩节目。所以，这是来自 Arsalan Khan 的一个问题，他说：“人工智能竞赛涉及算法和数据收集。联合国是否有可供其他国家使用的数据集和算法？联合国是否正在使用人工智能来评判或评估不同领域的其他国家，以便分配资源？”所以，我认为他实际上在问这两件事。一是关于用于共同利益的数据和算法，二是关于联合国内部使用人工智能。
贝尔纳多·马里亚诺 Jr.：我的角色有两个方面。一方面是让联合国能够利用技术和人工智能来优化和提高绩效，并支持那些支持各国使用人工智能以确保其加速实现可持续发展目标等的计划。这是内部元素。我们内部确实有。我们也有政策。我们最近发布了人工智能政策。但我们也有近 700 个正在不同领域进行的人工智能用例。所以这是一个领域。另一个领域是如何确保，因为人工智能有三个组成部分。一是计算能力。二是算法。三是数据。而计算能力，当然，我们，因为联合国，我们必须考虑所有事情，包括碳排放。所以，我们担心对能源需求的增加以及由此产生的碳排放的增加，特别是对于那些已经承诺到 2030 年实现碳零排放的公司。现在他们基本上说，由于他们在计算能力领域的投资，他们将无法实现这一目标。现在，关于算法，当然，这是整个创新。有许多年轻的专业人士正在努力使这些算法，我们的希望是使这些算法能够解决问题，不要有太多偏见，确保在生成响应或消除幻觉方面的一些准确性问题得到解决。让我深入探讨数据，这也是我们的一些担忧。在数据方面，一个当然是数据的质量。所以《全球数字契约》谈到了这方面的治理。这是一个担忧。另一个是加剧这些数据所具有的偏见，因为我们有，我们的数据有很多偏见。如果我们只是让算法使用这些数据而不进行人工干预，这就是为什么秘书长喜欢说人类在掌管，而不是人工智能。以确保我们解决这些问题。当我还在世界卫生组织担任首席信息官时，在 2018 年，我们就已经在讨论如何确保可信的数据来源是机器人和算法使用的来源，以确保我们不会产生负面影响或将负面影响降到最低。所以，在这个领域正在做一些工作，看看我们如何进行一些讨论，例如，我们可以有一个算法测试的数据集，因为你看，如果北美的一家公司创建了一个算法，用北美的 [数据] 测试该算法，并使用该算法为非洲生成内容，你可能会在那里遇到很多问题。所以，我们希望确保这些算法在生成不同响应时，能够考虑到每个地理区域的地理位置和背景问题，并且是在提问的地理位置，提问的国家背景下。所以，这是我们仍在努力解决的问题，以及如何建立它，然后是建立人工智能办公室的提议，这是《未来契约》的一部分，真正是为了解决这个领域。但最后，我想也谈谈公平问题。如果我们想确保，例如，训练算法的劳动力在南方国家，我们不剥削他们工作的价值，并且不恰当地支付他们的报酬。我们已经看到了一些关于这方面的问题，特别是国际劳工组织已经强调了一些关于那些训练算法的工人的报酬问题，他们位于南方国家，而他们的报酬与那些公司获得的利润相比，并不真正适合他们的工作。所以，是的，我们在数据方面有一些问题，我们需要努力解决。我们还没有达到我们想要达到的目标，但我们现在有了《全球数字契约》，我们可以规划出解决这些问题的道路。
迈克尔·克里格斯曼：听到您谈论公平问题，这非常有趣。您比许多私营部门的人有更细致的看法，因为联合国的章程、目标是运作以实现团结和善，而不是以利润为章程或目标。
贝尔纳多·马里亚诺 Jr.：它们并非相互排斥。让我以制药领域为例，因为我曾是世界卫生组织的首席信息官，我总是可以谈论这一点。如果我以丙型肝炎治疗为例。当公司创新并创造出丙型肝炎治疗方法时，每种治疗的成本约为近 10 万美元。然后，如果你去印度，整个治疗的成本是 1000 美元。然后你可能会想，好吧，如果作为一家公司，我会损失利润，但并非如此。因为如果你的市场是，如果你赚了，我不知道，10 万人赚了 10 亿美元，你可能实际上以低得多的价格从 50 亿人那里赚了 100 亿美元。当我们谈论公平性时，它不仅仅是为了降低公司利润的公平性。我们的意图不是让任何私营部门破产。意图是说，“是的，你可以有一个客户。”现在我回到人工智能。今天的人工智能，许多公司每月向用户收取大约 20 美元的费用来使用人工智能，无论是 ChatGPT4 还是其他，比如 Microsoft Copilot，也许 Gemini 便宜一点，但总而言之，是的，你可以每月支付 20 美元来使用生成式人工智能，而这每月 20 美元，也许你的市场空间是，比如说，50 万人使用它。但如果你将价格降至每月 5 美元或每月 1 美元，并让 20 亿或 50 亿人使用它，作为一家私营公司，你仍然能赚钱。但你也为获取它做出了贡献。这与制药领域相同，我的意思是，我认为有一句谚语说，你可以从一个人那里赚到 100 万美元，或者你可以从 100 万人那里赚到 100 万美元。最可持续的 100 万美元是来自 100 万人的，而不是来自一个人的。所以，这确实是我们试图表达的概念，我试图提出的是，获取，公平获取，并不总是意味着降低利润率，而是意味着更多的人能够负担得起，并且能够负担得起。但也创造了一个公平的世界，在那里没有那些拥有特权的人和那些没有特权的人。
迈克尔·克里格斯曼：我看到您没有做出价值判断，而是试图围绕每个参与者的目标来协调激励。无论对他们来说什么最重要，您最终都在试图统一激励，以围绕该目标协调活动。
贝尔纳多·马里亚诺 Jr.：正是如此。在联合国，我们几乎一直都在做这件事，让这些不同的观点来到谈判桌前，看看我们如何提取价值。如果你看看我举的例子，那就是世界卫生组织非常热衷并推动的例子，无论是关于我提到的丙型肝炎，还是关于艾滋病，还是关于我们在新冠疫情期间的新冠疫苗。但在技术方面，我们需要遵循相同的概念。我们需要确保它不仅仅是为那些拥有的人设定的价格。而是根据地理位置设定的价格，允许这种获取，但又不让公司面临破产的风险，因为它们无法产生它们需要产生的利润。
迈克尔·克里格斯曼：我们有一个来自 Twitter 的 Lisbeth Shaw 的问题，她说：“数字鸿沟如何影响国家之间的人工智能鸿沟？这又如何影响各国实施人工智能道德使用的能力？”
贝尔纳多·马里亚诺 Jr.：数字鸿沟和人工智能鸿沟是并行的。但我们正在努力缩小数字鸿沟。国际电信联盟和其他联合国组织正在为此努力。宽带接入仍然是一个问题。仍然有很大一部分人口，我想如果我没记错的话，大约有 20 亿人没有宽带接入。所以，但是这方面取得了进展，在过去几年里，你看到了宽带接入方面的良好进展。但我们希望确保这些新的，一些私营部门称之为新客户，他们拥抱了宽带，但我们希望确保，对于那些已经处于数字生态系统中的人，我们不会加剧与那些即将到来的人之间的鸿沟。所以我们希望解决那些已经拥有访问权限的人之间的数字鸿沟。确保不是，我们希望确保数字鸿沟和对那些拥有宽带的人群的数字工具的访问得到解决，以确保新的商业活动能够从中受益。确实，我们可能无法改变过去，但我们可以改变未来。而这种对未来的改变始于我们所有人共同努力，确保人工智能不仅仅是为那些享有特权的人，而那些没有特权的人，他们基本上成为数据的来源，而没有获得任何好处。当我还在世界卫生组织担任首席信息官兼数字健康总监时，我写了一篇关于数据和新事物，数据和新金钱的文章。因为如果我的数据集让一家公司受益，我们也必须问，有多少好处来自于我作为数据来源。所以，这些讨论是艰难的讨论。它们需要进行。我想我看到了一些关于作家写书和教授写文章的文章，人工智能正在使用这些数据集来输入模型，模型会生成响应。这对他们有什么好处？我们不想重复前几个世纪的情况，即早期采纳者，他们获得了更大的利益，而损害了那些实际提供伟大工作以使该特定事业取得成功的人。所以我很高兴联合国正处于正确的时机，在开始阶段。我很高兴我们非常清楚人工智能的快速发展。当然，我担心我们可能会输掉这场比赛，但我相信，在所有国家和联合国所有成员的支持下，我们将跟上技术发展的步伐，以确保每个人都能从中受益。
迈克尔·克里格斯曼：我们有一个来自 LinkedIn 的 Greg Walters 的另一个非常有趣的问题，他问：“您能否谈谈联合国在人工智能和伦理方面的处理方式与欧盟之间在严格或详细的法规方面存在的差异？”
贝尔纳多·马里亚诺 Jr.：我们与所有不同的利益相关者合作，这些利益有时相距甚远，然后通过采纳或认可的契约，结果是介于，比如说，最保守的方法和最进步的方法之间的妥协。我认为，如果你去欧洲，我认为保守和进步之间的差距可能比联合国空间要小得多，因为你有这 193 个国家。所以，结果是，当然，你可能会有欧盟人工智能法案，其中包含许多细节。这是一个更，也许，它达到了细节的程度，而联合国则采取，运作的水平稍高一些，以允许这些，允许各国在成员国同意的安全舒适的框架内，选择朝着进步的方法或保守的方法前进。这是一个角度。另一个角度是何时引入法规。是在炒作很高的时候引入，还是在炒作周期之后引入？我过去经常举的一个例子，现在仍然在举，就是我们都倾向于忘记技术总是有炒作周期，一个周期，一个充满承诺的时期。我们需要允许技术经历这个高峰，然后稳定下来，发展成它真正能够发展的样子。因为那个炒作周期，如果你在炒作期间制定法规，那个法规将非常严格，因为炒作会承诺技术实际上无法实现的承诺。现在，如果你在炒作周期之后制定法规，那么那个法规就不会那么严格，因为炒作周期的幻灭将会发生。然后，然后我们就会进入那个稳定的空间，那时技术真正能做什么就不会被炒作。因此，法规将不会解决炒作的声明、炒作的意图或炒作的技术承诺。所以，总而言之，我们有这两种观点，进步和保守，然后是法规何时到来的观点。
迈克尔·克里格斯曼：我们有一个来自 Twitter 的 Arsalan Khan 的另一个非常有趣的问题，我将请您非常快速地回答，因为我们即将没时间了。他说：“联合国如何与联合国以外的组织合作，这些组织是否与联合国共享它们的算法和数据？”
贝尔纳多·马里亚诺 Jr.：我们有一个框架，允许，以及许多机构，一个允许私营部门和公民社会参与的框架。我的意思是，如果我以国际电信联盟为例，或者以国际劳工组织为例，我们有这些框架。现在，它们是否与我们共享算法？答案是“否”。正如我之前提到的，我们正在努力，在数据方面，看看，确保我们创建一个数据治理框架，允许这些算法依赖于准确的数据，也依赖于没有太多偏见的数据，并且遵循一些道德原则。所以，这是一个正在进行中的工作，但没有公司与联合国共享算法，因为那是知识产权的一部分。但这将我们带到下一个问题，开源。我们实际上正在召集开源社区聚集在一起，因为我们看到了开源社区在这个领域的重要作用，以确保专有系统的替代方案继续存在。我们希望开源社区在人工智能时代发挥主导作用。
迈克尔·克里格斯曼：我猜您正试图对开源社区施加一些影响，以便他们能够根据联合国包容性和公平性等目标来处理他们的技术工作。
贝尔纳多·马里亚诺 Jr.：是的，我必须说，开源社区在没有联合国的情况下已经成熟了。我们现在才刚刚来到这里，我们实际上举办了第二届“开源造福人类”峰会，汇集了所有开源社区，以确保我们也能关注那些对关键数字公共基础设施非常重要的开源工具，这些工具可以受益于资源。但开源社区作为一个社区一直在很好地运作，但我们希望它能更上一层楼，特别是现在有了人工智能，我们希望确保人工智能提供商或人工智能公司提供免费使用空间，这不会让开源社区无事可做。所以，这正是我们希望确保该社区为许多发展中国家提供替代方案，并且我们希望这种情况继续下去。
迈克尔·克里格斯曼：当然，正如您之前所描述的，联合国召集的力量创造了一个理想的论坛，我认为可以帮助将这些价值观注入到开源社区正在做的事情中。
贝尔纳多·马里亚诺 Jr.：正是如此。正是如此。
迈克尔·克里格斯曼：根据您在联合国处理人工智能伦理和治理等方面的经验，您能否为商界人士提供建议或经验教训？
贝尔纳多·马里亚诺 Jr.：不要放弃。无论多么困难，联合国与私营部门的接触，或私营部门与联合国的接触，或与政府的接触，我们都不应放弃。无论情况多么糟糕，或者任务看起来多么艰巨，我们都不应放弃。所以我的建议是坚持不懈，持之以恒，以确保我们都能自豪地走出困境，也让我们的下一代自豪地走出困境。请放心，来自联合国，我们不会放弃。无论情况多么糟糕。你看，你看到世界上的战争数量。有人可能会说：“看，这看起来太糟糕了。”我们从不放弃。我们坚持不懈地追求带来和平的解决方案。在技术方面，我们将追求带来公平获取的解决方案，创造人工智能的“不伤害”组成部分，并将其融入教科文组织推广的 10 项人工智能伦理使用原则中，我们希望确保世界遵守这些原则，并从中提取并享受人工智能可以为这个世界带来的巨大好处。
迈克尔·克里格斯曼：带着这些鼓舞人心的话语，我们时间到了。非常感谢，贝尔纳多·马里亚诺·小 is 联合国助理秘书长兼首席信息技术官。贝尔纳多，感谢您再次来到 CXO Talk。
贝尔纳多·马里亚诺 Jr.：谢谢，迈克尔。谢谢。很高兴，也感谢大家参与这次精彩的互动。谢谢。
迈克尔·克里格斯曼：也感谢所有观看的人，特别是那些提出如此精彩问题的人。你们太棒了。现在，在您离开之前，订阅我们的新闻通讯。查看 cxotalk.com，订阅我们的 YouTube 频道。我们有精彩的节目即将推出。下周，我们将与中央情报局的一位人士讨论这些问题。这应该很有趣。所以，请关注，非常感谢大家。再次感谢，贝尔纳多，我非常感激您。感谢您的到来，我们下次再见。大家保重。再见。