Transcription
Namaskar 观众。欢迎来到 Senset TV。我是 Tina Ja。您正在收看 Perspective。人工智能正在以前所未有的速度改变世界。从医疗保健和教育到农业和国家安全，人工智能正在改变我们的工作方式。对于印度而言，这不仅仅是一次技术转变。这是实现 Vix Bhara 2047 目标的一个强大机会。印度人工智能任务旨在将人工智能的惠益民主化，惠及社会所有阶层，确保其可及、可负担且包容。但伴随巨大潜力而来的是严峻的挑战，深度伪造、虚假信息、算法偏见以及安全威胁。因此，认识到这些固有的风险，电子和信息技术部公布了印度人工智能治理指南，这是一个全面的框架，以确保在各行业安全、包容和负责任地采用人工智能。这些指南包含四个关键组成部分。七项关于道德和负责任人工智能的指导原则，跨越人工智能治理六个支柱的关键建议，一个与短期、中期和长期时间表相匹配的行动计划，以及面向行业开发者和监管者的实用指南，以确保透明和负责任的人工智能部署。这些指南由印度理工学院马德拉斯分校 Balramman Raindran 教授主持的一个高级别委员会起草，该委员会还包括来自电子和信息技术部、印度人工智能任务以及 NITIO 的政策专家。今天，我们节目中邀请到了 Ravindran 教授和委员会成员 Amlan Moanti 先生，共同讨论印度人工智能治理框架的细节。感谢两位先生参加我们的节目。首先，请允许我祝贺你们两位以及委员会的其他成员，为国家提供如此全面的人工智能治理框架，它确保人工智能服务于人民，同时又解决了与之相关的许多潜在风险和危害。Ravindran 教授，让我们今天从您开始对话。如果您能与我们和我们的观众分享委员会在起草指南时所采取的方法和核心理念。是的。请看，我们主要的驱动动机之一是不要制定一份监管文件，对吧？在印度制定人工智能的监管框架，对吧？我们实际上想要，这就是为什么我们甚至称之为治理指南。我们不称之为监管指南。我们称之为治理指南的原因是，它既要促进人工智能的采用，也要减轻和处理因人工智能采用而产生的任何社会和技术风险。但我们不希望这成为焦点，以免人们因为人工智能而望而却步。正如我们的秘书长所说，创新仍然是我们人工智能方法的关键焦点，对吧？促进人工智能生态系统的创新是我们的关键焦点，当然，我们会确保我们已经指出了人工智能采用的所有潜在的危险和风险，并且还谈到了我们应该如何应对，这并不是说只有一个解决方案，对吧？所以我们必须采取一种更全面的方法来处理人工智能风险，而这正是报告所指出的。如果您查看六个支柱，其中许多是关于赋能的，对吧？其中三个确实是关于赋能的，三个是关于风险管理的，在重点方面是均等的，在创新和风险管理之间，这就是我们开始时的原则，也是我们得出这个结论的方式。好的。所以我们也将尝试理解您关于其实施的一些建议，一些在全球范围内持续存在的框架，以及在印度背景下借鉴了哪些灵感。但在此之前，请允许我将 Moanti 先生也请入讨论。Monty 先生，当委员会开始工作时，你们所有人都同意必须回答的第一个大问题是什么，考虑到人工智能在当今印度的普及程度和速度？谢谢 Nina，谢谢邀请我。我认为这是一个非常重要的问题，对吧？这个委员会将基于什么基础开始其审议？我看到，第一个讨论点正如 Aindan 教授所说，一方面，印度将是采用速度最快的市场之一，我们看到许多公司，全球公司都在印度投资，所以我们知道人工智能将迅速普及，遍及我们拥有超过十亿人口的国家。所以我们知道我们需要一个鼓励采用、鼓励投资、鼓励技术在印度不同地区传播的治理框架，同时我们也知道我们正在迅速认识到存在一些潜在风险。在印度背景下这些风险是什么，我们仍然需要了解，但我们作为一个委员会认识到并同意，我们也需要意识到这些风险。所以第一个讨论点实际上是说，你知道，世界各地有不同的全球模式。美国采取了一种方法，欧盟采取了一种方法。让我们把所有这些都放在一边，让我们作为印度达成一致，我们想同时做到这两点，我们既想要创新，也想要一个具有敏捷性和灵活性的治理框架，能够应对风险，并在风险出现时加以解决。所以实际上，我认为委员会内部的第一个共识是，我们不认为这是一个二元问题。我们不必在创新或风险缓解之间做出选择。我们可以两者兼顾，那么最好的方法是什么呢？所以谈到一些灵感，或者当您研究其他现有框架时，Raindran 教授，委员会在印度的情况下有意识地决定采纳但拒绝了什么？因为在这里您必须进行平衡，您不能扼杀创新，也不能过于监管。事实上，我们注意到，目前很少有地区拥有非常详细的人工智能法规，对吧？所以我们看了看现在世界上有什么，我们有意识地选择不给人工智能开发者施加重大的、普遍的监管负担，对吧？所以我们决定，更精细的监管控制应该来自行业监管机构，他们了解实际的风险以及在各自行业进行监管的挑战，并且不应该在所有开发者和行业中存在任何严厉的、普遍的人工智能监管。我的意思是，他们指出了一些需要更深入讨论的地方，并且在监管方面需要形成更多共识，但我们想明确避免严厉的、普遍的监管，这在其他一些地区已经完成了，而且我们也不希望它完全是自由放任的，一切都通过某种自愿的行业协议来完成，我们也想避免这种情况，所以我们想找到这种平衡，因为在一个像印度这样的国家，对吧？我们想确保，因为最终，如果您看最终用户，可以说是最后一英里，在印度，它将来自小型公司，来自中小企业，对吧？不是大公司将把它带到印度村庄和其他最终利益相关者那里，对吧？所以我们想确保监管负担不会对这些小型公司造成过重负担，以至于他们实际上会回避采用人工智能，转而采取其他解决问题的方式，对吧？所以我们想确保我们避免这种情况。这是我们学到的一个关键教训，因为我们看到，例如在欧盟，一些数据监管法案实际上给一些公司带来了更重的合规负担，这实际上减缓了生态系统，虽然不是完全减缓，但与美国、中国和其他地方相比，它确实减缓了。所以我们不想发生类似的事情，所以我们试图避免这种情况，这是我们学到的一个教训，对吧？另一个是确保有指导方针，因为我们从公司那里听到的一件事是，如果您不给我们任何指导方针，我们将很难遵守，对吧？所以我们实际上可能会担心采用人工智能，因为没有如何使用的指导方针，所以我们想确保我们也避免了这种情况，所以我们想找到这种平衡。当您谈论找到平衡时，Ravindran 教授，我很想知道您是如何考虑印度现实的？例如，我们是一个多语言社会。然后还有政府服务交付方面。还存在显著的数字鸿沟。那么您是如何将所有这些纳入框架的，以传达一个信息，即这些治理指南严格适用于反映印度或印度社会的现实？嗯，首先，指南就是指南，对吧？所以我们还没有制定任何极其刻板的规定，对吧？所以我们指出的是，首先，它必须是全政府的方针。所以这就是人工智能治理委员会正在呼吁的，对吧？治理小组应该包括所有部委和所有将要应用的领域，包括公共服务交付等等，对吧？所以所有这些都应该被一种更全面的方法所指导，而不是单独处理。我认为没有其他地区真正采取了这种全政府方针来开展人工智能治理活动。所以这是我们正在确保的，即每个利益相关者都为此提供投入。第二点是关于多语言性和其他印度特有的风险。所以在文件叙述中，我们实际上已经谈到了所有这些印度特有的事情，并且我们呼吁通过人工智能安全研究所进行更大的努力，以便明确地阐述这些印度特有的风险。现在我们还没有，我的意思是，我们只是在非常高的层面上谈论这些，但当您想深入到实施层面时，我们没有足够的细节，对吧？在印度，我们还没有详细说明。所以这是我们正在呼吁的，我们说人工智能安全研究所应该建立支持结构，以减轻这些类型的风险，对吧？所以，这就是我们在报告本身中推动的。好的，好的。所以在我们继续讨论您提出的一些关于其实施的建议，以及它可能有多具前瞻性，例如它是否能转化为立法，我稍后会问您这个问题，但我还看到了您写的一篇论文，Moanti 先生，关于让人工智能自我监管发挥作用。来自印度的关于自愿人工智能风险缓解的视角。您为我国制定了一个实际的政策路线图。您认为自愿或自我监管框架可以在不扼杀创新的情况下帮助管理人工智能风险。这正是我们在 Matei 和所有专家发布的最终草案中看到的大部分内容，他们为提出这类报告做出了贡献。但请告诉我们一些对您来说在印度背景下脱颖而出的事情，我问您这个问题是因为印度在拥有人口红利优势的同时，也拥有全球人工智能人才库。绝对是 Tina，这正是为什么我们认为自愿框架实际上是一个有用的工具。自愿框架的真正含义是，公司、私营部门和公共部门的组织作为一个整体，作为一个行业，就识别风险和缓解这些风险所需的技术步骤和操作步骤达成一致，而我们谈论的人才库正是为什么我们认为行业主导的自愿方法是我们缓解这些风险的一种方式。构建这些技术的人正是最了解这些危害的人。他们是进行压力测试、红队测试、漏洞检查、漏洞评估、风险评估的人。他们正在生成报告。他们在公开部署之前进行了大量的实验和测试。所以实际上是印度丰富的人才库，你知道，在世界各地，在这些研究实验室，在这些公司里，他们最了解这些模型带来的危险和能力。所以从很多方面来说，自愿方法可以帮助解决这个问题。但也要明确一点，这是 Abundan 教授今天提出的观点。这是 Matei 秘书长 Krishna 在昨天的记者招待会上提出的观点，那就是，如果出现任何需要，如果我们发现印度背景下出现某些类型的风险或危害，我们将准备通过适当的法律监管工具来减轻这些风险。所以让我举一个例子，一个越来越被讨论的风险类型，那就是对弱势群体造成的风险，这可能会影响女性，因此显然存在关于深度伪造在印度背景下影响的讨论。Matei 刚刚发布了一些草案指南，并且有证据表明人工智能生成的内容被用来通过所谓的非自愿色情图像或报复性色情来针对女性。还有证据表明，儿童可能会受到聊天机器人等工具的影响，这些聊天机器人可以操纵行为，制造成瘾。所以这些是我们需要在印度背景下理解的风险类型。印度的儿童和女性如何与人工智能系统互动？公司正在采取哪些自愿措施来减轻这些风险？如果社会、监管机构和政府所期望的结果与行业机构和公司所做的努力之间存在差距，那么这种差距就需要通过额外的监管机制来填补，这就是我们委员会推荐的。考虑到我们过去几年所见的科技转型，教授，这是一份非常需要的路线图，但委员会在你担任主席期间，在实施方面提出了哪些建议或推荐？它不是立法。它不能具有约束力，但您将如何确保您提出的建议能够转化为某种行动，得到实施并看到可衡量的结果？所以我们已经提出了几件事。所以第一个是，我们真的需要重新审视现有的行业监管，并看看这些是如何受到人工智能采用的挑战的。所以您谈论的关于可执行性的事情，等等，实际上大部分人工智能风险已经涵盖在行业监管中。所以就可执行性而言，基本上是回去教育人们，看看在您所在的特定行业中可能出现哪些人工智能危害，以及现有的法律法规如何涵盖这些。事实上，关于深度伪造等误导性信息的一些事情可能可以通过现有法规来解决。但那需要被明确出来。所以这需要对一些关于人工智能使用方面的法律进行一些重新解释，但这是其中一部分。我们已经谈到了教育不同行业和政府机构等等，关于人工智能给他们特定行业带来的挑战。这是关于执法的一部分。我们谈到的另一件事是创建一个整体的治理结构，包括人工智能咨询，比如治理机构，然后是为治理机构提供建议的技术委员会，以及整个人工智能安全研究所，这个需要创建的整个基础设施将持续监测人工智能领域的动态，因为我们不可能制定今天的具有约束力的法规，这些法规在六个月后仍然相关。我的意思是，事情变化如此之快，你必须提出一个敏捷的框架，你可以在其中解决人工智能带来的危害。所以我们非常强烈地推荐这一点，关于建立这些治理结构，以便能够持续实践。这是我们谈到的另一项可行的举措，而且希望，你知道，就像昨天 Krishna 秘书长所说的那样，最终这些只是指南，对政府没有约束力，但政府已经投入了大量的努力和时间，以及我们的投资来构建这些东西。我认为这是一个合理的指南，政府至少大部分会采纳。好的。虽然这些指南目前奠定了足够的基础，考虑到仍然存在的风险，但您认为印度最终是否需要一项独立的立法？您提供的治理架构是否有可能在以后演变成一项立法，教授？您看到了这种潜力吗？我不知道现在是否是我。我们根本不认为有空间进行一项普遍的人工智能立法。我的意思是，有 IT 法案，有 DPDP，它们是普遍的，在某种意义上不是行业特定的。但除此之外，我们现在是否需要一项人工智能法案？我并不确定。但再次，政府的立场是，现在我们担心创新，但如果需要引入更强的监管法案，政府愿意在此基础上工作，而我们正在创建的这些机构将就如何推进此事向政府提供建议。所以如果您问我今天是否需要通过一项人工智能法案，我认为目前不需要。但未来事情会改变，事情在迅速发展，而这些结构。就目前而言，为了有效实施您提出的这些指南，在结束对话时，Moen Monty 先生，当我们试图平衡人工智能的优势和风险时。Nitia 一直在谈论将人工智能作为实现我们 Vixid Bhara 2047 愿景的国家工具。您想从这个平台向我们的观众消除一些关于人工智能治理的担忧或误解吗？首先，我认为人工智能显然是一项变革性的技术。我认为我们都需要认识到它真正提供的机会，你知道，我们一直在节目中谈论印度独特的人口结构，对于像印度这样的国家来说，我认为人工智能可以真正作为获取和赋权的工具，在农业、医疗保健和教育等领域。所以我认为这真的在于理解这些潜力是什么，让我们非常清楚，人工智能不是一项新技术。我知道关于人工智能有很多炒作，但它实际上自 20 世纪 50 年代以来就一直存在。最近被采用的是一种特定类型技术，即大型语言模型，生成式人工智能技术，但这并不是终点。你知道，我们将拥有代理式人工智能，人工智能可以自主行动，它们可以以某种方式行动，它们可以在物理环境和数字环境中行动。这里有巨大的机会，这就是为什么像 NITOK 这样的机构对人工智能对数字经济的潜在影响非常乐观。所以如果您考虑印度的战略目标，关于 Vixen Bharat，关于社会经济发展，关于国家安全，关于经济增长，关于韧性，人工智能是一项基础性的变革性技术，可以帮助我们实现这些目标。所以我想真正对我们的同胞说，让我们去了解它，让我们支持它，看看它能带我们走多远。尤其当我们看到政府和所有相关方的所有努力，重点是建立一个促进创新并加强人工智能经济的生态系统。我们一直在谈论人工智能如何成为实现我们 Vikid Bharat 愿景的国家发展工具，我们很高兴已经为此付出了努力。我们只需要确保我们负责任地使用人工智能。今天节目时间不允许我们再多谈了。感谢两位先生参加我们的节目，与我们和我们的观众分享您的想法和观点。观众朋友们，也非常感谢您的时间。谢谢。要观看更多 Sunset TV 的节目，请订阅我们的 YouTube 频道，不要忘记点赞和分享。