Transcription
热。 [音乐] [歌唱] [音乐] [音乐] 热。 [音乐] >> [音乐] [音乐] >> 观众朋友们，欢迎收看 Sunset TV。我是 Namita Singh，您正在收看“解释”节目，该节目将探讨关键话题，并了解人工智能如何以前所未有的速度发展，并结合领域专家的见解，塑造印度。因此，印度已朝着塑造安全、包容和以人为本的人工智能未来迈出了决定性的一步。印度政府的《2025 年人工智能治理指南》标志着一项大胆的飞跃，将创新、问责制和信任置于我们人工智能生态系统的核心。在世界就人工智能的风险与回报展开辩论之际，印度选择了一条植根于清晰、平衡和文化根基的道路。这项政策将人工智能不仅视为需要监管的事物，更视为在不减缓创新的前提下赋能公民、企业和创新者的机会。这不仅仅是另一项政策。这是印度将在构建安全、公平和以人为本的人工智能方面发挥领导作用的意向声明。该指南由印度政府首席科学顾问 Ajay Kumar Sud 教授在电子和信息技术部等高级领导的陪同下正式发布。因此，为了理解这对企业、开发者和日常用户意味着什么，以及它如何支持安全和负责任的人工智能采用。今天我们节目中有一位非常特别的嘉宾。我很高兴地欢迎印度政府首席科学顾问 Ajay Kumar Sud 教授，他在印度人工智能使命中发挥着关键作用。他还是总理科学、技术和创新咨询委员会的主席。Sue 教授，非常感谢您加入我们，欢迎来到 Sunset TV，先生。>> 谢谢。非常感谢。那么，鉴于您是实施印度人工智能使命的关键人物，并且您在塑造印度国家人工智能战略和治理框架方面发挥了关键作用，而现在这些人工智能治理指南标志着一个巨大的飞跃，将创新、问责制和信任置于人工智能生态系统的核心。是的。>> 那么，在我们开始详细介绍指南之前，我想从您那里了解印度在人工智能治理方面的总体方法，以及在战略层面，您如何看待人工智能加速印度的发展，不仅是技术上，而且是在社会和经济包容性方面。>> 让我先引用我们尊敬的总理。他在 2025 年巴黎人工智能峰会上所说的话，我认为这是一个非常有力的声明。他说，人工智能正在书写本世纪人类的代码。>> 对吧？>> 实际上，它非常清楚地表明，这将是一项影响所有部门和所有社会的赋权技术。>> 好的。因此，印度非常清楚人工智能对社会经济发展的潜力，以及将受到人工智能影响的方面，同时也要意识到可能存在的风险。因此，您必须在人工智能的益处之间取得平衡，它将如何使我们的社会迈向下一发展阶段。同时，您也不能低估风险、虚假信息、所有算法偏差，>> 对吧？>> 国家安全问题。因此，这是我们的国家人工智能治理框架所关注的。>> 好的。绝对。您知道，需要保持平衡，先生，您一直倡导安全和可信赖的人工智能，正如我们的总理所说的那样，但在当今世界，我们仍在争论人工智能应该在多大程度上受到监管，应该给予它多大的自由来成长。那么，在起草过程中，有哪些指导愿景，以及其背后的基本核心理念是什么？>> 是的。核心理念是人工智能不应该造成伤害。>> 对吧？>> “不造成伤害”是指导原则。有了这个，我们需要看看需要建立什么，以便我们能够挖掘人工智能的潜力，无论是在金融领域，还是在农业领域，还是在科学和工程领域，还是在医疗保健领域，>> 医疗保健>> 所有这些，但同时要牢记不伤害人类的基本原则。这就是我们在开始讨论时所遵循的指导原则，我们有一个由所有专家组成的专门委员会，负责制定框架。>> 好的。>> 因此，我们的指导原则是不造成伤害，同时又不损害创新。>> 对吧？所以这两件事是我们牢记在心的。>> 好的。所以基本上是既不造成伤害，也不扼杀创新。>> 是的。>> 对吧？此外，这些指南中提到了七个“苏特拉”（sutras）。>> 那么，先生，如果，你知道，为了我们的观众，您能否解释一下这些“苏特拉”集体旨在实现什么，以及它们，你知道，推广什么。七个“苏特拉”实际上捕捉了人工智能的本质。>> 我们的七个“苏特拉”是信任，这意味着信任是创新的基础。没有信任，就没有创新。然后我们有了“人民至上”>> 对吧？>> 将人类的利益放在首位。然后第三个“苏特拉”是“创新胜于限制”，正如我提到的。>> 不要对所有可能的风险感到恐慌等等。所以你制定了会扼杀创新的法律。所以不应该是这样的。这是第三个非常重要的“苏特拉”。>> 第四个是公平与平等，这意味着它必须是公平的，惠及社会所有阶层。>> 它不能有分歧。它应该服务于所有人。然后我们有了问责制，这意味着人工智能告诉我们的一切是否负责？我们是否理解它为什么会这样说？>> 对吧？>> 无论它说什么，我们是否理解它为什么会给出它给出的回应。好的。>> 所以它必须负责。>> 然后我们必须做到“设计上可理解”。>> 好的。>> 这意味着它应该是可解释的。它应该是可理解的。它不应该是黑箱方法。>> 所以尽可能地去做。然后是安全、韧性和可持续性。所以如果你看看所有这些，它们都是技术无关的>> 好的>> 并且是行业中立的>> 好的>> 但如果你问我，当然所有七个都很重要，但假设我需要选择一两个>> 对吧？这是我的下一个问题，我知道人们认为七个太多了>> 对吧？>> 实际上，所有七个都很重要，让我这么说吧。就像你有了七个孩子，你不知道哪个>> 你无法选择一个。但如果，让我称之为优先排序，而不是偏好，那将是“人民至上”>> 好的>> 那将是一个非常关键的点。第二个正如我之前提到的，“创新胜于限制”，这意味着印度对创新的承诺至关重要>> 至关重要>> 我们需要鼓励我们的创新生态系统、科技人才以及所有行业，确保他们能够真正充分发挥人工智能的潜力。嗯>> 所以，我们不会一直悬着控制的剑>> 对吧？>> 它只会在必要时使用，具体取决于风险的性质以及它所在的行业，因为有许多行业的风险并不相同，农业行业的风险可能与医疗保健行业不同。所以我们不能在所有行业都采取相同的控制措施。>> 所以每个行业都会有不同类型的控制？>> 我不会称之为控制。>> 好的。>> 将是治理指南。>> 好的。>> 所以我们不称之为监管。>> 好的。我们称之为治理框架，我们在其中说，看，这是我们想要实现的，以服务于社会更大的目标，但同时您也不能对风险置身事外，这些风险很多时候是无意的，但很多时候也是故意的。所以我们必须照顾到这一点。>> 绝对。所以基本上这些指南是治理指南，而不是监管指南。>> 不是监管指南，这一点很重要。>> 是的。所以这一点我们应该非常非常清楚地说。正如您所说，这些是指南。它们不是>> 监管>> 监管。所以现在我们必须看看它如何>> 对吧？>> 在实践中，因为现在它已经发布了，并且我们提出的内容得到了很好的接受。>> 好的。因为这个框架不是一天建成的>> 对吧？>> 实际上，草案指南发布在网站上，我们邀请公众发表评论，您会很高兴知道人们对此反应非常积极，我们收到了近千条评论，六百到一千条，这取决于您是否可以将它们归类。然后我们有一个专门委员会，负责审查所有这些>> 我们制定了一个框架，我们说，好的，如果存在这种情况，并且已经有其他指南在处理>> 等等。所以这并不是说这是您所有问题的答案。>> 好的。但它会指导您了解可以做什么，以及我们的思维过程，政府的思维过程。>> 好的。那么，先生，既然您提到了风险，那么这份文件也承认了人工智能的巨大好处，但也承认了从深度伪造到虚假信息，再到算法偏差和国家安全等风险，正如您已经提到的。那么，在起草这些指南的过程中，最艰难的权衡是什么？是保护公民免受风险，还是确保创新不受限制？>> 是的。正如我再次提到的，您需要看到您需要评估我们谈论的是什么风险。有真正的风险，也有想象中的风险>> 对吧？>> 认为可能会发生这种情况等等，这并非错误，但我们必须意识到真正发生的是什么，我们谈论的是什么风险。所以我们非常清楚，我们不应该过度限制这个过程，因为否则创新就会被扼杀>> 对吧？>> 对。现在我们在所有行业都有巨大的人工智能潜力，正如我提到的，如果我们过度监管，我们就会扼杀它。>> 现在我们意识到了这一点，同时我们也意识到存在国家安全问题，因为人工智能在网络安全方面是一件大事>> 而人工智能的网络安全也是一件大事>> 绝对>> 所以这是一个双向的事情，人工智能用于网络安全，网络安全用于人工智能>> 所有这些都必须牢记在心，但不要被人工智能可能造成的潜在危害所压倒。所以我会再次说，不要被它压倒，但同时也不要对此掉以轻心。>> 绝对不要对此掉以轻心。>> 是的。>> 嗯，您还提到您们征求了公众和多个利益相关者的意见。我相信您们在最终草案出来之前，一定研究了多个全球人工智能框架。那么，从这些全球模式中，您们学到了最有价值的经验是什么？哪些是您们认为在印度无法实施的？>> 是的，实际上，如果您看这份文件，我们列出了 13 个国家的文档。>> 所以这个专门委员会和起草委员会研究了所有这些公开的文档，包括欧盟、美国、澳大利亚、巴西、南非、以色列等所有公开的文档。这个专门委员会对此有非常非常透彻和详细的理解。>> 好的。所以我们看到欧盟的《指南法案》>> 是一方面的，它相当具体>> 另一方面，我们有美国非常轻量级的法案，如果我这么称呼的话>> 它更侧重于行业驱动的创新，以及您知道的更轻量级的接触。我们所做的是，我们研究了所有这些，我们的方法是折衷。我们意识到了潜在的风险，但同时我们也没有遵循控制和命令的政策。>> 好的。>> 所以，这就是我们考虑到的。>> 嗯，许多许多国家>> 我在文件中提到的，我们参考过的，>> 有些与我们所说的相同，有些则在另外两个方面。所以我们的，我可以称之为中间道路。但有一点我必须说，这些指南不是一成不变的。>> 嗯>> 它将是一个非常动态的事物，如果在某个阶段发现需要做些什么。这些指南允许这样做。>> 所以它很灵活。>> 它是灵活的指南。这些不是规定。我想再次明确。我们不是>> 制定规定。>> 绝对。>> 但这些是指南，我们试图看看我们如何平衡它，许多许多国家，我提到的>> 处于类似的框架中，我们试图做到包容。>> 好的。所以这是我们为人工智能治理采取的平衡方法。>> 所以基本上印度采取了中间道路，一种平衡的方法。>> 是的。>> 它涵盖了我们的战略重点。>> 好的。>> 但它也关注风险以及我们如何处理>> 如何处理>> 因为在治理文件中，您会看到有一个关于风险治理的整个章节>> 对吧？>> 而风险治理将有许多特点。这是一个，我的意思是，这是一个技术过程。>> 也许有一件事，尊敬的总理在他关于巴黎技术框架的讲话中提到了。>> 好的。>> 当我们来的时候我们可以谈谈，因为印度从我们的 DPI（数字公共基础设施）中学习了很多。我们确实学到了很多。在那里，我们启用了技术框架。这意味着我们需要一个技术架构，它将嵌入法律。>> 好的。那么我们将在节目中稍后讨论法律。但是，您知道，在发布这些指南的当天，您提到人工智能战略可以成为全球南方国家的一个参考模式。当您提到这一点时，印度的做法中有什么特别能引起发展中国家的共鸣？>> 正确。你看，首先，人工智能需要什么？人工智能需要计算资源>> 对吧？>> 它需要数据，然后它需要推理。现在，全球南方在获取计算基础设施方面面临挑战。>> 嗯。>> 不像西方国家那样拥有数十亿美元的投资等等。所以我们在这里展示的，就像在人工智能使命中>> 对吧？>> 我们确实建立了一个非常好的模型系统，如何克服资源限制>> 通过向人们提供计算能力，这是全球南方国家的一个模型>> 嗯>> 因为我们已经实现了，我们现在已经拥有近 40,000 个 GPU 的计算能力，由政府、私营部门和政府支持提供。政府已经实现了这一点>> 对吧？>> 这是一个模型，另一个非常重要的方面是数据。>> 好的。>> 人工智能通过从数据中学习来运行。现在，数据是什么？什么是公共领域的数据，已经被所有大公司抓取了。他们已经训练了他们的模型。但这还不是全部。因为有个人数据，关于医疗的个人数据，关于农业的数据等等，不在公共领域。>> 印度已经创建了 AI Kosh。>> 好的。>> 在人工智能使命中。>> 是的。是的。>> 它有大约 600 个数据集>> 和已开发模型已放入数据 Kosh，这又是全球南方国家的一个模型。您如何真正地将您的数据货币化？因为如您所知，我们有 DEPA 法案，我们有 DPDP 法案。>> 这就是赋权。嗯，所以所有这些我们从 DPI 的先前经验中学到的都将对人工智能和全球南方国家有用，而全球南方国家通常受到资源限制，但它们在数据方面非常丰富，在遗产数据方面非常丰富，在文化多样性方面非常丰富，就像印度一样>> 对吧？>> 印度拥有巨大的文化多样性>> 语言多样性，这在只有英语的语言中是不可能的。所有这些>> 我们已经建立了 Bhashini>> 是的>> 几年前>> 但它将在本使命的 27 种语言中提供>> 并且它也将提供给世界上许多语言。所以我想说的是，你需要利用你的优势，我们的优势是什么？非常非常高质量的数据，这些数据不在公共领域。>> 所以我们需要启用，我们需要制定一个流程>> 嗯>> 数据可以以非常合乎道德的方式使用，保护隐私，并且应该被货币化。>> 好的。>> 它>> 为了公共利益>> 为了公共利益。所以这是我们的指导原则，全球南方国家也有类似的问题。>> 对。所以我说，您刚才提到的这次人工智能峰会是全球南方国家举办的第一次峰会>> 2026 年 2 月>> 是全球南方国家举办的第一次峰会。所以我们将真正树立榜样，并成为全球南方国家的榜样。>> 绝对，而且我认为印度的 AI 框架为全球南方国家提供了所需的蓝图。>> 绝对。>> 嗯，您经常提到，先生，政策本身是不够的。您需要正确地实施它。您的旅程也从维京到维京巴万，反映了从想法到执行的演变。那么，先生，您将如何确保这些人工智能治理指南真正付诸实践，而不是仅仅停留在政策文件上？>> 是的。这将是一个持续的过程，因为正如我们所说，我们并没有真正地监管它>> 对吧？>> 所以，我们所说的是，很多事情可以自愿>> 自愿完成>> 因为我们正在与行业和学术界进行持续的对话。所以这是将采取的一种方法。>> 第二，我们必须以某种方式从 DPI 的经验中学习。>> 好的。就像我们做了 UPI，我们做了 Aadhaar，我们启用了交易，安全交易，你知道，所有这些都是通过技术机制完成的。>> 好的。问题是我们能否从中学习并做到这一点，这意味着我们能否利用我刚才提到的经验，通过技术框架进行全球数据共享政策>> 或者任何可以建立在其上的东西>> 技术框架是一种框架>> 对吧？>> 人们总是可以想出一些变体。但它不应该是，你知道，一切都必须由人类来允许，是的和否>> 它不能做到，它不可扩展>> 它不可扩展>> 对吧？>> 我们需要找到它，并且它应该有所有正确的合同等等，所以我们将从中学习，所以它将是自愿的>> 总结一下我想说的>> 同时，我们将引入技术框架，以确保法律规则或法律义务从一开始就被纳入技术中，从开发者、部署者和用户那里。>> 好的。那么，先生，您认为独立的 AI 立法在未来是不可避免的吗？>> 我们实际上已经就此进行了辩论，委员会在制定这些指南时进行了激烈的辩论。嗯。>> 当他们制定了这些指南>> 而考虑周全的观点是，目前我们不需要>> 好的>> 如果您看我们的治理政策>> 我想在这里展示一下，它在网站上>> 我们的 MIT 网站，我们的 PSA 办公室网站等等。它表明了哪些现有法律实际上适用于与人工智能相关的事务。假设您有深度伪造虚假信息，对吧？>> 已经有相关的法律了，在 BNS Bhata 中>> 对吧？>> 有可以处理这些的法律。好的。有隐私法案 DPDP 法案，我刚才说的>> DEPA 法案，我自己的感觉是，目前我们不需要>> 但我们并没有关闭所有门，我们说，当需要时，科技部秘书长非常清楚地表示，在发布该文件的那一天>> 政府不会犹豫>> 在引入它>> 在引入它，他非常清楚地表示>> 嗯，嗯，嗯，在开幕当天>> 对吧？>> 目前我们不需要，但如果它在某些方面有所欠缺，随着我们学习，根据需要>> 因为我们必须认识到它发展得非常快>> 确实>> 我的意思是，我的意思是，有一场辩论正在进行，如果有人自杀>> 因为人工智能模型哄骗了什么等等，谁负责等等。这仍然不是一个确定的问题>> 对吧？>> 对，所以我们将边走边学，这是一项正在形成中的技术>> 好的>> 而且它是一项颠覆性技术>> 绝对。那么，先生，当我们试图在优势和劣势之间取得平衡时，您想为我们消除关于人工智能治理的一些误解是什么？>> 看到一个，我认为>> 不仅仅是在治理方面，人们总是在谈论失业。>> 是的，那是一件非常重要的事情>> 非常重要的事情，我现在会说，在失业之后，一些失业将会发生，那些是例行的，可以由人工智能处理。>> 嗯。但每项技术都会发生这种情况，当计算机在 1990 年后投入使用时>> 人们担心我们会失去很多工作，因为我们过去是手动完成的，但>> 它创造了大量的其他工作。>> 绝对。我认为它是互补的。>> 确实。每项技术都会这样做。现在，如果您正在做一项例行工作，显然人工智能会介入，但人类必须有创造力，才能更进一步。所以人工智能，我自己的感觉是，它是一种辅助技术>> 它不是独立的，它会辅助您，我们必须确保人类始终在循环中。所以这是很重要的一点。所以这是许多人担心的，我会说，这是完全可以处理的。>> 好的。>> 第二个担忧是它是否真的会侵犯我的隐私等等。现在，您必须确保模型是什么，模型是如何训练的，这就是为什么当我们谈论偏差时>> 所有这些模型，它们可能是在非印度中心的数据上训练的>> 对吧？>> 我们的文化，我们的文化等等，如果您得到一个非常严厉的答案，因为它没有被训练过。>> 这是训练的问题。这就是为什么我们需要我们自己的大型语言模型，主权大型语言模型，>> 对吧？>> 我们需要确保印度的精神、文化多样性、语言多样性、饮食多样性等等都被考虑在内。所以这种担忧可以消除，就偏见而言。那么，先生，来自您，这给人们带来了很多保证。所以我的最后一个问题是，当您展望未来，也许到 2030 年，您希望印度建立一个怎样的人工智能世界？>> 我希望它是一个非常安全的世界。>> 好的。>> 人工智能应该以非常安全的方式部署。它不应该对任何社区或任何公众群体造成伤害。这是第一也是最重要的。>> 好的。>> 它应该将我们的经济提升到更高的水平。>> 它不能仅仅为了时尚而存在。它必须在人们的生活中产生差异。当我们在农业中使用它时，它必须带来更高的生产力。它必须减少化肥的使用。当我们在医疗保健中使用它时，它必须确保医疗保健能够惠及所有人，并且人工智能应该为此提供支持。同样在金融领域等等。现在，在未来，我不知道未来有多远，时间会告诉我们，因为它在不断发展。也许在未来三年内，我们可以谈论通用人工智能。>> 好的。>> 它将建立在现有的人工智能模型之上。>> 嗯。>> 所以通用人工智能或超级人工智能，无论您怎么称呼它。它将试图达到人类的智能水平。这意味着它应该能够争辩，并且它应该真正地实现能够清晰地表达逻辑等等，这将是人工智能的下一个阶段。>> 好的。>> 所以我的感觉是，印度必须开始研究通用人工智能。>> 好的。有一些努力，但必须在全球范围内扩大规模。这是关于通用人工智能不是科幻小说的说法。通用人工智能，我们需要认真对待。也许我们可能需要启动另一个关于通用人工智能的任务，我不知道，但那将是未来。所以我想说的是，它不是一个封闭的创新篇章。我认为这仅仅是开始。>> 这仅仅是开始，>> 对吧？>> 而印度应该完全做好准备，我们已经做好了准备，并且得到了我们领导层，我们尊敬的总理的大力支持。>> 绝对，正如我们的总理总是说的，“人工智能为所有人”。>> 人工智能为所有人。>> 人工智能为所有人>> 这就是主题。>> 绝对。而且，正如莫迪总理强调的那样，印度的 AI 愿景建立在三个支柱上：公平的获取、大规模的人口技能培训和负责任的部署。而这些新的人工智能治理指南反映了思维方式的决定性转变。通过将信任、公平和安全置于核心，印度不仅在采用人工智能，而且在引领全球关于其未来的对话。至此，本期特别节目圆满结束。先生，非常感谢您抽出宝贵时间与我们交谈，并就这个话题提供了如此有见地的见解。>> 观众朋友们，感谢您的时间。请继续关注并继续收看 Sunset TV。 [音乐和歌唱] >> [音乐] [音乐] [音乐] >> 要观看更多 Sunset TV 的节目，请订阅我们的 YouTube 频道，并且不要忘记点赞和分享。