LIVE: India AI Impact Summit 2026 | Discussion And Interactive Workshop On 'AI and Productivity'

你知道，认知将发挥非常重要的作用。我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会有某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri AJ Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，我不知道这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是皮尔先生所说的非技术人员。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传、棋子等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 是的，非常感谢您，先生。非常有价值的见解，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据驱动业务中最具影响力的 100 人之一。令人瞩目的是，我查看了您的网站，您现在说“停止管理数据，激活智能”。我还读了您关于即将到来的大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发送数千、数十万个查询，以确保您获得超个性化的体验。有了这种计算需求，马丁，您认为我们从一开始就准备好实现主权，还是像每个人所说的那样，必须逐层解决？所以，您对此有何看法，尤其是在数据层面，你知道，数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的。请您发言。>> 谢谢。以非常快的速度和叙事战中，认知将发挥非常重要的作用，我们需要一个卓越的算法。因此，我们的主权，我们生产卓越算法的能力，这不仅是对抗敌人认知攻击的防御，而且还能创造一种能够持续存在的叙事，我们可以支持我们军队在军事应用中的其他行动。因此，在这项卓越的算法创造中，我认为我们拥有优势，我确信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了人们极大的担忧，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。当一个编队接到作战任务时，一个单位接到目标时，一个士兵越过某条线时，他们就变得自主了。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，这不仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个要完成的任务，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在被污染的数据，如果系统中嵌入了规避行为，如果存在一种打开系统后门的提取算法。我们能依赖这种人工智能应用的自主任务模式吗？因此，如果我们必须决定一项防御应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为对人工智能可以寄予高度信任。我们采取的第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会产生某些可以量化的影响或后果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素具有一定的发生概率，如果发生，会产生量化的影响，在这些情况下，人工智能可以帮助您进行模拟并得出非常理性的决策，我们可以对人工智能给予相当程度的信任。军事上第三个也是最关键的决策是在不确定性下，在战争迷雾下做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但不能信任人工智能来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与将其用作工具而不是作为一种值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行评级的基准测试套件，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将主权放在哪个层面时，我认为您的输入中最突出的是卓越的算法是我们真正关注的国家安全方面。因此，我现在转向 Shri Ajay Singhal IPS，哈纳警察局局长，警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我曾阅读过您之前的演讲，其中最让我印象深刻的是您谈到警务工作分为五个阶段。首先您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个也是您非常强调的阶段是人工智能时代，即罪犯如何利用它进行网络犯罪、毒品犯罪甚至数字逮捕等犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢。>> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们跟随罪犯。>> 是的。>> 怎么跟？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何利用人工智能影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也可能不知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我在某处读到，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilleing 的观点，他提到了炒作和技术总是相伴相生的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情，加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，就像我们理解的那样，因为有人建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是炒作还是炒作，只有时间会证明一切。然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，很高兴知道这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感激。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了黑社会。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度更快。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一 Jensen Wag 详细解释了一个名为 Akima 模型的五层蛋糕。我认为我们都知道。所以它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕以一种或另一种方式对警方很重要，并直接影响警方。对于执法而言，顶层应用层的主权是不够的。如果敌对行为者能够破坏关键数据中心的电力，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控，人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须延伸到整个堆栈，否则低级别的漏洞会危及上层的所有级别。因此，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了几个非常重要的观点，尤其是在人工智能在国家安全的各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是逐层解决问题，还是进行大规模的主权变革，还是进行渐进式变革？为此，我想请我们的下一位演讲者 Bijay Singh 先生。虽然马丁，我非常想让行业参与进来，但我忍不住，因为他在场，他拥有从一开始就涉足人工智能领域的资深官员官僚的独特背景。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要和深刻的观点。所以，当我们说我们可以让各层的人工智能都主权化时，如果数据本身存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们看到的变革是应该全面进行还是应该渐进式进行发表您的看法。请您发言。>> 所以，为了正确设定主权背景，皮尔先生说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，是生存的，对吧？>> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以关闭您对任何技术的访问。所以想象一下，对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您拥有香料、矿产、棉花、茶叶，这些东西在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一次交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都会作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该选择任何可能 50% 正确，可能 80% 正确的东西。但想象一下，您不能将您主权的大脑交给一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于一种叫做“common crawl”的东西进行下一个词预测开发的，而“common crawl”基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，你知道吗？我写了一篇关于 Wikipedia 如何存在偏见的文章，并已证明了这一点。Wikipedia 如何存在偏见，它拥有一组非常有限的编辑，他们决定了世界如何思考，并且它代表了某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，由于它不理解您的本地背景，由于它不理解高语境低资源的东西，比如，让我们说，在 Bhojpuri 或 Malayalam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。现在的治理在中国是不同的。中国社会的原则是不同的，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个性。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量的技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 10%。警务工作使用大量的技术。看看，你知道，Kuma，我们开始使用流体动力学来预测人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何不具备情境相关性的模型。现在，当您开始将其应用于执法领域，您将做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这个自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它还受到美国法律的约束。所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，由四大公司销售，对吧？他们用西装革履地向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理、安全、许可的测试吗？不，因为在某个地方，有人能够拉动“一键开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了，所以您必须像我们拥有印度的数字公共基础设施一样，我们必须创建认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须做到，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏的只有计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在利用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，你知道，有一家公司叫 Arup。我认为它是一家广告公司还是什么的，首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释说警务工作不是实时的。所以您必须同时提高能力和容量，这需要认真思考。所以皮尔，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，正如预期的那样，提出了非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前很久，当它还处于非常初级阶段时，我见了您的总理。他说，您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，也是我们与世界其他地方相比需要掌握的，然后我将很乐意在稍后将皮尔请来。所以，在此之后，我想转向马丁。马丁，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们同在。马丁，在您作为 Teradata 的领导者，在数据分析、大数据实施方面，您曾两次被 Data IQ 评为数据

您谈到了警务工作在五个阶段的演变。首先，您说那是传统时期，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段是智能手机和应用程序，但最后一个，您对此给予了极大的强调，那就是人工智能时代，罪犯如何利用它进行网络犯罪、毒品犯罪，甚至是数字逮捕类犯罪，以及您如何强调警方需要在此领域迎头赶上。那么，先生，关于国家安全警务，您认为在我们评估生态系统中的主权时，哪些优先事项对我们来说是重要的？请您发言。 >> 谢谢。 >> 我们是皮尔先生所说的非技术人员。我们是技术文盲，我们追随罪犯。 >> 是的。 >> 我们追随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何看待人工智能将如何影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验以及世界各地正在进行的关于人工智能的讨论。我准备了一个用简单的话语进行的简短演讲，您可能知道，也许您可能知道其中的某些内容。所以，这是。我们都同意，任何一个时机已到的想法都无法阻止。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我读到过，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，例如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种创新都扩展了人类的能力，而不仅仅是更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器，从根本上重新构想工作流程以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nille Kenny 的观点，他提到了炒作和技术，它们一直携手并进。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的发明，然后加密货币出现了，他们说它将用加密货币解决世界饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人。这种炒作，也许它是否达到了前所未有的水平，这是看待事物的一种方式。人工智能的动态很简单，正如我们所理解的，因为它被建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是泡沫还是炒作，只有时间会告诉我们。然而，每一次技术进步都会带来新的挑战。因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。而且，令人欣慰的是，这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被征求意见。之后，清理的责任就落在了我们身上。因此，感谢这个平台提出问题并提出我们的担忧。我们非常感谢。 >> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？ >> 是的，请继续。请继续。 >> 是的，先生。请继续。 >> 所以我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但它创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传、棋子等。2008 年，有人称之为中本聪的人推出了区块链和比特币。一些才华横溢的工程师创建了暗网来团结世界。但实际上，他团结了地下世界。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大而缓慢的。但人工智能是一项颠覆性技术。它截然不同，更强大，破坏性更持久，速度也快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，一位人工智能的教父 Jensen 曾美妙地解释了一个名为 Akimma 模型 的五层蛋糕。我想我们都知道。它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕的每一层都以一种或另一种方式影响着警方。对于执法而言，最顶层即我们使用的应用程序的主权是不够的。如果敌对行为者能够切断关键数据中心的电力，我们的人工智能驱动的紧急响应就会失效。如果供应链受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖权和监控的影响。人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须贯穿整个堆栈，否则低级别的漏洞将危及上层的所有级别。因此，在我谦卑的意见和有限的知识范围内，我预见到这些是印度长期国家安全所需的战略转变。一个路线图。非常感谢您。 >> 非常感谢您，先生。非常感谢您。因此，您提出了一些非常重要的观点，尤其是在人工智能对国家安全各个领域构成的威胁方面。现在，一个重要的问题摆在我们面前的是，我们是处理每一层，还是进行大规模的主权变革，或者进行渐进式变革？为此，我想请下一位发言者，我们这边的 Mr. Bijay Singh，虽然 Martin，我非常渴望让行业参与进来，但我无法避免，因为他在场，他拥有作为一名资深官员和官僚的独特背景，他从一开始就涉足人工智能领域。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我最近读到他两三天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要的观点。因此，当我们说我们可以让人工智能在各个层面都主权化，但如果数据存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，然后也许在本届会议晚些时候，我也想请您就我们所看到的变革是应该全面进行还是渐进式进行发表您的看法。请您发言。 >> 所以，为了正确设定主权背景，Pair 说它是情感的。是的。 >> 我说它不是情感的，它是本能的，它是生存的，对吧？ >> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对。这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有“终止开关”的某人可以关闭您对任何技术的访问。所以想象一下，现在对于所有提供给我们的良性技术。这又回到了前殖民时代，那时您有香料、矿产、棉花、茶叶在这里生产，通过火车运到曼彻斯特，您得到了精美的成品。现在，您进行的每一笔交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入到模型中，都将作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以我认为政府，无论是国防、政府还是私营部门，我们都不应该选择任何这些人工智能包装。我们应该选择任何可能 50% 正确，80% 正确的东西。但想象一下，您不能将您的主权大脑放在一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于“下一个词预测”开发的，基于一种叫做“Common Crawl”的东西，而 Common Crawl basically 是 Reddit 和 Wikipedia。而 Wikipedia 是什么，您知道，我写了一篇关于 Wikipedia 如何存在偏见的非常长的文章，并且我证明了这一点。Wikipedia 如何存在偏见，并且它只有非常有限的一组编辑来决定世界怎么想，并且它是，您知道，某些技术精英的“觉醒”理想。现在，讽刺的是，这将成为每个人的声音。由于模型不了解您，不了解您的本地背景，不了解高语境低资源的东西，例如，让我们说在 Bhojpuri 或 Malaram，在 Tamil，在 Marathi，假设有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它。因此，它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，对吧？治理。 >> 现在中国的治理方式不同。中国社会的原则不同。而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个人主义。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它如何崩溃，因为它，您知道，想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过，您知道，由非常有限的数据集创建的东西，由白人创建的东西。现在，警务工作使用大量技术，不仅仅是生成式人工智能。生成式人工智能，我认为企业用例尚未到来。除了编码之外，企业采用率 hardly 只有 10%。警务工作使用大量技术。看看，您知道，Kumba，我们开始使用流体动力学来预测人群流动，或者车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练，对吧？同样，任何缺乏情境相关性的模型。现在，当您开始将其应用于执法领域，您正在做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何将这种自动化官僚机构置于其位，它将在不了解的情况下做出如此关键的决定？而且，当它，您知道，受美国法律管辖时。所以我的税务数据，有人给了我一个很好的，您知道，主权人工智能解决方案，由四大公司出售，对吧？他们穿着西装向我漂亮地推销它，我们接受了，好的，它是主权人工智能，它不是，它不是，它是否，您知道，通过了设计、部署、审计、治理、安全、许可的测试？不，因为在某个地方，有人能够拉动“终止开关”，并，您知道，停止所有访问。 >> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄罗斯乌克兰战争正在进行时，俄罗斯被停止了 SWIFT，所以您必须，以我们拥有印度数字公共基础设施的方式，我们必须创建认知公共基础设施，无论多么困难，这就是为什么 Pair，它是本能的，它是生存的，我们必须这样做，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”，它就是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏，唯一缺乏的是计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。 >> 对。 >> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，您知道，有一家名为 Arup 的公司，我认为它是一家广告公司还是什么，其首席执行官在一次实时 Zoom 会议中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，您解释了警务工作并非如此实时。所以您必须同时提高能力和效率，这需要认真思考。所以 Pair，我们需要主权人工智能。 >> 谢谢。谢谢您，先生。再次，正如预期的那样，非常非常相关的观点。这让我想起几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前，我见过您的总理，当时它还处于非常初级的阶段，他说您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法，真是太了不起了。所以，我认为您也表达了非常相关的观点，但很高兴您提到了计算能力，因为计算能力是我们真正需要加强的，事实上，与世界其他地方相比，然后我很乐意在稍后邀请 Pair。那么，现在我想转向 Martin。Martin，非常感谢您，首先，您不远万里来到印度参加人工智能峰会并与我们在一起。Martin，您在 Teradata 担任数据分析、大数据实施领域的领导者，您曾两次被列入 Data IQ 的数据驱动业务最具影响力人物 100 强。令人瞩目的是，我在查看您的网站时，您现在说“停止管理数据，激活智能”。我还读了您关于大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发出成千上万的查询，以确保您拥有超个性化的体验。有了如此大的计算需求，Martin，您认为我们从一开始就准备好实现主权了吗，还是像每个人所说的那样，必须逐层解决？那么，您对此有何看法，尤其是在数据层面，您知道数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的，请您发言。 >> 谢谢。以非常快的速度和叙事战的形式，认知将在其中发挥非常重要的作用。我们需要一个更优越的算法。因此，我们的主权，我们生产更优越算法的能力，它不仅是对抗敌人认知攻击的防御，而且还能创造一个可持续的叙事，我们可以支持我们在军事力量应用中的其他行动。因此，在这方面，我认为我们在创造更优越的算法方面具有优势，并且我相信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了普遍的担忧。人们都在谈论军事应用应该有多少自主权，尤其因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。一个编队在接到作战任务时，一个单位在接到目标时，一个士兵在越过某个界限时，它们都会变得自主。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，它不再仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个任务去完成，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在，比如说，被污染的数据，如果系统中嵌入了规避行为。如果存在一种提取算法，打开了系统的后门。我们能依赖这种任务自主模式的人工智能应用吗？因此，如果我们必须决定一项国防应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。因此，军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析等。我认为人工智能可以获得高度信任。第二种决策是随机性的，其中不仅已知因素，还有一些具有发生概率的因素，如果它们发生，会有一些可以量化的影响或效果。在这些情况下，人工智能可以极大地提供帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这种情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌方行动、各种，您知道，山体滑坡、道路中断等具有一定发生概率的因素，如果它们发生，就会产生量化的影响。在这种情况下，人工智能可以帮助您进行模拟并做出非常理性的决策，并且我们可以对人工智能有相当程度的信任。第三种也是最关键的军事决策是，在不确定性下，在战争迷雾下的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这种情况下，不仅所有因素都未知，而且其影响也无法量化。有处理不确定性的管理工具，但博弈论等理论也失败了，因为这里的玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这种情况下，人工智能可以作为一种辅助工具，但不能信任人工智能来做决策。因此，在第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与使用它作为工具而不是作为，您知道，值得信赖的副驾驶保持一致。总而言之，我的回应是，有一件事是必须的，有一件事是我们必须拥有的主权能力，那就是一个平台，我们可以在其中测试它们，一个基准测试套件，我们可以在其中测试人工智能应用并对其进行评级，看它是否适合军事应用。谢谢 Abhishek。 >> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将在哪个层面实现主权时，我认为您的输入中最突出的是，更优越的算法是我们真正关注国家安全的方面。 >> 因此，我现在转向下一位发言者，哈纳警察部队总监兼警察局长 Shri AJ Singhal IPS，对于国际观众来说，这是一个与我们国家首都地区相邻的大邦。 >> 先生，作为警察部队的领导者，我阅读了您之前的演讲，让我印象深刻的是您谈到了警务工作在五个阶段的演变。首先，您说那是传统时期，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段是智能手机和应用程序，但最后一个，您对此给予了极大的强调，那就是人工智能时代，罪犯如何利用它进行网络犯罪、毒品犯罪，甚至是数字逮捕类犯罪，以及您如何强调警方需要在此领域迎头赶上。那么，先生，关于国家安全警务，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说是重要的？请您发言。 >> 谢谢。 >> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们追随罪犯。 >> 是的。 >> 如何？ >> 我们追随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何看待人工智能将如何影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验以及世界各地正在进行的关于人工智能的讨论。我准备了一个用简单的话语进行的简短演讲，您可能知道，也许您可能知道其中的某些内容。所以，这是。我们都同意，任何一个时机已到的想法都无法阻止。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我读到过，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，例如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种创新都扩展了人类的能力，而不仅仅是更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器。从根本上重新构想工作流程以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandani 的观点，他提到了炒作和技术，它们一直携手并进。早些时候，云计算出现了。所以他们说这是自切片面包以来最伟大的发明，然后加密货币出现了。他们说它将用加密货币解决世界和平与饥饿问题。现在没有人再谈论智慧城市了。现在人工智能正在改变每个人。这种炒作，也许它是否达到了前所未有的水平。这是看待事物的一种方式。人工智能的动态很简单，正如我们所理解的，因为它被建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是泡沫还是炒作，只有时间会告诉我们。然而，每一次技术进步都会给警方带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。而且，令人欣慰的是，这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被征求意见。之后，清理的责任就落在了我们身上。因此，感谢这个平台提出问题并提出我们的担忧。我们非常感谢。 >> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？ >> 是的，请继续。请继续。 >> 是的，先生。请继续。 >> 所以，我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但它创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，有人称之为中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但实际上，他团结了地下世界。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大而缓慢的。但人工智能是一项颠覆性技术。它截然不同，更强大，破坏性更持久，速度也快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，一位人工智能的教父 Jensen Wag 曾美妙地解释了一个名为 Akimma 模型 的五层蛋糕。我想我们都知道。它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕的每一层都以一种或另一种方式影响着警方。对于执法而言，最顶层即我们使用的应用程序的主权是不够的。如果敌对行为者能够切断关键数据中心的电力，我们的人工智能驱动的紧急响应就会失效。如果供应链受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖权和监控的影响。因此，您提出了几个非常重要的观点，尤其是在人工智能对国家安全各个领域构成的威胁方面。现在，一个重要的问题摆在我们面前的是，我们是处理每一层，还是进行大规模的主权变革，或者进行渐进式变革？为此，我想请下一位发言者，我们这边的 Mr. Bijay Singh，虽然 Martin，我非常渴望让行业参与进来，但我无法避免，因为他在场，他拥有作为一名资深官员和官僚的独特背景，他从一开始就涉足人工智能领域。他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我最近读到他两三天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们首先，您对数据及其偏见表达了非常重要的观点。因此，当我们说我们可以让人工智能在各个层面都主权化，但如果数据存在偏见，这难道不是主权的一个非常重要方面吗？所以我想听听您的想法，然后也许在本届会议晚些时候，我也想请您就我们所看到的变革是应该全面进行还是渐进式进行发表您的看法。请您发言。 >> 所以，为了正确设定主权背景，Pair 说它是情感的。是的。 >> 我说它不是情感的，它是本能的，它是生存的，对吧？ >> 什么是主权？任何您无法自行开发、部署、治理、审计、保护和许可的东西都不是主权的。对。这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有“终止开关”的某人可以关闭您对任何技术的访问。所以想象一下，现在对于所有提供给我们的良性技术。这又回到了前殖民时代，那时您有香料、矿产、棉花、茶叶在这里生产，通过火车运到曼彻斯特，您得到了精美的成品。现在，您进行的每一笔交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入到模型中，都将作为 API 卖回给您，您将为此付费。对吧？这不是主权。所以我认为政府，无论是国防、政府还是私营部门，我们都不应该选择任何这些人工智能包装。我们应该选择任何可能 50% 正确，80% 正确的东西。但想象一下，您不能将您的主权大脑放在一个不了解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于“下一个词预测”开发的，基于一种叫做“Common Crawl”的东西，而 Common Crawl basically 是 Reddit 和 Wikipedia。而 Wikipedia 是什么，您知道，我写了一篇关于 Wikipedia 如何存在偏见的非常长的文章，并且我证明了这一点。Wikipedia 如何存在偏见，并且它只有非常有限的一组编辑来决定世界怎么想，并且它是，您知道，某些技术精英的“觉醒”理想。现在，讽刺的是，这将成为每个人的声音。由于模型不了解您，不了解您的本地背景，不了解高语境低资源的东西，例如，让我们说在 Bhojpuri 或 Malaram，在 Tamil，在 Marathi，假设有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它。因此，它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，对吧？治理。 >> 现在中国的治理方式不同。中国社会的原则不同。而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个人主义。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它如何崩溃，因为它，您知道，想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过，您知道，由非常有限的数据集创建的东西，由白人创建的东西。现在，警务工作使用大量技术，不仅仅是生成式人工智能。生成式人工智能，我认为企业用例尚未到来。除了编码之外，企业采用率 hardly 只有 10%。警务工作使用大量技术。看看，您知道，Kumba，我们开始使用流体动力学来预测人群流动，或者车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练，对吧？同样，任何缺乏情境相关性的模型。现在，当您开始将其应用于执法领域，您正在做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何将这种自动化官僚机构置于其位，它将在不了解的情况下做出如此关键的决定？而且，当它，您知道，受美国法律管辖时。所以我的税务数据，有人给了我一个很好的，您知道，主权人工智能解决方案，由四大公司出售，对吧？他们穿着西装向我漂亮地推销它，我们接受了，好的，它是主权人工智能，它不是，它不是，它是否，您知道，通过了设计、部署、审计、治理、安全、许可的测试？不，因为在某个地方，有人能够拉动“终止开关”，并，您知道，停止所有访问。 >> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄罗斯乌克兰战争正在进行时，俄罗斯被停止了 SWIFT，所以您必须，以我们拥有印度数字公共基础设施的方式，我们必须创建认知公共基础设施，无论多么困难，这就是为什么 Pair，它是本能的，它是生存的，我们必须这样做，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”，它就是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏，唯一缺乏的是计算能力，我认为从地缘政治角度来看，我们应该解决这个问题，这又是主权，对吧？因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。 >> 对。 >> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。它造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，您知道，有一家名为 Arup 的公司，我认为它是一家广告公司还是什么，其首席执行官在一次实时 Zoom 会议中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，您解释了警务工作并非如此实时。所以您必须同时提高能力和效率，这需要认真思考。所以 Pair，我们需要主权人工智能。 >> 谢谢。谢谢您，先生。再次，正如预期的那样，非常非常相关的观点。这让我想起几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前，我见过您的总理，当时它还处于非常初级的阶段，他说您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法，真是太了不起了。所以，我认为您也表达了非常相关的观点，但很高兴您提到了计算能力，因为计算能力是我们真正需要加强的，事实上，与世界其他地方相比，然后我很乐意在稍后邀请 Pair。那么，现在我想转向 Martin。Martin，非常感谢您，首先，您不远万里来到印度参加人工智能峰会并与我们在一起。Martin，您在 Teradata 担任数据分析、大数据实施领域的领导者，您曾两次被列入 Data IQ 的数据驱动业务最具影响力人物 100 强。令人瞩目的是，我在查看您的网站时，您现在说“停止管理数据，激活智能”。我还读了您关于大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟踪，他将发出成千上万的查询，以确保您拥有超个性化的体验。有了如此大的计算需求，Martin，您认为我们从一开始就准备好实现主权了吗，还是像每个人所说的那样，必须逐层解决？那么，您对此有何看法，尤其是在数据层面，您知道数据结构如何，像印度这样的国家如何确保他们在这些方面拥有主权？是的，请您发言。 >> 谢谢。以非常快的速度和叙事战的形式，认知将在其中发挥非常重要的作用。我们需要一个更优越的算法。因此，我们的主权，我们生产更优越算法的能力，它不仅是对抗敌人认知攻击的防御，而且还能创造一个可持续的叙事，我们可以支持我们在军事力量应用中的其他行动。因此，在这方面，我认为我们在创造更优越的算法方面具有优势，并且我相信军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这引起了普遍的担忧。人们都在谈论军事应用应该有多少自主权，尤其因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。一个编队在接到作战任务时，一个单位在接到目标时，一个士兵在越过某个界限时，它们都会变得自主。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，它不再仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器一个任务去完成，然后它们就处于自主模式。在人工智能的此类应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在，比如说，被污染的数据，如果系统中嵌入了规避行为。如果存在一种提取算法，打开了系统的后门。我们能依赖这种任务自主模式的人工智能应用吗？因此，如果我们必须决定一项国防应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。因此，军事决策，如果我能广泛地将它们分为两类，一类是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析等。我认为人工智能可以获得高度信任。第二种决策是随机性的，其中不仅已知因素，还有一些具有发生概率的因素，如果它们发生，会有一些可以量化的影响或效果。在这些情况下，人工智能可以极大地提供帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这种情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌方行动、各种，您知道，山体滑坡、道路中断等具有一定发生概率的因素，如果它们发生，就会产生量化的影响。在这种情况下，人工智能可以帮助您进行模拟并做出非常理性的决策，并且我们可以对人工智能有相当程度的信任。第三种也是最关键的军事决策是，在不确定性下，在战争迷雾下的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这种情况下，不仅所有因素都未知，而且其影响也无法量化。有处理不确定性的管理工具，但博弈论等理论也失败了，因为这里的玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这种情况下，人工智能可以作为一种辅助工具，但不能信任人工智能来做决策。因此，在第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与使用它作为工具而不是作为，您知道，值得信赖的副驾驶保持一致。总而言之，我的回应是，有一件事是必须的，有一件事是我们必须拥有的主权能力，那就是一个平台，我们可以在其中测试它们，一个基准测试套件，我们可以在其中测试人工智能应用并对其进行评级，看它是否适合军事应用。谢谢 Abhishek。 >> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将在哪个层面实现主权时，我认为您的输入中最突出的是，更优越的算法是我们真正关注国家安全的方面。 >> 因此，我现在转向下一位发言者，哈纳警察部队总监兼警察局长 Shri AJ Singhal IPS，对于国际观众来说，这是一个与我们国家首都地区相邻的大邦。 >> 先生，作为警察部队的领导者，我阅读了您之前的演讲，让我印象深刻的是您谈到了警务工作在五个阶段的演变。首先，您说那是传统时期，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段是智能手机和应用程序，但最后一个，您对此给予了极大的强调，那就是人工智能时代，罪犯如何利用它进行网络犯罪、毒品犯罪，甚至是数字逮捕类犯罪，以及您如何强调警方需要在此领域迎头赶上。那么，先生，关于国家安全警务，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们来说是重要的？请您发言。 >> 谢谢。 >> 我们是非技术人员，皮尔先生所说的。我们是技术文盲，我们追随罪犯。 >> 是的。 >> 如何？ >> 我们追随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何看待人工智能将如何影响国家安全以及我们如何应对它。所以我不认为我们有能力在技术上告诉您，但根据我们的经验以及世界各地正在进行的关于人工智能的讨论。我准备了一个用简单的话语进行的简短演讲，您可能知道，也许您可能知道其中的某些内容。所以，这是。我们都同意，任何一个时机已到的想法都无法阻止。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是当今的事实，我们必须接受它。我读到过，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，例如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种创新都扩展了人类的能力，而不仅仅是更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为强大的力量倍增器。从根本上重新构想工作流程以扩展能力并开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandani 的观点，他提到了炒作和技术，它们一直携手并进。早些时候，云计算出现了。所以他们说这是自切片面包以来最伟大的发明，然后加密货币出现了。他们说它将用加密货币解决世界和平与饥饿问题。现在没有人再谈论智慧城市了。现在人工智能正在改变每个人。这种炒作，也许它是否达到了前所未有的水平。这是看待事物的一种方式。人工智能的动态很简单，正如我们所理解的，因为它被建议到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是泡沫还是炒作，只有时间会告诉我们。然而，每一次技术进步都会给警方带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。而且，令人欣慰的是，这次警方意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被征求意见。之后，清理的责任就落在了我们身上。因此，感谢这个平台提出问题并提出我们的担忧。我们非常感谢。 >> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？ >> 是的，请继续。请继续。 >> 是的，先生。请继续。 >> 所以，我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但它创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，有人称之为中本聪的人推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但实际上，他团结了地下世界。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大而缓慢的。但人工智能是一项颠覆性技术。它截然不同，更强大，破坏性更持久，速度也快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，一位人工智能的教父 Jensen Wag 曾美妙地解释了一个名为 Akimma 模型 的五层蛋糕。我想我们都知道。它是能源、芯片、基础设施、模型和应用程序。所以这五层蛋糕的每一层都以一种或另一种方式影响着警方。对于执法而言，最顶层即我们使用的应用程序的主权是不够的。如果敌对行为者能够切断关键数据中心的电力，我们的人工智能驱动的紧急响应就会失效。如果供应链受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖权和监控的影响。

关键数据中心，我们的人工智能赋能的紧急响应就会失效。如果主要供应受外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控的影响，而且人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须贯穿整个堆栈，否则较低级别的漏洞会损害其上所有级别的安全。所以，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变。所以，一个路线图。

>> 非常感谢。

>> 非常感谢您，先生。非常感谢。

>> 先生，您提出了几点非常重要的观点，尤其是在人工智能在国家安全相关各个领域可能带来的威胁方面。现在，一个重要的问题也摆在我们面前，那就是我们是逐层解决问题，还是在主权方面进行重大变革，抑或是进行渐进式改变？

>> 对于这个问题，我想请我们这边的下一位发言嘉宾，比杰·辛格先生。而马丁，我非常希望现在能引入业界的声音，但我无法避免，因为他就在现场，他拥有资深官员和官僚的独特背景，并且从一开始就涉足人工智能领域。他不仅写过、谈论过人工智能，他本人就是实践者。我认识他很多年了，我刚刚读了他两天前发表在《星期日卫报》上的一篇非常有见地的文章。

>> 所以，先生，首先，您对数据及其偏见表达了非常……您知道，非常重要的、有意义的观点。当我们说，您知道，我们可以使人工智能在各个层面都实现主权，但如果数据本身存在偏见，这难道不是主权的一个非常重要的方面吗？所以，我想听听您在这方面的想法，先生，然后可能在稍后的会议中，我也想请您就我们所看到的变革是应该全面进行还是应该渐进式进行发表您的看法。

>> 那么，请您发言，先生。

>> 好的，为了正确地设定关于主权的背景，佩尔说它是情感化的。是的。

>> 我说它不是情感化的，它是发自内心的，是关乎生存的，对吧？

>> 那么，什么是主权？任何你不能按照自己的意愿去开发、部署、治理、审计、保护和许可的东西，都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以切断您对任何技术的访问。所以，想象一下，现在对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您有香料、矿产、棉花、茶叶在这里生产，通过火车运到曼彻斯特，然后您得到精美的成品。现在，您进行的每一笔交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入模型，都会被卖回给您，作为 API，您需要为此付费。对吧？这不是主权。所以，我认为政府，无论是国防、政府还是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该采用任何……即使它可能只正确 50%，即使它可能正确 80%。但请想象一下，您不能将您主权的“大脑”交给一个不理解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于……您知道，基于称为 Common Crawl 的东西进行下一个词预测的。而 Common Crawl 基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，您知道，我写了一篇关于 Wikipedia 如何存在偏见的非常长的文章，并且我证明了这一点。Wikipedia 如何存在偏见，它只有数量非常有限的编辑来决定……您知道，世界在想什么，而这是……您知道，是某些“觉醒”的理想，是某些技术精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，因为它不理解您的本地语境，因为它不理解高语境低资源……您知道，比如在 Bhojpuri、Malayalam、Tamil、Marathi 方言中的事物，比如有一种本地品种的鱼，它可能有不同的名字，但 GPT 却不知道，所以它开始将其扁平化，它开始给您一些其他的东西。再看看对齐原则，对吧？治理。现在，中国的治理方式不同。中国社会的原则不同。而我们称之为“达摩克利斯”原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有得到体现。它谈论个体主义。它谈论某些可能不适合我们的西方理想。现在发生的是，作为一种力量倍增器，它已经成为世界的认知基础设施。现在，圣经里有一个关于巴别塔的故事，您可以参考一下，以及它是如何倒塌的，因为它……您知道，想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过……您知道，一些由非常有限的数据创建的东西，一些由白人创建的东西。现在，警务工作使用大量技术，不仅仅是生成式人工智能。生成式人工智能，我认为企业用例尚未到来。除了编码，企业采用率 hardly 10%。警务工作使用大量技术。看看……您知道，库姆巴，我们开始使用流体动力学来预测……您知道，人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何缺乏语境相关性的模型。现在，当您开始……您知道，将其应用于执法，您正在做出生死攸关的决定时，这将非常困难。它是一个黑箱。没有可解释性。没有透明度。我如何将这种自动化官僚机构置于……它在不理解是什么的情况下做出如此关键的决定，而且它还……您知道，受美国法律管辖。所以，我的税务数据，有人给了我一个不错的……您知道，主权人工智能解决方案，由四大公司销售，对吧？他们……他们以一套漂亮的西装向我推销，我们接受了，好的，它是主权的，它不是……它不是……它是否……您知道，通过了……设计、部署、审计、治理、保护、许可的测试？不，因为在某个地方，有人能够……拉动“一键开关”，然后……您知道，停止所有访问。

>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄罗斯乌克兰战争正在进行时，俄罗斯的 SWIFT 被停止了。所以，您必须……以我们拥有印度数字公共基础设施的方式，我们将不得不创建一种认知公共基础设施，无论它多么困难。这就是为什么，佩尔，它是发自内心的，它是关乎生存的，我们必须这样做，而且可能现在是时候了。我昨天在《星期日卫报》上写了一篇文章，我称之为“独立架构”，对吧？它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏……唯一缺乏的是计算能力，我认为在地缘政治上我们应该解决这个问题，这又是主权，对吧？因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们必须在……您知道，蛋糕的所有……所有层面上都实现主权。

>> 对。

>> 我相信，当您将这些系统应用于……警务工作时，您必须追求信任和透明度。它确实造成了问题。另一方面，它已成为一种力量倍增器。它极大地助长了犯罪生态系统。我们有变态恶意软件。您有……您知道，有一家名为 Arup 的公司，我认为它是一家广告公司之类的，其首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的现状。我们有实时警务吗？先生，您知道，解释了警务工作并非如此实时。所以，您必须同时提高能力和容量，这需要认真考虑。所以，佩尔，我们需要主权人工智能。

>> 谢谢。谢谢您，先生。再次如预期的那样，提出了非常有价值的观点。这让我想起了几年前黄仁勋的一次采访。他说，在人工智能热潮之前很久，我见了你们的总理，当时人工智能还处于非常初级的阶段，他说你们的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候能这样想，真是非同寻常。所以，我认为您也呼应了非常有价值的观点，但很高兴您将计算能力带入了视野，因为计算能力是我们真正需要加强的，事实上，是整个世界，然后我很想在稍后的阶段邀请佩尔。

>> 那么，在此之后，我想转向马丁。马丁，非常感谢您，首先，您远道而来印度参加人工智能峰会并与我们同在。马丁，以您在 Teradata 作为数据分析、大数据实施领域的领导者的身份，您曾两次被《Data IQ》评为数据驱动业务领域最具影响力的 100 人之一。而令人瞩目的是，我看了您的网站，您现在说“停止管理数据，激活智能”。所以，我也读了您关于大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟随，他将发出成千上万的查询，以确保您拥有那种超个性化的体验。

>> 那么，面对如此大规模的计算需求，马丁，您认为我们从一开始就准备好实现主权了吗？还是说，正如大家所说，我们必须逐层解决？那么，您对此有何看法，特别是当涉及到数据层面时，您知道，像印度这样的国家如何构建数据结构，才能确保他们在这些方面实现主权？

>> 是的，那么，请您发言。

>> 谢谢。以非常快的速度，在认知将在其中扮演非常重要角色的叙事战中，我们需要一种更优越的算法。所以，我们的主权，我们生产更优越算法的能力，它不仅是对抗敌方认知攻击的防御，而且还能创造一种可持续的叙事，我们可以……支持我们在军事力量应用中的其他行动。所以，在这方面……创造更优越的算法，我认为我们……我们有一个优势，我确信……军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这是引起普遍担忧的原因。人们都在谈论军事应用应该被赋予多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。一个部队，当被赋予一项作战……您知道，任务时，一个单位，当被赋予一个目标时，一个士兵，当他越过某个界限时，他们就变得自主了。一枚导弹一旦发射，今天的智能弹药。我们现在面临的问题是，它不再仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器分配一个任务去完成，然后它们就处于自主模式。在……您知道，人工智能的此类应用中，威胁来自对抗性攻击，因此，主权在这些算法中变得非常重要。如果存在……比如被污染的数据，如果系统中嵌入了规避，如果存在一种提取算法，打开了系统的后门，您能否依赖这种任务自主模式来进行人工智能应用？因此，如果我们必须决定一项国防应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以，军事决策，如果我可以大致划分它们。一种是确定性的。确定性的意思是，当信息可用时，可以计算出结果。在这种确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析等。我认为……可以高度信任人工智能。第二种我们做的决策是随机的，其中不仅已知因素，还有一些因素……具有发生概率的因素，如果它们发生，就会产生某些……可以量化的影响或效果。在这种情况下，人工智能可以再次在很大程度上提供帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦……您知道，宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这种情况下，除了各种预先计算的因素之外，……天气因素、社会动荡因素、敌方行动、各种……您知道，山体滑坡、道路中断等因素，它们具有一定的发生概率，如果它们发生，就会产生量化影响。在这种情况下，人工智能可以帮助您进行模拟并得出……非常……您知道，理性的决策，我们可以对人工智能有相当程度的信任。军事上第三种也是最关键的决策是……在不确定性下，在战争迷雾下的决策。一旦必须做出此类决策，主权就成为首要关注点。在这种情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为这里的玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这种情况下，人工智能可以成为一种辅助工具，但人工智能不能被信任来做出决策。所以，在这个第四个领域，我认为……您知道，我们需要培训，我们需要制定政策，我们的战略制定，我们的技术和程序必须与使用它作为一种工具而不是……您知道，一个值得信赖的……副驾驶相协调。总的来说，在这四个领域中，为了总结我的回答……有一件事是必须的，有一件事我们必须拥有作为一种主权……能力，那就是一个我们可以测试它们的平台，一个基准测试套件，我们可以测试人工智能应用并对其进行评级，看它是否适合军事应用。谢谢，阿布舍克。

>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估在哪个层面实现主权时，我认为您的输入中突出的一点是，更优越的算法是我们真正关注的国家安全方面。

>> 所以，我现在转向下一位发言者，哈纳邦警察总监，警察部队负责人，谢里·阿杰·辛格尔，IPS。对于国际观众来说，这是一个与我国首都地区相邻的大邦。

>> 先生，作为警察部队的负责人，我阅读了您……您之前的演讲，让我印象深刻的是您谈到了警务工作是如何分五个阶段演变的。首先，您说那是传统时代，然后是手机的出现，在每个阶段，您都……您阐述了罪犯是如何利用技术的，以及警方是如何努力追赶的。第三阶段，您提到了互联网时代。第四阶段，您谈到了智能手机和应用程序，但最后一个……您对此给予了极大的重视，那就是人工智能时代，罪犯是如何利用它……进行网络犯罪、毒品犯罪，甚至数字逮捕类型的犯罪，以及您如何强调警方需要赶上。

>> 那么，先生，就……国家安全警务而言，您认为我们在评估生态系统中的主权时，哪些优先事项是……对我们来说很重要？请您发言。

>> 谢谢，先生。

>> 我们是技术非专业人士，正如皮尔先生所说的那样。我们技术文盲，我们追随罪犯。

>> 是的。

>> 怎么追？所以，我们……我们追随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以，问题是人工智能将如何影响国家安全，以及我们将如何应对它。所以，我认为我们没有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也许您可能知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，人工智能技术将……不会回头。这是……这是事实，我们必须接受它。我读过，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在将人工智能作为一种强大的力量倍增器来部署，从根本上重新构想工作流程，以扩大能力并锁定新市场。另一方面，我读到了 Infosys 首席执行官南丹·尼勒卡尼的观点，他提到了炒作和技术，它们一直是一起出现的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的发明。加密货币出现了，他们说它将以某种方式解决世界和平问题。现在，没有人再谈论智慧城市了。现在，人工智能正在改变每个人。这种炒作，无论它是否……达到了前所未有的水平，这是看待事物的一种方式。人工智能的动态很简单，正如我们所理解的，因为……据估计，到 2030 年，世界经济的 10 万亿美元将由人工智能技术主导。所以，无论是……炒作还是炒作，只有时间会告诉我们。然而，每一次技术进步都会带来新的挑战。我们是社会的清道夫。我们必须清理技术造成的垃圾或混乱，为警察和社会的安宁和安全环境提供保障。而且，尽管如此，令人欣慰的是，这次警方的意见得到了重视，否则，早些时候，警方从未在规划或概念阶段被征求意见，之后，清理的责任就落在了我们身上。所以，感谢这个平台提出了这些问题并表达了我们的担忧。我们非常感激。

>> 非常感谢您，先生。非常感谢您宝贵的意见。抱歉，我继续还是您？抱歉，请。是的，请继续。请继续。

>> 是的，先生，请继续。

>> 所以，我们……我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但它带来了什么新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传、等等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一位杰出的工程师创造了暗网来团结世界。但实际上，他团结了地下世界。所以，警方设法解决了这些问题，因为变化是巨大的且进展缓慢的，这些变化是由互联网和移动技术引起的。但人工智能是一项颠覆性技术。它……它要大得多，要强大得多，要永久性地具有破坏性，而且速度要快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我理解的，为国家长期安全所需的战略转变。为此，我们必须理解一个五层谜团。最近，一位人工智能教父，黄仁勋，他非常漂亮地解释了一个五层蛋糕，称为 Akima 模型。我们都知道它。所以，它是能源、芯片、基础设施、模型和应用。所以，这五层蛋糕中的每一层都以一种或另一种方式对警方产生直接影响。对于执法部门来说，我们使用的最顶层，即应用层的主权是不足够的。如果敌对行动者能够中断关键数据中心的电力，我们的人工智能赋能的紧急响应就会失效。如果主要供应受外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控的影响，而且人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须贯穿整个堆栈，否则较低级别的漏洞会损害其上所有级别的安全。所以，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变，所以，一个路线图。

>> 非常感谢。

>> 非常感谢您，先生。非常感谢。

>> 所以，您提出了几点非常重要的观点，尤其是在人工智能在国家安全相关各个领域可能带来的威胁方面。现在，一个重要的问题也摆在我们面前，那就是我们是逐层解决问题，还是在主权方面进行重大变革，抑或是进行渐进式改变？

>> 对于这个问题，我想请我们这边的下一位发言嘉宾，比杰·辛格先生。而马丁，我非常希望现在能引入业界的声音，但我无法避免，因为他就在现场，他拥有资深官员和官僚的独特背景，并且从一开始就涉足人工智能领域。他不仅写过、谈论过人工智能，他本人就是实践者。我认识他很多年了，我刚刚读了他两天前发表在《星期日卫报》上的一篇非常有见地的文章。

>> 所以，先生，首先，您对数据及其偏见表达了非常……您知道，非常重要的、有意义的观点。当我们说，您知道，我们可以使人工智能在各个层面都实现主权，但如果数据本身存在偏见，这难道不是主权的一个非常重要的方面吗？所以，我想听听您在这方面的想法，先生，然后可能在稍后的会议中，我也想请您就我们所看到的变革是应该全面进行还是应该渐进式进行发表您的看法。

>> 那么，请您发言，先生。

>> 好的，为了正确地设定关于主权的背景，佩尔说它是情感化的。是的。

>> 我说它不是情感化的，它是发自内心的，是关乎生存的，对吧？

>> 那么，什么是主权？任何你不能按照自己的意愿去开发、部署、治理、审计、保护和许可的东西，都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以切断您对任何技术的访问。所以，想象一下，现在对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您有香料、矿产、棉花、茶叶在这里生产，通过火车运到曼彻斯特，然后您得到精美的成品。现在，您进行的每一笔交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入模型，都会被卖回给您，作为 API，您需要为此付费。对吧？这不是主权。所以，我认为政府，无论是国防、政府还是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该采用任何……即使它可能只正确 50%，即使它可能正确 80%。但请想象一下，您不能将您主权的“大脑”交给一个不理解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于……您知道，基于称为 Common Crawl 的东西进行下一个词预测的。而 Common Crawl 基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，您知道，我写了一篇关于 Wikipedia 如何存在偏见的非常长的文章，并且我证明了这一点。Wikipedia 如何存在偏见，它只有数量非常有限的编辑来决定……您知道，世界在想什么，而这是……您知道，是某些“觉醒”的理想，是某些技术精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，因为它不理解您的本地语境，因为它不理解高语境低资源……您知道，比如在 Bhojpuri、Malayalam、Tamil、Marathi 方言中的事物，比如有一种本地品种的鱼，它可能有不同的名字，但 GPT 却不知道，所以它开始将其扁平化，它开始给您一些其他的东西。再看看对齐原则，对吧？治理。现在，中国的治理方式不同。中国社会的原则不同。而我们称之为“达摩克利斯”原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有得到体现。它谈论个体主义。它谈论某些可能不适合我们的西方理想。现在发生的是，作为一种力量倍增器，它已经成为世界的认知基础设施。现在，圣经里有一个关于巴别塔的故事，您可以参考一下，以及它是如何倒塌的，因为它……您知道，想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过……您知道，一些由非常有限的数据创建的东西，一些由白人创建的东西。现在，警务工作使用大量技术，不仅仅是生成式人工智能。生成式人工智能，我认为企业用例尚未到来。除了编码，企业采用率 hardly 10%。警务工作使用大量技术。看看……您知道，库姆巴，我们开始使用流体动力学来预测……您知道，人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何缺乏语境相关性的模型。现在，当您开始……您知道，将其应用于执法，您正在做出生死攸关的决定时，这将非常困难。它是一个黑箱。没有可解释性。没有透明度。我如何将这种自动化官僚机构置于……它在不理解是什么的情况下做出如此关键的决定，而且它还……您知道，受美国法律管辖。所以，我的税务数据，有人给了我一个不错的……您知道，主权人工智能解决方案，由四大公司销售，对吧？他们……他们以一套漂亮的西装向我推销，我们接受了，好的，它是主权的，它不是……它不是……它是否……您知道，通过了……设计、部署、审计、治理、保护、许可的测试？不，因为在某个地方，有人能够……拉动“一键开关”，然后……您知道，停止所有访问。

>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当您看到俄罗斯乌克兰战争正在进行时，俄罗斯的 SWIFT 被停止了。所以，您必须……以我们拥有印度数字公共基础设施的方式，我们将不得不创建一种认知公共基础设施，无论它多么困难。这就是为什么，佩尔，它是发自内心的，它是关乎生存的，我们必须这样做，而且可能现在是时候了。我昨天在《星期日卫报》上写了一篇文章，我称之为“独立架构”，对吧？它是独立架构。印度不缺乏专家，印度不缺乏人才，印度不缺乏……唯一缺乏的是计算能力，我认为在地缘政治上我们应该解决这个问题，这又是主权，对吧？因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们必须在……您知道，蛋糕的所有……所有层面上都实现主权。

>> 对。

>> 我相信，当您将这些系统应用于……警务工作时，您必须追求信任和透明度。它确实造成了问题。另一方面，它已成为一种力量倍增器。它极大地助长了犯罪生态系统。我们有变态恶意软件。您有……您知道，有一家名为 Arup 的公司，我认为它是一家广告公司之类的，其首席执行官在一个现场 Zoom 通话中露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的现状。我们有实时警务吗？先生，您知道，解释了警务工作并非如此实时。所以，您必须同时提高能力和容量，这需要认真考虑。所以，佩尔，我们需要主权人工智能。

>> 谢谢。谢谢您，先生。再次如预期的那样，提出了非常有价值的观点。这让我想起了几年前黄仁勋的一次采访。他说，在人工智能热潮之前很久，我见了你们的总理，当时人工智能还处于非常初级的阶段，他说你们的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候能这样想，真是非同寻常。所以，我认为您也呼应了非常有价值的观点，但很高兴您将计算能力带入了视野，因为计算能力是我们真正需要加强的，事实上，是整个世界，然后我很想在稍后的阶段邀请佩尔。

>> 那么，在此之后，我想转向马丁。马丁，非常感谢您，首先，您远道而来印度参加人工智能峰会并与我们同在。马丁，以您在 Teradata 作为数据分析、大数据实施领域的领导者的身份，您曾两次被《Data IQ》评为数据驱动业务领域最具影响力的 100 人之一。而令人瞩目的是，我看了您的网站，您现在说“停止管理数据，激活智能”。所以，我也读了您关于大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟随，他将发出成千上万的查询，以确保您拥有那种超个性化的体验。

>> 那么，面对如此大规模的计算需求，马丁，您认为我们从一开始就准备好实现主权了吗？还是说，正如大家所说，我们必须逐层解决？那么，您对此有何看法，特别是当涉及到数据层面时，您知道，像印度这样的国家如何构建数据结构，才能确保他们在这些方面实现主权？

>> 是的，那么，请您发言。

>> 谢谢。以非常快的速度，在认知将在其中扮演非常重要角色的叙事战中，我们需要一种更优越的算法。所以，我们的主权，我们生产更优越算法的能力，它不仅是对抗敌方认知攻击的防御，而且还能创造一种可持续的叙事，我们可以……支持我们在军事力量应用中的其他行动。所以，在这方面……创造更优越的算法，我认为我们……我们有一个优势，我确信……军事应用将有许多主权解决方案来应对它。我想要谈论的第三个领域是自主系统，这是引起普遍担忧的原因。人们都在谈论军事应用应该被赋予多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。一个部队，当被赋予一项作战……您知道，任务时，一个单位，当被赋予一个目标时，一个士兵，当他越过某个界限时，他们就变得自主了。一枚导弹一旦发射，今天的智能弹药。我们现在面临的问题是，它不再仅仅是平台自主性，比如导弹，而且还有可能实现任务自主性，即可以给一群机器分配一个任务去完成，然后它们就处于自主模式。在……您知道，人工智能的此类应用中，威胁来自对抗性攻击，因此，主权在这些算法中变得非常重要。如果存在……比如被污染的数据，如果系统中嵌入了规避，如果存在一种提取算法，打开了系统的后门，您能否依赖这种任务自主模式来进行人工智能应用？因此，如果我们必须决定一项国防应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以，军事决策，如果我可以大致划分它们。一种是确定性的。确定性的意思是，当信息可用时，可以计算出结果。在这种确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析等。我认为……可以高度信任人工智能。第二种我们做的决策是随机的，其中不仅已知因素，还有一些因素……具有发生概率的因素，如果它们发生，就会产生某些……可以量化的影响或效果。在这种情况下，人工智能可以再次在很大程度上提供帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦……您知道，宣布进入紧急状态或即将进入紧急状态，就必须进行动员。在这种情况下，除了各种预先计算的因素之外，……天气因素、社会动荡因素、敌方行动、各种……您知道，山体滑坡、道路中断等因素，它们具有一定的发生概率，如果它们发生，就会产生量化影响。在这种情况下，人工智能可以帮助您进行模拟并得出……非常……您知道，理性的决策，我们可以对人工智能有相当程度的信任。军事上第三种也是最关键的决策是……在不确定性下，在战争迷雾下的决策。一旦必须做出此类决策，主权就成为首要关注点。在这种情况下，不仅所有因素都未知，而且它们的影响也无法量化。有管理不确定性的工具，但像博弈论这样的理论也失败了，因为这里的玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这种情况下，人工智能可以成为一种辅助工具，但人工智能不能被信任来做出决策。所以，在这个第四个领域，我认为……您知道，我们需要培训，我们需要制定政策，我们的战略制定，我们的技术和程序必须与使用它作为一种工具而不是……您知道，一个值得信赖的……副驾驶相协调。总的来说，在这四个领域中，为了总结我的回答……有一件事是必须的，有一件事我们必须拥有作为一种主权……能力，那就是一个我们可以测试它们的平台，一个基准测试套件，我们可以测试人工智能应用并对其进行评级，看它是否适合军事应用。谢谢，阿布舍克。

>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估在哪个层面实现主权时，我认为您的输入中突出的一点是，更优越的算法是我们真正关注的国家安全方面。

>> 所以，我现在转向下一位发言者，哈纳邦警察总监，警察部队负责人，谢里·阿杰·辛格尔，IPS。对于国际观众来说，这是一个与我国首都地区相邻的大邦。

>> 先生，作为警察部队的负责人，我阅读了您……您之前的演讲，让我印象深刻的是您谈到了警务工作是如何分五个阶段演变的。首先，您说那是传统时代，然后是手机的出现，在每个阶段，您都……您阐述了罪犯是如何利用技术的，以及警方是如何努力追赶的。第三阶段，您提到了互联网时代。第四阶段，您谈到了智能手机和应用程序，但最后一个……您对此给予了极大的重视，那就是人工智能时代，罪犯是如何利用它……进行网络犯罪、毒品犯罪，甚至数字逮捕类型的犯罪，以及您如何强调警方需要赶上。

>> 那么，先生，就……国家安全警务而言，您认为我们在评估生态系统中的主权时，哪些优先事项是……对我们来说很重要？请您发言。

>> 谢谢，先生。

>> 我们是技术非专业人士，正如皮尔先生所说的那样。我们技术文盲，我们追随罪犯。

>> 是的。

>> 怎么追？所以，我们……我们追随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以，问题是人工智能将如何影响国家安全，以及我们将如何应对它。所以，我认为我们没有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，用简单的语言，您可能知道，也许您可能知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，人工智能技术将……不会回头。这是……这是事实，我们必须接受它。我读过，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，比如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在将人工智能作为一种强大的力量倍增器来部署，从根本上重新构想工作流程，以扩大能力并锁定新市场。另一方面，我读到了 Infosys 首席执行官南丹·尼勒卡尼的观点，他提到了炒作和技术，它们一直是一起出现的。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的发明。加密货币出现了，他们说它将以某种方式解决世界和平问题。现在，没有人再谈论智慧城市了。现在，人工智能正在改变每个人。这种炒作，无论它是否……达到了前所未有的水平，这是看待事物的一种方式。人工智能的动态很简单，正如我们所理解的，因为……据估计，到 2030 年，世界经济的 10 万亿美元将由人工智能技术主导。所以，无论是……炒作还是炒作，只有时间会告诉我们。然而，每一次技术进步都会带来新的挑战。我们是社会的清道夫。我们必须清理技术造成的垃圾或混乱，为警察和社会的安宁和安全环境提供保障。而且，尽管如此，令人欣慰的是，这次警方的意见得到了重视，否则，早些时候，警方从未在规划或概念阶段被征求意见，之后，清理的责任就落在了我们身上。所以，感谢这个平台提出了这些问题并表达了我们的担忧。我们非常感激。

>> 非常感谢您，先生。非常感谢您宝贵的意见。抱歉，我继续还是您？抱歉，请。是的，请继续。请继续。

>> 是的，先生，请继续。

>> 所以，我们……我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但它带来了什么新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传、等等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一位杰出的工程师创造了暗网来团结世界。但实际上，他团结了地下世界。所以，警方设法解决了这些问题，因为变化是巨大的且进展缓慢的，这些变化是由互联网和移动技术引起的。但人工智能是一项颠覆性技术。它……它要大得多，要强大得多，要永久性地具有破坏性，而且速度要快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我理解的，为国家长期安全所需的战略转变。为此，我们必须理解一个五层谜团。最近，一位人工智能教父，黄仁勋，他非常漂亮地解释了一个五层蛋糕，称为 Akima 模型。我们都知道它。所以，它是能源、芯片、基础设施、模型和应用。所以，这五层蛋糕中的每一层都以一种或另一种方式对警方产生直接影响。对于执法部门来说，我们使用的最顶层，即应用层的主权是不足够的。如果敌对行动者能够中断关键数据中心的电力，我们的人工智能赋能的紧急响应就会失效。如果主要供应受外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控的影响，而且人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是主权必须贯穿整个堆栈，否则较低级别的漏洞会损害其上所有级别的安全。所以，在我看来，以我有限的知识来看，这些是印度长期国家安全所需的战略转变，所以，一个路线图。

>> 非常感谢。

>> 非常感谢您，先生。非常感谢。

>> 所以，您提出了几点非常重要的观点，尤其是在人工智能在国家安全相关各个领域可能带来的威胁方面。现在，一个重要的问题也摆在我们面前，那就是我们是逐层解决问题，还是在主权方面进行重大变革，抑或是进行渐进式改变？

>> 对于这个问题，我想请我们这边的下一位发言嘉宾，比杰·辛格先生。而马丁，我非常希望现在能引入业界的声音，但我无法避免，因为他就在现场，他拥有资深官员和官僚的独特背景，并且从一开始就涉足人工智能领域。他不仅写过、谈论过人工智能，他本人就是实践者。我认识他很多年了，我刚刚读了他两天前发表在《星期日卫报》上的一篇非常有见地的文章。

>> 所以，先生，首先，您对数据及其偏见表达了非常……您知道，非常重要的、有意义的观点。当我们说，您知道，我们可以使人工智能在各个层面都实现主权，但如果数据本身存在偏见，这难道不是主权的一个非常重要的方面吗？所以，我想听听您在这方面的想法，先生，然后可能在稍后的会议中，我也想请您就我们所看到的变革是应该全面进行还是应该渐进式进行发表您的看法。

>> 那么，请您发言，先生。

>> 好的，为了正确地设定关于主权的背景，佩尔说它是情感化的。是的。

>> 我说它不是情感化的，它是发自内心的，是关乎生存的，对吧？

>> 那么，什么是主权？任何你不能按照自己的意愿去开发、部署、治理、审计、保护和许可的东西，都不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“一键开关”的人可以切断您对任何技术的访问。所以，想象一下，现在对于所有提供给我们的良性技术，这又回到了前殖民时代，那时您有香料、矿产、棉花、茶叶在这里生产，通过火车运到曼彻斯特，然后您得到精美的成品。现在，您进行的每一笔交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入模型，都会被卖回给您，作为 API，您需要为此付费。对吧？这不是主权。所以，我认为政府，无论是国防、政府还是私营部门，我们都不应该采用任何这些人工智能的“包装”。我们应该采用任何……即使它可能只正确 50%，即使它可能正确 80%。但请想象一下，您不能将您主权的“大脑”交给一个不理解您的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于……您知道，基于称为 Common Crawl 的东西进行下一个词预测的。而 Common Crawl 基本上是 Reddit 和 Wikipedia。而 Wikipedia 是什么，您知道，我写了一篇关于 Wikipedia 如何存在偏见的非常长的文章，并且我证明了这一点。Wikipedia 如何存在偏见，它只有数量非常有限的编辑来决定……您知道，世界在想什么，而这是……您知道，是某些“觉醒”的理想，是某些技术精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，因为它不理解您的本地语境，因为它不理解高语境低资源……您知道，比如在 Bhojpuri、Malayalam、Tamil、Marathi 方言中的事物，比如有一种本地品种的鱼，它可能有不同的名字，但 GPT 却不知道，所以它开始将其扁平化，它开始给您一些其他的东西。再看看对齐原则，对吧？治理。现在，中国的治理方式不同。中国社会的原则不同。而我们称之为“达摩克利斯”原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有得到体现。它谈论个体主义。它谈论某些可能不适合我们的西方理想。现在发生的是，作为一种力量倍增器，它已经成为世界的认知基础设施。现在，圣经里有一个关于巴别塔的故事，您可以参考一下，以及它是如何倒塌的，因为它……您知道，想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过……您知道，一些由非常有限的数据创建的东西，一些由白人创建的东西。现在，警务工作使用大量技术，不仅仅是生成式人工智能。生成式人工智能，我认为企业用例尚未到来。除了编码，企业采用率 hardly 10%。警务工作使用大量技术。看看……您知道，库姆巴，我们开始使用流体动力学来预测……您知道，人群流动，或者比如车牌识别或面部识别。但是，如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何缺乏语境相关性的模型。现在，当您开始……您知道，将其应用于执法，您正在做出生死攸关的决定时，这将非常困难。它是一个黑箱。没有可解释性。没有透明度。我如何将这种自动化官僚机构置于……它在不理解是什么的情况下做出如此关键的决定，而且它还……您知道，受美国法律管辖。所以，我的税务数据，有人给了我一个不错的……您知道，主权人工智能解决方案，由四大公司销售，对吧？他们……他们以一套漂亮的西装向我推销，我们接受了，好的，它是主权的，它不是……它不是……它是否……您知道，通过了……设计、部署、审计、治理、保护、许可的测试？不，因为在某个地方，有人能够……拉动“一键开关”，然后……您知道，停止所有访问。

关于某些可能不适合我们的西方理念。现在发生的是，作为一种力量倍增器，这已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，你可以参考它，以及它为何会倒塌，因为它，你知道，想要创造一个语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，你知道，呃，由非常有限的一组，呃，由白人创造的数据所创造的东西。现在，呃，警务工作使用大量技术，不仅仅是生成式人工智能。我认为生成式人工智能的企业用例尚未到来。除了编码之外，企业采用率 hardly 达到 10%。警务工作使用大量技术。看看，你知道，呃，库姆巴，我们开始使用流体动力学来预测，你知道，人群流动，或者说车牌识别或面部识别。但是，如果你开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何缺乏情境相关性的模型，现在当你开始暗示，你知道，将其用于执法，你正在做出生死攸关的决定时，这将非常困难，它是一个黑箱，没有可解释性，没有透明度，我该如何看待这种自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它，你知道，呃，受美国法律管辖，所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，呃，由四大公司销售，对吧，他们，他们，他们以一套西装向我推销得很好，我们接受了，好吧，它是主权人工智能，它不是，它不是，它是否，你知道，呃，通过了设计、部署、审计、治理、安全、许可的测试，不，因为在某个地方，有人能够，呃，拉动一个终止开关，然后，你知道，停止所有访问。>> 你看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当你看到俄罗斯乌克兰战争正在进行时，俄罗斯的 Swift 被停止了。所以你将不得不，以我们拥有印度数字公共基础设施的方式，我们将不得不创建认知公共基础设施，无论它有多么困难，这就是为什么，它是一种本能的，它是一种生存的，我们必须这样做，而且可能现在是时候我们应该这样做了。我昨天在《星期日公报》上写了一篇文章，我称之为“独立架构”，对吧？它是独立架构。印度不缺乏，你知道，专家，印度不缺乏人才，印度不缺乏，唯一缺乏的是计算能力，我认为地缘政治上我们应该解决这个问题，这又是主权，对吧？因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们将不得不在蛋糕的所有，你知道，所有层面上都拥有主权。>> 对吧？>> 我相信，当您将这些系统应用于警务工作时，您将不得不寻求信任和透明度。呃，这已经造成了问题。另一方面，它已成为一种力量倍增器。它极大地助长了犯罪生态系统。我们有变态恶意软件。你有，你知道，有一家名为 Arup 的公司。我认为它是一家广告公司还是什么的，其首席执行官在现场 Zoom 会议上露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释了警务工作并非如此实时。所以你将不得不提高能力和容量，这需要现在认真思考。所以，我们需要主权人工智能。>> 谢谢。谢谢先生。再次，正如预期的那样，非常非常相关的观点。这让我想起几年前黄仁勋的一次采访。他说，我见过你的总理，在这次人工智能热潮之前，呃，当它处于非常初级阶段时，他说你的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候这样思考确实是值得称赞的。所以我想你提出的观点非常相关，但很高兴你将计算能力带入了画面，因为计算能力是我们真正需要做得好的事情，事实上，也是我们与世界其他地方相比的优势。然后我很乐意稍后邀请 P。所以，有了这个，我想转向 Martin。Martin，非常感谢，首先，你远道而来印度参加人工智能峰会并与我们同在。Martin，你在 Teradata 担任数据分析、大数据实施领域的领导者。你曾两次被列入 Data IQ 的数据驱动业务百强最具影响力人物榜单。而令人瞩目的是，我在你的网站上看到你现在说，“停止管理数据，激活智能”。我读了你关于大规模计算需求的文章，例如你举了一个医疗保健的例子，其中每个病人都会有一个代理人跟随，他会发出成千上万的查询，以确保你拥有那种超个性化的体验。那么，在这种计算需求下，Martin，你认为我们从一开始就准备好实现主权了吗，还是会像每个人所说的那样，必须分层处理？那么，你认为，尤其是在数据层面，你知道，像印度这样的国家如何确保他们在这些方面拥有主权？是的。那么，请您发言。>> 谢谢。以非常快的闪电速度和叙事战的形式，你知道，认知将发挥非常重要的作用，我们需要一个更高级的算法。所以我们的主权，我们生产更高级算法的能力，它不仅是对抗敌方认知攻击的防御，而且还能创造一个可持续的叙事，我们可以支持我们在军事力量应用中的其他行动。所以在这个更高级的算法创造中，我认为我们有一个优势，我确信军事应用将有许多主权解决方案来应对它。第三个领域，我想谈谈自主系统，这是普遍担忧的原因，人们都在谈论军事应用应该有多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。一个编队在被赋予作战任务时，一个单位在被赋予目标时，一个士兵在越过某个界限时，它们都会变得自主。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，它不再仅仅是导弹这样的平台自主性，而且还可能实现任务自主性，即一群机器可以被赋予一个任务去完成，然后它们处于自主模式。在您知道的此类人工智能应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在所谓的“毒化数据”，如果系统中嵌入了规避，如果存在一种提取算法打开了系统的后门，我们能否依赖这种任务自主模式的人工智能应用，因此，如果我们必须决定一项国防应用，一个主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我可以大致划分它们，一种是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP 分析等，我认为可以高度信任人工智能。第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会有某些可以量化的影响或效果。在这些情况下，人工智能可以再次在很大程度上提供帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或迫在眉睫，就必须进行动员。在这种情况下，除了各种预先计算的因素外，天气因素、内乱因素、敌方行动、各种，你知道，山体滑坡、道路中断等因素都有一定的发生概率，如果它们发生，就会产生量化影响。在这些情况下，人工智能可以帮助你进行模拟并做出非常，你知道，理性的决定，我们可以对人工智能有相当程度的信任。第三个也是最关键的军事决策是在不确定性下，在战争迷雾下的决策。一旦必须做出这些决定，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，其影响也无法量化。有管理工具来处理不确定性，但博弈论等理论也失败了，因为这里的玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以作为一种辅助工具，但不能信任人工智能来做决定。所以在这个第四个领域，我认为，我们需要训练，我们需要制定政策，我们的战略制定，我们的技术和程序必须与使用它作为工具而不是，你知道，一个值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个基准测试套件，在那里我们可以测试人工智能应用并对其进行评级，无论它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢先生，非常有价值的见解，当我们评估您将在哪个层面实现主权时，我认为您的输入中最突出的是，更高级的算法是我们真正关注国家安全的方面。>> 所以，我现在转向下一位发言者，Shri AJ Singal IPS，警察总监，哈纳警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区接壤的大州。>> 先生，作为警察部队的负责人，我查阅了您之前的演讲，让我印象深刻的是您谈到了警务工作分为五个阶段。首先，您说那是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。第三阶段您提到了互联网时代。第四阶段您谈到了智能手机和应用程序，但最后一个，您对此给予了极大的强调，那就是人工智能时代，罪犯如何利用它进行网络犯罪、毒品犯罪，甚至数字逮捕类型的犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为我们在评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢，先生。>> 我们是 P 先生所说的非技术人员。我们对技术一无所知，我们跟着罪犯走。>> 是的。>> 所以我们跟着罪犯走。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以这是一个问题，人工智能将如何影响国家安全，以及我们将如何应对。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的人工智能讨论，我准备了一个简单的演讲，您可能知道，也可能知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是事实，我们必须接受它。我读到过，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，例如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为一种强大的力量倍增器，从根本上重新构想工作流程以扩展能力和开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilekani 的观点，他提到了炒作和技术，这两者一直如影随形。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的发明，加密货币出现了，他们说它将以某种方式解决世界和平问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人。这种炒作，也许它已经达到了前所未有的水平，这是看待事物的一种方式。人工智能的动态很简单，正如我们所理解的，因为有人建议，到 2030 年，世界经济的 10 万亿美元将由人工智能技术主导。所以，无论是泡沫还是炒作，只有时间会证明。然而，每一次技术进步都会带来新的挑战。因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，再次令人沮丧的是，这次听取了警方的意见，否则，警方从未在规划或概念阶段被提及，之后清理的责任就落在了我们身上。所以，感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感谢。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉，我继续还是您？抱歉，请。我想，是的，请继续。请继续。>> 是的，先生。请继续。>> 所以，我们必须从历史中学习。1995 年，谷歌提供了信息、透明度、平等，但它创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，有人称之为中本聪，推出了区块链和比特币，一些才华横溢的工程师创造了暗网来团结世界。但实际上，他团结了黑社会。所以，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大的且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全长期战略转移的理解。为此，我们必须理解一个五层谜团。最近，一位人工智能教父 Jensen Huang 优美地解释了一个名为 Akima 的五层蛋糕模型。我们都知道它。我认为是能源、芯片、基础设施、模型和应用。所以，这五层蛋糕都直接或间接地影响着警方。对于执法而言，顶层应用层面的主权是不够的。如果敌对行为者能够切断关键数据中心的电力，我们的人工智能驱动的应急响应就会失效。如果主要供应受到外部控制，我们对犯罪分析的访问可能会被限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控。人工智能还有一个缺点，那就是消耗巨大的能源、水和碳排放。所以，基本原则是，主权必须贯穿整个堆栈，否则低层面的漏洞会危及上一层的所有安全。所以，在我看来，以我有限的知识，我预见到这些是印度长期国家安全所需的战略转移。所以，一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，您提出了一些非常重要的观点，尤其是在人工智能在国家安全各个领域带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是处理每一个层面，是进行一次大的主权变革，还是进行渐进式变革？为此，我想请 Bijay Singh 先生作为我们下一位发言者。而 Martin，我非常想现在引入行业，但我忍不住，因为他在房间里，他带来了高级官员官僚的独特背景，他从一开始就涉足人工智能领域。他不仅写过和说过，他本人就是实践者。所以我认识他很多年了，我读了他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们，首先，您表达了非常，你知道，重要的观点，关于数据及其偏见。所以，当我们说，你知道，我们可以让人工智能在各个层面都拥有主权，但如果数据存在偏见，这难道不是主权的一个非常重要的方面吗？所以，我想听听您的想法，先生，然后可能在会议晚些时候，我也想请您就我们所说的变革是应该全面进行还是应该渐进式进行发表您的看法。那么，请您发言。>> 所以，为了正确设定主权背景，P 说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，它是生存的，对吧？>> 那么，什么是主权？任何你不能自己开发、部署、治理、审计、保护和许可的东西，就不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施终止开关的人可以关闭，你知道，你对任何技术的访问。所以，想象一下，现在对于所有提供给我们的良性技术。这又回到了前殖民时代，你知道，你有香料、矿产、棉花、茶叶在这里制造，通过火车线运到曼彻斯特，然后你得到了精美的成品。现在，你做的每一笔交易，你上传的每一条健康记录，你问的每一个问题并输入到模型中，都会作为 API 卖回给你，你将被收费，对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该选择任何这些人工智能包装器。我们应该选择任何可能 50% 正确的东西。可能 80% 正确。但想象一下，你不能把你的主权大脑放在一个不了解你的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于，你知道，基于称为 Common Crawl 的下一个标记预测开发的。而 Common Crawl 基本上是 Reddit 和 Wikipedia。而 Wikipedia 是，你知道，我写了一篇关于 Wikipedia 如何存在偏见的很长的文章，我证明了 Wikipedia 如何存在偏见，它只有非常有限的编辑来决定，你知道，世界在想什么，它是，你知道，一些“觉醒”的理想，一些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不了解你，因为它不了解你的本地语境，因为它不了解高语境低资源，你知道，比如在 Bhojpuri、Malayalam、Tamil、Marathi 方言中，假设有一种当地的鱼类品种，它可能有不同的名称，但 GPT 不知道，所以它开始将其扁平化，它开始给你一些别的东西。看看对齐原则，对吧？治理。现在中国的治理不同。中国社会的原则不同，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有得到开发。它谈论个性。它谈论某些可能不适合我们的西方理念。现在发生的是，作为一种力量倍增器，这已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，你可以参考它，以及它为何会倒塌，因为它，你知道，想要创造一个语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，你知道，呃，由非常有限的一组，呃，由白人创造的数据所创造的东西。现在，呃，警务工作使用大量技术，不仅仅是生成式人工智能。生成式人工智能，我认为企业用例尚未到来。除了编码之外，企业采用率 hardly 达到 10%。警务工作使用大量技术。看看，你知道，呃，库姆巴，我们开始使用流体动力学来预测，你知道，人群流动，或者说车牌识别或面部识别。但是，如果你开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何缺乏情境相关性的模型，现在当你开始暗示，你知道，将其用于执法，你正在做出生死攸关的决定时，这将非常困难，它是一个黑箱，没有可解释性，没有透明度，我该如何看待这种自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它，你知道，呃，受美国法律管辖，所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，呃，由四大公司销售，对吧，他们，他们，他们以一套西装向我推销得很好，我们接受了，好吧，它是主权人工智能，它不是，它不是，它是否，你知道，通过了设计、部署、审计、治理、安全、许可的测试，不，因为在某个地方，有人能够，呃，拉动一个终止开关，然后，你知道，停止所有访问。>> 你看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当你看到俄罗斯乌克兰战争正在进行时，俄罗斯的 Swift 被停止了。所以你将不得不，以我们拥有印度数字公共基础设施的方式，我们将不得不创建认知公共基础设施，无论它有多么困难，这就是为什么 P，它是本能的，它是生存的，我们必须这样做，而且可能现在是时候我们应该这样做了。我昨天在《星期日公报》上写了一篇文章，我称之为“独立架构”，对吧？它是独立架构。印度不缺乏，你知道，专家，印度不缺乏人才，印度不缺乏，唯一缺乏的是计算能力，我认为地缘政治上我们应该解决这个问题，这又是主权，对吧？因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们将不得不在蛋糕的所有，你知道，所有层面上都拥有主权。>> 对吧？>> 我相信，当您将这些系统应用于警务工作时，您将不得不寻求信任和透明度。呃，这已经造成了问题。另一方面，它已成为一种力量倍增器。它极大地助长了犯罪生态系统。我们有变态恶意软件。你有，你知道，有一家名为 Arup 的公司。我认为它是一家广告公司还是什么的，其首席执行官在现场 Zoom 会议上露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释了警务工作并非如此实时。所以你将不得不提高能力和容量，这需要现在认真思考。所以，P，我们需要主权人工智能。>> 谢谢。谢谢先生。再次，正如预期的那样，非常非常相关的观点。这让我想起几年前黄仁勋的一次采访。他说，我见过你的总理，在这次人工智能热潮之前，呃，当它处于非常初级阶段时，他说你的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候这样思考确实是值得称赞的。所以我想你提出的观点非常相关，但很高兴你将计算能力带入了画面，因为计算能力是我们真正需要做得好的事情，事实上，也是我们与世界其他地方相比的优势。然后我很乐意稍后邀请 P。所以，有了这个，我想转向 Martin。Martin，非常感谢，首先，你远道而来印度参加人工智能峰会并与我们同在。Martin，你在 Teradata 担任数据分析、大数据实施领域的领导者。你曾两次被列入 Data IQ 的数据驱动业务百强最具影响力人物榜单。而令人瞩目的是，我在你的网站上看到你现在说，“停止管理数据，激活智能”。我读了你关于大规模计算需求的文章，例如你举了一个医疗保健的例子，其中每个病人都会有一个代理人跟随，他会发出成千上万的查询，以确保你拥有那种超个性化的体验。那么，在这种计算需求下，Martin，你认为我们从一开始就准备好实现主权了吗，还是会像每个人所说的那样，必须分层处理？那么，你认为，尤其是在数据层面，你知道，像印度这样的国家如何确保他们在这些方面拥有主权？是的。那么，请您发言。>> 谢谢。以非常快的闪电速度和叙事战的形式，你知道，认知将发挥非常重要的作用，我们需要一个更高级的算法。所以我们的主权，我们生产更高级算法的能力，它不仅是对抗敌方认知攻击的防御，而且还能创造一个可持续的叙事，我们可以支持我们在军事力量应用中的其他行动。所以在这个更高级的算法创造中，我认为我们有一个优势，我确信军事应用将有许多主权解决方案来应对它。第三个领域，我想谈谈自主系统，这是普遍担忧的原因，人们都在谈论军事应用应该有多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。一个编队在被赋予作战任务时，一个单位在被赋予目标时，一个士兵在越过某个界限时，它们都会变得自主。导弹一旦发射，今天的智能弹药。我们现在面临的问题是，它不再仅仅是导弹这样的平台自主性，而且可能实现任务自主性，即一群机器可以被赋予一个任务去完成，然后它们处于自主模式。在您知道的此类人工智能应用中，威胁来自对抗性攻击，因此主权在这些算法中变得非常重要。如果存在所谓的“毒化数据”，如果系统中嵌入了规避，如果存在一种提取算法打开了系统的后门，我们能否依赖这种任务自主模式的人工智能应用，因此，如果我们必须决定一项国防应用，一个主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。所以军事决策，如果我可以大致划分它们，一种是确定性的。确定性意味着当信息可用时，可以计算出结果。在这些确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP 分析等，我认为可以高度信任人工智能。第二类决策是随机的，其中不仅已知因素，还有某些具有发生概率的因素，如果它们发生，会有某些可以量化的影响或效果。在这些情况下，人工智能可以再次在很大程度上提供帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布进入紧急状态或迫在眉睫，就必须进行动员。在这种情况下，除了各种预先计算的因素外，天气因素、内乱因素、敌方行动、各种，你知道，山体滑坡、道路中断等因素都有一定的发生概率，如果它们发生，就会产生量化影响。在这些情况下，人工智能可以帮助你进行模拟并做出非常，你知道，理性的决定，我们可以对人工智能有相当程度的信任。第三个也是最关键的军事决策是在不确定性下，在战争迷雾下的决策。一旦必须做出这些决定，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，其影响也无法量化。有管理工具来处理不确定性，但博弈论等理论也失败了，因为这里的玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以作为一种辅助工具，但不能信任人工智能来做决定。所以在这个第四个领域，我认为，我们需要训练，我们需要制定政策，我们的战略制定，我们的技术和程序必须与使用它作为工具而不是，你知道，一个值得信赖的副驾驶保持一致，总体而言，在这四个领域中，为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个基准测试套件，在那里我们可以测试人工智能应用并对其进行评级，无论它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢先生，非常有价值的见解，当我们评估您将在哪个层面实现主权时，我认为您的输入中最突出的是，更高级的算法是我们真正关注国家安全的方面。>> 所以，我现在转向下一位发言者，Shri AJ Singal IPS，警察总监，哈纳警察部队负责人，对于国际观众来说，我不知道这是一个与我们国家首都地区接壤的大州。>> 先生，作为警察部队的负责人，我查阅了您之前的演讲，让我印象深刻的是您谈到了警务工作分为五个阶段。首先，您说那是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。第三阶段您提到了互联网时代。第四阶段您谈到了智能手机和应用程序，但最后一个，您对此给予了极大的强调，那就是人工智能时代，罪犯如何利用它进行网络犯罪、毒品犯罪，甚至数字逮捕类型的犯罪，以及您如何强调警方需要赶上。那么，先生，就国家安全警务而言，您认为我们在评估人工智能生态系统中的主权时，哪些优先事项对我们来说很重要？请您发言。>> 谢谢，先生。>> 我们是 P 先生所说的非技术人员。我们对技术一无所知，我们跟着罪犯走。>> 是的。不。>> 所以我们跟着罪犯走。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以这是一个问题，人工智能将如何影响国家安全，以及我们将如何应对。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的人工智能讨论，我准备了一个简单的演讲，您可能知道，也可能知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是事实，我们必须接受它。我读到过，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，例如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种都扩展了人类的能力，而不是简单地更快地完成现有任务。与效率陷阱相比，领先的组织正在部署人工智能作为一种强大的力量倍增器，从根本上重新构想工作流程以扩展能力和开辟新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Nilekani 的观点，他提到了炒作和技术，这两者一直如影随形。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的发明，加密货币出现了，他们说它将以某种方式解决世界和平问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人。这种炒作，也许它已经达到了前所未有的水平，这是看待事物的一种方式。人工智能的动态很简单，正如我们所理解的，因为有人建议，到 2030 年，世界经济的 10 万亿美元将由人工智能技术主导。所以，无论是泡沫还是炒作，只有时间会证明。然而，每一次技术进步都会带来新的挑战。因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，再次令人沮丧的是，这次听取了警方的意见，否则，警方从未在规划或概念阶段被提及，之后清理的责任就落在了我们身上。所以，感谢这个平台提出了这些问题并提出了我们的担忧。我们非常感谢。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉，我继续还是您？抱歉，请。我想，是的，请继续。请继续。>> 是的，先生。请继续。>> 所以，我们必须从历史中学习。1995 年，谷歌提供了信息、透明度、平等，但它创造了什么？新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传等。2008 年，有人称之为中本聪，推出了区块链和比特币，一些才华横溢的工程师创造了暗网来团结世界。但实际上，他团结了黑社会。所以，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大的且缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家安全长期战略转移的理解。为此，我们必须理解一个五层谜团。最近，一位人工智能教父 Jensen Huang 优美地解释了一个名为 Akima 的五层蛋糕模型。我们都知道它。我认为是能源、芯片、基础设施、模型和应用。所以，这五层蛋糕都直接或间接地影响着警方。对于执法而言，顶层应用层面的主权是不够的。如果敌对行为者能够切断关键数据中心的电力，我们的人工智能驱动的应急响应就会失效。如果主要供应受到外部控制，我们对犯罪分析的访问可能会被限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控。人工智能还有一个缺点，那就是消耗巨大的能源、水和碳排放。所以，基本原则是，主权必须贯穿整个堆栈，否则低层面的漏洞会危及上一层的所有安全。所以，在我看来，以我有限的知识，我预见到这些是印度长期国家安全所需的战略转移。所以，一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，您提出了一些非常重要的观点，尤其是在人工智能在国家安全各个领域带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是处理每一个层面，是进行一次大的主权变革，还是进行渐进式变革？为此，我想请 Bijay Singh 先生作为我们下一位发言者。而 Martin，我非常想现在引入行业，但我忍不住，因为他在房间里，他带来了高级官员官僚的独特背景，他从一开始就涉足人工智能领域。他不仅写过和说过，他本人就是实践者。所以我认识他很多年了，我读了他两天前在《星期日卫报》上发表的一篇非常相关的文章。所以，先生，我们，首先，您表达了非常，你知道，重要的观点，关于数据及其偏见。所以，当我们说，你知道，我们可以让人工智能在各个层面都拥有主权，但如果数据存在偏见，这难道不是主权的一个非常重要的方面吗？所以，我想听听您的想法，先生，然后可能在会议晚些时候，我也想请您就我们所说的变革是应该全面进行还是应该渐进式进行发表您的看法。那么，请您发言。>> 所以，为了正确设定主权背景，P 说它是情感化的。是的。>> 我说它不是情感化的，它是本能的，它是生存的，对吧？>> 那么，什么是主权？任何你不能自己开发、部署、治理、审计、保护和许可的东西，就不是主权的。对吧？这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施终止开关的人可以关闭，你知道，你对任何技术的访问。所以，想象一下，现在对于所有提供给我们的良性技术。这又回到了前殖民时代，你知道，你有香料、矿产、棉花、茶叶在这里制造，通过火车线运到曼彻斯特，然后你得到了精美的成品。现在，你做的每一笔交易，你上传的每一条健康记录，你问的每一个问题并输入到模型中，都会作为 API 卖回给你，你将被收费，对吧？这不是主权。所以，我认为政府应该是，无论是国防，无论是政府，无论是私营部门，我们都不应该选择任何这些人工智能包装器。我们应该选择任何可能 50% 正确的东西。可能 80% 正确。但想象一下，你不能把你的主权大脑放在一个不了解你的地方。对吧？现在看看一些非常简单的事情。大型语言模型是基于，你知道，基于称为 Common Crawl 的下一个标记预测开发的。而 Common Crawl 基本上是 Reddit 和 Wikipedia。而 Wikipedia 是，你知道，我写了一篇关于 Wikipedia 如何存在偏见的很长的文章，我证明了 Wikipedia 如何存在偏见，它只有非常有限的编辑来决定，你知道，世界在想什么，它是，你知道，一些“觉醒”的理想，一些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不了解你，因为它不了解你的本地语境，因为它不了解高语境低资源，你知道，比如在 Bhojpuri、Malayalam、Tamil、Marathi 方言中，假设有一种当地的鱼类品种，它可能有不同的名称，但 GPT 不知道，所以它开始将其扁平化，它开始给你一些别的东西。看看对齐原则，对吧？治理。现在中国的治理不同。中国社会的原则不同，而我们称之为达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有得到开发。它谈论个性。它谈论某些可能不适合我们的西方理念。现在发生的是，作为一种力量倍增器，这已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，你可以参考它，以及它为何会倒塌，因为它，你知道，想要创造一个语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，你知道，呃，由非常有限的一组，呃，由白人创造的数据所创造的东西。现在，呃，警务工作使用大量技术，不仅仅是生成式人工智能。生成式人工智能，我认为企业用例尚未到来。除了编码之外，企业采用率 hardly 达到 10%。警务工作使用大量技术。看看，你知道，呃，库姆巴，我们开始使用流体动力学来预测，你知道，人群流动，或者说车牌识别或面部识别。但是，如果你开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对吧？同样，任何缺乏情境相关性的模型，现在当你开始暗示，你知道，将其用于执法，你正在做出生死攸关的决定时，这将非常困难，它是一个黑箱，没有可解释性，没有透明度，我该如何看待这种自动化官僚机构，它将在不了解其是什么的情况下做出如此关键的决定，而且它，你知道，呃，受美国法律管辖，所以我的税务数据，有人给了我一个很好的，你知道，主权人工智能解决方案，呃，由四大公司销售，对吧，他们，他们，他们以一套西装向我推销得很好，我们接受了，好吧，它是主权人工智能，它不是，它不是，它是否，你知道，通过了设计、部署、审计、治理、安全、许可的测试，不，因为在某个地方，有人能够，呃，拉动一个终止开关，然后，你知道，停止所有访问。>> 你看，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当你看到俄罗斯乌克兰战争正在进行时，俄罗斯的 Swift 被停止了。所以你将不得不，以我们拥有印度数字公共基础设施的方式，我们将不得不创建认知公共基础设施，无论它有多么困难，这就是为什么 P，它是本能的，它是生存的，我们必须这样做，而且可能现在是时候我们应该这样做了。我昨天在《星期日公报》上写了一篇文章，我称之为“独立架构”，对吧？它是独立架构。印度不缺乏，你知道，专家，印度不缺乏人才，印度不缺乏，唯一缺乏的是计算能力，我认为地缘政治上我们应该解决这个问题，这又是主权，对吧？因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们将不得不在蛋糕的所有，你知道，所有层面上都拥有主权。>> 对吧？>> 我相信，当您将这些系统应用于警务工作时，您将不得不寻求信任和透明度。呃，这已经造成了问题。另一方面，它已成为一种力量倍增器。它极大地助长了犯罪生态系统。我们有变态恶意软件。你有，你知道，有一家名为 Arup 的公司。我认为它是一家广告公司还是什么的，其首席执行官在现场 Zoom 会议上露面，他们损失了 3000 万美元。对吧？这就是人工智能发展的状态。我们有实时警务吗？先生，你知道，解释了警务工作并非如此实时。所以你将不得不提高能力和容量，这需要现在认真思考。所以，P，我们需要主权人工智能。>> 谢谢。谢谢先生。再次，正如预期的那样，非常非常相关的观点。这让我想起几年前黄仁勋的一次采访。他说，我见过你的总理，在这次人工智能热潮之前，呃，当它处于非常初级阶段时，他说你的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候这样思考确实是值得称赞的。所以我想你提出的观点非常相关，但很高兴你将计算能力带入了画面，因为计算能力是我们真正需要做得好的事情，事实上，也是我们与世界其他地方相比的优势。然后我很乐意稍后邀请 P。所以，有了这个，我想转向 Martin。Martin，非常感谢，首先，你远道而来印度参加人工智能峰会并与我们同在。Martin，你在 Teradata 担任数据分析、大数据实施领域的领导者。你曾两次被列入 Data IQ 的数据驱动业务百强最具影响力人物榜单。而令人瞩目的是，

我正在看你们的网站，你们现在说“停止管理数据，激活智能”。我也读了你们关于大规模计算需求的文章，例如你们举了一个医疗保健的例子，其中每个病人都会由一个代理人跟踪，他会发出成千上万的查询，以确保你获得那种超个性化的体验。那么，在这种计算需求下，马丁，你认为我们从一开始就准备好主权了吗？还是说，正如大家所说，你必须一层一层地解决它？你对此有何看法，尤其是在数据层面，你知道像印度这样的国家如何确保他们在这些方面拥有主权？是的，请讲。

>> 谢谢。以非常快的闪电般的速度，在认知将发挥非常重要作用的叙事战中。我们需要一个更优越的算法。因此，我们的主权，我们生产更优越算法的能力，它不仅是对抗敌人认知攻击的防御，而且还能创造一个可持续的叙事，我们可以支持我们在军事力量应用中的其他行动。因此，在这个更优越的算法创造方面，我认为我们有优势，我敢肯定，军事应用将有许多主权解决方案来处理它。我想要谈论的第三个领域是自主系统，这是普遍担忧的原因，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。一个编队在接到作战任务时，一个单位在接到目标时，一个士兵在越过某个界限时，他们就变得自主了。导弹一旦发射。今天的智能弹药。我们现在面临的问题是，它不再仅仅是导弹这样的平台自主性，而且还有可能实现任务自主性，即一群机器可以被赋予一个任务去完成，然后它们就处于自主模式。在这种人工智能的应用中，威胁来自对抗性攻击，因此主权变得非常重要。在这种算法中，如果存在所谓的“毒化数据”，如果系统中嵌入了规避，如果存在一种提取算法打开了系统的后门。我们能否依赖这种任务自主模式来应用人工智能，因此，如果我们必须决定一项国防应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。军事决策，如果我可以大致划分它们，一种是确定性的。确定性意味着当信息可用时，可以计算出结果。在这种确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为在人工智能方面可以高度信任。我们做的第二种决策是随机的，其中不仅因素是已知的，还有一些因素具有发生的概率，如果它们发生，就会产生一些可以量化的影响或效果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布或迫在眉睫地宣布紧急情况，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素都有发生的概率，如果发生，就会产生量化的影响。在这些情况下，人工智能可以帮助你进行模拟并做出非常理性的决策，我们可以对人工智能有相当程度的信任。军事中最关键的第三种决策是在不确定性下，在战争迷雾中做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有处理不确定性的管理工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但人工智能不能被信任来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与之保持一致，将其用作工具，而不是作为一种值得信赖的副驾驶。总而言之，在所有这四个领域，以及为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行分级的基准测试套件，无论它是否适合军事应用。谢谢你，阿布舍克。

>> 是的，非常感谢您，先生，非常有价值的见解，当我们评估在哪个层面实现主权时。我认为您的发言中最突出的一点是，更优越的算法是我们真正关注的国家安全方面。因此，我现在转向下一位发言者，哈纳警察部队总监、警察局长阿杰·辛格尔先生。对于国际观众来说，哈纳是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我阅读了您之前的演讲，其中最让我印象深刻的是您谈到警务工作经历了五个阶段的演变。首先，您说那是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三阶段是互联网时代。第四阶段您谈到了智能手机和应用程序，但最后一个，您对此给予了极大的强调，那就是人工智能时代，罪犯如何利用它进行网络犯罪、毒品犯罪，甚至数字逮捕之类的犯罪，以及您如何强调警方需要跟上。那么，先生，就国家安全警务而言，您认为我们在评估生态系统中的主权时，哪些优先事项对我们很重要？请讲。

>> 谢谢。我们是非技术人员，正如皮尔先生所说的那样。我们是技术文盲，我们跟着罪犯走。是的。我们怎么做？我们跟着罪犯走。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何看待人工智能将如何影响国家安全，以及我们将如何应对它。所以，我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，您可能知道，也可能知道其中的一些内容。所以，这是我的演讲。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我想补充的是，人工智能技术不会回头。这是当今的事实，我们必须接受它。我读到过，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，例如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种创新都扩展了人类的能力，而不是简单地更快地完成现有的任务。与效率陷阱相比，领先的组织正在将人工智能作为一种强大的力量倍增器来部署，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到 Infosys 首席执行官 Nandan Nilekani 的观点，他提到了炒作和技术，这两者一直如影随形。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的发明。加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人。这种炒作，它是否达到了前所未有的水平，这是看待事物的一种方式。人工智能的动态很简单，正如我们所理解的，因为有人估计到 2030 年，世界经济的 10 万亿美元将由人工智能技术主导。所以，无论是泡沫还是炒作，只有时间会告诉我们。然而，每一次技术进步都会给警方带来新的挑战，因为我们是社会的清道夫。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，令人欣慰的是，这次警方的意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以，感谢这个平台提出了这些问题并表达了我们的担忧。我们非常感激。

>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉，我继续还是您？抱歉，请。是的，请继续。请继续。

>> 是的，先生。请继续。

>> 所以，我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但它带来了什么新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传、等等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一位才华横溢的工程师创建了暗网来联合世界。但实际上，他联合了地下世界。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大的且缓慢的。但人工智能是一种颠覆性技术，它具有截然不同的、更强大、更持久的破坏潜力，而且速度快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家长期安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一黄仁勋（Jensen Huang）对一个名为 Akima 模型的五层蛋糕进行了精彩的解释。我们都知道它。所以，它是能源、芯片、基础设施、模型和应用程序。所以，这五层蛋糕都至关重要，并直接影响到警方。对于执法部门来说，在顶层即我们使用的应用程序上的主权是不够的。如果敌对行为者能够切断关键数据中心的电力供应，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部司法管辖区和监控的影响，而且人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是，主权必须贯穿整个堆栈，否则低级别的漏洞会损害其上所有级别的安全。因此，在我谦卑的意见和有限的知识范围内，我预见到这些是印度实现长期国家安全所需的战略转变。所以，这是一份路线图。非常感谢您。

>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了一些非常重要的观点，尤其是在人工智能在国家安全相关各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是处理每一个层面，实现主权方面的重大变革，还是进行渐进式变革？为此，我想请下一位发言者，我们的比杰·辛格先生。虽然马丁，我非常想现在引入行业，但我忍不住，因为他在现场，他带来了独特的背景，一位资深官员和官僚，他从一开始就涉足人工智能领域。他不仅写过和谈论过人工智能，他本人就是实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章，先生。所以，首先，您对数据及其偏差表达了非常重要的、意义深远的观点。所以，当我们说我们可以让各层的人工智能都拥有主权时，如果数据本身存在偏差，这难道不是主权的一个非常重要的方面吗？所以，我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们所看到的变革是应该全面进行还是渐进式进行发表您的看法。请讲。

>> 所以，为了正确设定主权的背景，皮尔说它是情感化的。是的。我说它不是情感化的，它是本能的，是生存的，对吧？那么，什么是主权？任何你不能自己开发、部署、管理、审计、保护和许可的东西，都不是主权的。对。这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“开关”的人可以关闭您对任何技术的访问。所以，想象一下，现在对于所有提供给我们的良性技术，这又回到了前殖民时代，当时您拥有香料、矿产、棉花、茶叶，这些在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一笔交易，您上传的每一条健康记录，您提出的每一个问题并输入到模型中，都将作为 API 卖回给您，您将被收费。对。这不是主权。所以，我认为政府应该是，无论是国防、政府还是私营部门，我们都不应该选择任何这些人工智能“包装器”。我们应该选择任何可能 50% 正确，80% 正确的东西。但想象一下，你不能把你的主权的大脑放在一个不了解你的地方。对。现在看看一些非常简单的事情。大型语言模型是基于所谓的“通用爬取”（common crawl）进行下一个词预测开发的，而“通用爬取”基本上是 Reddit 和维基百科。而维基百科是什么，我写了一篇关于维基百科如何存在偏见的文章，并且我证明了维基百科是如何存在偏见的，它只有非常有限的一组编辑来决定世界如何思考，并且它是某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，因为它不理解您的本地语境，因为它不理解高语境低资源的东西，比如 Bhojpuri 或 Malayalam，Tamil 或 Marathi，假设有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给你一些别的东西。看看对齐原则，治理。中国的治理方式不同。中国社会的原则不同。而我们称之为“达摩克利斯”原则，我们首先关注社会，对吧？我们互相帮助。这在模型中没有得到体现。它谈论个人主义。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已经成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，你可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据集创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量技术，不仅仅是生成式人工智能。生成式人工智能，我认为企业用例尚未到来。在企业中，除了编码之外，采用率只有 10%。警务工作使用大量技术。看看 Kumba，我们开始使用流体动力学来预测人群流动，或者车牌识别或面部识别。但如果你开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对。同样，任何缺乏语境相关性的模型，当你开始将其应用于执法领域，你正在做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这种自动化官僚机构，它将在不了解其本质的情况下做出如此关键的决定，而且它还受到美国法律的约束？所以，我的税务数据，有人给了我一个很好的主权人工智能解决方案，由四大公司销售，他们穿着西装向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理的测试吗？不，因为在某个地方，有人能够拉动“开关”，并停止所有访问。你看到，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当你看到俄乌战争时，俄罗斯的 SWIFT 被停止了。所以，你必须像我们拥有印度的数字公共基础设施一样，创建一种认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须这样做，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，不缺乏人才，不缺乏只有计算能力，我认为在地缘政治上我们应该解决这个问题，这又是主权，对吧？因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。对。我相信，当你将这些系统应用于警务工作时，你必须追求信任和透明度，它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。你知道，有一家公司叫 Arup，我认为它是一家广告公司还是什么的，CEO 在一次 Zoom 直播中露面，他们损失了 3000 万美元。对。这就是人工智能的发展状态。我们有实时警务吗？先生，你知道，解释了警务工作并不那么实时。所以，你必须同时提高能力和效率，这需要认真思考。所以，皮尔，我们需要主权人工智能。

>> 谢谢。非常感谢您，先生。再次，正如预期的那样，非常非常相关的观点。这让我想起几年前黄仁勋的一次采访。他说，我见过你们的总理，就在人工智能热潮之前，当它处于非常初级阶段时，他说你们的总理告诉我，他不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候这样想是令人难以置信的。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，与世界其他地方一样，然后我非常想在稍后引入皮尔。所以，有了这些，我想转向马丁。马丁，非常感谢，首先，不远万里来到印度参加人工智能峰会并与我们在一起。马丁，在你担任 Teradata 的数据分析、大数据实施领导者的角色中，你曾两次被列入数据驱动业务中最具影响力的 100 人名单。令人瞩目的是，我看了你们的网站，你们现在说“停止管理数据，激活智能”。我还读了你关于即将到来的大规模计算需求的文章，例如你举了一个医疗保健的例子，其中每个病人都会由一个代理人跟踪，他会发出成千上万的查询，以确保你获得那种超个性化的体验。那么，在这种计算需求下，马丁，你认为我们从一开始就准备好主权了吗？还是说，正如大家所说，你必须一层一层地解决它？你对此有何看法，尤其是在数据层面，你知道像印度这样的国家如何确保他们在这些方面拥有主权？是的，请讲。

>> 谢谢。以非常快的闪电般的速度，在认知将发挥非常重要作用的叙事战中。我们需要一个更优越的算法。因此，我们的主权，我们生产更优越算法的能力，它不仅是对抗敌人认知攻击的防御，而且还能创造一个可持续的叙事，我们可以支持我们在军事力量应用中的其他行动。因此，在这个更优越的算法创造方面，我认为我们有优势，我敢肯定，军事应用将有许多主权解决方案来处理它。我想要谈论的第三个领域是自主系统，这是普遍担忧的原因，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。一个编队在接到作战任务时，一个单位在接到目标时，一个士兵在越过某个界限时，他们就变得自主了。导弹一旦发射。今天的智能弹药。我们现在面临的问题是，它不再仅仅是导弹这样的平台自主性，而且还有可能实现任务自主性，即一群机器可以被赋予一个任务去完成，然后它们就处于自主模式。在这种人工智能的应用中，威胁来自对抗性攻击，因此主权变得非常重要。在这种算法中，如果存在所谓的“毒化数据”，如果系统中嵌入了规避，如果存在一种提取算法打开了系统的后门。我们能否依赖这种任务自主模式来应用人工智能，因此，如果我们必须决定一项国防应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。军事决策，如果我可以大致划分它们。一种是确定性的。确定性意味着当信息可用时，可以计算出结果。在这种确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为在人工智能方面可以高度信任。我们做的第二种决策是随机的，其中不仅因素是已知的，还有一些因素具有发生的概率，如果它们发生，就会产生一些可以量化的影响或效果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布或迫在眉睫地宣布紧急情况，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素都有发生的概率，如果发生，就会产生量化的影响。在这些情况下，人工智能可以帮助你进行模拟并做出非常理性的决策，我们可以对人工智能有相当程度的信任。军事中最关键的第三种决策是在不确定性下，在战争迷雾中做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有处理不确定性的管理工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但人工智能不能被信任来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与之保持一致，将其用作工具，而不是作为一种值得信赖的副驾驶。总而言之，在所有这四个领域，以及为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行分级的基准测试套件，无论它是否适合军事应用。谢谢你，阿布舍克。

>> 是的，非常感谢您，先生，非常有价值的见解，当我们评估在哪个层面实现主权时。我认为您的发言中最突出的一点是，更优越的算法是我们真正关注的国家安全方面。因此，我现在转向下一位发言者，哈纳警察部队总监、警察局长阿杰·辛格尔先生。对于国际观众来说，哈纳是一个与我们国家首都地区接壤的大邦。先生，作为警察部队的负责人，我阅读了您之前的演讲，其中最让我印象深刻的是您谈到警务工作经历了五个阶段的演变。首先，您说那是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术，以及警方如何努力追赶。您提到的第三阶段是互联网时代。第四阶段您谈到了智能手机和应用程序，但最后一个，您对此给予了极大的强调，那就是人工智能时代，罪犯如何利用它进行网络犯罪、毒品犯罪，甚至数字逮捕之类的犯罪，以及您如何强调警方需要跟上。那么，先生，就国家安全警务而言，您认为我们在评估生态系统中的主权时，哪些优先事项对我们很重要？请讲。

>> 谢谢。我们是非技术人员，正如皮尔先生所说的那样。我们是技术文盲，我们跟着罪犯走。是的。我们怎么做？我们跟着罪犯走。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以问题是如何看待人工智能将如何影响国家安全，以及我们将如何应对它。所以，我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的关于人工智能的讨论，我准备了一个简单的演讲，您可能知道，也可能知道其中的一些内容。所以，这是我的演讲。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我想补充的是，人工智能技术不会回头。这是当今的事实，我们必须接受它。我读到过，历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，例如电力实现了大规模生产。互联网创造了数字经济。印刷术使知识民主化。每一种创新都扩展了人类的能力，而不是简单地更快地完成现有的任务。与效率陷阱相比，领先的组织正在将人工智能作为一种强大的力量倍增器来部署，从根本上重新构想工作流程，以扩展能力并开辟新市场。另一方面，我读到 Infosys 首席执行官 Nandan Nilekani 的观点，他提到了炒作和技术，这两者一直如影随形。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的发明。加密货币出现了，他们说它将通过加密货币解决世界和平与饥饿问题，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人。这种炒作，它是否达到了前所未有的水平，这是看待事物的一种方式。人工智能的动态很简单，正如我们所理解的，因为有人估计到 2030 年，世界经济的 10 万亿美元将由人工智能技术主导。所以，无论是泡沫还是炒作，只有时间会告诉我们。然而，每一次技术进步都会给警方带来新的挑战，因为我们是社会的清道夫。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。然而，令人欣慰的是，这次警方的意见得到了采纳，否则，早些时候警方从未在规划或概念阶段被提及。之后，清理的责任就落在了我们身上。所以，感谢这个平台提出了这些问题并表达了我们的担忧。我们非常感激。

>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉，我继续还是您？抱歉，请。是的，请继续。请继续。

>> 是的，先生。请继续。

>> 所以，我们必须从历史中学习。1995 年，谷歌提供了信息的可访问性、透明度和公平性，但它带来了什么新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传、等等。2008 年，一位名叫中本聪的人推出了区块链和比特币，一位才华横溢的工程师创建了暗网来联合世界。但实际上，他联合了地下世界。因此，警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大的且缓慢的。但人工智能是一种颠覆性技术，它具有截然不同的、更强大、更持久的破坏潜力，而且速度快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家长期安全所需战略转变的理解。为此，我们必须理解一个五层谜团。最近，人工智能教父之一黄仁勋（Jensen Huang）对一个名为 Akima 模型的五层蛋糕进行了精彩的解释。我们都知道它。所以，它是能源、芯片、基础设施、模型和应用程序。所以，这五层蛋糕都至关重要，并直接影响到警方。对于执法部门来说，在顶层即我们使用的应用程序上的主权是不够的。如果敌对行为者能够切断关键数据中心的电力供应，我们的人工智能驱动的应急响应就会中断。如果主要供应受到外部控制，我们对犯罪分析的访问可能会受到限制。如果基础设施位于外国云上，敏感数据就会容易受到外部司法管辖区和监控的影响，而且人工智能也有其缺点，那就是消耗巨大的能源、水和碳排放。因此，基本原则是，主权必须贯穿整个堆栈，否则低级别的漏洞会损害其上所有级别的安全。因此，在我谦卑的意见和有限的知识范围内，我预见到这些是印度实现长期国家安全所需的战略转变。所以，这是一份路线图。非常感谢您。

>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了一些非常重要的观点，尤其是在人工智能在国家安全相关各个领域所带来的威胁方面。现在，一个重要的问题摆在我们面前，那就是我们是处理每一个层面，实现主权方面的重大变革，还是进行渐进式变革？为此，我想请下一位发言者，我们的比杰·辛格先生。虽然马丁，我非常想现在引入行业，但我忍不住，因为他在现场，他带来了独特的背景，一位资深官员和官僚，他从一开始就涉足人工智能领域。他不仅写过和谈论过人工智能，他本人就是实践者。我认识他很多年了，我刚刚读到他两天前在《星期日卫报》上发表的一篇非常相关的文章，先生。所以，首先，您对数据及其偏差表达了非常重要的、意义深远的观点。所以，当我们说我们可以让各层的人工智能都拥有主权时，如果数据本身存在偏差，这难道不是主权的一个非常重要的方面吗？所以，我想听听您的想法，先生，然后也许在会议晚些时候，我也想请您就我们所看到的变革是应该全面进行还是渐进式进行发表您的看法。请讲。

>> 所以，为了正确设定主权的背景，皮尔说它是情感化的。是的。我说它不是情感化的，它是本能的，是生存的，对吧？那么，什么是主权？任何你不能自己开发、部署、管理、审计、保护和许可的东西，都不是主权的。对。这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有基础设施“开关”的人可以关闭您对任何技术的访问。所以，想象一下，现在对于所有提供给我们的良性技术，这又回到了前殖民时代，当时您拥有香料、矿产、棉花、茶叶，这些在这里制造，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一笔交易，您上传的每一条健康记录，您提出的每一个问题并输入到模型中，都将作为 API 卖回给您，您将被收费。对。这不是主权。所以，我认为政府应该是，无论是国防、政府还是私营部门，我们都不应该选择任何这些人工智能“包装器”。我们应该选择任何可能 50% 正确，80% 正确的东西。但想象一下，你不能把你的主权的大脑放在一个不了解你的地方。对。现在看看一些非常简单的事情。大型语言模型是基于所谓的“通用爬取”（common crawl）进行下一个词预测开发的，而“通用爬取”基本上是 Reddit 和维基百科。而维基百科是什么，我写了一篇关于维基百科如何存在偏见的文章，并且我证明了维基百科是如何存在偏见的，它只有非常有限的一组编辑来决定世界如何思考，并且它是某些“觉醒”的理想，某些科技精英的理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，因为它不理解您的本地语境，因为它不理解高语境低资源的东西，比如 Bhojpuri 或 Malayalam，Tamil 或 Marathi，假设有一种当地的鱼，它可能有不同的名字，但 GPT 不知道它，所以它开始将其扁平化，它开始给你一些别的东西。看看对齐原则，治理。中国的治理方式不同。中国社会的原则不同。而我们称之为“达摩克利斯”原则，我们首先关注社会，对吧？我们互相帮助。这在模型中没有得到体现。它谈论个人主义。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已经成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，你可以参考一下，以及它是如何崩溃的，因为它想要创造一种语言，一个世界，而亲爱的朋友们，这就是正在发生的尝试，通过一些由非常有限的数据集创造出来的东西，由白人创造出来的东西。现在，警务工作使用大量技术，不仅仅是生成式人工智能。生成式人工智能，我认为企业用例尚未到来。在企业中，除了编码之外，采用率只有 10%。警务工作使用大量技术。看看 Kumba，我们开始使用流体动力学来预测人群流动，或者车牌识别或面部识别。但如果你开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。对。同样，任何缺乏语境相关性的模型，当你开始将其应用于执法领域，你正在做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何看待这种自动化官僚机构，它将在不了解其本质的情况下做出如此关键的决定，而且它还受到美国法律的约束？所以，我的税务数据，有人给了我一个很好的主权人工智能解决方案，由四大公司销售，他们穿着西装向我推销，我们接受了，好吧，它是主权人工智能，它不是，它没有通过设计、部署、审计、治理的测试吗？不，因为在某个地方，有人能够拉动“开关”，并停止所有访问。你看到，在斯里兰卡危机中，世界可以停止他们的支付系统，对吧？当你看到俄乌战争时，俄罗斯的 SWIFT 被停止了。所以，你必须像我们拥有印度的数字公共基础设施一样，创建一种认知公共基础设施，无论多么困难，这就是为什么皮尔，它是本能的，它是生存的，我们必须这样做，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。它是独立架构。印度不缺乏专家，不缺乏人才，不缺乏只有计算能力，我认为在地缘政治上我们应该解决这个问题，这又是主权，对吧？因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都拥有主权。对。我相信，当你将这些系统应用于警务工作时，你必须追求信任和透明度，它已经造成了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。你知道，有一家公司叫 Arup，我认为它是一家广告公司还是什么的，CEO 在一次 Zoom 直播中露面，他们损失了 3000 万美元。对。这就是人工智能的发展状态。我们有实时警务吗？先生，你知道，解释了警务工作并不那么实时。所以，你必须同时提高能力和效率，这需要认真思考。所以，皮尔，我们需要主权人工智能。

>> 谢谢。非常感谢您，先生。再次，正如预期的那样，非常非常相关的观点。这让我想起几年前黄仁勋的一次采访。他说，我见过你们的总理，就在人工智能热潮之前，当它处于非常初级阶段时，他说你们的总理告诉我，他不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候这样想是令人难以置信的。所以，我认为您也呼应了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要掌握的，事实上，与世界其他地方一样，然后我非常想在稍后引入皮尔。所以，有了这些，我想转向马丁。马丁，非常感谢，首先，不远万里来到印度参加人工智能峰会并与我们在一起。马丁，在你担任 Teradata 的数据分析、大数据实施领导者的角色中，你曾两次被列入数据驱动业务中最具影响力的 100 人名单。令人瞩目的是，我看了你们的网站，你们现在说“停止管理数据，激活智能”。我还读了你关于即将到来的大规模计算需求的文章，例如你举了一个医疗保健的例子，其中每个病人都会由一个代理人跟踪，他会发出成千上万的查询，以确保你获得那种超个性化的体验。那么，在这种计算需求下，马丁，你认为我们从一开始就准备好主权了吗？还是说，正如大家所说，你必须一层一层地解决它？你对此有何看法，尤其是在数据层面，你知道像印度这样的国家如何确保他们在这些方面拥有主权？是的，请讲。

>> 谢谢。以非常快的闪电般的速度，在认知将发挥非常重要作用的叙事战中。我们需要一个更优越的算法。因此，我们的主权，我们生产更优越算法的能力，它不仅是对抗敌人认知攻击的防御，而且还能创造一个可持续的叙事，我们可以支持我们在军事力量应用中的其他行动。因此，在这个更优越的算法创造方面，我认为我们有优势，我敢肯定，军事应用将有许多主权解决方案来处理它。我想要谈论的第三个领域是自主系统，这是普遍担忧的原因，人们都在谈论应该给予军事应用多少自主权，尤其是因为致命性是此类系统的一部分。就自主性而言，在我看来，每个军事系统在某个阶段都会变得自主。一个编队在接到作战任务时，一个单位在接到目标时，一个士兵在越过某个界限时，他们就变得自主了。导弹一旦发射。今天的智能弹药。我们现在面临的问题是，它不再仅仅是导弹这样的平台自主性，而且还有可能实现任务自主性，即一群机器可以被赋予一个任务去完成，然后它们就处于自主模式。在这种人工智能的应用中，威胁来自对抗性攻击，因此主权变得非常重要。在这种算法中，如果存在所谓的“毒化数据”，如果系统中嵌入了规避，如果存在一种提取算法打开了系统的后门。我们能否依赖这种任务自主模式来应用人工智能，因此，如果我们必须决定一项国防应用，主权算法就变得非常重要。我关于人工智能应用的最后一点是关于决策支持。军事决策，如果我可以大致划分它们。一种是确定性的。确定性意味着当信息可用时，可以计算出结果。在这种确定性解决方案中，人工智能是可以信任的。它将是优化解决方案、供应链管理解决方案、ERP、分析。我认为在人工智能方面可以高度信任。我们做的第二种决策是随机的，其中不仅因素是已知的，还有一些因素具有发生的概率，如果它们发生，就会产生一些可以量化的影响或效果。在这些情况下，人工智能可以再次提供极大的帮助。人工智能可以创建模拟，基于模拟的分析。例如，一旦宣布或迫在眉睫地宣布紧急情况，就必须进行动员。在这些情况下，除了各种预先计算的因素外，还有天气因素、内乱因素、敌对行动因素、各种山体滑坡、道路中断等因素，这些因素都有发生的概率，如果发生，就会产生量化的影响。在这些情况下，人工智能可以帮助你进行模拟并做出非常理性的决策，我们可以对人工智能有相当程度的信任。军事中最关键的第三种决策是在不确定性下，在战争迷雾中做出的决策。一旦必须做出此类决策，主权就成为首要关注的问题。在这些情况下，不仅所有因素都未知，而且它们的影响也无法量化。有处理不确定性的管理工具，但像博弈论这样的理论也失败了，因为在这里玩家的理性无法保证。这里的行动不是顺序的。所有玩家都可以同时行动。在这些情况下，人工智能可以成为一种辅助工具，但人工智能不能被信任来做决策。因此，在这个第四个领域，我认为我们需要进行培训，我们需要制定政策，我们的战略制定、技术和程序必须与之保持一致，将其用作工具，而不是作为一种值得信赖的副驾驶。总而言之，在所有这四个领域，以及为了总结我的回答，有一件事是必须的，有一件事我们必须作为一种主权能力拥有，那就是一个我们可以测试它们的平台，一个我们可以测试人工智能应用并对其进行分级的基准测试套件，无论它是否适合军事应用。谢谢你，阿布舍克。

哪个是我们必须拥有的一项主权能力，那就是一个平台，我们可以在其中测试它们，一个基准测试套件，我们可以在其中测试人工智能应用程序并对其进行评分，看它是否适合军事应用。谢谢 Abhishek。>> 是的，非常感谢您，先生。非常有价值的见解，当我们评估您将在哪个层面带来主权时。我认为您的意见中最突出的是，我们确实在国家安全方面非常关注卓越的算法。那么，我现在转向 Shri AJ Singal IPS，警察总监，哈纳警察部队负责人，对于国际观众来说，这是一个与我们国家首都地区相邻的大邦。先生，作为警察部队的负责人，我一直在阅读您以前的演讲，让我印象深刻的是您谈到了警务工作在五个阶段的演变。首先，您说的是传统时代，然后是手机的出现，在每个阶段，您都阐述了罪犯如何利用技术以及警方如何努力追赶。您提到的第三个阶段是互联网时代。第四个阶段您谈到了智能手机和应用程序，但最后一个，您对此给予了极大的重视，那就是人工智能时代，罪犯如何利用它进行网络犯罪、毒品甚至数字逮捕等犯罪，以及您如何强调警方需要在此方面追赶。所以，先生，就国家安全警务而言，您认为在我们评估人工智能生态系统中的主权时，哪些优先事项对我们很重要？请您发言。>> 谢谢您，先生。>> 我们是皮尔先生所说的非技术人员。>> 我们在技术上是文盲，我们跟随罪犯。>> 是的。>> 如何？所以我们跟随罪犯。罪犯总是比我们领先一步，然后我们训练自己，然后我们抓住他们。所以这是一个问题，人工智能将如何影响国家安全以及我们将如何应对。所以我不认为我们有能力在技术上告诉您，但根据我们的经验和世界各地正在进行的人工智能讨论，我准备了一个简单的演讲，您可能知道其中的某些内容。所以，这是。我们都同意，没有人能阻止一个时机已到的想法。其次，世界已经变成了一个地球村。第三，我补充一点，他们不会放弃人工智能技术。这是事实，我们必须接受它。我读到历史上最具变革性的创新并没有实现自动化。它们解锁了可能性，就像电力实现了大规模生产一样。互联网创造了数字经济。印刷机使知识民主化。每一种都扩展了人类的能力，而不是仅仅更快地完成现有任务。与效率陷阱相比，领先的组织正在将人工智能作为一种强大的力量倍增器来部署，从根本上重新构想工作流程以扩展能力并打开新市场。另一方面，我读到了 Infosys 首席执行官 Nandan Keny 的观点，他提到了炒作和技术，它们一直如影随形。早些时候，云计算出现了，他们说这是自切片面包以来最伟大的事情。当加密货币出现时，他们说它将解决世界与加密货币的冲突，现在没有人再谈论智慧城市了，现在人工智能正在改变每个人，这种炒作，无论它是否达到了前所未有的水平，这是一种看待事物的方式，人工智能的动态很简单，正如我们所理解的，因为它表明到 2030 年，世界经济的 10 万亿美元将由人工智能技术管理。所以，无论是泡沫还是炒作，只有时间会证明一切，然而，每一次技术进步都会带来新的挑战，因为我们是社会的拾荒者。我们必须清理技术造成的垃圾或混乱，为警察和社会提供安全可靠的环境。而且，令人欣慰的是，这次听取了警方的意见，否则，警方从未在规划或概念阶段得到肯定。此后，清理的责任就落在了我们身上。所以感谢这个平台提出了这些问题并解决了我们的担忧。我们非常感谢。>> 非常感谢您，先生。非常感谢您的宝贵意见。抱歉。我继续还是您抱歉请？>> 是的，请继续。请继续。>> 是的，先生。请继续。>> 所以我们必须从历史中学习。1995 年，谷歌提供了信息、透明度和公平的访问，但带来了什么新问题？虚假信息、信任问题、植入信息、操纵人类行为、宣传、色情等。2008 年，有人被称为中本聪（Satoshi Nakamoto）推出了区块链和比特币，一些才华横溢的工程师创建了暗网来团结世界。但事实上，他团结了犯罪分子。所以警方设法解决了这些问题，因为互联网和移动技术带来的变化是巨大的且进展缓慢的。但人工智能是一项颠覆性技术。它具有更强大、更持久的破坏潜力，而且速度快得多。现在，在揭示了人工智能的阴暗面之后，我提出了我对国家长期安全所需战略转变的理解。为此，我们必须理解一个五层谜团，最近一位人工智能教父 Jensen Wag 曾精美地解释了 Akima 模型这个五层蛋糕，我想我们都知道它，它包括能源、芯片、基础设施、模型和应用程序，所以这五层蛋糕都以某种方式直接影响着警察。对于执法主权，在顶层，即我们使用的应用程序，是不足的。如果敌对行为者能够切断关键数据中心的电力，我们的人工智能紧急响应就会中断。如果供应链受到外部控制，我们对犯罪分析的访问可能会被限制。如果基础设施位于外国云上，敏感数据就会容易受到外部管辖和监控。人工智能也有其弊端，那就是消耗巨大的能源、水和碳排放。因此，基本原则是，主权必须延伸到整个堆栈，否则低级别的漏洞会损害其上所有级别的安全。所以，在我看来，以我有限的知识，我预见到这些是印度长期国家安全所需的战略转变。所以，一个路线图。非常感谢您。>> 非常感谢您，先生。非常感谢您。所以，先生，您提出了一些非常重要的观点，尤其是在人工智能在国家安全相关各个领域带来的威胁方面。现在，一个重要的问题也摆在我们面前，那就是我们是逐层应对，还是进行大规模变革以实现主权，还是进行渐进式变革。为此，我想请下一位发言者，我们的 Mr. Bijes Singh，虽然我很想让行业参与进来，但我忍不住了，因为他在场，他拥有资深官员和官僚的独特背景，他从一开始就涉足人工智能领域，他不仅写过和谈论过人工智能，他本人也是一个实践者。我认识他很多年了，我读了他的一篇非常相关的文章，这周日卫报上发表的，大概是两天前，先生。所以，首先，您对数据及其偏见表达了非常重要的、意义重大的观点。当我们说，我们可以让人工智能在各个层面都实现主权，但如果数据本身存在偏见，这难道不是主权的一个非常重要的方面吗？所以，我想听听您的想法，先生，然后也许在本届会议晚些时候，我也想请您就我们所看到的变革，或者说它应该是渐进式的，发表您的看法。请您发言。>> 所以，首先，我们来设定主权这个背景。皮尔先生说它是情感化的。>> 是的。>> 我说它不是情感化的，它是本能的，它是生存的，对吧？>> 什么是主权？任何您无法按照自己的意愿开发、部署、治理、审计、保护和许可的东西，都不是主权。对。这些术语中的每一个都非常重要。现在看看 Naira Energies 的案例。拥有“终止开关”的人可以关闭您对任何技术的访问。所以，想象一下，现在对于所有提供给我们的良性技术。这又回到了前殖民时代，那时您有香料、矿产、棉花、茶叶在这里生产，通过火车线运到曼彻斯特，您得到了精美的成品。现在，您进行的每一笔交易，您上传的每一条健康记录，您向模型提出的每一个问题并输入其中，都将作为 API 出售给您，您将为此付费。对。这不是主权。所以我认为政府，无论是国防部、政府还是私营部门，我们都不应该选择任何这些人工智能包装器，我们应该选择任何东西，即使它只有 50% 正确，即使它只有 80% 正确，但想象一下，您不能将您主权的头脑放在一个不了解您的地方。现在看看一些非常简单的事情，大型语言模型是基于“下一个词预测”开发的，基于所谓的“通用爬取”，而“通用爬取”基本上是 Reddit、维基百科，而维基百科是什么，我写了一篇关于维基百科如何存在偏见的文章，并证明了维基百科存在偏见，而且它只有数量有限的编辑来决定世界怎么想，这是某些技术精英的“觉醒”理想。现在，讽刺的是，这将成为每个人的声音。由于模型不理解您，因为它不理解您的本地背景，因为它不理解高语境低资源的东西，比如比如在 Bhojpuri 或 Malayam，在 Tamil，在 Marathi，比如有一种当地的鱼，它可能有不同的名字，但 GPD 不知道它，所以它开始将其扁平化，它开始给您一些别的东西。看看对齐原则，治理。中国的治理不同。中国社会的原则不同，以及我们所说的达摩原则。我们首先关注社会，对吧？我们互相帮助。这在模型中没有体现。它谈论个人主义。它谈论某些可能不适合我们的西方理想。现在发生的是，作为力量倍增器，它已成为世界的认知基础设施。现在有一个关于巴别塔的圣经故事，您可以参考一下，以及它如何崩溃，因为它想要创造一种语言，一个世界，亲爱的朋友们，这就是正在发生的事情，它源于非常有限的数据集，由白人创造。现在，警务工作使用了大量的技术，不仅仅是生成式人工智能，生成式人工智能我认为企业用例尚未到来。企业采用率几乎只有 10%，除了编码。警务工作使用了大量的技术。看看，比如，我们开始使用流体动力学来预测人群流动，或者车牌识别或面部识别。但如果您开始使用任何西方的面部识别模型，错误率高达 40%。因为它从未在棕色人种的脸上进行过训练。同样，任何缺乏情境相关性的模型。当您开始将其应用于执法，您正在做出生死攸关的决定时，这将非常困难。它是一个黑箱，没有可解释性，没有透明度。我如何将这种自动化官僚机构置于其中，它将做出如此关键的决定而不理解它是什么，而且它还受到美国法律的约束。所以我的税收数据，有人给了我一个不错的，主权人工智能解决方案，由四大公司出售，他们用西装革履地向我推销，我们接受了，好的，它是主权人工智能，它不是，它是否通过了设计、部署、审计、治理的测试？不，因为在某个地方，有人能够拉动“终止开关”，并停止所有访问。>> 您看，在斯里兰卡危机中，世界可以停止他们的支付系统。当您看到俄乌战争时，俄罗斯的 SWIFT 被停止了。所以，您必须以我们拥有印度数字公共基础设施的方式，创建认知公共基础设施，无论多么困难。这就是为什么，它是本能的，它是生存的，我们必须这样做，而且可能现在是时候了。我昨天在《星期日卫报》上发表了一篇文章，我称之为“独立架构”。这是独立架构。印度不缺乏专家，不缺乏人才，只缺乏计算能力，我认为在地缘政治上我们应该解决这个问题，这再次是主权。因为人们正在使用 GPU 来控制地缘政治，这就是为什么我们必须在蛋糕的所有层面上都实现主权。>> 对。>> 而且我相信，当您将这些系统应用于警务工作时，您必须追求信任和透明度。而且它确实带来了问题。另一方面，它已成为力量倍增器。它极大地促进了犯罪生态系统。我们有变态恶意软件。您有，曾经有一家名为 Arup 的公司，我认为它是一家广告公司还是什么，其首席执行官在一个实时 Zoom 会议上露面，他们损失了 3000 万美元。对。这就是人工智能的发展水平。我们有实时警务吗？先生，您解释了警务工作并非如此实时。所以您必须同时提高能力和容量，这需要认真思考。所以，我们需要主权人工智能。>> 谢谢。谢谢您，先生。再次，如预期的那样，提出了非常非常相关的观点。这让我想起了几年前 Jensen Huang 的一次采访。他说，在人工智能炒作之前，我遇到了您的总理，当时它还处于非常初级的阶段，他说您的总理告诉我，我不想出口数据来进口情报。他说，对于一位世界领导人来说，在那个时候有这样的想法真是非同寻常。所以，我认为您也提出了非常相关的观点，但很高兴您将计算能力带入了画面，因为计算能力是我们真正需要在这方面取得进展的，事实上，是整个世界，然后我很乐意在稍后引入皮尔先生。所以，至此，我想转向 Martin。Martin，非常感谢，首先，您不远万里来到印度参加人工智能峰会并与我们在一起。M，您在 Terod Data 担任数据分析、大数据实施领域的领导者，您曾两次被列入 Data IQ 的数据驱动业务最具影响力人物 100 强。令人瞩目的是，我在您的网站上看到，您现在说“停止管理数据，激活智能”，我还读了您关于大规模计算需求的文章，例如您举了一个医疗保健的例子，其中每个患者都将由一个代理跟随，他将发送成千上万的查询，以确保您获得超个性化的体验。考虑到这种计算需求，Martin，您认为我们从一开始就准备好实现主权了吗？还是正如每个人所说，您必须逐层解决？所以，您对此有何看法，尤其是在数据层面，您知道数据结构如何，像印度这样的国家如何确保他们在这些方面实现主权？请您发言。>> 谢谢。请。