Transcription
尊敬的各位嘉宾，各位杰出的来宾，以及今天在座的所有观众。我是拉贾特，将担任本次会议的主持人。本次会议由印度德里国立大学在2026年印度人工智能影响峰会框架下组织和策划。今天会议的主题是“利用人工智能改进印度的司法系统”。我非常高兴，非常荣幸能向今天会议的杰出专家小组介绍。我们有印度法律委员会主席尊敬的马赫什瓦里大法官，印度国家电子政务发展局首席运营官拉杰尼什·库马尔先生，Sil Amaran Mangalas 的合伙人阿里亚蒂女士，Terrace 的首席执行官维卡斯·马亨德拉先生，以及沙胡尔·施罗德先生，他即将加入我们。他是 Shahul Amar and Mangalas 的创始人兼执行主席。他已经到达，将在大约2分钟内加入我们。我现在请求德里国立大学副校长 G.S. 卡吉帕伊教授致欢迎辞。
早上好，各位杰出的专家小组成员，各位杰出的亲爱的同学们，以及在座的各位女士们先生们。非常荣幸能参加这次关于利用人工智能转型的重要小组讨论。利用人工智能转型印度的司法生态系统，在印度人工智能影响峰会框架下。印度是世界上最大的司法系统，司法系统肩负着双重责任。一方面要维护宪法价值观，另一方面要应对日益增长的适应和吸收社会不断变化的需求。案件复杂性的增加，积压案件的上升，以及对司法公正期望的扩大，都需要创新且非常原则性的解决方案。
在这种背景下，人工智能既带来了机遇，也带来了挑战。印度目前正处于其技术发展历程中的一个关键时刻。随着人工智能重塑治理、商业和社会，将其融入司法系统既带来了机遇，也带来了深远的责任。人工智能可以通过预测分析、智能案件管理、自动化法律研究、起草、翻译和转录以及数据仪表板和绩效监控来支持司法系统。如果部署得当，它可以减少积压案件，提高透明度，并使司法更加便捷。我们面临的问题不是人工智能是否能协助司法，而是如何在维护司法独立性、公平性和宪法价值观的同时，实现这一点。
我们非常荣幸能邀请到一群杰出的思想领袖组成专家小组，他们将为本次对话带来司法智慧、政策洞察、技术经验和实践经验。我们非常荣幸能邀请到印度法律委员会主席尊敬的 DHI 大法官，沙胡尔先生，卢米先生，以及维卡斯·马亨德拉先生和阿里亚蒂女士。这个杰出的专家小组将识别司法生态系统中人工智能的挑战、监管保障措施、最佳实践以及负责任地利用人工智能加强印度司法系统所需的协作框架。这仍然非常重要，我相信这个专家小组的见解将帮助我们审视这方面的承诺和审慎。我期待着今天进行一次非常丰富和富有思考的讨论。
在我们开始这次会议时，让我们记住，目标不是实现自动化正义，而是增强正义，即人类智慧赋能技术程序。
在此，我再次热烈欢迎大家参加本次小组讨论。谢谢大家。祝大家有美好的一天。
谢谢卡吉帕伊教授。我们已经为本次会议定下了基调，即人工智能不是要取代，而是要协助司法系统，这是今天讨论和审议的主要目标。
谈到本次会议的主题，即“利用人工智能改进印度的司法系统”，正如我们已经说过的，印度是世界上最大的司法系统之一。然而，目前它正面临着包括积压案件和程序延迟在内的各种压力。在司法公正的可及性方面存在担忧，还有许多其他问题。另一方面，人们相信人工智能有潜力通过提高效率、透明度、确保更好的司法可及性来彻底改变我们的司法系统。它能做很多事情。它能在更好的案件管理、司法自动化等方面创造奇迹。因此，本次小组讨论旨在探讨人工智能对印度司法系统的变革潜力。
在此，我首先想请教马赫什瓦里大法官。先生，您一生都是宪法价值观的守护者。您能否分享一下，在司法系统中采用人工智能如何能够与公平、平等、司法可及性等宪法价值观保持一致？您对此有何看法，先生？
谢谢女士。早上好，各位专家小组成员，女士们先生们。对我们所有人来说，印度举办如此规模和性质的峰会确实是一个深刻的时刻，我们将共同讨论和思考人工智能的使用。正如教授所正确指出的那样，我将其表述为我们的“真实智能”，它始终是我们的一部分，并将两者融合。
在谈论宪法价值观之前，请允许我先强调一下印度价值观和印度框架的一些基本原则。印度的标志是多样性。但印度的印记，印度的签名印记是“多元一体”。这就是印度文明闻名于世的方式。我们有能力。我们一直都在这样做。接受任何知识流派，将其与我们自己的价值观、我们自己的系统融合，为我们的目的进行定制，然后继续前进。例如，阿育吠陀的基本原理，我们将其与现代医学进步相结合，我们拥有一个整体的医疗保健系统。甚至烹饪系统、原理或经验，来自世界各地。我们会采纳它们，并为我们的目的进行定制，从而产生我们都知道的融合菜肴。我们印度人更喜欢融合菜肴而不是冷冻食品。
其理念是，我们一直是一个以普遍宽容著称的文明，我们允许。我们从未拒绝任何东西，但我们也从未在与任何事物相矛盾或与任何事物相对立的情况下继续前进。在这个峰会上，我们的讨论和思路也不会是人类与机器的对立，而是将两者融合，并充分利用现有的技术进步，特别是与人工智能相关的技术进步。
人工智能，各位朋友，将其融入印度司法交付系统无疑代表着一个变革性的时刻。正如瓦吉教授所正确指出的那样，它提供了巨大的机遇，但确实也带来了一些典型的挑战。当我们有能力整合任何事物并为我们的目的进行定制时，我非常确定，我们作为一个集体，将确保当今世界快速发展的进步之一——人工智能——也将帮助我们，将成为我们的助手，我们的伙伴，另一个工具或另一个机制，帮助我们成长。
正如我们所知，人工智能已经在工作中得到应用。它正被积极用于起草合同、审查证据、翻译判决书。最高法院已经在这方面推出了两项非常重要的举措。一项是关于司法研究，或者说是关于打破语言障碍并提供翻译，但这仅仅是开始，朋友们。我相信在不久的将来，我们将把人工智能用于更好的用途。但确实，对我们，特别是那些关心法律和司法交付的人来说，需要确保的是，无论何时需要智能，甚至比智能更需要意识，正如你们所知，这将是智能与意识的分离。
这种意识是印度思想的灵魂。它一直如此。当我们谈论我们的宪法时，我们发现序言中的正义、自由和平等是按此顺序出现的。正义至高无上。正义是第一位的。其他一切都随之而来。这就是印度的承诺。我们的文明价值观，我们的宪法框架。它们都为我们提供了宪法道德的基础。宪法道德，正如我们所有法律专业的学生所知，它超越了文本，超越了文本的表面含义，而是理解其真正意图。
能够辨别事物本质的能力是人类独有的，尤其对法律专业人士而言。因此，需求将始终是，我们在利用人工智能的任何目的时，始终将我们的真实智能放在首位。现在不是讨论滥用人工智能的后果或缺点的时候，或者更确切地说，是滥用人工智能的无知使用。例如，我们知道有些案例，引用的判例被提交给尊敬的法院，但却发现根本不存在，最初是从某个外国司法管辖区开始，然后渗透到印度。但这些都是例子，它们不会困扰我们。我们需要从这些例子中吸取教训，即机器能够做到什么。机器被调谐，算法旨在存储一切。输入什么，就保留什么。这与人类大脑不同，人类大脑能够区分对错、正确与否、相关与否。
因此，任何过于热衷的 Z 世代，仅仅依赖人工智能输出并向其资深人士提交某些所谓引文的错误在于，资深人士在法庭上呈现这些引文时感到尴尬，却发现它们根本不存在。但机器的问题在于难以“遗忘”。但我们作为人类能够“遗忘”，而这正是我们与机器的区别所在。
因此，朋友们，当我们今天讨论这个问题时，我们有杰出的法律头脑。我将把话筒交给他们。我们将讨论宪法道德的某些方面，以及我们如何为我们的目的整合它们。非常感谢。
谢谢您，先生。
谢谢您，先生。我们以一个非常积极的基调开始，即我们可能已经准备好通过技术采纳和适应这项技术，并确保它成为司法系统的一部分，前提是不会出现对人工智能的无知使用。您提到的这一点非常正确。
接下来是阿里亚蒂女士。虽然我们准备好采纳这项技术，但会有许多实际的实施问题和担忧，特别是结构性担忧，涉及透明度、问责制，以及防止算法偏见。我的问题是，在司法系统中实施基于人工智能的工具有哪些关键挑战？以及一个后续问题是，司法人工智能应用中如何产生算法偏见，以及需要哪些保障措施来检测它们？
谢谢阿里亚蒂。谢谢您今天能来。我很高兴看到大家这么早就聚集在这里，以印度的标准来说。但为了直接切入主题，我认为当我们讨论……我将频繁使用两个术语。一个是 JDM，即司法决策。另一个是 ADM，即自动化决策。所以，当我快速使用 JDM 和 ADM 这两个术语时，请多包涵。
首先，在任何 ADM（自动化决策）过程中，自动化决策是如何工作的呢？它包含人工智能组件、机器学习组件、自然语言处理能力组件，通常称为大型语言模型。所有这些结合在一起，通过一系列人工智能神经网络，协同实现一个系统，使机器能够基于三件事做出自动化决策，而无需人工干预。这三件事是什么？
第一是智能感知。非常基础，我们目前在 B2C 环境中使用的就是智能感知。您拥有大量自然语言数据，机器会对其进行处理，然后机器会根据这些信息与您互动，进行正常的提示和输出循环。
第二阶段称为智能关联，它变得更加复杂。其中存在反馈机制，存在自我学习机制，这意味着即使您的训练数据仅限于某个范围，在智能认知方面，机器也能够根据已提供的信息进行学习和适应。
最后一个阶段是智能决策，即自动化决策。
现在，全球各地许多司法管辖区一直在争论 ADM 是否能被视为 JDM。正如您已经提到的，先生，最高法院已经启动了有助于法律研究和翻译、克服语言障碍的举措，这非常令人鼓舞。同样，爱沙尼亚作为另一个国家，已经采用了人工智能，首先是语音转录。这意味着当法庭审理正在进行时，人工智能会对其进行转录，然后在敏感案件中进行匿名化处理，以保护隐私。存在大量的案例。事实上，我们不必看得太远。如果您看看中国，他们有一个名为“项目 206”的系统。项目 206 执行一系列司法支持活动，从案件管理到证据收集，它识别出哪些是相关事实，哪些是不相关事实，哪些证据是正确的，哪些证据可能不合适。所有这些都由项目 206 完成。
再到美国，这有点不受欢迎。也许人们听说过 Compass 的情况。Compass 是一个人工智能驱动的工具，它预测犯罪，并受到种族偏见的影响很大。这在两个法院判决中受到了质疑，一个是威斯康星州，其中典型的“黑箱问题”得到了强调，法院认为在人工智能用于司法决策方面，“黑箱问题”并非真正问题。但同时，加州法院对同一软件做出了完全不同的判决，称这不符合法治。
因此，首先是智能感知、认知和决策这三个概念，然后是 ADM 在 JDM 流程中的广泛应用。
阿里亚蒂女士，正如您所正确指出的，问题陈述中的偏见和启发式偏差是其中最突出的问题之一。为什么会这样？偏见基本上是人类偏见的翻译。所以，如果您回顾 2017 年，当时印度还没有隐私权。如果我们使用司法决策来决定印度人是否应享有隐私权，我认为我们现在就不会再讨论隐私了。为什么？因为 2017 年之前的所有判决都没有单独承认信息隐私和隐私作为一项基本权利。它们总是与某些事实背景相关联。所以，如果一个 ADM 系统在那里进行决策，而不是我们尊敬的大法官，我认为我们会得出同样的结论，即不会有统一的、响亮的判决说存在隐私权。为什么？因为它将基于那些会体现法官启发式偏差的数据集进行训练。这是第一点。法官在采用人工智能工具时会遭受各种偏见。例如，普遍认为的“事后诸葛亮偏见”，在美国非常普遍。因此，在低风险的陪审团审判案件中，如果您使用人工智能工具，它可能会因为事后诸葛亮偏见而产生种族歧视等问题。您可能会得出结论，说那个社区主要由某种肤色的人居住，因此犯罪率显著更高。这是我们称之为事后诸葛亮偏见的一个例子。还有“近因偏见”。因此，如果某个事件发生了很多次，人工智能就会开始相信它是事实。它不会去核实它是否是事实。
因此，这些是可能影响司法决策的重大偏见。
第二点是“黑箱问题”。什么是黑箱问题？即使是技术专家也在努力解决这个问题。“黑箱”是指不可解释性。您无法真正解释机器学习是如何工作的。这是因为数据在神经网络的各个层之间进行转换。因此，结果是存在显著的不透明性，这导致了缺乏透明度。将人工智能工具应用于 JDM 可能会严重受到黑箱问题的影响，就像 Compass 的案例一样，其中原告实际上表示，我需要知道该工具使用的算法逻辑是什么，而法院无法排除这一点。除了这些，还有各种问题，例如……
我们将回到您的结论性发言。我们在这里需要暂停一下，因为有一个非常重要的环节——集体合影。我们本应以此开始。所以，请大家快速过来，请求所有杰出的专家小组成员进行合影，然后我们可以继续讨论。
我保证，之后我只会花两分钟，因为一切都将按计划进行。是的。
那么，我们可以继续会议了。现在我们已经开始讨论宪法道德、宪法价值观以及如何将它们与人工智能结合的问题。我们也看了一些挑战，实施挑战。现在我想转向沙胡尔先生。先生，我有一个非常重要的问题。在我们讨论将人工智能融入司法系统时，还有一个重要的问题是，这一切都是为了减轻法院的负担，人工智能能否帮助解决传统裁决系统之外的争端，这仍然是一个非常非常重要的问题，有待讨论。
因此，我想问您，人工智能工具如何在其他争端解决机制方面提高效率、可预测性和成本效益？从从业者的角度来看，您有什么见解？在解决由人工智能驱动的争端解决结构方面，律师事务所面临哪些挑战？
谢谢。我认为在决策速度、数据收集能力、筛选数据、偏见问题、以及在处理特定事项以解决问题的方式方面。所有这些问题都得到了解决，也就是说，这些不是开放式的持续性问题。它们已经得到了解决。尚未解决的方面是刚才提到的黑箱问题。其他问题是决策过程是否已非机械化。判决是否真的由机械手段做出，还是在过程的最后有人类？如果决策被转交给机器，那将是糟糕的法律，因为没有人将该权力委托给机器。即使在选择仲裁员或调解员时，决策也是如此，即当事人已委托。决策是你是否必须，是否已将授权委托给个人，而不是委托给机器。
因此，这是过程之间的一个典型特征或区别。实际上，根据《纽约公约》，这可能是撤销仲裁裁决的一个理由。披露、透明度、当事人同意、人工智能生成内容的监督以及决策过程的非委托性，是解决过程的关键。
当您考虑律师事务所时，最终有多种目的得到有效解决。证据分类方面，收集方面，处理证据方面。准备日期列表的问题，对可用数据进行的尽职调查问题，这些都是程序性问题，机器已经解决了速度问题。因此，所花费的时间明显缩短了。但您必须小心，不要陷入偏见或幻觉的问题。存在机器相关的幻觉，当您扩展数据并允许外部输入时，这种情况通常会发生，因为机器会从其可访问的数据中抓取数据。
那么问题是，您是否会得到错误的一方？您是否会在决策过程中得到错误的判决？这是在机器被随意使用的情况下常见的抱怨。事实上，我们法院也有一些判决涉及这个问题。那些不是原始诉讼当事方的当事人却发现自己成为了诉讼当事人。
关于是否存在虚假判决的问题，即姓名很熟悉，但判决内容却完全不正确，并且它们似乎被操纵了判决。事实上，律师们被发现正在采用这种技术，因此必须确保人类对人工智能的监督。这不是一个“解放双手”的情况。
在 Gammon 对 Chennai Metro Rail Corporation 的两起案件中，金奈高等法院实际上制定了一项程序，工程师与法院合作，制定了四项原则。系统必须局限于记录。因此，不能访问外部材料。它不得发明、推断或提供法律意见。只能呈现间接检索到的出口。输出必须可追溯且可根据记录进行移除，所有程序性或实质性互动都必须记录下来，并且必须可用于透明度。
透明度问题也得到了讨论，即如果您输入更多数据，如果当事人访问的不是案件中的内容，而是使用了外部材料，您必须告知对方。这些是在您实际确定将应用于案件或调解的原则时做出的决定，然后再准备您的材料。因此，当事人之间的协议以及您将涵盖的范围是协议问题，特别是当您诉诸人工智能时。
在 Deepak 对 Hard and Soul Entertainment Limited 的案件中，出现了虚假生成案件的问题，法院对此进行了严厉批评。例如，在美国，律师会受到制裁，如果他们监督不力，案件就会被认为是开放式的，最终的资源问题必须在……
在 Wires Private Limited 对 National Facement Assessment Center 的案件中，政府被指控以某种方式固定程序，导致特定结果，并因此受到惩罚，因为结果是预先确定的，因此在决策方面没有自由。
因此，该过程有效地基于此进行。
谢谢。非常感谢您的见解。在座的各位都会同意，我们需要消除在采用这项技术方面对人工智能的犹豫，但同时也要说，负责任地采用人工智能非常重要。这意味着经过校准的部署。
说到这一点，我们需要更多地了解如何准确地实施和部署人工智能。因此，我们需要了解用例。我认为拉杰尼什先生是告知我们并就司法领域采用人工智能的用例提供投入的最佳人选，同时以负责任的方式进行。
谢谢女士。在我听取见解时，正如马赫什瓦里先生所说，这不是人类与机器的对立，正如瓦吉教授所说，这不是自动化而是增强。您知道，我们来自国家治理部门，我们为政府进行大量的 IT 采购，我们在自己的工作中也经历了很多挑战。我将重点介绍司法和法官的一个方面。法官不确定，当他们使用一个工具时，它是否会去美国，是否会去俄罗斯，是否会去中国，服务器在哪里。
我们找到了一个非常有趣的解决方案：对于所有司法案件，比如过去 50 年的案件，您想将其放入服务器。有一个叫做 NAS（网络附加存储）的小设备，您将其放在办公室里，并将其连接到一台 MacBook Pro 或 Mac mini，或者只是一个推理服务器。然后有一个数据二极管，这意味着它只会让您访问数据，而不会让任何其他东西进入数据。
任何法官都会面临的一个巨大挑战是：我的草稿怎么办？因此，必须有一个完整的数据擦除机制，当法官将其从其位置移走时，机器应该完全没有法官所做事情的痕迹。所有这些都是可能的，而且是现成的解决方案。这里唯一的挑战是，正如女士所说，我们如何构建一个好的工具来互相协助？所以，这不是人类与机器的对立。但可能出现的一个问题是，有保护机制。
大型语言模型的问题在于它从不停歇。它永远不会告诉你“我不知道”。它会一直回答。所以，律师、技术人员、法律专家必须回来坐下来，说“你到此为止，这就是我所知道的。过去 50 年的判决，我已经检查过了，这是参考”。法律助理或法官或裁决者可以随时询问助理“参考是什么？你核实过了吗？”核实也可以由……
所以，从某种意义上说，如果您看看大型语言模型的技术，它是一个对抗性网络，其中网络的一部分在做某事，另一部分在对抗它。所以，它是一个自我批评机制，您最终会得到一个相对正确的解决方案。
我们还意识到，在人工智能的法律方面，存在幻觉，它看起来如此准确，以至于即使是信誉良好的专家也会上当，正如马赫什瓦里先生所举的例子，有些案件是由一些……其他人捏造的。对于这种情况，我们可以在机制本身中设置另一个人工智能系统来阻止这种情况。
所以，女士和先生们，我能说的是，如果技术专家和法律专家携手合作，我们就能构建一个主权的大型语言模型。国内许多公司都在这样做。它可以真正帮助近 650 个地方法院、25 个高等法院以及许多裁决者，不仅仅是法官，还有 NCT、所得税、各种法庭。在这些案件中，这并不难，因为大多数论点或案件都基于事实，不像民事或公司案件。
所以，我的建议是，让我们从教育工作者、法庭开始。我们有一个学习过程，然后可以很容易地推广到民事和公司案件。我不太确定刑事案件，因为我们还没有研究过这方面。但就民事和公司案件而言，有一个简单的机器与教育者一起，连接到网络附加存储的真实案例。网络附加存储是一个非常有趣的东西，您可以在世界任何地方通过虚拟专用网络访问它，而且您是安全的，没有人可以访问它。事实上，我们还可以证明所有连接都已断开。没有 Wi-Fi，没有蓝牙，没有局域网连接，机器仍然可以工作并为您提供一个好的判决或草稿。
我只能说这么多。谢谢。
谢谢。谢谢。这是非常宝贵的见解。在座的各位观众，我想你们都会同意我的看法。我们从前面三次重要的对话中获得了一些非常非常重要的关键信息。
接下来是维卡斯先生。您在司法自动化工具和争端解决方面非常活跃。问题仍然是：人工智能驱动的自动化将如何提高司法效率和案件自动化？您能否也给我们一些简短的输入？
非常感谢。让我从我们已经在做的事情开始。让我告诉您我们目前正在试点的项目，以及可能在几个月内投入使用的情况，以及未来的发展方向。正如一些人可能知道的，我们正在使用转录服务来转录最高法院的诉讼和宪法法庭的听证会。我们不仅在印度这样做，还在迪拜国际金融法院、阿布扎比法院、新加坡最高法院这样做。所以，我想提供这个背景，说明我们在印度构建的不仅仅是为了印度法院。显然，印度法院是我们想要解决的最大消费者之一。需求非常大。
但我认为，这更是关于向前迈出一步，说明我们可以构建什么，我们不是在复制或采纳其他国家已经做过的事情，而是真正设定标准，来实现可能实现的目标。例如，在 ADGM 法院，我们正在做的一件事是实时翻译法庭听证会。在程序语言是英语但当事人不是英语使用者，并且经常难以理解法庭上所说内容的经济特区。我们提供了一个解决方案，可以实时将其转换为阿拉伯语，其准确性甚至比人类同声传译员还要高。我认为这些是……
今天，我可以告诉您，我们正在进行三个现场试点项目，其中许多理论讨论已经付诸实践。我们正在研究构建专门为法官负责任地使用人工智能而调整的系统。人工智能不会告诉他们决定是什么，而是为他们提供做出该决定所需的一切，从而更快地做出决定。这都是律师们一直在使用的。我认为沙胡尔先生已经谈到了，例如，文件列表、事实年表，但我们还可以做得更多。
我们研究如何分析案件，从而揭示当事人的立场、当事人之间的协议点、当事人之间的分歧点、关键法律原则以及关键法律原则所在的位置。我们直接与法官合作，确定每个法官名册的关键 50、100、200 个案件，因为显然印度有 1700 万个案件，但我们作为律师都知道，您不需要所有这些案件来决定每个案件。每个名册都有一些关键原则。我们与法官合作确定它们，并将其呈现出来，就像……
我们认为，法官以三种速度审阅案件。听证会的前一天，当名单出来时，您需要了解大约 70 或 80 件事项。所以您大约有 30 秒到 1 分钟的时间来阅读每个案件。当律师从座位走到讲台辩论案件时，有 5 秒钟的时间。您有 5 秒钟的时间来真正理解案件是什么。然后您可能有大约半小时或一小时的时间来决定案件并起草判决书。
所以，我们正在构建具有所有这些保护措施的工具，以应对这三个要素中的每一个，并在每个点上告诉法官他们需要什么。在任何一个点上，我们都没有告诉他们如何决定。我们所做的只是提炼当事人的立场。我们的目标是，随着我们前进，将这种提炼出的立场反馈给当事人。所以，当您谈论透明度，谈论没有幻觉，谈论人工智能的局限性时，还有什么比将其反馈给律师更好的方式呢？“嘿，听着，这是人工智能所说的。”我当然会运用我的头脑，但如果您觉得存在差距，如果您觉得它没有捕捉到某些问题，或者它错误地描述了某些问题，那么这就是您提供意见的机会。
想象一下，在所有这些综合之后进行的听证会。所以，律师不再以“这是事实，这是 X 出生的，Y 出生的”开始，而是以“法官已经知道双方同意的事实立场了，让我直接处理有争议的立场，并节省听证所需的时间”开始。再加上您已经在进行的转录，所以您不仅在综合数字数据，即您的电子文件，您不仅在综合记录中的证据，而且我们为司法模型量身定制的系统正在从更有限的数据集中检索最相关的证据。但您还在增加一个听证会，在其中所有这些立场都得到明确化，因此当法官坐下来进行那半小时或 45 分钟的审理时，他们实际上不是面对一个静态文件。他们不看一份请愿书然后说“好的，这是案件十年前争辩时的立场”，而是字面上看立场是如何随着时间演变的，从那天起，希望不是十年，而是直到判决作出，当事人的立场是如何演变的，双方的同意点在哪里，这样您就可以立即提炼出并生成一个决定，这是您的决定，这是一个人类的决定，但得到了技术的增强。
所以，我认为很多这些都是新颖的，在世界其他地方并没有这样做。当您看到……自动化决策时，您就跳过了这一步。您从说“我将为您提供所有数据。您生成输出并给我”变成了“不要这样做。让我们让人类参与进来，但要确保您利用所有技术优势来协助决策者。”这就是我们今天与仲裁员、法官和仲裁机构所做的。他们都在努力做出非常关键的决定，处理大量数据，而无需使用技术。因为今天技术是……由于他们所说的所有原因，例如主权原因、黑箱问题，它都是无法获得的。数据存储在哪里，数据在哪里处理，这些也都是因素。所以，当您与法官、仲裁员、机构一起构建系统时，您就会自动为其编程。当您嵌入这些保护措施时，它也使当事人更容易接受。
所以，我们为仲裁员构建工具，仲裁员告诉我们，“听着，我将使用 Microsoft 365。”他们会说，“好的。仲裁员会要求 Microsoft 365 告诉他该怎么决定吗？”因为 Microsoft 365 会给您一个答案。但另一方面，如果他们使用我们为他们创建的工具，该工具会告诉您，“我无法给您这个答案，这超出了我平台的允许使用范围。”当事人更有可能同意使用这种技术。所以，这确实是我们开始时所说的，要关注关键决策者，因为他们是最稀缺的，他们需要做的事情最多。我们如何帮助增强他们的能力？
同时也要从司法培训的角度来考虑。我们正在与全国最聪明的法官和最高法院合作，提炼出他们如何分析案件，我们正在用这些知识和逻辑构建系统，而这些系统正在被印度内地地区的地方法官使用。所以，他们现在突然开始应用由该国顶尖专家设计的框架来完成他们的工作，而且是以他们选择的语言。我认为这就是真正的力量。这就是为什么我们正在关注……当您关注理论概念时，我们需要超越它，看看印度如何做出贡献，不仅仅是接受正在发生的事情，而是真正……
我必须在这里打断一下。非常感谢，这非常有见地。您让我们想象了整个人工智能赋能的法庭。感谢您的远见。
现在，在我们即将结束会议之际，我想再次请教沙胡尔先生。先生，您对人工智能的部署有什么见解？它是否应该仅限于决策支持，或者协助决策，还是由人工智能协助的实际决策？界限应该在哪里划定？所以，如果您能给我们一些见解。
正如我在开场白中所提到的，偏见问题和公平决策问题正是关于法官的判决是否真的需要自动化，或者这是否是只能限制在人类方面的，由人类在过程背后进行的。在美国。
所以，我们可以去其他房间。
在美国。
您可以去任何房间。
是的，在美国，实际上，以及许多……部落已经制定了自己的规则。他们将决策委托给自然人，而不是机器。所以，如果他们发现界限被跨越了，它不仅仅是程序性元素，而是司法元素已经被决定了，那将是一个糟糕的……糟糕的决定，因为它不符合委托给该事项的委托，该委托是基于谁是法官以及过程如何有效地演变。
所以，这就是找到的解决方案，这很可能就是未来案件的发展方向。
好的。非常感谢您。
现在，我请求马赫什瓦里大法官，您可以发表您的总结性发言。我们将从同一个问题开始。我们也将进行总结性发言。如何在确保宪法价值观的同时，将人工智能整合到司法系统中？
是的。非常感谢。我的各位专家小组成员的见解非常精彩。这些是我们不断学习的东西。正如我们今天所学到的，我们人类有能力学习，也有能力……我们必须培养关于人工智能或任何机器工具的能力，然后我们必须注入这种能力，去学习，或者至少去阻止那些不应该被学习的东西，或者不应该被使用的东西。正如正确指出的那样，如果……存在产生虚假信息的倾向，不仅是图像的深度伪造，甚至是引文或判决书。那么，人工智能将由另一个人工智能来对抗，阻止任何虚假创作。
所以，可能性是无限的，可能性是巨大的。我们正在继续前进。但我们在这里讨论的一个共同特征是关于实际决策过程。因为归根结底，到最后，如果我们谈论法院，司法交付系统，它最终是交付正义。正如我们所知的法官，我们接受过训练。总是有区别的，即处理一个案件和在一个案件中交付正义。律师、法官、整个系统的努力都是在一个案件中交付正义。
所以，就积压案件或趋势等而言，它们确实令人担忧，并且一直在努力处理它们。机器在多大程度上帮助我们筛选大量数据，整理事物，并进行适当的渠道化，正如正确指出的那样。它们非常有帮助，我们确实在使用它们，并且将更多地使用它们。但是，帮助机器……阐述一个结论，或者使用机器来……引导我们得出一个结论。所以，必须有区别。总是存在区别。
前几天，我们一直在讨论印度刑事司法交付系统中的量刑政策。我与 M 博士进行了讨论。他很友善。他也给出了他的专家建议。我们正在为此努力。总而言之，我们知道在刑事司法交付系统中，在定罪之后，尊敬的法官在决定适当的判决之前，会考虑所有加重和减轻因素。在那里，特定的决策将是人类的决策，因为这需要考虑各种因素，周围的脆弱因素。
朋友们，我有一个冲动想与你们分享，在我们的印度哲学中，特别是美学中，我们有一个概念叫做“九种情感”。这些是九种人类情感或情绪，从爱开始。然后是笑声、悲伤、愤怒、活力、恐惧、厌恶、惊奇，最后是和平。现在，这些是人类的情感，它们是我们在与人类打交道时决策过程的组成部分。这些是人类大脑……有同理心的地方正在发挥作用。所以，我们借助机器来筛选事物，整理事物，但最终，最终的决策权肯定属于裁决者。在那里，我们确保……我们所有法律专业人士所需要确保的是，既然我们都致力于宪法道德，那么无论我们使用什么黑箱系统，它都对我们所有人保持透明。
非常感谢。
谢谢。非常感谢您。
随着我们今天结束这次会议，有三个重要的反思非常清晰地脱颖而出。
第一个反思是，技术不再处于司法系统的边缘。它已经成为整个司法生态系统的主要架构的一部分。最高法院已经采取的各种举措都很好地表明，我们正在朝着制度改革的方向迈进，以采纳和适应这项技术。
第二个重要的反思是，无论如何，每一项发展，每一项技术进步，我们创建的每一个框架都应该以宪法为锚点，并以人为中心，因为归根结底是我们人类。
第三个非常重要的反思是，未来不在于取代人类，这是前一个反思的延伸，不在于取代司法系统，而在于加强整个系统。当涉及到为法院和法官配备工具、技术，以增强研究、简化案件管理、减少积压案件，当然还要扩大司法可及性时。
因此，未来的路线图是一个非常重要的关键信息，来自于这次重要的专家小组讨论。未来的路线图需要明确的道德准则。它需要透明的实施。它需要制度监督、司法能力建设，以及最后也是非常重要的一点——持续的公众信任。
至此，我们结束了本次会议。非常感谢大家。
我谨代表德里国立大学，向所有专家小组成员表示诚挚的感谢：马赫什瓦里大法官、沙胡尔先生、维卡斯先生、阿里亚蒂女士、拉杰尼什先生。感谢各位抽出宝贵时间参加本次专家小组讨论。
我还要向我的团队，印度人工智能影响团队，苏古普塔博士和她的团队表示诚挚的感谢，感谢他们为我们提供了这次重要的讨论平台。当然，也要感谢在座的各位，每一位参与者，感谢您们今天专注的聆听和参与。
至此，我请求我的同事达克希纳·钱德拉博士向各位专家小组成员赠送一份纪念品。这是来自 MIT 和德里国立大学的……给沙胡尔。
不，我们可以说一些其他的。
无论如何。