Transcription
是的。呃，谢谢苏迪的温馨介绍。呃，你好莫伊特。呃，欢迎来到人工智能脱口秀。呃，今天来到这里感觉如何？
呃，非常感谢邀请我参加这个节目。我想这是你们的首批节目之一，能来到这里是我的荣幸。
是的，我也是。我也是。我的意思是，这让我们想起了我们的编辑会议，以及你知道的，我们进行的头脑风暴。
嗯，是的，莫伊特，今天发生了一个重大进展。所以在我们谈论这个进展之前，你能告诉我什么是深度伪造吗？为什么它是一个问题？为什么人工智能生成内容和人类生成内容之间还有什么区别呢？
好的，问题很多。好的。首先，我认为深度伪造的问题非常明显。如果你呃，如果你去任何Instagram平台，Instagram或者X，你会发现人工智能生成的内容，呃，大约90%到95%现在都是人工智能生成的。想象一下，如果你有一个视频，你录制了自己和某人说话的自拍，突然有人把别人的脸换到了上面。那么这显然会给你带来问题。所以这本质上就是深度伪造的问题。
所以我想，当所有这些深度伪造开始的时候，我想一两年前我记得我们在编辑会议上讨论过，这是一件好事，我们应该为创新让路。
是的。但问题是，那时视频并没有那么真实。我的意思是，昨天我看到了C Dance的一些片段和视频，这是我第一次，即使是我这样对没有水印等所有这些东西都无所谓的人，技术乐观主义者，是的，技术乐观主义者，我也有点退缩了，因为它太真实了。我的意思是，我无法分辨这是否是人工智能生成的视频，除非有人告诉我，是的，我们使用了，呃，要么从第一性原理说这是C Dance创建的，我们使用了，呃，某些东西，对吧，所以，呃，那种第一性原理的东西不存在，如果有人给我发那个视频，我就会相信它是一个真实的视频。
是的，我想这正是印度政府也看到的问题，这就是为什么他们起草了这些[笑声]IT修正案规则，对吧？所以，呃，你能给我们讲讲新规则吗，然后我们可以...
是的，是的，所以，呃，我们，呃，IT规则所说的基本内容是，呃，他们正在谈论强制性的人工智能内容标记，呃，你知道的，嵌入元数据跟踪，最棒的是两到三个小时的下架时间。所以这是大家都在谈论的主要亮点，然后你还有自动化保障措施以及平台可能失去安全港保护。所以这些是人们正在谈论的新的IT规则变化，它就像今天一夜之间发生的一样，巧合的是，它发生在Cance发布他们的呃测试的时候，而且，而且，而且，很多不仅仅是Cance，还有很多中国模型都能够，呃，我的意思是，生成一些逼真的图像，而且它们也完全未经审查。所以你，没有水印，不像你的Sora或者。
我认为3小时这个部分非常有趣，因为之前我认为规则是大约36小时左右。
好的。
现在他们把它减少到了2到3小时。
明白了。
所以这本质上意味着，如果我发现一个我自己的深度伪造视频。
明白了。
如果我去投诉它。
明白了。
你有最多3小时的时间来下架那个视频。
明白了。
如果你不这样做，那么将会有更多的行动针对你。
太疯狂了。呃，所以我想，呃，今天我们有来自Kthan and Co.的Anushka加入我们。嗨，非常感谢邀请我参加这个节目。
是的，欢迎，呃，Anushka。今天能邀请到你很高兴。呃，我想我们生活在一个疯狂的时代，互联网上的一切几乎都是假的。我想人们说这个数字大约是75%，比如人们在网上遇到的内容中，75%都是人工智能生成和深度伪造的。呃，所以，呃，所以，呃，我们想和Anushka开始对话，比如，呃，在我们谈论一些法律方面的问题之前，比如，呃，发生过哪些案例？我想你每天都和你的很多，呃，合作伙伴和你的，呃，客户打交道。呃，所以在我们深入探讨之前，你能为我们的观众简化一下，新的IT规则到底改变了什么，以及日常用户和平台应该如何理解今天发生的一切？
是的，当然，呃，昨天印度电子信息技术部（MeitY）通知了对2021年IT规则的修正案，这些修正案不仅对平台，而且对用户来说都非常重要，需要了解。呃，我会告诉你为什么，我将重点介绍四到五个重要的关键修正案，人们应该注意。
首先，他们将人工智能生成内容，或者更专业地说，合成生成信息，引入了IT法案的定义中。现在，呃，如果你知道一些背景，去年他们发布了修正案草案。是的。呃，当时他们曾表示，任何合成生成的信息都需要进行标记，并且还有一些相关的下架义务。当时引起了很大的争议，因为合成生成信息的定义非常宽泛，呃，这意味着即使我只是对PDF文档进行一些常规编辑并上传到任何一个平台，我也需要将其标记为合成生成信息，这显然不是政府的意图。政府的意图是处理，呃，深度伪造，正如你们所指出的，这是一个日益增长的威胁。它在，呃，色情内容方面对妇女和儿童造成了不成比例的影响，当然，它甚至对全球民主构成威胁。所以，呃，意图并不是要规范PDF的常规编辑等。因此，对于究竟什么是需要监管的合成生成信息，存在很多困惑。所以现在政府已经定义了那些被人为修改或篡改，并且看起来真实，但不包括常规转录、编辑、研究材料、教育材料等的内容，嗯，呃，是被IT规则涵盖。
所以我认为这是一个受欢迎的改变，嗯。
去年提出的修正案草案。现在谈到修正案中更具争议的方面，那就是[笑声]时间线。嗯。
所以这里还要记住一件事，虽然这些修正案主要被吹捧为人工智能修正案，但它们也处理非人工智能的，呃，可能需要处理的非法信息。
好的。
所以，呃，我只是，你知道，简要介绍一下，呃，以前的时间线是什么，现在又是什么？以前，如果中介机构收到法院命令或政府命令，要求下架某些非法内容，必须在收到命令后的36小时内下架。我想莫伊特提到了这一点。现在从36小时缩短到了3小时。而且你知道，正如你所说，我每天都与那些收到这些投诉的科技公司和平台打交道，我可以告诉你，这对他们来说将是一场巨大的噩梦。
明白了。这并不是因为他们不想拥有干净的平台或遵守法律，而是他们每天都会收到成千上万的此类投诉。无论他们有多少人力，有多少自动化工具，都必须在3小时内履行遵守义务，否则就会失去安全港保护。嗯。在我看来，呃，这非常，呃，过度了。所以我想，呃，有必要遏制互联网上的非法信息。嗯。这是一个巨大的威胁，但这项规定可能，你知道，在性质上可能更具可行性，而不是给出严格的3小时时间线。所以，呃，当然我理解政府的观点，我想我们也应该在讨论这个问题时谈到，他们认为36小时内内容就会变得如此病毒式传播，以至于下架就没有意义了，这就是他们可能引入3小时的原因，但我认为某个地方应该有一个中间地带，明白了，而且，呃，不幸的是，我认为最终会是，你知道，法院来确定中间地带，因为我相当肯定这将会受到挑战。
明白了。明白了。
所以，呃，那是一个。第二个改变的时间线，呃，值得用户注意的是，每个平台都需要有一个申诉解决机制。嗯。而且，呃，对所有用户，比如你和我，都可用。如果我看到任何非法内容，呃，你知道，影响到我，我可以向任何中介机构的申诉官投诉。以前他们有，呃，24小时来确认，加上15天来下架，对于某些类型的内容，有一个缩短的72小时期限。但现在他们有7天时间来处理投诉，而不是之前的15天，对于高风险内容，他们有36小时，而不是之前的72小时。所以，呃，我个人认为这方面的争议较少，至少7天看起来相当，你知道，可以被认为是合理的，特别是当我们将其与我们之前谈到的3小时进行对比时。
明白了。明白了。
呃，那是第二个时间线。现在第三个时间线，对所有用户来说也非常重要，那就是对于色情内容，中介机构有2小时来处理投诉。
明白了。
同时，呃，规则确实规定你需要部署合理和实际的措施。所以，呃，在某种程度上，他们给了中介机构一些回旋余地，只要你有一个合理的措施，让用户可以访问并下架高风险和敏感内容，比如色情内容，即使2小时变成了3小时，你可能也不会被追究责任。
明白了。所以，呃，规则中也为中介机构设置了一些，呃，保障措施。
现在，呃，昨天引入的第三个主要修正案是，呃，中介机构需要承担一些额外的尽职调查义务。嗯。
呃，所以首先他们需要部署自动化的，呃，措施，自动自动，呃，所以这些是技术措施，以确保如果他们在其平台上制作或启用SGI内容或深度伪造的发布，他们需要有工具来阻止非法人工智能内容的创建或发布。现在，呃，在我看来，我不是一个技术[笑声]人员，呃，要有一个自动化工具来捕捉一个文档是否本质上是非法的，因为他们并没有说要阻止所有人工智能内容。他们说要阻止那些本质上是非法的内容。所以当涉及到色情内容时，已经有足够的自动化工具部署在那里，并且它们会自动过滤此类内容。但是，呃，他们说过，即使一个文档是，呃，虚假的，而且是人工智能生成的，你也需要有一个自动化工具，能够自动阻止此类内容的创建或发布。我认为那才是更棘手的部分，呃，因为这可能会，我想你们之前也提到了，导致过度审查。是的。你知道，即使是很多合法内容也可能因为这些严厉的规定而被清除。
另一个，呃，当然是针对STI内容，这些内容可能并非明确非法，你需要有一个要求，即内容被标记为，呃，人工智能生成。
所以举例来说，呃，如果你不想和我进行这次采访，而是想和某个AI虚拟形象进行采访，并且你将其发布到网上，当然这不是非法的，你可以这样做，但你需要有一个标签，说明这是AI生成的内容。
明白了。所以，呃，那是，呃，最后一个主要修正案是针对重要的社交媒体中介机构，呃，这些社交媒体中介机构拥有超过50万用户，这显然，呃，你知道，包括大多数大型的，呃，呃，比如聊天引擎、YouTube、Telegram、WhatsApp等。嗯。
现在他们需要，他们需要有一个规定，即每个用户在上传内容时都需要声明它是否是深度伪造，或者是否是SGI合成生成的信息。
明白了。好的。现在，呃，再次，呃，我想我们需要和这些平台的工程师谈谈，了解他们将如何确保能够验证这些内容是否是SGI，因为如果他们没有能力验证，那么显然他们无法真正实施这条途径。
是的。明白了。明白了。
呃，Anushka，呃，非常感谢你的详细解释。我想，呃，该法案中提到的一件事是，它将在2月20日之前强制执行。那么你认为所有这些技术性的东西，这些，呃，社交媒体平台和每个人都必须实施的东西，你认为他们有足够的时间来构建这些算法，并可能像我们之前谈论的那样自动修复吗？
不，完全没有。但是，呃，如果在这10天内，法院出现诉讼，你知道，寻求中止或至少延长时限，或者，呃，甚至可能是一个咨询过程，公司向政府提供反馈，然后他们自己延长时限，我不会感到惊讶。呃，但是你知道，话虽如此，呃，就像我说的，即使在这次修正案之前，该法案就已经要求，呃，某些类型的内容需要自动过滤，比如，呃，色情内容，同时，呃，还有一个保障措施，即部署合理措施。即使现在我们必须记住，规则确实规定他们需要部署合理的技术措施。所以，呃，你知道，也许，呃，呃，他们要么使用“合理”这个词来给公司时间采取措施进行实验，看看什么有效什么无效，或者我认为更好的方法是直接延长时限，并，呃，确保实施是真正意义上的。
是的。所以我想，呃，还有一个问题是关于音频部分。我想也有提到一些正在被人工智能生成的音频内容。
你认为，呃，我的意思是，我们都看到新闻，当涉及到语音通话时，也有很多，呃，诈骗在发生。
对。是的。
你认为，呃，这项，呃，IT法案也改变了这一点吗？或者你认为那会是一个单独的事情，可能会在以后针对通话宣布？
不。所以实际上我为了时间关系没有提及那项修正案。他们引入了一项修正案，呃，它定义了音频、视觉和视听信息，并且他们将这些信息纳入了这些规则将要监管的信息范围之内。所以，呃，如果有一个音频片段是人工智能生成的，那么在开头，呃，你需要声明这是，呃，人工智能生成的。
好的。因为我，呃，看到了很多正在发布的这些东西，比如，呃，每个人都在构建语音模型。我显然不想点名公司，但市场上已经有很多语音模型正在出现。所以我想，每个人，呃，如何更多地采用人工智能将会很棘手，而且，我，我肯定，我想最近有一家公司在谈论，所以他们正在考虑语音，呃，就像我们有指纹一样，有一种声纹之类的东西，呃，所以创新总是，我的意思是，这些限制，呃，但我想问Anushka一件事，呃，除了删除内容之外，对任何用户都没有严厉的惩罚，对吧？所以没有，呃，比如罚款，巨额罚款，或者你会坐牢，或者后果是什么？那么IT，呃，规则有谈到任何关于这方面的事情吗？
对。所以我想我将分两部分回答这个问题。
明白了。
呃，如果你，如果你上传非法内容，它可能是诽谤性的，它可能是，呃，性剥削性的，或者，呃，呃，或者它可能会，你知道，对印度的国家完整性产生不利影响。呃，你一直都根据我们的一般法律承担责任。
嗯。
而且这在早期的IT规则中并没有被明确指出。
明白了。
但现在中介机构有义务通知用户，如果你发布任何非法内容，那么你将根据该国的刑法承担责任。
哇。所以，呃，这更多的是，我的意思是，这项法律一直存在，但现在政府，你知道，是直接告诉你，在你上传任何内容之前最好小心。
明白了。
显而易见的问题是，我不知道有多少人会阅读细则。这就是基于同意的框架的问题。但是，呃，你知道，中介机构和政府所能做的就是通知用户，并尽可能多地提高意识，呃，在网上发布任何东西或转发任何东西都是不行的。
明白了。呃，所以是的，呃，我想你几乎已经涵盖了所有内容，呃，在第一次尝试中。呃，但是创新方面有一个问题。那么这会阻碍印度在人工智能方面的大量进展吗？因为这类规则可能会造成一个硬性障碍，所以印度目前还没有图像生成模型或视频生成模型，呃，所有这些都来自中国或美国，呃，所以这些人现在有点像必须重新适应法律环境，然后考虑他们想如何，比如在标记方面，在他们能做的任何方面，但我想这是否会给印度的一些公司带来很大压力，这些公司正在为视频生成开发这些技术，为了更好的目的制作这类深度伪造，但这会阻碍未来的发展吗？或者他们应该如何完全应对这个问题，是的。
所以，呃，我想再次，呃，分两部分回答，呃，即使你是一个服务，呃，位于国外，明白了，但只要你在印度可以被访问，嗯，呃，你就需要遵守这些规则。
所以，呃，你知道，事实上，呃，举个例子，呃，WhatsApp显然不是一家印度公司，但根据规定，他们需要在印度设立一名负责官员，呃，以遵守这些规则。所以，呃，那是一部分，但是，呃，你知道，其次我完全同意你的看法，这给，呃，印度本土企业带来了很大的压力，并且可能会阻碍创新，因为，呃，显然正如你所说，印度人正在印度进行这些创新，他们现在仍然需要实现规模化，他们可能还没有足够的资源来遵守这些规则，而其他科技公司，那些已经在印度是，你知道，大玩家的公司，已经有足够的时间，呃，不仅建立了他们的用户基础，而且，呃，也慢慢确保他们能够，呃，在他们的架构中部署这些措施，但是，呃，对于一家初创公司来说，要应对如此严格的要求，将会，呃，将会是挑战，而且他们并没有真正给出阈值，比如三小时的时间线适用于所有人。他们本可以说，你知道，它适用于拥有，呃，超过50万用户的平台，但他们没有这么说。
明白了。明白了。我想Anushka你几乎涵盖了所有内容。呃，所以就一个，莫伊特还有其他问题吗？我想她已经说得很清楚了。我相信我们的观众也都知道正在发生什么，并且没有回避那里的错误信息。呃，顺便说一句，这实际上是真人Anushka。它不是生成的。[笑声]
我认为创新和平衡，呃，监管部分，我认为这是我们未来必须看到的最重要的事情。
明白了。
我想也许正如Anushka所说，我们可以做一些修正，将时间延长到6小时或12小时。
是的。给初创公司一些余地，至少是一些创始人，呃，一些科技公司。我想那会很棒。呃，我希望政策制定者正在听取这个并做笔记，因为我确实做了。
呃，所以是的，最后Anushka，我只想知道你对那些，呃，必须接受这一新变化的科技公司，以及那些上传，呃，任何类型人工智能生成内容的用户，有什么，呃，最终的信息要说。最终信息。
我认为对于科技公司，特别是初创公司，他们需要与政府协商，争取在这些规则下获得一些宽限。明白了。
并且，呃，对用户，呃，请注意你上传的内容，并且，呃，你知道，即使是转发，也不要，呃，在传播非法内容方面扮演角色。明白了。
只是对你在网上，呃，你的行为方式要更自觉一些。
明白了。完美。呃，谢谢Anushka你的时间。呃，非常荣幸能邀请你参加我们的节目。呃，我们会像往常一样，在需要你的建议和见解时随时回来找你。呃，非常感谢Anushka你的时间。
非常感谢。
非常感谢。
再见。
所以是的，你的，呃，我的意思是那很好，我想我们涵盖了大部分内容。我想，呃，我想，呃，结尾，对，最重要的部分总是关于平衡政策和平衡创新。
明白了。我想我们拭目以待。
是的。而且我，我再次从印度的角度来看是乐观的，关于，呃，创新如何能够，你知道，接受这些护栏和规则，并且，你知道，尊重它们，而且，但是我想你提到了一个部分，呃，关于好的深度伪造。
你能定义一下吗？
一个好的深度伪造就像它几乎感觉是真的。所以你并不知道它是假的。就像，呃，可能在电影中使用，比如宝莱坞之类的。
是的。就像在电影中，你会使用，呃，比如说，呃，有一个已故的人，或者一个演员或女演员，这样他们就可以创造出看起来真实的生成内容。
是的。我的意思是，这在行业中是一个很好的用途，可以研究，但是，呃，我认为仅仅是为了传播宣传，一些病毒式内容，呃，伤害，呃，宗教情感或法律，我的意思是，任何伤害情感的东西，有很多负面事物，有很多负面事物，但我，我，我想我对这件事抱有希望，并期待大型科技公司将如何应对。
嗯，我认为是的，就目前而言，这是印度政府的一个好举动。但我想，我认为他们应该给，呃，初创公司创始人，呃，以及一些正在构建这些东西的创新者一些回旋余地，这样，呃，他们就不会受到，呃，严厉的压迫，也不会因为，我的意思是，他们已经在构建这些模型和能力方面苦苦挣扎而受到惩罚。他们应该在，呃，表达方面获得一些灵活性，所以我想Anushka也讨论了那一部分。呃，所以是的，我，我想大家要小心，呃，不要像她在最后信息中提到的那样，不要分享，呃，或者我的意思是你可以分享，但要留心，并且，呃，当你使用人工智能生成内容时，要，呃，告诉人们你使用了人工智能生成内容，这没关系，就像，呃，我想这里我们也说对吧，所以，嗯，所以第一性原理，所以这非常重要，呃，你甚至在之前就告诉人们这是生成的东西，而不是，呃，是的，保守秘密，对吧，是的，我想现在每个人都在使用人工智能，所以每个人都在使用人工智能，我们只需要更透明地说明我们正在使用它，是的，而且我们必须，我想，自愿地告诉，嘿，呃，我们正在使用人工智能，是的，就是这样，呃，非常感谢你的加入，我想今天这是一次非常精彩的讨论，呃，我学到了很多，是的，我也是，呃，我想这将帮助我们，呃，为我们的观众带来一些最好的内容，呃，所以这是，呃，人工智能脱口秀，呃，你每天的科技和人工智能对话。呃，希望你喜欢这个，并且永远记住，思考人工智能，思考目标。[音乐]