Transcription
是的。呃，你好，莫伊特。呃，再次欢迎来到节目。呃，像往常一样，很高兴你在这里。呃，这是你的 AI 脱口秀。>> 非常感谢再次邀请我。>> 是的，这是我的荣幸。我是说，总是喜欢和你聊天，考虑到你对印度 AI 的广泛报道，以及你知道所有正在做着惊人工作的初创公司。呃，呃，所以，所以我想为我们的观众设定今天的背景，你知道，我想问你，你一直在使用很多 AI 工具，比如，你知道，我不想说出它们的名字，但已经有一段时间了，你一直在使用它们，已经超过 2 年了，所以我想了解一下，在使用它们时，你是否曾感到自己像个局外人，在不理解上下文的情况下，我为什么这么问，就是说，事实上，如果聊天机器人建议你，比如，你知道，说西兰花和猕猴桃来治疗印度缺铁性贫血，>> 好的 >> 或者你知道，大多数印度家庭认为，你知道，比如菠菜、红糖或拉吉，>> 好的，嗯，这就是我的出发点，然后它还推荐藜麦之类的东西，当我们有小米，你知道，养活这个国家几个世纪了，对吧？>> 嗯，然后它说，你知道，出于健康原因，你可能会问一些关于我感觉不舒服的事情，我应该吃什么药？它告诉你泰诺，我甚至不知道那是什么，>> 好的，嗯，相反，我们有扑热息痛和你知道的克罗宁，就像这些是印度发生的一些事情，它还建议紧急护理，比如你需要一些重要的东西，它说，你知道，去附近的诊所，>> 而当你有一个，你知道，邻居诊所，人们去诊所，你如何理解“去附近的诊所”？>> 对，所以，所以答案是正确的。>> 是的，你谈得越多，我越意识到我从未得到过对我来说立即存在的答案，正确，我认为这是所有这些印度 AI 模型和所有正在出现的东西可以填补的空白。>> 明白了，是的，在我设定基调之前，但你认为，你知道，相关性很重要，老实说，我可以继续举例，因为有时我甚至在过去两到三年里也曾有过这种感觉，与这些 AI 系统互动，它们很棒，顺便说一句，它们很准确，>> 但有些东西在这个上下文中缺失了，我之所以这么说，是因为，>> 我们没有得到相关性。>> 对，所以我只是想听听诚实的意见，我认为，就像你今天提到的，这种情况将要改变，在未来几天，我们可能会看到有人构建一些我们都能理解的东西，它是可访问的，它是包容的，>> 是的。而且 >> 我认为这就是我们在影响力峰会上所产生的影响。>> 太棒了。太棒了。>> 是的。我认为它更像是，正如你所说，我们非常依赖所有这些 AI 工具，而且我们仍然觉得我们与它们不够亲近。>> 是的。所以，我认为所有这些即将发布的模型和这个影响力峰会，将为印度带来一个独立时刻。我认为 >> AI 独立时刻 >> 就像，你知道，印度的独立时刻。>> 是的。>> 某种程度上。>> 是的。就像我们所有的数据都将在这里。我们正在构建的所有主权堆栈。我认为一切都将再次独立于印度。>> 太棒了。我认为这也会成为一个很好的头条新闻，就像 [笑声] >> 终于，印度在 AI 领域获得了独立。哦，是的，这是一个非常好的叙述。呃，但今天，我是说，印度 AI 生态系统里有什么非常有趣的事情正在酝酿。呃，所以，为什么你不把这个消息分解一下，有什么要来的？我们能期待什么？>> 是的，伙计们，我认为昨晚传出的最大新闻，我认为昨晚是巴拉特·詹将宣布一个拥有 170 亿参数的模型。它被称为 Pam 2。为了更详细地讨论这一点，我们有 Bharajan 的首席执行官 Rishi Bal。>> 非常感谢 Rishi 今天来到节目。你怎么样？随着影响力峰会的临近，现在的能量如何？>> 谢谢你邀请我来参加节目，伙计们。非常兴奋来到这里，正如你可以想象的，我们的团队完全充满活力。很多令人惊叹的事情即将到来。很多令人惊叹的事情正在进行中。所以我们非常高兴来到这里，并谈论 >> 太棒了。是的，>> 我认为 PURM 2 模型，你昨天刚刚宣布你将发布它。你能多告诉我一些关于它和它将要使用的堆栈吗？>> 是的，我认为，我认为在此之前，我想知道 PUAM 是什么，我们刚才在讨论为什么它被称为 PUAM？>> 他说了一些话。PUA 是什么？你说 >> Pam 是我能想到的最像 Uber 的东西。>> Uber 般的顶级。好的。我认为它应该来自马匹 [笑声] 最重要的。是的。是的。>> 是的。是的。不，我我我喜欢你们都参与进来了。所以，嗯，我们与 Param 所做的很多工作，我认为，是的，是的，有一个成为最好的目标，但我也将做一个稍微历史性的参考，当我们开始这项工作时，它就在我们脑海中。所以，如果你还记得，曾经有一段时间，印度需要超级计算机，你知道，由于某些核试验或其他印度正在进行的活动，这些超级计算机的进口被禁止了，如果你还记得，当时 Cedak 的一群人和其他人一起创造了印度第一台超级计算机，并在当时没有可用的情况下提供了主权解决方案。>> 我认为这就是我们脑海中的灵感之一，那就是我们不想处于一个因为政策分歧而导致关键技术部分无法被印度获取的境地，所以，带着这个想法，我们给我们的模型命名为 PUM。>> 所以，就像我记得的 PUM 超级计算机。>> 是的，是的，是的，所以这是对 CAC 的朋友们以及他们所做的工作和其他人的一个小小的致敬，并承认技术主权是我们使命的重要组成部分。>> 是的，我认为 PUAM 2 模型，几周前我也和 Ganesh 教授谈过，他也谈到，Bharat Jan 正在构建的模型配方与其他人不同。我认为即使在这份发布中也提到了你们正在构建一个专家混合模型。所以你能告诉我们一些关于为什么它很重要以及为什么你采取这种方法吗？>> 是的，当然。所以，当你为印度构建时，你必须考虑，我是说，我谈到了主权，但你也必须充分考虑技术的可用性，对吧？可用性意味着降低成本，让 AI 惠及所有人，对吧？而这些新的专家混合架构让你能够拥有更少的神经元，比如，把它映射到你的大脑，对吧？你知道，当你阅读一本书或观看一部电影时，你大脑的所有部分都不会被激活，不是所有的神经元都在放电，只有相关的神经元在放电，而专家混合模型可以让你拥有一个正在放电的神经元或参数的比例，这实际上让你能够在推理时以更低的成本运行它们。好的。所以这更侧重于效率部分，并且，就像部署到边缘用例，也许它更适合？我认为 >> 嗯，下一版，我们将发布更小的版本，适合边缘使用，但你可以将其视为低成本版本，它仍然支持 22 种语言，仍然支持推理、数学和代码。>> 好的。>> 太棒了。呃，所以你提到了关于解决，我是说，22 种语言。>> 所以我想了解一下，你知道，PUM 2，你知道，在技术上支持 22 种语言，这尤其具有挑战性，考虑到脚本的多样性、方言的差异和数据的稀缺性，对吧？它触及了所有这些方面，那么团队必须解决的最困难的技术挑战是什么，Rishi？而且，你知道，多语言模型今天仍然存在哪些大多数人没有意识到的问题？>> 这是一个很好的观点。所以，你看，Van Jen 的使命不仅仅是构建模型，我们实际上是在努力提升整个 AI 生态系统并为此做出贡献。>> 嗯。>> 这是我们所做的一个根本区别，我们不仅构建模型和应用程序，我们还构建构建这些模型所需的深层构建块层。所以我们有研究团队，我们会谈论的。>> 我们有一大群实习生。所以我们在提升人们的技能。但没有被谈论的是，我们还有一大群人在那里。>> 所以我们实际上有人在实地，在街头，与出版商、你知道的独立广播公司、你知道的政府打交道，实际上是解锁数据。构建印度 LLM 和印度模型最大的挑战之一是数据，对吧？网络上高质量的数据太少了，对吧？我是说，你知道有多少科技博主用印地语或坎达语或孟加拉语写博客？所以，我们所做的一部分就是说，看看我们如何获取印度语言的黄金数据集。所以我们做了很多实地工作来解锁它。我们还与致力于遗产保护的遗产组织进行了很多合作。所以，全国各地都有一些组织正在数字化文本，对吧？他们正在扫描文本并保存原始文本，但一旦扫描，你仍然需要大量工作才能将其转换为真正的数字形式。这个过程很昂贵，需要一定的专业知识。我们实际上为这些遗产组织提供了这项服务，我们做了其中一些艰苦的工作。>> 因此，结果是他们获得了数字副本，真正数字化的数据副本，然后我们获得了可以用于训练的数据副本。>> 所以，正是这种你在实地需要做的努力，才能为印度解锁真正的价值。是的，我认为你谈论的是我在发布中也提到的 Bhat 数据事件。你能多告诉我一些关于那个管道以及你是如何构建如此庞大的数据集的信息吗？>> 是的，没错。所以我们有，我是说，我们正在训练的数据超过 2 万亿个标记，而且我们还有，我认为我们即将达到 3 PB 的数据。所以这是一个巨大的数据存储库。所以回到过去，你知道，所以我们所做的是，是的，我们在网上搜索，是的，我们获取了所有这些来源，但我们也去说，我们如何利用这些遗产数据？>> 我们还在某些情况下进行大量的合成数据生成，我们需要翻译的文本，我们有一些很棒的翻译软件。所以，看不见的是构建模型的模型。>> 好的。>> 嗯，以及为了构建那个模型而进行的后台工作，那可能是冰山一角。>> 明白了。只是一个后续问题，Rishi，你有没有什么保障措施来确保质量、偏见缓解以及在你为国家构建如此关键的模型时，文化忠诚度？是的，你知道，这是一个非常棘手的问题，我不能说它完全解决了，对吧？>> 嗯。>> 我们确实在后台构建了额外的模型来进行数据分类。我们确实，你知道，对数据进行分类的模型，高质量、低质量。我们对数据进行过滤。嗯。>> 嗯，所以，我认为我们做了很多后台工作来准备数据，使其真正可用。>> 明白了。>> 但我认为这是一个巨大的旅程，所有全球模型训练者都在经历，那就是 >> 明白了。>> 不仅仅是你包含的数据，还有你如何管理行为，对吧？>> 嗯。而且，而且我们在这方面还有很多工作要做。>> 太棒了。太棒了。任何内部的，就像你所经历的一些早期测试的片段，一些行为，就像，我是说，我知道现在问还太早了，我认为你们会正式发布这些东西，但你能给我们的观众一些你所理解的见解吗，这些见解是令人震惊的，当你测试的时候？>> 有趣的是模型意外学到的东西，对吧？所以，嗯，你知道，这是你为特定类型的数据进行策划的事情之一，但让我举个例子。>> 好的。>> 总体而言，当我们为印地语训练模型时，它学习印地语邻近语言的能力会大大提高。>> 明白了。>> 对。然后，然后它能够将从印地语中学到的概念，例如语法结构，应用到马拉地语。对，那些是邻近语言，对吧？所以，看到这些模型能够快速学习其他语言以及它们学到的东西总是很有趣的，因为有些不同之处在于习语不同，对吧？所以，在不同的语言和文化中，习语可能不同，所以你不能轻易地将一种语言翻译成另一种语言并期望它奏效。我认为这些是文化细微之处，我们仍在弄清楚。你如何教育 NLM？>> 是的。>> 是的。太棒了。令人兴奋的时代。莫伊特。是的。我认为莫伊特提到了影响力峰会，从模型到影响力。>> 嗯。所以，峰会演示，我是说，你刚才给了早期的一瞥。所以我想了解一下，峰会上你将演示一些，你知道，政府、治理、医疗保健、教育、金融和文化数字化。所以这些是我们能期待的一些事情。>> 嗯。但这些用例中，哪一个今天最接近实际规模，Rishi？而且，你认为什么信号表明这个 AI 系统已准备好从演示转向部署？>> 哇，这是一个，这是一个，这是一个问题。>> 是的，我很好。嗯，所以，嗯，我会说，我们在 AI 之旅的早期阶段。>> 嗯。>> 嗯。>> 而且我们才刚刚发布一些模型。但我们所做的是，我们实际上从早期阶段就与行业、用户和政府进行了互动。嗯。>> 嗯。>> 所以，我们所做的是，当我们说好的，我们想确保我们的模型支持，比如说，金融领域，对吧？我们实际上与一家顶级银行合作，与一家顶级保险公司合作。>> 我们与几家州政府和中央政府的几个部门合作。所以，我们所做的是，我们很早就去招募合作伙伴。所以应用程序不是事后考虑的。应用程序是我们正在构建模型时就在考虑的事情。我们想在模型构建之前就找出 >> 什么是有效的，挑战是什么，这样我们就可以深入思考这些问题，并将它们融入 AI 模型中。所以我们有这些合作伙伴关系，然后我们已经与多个合作伙伴进行了试点。>> 而且，我们还与国防部门进行了一些合作，你知道，我们实际上已经与他们一起部署了。是的，这很令人兴奋。是的。所以，我认为 Rishi，你提到了语言，比如不同语言的习语非常不同，这正是我们过去一年一直在谈论的，你不能只是从西方模型翻译成印度模型，一切都会一样。我认为这是对我们正在构建的主权堆栈和 AI 基础设施的贡献。正确。所以，Rishi，你能告诉我 Bharat Jen 在为印度构建数字公共基础设施方面处于什么位置吗？>> 这是一个很好的问题。是的。>> 是的。我喜欢我们为印度发明了自己的模型，因为你知道，有那种，你知道，有美国模式，有中国模式，然后我们有一个关于数字公共基础设施或数字轨道的好想法，正如有些人喜欢称呼的那样，感觉这是一个非常强大的想法，我们可以拥有共享的 AI 组件，可以为所有想要使用它的人构建和部署，对吧？所以，只要我们能构建共享模型，你就可以想象，你知道，银行可以拥有一个共享模型来管理风险的某些方面，它给了每个人优势。它给了公民好处，客户好处，然后它给了银行好处。所以我认为这些特定领域的模型将是我们战略的重要组成部分，我认为这也是我们将如何降低成本的一部分，成本在印度不是事后考虑的，成本必须被考虑进去。所以，当你设计这些模型时，你可以选择一个非常擅长特定领域的小型语言模型，并且你可以以比运行前沿模型低一个数量级的成本来运行推理。>> 是的。有趣。有趣。所以，是的，Rishi，说到构建者和生态系统访问，我是说，我们都在热切等待着测试这些东西在你发布后如何展开，在 AI 影响力峰会期间，我们都很兴奋地看到它如何工作，并进行测试，而且我敢肯定，那里的开发者和许多企业客户都在关注这一点。你强调了对初创公司、开发者和研究人员的开放访问，所以根据你的看法，实际的访问是什么样的？你希望印度构建者首先创建什么样的应用程序？>> 是的。所以我们正在 Hugging Face 和 AI Coach 上发布所有这些模型。>> 所以，开发者可以进来，我们不仅部署了微调模型，我们实际上还部署了预训练的检查点。所以开发者可以进来，在我们的模型之上构建自己的模型。他们可以构建特定领域的模型。他们可以构建特定应用程序的模型。他们也许可以提炼我们的模型来做其他事情。我们将来还会发布我们自己的微调模型。但我们确实想给开发者一些杠杆，让他们说，看，我有多个地方可以去玩 Baron Gen 模型，这取决于我的能力以及我处理复杂性的能力。模型本身是我们所做的一部分，我们还发布了基准测试，我们还发布了数据集。>> 我们还在 Archive 上发布，我们还发布了食谱。>> 所以我们实际上告诉其他模型构建者，你知道，这里是构建这个特定模型的食谱，这是我们使用的。>> 然后，我们还在世界顶级期刊上发表了基础研究。所以，在这方面，这是一种全栈的开放出版，我们试图与开发者社区分享尽可能多的东西。>> 所以，你知道，他们可以在此基础上构建令人兴奋的东西。>> 嗯，我认为，我认为在印度有一些规模宏大的惊人工作要做。>> 嗯。>> 我个人很想看看我们在教育领域能做什么。>> 在治理领域。>> 嗯。>> 以及法律领域。所以，如果我必须选三个，我，你知道，那将是我的前三个，但你知道，我们期待开发者使用这些，给我们反馈，然后这只会让我们变得更好。>> 是的，我认为你正在 Archive 上发布论文的部分，模型将在 Hugging Face 和 Coach 上发布。我认为这是一件很棒的事情，因为我们每天都在跟踪那个网站，总有新的论文来自印度或西方公司。>> 是的。而且我们总是祈祷，好吧，印度实验室在哪里等等。我认为从你那里听到这些真是太棒了。是的。>> 那么，Rishi，你是否也有计划，比如，你是否也打算将这个模型出口到国外，比如，显然它将在 Hugging Face 上提供。你如何将其置于全球背景下？它会像印度的 UPI 或 Aadhaar 一样走向全球吗？>> 是的。是的。所以，你问这个问题很有趣，但当尊敬的总理会见了由 AI 任务资助的 12 家初创公司时，我认为信息非常明确。从本地开始，但放眼全球。所以，嗯，你知道，我们将从印度开始。我们将解决印度的难题，然后没有理由停止。我们应该将其提供给整个世界。我们应该在全球范围内部署。>> 但重要的是，我们以印度为游乐场，在那里我们实际上解决了这些难题，多语言难题，顺便说一句，这些难题并非印度独有，对吧？非洲有很多地方将处理类似的，你知道，多语言、多文化问题，以及欧洲的许多地方。这是我们的机会，以印度为起点，引领潮流。>> 太棒了。太棒了。Rishi，再次感谢你抽出时间来到节目，并如此坦诚地讨论我们能从 PUAM 期待什么，以及它将如何扩展路线图等等。>> 所以，在我让你离开之前，最后一个问题我想问的是，你知道，对于正在观看的开发者和创始人来说，他们中的许多人实际上想为印度下一个十亿用户构建。>> 所以，你需要采取的最大的心态转变是什么，以便为印度构建 AI 系统，而不是简单地改编西方模型？>> 所以，是的，嗯，是的。>> 我喜欢我们以这个结束。>> 是的。>> 嗯，所以 AI 将无处不在，你知道，在我们生活的各个方面。但 AI 也将颠覆我们生活的每一个行业，每一个方面。现在，嗯，应该害怕颠覆的人是现有企业。>> 嗯。而应该拥抱它的人是方程的另一边的人。>> 而且在印度，我认为我们在软件方面拥有丰富的人才，我们有很多年轻人渴望抓住新的机会。我想说的是拥抱 AI，因为你现在可以解决只有现有企业才有资本去解决的问题，对吧？你可以构建复杂的 Web 应用程序，使用 AI，这可能需要花费数百万卢比和六个月的时间来构建，现在可以在两周内完成。>> 对。所以，我们真的让技术让每个人都能获得颠覆。>> 所以，在印度，选择权在我们，是成为颠覆者还是被颠覆者。我非常清楚我们应该站在哪一边。我认为这是完美的，>> 这总结了这一切。我是说，你说的时候我起了鸡皮疙瘩，但 Rishi，这是一个很棒的信息。再次非常感谢你来到节目。>> 这对我们来说意义重大，祝你和所有日夜辛勤工作以将这一切带给印度和下一个十亿用户的团队一切顺利。>> 我们很兴奋。我敢肯定，我们的许多观众也很兴奋，我们非常期待官方发布和所有研究论文等等。>> 再次，我们将就未来几天发生的任何有趣的对话进行来回交流，祝你和你的团队一切顺利，>> 这就是我们。>> 谢谢你加入 Rishi。>> 谢谢你加入 Rishi。祝你好运。>> 祝你好运。>> 谢谢，伙计们。再见。再见。是的，莫伊特，你觉得呢？这是一次非常有趣的谈话。我是说，我是说，我真的很兴奋，终于有一个主权模型要来了，标题是“为什么印度需要 Paren”。我希望我们回答了这个问题，>> 我认为我们现在都有答案了，我们需要主权堆栈。我们需要多语言访问。我们需要它用于特定的用例和部门，就像我们谈到的国防、医疗保健和教育是他们最大的重点之一。正确。所以我认为这是 Bharajen 正在朝着的正确方向。>> 明白了。>> 而且我认为初创公司和研究人员可以在此基础上进行构建。所以，一旦发布，我们将看到很多用例。>> 太棒了。我是说，令人兴奋的时代。我是说，我认为，现在不仅仅是谈论 Baren，还有其他公司也在构建这些模型，比如我们有，它做得很好。我是说，它们一直在发布模型，我们都很乐意报道它们。>> 呃，还有一些事情，比如，你对我们没有一个模型，但也有更多模型即将推出的看法是什么？我相信不止两个人这样做，而且还有另一个消息是，Karpathy 和 Andriy 正在用代码构建 GPT 模型，只有 >> 43 行代码。>> 我认为这个行业现在完全动摇了，就印度而言，我认为 >> 如果我可以做这个比较，当然 >> Servan 是印度的 Open AI 和 Anthropic。>> 哦，哇。>> 我们可以这么说吗？好的。>> 是的，我们可以。>> 所以，就像那个级别的竞争，我们终于能在印度看到了。>> 我们一直在关注西方，GPT 已经发布了，现在 Anthropic 将发布 Cloud。>> 我认为现在我们终于 >> 看到了。>> 我喜欢这个叙述，就像，它将是，你知道，双重，或者我不知道，多重，我不想使用那个词。>> 但每个人都在这里构建开源模型。所以它将为行业和生态系统做出贡献。所以我认为总的来说，我认为印度在所有初创公司方面做得很好。>> 太棒了。太棒了。我是说，我认为我们的观众很享受这一点。我希望如此，因为我们确实享受了关于未来几天将发生什么的谈话，我们得到了一个早期的一瞥和访问，>> 独家在 AM 网络上，在这里的 AI 脱口秀节目中。>> 嗯，所以，是的，感谢观看，伙计们。希望你们喜欢，请在评论中留下你们想知道的内容。>> 我们将尽最大努力每天将行业领导者、CXO 带到这个频道，以确保每个人都能及时了解 AI 和技术领域发生的一切，并共同成长。而且，这将在 YouTube 上直播，所以你可以分享它，你可以留下评论，如果你喜欢任何东西，你可以剪辑并发布到社交媒体上。>> 我意思是，可访问性是为所有人准备的。再次，谢谢莫伊特。谢谢你来到节目。>> 这是一次非常有趣的谈话。我学到了很多。>> 而且，我相信，还有很长的路要走，但我想我们来晚了，但 >> 我们走在正确的道路上。我认为 >> 正确的道路，我们从其他模型未能识别的失败和错误中吸取了教训，但我认为我们到了。>> 这是一个好的开始。嗯，再次感谢观看。>> 我们将在下一集再见。>> 是的，然后，思考 AI。>> 思考 AI。是的。