Transcription
所以，一位牧师、一个诺贝尔奖获奖团队的成员、印度前 G20 वापरा官以及印度和非洲在人工智能领域最有影响力的三位建设者和规模化者走进奥贝罗伊宴会厅。这要么是一个伟大笑话的开端，要么是一场伟大对话的开端，我个人希望两者兼而有之。我是来自印度 Kangi 的 Nidhi Singh，我很荣幸能主持今晚关于“人工智能赋能世界”的讨论。现在，我们正在参加一个关于人工智能的峰会。所以很明显，关于模型和计算能力已经进行了很多讨论，这些也很重要，但我想以一种略有不同的方式开始本次会议的讨论，那就是人工智能的核心挑战不再是发明，而是扩散。所以问题不是我们能否构建强大的人工智能，我们能，问题是我们构建人工智能时谁会受益，因为现在人工智能在实验室或演示中能做什么，以及它在资源受限环境中的人口规模化应用之间存在巨大的差距。基础设施不均衡。人才被吸引到少数几个国家和公司。治理方面的讨论仍在全球北方相对进行，并且由相对较少的一组利益相关者塑造。因此，我们听到的最有前景的干预措施都停留在试点阶段，无法规模化。与此同时，我们舞台上的一些人正在证明情况并非如此。我们将深入探讨如何真正让人工智能为世界服务。所以这里的想法是，我想快速地对舞台上的每个人提出一系列问题。这只是对话的开始，然后我们也会让观众提出一些问题。所以我们将从规模化者和建设者开始。然后我们将转向 Khan 先生，最后我们将留下最简单的问题，即信仰和科学的问题。所以 Ernest，我先问你。Sunbird 推出了 Sunflower，这是一个多语言模型，在乌干达语方面，它的表现优于大多数主流模型。这之所以如此不同，是因为你实际上是使用本地采购的数据来构建它的，而不是现在流行的互联网规模的数据集。那么 Ernest，这告诉我们人们对构建真正造福人民的人工智能所需的假设是什么？非常感谢您，也感谢您邀请我。我叫 Ernest。我一直在努力让人工智能和机器学习在非洲发挥作用，已经有一段时间了。我想是从 2012 年开始，当时人工智能还不流行。曾有一段时间人工智能并不流行，解释人工智能是什么非常困难。所以，Susan 但人工智能是一个社会企业，它试图为社会公益做人工智能，但我们试图以一种非常实用的方式去做。所以实用意味着我们试图部署并让人们使用这项技术，这意味着很多事情。早在 2012 年至 2014 年，我们就与农民合作，当时我们用非常有限的技术构建了一个应用程序，可以拍摄农作物图像并提供诊断，这是木薯。我们第一次在实验室里做的时候，效果很好。我们把它带给农民。一位农民先生拿到了应用程序，拍了他妻子的照片，结果是木薯病，你知道是木薯花叶病。他说不，这不行，这根本不行。我们一直在想，哇，这我们没想过。所以我想第一个假设是我们进行试点，并假设这会自动规模化，但实际上环境非常复杂，难以正确处理。所以当我们构建 Sunflower 模型时，五年前构建语言技术的早期版本，我们又认为它会自行工作。我们进行了测试，然后交给了人们，他们输入的第一个词是“你好，请将‘你好’翻译成我的本地语言”，结果错了。每次都错了，因为人们说“你好”的方式有很多种。所以，我认为环境对让事情奏效一直是一个非常大的问题。我们对环境所做的是让一个社区去社区，改进这些模型，让人们测试这些模型，让人们打破这些模型。我认为我们有一个名为“打破系统”的会议，我们要求人们积极打破系统，打破模型，这对于确保我们构建一个有效的系统非常有帮助。我认为这是第一点。第二点是信念，这在我们这里并没有得到太多关注。所以，我不知道如何定义信念，但你可以把它想象成人们朝九晚五的工作。如果你朝九晚五地工作，而那些有足够信念的人会付出额外的努力，超过五点，并且有一种方式，这非常重要。这项工作非常非常难以让人们正确使用，我认为拥有正确的信念，拥有具有正确信念的合适人才，我认为这非常重要。我就说到这里。谢谢。谢谢 Ernest。我想再多谈谈你提到的一件事，我认为这也会与 Chico 正在做的事情联系起来。你谈到了试点将如何规模化以及让某事奏效需要什么。那么 Shikica，你已经在非洲的健康、就业、农业和支付领域构建了技术干预措施，有些已经规模化，有些则没有。凭借所有这些经验，你迄今为止看到的最可靠的信号是什么，表明某件事将会规模化？非常感谢，感谢您邀请我，我非常荣幸能来到这个房间。一个信号是，我认为总理 Snack 说过，这是关于我们是否在解决问题。有时我们是为了自己的感觉良好而构建。我们说，今天我们从早上开始就一直在说，我们想解决人工智能问题，以产生影响，提高底层人民的生活水平，而不是自私。我喜欢盖茨的叔叔所说的，这是关于能够产生影响的模型。但影响意味着什么？我喜欢你使用了“信念”这个词。这是关于能够为他人解决问题。有时这对你作为建设者来说很痛苦。我来自计算机科学背景，我们喜欢构建东西，对吧？但如果有人无法在日常生活中使用它，它就没有解决实际的人类问题，然后规模化，那么你就无法说你正在解决问题，对吧？这就是你如何做到这一点。例如，你谈到了农民，我将举一个例子，因为我真的很想让你去人工智能村看看。有一群医生来找我们，说我们正在构建所有这些很好的模型，比如预测癌症，谈论人工智能中的科学，但你知道我们没有解决实际问题。当一个母亲在肯尼亚的一个农村农场生病或即将分娩时，他们会做什么？他们会打电话给摩托车司机送他们去医院。大多数时候，40% 的时间，婴儿或母亲在到达医疗场所之前就会死亡。人工智能能为那个女人做什么？对我们来说，我们不知道。他们说，是的，解决如何让那个女人去医院的问题。所以他们构建了这个，说实话，这是一个非常简单的语言，一个小语言模型，它从医疗目录中获取信息，然后将其转换为非常非常简单的语言，任何拥有这个应用程序的人都可以提供快速的急救医疗保健，能够为女性提供快速的反应，以便能够分娩，甚至能够照顾分娩时出现的高血压之类的事情，这才是人工智能应该应用的。你应该应用于那些不是为了你自己而解决的事情。因为当我谈论我有一个癌症模型时，它对我自己和我的论文来说看起来很好，但对那个在去医院的路上分娩的女人来说并不好。谢谢 Chico。我认为关于成功的人工智能是什么以及我们如何真正衡量人工智能的成功，这是一个非常好的观点。所以，我认为现在我想转向 Charin 的一点是，你也谈到了人工智能成功的不同模型，而你谈到的其中一件事是你有很多试点项目正在出现，但人工智能的成功并不取决于你有多少试点项目，而是取决于有多少真正规模化，有多少有效，有多少可以扩展到资源受限的环境中仍然能够规模化。那么，你能告诉我们，印度目前有多少人工智能雄心被困在你所说的“试点炼狱”中，这到底意味着什么？是的，所以我们研究了整个南半球近 500 个用例，以了解农业、医疗保健、教育领域的试点项目，其中 70% 到 80% 仍停留在试点阶段。它们难以达到生产级别，什么是生产级别？我们发现，它们要么在数据方面遇到困难，正确的数据，本地化数据，它在某个地区有效，在其他地区无效，因为一切都必须重新训练，这需要更多的计算能力，而它们可能没有。它在多语言方面遇到困难，因为你知道在某个地区创建的东西，它必须有多种语言。所以语言能力。第三是各种形式的可访问性，而不仅仅是智能手机。语音人工智能，因为人们想用他们的语言、他们的机制或他们习惯的方式进行互动和交流，就像在功能手机上一样，那里没有互联网连接。还有一种需求，为什么试点项目会停滞不前，它们停留在试点阶段而不是人口规模化，也是因为人们，安全基准不是根据本地化需求创建的，这意味着今天的安全基准是由计算级模型驱动的，但不是在多轮对话方面。每个模型都将非常出色，如果你只问一个问题，但你继续提问并进行三次不同的对话。所以多轮对话，而且是在农业或医疗保健的背景下，没有基准，在这方面还有很多工作要做。所以我们说，好吧，我们应该做什么，我们应该花时间建立这些途径，数据途径，农业数据，健康数据，事实上，在这次会议开始前不久，Nandan Nelikini 在下午 3:30 就宣布了“2030 年的 100 条途径”，因为一旦我们有了途径，就会出现数千个用例，数千个用例将实现人口规模化。我再举一个数据方面的例子，数据链接和数据孤岛问题，我们都见过。我们最近与统计部 MOSPI 合作，我们说，好吧，10 个数据集，它们是创造 GDP 的部门，它们拥有来自 district level taluca level 的数据，所以它们知道消费者价格指数，它们知道生产者价格指数。现在这些数据集已经准备好进行人工智能处理，这意味着它有一个模型上下文服务器在前面，以便 LLM 或代理可以访问它来构建更多内容。所以一个新的数据经济可以开始，一个新的部门之间的联系可以发生，这从基础开始就打开了。因此，必须在数据和基准方面创建这类创新和这类途径，这将为真正的用例提供动力。我想谈论的最后一个用例是 Amul。我相信你们每个人都见过 Amul 今天是如何运作的，因为 Amul AI，她是 Sarah Ben，一位奶牛养殖户，她可以选择使用功能手机，因为也许她的丈夫有智能手机但没有给她，她可以使用功能手机用她的母语古吉拉特语通过功能手机交谈，找出奶牛产奶量低的原因以及营养计划。她可以就此进行对话，以便她可以给奶牛喂食，并把钱带回她的口袋，因为奶牛可能生病了。所以，当人工智能能为人们带来金钱时，人们就会开始接受它，这就是人工智能在社会中的扩散，一旦通过这 100 条途径得到解决，就会实现人口规模化的人工智能，这就是印度的游戏。谢谢 Shall。从你们三位的评论中，我们可以看出，正如人们长期以来所讨论的那样，需要进行合作来弄清楚如何规模化人工智能解决方案。显然，有很多非常有前景的人工智能解决方案是围绕影响力构建的，以人为中心，但如何将其规模化，使其更大，确保即使在资源受限的环境中，即使使用功能手机，人们也能获得这些。所以，当我们谈论这个时，我将转向您，Kant 先生，当我们谈论规模化以及如何将其带到人口规模化时。印度的 DPI 故事，Aadhaar，UPI，India Stack 是将事物带到人口规模化的最常被引用的模型之一。但这是建立在相对成熟的技术之上的。我们为 DPI 拥有的这种开放的互操作性手册真的能适用于人工智能吗，因为人工智能的演变速度快得多，构建它的人之间的合作也少得多，而且即使是人工智能的构建者也对其了解不多。所以，谢谢你的问题。我的观点是，首先，不是多语言、不是低带宽、不是基于语音的人工智能将无法实现数字公平，并将造成巨大的社会不平等。从印度数字公共基础设施的学习经验来看，我们创建了一个开源模型，它是开放 API 并且在全球范围内可互操作，因为我们创建了一个数字公共利益层，在此之上我们允许私营部门进行创新和竞争。所以印度是唯一一个 PhonePe 与 Google Pay 竞争，Paytm 与 Amazon Pay 竞争的国家，它们都建立在数字公共利益层之上。你需要做的是为人工智能做 DPI。这很重要，因为这意味着你需要三样东西：你需要数据，你需要人才，你需要计算能力。印度人工智能使命正在做的是，我们将通过人工智能中心向所有研究人员和初创公司开放政府数据源。我们将以比世界西方国家便宜得多的补贴价格提供计算能力。我们将支持在印度构建 10 个大型语言模型。这就是正在推动的方法，以便我们能够构建一个负担得起、可访问且负责任的模型，该模型是多语言的，这就是 Saram 今天早上发布的。这证明了印度在长远来看，技术实际上会导致社会巨大的不平等，你投入了大量的资源，大量的计算能力，印度的尝试是，你应该能够优化它，你应该能够用有限的计算能力进行复杂的软件，但要确保人工智能的 DPI 能够改变公民的生活，你能够提高学习成果，你能够提高健康成果，你能够提高营养标准，你能够消除发育迟缓和消瘦。任何不是多语言、不是低带宽、不是语音人工智能的东西都不适合当今社会，在我看来，它将导致更大的数字不平等。因此，印度的模式是基于此的，一旦我们改变了印度 14 亿人口的生活，我们将真正改变全球南方下一个 40 亿人口的生活，他们将从贫困走向中产阶级。谢谢您，先生。对“适合目的的模型”的定义，我认为这是一个非常有趣的观点，而且非常重要，因为我们不会都构建相同的人工智能模型，我们也不是都在进行 AGI 竞赛，我认为这是一个非常有趣的观点，即你需要构建一个适合人们的模型，并且适合目的。我们将稍微改变一下顺序。Pushid，我先找你。你曾是构建 AlphaFold 团队的一员。AlphaFold 基本上将多年的、数百万美元的过程缩短到几秒钟，然后你将这些结果公开提供，这基本上是一个科学奇迹。但构建它需要 Google DeepMind 的全部资源。那么你如何看待这种张力呢？即答案现在可以在几秒钟内得到，而不是花费如此多的时间和资源，但它确实花费了如此多的时间和资源。是的，我认为这里有一个有趣的观点是，这项技术需要大量的投资，而不仅仅是资本投资，它需要各种其他资源的投资。它需要思想的投资，跨学科的投资。这不是一项仅由机器学习人员单独实现的突破。这是一项突破，是机器学习研究人员和工程师与生物学家合作，共同克服了过去 50 年来一直存在的这个宏大挑战。我们为什么选择这个问题？因为它是一个根节点问题，最终对各种各样不同的领域产生了影响。当你想到像 AlphaFold 这样的模型时，它让你真正了解生物学的内部运作。当你想到生物学时，你可能会想，也许它对药物发现有一些影响，这就是商业影响的来源。但这只是冰山一角。全球有 330 万研究人员使用了 AlphaFold。如果你告诉我全球有 330 万人对 AlphaFold 感兴趣，我不会相信你。我的意思是，全球有 330 万研究人员使用这个专业的蛋白质结构预测模型，这告诉你人类已经走了多远。更令人惊讶的是，其中三分之一来自低收入和中等收入国家。所以，那个研究人员正在研究某种热带病，一种被忽视的热带病，他无法找到这种蛋白质的结构来解决这个问题，现在他只需点击一下按钮就可以做到。过去需要数百万美元、数年时间、同步加速器才能获得三维结构，现在可以从互联网上免费下载，这太棒了。印度有 18 万研究人员在使用 AlphaFold，他们不仅仅是用于药物发现。他们实际上正在开发抗真菌的新作物。他们正在为粮食安全这样做。他们正在为分解塑料和处理污染这样做。所以你可以看到一个单一的突破可以实现的规模。现在关键问题是投入的投资，很多人问我，你投入了这笔投资，你进行了五年的研究，组建了跨学科团队，然后你免费提供，你如何理解这一点？我认为很容易理解这一点，因为如果我记得部长早些时候打的比方是石油，你不能，你不应该自私。同样，如果你正在构建这项技术，而这项技术没有被用于产生影响，那么它就不会产生影响。所以 AlphaFold 在药物发现、处理塑料污染、理解生物学方面的影响之所以产生，是因为它被公开了，然后我们跟进了像 Isomorphic 这样的专业公司，它们专注于药物发现。所以是的，在人工智能方面有大量的投资，这是实现这些重大突破所必需的，但最终的重点将是影响。如果你没有产生影响，那么它就只是一项技术，它只是一个玩具。只有当它掌握在那些用它来解决世界面临的重要问题的人手中时，它才会转化为真正的益处。现在，Kant 先生说得对，你必须让这项技术变得易于访问，以便全世界都能访问它，我觉得当我们谈论人工智能时，我们把它看作是一个整体，只有一套能力，它不是，它是多方面的，它是一项使专业知识民主化的事物，它基本上使高质量的教育和高质量的医疗保健民主化，为此，它需要对那 14 亿印度人和地球上的 80 亿人开放。但在另一端，它也关乎超越人类的知识，真正弄清楚我们对世界的了解是什么？我们如何应对生物学中的新挑战，如未来的流行病？我们如何应对能源安全的宏大挑战？我们如何应对处理气候变化的巨大挑战？这才是人工智能的真正前景所在。谢谢 Kushmir。我想对于最后一个问题，我想带大家从一个更高的视角来看待这个问题。我们将回到 10,000 英尺的高度来审视挑战。Father Benanti，我现在找您。先生，您曾参与制定了罗马伦理呼吁。在一个拥有几乎与人工智能试点项目一样多的伦理文件世界里，这份文件脱颖而出，因为它成为第一份由三大宗教的领导者与主要科技公司共同签署的文件。在一个价值观差异巨大的世界里，而且在不同文化之间差异巨大，这种极简的伦理框架是否足以改变人们的行为？首先，感谢您邀请我。我很高兴来到这里。好吧，让我从停止的地方开始。去年我们有过同样的对峙。所以这就像一个持续一年的旅程，确切地说，12 个月前。你知道我们有一个问题，问题是这样的，从 6 万年前，我们的物种第一次拿起棍棒。它是一个工具还是武器？它是用来打开更多椰子并为人们提供食物并使食物民主化的东西，还是用来打开更多人头骨并变得不那么民主化的好武器？所以，我们听到的所有梦想和愿望都无法保证实现创新目标，即进步，这就是伦理发挥作用的地方。所以我们需要某种护栏，你知道，引导你走向你想要的目标。但当我们谈论伦理时，让我举一个非常意大利式的例子。抱歉。这就像周一你在讨论周日的足球比赛，每个人都知道比赛应该如何进行，但没有人踢过。所以每个人都准备好评判别人的决定，而不是准备好参与其中。这里有一个问题，核心要素是，你知道我们有很多，我们很不同，我们有不同的敏感性，有一套价值观是可行的，为了简短地讨论，不，但这不应该是伦理问题，为什么？让我再次以我自己为例，让我告诉你一个秘密，我是一个天主教徒，这就是秘密。好吧，谢谢。对于天主教徒来说，婚姻非常重要，但我自己没有结婚。所以，即使是真正深刻的天主教价值观，对每个天主教徒来说也不是有效的。所以我们不应该关注价值观，我们还能有什么？好吧，让我们举个例子，比如规范，但规范是为了保护价值观。如果生命是价值观，那么不要杀戮。所以规范也行不通。我们应该宣布自己失败了吗？我们应该放弃我们今天听到的梦想吗？一点也不。伦理中还有另一个非常重要的元素，那就是原则。所以，假设有一辆完全自动驾驶的汽车，这辆完全自动驾驶的汽车发现自己处于不可避免的事故状况。你不知道你在那个场景中是谁。司机，街上的一个人，其他人。让机器尽量减少损害是有意义的。欢迎来到伦理。所以伦理是原则的谈判，我们在这里听到的是使用我们内在事物的简单原则。所以不需要外部下载，但我们需要对话。我们需要彼此对话，以便允许这种可行的原则成为护栏，将创新转化为我们可以定义为发展的东西，以及真正为所有人进步的东西。所以我的工作很简单。我提出问题，我不给出任何答案。谢谢您，先生。我意识到我们只有一分钟时间了。所以我们将从观众中选取一个问题，因为我确实希望有人有机会与观众互动。我们有任何问题吗？是的，在那边。我实际上有一个问题想问 Belanti 先生，因为我知道您想留下问题，但我也想要一个答案。实际上，您认为人工智能永远不应该违背哪些原则？您如何定义价值观？您如何定义原则？所以，如果我们不知道界限在哪里，我们如何监管或观察人工智能的工作方式？谢谢你的问题。我会尽量快速回答。好吧，没有一套普遍的原则，因为没有理论上的好。如果你有一个口渴的人，一件好事是给他喝点东西。所以原则是面对他的需求。所以，因为没有普遍的条件，你必须专注于你正在处理的主题。关于人工智能，好吧，第一件事是，例如，人工智能是一个寻找数据模式和最大化事物的绝佳机器，这是好的。所以，让我们在这些条件下讨论，在这些情况下，我们想要最大化什么目标？然后，让我们使用人工智能来帮助我们实现目标，你可以最大化例如种子销售者的收入，这不好，或者我们可以最大化农业人口从自己的田地里获得的产量。人工智能擅长寻找最大值或最小值，但并非所有都可行。没有办法在不与人类讨论的情况下解决头痛问题。简短的回答。非常感谢您，先生。也感谢我所有的杰出小组成员。这听起来非常令人兴奋，听到大家如何为世界构建人工智能，以及我们都面临着如此不同但又基本相同挑战。谢谢。