Transcription
感谢您加入“瞬息万变的印度”——印度首个科技与可持续发展深度访谈播客。今天，我非常荣幸地邀请到了分布式人工智能研究协会（Distributed AI Research Institute）的研究总监 Alex Hannah 博士。她的工作聚焦于新兴计算技术中使用的数据，以及这些数据如何加剧种族、性别和阶级不平等。Hannah 博士还担任“跨性别正义社会学家”（Sociologists for Trans Justice）的联合主席，是应用跨性别研究中心（Center for Applied Transgender Studies）的高级研究员，并担任人权数据分析小组（Human Rights Data Analysis Group）和加州大学洛杉矶分校批判性互联网中心（UCLA Center for Critical Internet）的学者委员会（Cost Scholars Council）的顾问。
博士，我非常感谢您抽出宝贵时间参与本次播客。这是我们第一次合作，我们能否从您简短的背景介绍开始？
是的，感谢您的邀请，我非常高兴今天能来到节目中。正如您所说，我是分布式人工智能研究协会的研究总监。我们是一个致力于为人工智能开发替代性未来的研究机构，其核心是基于社区的方法和创造人工智能的方法，并抵制人工智能技术的危害。
为此，我们有两个主要支柱：一是识别并作为一个组织，揭露那些将要伤害人们或已经伤害了人们的人工智能使用方式；二是努力研究人工智能技术中可以用于我们社区、促进其繁荣发展的要素。我们工作的重点很大一部分是寻找那些已经在做这项工作的人，并将他们纳入我们的工作中。我们致力于在全球范围内开展这项工作，这也是我们名称中“分布式”一词的由来。我们的人员遍布全球，分布在非洲大陆、欧洲和北美，并且我们也在努力向其他地区扩展。
在我们深入探讨人工智能的危害、好与坏的方面之前，您能否简要概述一下什么是人工智能，以及它是如何发展的？
是的，我将提供一个略有不同的关于人工智能的定义，因为人工智能（Artificial Intelligence）或AI，常常是一个误称。我认为“人工智能”这个术语有着悠久的历史，仿佛它将是一个能够做所有事情的独立代理，看起来像机器人或其他什么。但人工智能本身并不是这些东西。人工智能实际上是一套统计方法，可以做很多事情。其中一种方法用于区分不同的数据点，包括分类和回归。我认为我们现在更常被认为是人工智能的是这些生成模型，它们有效地将预测生成转变为生成新的文本、图像或视频序列。
我非常赞同 Emily Tucker 和 Meredith Whitaker 等人的观点，他们认为我们应该停止使用“人工智能”这个概念，因为现在什么都被称为人工智能了。人工智能实际上被用作一个营销术语，是一种推广技术或一种实际上不存在的想象中的东西的方式，比如机器人或某种独立代理。它实际上是一套统计方法，用于区分不同的数据点或生成新的文本、视频或图像合成机器，它们进行大规模的模式匹配。因此，我认为“人工智能”这个术语，即使在我们机构的名称中，也常常被用作营销术语，而不是用于区分现实中的任何事物。
是的，我同意。我认为这在很大程度上要归咎于好莱坞和那些小说家，他们描绘了一幅可能非常反乌托邦的画面，比如“机器人统治世界”。因此，我认为普通人普遍认为，将会有这些拥有人类级别智力的机器与我们共存。我想这就是至少一些顶尖的人工智能专家所描绘的叙事。并非所有人都如此，但有些人确实在传播这种叙事。
这种叙事是否有可能实现，即我们可能会拥有拥有人类级别智力的机器？如果可能，构建这样的东西的根源是什么？
我想从几个方面来谈谈这个问题，因为称某物为“人类级别智能”会产生一些影响。尤其是在讨论人工智能的论文时，很多论文都说“它们在做XYZ方面超越了人类”。当它们说“超越人类”时，指的是存在一项任务，人类也在做类似的任务，而它们在这项任务上做得比人类更好。这可能包括区分某种语音是否属于某一类别，或者一眼就能区分一只拉布拉多贵麦犬和一只金毛猎犬。
如果存在足够的统计共现性或足够的模式，它们就能超越人类，因为很多这类工作容易出现无聊和错误，而机器如果问题范围界定得很好，就能做得很好。但要说它们在人类所有不同的智能方式上都能达到人类级别智能，或者在人类能够识别不同物体、进行直觉判断或理解社交线索等方面都能做到，这是一种有点荒谬的提问方式。因为人类拥有执行许多不同任务的能力。
因此，说机器在某些界定得很窄的任务上可以超越人类，这并非不现实。我认为计算机天生就擅长做一些重复性、例行性的事情，并且做得比人类好。但称某物是“智能的替代品”或“人类能力的替代品”，我认为这是一个错误的问题。
但我确实想说，当我们谈论智能和人类智能时，我们应该了解历史。如果我们谈论人工智能，它应该被界定得很窄，只谈论特定的任务，而不是像在做人类所有精神能力的事情那样。
说得有理。所以，您想表达的是，那些构建大型语言模型和人工智能的人，当他们的叙事传达给公众时，无论是关于生存威胁还是人工智能将取代工作，这种叙事都很有吸引力，或者可能很可怕，这给了他们更多的营销点。这可能是他们这样做的原因，也是这种叙事正在传播到世界的原因。
您能否多谈谈分布式人工智能研究，以及你们在做什么？也许可以分享一些您目前正在进行的项目？
当然。我可以告诉您我们正在做的几件事。我们是一个设在世界许多不同国家的研究中心。我可以告诉您我们关注的具体项目。
首先，关于我提到的第一个支柱，即识别世界上正在使用并正在伤害工人的那些人工智能元素。在美国，我们的研究员 Adrian Williams，她曾是亚马逊的送货司机和特许学校教师，她正在研究一些事情。她一直在调查有多少人工智能技术被用来惩罚亚马逊的送货司机并监视他们。亚马逊在美国和其他一些国家拥有庞大的送货服务，他们部署了大量的 AI 技术。他们的汽车里有摄像头，可以观察司机，车外也有摄像头。然后，他们有一个应用程序，强迫司机下载到他们的个人设备或扫描仪设备上。
如果司机在开车时突然刹车，因为一个孩子突然冲到路上，或者发生了其他什么事情，那么这位司机就会受到惩罚，他们的应用程序上就会有某种处罚。他们必须在下班后或上班前进行额外的培训。这些工具被用来监控和惩罚工人，迫使他们做更多无偿的工作。Adrian 一直在采访司机，了解他们在日常工作中体验人工智能的感受，以及这给他们增加了多少劳动量。
同样，我们的另一位研究员 Crystal Kaufman，她是一名组织者，也是亚马逊 Mechanical Turk 的工人。如果没有美国、肯尼亚、印度等地的低薪劳动者进行标注工作，很多 AI 技术都无法运行。他们会做一些小任务，比如区分一辆是福特 F-150 卡车，还是一辆日产或丰田 Tacoma 卡车。他们每完成一项任务只能获得几分钱，报酬不高，但如果报酬足够，这本可以维持生计。
但是，这个平台有很多 bug，对 Mechanical Turk 的工人来说，这个平台工作起来并不顺畅，有很多问题。因此，Crystal 和她的同事们一直在反击亚马逊，一直在努力让这个平台对这些工人做得更好，并为此一直在组织反对亚马逊的活动。因为亚马逊使用的工具，可能是人工智能，也可能是其他工具，对这些工人来说并不好用。这些工人一直处于劣势。所以，这是 Crystal 一直在努力的事情。
我们的第二个支柱是努力构建为人们服务的人工智能，特别是那些通常被排除在人工智能开发之外的社区。我们有两个这样的项目。
其中一个项目是我们与 Asma Las Teca 的合作，他是一位非常亲爱的同事，也是 Lasan.ai 的创始人。这是一个致力于为非洲之角（Horn of Africa）的语言开发机器翻译和自动语音识别工具的组织。这些语言包括埃塞俄比亚的提格里尼亚语、阿姆哈拉语和奥罗莫语，以及厄立特里亚的语言。Facebook 有一个名为 MMS 的工具，谷歌也有这些翻译工具，但它们对这些语言的效果很差，尽管它们声称对这些语言效果很好。因此，Asma 一直在与这些社区的人们合作，为他们开发这些技术。
我最后想谈的一个项目是，我们的一位研究员 Russet，她一直在开发一个产品。她最初来自南非，目前是蒙特利尔人工智能开发实验室 Mila 的博士生，该实验室由 Yoshua Bengio 领导，隶属于蒙特利尔大学。她的工作重点是开发计算机视觉工具，以识别南非的区域是否为“城镇”（townships）。在南非种族隔离时期，阿非利卡人（白人）居住的区域被称为“社区”（neighborhoods），而黑人和非白人被强迫居住的区域被称为“城镇”（townships），这些是非正式的定居点。
种族隔离时期结束后，虽然南非的“社区”和“城镇”之间的正式划分被取消，政府也不再追踪这些正式划分，但这些“城镇”仍然存在并不断扩大。因此，隔离和空间上的种族隔离依然存在，但没有正式的记录。Russet 的工作是开发工具来检测这些“城镇”的位置，以便为这些地区提供更好的社会服务，例如了解这些不同地区拥有多少医院、学校和公园等。
这就是机器学习的应用，它服务于那些目前在这些技术和行政系统中服务不足的特定人群。
也许在 2023 年，我们正在经历技术加速和数字化转型，我们谈论的是一个快速发展的世界，但仍然存在种族、阶级和文化的分歧。显然，大型科技公司只追求利润。您提到了人工智能如何用于监控和监视人们等等。您能否更详细地阐述一下？因为大型科技公司似乎非常集中化、等级化，以某种方式运作。而我们现在谈论的人工智能仍然处于狭窄的领域。我们不知道未来它将如何可能推动人们，并进一步加剧分裂。您认为你们在做什么来确保人工智能真正为全世界服务？因为有很多城市里的人们能够获得良好的教育和医疗保健，但一旦离开城市，就有大量的人对技术一无所知。我们如何让所有人都思考人工智能可以真正解决哪些问题？
我认为，首要的问题是，人工智能究竟能擅长解决哪些问题？很多被人工智能导向的方向实际上是为了更有效地监视人们，或者以某种方式自动化工作。而那些可能不住在城市或住在农村地区的人，将不会从任何类型的人工智能中受益。他们可能会看到一些承诺，但这些东西将被用于集中劳动力权力、取代某些人或作为节省成本的设备。
因此，第一个问题是，人工智能究竟能擅长解决哪些问题？可能有一些有限的方面，比如我提到的 Asma 的项目中的机器翻译，可以帮助许多人进入更大的经济体，或者让他们参与贸易和商业。但如果你考虑的是长期存在的问题，比如贫困、无家可归、教育，这些问题并非仅仅是拥有人工智能就能解决的。尽管 Sam Altman 和 Elon Musk 之流的人会说，如果我们有 AI 进学校，就会有教师的替代品，我们没有足够的老师，AI 会做到这一点；或者我们需要医生替代品。
谷歌副总裁、Google Brain 的创始人之一 Greg Corrado 说，他们发布了一个大型语言模型，用于医疗环境中的患者诊断，但他也同时表示，他们正在用它来替代，我不想让我的家人受到这些事情的影响，我宁愿选择人类医生。所以，这确实是一个问题，这些东西不会解决贫困或医生短缺的问题。这些是社会性的失败，是公共供给的失败，是专业化的失败，是医疗保健系统和机构的失败。
人工智能不会解决制度性失败。我希望这句话能写在天空上，纹在我身上。人工智能不会解决制度性失败。这些制度需要从根本上修复，并且需要以不同的方式进行，无论是通过集体行动还是政府供给。但人工智能被定位为将要解决这些问题，这是不幸的。
所以，我认为这就是问题所在。我想，回到你的问题，人工智能将造福这些人的领域在哪里？以及它将是哪些地方？如果制度运作良好，它可以利用一些不取代人的劳动力节省设备，并且得到相关人员的同意，那么这对他们来说将是一个巨大的福音。如果它能帮助农民，或者更快地将他们的农作物运往市场，那么在农村地区就有这样的用途。但如果它说“这将解决贫困”或“这会将人们整合到一个他们将被迫进入的较低阶层”，那么就应该被彻底拒绝。
当您说“分布式人工智能研究”时，您是指“为人民服务的人工智能”吗？您能详细解释一下吗？以及您所做的一些工作？
我喜欢谈论一个组织，因为我认为它是一个典范。这个组织叫做 Te Hiku Media。Te Hiku Media 是一个总部设在新西兰的组织，由毛利人组成。除了记录长者和文化活动之外，他们还致力于开发自动语音识别或机器翻译等技术，这些技术可以很好地用于分享和传承他们自己的本土知识给他们的人民，同时也能保留和维护他们自己的记录，以及为他们的人民维护他们的语言。
他们非常积极地阻止像 OpenAI 和 Facebook 这样的公司获取他们的数据，因为这些公司会利用这些传统知识，实际上是免费的。他们会试图将这些知识整合到他们的工具中，但这并不适合他们的人民。因此，当我们谈论社区化的人工智能方法时，我的意思是，它是以一种支持实际人类和实际人民的方式进行的，支持他们在自己的努力和实践中，而不是基于这种为了利润而集中一切或推向市场的冲动。
有什么令人兴奋的项目您想与我们的听众分享吗？
我一直对我们的研究员们所做的一切感到兴奋，我认为他们是本研究所的生命线。如果您想了解更多关于我们的研究员们在做什么以及我们在做什么，您可以访问 dare-institute.org。我们正在尝试做一些新的媒体元素来展示我们的工作。我们有两个播客：一个叫做“神秘人工智能炒作剧场 3000”（Mystery AI Hype Theater 3000），我和 Emily Bender 教授共同主持，我们谈论人工智能的炒作，以及那些被宣传得无所不能但实际上在我们看来很荒谬的事情。还有一个最近的播客，由我们的研究员 Miron Estafanus 和 Adrian 制作，叫做“咖啡与鸡尾酒”（Coffee and Cocktails）。您可以在 peerTube.dare-hyphen-institute.org 上找到这两个播客的剧集。您可以在任何播客平台找到“神秘人工智能炒作剧场 3000”，比如 Apple Podcasts 和任何播客形式。
我们还在举办一个名为“未来系列”（Future Series）的活动，我们正在撰写关于我们希望在世界看到的不同人工智能未来的文章，以及那种想象会是什么样子。
博士，我真的非常感谢您抽出宝贵时间参与本次播客。我们生活在一个如此奇妙的时代，因为我认为这是人类历史上第一次，技术为任何人提供了与他人联系、创造奇迹的接口。你永远不知道，你可能只是坐在世界上最偏僻的地方，但互联网和技术给了我们联系的机会。显然，它拥有庞大的知识库，能够让任何有愿望和意图的人通过它创造伟大的事业。这是一个绝佳的机会。
但同时，从我这边看，我看到大多数这些技术栈正在融合：增强现实、虚拟现实、混合现实、人工智能、5G、量子计算。我认为 Web3，一旦所有这些技术结合在一起，我们将进入一个美好的世界。我希望，至少我希望，我们将进入一个稍微更体面的世界。因为到目前为止，我认为整个世界一直是由一小撮人自上而下、等级森严地运行的，他们总是强迫我们做某些事情。
我认为今天，这个时代，每个人都有机会提出这些勇敢的问题，无论是愚蠢的问题还是其他什么，你有自由去做。这太令人兴奋了。并且能够联系到人们，并做一些真正为人们服务的事情。您说您正在做的两件主要事情是：一是让人们理解人工智能的危害，这在目前非常重要，因为我认为世界其他地方都疯了，并且正在传播人工智能将是“末日情景”或人工智能将是“救世主”的叙事。没有人关注“大型科技公司正在以一种非常大的方式操纵人类”，我认为我们应该关注这一点，以及我们如何创造“为人民服务”的技术。
请继续努力，我认为我们需要更多的公司和更多的人来思考如何创造“以人为本”的技术。向您和您的团队致敬，祝您一切顺利。
对于我的听众，如果您喜欢您所看到和听到的，请点击订阅按钮。下次再见，拜拜。
谢谢，非常感谢。非常感谢您。Eddie，我也很感谢您。