Transcription
迈克尔·克里格斯曼：欢迎收看 CXOTalk 第 852 期节目。我是迈克尔·克里格斯曼，我们正在讨论企业人工智能战略，关注算法和生态系统。我们的两位嘉宾是来自纽约大学斯特恩商学院的阿尼迪亚·戈斯（Anindya Ghose）和来自明尼苏达大学卡尔森管理学院的拉维·巴普纳（Ravi Bapna）。他们刚刚共同出版了一本新书。阿尼迪亚，这是您第二次做客 CXOTalk。欢迎您，请介绍一下您的工作。
阿尼迪亚·戈斯：您好。我是纽约大学商学院的教授。我的研究兴趣在于因果推断和机器学习的交叉领域，我主要帮助各种规模的公司——小型、中型、大型——利用预测和因果推断技术的结合来弄清楚如何处理他们的数据。但最近，我一直沉浸在一些非常有趣的诉讼案件中，作为一些全国最大科技公司的专家证人出庭作证，包括谷歌、Meta、苹果、Snapchat、Pinterest 等等。
迈克尔·克里格斯曼：拉维·巴普纳，这是您第一次做客 CXOTalk，我非常高兴您能加入我们。欢迎您，请介绍一下您的工作。
拉维·巴普纳：我是明尼苏达大学卡尔森管理学院的商业分析与信息系统主席教授。我还担任卡尔森分析实验室和“为善而分析”研究所的主任。我们开始教授这些东西——也就是现在人们所说的 AI——将近 20 年前。那时，我们对互联网上涌现的海量数据感到兴奋。那场互联网泡沫革命，你知道，人们在亚马逊上写评论，这对于了解消费者偏好非常有见地。然后是移动革命。阿尼迪亚写了一本关于移动革命的书。接着是社交媒体革命，数据不断增长。然而，公司利用这些数据并做出更好决策的能力——实际上，这个差距变得更大了。我认为这就是我们写这本书的动机，这本书汇集了我们之间近 40 年的研究成果。这本书本身花了将近三年时间才完成，所以我们很高兴今天能和大家聊聊它。
阿尼迪亚·戈斯：存在一种缺失的叙事，即每个人都在谈论 AI 的负面影响，尽管我们都意识到 AI 也有很多积极的优势。
迈克尔·克里格斯曼：您描述了一个名为“AI 之屋”的基础框架。您愿意给我们介绍一下吗？我这里有一张图，您在讲解时我可以将其显示在屏幕上。
拉维·巴普纳：在这个“AI 之屋”的基石是数据工程。正如我所说，公司拥有海量数据，但却无法从中获得洞察。在卡尔森分析实验室，过去十年里，我们与 90 多家公司合作了 130 多个项目，我们一直在跟踪清理、汇总和整合数据需要多长时间，然后才能构建预测模型。这大约占项目时间的 60% 到 70%。实际上，这段时间只是在处理数据，然后才能搭建起四个支柱。所以，在数据工程的基石之上，我们有描述性分析的四个支柱。其理念是超越简单的报告和可视化，也许可以使用机器学习来发现产品之间的共同购买模式，并利用这些模式来推荐新产品。亚马逊在 25 年前就在做这件事了。我们还可以做银行擅长的事情，比如检测异常，找出不寻常的模式。这可能是一种风险，也可能是一种机会。还有诸如客户分组之类的。所以，这是描述性支柱。然后是预测性支柱。公司可能希望预测客户流失。或者您可能是一个人力资源部门，并希望预测您的员工是否会流失或离职。顺便说一句，在未来三年内，大部分工作和价值将来自于此。还有因果分析，区分相关性和因果关系。这是许多人不太擅长锻炼的一块肌肉。还有规范性支柱。然后我们还有几层，也许阿尼迪亚想深入探讨这些层级。
阿尼迪亚·戈斯：当您向我们介绍这个框架时，一个重要的建议或经验教训是，不要过早地被建模所吸引。相反，应该将大部分时间和资源投入到数据工程部分。拉维和我在这本书中谈到的一件事是，至少应该将 70% 的时间花在清理数据上。大多数这些数据集都可用或正在生成，它们将是原始且混乱的。所以您必须清理它。我们合作过的许多组织都犯了一个战略性错误，即没有花足够的时间清理数据，然后就直接跳入拉维所说的那些非常酷的规范性、描述性、预测性和因果性支柱。所以这是需要牢记的一点。在拉维所说的基础上，最重要的是，显然，拉维和我对我们关心公平性都有深刻的认识。我们关心公平，我们关心公正。在最顶层，当业务领导者或从业者讲述这个“AI 之屋”的故事时，他们必须确保他们认识到投入足够的时间和资源来确保其公平公正的重要性，无论输入的数据是什么，或者正在生成什么。一个非常有趣的事情是，由于生成式 AI 的出现，它为这四个基本支柱和数据工程组件增加了一个新的元素。我认为我们将经历一段非常激动人心的旅程，而且是积极的，因为从业者可以利用很多优势，而且，你知道，我们在书中非常详细地向读者介绍了如何去做。书里都有。
迈克尔·克里格斯曼：请订阅我们的新闻通讯，并订阅我们的 YouTube 频道。请访问 CXOTalk.com。那些正在进行各种 AI 计划的企业人士应该如何利用这个框架呢？
阿尼迪亚·戈斯：第一步是确保您组建了一个团队来清理数据——即数据工程部分。许多组织拥有收集数据的基础设施，但可能没有合适的人来清理和整理它。一旦您从原始数据中获得了清理后的数据，您就可以利用这四个支柱中的任何一个，无论是预测性、因果性、规范性还是描述性。这必须分阶段进行，但也是迭代的，因为随着新数据从您的建模技术中产生，您将不得不回去重新审视它是否都是信号，是否仍然存在一些噪声，或者您是否需要再次对其进行整理。我认为我们在书中为人们提供了一个如何按顺序执行此操作的路线图。我还要补充一点，拉维也提到了：当我们谈论这四个支柱时，许多人会说：“是的，我们有做预测性分析的技能”，但我的想法是，因果推断的重要性正日益摆在我们面前。如果您无法理解“为什么”，就无法扩展您的建议。
拉维·巴普纳：目前存在一个误解，即围绕生成式 AI 的所有炒作都认为它是万能的——它就是 AI 的定义。我认为，在未来三年内，至少——三到五年；我们无法预测更远——组织的大部分价值仍将来自我们之前谈到的四个支柱。关键在于，生成式 AI 将帮助您更好地完成这些传统的 AI 任务。我认为这是非常非常重要的一部分。迈克尔，关于您提出的组织应该如何开始思考这个问题，我们可以谈谈为什么组织无法或不处于能够区分相关性和因果关系的好位置。为什么他们现在没有部署“AI 之屋”的全部范围？阿尼迪亚和我一直在深入讨论这个问题，我们的观点是存在三个“I”。存在惯性，这是一个强大的力量。现状总是占上风，尤其是在高管层面。如果领导层不熟悉这种语言或没有见过这样的框架，他们就不知道用例。他们很难改变当前的决策方式并做一些不同的事情，无论是需求预测、库存优化等。惯性是一个巨大的力量。还有纯粹的无知，对所有用例和潜力的认识不足。我认为这是我们在书中解决的一个重要部分。我们有各个方面的用例。此外，根据我的经验，我们的项目涵盖了所有行业和职能。最后一件事是缺乏想象力。在过去 20 年里，我参与过的最有创意的解决方案——我相信阿尼迪亚也会同意——都是当有人跳出框框思考时：“哦，如果我能做到 X 和 Y，将这两个支柱结合起来，也许我就可以发现趋势。”您可以看到像我们城市里的通用磨坊（General Mills）这样的公司。它们是酸奶品类中 Yoplait 的市场领导者，突然之间，您有了 Chobani。没有人预料到这一点，因为他们没有机制来做您可能认为是异常检测的事情。这个不寻常的模式是什么？它是信号吗？是噪声吗？我们应该如何应对？聪明的公司会这样做。
迈克尔·克里格斯曼：我们有一个来自 Twitter 的有趣问题，来自 Arslan Khan，他说：“数据对 AI 非常重要。组织如何知道该收集什么，不该收集什么？他们又如何知道自己是否正在创建所谓的‘数据气泡’，从而可能给出错误的建议？”我们还有来自 Twitter 的 Rose Semenov 的评论，她询问了用例。也许您可以谈谈数据收集的问题，以及在您的书中，幕后发生了什么。例如，在约会应用程序或金融交易中。您能否将这个问题与实际用例联系起来？
阿尼迪亚·戈斯：拉维关于惯性的观点，是我听到这个问题时想到的。我经常收到这样的问题：“我应该收集什么，不应该收集什么？”有时，分析——人们进行的额外分析——会导致惯性：“我不知道该收集什么，所以也许我不会开始收集它。”我对这些公司的建议是，“开始吧。这不是一次性的过程。”拉维和我都不会告诉您这是一个一次性的过程。它是非常迭代的。换句话说，您将不得不进行实验并在此过程中学习，以确定您收集的哪些数据集实际上很有用。您一开始可能有一个大致的了解，但很难事先确定，“这三件事最有帮助，而那两件事则不太有帮助。”只有在您收集了数据，将其输入算法并看到它的预测结果后，您才会知道。
拉维·巴普纳：对此，我想补充一点，最终，这归结为：什么让您夜不能寐？您想解决什么问题？这是领导层以数据驱动的方式进行决策的能力上的一个差距。如果他们不知道用例，他们就不会意识到，“嘿，我的漏斗可能存在问题。我在某个阶段流失了用户，这就是我想解决的问题。为此，我需要预测 X、Y 和 Z，而为此，我需要这个特定的数据集。”我认为 Arslan 说得对，我们不希望浪费时间收集数据气泡，正如所提到的。我们必须基于用例来做这件事。一旦我们确定了要解决的问题，我们就可以开始整合不同的来源。这就是当今世界的魅力所在。我们可以整合——即使是构建一个模型，比如说，客户流失模型。过去，人们会看人口统计数据，或者也许会更进一步，进行心理统计学分析。但现在我们有了行为数据。我们知道人们在做什么，他们在买什么，他们在说什么。我们知道他们有多大可能推荐客户，或者评论产品。所以，还有许多其他行为。例如，他们在社交媒体上谈论您的产品吗？这个领域聪明的参与者会整合所有这些数据源，但这是由他们想解决的问题驱动的。我与首席执行官的谈话通常是：“什么让您夜不能寐？您的需求预测做得有多好？”您会惊讶于财富 500 强公司在需求预测方面有多糟糕。想想所有下游的影响，基于此做出的决策。如果您的预测偏差了 10%，那么您将基于这个糟糕的预测做出另外 20 个糟糕的决策。
阿尼迪亚·戈斯：我们在营销组合建模和归因建模中看到了这一点。75%、80% 的营销人员都明白其重要性，但他们仍在摸索如何去做。这就是为什么我们在纽约大学 MSBA 项目中所做的许多项目都涉及这一点。迈克尔，回到您关于约会的问题，我可以给您我最喜欢的约会统计数据吗？在我们的书中，我们谈到了这一点：您的约会资料上有两个拼写错误会使您找到灵魂伴侣的几率降低 14%。14%！两个拼写错误！所以，我们都需要一些灵魂伴侣。这就是 AI 发挥巨大作用的地方。我的意思是，显然，我们有点开玩笑，但事实是人们会在他们的资料中犯拼写和语法错误，这会让他们付出代价。AI 的应用将是唾手可得的成果：使用 AI 来防止这些简单、可避免的错误。几年前我为 Tinder 和 Match.com 做了一些工作，拉维也与许多约会公司合作过，所以除了 AI 建议，我们还可以提供一些约会建议。
迈克尔·克里格斯曼：这是 CXOTalk 的第一次，我们提供约会建议。所以，如果您正在约会，您在约会资料上必须非常小心。我只想提醒大家，现在正在进行一个推特聊天。请使用 #CXOTalk 标签将您的问题发布到 Twitter 上。如果您在 LinkedIn 上观看，请将您的问题输入 LinkedIn 聊天。利用这个机会向这两位教授提出您想问的任何问题。我们还有一个来自 LinkedIn 的问题，来自 Michael Walton，他说：“您对用于食品研发和食品制造的 AI 有何看法？”
拉维·巴普纳：在明尼阿波利斯，我们有一个大型食品和农业企业。我们有一群公司，从嘉吉（Cargill）这样的商品公司，一直到通用磨坊（General Mills）这样的品牌。所有这些公司都深入思考 AI 在各种不同职能中的应用。如果您开始思考食物的来源，在我卡尔森分析实验室的实验室里，我们与 Land O'Lakes 合作了近十年，帮助农民做出更好的粮食生产决策。在典型的一年里，农民必须做出大约 40 个重要决策：使用哪种种子，浇多少水，施多少肥，以及在哪里施肥。我们开始进入可以以精准农业方式进行此操作的阶段。AI 模型可以区分小麦植株和杂草。您希望优化农业的生产功能，许多公司都在努力解决这其中的不同方面：约翰迪尔（John Deere）、Land O'Lakes 等。向上游看，您会看到像通用磨坊这样的大品牌。他们一直在寻找，观察不同的渠道是如何运作的，以及影响者在使他们的产品成为首选产品方面扮演什么角色。许多模型被用来预测这一点。所以，对我来说，这是一个端到端的应用。顺便说一句，这几乎适用于我们日常生活中涉及的每个行业，食品也不例外。
阿尼迪亚·戈斯：我刚刚指导了一名高中生，迈克尔，他想做一个研究项目，试图找出玉米消费和玉米生长的预测因素。他收集了全国各地关于降水、天气、土壤质量的有趣数据，并构建了一系列预测模型，以找出哪些地区的玉米生长和发育最有利，以及一年中的哪些时间点。我认为，正如拉维所说，这是一个新兴但快速发展的行业。您会看到更多这样的情况。食品的另一个角度是营养。当我想到食物时，我想到了营养，我想到了个性化健康。拉维所谈论的是 AI 在食品制造中的应用，但 AI 在食品消费中也有应用：“我们什么时候吃？我们吃什么？这如何与我们的其他健康行为，如运动和睡眠相辅相成？”运动、睡眠和食物是健康最重要的三个支柱。
迈克尔·克里格斯曼：我们有一个来自 Twitter 的问题，再次来自 Arslan Khan，他说：“数据是否导致垄断？拥有大量客户数据集的组织可以使用 AI，但那些没有大量客户数据集的小公司呢？”
阿尼迪亚·戈斯：是的，数据会有帮助，但在我的经验中，数据并不是进入壁垒或创新的实质性障碍。我将在数字营销和数字广告的背景下对此进行说明。在过去的 20 年里，我们是否看到进入数字广告领域的公司有所停止或减少？没有。事实上，我们看到越来越多的新公司进入这个领域，即使是那些没有面向消费者的数据的公司。想想 The Trade Desk。他们现在正与一些最大的科技公司正面竞争，并在他们自己的游戏中击败他们。想想 Criteo，另一家没有面向消费者产品的数字广告公司。当他们进入时，他们没有任何数据。他们从零开始积累，现在他们正在与硅谷的大公司竞争，并在他们自己的游戏中击败他们。虽然数据肯定有帮助，但它不是进入壁垒。即使您是一家小公司——我刚刚举了几个例子，但还有更多——除了 The Trade Desk 和 Criteo，还有 Magnite 和 PubMatic。有这么多公司，它们在第一天一无所有，但今天它们是上市公司，让一些知名的科技公司望尘莫及。
拉维·巴普纳：有几点可以补充。首先，即使拥有小型或合理规模的数据集，您仍然可以使用 AI 并获得您现在无法获得的见解。这不应该成为不去做某事的借口，例如，通过细分来更好地了解您的客户，或者构建一个预测模型来确定您应该为下一次促销活动定位谁。我们已经看到了来自 2500 行数据的巨大成功和提升，而不是 2500 万行。这不是借口。您可以使用 AI；您可以使用这些功能。例如，亚马逊刚起步时，并没有很多消费者数据，但他们仍然提供产品推荐，也许使用像关联规则挖掘这样的算法，这是基于人们购买什么以及什么被共同购买。即使是如此简单的事情，也是每家拥有数千笔交易的公司都可以利用到的唾手可得的成果。另一点——阿尼迪亚和我前几天还在谈论这个——是生成式 AI，由于其设置方式，将消除大型数据垄断的优势。如果我过去想构建一个情感分类器，我可能需要一个合理规模的数据集。我可能需要 10,000 行标记数据来构建一个良好、准确的模型。现在，我可以将这个问题作为提示输入 ChatGPT，它会给我答案。每个小企业都可以获得这种能力。而且，我们应该稍后讨论：生成式 AI 也可以为您构建其中一些模型。如果您有一个小型数据集，并且没有数据科学家来构建 XGBoost 或机器学习模型，那么生成式 AI 现在就具备了这种能力。我们一直在我们大学的课程中试用这个。我不相信“小数据”的借口。每个人都可以开始攀登这个阶梯。我们书的最后一章使用了“AI 峰会”的比喻。我认为阿尼迪亚是一位登山家；我年轻时在喜马拉雅山徒步旅行了很多年——我 15 岁时去过珠峰大本营。有一号营地；有一个大本营——大本营是数据工程。一旦您到达大本营，您就可以开始做其他事情，比如描述性和预测性分析。您到达三号营地，开始思考相关性和因果关系。每个人都可以开始思考它；每个人都可以从中受益。我经常听到这个“小数据”的借口，但人们对这个领域了解不够，无法这样说。
阿尼迪亚·戈斯：这就是我们一直在谈论的惯性。这是分析瘫痪导致惯性，进而导致缺乏创新。也许这是我们应该考虑的第四个“I”：无知、惯性、缺乏想象力，导致缺乏创新。
迈克尔·克里格斯曼：但是，如果您数据集很小，在个性化方面会在很多方面处于劣势，这难道不是真的吗？
拉维·巴普纳：不完全是，迈克尔。现在，有了生成式 AI，我们有了微调。我们可以采用现有的生成式 AI 模型，即使使用小型数据集，我们也可以稍微调整参数，以定制它以适应小型初创公司。还有其他架构，例如 RAG——检索增强生成——也允许我们这样做。这改变了游戏规则。机器学习有一个技术方面称为迁移学习。其思想是，您可以采用为 X 构建的模型，并稍作调整，就可以将其用于 Y。这种调整不需要大量数据。
阿尼迪亚·戈斯：拉维，还记得我们几天前就这个话题互相发短信吗？这是一个很好的问题。是 Arslan 问的吗？
拉维·巴普纳：是的。
阿尼迪亚·戈斯：我们经常收到这个问题，我们俩都迫不及待地想让人们知道，由于迁移学习、RAG 和生成式 AI，这已经不再是问题了。小数据进入壁垒不再是问题。
迈克尔·克里格斯曼：我们有一个来自 Twitter 的问题，再次来自 Ravi Karkara，他说：“您能否阐明一下为什么世界需要有关于政策和伦理的讨论？”他特别想知道关于食品的 AI。也许您可以谈谈这一点，但也有更广泛的问题。您能谈谈 AI 伦理及其对食品的影响，但尤其对企业的影响吗？
拉维·巴普纳：首先，算法本身从来都不是有偏见的。算法是数学中的一个概念，它会根据您输入的数据为您提供见解。那么，我们输入的是什么数据呢？让我们看一些例子。亚马逊几年前因构建一个对女性有偏见的简历筛选器而被点名批评。事实上，高盛和苹果卡也遇到了类似的问题，同样是关于 AI 算法中的性别偏见。为什么？如果我们回到那个亚马逊简历筛选器的例子，为什么算法会将技术工作中表现出色与男性联系起来？嗯，这可能是因为，历史上，社会产生了反映这种偏见的数据。也许高中生中，尤其是女生，报名参加数学和科学课程的人不够多。因此，她们没有获得 STEM 学位；因此，她们不符合技术岗位的资格。这不是算法的问题。这是社会的问题——一个由于各种复杂原因而产生有偏见数据的过程。算法不是偏见的起点。偏见就源于此。我们现在正处于设计算法来修复这些偏见并识别它们的阶段。这就是我们教给管理者的内容。通过阿尼迪亚负责的纽约大学 MSBA 项目或通过我们项目的人，将有一整门课程关于如何消除这些算法及其结果的偏见。这更多的是 AI 的解决方案，而不是问题。
阿尼迪亚·戈斯：我们必须非常清楚 AI 伦理的这个问题是可以解决的。它是可解决的，因为在第一阶段，当您查看输入数据时，您可以识别数据中可能导致结果偏差的元素——我们称之为异常值。如果它们扭曲了输出，那可能就是导致偏见的原因。它是可解决的，因为您可以识别异常值，清理数据，然后将其输入算法。这就是去偏过程的开始。我认为到目前为止发生的是，由于我们谈到的这种“家庭作坊式产业”，许多对话都集中在一方面，而没有谈论这是一个非常容易解决的问题。这真的不是火箭科学。我们在 MSBA 项目中教授这个，并且看到了很好的结果。不要害怕！
拉维·巴普纳：我们“AI 之屋”中间层的一个组成部分是强化学习。这是一种强大的方法，基于探索和利用的思想。在筛选求职者进行面试的背景下，探索和利用是什么意思？也许如果您仅基于历史招聘模式和人们的表现模式运行算法——就像亚马逊早期所做的那样——您可能会给某个候选人打出非常高的分数。这个算法的作用是说，“等等。这个人得分最高，但让我冒险一试。10% 的时间里，我将尝试第三个得分最高的人，或者下一个人。”这会自动使您引入的人员池多样化。可能存在某些人群——例如，具有超凡技术能力的女性——您的算法在探索过程中会将其包含在内。然后它会发现这些人表现得非常好，这带来了平等。我们看到强化学习以这种探索和利用的方式，有助于消除偏见。我们还指导我们合作的公司以及我们的学生，当我们查看模型性能时，不仅仅是准确性。有一些关于公平性的特定指标，例如真阳性率。它在不同子群体之间是否存在差异？它在男性和女性之间是否存在差异？它在种族之间是否存在差异？我们必须将整个校准过程融入模型中，以便它们也是公平的。整个夏天，我们都在为公司提供建议，让它们考虑这一点。有时这会付出代价。如果您关心公平性，您可能无法在短期内实现利润最大化，但从长远来看，您可能不会被起诉！我认为这就是我们现在所处的阶段。
迈克尔·克里格斯曼：但是，恕我直言，在我看来，您正在以一种不自然的程度简化这个问题。是的，从数学角度来看，您可以消除数据中的问题并调整您的算法，但这些产品仍然在社会背景下运行。问题往往就出在这里，这就是为什么全世界，尤其是在美国和欧洲，如此强调 AI 监管。
Arslan Khan 回来并说：“他不同意算法不可能有偏见。”他说他九岁的女儿指出，即使有女性过马路，特斯拉屏幕也只显示男性的剪影。
阿尼迪亚·戈斯：我不认为我们说过算法不可能有偏见。我们说过，如果存在偏见，可以很容易地消除偏见。回到第一步，我认为我们正在简化这个过程，但拉维和我已经做了很多次了，这是一个简单的过程。它不是火箭科学。您必须愿意并有意识。您应该能够改变和重新审视您正在做的事情；您应该愿意适应和实验。我们中的许多人被它是一个困难问题的想法所困扰。但这种消除偏见的问题不是火箭科学。它需要一些工作来弄清楚，但它是一个可解决的问题。这就是我们对 AI 感到乐观的部分原因。我们不仅仅是空谈。拉维和我与近 200 家公司合作过，我们非常亲力亲为。我们做了很多次，并且经历了消除偏见的过程。我们弄清楚了问题，然后使用了正确的模型来解决跨行业和国家的各种问题。这是一个可解决的问题。它并不像人们想象的那么复杂，我们应该抛弃那三个“I”——惯性、无知、缺乏想象力——转向创新。
迈克尔·克里格斯曼：在 Twitter 上，Rose Semenov 再次就偏见和公平性发表评论，提出了 AI 是一个黑箱的问题，这可能导致缺乏透明度。您能谈谈这种缺乏可解释性以及它如何影响明显的缺乏公平性吗？
拉维·巴普纳：有很多工作正在进行。非常聪明的人在研究部门和大学里撰写关于解释黑箱模型的博士论文。在我为纽约大学 MBA 教授的三天课程中，我们花了一个下午的时间来解释黑箱模型。有一些方法；它们并不完美。我们认识到这是许多公司采用 AI 的一个关键障碍。我有一位前学生构建了一个复杂的预测模型。他对其进行了 25 年的季度回溯测试。当模型预测某个特定业务单位的需求将下降 6% 时，经理的第一个问题是：“基于什么？您能解释一下这个预测是如何做出的吗？”学生实际上无法解释。这是一个复杂的深度学习模型，使用了 LSTM 等技术。经理不相信这个预测。您猜怎么着？需求下降了 6%。公司错失了那个机会。他们就是这样学习的。我的建议是：“让我们运行一个影子流程。让我们继续做您一直在做的事情。如果有人在构建一个黑箱模型，让我们并行运行这两个流程一年，看看哪个获胜。”他们很快就信服了。只要他们知道模型是准确的，他们就不需要详细了解模型是如何预测需求的。如果他们知道它是准确的，他们就可以相应地进行计划。他们可以正确地配置人员并正确地招聘。我认为人们现在正在接受这一点。人们对可解释性谈论很多，但让我们看看医疗保健。想想医学影像。如果我构建一个模型，可以对 X 光片进行分析并检测骨折，我真的在乎图像中的哪个像素负责诊断吗？不。有很多用例可以带来巨大的实际价值。许多医院已经这样做了。我们可以从 X 光片中检测骨折。如果您在撒哈拉以南非洲，并且无法获得训练有素的放射科医生或骨科医生，AI 可以为您做到这一点。在我们的书中，我们有一个关于这个问题的整节。我们谈到了东欧的一些诊所，它们使用这种 AI 来检测乳腺癌——实际上比人类更准确。我们将达到一个阶段，没有人会谈论那些极其复杂的模型的可解释性，因为我们正在验证它们的输出，并看到我们正在挽救生命。所以，有两件事。许多人正在研究可解释性，但也有许多用例我们并不关心可解释性。
迈克尔·克里格斯曼：我们有一个关于偏见和消除偏见的另一个有趣问题。Lisbeth Shaw 说：“如果消除偏见意味着质疑现有数据集，这可能需要从头开始。公司想要快速执行和快速上市。这一步可能不会被批准。”
阿尼迪亚·戈斯：理论上可能会发生这种情况，但实际上，通常会有某些观察结果，或者数据集中的某些变量，会引起更多问题。我还没有遇到过整个数据集都有问题的情况。更有可能的是，比如说，一个数据集有 10 个变量。七个是好的，但三个有问题。在这些情况下，您必须对此有所认识，并设法解决问题，无论是通过数据工程过程，还是通过调整您的基础设施，使其首先生成和收集更好的数据。简而言之回答这个问题：更可能的情况是，您会遇到一个混合体，其中数据集的一部分是好的，而另一部分有问题。现在世界上有许多工具可以解决这些问题：外推、插补和整理。
拉维·巴普纳：更广泛的信息是这样的：首先，我们必须认识到这是一个问题，所以很高兴能谈论它。其次，我们现在有具体的指标和文献。在检测算法中的偏见方面有科学依据——不仅仅是基于其准确性。我们可以对它们进行公平性测试。如果我构建一个模型，结果公平吗？假设我决定某人是否应该获得信用卡。我是一家银行，我查看不同子群体的真阳性率，发现存在显著差异。我的学生知道这是一个停止点。这意味着我们必须回去重新校准模型。我们可能需要对某些子群体进行过采样，并尝试从代表性不足的群体中学习更多。这是使用 AI 模型正确使用的教育的一部分。这项技术不会消失，所以我们有责任教育自己如何最好地使用它。在许多方面，这就是我们书中的信息。
迈克尔·克里格斯曼：再次来自 Arslan Khan：“如果组织部署了有问题的有偏见系统，并且他们没有意识到这种偏见，消费者应该起诉谁？谁对这个 AI 负总责？”
阿尼迪亚·戈斯：在美国，我们是一个非常喜欢打官司的社会，所以起诉很容易。这不应该是一个问题。在海外稍微困难一些。我想质疑这个问题的前提。如果一个组织正在使用有偏见的数据集，首先，偏见的程度是多少？是有意义的还是微不足道的？当最重要的输出变量有偏见时，偏见可能是有意义的。如果某个三级变量有偏见，那么偏见可能是微不足道的。您需要先弄清楚这一点。正如我所说，有一个修复这些问题的路线图。您不需要火箭科学家。一个好的数据科学家可以解决这个问题。大多数组织都意识到这一点的重要性。根据我的经验，其中好大于坏。首席执行官、首席技术官、首席信息官并不是故意要创建有偏见的系统。他们试图解决问题，在此过程中，他们可能会无意中与未消除偏见的算法和数据集合作。重要的是他们意识到了这一点。在我与至少 50 家公司、12 个行业的合作中，当我指出一个偏见问题时，他们都愿意解决这个问题。我从未遇到过有人说：“哦，是的，别担心。”
迈克尔·克里格斯曼：AI 之外也有一些例子。如果食品有问题，FDA 会召回食品。如果汽车有问题，汽车会被召回。我们有处理无意问题和影响的历史。我们继续吧；我们时间不多了。您在 AI 方面谈论了很多生态系统。您对生态系统的意思是什么，为什么它如此重要？
拉维·巴普纳：AI 是一项快速发展、复杂、无形且通用的技术。正如我们所说，很少有人真正理解它——因此有了我们的书，它试图揭开它的神秘面纱。我认为我们所看到的——以及明尼阿波利斯地区的许多公司都明白这一点——是能够获得像明尼苏达大学及其卡尔森分析实验室这样的研究型大学的重要性。我们与该地区几乎所有中型和财富 500 强公司都有着良好的合作关系。公司可以带着问题来找我们，我们可以帮助他们找到答案。我们的研究生团队在教师的指导下解决这些问题。这为我们创造了一个充满活力的生态系统。它创造了一个良性循环。我们的学生通过处理真实数据和问题来学习。这些不是教授想出来的理论上的、虚构的问题！公司可以提前获得人才，还可以获得教师和博士生的专业知识。我认为阿尼迪亚创造的纽约大学生态系统非常相似。
阿尼迪亚·戈斯：我们有一个叫做顶点项目（Capstone Program）的东西，它尽可能地贴近现实。学生小组被派驻到公司，在教师顾问的指导下处理真实数据集和真实问题。拉维一直是顾问；我是项目主任，所以我也是非常亲力亲为的。关于生态系统的问题，我认为这是一个学术界、工业界和政策制定者之间的协作努力。私营部门必须参与进来。好消息是他们已经参与进来了，这是一个旅程。我们正在边学边走，但好消息是人们都积极参与。两年前，如果您说：“您在运行一个 AI 项目”，人们会说：“哦，那是什么样的书呆子、极客的东西？”但自从 ChatGPT 出现后，每个人都想加入 AI 的路线图。
迈克尔·克里格斯曼：您在咨询的公司中看到了哪些劳动力问题？
阿尼迪亚·戈斯：我给您一个简明的例子。多年来，我们看到几乎所有人都能做预测建模，但很少有人能做因果建模。我一直在推动的一项与劳动力相关的技能是修改课程，使其包含第三个支柱——因果推断——的显著存在。我们正在为学生提供计量经济学培训、因果机器学习培训和现场实验培训。仅仅擅长预测建模是不够的。您还需要能够进行因果推断。我们看到招聘人员回来告诉我们：“这很有帮助，因为您的毕业生接受了全面的培训。他们不仅理解预测，还理解‘为什么会发生这种情况？接下来会发生什么？是什么导致了这些变化？’”我们对此感觉很好。
拉维·巴普纳：人才供应方能够在这个 AI 框架内工作，而公司内部有需求方。在我看来，存在一个巨大且不断扩大的差距。领导者、高管、高级副总裁、总监——他们不知道什么是可能的。我在一次活动中与一位前学生、一位校友交谈，我问她：“情况怎么样？”她说：“我有一份很棒的工作；我不说出公司名字。我非常高兴，薪水很高，买了新车。但说实话，教授，我真的很无聊。我还在用 Excel 运行报告和创建可视化图表。你们教了我们所有这些东西——强化学习、深度学习——但我的公司没有能够给我们提供可以使用这些技术解决问题的经理和高管。”这就是我所说的公司内部的需求方问题。我们一直在努力通过高管教育来吸引高管群体，以教育他们。“看，您拥有海量数据。您正在做出很多错误的决策，因为您混淆了相关性和因果关系。让我们开始攀登 AI 峰会吧！让我们开始创造商业价值吧！”
迈克尔·克里格斯曼：Arslan Khan 问道：“如果组织部署的 AI 会直接影响人们的生活，例如在金融、住房、就业等方面，我们是否需要某种政府实体来提供制衡？”或者换句话说，“您如何看待政府在 AI 方面的监管和政策制定？”
阿尼迪亚·戈斯：存在监管的可能性，但没有人知道这种监管应该是什么样子。我敦促谨慎。是的，新技术可能会被滥用或被善用，所以有一些监管的空间，但让我们不要操之过急，走得太远，因为我们所有人——包括我们自己——都还在学习。我们不知道需要监管什么。这是我的高层次回答。显然，还有更多细微之处，但总而言之就是这样。
拉维·巴普纳：在我们结束之前，您对企业人士有什么最后的想法或建议吗？
阿尼迪亚·戈斯：请阅读我们的书，不是因为我们想卖它，而是因为拉维和我过去 20 年——总共 40 年——付出了心血！我们迫不及待地想与您分享这些知识。如果可以的话，我会免费赠送这本书。我们只是没有这个能力。我们希望您能传播这个信息。我们试图尽可能地揭开它的神秘面纱，我们很乐意听到您的反馈。
拉维·巴普纳：我也会这么说。这项技术将长期存在。如果我们正确使用它，所有早期研究都表明我们将看到生产力的大幅提高。我们不会取代人力，而是会以正确的方式增强它。领导者需要跟上步伐，进行自我教育，并弄清楚如何做得更好。社会上不乏挑战需要解决，企业也有创新的空间。AI 将是您实现这一目标的能力。正如阿尼迪亚所说，我们很乐意成为向导，帮助人们攀登这座 AI 峰会。
迈克尔·克里格斯曼：当您与如此多不同规模的组织交流时，您能确定一个主要的障碍吗？最大的挑战是什么，您建议如何解决它？
拉维·巴普纳：这是我们开始时提到的三个“I”。是惯性、缺乏意识（我们称之为无知——也许是一个刺耳的词，但却是事实），以及更细微的层面，缺乏想象力和创造力。阿尼迪亚和我谈论过这如何导致缺乏创新。这是一个我们一遍又一遍看到的故事；我们知道障碍是什么。它在人的层面。
阿尼迪亚·戈斯：我将提供一个长期的观点。我合作的许多管理者——包括首席执行官——都在考虑下一个季度。“我如何让下一个季度看起来不错？”当您考虑基于 AI 的转型时，它不是一个三到六个月的旅程。这是一个长期的旅程，所以不要期望立竿见影的结果。要认识到长期的路线图，相信我们，并采用 AI。从长远来看，它会带来回报。
迈克尔·克里格斯曼：非常感谢阿尼迪亚·戈斯和拉维·巴普纳。非常感谢您们抽出时间与我们在一起。我非常感激。
拉维·巴普纳：感谢您邀请我们。
阿尼迪亚·戈斯：非常感谢您邀请我们。
迈克尔·克里格斯曼：感谢所有观看的观众，特别是那些提出优秀问题的人。在您离开之前，请订阅我们的新闻通讯和 YouTube 频道。请访问 CXOTalk.com。我们将在今年秋季推出精彩的节目，所以请访问 CXOTalk.com 并加入我们。非常感谢大家。希望您有美好的一天。