Transcription
人工智能是一个由真理、半真理、谎言和天才组成的混乱体，那么我们该怎么办呢？今天在我们《CXO Talk》第 866 集的节目中，我们的嘉宾刚刚写了一本关于这个话题的书，书名叫《人工智能的江湖骗术》（AI Snake Oil）。阿尔文·纳纳恩（Arvin Nanani）是普林斯顿大学计算机科学系的教授和研究员，同时也是普林斯顿信息技术政策中心的负责人。阿尔文，我一直很想听听关于《人工智能的江湖骗术》这本书的内容。《人工智能的江湖骗术》指的是那些无法实现，而且很可能永远无法按广告宣传的那样工作的 AI。
人工智能领域有很多真正的进步，但也有许多人工智能产品声称能做的事情，据我们所知，这些事情根本无法实现。例如，招聘自动化软件声称可以分析求职者谈论工作的视频，分析的不是他们关于工作资格的内容，而是他们的肢体语言、面部表情等等，以此来确定他们是否适合某个职位。
在人工智能取得真正进展的同时，这种情况也大量存在。我和我的合著者萨什·卡波尔（Sash Kapor）认为，许多人需要一种更好的方法来区分什么是真实的，什么是虚假的，这就是我们写这本书的原因。
您不是在谈论欺骗，对吗？您是在谈论技术限制吗？请给我们一个大概的了解。
这是这些因素的混合体。在极少数情况下，我认为存在欺骗。其中一个例子是 DoNotPay 公司，它因为声称制造了机器人律师而惹上了联邦贸易委员会（FTC）的麻烦。根本就没有机器人律师，而且他们还声称，任何戴着耳塞在最高法院辩论案件的律师，如果使用他们的机器人律师，将获得一百万美元的报酬，以此来展示他们技术的神奇之处。
我的意思是，这至少在某种程度上是具有欺骗性的。他们肯定知道这是一个公关噱头，因为电子设备甚至不允许带入最高法院。他们知道自己无法实现这一点。直到今天，在那个噱头发生几年后，也没有证据表明他们制造了类似的东西。您可以查看联邦贸易委员会的投诉，里面充满了关于他们如何捏造事实的生动细节。所以，这是第一类。
但更常见的是，你拿一个能很好工作的核心概念，然后夸大其词，因为你认为客户想听的就是这个，投资者也想投资于此。在很多情况下，这就像是几个世纪前的统计学，你知道，回归分析被重新包装成人工智能。虽然这些模型确实可以捕捉到数据中的一些模式，但它们并不是完美的预言家。当你销售招聘自动化软件，并对视频分析做出声明时，对我来说，这就越界了。
我从事企业软件业务，现在每一个企业软件产品都基于人工智能。嗯，它并非真正基于人工智能，但它可能包含一些人工智能功能。但您不是，您不是主要在谈论这个，对吗？
当然，这种情况也很多。所以，我们在书中真正感兴趣的是，我们想传达给人们的是，有些人工智能类别可能根本行不通，购买这些产品根本不值得。在其他情况下，存在如此多的炒作，你真的需要自己评估人工智能产品对你有多大用处。你不能仅仅依靠营销材料。而且这也不是简单的夸大其词。人工智能的性能可能非常依赖于我们特定的数据集，以及我们可能想要输入它的特定查询。在许多情况下，客户最终会非常失望，发现人工智能并没有做到他们认为它会做的事情。
然后还有另一类，人工智能可能真的很有用，这更多地是关于社会整体，而不是企业环境。我们可能希望抵制某些人工智能应用，正是因为它们非常有效。一个很好的例子是面部识别。对我来说，虽然对面部识别出现错误有一些担忧，但主要的伦理担忧是它可能被用于大规模监控，特别是被威权政府使用。我们知道它在中国和俄罗斯已经被这样使用了。而且它很危险，因为它非常有效。例如，你可以在人群中辨认出一张脸。
所以，这些是一些需要注意的事情。这些是我们可能不想部署人工智能，或者可能想抵制人工智能部署的原因。
在您的书中，您区分了预测性人工智能和生成式人工智能，您能为我们进一步讨论打下基础吗？
当然，这正是许多关于人工智能的困惑的来源。人工智能当然不是一种单一的技术或应用，它是一个总称，涵盖了许多松散相关的技术和应用。所以，一方面是 ChatGPT 和生成式人工智能的整体，它与银行可能用于评估信用风险的“人工智能”非常不同。后者是一种预测性人工智能，它对未来做出预测，特别是对一个人的未来，以便做出关于他们的决定。这个人会偿还贷款吗？这个人会在工作中表现良好吗？如果我们雇佣他，这个人会在刑事司法系统中犯罪吗？基于这些预测，可能会做出关于这些人生活的极其重大的决定，例如审前羁押，也就是拒绝保释，这可能需要几个月甚至几年才能等到你的审判日期。所以，这是我们非常怀疑的领域，证据表明，这些工具比随机数生成器好不了多少。这与生成式人工智能完全不同，生成式人工智能是关于生成模式，而不是预测人们未来可能做什么。
所以，您并不是完全否定预测性人工智能和预测性分析，因为也有很多非常积极的例子。那么，您如何区分哪些有效，哪些是您所说的“人工智能的江湖骗术”呢？
让我们谈谈一些积极的例子。如果我们想在招聘过程中使用统计和分析，有很多很好的方法可以做到。我们可以查看我们拥有的关于什么能帮助人们表现好与不表现好的数据，我们可能会发现关于申请人的信息，但我们也可能发现关于我们自己工作场所的信息，也许某个特定的经理和他们的管理风格不适合某种类型的候选人。事实上，这些见解可能更具可操作性，因为你可以改变组织中的一些东西，这可能会在未来很多年里使你的招聘受益，而不是仅仅做出关于个体候选人的决定。所以，这是第一点，对吧？分析不同于自动化决策。这就是这里的教训。
在某些情况下，我谈到了银行，你知道，预测信用风险。是的，这些技术并不完美，但银行仍然必须做出这些决定，尽管存在这些限制。如果他们在贷款方面根本不评估风险，他们就会破产。所以，这对我来说也是有道理的。同样，尽管有理由谨慎，但这里还有另一个例子。美国国税局（IRS）可能会进行审计，他们可能会使用人工智能技术来识别哪些人可能面临更高的税务欺诈风险。所以，我认为这也是一个动机良好的应用。这里的区别在于，你没有对某人做出改变生活的决定。是的，审计对很多人来说很烦人，但最终，只有当你确实在税收上作弊时，你才会受到惩罚，才会受到罚款。所以，这里的道德计算也不同。
因此，无论是出于技术原因还是道德原因，我认为一些预测性人工智能的应用比其他应用更合理。显然，某些应用会对相关人员产生更深远的影响，而他们却无法发声。目标群体对这些结果无法发声。而且，不幸的是，当有自动化决策时，往往几乎没有追索权。我认为我们现有的许多系统已经存在问题，而人工智能的出现可能加剧了这个问题。
即使在现在，当一个求职者被拒绝时，他们也得不到任何有帮助的反馈来改进未来的申请。所以，我们在书中对此进行了很多讨论。很多时候，人工智能所做的就是暴露了我们某些流程、组织或机构中已经存在的问题。我认为这些是利用人工智能作为一面镜子，看看哪些方面可能做得不好，并从更深层次上解决它，而不是仅仅想着如何调整技术本身的机会。
订阅我们的新闻通讯，请访问 cxo talk.com，查看我们即将播出的节目。我们有很多精彩的节目即将推出。我们收到了一些来自 Twitter 和 LinkedIn 的问题，让我们来看看吧。第一个问题来自 Twitter 用户 Aralon Con。他是一位常客，提的问题也很棒。他说：“随着人工智能越来越多地直接或间接地推向消费者，消费者是否应该有选择退出的方式？”这是一个政策问题。这取决于具体应用是什么。退出可以有很多种方式。
所以，当我们谈论生成式人工智能时，例如，许多艺术家和其他创作者希望退出他们的数据被用于训练人工智能。许多创意人士表示，退出实际上还不够。事实上，有理由认为需要某种形式的集体谈判。如果你从经济谈判的角度来看，退出就是一个人与一家万亿美元公司之间的谈判。权力不对称如此之大，以至于最终对艺术家来说并不算太有利，因为退出实际上并不能给他们带来显著的好处，因为还有数百万其他艺术家的信息也被使用。所以，这并没有真正伤害到人工智能模型，人工智能公司也没有理由害怕艺术家退出。所以，这个过程并没有真正奏效。
是的，这是退出或甚至更强有力措施应该被要求的一种情况。你可以考虑社交媒体上的推荐算法，它们被指责做了很多事情。那里的证据还在进展中，但即使根据我们目前所知，许多人也希望选择算法，或者能够恢复到按时间顺序排列的提要。所以，这是退出可以成为一项非常重要的干预措施的几个例子。
这里有深刻的政策含义，因为如果 Netflix 推荐了错误的电影，或者亚马逊推荐了你感兴趣的产品，那是一回事。但如果当你申请贷款时，算法错误地将你识别为信用风险较低的人，而你却买不到房子，或者刑事司法系统将你识别为犯罪者，而实际上并非如此，那就完全是另一回事了。
对此的回答应该是可辩驳性，你已经提到了这一点，能够对决定提出上诉，能够获得追索权。当我们看看，这似乎很明显，为什么这些系统还没有这个？我认为答案是微妙的。我认为在很多情况下，人工智能供应商会找到那些通常处于财务困境并希望节省决策过程成本的决策者，他们会说：“看，你可以自动化你的流程，你可以节省很多钱。”但当错误不可避免地发生，当人们抱怨时，人工智能供应商会退回到细则中，说“人类总是需要参与其中”。所以，如果你总是有人类参与其中，你真的能实现效率提升吗？
我认为有办法提高效率，同时保留人类流程的好处。但这实际上需要创新。在许多现有系统中，它基本上是“要么这个，要么那个”，没有中间的“甜点”。但我确实认为我们可以做到这一点。当然，我们都同意我们使用的“包装许可协议”或“点击即同意协议”。例如，我们正在流式传输到 LinkedIn，但我们中有多少人真正阅读过这些协议？但它们确实为技术供应商提供了退出条款。
我们还有来自 LinkedIn 的另一个问题，来自 Edith Yim Poai。她说：“您能否描述一下人们如此容易受到这种人工智能江湖骗术的影响的一些原因？普通人可以做些什么来更好地了解情况，以避免人工智能江湖骗术？她还继续说：“而且，我们也不希望人们对人工智能的采用过于恐惧。那么，我们如何鼓励人们采用积极的应用，从而同时保护他们呢？”
我认为这取决于人工智能的类型。让我们稍微谈谈生成式人工智能，我们到目前为止还没有怎么谈论过。生成式人工智能是一项快速发展的技术，与此同时，也有很多江湖骗术。例如，用于检测学生是否使用人工智能作弊的工具。不幸的是，据我所见，这些检测工具不起作用。所以，很多生成式人工智能都非常有用。那么，我们如何鼓励消费者探索这些，同时避开那些无效的呢？
我想说的是，由于技术人员和科技公司在媒体上的形象，人们对科技公司首席执行官的说法给予了很大的尊重。我认为我们应该避免如此过度地尊重他们。当然，他们非常聪明，这一点毋庸置疑。但他们也有既得利益，会说任何能让他们赚更多钱的话。一个很好的例子是，直到两个月前，几乎所有的科技公司首席执行官都说他们将把这些模型扩展得越来越大，越来越智能，甚至可能达到通用人工智能（AGI）。然后在 11 月的 NeurIPS 会议前后，情况突然发生了转变。显然，模型扩展已经结束了，现在他们正在进行所谓的推理扩展或测试时计算扩展。
我并不是说他们以前是对的，也不是说他们现在是对的，但关键是，在没有任何新证据的情况下，你突然可以完全改变你的说法，因为现在这样做符合你的经济利益。现在，他们中的一些人，在我看来，是因为他们想为其他目的筹集资金。这清楚地表明，我们真的不能相信他们对自己的产品等的任何说法。所以，我认为我们应该独立评估。
生成式人工智能的好消息是，根据我的经验，花几个小时玩这些产品，就能让你更好地了解它将如何适用于你的用例，而不是相信公司、媒体报道，甚至很多时候是同行评审的学术文献的说法。所以我鼓励你相信你自己的评估，也许不是排除任何其他评估人工智能的方式，而是以此作为你决定生成式人工智能产品是否有用的主要方式。所以我鼓励一种实验文化，以及一种对来自公司、媒体、研究人员的说法保持一点怀疑的态度。
大公司，甚至小公司，都有既得利益。看看 Facebook 最近在评估潜在假新闻方面的态度转变就知道了。Facebook 希望吸引用户，销售他们的服务，免费提供他们的服务。所以，当然，这里有既得利益。这是完全正确的。事实上，我们在《人工智能的江湖骗术》一书中有一个整章，讨论了用于社交媒体的内容审核的人工智能，即决定哪些内容可以保留，哪些不能保留，以及推荐算法。我们得出的结论之一是，社交媒体公司面临的一个巨大挑战是，他们在公众眼中没有合法性来充当所有我们正在进行的对话的公共广场的仲裁者。我认为这就是为什么无论他们做出什么决定，都会受到来自一方或另一方，甚至可能双方的强烈反对的原因之一。在过去十多年里，这已经成为一个持续的特征。
而人工智能的加入，是的，它可能会为他们节省一些人力进行人工内容审核，但最终并不能解决核心的合法性问题。事实上，如果说有什么作用的话，那就是让问题变得更糟，因为人们对人工智能也持有很多怀疑态度，而且当它被那些不怎么受信任的公司部署时，只会让情况变得更糟。我认为我们现在看到的情况与此非常一致，因为人工智能不可避免的错误以及政治风向的吹拂，人工智能的作用被削弱了。也许，社交媒体公司注定要这样做，而不是做出原则性的决定，因为公众不信任他们。
各位观众，如果您正在观看此节目，现在是订阅《CXO Talk》新闻通讯的绝佳时机。只需访问 cxo talk.com，我们将让您随时了解我们即将推出的精彩节目。现在您可以提问了。利用这个机会。如果您在 Twitter X 上观看，请使用 #cxo talk。如果您在 LinkedIn 上观看，只需将您的问题输入聊天框。您何时还有机会询问 Arvin Naran 大约任何您想知道的事情？所以，请利用这个机会。
我们有一个来自 LinkedIn 用户 Greg Walters 的问题，他问：“因为人工智能比 IMDb BD 等能看到更多信息，您不认为人工智能有能力对所有数据进行匿名化吗？”
我认为这里的问题在于数据被匿名化的程度。匿名化和它所涉及的一系列问题。当然，有办法利用人工智能来试图侵犯人们的隐私，试图将他们在一个网站或应用程序上的数据链接到另一个网站或应用程序，将一个数据集链接到另一个数据集。我十几年前在研究生院的时候，我的很多研究都集中在这个话题上，开发算法来表明存在这些重大的隐私漏洞。
最终我得出的结论是，解决方案的一部分是技术性的，但我认为，解决隐私问题，其中一些隐私问题，主要必须是社会性的、经济性的和法律性的。是的，人工智能可能会让不良行为者更容易制造这些隐私侵犯，但总的来说，很多人这样做是有商业动机的，他们这样做是因为，你知道，他们想卖给你更多产品之类的。很少有情况是外国国家对手在追逐某个特定个人的数据和信息。也有一些人面临更高的风险。但对大多数人来说，这是关于有法规来设定一些基本规则，并消除这些严重侵犯隐私的商业模式的激励。
我认为我们在这一点上取得了很大进展。美国没有全面的联邦隐私立法，但在州一级已经发生了很多事情。当然，在欧盟有像 GDPR 这样的法规，很多人担心它对创新的影响。所以，这是这两个地区正在遵循的两种不同方法。但总的来说，我认为在隐私方面已经取得了进展。
让我提一下，对于那些对国际角度感兴趣的人，我们将在四月份有一个节目，与两位英国上议院议员一起，他们一直非常关注网络伤害，人工智能的话题将在我们的讨论中占据中心地位。所以，如果您对此感兴趣，请查看 cxo talk 网站，您会找到日期。
我们有一个来自 Aralon Khan 的非常有趣的问题，我认为它与 Edith 之前的问题有关。Aralon 说：“普通人如何识别人工智能的江湖骗术？谁应该创建道德和伦理权威？是政府、营利性组织、非营利组织，还是某种形式的公共领域？”所以，有两个问题：我们如何识别江湖骗术？谁来创建关于什么是江湖骗术、什么是可接受的、什么不可接受的道德权威？
当涉及到生成式人工智能时，我认为我们每个人都是关于它是否对我们起作用的专家。你知道，每当我看到 Twitter、LinkedIn 或任何地方，一个普通人，他可能不是人工智能专家，但他是自己领域的专家，比如律师、医生或其他什么，他们尝试使用一些声称的人工智能产品，并发布他们的体验。要么它效果很好，并且他们以富有成效的方式使用它，要么它有点效果，并且有一些陷阱，或者它根本不起作用，并且有原因说明它与营销宣传的方式非常不同。我认为这些都是极好的证据。我经常发现自己会参考这些经验报告，这比营销材料，甚至很多时候比同行评审的研究更有价值，因为同行评审的研究必须统一地应用于每个用户，并且会错过人工智能应用在你所在的行业，甚至在同一行业或不同公司中可能与任何其他人不同的许多细微差别。
当涉及到预测性人工智能时，我认为这要困难得多。普通人可能很难做到这一点，不是因为缺乏专业知识，那根本不是问题，而是因为预测性人工智能不是消费者技术。这是最大的区别。它由公司部署，你知道，可能是人力资源部门，可能是刑事司法系统。所以，我们无法访问。
因此，我认为一个非常重要的一步是通过监管，或者通过人工智能工具的客户与供应商谈判，坚持要求我们拥有关于这些工具如何被评估的严格数据，这些数据要超越简单的标题数字，比如 97% 的准确率。真正深入了解使用了什么数据集，在什么情况下部署了它，并要求查看这些数据，并自己判断。
至于谁拥有道德权威，我的意思是，从这个意义上说，人工智能与我们如何监管其他任何事物没有区别。我的意思是，监管最终是源于公众的集体意志，并通过各种方式传递，例如媒体，揭露某些问题；非营利组织，倡导某些事情；公司，当然，通过以身作则或以各种其他方式；最终，监管机构介入，并在此基础上制定或执行政策。
我们现在收到一些关于行业的问题，让我们来看看。第一个问题是 Greg Walters 在 LinkedIn 上问的，关于“教育综合体”中的江湖骗术。是的，有很多。我认为也有很多潜力。但即使我们回到最近对人工智能兴奋的浪潮之前，我认为教育技术一直是失败产品的“坟墓”。有很多很多。我们在书中讨论了其中的一些。我们在新闻通讯中也有一篇文章，题为“人工智能的江湖骗术”，标题是“人工智能新闻业的 18 个陷阱”。我们回顾了教育技术产品是如何在媒体上被描绘的，包括在《纽约时报》上，以及它们提出的许多说法是如何被不加批判地报道的。回过头来看，在这些说法提出几年后，其中许多产品现在已经消失了。
那么，为什么这种情况会不断发生呢？首先，是的，有潜力。有很多有价值的产品。我的意思是，作为一名教育工作者，我们当然使用很多技术产品，而且越来越多地，其中一些产品确实包含人工智能，至少是简单形式的人工智能。例如，我们使用 GradeScope 进行评分，它使用一定程度的人工智能来对不同的学生回答进行分组，以便评分员更有效率。不是人工智能在评分，但它可以帮助评分员。所以，这些是你可以做到的，虽然微小但仍然有用的例子。而且关于人工智能辅导的研究也很多。而且，如果做得好，我认为这会非常有益。当我处于学习模式时，我经常自己使用人工智能。有陷阱，但我确实发现它是一项有用的技术。
尽管如此，我认为这个领域存在如此多江湖骗术的根本结构性原因可能是，我认为更好的教育的关键瓶颈不是更好的技术，而是学习的社会先决条件。至少根据我的经验是这样。例如，十年前，人们认为所有这些著名的教授都在网上发布他们的视频讲座，它们都在 Coursera 或其他在线来源上，所以大学将变得过时。你可以直接在互联网上听到所有这些专家的声音。当然，这并没有发生。事实证明，大学教育的价值不是你获得的信息，这些信息当然可以在网上免费获得，而是创造学习发生的社会条件，动机，承诺，以及一对一的互动，所有这些东西。所以，当瓶颈是这些社会问题时，过度信任技术几乎注定会失败。
那么，预测性人工智能相关的问题在多大程度上是由于技术不成熟、算法不成熟、数据集不成熟，还是由于既得利益和当某人有预定目标时产生的偏见（无论是为了销售产品还是吸引眼球）？
两者都有。我认为更多的是后者，即激励和这些因素。但让我们稍微谈谈技术。我认为技术确实存在局限性，但不是人们可能假设的那种。不是说改进这些模型会改进任何东西。局限性并非由此而来。问题是，最终，只要你采用监督式机器学习方法，只要你使用一个旨在匹配模式的模型，无论它在匹配模式方面有多好，并用它来做出最终涉及因果推理的决定。所以，你知道，如果我们雇佣这个人，会如何影响他们的表现？这是我们要问的因果问题。在医疗保健等方面也是如此。
所以，我们部署人工智能所做的是，将所有这些因果问题简化为纯粹的预测问题。这就是当今技术存在根本局限性的一种方式。有很多研究人员正在研究这个问题，包括我在普林斯顿的一些同事。也有办法将因果推理技术整合到机器学习中，这可能是一条前进的道路。它不会是万能药，但我确实认为它可以带来比我们今天拥有的基于数据的决策系统更好的系统。
尽管如此，很多根本性问题与技术无关。我们在书中讨论的一个例子是预测大学里哪些学生可能面临辍学风险的软件。我现在不是称之为江湖骗术，它是出于好意。所以，你可以帮助那些学生，帮助他们做得更好，把更多的资源花在他们身上。我还没有仔细研究它的准确性，但如果它足够准确以至于有用，我不会感到惊讶。它不必是完全准确的。问题在于某些大学如何使用它。有一份关于一所大学的调查报告，我们谈论的是那些如今面临巨大财务压力的大学。
他们使用它的方式是，他们在学生刚入学时就使用它，以预测谁可能辍学，然后鼓励他们提前退出课程。那么，他们为什么以如此不利于学生的方式使用它呢？那是因为他们认为，如果学生很快退出课程，他们就不会计入他们的入学人数，因此他们的毕业率会看起来更好。所以，如果你，即使产品是出于好意而设计的，即使它工作得很好，如果你以一种最终伤害你的决策对象而不是帮助他们的方式使用它，那不是技术问题。
是的，有技术的适应，技术的运用，人们在天平上加砝码，结果可能导致意想不到的后果。
没错。我的意思是，有时是意料之中的后果，但是的，很多时候是意料之外的后果。
我们现在有一个来自 LinkedIn 的非常有趣的问题，来自 Sh Kiara。他说：“学术界在让人工智能行业对其夸大其词和不公平做法负责方面可以发挥什么作用？想想制药行业，你知道，那里有很多夸大其词和不公平的做法，然后你有医学界，执业医生以及学术医学研究人员。有一种强烈的观点认为，虽然很多医学研究的最终目标是改进我们的药物，但医生并不自动与行业保持一致。事实上，关于利益冲突有严格的规定，独立性受到高度重视。现在对资金来源有很多关注。
相比之下，计算机科学学术界当然比这更广泛，但在构建人工智能的人群中，历史上没有这样的认识。计算机科学的学术领域发展起来，实际上是为了帮助行业，是为了构建更多的技术，原型化想法，并构建可以被行业采纳和商业化的概念验证产品。没有墙，事实上，在行业和学术界之间来回穿梭被高度重视。人们有多个隶属关系，他们认为之间没有冲突。我并不是说这一定不好，我认为它之所以如此是有原因的。但我确实认为我们需要计算机科学界中一个强大的子群体，他们的身份与其说是帮助行业，不如说是作为行业的制衡力量，去核实来自行业的主张。历史上，计算机科学没有这种文化。
现在它开始发展了，我很自豪能成为少数几个扮演这个角色的计算机科学家之一。学术界当然更广泛，比如人文科学中有那么多人对科技行业持批评态度。我认为这真的很好，我认为这种批判性的声音如果更了解技术，可能会更有效。我认为，我认为他们尽力了，但如果他们更了解技术，可能会更有成效。这可以与计算机科学家合作，例如。所以，这是学术界可以更有效地扮演这个角色的另一种方式。
学术界显然拥有专业知识，我们希望学者也比软件供应商拥有更中立的视角。
没错。而且，同样，在大多数计算机科学领域，到目前为止情况并非如此。而且，在计算机科学之外的许多其他领域也是如此。那些使用机器学习来推进化学、政治学、医学等领域的人，往往非常容易夸大其词。他们不是为了赚钱，但是，抱歉，但是，炒作的论文在思想市场上往往更成功。所以，不幸的是，这些不好的激励措施也存在于那里。而且，我认为学术界需要自我约束，这样我们才能开始赢得我们作为更中立和负责任的声誉，而我认为我们目前不配。
这触及了人性的核心，而且实际上与人工智能本身无关，但它与人类的野心、人类的目标等等有关。正如你之前所说，人工智能是由人驱动的，所以人工智能将遭受与任何其他事物相同的打击。我认为这是一个公平的观察。
我们有一个有趣的问题，我将转向 Paula Rooney，她是《CIO》杂志的高级撰稿人。让我们看看是否能给她一个她可以在文章中使用的答案。Paula 的问题是：“人工智能供应商传播的关于人工智能的头三个误解或谎言是什么，而有经验的技术人员，如首席信息官，却相信它们？”
我认为有很多事情是首席信息官可能相信的，因为他们想相信，即使理论上他们应该知道得更好。所以，其中之一是声称这是人工智能，或者它是人工智能代理，这当然是当时的流行语，而实际上是传统的自动化。
我观察到的一个行业趋势是，很多公司，你知道，在 ChatGPT 发布之后，显然有一种巨大的错失恐惧症（FOMO），所以他们都决定进行大规模的人工智能投资。现在已经两年了，很多公司，你知道，董事会和投资者开始问，这项投资的回报在哪里？所有这些人工智能对公司有什么作用？所以，很多首席信息官在这种情况下被激励去做的是，将传统的自动化重新包装成人工智能代理。我并不是说人工智能代理是江湖骗术，但它们被过度炒作了，至少在这个时候。所以，这让他们在某种程度上欺骗了自己，但也以某种方式欺骗了投资者，让他们向公司投入资金来探索人工智能用例。所以，是的，这是至少一个首席信息官在某种意义上落入人工智能江湖骗术的例子。
您认为人工智能代理在某种意义上是伟大的下一个时代吗？
它们在某种意义上已经真实存在了。所以，如果我们看看聊天机器人，例如。当早期聊天机器人发布时，它们只是围绕大型语言模型的网络包装器。你拿一个大型语言模型，你知道，你对它进行微调，让它给出礼貌的回复等等，然后你就基本上让它在网上自由发挥。早期聊天机器人就是这样开始的。它们今天已经不是这样了。它们是成熟的产品，它们有记忆，它们能够编写和执行代码，它们能够搜索网络并查找信息，还有许多其他功能，使它们比纯粹的大型语言模型更有用。我认为将这些功能称为“代理”是合理的。所以，在某种意义上，当我们使用聊天机器人时，我们已经在使用了人工智能代理。这是人工智能代理正在工作的例子。
另一个例子是，你知道，更有效地进行在线研究，不是科学研究，不是提出新想法，而是非常有效地编译关于某个主题的大量信息，或者通过进行几十次不同的网络搜索来编译一大堆东西。像 Google Deep Research 这样的工具，我发现它们非常有用。这非常具有代理性。这些是代理人工智能的成功案例。编码方面也有一些代理用例。所以，有一些小型但重要的成功案例。我认为炒作围绕着人工智能代理可以完全取代人类工人。坦率地说，我认为这有点愚蠢。我不知道人们怎么会相信这一点。当你想到你的工作，或者任何其他人的工作，每天需要完成的几十个，也许几百个小任务时，代理将通过仅仅在互联网上训练文本来学习完成所有这些任务的想法，我认为这是非常非常不可信的。
训练它们完成这些微妙的任务和企业环境的唯一方法是将它们置于这些情境中进行实践，并从错误中学习。这将是一个多年的过程，也许是几十年的过程。它不会是简单地在真空中训练这些代理，然后让它们自由发挥的问题。所以，代理无法自动化我们所做的一切，但它们已经完成了一些小型但重要且有用的事情。
我们有一个来自 LinkedIn 用户 Tikka Nagi 的问题，他说：“您对通过人工智能实现超级智能有什么看法？”
我认为这种超级智能的想法，你知道，我们将构建这个宇宙大脑，它依赖于某些假设。它依赖于我们与人工智能对立的假设。而当我们回顾人工智能的历史时，情况根本不是这样。随着人工智能变得越来越聪明，我们能够将这种智能融入我们自己的工作流程中。而且，至少目前，通过将人工智能能力融入我们的工作流程，我们比以往任何时候都更通用、更灵活，这实际上增加了我们的智能。
所以，现在没有理由认为在可预见的未来，我们会陷入工人与人工智能，或者人类与人工智能的动态。相反，无论模型有多小，最终它都会让我们变得更聪明。所以，整个关于将其称为超级智能而不是超级有用的自动化工具的概念，就假设我们将不受控制地让它自由发挥，而不是让它为我们做事，而是它自己决定做什么。这是一个规范性的选择。这就是我想说的关键点。
我们是否构建超级智能，实际上不是关于技术能力的问题，而是关于我们选择如何部署它的问题。我们可以选择以一种它不是超级智能的方式来部署它，而超级智能很可能是有害的，仅仅因为它太不可预测了。但我们可以选择以一种增强人类能力的方式来部署它，无论人工智能变得多么聪明。
您是否曾被人工智能行业和人工智能供应商指责您对超级智能即将带来的辉煌赞美泼冷水？您是否曾被这样指责过？
我们有不喜欢我们信息的人，来自很多不同的角度。其中一些是人工智能的倡导者，一些是对人工智能和存在风险非常担忧的人，认为我们试图最小化这些风险。我们并不试图最小化风险，我们只是对我们现在应该采取的政策回应有特定的看法。还有一些人非常关注人工智能伦理和人工智能开发的整个资本主义模式，并认为我们应该更加强烈地反对所有人工智能，而我们当然不是。我们谈论的是特定类型的人工智能未能兑现其承诺。所以，在某种程度上，我们认为这是一个积极的方面，我们有来自不同方向的人对我们大喊大叫，而不是全部来自一个方向。所以，这似乎是一个健康的中间地带，也许。而且我也不介意处于这个位置。
健康的中间地带，而不是被一边攻击或另一边攻击，而是被所有人攻击。
没错。您在书中讨论了制度的性质，以及有缺陷的制度如何促成或确实促成了人工智能江湖骗术问题。您能谈谈吗？
经典的例子是招聘和人力资源。我之前批评过这个领域的一些有缺陷的产品，但我认为这些产品之所以能够如此成功，是因为任何有职位空缺的人，你知道，每份工作都会收到数百甚至上千份申请。手动阅读所有这些申请并面试人们等等，这是不可能的。所以，当一个人工智能供应商进来，说我们可以自动化这个问题的大部分时，这似乎非常非常有说服力。即使我们在心里知道产品可能达不到宣传的效果，但我们仍然觉得非常诱人，可以把我们的怀疑放在一边，以便从这种效率提升中获益。
但问题是，如果你有一个根本性的情况，比如每份工作申请人太多，那就是你的制度或组织的问题。技术不太可能解决它，因为现在发生的是，求职者也在使用人工智能来大幅增加他们可以申请的机会。所以，这只会制造一场军备竞赛，我认为更多的技术无法让我们摆脱这场军备竞赛。
所以，我认为我们应该考虑改革我们的招聘方式。而且有很多很棒的想法。我知道一些软件公司招聘，你知道，不仅仅是基于简历和面试，而是通过与某人合作进行为期两周或一个月的带薪项目，这样他们就可以更深入地评估他们的技能和他们是否适合这个职位。所以，这只是一个想法。还有很多其他这样的想法。我真的很喜欢部分抽签。我的意思是，我们可以对某人胜任某个职位的基本资格进行一些评估，但除此之外，试图对申请人进行排名只是自欺欺人，因为一个人在工作中的表现有多么不确定。
一个人在工作中的表现差异不是因为一个人比另一个人更有能力。我的意思是，这解释了一小部分差异，但很大一部分是因为，我不知道，他们可能不适合这位经理，而这些事情在你试图招聘某人时甚至还没有确定。所以，我们能做的最好的就是进行一些基本的筛选，然后随机选择。如果我们对此坦诚相待，我认为这将大大简化流程，并为申请人带来一些清晰和安心。而且，你知道，可以在不降低申请人质量的情况下，为我们节省招聘过程中的很多麻烦。
Arvin，您描述了一个特定的用例以及如何改进该流程。当然，这会因行业、流程和您所关注的内容而异。有没有一种方法可以从政策角度来看待人工智能本身，如何管理人工智能，如何潜在地监管人工智能，以推动那些跨越所有这些用例的根本性变革？我之所以这样问，是因为它对政策努力具有深远的影响，无论总体人工智能控制和政策是否能在这种特定用例或应用程序的问题面前发挥作用？
我认为大多数政策和监管应该是行业特定的，应该是用例特定的。但我认为有几个案例值得至少思考一下人工智能范围内的控制。
一个是公开发布模型权重的问题。这应该被禁止吗？政策制定者应该对此保持中立，还是应该鼓励它？用公共资金投资建设和发布开放权重模型？这当然是一个非常有争议的问题。我们倾向于开放的一方，我们写了很多关于这个问题的文章。
为什么，嗯，我们采取那种积极的视角，所以这是一个例子，而且你知道开放的好处，也有风险，但我认为开放的好处将在每一个行业中得到实现，因为它使得采用一个模型，为你自己定制它，潜在地降低成本，因为你可以在本地运行它，潜在地更好地保护隐私，出于同样的原因等等等等，所以它可以带来跨领域的益处。另一个是，嗯，劳动力，所以，嗯，如果你不介意，我给你一个历史上的类比，在工业革命之后，最终每个人的生活水平都提高了，你知道，这是发生过的最好的事情，但在此后的三四十年里，它导致了糟糕的劳动条件，因为人们从农村迁移到城市，那里的安全条件很糟糕，工作时间你知道，每天16小时，工作场所安全根本没有，也没有集体谈判，而现代劳工运动就由此而生，对吧？所以今天人们担心人工智能正在重塑资本和劳动力之间关系的巨大格局，可能会出现大规模的失业，即使在那些不一定失业的领域，你知道，人工智能可能会，嗯，嗯，让工作变得更加枯燥乏味，因为也许你现在的工作就是整天为人工智能做数据标注，而且我们知道很多这样的工作是如何进行的，那些工作被外包给低收入国家，在那里，人们抱怨非常糟糕的工作条件，所以也许我们需要一个针对人工智能时代的新型劳工运动，这再次可以真正跨领域，并可能以某种方式帮助每一位工人。所以你的意思是，在这一刻，我们正处于这个过渡时期，我们可以称之为“人工智能前”到“成熟人工智能”之间，这些社会问题、失业问题和经济模式已经得到解决，所以我们现在正处于这个混乱的中间地带，正是如此，这就引出了一个问题，我们应该怎么做？首先，让我们从用户开始，商业领袖们，有没有什么框架我们可以用来评估什么是骗局，以及我们应该在公司内部怎么做？我能建议的一件事是，我之前提到过一篇文章，叫做《人工智能新闻业的18个陷阱》，这不仅仅是记者需要看的，而是任何你看新闻、读新闻或者其他任何事情，并且正在获取大量关于新人工智能产品信息的人都需要看的。你不必看我们具体的列表，但要心中有一个方法，知道要警惕哪些陷阱，因为其中一些只是反复出现的问题。你可能会看到一个说法，比如准确率达到97%，但没有关于它是如何评估的背景信息，这让你无法判断该评估是否真的适用于你的特定情况。所以这是你在遇到关于人工智能的信息时可以做的一件事。第二件事是，你的组织在尝试、试点、部署人工智能，以及围绕人工智能设置护栏的文化是怎样的？个人工人在这里有一个角色，有一个自下而上的方面，但也有一个重要的自上而下的方面。从自上而下的角度来看，我认为公司需要做很多事情。它们需要设置正确的护栏，隐私和保密不能留给个人工人，这些必须在公司层面强制执行。还有一些更微妙的问题。例如，沃顿教授伊桑·米克写过，在很多情况下，当员工尝试基于人工智能的创新，以加快工作流程时，他们可能不愿意在公司内部分享，因为他们担心现在他们只会得到更多的工作，而不会因为他们为公司同事引入的这项创新而获得任何功劳，对吧？所以这同样必须以自上而下的方式来解决。你如何给予人们实验的自由，想出新的东西，然后从中获得一些回报？所以这些是几个例子，还有很多其他的事情，但我不希望，是的，我想确保我们能回答所有问题。那么从营销角度来看呢？因为当我们谈论骗局时，在我看来，你实际上是在谈论“所谓”的广告宣传与它所产生的期望之间的差距，以及与结果的现实之间的差距。当我们看营销时，有很多不同的方式可以过度宣传，首先就是决定称某物为人工智能，对吧？而且，你知道，这有一个巨大的激励。所以也许在这方面，市场会自己纠正一些。你知道，开始出现一些反对一切都被称为人工智能的呼声，所以也许人们会停止在一切东西上贴上人工智能的标签。但如果你要称某物为人工智能，我期望一两件非常基本的事情是，好的，这其中哪一部分是人工智能？哪种类型的人工智能？人工智能被要求解决什么任务？仅仅是关于这一点，就会带来很多清晰度，这样人们就可以自己评估，我们认为这甚至是一个人工智能能够完成的任务吗？然后更进一步，展示其背后的证据，对吧？我认为这两步将解决绝大多数人工智能相关的炒作问题，但我知道这说起来容易做起来难，因为有这么多这些，嗯，嗯，不一致的激励。软件公司内部有很多压力，需要吸引眼球，销售产品，而人工智能在很多情况下是一个黑箱，所以非常非常诱人，即使你不直接说，也要暗示，嘿，你知道，我们有这个东西，它会解决你的问题。完全同意。那么政策制定者呢？你对政府政策有什么看法？应该有吗？它应该包含什么？我们应该如何实现？是的，很多人喜欢嘲笑政策制定者或抱怨他们，但我会冒着风险说，到目前为止，他们在人工智能方面做得相当不错。当然我也有我的抱怨，但我确实在某种程度上与政策制定者合作，你知道，至少每周一次，我近距离观察过他们，我会说几句好话，也会说一些不太好的地方。所以，人工智能监管不是一个狂野的西部，这完全不真实。仅在2024年，美国50个州立法机构就引入了近千项人工智能法案，其中许多已经通过。事实上，许多人担心过度监管，所以这种狂野的西部想法根本不真实。我认为很多人工智能监管都集中在人们如何使用它，而不是技术本身。而在美国，我们通常采取逐个行业的方法，我认为这大致是正确的方向。另一个引起很多担忧的领域是，政策制定者并不非常懂技术，这非常真实，但你在电视上看到的政治家并不是真正制定政策的人，是他们的幕僚，是机构，是他们的总检察长等等。而在那些地方，由于对GPT和人工智能风险等的担忧，技术专业知识的水平在过去几年里实际上大大增加了。所以这些都是进步的领域。我认为还有很长的路要走。我认为存在一些担忧，例如，当你比较美国和欧盟时，有些人会说我们比他们落后很多，我们在联邦层面没有多少立法，并且对此感到担忧。也许这种50个州的方法不对，它只是给公司带来了太多的监管负担。所以这些都是可以抱怨的事情，你知道，事情并不完美，但我认为我们必须从认识到，总的来说，事情进展顺利开始。在政策领域，情况并非一团糟。Arson Khan说，如何创建一个理想的人工智能就绪组织？老牌组织还是初创公司有更好的机会？我不知道是老牌组织还是初创公司，但我会说，我认为这真的必须围绕你的行业和你的用例来定位，对吧？我认为，你知道，人工智能经常被视为一种万能药，但你必须从你的问题开始，然后寻找人工智能如何帮助你现有的工作流程，而不是将其视为一种一站式解决方案。所以我会把它颠倒过来，我会从你需要解决的问题开始。董事会如何评估道德声誉、财务脆弱性以及像人工智能这样高度技术化且快速变化的技术？好消息是，虽然人工智能确实高度技术化且变化迅速，但当我们考虑人工智能的哪些方面会导致伤害、担忧或声誉风险时，这些都是已知的数量，对吧？例如，当我们谈论更简单的人工智能形式，更简单的机器学习模型时，偏见是一个大问题，对于生成式人工智能模型来说也是一个大问题，对吧？而且我们大致知道如何审计偏见，而且这在很大程度上不依赖于模型的具体细节。有一个专门的人工智能偏见审计社区，他们也在研究更新的人工智能模型。所以，如果我们不那么关注技术本身，而是关注它带来的伤害和风险，事情可能出错的方式，我们为最小化这些风险而建立的流程，那么我们就不会那么容易受到技术波动的影响。我还要在这里提到，我们之前谈到了学术界，有一些学者确实在研究这个偏见问题，我相信他们也能帮助商界人士，绝对可以。至此，Arvin Naran，非常感谢您抽出宝贵时间与我们在一起。我非常感激您的时间。这是一次非常有趣的讨论。非常感谢您邀请我。我喜欢您和观众提出的所有问题。非常感谢在座的各位。在您离开之前，订阅我们的新闻通讯，访问cxo talk.com，查看我们即将播出的节目，我们有非常非常精彩的节目即将播出。祝大家有美好的一天，下次再见，保重。[音乐][掌声][音乐]