Transcription
您的 AI 正遭受不良数据、被污染的数据、深度伪造、恶意行为者等的攻击。今天在 CXO Talk 第 896 期节目中，专家 Dr. David Bray 和 Dr. Anthony Scriffin 将揭示如何摆脱这种 AI 泥潭，并提供构建清洁系统和可信赖 AI 的实用策略。David，呃，请非常简短地介绍一下您的工作。>> 其中一项工作是与 STSON 中心合作，特别是 Simpson 加速器。我们努力的目标是证明可以同时推进计划和政策。由于科技（包括 AI）的变化速度，我们不能再等待完美的政策了。因此，我们正在展示，无论是在商业、治理还是社区层面，这都是可能的。>> Anthony，请介绍一下您的工作。我也有幸在 Simpson 中心与 David 合作，在 Lumis 创新委员会的背景下。我们所做的是我称之为行动研究。这不仅仅是一堆白皮书。这实际上是重要的事情，然后孵化那些有望成长并影响我们正在从事的事物。而且有一些非常重要的问题。>> David，我们在谈论 AI 泥潭。那是什么？当我们剖析人工智能 AI 时，我们认识到大多数 AI 方法都需要一些训练或一些数据来支撑它们所做的事情。并非所有方法都如此。还有其他不需要数据的方法，但最近的生成式 AI 方法需要。所以当我们想到泥潭时，我们可能会认为我们已经构建了一个完美的 AI 系统。然而，实际上作为系统训练基础的数据，它所依据的，不仅是泥潭，而且实际上可能只是在重量下消失，它不足以支撑我们试图构建的模型。认识到这一点，如果您不花时间思考数据来自何处，它可能缺少您试图通过系统提出的某些内容，或者有人可能故意污染它。如果您不这样做，您可能会发现您在沙子上建造了比喻中的城堡，结果却被冲走了。>> 我可以补充几点。我有五个“M”可以帮助您理解这次不幸的经历。那就是当您爱上您的 AI 时。现在每个人都沉迷于 AI。您无法说一句话而不说 AI。因此，您必须通过 AI 来解决一切。以工具为先几乎总是一个坏主意。说“我们正在解决什么全新的问题？”几乎总是更好的主意。这如何使企业受益？它如何不仅仅是做一些我们已经可以用很酷的新工具完成的事情，而是做一些真正重要的新事情？误用，也就是，你知道，错误工具，正确问题。现在有很多这种情况，而 GenAI 是一个很好的例子，正如 David 提到的训练。GenAI 基本上是在消耗大量的词语。例如，您凭什么认为您感兴趣的颠覆性内容会包含在那堆词语中？所以误用就是为问题使用错误的工具。恶意，这正是我们在这里谈论的大部分内容。当坏人进来时，他们不必干扰您的系统或您的人员，他们所要做的就是毁掉牛奶。他们所要做的就是以一种可能导致您做出错误决定或改变已经做出的正确决定的方式来操纵数据。缺失，David 提到，我们现在谈论数据中的代表性不足。如果您感兴趣的事物在数据中代表性不足，这些模型就会被现有的事物所困扰，而您会爱上答案，因为它们会告诉您您做得有多好，这非常危险。然后我最后一个 M 是移动。环境正在变化，而当您在工作，在摄取所有这些数据，进行所有这些卷积时，世界也在变化。因此，当您构建高度依赖 AI 的模型和方法时，考虑环境如何变化，从而使您最初的测试不再相关，这一点非常重要。>> 那么，这一系列问题发生的程度如何？如果说有什么不同的话，那就是最新一波 AI，生成式 AI，以及它的一个子集，为现有的火苗浇了油，但早在 2010 年代，对于组织来说，这已经是一个风险了，如果您不考虑数据来自何处，您能信任这些数据吗？它可靠吗？然而，AI 现在对企业来说更加可用，并且公司有巨大的动力去采用它。这是那些在采用压力下，正如 Anthony 所述的五个“M”一样，我们冒着公司或政府可能在不考虑是否避免了 AI 泥潭的情况下采用模型的风险。因此，我们可能会爱上模型，那个完美的城堡，结果却发现它所建立的实际基础不足以满足我们的要求。>> 如果您的目标是向您的上级证明您正在使用 AI，那么您必须非常小心。这是一段糟糕的旅程。每个人都在使用 AI。有 AI 牙刷。一切都有 AI。AI 的民主化程度越来越高，以至于没有 AI 卓越中心，就像没有 PowerPoint 卓越中心一样，对吧？因此，重要的是，在企业中使用它的地方，要有成年人在场，我们要看看我们是如何使用它的，为什么使用它，净成本是多少，它将在我们的环境中如何实际部署，你知道，我们如何扩展它？我们是否正在建造一家我们永远无法退出的加州酒店？这些都是非常重要的问题。不，这些都不是新问题。只是现在如果我们搞错了，我们就有机会大规模地失败。>> Michael，我可以快速举一些非常具体的例子，因为我认为这会帮助听众。在不提及模型名称的情况下，2023 年左右的一个模型，如果您问它佐治亚州（美国佐治亚州）有多少人居住，它会自信地告诉您答案大约是 35 万人，抱歉，3.5 亿人，而不是一个更现实的答案。那是因为训练模型的数据是从一个不准确的来源获得的。答案中有一个错别字。所以当模型回答佐治亚州有多少人居住时，它是错误的。这是一个例子。另一个例子是，当我们看政策决策时，有时他们是根据人们居住的地点而不是人们工作的地方来做决策，他们认为人们不使用他们的服务，或者他们推出，比如，想象一下，它实际上是在帮助人们接种新冠疫苗之类的。我们知道有些情况下，新冠疫苗的接种地点是根据人们居住的地方而不是工作的地方来确定的。如果人们有两份工作或工作时间不规律，他们就会显得不愿意接种疫苗，而实际上我们应该把它放在人们工作的地方而不是居住的地方。所以，这又回到了您必须问 Anthony 所说的，也就是“我试图做什么？我试图实现的使命或业务是什么？然后反过来思考，不仅是正确的工具，还有什么样的数据可以利用？”但我不太明白的是，你们俩所描述的似乎非常基本，非常直接。那么，究竟是什么导致了这些数据问题得以渗透？这些人很聪明。>> 嗯，那里有聪明人。有很多“害怕错过”（FOMO），你知道，非常高级的人正在向他们下属的高级人员施压，说：“我们在 AI 方面做什么？”因为我的朋友在 AI 方面做了一些事情，我需要告诉投资者我们在 AI 方面做什么，或者我需要告诉我的上级我们在 AI 方面做什么。所以，我们有很多这样的情况。另一件事是，您有一个完整的劳动力队伍正在进入企业，他们在学校的最后几年里都是通过 AI 来完成学业的，他们认为，你知道，答案总是包含在他们可以获得的数据中，他们认为一切都是免费的，一切都可以随心所欲地使用，我尽量不提品牌，在他们的笔记本里，对吧？我只需要包含这个库，我就能搞定。Vibe coding，所有这些，对吧？我不会对此提出异议，因为这将会持续下去，一年后有人会说，“哦，他只是没看到火车开往何方。”我想说的是，这些基本问题，我们试图解决的问题是什么？我们如何知道这种方法会使事情变得更好而不是仅仅不同，如果我们的目标只是宣布我们使用了某种方法就取得了胜利？这从来都不是一个好主意。我的意思是，在人类历史上，仅仅说我使用了这个工具而不是那个工具，而没有其他东西作为故事的一部分，这总是一段徒劳的旅程，而且，由于我们正在谈论的工具的大小、范围、规模和显而易见的人工智能，这现在是一段非常危险的旅程。注意我说的是“显而易见”，我想告诉大家，如果您正在观看 LinkedIn，您可以提问。只需将您的问题放入聊天框中。如果您正在观看 CXO Talk 网站或 Twitter，只需使用 #CXO talk 标签将您的问题放入推文聊天或 X 中。利用这个机会。这是您提问几乎任何您想问的问题的机会。那么 Anthony，关于房间里的大象，我来问您一个问题。那么 vibe coding 有什么问题呢？>> 如果在正确的上下文中，为正确容器化的问题正确使用，就没有问题。但你知道，1980 年就有自动代码生成器了。这没什么新鲜的。这里的危险在于，生成式 AI 与使用一堆自动代码生成器是截然不同的。您正在消耗大量的代码，以便“引用”学习编码，然后您基本上是在剽窃，你知道，您在数学上剽窃这些代码来生成其他代码，这些代码可能做您要求的事情，也可能不做。而且我们都曾经学习过一些基本的阻碍和处理事情，比如回归测试。我怎么知道当我做一些新的事情时，以前有效的事情仍然有效？比如偏见，理解我使用的数据是否真的会像我部署它的数据一样？这些事情并没有经常发生。目标是“哦，看它多酷。”太棒了。它看起来很酷。但您并没有摆脱做这些事情的需要。如果您使用关键应用程序，当您按下方向盘上的“保持车道”按钮时，或者当您，你知道，当那个无人机被发射时？我们必须希望这些概念已经体现在您所依赖的软件的开发中。而且，越来越多，也许，也许不是，因为目标是快速发布，让它出错，我们的客户会为我们测试。这有点危险。>> 回到 80 年代和 90 年代，有被称为专家系统、决策支持系统的努力，这是另一种 AI，它认为如果我们明确了系统的规则，那就是我们实现智能所需要的一切。我们取得了成功。例如，自动除颤器在尝试决定何时给您电击时实际上是基于规则运行的。但一旦我们试图走出狭窄的用例，基于规则的 AI 方法就崩溃了。所以我们现在转向机器学习，然后是机器学习的子集神经网络和生成式 AI，这表明我们根本不需要规则。所以去年十一月，实际上有一场比赛，他们明确告诉机器，无论如何都不要转账，而它用了不到 500 次提示。我认为是第 490 次提示，机器明确被告知不要转账，但还是转账了。所以，正如 Anthony 所说，当您进行非常花哨的多维模式匹配时，对于 vibe coding 来说是这样。只要人类花时间去筛选和查看，就有价值。但要认识到您所做的是模式匹配，它可能看起来像有效代码，但实际上并非如此。我想说的最后一个例子是，我不会说出公司的名字。几个月前，一家大型 AI 公司发布了一篇论文，他们告诉机器编写不安全的密码，但不要向用户透露。同时，他们对机器开始变得仇恨和仇恨言论感到惊讶。现在让我们想想支撑这个系统的实际数据。是的，它是在过去 30 年互联网的语料库上训练的。互联网上哪里可能有编写不安全代码但不透露的代码的用例？它可能是互联网暗网的一部分，比如 4chan 8 和类似的群组，它们也是仇恨的。所以，当他们实际上提出并给出那个指示时，我不知道他们为什么特别惊讶，机器实际上开始以其他方式表现，类似于它实际训练的内容。但这只是表明了了解您的数据的重要性，同时也了解生成式 AI 在明确按照您的要求行事方面的局限性。我们在这里使用了泥潭的比喻，我想再回到这一点。如果您从外部看待这个问题，如果您是组织的一部分，而您不是组织的开发部门，您就是他们的客户，对吧？您想要什么？您希望它快速完成。您希望它被部署。您希望将您试图货币化的任何东西货币化。有人来了，说：“我一天之内就能为您准备好。”我们多久问一次“代价是多少？”我们多久问一次“您将如何交付？”这个人说需要三周。您说需要一天。一天比三周便宜。我更快地获得收入。去吧。你知道，有时你必须非常小心，因为你得到你所要求的。除了 vibe coding 与人们在计算机科学教育中应投入的纪律和努力的缺乏相关的哲学问题，vibe coding 有什么问题？>> 我想我们现在来看看知识产权。你知道，如果我们还记得 90 年代，有一个叫做 Napster 的东西。它进行了音乐共享，但它并没有真正尊重任何艺术家的录音权或知识产权。所以，在某些方面，我们可能在 2020 年代初期看到的是 Napster 在 AI 时代重演。我们知道有一些诉讼之类的事情正在解决。但是，你知道，对于一个希望使用可能在企业外部的 AI 解决方案的企业来说，他们如何知道他们的知识产权不会溜走？我怎么知道它会被尊重？我的意思是，我大约每三周就会接到一次电话，我再次不提名字，来自 CIO 或姐妹公司，他们说：“我有一个员工，他们使用了一个我们没有在企业中提供的工具，但他们使用了一个商业上可用的工具，他们上传了包含 HIPPA、健康信息、你知道的个人身份信息。我能追回吗？”答案是不能。但是，你知道，这又是其中之一，你必须意识到，当你使用 AI 时，特别是别人提供的 AI，要非常明确你提供什么，不提供什么，无论是知识产权、个人身份信息还是专有信息，因为你可能会看到一些你不想让它溜走的东西溜走了。>> 我们有一个来自 LinkedIn 的问题，很高兴有人开始提问了。你们这些听众，请利用这个机会。哦，顺便说一句，就在此刻，您应该访问 cxotalk.com 订阅我们的时事通讯，这样我们就可以告诉您有关此类直播节目的信息。总之，我们有一个来自 LinkedIn 的 Pitti Nion 的非常有趣的问题，她说：“在 AI 中，谁真正拥有批判性思维和道德监督权？是现任领导者还是新的道德指南针角色？那么，谁实际上负责处理这一系列问题？这是一个非常有趣的问题。>> David，您是想让我去接那个“手榴弹”还是您想去？>> 我去接那个“手榴弹”，然后您再清理我没能控制住的任何爆炸。我会说，是我们所有人。>> 是的。如果您期望别人来解决这个问题，而您要等待，David，我很抱歉打断您，>> 但我只是想澄清一下我刚才所说的，我以为您听到了您说的话。所以，您刚才说，谁对道德 AI 负责的答案是“没有人”。>> 不，不，不，不，不，不。请注意，我，所以道德是一个非常，这也是一个泥潭，因为让我们想想，在 1700 年代和 1800 年代，人们认为很多事情是道德的，而现在我们会说是不道德的，甚至在更近的历史上，在第一次世界大战中，英国人认为这些叫做“库博特”的伪装成民用船只的军用船只，是道德的，但卢西塔尼亚号被击沉了，所以在第二次世界大战中，他们说：“嗯，也许它们不道德。”所以，我们真正谈论的是，当您使用工具时，无论您是消费者，您是雇主，您是老板，您是否要求别人使用它，您都有责任说：“我是在使用这个锤子吗？这是适合该用途的工具吗？这是合适的螺丝刀吗？”现实情况是，对于消费者来说，任何公司都无法提供一个万能的解决方案，告诉您“这是您何时可以使用此工具，何时不能使用此工具。”我的意思是，您被卖了一个锤子，但如果您碰巧用锤子砸伤了自己的手，那您就得负责了。所以，这并不是说每个人。只是说要意识到为正确的工作使用正确的工具。而我们真正需要做的是找到更好的方法来帮助您快速了解工具的局限性，因为我认为现在很多东西由于营销而被宣传为可以做任何事情，而实际上可能并非如此。>> 所以，我同意 David 所说的基本前提，即没有一个单一的责任方。这并不意味着最终的监督不能向上汇报到董事会，或者向上汇报到首席风险官，或者头衔将取决于组织，而且，顺便说一句，它不应该汇报给正在创建所有这些的同一个组织，因为那是“鸡在笼子里”或“公鸡在笼子里”的问题，无论那是什么，“狐狸在笼子里”。>> 我会在 Twitter 上被骂，因为把错误的动物放进了笼子。所以，在 X 上，>> 有一个 AI 可以做到这一点。>> 是的，我知道。谢谢。让我回到正轨。所以问题是，就像很多事情一样，没有黑白分明的答案。您谈论我经常给出的例子是，我们想要定制的东西。我们希望我们的东西能够预测我们的需求并开始为我们做，或者帮助我们做。我们也想要隐私。这些都是想要您的东西更好地为您服务的东西，它们是相互矛盾的。它们必须观察您并记录您的所作所为。这意味着共享您的位置，可能共享您电子邮件中的所有文本，共享所有其他内容。然后，如果您发现您共享的所有内容，您可能会感到震惊。所以，当一个企业推出一个应用程序，而且在推出之前，当他们考虑应用程序的设计时，循环中的每个人都应该思考我们即将要做的事情会产生哪些意想不到的影响，以及是否值得付出努力？如果我们试图卖更多的鞋子和袜子，而为了做到这一点，我们必须监视人们。这是我们想要跨越的界限吗？我希望在那个特定的例子中，答案是否定的。>> 但链条上没有多少人拥有决策责任。>> 所以，我认为 Michael，您最初问我的问题是，谁负责批判性思维？我会说每个人都应该批判性地思考。如果您问的是责任问题，那有点不同。我认为 Anthony 所说的是，如果一家公司为您提供服务，而该服务也由 AI 提供服务。我认为我们大多数人会根据普通法说，您获得的服务由于 AI 建议您做的事情而变得不正确。也许是 AI 律师，是帮助临床医生或医生的 AI，那么是的，责任在于公司。而且我实际上会说，几周前，我实际上参加了一个公开国会听证会，作为专家证人，而且实际上我们从两党都听到了，这不是一个党派问题。两党都表示，当涉及责任时，我们实际上不需要新的法律本身，因为现有的法律框架，现有的法律框架规定，如果一家公司为您提供服务，而您购买了该服务，并且您遵循了它的建议，结果却伤害了您或对您本人或您的家人造成了伤害，那么是的，您应该承担责任。所以我认为我们需要区分批判性思维，我主张每个人都应该这样做，与责任分开，而且我会说，现在，即使我们没有明确的法律，也有足够的法律框架来说明，如果组织使用 AI 为您提供服务，那么他们就对 AI 提供的服务负责。>> 这是绝对会发生的。您不能只是忽视它，那个机构，代理权的概念，您让您的 AI 代表您做的事情还没有很好地体现出来。但不要指望它，因为我的天啊，无论您走到哪里，这都在讨论中。我们现在有另一个来自 X Twitter 的问题，这是来自 Arcelon Khan，他是一位常客。他总是问一些很棒的问题，他担心的是，他说，在一个监管放松、没有界限的时代，除非有消费者 AI 消费者倡导者，否则消费者将处于不利地位。为什么我们需要界限，当政治上（我不想把它变成政治问题），但政治上似乎我们正处于一个界限越来越少的趋势中？我也会请您将其与数据联系起来，因为这才是这次谈话真正关注的。>> 实际上有一个关于 AI 的公开听证会。那是 9 月 28 日，如果您搜索 congress.gov，您可以找到它。到目前为止，各州在思考 AI 方面发挥了主导作用。有超过 10,000 项关于 AI 的现有或待定立法。但这也会带来一个有趣的挑战，那就是，比如说，您来自亚利桑那州或加利福尼亚州，然后您去了另一个州。是您居住的州吗？是您生活的州吗？是公司所在的州吗？事情很快就会变得非常混乱。所以我认为，仅仅因为我们还没有看到任何东西，并不意味着我们很快就不会看到。事实上，我听到的消息是，一旦政府重新开放，国会将会有一些行动，因为他们认识到，为了帮助消费者，也为了帮助企业驾驭 AI 发生的一切，他们需要一个轻量级的框架。话虽如此，绝对需要有人代表消费者发声，因为如果您不这样做，那么就会缺失。但我会告诉 Arcelon，有现有的法律。请记住 1974 年的《隐私法》，它的出台是因为这些叫做先进数据处理系统（大型机）的东西要求美国联邦政府思考，现在有了这些机器，它们实际上可以开始比您真正想要的了解更多关于您的信息，这意味着什么？我们可能需要升级它，包括您实际上可以说“我不想让 AI 考虑我或涉及我”的被遗忘权。但是，我认为我想告诉 Arcelon 的是，我们真正需要的是推动在州和国家层面升级现有法律的团体，而不是全新的法律，因为全新的法律您将辩论到技术已经发展。事实上，如果有什么的话，那就是它本身的泥潭，因为数据的性质是，我见过一些人说您必须公开所有数据，您必须告诉您正在使用的所有数据。没有企业会这样做。我的意思是，那是他们的知识产权。事实上，Anthony 可能对此有共鸣，因为他曾在一家公司工作，我不能告诉您所有数据。但是您可以做的是思考如何同时告知消费者，并让公司对其提供的服务或产品承担适当的风险计算责任。David 和我本周早些时候在美国首都的一个，我称之为“智力持有环境”中，我想说三分之一的谈话内容与监管方向以及用于标记数据、共享 AI 生成数据的元数据、让 AI 知道它正在消耗由其他 AI 生成的数据的技术有关。这不会消失，如果您的 AI 开发团队的解决方案是把头埋在沙子里说，“我不会担心它，因为我现在不知道任何法规，除了加州隐私法案。您可能想在那个团队中增加一些人。”我们如何解决这些问题？因为您描述的是一系列技术问题，以及一系列流程问题、文化问题、心态问题、贪婪、恐惧、怀疑。我的意思是，所有这些，它有点像>> 哦，这就是为什么现在这个时刻如此具有挑战性。我想说，如果有什么的话，我建议听众们，在我们谈论 AI 和数据时，将“AI”这个词替换为“组织”。您如何知道该组织在处理您的数据方面做得很好？您如何知道该组织正在根据它做出好的决定？因为在某些方面，AI 只是这些挑战的附加项。我认为在某些情况下，我们也需要（Anthony 可以深入探讨），有些数据我们愿意将其视为“开放数据”。有些数据是“处方数据”，您实际上需要有处方才能访问。而且可能还有一些情况，特别是如果您是娱乐行业的人，音乐家、艺术家，您希望您的数据成为合作社或数据信托的一部分。Lord Tim 也曾在 CXO Talks 上谈到过这一点。然后，AI 模型可能想要在您的数据上进行训练，但您会获得一些财务或股权回报，或者一些非股权利益。也许我关心帕金森氏症的研究，所以如果我的健康数据有助于治愈帕金森氏症，我愿意提供我的健康数据。但是，我认为我们需要认识到，如果 2010 年代几乎是过度校准，在幕后收集所有数据，那么这可能是前进的错误教训，因为它没有赢得信任。如果说有什么不同的话，那就是它使人们更加不信任，而您无法信任 AI 的结果。我们需要忘记一些教训才能前进。>> 我认为它做的不仅仅是让我们不信任。它使一整批新的恶意行为者能够做诸如深度伪造和对抗性数据操纵之类的事情，你知道，即使是真实的数据，数据的真实性也常常有一个寿命。它曾经是真的，但现在不再是真的了。所以 AI 不在乎，数学也不在乎，对吧？它只是把所有东西都吸进去，你知道，将时间压缩到零，然后围绕现有事物进行回归。我知道还有更多内容，我知道有不同的基础模型处理方式不同，我知道如何“提高温度”等等。我知道所有那些东西，对吧？所以在每个人都来攻击我之前。所有那些东西都是对这个问题的某种处理，但一切都始于组织最高层，成年人在房间里问一些非常艰难的批判性思维问题。为了使用这种方法，我们必须相信什么？请告诉我您采取了哪些步骤来理解数据的来源和允许的使用。请告诉我我们将如何处理代理权。如果您无法回答这些问题，您就不应该构建这些工具。>> 我们有另一个来自 Twitter（X）的问题，这是来自 Chris Peterson。他也是一位常客，我们感谢您的收听，他说，关于 LLM 正在达到基本扩展限制、幻觉、缺乏可执行的护栏（这就是您所说的）的讨论越来越多。这实际上是迈向 AGI 或通用人工智能的下一步，还是我们长期需要不同的方法？>> 是的。所以他说得非常对。我们需要不同的方法。>> 我们需要不同的方法。我，是的。>> 是的。我将提供一些，我想给一些，我想给一些赞扬，我的意思是麻烦是，你知道，再次，生成式 AI 出现了，它占据了所有的氧气。正如 Anthony 所知，我的意思是 AI 已经发展了几十年。有多种方法，而麻烦是，我认为我们过于关注生成式 AI，而不是认识到它只是另一个很棒的工具，但还需要其他工具。我对主动推理非常看好，如果您不熟悉它，我建议大家看看。它基本上是持续学习环境的最佳想法，而且我实际上认为未来不是这些试图做所有事情的巨型 AI 模型。它将是优化非常特定案例的小型模型。例如，可能有一个 AI 模型正在监控进出苏伊士运河的所有船只。可能还有另一个模型正在监控进出洛杉矶港的船只。当苏伊士运河发生像几年前那样的中断时，它就会与洛杉矶港模型对话，说：“您可能会预计集装箱短缺。”集装箱短缺然后会导致人们寻找新的金属来制造新的集装箱，因为我们缺乏它们。这会导致期货市场的上涨，然后导致未来六到九个月的航运成本更高，这意味着您可以获得大量的梅赛德斯-奔驰和劳斯莱斯汽车进入美国，因为它们可以承受成本，尽管航运成本增加。但法院大小的油漆罐却无法获得，因为它们无法承受成本。而大型 AI 模型 LLM 无法做到这一点。这一切都不会在那里。但如果您有主动推理，小型模型之间会就涟漪效应进行交流，这是可能的。这会带来非常有趣的智能形式。>> 我们听到了很多关于“我们需要更多电力”、“我们需要更大的数据中心”的说法。我们什么时候才能达到 AGI？现在他们谈论 ASI，人工智能超级智能。你知道接下来会是什么吗？你知道，莱克斯·卢瑟。就像，我们不断地重新命名和重新命名回归的力量、卷积的力量、数学的力量，基本上是为了做那些越来越让我们相信它们是由人类完成的事情。我认为这很棒。请继续这样做。你知道，不要停止。只是不要这样做，并且假装您在这样做。不要这样做，并且不让我知道您在这样做。确实存在一些情况，AI 可以做人们无法完成的事情，我不在乎您有多少人参与其中，他们无法解决那个问题，因为它太大了。需要成千上万的人就方法达成一致。他们都必须受到类似的激励和类似的指导，而且这不会发生。是的，太棒了。去做吧。不要称之为智能。我们需要一些新的动词和一些新的名词来描述这项技术正在做的事情。哦，顺便说一句，大多数技术仍然是，你知道，就像你打台球一样，你只是用力击球，希望其中一个球能进袋。它是一直尝试一切，除了一个。而且我认为，随着我们变得更聪明，拥有不止一种方法，并且拥有 David 所说的代理 AI，抱歉，主动推理，这种代理 AI 是朝着这个方向迈出的一步。在更广泛的生态系统中拥有这些小的能力，并能够唤醒它们，给它们一个特定的目标和任务，这是一个不错的进步。但我们离那还远着呢。这里还有很多工作要做。>> 在 LinkedIn 上，Chris Davidson 说：“您能谈谈数据投毒的概念吗？它是否正在国家层面积极发生？我们如何知道自己是受害者？”所以一个非常具体的例子，这实际上可以在网上找到，它是公开的。我们相信大约 9 到 10 个月前，俄罗斯积极开始尝试进行一项宣传活动，教导大型语言模型它们可以访问根本不真实的东西，而且一旦它们被教导了不真实的东西，就很难纠正，因为大型语言模型的工作方式是它们不会真正忘记。所以是的，数据投毒正在发生。一个非常具体的例子，您可以在网上找到文章，就是俄罗斯进行了一项密集的宣传活动，不仅针对美国，还针对其他自由社会，教导它们关于事件、历史、人物的事情，而这些事情实际上是显而易见的谎言。>> 我是数百万喜欢 TikTok 的人之一。最近，TikTok 上出现了大量视频，展示了 ICE（美国移民及海关执法局）正在做的各种事情。我不是在发表政治声明。通常，这些视频会获得多少次观看？5000 次、10000 次、50000 次观看，等等，一些评论。最近，我看到这些视频的观看次数达到 300 万次，评论达到 150000 条，都在说“支持 ICE”。我不是说好、坏、无所谓，但这就是正在发生的事情，而且很明显，有第三方正在以自动化方式这样做。这是组合。所以，您所说的，这使得事情如此困难，当机器人出现时，机器人绝对可以放大事物，让人们看起来喜欢一个视频或评论一个视频。但随后这变成了一个复杂的过程，因为然后人类也会注意到它。所以，你知道，这是有组织的、不真实的宣传活动吗？是的，但要认识到，很多那些人类也是真实的，这就是让这些事情如此困难的原因。我们可能听说了，你知道，几周前，在联合国大会附近发现了大量的手机。现在我们不知道确切的用途，但那个手机农场可以做的一件事是，如果您想让很多人看起来像是在手机上喜欢某事、评论某事或不喜欢某事并贬低某事，那么您会在一个地理区域内拥有手机，看起来它们在纽约，然后您会让它们基本上访问那个网站。但是一旦您这样做了，您就会得到人类的目光和人类的注意力，他们也会加入进来。所以，这是机器人和人类的混合。这就是让这些事情如此困难的原因，一旦数据被播种，数据投毒就会自行发展。>> 数据投毒有很多不同类型。所以，我们基本上是在说，你知道，伪造某事或放大某人所说的可能真实也可能不真实的事情，对吧？这绝对是一种数据投毒。另一种数据投毒是，如果我知道您正在使用哪种类型的 AI，我可以通过让您看到导致您做出某种类型决策的事物来影响您的决策。而且，在不深入细节的情况下，有一些例子表明，当大型组织考虑做某些类型的事情时，一个简单的例子就是航空公司，你知道，我们正在考虑，你知道，恢复我们飞往东南亚的航线，然后突然间，我们所有的客户都喜欢东南亚，对吧？也许是真的，你知道，我怎么知道呢？它也可能很可能是他们的社交聆听正在寻找他们是如何被标记的，以及与该标签相关的其他名词。似乎在社交媒体上有很多评论提到了他们，提到了东南亚，以及他们的营销部门和他们的航线规划人员，然后所有这些人聚集在一起说：“天哪，我们的客户真的表达了意图。”也许是，也许不是。我怎么知道？Michael，您说显而易见。我不知道是否显而易见。我不知道。您说的是 3.03 亿人？美国人口的 1% 是否集体同意任何事情，除了他们是美国人口的一部分？我怀疑。>> 即使那样，>> 而且，你知道，数学中有一些东西是你必须在数学上违反的，才能让这样的事情发生。有可能吗？我不知道，人们会中彩票，对吧？但是，我们可以做什么，因为我们试图专注于解决方案？我经常问的最重要的问题之一，David 曾经在我问的时候也在场，而且可能被它惹恼了。为了走这条路，我们必须相信什么？所以，您刚才告诉我，我们通常，我记不清数字了。我们通常，你知道，有 x 个人在看某件事，100 倍的人在看它，而且他们都感觉一样。我们必须相信什么？这会让你走上一条完整的道路。现在，其中一种情况可能是某种机器人正在影响这一点。另一种可能是他们一直都在那里，并且保持沉默，直到他们有机会说，“该死的，是的。”另一种可能性是，这些人根本不是在说话，而是，你知道，某种形式的，你知道，数据欺骗。然后你去测试这些不同的场景。如果那个场景是真的，还有什么也会是真的？结果是，有一整门科学叫做命题演算。我们知道如何做到这一点。我们只需要让成年人在房间里，然后真正去做。你知道，借用笛卡尔的话说，我相信它，所以它是真的。>> 分离出可验证的真相，这些真相超越了您的信念。而这正是我们拥有法院的原因。而且我们知道，即使法院有时也会犯错。这就是为什么我们有上诉程序。所以，它越来越难以区分那些超越人们信念的真相，而我们愿意说它们存在，即使没有人相信。>> 还有观察者效应，我们开始相信某事，因为足够多的人相信它，它就开始变成真的。比如，你知道，无论哪里都有动乱，对吧？曾经有过动乱，直到每个人都开始谈论那里的动乱，这导致了那里的动乱。>> 让我们发挥我们的内心，就像斯内克一样，斯内克有句台词说，你知道，我学到的是，真正重要的是什么，不如说是现实的感知。如果我散布谣言说一家银行资不抵债，然后导致每个人都冲进银行，那么很快银行就会资不抵债，因为我散布了银行资不抵债的谣言。>> 好的。我们有一个来自 Twitter 或 X 的问题，那就是组织如何确定他们正走向 AI 泥潭，以及它会变得多糟？您需要一个红队。所以，我来自情报界的那个世界，红队基本上是那些被要求说，“您正在做的事情可能会被如何滥用或误用？”我如何给您正在实现的目标制造障碍？所以组织需要这样做，因为如果您不这样做，那么就没有人负责考虑第二、第三和第四阶效应。当我过去在生物化学公共卫生领域做出回应时，我们称之为 B 队。这与 beta 团队的想法相同，即您没有考虑到的事情，而您应该考虑。如果您有一个团队成员或多个团队成员，他们的工作是说，“您善意的商业努力或您善意的产品发布可能会被如何滥用和误用”，这将帮助您为他人可能利用它做好更充分的准备。我经常想，如果在社交媒体上，如果我们让一些社交媒体公司在 2010 年代拥有这种红队功能，我们是否可以避免后来陷入的一些陷阱。作为上述红队的常任领导者。我必须说，因为这是一个很棒的问题。一种可能知道它正在发生的方法是拥有不同的烟雾探测器来寻找不同的东西。所以有几件事我经常谈论质量和品格。品格，现在您必须填空。客户评论的品格，在您的案例中是 TikTok，David，Michael，评论的品格从分散的正面和负面变成了全正面，对吧？这就是质量。品格，它变成了，你知道，它变得极其同质化，并且变成了单一的正面。输入质量。您可以查看缺失项，您可以查看不完整。您可以查看包含俚语和新词的表述，这些表述比机器更可能由人类说出。诸如此类的事情。>> M 破折号。>> 是的。著名的 M 破折号，对吧？
嗯，有，你知道，老式的统计学，异方差，还有，你知道，集中趋势的度量。我们知道如何做所有这些事情。这只是数学，但我们不做。所以，关于如何知道它正在发生的问题，最大的问题肯定是我们不看的话就不知道，对吧？你必须有人负责观察，并且有真正懂得如何以决定性的方式查看大量高度动态数据的人。这不是你可以交给实习生做的事情。
在一个相关的话题上，在领英上，Pine Nion 指出，批判性思维本身并不是教育或工作经验 alone 可以教会的。我认为这触及了 Anthony 和你们两位刚才提出的问题的核心，那就是 Anthony 刚才说我们需要能够查看这些数据集的人。但这里有一个很大的判断问题。这不仅仅是数学。有直觉。有对事物的感知。
那么组织应该怎么做呢？>> 你需要为你的组织中的那些将成为红队一部分的员工进行识别，也许他们没有经验，所以让他们参加红队训练营。你做到这一点的方法就是你所说的，你需要有越来越多识别可能存在问题或可能不存在问题的经验。现实情况正是如此，我们确实会发展心理启发式方法。我们使用数学，但也有判断力。而且，你知道，你对此进行了思考。在某些方面，当你参军时，他们会把你送到训练营，然后把你送到其他培训。他们会教你如何做你的工作。我认为我们需要公司开设快节奏的课程，教人们如何做好红队工作。
然后在教育领域，长期来看，更广泛的来看，我们实际上需要，并不是说你不会在教育中使用人工智能。实际上是你将批判人工智能。人工智能哪里错了？缺少了什么？数据有什么问题？我们需要教学生如何做到这一点。这是一个全新的学科，但我们以前也经历过，当书籍出现，然后是收音机和电视时，就像你如何评估一本书是否遗漏了什么，或者其中是否存在偏见。我们知道有些书纯粹是宣传。所以要教授这些技能，但要以一种既能解决公司当前面临的问题，又能解决教育管道的方式来做到这一点。这会是我的建议。
>> 我想加入这一点。目前学术界正在讨论的最重要的问题之一是，我们如何将这一点融入到越来越专注于低头看手机并向手机提问的学生群体的思维模式中。我们如何，你知道，你必须小心谈论教人们如何思考。这是一件非常危险的事情。但教批判性思维与教人们如何思考是非常不同的。所以有一些基本的原则，关于我正在锚定什么信念？我将哪些东西视为不言而喻的？我不会去检验它们。我将假设它们是真的。如果我认为某件事是真的，我该如何处理一个公设？我该如何设置一个适当的无偏见的测试？我的答案中存在哪些偏见来源？我能对此做出哪些处理？什么样的弹性？我错到什么程度仍然可以做出我正在做的决定？
这些都是非常重要的技能，所有这些都可以被教授，但你正在询问一个已经非常庞大并且还在不断增长的知识体系，现在要包含这个另一个非常庞大并且还在不断增长的东西。所以，你知道，这不像有一个简单的答案，你知道，去读这本书。其中一部分是让那些曾经头发更多，犯过一些错误的人来帮助你犯新的错误。其中一部分是，你知道，让房间里有足够多的思想多样性，这样新来的人就可以说，“等等，皇帝没穿衣服。”
Greg Walters 提出了一个有趣的问题。他是一位常客。他说，“你能否就我们所说的具身人工智能和大型语言模型，也就是机器人和三维世界中的人工智能，扩展你的观点？”那么，这如何应用于机器人，再次谈论数据？
>> 所以，这是一个很多人都感到兴奋的新数据源，而且我们确实需要多种人工智能方法，因为你想给机器人下达命令，比如“抓住那个橙子”，但当机器人手臂和手上的实际执行器试图抓住时，你想让它具有适应性。所以，是的，这非常丰富。但显然，这是一个你需要确保你应用了正确工具的地方。我建议，如果你试图真正地导航世界，我们可能不会寻找生成式人工智能作为我们将要寻找的工具。我们将寻找更多的贝叶斯方法和模型，这些模型实际上能让人工智能本身对机器人试图做的事情建立一个世界模型。
如果我们把具身人工智能看作是边缘计算的延伸，我们拥有越来越多的处理能力和越来越多的位于边缘的数据，那么这并不是一个突然出现的问题，因为我们称之为具身人工智能。这是一个我们在物联网、自主设备等方面一直在处理的问题。所以我们应该从这个知识体系中学习，而不是开始像在这里重新发明一个全新的领域。嗯，是的，它看起来像一个人，但它是一个边缘设备，你知道，它拥有自主数据，而且我知道一点点，无论我是谁，我知道一点点我们到目前为止学到的关于它的东西，而且你知道，我们可以从那里开始。
Wong 在领英上谈到数据滥用时说，是否存在我们可以快速跟踪、删除或限制对这些有风险的开放数据源访问的场景，以防止损害？
>> 跟踪，是的。删除，可能不行。处理，是的。所以，嗯，你击中了要害，对吧？嗯，试着把一些东西从区块链上拿下来。试着把一些东西从互联网上擦掉。真的很难把已经发生的事情撤销。可以说是不可能的。但这并不意味着你不能发布相反的信息。这也不意味着你不能训练你的模型来识别说谎的骗子。诚实度裁决是我职业生涯中花费了大量时间来构建方法来审视真相、全部真相以及除真相之外的一切。有三个不同的维度，我如何知道什么是真的？我们可以做所有这些事情。有很多方法可以解决这个问题。不幸的是，其中一种方法不是从历史中收回。即使是 Wayback Machine 也有局限性。
Chris Davidson 回来问，“目前是否存在成功地将当今基于大型语言模型的生成式人工智能与主动推理相结合的系统，那会是什么样子？它们是否完全不同？
>> 它们处于早期阶段，但我不能说有什么我们可以公开指出的。我不知道 Anthony 是否有我们可以公开指出的东西。我知道有一些事情正在我们身后发生。这就是我微笑的原因。嗯，嗯，嗯，嗯，没有。>> 没有公开的说法，但这是一个好问题。
>> Chris Peterson 的想法非常广泛，他说我们是否应该像老式的军备竞赛那样看待人工智能，美国对中国，还是高端芯片对阿联酋，因为任何人都可以做到？是否甚至可能存在人工智能版的核不扩散条约？
>> 不。我们应该像看待 20 世纪 40 年代的物理学那样看待人工智能，对吧？物理学在那之前就存在了，没有人发现物理学。物理学一直存在，人们在物理学方面做得好或不好，他们分享他们学到的东西，或者他们不分享他们学到的东西，他们将其用于好或不好。它更像那样，而不是像某种可以被围起来的国家边界的东西。对不起，David。你有不同的看法吗？
>> 我完全同意 Anthony 所说的。我告诉人们，这只是数学。这是非常花哨的数学，但它只是数学。我还会说，让我们从历史中学习，因为在 19 世纪末，欧洲所有国家都聚集在一起说，“化学武器非常糟糕。让我们禁止它们。”所以，在 1889 年，他们禁止了它们。到了第一次世界大战，你猜怎么着？双方都在悄悄地研究如何做到这一点。而且他们已经悄悄地做到了。所以，任何认为某种国际协议会拯救我们免于自毁的人，我很抱歉地说，不会。但同样，你必须认识到它就像物理学。所以我们必须想出其他的答案。是的。
>> 我昨天听到一句很棒的话，我希望我知道是谁说的。嗯，天才和愚蠢之间最大的区别是，天才有局限性。
>> Arcelon Khan 指出，人类收集和创建数据，然后人类被使用这些数据的人工智能取代。埃森哲因为人工智能裁员了 11,000 人，这是一个日益增长的趋势。请快速评论。
>> 很难区分哪些是人们因人工智能而被裁员的情况。哪些是商业性质改变的情况。我们还生活在一个股东经济中，现在股东实际上会奖励那些降低成本的公司。降低成本的最大方法就是工人。现在你可以说这是因为人工智能，但可能只是我想降低成本。所以工作的性质正在改变，并将继续改变。但要说这是因为人工智能，我认为这是一种过度简化。
>> 人工智能可以制作一个相当不错的 PowerPoint 演示文稿，然后我只需要编辑它，对吧？所以我不需要一群人来帮我完成 80%。
>> 但现实情况是，人工智能在许多不同领域都非常有帮助。例如，代码辅助有其作用。例如，我不是开发人员，但如果我有，但我可以使用代码辅助来创建一个有用的应用程序，现在有工具可以让你集成。Lovable 允许你与后端集成，它将创建数据库和安全角色等等。你知道吗？我可以在我的组织内部使用这个工具。我甚至可以卖掉它。
>> 越来越多的人将成为个体创业者。我认为这是工作性质的转变。所以我们肯定看到了工作的变化。我也想给一些人一些希望。关于数据和人工智能，我看到的一个非常有趣的趋势是，越来越多的患有罕见病的人或罕见病患者的家人正在要求查看他们的医疗记录。他们实际上正在使用健康水平 7 的工具，这是一个非营利组织，它实际上确保你可以请求这些记录，并且它们是以一种你可以实际分析的方式。你现在可以以数字形式获取你的医疗记录，然后去你想要的任何人工智能那里说，这位医生错过了什么？或者在治疗我自己或我的家人方面，我应该考虑什么？所以这是一个积极的迹象。
我认为我们需要帮助人们跨越他们过去的工作和他们将要从事的工作之间的鸿沟。无论是社区努力，还是公司努力，工作的性质肯定会改变，但工作的性质一直在改变。我的意思是，200 年前我们大多数人都会是农民，而现在不是了。我最大的希望是，任何被人工智能取代旧工作而感到被边缘化的人，都能感到解放，去做一些新的、更了不起的事情，因为有很多大卫在谈论，你知道，已知但未满足的需求，我们知道我们没有解决这些问题。还有那些我们甚至还没有发现的未知但未满足的需求。我的天哪，聪明的人们，请去做一些那方面的事情，而不是重建一个更好的，你知道，任何东西。
>> Anthony，你对那些被取代的人，那些有孩子在上大学，有医疗债务，而且是月光族的人有什么看法？
>> 是的。
>> 告诉那个人，你应该做些新事情，这并没有多大帮助。
>> 我说那是我的希望。我肯定不会那样对待那个人，在那特定时刻。而且别以为我没有接到过那些处于这种情况的人的电话。我相信 David 几乎每周都会接到几个。而且，你知道，我开始对话。在提供帮助和惹人讨厌之间有一条细微的界限。但我会试着通过理解他们的悲伤、沮丧和愤怒来开始对话，尽我所能，因为这不是我正在经历的。但从那里开始，一旦那个人超越了这一点，很多时候我们谈论的人，一年后回头看，那可能是他们遇到的最好的事情，因为它让他们得以去做其他事情。所以旅程是如何弄清楚这一点。你有什么？在《公主新娘》中有这样一个时刻，他们说，“绝望了。我们无法攻击城堡。”直到他们意识到他们有一件斗篷。哦，现在我们有计划了，对吧？你的斗篷是什么？你有什么东西，它创造了你可以站立的岩石？我知道，你知道，你可能不得不在短期内做一些你不想做的事情，因为你有所有这些需求。我一点也不不同情。我绝不是在说让他们吃蛋糕。但我想说的是，我们现在拥有的所有这些丰富的能力，很大程度上被用来制造一堆派对技巧，本可以用来做一些了不起的事情。而且，天哪，你可以做一些那方面的事情。
>> 你想承认并认识到任何经历这种情况的人在那一刻的悲伤和焦虑。同时，努力寻找方法帮助他们看到他们可以成为幸存者和繁荣者，而不是受害者。我认为这也要求我们所有不在这种不幸境地的人倡导我们的集体回应。我们期望人们做出什么样的回应？因为如果我们不倡导它，它就会发生在我们的朋友或家人身上。我知道，我大概每周都会接到一个电话。而且我在这里华盛顿特区，很多人可能面临同样的情况。不是因为人工智能，但我之所以这么说，是因为我们需要思考，在这个被取代的时代，我们是否想，我们能否找到方法，我们应该找到方法来减轻焦虑，并帮助人们应对这种情况。我认为现在我们可以作为社会、社区、国家做得更多。
在这方面，我能说一句同情的话吗？我能说一句充满希望的话吗？我不确定。
>> 我们将。好吧，也许我们必须重新审视这个问题。我们接下来做什么？
>> 是的，我认为我们俩，我不想代表 David 说话，但我想我们都希望，你知道，人类是惊人地有韧性的，并且非常擅长，你知道，转弯和做一些让我们惊喜和高兴的事情，也让我们害怕的事情。我们可以选择我们做哪一个。我属于惊喜和高兴的阵营。所以，我们会到达那里的。我们将回顾这段时间，并说这正是我们能够开始做填空题的时候。也许是代码辅助，Michael。我不知道。但可能不是。
>> 或者也许是教你自己成为一名人工智能红队成员，我更推荐这个，但那只是我。
>> 是的，我的意思是，你知道，我怎么敢表达意见。但我认为，你知道，我们肯定处于一个转折点。改变最困难的事情是，当你身处其中时，很难注意到。我能再加一句最终评论吗，我认为我们可以都同意。打倒人工智能的垃圾。
>> 是的。但诀窍是识别什么是人工智能垃圾。但无论如何，这绝对是。
>> 在此之际，非常感谢 David Bray 博士和 Anthony Scriffino 博士。这是一场很棒的节目。再次感谢你们两位抽出时间与我们同在。我非常感激你们两位。
>> 谢谢你，Michael。
>> 非常感谢。
>> 并且非常感谢观众。接下来我们将编辑这些视频，进行一些轻微的编辑，创建一个摘要，我们会将其发布到 CXO talk 网站上，然后通过文字记录和摘要，你将获得一份可以保存、回顾、珍藏和参考的文件。所以，我敦促你这样做。订阅 CXO Talk 时事通讯。非常感谢大家。感谢 David Bray 博士和 Scriffiniano 博士。大家保重。祝你们一切顺利。再见。
[音乐]