Transcription
大家好，欢迎来到我们关于以人为本的人工智能的在线研讨会，设计人们信任的系统，由斯坦福在线生成式人工智能项目呈现。我叫 Jess Wyn，是斯坦福工程中心全球和在线教育的高级项目经理，我很高兴向大家介绍我们今天邀请到的两位演讲嘉宾：Vanessa Parley，她将担任我们的主持人，以及 James Lande 教授。
关于 Vanessa 和 James 的一些介绍。Vanessa 是斯坦福以人为本人工智能研究所的项目和外部参与总监，她领导着将跨学科人工智能研究与行业、政策和现实世界影响联系起来的倡议。在加入斯坦福之前，Vanessa 曾在管理咨询领域工作，将数据科学和机器学习应用于政府、生物技术和非营利组织。James Lande 是斯坦福大学计算机科学教授，也是斯坦福以人为本人工智能研究所的联合创始人兼联合主任。他还是人机交互领域的顶尖专家，曾在华盛顿大学、加州大学伯克利分校、康奈尔理工学院和英特尔实验室担任教职和研究领导职务。他是 ACM 会士，ACM SIGKAI 学会成员，并获得了 ACM SIGKAI 终身研究奖。
太好了。谢谢你，Jess。大家早上好，欢迎各位。感谢您的参与。我们很高兴您能来到这里。在我们开始与 James 和我的讨论之前，我们想问大家一个问题。Jess，如果您能切换到下一张幻灯片。或者也许是前一张。是的。我们将使用 Poll Everywhere。对于熟悉此工具的各位，您可以直接在网上加入，也可以通过短信加入。我给您一点时间，方便想参与投票的各位。
为了开始，我们想问大家，当您听到“以人为本的人工智能”时，您主要认为它意味着什么？A.围绕用户需求设计人工智能。B.使人工智能更安全、更合乎道德。C.让人们参与人工智能系统的设计和应用。D.开发具有强大社会影响的人工智能应用，例如在健康和教育领域。E.以上全部。不幸的是，由于系统有些延迟，您在这里看不到结果，但我会向您介绍我屏幕上看到的内容。是的，我看到结果正在进来。我们有 57% 的人选择了“以上全部”。我们有 13% 的人选择了 A。C 和 D 也在其中。看起来 E 处于领先地位。好的。是的。哦，C 开始获得更多关注。好的。是的。所以，大多数人，大约 47% 到 50% 的人选择了 E。33% 的人选择了 C。
现在，我想把话筒交给 James。James，您是斯坦福以人为本人工智能研究所的联合主任。以人为本的人工智能对您意味着什么？它与普通的人工智能有什么不同？是的，谢谢 Vanessa，也欢迎今天加入我们的各位。我期待着在接下来的时间里回答大家的问题。那么，以人为本的人工智能是什么？七年前我们创立研究所时，我们觉得应该以不同的方式做人工智能，因为这项技术将对从教育到医疗、金融再到政府的方方面面产生社会影响，因此以跨学科的方式，跨越斯坦福所有七个学院，并以人为本的方式进行非常重要。我意识到，在研究所工作了几年后，这个意义对一些人来说意味着不同的东西。对一些人来说，它意味着他们正在从事一项重要应用领域的人工智能，比如 D 领域，健康和教育。对我来说，这真的不够。你不能仅仅有好意，就能让人工智能真正为人们服务，并使其以人为本。所以我们真的试图更深入地思考这意味着什么。在某种程度上，它确实回答了这个问题中的 E，它包含了所有这些方面，特别是思考如何以正确的方式让人们参与人工智能系统的设计，以实现更安全、更合乎道德、更高效、在教育和健康等领域产生积极影响的目标。对我来说，这意味着要超越我们称之为“以用户为中心的设计”的传统方法，这是我们在过去 30 到 50 年里一直在该领域进行的，我们让用户参与我们的设计。而对于人工智能系统，我们要超越这一点，因为它们是不同的，它们通常会对直接用户以外的人产生副作用或影响。
所以，无论是决定您是否获得某种医疗保健治疗，还是其他人，您可能不是该系统的用户。可能是医生，或者某些安全资源是否位于您家附近。比如洛杉矶的消防资源在哪个区域。同样，您可能不是用户。或者只是在世界另一端为他们自己可能不使用的系统标记训练数据的人。同样，我们需要超越这种以用户为中心的设计，并思考更高级别的“以社区为中心的设计”，让受影响的不同社区参与进来。最后，如果您构建的人工智能系统非常成功，它可能会产生我称之为“社会层面影响”的影响。所以，想想像 Facebook 的新闻推送这样的系统，它改变了人们对什么是真实或虚假的看法，或者 Instagram 影响了年轻女性的身体形象观念。这些都是社会层面的影响。因此，我们需要开始思考如何将社会纳入设计考虑，以及如何整合社会、社区和用户的这些层面。这就是以人为本的人工智能对我的意义。
是的。太棒了，太棒了。谢谢。那么，对于听众来说，在我们继续下一个问题之前，我们想听听您的看法。您对当今的人工智能反映您的价值观和文化有多大信心？好的，我看到一些回应进来了。我们大约是 50/50 的 A 和 B。哦，C 刚刚被记录下来。哎呀。哦，点击这里更改。B 和 C 处于领先地位。就像赛车播报员一样。好的。大约 55% 的人说 C，33% 的人说 B。还有更多答案进来。好的。是的。所以，我们仍然有大约 60% 的人认为人工智能系统不能很好地反映您的社区和文化。好的。是的。我们问这个问题的原因之一是，James，我知道您在这方面有一些研究，这与您刚才描述的框架的社会层面有些关系。与其它层面相比，我觉得社会层面有点难以概念化。您能告诉我们一些您正在进行的，处于您以人为本框架社会层面的研究项目吗？是的，我只是想提一下，你知道，这里有一些问题。所以，Vanessa 和我刚在这个周末从瑞士达沃斯的世界经济论坛回来，在那里你实际上与来自世界各地的人们互动。我们在那里听到的一个担忧，以及在其他旅行到世界其他地方，无论是韩国、新加坡还是阿联酋，人们都担心这些大型模型在某种程度上包含了可能与他们自己社会、国家或社区的文化价值观不符的文化价值观。所以，你知道，这是一个关于这些模型是由什么组成的？它们是由大量的训练数据组成的，这些数据通常来自北美或西欧。因为这些国家在互联网上的数据要多得多。显然，一些来自中国的模型可能拥有更多来自中国互联网的数据。但这是一个关于你知道文化和其他价值观是如何嵌入模型的担忧。所以，我的一项研究项目，与我的博士生 Nava Haiiki 一起，实际上正在研究这些模型中是否几乎嵌入了一个本体论，一个哲学的词，关于什么是“是”或“是人”的含义，我们实际上发现这是真的。虽然来自土著文化或其他人口较少文化的其他本体论可能嵌入在模型中，如果你足够深入地探究它们，那么这些模型倾向于来自西方主流文化的默认值。因此，关于我们如何以不同的方式训练这些系统？我们如何以不同的方式收集数据？如果我们想探索这些不同类型的本体论可能允许的不同存在方式的更广泛的设计空间，我们甚至可能以不同的方式构建它们？因此，这几乎是内置的假设，几乎限制了我们在可能设想的基于这些模型构建的应用程序中带来的潜在设计。
是的，James，我不是要为难您，如果您没有细节也没关系。但是，当我阅读您和 Nava 的作品时，有一个关于树的例子，用来开始。您能分享那个例子吗？是的，那是 Nava 的个人经历中的一个例子。所以，她问她的听众，当她做演讲时，想象一棵树。在你的脑海里想象一下它的样子。对大多数人来说，他们可能会想到，你知道，一个树干，一些树枝和一些叶子。当我这样做时，我经常会想到那些在微风中摇曳的叶子，因为没有人告诉我它必须是静态的图像。但同样，这真的取决于你文化的本体论。你知道，对 Nava 来说，她认为树是一个更大的生命系统的一部分。所以，她会想到树根以及它们如何与地下的其他生物连接。但同样，你默认知道的本体论可能会改变你的想象。所以，如果你通常查询一个大型模型，你只会看到这种西方人将树视为独立事物的概念，而不是这种更具连接性的想法，甚至看看它是如何与根系连接的。同样，对 Nava 来说，她在伊朗长大，她如何从她的文化中思考一棵树，它可能看起来不同。事实上，当她让代理给我一棵树，从我作为一个伊朗人的角度来看，它实际上会产生一个非常刻板的关于伊朗人的想法，以及它使用的一些视觉设计。它并没有真正触及她从她的文化角度如何看待它。所以，即使是像这样简单的事情，似乎也基于模型中训练过的数据类型而嵌入。
是的。是的。太棒了，谢谢。我认为这是一个很好的例子，因为它提供了一个切实的想法，当你只是与系统互动时，你通常不会想到它。好的。所以，另一个投票问题给听众。您听说过“主权人工智能”这个词吗？A 是，B 是否。好的，大约 50/50。答案还在进来。70% 是 B，30% 是 A。似乎我们还是停留在那个七。好的。是的。70% 的人说否，30% 的人说 A。是的。所以，斯坦福以人为本人工智能研究所有一个专注于确保政策制定者了解这项技术的团队，我们开始通过那个领域听到很多关于“主权人工智能”这个词。James，您能谈谈它对您意味着什么，您听到它对不同群体意味着什么，以及它的影响吗？是的。“主权人工智能”这个词，我想大约一年前几乎没有人听说过，但这是一个我们听得越来越多的词。事实上，再次强调，这是上周在达沃斯世界经济论坛上经常出现的词之一。“主权人工智能”实际上是关于各国认为它们需要控制人工智能以实现各种不同目标。所以，我想谈谈这些目标可能是什么，然后人们是如何思考它的。我还要指出，我们在 HAI 的团队有一个专注于政策和社会问题的团队，他们目前正在撰写一份关于“主权人工智能”的报告，试图更好地定义它，然后描绘出世界各国正在发生的情况，因为它实际上被解释为许多不同的方式，这使得它既有趣又令人困惑。但从宏观上看，这是关于我们如何在某种程度上控制人工智能。那么，目标是什么？一些国家的目标是国家安全。你知道，我如何确保某个国家不会以某种方式切断我的人工智能，从而从安全角度伤害我们，或者甚至利用人工智能对付我们？所以，这是其中一种观点。另一个目标是经济安全。所以，这可能既是关于通过控制人工智能对经济造成损害，也是关于我们如何利用人工智能来促进我们所谈论国家的经济，无论是我们不为他人的产品付费，我们实际上通过人工智能产品赚钱。另一个是关于文化。所以，这与我们刚才讨论的人工智能中的文化问题相似，但它也可以指文化和语言。我们使用的人工智能是否能充分支持我们的语言以及底层文化，甚至是我提到的本体论？你知道，还有一些其他目标，也许是关于劳动力，也是如此。所以，这些是目标。现在，我们也看到人们如何思考不同技术堆栈层面的“主权人工智能”，以及他们如何控制它或确保他们的安全。在最底层，人们谈论基础设施。所以，他们可能会说，哦，我们想确保我们有足够的 GPU 或图形处理单元。这些是人们用于构建人工智能模型以及运行人工智能模型的关键处理器。我们如何确保我们在国内拥有它们，在我们的数据中心运行，并且我们控制它们？所以，这是基础设施层面。
其上一个层面是数据。我们是否控制我们国家的数据，不让它流向其他地方，或者确保我们拥有正确的数据来构建人工智能模型或与人工智能模型一起使用？这是人们考虑“主权人工智能”的下一个担忧层面。然后是其上的一个层面，我认为这是人们更多地考虑的层面，那就是模型。所以，我们是使用来自北美的模型，比如 OpenAI 的 GPT5 模型，或者谷歌的 Gemini 模型，甚至是像 Meta 的 Llama 这样的开源模型，还是我们构建自己的模型并控制它，并使其成为我们无法被切断的东西？这是下一个层面。然后我们得到更模糊的层面，应用程序。也许我们只想控制在我们国家使用的模型和构建的应用程序。最后是人才。我们能否确保培养出理解如何使用这项技术并构建它的人才，一直到我们的社会能否有效地使用这项技术？所以，这些是人们为“主权人工智能”争取控制的不同层面。再次强调，我们早期的研究发现，不同国家可能拥有我之前提到的不同目标组合，但也拥有他们关注的堆栈的不同部分。
太棒了，太棒了。谢谢。那么，深入研究一下您的研究，在您的实验室之外，您能谈谈您在人工智能与健康和教育交叉领域的工作吗？您能谈谈那个领域的一个项目吗？是的，你知道，我的实验室，就像 Vanessa 说的那样，我们在健康和教育领域做了很多工作。所以，除了试图弄清楚如何设计以人为本的人工智能，这是一个项目，比如正确的设计流程是什么，它整合了这些层面，我们还在特定的环境中研究它，无论是对幼儿的教育，让他们更投入，并利用人工智能来驱动吸引他们的故事，一直到人工智能在我们医疗保健系统中的意义。我们在医疗保健领域有两个不同的领域。一个是居家养老。所以，我们如何以一种保护隐私的方式使用环境传感和人工智能，从而让老年人能够在家中生活更长时间，并拥有更高的生活质量？这是一个大型项目。这里有很多问题是如何考虑隐私，以及如何考虑进入我们长辈家中的护理人员。另一个对人们来说更个人化的是，我们如何利用人工智能来赋予普通人更多富裕人群所拥有的东西，那就是教练。所以，我们训练了人工智能模型，它们使用了最好的教练方法，称为动机性访谈，以此来询问一个人他们的健身目标，过去对他们有效的方法，无效的方法，他们正在努力实现的长期目标，然后与他们一起制定一个由人工智能生成的健身计划，但这个人真正拥有它，因为他们通过入职对话共同制定了它。然后我们有一个名为 Bloom 的应用程序，它在手机的后台运行。当一个人在一周内进行活动时，一个鲜花花园就会生长，以代表他们在健身活动方面的表现如何。而且，那个 AI 教练，那个 AI 教练会在他们注意到你做了一些事情时插话。事实上，我有一个目标，在三月份，我今年夏天要去欧洲徒步旅行，我要在 10 天内走 120 英里，每天爬升和下降 3000 英尺。对我来说，这是一个相当大胆的目标。所以，我把它作为我的目标，在接下来的几个月里，当我使用 Bloom 系统时，当我进行一次长途徒步或跑步时，它可能会插话，嘿，你今天跑得很好。这将有助于你在 ML Block 上。它并没有真正刻板地、机械地重复同样的事情，而是会在适当的时候插入一些关于你正在努力实现的目标的知识。感觉就像一个人类教练。然后每周你都会和教练核对，看看你这一周过得怎么样，并为下周重新规划你可能想改变的计划。也许你需要让它更难，也许你需要让它更容易，也许天气变了，你想做些不同的事情。同样，在这一周内，如果有什么不对劲，你可以说，“哦，今天下雨了。我真的不想跑步。”而不是你放弃，教练可能会帮助你思考你可能参与的替代活动。所以，在我们最近的一项研究中，上周刚刚被接受发表，我们发现，与没有教练的相同应用程序相比，有教练的条件下的参与者改变了他们对健康的看法，我们认为在长期研究中，这将导致长期的行为改变，而这正是这些系统的目标。所以，你可以这样使用人工智能，这非常令人兴奋。如果你只是问 chat GPT 这样的东西，它不会开箱即用。它只会告诉你该做什么，而这不会让大多数人真正去做并改变他们的生活。所以，你必须真正思考如何在我们知道的最好的教练方法的基础上构建人工智能。所以，我认为这种方法可能在营养学中有用。它可能在企业变革中有用。各种教育领域，你需要有人来改变行为。拥有一个拥有这种良好方法的个人教练可能会改变世界。
酷。太棒了。那么，您刚才提到的这两个例子都谈到了支持人工智能的产品。在 HI，我们每年都会发布一份关于人工智能状况的报告，其中一个项目是我们重点介绍的 Ipsos 的一项调查，该调查询问了公众对人工智能的看法。我想在 James 和我讨论之前，向大家提出其中一个问题。那么，对于大家来说，您在多大程度上同意以下陈述？使用人工智能的产品和服务。哦，等等，让我切换一下。好的。是的。使用人工智能的产品和服务比缺点更多。同意或不同意。然后我会分享实际调查的结果。我们可以比较和讨论。好的，开始看到一些回应了。我们大约有 50% 的人同意。大约 15% 的人强烈反对。哦，反对的声音现在开始出现了。嗯，同意仍然处于领先地位。30% 的人强烈同意。在强烈同意和同意之间分配。好的。好的。所以，是的，我们似乎在这里暂停了。所以，大约 40% 到 45% 的人，大多数人表示 B 同意使用人工智能的产品和服务比缺点更多。所以，当我们分析这项调查的来源时，对于人工智能指数，我们按国家进行分析，我们确实发现，在更多的西方国家，北美和欧洲，大约 40% 到 50% 的受访者同意使用人工智能的产品和服务比缺点更多。在东方国家，马来西亚、印度尼西亚、中国，来自那里的受访者大约 60% 到 70% 的时间表示同意。所以，他们似乎比北美和欧洲更乐观。所以，这个群体似乎更偏向于西方的乐观主义。那么，最后一个问题给大家。您认为是什么驱动了这种乐观或不信任人工智能，以及这些差异？A 是失业。B 是隐私和监控。C 是偏见和不公平的结果。D 是缺乏透明度。E 是其他。好的，A 和 B 打平了。让我们看看。更多的回应进来了。让我们看看。现在所有人都差不多。好的。所以，截至目前，得票最多的 B 是隐私和监控，占 42%。失业率约为 30%。所以，这是得票最多的两个。那么，James，回到您这里。您认为是什么驱动了公众对人工智能的不信任？我们如何才能建立更多的信任？
是的。所以，我认为这在某种程度上与文化和经济有关。所以，一方面，在经济方面，你会看到很多更乐观的国家，人均收入往往较低，所以很多人看到了人工智能为服务带来的机会，而这些服务以前很少见。例如，如果我们有一个人工智能代理，其准确性是您医生的 80%，许多西方人会说，嗯，这不够好。我希望它和我的医生一样好，甚至更好。事实上，人工智能有时比你的医生更好，这取决于我们做什么。但人们的看法是，嘿，这不够好。另一方面，如果你在一个医生人均数量很少或非常少，或者心理健康从业者人均数量很少的国家，人工智能可以提供帮助的想法非常强烈。所以，有时你会看到这种差异是基于人均收入。但这并不能真正解释它，因为你也看到了非常富裕的国家或亚洲和其他地方相当发达的国家，它们也更乐观。例如，韩国的经济在过去 30 年里一直相当不错。它变得更加富裕，但却有更多的乐观情绪，或者日本比美国、英国、加拿大和澳大利亚有更多的乐观情绪。我认为其中一部分也是文化原因。所以，你们中的许多人将 B 隐私和监控标记为一个问题。这个问题在西方文化中往往更受关注，或者对政府的怀疑更大，而在其他文化中，你发现这种情况较少。所以，我认为一部分是收入，但另一部分也是文化，关于这些方面，乐观情绪可能非常不同。所以，再次强调，如果我们希望人工智能对人类产生积极影响，这也是 HAI 作为研究所的目标之一，我们需要考虑所有这些不同的文化问题和重要问题，无论是失业、隐私和监控、偏见和不公平结果，还是透明度，我们都需要将它们与我们所谈论的文化联系起来，因为这些问题对人们来说意义不同。在我看来，所有这些都很重要，但它们在不同文化中的重要性会有所不同。有一种方法可以解决所有这些问题，当我们谈论“主权人工智能”时，不一定是要考虑一个国家控制这些东西。这是对例如主要在北美的大公司，如谷歌或 OpenAI 或其他公司控制人工智能的一种反应。另一种方法是思考我们如何做到开源人工智能，我不是指仅仅是开源权重，而是真正开放的模型，包括所有数据都是透明的，并以国际联盟的形式进行，这样很多人都在一起合作，因此你不会被一个国家控制，这是我们一直在努力的事情。事实上，我们在达沃斯的时候宣布了与苏黎世联邦理工学院和洛桑联邦理工学院以及瑞士人工智能研究所的合作，以思考我们如何与斯坦福 HAI 一起合作来做到这一点，我们希望与世界其他地方的一些人一起做到这一点，我认为这是前进的方向，这样人们就会信任它，因为他们看到它是以开放的方式完成的，并且是以关注社会福祉而不是仅仅是大型公司的下季度利润的方式完成的。
是的。那么，Jim，说到利润，这与之前的问题有些关联。你知道，在这些不同的领域有很多机会。但是，如果人们不信任它，并且不使用它，我们就无法利用这个机会。您认为这种“值得信赖的人工智能”或“负责任的人工智能”的想法是否可以转化为商业案例，以便我们能够实现更多的人工智能采用？我当然认为，关注这些问题的公司正在努力将其作为一种使他们的产品和服务对客户更具吸引力的方式。所以，你知道，我们在斯坦福 HAI 有一个非常成功的行业计划，行业合作伙伴加入我们的计划。你知道，在某个时候，我有点怀疑，一开始我想，哦，他们是想加入我们来洗白他们对负责任人工智能的声誉吗？但与这些公司的首席执行官、首席技术官和首席信息官的互动表明，他们实际上正在研究如何负责任地做到这一点。因为他们不希望他们的声誉因做坏事的系统而受损，并损害他们在市场上的声誉。实际上，他们希望找到一种方法，既不会导致失业，也不会导致偏见，也不会导致其他伤害，同时也有助于人们成为更好的工人，享受他们的工作，并提高公司的生产力和效率。所以，他们实际上有积极的目标，我认为，但他们正在寻求斯坦福和其他大学等地方的领导，告诉他们如何正确地做到这一点。你知道，这是一个非常新的领域，尽管很多人对“嘿，这还没有奏效”感到紧张，但实际上很多人从事这项工作的时间不超过三到四年，而且需要一段时间才能找到最佳实践，真正帮助这些公司正确地做到这一点。
是的。是的。太棒了。是的。再次谈到我们仍然处于早期阶段，我们还没有做太久。从您的角度来看，关于人工智能的未来，您有什么预测？所以，我不想对人工智能过于负面。我认为人工智能将以积极的方式改变我们的医疗保健、教育、金融，甚至可能改变我们的政府，如果我们幸运的话。事实上，像我提到的教练应用程序这样的东西，我们只展示它适用于健身，但它可以在许多其他领域工作。就像 Susan 问的那样，慢性病呢？是的，正是如此。它可以帮助人们管理慢性病，他们需要进一步的帮助来做到这一点，因为这很困难，就像居家养老一样。但我也希望人们从未来的角度理解，我们与这些系统的互动方式将真正改变。所以，我们一直处于我们称之为图形用户界面的模式中。你的鼠标，你的指向，你的手指在菜单和按钮上点击屏幕。自 1984 年苹果 Macintosh 普及以来，它一直是界面，但实际上是在 70 年代早期在我们上面的山上，在 Xerox Park 发明的。这已经是 50 年来相同的界面范式了。现在，你让人们在小框里打字，与他们的人工智能代理交流，或者如果他们幸运的话，他们会在他们的电脑或手机上与它说话。我认为这实际上是我们与这项技术互动界面的演变中的一个小小插曲。在 5 到 10 年内，可能更像是 10 年，我们将看到我称之为“多模态主动界面”。所以，你将使用语音、打字、鼠标、指向，甚至理解你的身体信号，你的压力等等，以及你周围发生的事情的背景。所有这些都将驱动界面，你将使用手头的任何设备来完成你正在做的事情。所以，如果你在教室里，你不会和你的界面说话，因为你在听讲座或正在进行的讨论。另一方面，如果你在车里，你在做别的事情。所以，如果你走在街上，你在做别的事情。如果你在我的办公室里，就像我现在一样。我这里有一个大屏幕。我这里有两个屏幕。我有两部手机。我有一个鼠标。我可能会将所有这些不同的东西结合起来使用，并非常流畅地与一个帮助我的代理一起使用。这就是界面的未来。我们还没有到那里。我们有这个小盒子，这些人工智能公司认为这就是未来。这不是未来。在 5 到 10 年的时间里，这种情况将迅速改变。酷。酷。谢谢。是的，我觉得思考它会是什么样子，以及它会有多大的不同，真是太有趣了。好的。那么，这些就是我为您准备的所有问题。我知道我们还有很多听众的问题。所以，我想我们去看看那些问题。我会把它们念出来，然后您就可以随意回答了。所以，第一个问题是，从您的角度来看，您认为学术界、社区教育和行业之间在长期合作方面最大的未满足机会是什么，以确保以人为本的人工智能原则不仅得到研究，而且得到实践？
是的，我的意思是，这是一个很棒的问题，我感谢 Helen 提出这个问题。我认为，你知道，我们已经开始做一些了。我稍微提到了我们的行业计划。其目的是确保许多这些想法不仅仅停留在学术界和研究论文中，而是我们正在与那些希望将其纳入其流程的公司合作。我们还通过斯坦福的许多高管教育项目来做到这一点，我们去世界各地的这些公司进行教育，或者他们来到这里，或者就像这个斯坦福在线课程一样，这是扩大影响力的途径，影响那些将使用这些想法的行业人士。所以，我们非常注重，我们不仅仅是在教授人工智能，我们是在教授以人为本的人工智能，其中包括关于如何设计它、伦理是什么、如何负责任地行事，以及算法如何工作以及你如何在自己的未来应用中考虑它等技术内容。所以，这些对我们都很重要。我认为另一部分是我再次提到的，试图创建一个国际联盟，与其他玩家联合起来，他们都认同以人为本的人工智能的理念。这再次使我们能够扩大我们在世界范围内的影响力。而不是仅仅说，好吧，我们受到斯坦福人数的限制，以及我们可以通过我们的项目带来多少人。我们正在与志同道合的其他机构合作，再次扩大规模，然后有一个非常活跃的政策团队和政策项目，我们正在努力帮助政策制定者首先了解人工智能，以便他们了解他们正在立法的内容，但我们也撰写报告，试图将人工智能的技术思想转化为他们可以理解的形式，这再次试图改变社会上正在发生的事情，基于即将出台的法规和其他东西。所以，这些都是我们试图产生那种全球影响的不同方式。
太棒了，谢谢。那么，下一个问题是，在设计旨在建立信任的以人为本的人工智能系统时，您如何看待透明度与认知过载之间的紧张关系，特别是对于非专业用户而言？设计应该在哪里划定界限？
是的。所以，这真的很重要。当我们想到信任时，你会想，哦，我需要了解这个东西是怎么回事。我需要它透明，但并非每个人都需要它，对吧？它可能需要对审计系统的人来说是透明的，但然后你可能会因为有了批准印章而感到满意并信任它。所以，你可以想象可能会出现一些组织，就像家用电器的 UL 实验室一样，你信任它上面有 UL 批准印章，而不是期望每个人都能审查系统并理解它是值得信赖的。所以，这里存在权衡，即信息应该以某种方式透明和可访问。问题是，每个人都需要能够看到它吗？因为这可能会让我们不知所措，我认为这就是你的问题所在。另一方面，其中一些取决于系统的行为方式。例如，如果我让一个人工智能代理执行某项任务，而它做错了。它犯了一个我注意到的错误，然后我说，“哦，你没做对。你得这样做。”如果系统对我撒谎说，“我就是那样做的。”我们很多人都见过这种情况。它说，“是的，我就是那样做的。”而你却说，“不，你没有。”或者它不说那样，而是说，“哦，你说得对。我没做对。”然后它又试着再做一次。然后它又搞砸了。然后你开始失去对系统的信任。所以，一些信任仅仅在于用户界面，在于这些系统在收到反馈时如何反应。如果一个人做了这件事，我告诉他们做某事，他们做错了，我会说，“好吧，也许我没有给他们正确的指示，或者也许他们犯了一个错误，然后我指示他们如何做对，他们又做错了，我不会信任那个人作为员工、朋友或合作者。”人工智能也是如此。所以，这些界面如何对反馈做出反应也会让我们产生信任，更不用说知道什么进入了模型以及它是否透明。
现在，我们没有太多信任，因为我们不知道这些模型里有什么，对吧？我们不知道里面有什么数据。如果我去杂货店买东西，它会告诉我成分是什么。我们不知道这些模型的成分是什么。所以，获得更多信任的一种方式是关于数据的透明度。但同样，这些东西是基于数万亿字节的数据。我们没有人能够检查所有这些，但那可能是我们需要依赖其他组织来告诉我们里面有什么，如果我们有更多的透明度。
是的。是的。所以，您提到了“幻觉”这个想法。您是否看到过管理这些幻觉的方法或您的观点，以减少对用户的负面影响，防止错误信息，尤其是在医疗保健领域？
是的，我的意思是，幻觉，也就是说，模型生成不真实的内容或事实的想法，或者你知道，常见的说法是它会给你提供学术或法律工作的引用，而这些引用完全是捏造的。这是一个固有的问题，源于这些模型的基础架构，它基于我们称之为深度神经网络。它是概率性的，所以它并不总是有正确答案。它只是根据单词或其他概念的概率来编造。现在，它能减少吗？我们已经看到了一些减少。其中一些方法是，你知道，人们首先做的事情，就是多次询问模型，并以不同的方式询问它。下一个方法是使用多个模型来互相检查。这是另一种减少它的方法。事实上，模型已经开始在后台进行这种检查了。它们在告诉你东西之前会进行自我检查，以试图减少这种情况。但这是一个固有的缺陷，即使有了很多修复，由于基础架构的原因，这些模型中可能仍然存在，直到我们拥有不同类型的人工智能。这是将要发生的一部分。现在，人们也有缺陷。人们也会犯错误。所以，我认为这不是世界末日，但它确实是一个问题。它要求使用模型的人仍然需要批判性思维来审查他们得到的答案，并真正运用一些判断来决定它是否正确。而问题真正发生的时候，是当人们只是把模型输出的东西当作，你知道，刻在石板上的诫命，是真理，并且没有任何质疑。那时人们就会陷入麻烦。你必须保持一些怀疑，就像你对待互联网上的任何东西一样，因为你知道，很多这些数据都来自互联网，而很多都不是真实的。所以，如果你想有效地使用这些模型，你必须保持这种怀疑和批判性思维。
是的。是的。那么，说到批判性思维，人们非常担心生成式人工智能将如何影响学习和教育，特别是批判性思维技能。根据您的观点，人工智能将如何影响系统和下一代？您认为它对幼儿、大学生和终身学习者会有什么影响？
好消息是，人们现在正在关注这个问题，而不是在革命开始 10 到 15 年后，就像我们看到社交媒体那样，我们当时说，“哦，看看我们对孩子们做了什么。”作为一个有孩子经历过这一切的人，我可以告诉你，这是非常负面的，而且我们当时没有关注。所以，好消息是，人们在这里，在开始时就受到了关注。坏消息是，所有的学习、教学和教育都将不得不改变。K12 教育、大学教育、终身学习、教育学习，所有这些都将改变，因为你整个模式通常是基于的。它基于你学习技能和拥有批判性思维。但很多也基于人们能够复述信息，而这根本行不通了，因为你有了这个可以很好地复述信息或写得很好的东西。所以，我们必须重新思考我们如何做。现在我有信心，在 10 年后，我们会回顾并说，“哇，我们教孩子们比 10 年前好多了。”但在接下来的五年里，我认为这是一个动荡的时期，因为，一，学校试图阻止它，就像，“哦，不，我们学校不能有人工智能。它会毁了一切，因为人们不会思考。”或者二，人们允许它进来，但他们并没有真正改变他们的教学和学习方式，所以人们只是依赖它，而你提到的那些批判性思维技能正在因此下降。我们真的必须重新思考我们如何做。这需要时间。其中一些将来自斯坦福这样的地方，但其中一些将来自任何地方，人们将看到什么有效，围绕它进行科学验证，然后大规模复制。这就是在接下来的五年里，在各个层面的许多教育机构中将要发生的事情。但这也有一个机会，因为教育系统往往是那些很难改变的系统之一。而人工智能几乎是一个特洛伊木马。它正在进入城门，人们意识到我们别无选择，只能接受它，并思考我们如何改革我们的教育系统。而且，在世界各地的教育学院里，有很多教育创新被锁起来了，那个特洛伊木马也将允许它们进入，而这些创新实际上与人工智能无关。所以，在接下来的五年里，将会有大量的课程和其他改革发生，而这些改革之所以没有发生，是因为这个系统真的很难改变。所以，好消息是，再次强调，在 10 年后，你会回顾并感到乐观。但如果你现在有一个年幼孩子的父母，我认为接下来的五年将会很疯狂，因为你会看到它是如何发生的。而且，我认为在某些公立学校和私立学校之间会有所不同。据我所见，许多私立学校对这种变化有更深的认识，并尝试新的创新。我们看到一些世界各地很酷的学校正在做相当创新的事情，比如奥斯汀的 Alpha School，我认为它们是我们将会看到的模式。而许多公立学校再次强调，它们非常抗拒改变。它们是更大的系统。这更难，所以它们可能会慢一点。
是的。是的。太棒了。我认为，在我看来，教育是最令人兴奋的领域之一，因为我们所知的系统长期以来一直没有像它应该的那样运作，这是一个巨大的机会来修复它，只要我们做得对。好的，让我们看看，我们还有一两个问题的时间。那么，您是否相信，在未来，以人为本的人工智能模型和应用与硬核技术性能、以利润为导向的人工智能之间存在发生冲突的潜在可能性？我们该如何管理？
我的意思是，我认为在试图做正确的事情和那些只是试图...
赚钱。但实际上我认为我们已经看到，那些仅仅抱着取代工人的想法的人，他们只是说，嘿，我正在使用这个代理来取代工人，他们似乎并没有获得预期的投资回报或效率。而真正的回报在于你深入思考你想要实现什么？我们如何利用人工智能和我们现有的人员来改变工作流程，并以一种好的方式来做，并与工人合作来设计它？嗯，我认为那些人将能够从中释放出更多的利润。再说一遍，这是我在达沃斯看到的，在许多我参加的由首席技术官和其他公司领导者组成的这些小组中，他们发现，是的，人们已经做了初步尝试。嘿，我们在某个流程中替换了一个人，然后他们发现效果并不好。我认为这是因为人们的工作比经济学家或其他试图以更简单的方式分析它的人要复杂得多。它只是你做的一系列任务，如果我们自动化了足够多的任务，你的工作就没了。这些任务之间有很多模糊的联系，通常是你与他人沟通、理解他们的需求、他们的情绪、从他们的工作中分担一些任务，以便他们帮助你。而这种社交技能并不是人工智能擅长的。因此，当它们以这种方式进行时，它们有时会失败，因为它们没有考虑实际的角色，或者工作流程应该如何改变，以及角色应该如何改变。这需要更多的努力。我认为那些这样做的人将能够获得更多的收入，但也会有更快乐的员工。嗯，所有这些积极的方面，所以存在一个权衡，但我认为那些拥有更长远思维并考虑骑手的人将在长期内获胜，但这确实需要更多的工作，我们需要看看这些权衡的结果。>> 是的，很好。所以这更多是在组织层面。嗯，在个人层面，你有什么建议，我们如何为人工智能驱动的未来做好准备？嗯，有些人我认为对人工智能感到担忧。他们谈论人工智能，然后因为这种恐惧而回避它。我认为实际上人们需要积极地去尝试和使用它，无论是在工作中还是在家里。当你开始使用它时，你就会学到它擅长什么，不擅长什么。你会发现，哦，是的，这个东西，它做得非常好。我们当中任何一个需要写很多东西的人都学到了，嘿，我需要把这个东西缩短成一个更短的段落。它能帮助你很快地总结一些东西。你需要检查它，以确保它没有以你不想的方式改变意思，或者丢失了你认为重要的东西，但它在这方面做得相当好。另一方面，有些任务是你要求它做出决定，或者安排事情，做一些需要逻辑推理的事情，它就会搞砸。关键是这些模型在不断发展和改进，并且在变化。所以，你实际上必须在你的工作、你的日常生活中做这些类型的任务，并随着时间的推移观察它的效果。这也有助于你弄清楚，嘿，我们如何在我的公司或我的组织中做一些可能具有变革意义的更大的事情。所以你必须积极地去尝试和使用它，这样你才能更好地了解它。我认为教育的整个想法对于理解这些不是神，它们会犯错这一点非常重要。那么你如何批判性地检查它？你如何测试它？以及你如何对它持怀疑态度，同时又积极地尝试使用它，我认为这些都非常重要。所以你真的想使用这些东西。我惊讶于许多公司说，“哦，我们还没有准备好，或者我们禁止我们的员工使用它，因为我们担心信息泄露。”我认为这是一个错误。我认为你实际上必须在你做的很多事情中使用它，然后你才能真正了解它在哪里有效，在哪里无效。这对我们社会各个阶段的每个人都很重要。>> 是的。是的。我给你讲一个我最喜欢的个人用例的故事。我哥哥在五月份结婚了，我让他写了我的婚礼致辞。我给他提供了一些回忆，并告诉他我想要的语气，结果很棒。每个人都喜欢我的演讲，我无法写得像它一样好。>> 但你必须确保它带有你的语气。>> 是的。它不像哦，你知道，某个机器人写了你的演讲。>> 是的。正是如此。而且它没有编造故事。故事都是真实的。嗯，好的。所以，最后一个问题来结束。嗯，观众如何才能跟上最新的信息，并了解人工智能、生成式人工智能、以人为本的人工智能的最新进展？嗯，每天都有新的模型应用。很难知道什么重要，需要关注。>> 是的。所以，我有三个答案。一是人工智能实际上非常擅长创建关于人工智能最近发生的有趣事情的每日或每周摘要，这些内容与你的兴趣相关。所以你实际上可以查询这些模型，然后说嘿，我希望你每天或每周创建一个关于我感兴趣的事情的小型摘要，你可以给出你的兴趣，但它也可以随着时间的推移从使用人工智能中学习你的兴趣。所以，这是其中一种方式。嗯，我不这样做，但我认识这样做的人。另一种方式是我们的研究所，斯坦福大学以人为本的人工智能研究所。你可以访问我们的网页，点击关于链接，然后你会找到一个说“订阅我们的邮件列表”的链接，我知道它在那里，因为我上周确保他们添加了几个链接。订阅。我们所做的一切，我们都会通过邮件发布很多关于研讨会、会议的信息。我们通过邮件发布的所有这些内容都是免费的，之后你可以在YouTube上观看我们的任何研讨会或会议。我们将大部分内容放在网上。所以有很多内容来自斯坦福大学的顶尖人才以及与我们合作的其他人士，这样你就可以保持更新。然后是教育。所以像我们正在谈论的斯坦福在线课程，我们会定期更新，因为人工智能发展迅速。你知道，我们已经在更新两年前的内容，因为它的发展速度太快了。所以，这是另一种方式，可以让你对正在发生的事情有一个快速的了解，并理解这些问题，这样你就能更好地理解你在媒体、学术界或网上读到的内容，因为你有基本背景来做到这一点。>> 很好。好的。嗯，是的，谢谢大家参加。谢谢詹姆斯，谢谢你抽出时间。嗯，杰斯，还有什么要说的吗？>> 是的，非常感谢瓦妮莎和詹姆斯。非常引人入胜的讨论，精彩的观众提问。所以，非常感谢你们两位的时间，也感谢大家参加。嗯，我将结束本次会议，但我希望大家，无论身在何处，都有一个美好的剩余白天，美好的剩余夜晚。非常感谢。