Transcription
[音乐]
好了，好了，好了，欢迎大家来到这里，我们开始吧。嗯，把这个留到好东西上，它马上就来了。欢迎，嗯，对于那些我不认识的人，我的名字是丹·李，我是博物馆的首席执行官，在这里工作了大约六年半。我对今晚的这个项目特别兴奋，它与我们的新使命完美契合，我稍后会提到。但我想先感谢所有的会员、理事、支持者、志愿者、以及组织这些项目的团队。没有你们的支持和帮助，我们是无法做到的，所以感谢大家。我们今天几乎是满座，而且我们在网上直播，所以欢迎远道而来的观众。如果你不知道，博物馆大约在六年前就更新了它的使命。我们将继续像所有收藏机构一样进行收集和保存，并将为后代这样做。但我们也非常关心人，因为一开始，人就是计算机，然后我们发明了这些叫做计算机的东西，现在生活离不开它们。所以，这个机构的使命已经演变为解读技术，解读我们获得自主权的计算路径，因为我们拥有这些收藏品，数字化的现在是一个动态的目标，并且在不断变化，以及它对人类状况的未来影响。今晚的节目将从个人角度深入探讨这一点。我非常兴奋地欢迎李飞飞博士来到今晚的节目。她的故事，来自这本书《我看到的世界》，确实是一个在个人层面，同时也在世界级和权威的专业层面，深刻地讲述了计算对人类状况的影响。所以，我们确实相信所有这些技术都可以用于更大的利益，而这就是我们机构的目标，帮助人们认识到并考虑这些技术的最大用途，以造福大众。我还要感谢今晚的赞助商，帕特里克·J·麦戈文基金会。我想我们会把它放到舞台上。没有你们，我们无法大规模地开展这类项目，而麦戈文基金会一直是我们的杰出支持者。帕特·麦戈文先生，他已经去世一段时间了，他是我们博物馆的创始理事之一，可以追溯到很久以前，当时博物馆最初设在波士顿，后来在二十多年前搬到了湾区。所以，我们要感谢他们对我们关于人工智能和人类状况的持续系列节目的支持。那么，废话不多说，你们在这里，我想是因为你们对人工智能和人类状况的发展很了解，或者有兴趣了解更多。让我介绍一下李飞飞，介绍一下她的背景。她是斯坦福大学的计算机科学教授，也是斯坦福大学以人为本人工智能研究所的联合主任。她曾是斯坦福大学人工智能实验室的主任，在休假期间，她曾担任谷歌人工智能和机器学习的首席科学家。她在那段时期也做了大量的研究。她还在国会和白宫委托成立的国家人工智能研究资源工作组任职。所以，请允许我欢迎李博士来到舞台。谢谢。谢谢。汤姆·基尔将主持这次对话。我有幸很久以前就认识汤姆了，当时他在奥巴马政府的白宫科技政策办公室工作。他曾在克林顿和奥巴马政府任职，在政策领域拥有丰富的经验，并且在国家纳米技术倡议和脑科学倡议中积极工作。他现在是文艺复兴慈善基金会的首席执行官，这是一个专注于我们正在经历的这场新文艺复兴的组织，并且在很多情况下，我们正在创造它。所以，我想感谢汤姆和李飞飞带来的节目，并加入我一起欢迎他们来到舞台。谢谢。让我留下 [掌声] 你们的。
好的，大家都要冲出去买这本书，也给你们的朋友和亲戚买一些。这是一本很棒的书。嗯，李飞飞，我们已经看到了这个观众有多么的极客。有多少人能向别人解释随机梯度下降和反向传播是如何工作的？请举手。好的，好的，太棒了。嗯，李飞飞，你在书里谈到的一件事是关于人工智能的历史。所以，我想知道你是否可以从1956年发生了什么开始，以及当时的那些研究人员花了多长时间才弄清楚他们能够解决人工智能的问题。
好的，首先，谢谢。谢谢计算机历史博物馆，谢谢丹尼尔和汤姆的邀请。我想说，祝所有庆祝农历的人们中秋节快乐！[掌声] 今天。嗯，好了，现在回到1956年。那不是达特茅斯研讨会，是吗？是的，我以为那是1959年。我的记忆已经模糊了。所以，我知道这个观众中有真正的历史学家。所以，1956年，达特茅斯学院一个闷热的夏天。人工智能的奠基人约翰·麦卡锡、马文·明斯基、克劳德·香农，第四个人是谁？还有一个人，抱歉，我们还记得。还有一群计算机科学家，我认为是来自DARPA的一个小拨款，对吧？为了讨论计算的未来。当时，我认为约翰·麦卡锡刚刚创造了这个叫做人工智能的领域。他们在那个夏天花了研讨会的时间写这篇关于人工智能是什么，它会做什么，我们如何解决这个问题，真正专注于推理，演绎推理，并试图让机器像人类一样思考，回答问题，做出决定。这已经是一段相当长的旅程了，你知道，七十多年了。我们看到了起起伏伏，我们看到了真正的，你知道，你认为我们现在处于一个炒作周期，我们在70年代关于专家系统的炒作周期，开始真正看到使用一阶逻辑和专家系统在当时的人工智能中的实际应用。但后来那个泡沫破裂得很厉害，因为当时它没有实现。我认为当时有杂志封面谈论机器人接管社会，1970年代，而那并没有实现。资金确实枯竭了，学术界和工业界的资金都枯竭了。我认为军事资金或国防资金仍然存在，但一些研究人员实际上回避了那些资金来源。所以，总的来说，整个领域都缩小了。然后到了90年代，我想说，人工智能领域开始发生一场悄无声息的革命。整个公众世界仍然认为那个时期是人工智能的冬天，但就我个人而言，我认为那是早春，是绿芽，积雪还没有完全融化。但我认为这是由统计建模驱动的，与计算机编程相结合，我们开始称之为机器学习。人工智能和机器学习领域找到了它们的语言，而通过统计学和机器学习的语言，开始突破诸如自然语言处理、计算机视觉、语音识别等个别领域。研究开始深入地研究这些领域。就我个人而言，我作为一名博士生于2000年进入人工智能领域，所以很多人仍然认为那是冬天。但对我来说，在我读博士期间发生了两件事，我认为这两件事定义了我这一代人工智能研究人员。一是统计机器学习，那时很多人，你知道，我读研究生时的第一堂课，我走进来的第一堂课就叫做神经网络和模式识别。我们读了反向传播的论文，但我们也做了支持向量机、贝叶斯网络、提升方法和核方法等等。这是发生在我们身上的一件事，我们用这些工具开始研究人工智能问题，比如计算机视觉。但另一件事我认为发生在我们的实验室之外，发生在学术界之外，对人工智能产生了决定性作用的是互联网。因为，我认为谷歌成立于1999年或2000年。互联网开始为我们提供数据。而且，正如你所知，当然，大约十年后，图形处理器也开始出现。所以，事情开始悄悄地汇聚。我认为大约在2010年到2012年，人工智能的公众时刻开始真正发生。至少在硅谷，当谷歌和其他公司试图收购一家来自多伦多大学的、可能甚至还没有名字的小型初创公司，这家公司赢得了ImageNet挑战赛时，公众时刻就开始发生了。从那时起，我们就进入了现代人工智能，人工智能复兴的时代。
一个你参与的项目在改变人们对可能性的看法方面发挥了非常重要的作用，那就是ImageNet。你和你的同事们创建了一个包含5000万张照片的数据集，并对它们进行了标记。为什么它在帮助启动这股现代人工智能浪潮方面发挥了如此重要的作用？
所以，对于那些不知道ImageNet的人来说，这是一个数据集项目，一个数据集项目，始于2006年，花了几年时间，并于2009年发布。到2009年，它成为人工智能领域最大的数据集。它包含1500万张互联网图像，经过人工排序、策划、组织和编目，涵盖22,000个自然物体类别。ImageNet项目，在我们发布ImageNet作为开源数据集后，我们立即让研究界参与到这个年度ImageNet挑战赛中，邀请全球的机器学习研究人员和计算机视觉研究人员参加我们称之为物体识别的年度挑战赛。这项年度挑战赛始于2010年，并导致了2012年的那个时刻。当年挑战赛的冠军是我们现在都知道的AlexNet，这是多伦多大学的研究人员，包括杰夫·辛顿、伊利亚·苏茨克维尔、亚历克斯·库什涅维奇等人的工作。而那个时刻对人工智能世界来说是相当象征性的，因为现代人工智能的三个基本要素首次汇聚在一起。那就是神经网络，这就是为什么汤姆在考你反向传播，那是神经网络的底层数学。所以，第一个要素是神经网络。第二个要素是大数据，使用ImageNet。第三个要素是GPU计算，当时是两个GPU。ImageNet的重要性在于，今天它有点微不足道，大家都知道人工智能是由数据驱动的。但在ImageNet之前，人们并不相信数据。每个人都在研究完全不同的AI范式，并且使用少量数据，有时甚至没有手工特征工程。正是如此。所以，我们有一个非常激进的想法，就是抛弃所有这些，用数据驱动的模型，用数据驱动的方法来驱动AI的泛化。这让许多人深感怀疑。所以，没有这种观点，嘿，思考神经网络的一种方式是它们是通用的函数逼近器，如果你给它们足够的例子，它们就可以在输入和输出之间建立映射。所以，那不是主流观点，不是。我明白了。现在，我觉得你书中有趣的是，你的许多资深同事都在想你为什么要做这个。所以，我认为这是一个很好的例子，如果你相信某件事，你知道，有时你应该继续做下去，因为显然它产生了巨大的影响，即使你没有得到同事们想要的喜爱。
是的，但你知道，你看，我并没有从负面的角度写它。我认为这是科学进步，无论是你的资深同事、初级同事还是学生，我都在不断地受到我学生的挑战，我可能每天都有99个愚蠢的想法，也许偶尔有一个好想法。所以，没关系，我受到了挑战，没关系，因为这是一个未经检验的想法。但我猜故事的另一面是，尤其是对年轻人来说，仅仅因为你受到了挑战，并不意味着你应该放弃。所以，这是这里的重要教训。
是的，是的。嗯，你知道，现在从2012年到2024年，你认为我们在此期间在人工智能方面取得的最重要的进展是什么？
相信与否，2012年也是詹妮弗·杜德纳和她的同事们发现CRISPR的同一年。我和她在那年进行了一次谈话。结果发现，你知道，两项重大的科学技术突破在那一年到来。所以，好的，从2012年至今已有12年了。发生了什么？嗯，发生了几件事，对吧？所以，在研究领域，我认为AlexNet加上ImageNet是一个重要的时刻。它确实为包括谷歌在内的科技巨头打开了大门，它们开始加倍投入深度学习。这是深度学习时代的开始。然后，我认为在2016年1月，公众时刻到来，当时AlphaGo与围棋大师李世石对弈并获胜。我认为那是公众第一次意识到机器已经足够强大，可以在人类认为是我们独特能力的任务中挑战人类。而且，它还引入了一种称为强化学习的新算法类别，你知道，它是在深度学习之上。所以，那是一个时刻。而且，在2016年到2022年之间，我认为只是在大型科技公司和创业公司中对人工智能的投资在逐步增加。我们也在开始，它也与技术抵制的第一瞥相吻合。我想说，对于我们许多人来说，技术抵制发生在剑桥分析公司事件之后，你知道，2016年的选举。但那是在机器学习偏见被指出的时期，自动驾驶汽车发生致命事故的时期，最早的，我认为是在2017年左右。所以，我们开始进行社会对话，以及技术兴奋与技术担忧之间的紧张关系。所有这些我认为都积累到了2022年10月底，当时ChatGPT出现了。ChatGPT，你知道，对于我们这些研究人员来说，我们已经看到了这种情况的发生。你可能在想，哦，她只是在虚张声势。但我会告诉你为什么。因为我们在2021年是斯坦福以人为本人工智能研究所的联合主任。我们实际上成立了世界上第一个基础模型研究中心，因为我们看到了GPT-2的结果。当时公众还没有意识到，但像我们这样的研究人员意识到，我的天，这将会改变。所以，我们立即投入资源成立了这个中心。所以，当ChatGPT出现时，我们有点感激我们开始了这一切，但我们也对它的媒体曝光度感到震惊。我认为AlphaGo时刻和ChatGPT时刻在公众意识方面的区别在于，不仅仅是人数，这是人工智能第一次如此紧密地掌握在个人用户手中。AlphaGo不在任何用户的掌握中，除了围棋大师。但ChatGPT就在你的指尖，那是一个觉醒的时刻，不仅对每个个人，也是对政府的觉醒时刻。你知道，在ChatGPT出现之前，我们研究所的一部分使命是弥合技术世界和政策世界之间的差距。你在华盛顿，我不会经常飞到华盛顿，但我会去华盛顿继续对话。但在ChatGPT之后，华盛顿就像在呼唤我们。所以，我认为，你知道，到底发生了什么？所以，我认为这十年确实是公众看到离散的点事件，我们看到的是连续的，只是越来越多的，只是对数图。是的，是的，更多的投资和运动。
那么，在研究界是否仍然存在关于大型语言模型是随机鹦鹉，还是它们仍然具有实际推理能力的争论？你对此有何看法？
我明白你为什么使用“随机鹦鹉”这个词，因为它特别来自一篇批评大型语言模型的论文。我认为重要的是要认识到，我们确实需要从不同的角度批评这些模型，包括它的能力、能耗、局限性、偏见等等。但从科学的角度来说，我会使用更中立的语气，而不是称之为上帝或鹦鹉。它确实是一个大型模型，它具有巨大的能力，不仅能进行模式匹配、模式学习，还能进行预测，并且还能进行预测，甚至能表现出一定程度的推理能力。因为它能够向你解释事物是什么。我知道几天前有一个新版本，01。我个人还没有时间测试它。它在推理时间上将推理又向前推进了一步。所以我认为公平地说，它确实具有模式识别能力，有些人可能称之为鹦鹉般的，但它也具有一定程度的推理能力。但我总是非常小心，尤其作为一名教育者，我的责任是诚实地与公众沟通。我总是非常小心不要夸大这种推理能力，包括一些更夸张的推断，比如意识或感知。
那么，你认为在接下来的三到五年里可能会发生什么？你认为目前这些系统最大的局限性是什么？以及你认为在提高它们的性能方面，我们可以取得哪些真正进展的领域？
汤姆，我不知道你是在狭义地问语言模型，还是在问人工智能，人工智能。是的，例如，有些人认为我们可以通过购买更多的GPU来取得巨大的进步，比如购买两百万个GPU而不是两个GPU，以及更多的数据，更多合成数据。所以，我们知道Transformer，注意力就是你所需要的一切。所以，有些人认为我们可以通过扩大现有技术的规模来取得巨大的改进。而另一些人则说，今天的AI版本存在根本性的限制，我们必须探索新的方法，比如神经符号方法或其他什么。所以，你对这场辩论有强烈的看法吗？
嗯，首先，所有观点都很好。事实是，我认为我们正处于一场真正的数字革命。所以，未来三到五年将继续非常令人兴奋，但对我们的社会来说也将充满紧张，包括政策。你问的所有问题都更多地集中在技术方面。所以，首先，我坚信人类历史上的每一个时刻，技术和科学都是有限的。我们可以永远推动前沿。就我个人而言，我对空间智能感到非常兴奋，这远远超出了语言。如果你看看人类和动物的智能，语言只是智能的一个组成部分。即使我们看先进的智能，人类也建立了基于语言之外的文明。从金字塔的建造到第一次工业革命机器的精密设计，DNA结构的发现，电影的创作等等。其中很多都是建立在超越语言的空间智能之上的。所以，除了语言之外，肯定有新的大门敞开。从技术上讲，数据缩放定律，我们仍然看到数据缩放定律的非常健康的证据，但我们也越来越听到关于我们正在达到数据极限的说法，尤其是在互联网上的文本数据。很有可能我们可能正在达到极限。但在我所在的，嗯，高等教育领域，我也看到有如此多的科学发现领域，数据甚至还没有被正确地收集起来，从这些数据的数字化到这些数据的建模。所以，我实际上认为未来三到五年，我们将看到不同领域的科学发现的蓬勃发展，因为人工智能和机器学习，而不仅仅是大型基础模型的商业化。我们将看到更多的空间智能，我个人参与其中，我对此感到兴奋。我们还将看到未来三到五年不仅仅是技术的年份，也是我们如何部署这些模型，如何治理这些模型的年份。你知道，在我们家加州，正在讨论人工智能法案。就我个人而言，我既支持安全措施和政策措施，也担心即使是出于好意的法案也可能对科学和开源社区产生意想不到的负面后果。所有这些都将在未来三到五年内得到解决。
我肯定想回到政策问题，但我想为观众更详细地描述一下你所说的空间智能。那么，计算机能够看到、做到和学习意味着什么？我们如何知道我们在空间智能方面取得了进展？所以，你知道，你在斯坦福的一位同事切尔西·芬恩说，我们离让一个机器人出现在一个它从未见过的房子里做早餐还有很长的路要走。非常遥远。我等不及了，但它还很遥远。所以，这个观众太黑了，汤姆和我看不见举手，所以我不会提问。但如果你追溯人类语言的发展，当然，这仍然是一个科学研究领域。但大致上，最早的原型语言时刻发生在人类非常早期的祖先身上，大约在一到两百万年前。这是你能追溯到的最早。很多人说语言是在我们今天使用的语言的最后三十万年内发展起来的。但如果你追溯看到空间、三维世界的能力，理解正在发生的事情，看到障碍物，看到食物，看到如何导航，推理这些，可以追溯到五亿四千万年前。那是动物世界在水下首次发展出光传感器，感知能力也随之开始。随着感知的开始，动物开始有目的地移动。在此之前，它们只是漂浮着，它们可以，它们可能触碰到一些东西，因为有早期的触觉传感器，但那非常非常轻松。但一旦你真的，从字面上看，一旦你能看到，是的，你从孩子们那里得到了这个。一旦你能，嗯，我与年轻学生一起工作，他们。一旦你能看到，你就开始发展空间智能，你开始规划你的生活，你开始看到食物，你开始躲避成为别人的食物。而智能的进化过程就此开始。空间智能总结了所有这些能力。用今天的语言来说，我认为它是理解、推理、生成和与三维世界互动。现在，我们同时生活在物理世界和数字世界中。所以，这种空间智能适用于物理和数字世界。这就回到了，如果你想要一个能到你家做早餐的机器人，机器人需要拥有的最重要的东西之一就是空间智能，因为机器人需要知道冰箱在哪里，炉子在哪里，鸡蛋在哪里，你如何打开一个鸡蛋，把它放进平底锅里，所有这些都是空间智能的一部分。
嗯，嗯。明白了。为什么那 [笑声] 那么好笑？
所以，关于人工智能这个概念有很多讨论，我想知道你是否认为这是一个有用的概念。所以，人们通常的意思是，也许我们可以暂时搁置机器人，因为那有点遥远，但想象一个远程工作者，你可以有一个人工智能，它能做人类所做的所有有用的经济活动。我们能否在三到五年内实现一些AGI？你认为这是否过于乐观？
这是一个好问题。我也必须承认，这是一个非常硅谷的问题。嗯，我们就在这里。我知道。嗯，你知道，有时我会在脑海里和人工智能的先驱们对话，约翰·麦卡锡，你知道，马文·明斯基，拉曼·哈，还有艾伦·图灵。他可能不会称自己为人工智能的先驱，因为当他用思考机器的问题来挑战人类时，最终转化为图灵测试，他还没有想到人工智能这个词。它还没有被发明出来。但当我与这些巨人对话时，我认为他们对人工智能的定义将非常相似，那就是智能的通用能力。所以，如果他们心中想着人工智能，那么作为一名学者，我很难区分人工智能和AGI。因为我认为它们是深度重叠的。而且，如果你看看AGI这个词是什么时候出现的，可能还不到十年，它更多地来自行业营销领域。嗯，这没什么不好，但从学术、科学、技术研究者、教育者的角度来看，你们中一些读过我书的人知道，我经常使用“北极星”这个词。作为一名科学家，我们追逐我们一生中可能永远无法解决的最困难的问题，但它们激励着我们。我认为人工智能作为一个领域的北极星始终是那种通用能力。所以，我对AGI这个词有什么看法？当他们发明这个词时，没有人问我。没关系，但我爱的人工智能领域，我们仍然相信它，在很大程度上与这个定义重叠。现在，三年，我们会实现吗？如果，你知道，在风险投资家面前，我会说当然。但你不是，你也不是。所以，我认为，我认为我们需要负责任。那意味着什么？机器是否会超越人类在重要任务上？我们已经做了一些，对吧？你知道，2006年的DARPA无人驾驶汽车大挑战。2006年，我的同事阿巴萨恩·特罗和他的团队驾驶一辆车在内华达州的沙漠中行驶了138英里。那是一个令人难以置信的能力。然后我们有翻译数十种语言的机器，这简直是超人的。我们有这么多任务已经超越了AlphaFold，是吗？AlphaFold，AlphaGo，甚至ImageNet，那是1000个晦涩的物体类别，比如星鼻鼹鼠，或者很多种狗。这些都是超人的能力。所以，我认为我们已经实现了一些，我们将继续实现一些。但我想，如果没有清晰的定义，如果你是人类的整体，并且像人类一样聪明，并且像人类一样复杂，在三年内，我不相信。
好的，那么，让我们谈谈你在斯坦福的这项以人为本的人工智能倡议。首先，你所说的以人为本的人工智能是什么意思？
这是一个很好的问题。我认为以人为本的人工智能，就目前而言，对我来说是一个思考我的AI工作的框架。因为人工智能是由人制造的，由人使用，并将影响人的生活。那么，思考这项技术的指导框架是什么呢？我是在2018年3月出来的，当时我还在谷歌担任首席科学家。我写了一篇《纽约时报》的文章，题为“把棍子放在地上”，并称这个框架为“以人为本的人工智能”。正是因为我对我在谷歌的工作深受启发。我有机会与如此多的企业互动，从日本的个人开发者，到使用人工智能的黄瓜农民，再到希望利用人工智能彻底改变其整个商业模式的4到50家公司。我意识到这项技术比我所想象的要大得多。它将以如此深刻的方式影响我们的生活、企业和世界。而这种认识实际上让我脊背发凉。这样想是很可怕的。意识到一个工具可以如此强大，我们最好思考它的影响。对我来说，这种深远的影响必须以人类的影响为基础。一旦我这样想了，我和我在斯坦福的同事们就把它定下来了，说我们需要以人为本的框架来处理人工智能。现在，在斯坦福的HAI，我们从三个同心圆来思考人工智能对人类的影响：个人、社区和社会。我举个例子。个人，真的与每个个体有关，每个个体都很重要。这项技术如何影响你或使你受益？你知道，如果你是一名艺术家，你如何利用它来增强它，或者它是否剥夺了你的知识产权？如果你是一名患者，这项技术是否让你更好地康复，同时又不剥夺你的人格尊严？如果你是一名学生，你如何学习？通过这项技术的帮助，你对任何你感兴趣的东西。所以，有个人影响。然后是社区影响，对吧？人工智能如何作为一种工具来帮助资源不足的社区？例如，人工智能加上远程医疗是社区的一个非常非常好的用例，这些社区没有医院和足够的医生。与此同时，人工智能的偏见是否会比其他社区影响更大？我们已经看到了。所以，这就是社区方面。然后我们有社会，对吧？今天，我们无法停止谈论人工智能对我们民主进程的影响。11月，人工智能和深度伪造以及信息战将如何改变这一切？我们无法停止谈论工作。你知道，从软件工程到卡车司机，再到放射科医生，人工智能正在影响整个社会。所以，所有这些都是人类问题。数学是清晰的，但人类世界是混乱的。人工智能已经从那个干净的数学、干净的编程世界进入了一个混乱的人类世界。
有人曾说过，技术很容易，人很难。是的，尤其是小孩子。
你最兴奋的人工智能的潜在好处和应用是什么，比如环境健康？
谢谢你提出这个问题，因为这是我书中的第10章，但它确实是无限的。就我个人而言，我深受启发，因为我花了无数个小时坐在初级保健、急诊室、手术室外、门诊环境中，因为我有一个患有几十年重病的外国父母。我照顾我的母亲，我意识到我们的医疗保健系统充满了人类照顾人类，但所有这些医护人员，从护士到医生到看护者，他们没有足够的时间，也没有足够的帮助。所以，环境智能在医疗保健领域真的来自于我和我在斯坦福医学院的合作者的合作，他们想利用技术为医生、护士和看护者提供额外的眼睛和耳朵，以确保我们的患者是安全的，或者他们的病情没有迅速恶化。例如，我甚至不想看到举手，这只会让我伤心，但你们许多人都有个人家庭成员和朋友跌倒过。这是一种非常非常痛苦且代价高昂的伤害，尤其是对老年人。但你如何预测它？你如何提醒它？你如何帮助他们？你如何帮助我们的长辈或患者？很难有人能24小时 watching，但电脑和摄像头可以提供帮助。或者，你知道，环境智能可以帮助监测慢阻肺患者的病情，并在氧气水平迅速变化或情况发生变化时提醒医生。所以，这只是人工智能几乎像守护天使一样，增强我们的看护者来照顾人们的一个例子。但我们在教育领域看到了令人兴奋的用例，个性化学习，对吧？很明显，人工智能可以成为一名导师，一名助教，一名教师助理，为我们不同学习环境中的教师提供帮助。我认为你的一位前研究生安德烈正在研究这个问题。是的，我确实如此。我几天前刚见到他。是的。但农业领域也有很多用例，相信与否。我有一个以前的学生，在深度学习革命开始之前，他联合创办了一家初创公司，利用计算机视觉技术来检测田间的杂草，这样就可以保持作物更健康。你知道，我听说三文鱼养殖户利用人工智能来帮助养殖三文鱼。你知道，人工智能的积极用途的用例简直是数不胜数。
那么，我们如何为更多的人做好准备，让他们既有计算背景，又是领域专家呢？例如，就像你的同事达芙妮·库勒一样，她有机器学习背景，但她也学了很多关于医疗保健和药物发现的知识。在我看来，那些在两个领域都有所涉猎的人，既有计算专业知识，又有领域专业知识的人，将能够帮助识别更多引人注目的用例。
这是一个很好的观点，汤姆。我深信跨学科和多学科的方法。你知道，即使你不想在人工智能和计算神经科学的交叉领域获得博士学位，或者人工智能和计算生物学的交叉领域，或者人工智能和政治学的交叉领域，即使你没有在你的学生生涯中深入到博士学位，拥抱计算和STEM领域以及你的热情领域，无论是生物学、艺术、政策还是化学等等，都非常有价值。所以，对于在校的学生，如果你在学校，如果你正在考虑上大学，如果你在大学，我认为汤姆所说的非常有价值，那就是拥抱跨学科性。我认为稍微放大一点，你知道，人工智能是计算的新语言。我曾被引用说，任何有芯片的地方，都会有或将会有人工智能，小到像一个有芯片的灯泡，大到像机器人和汽车等等。鉴于这项技术的重要性，我确实相信教育我们的孩子，从小教育我们所有背景的学生，教育我们的公众了解这项技术，至少如果不是编码，至少要知道它是什么。但最后但同样重要的是，即使你的热情不在计算、计算机编程或人工智能的技术细节上，如果你的热情在于艺术、政治学、法律、医学，那么你就有你的位置，因为正是领域专家将利用人工智能来改变你的领域。所以，不要害怕从你的角度去拥抱它，并用它来做出积极的改变。
你认为人们列出的许多潜在风险中，你最认真对待的是什么？你已经谈到了一些，比如人们会失业，人们会使用深度伪造来扰乱选举，我们会强化现有的偏见。有些人有更具推测性的担忧，比如工具性趋同的想法。你知道，如果我们给一个人工智能系统一个目标函数，试图实现某个目标，那么它就会有子目标，想要复制自己，并获得更多的计算能力。
你看，有很多风险。每项技术，每项强大的技术都造成了伤害，被用于伤害，即使是出于好意，也产生了意想不到的后果，我们必须面对它。但如果你迫使我选择一个风险，作为一名教育者，我会说，拥抱人工智能新时代的最大风险是无知。它不仅仅是不知道如何拼写“人工智能”这个词的基本无知。它甚至是一些根深蒂固的知识渊博的人，当他们忽略细节和细微差别，并以夸张的方式传播人工智能时，这对社会是一种风险。但无知，你知道，我们知道，如果我们对这项技术太无知，我们就错过了利用它来造福我们的机会。如果我们对这项技术无知，我们就无法指出或认识到实际的风险。如果我们传播无知的消息，我们也误导了公众或政策制定者。所以，这些问题中的许多根源实际上源于缺乏理解，所以我们没有正确评估风险，或者我们夸张地传播它，或者我们完全错过了它。所以，这就是我将如何表述。
你现在看到的一些例子，人们说的话，你认为完全离谱？
好吧，我认为任何说人工智能都是好的人，就像你知道，你可以把“技术”这个词换进去，技术都是好的，它只是一切都是好的，它永远不会做坏事。我认为这是对过去的无知。我们看看人类使用工具的历史，每种工具都被以有害的方式使用。所以，我们必须认识到，如果你的数据集有偏见，你将产生非常糟糕的公平性下游影响。如果你不知道人工智能是如何制造的，你可能会在不知情的情况下与深度伪造合作。这些都不是好事。但也有另一个极端，那就是它是一个如此可怕的恶魔，它是一种生存危机，它将自我复制，关闭我不知道，电网等等。我认为这也是夸张的，它忽略了人工智能不是一个抽象的概念。它实际上存在于物理系统中。即使它是虚拟软件，数字程序，它也存在于物理系统中。它存在于数据中心，存在于电网，存在于人类社会中。有很多东西是联系在一起的，并且是情境化的，所以，你知道，那种夸张的假设。
但你知道，提出一些更具推测性担忧的人是杰弗里·辛顿这样的人，他大概了解这项技术。那么，为什么你认为那些深入参与技术的人，在过去几年里变得越来越担心呢？
首先，我非常非常尊敬杰夫。我从读研究生时就认识杰夫了。事实上，去年我在多伦多，我和杰夫就这个问题进行了公开讨论，并且在YouTube上。我认为这是杰夫和我，或者杰夫和任何人就此问题进行公开讨论的少数几次之一。如果你仔细听他说话，他很担心。他也指出了潜在的风险。但也有一个放大的层级。我们必须区分开来。我完全尊重与杰夫的讨论，我同意他的观点。不负责任地使用这项技术将导致非常可怕的后果。他有他版本的“不负责任的使用”，我也有我自己的版本。我认为，我尊重每个人以自己的方式指出这些风险。但我也想成为一个负责任的沟通者和教育者。我想让公众知道，驾驭和治理这项技术仍然是我们的集体个人责任。而且绝对，不仅是时间，绝对是时间。还有，你知道，就是我们所做的一切，都在我们手中。我们不应该放弃。
所以，你谈到了治理，你在将国家研究云的想法推向政治议程方面发挥了非常重要的作用。如果你有机会向下一任总统汇报，他们说“李飞飞，我应该做什么？”你会给下一任总统关于美国政府可以做的最重要的事情的建议是什么，以促进利益，同时也理解和管理风险？
我可能会说和我在去年六月以及今年早些时候对拜登总统说的一样。我还在国情咨文演讲中见到他。那就是，我相信我们的国家需要一个非常健康的AI生态系统。当我说是生态系统时，它包括公共部门、学术界、创业公司，我们现在称之为小科技公司，以及大科技公司。而我们的国家是一个非常强大的民主国家，我们相信这个民主国家的价值。我相信拥有一个健康的AI生态系统可以发挥我们的优势，并发挥非常积极的作用。
但我们可以做些什么来促进公共投资呢？
公共投资。公共投资真的非常重要。现在我部分在私营部门，这让我更加确信，私营部门投资和公共部门投资人工智能之间的差距太大了。就像我的斯坦福计算机视觉实验室与几位其他教授共享，零H100。它也没有零A1100。我们仍然在使用A6000和其他旧芯片。而大科技公司，正如你所说，有数十万甚至数百万的芯片。我认为公共部门的投资是思想的温床，是鲜花的绽放之地。如果没有公共部门，我们就不会在这里。我也不会在这里。你知道，杰弗里·辛顿是什么时候开始研究人工神经网络的？多少十年前？当他在卡内基梅隆大学，或者甚至更早的时候？ImageNet来自公共部门。你知道，未来三到五年。
我们谈论科学发现，我们将看到令人兴奋的事物出现，其中许多将来自公共部门，而且最好的事物也来自公共部门的学术界，猜猜是什么？正是人们，所以我们需要投资公共部门，是的，太棒了，嗯，我们有一个非常聪明的观众，所以我相信你们已经想出了很多非常好的问题，嗯，让我们看看，嗯，其中一个问题是关于你们的新公司，嗯，你们将如何收集足够的数据来构建世界的空间地图以支持实时定位，所以你们可能想解决这个问题的假设，但很明显，你们知道数据将是，在没有数据的情况下，你们无法在空间智能方面取得进展，所以也许你们可以解决这个问题，是的，我们还没有公开讨论细节，因为我们还没有准备好，当我们准备好时，我们会做的，我有点觉得这个人已经知道我们在哪里建造了，那是他们版本的故事情节，我对此不予置评，但你们是对的，嗯，人工智能是由数据驱动的，这很重要，我们的公司空间智能绝对是基于像素的，所以很多像素数据将驱动这项技术，这里有一个很棒的问题，嗯，来自艾米，嗯，这与你们曾经做过的事情有关，嗯，人工智能为所有人服务，但她说，嗯，我是一名 12 岁的初中生，我们能做些什么来鼓励更多女孩学习人工智能，并为人工智能时代做好更好的准备，这是一个很好的问题，嗯，我认为每个 12 岁的孩子都应该被鼓励接受这一点，无论你是女孩还是男孩，无论你住在农村还是硅谷，如果你喜欢它，就拥抱它，对于艾米，以及当我 12 岁的时候，嗯，没有人工智能，至少我不知道有人工智能，我喜欢数学，我喜欢物理，我今天很感激我的父母和老师为我做的一件事，我会对艾米和所有那里的学生说，追随你的激情，追随你的好奇心，并且要有韧性，如果存在负面声音，就忽略它们，从你的父母到你的老师，到你的朋友，到你的榜样，有很多人在那里支持你，继续做下去，继续前进，除了做早餐午餐之外，用空间智能解决的最重要的人类问题是什么？开玩笑，空间智能确实可以驱动许多事情，从创造到设计，你们中有多少人想要一个应用程序，你们可以想象所有的家具重新排列，到机器人技术，到增强现实虚拟现实，到特定的领域，无论是教学、学习、医疗保健，你知道的工厂制造等等，所以它确实是一种深刻普遍的横向技术，可以影响所有这些领域，所以我们有一个关于小型模型和增强现实眼镜组合的问题，嗯，这是你们考虑过的事情吗？我对新媒体感到非常兴奋，我知道这还处于早期阶段，就像我们又在硅谷一样，我相信你们中的许多人熬夜购买了 Vision Pro，所以我非常兴奋，事实上，苹果称之为空间计算，因为当时我已经考虑空间智能很多年了，我当时想，是的，因为空间计算需要空间智能，但是这种眼镜的形态，或者我真的相信眼镜，可能还有头显，但眼镜对我来说非常令人兴奋，嗯，以及边缘计算，或者小型模型，这非常令人兴奋，但是小型模型不仅对眼镜和头显有用，它对于边缘计算来说确实非常强大，无论是智能设备、机器人，尤其是家用机器人，你不能在后备箱里装一个服务器，所以小型模型有很多用途，是的，我对多模态模型和智能眼镜在劳动力发展方面可能发挥的作用非常感兴趣，是的，有很多，你知道，我们没有足够的电工，所以你可以想象那种耳塞式人工智能和智能眼镜，在学徒计划中提供即时、恰到好处的培训，嗯，嗯，我们能做什么？研究界能做什么？公司能做什么来解决除英语之外的其他语言代表性不足的问题？所以这是一个很好的问题，这涉及到数据偏差等等，首先，我认为当我谈到公共部门对人工智能的投资时，我认为每个国家都应该有公共部门的投资，这本身就与当地文化、当地语言有关，你知道，所以从这个角度来看，重要的是个人研究人员，个人研究人员要关注，但政府和能够部署大量资源的组织也要关注这一点，这绝对是真的，英语占主导地位，我们应该意识到这一点，嗯，这又回到了我的公共部门投资的观点，即使在这个国家，我也相信我们有令人难以置信的研究人员和学生在思考其他语言，但现在他们缺乏数据集，缺乏计算资源，我们需要解决这个问题，所以观众提出了一些哲学问题，我想知道，嗯，你们是否可以谈谈你们在斯坦福大学为吸引人文和社会科学领域的人们所做的努力，以及他们能够提供的一些让你们作为计算机科学家感到有趣的见解，实际上，这是我过去五年里最有趣的部分，建立和共同运营这个研究所，真正地跨越校园，斯坦福大学尤其有大约八个学院，从法学院、商学院、医学院，到现在的可持续发展学院，人文与自然科学学院，工程学院，只是与同事交谈，与校园里的学生、研究人员和学者联系，这非常有趣和富有启发性，我学到了什么？例如，我，嗯，你知道，嗯，与我的，嗯，与我的同事们交流，真的拓宽了我对人类表达和创造力的理解，以及它意味着什么，我们如何看待人工智能与那些深深的创作者的关系，你知道，尤其是在 ChatGPT 和 Sora 出现的时候，你知道，从好莱坞的编剧罢工，到对声音的担忧，对艺术家，对个人版权，一直到艺术家们站在拥抱这个工具的最前沿，这太复杂了，我没有接受过正式的教育来理解这一切，他们教我思考这一点，我再次学到的一件事是，与这个观众交流，可能是非常技术性的，我认为技术人员倾听并与人文主义者和社会科学家联系非常重要，而且在你们自己的工作环境中，也可能是法律，可能是产品，可能是市场营销，可能是许多不同的职能，因为技术不是孤立存在的，技术，你知道，需要复杂的努力才能使技术变得仁慈、良好和公正，带着这种谦逊和尊重，并给予对方应有的尊严，这是我们建立这些桥梁最根本的事情，你们认为我们在可解释和可理解的人工智能等领域取得进展有多重要？这是一个很好的问题，我认为总的来说很重要，但再次，我认为我们应该稍微细致一些，例如，即使是可解释性也有不同的层次，例如，每个人都知道泰诺对发烧和头痛有好处，向我解释泰诺在分子水平上的作用途径，事实上，即使是今天，科学家们也不知道所有细节，你永远不会说泰诺是一种不可解释的药物，因为有一个围绕药物开发的整个系统，围绕监管措施，围绕药物的批准过程，有足够的解释让你或大多数公众信服并感到信任，这是可解释性的一种方式，另一种可解释性是，例如，你知道，特别是你，汤姆，从拉斐特开车到这里，如果你在谷歌地图上输入，它会给你选择，你知道这条路线，你付钱，但它快 4 分钟，这条路线是风景优美的，我不知道现在从洛杉矶到山景城是否有任何风景优美的路线，但老实说，这并没有向你解释从 A 点到 B 点的算法，但作为一个人类用户，你觉得在你的选择方面有足够的可解释性，再次回到医学，我们几乎没有人不是医生，我们理解治疗，但你的医生用某种人类语言向你解释这种治疗是什么，我用这个例子，我花时间用这个例子来，嗯，分享给你，重要的是要考虑用例，同样重要的是要考虑可解释性的定义，以及那个定义，特定的定义和特定的用例确实需要匹配，有时我们不需要机械的分子通路水平的可解释性，有时我们需要不同的可解释性，所以，为了回答你的问题，这很重要，但取决于用例，它以不同的方式很重要，嗯，我们有很多观众想了解更多关于你们 World Labs 的商业计划的细节，但我们会跳过这些问题，所以观众中有风险投资家，嗯，所以有一个问题，你知道，你提到除了学习人工智能，你还学习了神经科学，所以有些人对这个问题很感兴趣，你知道，人工智能能从神经科学中学到什么？你知道，卷积神经网络至少在某种程度上受到了人类视觉系统工作方式的启发，你知道，人们研究了多巴胺奖励回路，它是强化学习的灵感来源，你知道，还有其他领域吗？你看到了神经科学和人工智能之间潜在的合作吗？很明显，大自然已经解决了低功耗计算的问题，因为我们的大脑只消耗 20 瓦，你知道，就像这个房间里的任何灯泡一样，所以，当我们创立斯坦福 Hai 时，三个主要研究支柱之一是神经科学，神经科学和人工智能之间的跨学科合作，对我来说，是该领域进步的基础，也是两个领域未来发展的动力，我很幸运能与 Seria Ganguly、Mike Frank 和 Noah Goodman 等同事合作，斯坦福大学的许多同事都处于这项跨学科研究的前沿，例如，嗯，幼儿的发展，你知道，早期，孩子们进行大量的由好奇心驱动的学习，这如何转化为人工智能，你知道，人工智能系统，这是其中一个灵感，我们也知道，嗯，反向传播是对我们大脑中两个神经元之间发生的事情的非常非常简单的翻译，除了突触连接之外，还有大量的树突连接，它们实际上是深刻的电化学的，而且非常微妙，今天没有机器学习算法包含这些复杂的新的，你知道，有趣的突触和神经元通信渠道，反之亦然，我们的神经科学家同事，无论他们是使用动物模型还是细胞模型，都在收集大量数据，使用机器学习或人工智能是帮助他们发现科学的迷人方式，最后但同样重要的是，即使是我的实验室，我也觉得现在我们与心理学家合作，并使用人类的非侵入性电，嗯，脑电波来驱动机器人，你知道，这是完全非侵入性的方式，所以，重点是这两个领域有很多交叉授粉，对我来说，这是最令人兴奋的跨学科研究领域之一，好吧，法伊，我们有足够的问题让你留到晚上 10 点，但是，嗯，请和我一起感谢法伊接受了一次精彩的采访，谢谢，记住，世界，是的，那是肯定的，所以非常非常感谢你们俩，再次，这是一次精彩的采访，我个人有很多收获，公共支持，我真的认为这是非常非常基础的，我认为，汤姆，你在政府方面做了很多事情，我认为没有它，我们会一无所获，你知道，在这个阶段，因为其中很多都与社会影响有关，你正在寻找的第四个人，哦，是的，在达特茅斯会议上是内森尼尔·罗切斯特，是的，他当时在 IBM 工作，我想告诉你们所有最近没有去过展览的人，楼下有一个霍尔瑞斯机器，这是赫尔曼·霍尔瑞斯建造的一台机器，这是为了解决美国政府的一个问题而公开征集的，那就是对 1890 年代的人口普查进行编码，因为当时进行加法的方法，不允许在规定时间内统计人口普查，因为人口的增长，通过公开呼吁和私人倡议的结合，他发明了一台基于穿孔卡的机器，这种穿孔卡是为工业革命中的雅卡尔织布机设计的，用于存储所有这些织物和窗帘的图案，所以我们只是回到，无论是 DARPA 的资助还是其他什么，都需要有社会性的呼吁，如果现在没有，我不知道什么时候会有，所以你为舞台上的每个人都提出了一些绝妙的想法，我想再次感谢你们俩，请再和我一起，然后不要走开，谢谢。