Fei-Fei Li in Conversation with John Hennessy on Her New Book: The Worlds I See

欢迎，各位。我是内特·佩尔西利。我是斯坦福大学的法学教授，也是网络政策中心的联合主任。我是今晚你们将听到的最不令人印象深刻的人，这就是为什么我穿着西装。这是一个精彩的活动，当我们的教职员工出版一本书时，总是值得庆祝，尤其是像你们今天将要听到的这样重要且我认为具有影响力的书。当然，这是李飞飞的《我所见的世界》。她将与约翰·亨尼斯进行对话。让我简要介绍一下我们两位演讲者。这些介绍可以一直说下去。假设他们已经获得了各自领域的所有重要奖项，并且是其职业生涯中所有重要学会的成员。所以，李飞飞教授是斯坦福大学计算机科学系的创始塞科亚教授，也是斯坦福大学以人为本人工智能研究所的联合主任。她曾于2013年至2018年担任斯坦福大学人工智能实验室主任，并于2017年至2018年担任谷歌副总裁，以及谷歌云人工智能/机器学习首席科学家，后来又担任多家上市公司和私营公司的董事会成员。她已发表300多篇科学论文，在座的许多人都是她的学生，她目前的研究兴趣几乎涵盖了人工智能和机器学习的整个领域。她是ImageNet和ImageNet挑战的发明者，这是一个关键的大规模数据集和基准测试项目，为深度学习和人工智能的最新发展做出了贡献。我只想说——关于飞飞，还有很多可以说的，但她也是倡导STEM和人工智能领域多样性的领导者。作为全国性非营利组织“人工智能为所有人”的联合创始人兼主席，该组织旨在提高人工智能教育的包容性和多样性，因此在所有政策领域，无论您是在谈论联合国、华盛顿，还是加州本地，她都是人工智能政策方面的咨询对象。她的新书《我所见的世界》不仅仅是一本关于人工智能的书。它是一部真实的个人叙事，将她的经历与她所研究的科学和主题联系起来。她将谈论她的书，然后将与约翰·亨尼斯进行对话。我将让这部分更简短。他于1977年被任命为助理教授，之后在大学里担任了许多重要职务。他曾任教务长。他曾任计算机科学系主任。他当然在2000年至2016年期间担任校长，并且他本人也是计算机体系结构的专家，发表了大量文章，正如我所说，他获得了该领域的所有重要奖项。所以，感谢大家的到来，也感谢飞飞的这本书。现在我将把话筒交给你们。[掌声]你好。谢谢。非常感谢你们的到来。我终于意识到你们为了来到这里付出了多少努力，因为这里的交通太糟糕了。所以我感到非常尴尬。说实话，我从未想过我会为这本书做这件事。这真的发生，我想感谢内特和我们的一位好朋友，罗伯·赖希教授，他现在正在上课，大约两个月前我们一起吃午饭，内特和罗伯——他们都是多产的作家，也是我熟悉的校园里不同领域的杰出学者——问我我的书进展如何。我说，正在出版。他们说，我们需要一个书友会。我说，什么是书友会？在计算机科学领域，当你发表一篇八页的NeurIPS论文时，那就算是一个派对了。我从未想过有书友会这种东西。内特和罗伯只是说，交给我们吧。内特，我知道你甚至为我改了航班，所以非常非常非常感谢你。我非常非常感激有这样好的同事。约翰·亨尼斯，非常感谢你愿意和我一起做这件事。我们在舞台下说，听我一个人说话真的没那么有趣，所以我们的大部分时间将是两代计算机科学家之间的对话，对人工智能的世界进行一个概述和一次诚实的交流。但我确实想借此机会感谢一些人，因为我们在生活中太忙了，忙于创造事物、构建事物、研究事物，我们并没有真正停下来感谢人们。既然我还有几分钟时间，我真的认为这是我的荣幸和我的责任，感谢那些真正帮助过我的人。我想从一位非常特别的人开始。你们可能想知道我为什么拿着这本书，因为她办公室里有100本书。她拿着一本。实际上，我拿着一本由这本书的合著者签名的书。如果不是我非常非常好的朋友、同事和伴侣，在整个疫情期间与我一起写下每一个字，讲述这个故事，这本书就不会诞生。我真的想感谢亚历克斯·迈克尔。请站起来。我想让大家认识——[掌声]你们可能会想，她15岁才来到这个国家，怎么能写出这本书呢？嗯，我没有，而且我为亚历克斯和我参与的这个创作过程感到自豪，但是，没有亚历克斯，这本书就不可能存在。当然，在写这本书的过程中，还有另一个人我需要感谢。我需要感谢他的原因有很多，但他扮演了非常重要的角色。亚历克斯和我是在一位图书经纪人和出版商的邀请下写这本书的，我们谈论的是人工智能。我是一个书呆子。我很高兴能向公众介绍人工智能是什么。我们写了一整年，然后我非常兴奋，我们完成了。我不知道。我甚至不记得是什么时候了，20年，21年？我们把它给了我最亲爱的朋友、导师、同事、伙伴，校园里另一位非常著名的人，约翰·埃特曼迪教授。他现在在哪里？约翰在哪里？你好，约翰。但别急着鼓掌。你必须听这个故事。我把它给了他。他打电话给我和亚历克斯说，好吧，是新冠疫情。来我后院吧。我需要和你们谈谈。所以我们去了他的后院，他拿着，我不知道，我们手稿的打印副本，说，这不行。回去重写。亚历克斯和我脸色都变了。然后约翰说了一句我非常不愿意承认的话，但他会是唯一能说服我的人。他说，许多人工智能科学家和技术人员都可以写这本书，但是有那么多年轻女性、年轻人、移民、各行各业的人需要认同一种不是典型人工智能的声音，而你的经历需要与这些人分享。当约翰这么说的时候，我简直——我的胃在翻腾，因为我知道他想让我写一本回忆录。而那是我最不想写的东西。与此同时，亚历克斯在我旁边跳来跳去，说，我早就告诉过你了。[笑声]当然，亚历克斯也说，只有约翰·埃特曼迪才能说服你。所以，我不知道约翰是否说服了我，但我听了他的话。所以，约翰，有很多事情我想感谢你，但你一直是我一位不可思议的导师和朋友，即使是对于这本书。没有你，这本书就不会存在。我不知道如何感谢你才够。你在斯坦福所做的一切对我来说意义重大。[掌声]谢谢你，约翰。[掌声]所以，在我的书的致谢部分，我想感谢许多帮助我出版这本书的人，其中一些人实际上就在观众席中。在写这本书的过程中，你们读过不同的版本。我不知道谁在观众席中，但如果你在写书的过程中给过我建议，请举手。哦，天哪。泰瑞。好吧，各位，泰瑞·维诺格拉德教授。[掌声]泰瑞·维诺格拉德教授——好吧，我们从他读了书的部分内容并给了我非常非常好的建议开始。其中一部分是因为他在书中，即使你对飞飞的经历不感兴趣，你也应该读这本书，因为泰瑞·维诺格拉德教授在书中。他是我的英雄。他是人工智能的奠基人之一。我们谈论了他早期在人工智能领域的工作，而且，最重要的是，他不幸地成为了我的邻居和约翰·埃特曼迪的邻居。所以，泰瑞，非常感谢你帮助我写这本书。还有谁在观众席中读过这本书，给过我建议？我知道有些人正在工作或旅行，但我想感谢所有参与这本书创作过程的人。书名是《我所见的世界》。我还有两个世界想特别感谢。一个是科学的世界，科学的世界始于牛顿、爱因斯坦、玛丽·居里、薛定谔、麦克斯韦等许多人。我想感谢他们，即使他们不需要我的感谢。他们听不到我说话，也许吧，但他们真的为我打开了一个充满无限好奇、奇幻和启发的领域。那是我旅程的开始，但在人工智能领域，我有许多导师和同事。说实话，你们中的许多人都在这个观众席中。我只是看不到你们所有人。抱歉。我知道你们大家帮助了我多少。很多人问我，飞飞，告诉我作为一名女性在科技领域工作有多孤独。我确实觉得谈论这个问题很重要，但我真的想说，并没有那么孤独。我的导师和我的顾问帮助了我很多，没有他们，我就不会有今天的成就。我想特别感谢我的博士导师皮特罗·佩罗纳教授和克里斯托夫·科赫教授。他们真的为我打开了大门。我想感谢一些导师。我确实想念他们的名字。有些人可能认识，但来自UIUC的黛安·贝克教授，聘请我来斯坦福的比特·戴利教授，黛安·格林，约翰·亨尼斯教授，杰夫·辛顿教授，达芙妮·科勒教授，我认识的第一位了不起的人工智能女性，ImageNet的合著者凯利教授，一位在这段旅程中默默无闻的英雄，吉滕德拉·马利克教授，斯坦福大学的临床研究员阿尼·米尔斯坦教授，安德鲁教授，塞巴斯蒂安·特伦教授。然后是斯坦福大学以人为本人工智能研究所的许多人，特别是创始教授和同事，约翰·埃特曼迪教授，詹姆斯·兰代教授，克里斯·曼宁教授，苏里亚·甘古利教授，罗伯·赖希教授，米歇尔·伊兰姆教授，苏珊·阿西教授，埃里克·布林约尔夫森教授，丹·霍教授，拉塞尔·奥特曼教授，库尔特·兰格洛兹教授，以及更多的人。斯坦福大学HAI的每个人对我来说都意义重大，没有他们，这本书就不会存在。然后我有一群非常特别的人。我知道他们散布在世界各地。他们中的许多人正在做比我梦想的更伟大的事情，他们是我的学生、博士后和受指导者。在书中，我承认了其中一小部分。我知道你们中的一些前学生和现学生就在观众席中。如果你们能站起来，我将非常感激，因为——你们能站起来吗？我知道你们很害羞。我看到你们中的一些人了。继续站着。[掌声]别。别。来吧。继续站着。这里有很多教授。你们不明白。你们成就了我们。你们成就了我们的职业生涯。你们成就了我们的世界，我世界里的每一个像素——这是我们内部的语言——都因为你们而色彩斑斓。我为与你们合作，与你们一起走过这段旅程的一部分而感到无比自豪。我还想特别感谢坐在那里的胡安·卡洛斯。胡安·卡洛斯，再说一次“你好”。[掌声]你看他头发还剩多少？我遇到胡安·卡洛斯时，还是一个什么都不懂的助理教授，在厄巴纳-香槟。他是我第一个博士生，胡安·卡洛斯是带着富布赖特奖学金从哥伦比亚来到这个国家的。他什么都不知道。我什么都不知道。这是天作之合，现在胡安·卡洛斯是计算机视觉领域一位著名的研究员，Salesforce实验室的一位总监，也是斯坦福大学计算机科学系的兼职教授。这就是我感到非常非常自豪的人际关系。所以，胡安·卡洛斯，感谢你信任我，也感谢我所有的学生仍然信任我。对我来说，最特别的世界，显然是爱与支持的世界。今天早些时候有人告诉我，这本书是一封情书。我想，当亚历克斯和我写这本书时，我们确实称这本书为情书。这是写给科学的情书，来自一个不知怎么就爱上科学的小女孩，但它也是写给那些让我的生活成为可能的人的情书。我希望你们至少读了这本书的一部分。书中有一个非常特别的人。事实上，今天我刚收到他孙子孙女们去新泽西一家当地书店拿着这本书的照片。他们发给了我，那就是鲍勃·萨贝拉先生。他是新泽西州帕西帕尼的一位高中数学老师。我15岁时认识他。我几乎不会说英语。他是一位非常厉害的数学老师，带着布鲁克林口音，语速飞快，我听不懂他说的一句话。他给了我很多测试，我做对了一半，因为另一半有文字，我看不懂。这就是我们旅程的开始。对于一个不懂语言、对这个国家一无所知的孩子，他把我当作叔叔、父亲、老师。他全家都接纳了我。书中有很多关于鲍勃·萨贝拉先生的故事，每次亚历克斯和我写的时候，我们都泪流满面。所以希望你们能产生共鸣，他们确实象征着这个国家对我而言的意义。这个国家不是硅谷制造的闪亮小工具。这个国家不是曼哈顿金融区那些我甚至没钱支付停车费去参观的摩天大楼。这个国家是像鲍勃这样的公立高中数学老师，他们心地善良，接纳来自世界各个角落的学生，倾注了全部心血，赋予我们尊重、自由、社区的价值。这就是我认同的。萨贝拉先生，或者我现在的称呼鲍勃，已经去世了，但今天我看了他们家人的群聊。他们发给了我，我真的真的希望，经过这么多年，我让他感到了一点点骄傲。还有很多人我现在无法感谢，但我确实想感谢两个人——他们不理解我的世界，因为我从事的是那些花哨的人工智能或数学方程和软件程序，但他们实际上为我创造了世界。你们知道我来自中国背景。在中国家庭，我们从不说肉麻的话。我从未说过“我爱你们，爸爸妈妈”，但如果你们读了这本书，我以人为本的根基就来自他们，来自我们一起走过的旅程。当亚历克斯和我写这本书时，我们都在为我们的母亲写作。我们俩的母亲都在与健康问题作斗争，这也让亚历克斯成为一个特别的伙伴。亚历克斯和我都在与时间赛跑，我们感觉，因为我们不知道我们的母亲是否能看到这本书。我知道亚历克斯的母亲没有看到最终版本，这是我们之间的损失，但我很幸运，我的父母今天还在。尽管他们身体不好，他们还是为我来了。我真的想感谢他们。[掌声]在我的致谢中，我说我的父母冒着黑暗，让我能寻求光明。我想，在我们所有人的生活中，如果你审视自己的生活，总有人为你冒着黑暗。这就是你如何寻求光明。我真的希望你们也能反思这一点，并心存感激。对我来说，非常感谢你们，我的父母。我想这是其中一个时刻，我们不会在客厅里说，但我会在公开场合说，我有多爱你们。[笑声][掌声]好了，我快说完了。抱歉，约翰。我快说完了。所以，亚历克斯和我写这本书时，我们想了很多关于通用人工智能（AGI）是什么，因为这个词——就像我的学生一样，我们几乎嘲笑这个词，因为我们的人工智能先驱们没有AGI这个词。人工智能是一个大胆的、大胆的梦想，让机器思考和行动，但AGI是什么？我不知道，但如果有一个AGI的体现，那种体现将是充满智慧的，拥有人类的所有美德，耐心、力量、韧性、爱、同情心，以及至少我无法想象的能力。他们可以做所有伟大的工作。他们可以做最好的食物。他们可以作曲。他们可以园艺，设计禅意花园。他们可以抚养孩子等等。我不知道我们是否会达到AGI，但那就是我的智能模型。我生命中有那个特别的人。他是一位人工智能科学家。他是我最好的朋友。他是我灵魂伴侣，也是我孩子的父亲，那就是西尔维奥。[掌声]最后但同样重要的是，这封情书实际上是写给未来一代的。未来一代中的一些人是我的学生，但最特别的未来一代是我的孩子，我有时会想，我为他们创造的是什么样的世界。说实话，我想知道会发生什么，然后我意识到，我们能为他们做的最好的事情就是我们能给予他们的爱。我希望我的孩子们能够体验到他们的父母和他们父母的朋友们对我们所做事情的热爱，对身边人的热爱，对社区的热爱，对世界的热爱。莱奥和菲尼克斯，你们能向大家挥挥手吗？[掌声]好了，我说完了。非常感谢。说实话，我非常感谢你们容忍我。我不知道还有什么比这更好的场合来感谢所有让我成为今天的我的人。这比我想象的要长，但真的，我非常感激你们在这里。我真的很期待与约翰进行一次对话。谢谢。[掌声]哪个座位？请坐。哪个座位？没关系。好吧。那么，飞飞，你为我省了很多工作，因为如果你不谈论你的父母，我本来会让你谈论他们的。请告诉我们你早年的生活。我的意思是，你在中国长大，当时是在成都，对吗？作为一个对数学和物理感兴趣的年轻女孩，当时是什么样的？我仍然希望你们读我的书。你们应该读，因为里面有很多精彩的故事。有很多精彩的故事。我在20世纪80年代的中国长大。我出生在北京，父母把我带到了我妈妈的家乡成都，那是一个非常朴实的城市。物质条件并不充裕。全球化还没有到来，至少还没有影响到世界，但还没有影响到中国。相对来说比较简单，但书中试图描述的一个鲜明对比是自由。这种自由不是因为我生活的世界。而是我家庭生活的自由。不知何故，尤其是我的父亲是一个非常自由精神的人，我生活在一个“让我们找到下一个bug”的世界里。亚历克斯和我最喜欢的故事是，我父亲给我讲他小时候养的宠物熊。我得到了很多智力上的，不是智力上的好奇心，而是自由。然而学校却非常严肃。实际上有很多数学和科学，但我生活在自由的家庭生活和严格、有纪律的学校教育之间的对比中。不知何故，我认为我现在体现了这一点，这有时会让我变得过于强烈，也许吧。不，但从书中我感觉到，你的许多创造力都来自于你父母的启发。是的。同样，我认为这是因为他们允许我。并不是他们向我展示了某个特定的东西。他们只是让我去做。他们没有把我限制在他们认为他们希望我成为的样子，或者我的老师希望我成为的样子。事实上，我认为他们甚至有点自豪地看到叛逆的飞飞。作为一个现在的父母，我觉得这太珍贵了。绝对是。那么，当你来到美国时，你当时知道多少英语单词？这样说吧，我不得不看着谁进洗手间来弄清楚我应该去哪个洗手间。[笑声]好吧，所以词汇量很小。词汇量很小，但即使作为一个高中生，你也很成功，尽管你与许多同学相比处于巨大的劣势。我不知道，约翰。我仍然记得我在帕西帕尼高中的排名是第六。我上了很多ESL课程，但没有帮助，因为你必须参加AP课程才能获得加权。我确实参加了一些AP课程，但不够。首先，对于那些年轻人或年轻人的父母，我自己的经验告诉我，你永远不能低估年轻人的韧性和创造力。你必须相信这一点。说实话，我现在不知道我是怎么做到的。我真的不知道。我不觉得自己有什么特别之处。大量的努力。是的，就是努力工作，但如果你给自己注入“腹中之火”，或者允许你的孩子拥有这种“腹中之火”，那么韧性和创造力的水平将是无限的。所以，在书名中，你谈到了人工智能的黎明，但人工智能已经有了悠久的历史，以及我们有时称之为人工智能寒冬的一系列时期。这些时期曾有过巨大的期望，但未能实现。是什么打破了僵局？是什么真正改变了这一切？是什么根本性的突破或突破真正产生了影响？嗯，你知道答案，但你只是——我知道，但我是在绕着别人说。我想听听你的答案，飞飞。但我确实想谈谈人工智能寒冬的一件事。所以，当我来到美国时，是20世纪90年代。我们正处于人工智能寒冬的中间。第四次还是什么的。某种最新的人工智能寒冬。我完全不知道，离新泽西州的帕西帕尼不到30英里，就是贝尔实验室，那里是Yann LeCun正在制造卷积神经网络的地方。当我30英里外学习英语时，我完全不知道我们的生活会如何交织在一起，神经网络正在新泽西州制造，但这仍然是寒冬。神经网络并没有完全起作用。它在识别数字方面起作用。数字，对。简单的问题。所以，我进入研究生院，Y2K，2000年。我想，实际上，正如你所知，公众仍然认为这是人工智能寒冬，但我认为这是变革的开始。有几件事正在改变。首先，机器学习成为了通用语言，就像——每个人都在研究它。对。突然我们找到了数学语言，统计建模，因为早期寒冬是基于逻辑的，一阶逻辑、专家系统等等。但机器学习确实开始改变，我是第一代使用这种语言的学生之一。第二件事是互联网的兴起。我仍然记得我二年级时，我的研究生同学说，你用搜索引擎查论文了吗？去谷歌？互联网带来了数据。我们没有意识到，但互联网将改变我们看待数据的方式。当然，摩尔定律也在推动我们。所以，硬件比我们早期预期的要多得多，但随后是数据。数据是关键——对。所以，我认为，不到十年。ImageNet是在2007年设想的，神经网络，深度学习，我记得杰夫·辛顿的深度——是杰夫·辛顿创造了深度学习这个词吗？那篇论文是2006年的。是的，2006年。2006年和GPU，哦天哪，第一块GPU是什么时候在这里——差不多是同一时间。大概是2008年。所以，尽管公众没有意识到，但这三个重要因素在本世纪的第一个十年中被创造出来，当然，分水岭时刻是2012年，当时杰夫·辛顿的学生赢得了ImageNet挑战赛。所以，谈谈ImageNet的重要性。你是怎么想到这个主意的，是什么激励了你？因为没有它，我们就不清楚我们是否真的知道这是一个突破。所以，请再次阅读这本书。我们在诱惑他们。亚历克斯和我花了这么多时间来写它。[笑声]我感觉像一个学者在说，“请看我的论文。”所以，发生的是，书中有一个非常特别的人。他个人并不特别，但他在智力上很特别。他叫欧文·比德曼。他是一位认知科学家，一位心理学家，曾在南加州大学任教，而我是一名研究生，正在研究计算机视觉问题。人工智能被分解成小领域，自然语言处理、计算机视觉。我一直对计算机视觉的根本北极星感兴趣，我认为识别世界上的物体是北极星。我记得西尔维奥和我都是研究生。我们在争论。西尔维奥认为，世界的3D结构是北极星。而我则认为，识别是北极星。嗯，现在西尔维奥赢了，因为现在一切都是3D的，但当时确实是在试图理解物体。然后我们都在研究这些微小的数据集。我记得我的博士导师皮特罗·佩罗纳给了我一个包含四种物体的数据集：飞机、豹子、汽车、汽车侧视图，以及一个加州理工学院学生的人脸数据集。然后，欧文·比德曼在1983年发表了一篇没有人注意到的论文。预印本上有打字的人物，他估计人类看到的大约有30,000种物体类别，实际上是年幼的人类。六岁就能看到。不知何故，我注意到了这个数字，我称之为“比德曼数字”。这个数字多年来一直困扰着我。我不知道如何将比德曼的数字与整个只有微小数据集的人工智能世界相协调。我花了两年或三年时间一直在思考这个数字对我们意味着什么，对人工智能意味着什么，直到我来到普林斯顿担任助理教授。那时，机器学习已经存在很长时间了。我开始注意到，约翰，说实话，我开始注意到我写的论文都是某种贝叶斯网络或支持向量机的变体。我觉得这不是突破。我们总是过度拟合。我们没有泛化。我们正在调整技术术语中的变量和表示，但它们并没有做正确的事情，直到我的学生和我意识到我们必须按下重置按钮，从不同的角度来看。那个角度就是大数据。然后当我们想到这一点时，比德曼的数字又回来了，而且出现了一个巧合。ImageNet项目是别人在做的，但他们没有考虑大数据。他们只是为了WordNet而做，WordNet是一个语言数据集，词汇不是按字母顺序排列，而是按组顺序、分类法排列，比如德国牧羊犬和金毛猎犬。实际上，这是一个糟糕的例子。德国牧羊犬和梗犬在字典里会离得很远，但在WordNet中却离得很近。WordNet小组有一个本科项目，为每个词找一张照片来展示金毛猎犬是什么，很快，他们放弃了这个项目。我碰巧听说了一个没人想用的词“imagenet”，我问教授把这个名字给我。有了这个我没有声称拥有版权的美丽名字，我考虑了比德曼的数字，考虑了大数据，考虑了机器学习，这就是开始。然后你决定众包，因为你需要一个更大的——而且当时众包还是一种新事物。我没有决定众包。我实际上是天真地自欺欺人。我想我会雇佣本科生来做这件事。普林斯顿的本科生？他们很贵。这就是问题所在。是的，正是如此。所以我想我在实验室里放一些显示器，雇佣本科生下载图片然后点击，但没有进展。我们估计需要19年左右。然后我的另一位学生说，我们用机器来做吧。机器可以做一些照片识别。我们认为这是一个绝妙的主意，但一周后我们说，等等，关键在于机器无法识别。你需要地面真相。正是如此，所以我被卡住了，直到一位转到普林斯顿的斯坦福硕士生说，这就是硅谷真正美妙的地方。斯坦福——我听说有初创公司在使用一种叫做亚马逊Mechanical Turk的东西。而在新泽西州的普林斯顿，我没听说过。我真的记得约翰，我去了我的电脑。我输入了Amazon Mechanical Turk。当我看到它是一个全球工人在线市场，可以处理任何你发布的东西时，我那天晚上睡不着觉。我知道我找到了我的所有帮手，所以我放弃了普林斯顿的本科生。[笑声]就这样吧。他们可能有更好的用途。那么，让我们谈谈你对人工智能的人性化方面的参与和兴趣，因为我认为我们都在思考这个问题，但存在许多复杂的问题。在部署人工智能方面，你担心什么？你认为什么被过度炒作了？我有一个坦白，代表我这一代计算机科学家。我们从未接受过伦理学培训。也许你们中的一些人，自己，上过伦理学课程，但我忙于上物理课、数学课、电子工程课、计算机科学课。然后我们热爱人工智能的技术起源。所以，一切似乎都很好，直到，我想大约是2017年。2017年，我有幸在谷歌工作，在谷歌云。这是一次不可思议的经历。在云业务中，你基本上服务于太阳下的每一个企业，每一个行业。你与医院合作。你与媒体公司合作。你与石油天然气公司合作。你与保险公司合作。你与开发人员合作。我们曾与一位使用TensorFlow的日本黄瓜农民合作。你只是工作，然后你开始意识到，我开始意识到，哦我的天哪，这项技术将改变每个人。甚至在我意识到这一点之前，我们就开始出现技术抵制。我们开始听到剑桥分析公司。我们开始看到第一辆自动驾驶汽车死亡事件。我们开始看到有偏见的脸部识别算法对人脸做出极其糟糕的预测。我们也在人工智能和国防等方面有过自己的辩论。这对我来说是一个真正的警钟，我们已经进入了将这项技术推向世界的混乱局面。数学是美丽而简单的。一加一等于二，但技术在人类世界中并不简单。它很混乱。它有机遇，但也有后果。那时，你知道约翰，我去了你的办公室。我去了约翰·埃特曼迪的办公室。我去了——我不知道詹姆斯·兰代、克里斯·曼宁是否在这里。詹姆斯在哪里？我看到了詹姆斯。你好，詹姆斯。我白天在谷歌工作后，经常去詹姆斯的厨房，谈论这种混乱。我记得我和约翰·莱文谈过，我们开始意识到我们已经进入了一个新时代。这个时代的技术和人类越来越接近。我们不仅有责任继续开发这项技术，还要理解正在发生的事情，理解我们如何使用它，理解人类的后果，理解人类的机遇。那时我才觉得自己从一个纯粹的技术科学家转变为一个混合科学家和人道主义者，业余人道主义者。那么你担心吗？我的意思是，有些人说存在对人类生存的生存威胁。我的意思是，这是哈尔式的电脑接管的景象，你甚至无法拔掉插头。你担心那个，还是你更担心技术在短期到中期被滥用，我认为，技术被滥用可能是正确的词？是的。技术中的错误，但也有技术被滥用。所以，这是完全公平的问题。我曾与杰夫·辛顿谈过这个问题。是的。是的。我知道你和杰夫在这件事上有分歧。是的。实际上，我们在舞台上很文明。我们一起吃了晚饭前的点心。那是一次更激烈的谈话。那很好，因为他年纪大了，所以你必须对他好点。不，但我们都爱杰夫。好吧，看，我们在这里斯坦福校园。我们在一个文科学院。我们有各种各样的学科。我们有哲学家、人类学家、经济学家、社会科学家。这是关于——什么是感知？什么是意识？什么是长远、长远、长远的生存现实？我实际上认为这是一个值得尊敬的话题。我真心这么认为，我曾与我的博士联合导师克里斯托夫·科赫教授一起研究过一点点意识。他总是谈论意识。我觉得直到我毕业的那天，我都不明白什么是意识，原因在于这些都是棘手的话题。我们应该谈论它。与此同时，我发现如果整个公众，包括政策制定者，都在谈论这个单一的话题，而这个话题应该更多地是学术辩论和讨论的主题，那将是令人担忧的。而在忘记真正的社会影响、灾难性风险、机遇的同时。我们有虚假信息。我的意思是，虚假信息和——深度伪造。到处都是深度伪造。我们午餐时还在谈论这个，对吧？太深入了。我知道迈克·麦克福尔。我们也谈论过这个。我们有工作，约翰·莱文，还有，我不知道，这里的其他经济学家对此非常担忧。我们有偏见问题。我们有隐私问题。我从事医疗保健工作，我可以告诉你很多关于技术能带来什么，但人类尊严和偏见之间的紧张关系的故事。我们有武器化。我们有地缘政治，我们还有公共部门危机，即资源匮乏。我认为这就是重要的。我们有责任谈论这个问题，我担心媒体只是——或者也许不仅仅是媒体。房间里的氧气被抽走了，只关注这个生存话题。是的，我认为你是对的。虽然那个话题在那里，我们甚至还没有定义术语，我们还没有定义它们，所以我们需要考虑这些更直接的用途，我们很快就会看到。我们很快就会看到。我们肯定会在下一次选举周期中看到。顺便说一句，唐有很多话要说。我们可以和唐谈谈感知。我们对此进行了一点讨论。飞飞和我可以聊一整晚，但我们想留点时间提问。那么，我们开始接受提问吧。我想有一些麦克风在周围，所以如果你只是举手——我告诉飞飞，这个观众会问一些非常尖锐的问题，所以我对你的期望很高——你好，我在网络安全行业工作。我正在考虑身份验证正在尝试让机器识别人类，然后我们想出新技术来绕过它，然后我们有更好的方法。所以，这有尽头吗？你认为呢？嗯，首先，我们两个都应该说话。我想听听数字身份验证和虚假信息。我认为这将是一个难题，有很多——我的意思是，你看到国会中对人工智能的所有担忧，但对网络安全的担忧却远远不够。我认为这对国家来说也是一个非常严重的威胁，而且这是一个非常困难的问题，对吧？是的，我认为这将是一个持续的——用什么短语呢？我知道一个完美的中文短语。跳跃。军备竞赛。是的，军备竞赛，在制造假货和制造身份验证技术之间。我与我的同事谈过。马克·勒瓦是这个领域的一位学者。他在Adobe工作，Adobe是许多行业努力的领导者，马克告诉我，追溯到源头仍然是防御深度伪造最重要的手段。所以，是的，这是一个大问题——但随着技术越来越好，区分真假将变得越来越难，越来越难。你好。我认为你提到了一个问题——我称之为，双方都有一种求知欲。在人工智能方面，比如人类意味着什么，或者公平是什么？以及所有这些可以由大学的某些部门或总的来说由人文学科回答的问题。另一方面，人文学科对即将到来的事物感到恐惧。我们如何弥合这种差距？在我看来，仅仅在斯坦福大学，我就看不到这种桥梁。我敢肯定，在世界上的大多数其他机构也是如此。似乎存在的是一道鸿沟，而不是一座桥梁。嗯，首先，我确实想有礼貌地表示不同意。在斯坦福大学，我们有一个以人为本的人工智能研究所，它一直在努力弥合这种差距。我认为我们还没有完成这项工作。我同意，但我认为有真正的努力在尝试弥合。而且有多种弥合方式。一种方式是教育和沟通。如果这是一件如此新颖、如此未知的事情，那将是可怕的，但我们确实需要做得更好，教育我们的学生，教育我们的校友，教育公众，教育政策制定者，让他们了解这是什么。我认为这本身就能在很大程度上解释这项技术是什么，但还有其他重要的弥合措施，包括我们正在做什么来使其变得更好？我们正在做什么来增强人类？我们正在做什么来向公众提供透明、可信的信息？我们的HAI基础模型研究中心正在对所有这些大型语言模型进行热切的基准测试，与欧盟人工智能法案、透明度措施进行基准测试。这些都是弥合知识差距的重要努力，正如你所说，并建立信任，创造安全和责任，但你说得对，这条路还很长，我希望有更多的——互动。遍布世界。所以，飞飞，也许你可以谈谈这个问题，这些模型的规模，5000亿个参数什么的。可解释性的概念，有人可以说，为什么它说这个，或者以幻觉为例，为什么它会产生幻觉？你认为这是问题的一部分吗，这些模型的规模如此之大，以至于我们真的无法解释当我输入A时，为什么会得到B？所以，约翰，我梦想着以下事情，但你可以告诉我我是在做白日梦。我觉得有一天，我们必须有一套像牛顿定律或麦克斯韦方程组那样优美的方程组，最终解释大型模型之所以这样运作的数学原理，因为我认为我们还没有达到那个水平。我们还没有充分的理论理解为什么这些大型模型会这样做。我们有一些感觉，表示和序列到序列编码等等，但我们没有——所以，我不知道。你觉得我们会有方程组吗？——我认为问题在于，你看看它们做的一些事情，它们看起来完全合理。显然，它们记住了大量的知识和关系，但偶尔，它们会说出一些看起来——就像AlphaGo发生的那样。当AlphaGo，那个——第37步？是的，第37步。电脑走了一步，所有人都认为这是最疯狂的一步。到底是怎么回事？你刚刚输掉了比赛。结果却是在事后看来，这是一个精彩的举动，而且很有创意。我的意思是，他说这是一个有创意的举动。丽莎·吴说这是有创意的。这是一个非常有趣的见解。是的，我认为今天的学生应该研究这些问题。好吧。我们还有其他问题吗？我看到那边有一个，这边也有一个。谢谢。太棒了。你如何看待合成生物学和合成数据演进的交叉性，以及人工智能实际上正朝着通用人工智能（AGI）方向发展？所以，再次，很多事情将是另一个层面，但抛出一点量子。你甚至如何从人道主义的角度来设想这一点，或者在短期内，我们需要在护栏或我们正在考虑的任何事情方面做什么？嗯，E.O.威尔逊说，人类的问题是我们有旧石器时代的情感，中世纪的制度和上帝般的技术。所以，我认为你刚才所说的一切都是上帝般的技术。我没有灵丹妙药。这就是为什么我们有人工智能研究所。这就是为什么我们需要参与治理。这就是为什么我们需要教育公众，让他们了解即将发生的事情。我确实相信人性。从这个角度来看，我知道我曾被称为乐观主义者。我相信人性。我相信人类的韧性、创造力。我也相信人类文明的轨迹会朝着仁慈和正义发展。我显然是在引用马丁·路德·金的话，但基于这个前提，我相信我们的集体创造力和伙伴关系将找到必要的护栏。你呢？我同意你的看法。我同意你的看法。我认为你是对的。轨迹会朝着正确的方向发展。有时会有挫折，或者在一段时间内事情不会朝着正确的方向发展，但从长远来看，它会朝着正确的方向发展。毕竟，当你成为父母时，你对世界的看法以及确保你传递的世界将是一个伟大的世界，就会完全改变，对吧？是的。等到你成为祖父母，你就会真正明白了。我们还有时间回答几个问题。这边。谢谢，也谢谢你们精彩的对话。我想联系到你刚才提到的关于有孩子的事情。对你们俩来说，你们设想的50年后或40年后，当你们的孩子可能和我一样大的时候，世界会是什么样子？我的孩子和你一样大，所以——[笑声]嗯，你有孙子孙女了。是的。我设想人类和机器将和谐共处。我相信机器人将以不同的形式和形态出现。人类的生产力将发生变化，当然，我们必须谈论劳动力的变化。听众中有许多经济学家，所以我有点害羞，不敢给出我的预测。但我确实认为，我们将达到又一个，至少还有一个，我确信还有更多转折点，届时机器将成为人类的伙伴和合作者。我希望我们将利用我们在人工智能和机器学习方面取得的所有技术和进步，取得我们所需的突破，以维护我们的星球，并将它以某种形式传给我们的孩子，使其仍然宜居。所以我认为这将是未来一个关键问题，但我实际上对机器学习和其他科学问题汇聚的这个前沿感到兴奋。你在这方面做了很多工作，比如医学，飞飞，但这只是众多领域之一。科学发现绝对是当今人工智能最令人兴奋的部分。这就是为什么学术界如此重要，因为我们校园里有各种各样的科学家和社会科学家在做着令人难以置信的工作。你认为智力可能被高估了吗？哦。 [笑声]只是重复尤瓦尔·赫拉利的观点，你可以争辩说，人类变得更聪明了，至少拥有了更多允许我们更聪明的工具，但这并不一定使我们不那么具有破坏性或自我毁灭性。在谈到你描绘的愿景时，飞飞，关于建造那些能够爱、坚韧和强大的实体，许多这些美丽的人类美德。当你谈论建造通用人工智能（AGI）时，你真的认为我们正朝着正确的方向前进吗，还是更像是人工智能的智慧？你能谈谈吗？我能感觉到你可能更担心这个问题。你问我，我真的相信吗？我确实相信人类的美德。我实际上认为，当你谈论人类智能时，它不仅仅是数学上的、理性的智能。它是我们的同情心。它是我们的同理心。这些是动物真正没有多少的东西，所以我确实相信人类的美德。我们正朝着正确的方向前进吗？正如我们所说。我想你们舞台上有两位乐观主义者。我并不是说每一步都会是完美的。我们甚至可能走错路。从卢瑟福分裂原子到原子弹再到核能。我的意思是，我们做过好事，坏事，好事。所以我认为我们将在人工智能领域经历这个过程，但我确实相信我们可以。我真的相信我们可以作为一个物种，作为一个文明，我们可以将它带到一个更美好的世界。我同意你的看法。我的意思是，你提到了自动驾驶汽车。我的意思是，让自动驾驶汽车正常工作的最后10%真的很难。另一方面，每天全球有百万人死于车祸。我确信在接下来的十年里，我们将能够将这个数字减少90%，而且你不会把所有事情都做对，但你肯定会结束——对于

我们这些年长的人，晚上开车会觉得更具挑战性，或者对于一些在开车前喝过一杯酒的人来说——这将使驾驶安全得多。所以我认为这里有很多可以做得很棒的事情。谢谢您，李博士，感谢您的到来，也感谢您的书。我期待着阅读它。当谷歌和国防部“Maven项目”问题出现时，您无意中成为了公众关注的焦点之一，您的一些通信者在《纽约时报》关于该问题的讨论中被披露。我想知道，您的想法是如何演变的，因为在那个历史时期，世界可能看起来更加和平。从那时起，我们经历了俄罗斯入侵乌克兰，以及最近，当然，以色列与哈马斯之间战争的爆发，这表明冲突仍在继续，并且俄罗斯有意破坏我们的选举，地缘政治并未结束。国防部继续对人工智能表示兴趣，从那时起，通过“Maven项目”的合作，它已在国防部内部发展成为一个中心，试图指导人工智能采纳的使用。您如何看待伦理问题，以及从那时起，在使用这些技术进步来保卫民主方面，您的观点是否有所演变？

这是个很棒的问题。这就是为什么约翰和我当时说，2017年左右，人工智能和技术变得复杂，因为它开始以一种多维度的方式影响世界，而在此之前——我们只是在实验室里。就像你做 ImageNet，听起来很棒，但它并没有——但一旦你涉及到武器化、国防、选举等等，我是否演变了？我从同事那里学到了更多，但我以人为本的、利用技术造福人类的信念没有改变。但我学到了更多关于这个问题有多么细微和多维度。以国防为例，我不知道在座有多少人，我们对国防、武器的定义，以及我们在使用技术制造武器方面的立场，都有着截然不同的看法。人类文明基本上是一部技术与战争的历史书。我们有不同的意见。就我个人而言，我致力于将人工智能用于更聚焦于以人为本的用途。这就是为什么我在医疗保健和基础科学研究方面做了这么多工作，但我听到了你的声音。我认为我将继续成为一个公开谈论此事的人，但有一件事我必须告诉你，我通过那次经历以及今天的经历学到的是，我学会了更公开地谈论人工智能的复杂性。我们没有人拥有所有答案，承认其复杂性，承认这个问题有多么棘手，承认作为一个计算机科学家，我并非在所有方面都接受过充分的培训，这就是为什么我去找内特谈论民主。我去找我的不同同事。我认为我们需要有这种谦逊，无论你是人工智能技术专家还是其他领域的专家，我们都应该有学习的谦逊，进行尊重的讨论，真正允许不同的声音。这在当今的大学里非常重要。这就是我的学习。

我认为您说得完全正确，我认为要记住的是，软件是一种工具，但它是一种相当通用的工具。不像汽车，你能用汽车做什么？你可以开车。你不能用汽车来钉钉子或者做其他事情。但软件具有这种特性，所以很难区分——某人的防御就是某人的进攻，这仅仅是我们构建的软件的产物，这种细微差别在我们前进的过程中将非常难以向人们解释。

我认为我们还有时间——我们将再问一个问题，然后菲菲还有很多书要签名。[笑声]

非常感谢您这次精彩的会议，我对通用人工智能和应用人工智能有很多问题，但我认为我最重要的问题是您在感谢和您今天感谢的几代人身上所体现的。鉴于我们正站在人工智能的黎明和门槛上，考虑到我们刚才关于人工智能的兴奋但同时也复杂的对话，您会给您的孩子和我的孩子这一代人什么建议？

我想说，告诉你的孩子们爱他们的母亲。[笑声，掌声]

还有读书。读书。还有父亲。父亲也一样。但回到这本书的主题，真正找到你的北极星。我认为技术正变得越来越强大。人类生活正变得越来越复杂。你看，我非常清楚我们今天所处的时代和历史。如此多的冲突，如此多的苦难。但对于年轻一代，找到你们的北极星，对于父母来说，允许你们的孩子找到那颗北极星。给他们自由。给他们爱。如果你希望他们爱你，就先爱他们，这比任何与人工智能相关的事情都重要。

这似乎是一个完美的结束点。谢谢您，菲菲。谢谢您。谢谢您，医生。[掌声]