Fei-Fei Li & Yuval Noah Harari in Conversation - The Coming AI Upheaval

（观众鼓掌）——大家晚上好。我叫罗伯·赖希，非常高兴今晚能在这里欢迎大家来到斯坦福大学，与尤瓦尔·赫拉利、李飞飞和尼克·汤普森一起进行一场对话。我是这里的政治学教授，也是斯坦福大学社会伦理中心的教职主任，该中心是今晚活动的主办方之一，另外两个主办方是斯坦福大学以人为本人工智能研究所和斯坦福大学人文中心。我们今晚的主题是一个宏大的话题。我们将一起思考人工智能的希望与危险，这项技术正以前所未有的速度重塑我们的经济、社会和政治世界，无论好坏。人工智能的出现所引发的问题，至少对硅谷的许多人来说，现在已经耳熟能详，但我认为，它们的重要性只会日益增长。当数百万个工作岗位可以被自动化时，未来的工作会是什么样子？我们注定要生活在一个算法而非人类做决策的世界里，还是因此而受益？而这些只是宏大图景中的小问题。你可能会问，那些大问题呢？嗯，有三个。如果机器智能接近甚至超越普通人类的智能，人类这个物种将会怎样？作为一项目前依赖于庞大集中式数据池的技术，人工智能是否会青睐威权式的集中治理，而非更分散的民主治理？我们是否正处于一场人工智能军备竞赛的开端，而当强大的人工智能系统，特别是用于面部识别等目的时，落入威权统治者手中，将会发生什么？随着技术的不断进步和用例的不断增加，这些挑战仅仅触及了人工智能影响的表面。我想提一下今晚活动的流程。首先，鉴于尤瓦尔和李飞飞拥有广泛的专业知识，当您通过Slido提问时，这些问题应与今晚讨论的主题相关或仅限于这些主题。所以，我们正在使用的这个网络界面Slido，允许人们对问题进行投票，您可以现在看到它们，如果您有互联网通信设备的话。如果您没有，您可以拿一张明信片，希望您在外面拿到了，然后在背面写下您可能有的关于今晚活动的问题，并在最后收集起来，斯坦福大学人文中心将尝试根据这些问题促进某种形式的对话。有几件杂事需要说明。如果您还没有购买，尤瓦尔的书将在活动结束后在大厅外面出售。请提醒大家将手机铃声调至静音。我们将有90分钟的时间进行这场由主持人引导的对话，并在90分钟后准时结束。现在，我将在几分钟内离开舞台，让一位非常出色的斯坦福大学本科生来介绍我们的嘉宾。她叫安娜-索菲亚·莱西夫，让我简单介绍一下她。她是斯坦福大学三年级学生，主修经济学，辅修计算机科学。在课堂之外，安娜-索菲亚是一名记者，她的作品曾刊登在《环球邮报》、《半岛电视台》、《水星新闻》、《西雅图时报》以及本校的官方报纸《斯坦福日报》上。她目前是《日报》的执行主编，她今年早些时候发表的一篇题为“计算机科学+伦理”的杂志文章，探讨了斯坦福大学计算机科学和伦理教育的历史，并获得了2018年最佳新闻学学生奖。她继续深入探讨技术人员在此地及其他地方面临的伦理挑战。女士们先生们，我邀请您记住这个名字，因为您将阅读关于她或她的文章，或者两者兼有。请欢迎斯坦福大学三年级学生安娜-索菲亚·莱西夫。（观众鼓掌）——非常感谢您的介绍，罗伯。那么，现在我非常荣幸地介绍今晚的三位嘉宾：尤瓦尔·诺亚·赫拉利、李飞飞和尼古拉斯·汤普森。尤瓦尔·诺亚·赫拉利教授是一位历史学家、未来学家、哲学家，也是希伯来大学的教授。世界也知道他撰写了我们这个时代一些最具雄心和影响力的书籍。赫拉利教授的国际畅销书，销量达数百万册，涵盖了令人眼花缭乱的主题，从叙述整个人类种族和智慧的历史，到预测人类的未来，甚至在《未来简史》中创造了一个名为“数据主义”的新信仰。赫拉利教授已成为硅谷备受喜爱的公众人物，他的著作被斯坦福大学课堂指定阅读，他的名字在比较文学和计算机科学系的走廊里被低语。他最近的一本书是《今日简史：21世纪的21堂课》，该书关注当前的技术、社会、政治和生态挑战。在这部作品中，赫拉利警告说，随着技术突破的不断加速，我们将越来越少的时间来反思它们带来的变化的意义和后果。而这种紧迫感正是李飞飞教授在担任斯坦福大学以人为本人工智能研究所联合主任期间每天工作的动力。该研究所是首批坚持认为人工智能不仅仅是技术人员的领域，而是一个根本上跨学科的、最终是人类的问题的机构之一。她对人类智能基本问题的迷恋，激发了她对神经科学的兴趣，最终她成为计算机视觉、机器学习以及认知和计算神经科学领域的世界顶尖专家之一。她在顶级期刊上发表了100多篇科学论文，并获得了国家科学基金会、微软和斯隆基金会的资助。从2013年到2018年，李飞飞教授担任斯坦福大学人工智能实验室主任，并在2017年1月至2018年9月期间，李飞飞教授担任谷歌副总裁兼谷歌云人工智能和机器学习首席科学家。尼古拉斯·汤普森自2017年1月起担任《连线》杂志主编。在汤普森先生的领导下，人工智能这个话题在该杂志上占据了特殊的位置。不仅《连线》杂志分配给他的关于人工智能的专题报道比其他任何主题都多，而且这是唯一一个有全职记者负责的特定主题。因此，赫拉利教授和李教授对该杂志并不陌生。汤普森先生曾与世界顶尖的技术和人工智能领导者进行过讨论，包括马克·扎克伯格关于Facebook和隐私，法国总统埃马纽埃尔·马克龙关于法国的人工智能战略，以及雷·库兹韦尔关于人工智能的伦理和局限性。汤普森先生是斯坦福大学的毕业生，他获得了地球系统和政治学双学士学位，令人印象深刻的是，他还获得了经济学第三学位。当然，如果我不提汤普森先生是在《斯坦福日报》的观点版开始他的新闻生涯的，那我就失职了。所以尼克，这样我们就是同行了。和今天的所有嘉宾一样，我既对人工智能给我们的社会带来的挑战感到着迷，又感到担忧。我在斯坦福大学的目标之一是撰写和记录教育一代学生所面临的挑战，他们的生活和工作场所最终将受到人工智能的改变。最近，我在《斯坦福日报》上发表了一篇题为“安逸谷”的文章。在文章中，我批评了我们倾向于对硅谷已经取得的技术和财务成就感到过于舒适，以免我们变得自满，失去应对世界挑战的雄心和动力。回答关于我们应该如何度过时间，如何生活等基本问题，变得更加困难，尤其是在人工智能革命的门槛上。我相信，J.D.万斯在《乡下人的悲歌》中写到的那种代理危机，不仅仅局限于阿巴拉契亚或去工业化的中西部，甚至在斯坦福大学这样的精英机构中也正在出现。因此，像我们今晚这样的对话，邀请旨在让个人重新成为人工智能核心的演讲者，将向我们展示如何在大多数决定似乎都可以由算法为我们做出的时候，承担起责任。没有叙事来指导我们度过人工智能的未来，没有古老的传说或故事可以依赖来告诉我们该做什么。在这个人类面临前所未有挑战的时刻，我们却似乎如此缺乏想法或方向。正是人类历史上的这个重要十字路口，将我引向了新闻业和写作的未来，这也是为什么我如此渴望听到我们三位嘉宾今晚讨论这样一个未来。所以，请大家给我一个非常，请大家和我一起，今晚热烈欢迎他们。（观众鼓掌）——哇。非常感谢，安娜-索菲亚，谢谢，罗伯。谢谢斯坦福大学邀请我们所有人来到这里，我仿佛回到了上次在斯坦福舞台上的情景，那时我还在CoHo弹吉他。那时我既没有尤瓦尔也没有李飞飞陪同，观众只有大约六个人，其中一人戴着耳机。但我确实遇到了我的妻子。是不是很甜蜜？好了，提醒一下，杂事。问题将通过Slido提交，您可以输入问题，可以给问题投票，我们已经收到了几千个。所以请给您真正喜欢的问题投票。如果有人能编写一个人工智能，能够提出一个非常尖锐的问题，让尤瓦尔措手不及，我将免费赠送您一份《连线》杂志的订阅。我想让这次对话分为三个部分。首先，概述我们目前所处的境地。然后讨论我们现在必须做出的一些选择。最后，为在场的所有优秀人士提供一些建议。所以，这三个大致的领域，我会根据情况插入问题。我们可能会在最后留出专门的时间来回答问题，但让我们开始吧。尤瓦尔。上次我们交谈时，您说了许多许多精彩的话，但有一句让我印象深刻，您说，我们不仅面临技术危机，还面临哲学危机。所以，请解释您的意思，解释它与人工智能有什么关系，让我们以一种存在主义的焦虑开始。——是的，我认为现在发生的是，现代世界的哲学框架，它建立在17世纪和18世纪关于人类能动性和个人自由意志的理念之上，现在正受到前所未有的挑战。不是来自哲学思想，而是来自实际技术。我们看到越来越多的问题，曾经是哲学系的核心业务，现在却转移到了工程系。这很可怕，部分原因在于，与哲学家不同，哲学家是非常有耐心的人。他们可以讨论某事数千年而达不成任何一致，他们对此也无所谓。工程师不会等待。即使工程师愿意等待，工程师背后的投资者也不会等待。这意味着我们没有多少时间了。为了概括这场危机是什么，我知道，你知道，工程师，尤其是在硅谷这样的地方，他们喜欢方程。所以也许我可以尝试构建一个方程来解释正在发生的事情。这个方程是 B 乘以 C 乘以 D 等于 H。这意味着生物学知识乘以计算能力乘以数据等于能够操纵人类的能力。人工智能革命或危机不仅仅是人工智能，它也是生物学，是生物技术。我们还没有看到任何东西，因为联系还不完整。现在围绕人工智能和计算机有很多炒作，但只是，这只是故事的一半。另一半是来自脑科学和生物学的生物学知识。一旦你将它与人工智能联系起来，你得到的就是操纵人类的能力。也许我会解释一下这意味着什么，操纵人类的能力，即创建一个比我更了解我的算法，因此可以操纵我、增强我或取代我。这是我们的哲学包袱以及我们对人类能动性、自由意志、顾客永远是对的、选民最清楚的信念，一旦拥有这种能力，这一切都会崩溃。——一旦拥有这种能力并被用来操纵或取代你，而不是用来增强你。——即使被用来增强你，问题是，谁来决定什么是好的增强，什么是坏的增强？所以我们立即的退路是回到传统的人文主义思想，即顾客永远是对的。顾客将选择增强。或者选民永远是对的，选民将投票，将会有关于增强的政治决定。或者如果感觉好，就去做。我们将遵循自己的心，倾听自己。当存在大规模操纵人类的技术时，这一切都行不通。你不能相信你的感觉、选民或顾客。最容易被操纵的人是那些相信自由意志的人，因为他们认为自己不会被操纵。那么，如果你无法相信顾客，无法相信选民，无法相信自己的感觉，你该如何决定增强什么呢？这是一个非常深刻的伦理和哲学问题。同样，哲学家们已经争论了数千年，什么是好的，我们需要增强哪些好的品质？所以，如果你不能相信顾客，不能相信选民，不能相信自己的感觉，你该相信谁，以什么为依据？——好了，李飞飞，您拥有博士学位，您有计算机科学学位，您是斯坦福大学的教授。A乘以B乘以C是否等于H？尤瓦尔的理论是我们前进方向的正确看法吗？——嗯。多么好的开场，谢谢尤瓦尔。我一直很喜欢读尤瓦尔的书，和他交流。我非常羡慕哲学家，因为他们可以提出危机中的问题，但不必回答。（观众笑）不，作为一名工程师和科学家，我觉得我们现在必须解决这场危机。所以，说实话，我觉得非常感激，我个人来说，我读了您两年的书。我非常感激尤瓦尔，以及其他许多人，为我们提出了这个非常重要的问题。而且，当您说人工智能危机时，我坐在那里想，这是我热爱并充满热情并研究了20年的领域。而这仅仅是年轻科学家进入人工智能博士领域时的科学好奇心。怎么会，20年后，它变成了一场危机？事实上，这恰恰说明了人工智能的演变，它让我走到了今天，也让我在斯坦福的同事们走到了今天，有了以人为本的人工智能，这是一个变革性的技术，它是一项新兴技术，与物理学、化学、生物学相比，它仍然是一门萌芽的科学。但凭借数据和计算的力量，以及人工智能所产生的多样化影响，它正如您所说，它以广泛而深刻的方式触及着人类生活和商业。为了回应这些正在困扰人类的问题和危机，我认为一个提议的解决方案，或者至少是一个尝试，斯坦福大学正在努力的就是，我们能否以人为本的方式重新构建人工智能和整个技术领域的教育、研究和对话？我们不一定今天就能找到解决方案。但我们能否让人文主义者、哲学家、历史学家、政治学家、经济学家、伦理学家、法学家、神经科学家、心理学家以及更多其他学科的人参与到人工智能的下一章、下一阶段的研究和发展中来？——不要那么确定我们今天找不到答案，我有世界上最聪明的人之一被粘在椅子上，我还有72分钟的Slido时间，所以我们试试看吧。——他说我们有几千年时间。——但让我再深入一点尤瓦尔的问题。所以，有很多，或者说尤瓦尔的开场白，人们谈论人工智能的许多危机。他们谈论人工智能变得有意识以及这意味着什么，他们谈论失业，他们谈论偏见，而尤瓦尔非常清楚地阐述了他认为最重要的一点，那就是生物学加上计算加上数据导致操纵。所以他提出了一个非常具体的问题。这是那些思考人工智能的人应该关注的具体问题吗？——绝对是。所以，人类创造的任何技术，从火开始，都是一把双刃剑。它可以改善生活、工作和社会，但它也会带来危险，人工智能也有危险。我每天醒来都担心人工智能中的多样性和包容性问题。我们担心公平或缺乏公平、隐私、劳动力市场，所以绝对需要关注，正因为如此，我们需要将人工智能的研究、开发政策和对话扩展到代码和产品之外，扩展到这些人类的错误，扩展到这些社会问题。所以，我绝对同意您的观点，现在是时候开启对话，开启对这些问题的研究了。——好的。——尽管我会说，再次，我的一部分恐惧是对话，我不怕人工智能专家与哲学家交谈，我对此没意见，历史学家，好，文学评论家，太棒了。我害怕的是你们开始与生物学家交谈的那一刻。那是我最大的恐惧，当你们和生物学家一起说，嘿，我们实际上有共同的语言。我们可以一起做事情。而我认为那时才是真正可怕的事情——[李飞飞] 您能详细说明一下，什么让您害怕我们与生物学家交谈吗？——那是你们真正能够操纵人类的时刻，不是通过收集关于我们的搜索词、购买习惯或我们在城镇的去向等数据。而是你们可以真正开始窥探内部，直接从我们的心脏和大脑收集数据。——好的，我能具体一点吗？首先，人工智能的诞生就是人工智能科学家与生物学家，特别是神经科学家交谈，对吧？人工智能的诞生很大程度上受到大脑运作方式的启发。快进60年，今天的人工智能在医疗保健方面取得了巨大进步，我们的生理和病理数据被大量收集，并利用机器学习来帮助我们。但我感觉您说的是别的事情。——那是一部分，我的意思是，如果这项技术没有巨大的前景，也不会有危险，因为没有人会走这条路。我的意思是，显然，人工智能可以为我们带来巨大的好处，特别是当它与生物学联系起来时。我们即将获得历史上最好的医疗保健，而且是最便宜的，并且可以通过智能手机为数十亿人提供，而他们今天几乎一无所有。这就是为什么几乎不可能抵制诱惑。而且，考虑到所有隐私问题，如果隐私和健康之间发生一场大战，健康很可能会轻易获胜。所以我完全同意这一点，你知道，我作为一名历史学家、哲学家、社会评论家的工作就是指出其中的危险，因为，尤其是在硅谷，人们非常熟悉优势，但他们不太喜欢过多地思考危险。而最大的危险是当你可以操纵大脑时会发生什么，这不仅可以服务于你的医疗保健提供者，还可以服务于许多事情，从一个疯狂的独裁者到——让我们专注于这一点，操纵大脑意味着什么。比如，现在，在某种程度上，我的大脑被操纵了，对吧？这个设备有一种诱惑力，它想让我不断地查看它，就像我的大脑被一点点操纵了一样，而你没有，因为你每天冥想两小时，但我的被操纵了，而且很可能在座的大多数人都被操纵了。但未来大脑操纵到底是什么，是和现在不一样的？——规模要大得多。我的意思是，当，例如，你生活中的个人决定越来越多地被一个比你算法好得多的算法外包时。所以，你知道，我们有两种截然不同的反乌托邦，它们交织在一起。我们有监视资本主义的反乌托邦，其中没有像老大哥独裁者那样的人物，但你越来越多的决定是由算法做出的。而且，这不仅仅是关于吃什么或买什么，而是关于在哪里工作、在哪里学习、和谁约会、和谁结婚、投票给谁的决定。这是同样的逻辑。我想听听您是否认为人类中有任何东西是本质上无法被操纵的。我们无法达到算法可以比我做出更好决定的地步。所以，这是其中一种反乌托邦，在这个世界的这个地区比较熟悉。然后，你还有一种完全的反乌托邦，即基于全面监视系统的极权主义政权。类似于我们在20世纪看到的极权主义政权，但配备了生物识别传感器，并且能够全天候追踪每一个个体。你知道，在斯大林或希特勒的时代，这是绝对不可能的，因为他们没有技术，但也许在20到30年后是可能的。所以，我们可以选择讨论哪种反乌托邦，但它们非常接近————让我们选择自由民主的反乌托邦。李飞飞，您想回答尤瓦尔的具体问题吗？也就是说，在反乌托邦A，自由民主的反乌托邦中，是否存在人类固有的、无法被操纵的东西？——所以，当您两分钟前问我这个问题时，我脑海中第一个浮现的词是爱。爱是可操纵的吗？——问问互联网，我不知道。（观众笑）——约会。——那是一种防御——约会并非爱的全部，我希望。——但问题是，您指的是哪种爱？如果您指的是，我不知道，希腊哲学式的爱，或者佛教的慈悲，那是另一个问题，我认为它要复杂得多。如果您指的是生物哺乳动物的求偶仪式，那么我认为是的，我的意思是，为什么不呢？为什么它与其他发生在身体里的事情不同？——但人类之所以是人类，是因为我们，我们身上有某些部分超越了哺乳动物的求偶，对吧？那么，那部分是可操纵的吗？——这是个问题，我的意思是，你知道，在大多数科幻小说和电影中，他们会给出答案。当外星邪恶机器人即将征服地球，没有什么能抵抗它们时，抵抗是徒劳的，在最后一刻，人类获胜，因为机器人不理解爱。——最后一刻，有一个英勇的白人拯救了我们。（观众笑）——我们为什么这样做？——不，不，这只是个玩笑，别担心。但好吧，那么，这两种反乌托邦，我没有答案。但我一直想说的是，这正是我们现在需要寻求解决方案的时候。这正是我们相信人工智能的新篇章需要通过人文主义者、社会科学家、商业领袖、公民社会和政府的跨界合作来书写的时候，大家坐到同一张桌子旁，进行多边合作对话，我认为您确实揭示了这场潜在危机的紧迫性、重要性和规模。但我认为，面对这种情况，我们需要采取行动。——是的，我同意我们需要合作，我们需要工程师与哲学家或工程师与历史学家之间进行更紧密的合作。而且，从哲学的角度来看，我认为工程师在哲学方面也有一些很棒的地方。——谢谢。——他们确实能直击要害。我的意思是，哲学家可以滔滔不绝地谈论，你知道，用模糊而华丽的比喻。然后工程师可以真正聚焦问题。就像我前几天和一位谷歌工程师讨论这个问题一样。他说，好的，我知道如何最大限度地延长人们在网站上的时间。如果有人来找我，告诉我，看，你的工作是最大限度地延长在这个应用程序上的时间，我知道怎么做，因为我知道怎么衡量它。但如果有人来找我，说，嗯，你需要最大限度地提高人类的幸福感，或者你需要最大限度地提高普世的爱，我不知道这意味着什么。所以，工程师们会回到哲学家那里，问他们，你们到底是什么意思？你知道，很多哲学理论在这种情况下都会崩溃，因为它们无法真正解释，我们需要这种合作才能前进。——我们需要一个方程来解决这个问题。——但是，尤瓦尔，李飞飞说得对吗？如果我们无法解释，也无法编写爱的代码，人工智能能重现它吗？还是它是人类固有的、机器永远无法模仿的东西？——我不认为机器会感受到爱，但你不一定需要感受到它才能操纵它、监测它、预测它、操纵它。我的意思是，机器不喜欢玩糖果粉碎传奇，但它们仍然可以————这个设备，在某个未来，它比现在强大无数倍，它能让我爱上观众中的某个人吗？——这涉及到意识和心灵的问题。——我们应该去那里。——我不认为我们对意识的理解足以回答非有机意识是否可能或不可能的问题，我认为我们只是不知道。但同样，操纵人类的门槛要低得多，机器不需要拥有自己的意识就能预测我们的选择并操纵我们的选择。它们只需要，好吧，如果你接受像爱这样的东西，最终是身体中的一个生物过程，如果你认为人工智能可以通过监测和预测流感或癌症等疾病来为我们提供出色的医疗保健，那么流感和爱在意义上有什么本质区别，这个是生物性的，而这个是其他东西，与身体的生物现实如此分离，即使我们有能够监测和预测流感的机器，它在做同样的事情时仍然缺少一些本质的东西？——[尼克] 李飞飞。——所以我想做两点评论，这就是我的工程师，你知道，性格所在。我们在对话的这一部分做出了两个非常重要的假设，一是人工智能是如此全能，它已经达到了超越预测任何物理事物的状态，它进入了意识层面，甚至进入了最终的、爱的能力层面。我确实想确保我们认识到，我们离那还非常非常非常遥远，这项技术仍然非常初级，今天人工智能的一些担忧在于其能力的过度炒作。所以，我并不是说这不是一个有效的问题，但我认为这个对话的一部分是建立在这样的假设之上的，即这项技术已经变得如此强大，而且，我不知道我们离那还有多少年。第二个相关的假设我认为我们，我们的对话是基于这样的假设，即我们谈论的是一个世界或一种世界状态，只有如此强大的人工智能存在，或者拥有强大人工智能的少数人存在，并且意图操纵人类。但事实上，我们的人类社会是如此复杂，我们有这么多人，对吧？我的意思是，人类历史上经历了如此多的技术，如果我们把它留给坏人独自掌握，而没有任何监管、跨国合作、规则、法律、道德准则，这项技术可能不会操纵人类，但会以巨大的方式摧毁人类或伤害人类。这种情况确实发生过，但总的来说，从历史角度来看，我们的社会正在走向一个更加文明和受控的状态。所以，我认为重要的是要关注更大的社会，并将其他参与者和人们带入这场对话，这样我们就不会谈论好像只有这个全能的人工智能，你知道，决定它要操纵一切直到最后。这引出了您的话题，除了在您所说的那个层面上操纵人类之外，还有一些非常紧迫的担忧。多样性、隐私、劳动力、法律变革、你知道，国际地缘政治。我认为现在解决这些问题至关重要。——好吧，让我们，我喜欢和人工智能研究人员交谈，因为五年前，所有人工智能研究人员都说，它比你想象的要强大得多，而现在他们都说，它不像你想象的那么强大。（观众笑）好了，我只是，让我问————是因为五年前，你根本不知道人工智能是什么，现在你推断得太多了。——我没说它是错的，我只是说它是那个东西。让我们，我想谈谈您刚才说的话，但在那之前，我想从观众那里问一个问题，因为一旦我们进入第二部分，我们就无法回答了。所以问题是，这是给您的，尤瓦尔。我们如何避免人工智能驱动的数字独裁的形成？所以，我们如何避免第二种反乌托邦，让我们进入它，然后，李飞飞，让我们进入我们现在可以做什么，而不是将来可以做什么。——关键问题是如何监管数据的所有权。因为我们不会停止生物学研究，也不会停止计算机科学和人工智能研究，所以在这三个组成部分——生物学知识、计算能力和数据中，我认为数据是最容易的，而且也非常困难，但仍然是最容易监管或保护的。在那里设置一些保护措施。现在正在进行一些努力。它们不仅仅是政治努力，而且你知道，也是哲学努力，真正概念化数据的所有权意味着什么，或者如何监管数据的所有权。因为我们对拥有土地意味着什么有相当好的理解。我们在这方面有数千年的经验。我们对拥有数据到底意味着什么以及如何监管它了解甚少，但这是我们需要关注的一个非常重要的方面，以防止最糟糕的反乌托邦结果。我同意人工智能的强大程度远不及一些人想象的，但这就是为什么，再次，我认为我们应该把门槛放低。要达到一个临界点，我们不需要人工智能完美地了解我们，这永远不会发生。我们只需要人工智能比我们更了解自己，这并不难，因为大多数人并不真正了解自己，并且经常在关键决策中犯下巨大的错误。所以，无论是金融、职业还是爱情生活，将权威从人类转移到算法，它们仍然可能很糟糕。但只要它们比我们差一点点，权威就会转移到它们身上。——您在书中讲了一个关于您自己的非常生动的例子，您接受了自己是谁以及您可能被如何操纵。您能否在这里讲述那个关于您接受自己的性取向以及您在书中讲到的关于可口可乐的故事？因为我认为这将非常清楚地说明您的意思。——是的，我记得我21岁时才意识到自己是同性恋。我回顾了一下那个时候，我大概15、17岁。本应如此显而易见。如何，而且这也不是陌生人，我一天24小时都和自己在一起，我就是没注意到任何大声疾呼的迹象，说是的，你是同性恋。我不知道怎么回事，但事实是，我错过了。现在，即使是一个非常愚蠢的人工智能今天也不会错过。——我不太确定。——所以想象一下，这不像，你知道，像一个世纪后的科幻场景。这今天就可以发生，你可以编写各种算法，你知道，它们并不完美，但它们仍然比普通青少年好，那么，在一个你从算法那里了解到关于自己如此重要的事情的世界里生活意味着什么，这意味着什么，如果算法不与你分享信息，而是与广告商或政府分享信息，那又意味着什么？所以，如果你想，我认为我们应该从，你知道，极端的场景的云端高度，降到日常生活的实际层面，这是一个很好的例子。因为这已经发生了。——是的，好了，那么，让我们乘坐电梯来到我们今天购物的这个特别的购物中心，然后李飞飞，让我们谈谈我们今天在思考人工智能的风险、人工智能的好处时可以做什么，并告诉我您认为我们应该关注人工智能的最重要事情的清单。——哦，天哪，我们今天有很多事情可以做。我非常同意尤瓦尔，这是一个非常重要的话题。再次，我将尝试谈论斯坦福大学所做的所有努力，因为我认为这是我们认为可以做的许多努力的一个很好的代表。所以，在以人为本的人工智能领域，这是我们认为人工智能的下一章应该是的总体主题，我们相信三个主要原则。一个原则是投资于下一代人工智能技术，这种技术更能反映我们想要的人类智能。我刚才在想您关于人工智能对数据的依赖以及如何出现数据政策和治理来监管和控制人工智能影响的评论，而技术方面，我们应该开发能够解释人工智能的技术。在技术领域，我们称之为可解释人工智能或人工智能可解释性研究。我们应该专注于那些对人类智能有更细致理解的技术。我们应该投资开发对数据依赖性较低的人工智能技术，这些技术将考虑直觉、知识、创造力以及人类智能的其他形式。所以，那种受人类智能启发的人工智能是我们的一项原则。第二项原则是，再次，欢迎对人工智能进行多学科研究，与经济学、伦理学、法学、哲学、历史、认知科学等学科进行交叉融合，因为我们需要更多地了解人工智能的社会、人类、人类学、伦理影响。我们作为技术人员不可能独自完成这一切，我们中的一些人甚至不应该做这件事，伦理学家、哲学家应该与我们一起解决这些问题。所以，这是第二项原则。第三项原则，在此过程中，我们与政策制定者合作。我们召集多方利益相关者的对话。那么第三项，也是最重要的一项。我认为尼克，您在这次对话一开始就说过，我们需要促进这项技术的人类增强、协作和增强性方面。您说得对，即使在那里，它也可能变得具有操纵性。但我们需要从那种警觉、理解开始，但仍然要推广那种仁慈的应用和设计，至少这些是斯坦福大学以人为本人工智能研究所基于的三个原则。我为这个研究所成立的短短几个月内，就有200多名教职员工参与到这种研究对话、你知道，学习中感到非常自豪，而且这个数字还在不断增长。——哇。让我们，在这三个原则中，让我们开始深入探讨。所以，让我们从第一点，可解释性开始，因为这是一个非常有趣的人工智能辩论。所以，有一些从业者说，你应该有能够解释他们所做的事情和他们所做选择的算法。听起来非常明智。但你该怎么做呢？我做出了各种我无法完全解释的决定，比如我为什么雇佣这个人而不是那个人，我可以讲一个我为什么这样做的故事，但我不能确定。就像我们自己也不够了解自己，无法总是真实而完整地解释我们所做的事情一样，我们怎么能期望使用人工智能的计算机做到这一点呢？如果我们要求西方这样做，那么世界上其他一些不要求这样做的地方可能会 move faster。那么，为什么我们不先从您那里开始，尤瓦尔，您来回答问题的第二部分呢？所以，第一部分是，如果我们自己都很难做到可解释性，我们真的能实现它吗？——嗯，对我来说，乘以两位数相当困难，但你知道，计算机可以做到。所以，某件事对人类来说很难，并不意味着我们不应该尝试让机器去做，尤其，你知道，毕竟这些算法都基于非常简单的数学逻辑。诚然，我们现在处理的是拥有数百万个节点和数十亿个连接的神经网络。所以，可解释性实际上很困难，它是一个持续的研究领域。但我认为这是一个非常肥沃的领域，而且在医疗保健、金融、法律决策方面至关重要。有很多场景，这项技术可能非常有益，但需要那种可解释的能力。所以，我们必须尝试，而且我非常有信心，有许多聪明的人在那里，这是一个可以攻克的难题。而且，最重要的是————[尼克] 有200名教授在研究它。——对，不是所有人都从事人工智能算法。最重要的是，我认为您说得对，如果我们有能够解释算法决策过程的技术，那么它就更难操纵和欺骗，对吧？这是一个技术解决方案，而不是全部解决方案，它将有助于澄清这项技术正在做什么。——但是，因为，可以推测，人工智能的决策方式与人类截然不同，所以即使人工智能解释了它的逻辑，人们担心的也是，它对大多数人来说完全没有意义。大多数人在被要求解释一个决定时，他们会以叙事的形式讲故事，这可能反映了他们内心的真实情况，也可能不反映。在许多情况下，它并不反映。它只是一个虚构的合理化，而不是真实的东西。现在，人工智能可能比人类更擅长告诉我，比如，我向银行申请贷款，银行拒绝了，我问为什么？银行说，好的，我们问问我们的人工智能。人工智能给出了一个极其冗长的统计分析，它不是基于我生活中的一两个关键特征，而是基于2517个不同的数据点，它考虑了这些数据点并赋予了不同的权重。你为什么赋予这个权重，为什么赋予那个权重，哦，还有另一本书关于这个。而且大多数数据点对人类来说似乎完全不相关。你周一而不是周三申请贷款。人工智能发现，无论出于何种原因，都是周末之后，无论如何，周一申请贷款的人还款的可能性要低0.075%。所以它进入了方程。我得到了这个解释之书，终于，我得到了一个真实的解释。不像和一个人类银行家坐在一起，他只是在胡说八道。——那么，您是在支持人工智能吗？您是说人工智能在这种情况下是好的吗？——在很多情况下，是的，我的意思是，我认为在很多情况下，这是硬币的两面，我认为，在很多方面，人工智能在这种情况下将比人类银行家有所改进。因为，例如，你真的可以知道决策是基于什么，可以推测。但它是基于我作为一个人类无法理解的东西，我就是不，我只知道如何处理简单的叙事故事。我没有给你贷款是因为你是同性恋，这不好。或者因为你没有偿还你以前的任何贷款，好吧，我能理解。但我不能，我的大脑不知道如何处理人工智能会给出的真实解释，那只是一个疯狂的统计数据，对我来说什么都不是。——好的，所以您的评论有两个层面。一是您如何信任并能够理解人工智能的解释？二是，实际上，人工智能是否可以用来使人类更值得信赖或成为更值得信赖的人类？关于第一点，我同意您的观点，如果人工智能为您提供2000个潜在特征的概率，那不是人类可以理解的。但科学和人类文明的整个历史都是为了能够以越来越好的方式沟通科学的成果，对吧？就像我刚做了年度体检，一堆数字发到了我的手机上。嗯，首先，我的医生，专家可以帮助我解释这些数字。现在，即使是维基百科也能帮助我解释其中一些数字。但解释这些的科技进步将会改善。如果我们只是把2000个维度的概率数字扔给你，那是我们作为人工智能技术人员的失败。——但这，我的意思是，这是解释，我认为您提出的观点非常重要。但我有不同的看法，我认为科学在向公众解释其理论和发现方面做得越来越差，这就是为什么会出现怀疑气候变化等等现象，这甚至不是科学家的错。因为科学变得越来越复杂，现实极其复杂，而人类的心智并没有适应理解气候变化的动态或拒绝给某人贷款的真正原因。那就是当你有一个，再次，让我们把操纵和我如何信任的问题放在一边，假设人工智能是良性的，假设它做出，没有隐藏的偏见，一切都好。但仍然，我无法理解人工智能的决定。——像尼克这样的人，讲故事的人必须解释。我的意思是，您说得对，它非常复杂。但有像————我下周就要失业了，但我很高兴您对我抱有信心。——但这是社会的集体责任，解释复杂的科学。我并不是说我们做得很好。但我的意思是，如果我们尝试，就有希望。——但我的恐惧是，我们真的做不到，因为人类的心智不是为了处理这些类型的解释和技术而设计的。而且，这对于去银行被拒绝贷款的个人客户来说是如此，对于个人客户来说也是如此。而且，甚至可能在某个层面上，我的意思是，今天地球上有多少人理解金融体系？有多少总统和总理理解金融体系？——在这个国家，是零。（观众鼓掌）——生活在一个人们应该经营企业，再次，这不是某个特定政客的错，而是金融体系变得如此复杂，我认为经济学家并非故意向公众隐瞒某些东西。它只是极其复杂。世界上一些最聪明的人去了金融行业，创造了这些极其复杂的模型和工具，客观地说，你无法向大多数人解释它们，除非，首先，他们学习经济学和数学10年或类似的东西。所以我认为这是一个真正的危机。而且，再次，这是我们开始的哲学危机的一部分。以及人类能动性的削弱，这是正在发生的一部分，我们拥有这些极其智能的工具，它们可能在我们的医疗保健、我们的金融体系方面做出更好的决策。但我们无法理解它们在做什么以及为什么这样做。这削弱了我们的自主性和权威。而我们作为一个社会，不知道如何应对。——嗯，理想情况下，李飞飞的研究所将有助于解决这个问题。在我们结束这个话题之前，我想转到一个非常相关的问题，我认为这是最有趣的问题之一，那就是算法中的偏见问题，您对此曾有精彩的阐述，让我们以金融体系为例。所以，你可以想象一家银行用来决定某人是否应该获得贷款的贷款。你可以想象用历史数据来训练它，而历史数据是种族主义的，我们不希望那样。所以，让我们弄清楚如何确保数据不是种族主义的，并且它向人们提供贷款，无论种族如何。我认为我们可能都，在座的每个人都同意，这是一个好的结果。但假设分析历史数据表明，女性比男性更有可能偿还贷款。我们应该剔除这一点，还是允许它保留？如果你允许它保留，你会得到一个稍微更高效的金融体系。如果你剔除它，男女之间就会有更多的平等。

你如何决定要消除哪些偏见，哪些偏见可以保留？——是的，这是一个绝佳的问题，我的意思是，我个人没有答案，但我认为你触及了一个非常重要的问题，首先，机器学习系统的偏见是真实存在的，你知道，就像你说的。它始于数据，可能始于我们收集数据的那个时刻，以及我们收集的数据类型，贯穿整个流程，然后一直到应用。但偏见会以非常复杂的方式出现。在斯坦福大学，我们有机器学习科学家研究偏见的技​​术解决方案，比如你知道的，消除数据偏见和规范某些决策制定。但我们也有人文学者在争论什么是偏见，什么是公平，什么时候偏见是好的，什么时候偏见是坏的？所以，我认为你刚刚开启了一个完美的研究、辩论和讨论的话题。我还想指出，尤瓦尔，你已经用了一个非常相关的例子。机器学习算法有暴露偏见的潜力，对吧。你知道，就像我几年前最喜欢的一项研究是分析好莱坞电影，并使用机器学习面部识别算法，这项技术如今极具争议，来识别好莱坞系统性地给予男性演员比女性演员更多的银幕时间。这一点，没有人可以坐下来数所有面部和性别偏见的帧数。这是使用机器学习来暴露偏见的绝佳例子。所以总的来说，我们应该研究一系列丰富的问题，再次强调，引入人文学者、伦理学家、法律学者、性别研究专家。——同意，虽然我支持人类，但我知道在那篇论文之前好莱坞就已经有性别歧视了，但是的，同意。——你是一个聪明的人。——尤瓦尔，关于贷款的问题。你是否会剔除种族主义数据，剔除性别数据，你会消除哪些偏见，哪些偏见不会？——我认为没有一种放之四海而皆准的答案，我的意思是，这是一个我们需要再次强调的问题，我们需要工程师、伦理学家、心理学家和政治科学家之间进行日常合作。——[尼克] 但不是生物学家，对吧，不是生物学家？——而且越来越包括生物学家。你知道，这又回到了那个问题，我们应该做什么？所以我们应该在课程中教授编码员伦理学。当今世界上最需要伦理学背景的是计算机科学专业的学生。所以它应该是课程的组成部分。大型企业也在设计这些工具，团队中应该嵌入具有伦理学、政治学等背景的人，让他们始终思考我们可能无意中构建了哪些偏见到我们的系统中，我们正在构建的东西可能带来哪些文化或政治影响。这不应该是一种事后诸葛亮的做法，你创造了一个漂亮的技术小玩意，它进入了世界，发生了一些不好的事情。然后你开始思考哦，我们没有预见到这一点，现在该怎么办？从一开始就应该清楚，这是过程的一部分。——我想特别感谢罗布·赖希，他刚刚介绍了整个活动。他和我的同事梅兰·萨哈米以及斯坦福大学的其他几位教授开设了一门名为“伦理、计算”的课程，抱歉，罗布，我滥用了你课程的标题。但这正是这类课程，我认为本学期有超过 300 名学生报名参加。——太棒了。这门课，我希望我上学时这门课就已经存在了。让我来问一个来自观众的绝佳问题，这与此相关，这是来自尤金·李。你如何调和算法的可解释性与有效性和准确性之间的固有权衡？——快速提问，这个问题似乎在假设，如果你能解释它，你就没那么好或没那么准确。——嗯，你可以想象，如果你要求可解释性，你会失去一定的效率，你会给算法增加一点复杂性。——所以，首先，我不一定相信这一点，没有数学逻辑支持这种假设。其次，让我们假设一个可解释的算法会影响效率的可能性。我认为这是一个我们必须做出的社会决定，你知道，当我们把安全带系在车里开车时，这会稍微降低效率，因为我必须系上安全带而不是直接跳上车就开。但作为一个社会，我们决定我们可以承受这种效率的损失，因为我们更关心人类安全。所以我认为人工智能是同一种技术，当我们继续在我们的解决方案、我们的产品中做出这些决定时，我们必须在人类福祉和社会福祉与效率之间取得平衡。——那么，尤瓦尔，让我问你全球后果的问题，这是许多人以不同方式问过并被我们提及过，但我们没有正面回答的问题。有两个国家，想象一下你有 A 国和 B 国。A 国说，你们所有的人工智能工程师，你们必须让它可解释，你们必须上伦理课，你们必须真正思考你们所做事情的后果，你们要和生物学家共进晚餐，你们必须思考爱，你们必须阅读，你知道，约翰·洛克。这是 A 组。B 国说，去建造一些东西吧，对吧。这两个国家在某个时候会发生冲突。我猜 B 国的技术可能会领先于 A 国。这是否令人担忧？——是的，这总是军备竞赛的担忧，它会以效率和统治的名义变成一场逐底竞赛。而且我们正处于一个，我的意思是，现在人工智能的局面非常成问题或危险的是，越来越多的国家正在意识到这可能是 21 世纪的统治技术。所以你谈论的不仅仅是不同纺织业之间或不同石油业之间的任何经济竞争。就像一个国家决定，我们根本不关心环境，我们就全速前进，而另一个国家则更加关注环境。人工智能的情况可能要糟糕得多，因为它可能是 21 世纪的统治技术，而落后者可能会被那些领先者统治、剥削、征服。所以没有人想落后。我认为阻止这种灾难性的逐底军备竞赛的唯一方法是加强全球在人工智能方面的合作。现在，这听起来很乌托邦，因为我们现在正朝着完全相反的方向前进，即越来越多的竞争和对抗。但这我认为是我们工作的一部分，就像核军备竞赛一样，让不同国家的人们意识到这是一场军备竞赛，无论谁赢，人类都会输。人工智能也是如此，如果人工智能成为一场军备竞赛，那么这对所有人类来说都是一个非常糟糕的消息。美国人很容易说我们是这场比赛中的好人，你应该为我们欢呼。但在“美国优先”的口号下，这一点变得越来越困难。我的意思是，我们怎么能相信美国是人工智能技术的领导者，如果最终它只服务于美国的利益和美国的经济和政治统治呢？所以，我真的认为，大多数人，当他们想到人工智能军备竞赛时，他们会想到美国与中国。但世界上还有将近 200 个国家。其中大多数都远远落后。当他们看到正在发生的事情时，他们越来越害怕，而且非常有理由。——你提到的历史例子有点令人不安，如果我正确理解了你的回答，那就是我们需要全球合作，如果我们不合作，我们将导致一场军备竞赛。在实际的核军备竞赛中，我们尝试了全球合作，从，我不知道，大约 1945 年到 1950 年，然后我们放弃了。然后我们说在美国全力以赴，然后为什么冷战会以那种方式结束？谁知道，但有一种说法是，美国，你知道，它的核武器的建立和无情的建立有助于维持和平，直到苏联解体。所以，如果这是平行关系，那么可能会发生的是，我们将在 2019 年、2020 年、2021 年尝试全球合作，然后我们将进入一场军备竞赛。A，这可能吗？B，如果可能，你会说，那么美国需要真正全力以赴地发展人工智能，因为对自由民主国家来说，拥有人工智能比极权国家更好吗？——我担心合作很可能会破裂，我们会发现自己处于一场极端军备竞赛的境地。在某种程度上，这比核军备竞赛更糟糕，因为核武器，至少到今天为止，各国都开发了它们，但从未真正使用过。人工智能将一直被使用。它不是你放在架子上用于某种末日战争的东西，它将一直被用来创造潜在的全面监控制度和极端极权主义系统。所以从这个角度来看，危险要大得多。你可以说，核军备竞赛实际上拯救了民主和自由市场以及，你知道，摇滚乐和伍德斯托克以及嬉皮士，他们都欠核武器巨大的人情。因为如果核武器没有被发明出来，你需要，苏联集团和美国集团之间将会有常规军备竞赛和常规军事建设。而这将意味着社会的全面动员，如果苏联正在进行全面动员，美国人竞争的唯一方法就是这样做。现在，实际发生的是，共产主义集团有一个极端的极权主义动员社会，但由于核武器，美国或西德或法国不必这样做，因为你依赖核武器，你不需要数百万的士兵。而人工智能的情况恰恰相反。这项技术不仅会被开发出来，而且会一直被使用。这是一个非常可怕的场景。——等等，我可以补充一点吗？我不知道历史，就像你一样，但你说人工智能与核技术不同。我确实想指出，它非常不同，因为，正如你谈论这些更可怕的情况一样，这项技术具有广泛的国际科学合作基础，它被用于改善交通，用于改善医疗保健，用于改善教育。所以这是一个我们以前从未见过过的非常有趣的新时代，因为虽然我们有这种竞争，但我们在这些仁慈的使用和这项技术的民主化方面也有大规模的国际科学界合作。我认为看到这两种观点都很重要。——你说得完全正确，是的。正如我所说，这项技术也有巨大的好处。——[李飞飞] 而且是以全球合作的方式，尤其是在科学家之间。——全球方面更加复杂，因为问题是，如果一些国家的能力与世界大部分地区之间存在巨大差距，会发生什么？我们会重演 19 世纪的工业革命吗？少数工业强国征服、统治和剥削整个世界，无论是在经济上还是政治上？有什么可以阻止这种情况再次发生？所以即使从，你知道，没有这种可怕的战争场景来看，我们可能仍然发现自己处于一个全球剥削制度，其中大部分利益都流向少数几个国家，而以牺牲其他所有人为代价。——你听说过 archive.org 吗？——Archive.org？——所以观众中的学生可能会笑，但我们正处于一个非常不同的科学研究气候中，也就是说，技术和方法的全球化以 19 世纪甚至 20 世纪从未见过的方式发生。今天在斯坦福大学本周产生的任何人工智能基础科学研究论文或技术，都可以通过 Archive 或 GitHub 存储库或这个东西轻松地在全球分发。——信息就在那里，是的。——这种科学技术的全球化传播方式与 19 世纪和 20 世纪截然不同。我的意思是，我毫不怀疑，你知道，可能会有政权对这项技术进行有限的开发。但我们确实必须认识到，这种全球性的，现在的差异非常明显，我们可能需要将其考虑在内，你所描述的场景更难发生。我不是说不可能，但更难发生。——我只想说，这不仅仅是科学论文。是的，科学论文就在那里。但如果我住在也门、尼加拉瓜、印度尼西亚或加沙，是的，我可以连接到互联网下载论文，我该怎么办？我没有数据，我没有基础设施。我的意思是，你看看那些拥有世界上所有数据的巨头公司来自哪里，它们基本上来自两个地方。我的意思是，即使是欧洲也并没有真正参与竞争。没有欧洲的谷歌或欧洲的亚马逊或欧洲的百度或欧洲的腾讯。如果你看看欧洲以外，想想中美洲，想想非洲大部分地区，中东，东南亚大部分地区，是的，基础科学知识就在那里，但这只是创造能够与亚马逊或腾讯竞争的东西，或者与美国政府或中国政府等政府的能力竞争的组成部分之一。所以，我同意信息和基础科学知识的传播，我们所处的位置与 19 世纪完全不同。——让我问你关于那个问题，因为这是三四个人问过的问题，那就是，人工智能似乎可能是一种中心化的力量，它将使拥有数据和最佳计算能力的人变得更强大，从而加剧收入不平等，无论是在国家内部还是在全球范围内，对吧，你可以想象你刚才提到的国家，美国、中国、欧洲落后，加拿大也落后，远远领先于中美洲。它可以加剧全球收入不平等。A，你认为这可能吗？B，这有多让你担心？我们有四个人问了类似的问题。——嗯，正如我所说，这非常非常可能，而且已经发生了。而且它极其危险，因为经济和政治后果可能是灾难性的。我们谈论的是整个经济和国家的潜在崩溃。那些依赖廉价劳动力等国家，它们没有教育资本来与人工智能世界竞争。那么这些国家会怎么做？我的意思是，如果，比如说，大部分生产从洪都拉斯或孟加拉国转移到美国和德国，因为人力工资不再是等式的一部分，而且在加利福尼亚生产衬衫比在洪都拉斯生产衬衫更便宜，那么那里的人们会做什么？你可以说，哦，会有更多软件工程师的工作。但我们没有在洪都拉斯教孩子们成为软件工程师。所以也许他们中的一些人可以移民到美国。但他们中的大多数人不会，他们会做什么？而且，目前，我们没有这些问题的经济答案和政治答案。——李飞飞，你想插话吗？——我认为这很公平。我认为尤瓦尔肯定已经指出了其中一些关键的陷阱，这就是为什么我们需要更多的人来研究和思考这个问题？我们在建立以人为本的人工智能社区以及与内外部人士交流的过程中，一次又一次地注意到，世界各地的企业和政府都有机会思考他们的数据和人工智能战略，对于那些大型企业和国家之外的人来说，仍然有很多机会真正认识到这是一个重要的时刻，他们的国家、他们的地区、他们的企业要转型到这个数字时代。我认为当你谈论这些潜在的危险时，世界上一些地区缺乏数据，还没有真正跟上这场数字化转型，现在就是时候了，我们希望，你知道，提高这种意识，并鼓励这种信息。——是的，我认为这非常紧迫，我的意思是，我们目前看到的是，一方面，你可以称之为某种数据殖民。就像我们在 19 世纪看到的模式一样，有一个帝国中心，他们拥有先进的技术，他们在印度或埃及种植棉花，他们将原材料运往英国，他们在曼彻斯特生产衬衫，这是 19 世纪的高科技产业，然后他们将衬衫运回，在印度销售，并击败当地的生产商。在某种程度上，我们现在可能开始看到同样的事情发生在数据经济中，他们从巴西和印度尼西亚等地收集数据，但他们不在那里处理数据，来自巴西和印度尼西亚的数据被发送到加利福尼亚或东部中国，在那里处理，他们在那里生产出精彩的新小玩意和技术，并将它们作为成品出售回省份或殖民地。现在，这不是一对一的，不是一样的，有区别。但我认为我们需要记住这个类比。另外一点，也许我们在这方面需要记住的是石头墙的重新出现，我有点，你知道，最初，我的专业是中世纪军事史。这就是我开始我的学术生涯的方式，十字军东征、城堡和骑士等等。而现在我正在研究所有这些赛博格和人工智能的东西。但突然之间，我从那时起知道了一些事情，墙壁正在回归。我试图弄清楚，这里发生了什么？我的意思是，我们有未来的现实，我们有 3G，人工智能，突然之间，最热门的政治问题是建造一堵石头墙。就像你可以想象的最低技术的东西。在互联互通的世界里，石头墙有什么意义？这真的让我害怕，那里有一些非常邪恶的东西，数据到处流动如此容易，但越来越多的国家，以及我的祖国以色列，也是如此，你知道，创业国家，然后是墙。这意味着什么，这种组合？——李飞飞，你想回答吗？（观众笑）——也许你可以看看下一个问题。——你知道吗，让我们来看下一个问题，这个问题与此相关。下一个问题是，你们在斯坦福大学有帮助建立这些公司的人，他们将推动数据殖民进程，或扭转它，或将建造，你知道，在人工智能世界中创造虚拟墙的努力，这些努力至少是由斯坦福大学的一位毕业生资助的。所以你们在座的各位学生。你们希望他们如何思考人工智能，你们希望他们学到什么？让我们花最后 10 分钟的谈话来谈谈这里每个人应该做什么。——所以如果你是计算机科学或工程专业的学生，就去上罗布的课。如果你是人文学者，就去上我的课。你们所有人，都读尤瓦尔的书。——他的书在你的教学大纲上吗？——不在我的，抱歉。我教的是硬核深度学习。他的书没有方程。——我不知道，B 加 C 加 D 等于 H。——但说真的，我的意思是，斯坦福大学的学生，你们有机会，我们有一个光荣的历史，将这项技术变为现实，斯坦福大学在人工智能的诞生中处于领先地位，事实上，我们的教授约翰·麦卡锡创造了“人工智能”这个词，并于 1963 年来到斯坦福大学，创立了美国最古老的人工智能实验室之一。从那时起，斯坦福大学的人工智能研究一直处于人工智能每次变革浪潮的最前沿。在 2019 年，我们也处于开创以人为本的人工智能革命或撰写新的人工智能篇章的最前沿。在过去的 60 年里，我们为你们所有人做了这一切，为那些走进这里并毕业成为从业者、领导者和公民社会一部分的人。这才是真正底线所在。以人为本的人工智能需要由下一代技术人员来书写，他们学习了罗布的课程，思考伦理影响、人类福祉。它也将由那些可能来自斯坦福大学人文学科并在这所学校学习过技术细节、理解技术影响并有能力与技术人员沟通的潜在未来政策制定者来书写。无论我们如何同意或不同意，底线是，我们需要这种多语种的领导者、思想家和从业者，这就是斯坦福大学以人为本的人工智能研究所的宗旨。——尤瓦尔，你如何回答这个问题？——在个人层面，我认为每个人都很重要，无论是在斯坦福大学，还是工程师，都要更好地了解自己。因为你现在处于竞争之中。你知道，这是哲学中最古老的建议，认识你自己。我们从苏格拉底、孔子、佛陀那里都听过，认识你自己。但有一个区别，那就是现在，你有竞争。在苏格拉底或佛陀的时代，如果你不努力，那么好吧，你就错过了启蒙。但仍然，国王没有和你竞争。他们没有技术，现在你有竞争。你正在与这些大型企业和政府竞争。如果他们比你更了解你，那么游戏就结束了。所以你需要给自己争取一些时间，争取时间的第一种方式是更好地了解自己，然后他们就有更多的时间来覆盖。对于工程师和学生，我想说，也许我会专注于工程师。我希望从实验室和工程部门出来的两件事是，第一，在去中心化系统中比在中心化系统中工作得更好的工具。我不知道怎么做，但如果你，我希望工程师可以做些什么。我听说区块链是该领域的一大希望，我不知道。但无论是什么，当你开始设计一个工具时，工具应该是什么样子的，我可以说这个工具应该在去中心化系统中比在中心化系统中工作得更好。这是民主的最佳防御。第二件事我想看到的是————我不想打断你，因为我想让你说到第二件事，你如何制造一个在民主国家比在……——我不是工程师，我不知道。（观众笑）——[尼克] 好的。好吧，我们进入第二部分。把它交给这里某个人，找出答案，因为它非常重要————我可以思考一下，然后，我可以给你一些历史例子，说明哪些工具以这种或那种方式工作得更好。但我不知道如何将其转化为当今的————进入第二部分，因为我还有几个观众提问。——好的，另一件事是，我希望看到的是一个为我服务而不是为某个公司或政府服务的 AI 助手，所以，我的意思是，我们无法阻止这种技术的进步。但我希望看到它为我服务。所以是的，它可以攻击我，但它攻击我以保护我。就像我的电脑有杀毒软件一样，但我的大脑没有。它有生物杀毒软件来对抗流感或其他病毒，但不是对抗黑客和巨魔等等。所以一个要做的项目是创建一个 AI 助手，我可能花了很多钱买的，它属于我。它跟着我，监控我，我做什么，我的互动。但它学到的一切，都是为了保护我不被其他人工智能、其他外部影响者操纵。所以这是我认为，以当今的技术，我希望看到更多这方面的努力。——不是进入太技术性的术语，我认为你会感到安慰，因为这种研究的萌芽努力正在发生，你知道，可信赖的人工智能，可解释的人工智能，安全，你知道，有动机或有意识的人工智能。所以，我并不是说我们有解决方案，但世界上许多技术人员都在朝着这个方向思考并努力实现它。——而且我不是想要一个属于谷歌或政府的人工智能，我想要一个我能信任的人工智能，我想要一个我能掌控的人工智能，它为我服务。——而且它很强大，它比我的人工智能更强大，否则，我的人工智能可能会操纵你的人工智能。（观众笑）——它将拥有了解我的巨大优势。所以它可能无法攻击你，但因为它跟着我到处走，并且可以访问我所做的一切等等，这给了它在我这个特定领域的一个优势。所以这是一种对抗那些拥有————但即使那样，我们的社会也会面临很多挑战，谁负责？你对你的行为负责还是你的助手？——这是一个越来越困难的问题，我们必须处理。——助手辩护。好了。李飞飞，我们快速看几个问题。我们经常谈论，这是来自里根·波拉克，我们经常谈论大公司自上而下的 AI，我们应该如何设计个人 AI 来帮助加速我们的生活和职业生涯？我这样理解这个问题，很多 AI 都是在大公司完成的。如果你想在一家小公司或个人拥有 AI，你能做到吗？——嗯，首先，一个解决方案是尤瓦尔刚才说的。——也许那些东西会由 Facebook 来建造。——所以，首先，这是真的，很多投资和努力，以及资源都投入到大公司的人工智能研究和开发中，但并非所有的人工智能都在那里发生，我想说学术界继续在人工智能的研究和开发中发挥巨大作用，尤其是在人工智能的长期探索方面。学术界是什么？学术界是一个由个人、学生和教授组成的全球网络，他们以非常独立和富有创造力的方式思考不同的想法。所以从这个角度来看，人工智能研究是一种非常草根的努力，并且仍在继续。小型企业和独立研究机构也发挥着作用，对吧。有很多公开可用的数据集，我们是一个非常开放地共享和传播知识和技术的全球社区。所以是的，请，务必，我们希望全球参与其中。——好了，这是我最喜欢的问题，这是来自匿名人士，很遗憾。如果我上八年级，我还需要学习吗？（观众笑）——作为一个妈妈，我会告诉你，是的。回去做你的作业。——好了，李飞飞，你希望尤瓦尔的下一本书写什么？——哇，我不知道，我需要想一想。——好了，在你思考的时候，尤瓦尔，你希望李飞飞接下来追求哪个机器学习领域？——助手项目。——是的，我的意思是，就像我说的，人工智能，我们能创造一种服务于个人而不是某种大型网络的人工智能吗？我的意思是，这可能吗？还是人工智能的本质必然会导致某种网络效应和赢家通吃等等？——[尼克] 好了，我们将与李飞飞一起结束————他的下一本书将是一本你和你的助手之间的科幻小说。（观众笑）——好了，最后一个问题给尤瓦尔，因为我们有两个投票最多的问题是这个。没有自由意志的信念，是什么让你早上起床？——没有自由意志的信念？我不认为这个问题，我的意思是，非常有趣或非常核心，它在西方文明中一直很重要，因为几千年前犯的一些神学错误。但这是一个真正的，这是一个对人类状况的误解。真正的问题是如何从痛苦中解放自己？而朝着这个方向迈出的最重要的一步之一就是更好地了解自己，为此，你需要把这一切都推开，我的意思是，对我来说，关于自由意志信念的最大问题是它使人们对自己和自己内在真正发生的事情感到好奇。因为他们基本上说，我什么都知道。我知道我为什么做决定，这是我的自由意志。他们认同任何出现在他们脑海中的想法或情感，因为嘿，这是我的自由意志。这让他们对内在真正发生的事情以及他们生活中痛苦的真正根源感到非常好奇。所以，这就是让我早上醒来的原因，努力更好地了解自己，努力更好地了解人类状况。而自由意志对此无关紧要。——如果我们失去了它，你的助手可以让你早上起床。李飞飞，75 分钟前，你说我们不会得出任何结论，你认为我们有进展吗？——嗯，我们开启了人文学者和技术人员之间的对话，我希望看到更多这样的对话。——太好了，谢谢，非常感谢，李飞飞，非常感谢尤瓦尔·诺亚·哈拉里，很高兴来到这里，感谢观众。（观众鼓掌）