Transcription
1956年，地点是达特茅斯学院，在一份研究提案中，一位数学教授使用了一个当时全新且完全是异想天开的词语：人工智能。如今，人工智能已不再是异想天开。斯坦福大学以人为本人工智能研究所的所长约翰·埃切门迪和李飞飞，做客《非凡知识》节目。
[音乐]
>>彼得·罗宾逊：欢迎来到《非凡知识》，我是彼得·罗宾逊。哲学家约翰·埃切门迪曾于2000年至2017年担任斯坦福大学的教务长。埃切门迪博士在内华达大学获得本科学位，之后在斯坦福大学获得哲学博士学位。他于1983年获得博士学位，并于次年成为斯坦福大学哲学系的成员。他是多部著作的作者，包括1990年出版的《逻辑结果的概念》。卸任教务长后，埃切门迪博士在斯坦福大学担任了多项职务，其中，对于我们今天的讨论，最相关的职务是：斯坦福大学以人为本人工智能研究所的联合所长。李飞飞博士出生于北京，15岁时移居美国。她在普林斯顿大学获得本科学位，并在加州理工学院获得电气工程博士学位。如今，她是斯坦福大学的计算机科学教授，也是斯坦福大学以人为本人工智能研究所的创始人。李博士的自传《我眼中的世界：人工智能黎明时期的好奇、探索与发现》于去年出版。约翰·埃切门迪和李飞飞，感谢您抽出宝贵时间与我交流。
>>李飞飞：感谢您的邀请。
>>彼得·罗宾逊：我想问一个可能很愚蠢的问题，但实际上这个问题非常重要。什么是人工智能？我每天看到这个词不下百次，已经有好几年了，但我至今没有找到一个简洁而令人满意的解释。让我们来看看，我们来谈谈哲学，这里有一位在专业上非常严谨的人，但这里还有一位真正知道答案的女士。是的，她知道答案。[笑声]
>>约翰·埃切门迪：那么，让飞飞来回答，然后我再给您一个不同的答案。
>>彼得·罗宾逊：真的吗？好的。
>>李飞飞：好的，彼得用了“简洁”这个词，我有点紧张了。因为如今的人工智能已经是一系列方法和工具的总称，它涵盖了计算机科学的整个领域，涉及数据、模式识别、自然语言、图像、视频、机器人技术和语音的决策制定。所以，它确实是一个集合，人工智能的核心是统计建模，例如使用计算机程序的机器学习。但如今，人工智能确实是一个总括性术语，涵盖了许多我们开始感到熟悉的事物，例如，语言智能、语言建模或语音或视觉。
>>彼得·罗宾逊：约翰，你我都认识约翰·麦卡锡。
>>约翰·埃切门迪：是的。
>>彼得·罗宾逊：他写了那篇论文，创造了“人工智能”这个词之后来到斯坦福。已故的约翰·麦卡锡，我向您坦白，我认识他，我对他这个词有点怀疑，因为我认识约翰，他喜欢挑衅。我当时想，等等，我们还在处理0和1。计算机是计算机器，人工智能是一个营销术语。
>>约翰·埃切门迪：所以，不，它真的不是一个营销术语。我将给您一个更接近约翰会给出的答案。
>>彼得·罗宾逊：好的。
>>约翰·埃切门迪：它是计算机科学的一个子领域，致力于创造能够完成看似需要智能的任务的机器。早期的人工智能系统是那些下棋或跳棋的系统，非常非常简单的事情。现在，约翰，您认识他，他雄心勃勃，他认为在达特茅斯的一次夏季会议上，他们就能解决大部分问题。[笑声]
>>彼得·罗宾逊：好的，我来举几个非常著名的例子，我正在寻找的是，我将举出这些事件。1997年，一台计算机击败了国际象棋选手加里·卡斯帕罗夫，这是一个重要的时刻。IBM的“深蓝”项目首次在国际象棋上击败了人类。而且不仅仅是人类，而是加里·卡斯帕罗夫，按某些标准来看，他是历史上最伟大的六位国际象棋棋手之一。
>>李飞飞：嗯哼。
>>彼得·罗宾逊：据我所知，计算机科学家们只是耸耸肩，说事情正在变得更快，但仍然如此。然后，在2015年，一台计算机击败了围棋专家韩飞。次年，它击败了围棋大师李世石，我不太确定我是否发音正确。
>>李飞飞：是李世石。
>>彼得·罗宾逊：在一场五局比赛中，人们说，哇，这次真的发生了什么。所以，我在这里寻找的是一些像我这样的普通人能够抓住并说，这里有一个断层。我们进入了一个新的时刻，这就是人工智能。我是在寻找一些不存在的东西吗？
>>约翰·埃切门迪：不，不，我认为您不是。深蓝和……
>>彼得·罗宾逊：下国际象棋的那个。
>>约翰·埃切门迪：下国际象棋的那个，深蓝是使用传统编程技术编写的。深蓝所做的就是，它会为每一步，为棋盘的每个位置，它会向下看所有可能的……
>>彼得·罗宾逊：每一个可想象的决策树。
>>约翰·埃切门迪：每一个决策树，直到一定的深度，我的意思是，显然，你不可能一直深入下去。它会有衡量哪些是最好的方法。然后它会说，这是我此时的最佳走法。所以，在某种意义上，它在理论上并不那么有趣。AlphaGo……
>>彼得·罗宾逊：AlphaGo，那是谷歌的一个项目。
>>约翰·埃切门迪：那是谷歌的一个项目。
>>彼得·罗宾逊：好的。
>>约翰·埃切门迪：它使用了深度学习，它是一个神经网络，它不是显式编程，我们不知道。我们不会带着“这里是我们要使用的算法，做这个，然后做这个，然后做这个”的想法去进行。所以，这确实是一个惊喜，尤其是AlphaGo。
>>李飞飞：对我来说不是，但[笑声]，当然。
>>约翰·埃切门迪：不，不，但是……
>>李飞飞：对公众来说。是的。
>>约翰·埃切门迪：对公众来说。
>>李飞飞：是的。
>>彼得·罗宾逊：但如果我们的同事，我再说一遍，因为我真的很想理解这一点，[笑声]我真的很想。我们斯坦福的同事，沈志勋，你们俩肯定认识他，斯坦福的物理学家，他对我说，彼得，你需要理解的是计算机击败围棋的那一刻。围棋，它是一个更复杂的游戏，至少在决策空间上，可以说比国际象棋大得多。棋子更多，格子也更多，对吧？
>>李飞飞：是的。
>>彼得·罗宾逊：沈志勋对我说，国际象棋只是更快地完成了大师委员会的决定。而围棋中的计算机则富有创造力，它在追求人类从未追求过的策略，这有什么道理吗？
>>李飞飞：是的，有一个著名的。
>>彼得·罗宾逊：飞飞对我有点不耐烦了，我问的问题太……请继续。
>>李飞飞：不，不，您问的问题非常好。在第三局比赛中，我记得是五局中的第三局，有一个走法。我记得是第32步或第35步，计算机程序走了一步，让所有围棋大师都感到惊讶。不仅仅是李世石本人，还有所有观看的人。
>>说话者1：那是一个非常令人惊讶的走法。
>>说话者2：[笑声]我以为是个错误。
>>李飞飞：事实上，即使事后分析那一步是如何产生的，人类大师也会说，这是完全出乎意料的。发生的情况是，正如约翰所说，计算机具有学习能力和推理能力，可以思考模式。或者甚至可以在人类大师熟悉的知识领域之外，决定某些走法，在这种特定情况下。
>>约翰·埃切门迪：那么，我能说一下吗，彼得，让我……
>>彼得·罗宾逊：请说，是的。
>>约翰·埃切门迪：让我来详细说明一下。问题是，这些深度神经网络是极其出色的模式识别系统。但它们识别的模式，它们学会识别的模式，不一定与人类识别的模式完全相同。所以它看到了那个局面的一些东西，然后它走了一步，因为它的识别模式，从人类的角度来看毫无意义。事实上，所有关于如何下围棋的教程都告诉你，永远不要那么快地走靠近边缘的棋。所以每个人都认为它犯了一个错误，然后它就继续赢了。我认为理解这一点的方式是，它只是看到了我们看不到的模式。
>>李飞飞：它在计算非传统人类的模式，并且它有计算的能力。
>>彼得·罗宾逊：好的。我正在尝试，我们已经进入了这个领域，但我真的在努力区分，等等。这些仍然只是运行0和1的机器，内存越来越大，计算能力越来越快。但我们仍然在处理运行0和1的机器，这是其中一条线索。另一条线索是，正如您所知，2001太空漫游，计算机接管了飞船。
>>戴夫：打开舱门，卡尔。
>>卡尔：对不起，戴夫，恐怕我不能这样做。
>>彼得·罗宾逊：好的，我们很快就会谈到这个。李飞飞，在您的自传《我眼中的世界》中，您写道：“我相信我们的文明正站在一场技术革命的边缘，这场革命有能力重塑我们所知的生命。”革命，重塑我们所知的生命，现在您是一位受过严谨学术训练的人。您会让她这样夸大其词吗？
>>约翰·埃切门迪：不，我认为这不是夸大其词。我认为她说得对。
>>李飞飞：他让我写这本书的，[笑声]
>>约翰·埃切门迪：请注意，彼得，这是一项极其强大的技术，它将使我们能够，并且已经使我们能够让计算机做我们以前无法编程的事情。它将改变一切，但正如许多人所说，它就像电力或蒸汽革命一样。它不一定是什么可怕的事情，它不会突然接管世界。飞飞说的不是这个意思。
>>李飞飞：是的，它是一种强大的工具，将彻底改变行业和人类的生活方式。但“革命”这个词不是说它是一个有意识的生命体，它只是一个改变事物的强大工具。
>>彼得·罗宾逊：如果几页之后，飞飞没有继续写，我会觉得很安心。
>>李飞飞：不。
>>彼得·罗宾逊：科学的美丽与曼哈顿计划之类的东西是无法分割的。核科学，我们可以产生丰富的能源，但它也可以产生难以形容的恐怖武器。人工智能也有自己的“鬼怪”，无论是杀人机器人、大规模监控，还是仅仅是将我们这八十亿人全部从工作中自动化。现在，我们可以为每一个“鬼怪”专门安排一整期节目，也许我们应该这样做。但现在您已经吓到我了，即使在安慰我的过程中，事实上，您如此急于安慰我，让我觉得我可能真的应该比现在更害怕。让我直接说，这里是杀人机器人。让我引用已故的亨利·基辛格的话，我只是把这些话提出来，让您，如果您能，请让我平静下来。亨利·基辛格，如果您想象中国和美国之间发生战争，您就有人工智能武器。没有人对这些东西进行大规模测试，没有人能确切地知道当双方的人工智能战斗机互动时会发生什么。所以，我正在引用亨利·基辛格的话，他毕竟不是傻瓜。所以您就处于一个可能完全毁灭的世界里，飞飞。
>>李飞飞：所以，正如我所说，我并不否认这些工具有多强大。我的意思是，在人工智能出现之前，人类已经创造了非常具有破坏性的工具和技术。可能非常具有破坏性，我们谈论曼哈顿计划，对吧？但这并不意味着我们应该集体决定以这种破坏性的方式使用这个工具。
>>约翰·埃切门迪：好的，彼得，在你听说人工智能之前就回想一下。
>>彼得·罗宾逊：实际上，是多久以前？五年前？
>>约翰·埃切门迪：不，不。
>>彼得·罗宾逊：这一切发生得太快了。
>>约翰·埃切门迪：就在五年前，或者十年前。
>>彼得·罗宾逊：是的。
>>约翰·埃切门迪：还记得那起悲惨事件吗？一架伊朗客机在波斯湾上空被爱国者系统击落。
>>彼得·罗宾逊：是的。我们的一艘船。
>>约翰·埃切门迪：我们的一艘船，一个自动化系统，因为它必须自动化才能快速反应。
>>彼得·罗宾逊：人类反应不过来。
>>约翰·埃切门迪：是的，正是如此，而且在这种情况下，原因现在可以很好地理解了，因为您了解了事件。但它做了一些可怕的事情。这与您用人工智能可以做的事情在性质上没有区别。所以我们，作为这些设备的创造者或人工智能的使用者，必须警惕我们用它们做什么。当我们决定将它们用于某个特定用途时，并且可能有用途，军方有很多好的用途。我们必须警惕它们是否按照我们的意愿行事，而不是做我们不希望它们做的事情。
>>彼得·罗宾逊：所以您正在宣布一个宏大的主题，这个主题是，李飞飞博士发明的技术使得您奉献一生的哲学学科变得更加重要，而不是不重要。
>>李飞飞：是的，这就是为什么我们……[交叉谈话]
>>彼得·罗宾逊：使人类变得更重要，而不是不重要。我这样说对吗？我是在信口开河吗？还是……
>>约翰·埃切门迪：让我讲个故事，所以飞飞说，她以前住在我的隔壁，或者离我隔壁不远。我当时在和她说话。我当时还是教务长。她对我说，你和约翰·亨尼西创办了许多将技术引入大学其他部门的研究所。我们需要创办一个将哲学、伦理学和社会科学引入人工智能的研究所，因为人工智能太危险了，不能只留给计算机科学家。计算机科学本身没有问题。
>>彼得·罗宾逊：有很多关于说服他担任教务长时有多难的故事。您成功了，再提一个“鬼怪”简要地。
>>李飞飞：是的。
>>彼得·罗宾逊：然后我们将回到您刚才给我们的那个主题，然后我们将回到斯坦福研究所。我再次引用您的话，这是来自您的自传，“将我们所有八十亿人全部从工作中自动化的前景。”您用了这个词吗？嗯，事实证明，我用我的人工智能搜索算法，搜索设备，只用了几秒钟就找到了高盛去年的一项研究，预测在美国和欧洲，大约三分之二的工作可以被自动化，至少在一定程度上。那么，为什么我们不都感到恐惧呢？亨利·基辛格，世界末日。好吧，也许有点夸张了，但我的工作。
>>李飞飞：所以，我认为工作变化是真实的。每一次人类文明面临的技术进步都会带来工作变化，这是真实的，我们不能掉以轻心。我们还必须小心“工作”这个词。工作往往描述一个整体的职业，或者一个人将其收入……
>>彼得·罗宾逊：作为一种身份。
>>李飞飞：身份与之联系在一起，但同时，在几乎所有工作中，都有很多任务。很难想象一份工作只有一项单一的任务，对吧？比如当教授、学者、医生、厨师。所有这些工作都有多项任务。我们看到的是技术正在改变这些任务的完成方式。而且确实如此，随着这些任务的改变，其中一些任务，一部分可以被自动化，它开始改变工作的性质。最终它将影响工作。所以这将是一个渐进的过程，我们必须密切关注这一点。这就是为什么成立以人为本的人工智能研究所，这些问题非常深刻。它们本质上是多学科的。计算机科学家本身无法完成所有经济分析，但经济学家如果不了解这些计算机科学项目，他们本身也无法理解工作的转变。
>>彼得·罗宾逊：好的，约翰，我可以告诉你。请说。
>>约翰·埃切门迪：但让我指出一点。高盛的研究说，有多少比例的工作将被自动化，或者至少部分被自动化。
>>彼得·罗宾逊：是的。
>>约翰·埃切门迪：现在，他们说的是，构成特定工作的一定数量的任务。
>>彼得·罗宾逊：归档，研究。
>>约翰·埃切门迪：正是如此，所以，彼得，你说我只用了几秒钟就去电脑上找到了那篇文章。猜猜怎么着？这是您本来需要花费很多时间的一项任务。所以您工作的一部分已经被自动化了。
>>彼得·罗宾逊：好的，现在我给你讲个故事。
>>李飞飞：但也得到了赋权。
>>约翰·埃切门迪：赋权。
>>彼得·罗宾逊：赋权，好的，没问题。谢谢，谢谢，您让我感觉很好。现在，我给你讲个故事。我们三个人都住在加州，这意味着我们三个人可能在好莱坞都有朋友。我有一个朋友参与了编剧罢工。好的，问题是，要运行一个情景喜剧，你过去需要一个编剧室。编剧室会雇佣七到十二个人，在《辛普森一家》这部动画片中，他们有两个编剧室，雇佣了20个人。这些人是你最不可能想象计算机能取代的，因为他们受过良好教育，机智，并且言辞敏捷。你认为计算机只是在运行计算，也许是电子表格，也许有一天它们可以取代会计师。但编剧，好莱坞编剧，结果是，我的朋友通过举例说明了这一点，通过人工智能，它有一个提示，为《周六夜现场》起草一个关于乔·拜登和唐纳德·特朗普玩啤酒乒乓球的短剧。15秒。现在，专业人士可以把它打磨得更好，或者做得更好，但它非常有趣，而且是即时的。你知道这意味着什么吗？这意味着你不需要七个编剧中的四到五个。你需要一个高级编剧来分配人工智能。你可能还需要一两个其他编剧来打磨或重写它。它已经来了。当人工智能开始消除“能言善辩者”的工作时，它就会得到负面评价。而这已经开始了。告诉我我错了。
>>约翰·埃切门迪：你知道吗，在农业革命之前，美国大约80%到90%的人都在农场工作。
>>彼得·罗宾逊：是的。
>>约翰·埃切门迪：现在，已经下降到2%或3%。同样的农场，同样的土地，生产力却大大提高。现在，你会说你现在的生活，或者任何人的生活，比1890年代每个人都在农场工作时要差吗？不，所以，是的，你是对的。它会改变工作。它会使一些工作更容易。它将使我们能够做以前做不到的事情。是的，它将使更少的人能够做他们以前做的事情。因此，从事这项工作的人会更少。这是真的。
>>彼得·罗宾逊：这是真的。
>>李飞飞：我还想指出两点。一是工作一直在变化，而这种变化总是痛苦的。作为计算机科学家、哲学家，以及世界公民，我们应该对此表示同情。没有人说我们应该忽视这种痛苦的变化。所以这就是为什么我们正在研究这个问题，我们正在与政策制定者沟通。我们正在教育公众。与此同时，我认为我们应该更多地相信人类在人工智能面前的创造力。我开始举一个甚至不是人工智能的例子。想想先进的，说到好莱坞图形技术，CGI等等，对吧？
>>彼得·罗宾逊：视频游戏行业或者……
>>李飞飞：不，只是动画等等，对吧？我们最喜欢的许多动画系列，包括我们孩子的，都是吉卜力工作室制作的。例如《幽灵公主》、《龙猫》、《千与千寻》，这些都是在计算机图形技术远超手绘动画的时期制作的。然而，这些电影的美丽、创造力、情感和独特性继续激励着人类，并娱乐着人类。所以我认为我们仍然应该拥有这种自豪感，并给予人类创造力应有的肯定，不要忘记我们的创造力、情感和智力是独特的，它们不会被技术所取代。
>>彼得·罗宾逊：谢谢，我感觉稍微安心了一些。我仍然担心我的工作，但我感觉稍微安心了一些。但您刚才提到了政府，这让我们谈论如何监管人工智能。让我给您两个引述，我将开始，我将引用您俩的话。但我将从德克萨斯州参议员泰德·克鲁兹和前参议员菲尔·格雷厄姆（也来自德克萨斯州）最近在《华尔街日报》上发表的一篇文章开始。克林顿政府对监管早期互联网采取了放任自流的态度。这样做，它释放了非凡的经济增长和繁荣。相比之下，拜登政府正通过激进的监管阻碍人工智能的创新。这是他们，这是您，也是最近在《华尔街日报》上的一篇文章，约翰·埃切门迪和李飞飞。拜登总统签署了一项关于人工智能的行政命令，这表明他的政府致力于驾驭和管理这项技术。拜登总统已经奠定了基础，现在是国会采取行动的时候了。克鲁兹和格雷厄姆，减少监管，埃切门迪和李，拜登政府做得很好，现在国会需要给我们更多。
>>约翰·埃切门迪：不。
>>彼得·罗宾逊：好的，约翰，所以。
>>约翰·埃切门迪：不，我不同意。我认为监管任何技术都非常困难。你必须小心，不要太早监管，也不要太晚监管。我再举一个例子，你谈到了互联网，这是真的。政府确实相当放任不管，这很好，结果也很好。
>>彼得·罗宾逊：结果很好。
>>约翰·埃切门迪：但现在我们也想想社交媒体，它并没有完全按照我们想要的方式发展。我们最初相信我们将进入一个黄金时代，在这个时代……
>>彼得·罗宾逊：友谊，喜剧。
>>约翰·埃切门迪：嗯，每个人都会有发言权，我们可以和谐相处，等等。但事实并非如此。
>>彼得·罗宾逊：乔纳森·海特有一本新书，讲述了社交媒体对年轻人造成的特定病态，这不是争论。这是一个论点，但它基于大量数据。
>>约翰·埃切门迪：是的，[咳嗽]所以在我看来，我支持非常温和和知情的监管，试图设置一些缓冲。我不知道该用什么比喻。
>>李飞飞：护栏。
>>约翰·埃切门迪：为技术设置护栏。我不主张扼杀创新的严厉的、自上而下的监管。
>>彼得·罗宾逊：好的，这是另一个，让我来谈谈这个，我确信您也能适应这些问题的答案。
>>李飞飞：好的。
>>彼得·罗宾逊：我继续引用您在《华尔街日报》上的文章。大型科技公司不能在这里自行管理，硅谷，这些是挑衅的话。学术机构应在提供可信赖的评估和基准测试方面发挥主导作用。我们鼓励投资人力资本，为人工智能领域带来更多人才，与学术界和政府合作。好的，现在我必须说这个，所以请原谅我，我的斯坦福同事们。除此之外，为什么学术机构应该被信任？一半的美国人已经对学术机构失去了信心，DEI，整个觉醒议程，校园里的反犹主义。我们有一项盖洛普最近的盖洛普民意调查显示，今年对高等教育表示非常或相当有信心的美国人比例仅为36%。这比八年前的57%有所下降，您要求我们在我们认为有充分理由反对的时候信任您。信任您？好的，飞飞。
>>李飞飞：我先回答前半部分，我相信约翰有很多话要说。我确实想确保，尤其是作为HAI的联合所长。当我们谈论政府与技术的关系时，我们倾向于使用“监管”这个词。我真的想深入探讨一下，我想用“政策”这个词。政策和监管是相关的，但并不相同。当约翰和我写那篇《华尔街日报》的观点文章时，我们确实专注于一项政策，那就是为公共部门、人工智能提供资源，为学术界提供资源。因为我们相信人工智能是一项如此强大的技术，科学、学术界和公共部门仍然可以在创造公共利益方面发挥作用。公共利益是好奇驱动的知识探索。我们治疗癌症的方法，我们地球生物多样性的地图，我们发现的以前未见过的纳米材料，我们在戏剧、写作、音乐中表达的不同方式。这些都是公共利益，当我们与政府合作制定政策时，我们关注的就是这些。所以我真的想确保，关于监管，我们都有个人意见，但政策中不仅仅是监管。
>>彼得·罗宾逊：让我最后一次尝试您的理论，尽管我问的问题，我相信您此刻很想把我拖出去打一顿，约翰，但这是严肃的。您有斯坦福大学以人为本人工智能研究所，这是因为您真的认为这很重要。但我们生活在一个民主社会，您必须说服很多人。所以让我再试一次，然后把话筒还给您。约翰，您在《华尔街日报》上的文章，我再说一遍，我们鼓励投资人力资本，为人工智能领域带来更多人才。与学术界和政府合作，这意味着金钱，投资意味着金钱，也意味着纳税人的钱。克鲁兹和格雷厄姆在《华尔街日报》上说：拜登政府的人工智能监管政策与特殊利益的寻租行为有关。斯坦福大学的教职员工收入远高于全国平均水平，我们坐落在一所拥有数百亿美元捐赠的大学里。约翰，为什么您在《华尔街日报》上的文章不是参议员克鲁兹和格雷厄姆所说的寻租行为，您在开玩笑吗？
>>约翰·埃切门迪：彼得，我们再举一个例子。这个国家最伟大的政策决定之一是，万尼瓦尔·布什，当时是杜鲁门总统的顾问，说服……
>>彼得·罗宾逊：据我所知，他一直任职到艾森豪威尔时期。所以重要的是要知道他是跨党派的。
>>约翰·埃切门迪：没错，这根本不是一个党派问题，但说服杜鲁门成立了国家科学基金会，用于资助……国家科学基金会。是的，用于资助大学的好奇心驱动的研究、前沿研究，而不是说公司没有作用，也不是说政府没有作用。它们都有作用，但作用不同。公司在开发方面往往更好，在生产产品和利用可以在一到两年内成为有用产品的方面更好。大学里的科学家没有这种限制。他们不必担心什么时候会商业化。
>>彼得·罗宾逊：商业化，是的。
>>约翰·埃切门迪：这我认为对这个国家的繁荣产生了无法估量的影响，对我们是所有技术领域的领导者这一事实产生了无法估量的影响。我们是所有技术领域的领导者并非偶然，我们以前不是。
>>彼得·罗宾逊：这是否影响您的论点，如果我补充一句，它也使我们能够赢得冷战，或者为赢得冷战做出了贡献，那些来自大学的武器系统？好吧。
>>约翰·埃切门迪：嗯，不，绝对是，还有里根总统……
>>彼得·罗宾逊：最终它成为了一种防御性民主，某种程度上，你可以从各种角度来看，它对纳税人的钱来说是一个好的投资回报。
>>约翰·埃切门迪：所以我们不是在争论提高教职员工的薪水或其他之类的东西。但我们认为，尤其是在人工智能领域，已经到了大学的科学家们因为计算成本、数据可及性而无法再参与游戏的地步。这就是为什么您看到所有这些发展都来自公司。那些是伟大的发展，非常棒。但我们也需要有人在探索这些技术，而不关注产品，不受利润动机的驱动。然后最终，希望他们会取得发现，他们会做出发现，然后这些发现将可以商业化。
>>彼得·罗宾逊：好的，我注意到您在书中，飞飞，我非常惊讶您说，我想大约是十年前，2015年，您注意到您开始失去同事到私营部门。
>>李飞飞：是的。
>>彼得·罗宾逊：大概是因为他们在这里硅谷的薪酬非常丰厚。但也有一个观点是，要在人工智能方面取得进展，你需要巨大的计算能力，而组装所有这些0和1是非常昂贵的。
>>李飞飞：正是如此。
>>彼得·罗宾逊：ChatGPT，它的母公司是什么？
>>李飞飞：OpenAI。
>>彼得·罗宾逊：OpenAI的启动资金是10亿美元。初始的亲友资本是10亿美元，即使在这里也是一笔巨款。好的，这就是您提出的观点。
>>李飞飞：是的。
>>彼得·罗宾逊：好的，我觉得这里的每一个话题都值得一整天的研讨会，实际上，我认为它们都值得。
>>约翰·埃切门迪：顺便说一句，这种情况以前也发生过，科学变得如此昂贵，以至于大学水平的研究和研究人员再也负担不起进行科学研究了。这在高能物理学中发生过。高能物理学曾经意味着你办公室里有一个范德格拉夫发电机[笑声]，那就是你的加速器。
>>彼得·罗宾逊：或者你可以做你需要做的事情。
>>约翰·埃切门迪：然后能量水平越来越高。发生了什么？嗯，联邦政府介入了，说，我们要建一个加速器，斯坦福……
>>彼得·罗宾逊：斯坦福直线加速器。
>>约翰·埃切门迪：正是如此。
>>彼得·罗宾逊：桑迪亚实验室，劳伦斯利弗莫尔实验室，所有这些，至少部分是联邦机构的专家。
>>李飞飞：CERN。
>>彼得·罗宾逊：CERN，那是欧洲的，对吧？
>>约翰·埃切门迪：嗯，费米实验室，第一个加速器是SLAC，斯坦福直线加速器中心，然后是费米实验室等等。现在，CERN实际上已经晚了，它是欧洲的一个联合体。但问题是，没有政府的帮助，我们就无法继续科学研究，在政府的……[听不清]
>>李飞飞：嗯，还有另一个，除了高能物理学，还有生物学，对吧？特别是基因测序和高通量基因组学，生物技术也在发生变化。现在您看到新一批生物学实验室，它们得到了政府和慈善事业的大力资助。这补充了传统的大学模式。所以我们现在在这里谈论人工智能和计算机科学。
>>彼得·罗宾逊：好的，我认为我们必须再做一期节目。奇点，好，这很好。令人安心，你们俩都在翻白眼。太棒了，我感觉好多了，好。雷·库兹韦尔，您确切地知道这意味着什么。雷·库兹韦尔在2005年写了一本书，这本书引起了所有人的注意，仍然让许多人吓得半死，包括我。这本书的名字是《奇点临近》。库兹韦尔预测奇点将涉及，我引用他的话，“技术与人类智能的融合。”他不是说技术将越来越接近模仿人类智能，而是说它们将融合。我将奇点设定为2045年，代表着人类能力的一次深刻而颠覆性的转变。好的，这是第一段引述。这是第二段，来自斯坦福大学哲学系人工智能课程的描述，一门去年秋季开设的本科生研讨课，据我所知，由约翰·埃切门迪教授。这是描述中的内容。“一个人工智能系统是否真的有可能获得真正的智能、思想、意识、情感？那意味着什么？”约翰，有可能吗？那意味着什么？
>>约翰·埃切门迪：我认为答案实际上是否定的。
>>彼得·罗宾逊：谢天谢地，您让我等了一会儿。
>>约翰·埃切门迪：雷·库兹韦尔和其他人编造的幻想，我想可以这样说。源于对人类真正如何运作的缺乏理解，并且不理解生物学对我们运作方式、我们的动机、我们如何产生欲望、我们如何获得目标、我们如何成为人类、成为个体至关重要。而人工智能到目前为止所做的，人工智能只是捕捉了您可能认为是我们信息处理的一部分。所以我们的一部分工作是信息处理。
>>彼得·罗宾逊：所以它有了右额叶，但没有左额叶。
>>约翰·埃切门迪：是的，这是一个过度简化，但确实如此。
>>彼得·罗宾逊：想象一下电视上，好的。
>>约翰·埃切门迪：所以，首先，我认为2045年的日期是疯狂的。那不会发生。其次，我甚至不确定我们是否会达到那个程度。
>>李飞飞：等等，我真不敢相信我这么说。为他辩护一下，我不认为他说2045年是机器成为像人类一样的有意识的生命的那一天。它更多的是技术力量的一个转折点，正在颠覆社会。
>>彼得·罗宾逊：他说得对，我们已经到了。
>>李飞飞：正是如此，我就是这个意思。
>>约翰·埃切门迪：我认为您太宽容了。[笑声][笑声]我认为他所说的奇点是指我们创造一个能够自我改进的人工智能系统，然后进入一个循环，一个递归循环，使其成为超级智能的那一天。
>>彼得·罗宾逊：是的。
>>约翰·埃切门迪：我否认这一点。
>>彼得·罗宾逊：他在这里玩2001太空漫游的游戏。这是另一个问题，但相关的问题。在某些方面，我认为这是一个更严肃的问题。尽管那个也很严肃。这是已故的亨利·基辛格再次，冷静。我们生活在一个没有哲学的世界里。没有占主导地位的哲学观点。所以技术人员可以为所欲为，他们可以开发改变世界的东西，而没有人说，我们必须将它整合到某个东西中。好吧，我再说得粗俗一点，但一个世纪前在中国，我们仍然有儒家思想占主导地位，至少在受过教育的阶层中。根据我对中国历史非常浅薄的了解。在这个国家，直到前天，我们仍然不带讽刺地谈论犹太-基督教传统，它包含关于道德的某些概念，关于人类意味着什么。它假定对上帝的信仰，但事实证明，即使你不相信，你也能走得很远。好的，基辛格现在说这一切都崩溃了。没有占主导地位的哲学。这是一个严重的问题，不是吗？没有东西可以整合人工智能。您接受他的观点。这取决于你们俩……
>>李飞飞：您是哲学家。
>>约翰·埃切门迪：您是佛教徒。
>>李飞飞：您是哲学家。
>>李飞飞：我认为这首先是一个伟大的，感谢您的引述。我没有读过亨利·基辛格的这句话。我的意思是，这就是为什么我们创办了以人为本的人工智能研究所。这些是我们这一代人需要弄清楚的基本问题。
>>彼得·罗宾逊：所以这不仅仅是一个问题。这是问题所在。
>>李飞飞：这是基本问题之一。它也说明了为什么大学至今仍然相关。
>>约翰·埃切门迪：而且彼得，亨利·基辛格在那段引述中说的一件事是，没有占主导地位的哲学。
>>彼得·罗宾逊：是的。
>>约翰·埃切门迪：没有像犹太-基督教传统那样占主导地位的哲学，而它曾经是占主导地位的。
>>彼得·罗宾逊：例如，12世纪在巴黎，巴黎大学，这是一个不同的对话。
>>约翰·埃切门迪：为了在创建人工智能系统时考虑价值观，您不需要占主导地位的传统。您需要的是，例如，大多数伦理传统中的黄金法则。
>>彼得·罗宾逊：好的，所以我们仍然可以和睦相处。即使在涉及深刻的价值观问题时，我们仍然有足够的共同点。
>>约翰·埃切门迪：我相信如此。
>>彼得·罗宾逊：我又松了一口气。好的，让我们谈谈。我们在这里谈论了很多事情，但就是这样。让我们谈论很多事情，正如《爱丽丝梦游仙境》中所写的那样，斯坦福研究所。斯坦福大学以人为本人工智能研究所，你们是联合所长。我只有两个问题，请随意回答。您能给我一些关于您现在正在做什么的感受，以及在某种程度上更重要但更难以捉摸的，您希望在五年内达到什么水平？这个领域的一切都在发展。我的冲动是说十年，因为这是一个圆满的数字。在这个领域，飞飞，十年太远了。
>>李飞飞：我认为在过去五年里，斯坦福HAI所做的事情，以及许多其他事情。
>>彼得·罗宾逊：我只想确保每个人都跟着您。H-A-I，斯坦福HAI，是它在这个校园里的称呼。
>>李飞飞：是的。
>>彼得·罗宾逊：好的，请继续。
>>李飞飞：是的，我们为斯坦福以及所有人设定了一个标准，即这是一门跨学科研究。人工智能，人工智能，它本身就是一门科学。它是一个强大的工具。发生的情况是，您可以欢迎许多学科围绕人工智能这个主题进行交叉授粉，或者利用人工智能的工具来推动其他科学的发展，或者探索其他新的想法。我认为斯坦福HAI为斯坦福带来的就是这种将它打造成一门跨学科和多学科领域的概念。当然，也希望为世界带来，因为正如您所说，计算机科学是一个相对较新的领域。已故的约翰·麦卡锡在50年代末创造了这个词。现在它发展得如此之快，每个人都觉得它只是一个正在走向未来的计算机科学的细分领域。但我们说，不，放眼更广阔的视野，有很多学科可以融入其中。
>>彼得·罗宾逊：谁在与斯坦福大学以人为本设计研究所竞争？哈佛大学、牛津大学或北京大学有这样的研究所吗？我只是不知道那些……
>>约翰·埃切门迪：所以，在我们启动的五年里，其他大学也创建了许多类似的研究所。我们不认为这是一种竞争。
>>彼得·罗宾逊：如果您的这些论点是有效的，那么我们就需要它们。
>>李飞飞：是的，我们认为这是一个运动。
>>约翰·埃切门迪：我们需要它们。我们想做的一部分，我认为我们也在一定程度上成功地做到了，就是传达这种愿景，即在开发这项技术时，将人与人类价值观置于中心的重要性。当我们应用这项技术时。我们想将这一点传达给世界。我们希望其他中心也采取类似的立场。重要的是，飞飞没有提到的一件事是我们试图做的事情是教育。例如，教育立法者，让他们了解这项技术是什么，它能做什么，不能做什么。
>>彼得·罗宾逊：所以您要去华盛顿，或者这个机构非常慷慨的受托人正在邀请国会工作人员，你们俩都在？
>>约翰·埃切门迪：两者都有。
>>彼得·罗宾逊：两者都在发生。
>>李飞飞：是的。
>>彼得·罗宾逊：好的，那么飞飞，首先，您是在斯坦福HAI教授那门课，还是那门课在哲学系，或者交叉列表？我只是想了解一下现在实际发生的事情。
>>约翰·埃切门迪：是的，我实际上是在HAI大楼里教授的。
>>彼得·罗宾逊：[笑声]好的，所以它在HAI。
>>约翰·埃切门迪：不，这是一门哲学课。
>>李飞飞：它被列为哲学课，但在HAI教授。
>>彼得·罗宾逊：他是前教务长，他是一位跨学科的奇才。
>>李飞飞：是的。
>>彼得·罗宾逊：您在人工智能辅助医疗方面的工作。
>>李飞飞：是的。
>>彼得·罗宾逊：那是在HAI进行的，还是在大学医学院？
>>李飞飞：嗯，这就是它的美妙之处，它在HAI、计算机科学系、医学院进行。它甚至有来自法学院、政治学系的合作者。所以这就是它的美妙之处，它具有深刻的跨学科性。
>>彼得·罗宾逊：如果我是教务长，我会说这听起来像要失控了。约翰，这听起来是不是有点太跨学科了？我们不需要在这里定义一下吗？
>>约翰·埃切门迪：让我说点什么，史蒂夫·丹宁，他多年来一直是我们的董事会主席，并且一直是大学的长期支持者。事实上，我们是斯坦福HAI的丹宁联合所长。史蒂夫五、六年前就说过，人工智能将影响这所大学的每一个系。我们需要有一个研究所来确保这一切以正确的方式发生，确保这种影响不会失控。
>>彼得·罗宾逊：好的，您希望五年后达到什么水平？您希望在五年后教授什么课程？有什么特别的项目？
>>李飞飞：我想教授一门名为“人工智能最伟大的发现”的本科生研讨课。
>>彼得·罗宾逊：好的，最后一个问题，我还有一个最后一个问题，但这并不意味着你们每个人都必须只回答最后一个问题，因为这是一个开放式的问题。我有一个理论，但我只是在这个校园里闲逛。你们俩都深深地扎根于此，并且你们经营了这个地方17年。所以你们会比我了解更多，包括，你们可能知道我的理论是错的，但我还是想说出来，尽管它可能很谦虚。米尔顿·弗里德曼，已故的米尔顿·弗里德曼，当我第一次来到这里时，他是胡佛研究所的同事。事实上，奇迹般地，他的办公室就在我的走廊上，我偶尔会去拜访他。他告诉我，他之所以选择经济学，是因为他在大萧条时期长大，当时国家最紧迫的问题是如何满足我们的物质需求？有数百万人失业，真的有人难以养家糊口。好吧，我想我这一代人，大致和约翰这一代人一样。飞飞，您来得晚得多。
>>李飞飞：谢谢[笑声]
>>彼得·罗宾逊：而我们，我不知道你们在宿舍里聊了些什么，但当我上大学时，我们会有关于冷战的闲聊。冷战对我们这一代人来说是真实的。那是最紧迫的问题，我们如何保卫我们的生活方式，我们如何保卫我们的基本原则？好了，这是我的理论。对于现在的学生来说，他们在一片难以想象的繁荣时期长大，物质需求不再是问题。他们也在相对和平时期长大。冷战结束了，你可以有不同的看法。苏联在1991年宣布解体，最晚在那一刻冷战就结束了。今天的孩子们最紧迫的问题是意义，这一切是为了什么，我们为什么在这里？做人意味着什么？我们和机器的区别是什么？如果我的小理论是正确的，那么奇迹般地，您生产的这项技术奇迹将带来人文主义的新繁荣。约翰，您同意吗？
>>约翰·埃切门迪：我同意吗？我会同意……[笑声]如果它会发生的话。
>>彼得·罗宾逊：我刚才说得有点含糊吗？
>>约翰·埃切门迪：不，我认为那将是极好的，这是值得……
希望。现在我要扮演一个愤世嫉俗者。到目前为止，我看到学生们越来越专注于，斯坦福大学的学生们越来越专注于技术。>> 彼得·罗宾逊：计算机科学仍然是这所大学最大的专业。>> 李飞飞：是的。>> 约翰·埃特曼迪：是的，我们尝试过，在HAI，我们实际上启动了一个名为Embedded EthiCS的项目，其中ethics末尾的CS是大写的，所以它是Computer Science。>> 彼得·罗宾逊：这会引起孩子们的注意[笑声]。>> 约翰·埃特曼迪：不，我们不必引起他们的注意。我们所做的是，几乎所有的计算机科学课程，入门课程，都内置了伦理学成分。所以这周你有一个问题集，里面会有很多非常困难的数学问题，计算机科学问题，然后会有一个非常困难的伦理挑战。它会说，这是情况，你正在编程一个人工智能系统，这是困境。现在讨论一下，对吧，你打算怎么做？所以我们正在努力，我的意思是，这就是飞飞想要的。我们正在努力——>> 彼得·罗宾逊：这是新的吗？>> 约翰·埃特曼迪：伦理学，在，是的，过去几年。>> 彼得·罗宾逊：好的。>> 约翰·埃特曼迪：两三年，我们正试图将对伦理学的关注引入计算机科学课程。部分原因是学生倾向于选择阻力最小的道路。>> 彼得·罗宾逊：好吧，他们也，让我们再说一遍，我一直在粗俗地说，但有人必须说出来，他们跟着钱走。所以，只要我们周围的这个山谷像现在这样丰厚地回报斯坦福大学的优秀年轻学生，让他们获得CS学位，而且确实非常丰厚，他们就会去读CS学位，对吧？>> 李飞飞：好吧，我觉得这有点粗俗。[笑声] 我认为金钱是我们这个时代进步的一个替代衡量标准。技术现在确实是我们文明变革的最大驱动力之一。当你谈论这一代学生谈论什么时？我只是在想，400年前，当科学革命发生时，宿舍里有什么？当然，都是年轻人[笑声]在剑桥或牛津，但那也一定是一个非常令人兴奋和有趣的时代。当然，当时没有互联网和社交媒体来推动知识的传播。但想象一下，如果当时有，发现和我们对物理世界的理解就会蓬勃发展。现在，我们正处于这样一个伟大的技术蓬勃发展的时代。这是一场数字革命。所以，宿舍里的谈话，我认为这是我们作为人类的意义以及我们与我们正在构建的技术的关系的融合。所以，这是一个——>> 彼得·罗宾逊：所以，如果技术教授得当，它可以包含或嵌入哲学文学。>> 李飞飞：当然，可以激发，可以激发。而且还要想想。科学革命之后是一个伟大的变革时期，政治、社会、经济变革，对吧？我们正在看到这一点。>> 彼得·罗宾逊：一切都朝着更好的方向发展，没错。>> 李飞飞：我并不是说这一定是朝着更好的方向发展，但我们甚至还没有达到数字革命的顶峰，但我们已经看到了政治、社会经济的变化。所以，这又回到了斯坦福HAI，我们五年前成立它的时候。我们相信所有这些都在发生，这是一个应该进行这些对话、想法、辩论的研究所，应该开展教育项目。这也是我们这样做的原因之一。>> 约翰·埃特曼迪：我告诉你。是的，正如你指出的，我刚刚完成了一门名为“人工智能哲学”的课程。>> 彼得·罗宾逊：我太晚知道了，我本来想申请旁听你的课，约翰。>> 约翰·埃特曼迪：不，你太老了。[笑声] 大约一半的学生是计算机科学专业的学生，或者计划成为计算机科学专业的学生。另外四分之一计划成为符号系统专业的学生，这是一个与计算机科学相关的专业。然后有一些其他专业的学生。这些人，每个人，在课程结束时，我不是在吹嘘，每个人都说，这是他们上过的最好的课程。他们为什么这么说？它激发了他们，让他们思考。它给了他们一个思考的框架，一个尝试解决这些问题、你今天提出的担忧的框架，我们该如何思考它们？我们该如何不因为看到一些科幻电影而惊慌失措，或者因为读了雷·库兹韦尔[笑声]而惊慌失措。>> 彼得·罗宾逊：也许我没上这门课也挺好的。我敢肯定，约翰最多会给我一个C减。>> 约翰·埃特曼迪：分数膨胀。[笑声] 所以很明显，这些孩子，学生们，正在寻找一个机会来思考这些事情，并理解如何解决伦理问题，如何解决棘手的哲学问题。这就是他们从这门课中学到的。>> 李飞飞：这是在这个时代寻找意义的一种方式。>> 彼得·罗宾逊：是的，确实如此。李飞飞博士和约翰·埃特曼迪博士，都来自斯坦福大学以人为本人工智能研究所，谢谢你们。谢谢你，彼得。>> 约翰·埃特曼迪：谢谢你，彼得。>> 彼得·罗宾逊：感谢您收看《不寻常的知识》和胡佛研究所及福克斯国家频道，我是彼得·罗宾逊。[音乐]