Transcription
好的，各位，早上好，欢迎来到 2019 年芝加哥神经科学年会。我是 Dianne Lipscomb，非常荣幸能担任神经科学学会的会长，开启我们 60 周年庆典的序幕。是的，掌声！截至今天上午，我们今年第 49 届年会的注册人数已达 26,815 人。
我将首先衷心感谢学会的许多成员为制定今年的会议计划所付出的努力。首先感谢那些日复一日、幕后辛勤工作的员工，特别感谢会议服务高级总监 Paula Cora 和她出色的团队。谢谢大家！我还要感谢在项目委员会任职的 SFM 志愿者。这是一个由科学家为科学家组成的委员会，他们为本周的会议制定了一个极其出色的计划。因此，感谢他们的辛勤工作，并特别表彰我们杰出的项目主席 Patricia Janicki 和她的联合主席 Sheena Jocelyn 和 Qingcheng Shen。谢谢你们！谢谢 Trish。最后但同样重要的是，感谢各位演讲嘉宾、获奖者，当然，也感谢在座的各位，感谢你们来到这里参加本周这场精彩绝伦的会议。很高兴你们能来，我希望你们度过愉快的一周。
当然，这一切都归功于你们，这是世界上最激动人心的神经科学年会。之所以成为世界上最激动人心的会议，也是因为你们所有人的到来。
所以，我不确定你们在进来的时候是否看到了大厅外那个巨大的立方体。它就在外面，就在你们今天进来听讲座的地方。这个叫做“神经空间”。我听说我没去那里，因为排队进去的人非常多。这是一个由神经科学学会与 Arctic House 合作创作的艺术装置，负责这个装置的艺术家是 Rhetoric Anandall。你们进去后会看到，这是由 John Morrison 提供的技术数据库的真正融合，其中包括一些 Cole 的原始图像以及人类神经元图像。他们所做的就是以一种美妙的方式呈现他们想象中人脑内部的样子。这个装置还利用了人工智能方法，我知道 Rhetoric 是今天演讲嘉宾的忠实粉丝。这个装置在 2019 年神经科学年会上首次亮相，但 2020 年神经科学年会还将有更多内容，敬请期待，不要错过。你们进去后不用担心，会从另一头出来。实际上它非常有趣，所以请充分利用它，它将在这里展示整整一周。
我还要强调的当然是，要真正认识到，科学神经科学当然是世界上最大的神经科学家组织和社区之一。但没有一个国家在创新和知识方面拥有垄断地位。当然，正如我们所知，知识建立在重要思想的基础上，而这些思想与国家边界无关。因此，我想向远道而来、代表 74 多个国家的同事们表示热烈欢迎。感谢你们的到来，是你们成就了学会的今天。
尽管我们坚信学会作为一个全球社区会更加丰富，但我们的一些成员被拒绝了旅行签证，无法参加会议。我们坚信思想交流的重要性，因此，这些科学家将通过神经科学学会的“科学无国界”项目展示他们的工作。虽然这不能替代亲临会议现场，但该项目为那些本无机会发声的同事提供了平台。有 10 位演讲者使用了这个选项，他们的演讲都贴有“科学无国界”的贴纸。
学会当然支持科学对话，认为这是推进知识和催生新思想的最可靠途径。对我们科学家来说，显而易见的是，一个人的外表、言谈、口音以及他们选择爱谁，都丝毫不能说明一个人对神经科学的潜在贡献。是的，所以在这个世界上有如此多的需求，而我们还有如此多的未知需要理解，让我们记住要给社区的所有成员发声。提问，深入研究科学前提，挖掘数据，寻求澄清，并重视科学对话，因为这些是成为一名科学家的核心。但要这样做，要本着相互尊重的立场。SFN 是一个不容忍任何形式骚扰的场所和社区，我们有责任共同促进共享和共同价值观的环境。
总统特别讲座，你们将听到改变世界的发现和技术发展。你们中的一些人将在未来几年登上这个舞台，你们中的许多人曾站在我今天站着的地方，在过去的几年里。你们中的许多人本周将发表研究成果，这些成果将为一项创新、一项发现、一项设备、一项方法做出贡献，从而对相关领域产生影响。这就是今天作为一名神经科学研究者的激动人心的想法和令人兴奋的事情。
那么，现在是你们一直期待的——今天，神经科学与社会的对话。你们有机会听到一位真正改变了世界的科学家的演讲。这项工具得益于 Elsevier 的慷慨支持，而对话系列旨在探索神经科学与全球社区交叉的各种方式。Elsevier 已支持该对话系列近 20 年，我知道今天这里有 Elsevier 的代表，所以感谢你们长期以来对这一独特而鼓舞人心的活动的支持。
在讲座期间，工作人员将分发便签卡。请在便签卡上写下您想问我们对话嘉宾的问题，然后将便签卡交给学会工作人员，他们将收集起来并交给我们的主持人。
那么，今年的演讲嘉宾是 Faye Faye Lee 博士。她将开启我们年会的序幕，也是学会 50 周年庆典的开始。Lee 博士是斯坦福大学人类中心人工智能研究所的计算机科学教授和主任。她获得了普林斯顿大学物理学学士学位（优等生），以及加州理工学院电气工程博士学位。她还曾担任 Google Cloud 的人工智能和机器学习副总裁。她无疑是人工智能研究领域的先驱，是 ImageNet 的发明者，ImageNet 改变了社会，被认为是人工智能发展的一个转折点，将其从实验室推向了世界。Lee 博士不仅如此，她还是倡导利用技术改善人类的积极倡导者，并被评为 2016 年《外交政策》杂志的全球思想家。Lee 博士将从她作为一名科学家和早期神经科学学者独特的视角，讨论人工智能的变革潜力，以及它如何影响社会。她还将为该领域带来伦理讨论和考量，成为未来增强而非取代人类体验的技术的领军人物。
那么，请大家和我一起热烈欢迎 Faye Ailee 博士。
非常感谢，感谢 Diane，也感谢 SFn 的所有组织者邀请我来这里分享我们的研究和工作。我感到非常荣幸，SFN 是我参加的第一个学术会议，当时我还是第一年的研究生，而现在我又回到了这里，感觉就像回到了家。再次感谢。
我将与大家分享一些我们在人工智能方面的工作，更重要的是，我认为人工智能应该走向何方。当然，毋庸置疑的是，我们正在目睹近年来人工智能的惊人崛起。你们可能对屏幕右边的图片非常熟悉，那是谷歌的 Alphabet DeepMind 计算机 AlphaGo 与人类大师在一场被认为是人类最智能的游戏之一中的对弈。当然，我们都知道，2016 年，机器击败了人类大师。事实上，制造会思考的机器，或者我们有时称之为智能机器的追求，始于 60 多年前。我们都知道，英国数学家和计算机科学家 Alan Turing 向人类提出了一个大胆的问题：我们能否制造出会思考的机器？
左边这张摄于几十年前的照片，是在 AlphaGo 之前，由人工智能先驱 John McCarthy 博士拍摄的。他与 Marvin Minsky 等人工智能先驱一起，是“人工智能”一词的创造者。他也是斯坦福人工智能实验室的创始主任。我将这两张照片放在一起，是为了展示人工智能领域在过去五十多年里，在制造智能机器的探索中所付出的相对短暂但仍然重要的努力。我所从事的人工智能领域，特别是计算机视觉，在过去几十年里也取得了巨大的进步。在我进入计算机视觉领域之前的十到二十年，我们开始着手解决这个问题：像素中有什么？或者说，视觉世界中有什么？人脑显然能理解，我们如何让机器理解它呢？
这是一个早期论文的例子，展示了理解这个丰富视觉世界的一些早期尝试，是通过识别线条。神经科学家们，我们欠你们的，告诉我们，从 Hubel 和 Wiesel 的研究中，边缘和线条在人类视觉处理中很重要。这是早期计算机工作的反映，反映了这一点。十年后，这大约是我开始在计算机视觉领域学习的时候，该领域开始关注一些更实际的问题，可以更好地连接我们，例如让计算机识别数字，或者识别场景中的特定物体。同样，这些都是理解对人类和智能动物来说如此丰富和重要的像素世界的非常非常早期的尝试。我记得当时进入这个领域，想着天哪，在我们能做到接近人类视觉的水平之前，还要几百年。
十年后，我们看到了重大的突破。如今，计算机能够以极高的保真度识别图片中的日常物体。在这创造视觉智能机器的征程中，我感到非常谦卑和荣幸，我的学生和合作者们参与了计算机视觉的进步。
你们中的一些人可能听说过 ImageNet 项目，该项目试图通过大数据驱动的物体类别学习来重塑计算机视觉和机器学习的思维。大约在 2010 年，我们启动了一项国际挑战，邀请全世界的计算机视觉研究界参与 ImageNet 挑战。这项挑战的主要任务之一是构建能够识别 1000 种不同日常物体的机器。你们中的许多人可能知道，2012 年出现了一个历史性的时刻，加拿大的 Geoff Hinton 教授和他的学生使用一种相当古老的算法家族——卷积神经网络——赢得了 ImageNet 挑战。那个结果以惊人的显著方式降低了分类错误率。从那时起，ImageNet 挑战的结果就一直在稳步提高，错误率不断下降，甚至低于一名典型的斯坦福研究生所代表的人类水平。
因此，深度学习革命，可以认为，始于 2012 年，因为这项 ImageNet 挑战工作。我们是如何走到这一步的？历史学家们将为我们书写。但我们许多人相信，过去几十年甚至更长时间里，三项重要技术进步的汇聚导致了深度学习革命。
第一是硬件和计算的进步，特别是受摩尔定律驱动，我们看到了更快的芯片和更大的内存，以及 GPU 的发明，它实现了能够驱动神经网络等大规模算法的并行处理。
第二股推动这场革命的重要力量是算法本身，特别是统计机器学习的兴起，当然，还有可以追溯到神经科学根源的神经网络算法家族，人们称之为深度学习。
最后但同样重要的是，互联网的兴起和信息的数字化带来了重要力量。大数据成为一个巨大的组成部分，对于驱动这些高容量模型并带来深度学习时代至关重要。
也许最大的变化，作为一名在过去 20 年里一直从事这个领域工作的科学家，我看到的是，人工智能，或者我们称之为，你们有些人称之为深度学习，但人工智能不再是一门小众的实验室科学。它不仅进入了日常生活，而且正在驱动第四次工业革命。无论你从商业世界的角度来看，无论你是看行业如何利用深度学习来革新自己的工作，还是看初创企业和创业机会的蓬勃发展，利用人工智能和机器学习，或者仅仅是各种智库对全球人工智能市场的估值，所有这些曲线都在向上攀升，走向未来。所以，无论你怎么看，影响都在发生，而坦率地说，这种影响已经超出了我们 20 年前或 30 年前出于纯粹科学好奇心进入这个领域时许多人的预期。但现在，我们将其视为改变我们社会的真正力量。
说到变革的力量，当然，我们对那些利用这种技术来帮助人们的应用感到欣慰。这是第一位盲人试驾谷歌的自动驾驶汽车，你看到他脸上的笑容，以及自主性能给那些无法驾驶的人带来的解放感，这是非常令人振奋的。但这仅仅是全部吗？这项技术只会带来乌托邦吗？我知道，到 2019 年，在座的没有人认为这项技术只会带来好处。我们应该思考这项技术带来的更全面的影响。例如，你们中有孩子，尤其是青少年，你们会欣赏到它正在改变我们的文化，对吧？你可能会觉得，你开始嘲笑你这一代人与机器说话的方式。这种改变会缓慢而微妙地到来。你们中的一些人可能会觉得这种改变很有趣，一些人可能不认为这是一种进步，一些人可能会对看到非常不礼貌的年轻人感到震惊。但还有更严重的变化正在到来。社会意识现在正在提高，以了解机器可能产生的影响，无论是工作岗位流失，还是机器学习的偏见和歧视，还是侵犯个人和社区隐私。这些是真实存在的问题，不是发生在未来，而是今天就发生着，利用涉及机器学习、计算机视觉、自然语言处理以及人工智能的许多子领域的先进技术。
我最喜欢的科学家之一是阿尔伯特·爱因斯坦，所以我喜欢他的名言。这是他多年前说过的一句话：“我们技术的发展已经远远超过了我们的人性，这一点已经变得非常明显。”爱因斯坦留给我们的最重要的词或提醒是“人性”。就我个人而言，作为一名人工智能科学家，我感到非常谦卑和荣幸能参与到这场变革中，为人工智能的进步做出贡献，并继续进行我们希望为未来创新的研究。在过去的几年里，我一直在思考，人工智能应该走向何方？我们作为科学家、学术界人士、教育家、创新者，应该共同书写人工智能的下一章？无论我们如何对待人工智能，都与我们社会和人性的未来息息相关。
因此，我一直在思考一种新的人工智能方法，我在这里与大家分享这种方法，称为“以人为本的人工智能”。其核心是以人为本的人工智能是关于人类价值观，并将这些价值观和意识融入技术的发展和部署中。我们将此定义为三个原则或支柱：第一，人工智能的发展必须以对人类影响的关注为指导；第二，人工智能应努力增强和提升我们，而不是取代我们；第三，人工智能必须更多地受到人类智能的启发。我想在接下来的演讲中与大家分享一些围绕这三个原则的研究细节。而且，我为我来自的斯坦福大学感到非常自豪。大约半年前，在一位神经科学家和我们的校长 Mark Tessa Levine 的领导下，我们启动了斯坦福人类中心人工智能研究所，作为推广人工智能未来研究和教育新思维方式的努力的一部分。
那么，让我们来谈谈第一个原则：人工智能的发展必须以对人类的关注为指导。其核心是我们主张重新思考人工智能，不再将其视为计算机科学的一个子领域。人工智能现在太庞大、太广泛，而且可能对我们所有人产生太大的影响，因此它应该成为一个跨学科领域，特别是邀请其他科学、社会科学和人文学科参与人工智能的研究和学习，以便我们能够理解、预测和指导其对人类和社会的影响。
在这里，我将只用一个问题或案例研究来展示以人为本的人工智能在这一特定跨学科领域的重要性或进展。这就是机器学习偏见案例研究，这是许多人关心的问题。你知道，很多人说，在这种数据驱动的方法中，“垃圾进，垃圾出”。当一个有偏见的系统从数据开始一直到决策，它将产生严重的人类后果，无论我们是做财务决策、人力资源决策、执法决策等等。
所以，我想我可能会有点偏颇，所有这些工作都将来自斯坦福的合作。但我只想说，在全球范围内，许多科学家和社会科学家都在研究这个问题，这是一个快速发展的领域，这让我感到非常欣慰。为了将机器学习偏见转化为机器学习公平性研究，有许多方法。例如，我们可以专门关注数据集的公平性。我与两位普林斯顿教授合作，重新审视 ImageNet 和历史数据集，以及如何重新平衡它们。这里有一个程序类别 ImageNet 的例子，我们查看了性别、肤色和年龄分布，并使用算法方法来重新平衡该数据集。但也有算法公平性的工作，我的同事，斯坦福电气工程系的 James Zhu 和历史系的 Longer Shippingher，正在研究一种新的算法方法来平衡自然语言嵌入，这些嵌入承载着人类今天已经存在的自然偏见，并传递到我们的数据中。例如，“医生”对“男性”就像“医生”对“女性”一样，就像“护士”一样。这些是我们社会中存在的偏见。但通过他们的算法公平性工作，我们正在重新平衡和消除偏见。我们还有斯坦福的数学家或计算机科学理论家，如 Professor Honoring Her Wrinkle，他们正在研究算法公平性的数学定义，并与心脏病专家等医生合作，研究医学数据中的长尾分布，以及我们如何提供计算公平性。我们还有统计学家、自然语言机器学习和语言学家，他们正在研究因果推理和反事实稳健性，利用计算公平性。当然，我没有向你们展示工作的技术细节，我只想借此机会提请你们注意这些我发现非常令人兴奋的持续性工作。我们还有管理科学教授与执法部门的合作者合作，并利用执法数据来研究人工智能系统的决策部分如何才能更加公平。例如，我们可以使用机器学习或自然语言算法，将一份可能包含种族信息的普通执法文件，通过姓名、地址、邮政编码、发色等信息，转化为一份不带种族信息的文件，从而帮助执法部门的决策更加公平。
一项类似的决策公平性工作正在斯坦福的教育学校和计算机科学系之间进行，研究如何利用强化学习方法来提高不确定情况下的决策公平性。
最后但同样重要的是，在斯坦福，计算机科学家正与我们的伦理学和政治学教授 Rob Rish 博士合作，创建一种新的计算机、伦理和公共政策教育课程。事实上，我们与斯坦福伦理、技术和公共政策中心密切合作，开发新课程或为现有课程开发新内容。这些都是在仅仅一个案例研究中，通过利用跨学科方法，邀请历史学家、政治学家、教育研究者、政策研究者进入计算机科学领域，以便我们能够共同解决机器学习偏见的问题。
但在斯坦福跨学科人工智能研究领域，以理解社会和人类影响为目标，我们的研究人员正在研究人工智能及其对未来工作的影响；我们正在研究自主机器人和车辆的合作，以及它们对社会和政策的影响；政治科学家和机器学习研究人员也在合作，利用机器学习通过更好的算法难民安置系统来改善难民政策。这些只是第一个原则的例子。
现在，让我们将注意力转向第二个原则，我希望你们记住的动词是“增强”。人工智能应努力增强人类，而不是取代我们。麦肯锡两年前的报告显示，即使我们今天冻结技术，今天 50% 的工作活动也可能被自动化。这将导致劳动力市场的巨大问题，我们必须提前应对，通过经济理解、通过政策来应对。但我们也可以通过技术来应对。正如我所说，公众害怕被机器取代，但有一种情况是，机器实际上应该与人类协同工作，增强和提升我们。
在这里，我想展示一个关于人工智能辅助医疗交付的案例研究。这是我过去八年一直在做的事情，与斯坦福医学院的许多计算机科学领域的专家以及我们全国各地的多家医疗机构进行了合作，从斯坦福本身到犹他州，再到旧金山。底线是，我们相信我们可以在智能系统的帮助下增强临床医生的护理。就像我们今天拥有人类驾驶员的驾驶系统一样。
为什么这个问题很重要？我想展示一些相当可怕的统计数据。每年，有二十五万美国人死于医疗失误，而且这个数字还在增加。仅医院感染，很大程度上是由于不良的手部卫生习惯，就会杀死近十万名患者。这是美国医院的第三大杀手。与之相比，每年交通事故在我们国家造成约三万人死亡。这是三倍多。而对于独自生活的老年人来说，跌倒和受伤的成本超过 360 亿美元，随着社会老龄化，这个成本还在上升。所以，无论你从人类生命、医疗政策还是经济的角度来看，这都是一个巨大的问题。我们需要提高护理质量，同时也要意识到控制不断上涨的成本。
以手部卫生为例，我们与斯坦福儿童医院和犹他州 Intermountain 医院合作。我的团队将自动驾驶汽车技术带到了我们的医院，通过安装智能传感器来获取医院环境中的深度信息。这些橙色点代表安装在 Intermountain 医院病房走廊和病房中的传感器。这是海量数据，但也是保护个人隐私的数据。每秒，我们从所有这些传感器中获取 1100 万个数据点。然后，这可以为我们提供每秒对该环境的全面 3D 重建。我们不仅知道物理环境，还知道环境中的人类及其活动。利用计算机视觉算法，我们可以开始识别医疗交付过程中重要的医疗交付区域，例如病床、水槽、浴室等。然后，我们可以开始使用后端深度学习算法来观察临床医生如何进入和离开病房，按照规定，他们应该洗手。左边这个例子是一个洗手的临床医生离开，这是一个不符合规定的离开。我们可以通过查看手部卫生分配器区域、跟踪临床医生轨迹、了解患者情况来重建环境，并汇总重要的统计数据，例如临床医生在不同房间进出的行为，以及遍布全球的数据。
我们不仅使用计算机视觉和智能传感器技术来观察这个环境中可能发生的事情，实际上，让我再说一下，在此之前人们做什么？你可能会想，嗯，坏消息是，我们今天使用的技术相当落后。医院真的会雇佣人类监视员，拿着剪贴板、纸和笔，站在医院走廊里，打勾，观察人们洗手。你可以想象这个过程有多么昂贵、稀疏、错误和主观。现在，我们可以 24/7 自动化这个过程，无需疲劳。但我们正在更进一步，与人机界面和设计专家一起，我们正在测试如何通过不同类型的警报系统来改变临床行为，无论是点亮床头灯、点亮显示器，还是在墙上投射可怕的手部图片。我们仍在测试，并试图从人工智能观察一直到临床行为改变和患者结果进行密切的联系。
我将简要介绍的另一个例子是老龄化家庭。这是一个日益严重的社会问题。我们希望我们的老年人快乐地独立生活，但也希望在他们脆弱的时刻能够捕捉到他们。许多人正在测试我们的可穿戴设备，这也是一条可行的途径，但可穿戴设备存在许多问题。因此，我们正在研究我刚才展示的类似智能传感器技术，无论是深度传感器还是热传感器，来增强这项技术。在这里，我们展示了我们的系统可以分析独立生活发生的活动以及发生的时间。这对于理解和及早发现痴呆症迹象、了解是否存在社交孤立、监测营养摄入以及各种临床相关行为至关重要。我们还可以利用这项技术来理解可穿戴设备难以捕捉的注视变化，这可能预示着痴呆症、帕金森病康复、中风和其他许多疾病的早期迹象。
总的来说，我们在医疗保健方面的工作表明，人工智能可以在增强人类护理、提升人类能力、降低医疗成本、提高安全性以及为护理人员争取更多时间与患者相处方面发挥作用。这是护士和医生最想与我们合作的原因，他们希望有更多时间与患者相处，他们不想只是记录或只是看着显示器。当然，人工智能技术也在改进医疗保健手术技术，辅助药物发现和化学合成，也出现在教育领域，人工智能可以成为潜在的教师助手，特别是终身学习和个性化辅导。
我还有机器人同事今天正在研究救援机器人，它们可以去人类不应该去的地方，以免危及生命，例如深海或灾区。我可以告诉你，这样的例子不胜枚举。这真的让我很兴奋。但让我们将注意力转向第三个原则：人工智能必须受到人类智能的启发。我们为什么想要这个？因为我们刚刚描绘了人工智能增强人类的图景。如果我们认为机器可以与人类协同工作，可以成为协作伙伴，那么机器就需要理解人类智能，有时还需要拥有在这个过程中所需的那种人类智能。
那么，我们现在在哪里？这是我们今天最好的计算机视觉算法的例子，用于物体识别。使用 ResNet 或任何花哨的算法训练 ImageNet，计算机可以告诉我们这张图片中有狗、沙发和一个人。如果需要，它甚至可以看到咖啡杯。但你和我看到的这张图片不一样。我们看到的是一个完全不同的故事，我们看到的是情感。至少我看到了狗脸上的内疚表情，我们甚至可能在预测接下来会发生什么，对狗、沙发或咖啡杯。所以有很多事情正在发生，这就是今天的人工智能与人类的对比。我不需要说服一群神经科学家，人类智能是动态的、多感官的、复杂的、不确定的、交互式的，而今天的人工智能是狭隘的、静态的、脱离身体的，等等。
所以，作为一名人工智能科学家，我的热情也是让明天的 AI 拥有更复杂的人类智能或能力。它不必完全复制神经元的工作方式，但应该受到深刻的启发，就像几十年前我们受到 Hubel 和 Wiesel 的启发一样。
我想展示一些专注于自然智能的交互性工作，以及它们如何启发我们正在进行的几个研究项目，使机器能够以交互式和丰富的方式看待世界或与世界互动。第一个合作是与计算神经科学家 Diamond 和他的博士后以及我们的联合学生合作，让 AI 代理像婴儿一样互动。再次，这个听众对于一些最杰出的发育神经科学研究、认知科学研究以及我们从 Alison Gopnik 的“婴儿摇篮”等科学家的工作中获得的灵感来说，是一个真正的家庭听众。人类智能不是通过有人给他们读一千个带标签的物体来发展的，婴儿不是这样学习的。婴儿会探索，他们会弄坏东西，他们被好奇心驱动。因此，我们开发了一个由好奇心内在驱动的人工智能系统。我们开发了一个世界模型神经网络，通过婴儿或 AI 代理的行动来预测世界会是什么样子。同时，还有一个自我模型网络，它预测世界的样子和我认为世界会是什么样子之间的误差。然后，有一整套通过强化学习学习的策略，它会与世界对抗，并产生最大程度的好奇心效应。这是一项正在进行的工作，但一些早期结果表明，我们的蓝色曲线，即我们的人工智能婴儿代理，表现出一种更接近人类的行为模式，它经历了一个理解自我运动的早期阶段，然后开始关注物体，而没有人告诉它们，没有任何监督。在这个阶段，它开始关注物体，并开始与新物体以及物体之间进行交互，等等。这是早期工作，我只是展示了一个预告片，展示了这种机器学习和人工智能的发展方向，通过从发育数据和研究中获得灵感，开发一种新的学习世界的方式，而不是我们之前看到的典型的监督式标记学习。
当然，无论是婴儿还是成人，你都在不断地与世界互动，不断地与物理世界互动。这是与机器人学教授、学生和博士后合作的成果。我们再次受到人类是工具使用者的启发。我们不仅是工具使用者，我们还是创造性的工具使用者，我们是规划者，我们有多阶段规划。今天人工智能领域最令人兴奋的领域之一是从计划场景重新启动机器人技术，转向这种复杂推理、规划、感知不确定环境。
这里有一个例子，学习在不同场景下以不同的方式使用一个工具。锤子可以通过敲击来固定一个钉子，但你也可以用它以一种更巧妙的方式来推开物体。这是机器学习社区开始感兴趣的，也是我个人非常感兴趣的，关于工具使用和与物理世界互动的开始。当然，要理解这一点，我们需要将视觉纳入其中。这是机器人学的一项新发展，许多计算机视觉技术正在帮助机器人学家理解真实世界及其复杂性。例如，任何工具都有不同的“可供性”，取决于不同的交互点。我们可以将这个想法引入一个场景，目标是将这个钉子放入孔中。但我们设计了一个算法，让机械臂以非常不同的方式使用这个锤子，利用不同的可供性，将目标物体放入其期望的位置。
这里是我们的另一个步骤：如何组合新工具？这项工作仍在评审中。通过识别不同的抓取点和可供性以及它们如何与物理世界互动，我们可以设计出新的工具来完成不同的任务。推工具与够工具不同，与锤子工具也不同，即使我们使用相同的构建块。然后，我们可以使用新的推工具或锤子工具来执行所需的任务。这里有一些不错的视频，展示了我们可以将这种多阶段规划应用于不同的场景，无论是清理桌面，还是将物体插入孔中，还是跨越某些桥梁。
如果现场有真正的机器人学家，你可能会问我真正的演示。这里有一个。抱歉，在具有挑战性的机器人研究中，我们不仅要进行所有规划和学习，还要识别真实世界的场景和真实世界的状态。而这正是计算机视觉可以在这项持续研究中发挥巨大作用的地方。我们的下一步显然是将我们对工具使用的理解或组合与多阶段规划相结合，以创建真正的世界多阶段工具，正如所提到的，利用可供性。
这些是结合计算机视觉、机器学习和机器人学以与混乱的物理世界互动的一些早期工作。
最后但同样重要的是，机器如何与人类互动？这是与斯坦福大学的人机交互和社会工程学教授的合作。我们知道人类通过与人类互动来学习。我们的目标是创建一个能够与人类对话的 AI 代理，其目标是学习新知识。当然，我们进行视觉处理。我们希望通过向人类提问并获得答案来扩展 AI 学习代理对视觉世界的知识。因此，有很多人从事这种视觉对话，例如在 Instagram 上，人们发布图片并谈论它们。这里有一个可爱的动物，拍照的人说：“这就像……”这种对话或交流对 AI 代理来说用处不大，它很有趣，但对 AI 代理学习来说用处不大。我们真正想要的是人类帮助 AI 代理扩展其对世界的知识，通过提供关于这张图片的知识或信息，在这种情况下，是识别这种动物为小熊猫。但普通的人类对话可能不会这样。
因此，我们创建了我们的目标，创建了这个 AI 代理，它将参与人类对话，以征求人类对话并使其持续下去，以便它可以学习。将它放入系统流程中，这里是图片，这里是一个可能参与对话的人，这是我们正在创建的 AI 代理。该代理有两个目标：第一个目标是与人类互动，通过提问；第二个目标是，在这样做之后，它扩展了其 AI 知识。所以这是一个双重目的代理。我不指望你们能看到所有细节，但我只想向你们展示，在幕后，它是一个强化学习算法，可以优化两个目标：参与目标和知识目标，以创建系统，称为 Elia AI 代理，使 Elia 能够进行人类对话，从而扩展其视觉世界的知识。
这里有一些例子。给定一张这样的图片，Elia（最后一行绿色）能够提出有趣的问题，例如“动物是站在雪地上吗？”而一个普通的模型只会说“这是什么动物？”等等。还有一些消融研究，我不会深入研究。底线是，我们的 AI 代理生成的绿色问题在数量上更具参与性，因此，我们能够扩展代理的视觉知识集。它会持续学习，并且随着这些扩展的知识，它能够识别越来越多的事物，并学习得越来越多。这里有一些例子，说明机器如何识别世界中有趣的物体，如喜鹊、大丽花和费塔奶酪，而它最初并不知道这些，但逐渐积累了这些知识。
我想以一个提醒来结束，这是对斯坦福大学，主要是我的实验室，在以人为本的人工智能这三个原则上所做的研究的快速总结。在斯坦福，我们不仅致力于研究，而且同样致力于以人为本的人工智能工作的教育和推广。我们正在吸引学生、艺术家、政策制定者、记者、律师、商界领袖以及广大社会公众，以推广这种以人为本的人工智能思维。
非常感谢。
非常感谢你，这太棒了。
好的，那么，我觉得这非常鼓舞人心，事实上，我本来有几个问题想问你，你都涵盖了，所以这真是太棒了，谢谢。谢谢。我想首先是向听众开放讨论，我们大约有半小时，也许 35 到 40 分钟来真正与大家互动。所以，在我这样做之前，我想快速介绍一下主持人，他们一直在收集问题。我可以看到他们都挤在那里，我只想快速向大家介绍一下他们是谁，然后我们将开始与 Faye 进行讨论。
Matteo Carandini 是伦敦大学学院的研究副总裁和教授，他的研究是调查大脑如何处理感觉信号并将其与内部信号整合以指导决策和行动。他也是伦敦大学学院大奥蒙德街儿童健康研究所的临床儿童精神病学家和教授，他是儿童强迫症的专家，也是英国皇家精神病学家学院 2015-16 年度精神病学家。然后是 Traci Janek，约翰霍普金斯大学心理学和脑科学系的 Bloomberg 杰出教授。Trish 也是我之前提到的项目委员会主席，再次感谢她为这次精彩的会议付出的努力。Trish 再次感谢。她通过联想学习研究行为的生物学基础。
他们已经审阅了你的问题，我知道，我想我将从 Trisha 开始，让她开始过来。我想你那里有一支麦克风，非常好。
Trish，你想开始吗？我们给 Lee 博士的第一个问题来自听众：我们能否以及应该在人工智能的同时发展人工智能的共情能力？
这是一个很好的问题，我知道这个听众非常以人为本。第一个问题是关于共情。我们谈了很多关于机器共情的潜力。我认为，首先，共情本身是一个包含广泛光谱的词。有在识别他人情况的层面上的共情，一直到内化情绪和感受的状态等等。所以，就机器发展而言，我的猜测是，我们将从更浅层的共情开始，通过理解表情，理解另一个代理或人类所处的状态。随着神经科学、脑科学、认知科学的发展，我们可能会越来越深入。我个人已经遇到了这样的研究，我们希望评估患者的感受或疼痛水平，或者利用他们的表情来理解状态的变化。我知道在自然语言处理领域，有关于情感分析等方面的研究。所以，在共情方面，有一些早期萌芽的工作。至于伦理问题，我们是否应该尝试这样做，以及我们会创造哪些脆弱性？我认为这应该放在所有技术发展脆弱性和伦理关切的背景下，无论是共情、视觉、语音还是合成，就像人们可能再次听到的那样。所以，我会说答案是肯定的，作为一项科学创新，这项工作可能会继续推动。但在其伦理指导方面，尤其是在应用方面，作为一个社会，我们应该共同努力。
有一个问题是给字幕员的，你是人还是机器？让我们看看是否能得到答案。可能是机器。
一个问题是：人工智能是否可能在主要是工程压力的推动下，不断趋向于实际上模拟大脑的算法和解决方案？
这是一个来自神经科学学会的有趣问题。因为我的人工智能之旅不是因为工程压力，而是因为受到神经科学启发的科学探索。我知道很多人工智能科学家将大脑和神经科学视为科学灵感，为什么我们要模拟大脑。从这个角度来看，无论是否有工程或产品压力，我认为，人类作为一个非常好奇的动物，不会停止探索和研究我们如何从大脑中产生并理解其计算原理。关于工程压力，人工智能作为一门工程学科，也有其自身的目标。我确信你们很多人都知道这个类比，我与我的学生分享，比如飞行。我们是复制鸟类，还是制造飞机？答案是两者兼有，因为飞机是人类文明的一项巨大工程壮举。但飞机的工程确实借鉴了对鸟类的研究。事实上，它借鉴了空气动力学这个共同的物理学基础。所以，我们两者都在做。即使目标是工程目标。
只是稍微翻转一下，你还记得我们第一次见面时，你提到了，你说“这就像回家一样”。回到神经科学年会。在听你讲话时，你是否从你早期接触神经科学的经历中获得了任何灵感，以及它如何影响了你的思考方式？
绝对。我这么说不是因为我坐在神经科学家面前，可能还有我的一些教授、前教授。但就我自己的科学之旅而言，你提到了我本科是物理专业。我注意到在我本科学习的后半段，我喜欢的伟大物理学家，比如爱因斯坦，他们都在晚年将他们的智力兴趣转向了生命和大脑，而不是原子世界。所以我 kind of 遵循了这条道路。我进入智能世界的第一步是通过神经科学。我甚至做了一个夏天的分子生物学研究，我知道我跑过凝胶，但没有走得很远。我还参与了人类视觉研究的复制。然后，在斯坦福读博士期间，Michael……
顾问是水晶般的[ __ ]，我和他一起从事认知神经科学工作，我也这样做是为了多样性，所以我在人工智能的整个旅程中，有一部分总是在回顾神经科学，特别是认知神经科学，来研究大脑如何表示复杂的虚拟世界，什么是神经相关性，我们对大脑有什么计算发现，以及大脑作为一个计算机器的认知目标是什么，我认为我智力成长和持续探索的这一部分对我处理人工智能的方式至关重要。谢谢伊莎贝尔，我们有几百个问题，我在这里待一整天，我只想说，其中很多都给了你巨大的感谢。我只想感谢你，感谢你精彩而深思熟虑的讲座和感人的例子，所以很多人都评论说他们被你的演讲感动了。我本来要问的第一个问题是，你已经谈到了在神经科学听众中的经历，但有几个人问，我们如何教育非科学公众不要害怕人工智能，并帮助他们相信，例如，它可能比医生更安全、更好、更有效？是的，这是一个关于公众参与的绝佳问题，坦率地说，即使作为一名教授，我也不认为我们应该仅仅宣扬我们所相信的一切。我认为更重要的方式是邀请公众并与他们互动，因为每个人都可以参与人工智能，无论你是否深入研究代码，公众都有一个可以参与和塑造人工智能未来的地方。所以当公众问我，我们怎么知道未来不是黑暗和可怕的？我的回答是：我们一起来，我们可以一起塑造未来。所以，例如，我们迫切需要更好的人工智能沟通，所以你可以是一名作家，你可以是一名艺术家，你可以是一名设计师，但如果你与我们合作，我们可以更好地与公众沟通这项技术是什么。我们迫切需要一位政策制定者与我们合作，因为这项技术影响着我们生活的如此多的领域，我们需要良好的监管政策，我们需要良好的激励政策，所以我们需要一种参与。作为一名教育者，我也真的相信我们需要与从幼儿园到 12 年级一直到持续技能培训的教育界进行互动，无论我们是在关注美国工人或世界工人的技能再培训，还是在早期参与 STEM 和人工智能的包容性教育，我们都需要每个人的参与。
而且，这大概是你“人工智能为所有人”的灵感来源吧？是的，谢谢你提起这个。在我无限的空闲时间里，我觉得非常重要和充满激情的是人工智能领域的包容性和多样性问题。事实上，我有一天醒来，大约在 2013-2014 年，就在 ImageNet 事件发生并受到挑战之后。作为一名生活在硅谷的技术人员，我身处前沿，观察着这场巨大的变革，可能比公众更早地意识到这一点。我意识到我们有一个严重的问题，这项技术将影响人类的未来，而掌舵的人看起来都一样。当时在斯坦福大学，我曾是人工智能实验室唯一的人工智能女教授，很长一段时间。我恰好是主任，但我仍然是唯一的女性。我的学生，我去 NeurIPS，我去 CVPR，我去所有这些会议，我只是看不到很多女性，我真的看不到代表性不足的少数族裔。如果你相信机器的价值观或人类的价值观，我们所创造的东西反映了我们是谁，这是一个严峻的危机。所以，幸运的是，我和我以前的博士生 Guru Zhukovsky（她现在是普林斯顿大学的教授）都分享这种热情。所以在 2015 年，我们启动了一个试点项目，这是一个为期两周的高中女生夏令营，邀请她们来到斯坦福大学，加入我们，学习人工智能，进行以人为本的人工智能的实践研究。我甚至邀请了一个小组来做我刚才谈到的临床工作。那非常成功。直到今天，我最喜欢的那次经历是想象一群 24 名高中女生一边互相编辫子，一边讨论深度学习算法，在讲座休息期间。那真是太人性化，太美好了。
所以，在 2016 年，我们在斯坦福大学做了两年。在 2016 年，在梅琳达·盖茨和英伟达 GPU 的首席执行官兼创始人黄仁勋的鼓励下，他们为我们提供种子资金，成为一家全国性的非营利组织。所以我们扩大了规模。2017 年，我们在斯坦福大学和伯克利大学为东湾地区的低收入家庭学生设立了两个校区，那也取得了巨大的成功。所以我们意识到存在全国性的需求。所以 2019 年，也就是去年夏天，我们在 11 所大学的校区，从东海岸到西海岸，到密歇根州、卡内基梅隆大学、亚利桑那州，以及马里兰州、哥伦比亚大学、普林斯顿大学，共 11 个校区。我们还在不断扩张。我们的目标是真正地改变现状，创造下一代更具包容性和多样性的人工智能领导者。谢谢克里斯。是的，我想，如果有人有兴趣在你们的大学开设一个分部，你们现在可以和我谈谈。好的，特里莎。所以，既然我们在神经科学会议上，我们实际上收到了相当多的问题，非常感兴趣你是如何谈论神经科学如何启发人工智能的，但你能评论一下人工智能如何使神经科学研究本身受益吗？是的，我将以一种浅显的方式来做。顺便说一句，我在斯坦福大学有许多杰出的同事，他们正在进行这项研究的前沿工作，比如 Surya Ganguly 和 Dima。但是，机器学习是一种工具，而从这个工具中出来的，是巨大的数学优化和计算能力。例如，大脑的连接性，我甚至听说艺术神经空间装置可能使用了机器学习技术来追踪神经元从轴突到树突，来分割神经元。我知道神经科学中的许多连接性工作都在使用这类机器学习工具来处理，你知道，像数万亿字节的数据，只有机器学习才具有人类甚至众包不可能拥有的吞吐量。你知道，在我更熟悉的一个领域，至少我了解一些，是神经成像。即使在 15 年前，机器学习和模式识别算法就开始帮助我们解读比简单的统计分析（如回归）更细微、更强大的神经模式或多变量模式。我与伊利诺伊大学的戴安娜·巴克教授在这方面有着长期的合作。但还有很多，正如我所说，例如我的同事 Surya Ganguly，他正在研究理论深度学习算法，并试图用它来佐证神经元学习等模型的有效性。所以，有很多机会可以将其用作实现发现的工具，或者用作检验我们大脑计算模型或认知模型的灵感来源，以及所有这些的结合。
谢谢马特奥。我们收到了各种关于社会偏见的问题，其中一个问题是，要解决这些社会偏见，我们是否应该随着时间的推移，对人工智能做出比人类更好的决定感到更舒适？这里的“更好”是加引号的。谁应该最终决定选择哪个决定？这是个好问题。实际上有两个问题。一个是社会是否应该对机器做出决定感到更舒适？我认为答案是，未来并非如此，未来已经以惊人的速度到来。比如我现在开车只用手机上的地图导航，我甚至不知道如何不用谷歌地图去上班了。我们已经变得如此习惯，以至于你知道，其中一些已经令人担忧了。就更深层次的社会问题而言，甚至涉及到人类的能动性，决策的道德能动性。我认为我们需要邀请整个社会来为我们做出决定。你知道，就在一个月前，我在梵蒂冈与两位神学家和天主教领袖谈论机器的道德能动性。我们还打算在斯坦福大学邀请世界各地的政策制定者，讨论我们应该为机器决策制定什么样的政策和法律。所以答案将是微妙的，它将是复杂的，有时会根据行业而定，取决于决定是医疗决定，还是仅仅是购买你最喜欢的衣服。所有这些都会有其复杂性。但我们需要开始这个过程。你知道，当你谈论的时候，当然，它非常有力地展示了这些讨论不仅在计算机科学系内部，而且在整个机构中进行是多么重要。所以，当然，对于任何决定不应该是个人决定，而是应该有一套共同的指导方针，并且这些事情应该被制度化，这一点也非常重要。绝对同意。这一点非常清楚。我认为这必须是一个多方利益相关者的讨论。不能只有一群工程师、计算机科学家来决定，也不能在没有我们所有人参与的情况下制定政策。
这对于这个听众来说是一个巨大的主题，关于人工智能是否能帮助我们解决气候变化和全球变暖的问题。这是一个简单的问题，是吗？是的，我最近经常听到这个问题。我认为我的回答将和这个听众中的每个人一样。我真的非常希望如此。当然，我认为我之所以能这样希望，是因为一些气候问题非常依赖数据和计算，而当这种情况发生时，人工智能和机器学习的工具应该站在最前沿提供帮助。我们的气候科学家、自然学家，你知道，我们需要这样的数据。但这不仅仅是关于温度或海洋的科学预测，还有人类方面。例如，我的同事 Stefano Armand 和 David LaBelle 在斯坦福大学领导一项研究，利用卫星图像评估全球的可持续性条件，特别是在非常贫困和饱受战争蹂躏的地区，你根本没有人力或政府研究来了解环境、农业、作物、人类生活条件如何受到包括气候在内的许多因素的影响。他们的工作利用卫星图像、计算机视觉、机器学习，提供了任何政府或联合国机构以前都不知道的见解和数据。这非常重要。我的同事研究难民，我们将看到，我们已经看到了气候难民，人类生命将受到影响。所以，人工智能不仅可以参与气候的科学分析，还可以参与气候的政策和人类因素。所以我真的非常希望如此，我真的呼吁人工智能研究人员参与其中。谢谢特里莎。我们还有一些问题也集中在医疗保健应用上，正如你提到的，但特别是来自这个听众关于脑机接口的问题，这当然是一种可以帮助许多疾病和病理学的方法。但根据你关于增强的观点，当我们推进神经植入的想法时，我们作为一个社会需要注意什么？以及相关的伦理问题等等。这是一个很棒的问题。当然，我并不研究脑机接口，但我以极大的好奇心和科学好奇心关注这个领域，它也充满了潜在的临床意义。我可以分享的一个教训或经验是，你知道，在我早期的人工智能职业生涯中，作为一名科学家，我没有过多地考虑社会影响，因为科学还很早期。作为科学家，我们只关注科学，让事情能够运作。但是人工智能科学家已经经历了这段旅程。我们从试图让事情运作，到看到它们在社会中得到部署，影响着人类的生活。我的预测是，你们这些从事脑机接口这项了不起的技术工作的人，将经历与我们现在一样的旅程。你们可能只关注让它运作，然后很快就会取得突破，它会运作得非常好，然后很快就会在临床上可行。一旦你看到这项技术可能会被推广，现在突然我们就面临着伦理和社会问题。所以，我想与你们分享的信息和情感是，认识到这段旅程，认识到这种责任，认识到尽早邀请这种多方利益相关者对话的机会，因为归根结底，我们都承担着让它造福人类而不是伤害人类的责任。谢谢。
另一个引起许多问题的主题是关于富裕国家和贫穷国家。你刚才在问答环节中也提到了这一点，但一个具体的问题是，你展示了人工智能干预生活各个方面的例子，在富裕国家，你认为所有这些如何用于或转化为贫穷国家的生活？这是个好问题。事实上，在我从事医疗保健工作时，我经常考虑的是贫困，不一定是指贫困国家，而是按社会经济阶层以及获得医疗保健的机会。即使在美国，也有很多人获得医疗保健的机会非常贫困，特别是像慢性病患者、老年人口这样的弱势群体。所以，我认为人工智能，以及人类制造的每一种工具，都是一把双刃剑。它可以伤害我们，也可以造福我们，从火到电到蒸汽到一切。所以从这个角度来看，我们应该非常清楚，人工智能不要成为加剧贫富差距、加剧财富分配不均、煽动地缘政治冲突等的又一个工具。人工智能的好消息是，它是一种计算技术，而计算技术具有面向全球人口的可及性，有时比本地的物理技术更容易。所以我希望，例如，在我的医疗保健工作中，远程医疗将成为人工智能可以被带到贫困地区的一个领域，并且也嵌入在更广泛的技术背景中。教育也是如此，对吧？教师严重短缺，我们能否利用包括人工智能在内的技术来平衡教育的可及性，实现教育的民主化？是的。所以，我想我们还有时间回答一两个问题。所以，伊莎贝尔，你已经谈到需要监管和立法，以及政府最终需要参与进来。但我有一个关于反向的问题。我们是否会生活在一个人工智能算法通过大数据处理来制定法律的时代？你再次以全球变暖为例，你认为人工智能会帮助我们创造一个更公平的社会吗？这是个好问题。我在斯坦福法学院的同事们实际上非常积极地思考人工智能在法律、立法和政府中的应用。我认为，如果你把这个问题的技术部分简化为，人工智能技术是否能够以合乎逻辑的因果方式撰写文档？我认为从技术角度来看，有一天可能会实现。但更大的问题是，法律应该如何立法？人类的含义是什么？法律本身的治理是什么？我认为这些问题超越了技术，我们需要邀请人们参与。我们实际上正在与法学院合作处理这类问题。所以，无论人工智能能做什么，我希望它都能以有益的方式参与其中。谢谢。
你想做吗？谢谢马特奥。你想，你要问最后一个问题。你可以问最后一个问题。我们决定这个问题反映了观众的年轻年龄，问题是，人工智能是一个饱和的领域吗？当你在大学里选择人工智能作为职业是否明智？在神经科学听众面前，我必须小心。你可以选择你的科学或人工智能。绝对不是。我认为人工智能是一个非常非常年轻的领域。让我们记住，如果你不依赖于你如何到来，有几个不同的日期，但它都是关于像 60 年。生物学领域、物理学领域、化学领域要古老得多，有几百年了，即使你只计算现代科学。但如果你追溯一下，你知道，所以人工智能是一个非常非常年轻的领域。我确实想邀请年轻人考虑主修人工智能，但我想邀请你们以跨学科的方式思考。如果你是一名艺术家，如果你喜欢写作，那里有你的位置。你不必一定要主修计算机科学，你可以辅修它，你可以上课，你可以通过政治学专业来参与，你可以通过后来参与。我没开玩笑。我们在斯坦福大学 H AI 有音乐和人工智能机器学习之间的积极合作。所以，简短的回答是绝对的，而且神经科学与人工智能的合作有巨大的机会。所以主修两者都很完美。我们已经到了最后。谢谢。对我来说，时间过得真快。这是我一直希望和预期的，甚至更多。你是一位了不起的科学家，谢谢你，也是一位鼓舞人心的人。你知道，总而言之，我想说的是，灵感当然是你思考一个大问题，然后把它颠倒过来，然后就去做了，然后说这就是我们需要去的地方，这就是我们需要做的，这其中有很多挣扎。我当然读过，也了解到你早期很多工作都没有获得资助，因为人们认为你有点疯狂。所以，这是给观众中的年轻人的一个真实信息，以及早期科学家们，就像继续前进一样。然后是你发展了 ImageNet 等东西的开放性，你把它们推向了世界，你没有把它们留给你自己的团队说，看，我们想挖掘这些，因为这花了我们好几年的时间才开发出来。你把它提供给全世界真正利用。然后也迎难而上，就像直面未来可能的样子，而不是回避或退缩，而是走向那个大问题。我认为这正是我们今天都获得的灵感。所以，谢谢你。谢谢。谢谢大家。谢谢主持人。感谢大家今天来到这里。感谢 SAFE 举办这次了不起的会议，庆祝 50 周年。祝你们在本周剩下的时间里玩得开心。谢谢大家。谢谢。