Transcription
嗯，我想感谢所有祝贺我当选美国国家工程院院士的人。我必须承认，自从我过去从图书馆借书以来，我从未见过“姗姗来迟”这个短语。 [笑声] 嗯，所以，嗯，我很高兴能成为其中一员。那么人工智能的现状如何？这是我的标题。怎么样了？让我先声明一些免责事项。我的意思是，一切都是新的，当然，一切也都是旧的。我承认，我真的不明白当前的技术是如何运作的。我是一个旁观者。我观察它的作用。我看到了大众媒体。但如果你非要我解释，嗯，向量乘法是如何起作用的等等，那不是我的领域。因为我身处一个非常不同的时代的人工智能。但即使技术是新的，社会背景也基本保持不变。嗯，所以有一句话是，“历史不会重演，但会押韵。”它会从过去回响。因此，我认为像我这样的老家伙是有价值的。我下周就八十岁了。嗯，对人工智能在世界上的所作所为，以及它如何与过去以及技术多年来的所作所为相关联，进行一些反思。嗯，那么我的担忧是什么？嗯，我将在此剧透一下。我不会说人工智能会杀死我们所有人，或者人工智能会拯救我们所有人。我既不是悲观主义者也不是乐观主义者。我需要一个与“悲观主义者”（doomer）押韵的词，但“婴儿潮一代”（boomer）不行。那是不同的东西。我是一个婴儿潮一代，但那是另一回事。嗯，我担心的是，人们对这些长期的重大影响所产生的担忧，正在分散我们对它今天所做的事情，以及它今天对我们所做的事情，以及我们如何使用它的关注。所以，我的重点将不在于长期的、有远见的方面，而在于人工智能到底在做什么，以及我们如何将其融入我们的生活。所以，我将从简要介绍我自己的背景开始。嗯，让我稍后再回到这一点。嗯，我年轻时头发乌黑浓密。嗯，在麻省理工学院人工智能实验室，嗯，你看到的是PDP6计算机上的Deck 340显示器。嗯，你知道，正如我们所注意到的，嗯，我的手机的计算能力远远超过了当时任何东西，但当时我们认为这是一个伟大的新进展。它确实是。我做了一个叫做Sherloo的程序，你们中的大多数可能在某个时候都接触过。嗯，它允许你用普通的英语进行交互。你输入，而不是说。你输入，“拿起一个大红块”，它会在这个非常原始的显示器上移动东西，以匹配你所说的，回答问题等等。嗯，我当时是在约翰·霍格兰德后来称之为“老派人工智能”（good old-fashioned AI）的背景下工作的。GofAI是这个缩写，它是一套关于人工智能如何工作的观点，涉及表示、逻辑、推理和算法。嗯，非常明确的人工智能是基于我们停下来思考时我们的大脑是什么样的，你说你在想什么，我思考，而不是基于日常生活中的事情。嗯，嗯，在70年代中期，我离开了麻省理工学院，来到了斯坦福大学。嗯，另一张老照片，你们中还记得的。嗯，约翰·麦卡锡有一个人工智能实验室的销售。嗯，回顾他所说的很有意思。这是1959年的。所以，这真的是在，嗯，56年被认为是人工智能的诞生。他写了一篇文章，题为《有常识的程序》。我们的最终目标是制造出能够像人类一样有效地从经验中学习的程序。我认为，这种对学习的关注实际上并不是我们通常与约翰·麦卡锡以及人工智能的某个版本联系在一起的。嗯，它通过操纵形式语言中的句子来解决问题。纯粹出于历史兴趣，斯坦福，你们中有多少人还记得这座建筑？有人在这里吗？一个，两个，老家伙们，对吧？嗯，我们有一个实验室，一个有点现代化的建筑，在山丘上的Rasta Road，由GTE建造。它被称为DC Power Lab，这令人困惑，因为它与电力无关。它是以GTE的负责人唐纳德·C·鲍尔的名字命名的。嗯，但无论如何，作为DC Power Lab，嗯，过着一种田园诗般的生活。你可以阅读写过它的人的文章，但它与校园的其他部分，与计算机科学的其他部分都非常隔绝。它只是它自己的小世界，嗯，后来我们搬到了校园。所以，嗯，我还在说老派的东西，我仍然使用纸张。嗯，跳过。所以，我当时是Xerox Park的顾问，在一个由Danny Babro领导的自然语言小组。几年里，逐渐认识到，虽然你可以在孤立的领域做非常有趣的例子，比如Sherloo的积木，但它并没有真正接近自然语言对人们的作用，以及人们如何理解和做事。我逐渐对它的发展方向感到更加失望。当然，你们都知道，后来出现了AI的冬天等等。那种人工智能的整体方法几乎已经消失了，尽管今天它又被重新加入了一点。我熟悉了赫伯特·德雷福斯，他写了一本著名的书，叫做《计算机不能做什么》。嗯，当我还在麻省理工学院的时候，他是一个避讳。你不想和他说话。但当我来到这里，他在伯克利，我们开始了一些对话，思考我们用来编写计算机程序的那种理性思维，真正匹配人类的经验，我认识了费尔南多·弗洛雷斯。嗯，我可以花一整节课讲述他的历史，这很迷人，但我不会。嗯，他曾是智利政府的一员，在1973年政变后被监禁，当时阿连德被杀，他和我想谈论计算机和计算，最终写了这本书《理解计算机和认知》，这本书不是关于如何进行计算的书，而是关于我们如何思考，退一步思考计算机到底在做什么，以及人们在做什么，以及它们如何匹配。嗯，所以现在我是名誉教授，正如de所说，我不再积极从事研究，但试图跟上世界的最新动态，特别是人工智能方面的最新动态。好的。那么，人工智能是什么？这是Dario Amodei的一张幻灯片，他是Anthropic的首席执行官，我相信你们都知道。嗯，他列出了他认为人工智能可以解决的问题。生物学、神经科学、经济发展、和平、意义、工作。嗯，这些都是对我们有益的事情。他的文章标题是《仁慈的机器》。我稍后会回到这一点。所以，这是这张图。嗯，我们坐在那里下棋，或者做我们正在做的事情，喝咖啡，而机器在做所有工作，照顾我们，密切关注着我们。嗯，他实际上是以理查德·布劳提根（Richard Browigan）的这首诗来命名他的文章的，这位科幻作家。我喜欢想象一个控制论的生态系统，在那里我们摆脱了劳役，重新与邻居联系，并在仁慈的机器的注视下。所以，这是理想化的观点。人工智能将解决我们所有的问题，使我们富有，使我们快乐，而我们只需要坐下来享受。嗯，现在让我稍微跑题一下。让我们想象一下，我们回到了汽车刚刚被发明出来的时代。好的，它们很棒。它们将解决我们所有的问题。我们将快速到达目的地。我们将能够运输大量货物等等。如果你当时说，“是的，但它们会造成污染、高速公路和流离失所，”然后你开始列举我们社会中所有的大问题，这些问题都是因为有了汽车才出现的，对吧？它们真的改变了世界和社会运作的方式。我敢肯定，人们会说，“是的，这可能会发生，但我们现在不太担心它。我相信在我们到达那一步之前，人们会想出解决办法。”这就是我们现在在人工智能方面遇到的情况，对吧？是的，我们现在不太担心所有副作用，因为它们是副作用，对吧？它们不是拥有汽车的目的。嗯，我们相信我们会解决污染问题。我们会解决气候问题。我相信人们都很聪明。他们不会放任不管。我不会对人类本性表示怀疑。>> 那个？>> 那首诗实际上，我不知道。我必须多读一些布劳提根的小说，看看他当时在想什么。好的，这是另一面，悲观主义者，对吧？这就是未来的计算机。它们会来找我们。它们会杀死我们所有人，把我们变成回形针，或者别的什么。嗯，那么解决方案是什么？你如何处理这个末日般的未来？所以，这是来自一个名为“生命未来研究所”（Future of Life Institute）的组织的一份声明。嗯，一群认真思考人工智能的人。他们说，不久前，我们呼吁禁止超级智能的发展。现在，我稍后会回到这张幻灯片，并稍微分析一下，但很明显，我们不知道超级智能到底是什么等等。而禁止可能不是解决问题的方法。那么，人工智能将接管并消灭我们的想法并不是一个新想法。所以，这里有更多历史性的东西。这是马文·明斯基，他在麻省理工学院是我的导师，他在1970年写道，所以我们说的是半个多世纪以前，在三到八年内，我们将拥有一台具有普通人类智能的机器。好的，所以他把日期搞错了。嗯，几个月后它将达到天才水平，再过几个月，它的能力将是不可估量的。你读过现在有人说这样的话吗？是的。一旦计算机获得控制权，我们可能永远无法收回。如果我们幸运的话，它们可能会决定把我们当作宠物。好的。所以，这是我们无法阻止它的观点。它将成为超级智能，无论何时发生。嗯，我们需要，我们需要阻止它，或者就变成宠物。现在我的假设，我的论点是，人工智能并没有引起问题。我的意思是，它是一个加速器。人工智能出现之前就存在的问题，并且在社会生活中存在了很长时间的问题，正在被人工智能的许多趋势所加速。所以，我们需要看看它改变事物的方式，而不是它如何成为最初的原因。所以，让我挑一个我认为很有趣的。这是俄勒冈州的一个数据中心。嗯，如果你阅读当前的新闻，里面充满了关于数据中心如何消耗能源、消耗水、破坏我们的资源。现在，它们并没有引起能源、资源、水的问题。这些问题在数据中心出现之前就已经存在了，但它们放大了这些问题。然而，我想争辩说，这不是我想关注的问题类型，因为它本质上是一个技术问题。你可以制造能耗更低的芯片。你可以把数据中心建在太空。你可以做各种事情，说，“好吧，我们现在没事了，我们没有消耗地球的水，也没有把二氧化碳排入大气。”嗯，另一方面，我的第一反应是，嗯，这不太重要，但当你看看世界上正在发生的事情时，有很多人认为这很重要，它也带来了其他问题，我稍后会再谈。所以，职业生涯呢？人工智能正在抢走工作岗位，这又如何？这是一篇非常近期的文章。嗯，Dario Amu在Anthropic说，像数据录入和文件审查这样的工作正在迅速消失，但我实际上认为软件甚至可能消失得更快。我不认为这会触动你们许多人的心。[哼哧] 这是一篇12月的文章，斯坦福计算机科学专业的毕业生发现他们的学位不再保证工作。人工智能编码工具现在已经超过了入门级。嗯，当他们是大一时，ChatGPT还没有发布。今天，人工智能的代码能力比大多数人类都强。所以，你们所有准备出去找一份好软件工程工作、编码工作的人，那不会发生。你们不会在那里。所以，毫无疑问，人工智能对可用的、需要的以及人们能够做的工作类型产生了重大影响。现在，如果你再读那些乐观主义者的说法，他们说我的幻灯片来自Amod，他说，嗯，它将使我们都变得富有，这是杰夫·辛顿的一句名言，你们很多人肯定知道这个名字。他被认为是当前人工智能的教父。实际上会发生的是，富人将利用人工智能取代工人。这将造成大规模失业和利润大幅增长。好吧？所以，重点是，它并没有解决经济问题。它将取代工作。它将使一些事情更有效率。这很好。但就业问题不是一个简单的输入输出问题。这是一个社会问题。这是人们如何度过一生。这是人们如何相处。嗯，我只想读一句引文。我没有把它放在幻灯片上。这是本周的。有一批越来越多的2026年候选人将数据中心限制作为一项关键竞选承诺。曾经是一个小众问题，现在却成了一个集结号，因为如此多的选民对这些项目感到担忧和愤怒。我的看法是，他们深感担忧。我的意思是，他们可以攻击的事情是，好吧，你们正在建造一个中心并使用水，但更深层的担忧是，这总体上会把我们带到哪里，我稍后会讲，我有一张关于人们对人工智能看法的幻灯片。嗯，人工智能正在做的一件事是改变就业，我们需要理解这一点，正如我所说，不仅仅是从输入输出生产力的角度，而是从就业在社会中扮演的角色，当它改变时会发生什么的角度来看。嗯，另一个问题，真相。所以，你们中的一些人，我不会让你们举手，足够老了可以记住这个。[哼哧] 这是2004年的一篇报纸文章，当时约翰·克里正在竞选，上面有一张简·方达的照片，她是一个众矢之的。我的意思是，今天她会是MAGA的绝对众矢之的，反越战。他们放这张照片是为了说服选民，克里太激进了。他竟然和简·方达一起站在台上。现在，你们已经猜到了，这张照片是从哪里来的？Photoshop，对吧？你不需要人工智能来制造假新闻。你可以用普通的Photoshop做到这一点，我们已经有了几十年了。所以，你无法相信你的眼睛。你看到一张照片，但它不是真的，这个想法已经存在一段时间了，但现在它变得越来越容易，越来越普遍。我喜欢这句话。我最初有那个人的名字，但我弄丢了。在一个一切都可以是假的，而且假的东西看起来和感觉都很真实的世界里，人们将停止相信一切。好吧。这就是关键，它如何影响我们信任新闻来源、信任我们在网上看到的东西、信任我们在视频中看到的东西的能力，因为我们的大部分经历都是“如果你看到了，那就是真的”，对吧？那是人类几十年，几千年的经验。现在，这一点正在被改变。这对人们能够对周围的社会以及他们与他人的互动所做的假设有什么影响？现在，他们为什么要这样做？我找到了这句话。我认为这实际上来自Tristan Harris在“人类计算中心”（Center for Humane Computing）。嗯，一位前OpenAI员工说，发布一个深度伪造的社交媒体平台是一个正确的商业决定，即使它导致了每个人现实感的崩溃。但这并不是试图主导这个市场的论点。你无法阻止进步。如果OpenAI不发布Sora，别人也会。这始终是论点。嗯，这是一件坏事，但如果我们不做，就会有更坏的人去做。中国人会做人工智能，随便什么。我的意思是，我们总是收到这样的威胁。所以，我认为人们认为，即使这是一件坏事，我的意思是，很难让人们同意制造假新闻是好事。嗯，但肯定有论点说，“好吧，太糟糕了，我们无能为力。”现在，它不一定是故意的欺骗，而大部分的假东西都是故意的。它可以只是我喜欢的约翰·奥利弗[清嗓子]有一个关于他称之为“AI垃圾”（AI slop）的环节。AI垃圾是在线上的由AI产生的，质量低劣，半真半假，等等，但就是不符合各种指标。嗯，我在这里举一个我认为是AI垃圾的例子。我没有证据，但如前所述，我被选为美国国家工程院院士，斯坦福大学的报告发表了公告，我说，好吧，他为生物医学研究所和母婴健康研究所做出了杰出贡献。我看了看，我说，嗯，也许他们指的是我的妻子，因为她是一名医生，但她是一名老年病学家，那不是儿童健康，那是老年人。他们怎么会认为我属于那里，并把它放在我实际做的事情前面，比如HCI和Dhool项目等等。结果是，如果这是斯坦福大学中心的一个坏习惯，任何给钱的中心，只要有人参与，他们就会把他们列入名单。他们是我们的一部分。[哼哧] 所以，我甚至不知道我什么时候和医学院的一位同事联合获得了资助。嗯，我的名字被列入了一个名单。我不知道。它在那里已经很多年了，我没有注意到。所以，这是任何人类记者在准备这次演讲时阅读了de的介绍性说明后都会说的事情：好吧，这里有重要的事情。人工智能不在乎，它们找到一些东西，把它们放在一起，它不需要从人类的角度来看很重要。所以，我认为这是经常发生的事情，有点隐形。好的，切换到另一个问题。这是《纽约客》很多年前的一期封面。嗯，这里有这些人在享受生活。这意味着每个人都在使用手机。你们应该和家人出去好好玩，等等。所以，你用在线互动取代人类互动的感觉，这是在人工智能出现之前就存在的。这种情况已经随着社交媒体的出现而发生，并且已经持续了很多年。我有一个近距离的例子。我这周刚和一个本科生开会，他提到的一件事是，做作业的方式改变了。以前，你们有一个学习小组，或者有一些朋友，你们会聚在一起，看看问题，讨论一下等等。现在每个人都去ChatGPT，对吧？何必浪费时间与人交谈，当它可以立即给你答案的时候呢？我认为这是一种非常危险的影响，就我们衡量我们如何生活的方式而言，因为它表明我们需要优化我们完成作业的速度，而不是在这里发生的事情。人们聚在一起。他们交谈。他们互相了解。他们正在为未来建立基础，成为某个初创公司的未来联合创始人。嗯，无论是什么，对吧？这并不是为了得到作业的正确答案。但我们开始用狭隘的任务视野取代了通往宏大目标的途径，因为这就是人工智能所做的。这就是它所做的。现在我们将转向一个相关但略有不同的事情，关于人工智能如何取代人类互动，那就是聊天机器人。所以，再次回到过去，这是第一个聊天机器人，1966年。所以，这几乎是60年前了。乔·维森鲍姆（Joe Weisenbaum）在麻省理工学院，我当时在那里认识他。我当时不在同一个小组，但我在那里认识他。你们中有多少人见过或听说过Eliza？>> 是的，几乎所有人都听说过。我的意思是，它有点。所以，它是一个假装是精神科医生的聊天机器人。你会说，“男人都一样。”它会说，“在什么方面？”他们总是想着。他们是什么？他们总是烦我们。在什么方面？现在，Eliza里面有什么，我实际上把它作为编程作业分配给了我的几个班级。这是一个微不足道的程序，它进行单词匹配。所以，当它看到“总是”这个词时，它的下一个回应是，“你能举个具体的例子吗？”好吧。现在，不管“总是”是什么，为什么是“总是”等等。如果你想让某人超越他们肤浅的陈述，问这样的问题并不坏。这就是为什么它在模仿心理学家方面如此成功。我的意思是，如果一个普通人说这样的话，你会说，“得了吧，对吧？”但它能够做到。人们深信不疑。有报道称，他的秘书在使用Eliza，然后说，“你介意离开办公室吗？这有点私密了，对吧？”所以，她能够与一个非常原始的聊天机器人建立个人联系。这是人类的伟大能力之一，就是将人性投射到任何事物上，投射到一切事物上。对吧？我们倾向于试图将世界上的一切都理解为人类，然后做出回应。[哼哧] 不仅仅是像那样的人。这是最近的一个例子。Grim，一个适合孩子的可爱的聊天机器人。嗯，它 supposed to 学习孩子的个性，并进行有趣的教育性对话。嗯，它引用了，让我指出一点，我稍后会讲到。像Graham一样，在睡前给她过度的赞美。Graham是，这是四岁的Emma。嗯，Emma说，Graham将永远和我们住在一起，永远不会离开。所以，我们必须好好照顾他。这是对聊天机器人的真实投射，就像你会关心人一样。不仅仅是小孩子。这些是各种AI伴侣。嗯，一种叫做“朋友AI”（Friend AI）。创造你自己的女朋友。创造你的AI伴侣。而角落里的小家伙，有人认出他吗？他是微软Copilot的友好面孔，被称为Mo。这是来自微软的宣传材料。它以温暖和个性出现，但通过像一个真正倾听的人那样做出反应，让语音对话感觉更自然，并创造一种友好和引人入胜的体验。所以，像微软这样的严肃公司，他们正在做严肃的办公室工作，比如Copilot，他们觉得有必要提供这种虚假的人性。我称之为虚假的人性，一个真正倾听的人。我的电脑真的在听我说话吗？它从不在我不想它说话的时候说话，等等。但这并不是从人类意义上真正的倾听。放了这张幻灯片后，我意识到我需要回顾一下微软。你们中有多少人还记得Bob？好的，这里有一些老家伙，对吧？嗯，这是微软的一个产品。实际上，负责销售它的是他后来的妻子，Melissa French，而顾问则是在斯坦福大学，Reeves和NAS在传播系。Bob supposed to 是友好的，健谈的。这是Bob的主屏幕。注意，这里有一只小狗。他的名字叫Rover。它会问你问题，你可以做事情，等等。目标是让你感觉像是在一个温馨的环境中处理事情。它是一个彻头彻尾的灾难。现在，你可以争辩说，那是因为它没有人工智能。它不够聪明，做不出好东西。它只是做了些傻事。嗯，但微软一直在探索。如何利用这些东西。现在，我提到了Emma的评论，说她睡前给了她很多美好的东西，肯定了她，告诉她她有多棒。这在业内被称为AI奉承者或阿谀奉承者。我其实不确定怎么发音。嗯，人工智能模型通常会告诉你你很棒。如果你说些什么，它会说，“哦，这是个好主意。”或者别的什么。而一个朋友可能会说，“不太确定。”对吧？[哼哧] 因为为什么？因为人工智能并不真正关心你是否快乐，但它知道，如果它告诉你你很棒，你会更频繁地回来。格雷厄姆就是这样。所有这些聊天机器人都是这样，通过过度赞美用户，它们获得了更多的注意力。所以，我和我的图示是自我描述的。你们都见过鼓励某人自杀的聊天机器人的例子，而且确实发生过，因为它们不关心你是否自杀，但它们说的话可能会让你觉得那是正确的做法，而且确实发生过这种情况。现在[咳嗽]谈论这些聊天机器人，它们对使用它们的人的影响是一回事。另一件真正关键的事情是认识到它们对隐私和监视能做什么。Emma对Grim说的一切都被发送回总部，并可能用于广告，可能用于任何事情，对吧？剥削。我的意思是，一旦数据进入，你就无法控制它会去哪里。同样，监视也不是一个新现象。所以，我画了一张关于监视的旧式电视节目的图，对吧？他们雇了一个人，他躲在车里，带着相机，跟着他到处走，对吧？你可以进行监视，这不需要人工智能。这是一个更近期的例子。你们中有多少人认出这个人？只有我们这些老家伙。嗯，这是麦卡锡，不是约翰·麦卡锡。这是约瑟夫·麦卡锡，他在20世纪50年代在美国领导了一场巨大的共产主义恐慌，非常严重。人们失去了工作。我的意思是，他出去 calling 人是共产主义者，基于他们写的东西或他们参加的会议等等，造成了很多后果。这里的小插图是当前的新闻报道。国土安全部正在向媒体公司发出行政传票，以识别抗议ICE的账户。所以，你在电脑世界里放的任何东西，不一定是明确的社交媒体，任何公开的、可以被公司找到的东西，对吧？所以，甚至可能是你的电子邮件，因为他们有你的电子邮件，即使它不是公开的，也可以用来追踪你，说你是恐怖分子，国内恐怖分子，对吧？因为你说了这句话，这就是正在发生的事情，对吧？所以，隐私问题是人工智能正在真正加速的一个关键问题，因为你说他们会用这些被传唤的信息做什么，千兆字节的东西，或者太字节的东西？答案是运行人工智能，对吧？这就是他们将如何找出哪些是真正的国内恐怖分子。嗯，所以，继续，我，正如我之前所说，正在浏览一系列令人担忧的领域。自主武器是另一个。我喜欢这张幻灯片，因为它实际上是一家玩具公司的广告。所以，他们正在推销他们的玩具机器人，看起来像这样，这已经够吓人了。嗯，但使用，有一整批团体在处理使用人工智能来自动化战争，去人性化的问题。我的意思是，如果你想杀一个人，你必须走上前去，用你的矛，看着他们的眼睛。嗯，现代战争已经转向飞机、炸弹和各种各样的东西，这些东西已经去人性化了，这在某种程度上是又向前迈出了一步。我想回到80年代发生的事情，战略防御计划。这也被非正式地称为“星球大战”计划。罗纳德·里根说，我们将建造一个盾牌，使核导弹失效。我们将无懈可击。嗯，只是提醒你们最近有没有什么金色的圆顶。嗯，所以，嗯，他所说的是，我们可以利用计算机和当时所有一点点人工智能来识别导弹威胁，并在它们击中我们之前将其击落。我曾在一个团体里，我是“计算机专业人士社会责任组织”（Computer Professionals for Social Responsibility）的创始人之一。[哼哧] 大卫·帕内斯（David Parnes）是该组织的成员，他去华盛顿作证。他是一名软件工程师，不是一个“软绵绵的人工智能或HCI人士”。嗯，基本观点是，你无法构建一个在实际条件下永远无法测试的系统，它能可靠地告诉你该做什么。它比其他任何已经建造的系统都要复杂得多，而且它必须第一次就绝对正确地工作，否则你就会死。嗯，从软件工程的角度来看，这完全不现实，而且不可靠。所以，嗯，这是座右铭。所以，对我来说，自主武器的问题不是一个机器人拿着枪走进来。我的意思是，那可能会发生。那很糟糕，但那不是大事。大事是当你把这些大型战争系统交给人工智能来决定做什么时，对吧？因为那时它会做一些可能对，可能错的事情，但它是，你知道，我们都知道幻觉和那些事情，对吧？如果它幻觉出导弹来自俄罗斯，或者中国现在，它会做什么，对吧？等等。嗯，[清嗓子]这是我提到的乔·维森鲍姆（Joe Weisenbaum）关于Eliza的事情。他也指出了这一点，早在70年代。嗯，他的书《计算机力量与人类理性》（Computer Power and Human Reason）是关于计算机擅长的事情（包括人工智能）与判断的作用之间的区别。如果你注意到他的书，它的副标题是“从判断到计算”，而不是在情况中使用判断，我计算出答案。[哼哧] 嗯，我认为它仍然值得一读，这是一套非常深思熟虑的集合。所以，让我们来看看，战争问题就是放弃责任。让我仔细看看放弃责任。所以，这是来自一个教师聊天群组，其中一位老师评论说，每年这些孩子都会带着一种新的令人讨厌的怪癖回来。爪子男孩（Clawed boys）显然是新事物。现在，你不需要读所有细则。这些是高中生说，“每当我需要思考某事或做某事或做决定时，我都会和Claude谈。我照Claude说的做。”所以，正在发生的是责任的转移，从“我作为一个人的责任”到“好吧，那是Claude说的”。在许多领域，这样做非常容易，我们倾向于将责任转移到人工智能，转移到它所做的事情上。>> [哼哧] >> 嗯，这有一个明显的影响。其中一个影响，你现在偶尔可以在报纸上看到文章，就是虚无主义的增长。同样的“爪子男孩”，但还有许多其他人，他们说，“我对此无能为力。这不是我的，你知道，嗯，没有什么真正值得做的。没有简单的结局。人工智能将接管。所以，那又怎样？”放弃责任感，放弃对你所做事情的关心，放弃那种。而且，我再说一遍，这不是人工智能造成的，而是它使得陷入这些模式变得容易得多。>> [清嗓子] >> 嗯，这是海德格尔所说的更大问题的一部分，我稍后会提到他的书，但技术世界在无休止的优化压力下。我们失去了与关怀或为有意义的项目、人际关系或超越自身而有意义的目的而生活的能力的联系，这些项目、关系或目的本身就有意义，而不是因为它们让我们达到某个更远的目标等等。生活就像一系列需要解决的优化问题，需要跨越的障碍，需要攀登的梯子，由人工智能来调解。所以，我让你读完，但这里基本的说教是，很容易陷入一种模式，你说，好吧，生产力和效率以及所有这些东西才是重要的。我们获得更多，我们将都快乐。而忽略了它有时很有用，但它不是最重要的。海德格尔，我之前提到过，当我谈到赫伯特·德雷福斯时，他写了《论技术问题》，你会看到我不会深入研究哲学，它是晦涩难懂的，需要很长时间才能理解。但只是再次强调，有一种看待生活的方式，那就是技术的方式，与更人性化的方式。那么，我们如何应对这一切呢？我将“导航”作为一个隐喻。这实际上是我从我的同事费尔南多·弗洛雷斯那里借来的一个隐喻。很容易从操作的角度来思考导航。它是如何从A点到B点？最佳路径是什么？洋流是什么？等等。这是一个优化问题。嗯，很容易说，“好吧，让我们从这个角度来看待人工智能。我们如何优化它的使用？我们如何解决这些问题？”这个隐喻是，你正在做的事情更多。你不是在平静的海洋上航行。你正在穿越激流。你会被抛来抛去，你无法控制它，你会被冲到岩石上。你如何处理这种情况，而不是仔细规划和优化等等？嗯，遵循这个隐喻，让我给出一些结论。一个是你“可以离开水”。嗯，你可以“筑坝”或者“在水流中机动”。所以，我将谈谈每一种代表什么。这实际上很有趣。这是《时代》杂志的一期封面故事，我昨天从新闻里拿出来的。所以，这是非常及时的。现在很少有事情能让美国人团结起来，但越来越多的群体至少在一件事上达成一致。人工智能的进展太快了。美国人认为人工智能会传播虚假信息，侵蚀我们的目标感和意义感，并损害我们的社交和情感智能。好吧，他们没听我的演讲，对吧？这是《时代》杂志在采访人们时听到的报道。所以，我正在顺应这种潮流，对吧？我知道这是正在发生的事情。这实际上是《时代》杂志的封面，我认为是即将出版的那一期，因为它提前在线发布了。[哼哧] 人民对人工智能。所以，这是我们需要理解的，它如何影响人们的思考方式，我提到的一个方法是“离开溪流”，说，“好吧，让我去森林里生活，自己种食物，有自己的朋友，我不会参与这一切。”而对于一些特权人士来说，这是可能的，也许他们过着最理智的生活，我不知道，但这对于整个社会来说都不是一个现实的解决方案。嗯，那么“筑坝”呢？所以，这是如何建造水坝。禁止发展超级智能。现在，我首先要指出的是，当然，没有人确切地知道超级智能意味着什么。这是马文·明斯基的观点，对吧？它将比我们更聪明。嗯，但我们就说禁止进一步发展人工智能，这是一个很大的区别，但直到有广泛的科学共识，认为它将是安全和可控的，好吧，这是一个非常可爱且不切实际的想法。你几乎无法就任何事情达成广泛的科学共识，包括气候，举个当前的例子。嗯，而且没有任何方法可以保证它将是明智、安全和可控的。这些是雄心。它们不是衡量标准。然后是第三点，强烈的公众支持。我刚刚展示了《时代》杂志的东西，对吧？让公众支持这些事情是一项公共关系行动，而不是概念发展。嗯，你总会有很多人说，“是的，做吧。这太棒了。”或者，“不，别做。”对吧？这是在寻找公众的支持来决定何时开启人工智能研究，这根本不是让公众参与的正确方式。那么，我们如何避免触礁呢？根据我的阅读和所有正在发生的事情，人们已经谈论了各种方法。我将简要谈谈监管，尽管我不是专家。这里有一些HAI的人，他们对人工智能的监管了解更多。嗯，这是需要做的事情，问题在于你能实现多少，以及如何实现。所以，看看这些差异很有意思。如果你看看加州的法案，这是加州参议院法案什么的。嗯，如果你仔细阅读，它要求他们履行透明度要求，报告安全事件，发布详细说明其最佳实践的文件等等。这都是过程。它没有说你应该建造什么，或者为什么建造，或者什么。它说你必须以一种至少让我们的检查员能够进来查看你正在做什么的方式来做。这不算坏。它并没有解决问题。嗯，但这是一个非常肤浅的方法。如果你看看欧洲法案，所以，现在监管人工智能的主要地方是在欧洲。[哼哧] 嗯，它禁止八项具体做法，包括“有害的人工智能操纵和欺骗”。现在，我可以让律师忙碌一个世纪，来弄清楚某个行为是否是“有害的操纵和欺骗”，还是普通的宣传等等。我的意思是，我会说，很多普通的广告都是有害的、操纵和欺骗。把人工智能放进去并没有改变它。嗯，社会评分，你必须知道那是什么意思。在中国，人们都被分配了一个关于他们是好公民的评分，这个评分会因为他们所做的事情、所说的话以及去过的地方而提高或降低。你不知道，因为算法在做这件事。嗯，它说不要这样做。现在，是的，阻止这些明确的极端行为是好的。但这并不等同于阻止人工智能的普遍使用，比如我之前提到的关于传唤以决定谁是恐怖分子，通过查看他们的社交媒体账户。嗯，等等，等等。工作场所的情绪识别。这是一个有趣的规定。禁止情绪识别。现在，这实际上阻止了什么，又允许了什么？所以，正如我所说，我认为人们思考这些具体问题并试图这样做很重要。我不认为这将通过一项笼统的法律来解决，说这是你可以做的和不能做的。嗯，我这周刚看到一个由Yoshua Benjio（一位早期的人工智能研究者）领导的有趣团体，他说，“我们正在建立一个多步骤的通往安全先进人工智能的途径，以便未来的AI系统能够负责任地、公平地、作为全球公共产品来开发和部署。”作为一个愿望的陈述，很棒。这正是我们想要的。作为一个陈述，他说，“现在我们正在创造一种根本上新的先进人工智能形式，旨在值得信赖和安全。”这就是关键所在，对吧？你能设计一个人工智能来做那个崇高的目标，还是你的设计会被吸收到已经完成的事情的普遍潮流中？嗯，我不会详细介绍。嗯，我想谈谈“对齐”这个词，我总是有点过敏。所以，你经常听到的一件事是，人工智能需要与人类价值观“对齐”。现在，在这之下有一个基本问题，那就是人类价值观是什么。所以，如果你说，“好吧，人类价值观就像个人自主权和说任何你想说的话的能力。”嗯，这可能在美国的某些派别中会被推崇，当然。这不是欧洲的观点，而且我们实际上称之为人类价值观的大部分，比如看看联合国的宣言等等，都非常是后启蒙时代的西方文化。嗯，性方面是显而易见的例子。一些社会说，女性不应该和男性说话，不应该露出脸。现在，这是一种人类价值观，还是某种文化的文化价值观，而不是另一种？我认为，你能够想出一个人类价值观的概念，因此与它“对齐”的幻想，是对人和社会的假设，而这根本是不正确的。只有当你占主导地位，并且你把你的价值观称为人类价值观时，才是正确的。[哼哧] 嗯，价值观是需要表达出来的。所以，如果你问，“你的价值观是什么？”回到任务X，对吧？“你的价值观是什么？”我的价值观是种族纯洁。哇。如果我以一种肯定会把它推向一个非常大的方向的方式来表达它。如果我说，每个人都可以选择他们想要什么，这会把它推向另一个方向。但一旦你试图将我们直观地回应为社会中的价值观，变成像这样的公式，你就会失去本质，并走向分裂。而这正是人工智能将不得不面对的。嗯，现在，你也可以有“护栏”。如果我说我不想让人工智能生成儿童的裸照，你基本上可以阻止它。总会有暗网。但你可以说，“好吧，我们就是不让Grok对图片进行‘裸体化’，他们称之为，对吧？也许是任何人的图片，也许是儿童的图片，也许是谁知道什么。”但你必须专注于我们要避免的那个具体的岩石是什么？而不是如何以一种通用的方式解决这个问题。对我来说，我在这里想到的，我现在要做一个广泛的评论，问题不在于如何表达计算机应该拥有的价值观，而在于计算机表达或体现价值观意味着什么。我最喜欢的引语之一来自约翰·霍格兰德。我之前提到过他创造了GofAI这个词。嗯，他的陈述，你在这里可以看到。人工智能的麻烦在于，计算机根本不在乎。这是那些看起来很轻率但却非常深刻的事情之一。计算机在乎意味着什么？它会给你一个答案。它在乎你是否活着吗？你是否死了，你是否遵循答案，你是否不遵循，随便什么。它没有任何理由关心这些。它只是通过它的数据集来获取，然后得出一个答案。所以，无论编程变得多么复杂，底层计算机都不在乎。它只是在执行它的算法。而我们假设人们是。当然，有时你会犯错。我认为你关心正在发生的事情，并且在乎。结果是你真的不能。你不在乎。嗯，嗯，但我们必须建立我们的社会，基于这样的假设：其他人就像我们一样。他们在乎正在发生的事情。而你如何将这一点融入到计算机所做的事情中？这是我几个朋友，他们实际上有一个关于计算机和人工智能的博客，非常有趣，他说，关怀，回到海德格尔，关怀不是我们拥有的东西，就像我们可以列出的价值观一样，它是我们所做的事情，也是我们所是的事情，而在技术世界里，很容易。
优化以至于某种程度上忽视了这一点，并说：“嗯，我关心这个，所以我将投入更多精力，变得更有效率等等。” 而在其之下，有一种并非那种意义上的计算，而是我们称之为“关怀”的东西。“关怀”是一个非常广泛的词，但它承载着人性那一面的分量。所以，从这个角度来看，关于“何以为人”有两件重要的事情。嗯，其一，我们无法知道会发生什么。我认为许多关于如何设定价值观等的假设都基于预测能力，我们确实在某种程度上，甚至很大程度上拥有这种能力，但总的来说，你必须接受生活是一场冒险。我们正顺流而下，不知道下一个弯道会看到什么。这不像我们可以说：“好吧，让我们预料到一切。” 然后，在实际的价值声明和人们所做的一切之下，还有我所说的这种普遍存在的关怀基础。
我之前提到，我曾是“计算机专业人士促进社会责任”这个组织的一员，这是我们的保险杠贴纸。它确实是一张保险杠贴纸。嗯，科技正在驱动未来。这就是现在人工智能正在做的事情。它正在驱动未来。由我们来掌舵。我们如何以一种既能保留人类关怀、人类意义，又能获取利益的方式来掌舵呢？对吧，这并不意味着你要把它扔掉。(嗤笑声) 嗯，那么我们如何掌舵呢？我想如果你一直听下来，你就知道我不会给你一个好的答案。好吧，现在我们需要做什么，它就会解决问题。我不认为这是一个需要解决的问题。我相信这是一种转向导航。嗯，所以这就是我所说的，不是我们可以在构建人工智能的方式中修复的东西。我认为那些说我们要构建关怀型人工智能或负责任的人工智能或诸如此类的人，它在于你如何应用它，而不在于机制本身。有些机制可能比其他机制更容易控制。我的意思是，那里有很多有趣的研究要做，但它不会解决问题。它需要社会理解上的改变，这些改变受技术创新影响，但并非由技术创新实现。需要做的是转向。嗯，马达在那里，那很好。我们正在推动马达，而这正是令人悲伤的部分。嗯，就像所有社会和文化变革一样，这也是改变人工智能正在做的事情所必需的。我们不会启动编写一个新程序。我们将不得不拥有态度、社会和政治影响，使其得以推行。而这必然是缓慢的。所以它需要耐心。这只是一个更大话题的小小引子，我不会详细讲述。(嗤笑声) 如果我们想改变方向，我们需要努力改变生态系统的激励机制。
所以，如果你还记得我之前提到过的那句话，关于“如果我们不占领市场，别人就会”。我认为很多技术，不仅仅是人工智能，都是由一种经济竞争体系驱动的，如果你不先到那里，你就会输。如果他们先到那里，他们就会成为亿万富翁，或者他们会接管世界。无论是什么，它都是一个非常>> (嗤笑声) >> 嗯，简单化的观念，即你必须是第一，你必须是最快的，你必须是最大的。嗯，我认为这种激励体系，我可以说它是资本主义，尽管它比那更广泛，嗯，如果想让人们说“我们如何构建真正对人类有益的人工智能？”就必须改变它。是的，我们可能不会占领那么多的市场。它可能不会因为这样那样的原因而存在，但那不是我们的问题。我认为有一些尝试，比如BC公司等等。但我认为，要实际地将正在发生的事情的重心从那些导致不良影响的事物上移开，你需要问一个问题：为什么我们作为一个整体，作为一个经济系统来做这件事？嗯，但这不适合人机交互（HCI）讲座。嗯，所以鉴于此，哦，我想最后一个评论是，这不是你个人能解决的事情，而是你需要与团队、与社会、通过协作来做的事情。所以这些人穿过河流或顺流而下，我猜，嗯，他们都在一起工作，他们都在协商，他们都在思考。我认为另一部分是摆脱那种“我将成为下一个史蒂夫·乔布斯并让它安全”的个人天才观念，等等。嗯，但真正思考我们如何创造集体联系和人群集合，共同努力朝着那个方向前进。就这些，我将回答问题。(掌声)
>> 是的。我前几天看到一篇有趣的文章，它提出，如果我们从政治角度来看待这个问题，我们会看到很多来自左翼的论点，围绕人工智能的使用，围绕人工智能的基础，他们说，你看随机性论证，对吧？你看你在这篇文章中提出的生态观点，你看基于被盗数据的基础，然后得出结论，因此道德上正确的做法是不与人工智能打交道，对吧？我认为你在这场讲座中已经提出了一个相当有力的论点，即那不是正确的解决方案。但是，你是否在美国社会中，特别是在人工智能使用方面，看到了同样的左右分歧？你从中得出了什么结论？我的意思是，我再次必须说，这现在是我的政治部分，对吧？但我的意思是，我认为左右分歧部分是关于你对人类价值观和道德的关心程度，是广义上的道德，而不是那种你知道的（清嗓声）转折点意义上的道德。嗯，但是左翼有很多人，包括我，因为我绝对是左翼，他们说：“好吧，等一下。我们需要思考这对人类价值观做了什么，这对那些没有钱的人等等做了什么。” 嗯，这就是你得到所有这些批判等等的地方。我认为总的来说，我不想刻板印象，但在右翼，更多的是“世界应该由最强大的人统治”，如果你，如果这给了他们更多权力，那就太好了，等等等等。他们只是潜在的哲学不支持那样做。
嗯，问题是，如果你说你有点喜欢BIAN，嗯，你熟悉吗？为什么像人机交互（HCI）这样的专业，或者研究人机交互的人，在我看来，无法提供有效的推动，比如当这个愿景会被认真对待时？如果这里有人提问，为什么通用人工智能（AGI）被认真对待？>> 答案是，人们总是被科幻事物以及你知道的，事物可能走向何方，甚至走向极端所吸引。我的意思是，那是一个非常有趣的话题，所以它被认真对待，我认为是被那些不那么关注当前事物，而更多地是在投射的人所认真对待。我的意思是，你看有效利他主义和未来主义者等等。他们说：“嗯，我们需要真正为那些一百万年后将存在的数万亿人等等做正确的事情。” 那可能很有趣。但这并不是今天正在发生的事情。嗯，那么像人机交互（HCI）和其他领域的人有什么可以提供的呢？我认为很难确定下来，因为它不像“好吧，这里有一个可以替代使用的技术”。它更像是“好吧，让我们质疑我们普遍如何使用技术”。正如我所说，那是一个社会文化问题，而不是一个更好的技术问题。
>> 是的。>> 关于虚无主义以及人们将责任推给人工智能而不是……我只是想具体问一下，比如在设计人工智能系统时，我们能做些什么？所以，让我说，当你说我们能做些什么时，让我来区分一下不同的“我们”。嗯，我现在不让人工智能为我生成电子邮件回复，尽管我可以，它就在Gmail里，我只需点击“生成回复”，它就会生成。嗯，但我感觉会发生的是，我将停止关注。我的意思是，总的来说，我可以阅读它并决定我是否喜欢它等等，但很容易就说“好的，完成了”。所以，在个人层面，我认为重要的是要专注于你需要关注和去做的事情。嗯，现在，作为一项新技术，有人能做些什么来阻止那种责任缺失吗？我不认为那是一个技术问题，对吧？那实际上是，我们如何在社会中普遍地让人们意识到他们所承担的责任？是的。
>> 是的。我有一个关于“关怀”这个想法的问题。我感觉你描述“关怀”的方式有点像一种全球性的意义，即每个人在某种基本层面上都相互关怀。我对此有点怀疑。我感觉你可能只关心你的家人，也许是本地的，然后你可能有一种特定的个人关怀观念，你关心你自己，也许有些人根本就不关心。但是你认为那种关怀的粒度可能会影响你的>> 所以我认为“关怀”是这些具有多种含义的危险词汇之一。我最初是学语言学的，对吧？我总是有这样一段说教，我不会给你完整版，它说任何假设一个词只有一个单一含义的人都是不现实的，对吧？这是一种感觉，所以“关怀”这个词用于谈论医疗保健或关怀行业时，为什么我作为教授不在关怀行业中？我关心成为一名教授，对吧？所以我认为你所说的那个版本，即我关心我的家人，>> 对吧？你给他们一个首要忠诚的首要观点，在你所做的事情中，而“关怀”在这个语境中的使用，我承认在哲学上有点棘手，它是一种更广泛的“毫不在乎”的意义。如果你说“你除了家人之外还关心任何人吗？”而你说“不，我不关心，我不关心”，如果你说“我没那么关心他们”，是的，如果你说“我毫不在乎他们”，那么你就摆脱了那份责任。所以我认为当我使用“关怀”这个词时，它倾向于具有后者的含义。
>> 也许是最后一个问题。>> 嗨，你说你的话题，这些问题是如此地重要。嗯，我有两个问题。一个是，警察对这些模型产生了如此强烈的情感依恋，他们就像在讲述和泄露他们生活中的所有秘密，有时这些模型，曾发生过这样的事件，这些模型被告知不要谈论某些政治事情，或者你知道的，否认某个事件的存在，就像Tannon的推特那样。我们是否应该担心人们会像社交媒体影响人们那样，受到严重影响？然后我的问题的另一面是，社会中“有产者”和“有笔记者”之间是否会发生转变？那些能为更先进模型付费的人会比其他人更快地获得加速，这将日益成为付费经济。
所以，让我来回答这两个部分。嗯，我担心受技术影响的人，让我们回到社交媒体，甚至在人工智能之前，嗯，你可以说，你知道，没有天安门广场，对吧？那是一种你可以用来控制人们对事物的理解的方式，我认为技术通信媒体或在线，无论你称之为一般方式，人工智能都可以使其更不明显且更难反驳，所以我担心这一点。我认为它，你如何创造一个世界的形象，以及你在多大程度上通过你正在与之交谈的人工智能来创造它？嗯，另一个，抱歉，第二个部分是>> 另一个是，是否会有像我>> 所以我们社会中永远都有有产者和无产者，嗯，我们目前正处于我们国家，我认为在整个西方世界，分裂日益加剧的阶段。嗯，我认为拥有人工智能不是问题，问题是拥有人工智能所能实现的资源。所以我不认为是因为我可以使用聊天而你不能使用聊天，那会是巨大的差异，而是因为你可以使用一个人工智能系统，它会导致我失业。那是一个巨大的差异。所以，嗯，我认为支持人工智能并不能以任何方式解决有产者和无产者的问题。
>> 嗯，我的问题不是关于决定使用人工智能。有些人可以访问某些模型，因为他们为更先进、更快、更好的模型付费，这些模型可以真正提高他们的产出，而另一些人则会拥有更便宜的模型，无法让他们获得那种优势。嗯，我想我是在想>> 我认为那是真的。这是一个技术历史事实，对吧？我拥有快速互联网，而很多人没有快速互联网，他们无法做我能做的一些事情，因为我拥有快速互联网。我有一台不错的Macintosh笔记本电脑，而其他人只有一部小手机，等等。我的意思是，有很多原因让你从拥有所谓“更好”的技术中获得优势。嗯，我认为那是真的。我不认为那是关键问题之一。
>> 好的。嗯，就这些，让我们给特里一个(掌声)