Transcription
曾有一张前总统特朗普的著名假照片，据称他在爱泼斯坦的飞机上，被未成年女孩包围。这张照片本应是一张相当有损形象的图片，而那位著名的演员马克·鲁法洛在推特上将其转发给了他的一百万粉丝，因为他觉得“哦，是的，这正是特朗普会做的那种事”。当这张照片被揭穿是假的后，他感到很尴尬。所以我真心希望，也真心相信，无论你持何种政治观点，你都不想被欺骗，不想让这次选举基于虚假信息来决定，而是希望它以有序的方式进行。欢迎大家回到《投资》节目的又一期。我非常高兴能请到奥林·奥尔和我一起。在节目开始前，我提醒他，我曾经有点令人讨厌地在亚利桑那州斯科茨代尔的一次会议上找到他，并向他介绍自己，在我眼中，他是一位传奇人物。奥林，与其让我列举你的成就，（尽管我可能会在节目中这样做），你能否先给我们介绍一下你自己？这是一种荣幸，你知道，谈论自己是我最喜欢的话题之一。我出生在美国，我母亲在我一岁时带着我和我哥哥搬回了以色列。我在以色列长大，然后我母亲和她的丈夫搬到了澳大利亚，我在大约13、4岁时回到了美国。之后我一直在这里，作为一名学者，我在华盛顿大学成为了一名计算机科学教授，但也创办或联合创办了几家初创公司。直到今年，我联合创办了一家名为 TR media.org 的非营利初创公司，致力于打击政治虚假信息。所以，这就是“长话短说”。我们将深入探讨“真实媒体”，但我也想指出，你是艾伦人工智能研究所的创始首席执行官，这是一个高度相关的话题。我认为你已经担任了“主要风险投资”的风险合伙人二十年了。“主要风险投资”当然是西雅图地区最早的风险投资公司之一，如果我的记忆没错的话，可以追溯到20世纪90年代末。是的，我已经在那里待了那么久了。而且你几乎获得了所有荣誉，包括罗伯特·安吉洛纪念奖、IGCI的杰出论文奖、AAAI会士、1993年的国家青年研究员奖，以及ACL和IUI的两个“时代论文奖”，我还可以继续说下去。所以，我只想感谢你抽出时间来做这件事。我们节目开始时总是问嘉宾一个问题：你的核心价值观是什么？在你价值观体系中最重要的东西是什么？我给你两个不同的答案，其实还有更多。我猜首先，我会说家庭和个人事务，健康永远是第一位的。那些为了其他事情而忽视这些的人，虽然可能有很好的理由，但从职业角度来看，我从未有过这样的经历。我会说，生命太短暂，不值得去做你并不极其兴奋的项目。所以，有太多的技术问题，太多的迷人的商业谜题，而我们的时间太少了。所以我更喜欢选择我认为真正有价值的事情，无论是帮助消费者更好地购物（这是我们现在正在做的事情，因为我的一些初创公司正在打击政治虚假信息），还是现在我正在做的事情。我早上醒来时总是感到非常兴奋，因为这不是“我必须做这些无聊的事情，但它会非常有利可图”，而是更像是“我热爱我所做的事情，嘿，它可能有利可图，也可能不，但这太酷了，太棒了”。我经常给我的孩子们讲一个故事，我九年级时有一位拉比，我和他相处得不太好，但他有一句话我一生都铭记于心，他说英语中没有比“消磨时间”更好的表达了，因为一旦它过去了，它就永远消失了。这对我的影响很大，非常大。所以，我想深入探讨“真实媒体”。我们正在录制这个节目，距离美国大选大约还有40天。这次选举可能是历史上在最短时间内花费最多的选举。这确实是我们进入“全面人工智能时代”以来的第一次选举，或者我们可能还没有进入“全面人工智能时代”，但我们肯定已经有了足够的能力来制造真正的深度伪造。我曾开玩笑说，有时现实比深度伪造更有趣，因为当今世界各地的政客们……但尽管如此，深度伪造确实是一个问题。所以，我想请你慢慢地为我们解读一下，你认为这些人工智能深度伪造最大的弊端是什么？我想先阐述一下问题，或者描述一下问题。我喜欢你开始的方式，因为它实际上比人们想象的要微妙得多。我们现在太两极分化了，很少有人会从坚定的民主党人变成特朗普的支持者，或者从坚定的某个党派变成另一个党派的反对者等等。但是，虚假信息的操作，无论是国家支持的，还是我有时称之为“虚假信息网络恐怖主义”的，它们试图削弱信任，在边缘制造混乱，加剧分裂，制造恐惧、不确定性和怀疑，只是让人感到无法分辨什么是真实的，什么是虚假的，谁是谁。通过向人们展示大量信息，让他们在一段时间后说“嗯，我不太确定什么是真实的，什么是假的”，这要容易得多。当人们展示真实的事物，而另一些人说“哦，你知道，那不是真的，那是人工智能”时。所以我认为最大的影响是动摇了我们对自己能否分辨真实和信任谁的信心。为什么人们对真实性的信心如此容易被动摇？或者说，真的容易被动摇吗？就像你说的，一方面人们是“我是坚定的特朗普支持者，我是坚定的哈里斯支持者，我是坚定的共和党人，我是坚定的民主党人，我是坚定的某个党派支持者，我是坚定的反对者”。那么，为什么人们对真实性的信任如此容易被动摇呢？有两个关键事实或因素。第一个是社交媒体。过去，我们大部分信息都来自值得信赖的新闻来源，你知道，CBS的沃尔特·克朗凯特用他令人安心的声音（这可能暴露了我的年龄），我们都有值得信赖的高质量新闻来源。现在，许多人，尤其是年轻人，从社交媒体、从TikTok获取新闻。有调查证明了这一点。社交媒体的特点是，它的编辑决策非常不同，对吧？算法在驱动它们，它们是点击驱动的，通常更极端的“内容”更容易被点击，而且你没有同等的质量控制。这是其中一个方面。如果你的信息来源是社交媒体，那么真相和谎言并列，你可能在后续的视频中看到它们。第二个是我们是视觉动物。当我们看到图像或视频中的东西时，它在很多方面都是发自内心的。我们倾向于对此做出反应。现在，生成式人工智能允许人们创建可信的虚假或高度操纵的视频和图像，再加上社交媒体流，这确实是民主的阿喀琉斯之踵，也是我们分辨基于事实和非事实的能力的阿喀琉斯之踵。在我们继续深入探讨深度伪造之前，我想问一个棘手的问题。我确实记得沃尔特·克朗凯特，我小时候就认识他。我长大后，在美国有丹·拉瑟和彼得·詹宁斯，还有其他人。我记得我第一次被主流媒体报道时，是错误的。然后我对自己说，等等，如果他们写的东西是这样的，而且被他们所信赖的人们所掩盖，那么我在这里读到的其他东西有多少是值得信赖的？就在最近，例如，有一份关于BBC的报道，我认为这会严重削弱或应该削弱任何人对BBC发布内容的信心。那么，沃尔特·克朗凯特、丹·拉瑟或比尔·詹宁斯、彼得·詹宁斯（他的名字是彼得·詹宁斯）真的告诉我们真相了吗？还是存在一些编辑决策，与算法没有太大区别，只是我们当时不知道？这是一个非常棒的问题，当然你说得对。我们看到这种情况非常多，尤其是在报道中，特别是在美国关于中东和以色列的报道中。故事的框架、倾向性，它甚至不是不真实，对吧？但如果你报道说，你知道，加沙发生的事情，却不提供任何背景信息，只是采访一个遭受可怕苦难的人，他们的家人等等，那么显然它就有倾向性。这源于特定的编辑决策。没有“谁对此负责？”的概念。哈马斯是否将人们当作人肉盾牌？是什么导致了这一切？这只是一个听起来很糟糕的人类兴趣故事，而且这种情况一再发生。双方都是如此，对吧？《纽约时报》、NPR、BBC可能是最严重的违规者，而在另一边，你知道，《华尔街日报》和其他媒体，当然还有福克斯新闻，也这样做。所以，这是自古以来就存在的，对吧？伊甸园里的蛇在与夏娃分享所谓的“事实信息”时，并没有完全披露。话虽如此，我们仍然处于不同的境地。当我向你展示视觉上刚刚发生的事情时，例如，在暗杀企图期间，特勤局特工围绕着特朗普的微笑，或者伊朗飞机轰炸特拉维夫的图像，而这些从未发生过，或者斯洛伐克的一位候选人在选举前48小时的静默期内泄露的录音。所以，我认为不同之处在于，一直以来都有微妙的拉扯和推动。没有这些“确凿的证据”或“炸弹”（用这些比喻来说），你看不到任何解释，而且它们只是事实上的不存在，它们是完全虚假的。所以，确实存在很大的区别。那么，你认为这些深度伪造，大多是匿名的，没有受到任何人的印章或品牌的影响，比你所说的“框架”、“倾向性”或“措辞”，甚至是一些被主流媒体制作并放在头条上的图像，更具危害性吗？这是一个公平的评估，因为你认为，我只是想重复我所认为的你的观点，因为你认为图像和视频，以及它们在社交媒体上传播的能力，我可能会补充一点，你没有说，通过像我这样的人和我朋友圈的“社会确认”，这使得它在动摇人们对什么是真实、什么是虚假、什么是假、什么是真这件事的理解方面更具危害性，是吗？是的，让我举两个简短的例子来强调这一点。一个甚至不是社交媒体，但在11月的初选中，有一段伪造的拜登总统的音频，听起来就像他本人，它被称为“机器人呼叫”，它被分享给了新罕布什尔州初选的数万名选民，并告诉他们待在家里。这是选举干预，再次不是通过社交媒体，也不是视觉的，而是音频，这是一个非常具体且可信的个人试图影响选举的尝试。第二个例子是通过社交媒体，有一张五角大楼被轰炸的照片，不是在9·11事件中，很久以前，而是在最近几年，我记得是2021年。这张照片导致了市场的波动。这张看起来像五角大楼被轰炸的视频被广泛分享，就像你说的，交易员们总是试图获得优势，他们大幅压低了市场，直到他们意识到这是假的。所以，再次，两个具体的例子说明，实时地，某件事病毒式传播或以某种方式传播，可能会造成非常具体和有针对性的伤害。很高兴你提到了市场这一点，我本来也要谈到，也许我们再回到那里。我不知道深度伪造，比如拜登的机器人呼叫，是否属于我称之为“永久性损害”的范畴，因为你知道，一旦过去，你就无法挽回了，比如大选日。而像市场这样的东西，它们会从中恢复，因为实际上我们的外部“真相系统”，无论是推特上的社区笔记，还是“嘿，我们可以弄清楚这一点”，实际上运作得相当好。你是否会从“时间性时刻”和“我们有时间来修复的事情”的框架来思考这个问题，还是你认为这无关紧要？你说得完全正确。如果我们深入探讨，我们可以找到一个非常有趣的分类。有些事情会造成持久的损害，有些是暂时的，试图操纵市场或操纵选民，而有些则更像是“侵蚀”。所以，再次，再举一个具体的例子，以帮助我们把这次谈话拉回现实。有一段副总统哈里斯的模仿视频，埃隆·马斯克在推特上分享给了1.91亿粉丝，但没有说明这是模仿视频，这是一个深度伪造视频。大多数看到它的人，它被观看了数千万次，可能知道它是假的，但它是否在潜意识中影响了他们？它是否助长了他们的确认偏见？所以，这是另一件事。它不是一个具体的、有形的事件，而是试图“品牌化”或“重新品牌化”候选人或国家及其行为的洪流的一部分。当然，我认为以色列也成为了受害者，因为除了你在BBC上看到的倾向性，以及出现的真正可怕的图像之外，还有假的图像，它们被观看了数百万次，并助长了一种我认为非常错误的叙论。在我们深入探讨“真实媒体”解决方案之前，我想问你一个个人问题。当你在线观看内容时，你的默认假设是它是假的还是真的？当我观看内容时，我认为这是每个人都应该内化的一个非常重要的观点，因为我们有一个免费的工具 tredia.org，人们可以使用，但很多人不会。所以，当我看到某样东西时，我首先会监测我的反应。我越愤怒，我的情感反应越强烈，我就会越放慢速度，并说“好吧，我如何说服自己这是真实的？”所以，第一件事是监测。你是一位真正的丹尼尔·卡尼曼的学生。做得好。伟大的丹尼尔·卡尼曼，是的，是的。他实际上是我父母在希伯来大学时的朋友，但那是另一个故事了。然后，第二件事我问自己的是，我认识这个来源吗？不是声称的来源，比如上面写着CNN或者别的什么，而是我真的知道是谁分享了这个吗？然后我才开始考虑，我是否相信它，等等。所以，我非常小心那些非常强大的东西。请告诉我们“真实媒体”，它做什么，你试图实现什么，你认为你能成功吗，考虑到这个“猫已经跑出袋子了”？我是在2023年开始接触这个问题的。我实际上参加了一个与拜登总统和他的几位工作人员、加州州长纽森、一些人工智能专家的小型会议。我们都带来了我们的一些“宏伟计划”和一些担忧。我实际上是一个非常乐观的人工智能爱好者，我认为我们可以用人工智能做很多伟大的事情，我们可以谈论这个。但在这种情况下，我实际上感到非常害怕，因为特里斯坦·哈里斯，一位警告我们社交媒体影响的杰出人士，正在概述深度伪造的一些潜在风险和场景。我想象着一种情况，在大选前48小时，甚至在大选当天，你看到一位候选人被送往医院的视频，你看到电视上的评论员说“情况不妙”，你看到关于投票站发生枪击事件的报道，你看到一些可能造成持久损害的事情，因为在它们被揭穿之前，它们改变了人们的投票行为。当然，一旦选举结束，选举就结束了。所以我说，好吧，让我研究一下普通公众、选举官员和主流媒体组织可以用来快速揭穿这些的工具。我很快就了解到，这些工具并不存在。我们称之为“三字母机构”或微软这样的主要公司有自己的工具，但它们并不广泛可用。所以，我开始着手构建一个深度伪造检测器，供公众使用。快进到现在，随着我们临近大选，就在上周，我们宣布了我们的工具的公开可用性，TR media.org。任何人都可以上传社交媒体URL，如果你有账户，你可以上传视频或图像，然后你可以评估它是假的还是真的。顺便说一句，我应该解释一下社交媒体URL。如果你从Instagram、Facebook、TikTok等上传内容，我们会找到该URL上的视频或图像，并对其进行分析，并在大约一分钟内实时提供我们对它是真实还是虚假的评估。我之所以开始做这件事，是为了解决一个问题，尤其是在2024年，尤其是在这次可能是历史上最重要的选举之前。你认为消费者在使用它吗？还是记者在使用它来弄清楚该做什么？还是政治操纵者？这非常有趣。我们的大部分用户分为两类：媒体组织，例如事实核查员。在印度大选期间，我们在印度能够揭穿一些虚假信息。我们还有一些我们称之为“半杂乱无章”的担忧公民。有些人会说“哦，我不会担心它，我还有更重要的事情要做”。而另一些人，我无法告诉你谁是谁，却极其担心，并积极参与上传媒体和检查它，突出他们认为可能是虚假的东西。所以，我们都有。我们确实有过来自政党和政治组织的人使用这个网站，但他们越来越少，他们更多的是“地面部队”，负责动员选民。他们意识到了这个问题，但我认为这并不是他们最紧迫的问题，坦率地说。你每天收到多少链接或对象？这真的变化很大，但我可以说，一周之内有数千个。平均增长非常快。其中一些也来自Telegram或WhatsApp，这些对公众不开放。其中一些非常奇特，不全是政治性的，你知道，有约会诈骗，有各种各样的事情，我们都看到了。而我们收到的数据有助于我们调整算法，并在这个检测问题上做得越来越好。我想再强调一点，这一点非常重要，因为你谈论的是它的有效性和影响。当我开始时，我非常担心上传的物品数量。我的担忧已经转移到看到它的人数。所以，一个视频，由埃隆·马斯克分享，或者一张泰勒·斯威夫特的假照片，由特朗普总统（前总统特朗普）分享，可能会产生巨大的影响，比只有少数人看到的10,000个视频更有影响力。我意识到，当你看到他们说每周观看人数时，每周都有数百万。这确实很有影响力。你有没有最喜欢的“真实媒体”抓获的对象，或者最令人发指的故事？请喘口气。如果你去我们的网站，你会看到我们称之为“值得关注的深度伪造”。你可以看到从声称C罗是亲巴勒斯坦的视频（这是一个假视频），到特勤局特工在特朗普遇袭后包围他并微笑的例子（这是一张被操纵的图像，他们当时在皱眉，但被改成了微笑）。我还要说，我们为一次“打击行动”做出了贡献，另一家名为Newsguard的公司利用我们的工具，识别了在欧洲传播大量虚假信息的网站和机器人。这些就是我能想到的事情，而且种类繁多，从看似国家支持的虚假信息行动，到仅仅是为了推广阴谋论和制造不信任的东西。你的同事奥林·齐尔说，我应该问你，为什么你把“真实媒体”设为非营利组织？顺便说一句，这与我们在播出前谈到的一个问题有关，那就是商业模式在维持许多创新方面的重要性。我之所以把它设为非营利组织，首先也是最重要的，是因为为公众服务对我来说极其重要。再次创业，我感到很幸运，我过得很好。我不是一个追逐金钱的人。一个拥有足够财富的人，非常富有。谢谢，谢谢你更好的翻译。所以，我富有不是因为我有很多钱，而是因为我拥有足够了。正是如此。所以，既然我专注于公共使命，而且对我来说很清楚，最低的摩擦就是当你做一件高诚信的事情并且免费时，人们不必履行采购订单等等。当我们与主要媒体组织和社交网络合作时，我们了解到他们确实想要“企业级”的套餐。所以我认为有这个潜力，当然也有像以色列的get clarity、美国的reality Defender和Hive这样的公司，有不同的风险投资支持的组织，正在建立非常有趣的企业。所以，我绝对不低估商业潜力。然而，我们的使命是不同的，而且一直不同，那就是紧急地，因为一年听起来很长，但在技术世界里，速度非常快，在即将到来的选举之前，将这个工具送到人们手中。所以，这就是我们的重点，我很幸运得到了加雷特·坎普的支持，他是Uber的联合创始人，他的慈善组织camp.org。所以我受益于不必去争取商业交易和实现收入目标，而是专注于让工具可用。考虑到事情如此两极分化，而且我不知道加雷特·坎普的政治立场，我也不认识他。你是否担心有人会认为“真实媒体”是党派性的，因为捐助者的政治观点是什么？它在某种程度上比这更干净的商业模式吗？我确实担心人们会认为“真实媒体”是党派性的，这也是我们网站顶部用大号粗体字写着“非营利、无党派、免费”的原因之一。尽管如此，我们知道，就像美国及其他许多地方一样，虚假信息研究已经被国会中的一些团体妖魔化，已经被政治化，我认为这是不幸的。所以，我们看到，让我举个快速的例子。我们看到旨在诽谤右翼人士的虚假信息例子。曾有一张前总统特朗普的著名假照片，据称他在爱泼斯坦的飞机上，被未成年女孩包围。这张照片本应是一张相当有损形象的图片，而那位著名的演员马克·鲁法洛在推特上将其转发给了他的一百万粉丝，因为他觉得“哦，是的，这正是特朗普会做的那种事”。当这张照片被揭穿是假的后，他感到很尴尬。所以我真心希望，也真心相信，无论你持何种政治观点，你都不想被欺骗，不想让这次选举基于虚假信息来决定，而是希望它以有序的方式进行。真正受益于削弱对选举过程信任的人，是那些反民主的人。所以我对此感到担忧，但我可以向你保证，我们坚决无党派，而且这个工具不会歧视。你上传的东西是假的或被操纵的，它不检查政治，它检查其中的统计特征，并给你一个自动评估，这不是政治性的，而是技术性的。它说，这是被操纵的吗？这是由人工智能合成的吗？因此，实际上，我们回避诸如“真相”之类的东西，甚至回避“事实”之类的陈述，比如“这是关于预算赤字的事实”或者甚至是文章，因为文本是如此易变的。我们真正制定的是技术评估，人工智能是否被用来创建这个图像、视频或音频。在转向真正深入探讨人工智能之前，我必须问你一个……我不知道，也许这是一个不得体的提问，但你知道，你生命的一部分在以色列长大，你提到了“亲BB”或“反BB”。你大部分生命都在美国度过，你一直在谈论“双方”，以及人们为何如此根深蒂込ま地相信他们所相信的。有没有办法让人真正关注议题，在思考上更灵活，进行实际的政策和未来对话，在这个快速变化的时代？还是你认为我们正走在一条“退化”的道路上，即民主国家，而现在许多国家都在发生这种情况，随着时间的推移，它们将退化成更原子化的单位，你知道，无论是美国分裂成一定数量的州或地区，你知道，以色列以某种方式分裂，以及其他民主国家。这难道不是历史的必然吗？顺便说一句，如果你看看过去20年，世界上国家数量比20年前多了。发生了“退化”，它发生在波斯尼亚，它发生在……你知道，捷克共和国。我们正处于这样一个阶段。我不是政治科学家，但既然你问了，我将分享我相对不了解的看法。我会说，当然，我们正处于一个轨迹上，许多事情，当然，两极分化和冲突似乎正在恶化。我认为，根据大多数衡量标准，它们正在恶化。我确实想强调，这些是非线性过程，所以有时事情必须变得更糟才能变得更好。我会非常犹豫去进行线性外推，这通常是一个错误。所以，我们如何应对，还有待观察。有一些尝试来约束社交媒体公司的影响力，让它们承担更多责任。我认为，在中期会发生什么，还有待观察。这就是我想说的。但在短期内，我对我们到处看到的景象感到极其担忧。我刚在推特上看到一个视频，有人说“我将继续发布1月6日在美国国会大厦发生的混乱的视频，参议院……一群人冲进国会大厦，提醒我们这不能再发生了。无论我的政治观点如何，无论谁获胜，我们都不能允许自己退化成内战。当然，以色列也不能。所以，在不采取立场的情况下，我认为我们可以肯定地说，我们都应该反对内战，我们必须维护民主。现在，让我们转向更深入地探讨人工智能。你研究人工智能几十年了。我想我记得你的一次演讲，你谈到了“代理人”，很久以前，现在它们又回来了，它们被称为“聊天机器人”或“代理人”，你知道，它们有不同的名字。顺便说一句，我第一次读到“代理人”是在90年代后期，一篇由希伯来大学的研究员杰夫·罗森斯坦撰写的论文，你可能认识他，也可能不认识。我第一次读到它时，他有一家名为Agent soft的公司，大约在1997年。我真的很想听听，你知道，你拥有如此长达几十年的非凡视角，你对人工智能的看法发生了什么变化？以及你今天如何看待人工智能？人工智能已经存在了很长时间了，我们最近的时刻是“大型语言模型时刻”，而不是“人工智能时刻”，我认为这在流行文化中有些模糊。所以，我想知道它如何改变了，我们如何走到这一步，以及你认为在深层次上，我们将走向何方？我知道这是一个大问题，当然，你有多少时间？但让我先谈谈，然后我们可以根据你的喜好深入探讨。首先，杰夫·罗森斯坦是我的一位老朋友和同事。我想说，我最美好的耶路撒冷之旅实际上是杰夫带我的。没有人像他那样，他带我去了所有这些隐蔽的角落和美丽的景点和街区，真是太棒了。他很棒。我们在90年代致力于代理人的不同技术方法。我之所以停止研究这个问题，是因为我意识到，即使我们构建了这些强大的代理人，我们当天的座右铭是“你告诉代理人做什么，它会弄清楚如何做”。你给它一个高层次的目标，它会弄清楚如何实现目标，这当然会非常强大。我们不必深入研究所有细节，软件可以代表我们完成。这就是代理人的想法，无论是旅行代理人还是其他类型的代理人，它代表你做事。我意识到，要做好这一点，我们需要一种与代理人交流的语言，我们深入研究了如何与我们的代理人沟通的研究，以避免那种实际上具有破坏性的行为，比如你告诉代理人“嘿，把我的电脑上的磁盘利用率降低20%”，因为磁盘快满了，它说“是的，先生”，然后回来告诉你“好的，我已经删除了你的重要提案和数据集，顺便说一句，这些有很多备份，但它们占用了大量空间，我也删除了那些”。它们做得很好吗？不，不，我不是那个意思。但为时已晚。所以，我们真的需要考虑这一点。快进到今天，正如你所说，我们正经历着“大型语言模型时刻”。一个巨大的变化，而且实际上非常神奇，尤其是对我们这些在这个领域工作了几十年的人来说，你现在可以真正地与你的程序交谈。再次，必须非常小心使用拟人化的词语，但在非常真实的意义上，它确实理解你。它会给出非常有帮助和信息丰富的回应。它有很多问题。现在，大型语言模型最热门的趋势之一是将它们从聊天机器人，从你与之交谈的东西，转变为能够真正代表你采取行动并制定多步计划的系统，即使是像“嘿，为我计划或预订一次简短的家庭度假”这样简单的事情，你也需要这样做。所以，代理人又回来了。最大的变化之一是，我们现在可以与它们交流，在某种程度上，双方，代理人和你，都能理解。而且，谢天谢地，这种语言是自然语言，英语或希伯来语，等等，因为这是我们最擅长的语言。所以，回到你对你的看法有什么改变？你现在看到大型语言模型的革命正在以非常快的速度加速。你曾担心代理人会做一些可能有害或破坏性的事情，因为它们不理解。而现在，我们面临着我所说的“相反的问题”，相反的挑战，那就是这些东西变得越来越好，越来越快。顺便说一句，我将在下周出版一本新书，它已经送去印刷了。我的一个朋友昨晚打电话给我，说“嘿，我有一个在线出版的东西，你想把它翻译成英语和西班牙语吗？因为我用希伯来语写的”。我说“是的”。今天早上，我收到了一份270页的文件，我开始阅读，我简直惊呆了，它完成了95%，包括圣经经文，脚注等等。它真的完成了95%。我花了数万美元进行翻译。所以，我真的应该……好吧，奥林说，我过去对这件事很担心，我现在不再担心了。我过去认为这就是极限，但现在不是了，我认为天花板比我想象的要高得多。我知道这是一个大问题。好吧，让我先说，我们需要以更细致的方式回答。我从80年代进入这个领域以来，一直相信……我喜欢说我进入了大数据领域，这是所有这些技术体系的另一个名称，当时它只是小数据。它肯定增长了很多。一直以来的担忧是“生存威胁”，它会接管人类吗？问题一直是，你真的能建立人类水平的智能吗？有时被称为AGI，通用人工智能。我一直相信，是的，我们可以建立它。问题是需要多长时间，它会采取什么形式，等等。所以，我想说，改变了很多的是底层技术和时间表，但根本问题没有改变，我的根本信念也没有改变。所以，信念是，是的，我们可以建立高度智能的软件等等。关于它是否对人类构成威胁的问题，我相信人工智能是一种工具，而不是一个生命。我喜欢强调，智能不等于自主性。你可以拥有一种非常强大的技术，事实上，我们拥有像ChatGPT这样的技术，但它只是在那里，直到你给它下一个查询，等等。我们甚至可以拥有自动驾驶汽车，随着一些实验和Waymo在旧金山和其他城市取得的成功，它们看起来越来越近了。它们现在对公众开放了。你有一辆自动驾驶汽车，但你决定要去哪里。它不是你坐进车里说“我想去吃冰淇淋”，然后它说“不，你真的应该去健身房，我带你去健身房”。事情不是这样的。在以色列，出租车司机就是这么说的。没错。出租车司机，人类，拥有自主权。所以，我认为这极其重要，而且这个问题变得更加复杂。但如果人们从我们关于人工智能的谈话中带走我的一个总结是：人工智能是一种工具，选择在我们手中，作为社会，作为个人，我们决定如何使用它。而且有一个非常重要的对话需要进行：它如何影响隐私？它如何影响工作？它如何影响民主？但它不是一个正在宣称统治我们、告诉我们该做什么的生命，所以我们必须与之斗争。我们需要进行广泛的社会对话，来决定我们作为一个社会如何使用人工智能。你现在能想到的最有趣、我称之为“机会”的事情是什么，你认为人工智能将以人们现在无法想象或想象的方式推动它？我真的很喜欢把人工智能看作是解决人类最棘手问题的途径。它是一种非常通用的技术，它是一种赋能技术。所以，你选择问题：下一个大流行病，医生过度劳累和医院的医生错误，我们高速公路上的事故（在美国，每年有4万人在高速公路上死亡，超过100万人受伤）。像这样的每一个问题，都有很多人丧生，人工智能可以真正地，而且有具体的项目正在进行中，来做到这一点。更快速地设计疫苗，Moderna因使用人工智能而闻名。将会有下一个大流行病，无论是自然的，还是从实验室逃出来的，谁将帮助我们解决这个问题？气候变化，我们需要碳封存，我们需要从大气中清除碳。所以，我们有一系列非常困难的问题，在每一种情况下，我们都可以构建人工智能系统来帮助我们更好地、更快地解决这些问题。当你考虑更近期的长期风险时，具体一点，不是笼统的，你担心什么？我显然非常担心对民主的影响，在短期内，也更长远地，当制度存在时，对法律体系的影响。有证据规则，我们需要弄清楚提交法庭的视频或照片是否被操纵等等。所以，我认为“基于人工智能的伪造”，我在2019年为《哈佛商业评论》写了一篇文章，在人工智能时代，这已经是“上古时代”了，标题是“基于人工智能的伪造”。我认为“基于人工智能的伪造”是一个我们需要非常仔细地思考的问题。我认为对工作的影响可能被夸大了。它们确实提高了效率，但你知道那句名言：你不会被人工智能取代，你会被另一个懂得如何使用人工智能的人取代，如果你不这样做的话。所以我认为，工作会受到影响，但我认为可以有效地管理，以提高生产力。这些是一些关键的事情。我接下来最想做的是人工智能作为辅助智能。我们都在变老，有一种“灰色浪潮”，人们随着年龄的增长，往往会发展出残疾。我特别想到的是视力困难，但也有听力困难，行动困难。所有这些，人工智能，特别是基于大型语言模型的，都可以提供帮助。第一次，我们可以拥有软件，可以在通用环境中代表你看东西。这将极大地帮助我们这些随着时间推移开始出现视力困难的人。所以，我们可以谈论这个。总的来说，我认为人工智能具有巨大的潜在好处，非常具体，可以帮助拯救生命，例如在高速公路上，在医院里等等。我们实际上投资了一家名为Onestep的公司，它正在使用人工智能帮助人们康复，特别是老年人，进行膝关节和髋关节置换以及腿部其他损伤的康复。仅用一部手机，不使用任何其他设备，仅利用手机和云端的人工智能计算，就能帮助人们重新行走，这真是令人惊叹。这确实令人惊叹。祝你一切顺利。你提到的使命，艾伦人工智能研究所，是我创建并为已故保罗·艾伦管理的，从零开始到250人，等等。我们的使命是“人工智能造福人类”，这不仅仅是口号，我们正在寻找人工智能可以帮助人类的地方。所以，对那项投资表示赞赏。那么，艾伦研究所在以色列有一个分支，你们在那里作为非营利组织在做什么？我们是一个开放的书本，我们发布信息，所以感兴趣的人可以去看看。我们的重点是自然语言，特别是为科学和医学服务的自然语言。再次，让我举一个非常具体的项目例子。很多人最终需要化疗。我们都知道我们家庭或朋友中有某个人，不止一个人，曾经需要化疗。化疗非常原始，因为它是一系列相对少量的药物的混合物，其效果已经得到了研究。医生非常犹豫使用更复杂的混合物，因为理解它们的效果成本高昂且缓慢。人工智能通过梳理医学文献并使用自然语言进行分析，来找出潜在的效果和副作用，并促进更复杂的化疗的发展，这就是可以在ai2以色列开发的工具所能做到的。它由Yov Goldberg在学术方面领导，Ron Yini在商业方面领导，他可能从风险投资界认识他。他们正在用自然语言做一些非凡的事情来帮助科学。我发现，实际上，我从我的朋友丹尼尔·施里伯那里得到了这个建议，他是Lemonade的联合创始人，不知道多久以前。他说，在你去看任何医生或咨询任何医疗专业人士之前，你应该查询一些人工智能。我发现这非常有帮助。你可以大致了解情况，这真是太了不起了。你必须小心不要变成一个天生的疑病症患者，尽管我可能会争辩说，一个人从谷歌搜索中产生的疑病症比从人工智能交流中产生的疑病症要糟糕得多。但回到你的观点，我认为这绝对是惊人的。我想再换个话题，再谈谈人工智能。我今天开了一个会，一位该领域的资深研究员对我说，“我认为……”
初级程序员的世界即将结束，取而代之的是将有人负责管理编码机器人，这实际上将成为一项工作，而且并非易事，而且收入丰厚，报酬丰厚。我听说您是哈佛大学计算机科学专业的第一位学生，是这样吗？是的，我再次说，这是一个基于纸张的系统，哈里·刘易斯是第一个签署我的文件的人，他抬头说：“嘿，你是第一个，因为哈佛大学有应用数学专业等等。”所以是的，我是第一个专注于计算机科学专业的人。好的，第一个问题是 2025 年的计算机科学学位是什么？这是第一个问题，然后第二个问题或第二个部分是，所有这些学习编码并试图进入这个行业的人，他们将做什么？如果机器人要来了，他们怎么才能成为高级程序员？我不认为机器人要来了。我最喜欢的格言之一，非常适用于人工智能，就是永远不要将清晰的视野误认为是短暂的距离。在这个背景下，这意味着是的，我们可以在地平线上看到巨大的能力，包括程序员人工智能程序员，但即使是初级程序员，现在也比任何编码机器人都要复杂得多，我稍后会解释原因。所以，他们需要做的第一件事是，他们需要了解基本能力，仅仅因为我们有计算器，并不意味着我们就不学习乘法，甚至进行长除法。我无法告诉你我上次做长除法是什么时候，因为我确实使用计算器，但能够自己做这些事情仍然令人欣慰。但最重要的一点是，这些工具将加速他们的生产力，解决一些棘手的问题，但从高层次的需求映射到具体的代码，经过测试，健壮，不包含隐藏的错误，最重要的是，确实是人们想要的，这仍然是一项非常人类的技能，因为人们的需求往往是模糊和不完整的。我说：“嘿，给我建一个网站，即使是像这样的简单事情，给我建一个网站，为我的公司建一个网站。”它应该包含视频吗？哪些内容应该经过身份验证？哪些应该对公众开放？它是面向专业人士还是消费者？我的陈述通常非常模糊，有一个过程，我们必须找出我真正想要什么，构建它需要什么，然后它在移动设备上应该是什么样子？你是面向国际观众吗？所以它应该是一个加载速度非常快的轻量级网站，还是你面向坐在旧金山办公室里的人？它可以是一个非常沉重的网站，有很酷的虚拟现实和视频等等。这只是一个错觉，我给出了直观的例子，但对于任何编程任务，都需要进行许多问题和澄清，并且需要人类做出许多决定。它不仅仅是吐出编译器能够编译的位数。所以，一个有用的工具，而不是替代品，即使是对于最初级的程序员。那么 2025 年的计算机科学学位是什么？所以，我猜我不知道我是否理解你的问题。你是说，如果我早点拿到学位，你领先于时代，我们可以争论，我不会争论，你绝对领先于时代，你几十年前的计算机科学学位，你在人工智能方面领先于时代。如果有人想领先于时代，处于未来最前沿，那么计算机科学学位是什么？或者顺便说一句，它真的是一个学位吗？明白了，明白了。所以，首先，我绝对会说，在 2025 年学习计算机科学、人工智能和数据科学是极具前瞻性的。我们仍然处于指数增长阶段，也许不是摩尔定律，而是其他指数。所以，这是一个正在爆炸的领域。另一个我也会考虑的领域是生物学，因为生物学正在产生大量数据，那里有巨大的机会，既可以拯救生命，也可以创造新的分子、新的药物等等。所以，如果我学习这些东西，我认为脑机接口是我们过去没有的东西，但在接下来的 25 年里，埃隆·马斯克和其他人正在深入研究，它极其极其有价值。关于你是否必须拥有学位，或者你是否可以像彼得·蒂尔和其他人提倡的那样辍学，我给你十万美元，创办一家初创公司。我认为对大多数人来说，拥有学位仍然极其极其有价值。请记住，在你职业生涯的早期，尤其是在早期，你想最大化学习。所以，问题就变成了，我如何才能学到最多、最快，而不仅仅是学习可能在两年内就会过时的细节，而是学习批判性思维的基本概念和基本结构，能够表达自己等等。而且，我确实认为，也许我有点偏见，因为我当了这么多年的教授，但我认为高质量的学士学位课程仍然极其有价值。而关于跳入初创公司的担忧是，你会在非常非常狭窄的技能和想法领域变得知识渊博，然后当那家初创公司结束时，你会发现自己身在何处？长远的打算是什么？如果你不是彼得·蒂尔或埃隆·马斯克，那没关系，但我们大多数人不是。这就是所谓的长尾。对于 99.9% 的人口，包括你和我，以及所有不是马克·扎克伯格或比尔·盖茨的人，他们辍学成为亿万富翁。顺便说一句，他们是自学成才的，他们在没有学位课程的情况下学到了很多东西。学位课程是一个巨大的帮助。你提到了学生、教学和当教授。所以我问埃里克·霍维茨，他自 80 年代以来一直是你的同事，一位人工智能研究员和微软的首席科学官。我说，我该问你什么？他说，首先，我应该告诉你，奥林是一个很棒的人，一个了不起的人。但我应该问你的是，你如何照顾或指导你的学生？我认为这是一个很棒的问题，因为它说明了我们不仅传递知识，还向下一代人传递价值观和批判性思维技能。我很想听听你的秘诀。他对此赞不绝口。首先，感谢你的美言，也感谢他，他是个了不起的人。多年来，在我的演讲中，我都会引用他关于做人工智能实际上是一种道德义务的说法，因为我们可以利用人工智能拯救生命，就像我之前说的。这与人工智能对我们的世界是一种非常消极的力量的观点恰恰相反。我想打断你一下，我喜欢那个评论。我想重申一下，并让你对此负责。我们有道德义务参与人工智能，它可以拯救生命，让人们的生活更美好，改善人们的健康等等。我认为这是一个不可思议的框架。但我希望从深层次上理解它，因为它也意味着那些试图阻碍人工智能、减缓人工智能或监管人工智能的人正在采取不道德的立场。我认为道德义务是参与其中，而不是试图关闭它。所以我确实认为，我不会说他们是不道德的，但我认为那些想关闭它的人是犯了错误。他们可能是出于好意，但他们犯了错误。我认为那些想促进其负责任发展的人，平衡点就在那里，因为看，它是一个强大的工具，另一个比喻就是它是一个强大的工具，所以使用强大的工具需要以正确的方式进行。所以，那些想促进人工智能负责任使用的人是非常合理的，然后我们可以深入探讨细节，如何在不失去好处的情况下做到这一点。我认为那些确实是不道德的，或者至少不道德可能不是正确的词，但具有破坏性的是那些散布恐慌的人，那些人工智能的危言耸听者，他们只是尖叫着天要塌下来了，人工智能将要接管人类，他们有一个牵强的、推测性的论点，你知道人工智能将接管人类，把我们当作宠物，他们用这个来减缓人工智能在医学和其他领域的具体发展。所以，是的，我对那些反对人工智能作为生存风险的最极端团体确实有一些担忧。我写过，也谈过。我认为利用人工智能和改进人工智能也是一种宗教义务。这源于如果人是按照上帝的形象创造的，我们就有责任利用我们拥有的任何力量来改善他们的生活，并为他人负责。因为那些能够适应人工智能世界的人和那些不能适应的人之间可能存在差距，所以我们这些能够接触和互动人工智能的人有责任参与其中。有趣的是，一方面是末日论者，另一方面，我会称之为有很多“菜鸟”，这是一个糟糕的词，我认为更多的是未受启蒙。另一方面，你认为有责任让可能听说过 ChatGPT 但尚未真正参与其中的 99% 的人类了解它，并且可以为此做些什么？哇，首先，我确实想说，我不是一个虔诚的信徒，但我很多价值观都深深植根于犹太教。所以对我来说，正如我之前提到的，人工智能最令人兴奋的机会是拯救人类生命和人类生命的尊严。你拯救一个生命，就像拯救了整个世界一样。这是非常核心的犹太价值观。所以，我的很多想法都来自于我们确实拥有这些机会，以这些不同的方式拯救生命。我实际上认为，从 ChatGPT 的历史角度来看，最大的服务是提高了人们对人工智能的认识。所以，我们中的许多人一直在观察深度学习和相关技术随着时间的推移而获得能力，有些人几乎不屑于 ChatGPT，认为这只是我们已经知道的东西的升级，这不是什么新鲜事。它之所以是新鲜事，是因为它对数亿人来说是一个警钟，字面上是对人工智能力量的警钟。所以，围棋对很多人来说也是如此，因为他们认为人工智能永远不可能下围棋。而 ChatGPT 对许多其他人来说也是如此，他们可以与之互动，看看它有多强大。所以我认为我们现在正进入下一阶段。它不再是让人们意识到人工智能的存在，而是让他们理解它是什么，它不是什么，以及我们作为一个社会应该围绕人工智能政策，围绕全民基本收入等问题进行辩论。以及关于人工智能的适当监管和限制是什么。这些都是非常复杂的政策话题，而政策是如此棘手，这让我很高兴我是一个技术人员或商业人士，所以我真的不必深入研究如何制定成功的政策。我知道如何不这样做。我不会像欧盟那样做，我认为那一直非常糟糕，尽管我喜欢说，通往监管地狱的道路是由欧盟的良好意图铺就的。所以他们有良好的意图，他们犯了巨大的错误，我希望我们在其他地方能做得更好。但是，你如何让三亿美国人，九百五十万以色列人，我不知道，几亿欧洲人，他们还没有真正参与到这个人工智能世界中来？你会做些什么，在教育和文化上，来帮助人们从这种恩惠中改善他们的生活，拯救生命？我会在课外领域做两件事。有像 code.org 这样的很棒的组织，它们教会了校外的人如何编写代码，以及如何与人工智能系统互动，它们只是帮助提高了人工智能素养。所以，我会说，我们应该开展一项运动，让人们了解，无论他们是否是技术人员，他们都需要提高他们的人工智能素养，而且这很容易做到。如果你没有累计花费至少十个小时玩 ChatGPT 或同等产品，那你就在做错事，无论你是一名医疗助理、一名社工，还是一个孩子。当然，大多数孩子都做到了。所以，我会说这是第一部分。第二部分是在学校，因为正规教育仍然是我们许多人获得更多知识的地方。我们必须提高教师的技能，他们需要熟悉人工智能，我们需要一个速成课程，以确保学校、小学、高中以及所有地方的教师都了解如何教授人工智能，以便他们能够做到，而不是回避它。我们的谈话快结束了，时间也快到了，但我可以和你聊两个小时。但我需要在这之前问三个简短的问题。我想给你一个机会来回答我打断你的问题，那就是你如何指导和辅导你的学生？埃里克的提问，是的。再次，他问得太好了。我再次回到明智的人向每个人学习。所以，首先，我把与我共事的人看作是人，我不是把他们看作是棋盘上的棋子，也不是我职业生涯的手段。我很感激我拥有了良好的职业生涯，但它总是基于协作的方法，总是基于我能从你那里学到什么。再次，另一句犹太谚语是，我从我的老师那里学到了很多，从我的同事那里学到了更多，但从我的学生那里学到了最多。所以，当我与一个人合作时，我认为他们是一个人，我认为我能从你那里学到什么，我能和你一起教什么，以及我们如何建立一段美好的关系。有了这种心态，我认为我们就能携手合作，建立一段美好的关系。而且，当它不起作用时，你知道，我们可以像朋友一样分开。但当它起作用时，它真的很棒。所以我为我的学生感到非常自豪。你提到了奥林·扎米尔，他是我的博士同事，就像埃里克一样，多年来我与他一起写过论文和其他项目，还有以色列的 AI2，我创办了它，我非常钦佩它，它做了很多事情。如果你在听，你会想，当然你说的是人，但对我们技术人员来说，这是一个启示。想想人，想想关系。计算机科学家很容易忽略这一点。说到关系，埃里克提到，我希望我没有越界，你和你的父亲关系非常亲密，他听起来是一个非常特别的人。如果你觉得舒服，我很想听听更多关于你的父亲、你的家庭以及它如何影响你、你的动机和热情。你在开头提到那是你的核心价值观，所以我很想听听更多。然后我会进入我的快速提问。好吧，我很幸运能与我的父母都保持亲密的关系。我的母亲仍然在特拉维夫，我的父亲去年去世了。所以，埃里克提到他很自然。我认为他们都塑造了我对各种话题的思考。让我只选择许多话题中的一个，即使我的父亲是一名社会学家和政治学家，我也有这种联系。我的父亲总是强调，教授有特殊的义务成为他所说的公共知识分子，不仅仅是象牙塔里的人，写晦涩的论文，聚在一起开会等等，还要与公众互动。他这样做的方式是反对越南战争，为以色列而战，这在学术界并不总是受欢迎的，但基本上是利用他拥有终身教职和某种公共平台的事实来论证他认为正确的事情。对我来说，我同样是一位公共知识分子，以我自己的方式为正确的事情而战，弘扬价值观，同时也思考人工智能如何走出象牙塔，走出技术论文，进入我们使用的应用程序，无论是为了拯救生命，还是为了使购物更顺畅。我的许多初创公司都是帮助消费者省钱或做出更好的购物决定。有很多不同的方式，但我一直觉得象牙塔是一个起点，而不是一个终点，你被锁在塔里，就像睡美人一样，直到她逃出来。感谢你的分享。三个快速提问。你之前提到了全民基本收入，在这个时代，你支持还是反对？我非常强烈地支持你可能称之为全民基本服务。我们的社会足够富裕，人们应该有地方住，人们应该获得充分的医疗保健。我非常反对仅仅给人们寄支票，让他们可以用来逃避工作，用来买毒品、酒精或赌博等等。所以，我认为，是的，支持全民基本服务，反对全民基本收入。好消息。我想问我们如何为人们提供住房。我们看到中国现在正在炸毁建筑物，但我们将留待以后讨论。第二，你在谈论人工智能时，之前在对话中提到，我引用了你使用的词，拟人化。你需要小心。所以我很好奇两件事。你对你的聊天机器人说“请”和“谢谢”吗？从不。我认为这实际上非常重要。随着它们越来越逼真，我们需要区分人工智能程序和人。这样做没有意义。但我这样做是故意的，因为我不是在和人类说话。所以我非常努力地对每个人说“请”和“谢谢”，我非常努力地不对机器这样做。所以，也不给聊天机器人小费，对吧？不给聊天机器人小费，只要做好你的工作。是的。好吧，我还有最后一个问题。奥林，你可能知道，也可能不知道，我在以色列议会发表了相当激情的演讲，关于我称之为以色列政府在人工智能政策和人工智能投资方面的业余时间。你需要什么，才能让你花一些时间在这里，帮助以色列在人工智能方面站稳脚跟，并帮助我们领导一场运动？我实际上是尤尔·沙米尔领导的一个咨询委员会的成员。他最近也在播客上。哦，哇，是的，太棒了。他对这些话题非常深思熟虑。所以，我很乐意帮忙。我真心希望，如果我们能达到一个更和平的状态，航班能够再次起飞，人质能够回来。我再次声明，我不知道如何做到这一点，很多人知道。但当我们达到那个状态时，你就无法阻止了。任何说人工智能的人，我都会冲过去提供我的帮助，免费的。我爱以色列，当然。以色列在人工智能方面有巨大的潜力，我很乐意帮忙。我正在为你报名，并邀请你参加安息日晚餐。我知道这是最后一个问题，但我还有一个。你是否在考虑人工智能的能源挑战，还是你认为它们被夸大了？它们没有被夸大。所以，几年前我们写的一篇重要论文题为“绿色人工智能”，人们可以查找一下。这是《通信 ACM》的头条新闻，认为我们有途径可以减少人工智能的能源消耗。当时，人们又在嘲笑，他们说，哦，不，数据中心才是关键，你知道，云。人工智能没有消耗很多能源。这就是指数增长的有趣之处。几次迭代的指数增长，现在没有人嘲笑“绿色人工智能”了。所以我认为这很重要，我鼓励人们看看这篇论文，因为我们概述了一些重要的前进道路。我只想说谢谢你，因为作为聊天机器人的主人，我们不感谢聊天机器人，但这真是一次非常有趣的谈话。希望听众喜欢。对于我们的听众，你可以在 X 上找到 Orin Etzioni，也称为 Twitter。Etzioni，即 EZO N I，也在领英上。Orin，我无法感谢你足够多。祝你有个美好的安息日，真的谢谢你做这件事。迈克尔，谢谢你，很高兴和你交谈。 [音乐]