Transcription
主持人：好的。欢迎大家。很高兴在本学期最后一周见到大家。我们请来了两位非常棒的演讲嘉宾，他们都是我认识了很久的人。我刚到伯克利时，就去了戴夫负责的 RAD Lab。当然，我们都知道戴夫·帕特森，图灵奖得主，以及其他无数的荣誉。然后我认识了安迪，他也曾在 RAD Lab 工作，并且一直留在那里。他创办了一些知名的公司，比如 Databricks 和 Perplexity。他们今天来是谈论他们一些新的未来举措。现在我把时间交给安迪。
安迪·康文斯基：好的。谢谢。这里有多少博士生？好的，大概四分之一。本科生？好的。教授？好的。我想这已经是教授的多数了。很棒。很好的组合。看起来是三分之一、三分之一、三分之一，但教授稍微多一点。所以这很棒。感谢大家来听讲座。我们将通过观看这个视频来开始。
[视频播放]
- P6 芯片。速度是奔腾的三倍。
- 是的，不只是芯片。它有 PCI 总线，但你早就知道了。
- 的确。RISC 架构将改变一切。
- 是的。RISC 很好。
[视频播放结束]
安迪·康文斯基：RISC 很好。好的，所以你们有三分之一的人没听懂。也许你们明白 RISC 很好。我们现在口袋里都装着 RISC 处理器。地球上有超过 2000 亿个。即使在 1995 年这部电影出来的时候，安吉丽娜·朱莉饰演的角色也知道这将是一件大事。有人知道这是什么电影吗？知道的请举手。好的。在座的至少有三分之一的人，可能知道，因为这部电影是 1995 年上映的，远在你们大多数人出生之前。有人能说出这是什么电影吗？
观众：黑客。
安迪·康文斯基：黑客。好的。那就是年轻时的安吉丽娜·朱莉。看看我能不能跳过。我们之所以以这段视频开始，有三个原因。第一，即使在 1995 年，安吉丽娜·朱莉也知道 RISC 是件大事，而且她是正确的。最近这事又上了新闻。所以第二个原因是，三周前，《连线》杂志报道了这件事，他们介绍了 RISC 架构的长期影响。这是戴夫漫长职业生涯中，他的研究产生影响的一个亮点。我们将在接下来的两个半场讲座中，把它们压缩成现在这一个讲座，来谈论他学到的很多经验。这 2.5 个讲座中的第一个是戴夫分享他构建 RISC、RAID 以及培养出 Apache Spark 等改变世界的产物的实验室所学到的经验。第二个 2.5 个讲座是受戴夫 40 年职业生涯中产生影响的遗产所启发的项目，这个项目是一年前我和戴夫共同启动的，并最终发表了一篇论文。第二个迷你讲座将是那篇论文的结果，或者说我们从发表一篇关于人工智能将对社会产生何种影响以及研究人员如何通过我们的研究议程来塑造这种影响的论文中学到的经验。然后是最后一个半场讲座，将介绍一个我们将在三周后公开宣布的资助计划的预览，该计划将资助第二部分讲座、论文以及其中提出的“登月计划”所产生的研究。所以这是我们即将讨论内容的一个小预览。我们以这段视频开始的第三个原因是，它在我中学时期的 formative years 对我产生了影响，当时我看了它，并意识到我想要电影中描绘的计算机黑客文化的生活方式，这在很大程度上就是我从事计算机科学的方式。戴夫·帕特森的研究风格，以及与这里许多 UW 教授的研究风格相呼应的风格，已经渗透到我职业生涯的各个方面，包括我在伯克利读博士期间的研究，我做出重大贡献或共同创建的开源项目，我创办的公司，我在伯克利教授的关于如何通过初创公司产生影响的课程，如果你是顶尖大学的博士生。以及最近，我和戴夫以及许多其他人一起创建的这个组织，旨在为研究人员提供恰当的资源，无论是以无附加条件的赠款写作形式，还是其他类型的资源，如工程能力或沟通支持或社区支持，或者在研究人员创建初创公司后向其投资。所以，回过头来看，在我职业生涯的每个阶段，我都深受戴夫在 RAD Lab 教给我的模式的影响，同时柯蒂斯也让我相信，虽然伯克利产生了许多改变世界和人类的创新，比如 RAID 和 Apache Spark 以及 BSD 和 TCP/IP，但我仍然认为，如果将视角放大一个数量级，研究方法本身是伯克利提供给世界的最有价值的出口。戴夫在他十年前写的题为《如何建立一个糟糕的研究中心》的论文中提炼出的经验，将这些经验提炼成这十条诫命，戴夫现在将与我们分享九条诫命。所以，这是讲座的下一部分，戴夫·帕特森，分享九条建立糟糕研究实验室的诫命。
戴夫·帕特森：好的，我手里拿着一个麦克风。这是我的第三场“坏建议”讲座。当我刚到伯克利时，我们想教研究生如何做演讲，所以我们觉得教他们如何做一个糟糕的演讲会很有趣，所以这是标题。几年后，为了尝试总结经验，我讲了如何拥有一个糟糕的职业生涯。而这次是关于如何拥有一个糟糕的研究实验室或中心。这些讲座的进行方式是，你给出如何做得很糟糕的诫命，然后如果你不想做得糟糕，我之后会谈论这一点。所以，糟糕实验室的诫命是：你应当尊敬你的论文发表者。学术界的通用货币是论文。所以你要写，写，写，引用，引用，引用。你不得跨学科。与其他学科的人交流需要更多时间，这意味着你不能花更多时间写作，所以这会影响你的生产力。它会损害。诫命一。你应当扩张实验室。为了写论文，你需要研究经费。你参与的努力越多，遍布全国的人越多，你获得好评的可能性就越大，因为你几乎认识所有写评论的人，所以人越多越好。你不得与陌生人交谈。你写了这么多论文。他们可以读你的论文。为什么浪费时间与他们交谈？然后，你不得打扰你的邻居。所以你想让实验室里的每个人都尽可能多地写论文。你不想让他们交谈，所以模型是“好篱笆造就好研究员”。你不得建造偶像化的原型。原型，它们很可能只会给你的敌人提供弹药。如果它不起作用，他们就会利用这一点来对付你。如果你花时间做原型，你就没有写论文。回到诫命一。你应当以平等的共识来做决定。我们生活在一个民主国家。它应该是非常公平的分配。决策的典范是美国国会。那是我们的榜样。你不得限制实验室的持续时间。如果你想吸引学生，你想获得资助，你必须告诉他们，我将只专注于这个项目。它太重要了。我将为此工作余生。这表明你是认真的。不要延迟研究。这是安迪希望我添加的，第九条诫命是“直接动手去做”。当我加入伯克利时，我花了一两周时间决定做什么，然后我开始做我认为每个人都在做的事情，这样我就可以立即开始写论文。我保证，如果你遵循这九条诫命，你就会有一个糟糕的实验室。你甚至可以省略几条，仍然会有一个糟糕的实验室。如果你不想这样做，让我们来看看这些诫命。尊敬论文发表者。不，尊敬积极影响。当我近 50 年前刚加入伯克利时，我到了那里，当你是一名助理教授时，你不知道这个地方是如何运作的。伯克利看重什么？我与资深教授一起写论文可以吗？我必须是唯一的作者，第一作者吗？他们说伯克利看重影响。这不是论文的数量。不是。不是唯一的作者。不是。不是研究经费。是影响。所以我喜欢这个解放性的建议，并踏上了这条道路。所以我们计算论文的原因是，如果它具有很高的影响力，它很可能伴随着论文和引用，但它并不是人们认为的直接衡量影响力的指标。它只是容易衡量。这就是它流行的原因。例如，伊利诺伊大学的 LLVM 编译器是当今标准的编译器技术。它取代了 GCC。它被其主要会议 PLDI 拒绝了。同样，万维网，每个人都在使用的东西，它的第一篇论文被其主会议 Hypertext 拒绝了。如果是一项高影响力的研究，它不会被普遍接受。会有疑问。它违背了传统观念。所以，例如，我将向你展示一些高影响力的实验室和最高影响力的论文，回想一下伯克利 RISC 项目，它的引用量不到 1000 次。但我和安迪关于云计算的论文有 15000 次引用。RAD Lab 的影响力并没有 RISC 项目的 15 倍。此外，最佳论文奖并不是高影响力的预测指标。例如，我真正喜欢的奖项是“时代考验奖”，在 10 或 15 年后，我们回顾那些发表的论文，看看哪些真正重要。在这些会议上，最佳论文奖很少与“时代考验奖”高影响力论文相同。这是因为最佳论文奖颁发给所有评委会都非常喜欢的论文，而这些论文很少是突破性的。更有可能的是，它将是非传统的。人们不会同意这是一个好主意，有些人会喜欢它，有些人会讨厌它。这些不会获得最佳论文奖，但它们可以获得“时代考验奖”。所以，回想我参与的项目，我们发现了新东西的领先指标是什么？就是当非研究人员开始使用我们的想法来完成他们的工作时。当现实世界中的人们开始使用它时，这是一个非常积极的信号。所以，是影响，不是论文。你不得跨学科。不，多学科团队有更大的机会。我对此深信不疑数十年了。我认为我几十年来一直给出同样的建议。我并不是因为获得了图灵奖，就重新调整我的所有建议。它一直很一致。所以我一直认为，如果你与行业竞争，行业拥有更多的资源，很难成功。而且行业很难做到多学科。他们倾向于在每个学科都有大型组织。很难将它们结合起来。在大学里，你可以将世界级的个体专家聚集在一起。所以，多学科似乎是产生影响的最佳机会。我想我刚才也说了。另外，如果你要尝试一些不同的东西，人多力量大。你和你的几个朋友说，我们要做一些我们从未做过的事情，那里有一些安全感，而不是你一个人去做一些完全不同的事情。我们开始研究的一个项目是癌症基因组学，这是一个完全不同的领域。独自去做会非常可怕，但和一群朋友一起，感觉没那么难。与不同领域的人交流确实需要更长的时间，因为他们有不同的文化、不同的术语、不同的价值观，而且需要更长的时间来理解这一点。但如果你想产生影响，那就值得付出额外的成本。所以，对我参与的项目来说，有三到五个首席研究员是很常见的。如果他们每个人都来自不同的领域，那么谁是专家就毫无疑问了，这就是它的运作方式。你应当扩张实验室。不，我关于教授的模型是，他们几乎会承诺任何事情来获得资金。即使他们会在 15 所不同的大学里设立一个研究员，只要他们能获得资金，并且会有很多资金，但每个人只会得到一个研究生，几乎什么都做不成。他们不考虑在争取资金时，如何让实验室成功，而只是确保他们获得资金。特别是如果它是多学科的，PI 之间的距离越远，合作就越困难。如果你有很多人，就很难成功。卡内基梅隆大学的 Sara Kiesler 和她的学生的一项实际 NSF 研究表明，当他们研究多大学项目时，它们往往不太成功。但如果是多学科的，尤其是在一个地方，它就会表现出色。所以，甚至有数据支持我的偏见。你不得与陌生人交谈。不，如果非要选一个对这些实验室的成功至关重要的特征，那就是这次的静修模式。我们每年两次，每次三天，去一个不错的地方。这样每个人都会在那里。他们无法溜走。我们会去太浩湖。这是最早的项目之一，将近 40 年前。苏珊·埃格斯，她曾是这里的教员，马克·希尔，他曾是那里的教员。我在这里待的时间够长了，以至于我以前的学生都退休了，这确实是一个重要的标志。但苏珊和马克都获得了计算机架构领域的最高奖项，马克·利加邦德，他们都有非常成功的职业生涯。与陌生人交流的关键在于最后的反馈。在最后几个小时里，我们会得到我们尊敬的人的赞扬和建设性的批评，来自微软，来自湾区的公司，将他们聚集在一起提供反馈。你每年两次，每次三天获得的反馈量，比你在论文评审中获得的反馈量要高得多，所以这非常重要。它也给了我们截止日期。它培养了团队精神。冬天我们会一起滑雪，夏天我们会一起漂流，这让参与的学生有机会每年两次向感兴趣的听众展示他们的想法。这对于正在发生的事情至关重要。那是 40 年前。这是大约 20 年前，在那些幻灯片上，有马泰·扎哈里亚，我稍后会谈到他。还有安迪·康文斯基。这是我每次都会讲的笑话。看，他留着研究生时的山羊胡。然后他留着他的博士胡须。人们会笑。所以我一直保留着。还有参与的教授。观众：[听不清]。戴夫·帕特森：什么？安迪·康文斯基：柯蒂斯在哪里？戴夫·帕特森：哦，这是个好主意。安迪·康文斯基：他可能在酒店房间里。观众：我记得有[听不清]。安迪·康文斯基：我没看到他。戴夫·帕特森：有点暗。安迪·康文斯基：你当时不在。戴夫·帕特森：哦，好吧。安迪·康文斯基：照片为证。也许柯蒂斯从来没有在 RAD Lab。戴夫·帕特森：他只是想沾沾作为成员的光。观众：这是个把戏。你们带我去滑雪的地方，我就去。戴夫·帕特森：是的，好的。但静修对这个至关重要。我们为什么要离开校区？因为如果我们留在校区，人们会随意地来来往往。但我们需要将他们团结起来。这就是我们提供的原因。而且也很有趣。你不得打扰你的邻居。差不多在这个过程中，发生的事情是，互联网在家里的速度和在校内的速度一样快，电脑也一样。他们在家使用高端 PC，就像在校内一样，它们是高端 PC。你可以买一份副本。所以突然之间，你不需要去办公室就能完成工作。所以人们开始待在家里，这里变得像一片荒漠。没有人在这里。所以这是否是个好主意，在某些情况下，它似乎对研究不利。所以我们想尝试解决这个问题。所以我们的想法是改造空间，把教授、学生和工作人员都聚集在一起。为了吸引人们来，他们需要能够集中注意力，但我们需要自发的交流。所以我们会有这些会议室，当时，我们新颖地取消了固定电话，依赖手机，现在大家都这样做。但显然，固定电话对集中注意力非常不利。会议室很棒。墙到天花板的白板，你可以大喊大叫、争论、在白板上写字。这是一个非常令人兴奋的地方。然后我们用免费提供的食物和饮料让它变得温馨。这加速了研究。人们来得更多了。教授来得更多了。学生来得更多了。你可以抓住人们然后去会议室，而不是在他们的日历上安排会议。令我震惊的是，0 到 60 的时间。我习惯了研究生，比如第一年，一年半的时间，他们还在摸索情况，如何参与项目。所以在第一个实验室里的两个学生写了一篇论文，发表了，并被邀请在卡内基梅隆大学发表演讲，因为他们对他们的结果非常感兴趣。这两个学生就是安迪·康文斯基和马泰·扎哈里亚。现在，当我们回想起来，我们会想，嗯，当然是安迪·康文斯基和马泰·扎哈里亚。当然，他们做得很好，但原因是安迪·康文斯基和马泰，还是实验室让他们得以培养和腾飞？所以，我认为实验室起到了很大的作用。然后，在我们经历了我们偶然发现的这件事之后，我们阅读论文，看看这是否是个好主意。哦，是的，已经确定，你可以把 50 个人放在一个房间里，这会让他们非常有成效，自发的会议，所有这些东西。众所周知。你不能突然有一个跨越 1000 英尺的 500 人空间，让他们都变得有成效，但对于大约 50 个人来说，这是众所周知的一项技术。所以，确保邻居们互相交流很重要。回想起来，唯一的缺点是，我们第一次能够做到这一点，教授们会来参加，取决于项目。但之后，教授们留在那个空间里就有点粘性了，我们之后就不能轻易地进行调换了。所以，如果你想尝试优化空间，你需要有一种方式让教授们可以进来和出去，这样你就可以把教授们放在与你正在攻击的主题相匹配的位置上。第六件事是建造偶像化的原型。那张是 RAID I，上面有我们花哨的标签。但这个展示实验室愿景的实验室级原型确实至关重要。它让来自不同背景的人们，不仅仅是谈论它，而是共同努力，互相学习，并努力让它发挥作用。发生的好事是，开源软件随着时间的推移越来越受欢迎，这对大学来说是巨大的。你获得了更多的帮助来帮助人们构建它，并且它有助于技术转移，因为有人在做这件事。原型的缺点是，试图说服参与的学生，为共同利益而工作，他们是共同利益的一部分，这对他们也有好处。而且事先很难。他们必须凭信心接受。但一旦他们看到实验室里的其他人将他们的想法作为他们工作的一部分，他们就会加入进来，并且好处就很清楚了。以平等的共识来做决定。不，国会不是一个好榜样。你需要找到一个领导者，他愿意花时间把所有事情都整合起来，他会致力于团队精神，并且其他 PI 可以相信这个人会做正确的事情。我可能领导了大约一半的实验室，但当别人领导实验室时，我感到非常高兴，我们可以依靠他们来完成工作，并确保每个人都团结一致。你正在寻找的是一个目标是让团队获胜，而不是成为最著名的教练的人。限制实验室的持续时间。这可能是其他教授最难遵循的部分。我的职业生涯建立在这些连续五年的实验室项目上。那么这是从哪里来的呢？嗯，我被告知他们看重高影响力，他们不在乎，人们，大多数研究都不起作用。所以他们计算的东西，比如他们今天介绍我时，他们计算了，嗯，他研究了 RISC。他们没有说，哦，还记得戴夫研究了 XTree，但它从未成功过。IRAM 项目是个失败。他们不谈论那些不起作用的事情。他们只谈论起作用的事情。好吧，如果他们只谈论全垒打，那我们就挥出全垒打，不用担心我们没打中。所以你需要有很多次击球机会。如果你做 20 年的项目，你就没有多少次击球机会。而且在我们这个领域，事情变化太快了，很难知道 20 年后世界会是什么样子。我们在这个领域待了很长时间的人，每三年，我们都会说，“我真不敢相信事情变化得有多快。”我们每隔几年都会说同样的话。谁会明智地预测 15 年后的 2040 年，我们的世界会是什么样子？天知道会是什么。所以，如果预测如此困难，那么短期项目就更有意义了。而且，大多数研究都不起作用。所以，如果大多数研究都不起作用，你需要一种机制来停止你正在做的事情。五年后，很难说这是否会成功。但如果你在五年后有一个项目结束派对，你就被迫继续做下一件事。所以，继续做一件可能不会成功的事情，存在巨大的潜在机会成本。这样，你就被迫继续做下一件事。缺点是，所有的学生都听说过老实验室。他们想研究那个。资助者也听说过。但目标是什么？目标是更容易获得资金，而学生的目标是产生高影响力。我认为五年期的实验室是其中的重要组成部分。最后一个，不要延迟研究的开始。这与我刚加入伯克利时不同。你应该在行动之前思考。即使你不是做五年项目，也要花时间思考。我认为我花了几周时间思考我加入伯克利时要做什么。后来，对于一些项目，我们会花一整年时间来弄清楚我们应该做什么。特别是如果你要做更频繁的实验室，这个过程，如何选择下一个实验室，你需要思考。所以我们会考虑技术趋势，看看哪些教授对这些机会感兴趣，与外部人士交谈，获取反馈，这就是我们确定下一个要做的项目的方式。所以，根据你的计算方式，我职业生涯中大约有 10 到 12 个项目，其中大约五个是全垒打实验室。安迪谈到了 RISC。ARM 中的 R 来自 RISC。已经交付了 2500 亿个 RISC ARM 处理器。RAID 是一个可靠的存储系统。使用了许多小磁盘。它比几个大磁盘更具成本效益、更快、更可靠。那就是 RAID。事实证明，RAID 的性能是有限的。这启发了 Mendel Rosenblum 和 John Ousterhout 开发了日志结构文件系统。与此同时，Postgres 是 Mike Stonebraker 正在做的对象关系数据库，现在它是一个非常流行的开源系统。网络工作站，让我们用现成的交换式本地网络工作站来构建一台超级计算机。实际上，我们拥有第一个集群，在超级计算机前 500 名中。Jim Gray 有这个数据库搜索的东西。我们用它创造了记录。但杀手级应用最终来自一位新教授 Eric Brewer 和他的研究生 Paul Gauthier，他们说，“我认为这项技术对互联网服务很有用，比如搜索引擎。”当时，运行在大型共享内存多处理器上的 AltaVista 是首选搜索引擎。他们证明了他们的 Inktomi，运行在伯克利校园里，实际上在一段时间内是最受欢迎的搜索引擎。然后他们创办了一家公司，利用了这些想法。一旦 Google 问世，它们就接管了，但它们利用了相同的集群技术。RAD Lab，柯蒂斯和安迪都在那里，它利用了系统和机器学习，使数据中心更容易运行和创建应用程序。在那个开放空间里，马泰·扎哈里亚坐在试图使用 MapReduce 处理大数据进行机器学习算法的机器学习学生旁边，但这并没有奏效。这非常困难。所以，出于他们的沮丧，马泰发明了这个数据分析系统 Spark。这就是那个实验室的遗产，几年后，安迪、马泰、Ion Stoica 和其他人创立了 Databricks，现在有 7000 名员工。下一个实验室是 Par Lab，它解决了多处理器硬件/软件的问题，关于转向多核。作为其中的一部分，它产生了一些东西。但最重要的是 RISC-V，这个开放架构的想法。我们设计了一个现代 RISC 架构，供其他学者使用。他们不太兴奋，但行业确实想要一个任何人都可以使用而无需付费且没有任何限制的架构。它起飞了。如今，有三大洲的会议，400 个组织参与，20 亿芯片已发货，预计几年内将达到 300 亿，又一个全垒打。所以，这是技术故事。那参与的人呢？这对研究生教育来说是极好的。Mark Weiser，一位计算机远见者，在 20 世纪 80 年代谈到了 Sphere 项目。他说，“这是我见过的最好的研究生团队”，这几乎是 Burton Smith 20 年后对 Par Lab 学生说的原话，“这是我见过的最好的研究生团队。”我认为我们所有的地方都有优秀的人申请，但这种实验室模式让他们脱颖而出，互相学习，蓬勃发展。这对教授们也很好。大约有 30 位教授参与了这项工作。其中 13 位后来被选为美国国家工程院院士，这是一个非常高的荣誉。这大约是伯克利计算机科学领域的三分之四。所以，这个总结是：以影响为目标，而不是论文。如果你从静修中获得这些反馈，会增加成功的机会。开源对大学来说是一个巨大的好处，可以帮助技术转移。你需要找到一个愿意领导它的人来帮助它成功。如果你能获得好的空间，它会加速进步。确保你花时间选择问题，然后以多学科实验室和日落条款为目标是有效的。当我准备这个讲座时，它让你想回想和反思。比如，这个每五年更换一次的建议。假设我没这样做。假设我刚开始研究 XTree，并为此工作了我的整个职业生涯。事情会如何不同。
安迪·康文斯基：这是一个很好的思想实验。让我们问问 ChatGPT。如果戴夫·帕特森从未从他的第一个项目 XTree 转向 RISC，世界会有何不同？CPU 架构的演变会更慢。SISC 可能会出现。我们会随身携带巨大的笔记本电脑而不是手机。移动设备的基础会更薄弱。也许物联网就不会发生。计算机科学教育会不同。概念清晰度。好吧。哦，这会很糟糕。
戴夫·帕特森：现在不可能有任何大学教授 x86 架构了，对吧？
安迪·康文斯基：整个学术界和工业界可能都发生了转变。开放硬件。帕特森的职业生涯影响力会更小。AI 芯片会受到更多限制，更具专有性，效率更低。不，我们不需要推测性的时间线。我们刚刚得到了一个替代历史。太棒了。这是一个相当不错的。有时 ChatGPT 对戴夫的评价不高。在做讲座之前，我必须问一些非常恭维的问题来引导它。但最近，我的备用方案是使用 Perplexity。它更基于证据，说的话也更客气。好的。让我们看看如何使用它。所以，这就是九条诫命了。正如我所说，我经历了 Rad Lab。柯蒂斯也经历了那个实验室，这些都给我留下了持久的印象，并在我的整个职业生涯中反复出现。大约一年前，我有了这个想法，在离开研究界，花时间在工业界，创办公司，然后经营一家人工智能公司之后，我们可以再次合作。所以我重新找到了戴夫，提出了这个想法，希望在世界各地建立更多这样的实验室。我可以分享一些关于为什么我认为现在是建立这些实验室并专注于影响力的特别有利时机。所以，戴夫和我喝了几杯啤酒，就在他家附近 Solano 大道以北的几条街区，我们制定了这个计划，这个计划受到了戴夫提到的那篇论文的启发。他和我是几年前的合著者之一，在那篇论文中，我们确定了一个机会，围绕当时的一个趋势——公共云计算——写一篇愿景论文。在那篇论文中，我们根据一些经济学论点称这个趋势为“公共云最终将超越本地部署”，尽管当时还没有发生，因为一些经济因素，比如为峰值配置没有意义。公共云的一些限制将通过法律协议等方式得到解决。事实证明，当我们创办 Databricks 时，我们实际上打赌了公共云，这在我们的投资者中并不受欢迎。我们坚持住了。我们拒绝了很多想让我们支持本地部署的客户，就在 Cloudera 命名自己为 Cloudera 然后转向本地部署并且不涉足云的两三年后。我们说，不，我们将坚持下去，做 Cloudera 最初做的事情，但这次坚持云。两年前太早了。现在是时候了。很大程度上是基于我们写的那篇论文。我们是对的。最终，我们在那个特定的技术范式上站在了历史的正确一边。所以，当我向戴夫推销这个新想法时，这不是一个说“生成式 AI 将改变一切”的机会。这已经对每个人来说都很清楚了。所以，这在当时不是可证伪的。所以，这次提案的区别在于，我们没有称呼这个趋势，而是要指出这个趋势对整个社会的影响，我相信这些影响非常具有生存意义。然后，我们将资助实验室来专注于这些研究领域，以便研究人员，根据这个愿景论文，可以帮助减轻 AI 对社会影响的负面影响或推动其积极影响。戴夫同意了这个提议，于是我们开始招募几位合著者，并撰写了这篇关于 AI 对社会影响的论文。这就是戴夫将在本次讲座的第二部分告诉你的内容。
戴夫·帕特森：好的。那么，我们进入第二部分。我们在这个项目开始时有四个假设。这是一个比以前更雄心勃勃的项目。但首先，尽管人工智能已经存在了很久，但实用的人工智能才刚刚开始发挥作用，研究仍然可以影响它。我们可以增强其积极方面或减少其消极方面。而且外面有人想听这个关于其积极和消极方面的故事，但这更具雄心。不仅仅是我们领域的人，AI 从业者，还有政策制定者，甚至公众。而且我们通常只在伯克利本地进行，但我们将需要跨机构合作。我们可以让人们自愿帮助我们做这件事，然后我们会咨询专家来补充我们在该领域之外的专业知识，这些几十位专家愿意与我们交谈。我们选择的主题是就业、教育、医疗保健、信息、媒体、政府和科学。我们将自愿撰写一篇能真正对社会产生影响的连贯论文，而今天，社会只是做出草率的判断，人们听一点点就会完全接受它，或者完全否定你。所以，我们花了九个月的时间写这篇论文。这是一篇大约 30 页的存档论文。为了引起人们的兴趣，我们设法在《经济学人》上发表了一篇短文，让人们了解它。然后，为了接触公众，我们还制作了一本漫画书。这是我们的两分钱。那是那里的笑话。不幸的是，漫画书的配送员没有送达漫画书。所以，如果你有兴趣，你以后可以联系我们。这是团队。有我这样的资深计算机科学家和约翰·亨尼斯。有像 Finale Doshi-Velez、Emma Pierson 这样的冉冉升起的新星，她以前在康奈尔大学，现在在伯克利。还有 Osamu Kaneko，他在斯坦福大学。有安迪和 Pelonomi Moila 这样的企业家。还有 Jeff Dean，你的校友，一位在计算机科学和机器学习领域的资深人士。还有 Tino Cuellar，前加州州大法官，他带来了更多的政策问题。我们采访了 John Jumper，在他获得诺贝尔奖前一个月，关于他的蛋白质折叠工作；前总统巴拉克·奥巴马，关于治理；前国家安全顾问苏珊·赖斯，关于安全问题；前谷歌首席执行官埃里克·施密特，关于一系列问题；以及其他 20 位类似的人。这些是我们谈论过的论文，但如果你还记得 shapingai.com，你可以在那里找到所有这些内容的链接。所以，在思考、讨论和采访了很多人之后，我们得出了四个我们认为普遍适用的指导方针。第一个是，人类和我，作为一个团队合作，比单独工作做得更多。所以，如果我们能让 AI 社区专注于提高人类生产力，那我们将获得比专注于人类替代更多的积极社会效益。这将使人们更容易就业，而不是失业，然后人们在场，所以如果 AI 偏离了轨道，就可以纠正正在发生的事情。然后，与其试图跳过社区，直接进行非凡的科学 AI 创新，不如让我们从消除人们当前任务的枯燥乏味开始，这样我们就可以赢得他们的信任，让他们相信 AI 将是有益的。所以，如果是 K-12 教师，也许可以帮助评分，也许可以帮助与家长沟通。如果是医护人员，也许是保险文件或其他东西。教师想和学生一起工作。他们因此被吸引到这个领域。医护人员想帮助病人。他们因此在那里。所以，帮助他们提高工作效率。我们认为，这种生产力焦点，归根结底有助于 AI 成功，也有助于人们成功。技术对就业一直有着巨大的影响。今天，我们近三分之二的人从事的工作的头衔在一代人之前（1940 年）并不存在。我收集了十年一次的人口普查数据，在 1970 年，我们的打字员和电话接线员比律师和程序员还多。然后 50 年后，这些角色颠倒了。根据劳动经济学家的说法，一个健康的社会，一个健康的经济依赖于提高程序员的生产力。我们这个星球上三分之二的人生活在人口正在下降的国家。三分之二。那么我们该怎么办？所以，像 Ed 和我这样的人将能够退休。但 50 年后 50 岁的人的数量已经出生了。所以，如果我们不提高人类生产力，我们将处于一个非常艰难的境地，而且我们今天已经面临劳动力短缺。所以，AI 是一项可以提高生产力并有助于解决劳动力短缺问题的技术。所以，如果我们想帮助就业，让我们将这个强大的工具应用于创造更多就业机会的领域。例如，尽管在过去 50 年里，喷气式飞机旅行和计算取得了巨大的进步，但根据美国人口普查数据，商业航班飞行员的数量增加了八倍，程序员的数量增加了十一倍。那么这是关于什么的呢？经济学家称一种商品，如果降低其成本，其销量比成本下降的幅度更大，他们称之为“弹性”。所以，想法是——嗯，乘客旅行和编程是提高弹性领域生产力的例子，这些领域实际上有所增加。它更具生产力，但使它变得更好，所以我们从中获得了更多的工作。相反，那些不这样做的领域是“非弹性”的，因为即使你生产更多的食物，人们也不会吃更多的食物。所以，它会减少从事这项工作的人数。令人惊讶的是，在 1940 年，五分之一的美国工人在农场和农业工作，而现在，不到 2%。所以，让我们将这个强大的工具应用于那些将创造更多就业机会的领域。另一个是地理位置很重要。我们在高收入国家，人们在那里学习很长时间。他们找到工作。他们被 AI 取代，这令人担忧。但在低收入和中等收入国家，这种技能根本不够。例如，洪都拉斯，位于墨西哥以南一点，人均医生数量是美国的七分之一。所以，医疗保健专业知识就是不可用的，其他技能也是如此。所以，有人认为 AI 可以提供发展这些经济体和改善医疗保健所需的专业知识。最后一个是使用正确的工具来衡量它。如果我们无法衡量正在取得的进展，我们就无法确定 AI 是否正在发挥其潜力。所以在高风险领域，如教育、也许是医疗保健，我们使用 A/B 测试和随机对照试验。其他时候，我们可以通过市场调查来完成，比如编程测试。但一旦工具部署，我们就必须继续衡量它，以确保它们正在做我们想要的事情，而不是做我们不想要的事情。然后，部署后，我们需要在现场升级它们。我们需要确保它仍然做正确的事情。所以，我们必须有正确的工具来做到这一点。那么，可能会发生什么，或者我们如何影响这些指导方针的制定者？所以，作为论文的一部分，我们想做的是提供具体的靶点。让我们将 AI 应用于医疗保健领域的这个主题，或者教育领域的这个主题。如果你达到了那个靶点，它将有助于 AI 的进步，也有助于社会。所以，模型的一部分是，当有研究要做时，很好。如果没有，我们将创建研究实验室，就像安迪所说的那样，来帮助人们实现这些里程碑。为了激励人们实现里程碑，我们正在进行激励奖。激励奖，最著名的是 XPRIZE，是为那些达到奖项的人提供一百万美元或更多。这将是未来模型的一部分。有一个政府版本，称为先进市场承诺，你可以将其视为激励性采购订单，它们为尚不存在的产品创建采购订单。NASA 就是这样与私人火箭公司打交道的。美国也是这样开发 COVID 疫苗的。它创建了一个疫苗存在的采购订单，为公司提供了一个目标市场。当安迪和我提出这个想法时，我们想，让我们押注于慈善事业，而不是寻求政府资助，这与政府的更迭完全无关。这是我们的目标。那么，如果这一切都实现了，会发生什么？嗯，最近一份国家科学院的报告提到，AI 可能会使美国的国内生产总值增长率翻倍。如果真是这样，会有什么后果？减少贫困。改善医疗保健。更好的环境影响。加强我们的国家防御，并减少预算赤字。如果能实现这种翻倍，中产阶级和许多高收入国家已经通过全球化和计算机化的结合而被掏空。一位劳动经济学家说，它有可能重建这些国家的中产阶级。最后，当我谈到中低收入国家时，这种专业知识的缺乏，提供这种专业知识可以真正加速这一点。所以，我认为我们的底线是，当我们看到这些对话时，人们可以忽略风险，也可以忽略收益。所以，忽视 AI 的潜在收益与忽视风险一样是错误的。最后，在接近尾声时，我们想，也许我们应该，就像肯尼迪总统在 60 年代那样，提出一个“登月计划”，在十年内登陆月球。但实际上相当困难。我们没有达成一致。比如，我们应该瞄准哪个？改善医疗保健。加速科学。实现功能性的公民话语，或者帮助那些失业的工作技能岗位，因为它们针对的是非弹性工作。我们意识到，我们不必选择一个“月球”。如果我们创建了正确的蓝图，我们可以利用 AI 发起 1000 个“登月计划”。至此，问题是，谁能资助它？
安迪·康文斯基：这让我们回到了戴夫和我最初的谈话。所以，我们正在建立一个名为 Laude Institute 的非营利组织来资助它。Laude Institute 的资金则来自像我这样的人，他们是计算机科学家，通过研究产品化而获得了成功。所以，我将启动最初的几个实验室，并为那些在技术领域通过研究衍生出的初创公司获得成功的人树立榜样，让他们也这样做。
戴夫·帕特森：所以，这是讲座中我惊叹并感谢安迪不想拥有一艘足球场大小的游艇的部分。有些亿万富翁会说，“我能拥有世界上最大的游艇吗？”不，安迪说，“我想资助研究。”所以，我想为他的……鼓掌。
安迪·康文斯基：但如果只有我一个人做，它就不会奏效。所以，如果你有亿万富翁朋友，请随时介绍给我，我可以向他们要钱。我在这里考虑捐出很多钱。好的，所以 Laude Institute 是一个由顶尖研究人员为顶尖研究人员设立的机构，这意味着我们将从研究人员那里筹集资金，并反过来资助研究人员。目标是让人类摆脱目前的困境，并随着 AI 的进步（其中很大一部分来自大学系统）更快地前进，并确保我们所有人都从中受益，而不仅仅是人类的先锋，而不是扩大贫富差距，而是推动全人类前进。Laude Institute 将通过我们将在几周内宣布的资助计划来实现这一目标，我们将在恰当的时间为研究人员提供资源。这些资源可能是我们组织的活动，包括我们将举办的研讨会，例如在 NeurIPS 和博士俱乐部，我们为对通过开源或初创公司产生影响感兴趣的学生组织活动，例如 Agent Club。Agent Club 是为 UW 的博士生、Alan 创业者（柯蒂斯可以告诉你更多关于这个的信息）或 Joe（就在那里）设立的。这是 Joe。他是 Agent 的主席。这是一个博士生在计算机科学领域寻找想成为联合创始人或想了解初创公司的人的地方。所以，Laudes 会向这样的博士俱乐部支付支票。伯克利也有一个。我们……
在斯坦福大学启动了一个。现在威斯康星大学有一个，华盛顿大学也有一个。我们还将组织一次峰会，让大家聚在一起，可能在湾区，互相认识并交流经验。最初的伯克利项目，六位创始人中有三位成为了 Databricks 的创始人。所以这是一个相当不错的传承。在过去十二年里，我们共同创立它以来，大概有十几个其他公司也从中诞生，包括柯蒂斯的公司。最后，我们有沟通专家，他们帮助研究人员将他们的信息传达给世界。这包括寻找用户，但更重要的是，通过与记者的关系和从研究项目一开始就制定的沟通计划来吸引世界的注意力。这就是 Laude，而 Moonshot Grant 项目将是我们将在 6 月 18 日宣布的两个旗舰资助项目之一，届时我们将走出隐秘状态。而现在实施我们论文中研究成果的这个项目的形式是，我们将资助八个种子基金项目，每个项目 25 万美元。赢得这些种子基金的人——所以会有申请表供申请和赢得种子基金。申请将于下个月开放。种子基金申请的截止日期是今年秋天，我想就在感恩节前夕。如果你赢得了种子基金，你将获得六个月的资助，金额为 25 万美元，用于提供这四件事——一份愿景论文，详细阐述你瞄准的月球；一个基准，证明你可以思考如何衡量朝着这个登月目标取得的进展。它不必是你实验室的最终目标。你不必确定一个高确定性的基准，只需确定你是否成功。这是一个非常困难的问题，但我们确实需要以指标驱动的研究。一个开源的概念验证，再次强调，不必是一个实现你整个实验室的完整堆栈。你将有五年时间来完成这项工作，但它必须证明你知道如何编写代码以及如何使用 Git。并非所有研究人员都知道。最后，一份关于三到五年实验室的提案，Laude 研究所，如果你赢得了这个种子阶段之后，将资助 1000 万到 2000 多万美元。是的，我们希望你们所有人都申请。实际目标，所以你必须选择一个目标，而目标围绕着行星运行。所以我们正在概述四个重点领域，你可以围绕这四个行星中的任何一个选择你的目标。在未来五年内实现功能性的公民话语；在十年内实现一个世纪的科学进步，这是来自 Dario Amodei 关于类似主题的博客文章；为医疗从业者提供广泛的人工智能，或者我喜欢说，重塑美国医疗保健系统；劳动力再培训以应对人工智能的取代。所以你看到其中一些与 Dave 从论文中强调的主题有关，你可以通过阅读论文了解更多关于重点领域的信息，正如 Dave 所说，shapingai.com。我们希望你们都能申请。如果你有问题，我们很乐意回答。所以，这是我们 2.5 次谈话的结束。听众：我来自欧洲，这在美国可能是一个不受欢迎的问题，但我想知道，你谈到了人机协作真正提高生产力，我相信这是可能的。但我想知道，为了实现这一结果，我们需要采取什么措施来实现，比如说，四天工作制，而不是仅仅工作更长时间？DAVID PATTERSON：是的。我踢足球的一个朋友，当我告诉他我正在做这个的时候，他说，是的，让我们实行四天工作制。我们的国家历史上，曾经是六天工作制。那是常态。然后在经济大萧条之后，我们将其固定为每周 40 小时工作制。所以有人在争论这一点，他们也展示了四天工作制的益处。但我们很难控制工人生产力的问题。美国人是勤奋的人，他们不休假，所以我只是认为，我认为我们想沟通，我认为一些人工智能从业者没有想到的是，做研究或取代工作要容易一些。你不必进行人类受试者实验之类的。与人合作以显示生产力要困难一些，但它具有巨大的社会影响。如果你在取代工作，你家庭中会有人会失业。如果你增强了他们的能力，这可以改善它。所以这是重点。但我们能否将其引导，使人们工作更少，做得更多。我认为，这对我们来说将是困难的。你对此有什么看法？ANDY KONWINSKI：不。没有经过深思熟虑的。DAVID PATTERSON：如果那是结果，那将是伟大的。有人。听众：感谢精彩的演讲。你讨论了围绕登月目标、挑战、问题组织五年实验室的模式。我想知道人们如何过渡到其中。因为许多团队有 5、10、15、20 年的教职员工和学生历史，他们围绕一个研究领域紧密合作。如果你将其重构为每个学科或主题有一位专家，你将拆散现有的东西或将人们从中抽离出来。那么你们是两者都尝试吗？你们是否切换到一个每个人都始终围绕这些五年项目组织的模式？你们如何过渡到这个模式？我认为存在很多现有的紧密合作群体的惯性，我不太清楚如何从一个过渡到另一个。DAVID PATTERSON：嗯，正如我所说，我十几年前写了这篇论文，据我所知，人们忽略了它。所以这是一个尝试新模式的激励。你已经按你的方式做了一段时间了。这是另一个。我有一个奏效得相当好的记录。但这个模式将是部分教职员工会脱离他们通常做的事情，花五年时间来处理这件事，然后尝试一下。你将获得不同领域的专业知识。我们使用“两只脚都踏进去”的说法，这是他们将要做的主要事情。这并不意味着他们不能让一些学生做他们以前做的事情，但他们早上醒来时想的是这个问题。这就是你需要完成这件事。所以我们正在尝试资助这种高影响力、多学科、有使命宣言、有目标的模式。我认为，克里斯在这里建议过。这有点像我们在大学里创业，但这是一个研究型创业。我认为这是思考它的方式。所以你不必拆散其他系统，但这是我们可以利用安迪的好运气让更多人尝试的一个系统，这就是我们在做的。听众：如果我也可以跟进一下。关于什么——DAVID PATTERSON：你不必申请。听众：哦，不。我认为这非常有趣。我的意思是，我只是想理解——DAVID PATTERSON：[听不清]。听众：如果你将其操作化，会发生什么。我认为这些是非常非常有趣的问题。你还提到，当它们是单一机构时，事情会更有效。DAVID PATTERSON：是的。听众：这是你正在寻找的这类项目的限制吗？还是——DAVID PATTERSON：我认为我们不会对其施加限制，但我们正在分享我们的偏见。作为一名教职员工，你可以尝试事情，这是很棒的。所以我在一个项目上尝试的一件事是，嗯，看，斯坦福是一个伟大的机构。我们是一个伟大的机构。让我们尝试一个跨机构的项目，利用两者的优势。它只是真的，我不知道，30 英里远。距离确实很困难。如果你阅读文献，不同建筑里的人互动得不多。听众：我能理解你们现在都感受到了痛苦。DAVID PATTERSON：是的。即使在你们的两栋楼里，你们也看到了吗？是的。所以有很多信息表明，你越近，你就越有生产力，越有互动性。所以我们不会说你不能这样做，但这就是评估者在评估时会有的偏见。ANDY KONWINSKI：是的，需要有一个核心团队——嗯，不是必须的，但我们可能会强烈倾向于那些首席研究员和联合首席研究员都位于同一机构的核心团队的申请。DAVID PATTERSON：这是一个实验。我们将看看它如何运作。所以，很可能，第一次我们会相当保守，尽可能地接近。并且要记住，大多数研究都不会成功。所以我们将尝试并可能专注于那些。我们一开始会将其限制在北美。它将是一所大学，而不是一个非营利性实验室，来启动这一切。然后，如果它运作良好，并且我们可以进行筹款，每年我们都可以提供新的目标来追求。然后，如果这一切都奏效，我们就可以开始扩展到其他地方。但这是一个高风险的新尝试。ANDY KONWINSKI：在伯克利，我们看到教职员工加入实验室，然后要么分叉出去做他们自己的独立实验室，作为后续的，要么就回到没有合作的、多年的、独立的、伯克利风格的实验室或大型实验室。所以我们看到了一个模式，比如说乔·海勒斯坦。我知道他加入了 AMP，然后没有继续——不，他加入了 Rise，但没有加入 Sky。所以伯克利现在有一些教职员工加入并分拆的经验。我认为阿迪蒂亚·帕拉梅斯瓦兰加入了，然后分拆了 EPIC，他自己的独立实验室。所以目标是教职员工找到一个他们感到兴奋的团队，与他们一起合作实现登月愿景，而不是，比如说，仅仅是系统领域或自然语言处理领域。我们在伯克利看到拜耳公司以一种非常不同的方式来做这件事。但是，正如戴夫所指出的，我们看到，在共同定位的空间方面，也有创新的空间。我们愿意讨论多个实验室如何共享一个更大的物理空间，只要他们仍然有实验室会议和为学生和教职员工提供协作的会议室，就像一种非常集中的、共同定位的方式，这是核心假设。听众：你能谈谈你是如何选择你们的目标的吗？我觉得它们有点虚。DAVID PATTERSON：你是什么意思，虚？听众：虚的目标。DAVID PATTERSON：这些是行星。听众：这些是行星。所以你们的目标是月球。这些是行星。DAVID PATTERSON：你选择月球，我们给你一个行星，你需要围绕它运行。听众：所以如果你想修复公民话语，我觉得你需要有一个——DAVID PATTERSON：是的，所以让我来谈谈。ANDY KONWINSKI：你有六个月的时间来弄清楚。种子基金就是你将花费六个月的时间。DAVID PATTERSON：但这个过程的一部分是我们与很多人交谈并阅读很多论文。所以有一些积极的研究例子一直在努力帮助治愈公民话语。你可以从社交网络方面来看。存在这两种极端立场，每个人都认为其中一种方式。所以他们尝试使用更直观的东西，比如二维地图，你的观点和你的话题在这里，他们的观点——所以你[听不清]。这在东京和台湾都被用来就非常困难的话题进行全国性对话，以取得进展。所以我想，对于大多数这些目标，或者行星，有我们可以引用的研究，有理由认为你可能能够解决这些问题，而不是仅仅是空中楼阁，神奇的人工智能会以我们无法理解的方式做到这一点。我认为所有这些主题背后都有研究。部分原因是我们不必使用人工智能。只是我们认为人工智能是进步的一种方式，我们可以设定这些相当宏伟的目标，并且可能，人们会实现它们。我们如何选择它们是参与者、我们交谈过的人以及研究的偏见混合在一起，以便我们有各种各样的东西可以寻找。但我们认为，如果我们实现了它们，它将产生积极的社会效益。ANDY KONWINSKI：其中一些研究，特别是在公民话语方面，正在华盛顿大学进行，蒂姆·阿尔托夫是一位很棒的交流对象，如果你想了解更多细节——我们引用了他们的工作。我认为一些医疗保健方面的工作也是如此，我不知道我们是否引用了华盛顿大学的工作，但论文中有更多细节，如果你想深入研究的话。它就不那么虚了。演讲者：这是一个大问题。所以我要在这里结束了。但我们有两个令人兴奋的事情。第一，这两个家伙将在上面待半个小时，所以来和他们聊天。第二件事是本科生研究研讨会正在艾伦中庭举行。那里有很多好东西。所以如果你有一点时间，埃德正担忧地看着我。我说错了吗？听众：我以为是在 Zillow。演讲者：是在 Zillow 吗？听众：两者都有。演讲者：两者都有？哦，好的。我们都对了。所以去看看这里正在进行的精彩的本科生研究，并与他们就他们的工作进行交流。但否则，非常感谢各位演讲者。