Transcription
以下是与迈克尔·I·乔丹的对话，他是一位伯克利大学的教授，也是机器学习、统计学和人工智能史上最具影响力的人物之一。他已被引用超过17万次，并指导了许多当今定义人工智能领域的世界级研究人员，包括吴恩达、祖宾·加拉马尼、本塔斯卡尔和坂野义雄。对我来说，所有这些都和篮球界著名的迈克尔·J·乔丹的32000多分和六个NBA总冠军一样令人印象深刻。
考虑到我与90年代芝加哥公牛队的联系和热爱，我与另一位迈克尔·乔丹交谈的可能性并非零。但如果我必须选择一个，我会选择统计学和计算机科学领域的迈克尔·乔丹，或者正如扬·勒昆称他为机器学习领域的迈尔斯·戴维斯。在他题为《人工智能：革命尚未发生》的博客文章中，迈克尔主张在许多方面拓宽人工智能领域的范围。这个播客的潜在精神是相同的：将人工智能视为一项深刻的人类事业，不仅要设计算法和机器人，还要在从个体到我们整个文明的所有抽象层面理解和赋能人类。
这是人工智能播客。如果你喜欢，请在YouTube上订阅，在Apple播客上给它五星好评，在Patreon上支持它，或者在Twitter上@LexFriedman（拼写为Friday）与我联系。像往常一样，我现在会播放一两分钟的广告，绝不会在中间插播广告打断对话流程。我希望这能对你有效，并且不会损害收听体验。
本节目由Cash App呈现，应用商店中排名第一的金融应用。当你下载它时，使用代码LEXPODCAST。Cash App让你向朋友汇款、购买比特币，并以低至一美元的金额投资股票市场。由于Cash App支持零股交易，让我提一下，在幕后运作以创建零股订单抽象的订单执行算法，对我来说是一个算法奇迹。因此，向Cash App的工程师们致敬，他们解决了一个难题，最终提供了一个简单的界面，将股票市场提升到下一个抽象层面，使新投资者更容易进行交易和多样化投资。
所以，再次提醒，如果你从App Store或Google Play下载Cash App并使用代码LEXPODCAST，你将获得十美元，并且Cash App还将向我最喜欢的组织之一捐赠十美元，该组织正在帮助全球年轻人推进机器人技术和STEM教育。现在，这是我与迈克尔·I·乔丹的对话。
鉴于您是人工智能、机器学习、计算机科学等领域的伟大人物之一，您被随意地称为机器学习领域的迈克尔·乔丹。尽管如您所知，您出生在前，所以严格来说，MJ是篮球界的迈克尔·I·乔丹。但无论如何，我最喜欢的是扬·勒昆称您为机器学习领域的迈尔斯·戴维斯，因为正如他所说，您会定期重塑自我，有时在改变方向后会让粉丝摸不着头脑。那么，您能否首先戴上历史学家的帽子，讲述您所见证和经历的计算机科学和人工智能的历史，包括我曾听您谈及的四代人工智能成功？
当然，是的，首先我更喜欢扬的比喻。嗯，迈尔斯·戴维斯是爵士乐中真正的探索者，嗯，他有一个连贯的故事，所以我想我也有一个，但这不仅仅是你所经历的，更是你事后思考的。一个好的历史学家所做的就是回顾和重新审视。嗯，我认为现在发生的事情不是人工智能，那是一种智力上的抱负，嗯，今天仍然是一种抱负，但我认为这类似于化学工程从化学中发展出来，或者电气工程从电磁学中发展出来。
所以如果你回到30年代或40年代，那时还没有化学工程。有化学、有流体力学、有机械学等等。但人们非常清楚地看到了有趣的目标：尝试建造工厂来生产化学产品，并以可行、安全的方式生产出好的产品，并大规模生产。所以人们当然开始尝试这样做，有些工厂成功了，有些没有，你知道，有些不可行，有些爆炸了。但与此同时，发展了一个完整的领域，叫做化学工程，对吧？化学工程是一个领域，毫无疑问，它有理论方面，也有实践方面，它不仅仅是“工程”，它是真实的东西，需要真实的观念。电气工程也是如此，你知道，有麦克斯韦方程组，从某种意义上说，它们包含了你所知道的关于电磁学的一切，但你需要弄清楚如何构建电路，如何构建模块，如何将它们组合在一起，如何安全地将电力从一个点传输到另一个点等等，所以发展了一个完整的领域，叫做电气工程。
好的，我认为现在正在发生的是，我们有一个原型领域，即统计学，更多地是计算机科学算法方面的理论侧。这足以开始构建事物，但构建什么呢？是那些能为人类带来价值、使用人类数据并融入人类决策的系统。这方面的工程侧都是临时的，这就是正在出现的。事实上，如果你想把机器学习称为一个领域，我认为它就是这样，它是基于前几代统计和计算思想的工程学的一种原型形式。
但你认为人工智能的梦想和抱负与化学工程和电气工程相比，是否有更深层次的东西？嗯，梦想和抱负也许有，但那是500年后的事情了。我认为那就像希腊人坐在那里说，总有一天能登上月球会很棒，对吧？嗯，我们对大脑如何进行计算一无所知。嗯，我们只是无知，我们甚至比希腊人还不如，对于我们这个时代几乎任何有趣的科学事物。你能就此多谈一会儿吗？因为你在这方面的清晰度上并非完全独特，但有点独特。你能阐述一下你的直觉吗，为什么我们对人类大脑的理解处于这样的境地，很多人说，你知道，科学家说我们在理解人类大脑方面进展不大，但你却说我们在这里一无所知。
嗯，我知道我不是独一无二的，我甚至不认为我的清晰度是独特的，但如果你和那些真正研究真实突触或真实神经元的神经科学家交谈，他们会同意，他们同意这是一项百年甚至数百年的任务，他们正在缓慢而肯定地建立起来。那里的信号是什么尚不清楚，我们认为我们有所有的比喻，我们认为它是电的，也许是化学的，它是一个完整的“汤”，是离子和蛋白质，它是一个细胞，即使在一个单一的突触周围，如果你看一个单一突触的电镜照片，它就是一个自己的城市，那只是树突树上的一个小东西，它是一个极其复杂的电化学事物，它正在进行这些尖峰放电，电压一直在飞来飞去，然后蛋白质正在接收这些，并将其带入DNA，谁知道呢，所以这是未来几个世纪的问题。这很棒，但我们有关于它的比喻，它是一个经济设备吗？它像免疫系统吗？还是像一组分层的算术计算？我们有所有这些比喻，它们很有趣，但那本身不是真正的科学，那不是神经科学。
好的，那就像希腊人推测如何登上月球一样，很有趣，对吧？我认为我喜欢相当强烈地表达这一点，因为我认为很多年轻人认为我们正处于边缘，因为很多不清楚地谈论它的人，让人觉得是的，我们有点受大脑启发，我们有点接近了，你知道，突破即将到来。而那些有时需要实验室资金的不择手段的人，嗯，我说的是“不择手段”，但人们会夸大其词，嗯，我需要实验室的资金，我在这里研究计算神经科学，嗯，我会夸大其词，所以这种现象太多了。
所以，我将稍微涉足比喻和工程之间的灰色地带，嗯，我不确定您是否熟悉脑机接口。所以像埃隆·马斯克这样的公司有Neuralink，它正在致力于将电极植入大脑，并试图能够读取和发送电信号。正如您所说，即使大脑中基本的通信机制也不是我们所理解的。但您是否希望，在不理解大脑工作基本原理的情况下，我们能够在那个比喻的灰色地带做一些有趣的事情？
那不是我的领域，所以我像其他人一样希望研究能带来一些有趣的事情。我更期待现代神经科学能解决阿尔茨海默症之类的问题，你知道，很多人类的痛苦都源于脑部疾病，我们向大脑投掷像锂这样的东西，它有点作用，没人知道为什么，这不太准确，但你知道，我们大多不知道，这甚至只是关于大脑的生物化学以及它如何导致情绪波动等等，思想如何从中产生，我们真的完全一无所知。所以你可能想连接电极，尝试对其进行一些信号处理，并尝试寻找模式，很好，你知道，尽管去做吧，但这在这一点上不科学，它就像坐在卫星上观察一个城市的排放，并试图证实关于微观经济的事情，即使你没有微观经济概念，我的意思是，它真的是那种事情。所以是的，你能找到一些能做有趣或有用事情的信号吗？你能用你的大脑控制光标或鼠标吗？是的，绝对可以，你知道，然后我可以想象基于此的商业模式，甚至医疗应用，但从那里到理解算法，让我们真正深入地将大脑与计算机连接起来，你知道，我就是不，我不同意埃隆·马斯克，我不认为那甚至不属于我们这一代，甚至不属于这个世纪。
所以，只是为了让您梦想一下，您提到了科尔莫戈罗夫和图灵可能会出现，您认为是否会有突破，让您在五到十年后坐下来惊叹“哇”？哦，我确信会有，但我不认为会有让我印象深刻的演示。我不认为让电脑打电话给餐馆并假装是人类是一种突破。人们，你知道，有些人将其呈现为模仿人类智能，甚至在其中加入咳嗽声，以制造一点公关噱头。所以，好吧，世界也依赖这些东西运转，我不想贬低这些背后所有的辛勤工作和工程，以及对人类的最终价值。但那不是科学理解，而且我知道从事这些工作的人，他们追求的是科学理解，你知道，与此同时，他们必须，你知道，火车必须运行，他们有里程要跑，他们有事情要做，所有这些都没有错。不过，我会称之为纯粹的工程，我想将其与像电气工程、化学工程这样的工程领域区分开来，这些领域最初出现时，具有真正的原理，你真正知道自己在做什么，并且你有一些科学理解，也许还不完全，所以它变得更可预测，并且因为它被理解，所以它真正地为人类生活带来了价值。所以我们必须，我们不想把这些水搅得太浑，你知道我们能做什么和我们真正能做什么之间，以一种能给下一代留下深刻印象的方式，所以我不需要被震撼，但我认为20年后，一个吸收了所有技术的年轻人出现，要让他们感到震撼，我认为他们必须被更深刻地打动，一个年轻的科尔莫戈罗夫不会被你现在看到的大公司的一些噱头演示所震撼。
但你认为科尔莫戈罗夫的突破会是，请给这个问题一个机会，你认为它们会在科学基本原理领域，还是你认为工程学上可能出现根本性突破，这意味着，你知道，我会说埃隆·马斯克与SpaceX正在做的一些事情，以及其他人试图彻底改变工程学、制造业的基础，或者说，这是一个我们知道如何演示的问题，并实际将其大规模实现。
是的，所以会有各种各样的突破，我只是不喜欢那个术语，我是一名科学家，我日复一日地工作，事情会进展，最终会说“哇，发生了什么”，但我不太喜欢那种说法。另外，我也不喜欢将理论突破置于实践突破之上。嗯，我更倾向于理论家，我认为现在那个领域有很多事情要做。嗯，所以我不会指向科尔莫戈罗夫那样的大师，我可能会指向那个时代的爱迪生，也许马斯克更像那样，但是，嗯，你知道，马斯克，上帝保佑他，也会说一些他知之甚少的人工智能的事情，而且他不知道自己在说什么，他，你知道，当他谈论他一无所知的事情时，会误导人们，试图编程让计算机理解自然语言，参与我们现在正在进行的对话，这在我们的有生之年是不可能发生的，你可以伪造它，你可以模仿，比如，拿人类使用的旧句子，用对语言的深刻理解重新包装它们，现在这不会发生。所以从那一点，你知道，我希望你能明白，更深层次的智能方面现在不会发生。会有突破吗？你知道，我认为谷歌是一个突破，我认为亚马逊是一个突破，你知道，我认为优步是一个突破，你知道，它们以全新的方式，基于数据流等，大规模地为人类带来价值。很多这些东西都有点问题，因为没有一种工程领域，它能在数据的背景下，以行星规模，考虑经济价值，并担心所有外部性，隐私，你知道，我们没有那个领域，所以我们没有很好地思考这些事情。但我看到它正在出现，那将是，你知道，从100年后回顾，那将构成这个时代的一个突破，就像电气工程是上世纪初的一个突破，化学工程也是一个突破。所以你谈论的规模和市场，我们稍后会谈到，将被视为一种突破，我们正处于真正做有趣事情的早期阶段，我们稍后会谈到，但只是快速回顾一下，你能否，嗯，我们有点抛开了历史学家的帽子，我的意思是，你简要地说过，嗯，人工智能的历史有点模仿化学工程的历史，但我一直说机器学习，你一直想说人工智能，只是让你知道，我不是，你知道，我会抵制这种说法，我不认为这是关于人工智能的。
实际上，约翰·麦卡锡几乎像一位哲学家一样说，如果我们能把思想放入计算机，如果我们能模仿人类的思考能力，或者在某种意义上把智能放入计算机，那不是很酷吗？那是一个有趣的哲学问题，他想让它不仅仅是哲学，他想实际写下能做到这一点的逻辑公式和算法，那是一个完全有效且合理的事情，但这并不是这个时代正在发生的事情，对吧？
所以我之所以一直说人工智能，实际上，我很想听听你的看法，机器学习有，嗯，有一套非常特定的方法和工具，也许你的版本是我的没有，不，它有，它非常非常开放，它做优化，它做采样，它做，所以学习系统就是机器学习，学习并做出决策的系统。那么什么是模式识别呢？从，你知道，发现模式，它都是关于在现实世界中做出决策并拥有紧密的反馈循环。所以像符号人工智能、专家系统、阅读系统、基于知识的表示，所有这些东西，搜索，这些是否符合你所认为的机器学习？
所以我甚至不喜欢这个词，但你知道，我认为你所谈论的这个领域，都是关于由大量实体在不确定性下做出大量决策，是的，对吧？而且在那个规模上，有相应的原则，你不必说这些原则是针对做出决策的单一实体、单一代理或单一人类的，它实际上立即转向决策网络，这是一个好的称谓吗？不，不，对于所有这些都没有好的词语，这有点是问题的一部分。
嗯，所以我们可以继续对话，用人工智能来指代所有这些，我只是想在这里表明我们的立场，这不是关于我们不知道什么是智能，真正的智能，我们对人类层面的抽象和推理知之甚少，我们一无所知，我们不试图构建它，因为我们一无所知，最终它可能会出现，他们会创造，我不知道是否会有突破，但最终我们会开始看到它的微光，但这并不是现在正在发生的事情。好的，我们正在获取数据，我们正在尝试基于此做出好的决策，我们正在尝试扩展规模，我们正在尝试使其在经济上可行，我们正在尝试建立市场，我们正在尝试在那个规模上保持价值，这方面的某些方面会看起来很智能，它会看起来，计算机以前是如此愚蠢，它们会显得更智能，我们将使用“智能”这个流行词，所以我们可以在这个意义上使用它。但你知道，所以机器学习，你可以狭义地将其定义为仅仅是从数据中学习和模式识别，但无论我谈论这些话题时，也许数据科学是你可以加入的另一个词，重要的是决策是其中的一部分，现实世界中的重要决策是，我有一个医疗手术，我是否要开车上街，你知道，那些稀缺的东西，那些影响其他人或环境的东西等等，我如何基于数据做到这一点，我如何适应性地做到这一点，我如何使用计算机来帮助这些事情向前发展，无论你想称之为什。
所以我们称它为人工智能吧，我们同意称它为人工智能，但，嗯，我们不要说它的目标是智能，它的目标是前所未见的行星规模的良好运行系统。
从几十年前达特茅斯会议上人类的梦想中重新定义人工智能这个词，我不想重新定义它，我想要一个新词，我认为那是一个糟糕的选择。我的意思是，你知道，如果你读过我写的一些小东西，嗯，历史基本上是，嗯，麦卡锡需要一个新名字，因为控制论已经存在了，而且他不喜欢，你知道，没人真正喜欢诺伯特·维纳，你知道，维纳有点像一个孤岛，他觉得他已经涵盖了所有这些，在某种意义上他确实做到了，你看看控制论的语言，它就是我们正在谈论的一切，它是控制理论和信号处理，以及一些智能概念和紧密的反馈循环和数据，所有这些都在那里，它只是一个没有流传下来的词，部分原因可能是个性问题，但麦卡锡需要一个新词来表达“我与你不同，我不是你节目的一部分，我有我自己的”，他发明了这个词。嗯，再次，作为一种对未来可能制作的电影的思考，嗯，那是一个很棒的选择，但从创建一门严谨的学术和现实世界学科的角度来看，那是一个糟糕的选择，因为它导致了不真实的承诺，我们理解，我们也许理解“人工”，但我们不理解“智能”。这是一个小插曲，因为您是机器学习领域（无论您称之为什）的伟大人物之一，您认为科学是通过个性进步，还是通过独立于个性的基本原理、理论和研究进步？
两者都有，我不会说应该只有一种个性，我有我的，我有我的偏好，我周围有一个滋养我的网络，其中一些人同意我，一些人不同意，但各种个性都是需要的。嗯，现在我认为那种有点过于旺盛，有点过于轻易承诺一切的个性有点过于盛行。嗯，我确实认为这有一些好处，它当然吸引了许多年轻人进入我们的领域，但很多这些人带着强烈的误解进来，然后他们必须忘掉这些，然后找到一些，你知道，可以做的事情。嗯，所以我认为必须有多种声音，而且我没有，我没有听到足够多的更清醒的声音。
那么，作为有趣插曲的延续，谈到充满活力的个性，您认为您与扬·勒昆之间最有趣的分歧是什么？所以扬是老朋友了，我只是说，我，我真的不认为我们有很多分歧，他和我都有一种“让我们建造它”的心态和“它是否有效”的心态，嗯，而且很具体。嗯，我们都说法语，我们更多地一起说法语，我们有很多很多共同点。嗯，所以你知道，如果有人想强调一个分歧，我认为它并不是一个根本性的分歧，它只是我们强调的重点不同。嗯，扬，嗯，强调了模式识别，嗯，强调了预测，好的，所以你知道，嗯，尝试将其推到极致是很有趣的，如果你能做出完美的预测，那会给你带来什么样的思想实验呢？嗯，嗯，我认为那太有限了，嗯，我们无法做出完美的预测，我们永远不会有数据集让我弄清楚你接下来准备做什么，你接下来要问什么问题，我一无所知，我永远不会知道这些事情。此外，我们大多数人白天会发现自己处于各种我们没有预料到的情况中，这些情况在各种方面都非常新颖，在那一刻，我们想要仔细思考我们想要什么，而且还会受到市场力量的影响，我想走那条街，但现在它堵了，因为街上有一台起重机，我必须，我必须考虑这一点，我必须考虑我在这里真正想要什么，我必须思考做这个行动与做那个行动会花费我多少，我必须思考其中涉及的风险，你知道，我们目前的许多模式识别和预测系统不做任何风险评估，它们没有误差棒，对吧？我必须考虑周围其他人的决定，我必须考虑我的一系列决定，即使只是考虑像医疗治疗这样的事情，你知道，我不会接受神经网络对我的健康，对一些重要事情的预测，我是否即将心脏病发作，因为某个数字超过0.7，即使你拥有世界上所有从未收集过的关于心脏病发作的数据，比任何医生都好，我也不会相信那个神经网络的输出来预测我的心脏病发作，我将想问关于它的“如果”问题，我将想看看我们或其他可能的我没有的因果数据，我将与医生就我们没有考虑过的事情进行对话，我们收集了数据，你知道，我可以一直说下去，我希望你能明白，我不是，我认为如果你说预测就是一切，那么你就会错过所有这些东西，所以预测加上决策就是一切，但两者都同样重要，所以这个领域强调了预测，扬理所当然地看到了它的强大，但代价是人们没有意识到决策才是真正关键的地方，人类生命危在旦夕，风险正在被承担，你需要收集更多数据，你需要考虑误差棒，你需要考虑你的决定对他人造成的后果，你的决定周围的经济等等。我不是唯一一个从事这些工作的人，但我们是一个较小的群体，现在我们不是人们谈论最多的，嗯，但你知道，如果你在工业界的现实世界中，嗯，你知道在亚马逊，我会说那里一半的人在做决策，另一半在做，你知道，模式识别，这很重要，模式识别和预测这两个词，我认为它们之间的区别，不是纠结于词语，而是区别在于，实验室中的受限数据集与决策，是在现实世界的混乱和不确定性下，谈论现实世界中的重要决策，以及它的全部，它的全部混乱，它实际上触及人类和规模，就像你说的市场力量，这就是区别，是的，它有助于增加这些视角，更广阔的视角，你说得对，我完全同意，嗯，另一方面，如果你是一个真正的预测者，你当然希望它在现实世界中，你希望预测现实世界的事件，我只是说，仅仅依靠数据集是不可能的，嗯，它必须在，你知道，某人正在做的数据的战略背景下，他们可能收集的数据，他们可能已经收集的数据，围绕数据的推理过程，它不仅仅是获取数据并基于数据进行预测。
所以你正在做的事情之一，我确信其他人也在做，但我很少听到有人谈论它，尤其是在你谈论它的清晰度方面，我认为它既是人工智能在决策方面最令人兴奋的领域，也是最令人担忧的领域。所以你谈到了人工智能系统，它们以分布式方式帮助做出大规模决策，数百万、数十亿的决策，它有点像决策市场，你能否作为一个起点，举一个你在思考这类系统时所想到的系统例子？
嗯，是的，首先，你绝对正在进入一些超出我专业知识的领域，而且有很多事情会非常不明显，就像，我喜欢思考一点历史，但想想回到60年代，那时有一种银行系统，它并没有真正计算机化，有数据库理论正在兴起，数据库人员必须思考如何不仅移动数据，而且移动实际的钱，并使其，你知道，有效，并让ATM机发生的交易，你知道，都是有效的等等，所以当你开始认真对待这类事情时，你就会遇到这类问题。我喜欢将其视为一种思想实验，帮助我思考一个更简单的问题，那就是音乐市场，嗯，因为首先，现在世界上没有音乐市场，或者说在我们国家肯定没有。嗯，有一些叫做唱片公司的东西，它们赚钱，嗯，它们扶持一些，嗯，非常好的音乐家，把他们打造成超级明星，他们都赚大钱，但有大量的人制作了许多许多非常好的音乐，这些音乐实际上被比那些著名人物更多的人收听，但他们却处于长尾效应中。嗯，他们不在市场中，他们无法拥有职业生涯，他们不赚钱，那些创作者，那些创作者，那些所谓的网红或什么的，这贬低了他们的身份，对吧？所以现在有一些人制作了非常好的音乐，尤其是在嘻哈或拉丁音乐界，嗯，他们用笔记本电脑制作，那是他们周末做的事情，他们周内有另一份工作，他们把它上传到SoundCloud或其他网站，最终它被流媒体播放，被下载，变成比特，它没有经济价值，信息丢失了，它被上传到那里，人们流媒体播放它，你在大城市里走动，你会看到戴着耳机的人，你知道，尤其是小孩子一直在听音乐，如果你看数据，他们听的音乐很少是名人的音乐，也没有老歌，都是最新的东西，但制作这些最新东西的人就像某个地方的16岁孩子，他们永远不会因此而获得职业生涯，永远不会赚钱。当然会有一些反例，唱片公司会激励挑选出少数人并突出他们，长话短说，那里有一个缺失的市场，在实际创作行为层面没有消费者与生产者关系。嗯，世界上像Spotify这样的管道，它们获取这些内容并进行流媒体播放，它们通过订阅或广告赚钱，这些东西它们正在赚钱，好的，然后它们会再次向少数人提供一些片段，以突出，你知道，它们无论如何都在模拟一个市场。一个真正的市场是，如果你是一个音乐创作者，你实际上足够优秀，人们想听你的音乐，你应该有数据可用，应该有一个仪表板显示美国地图，所以上周你的歌曲在所有这些地方被收听了，它应该是透明的，嗯，可验证的，这样如果普罗维登斯有人看到你的歌曲在普罗维登斯被收听了一万次，他们知道那是真实数据，你知道那是真实数据，他们会让你去那里演出，他们会向那些一直在听你音乐的人广播你即将到来，如果你做得对，你就可以，你知道，去那里赚两万美元，你一年做三次，你就会开始有事业。所以从这个意义上说，人工智能创造了就业机会，它不是夺走人类的工作，而是创造新的工作，因为它创造了一个新的市场，一旦你创造了一个市场，你就连接了生产者和消费者。你知道，制作音乐的新人可以对经常来看他们演出的人说，嘿，我为你的女儿的婚礼演奏，一万美元，你会说八千，他们会说九千，嗯，然后你再次，你现在可以获得高达十万美元的收入，你不会成为百万富翁，好的。而且现在甚至想想，音乐的真正价值在于这些个人联系，甚至到了，嗯，一个小孩想穿一件印有他们最喜欢的音乐家签名的T恤，对吧？所以如果他们在互联网上听音乐，互联网应该能够为他们提供一个按钮，他们一按，商品第二天就到，我们可以做到这一点，对吧？那么我们为什么要这样做呢？嗯，因为买衬衫的孩子会很高兴，但更重要的是，制作音乐的人会得到钱，不需要广告，对吧？所以你可以在个人消费者之间创建市场，收取百分之五的佣金，你的公司将完全，嗯，稳健，它将走向未来，它将创造新的市场，这会提高人类的幸福感。嗯，现在这看起来很容易，只是创建这个仪表板，建立一些连接等等，但你知道，如果你想想优步或任何其他类似的东西，你会想到在现实世界中做这些事情的挑战，实际上需要新的原则，你正在尝试创建一个以前从未有过的不同规模的新型双向市场，会有，你知道，市场中不希望出现的方面，会有坏人，会有，你知道，数据会被错误地使用，你知道，它会在某些方面失败，它不会带来价值，你必须仔细考虑这些，就像任何经营大型拍卖或，你知道，经营大型经济匹配服务的人会仔细考虑这些事情一样，所以这也许并没有完全解决当你开始创建市场时可能出现的所有巨大问题，但它至少对我来说，开始巩固我的想法，并允许我在自己的思考中向前迈进。
是的，所以我与Spotify的研究人员谈过，实际上，我认为他们所说的长期目标是，嗯，让至少100万创作者通过Spotify过上舒适的生活，所以，我认为你阐述了一个非常美好的愿景，嗯，关于世界以及数字和网络空间市场。你认为像Spotify、YouTube或Netflix这样的公司可以做些什么来创建这样的市场？这是一个人工智能问题吗？这是一个界面问题吗？所以界面设计是吗？嗯，是其他类型的问题吗？这是一个经济学问题，他们应该雇佣谁来解决这些问题？
嗯，部分原因不仅仅是自上而下的，所以硅谷有一种态度，他们知道如何做，他们会创造一个系统，就像谷歌用搜索框做的那样，它会非常好，以至于每个人都会采用它，对吧？嗯，它不是，它就是你所说的一切，但实际上我认为它缺少那种文化，好的，所以它实际上是那个能够创作歌曲的16岁孩子，你不能作为一个硅谷实体来创造它，你不能直接雇佣他们，对吧，你必须创造一个他们被需要并且属于其中的生态系统，对吧，所以你必须有一些文化信誉来做这样的事情。你知道，Netflix值得称赞的是，他们想要那种信誉，他们创作了节目，你知道，内容，他们称之为内容，这是一个多么糟糕的词，但它被称为文化，对吧？所以对于电影，你可以给一个从南加州大学电影学院毕业的人一大笔钱，这有它自己的一套，但这有点像富裕白人做的事情，你知道，而且你知道美国文化更多地不是关于富裕白人，而是关于所有移民，所有来到并带来那种文化和那些节奏的非洲人，以及将这些带到这个世界并创造出这种全新事物，你知道，美国文化。所以公司不能人为地创造它，他们不能只是说嘿，我们在这里，我们要把它买下来，你有一个合作伙伴，对吧？而且，嗯，所以无论如何，你知道，不要整合这些公司都在尝试，他们也应该这样做，而且他们确实在尝试，我确信他们正在问这些问题，其中一些甚至正在努力，但它，它部分是对文化的尊重，作为一名技术人员，你必须将你的技术与文化，与文化，嗯，你知道，意义融合。
你认为算法机器学习在连接消费者与创作者方面扮演了多大角色？有点，嗯，推荐系统这方面。是的，这是一个很好的问题，我认为推荐度很高，你知道，嗯，算法中没有魔法，但一个好的推荐系统比一个糟糕的推荐系统要好得多，而且，嗯，推荐系统在，你知道，甚至十二十年前就是一个价值数十亿美元的产业，嗯，而且它在未来仍然极其重要。
你最喜欢的推荐系统是什么？只是为了我们能说点什么，嗯，从历史上看，我就是其中之一，你知道，当我第一次去亚马逊的时候，你知道，我最初不喜欢亚马逊，因为他们让书店的人失业了，或者图书馆，你知道，当地的书商倒闭了。嗯，我已经接受了，你知道，现在可能比以往任何时候都卖出更多的书，更多的人在阅读它们，然后当地书店正在回归，所以你知道，这就是经济学有时运作的方式，你起起伏伏。但无论如何，当我最终开始去那里并买了几本书时，我很高兴看到另外几本书被推荐给我，这些书我从未想过，我买了很多，所以他们显然有一个好的商业模式，但我学到了东西，直到今天我仍然有点使用那个服务浏览。嗯，我认为很多人都得到了很多，你知道，那是推荐系统的一个好方面，我以一种间接的方式从我的同行那里学习，他们的算法并不是为了让他们强加我们所学到的东西，它实际上是在试图找出数据中有什么。
它对其他类型的实体效果不佳，但这只是人类生活的复杂性，比如衬衫，你知道，我不会得到衬衫的推荐，而且，嗯，但这很有趣。嗯，如果你尝试推荐，嗯，嗯，餐馆，它，它，它，它很难，很难大规模地做，而且，嗯，但是，嗯，推荐系统与其他经济思想、匹配等的结合，在研究方面仍然非常非常开放，并且可能会出现新的公司能很好地做到这一点。
你认为YouTube和Twitter在推荐系统方面必须处理的，比如政治之类的混乱困难领域，它们能够推荐什么？我认为Facebook刚刚推出了Facebook新闻，所以他们正在推荐最可能让你感兴趣的新闻，你认为这又是人工智能可解决的吗？无论你想用什么术语，你认为这是一个机器可解决的问题，还是一个无法解决的深刻的人类问题？
嗯，所以我甚至不从那个层面去思考，我认为这些公司有些问题，都是通过广告盈利，他们没有，至少Facebook，我想批评他们，他们没有真正尝试以经济方式连接生产者和消费者，对吧，没有人愿意为任何东西付费，所以他们都，你知道，从谷歌和Facebook开始，他们回到了，你知道，以前电视公司的套路，没有人愿意为这个信号付费，他们会为电视盒子付费，但不会为信号付费，至少在过去是这样，所以广告填补了那个空白，但广告是新的、有趣的，它不知何故没有完全占据我们的生活，快进到谷歌提供了一个人们不想付费的服务，嗯，所以在90年代有些令人惊讶的是，他们最终赚了大钱，他们垄断了广告市场，至少对我来说，这似乎不会发生，嗯，屏幕右侧的这些小东西看起来并没有那么大的经济吸引力，但这些公司可能别无选择，电视市场正在消失，广告牌等等，嗯，所以他们做到了，我认为可悲的是，嗯，谷歌只是，它做得太好了，赚了这么多钱，他们没有再多想，等等，这里是否应该建立生产者与消费者之间的关系，而不仅仅是，嗯，在我们和广告商之间创建一个市场，生产者和消费者之间是否存在一个实际的市场？他们是生产者，是创建那个视频剪辑的人，是制作那个网站的人，是能够制作更多此类东西的人，是能够调整它并根据需求进行调整的人，另一边是要求不同类型东西的人，你知道，所以你现在看到了它的微光，有网红，有一种小小的市场微光，但它应该在20年前就完成，应该被思考，应该与广告生态系统并行创建，然后Facebook继承了这一点，我认为他们也没有对此进行太多思考。所以快进到现在，他们通过广告和新闻以及所有这些点击赚取巨额资金，这只是在为广告输送流量，所有这些都与广告商挂钩，所以你希望更多人点击某些东西，因为那笔钱会流向你，Facebook，你非常有动力去做这件事，当你开始发现它正在崩溃时，人们告诉你，嗯，我们遇到了一些麻烦，你尝试用你的智能人工智能算法来调整它，对吧，并找出哪些是糟糕的点击，尽管也许不应该是点击率，它应该是一些我发现几乎无望的东西，它确实涉及生活中的所有复杂性，你可以尝试修复它，你应该这样做，但你也可以修复整个商业模式，商业模式是，真的，外面是否存在一些人类生产者和消费者？通过直接连接他们，是否存在一些可以被解放的经济价值？它是否如此有价值，以至于人们愿意为此付费，好的，以及像智能微支付这样的微支付，但甚至必须是微支付。所以我喜欢这个例子，假设我下周要去印度，以前从未去过印度，对吧，嗯，我在孟买有几天时间，嗯，我不知道在那里做什么，对吧，我现在可以上网搜索，那会有点绝望，我不会找到，你知道，嗯，我会有很多广告扑面而来，对吧，我真正想做的是向全世界广播我要去孟买，并让市场另一边的人关注我，而且那里有一个推荐系统，所以我不是在看所有可能来孟买的人，他们正在看与他们相关的人，所以是我的年龄组的人，某种程度上了解我的人，我为此放弃了一点隐私，但我很很高兴，因为我将得到的回报是这个人会为我制作一个小视频，或者他们会写一篇两页的小文章，介绍你这周特别想做和移动的酷事情，对吧，我会看那个，我不会支付微支付，我会支付，你知道，100美元或任何费用，那是真正的价值，它就像新闻业，嗯，因为我不是订阅，而是我会在那一刻支付那个人，公司会从中抽取百分之五，那个人现在已经得到了，如果你愿意，它是一种零工经济，但你知道，在，你知道，思考YouTube背后的一点点，实际上有人如果他们连接到市场，他们可以制作更多这样的东西，他们会独立制作更多这样的东西，你不必告诉他们做什么，你不必以任何其他方式激励他们。嗯，所以是的，我认为这些公司没有对此进行长时间的深入思考，所以我确实区分，你知道，一方面是Facebook，他们根本没有考虑过这些事情，我认为，嗯，认为人工智能会解决一切，嗯，而亚马逊一直在思考这些，因为他们已经在现实世界中，他们正在向人们的家门口递送包裹，他们，他们担心市场，他们担心卖家，你知道，他们担心，他们做的一些事情很棒，一些事情可能不那么棒，但你知道，他们处于那种商业模式中，然后。
我倒是觉得谷歌大概介于两者之间。我不知道，我不知道他们花了很长时间才弄明白。我想他们可能认为 YouTube 比他们想象的更有潜力，而且他们可能正朝着那个方向发展。
嗯，你知道，硅谷一直被谷歌、Facebook 那种心态所主导，以及订阅和广告。这才是核心问题，对吧？假新闻实际上是建立在这一切之上的，因为这意味着你通过点击率来盈利，而这才是核心问题。你必须消除它。所以广告，如果你要纠结于此，我的意思是这是一个有趣的理论，我不知道是否每个人都深入思考过。
所以你是对的，想法是广告模式是我们唯一拥有的，是我们唯一会拥有的。所以我们必须修复，我们必须构建算法，尽管有这种商业模式，你知道，找到我们本性中更好的天使，为社会和个人做好事。
但你认为我们可以慢慢来，你认为首先“应该”和“能够”之间有区别。所以你说我们应该慢慢摆脱广告模式，让消费者和创作者之间建立直接联系。我也有一个问题，那就是我们能否做到？因为广告模式现在非常成功，就赚钱而言，能够建立一家拥有真正聪明人工作并创造出优质服务的公司。你认为这可能吗？只是为了澄清，你认为我们应该摆脱它？
嗯，我认为我们应该，是的。但“我们”你知道，是我，所以是社会。公司呢？我的意思是，首先，完全披露，我每周在亚马逊工作一天，因为我想更多地了解他们是如何做事的。所以，我不是代表亚马逊说话，但你知道，我之所以去那里，是因为我确实相信他们理解这一点，他们正在努力创造这些市场，而广告并不是其中至关重要的部分。
这是一个好问题。所以它已经变得不那么重要了，但它变得越来越普遍。如果你去亚马逊网站，你知道，在不透露太多亚马逊的秘密的情况下，我可以告诉你，你知道，很多人质疑这一点，而且有很多质疑。你不想生活在一个零广告的世界里，那实际上是一个糟糕的世界。
好的，这里有一个思考方式。你是一家像亚马逊这样的公司，试图将产品带给客户，对吧？而客户在任何时候都想买吸尘器，比如说，你想知道对我来说有什么可用的。你知道，这不会那么明显，你必须做一点功课。推荐系统会有点帮助，对吧？但现在假设这里的另一个人刚刚创造了世界，你知道，他们付出了巨大的努力，他们有一个很棒的想法，他们制造了一个很棒的吸尘器，他们知道他们真的做到了，他们做到了。这是一个麻省理工学院的，你知道，天才少年制造了一个很棒的新吸尘器，对吧？它不会出现在推荐系统中，没有人会知道它。算法找不到它，人工智能也无法解决这个问题，好吗？
那么，你如何让那个吸尘器开始出现在人们面前并被销售呢？广告。而这里的广告是什么？它是一个信号，表明你足够相信你的产品，以至于你愿意为它支付一些真金白银。对我这个消费者来说，我看到这个信号，我说，嗯，首先，我知道这些不是廉价的小广告，因为我们现在有。我现在知道，你知道，这些非常便宜，你知道，几分钱。如果我看到一个广告，我知道公司只做其中一些，而且他们正在赚钱，你知道，真正的钱正在流动，我看到一个广告，我可能会更关注它，我可能真的想要它，因为我看到，嘿，那家伙在他的吸尘器上花钱了，或者也许那里有什么好东西。所以我会看它。所以，这是良好市场中整体信息流的一部分。
所以广告确实有作用。但问题当然是，那个信号现在完全消失了，因为它只是，你知道，被这些微小的东西所主导，这些东西加起来对公司来说就是大钱。你知道，所以，我认为它只会，我认为它会改变，因为社会就是不，你知道，坚持那些惹恼很多人的事情。而广告目前惹恼人们的程度超过了它提供信息。我认为谷歌可能足够聪明，能够弄清楚这是一个死胡同，这是一个糟糕的模式，即使它赚了很多钱，他们也必须弄清楚如何摆脱它，慢慢地，我敢肯定那里的首席执行官会弄清楚的。但他们需要这样做。
而且他们需要，所以如果你减少广告，不是减少到零，而是减少它，同时你又增加了生产者和消费者之间实际的真实价值的交付。所以真金白银正在被支付，他们收取百分之五的佣金。这百分之五可能会变得足够大，足以抵消来自那种糟糕的广告的收入损失。我认为一家好公司会这样做，会意识到这一点。而且他们，你知道，Facebook，你知道，再说一次，上帝保佑他们，他们带来了，你知道，祖母的，你知道，他们把孩子们的照片带到祖母的生活中，这太棒了。但他们需要考虑一个新的商业模式。而这才是核心问题。
除非他们开始连接生产者和消费者，否则我认为他们只会继续赚钱，然后收购下一个社交网络公司，然后收购下一个。创新水平不会很高，健康问题也不会消失。
所以，我很抱歉，我们又回到了词语。我认为确切的术语并不重要，但在某种程度上，防御性广告，你难道不认为消费者和创作者之间的直接联系是最好的吗？就像广告所追求的那样，对吧？所以这是最好的。广告现在真的就是 Facebook 在听我们的谈话，听到了你要去印度，我们将能够自动为你建立这些联系，并开始提供这个优惠。所以，如果这只是术语问题，我很抱歉，但只是为了区分一下，有没有可能通过算法让广告变得越来越好，好到它实际上变成了一种几乎是直接的联系？
这是一个好问题。所以，首先，让我们把所有这些推动力都分解一下。我刚才谈论的是我正在为广告辩护，好吗？所以我正在为它辩护，作为一种将信号引入市场的方式，而这些信号无法以其他方式进入，尤其是通过算法。这是某人为此花钱的信号，这是他们认为它有价值的信号。如果我认为，如果其他人认为它有价值，如果我信任其他人，我可能愿意听。
但我并不信任 Facebook，它是一个中间人。我不认为他们关心我，好吗？我不认为他们关心。而且我知道我下周要去印度，因为我们的谈话，我觉得很令人毛骨悚然。你为什么认为，我们能，你能戴上你的公关帽子吗？你为什么认为 Facebook 让你觉得毛骨悚然，并且不信任他们，就像大多数人一样？
所以，在硅谷的公司中，我看到不是批准率，而是人们信任公司的排名。而 Facebook 却在谷底，包括 Facebook 内部的人。那么，你认为这是什么原因呢？因为当我来的时候，你觉得不毛骨悚然吗？我们现在正在谈话，我可能会在街上走出去，一个我不知道的陌生人走过来对我说，我听说你要去印度。这甚至不是 Facebook，这只是，如果我想要人类社会的透明度，我想要，如果你知道我的一些事情，实际上是有原因的，你知道我的一些事情，我以后看的时候可以审计，我批准了。你知道我的一些事情，因为你以某种方式关心。甚至有一种关怀关系，或者经济关系，或者别的什么，而不仅仅是你可能以我不知道或不关心的方式利用它，或者我感到困扰，或者别的什么。
而我们现在正处于一个这样的世界，这种情况发生得太多了，而 Facebook 知道很多人的事情，并且可以利用它，而且有时确实会利用它。我认为大多数人确实觉得这很毛骨悚然。这不是为了他们，不是因为 Facebook 在这样做是因为他们关心他们，好吗？在任何真正意义上，他们都不应该成为一个关心我们的老大哥，这不是一家公司应该扮演的角色。
为什么不呢？不是老大哥的部分，而是分享，信任的东西。我的意思是，难道那些公司不会，你知道，很多公司都有关于我们的很多信息吗？我想说，像微软这样的公司拥有的关于我们的信息比 Facebook 还要多，但我们却更信任微软。
嗯，微软正在转型。你知道，在萨提亚·纳德拉的领导下，微软已经决定，这真的很重要。我们不想做令人毛骨悚然的事情。我们真的希望人们信任我们，只以他们真正批准的方式使用信息，而不是我们决定的。
而且，我只是在补充，市场的健康状况是，当我连接到一个生产者的消费者时，它不仅仅是随机的生产者和消费者，而是互相看到的人。他们不喜欢对方，但他们感觉到，如果他们交易，双方的幸福感都会增加。如果一家公司帮助我做到这一点，在我选择的时刻，那就好了。
而且还要考虑浏览和购买的区别，对吧？在我生命中有一些时刻，我只想买，你知道，一个小工具，或者我需要一些东西。我需要一些氨水来处理我的房子，或者别的什么，因为我有一个问题，一个泄漏。我想进去，我不想在那一刻被广告轰炸。我不想被引向非常糟糕的，你知道，那很烦人。我想进去，然后把我想做的事情变得极其容易。
其他时候我可能会说，不，就像今天我要去购物中心，我想四处看看，看看人，看看东西。所以我想控制这一点，但我不希望公司的算法替我决定，对吧？我认为这是我们完全失去控制的事情。如果 Facebook 认为他们应该从我们手中夺走控制权，决定我们什么时候想要某些类型的信息，什么时候不想要，什么信息，有多少信息与他们知道的关于我们的信息有关，而我们并不真正想让他们知道。我不想让他们那样帮助我，我不想让他们帮助我，但他们决定。
嗯，他们控制着，你知道，我想要什么，什么时候想要。我完全同意。所以，顺便说一句，Facebook，我有一个乐观的想法，我认为 Facebook 拥有关于我们的个人信息，可以创造出美好的事物。所以我对 Facebook 能做什么非常乐观。它不是它正在做的，而是它能做什么。
所以我看不到，我认为这种乐观是错误的，因为没有一点点。你必须有一个商业模式来支持这些事情。是的，创造美好的事物，让我们说清楚，它是关于人们会重视的东西。而且我认为他们没有那个商业模式，而且我认为他们不会突然发现它，通过，你知道，洗个长热水澡。
我不同意。我不同意。就你而言，你可以在淋浴时发现很多惊人的东西。所以，如果我没说的话，我说他们不会这样做，但我在淋浴时认为，很多其他人会发现它。我认为这个人，所以我也应该，完全披露，有一家名为 United Masters 的公司，我在他们的董事会任职，他们创造了这个音乐市场。是的，他们现在有十万名艺术家签约，他们做了一些事情，比如去了 NBA。NBA 的音乐，你发现的音乐，现在是他们的音乐，对吧？那是一家从一开始就拥有正确商业模式的公司，对吧？执行了它。而且从第一天起，就为人们带来了价值。
所以，这里有一个创作了一些歌曲的孩子，突然他的歌曲出现在 NBA 网站上，对吧？这对人们来说是真正的经济价值。所以，你知道，你和我对能够改变泰坦尼克号方向的乐观程度不同，对吧？所以，是的，我比你老，所以我认为泰坦尼克号撞毁了，明白了。
而且，只是为了详细说明，因为我完全同意你，我只是想知道你认为这个问题有多难。所以，例如，我想读一些新闻，而且一天中有很多时候，有些东西会让我微笑，或者以一种我喜欢的方式思考，我会有意识地认为这真的给了我价值。我有时会听纽约时报的《每日播客》，顺便说一句，比纽约时报本身好多了，对于听众来说，那就是真正的记者在发生，我不知道为什么，在播客领域。这对我来说没有意义。但通常我会听 20 分钟，我愿意为此付费，比如五美元，十美元，为了这种体验。绝对。
而这有多难？这有点像你所说的，是那种小交易。创造一个像 Uber 那样的无摩擦系统，对于其他事情来说有多难？你的直觉是什么？
所以，首先，我付了少量的钱，你知道，有一个叫做 Courts 的东西，它做金融方面的事情。我喜欢 Medium 这个网站，我没付钱，但你知道，你有一篇很棒的文章在 Medium 上，我很想付你一美元。但我也不会想要它，因为也应该有一些网站，那不是他们的目标。目标是有一个广播频道，我以其他方式将其货币化，如果我选择的话。我的意思是，我现在人们知道了，我可以，我没有这样做，但没关系。
还有那些创作了所有音乐的音乐家。我不认为正确的模式是向他们支付一点订阅费，好吗？因为人们可以轻易地复制这些片段，而且它就是不，价值在于人与人之间的联系。然后你可以继续跟进，创造更多的价值。所以，不，我认为这里有很多悬而未决的问题，热点问题。但也有，是的，我想要好的推荐系统，向我推荐很酷的东西。但它很难，对吧？我不喜欢他们仅仅根据我的浏览历史来推荐东西。我不喜欢根据他们知道的关于我的事情来推荐。
“未知”的关于我的事情是最有趣的。这是一个非常有趣的问题。我们可能会意见不合，也许不会。我认为我喜欢推荐系统，并且想把关于我的一切都给它们，以一种我信任的方式。是的，但你，但你不是，所以，例如，今天早上我点击了，你知道，我今天早上很困。我点击了一个关于英格兰女王的故事。是的，我真的不在乎英格兰女王，我真的不在乎。但它是点击诱饵，看起来很有趣，我不得不说，他们到底在说什么？我不想让我的生活，你知道，朝着那个方向发展。
现在这在我的浏览历史中。系统，在任何合理的系统中，都会考虑历史。但但你说所有这些数字废气，或者无论是什么，模型，如果你收集所有这些东西，你就会算出我们所有人。那么，如果你试图弄清楚，你知道，像特朗普这样一个人，也许你可以弄清楚他。但如果你试图弄清楚，你知道，五亿人，你知道，绝对不行。绝对不行。
你认为呢？不，我认为是。我认为人类非常丰富和复杂。我们每个人都有我们的小怪癖，每个人都有我们的小事情会引起我们的兴趣，我们自己都不知道，而且会引起我们的兴趣。我们过去没有任何迹象，但天哪，它来了。你知道，你爱上了它。而我不想让一家公司试图为我弄清楚这一点，并预测它。
好吧，我希望他们提供一个论坛，一个市场，一个我有点去的地方，无论如何，这都会发生。你知道，我走在街上，我听到一些智利音乐在播放，我从来不知道我喜欢智利音乐，但哇。所以，也有这一面。而我希望他们提供一个有限但，你知道，有趣的地方去。所以，不要试图用你的人工智能来，你知道，弄清楚我，然后把我放到一个你已经弄清楚我的世界里。不，为人类创造巨大的空间，让我们的创造力和风格得到丰富和发展，并且会有更多的透明度。我不会让人们随意匿名地发表评论，尤其是基于他们知道的关于我的事情，事实是，你知道，我们现在非常糟糕，如果你是，你知道，尤其是如果你是名人，但你知道，任何人都可以。
匿名的人正在伤害很多人。而这正是硅谷所认为的，你知道，收集所有这些信息并以一种伟大的方式使用它。所以，不，我，我不是，我不是一个悲观主义者，我天性非常乐观。但我认为，整个技术的发展方向是错误的。要更有限，要创造，让人类崛起，不要试图取代他们。那就是人工智能的口号。不要试图预测他们，不要试图预测他们，因为你不行，你不会做这些事情。你会让事情变得更糟。
所以，现在就给它一个机会。现在，推荐系统就像阴影中的怪人，监视着你的一举一动。它们正在查看你的痕迹，它们没有直接与你互动，就像你的亲密朋友和家人一样，他们了解你的方式是通过交谈，通过实际的来回互动。你认为推荐系统有地方可以，因为你刚刚强调了人与人之间联系的价值，但是的，只是给它一个机会。人工智能，人与人之间的联系，系统是否有作用，通过对话来试图弄清楚你喜欢什么样的音乐，而不是仅仅通过观察你在听什么，而是通过实际的对话，自然语言或其他方式？
是的，不，我，我不是反对它。我只是想反驳一下。也许你是在说，你有 Facebook 的选择。所以，我认为那是错误的。但但，我认为这个悬而未决的 Facebook，是的。所以，很好，去吧。那是一个艰难的处境。是的，不，良好的人际互动，就像我们在《每日》中一样，我家的环境是我完全不想让任何大公司知道的。但我很乐意让技术来帮助我。什么样的技术？你知道，就像 Alexa，亚马逊。
嗯，一个好的 Alexa 做得对。我认为 Alexa 目前更多的是一个研究平台。但一个好的 Alexa，你知道，可以做一些事情，比如我让花园里的水一直在流，我说，嘿，Alexa，水在我的花园里。甚至让 Alexa 弄清楚这意味着当我的妻子回家时，她应该被告知。这有点推理。我称之为人工智能，无论如何，它有点推理。而且它实际上让我的生活变得更轻松，更好。而且，你知道，我不会称之为惊叹的时刻，但我认为总体而言，拥有这样的东西可以提高人类的幸福感。但不是当你孤独的时候。Alexa 知道孤独，不，不。在那里，我不想让你觉得被侵犯了，而且，我也不想让系统的设计者来弄清楚这一切。我真的想拥有很多控制权，我想要透明度和控制权。如果公司能够站出来，在新的技术背景下给我这些，我认为它们会，首先，会比我们这一代更成功。而且，就像我说的，我之前提到了微软，我真的认为他们正在转向成为值得信赖的老叔叔。但你知道，我认为他们明白这就是方向。如果你让人们找到技术，它就能赋予他们更多的控制权，并且拥有，不仅是对隐私的控制，而且是对这一系列丰富的互动。人们会更喜欢。而这才是未来正确的商业模式。
控制隐私是什么样的？你认为你应该能够查看所有数据吗？不，这不仅仅是。我的意思是，首先，这应该是一个个人决定。有些人不想要隐私，他们希望自己的生活全部公开。其他人想要。隐私不是零或一，它不是法律问题，它不仅仅是关于哪些数据可用，哪些不可用。我喜欢提醒人们，你知道，几百年前，每个人，没有真正的大城市，每个人都住在乡下和村庄。而在村庄里，每个人都知道你的一切。你没有任何隐私。这不好吗？我们现在更好吗？嗯，你知道，可以说是没有，因为你为了失去某种隐私而得到了什么？嗯，人们互相帮助。如果他们因为知道你的一切而知道有什么不好的事情发生，他们会帮助你。而现在你住在一个大城市，没有人知道你的嘴巴，你得不到任何帮助。
所以，这有点取决于。我想要的答案是，我希望我信任的某些人，应该有关系，我应该能够管理所有这些。但关于我的事情谁知道呢？我应该有一些代理权。我不应该在技术海洋中漂流，我不知道该怎么做，我不想阅读东西和勾选方框。我不知道该怎么做，我本身也不是一个隐私研究者。我只是认识到它的巨大复杂性。这不仅仅是技术，不仅仅是法律学者与技术专家的会面。必须有一些围绕它的整个层次。所以，当我提到这个新兴的工程领域时，这是其中的一个重要部分。就像电气工程出现时一样，我当时不在场，但你只是没有把电插到墙上，它就能工作。你不需要有像保险商实验室这样的东西来向你保证那个插头不会烧毁你的房子，而那台机器会这样做，那样做，而所有这些都会有安装人员，会有监督安装人员的人，会有像洋葱一样的一层又一层的这些东西。而对于像隐私这样深刻有趣的事情，这至少是必不可少的电力，这需要几十年才能弄清楚。但这将需要很多我们现在没有的新结构。所以，谈论它有点难。
你说如果做得对，有很多钱可以赚。绝对有很多钱可以赚。所有这些提供人类服务的公司，人们认为它们是他们生活中有用的部分。所以，是的。所以，是的，辩论有时会从兴高采烈的技术人员转向“技术一无是处”的观点。你知道，在我们的公共话语中，在报纸上，你看到太多这样的事情了。而中间的严肃讨论，那些很难进行的讨论，才是我们需要进行对话的地方。而且，你知道，实际上没有多少论坛。你知道，那就是我所寻找的。也许我可以去读一些东西的评论区，它实际上是这种来回的对话。你很少看到这种情况，这就是为什么播客会复兴的原因，因为优秀的人们非常渴望对话，但他们的技术并没有提供太多帮助。
所以，任何东西的评论区，包括 YouTube，是的，都没有帮助。我没有帮助。你认为从技术上讲，有可能提供帮助吗？我不知道答案，但这是，这是一个更少的匿名，更多的本地化。你知道，你进入的世界，你信任那里的人。所以，当你开始讨论时，你知道，不仅是人们不会伤害你，而且也不会浪费你的时间，因为有很多浪费时间的事情，你知道，我们很多人，我早就退出了 Facebook，因为它显然会浪费我很多时间，即使有一些价值。所以，是的，世界，你以某种方式进入，你知道你得到什么，它有点吸引你，新的东西可能会发生，但你对那个世界有点信任。而且，匿名背后有一些深刻有趣的心理方面。
是的，相当黑暗，相当黑暗。我认为我们中的许多人，尤其是我们这些真正热爱技术出现的人，我喜欢社交网络，当它出现的时候，我根本看不到任何负面影响。但然后我开始看到评论区，我想也许是 CNN 之类的东西，我开始想，哇，这种黑暗，我根本不知道。而我们的技术现在正在放大它。
所以，抱歉，这个宏大的哲学问题。但在这个话题上，你认为人类，因为你也涉足心理学领域，你认为人类本质上是善良的吗？我们都有可以被挖掘的善意，还是取决于情境和环境，每个人都可能是邪恶的？
我的回答是，本质上是善良的。但本质上是有限的。我们都有非常，你知道，视野狭隘。我们不容易看到别人的痛苦。我们不容易看到别人的观点。我们非常专注于自己的想法，自己的世界。而在我心情好的时候，我认为技术可以让我们接触到更多的观点，更少地狭隘，更理解。你知道，人类历史上很多战争都是因为无知而发生的。他们认为对方在这样做，而对方并没有这样做。而我们有大量的这种情况。但在我的一生中，我还没有看到技术在这方面真正有所帮助。而且，是的，我相信这一点。但你知道，不，我认为人类本质上是善良的。人们遭受痛苦，人们有不满，因为你有怨恨，而这些东西导致他们做他们可能不想做的事情，他们常常后悔。所以，不，我认为这是，你知道，技术进步的一部分就是，确实允许它更容易成为你真正拥有的那个善良的人。
但你认为个人生活或社会可以被建模为一个优化问题吗？不是我通常认为的那样。我的意思是，那是你的时间。在所有方面，个人生活和整个社会都是最复杂的现象之一。个人生活非常复杂。所以，你知道，优化只是数学的一个分支，它谈论某些类型的事情。而且，它感觉对于如此复杂的现象来说太有限了。
优化问题的哪些属性你认为，所以你认为大多数可以通过优化解决的有趣问题，它有什么样的表面？非凸性，凸性，线性，所有这些，鞍点？
嗯，所以优化只是数学的一部分。你知道，即使在我们这个时代，我们也意识到，例如，采样，正在出现一些例子，一些描述。什么是采样？你知道，如果你是某种数学家，你可以试着把它们混合起来，让它们看起来像是同一件事。但优化大致来说是试图找到一个点，一个单一的点，它是某种标准函数的最佳值。而采样是试图从同一个表面，将其视为一个分布或密度，并找到具有高密度的点。
所以，我想要整个分布和采样范式，我想要，你知道，那个样本中最好的那个点，在优化范式中。现在，如果你在概率测度的空间中进行优化，其输出可能是一个完整的概率分布。所以你可以开始让这些事情变得相同。但在数学中，如果你沿着那种抽象的弧线走得太高，你就会开始失去，你知道，进行有趣定理的能力。所以你不会试图，你不会试图过度抽象。
所以，作为一个小小的离题，你发现哪种世界观更吸引人？是决定性的还是随机的？
那很容易。我的意思是，我是一名统计学家。世界是高度随机的。等等，我不知道接下来的五分钟会发生什么？因为你会问我们要做什么？巨大的不确定性。你知道，巨大的不确定性。所以，我能做的最好的就是对事物有一个粗略的感觉或概率分布，并以此来推理我该做什么。
那么，当你有多个代理系统时，分布式规模如何运作？所以优化可以优化，至少从机器人学的角度来看，对于一个试图优化某个目标函数的单个机器人，单个代理来说，这似乎更有意义。当你进入真实世界时，这种博弈论的概念就开始出现。你如何看待优化，因为你谈论了市场规模？它看起来是什么样的？你看到这种优化，你看到它是采样，你看到像所有这些如何混合在一起？
一个系统设计者，思考如何构建一个激励系统，将拥有所有这些的混合体。你知道，一个粒子在势阱中优化一个称为拉格朗日朗的函数。粒子不知道，没有运行的算法这样做，它只是发生了。所以，它是一个数学描述，帮助我们作为分析师理解正在发生的事情。而当我们在谈论，你知道，人类、计算机和市场的混合体时，也会发生同样的情况。会有某些原则让我们理解正在发生的事情，以及实际的算法是否被使用，这并不清楚。
在某个时候，我可能设置了一个多代理或市场类型的系统，我现在正在考虑系统中的一个单独代理，他们被要求完成一些任务，并以某种方式获得激励。他们获得某些信号，他们有一些效用。也许他们会做的是，他们只是不知道答案。他们可能必须优化才能找到答案。所以，自闭症可能嵌入在一个整体市场中。你知道，博弈论非常非常广泛。它通常为某些类型的问题进行非常狭窄的研究，但大致来说，这是我不知道你会做什么，所以我有点预测它，你预测我正在预测什么，我们有点来回。我们进行一些思想实验。
你谈到了一个有趣的观点，关于博弈论。你知道，大多数优化问题都讨厌鞍点。也许你可以描述一下鞍点是什么，但我听说你似乎提到过，有一个优化分支，你可以尝试明确寻找鞍点。这是一件好事。
哦，不是优化，那是博弈论。那是，所以，博弈论中有各种各样的均衡。有些非常有解释性。它们并不试图成为算法，它们只是试图说，如果你碰巧处于这个均衡状态，你就会看到某种行为。我们在现实生活中也看到了。这就是经济学家想要的，尤其是行为经济学家。在连续的微分博弈论中，你在连续空间中。一些最简单的均衡是鞍点。纳什均衡是一个鞍点，是一种特殊的鞍点。所以，经典上，在博弈论中，你试图找到纳什均衡。在算法博弈论中，你试图找到找到它们的算法。所以你试图找到鞍点。我的意思是，这就是你正在做的事情。
但你知道，任何经济学家都知道，纳什均衡有其局限性。它们绝对不是在许多情况下都具有解释性。它们不是你真正想要的。还有其他类型的均衡，它们有与它们相关的名称，因为它们来自历史，与某些人一起工作。但新的将会出现。所以，一个例子是施塔克尔伯格均衡。所以，你知道，你和我都在玩这个游戏，对抗对方，或者为对方，也许是合作的，我们都会仔细思考，然后我们都会决定，然后我们会，你知道，同时做我们的事情。在施塔克尔伯格中，不，我将是第一个行动者。我将采取行动，你将看着我的行动，然后你将采取你的行动。现在，因为我知道你将看着我的行动，我预测你会做什么，所以我不会做愚蠢的事情。但然后我知道你也预测了我，所以我们有点来回。但我有一个第一个行动者。所以，这些是不同的均衡。
而且，所以，数学上是的，这些东西有特定的拓扑，特定的形状。它们就像算法上或动态上向西南方向移动，你如何朝着它们移动，如何远离它们？你知道，所以其中一些问题有答案，它们已经被研究过了，其他的则没有。尤其是如果它变得随机，尤其是如果有大量分散的东西。有，你知道，年轻人进入这个领域，他们认为一切都完成了，因为我们有，你知道，TensorFlow。嗯，不，这些都是开放性问题，它们非常重要且有趣。它关乎战略环境。我如何收集数据？假设我不知道你会做什么，因为我不太了解你。嗯，我得约会一下你。所以，也许我想把你推到一个我不太了解你的空间，这样我就可以获取数据。然后稍后我会意识到，你永远不会去那里，因为游戏的设置方式。但你知道，这是整体的，你知道，数据分析背景。是的，即使是扑克游戏也是一个迷人的空间。每当有任何不确定性，你的信息不足时，它就是一个超级令人兴奋的空间。
是的，只是为了优化一秒钟。所以，如果我们看看深度学习，它本质上是复杂损失函数的最小化。所以，在深度学习在现实世界中试图优化的函数表面，损失函数方面，有什么有见地或有希望的吗？
我认为从优化的角度来看，那个表面，首先，它相当光滑。其次，如果它被过度参数化，就有大量的路径可以通向合理的最佳值。所以，你知道，在高维空间中，下山找到最佳值并不像你预期的那么难。有些最佳值往往是真正好的，而有些则不是那么好，你往往会，有时找到好的最佳值仍然需要解释。是的，但那个特定的表面来自特定一代的神经网络。我怀疑那些在 10 年后会改变。它们不会完全是那些表面。会有一些其他的。而优化理论将有助于解释为什么其他表面是，为什么其他算法，算术运算层，加上一点非线性，它不是来自神经科学本身。我的意思是，也许在一些工作的人的脑海里，他们正在考虑大脑，但它们是各种领域的算术电路，你知道，计算机科学，控制理论等等。而这些层可以以某种方式改变事物。而且，如果它是光滑的，也许你可以，你知道，找到参数值。这是一个很大的发现，它正在奏效，它能够在这种规模上工作。但我不认为我们被困住了，我们肯定不是因为我们理解了大脑而被困住了。
所以，就算法而言，梯度下降。你认为我们被困在梯度下降了吗？这是它的变体。你发现哪些变体有趣？或者你认为会发明一些别的东西，能够以更有趣的方式遍历这些优化空间？
所以，这是表面和/或架构和算法的共同设计。所以，如果你只是问，如果我们保留现在的架构，不仅仅是神经网络，你知道，相位检索架构或材料补全架构等等。你知道，我认为我们已经到了一个地方，是的，随机梯度算法占主导地位。而且，有版本，你知道，比其他版本好一点。它们，你知道，有更多的保证，它们更健壮，等等。而且，有持续的研究来弄清楚哪种是最好的下坡情况。但我认为，这将会开始共同进化。这将对实际架构施加压力。所以，我们不应该以这种特定方式去做，我们应该以另一种方式去做，因为这种其他算法现在可用。所以，我无法真正预测这种共同进化过程。但你知道，梯度是惊人的数学对象。它们，你知道，有很多人开始更深入地研究它们，数学上，他们对它们是什么以及它们能做什么感到震惊。
我的意思是，这样想，假设我告诉你，如果你沿着 x 轴移动，你的目标函数会上升，你知道，三单位。而如果你沿着 y 轴移动，它会上升七单位。现在，我只允许你移动一定的，你知道，单位距离。你会怎么做？大多数人会说，我将沿着 y 轴移动。我得到了最大的回报。你知道，我的回报只有一单位。所以我将全部投入到 y 轴上。为什么我甚至要花我的力量，我的步长，把它投入到 x 轴上？因为我得到的钱更少了。这似乎是一个完全，你知道，清晰的论点。而且它是错误的，因为梯度方向不是沿着 y 轴移动，而是沿着 x 轴移动一点点。而要理解这一点，你必须知道一些数学。
所以，即使是一个，你知道，微不足道的，所谓的算子，如梯度，也不是微不足道的。所以，你知道，利用它的性质仍然非常非常重要。现在我们知道，仅仅提供下降就有各种各样的问题。它在很多方面都会卡住，而且它没有，你知道，良好的维度依赖性等等。所以，我最近自己的工作一直关于什么样的随机性，我们如何获得维度依赖性，我们如何做到这一点。而且我们已经得到了相当有利的结果，某些类型的随机性。我们有充分的条件，通常我们知道，如果你这样做，我们会给你一个好的保证。我们没有必要条件，它必须以某种方式完成。
所以，随机性，有多少随机性要注入到沿着梯度的行走中，以及什么样的随机性？为什么随机性在这个过程中是好的？为什么随机性是好的？
所以，我给你简单的答案，但从某种意义上说，这仍然是惊人的。随机性只是，你知道，一个表面的特定特征，如果你做某事，它可能会伤害你。确定性地，它不会伤害你，因为，你知道，碰巧你受到伤害的可能性非常小。而且，你知道，所以这里的随机性，你知道，只是让你免受表面的某些特定特征的影响。而且，事实上，如果你想到，你知道，一阶导数不连续的表面，比如，你知道，绝对值函数。你将向下走，然后撞到那个不可微的点。而且，如果你运行一个确定性的论证，在那里你可能会做一些非常糟糕的事情。而随机性只是意味着，这种情况发生的可能性很小。所以，你知道，它不是一个可以轻易分析的。但，尤其是在高维空间中，随机性，我们对它的直觉并不好。但它具有很多吸引人的特性，在高维空间中，有很多原因。
所以，这一切都是数学的一部分。你知道，这就是在这个领域工作的乐趣，你必须试图理解这种数学。但长话短说，你知道，部分是经验性的，它被发现随机梯度非常有效，然后理论就随之而来。我认为，但我看不到我们正在清楚地摆脱它。
在你看来，优化中最美丽、最神秘、最深刻的想法是什么？
我不知道最。但让我说，你知道，内斯托罗夫关于内斯托罗夫加速的工作，对我来说，是相当令人惊讶和深刻的。
你能详细说明一下吗？
嗯，内斯托罗夫加速只是，假设我们将使用梯度在空间中移动。出于我所暗示的原因，有很好的移动方向。
并且假设我告诉你，你只被允许使用梯度，你将不允许，你将看到这个局部的人，它只能感知到表面的一些变化，嗯，但我要给你一种计算机，它能够存储你所有的先前梯度，所以你开始了解一些关于表面的东西，嗯，我将限制你可能只能沿着所有梯度的线性跨度方向移动，所以你不能只是朝着某个任意方向移动，对吧，所以现在我们有了一个明确定义的数学复杂性模型，有一类算法可以做到这一点，而另一类则不能，我们可以询问某些类型的曲面，你多久能达到最优值，所以这些都有答案，对于，你知道，一个光滑的凸函数，有一个答案，那就是每步平方的倒数，k步之后，你将在那个大小的球内，嗯，梯度下降尤其有一个较慢的速率，它是k分之一，好的，嗯，所以你可以问，梯度下降，即使我们知道它是一个好算法，它是最好的算法吗？从答案的角度来说，不是，嗯，嗯，还不清楚，因为我们得分的k分之一是下界，那可能是你能做的最好的，梯度下降是k分之一，但有没有更好的呢？所以我想，让大多数人感到惊讶的是，Nestrove 发现了一个新算法，它有两个部分，它使用了两个梯度，嗯，然后以一种相当晦涩的方式将它们组合起来，嗯，而且这个东西甚至不是一直在下坡，它有时会向上爬，如果你是物理学家，这似乎有些道理，你在积累动量，这是一种正确的直觉，但这种直觉不足以理解它是如何做到的以及为什么它有效，嗯，但它确实实现了k平方分之一，嗯，它有一个数学结构，直到今天，我们中的许多人仍在写论文并试图探索和理解它，嗯，所以优化中有很多很棒的想法，但我想，仅仅使用梯度是第一位的，这可以追溯到，你知道，150年前，嗯，然后我认为Nestrove用这个想法做出了重大贡献，所以就像你说的，梯度本身在某种意义上是神秘的，是的，它们不像坐标下降那样简单，坐标下降更简单，你只需要选择一个坐标，这就是我们思考的方式，我们人类的思维方式，而梯度对我们人类的思维来说并不那么容易理解，这是一个荒谬的问题，但是，统计学是什么？这里，它介于数学、科学和技术之间，它在那个凸包里，所以它是一套原则，让你能够做出有理由相信的推断，也让你能够做出有理由相信你不会犯错误的决定，所有这些都需要一些关于错误的含义，关于概率的含义的假设，嗯，但是，你知道，在你开始做出一些假设之后，你就会得出结论，是的，我可以保证，你知道，你知道，如果你这样做，你的犯错概率会很小，你持续不犯错的概率会很小，你发现了一些真实事物的概率会很高，所以决策是一个很大的部分，很大的部分，是的，所以，最初的，所以统计学，你知道，简短的历史是，你知道，它作为一门正式的学科可以追溯到，你知道，大约250年前，它被称为逆概率，因为在那段时间，概率被发展出来，尤其用于解释赌博情况，当然，嗯，有趣的是，你会说，鉴于自然状态是这样的，有一个特定的轮盘赌盘，它有一个特定的机制，我期望看到什么样的结果，嗯，尤其是如果我做很长很长的时间，我会看到什么结果，物理学家开始关注这一点，嗯，然后人们说，好吧，让我们把问题反过来，如果我看到了某些结果，我能推断出潜在的机制是什么吗？这是一个逆问题，事实上，在相当长的一段时间里，统计学被称为逆概率，那是该领域的名称，我相信，嗯，拉普拉斯，他在拿破仑政府工作，他试图，他需要对法国进行人口普查，了解那里的人民，所以他收集了数据，并分析了这些数据来制定政策，并说，让我们称这个领域为统计学，因为它，嗯，这个词“state”在法语中是“état”，但你知道，它是为国家收集数据，所以，总之，这个词流行起来了，嗯，从那时起它就被称为统计学，但是，嗯，但是当它正式化的时候，大约是在30年代，嗯，在那段时间，博弈论和决策论在那里发展起来，那个时代的人们不认为自己是计算机科学、统计学、控制论或经济学，他们都是，他们都是，所以，你知道，冯·诺依曼正在发展博弈论，但也将其视为决策论，沃尔是一位经济计量学家，他正在发展决策论，然后，你知道，将其转化为统计学，所以这一切都是关于，这里有，这里不仅仅是数据，你分析它，这里有一个损失函数，这里是你关心的东西，这里是你试图问的问题，这里有一个概率模型，以及如果你做出某些决定，你将面临的风险，嗯，直到今天，在大多数高级统计学课程中，你都会将决策论作为起点，然后它会分成贝叶斯或频率派这两个分支，但是，嗯，这都是关于统计学中的决策，你遇到的最美丽、最神秘、也许最令人惊讶的想法是什么？嗯，是的，好问题，嗯，我的意思是，有很多令人惊讶的想法，有一些技术性太强了，不适合在这里说，但有一个叫做詹姆斯·斯坦估计的东西，这有点令人惊讶，而且真的需要花时间去理解，你能试着，也许，我想我甚至不想尝试，嗯，我只想说，我在芝加哥大学的同事史蒂文·斯蒂克勒写了一篇关于詹姆斯·斯坦估计的非常精彩的论文，它有助于其悖论的观点，它在某种程度上挫败了人们理解它的尝试，但你可以，史蒂夫对此有很好的看法，嗯，统计学的一个麻烦是，它就像物理学中的量子物理学一样，有多种解释，物理学中有波粒二象性，随着时间的推移，你会习惯它，但它仍然会困扰你，你并不真正，你知道，不完全理解电子是波还是粒子，嗯，嗯，这里也发生了同样的事情，有贝叶斯思维方式和频率派，它们是不同的，它们有时在实践中变得相同，但它们在物理上是不同的，而在某些实践中，它们完全不同，它们会给你截然不同的答案，嗯，所以它非常像波粒二象性，这是你在该领域必须习惯的事情，你能定义贝叶斯和频率派吗？是的，在决策论中，你可以做出，我有一个，我有一个视频，人们可以看到，它叫做你是贝叶斯派还是频率派，并试图让它非常清楚，它来自决策论，所以，你知道，决策论，你谈论的是损失函数，它是数据x和参数θ的函数，它是两个参数的函数，好的，这两个参数都未知，你不知道数据先验，它是随机的，参数也是未知的，好的，所以你有一个关于两个未知量的函数，你想说，我想让这个函数变小，我想损失变小，对吧，嗯，你会怎么做？所以你可能会说，我将对这些量进行平均，或者对它们进行最大化，或者做一些事情，这样，你知道，我将不确定性转化为确定性，所以你可以看第一个参数，对其进行平均，或者你可以看第二个参数，对其进行平均，这就是贝叶斯派和频率派，所以频率派说，我将看x，数据，我将把它视为随机的，我将对其进行平均，所以我取x，θ固定的期望损失，好的，这叫做风险，所以它是在看所有可能得到的数据集，好的，然后说，某个程序在所有这些数据集上表现如何，这叫做频率保证，好的，所以我认为当你在构建一个软件时，并且你将其发布出去，人们正在使用各种数据集，你想要一个印章，一个保证，当人们在许多你从未想过的数据集上运行它时，95%的时间它都会做正确的事情，这是非常合理的，贝叶斯观点说，不，我将看损失函数的另一个参数，θ部分，好的，这是未知的，我对它不确定，所以我可以有一个关于它是什么的个人概率，你知道，有多少高个子？我试图推断人口的平均身高，嗯，我大致知道身高是多少，所以我要对θ进行平均，所以现在这个损失函数只有一个参数了，现在它是一个关于x的函数，这就是贝叶斯派所做的，他们说，让我们只关注我们得到的数据集，我们得到的数据集，我们以它为条件，以x为条件，我关于我的损失说些什么，这是贝叶斯方法，贝叶斯派会争辩说，看所有你可能得到的数据集并对其进行平均是没有意义的，频率派的方法，它实际上只有你得到的数据集，好的，我同意这一点，尤其是在你与科学家合作的情况下，你可以学到很多关于该领域的知识，你只关注某些类型的数据，你收集了你的数据，并进行推断，我不同意这一点，你知道，在某种意义上，需要频率保证，你正在编写软件，人们正在使用它，你想说些什么，所以这两件事必须相互斗争，但它们必须融合，长话短说，有一套想法就在中间，它们被称为经验贝叶斯，经验贝叶斯从贝叶斯框架开始，它有点，可以说是哲学上更，你知道，合理和正统，写下许多从中流出的数学，然后意识到有很多事情你不知道，因为它是真实世界，你不知道一切，所以你对某些数量不确定，在这一点上，问是否有合理的方法来插入这些东西的估计值，好的，在某些情况下，有一些相当合理的事情可以做，有一个自然的事情可以在世界上观察到，你可以插入，然后做一些更多的数学，并确保它真的很好，所以我的数学是基于人类的专业知识，什么是好的，它们都进入了贝叶斯框架，允许你放入大量的人类专业知识，但数学会引导你走上这条路，然后最后向你保证，在某些假设下，这个东西会起作用，所以也许你问了一个问题，我最喜欢的，或者最令人惊讶的好想法是什么？一个更容易理解的是所谓的错误发现率，你知道，你不仅仅进行一次假设检验或做出一个决定，你进行了一整袋的检验，在这些决定中，你看到了你做出发现的那些，你宣布发生了有趣的事情，好的，那将是你大袋子中的一部分，在你做出发现的那些中，有多少是坏的，有多少是错误的发现，你希望你的错误发现占你发现的比例很小，这是一个与准确性、精确度、召回率、灵敏度和特异性不同的标准，它是一个不同的量，后者几乎都是，嗯，带有更多的频率派风格，它们说，鉴于真相是零假设为真，这里是我会得到的准确性，或者鉴于备择方案为真，这里是我会得到的，所以它有点像是从自然状态走向数据，贝叶斯派则走向另一个方向，从数据回到自然状态，而这实际上就是错误发现率，它说，鉴于你做出了发现，好的，这是以你的数据为条件的，假设的概率是什么？它走向另一个方向，所以，嗯，经典的频率派会看那个，所以我不知道，那里有一些先验知识，而经验贝叶斯派则继续前进，开始写下这些公式，并意识到在某个时候，其中一些东西实际上可以以合理的方式估计，哦，所以它是一套很棒的想法，所以，嗯，这种论证方式出现了，它当然不是我的，但它似乎是罗宾斯在1960年左右提出的，布拉德·埃夫隆在各种论文和书籍中写得很精彩，而FDR是，你知道，本·亚米尼在以色列，约翰·斯托里做了贝叶斯解释等等，所以我一直在吸收这些东西多年，并发现它是思考统计学的一种非常健康的方式，让我问你关于智能的问题，稍微跳回哲学，也许你可以详细说明，但是，你说，即使是定义什么是智能的问题也很困难，这是一个有用的问题吗？你认为我们有一天会理解人类智能的基本原理以及它的含义吗？我们会有好的通用智能基准来衡量我们的机器吗？我不太研究这些话题，你问的问题更适合心理学家，我只研究了一些，但至少目前我并不认为自己是专家，你知道，心理学家的目标是理解人类智能，我认为我认识的许多心理学家对此相当谦虚，他们可能会尝试理解婴儿是如何理解，你知道，某物是固体还是液体，或者某物是隐藏的还是不隐藏的，嗯，也许你知道，一个孩子是如何开始学习某些词语的意思的，什么是动词，什么是名词，而且，你知道，缓慢而稳定地试图弄清楚事情，嗯，但是人类在非常复杂的环境中进行推理、抽象、找到正确的抽象、沟通、互动等等的能力，就是，你知道，令人震惊的丰富和复杂，嗯，所以，你知道，我怀着谦卑的心态，我们不认为我们会在不久的将来实现这一点，当然，在实验室里做实验的心理学家，或者与人们交谈的心理学家，他们的愿望要有限得多，你知道，康纳·麦克弗斯基会看看我们的推理模式，它们并没有深入理解我们是如何进行推理的，但它们在某种程度上说，这里有一些推理上的怪异之处，以及一些你需要考虑的事情，但正如我所强调的，以及我一直在写的一些东西，你知道，人工智能，革命还没有发生，是的，一篇很棒的博文，我一直在强调，你知道，如果你退一步看看任何形式的智能系统，无论你如何定义智能，它不仅仅是人类或动物，或者，你知道，植物或其他什么，你知道，一个市场将商品带入城市，每天将食物带到餐馆，或者类似的东西，是一个系统，它是一个去中心化的决策集合，从远处看，它就像一堆神经元，每个神经元都在做出自己的小决定，大概是以某种方式，如果你退后一步，经济系统的每个小部分都在做出它所有的决定，就像大脑一样，个体神经元不知道整体目标是什么，对吧，但某些事情在某种聚合层面发生，经济也是如此，人们在一个城市里吃饭，它很健壮，它在所有尺度上都有效，从小村庄到大城市，它已经运行了数千年，它无论晴雨都有效，所以它是适应性的，所以所有这些，你知道，这些是通常适用于智能系统的形容词，健壮的，适应性的，你不需要一直调整它，它是自我修复的，无论加上什么，但并不完美，你知道，智能从不完美，市场也不完美，但是，我不相信在这个领域，你不能，你说，我们的计算机，人类很聪明，但是，你知道，市场不聪明，市场是，所以它们是智能的，现在，嗯，人类并没有进化成市场，我们一直在参与其中，但我们本身并不是市场，你知道，神经元可以被看作是市场，有经济学，你知道，神经科学的观点，这是有趣的追求，但是，重点是，如果你研究人类，并且真的成为世界上最好的心理学家，研究数千年，并提出人类智能的理论，你可能永远不会发现市场的原则，你知道，供求曲线，以及，你知道，匹配和拍卖等等，那些是真实的原则，它们导致了一种智能形式，它可能不是人类智能，它可以说是另一种智能，可能还有第三种或第四种智能，我们现在都没有太多地考虑过，所以如果你真的，然后所有这些都与未来的计算机系统相关，当然，市场现在是相关的，而理解人类智能目前还不清楚它是否相关，可能不是，所以如果你想要通用智能，无论你如何定义它，或者，你知道，深入理解智能，等等，它肯定不能仅仅是人类智能，它必须是这种更广泛的东西，而这并不是一个谜，市场是智能的，所以，你知道，说我们必须超越并告诉谁是智能的，这听起来很荒谬，是的，但事实并非如此，在那篇博文中，你定义了不同种类的，比如智能基础设施，我真的很喜欢，这是你刚才描述的一些概念，你认为地球人类文明作为一个单一的有机体，它的智能，当你从市场和智能基础设施的角度来看时，它在增加吗？它是线性增加还是指数增加？你认为这种智能的未来是什么？我不知道，我倾向于不回答这样的问题，因为，你知道，那是科幻小说，希望让你措手不及，嗯，再次，因为你说它还很遥远，问这个问题很有趣，而且你可能会，就像你说的，预测未来真的几乎不可能，但是，假设一个公理，有一天我们创造了一个人类水平的、超人类水平的智能，不是市场的规模，而是个体的规模，你认为需要什么才能做到这一点？或者，也许问另一个问题，那个系统会与我们今天看到的生物人类有何不同？有可能对这个问题说些有趣的事情吗？还是只是一个愚蠢的问题？这不是一个愚蠢的问题，但它是科幻小说，科幻小说，所以我很乐意阅读科幻小说并思考它，在我生命中的某个时候，我喜欢，当时人们在谈论一个叫做“缸中之脑”的东西，你知道，一个小东西，当我还是个学生的时候，我记得，你知道，想象一下，嗯，你知道，你的大脑和你的身体之间，你知道，有一堆电线，对吧，假设它们每一个都被替换成，嗯，一根真正的电线，然后假设那根电线实际上变成了一个无线电，你知道，有一个接收器和发送器，所以大脑有所有的发送器和接收器，你知道，它所有的轴突，以及身体的树突都被替换成了发送器和接收器，现在你可以把身体移到别处，把大脑放在缸里，对吧，然后你可以做一些事情，比如一个接一个地杀死那些中心接收器，在杀死了所有之后，那个人在哪里？你知道，他们认为自己在身体里四处走动，他们已经离开了，所以这些都是科幻小说，这些都很有趣，关于思想在哪里，它在哪里，以及所有这些，我认为每个18岁的人都应该上哲学课并思考这些事情，我认为每个人都应该思考社会上可能发生的坏事，等等，但我真的不认为，对于我们这个年龄段的大多数人来说，这是正确的做法和思考方式，我真的认为我们有更多当下的挑战和危险，以及真正需要建造的东西，等等，所以，你知道，花太多时间在科幻小说上，至少在公共场合，我认为不是我们应该做的，也许在私下喝啤酒时可以，没错，我欢迎，我不会广播我在哪里喝啤酒，因为这会发布到Facebook上，很多人会看到，但是，嗯，我喜欢Facebook、Twitter、Amazon、YouTube，我，我乐观且充满希望，但是，也许，也许我没有理由如此乐观和充满希望，让我问你一个问题，你指导了一些该领域最聪明、最重要的人物，你能给今天的本科生一些建议吗？他们需要做些什么才能走上这条旅程？如果你对机器学习和人工智能感兴趣，对经济学和心理学中的市场理念以及你正在探索的各种事物感兴趣，他们应该采取哪些步骤？嗯，是的，首先，门是敞开的，其次，这是一段旅程，我喜欢你的说法，不是因为你很聪明，你有很棒的想法，所以你才能成功，或者你才能进入这个领域，而是你学徒自己，你花了很多时间，你做困难的事情，你试图退后一步，你尽可能广泛地学习，你和很多人交谈，这就像进入任何一个创意社区一样，需要多年的时间，人际关系至关重要，所以，你知道，我想起，你知道，成为一名音乐家或艺术家之类的，你不是立刻就，你知道，从第一天开始，你就，你是个天才，所以你做到了，不，你，你知道，非常努力地练习基础知识，你，对你所处的位置保持谦虚，然后，你意识到你永远不会成为所有事情的专家，所以你选择了一个方向，有很多随机性，也有很多运气，但运气只是选择了你要走的那条树枝，但你会走下去，所以，是的，这是一个社区，所以研究生院，我仍然认为是我们世界上最美好的现象之一，它非常注重与导师的学徒制，它非常注重你所属的群体，这是一个四到五年的过程，所以有足够的时间从零开始，发展到更专业的水平，然后开始让自己的创造力开始绽放，甚至让你自己都感到惊讶，它是一个非常合作的努力，我认为很多人认为科学是高度竞争的，我认为在其他领域可能更如此，在这里，它比你想象的更具合作性，人们总是互相教导一些东西，人们总是很乐意，明确地说，所以，我觉得我是一个特定领域的专家，但我不是很多其他领域的专家，其中很多都很相关，很多我都应该知道，但，你知道，你没有，所以我总是愿意向周围的人暴露我的无知，这样他们就可以教我东西，我认为我们中的许多人对我们的领域都有这种感觉，所以它非常合作，我可能会补充说，它也非常国际化，因为它是如此合作，我们看不到任何障碍，所以，你知道，民族主义，尤其是在当前时代，与我们大多数人对我们在这里所做的事情的看法是矛盾的，我们认为这是一项人类的努力，我们合作，并非常努力地一起去做，为了，你知道，每个人的利益，所以最后一个问题，你在哪里，如何，为什么学会了法语，哪种语言更美，英语还是法语？好问题，所以，首先，我认为意大利语实际上比法语和英语更美，我也说意大利语，所以我，我，我嫁给了一个意大利人，我有孩子，我们说意大利语，嗯，不过，不开玩笑，每种语言都能让你以不同的方式表达事物，而且，探索这些事情是生活中最有趣的事情之一，所以，事实上，当我的孩子，你知道，十几岁或大学生问我应该学习什么时，我说，做你内心想做的事情，当然要学很多数学，数学对每个人都好，但也要学一些诗歌，学一些历史，学一些语言，你知道，在你的一生中，你想成为一个思考者，你想要做到这一点，对我来说，嗯，是的，法语，我是在，我想说，十几岁的时候学的，我住在内陆的堪萨斯州，嗯，堪萨斯州没什么事，恕我直言，所以我的父母碰巧在书架上有一些法语书，我只是无聊地把它们拿下来，我发现这很有趣，我通过阅读学会了这门语言，当我第一次听到它被说出来时，我不知道在说什么，但我意识到我 somehow 从前世就知道它，所以我建立了联系，嗯，然后，你知道，我旅行了，我喜欢超越我自己的障碍，以及我自己的舒适区，或者别的什么，我发现自己在法国的火车上，旁边坐着一些老人，他们可能过着自己的一生，能够与他们交流，你知道，很特别，也能够看到自己处于他人的境地，并拥有同情心，并以此为一部分来学习语言，嗯，所以，嗯，在那次经历之后，以及沉浸在法国文化中，你知道，非常非常令人惊叹，你知道，语言是丰富的，不仅仅是因为它本身有什么内在的美丽，而是所有创造力都融入其中，我学了很多歌曲，读了很多诗歌，读了很多书，嗯，然后我actually 在麻省理工学院，我们今天在这里做播客，年轻的教授，你知道，还没有结婚，嗯，你知道，在这个地区没有很多朋友，所以我有点无聊，我说，我听到周围有很多意大利人，碰巧麻省理工学院有很多意大利人，原因不明，所以，我模糊地理解他们在说什么，我说，我也应该学这门语言，所以，我做到了，然后后来遇到了我的配偶，嗯，你知道，哇，意大利语在我生活中变得更重要了，但是，嗯，但是这些天我经常去中国，我去亚洲，我去欧洲，嗯，每次我去，我都惊叹于人类经验的丰富性，而人们根本不知道，如果你没去过旅行，你知道，我有多么，你知道，令人惊叹的丰富，我喜欢多样性，这不仅仅是一个时髦的词，对我来说，它意味着很多，我喜欢，你知道，你知道，沉浸在他人的经历中，嗯，所以，是的，学习语言是其中的重要组成部分，我认为我在某个采访中说过，如果我有，你知道，数百万美元和无限的时间，你会真正做什么？如果你真的想做人工智能，对我来说，那就是自然语言，并且真正做好，你知道，对语言的深刻理解，对我来说，这是一个极其有趣的科学挑战，而且，我们离得很远，我们离得很远，但是好的自然语言专家确实投入了，然后我认为他们中的许多人认为，人工智能的核心就在那里，如果你理解了它，你就能真正帮助人类交流，你就能理解人类思维的一些东西，从人类思维中产生的语义，我同意，我认为这将需要很长时间，所以我没有在我的职业生涯中这样做，只是因为我，你知道，我早期落后了，我不知道那些东西，我在麻省理工学院，我没学多少语言，在某个时候，花一生的时间去做这件事就太晚了，但我钦佩那个领域，嗯，嗯，所以，以我微薄的方式，通过学习语言，你知道，我大脑的那个部分，嗯，已经被训练好了，珍说得对，你真是机器学习领域的迈尔斯·戴维斯，我认为没有比这更好的地方了，迈克，今天和你交谈是莫大的荣幸，非常感谢，好的，这是我的荣幸，谢谢，感谢收听迈克尔·I·乔丹的谈话，并感谢我们的赞助商Cash App，下载它，使用代码LEX PODCAST，你将获得10美元，10美元将捐给First，一个激励和教育年轻人的组织，让他们成为未来的科学和技术创新者，如果你喜欢这个播客，请在YouTube上订阅，在Apple Podcast上给它五星，在Patreon上支持它，或者在Twitter上与我联系，Lex Friedman，现在，让我用迈克尔·I·乔丹在他博客文章“人工智能：革命尚未到来”中的一些智慧之言来结束，呼吁扩大人工智能领域的范围，我们应该拥抱这样一个事实，即我们正在目睹一个新工程分支的诞生，学术界及其他领域经常狭义地使用“工程”一词，带有冷酷无情机器的意味，以及人类失控的负面含义，但工程学科可以是我们想要的，在当前时代，我们有机会构想一些历史上全新的东西，一个以人为本的工程学科，我将抵制给这个新兴学科命名，但如果继续使用AI这个缩写，让我们意识到这个占位符的非常真实的局限性，让我们拓宽我们的视野，降低炒作，并认识到未来的严峻挑战，感谢收听，希望下次再见。