Transcription
以下是对丹尼尔·卡尼曼的采访。他是诺贝尔经济学奖得主，因其将经济学与人类行为、判断和决策的心理学相结合而获奖。他是畅销书《思考，快与慢》的作者，该书以易于理解的方式总结了他数十年的研究，其中许多研究是与阿莫斯·特沃斯基合作进行的，涉及认知偏差、前景理论和幸福感。
这项工作的核心论点是两种思维模式之间的二分法。他称之为系统一的思维是快速、本能和情绪化的。系统二的思维则更慢、更深思熟虑、更符合逻辑。这本书详细阐述了与这两种思维类型相关的认知偏差。他对人类心智及其独特而迷人的局限性的研究，对于我们这些致力于构建智能系统的人来说，既具有启发性又令人鼓舞。
这是人工智能播客。如果您喜欢，请在 YouTube 上订阅，在 Apple Podcast 上给予五星好评，在 Spotify 上关注，在 Patreon 上支持，或者直接在 Twitter 上与我联系，我的名字是 Lex Freedman，拼写是 F R I D M。
我最近开始在介绍的结尾做广告。我会在介绍完这一集后做一到两分钟的广告，但绝不会在中间插入广告，以免打断对话的流畅性。我希望这对您来说是可行的，并且不会影响收听体验。
本节目由 Cash App 呈现，这是应用商店中的第一大金融应用。我个人使用 Cash App 给朋友汇款，但您也可以用它在几秒钟内买卖和存款比特币。Cash App 还有一个新的投资功能。您可以购买股票的零碎部分，例如价值 1 美元的股票，无论股票价格如何。
经纪服务由 Square 的子公司 Cash App Investing 提供，并且是 SIPC 的成员。我很高兴能与 Cash App 合作，支持我最喜欢的组织之一 FIRST。该组织以其机器人和乐高竞赛而闻名。他们教育和激励着 110 多个国家数十万名学生，并在 Charity Navigator 上获得了完美评分，这意味着捐赠的资金得到了最大程度的有效利用。
当您从 App Store 或 Google Play 下载 Cash App 并使用代码 Lex podcast 时，您将获得 10 美元，Cash App 也会向 First 捐赠 10 美元。First 是一个我亲眼见证过激励男孩和女孩梦想着创造一个更美好世界的组织。
现在，我将与丹尼尔·卡尼曼进行对话。
您讲了一个关于一名党卫军士兵在战争早期，第二次世界大战，在纳粹占领的法国巴黎，您在那里长大。他抱起您，拥抱了您，并向您展示了一张男孩的照片，也许他没有意识到您是犹太人。
不是也许，而是肯定。所以，我告诉您我来自苏联，苏联也深受战争影响，我也是犹太人。您认为第二次世界大战总体上教会了我们关于人类心理学的什么？
嗯，我认为唯一的大惊喜是德国人民的灭绝政策，种族灭绝。回过头来看，我认为这是一个重大的惊喜。令人惊讶的是他们竟然能做到。令人惊讶的是，竟然有足够多的人自愿参与其中。这是一个惊喜。现在它不再是惊喜了，但我认为它改变了许多人对人类的看法。当然对我来说，阿克曼审判教会了你一些东西，因为它非常清楚，如果它能在德国发生，它就能在任何地方发生。并不是德国人有什么特别之处。这种情况可能发生在任何地方。
那么您认为这是什么原因呢？您认为我们都可能作恶吗？我们都可能残忍吗？
我不这样想。我认为可以肯定的是，您可以将人们非人化，使他们不再被视为人，而是被视为动物，就像您可以屠杀动物而不感到太多痛苦一样。当您觉得对方被非人化，并且您拥有对他人不受控制的权力时，我认为这不会激发人类最慷慨的一面。
所以，那个纳粹士兵，您知道，他是个好人。我的意思是，您知道，他完全有能力杀死很多人，我敢肯定他也这么做了。但犹太人对纳粹意味着什么？
所以，对犹太人的否定，再次，令人惊讶的是其极端程度，但这不是人类的某种特质。我不想称之为邪恶，但内群体和外群体之间的区别是非常基本的。所以这是根深蒂固的，对内群体的忠诚和喜爱，以及非人化外群体的意愿，这是人类的本性，我认为这可能不需要大屠杀来教会我们，但大屠杀是一个非常深刻的教训，关于人们会发生什么，以及人们会做什么。
所以，内群体和外群体的影响，您知道，很清楚那些人，您知道，您可以射杀他们。您知道，他们不是人。他们不是，没有同情心，或者几乎没有同情心了。所以偶尔，您知道，可能有一些，而且顺便说一句，同情心很快就消失了，如果最初有的话。而您周围的每个人都在这样做，这完全使群体这样做，以及每个人都在射杀犹太人，我认为这使得这种行为变得可以接受。
现在，有多少，您知道，这是否会在每种文化中发生，或者德国人是否特别高效和有纪律，所以他们可以逃脱惩罚？这是一个问题。这是一个有趣的问题。
这些是历史的产物，还是人类的本性？
我认为这确实是人类的本性。您知道，您让一些人相对于其他人处于权力地位，然后他们就变得不那么像人了。他们变得不同了。
但总的来说，在战争中，除了第二次世界大战的集中营之外，战争似乎会激发人类本性中黑暗的一面，但也会激发人类本性中美好的一面。
嗯，您知道，我的意思是，它所激发的是士兵之间的忠诚。我的意思是，它激发了联系，我认为男性之间的联系是非常真实的。所以，而且在友谊中有一种特殊的兴奋感，在风险下以及在共同的风险下，友谊确实有一种特殊的兴奋感。所以人们会产生非常深刻的情感，直到它变得如此创伤，以至于几乎什么都不剩下。
但让我们来谈谈心理学。在您的书《思考，快与慢》中，您描述了两种思维模式：系统一，快速、本能和情绪化的思维；以及系统二，更慢、更深思熟虑、更符合逻辑的思维。
冒着让达尔文讨论进化论的风险，您能否为那些没有读过您书的人描述这两种系统的区别特征？
嗯，我的意思是，“系统”这个词有点误导，但同时它又具有误导性，它也非常有用。但我称之为系统一，更容易将其视为一系列活动。主要是我描述它的方式是，有不同的方式让想法进入头脑。有些想法会自动进入头脑。一个典型的例子是 2 加 2。然后就会发生一些事情。而在其他情况下，您必须做些什么，您必须努力才能产生想法。我总是给出的例子是同一对数字：27 乘以 14。我认为您必须在脑海中执行某种算法，某些步骤，这需要时间。这是非常不同的。没有什么会进入头脑，除了进入头脑的是算法，我的意思是您必须执行的算法，然后这是工作，它会占用短期记忆，它会占用执行功能，它会使您无法同时做其他事情。
所以，系统二的主要特征是它涉及精神努力，并且精神努力的能力是有限的，而系统一基本上是毫不费力的，这是主要的区别。
您提到，谈论两个系统很方便，但您也刚刚提到，并且总的来说，从神经生物学甚至心理学角度来看，大脑中并没有明确的两个系统。但为什么从您进行的实验来看，似乎确实出现了两种思维模式呢？所以，在某个时候，这些系统进入了大脑的架构。也许哺乳动物共享它。但您根本不这样认为吗？一切都是一团糟，而这两个东西只是出现？
嗯，关于进化理论的推测是廉价而容易的。所以，我的想法是，很清楚动物拥有感知系统，其中包括理解世界的能力，至少在它们能够预测的程度上。它们无法解释任何事情，但它们可以预测会发生什么。这是理解世界的一种关键形式。我的粗略想法是，我们称之为系统二，嗯，系统二就是由此发展而来的。您知道，有语言，有操纵想法的能力，有想象未来和想象未发生的事情的能力，以及进行条件思考的能力。而且确实有很多能力，没有语言，没有我们与其他动物相比拥有的大脑，是不可能实现的。
现在，系统一更像是动物所拥有的，但系统一也可以说话。我的意思是，它有语言，它理解语言，事实上，它为我们说话。我的意思是，您知道，我并不是有意识地选择每一个词。我有一些想法，然后词语就脱口而出，这是自动的，毫不费力的。而您进行的许多实验都是为了表明，听着，系统一确实存在，它确实在为我们说话，我们应该小心它提供的声音，因为我的意思是，您知道，我们必须信任它，因为它的行动速度。如果我们要依赖系统二来生存，我们可能活不了多久，因为它非常慢。
是的，过马路。过马路。我的意思是，许多事情都依赖于自动进行。
系统一一个非常重要的方面是它不是本能的。您使用了“本能”这个词。它包含明显已经学会的技能。所以，像开车或说话这样的熟练行为，事实上，熟练行为必须学会，所以它不是，您知道，您不是天生就会开车。您必须学会如何开车，而且您必须经历一个驾驶不自动的时期，然后它才变得自动。
所以，是的，您构建，我的意思是，这就是您谈论启发式和偏差的地方。您为了使其自动化，您创建了一个模式，然后系统一基本上将新体验与先前看到的模式进行匹配。当匹配不佳时，就会发生所有这些认知混乱。但大多数时候它有效。所以，大多数时候，对接下来会发生什么的预测是正确的，而且大多数时候，关于您必须做什么的计划也是正确的，所以大多数时候一切都很好。
有趣的是，在某种意义上，系统一在其所做的事情上比系统二在其所做的事情上要好得多。也就是说，它毫不费力地解决了极其复杂的问题，这显然是存在的。所以，一个非常好的国际象棋棋手，他脑海中出现的所有走法都是强有力的走法。所以，所有强有力走法的选择都是在无意识的、自动的、非常非常快速的过程中完成的，而这一切都属于系统一。所以系统二进行验证。
沿着这个思路，我们实际上是构建非常有效的系统一的机器。您可以这样想。
所以，我们现在正在谈论人类，但如果我们考虑构建人工智能系统、机器人，您认为您在人类身上强调的所有特征和缺陷对于构建人工智能系统是否都有用？
所以，这两种系统都有助于可能被植入机器人。现在发生的事情是，实际上，深度学习中发生的事情更像是系统一的产品，而不是系统二的产品。我的意思是，深度学习会匹配模式并预测会发生什么。所以它具有高度的预测性。
是的，那是对的。深度学习所没有的，您知道，许多人认为这是一个关键点，它没有推理能力，所以它没有系统二。但我认为非常重要的是，它没有因果关系，也没有任何方式来表示意义和表示真实的互动。所以，直到这个问题解决，您知道，可以完成的事情是惊人的，而且非常令人兴奋，但也是有限的。
将当前机器学习的进展视为系统一的进展，这实际上非常好。那么，如果我们考虑深度学习和人工智能系统，仅凭系统一能走多远？
您知道，非常清楚的是，DeepMind 已经远远超出了人们的预期。我认为 AI 发展中最让我印象深刻的是速度。至少在深度学习的背景下，事情的进展速度比预期的要快得多，也许这即将放缓。从解决国际象棋到解决围棋的过渡，我的意思是，这令人费解，速度有多快。从 AlphaGo 到 AlphaZero 的转变，我的意思是，它们完成的速度令人费解。
现在，很明显，有许多问题可以这样解决，但也有一些问题需要其他东西，需要像推理这样的东西。
嗯，推理，还有，您知道，心理学家 Gary Marcus，他也是 AI 的批评者，我的意思是，他指出的，我认为他有道理的是，人类学习速度很快。孩子们不需要一百万个例子，他们只需要两三个例子。所以，很明显存在根本性的差异。而是什么让机器能够快速学习，您必须在机器中构建什么，因为很清楚您必须在机器中构建一些期望或类似的东西，以使其准备好快速学习。
目前，这似乎还没有解决。我非常确定 DeepMind 正在努力，但是，嗯，他们，如果他们解决了，我还没有听说。他们实际上正在尝试，OpenAI 也在尝试，开始使用神经网络进行推理。
组装知识。当然，因果关系是大多数人都够不到的。
您提到了系统一的好处，基本上是它速度快，使我们能够快速有效地在世界上运作，而且是熟练的，您知道，它是熟练的，它有一个世界模型。您知道，在某种意义上，我的意思是，早期的人工智能尝试对推理进行建模，并且它们取得了适度的成功，但您知道，仅凭推理并不能让你获得太多。深度学习在他们能做什么方面要成功得多。但现在一个有趣的问题是它是否接近其极限。
您怎么看？
我认为绝对是。我刚刚和 Gian Lun 谈过，他提到，您知道，我认识他，所以他认为我们不会在神经网络上遇到极限，最终这种模式匹配将开始看起来像系统二，而无需对架构进行重大改造。所以我更倾向于大多数人认为的观点，是的，神经网络的能力将达到极限。
一方面，我听说他告诉 Misabies，基本上，您知道，他们所取得的成就并不重要，他们只是触及了这一点，基本上，您知道，他们无法有效地进行无监督学习。但您告诉我，他认为在当前的架构中，您可以进行因果关系和推理。所以，他非常务实，在某种意义上说，我们离得很远，仍然有。
我认为，他所说的想法是，我们只能看到一两个山峰，之后可能还有几个，或者成千上万个。是的。所以我听过那个比喻。是的。
但是，尽管如此，它并没有看到最终答案，从根本上说，它看起来不像我们现在拥有的。所以，神经网络是其中一个重要组成部分。
是的，我的意思是，这很有可能，因为模式匹配是正在发生的事情的很大一部分。而且您可以将神经网络视为顺序处理信息。是的。
我的意思是，您知道，有一个重要的方面，例如，您有翻译系统，它们做得很好，但它们实际上并不知道自己在说什么。而对于这一点，我真的相当惊讶。您需要一个具有感觉的人工智能，一个与世界接触的人工智能。
是的，自我意识，甚至可能有些类似于意识的想法。当然，对正在发生的事情的意识，这样词语才有意义，或者能够与某种感知或行动联系起来。
是的。所以，这对 Yan 来说是一件大事，他称之为“接地”，物理空间。所以，那就是我们在谈论同一件事。是的。
但是，那么，您如何接地，我的意思是，没有接地，您就会得到一个不知道自己在说什么的机器，因为归根结底，它在谈论世界。最终的问题是，什么是接地。我的意思是，我们非常以人类为中心思考，但对于机器来说，理解这意味着什么？它需要有身体吗？它需要有像我们人类那样的有限性吗？所有这些元素。
这非常，这……我不太确定是否需要有身体，但拥有感知系统，拥有身体也会非常有帮助。我的意思是，如果您想到模仿人类，但拥有感知系统似乎是必不可少的，这样您就可以积累关于世界的知识。所以，如果您可以想象一个完全瘫痪的人，那么大脑可以学到很多东西，即使身体瘫痪。所以，如果我们能制造出这样的机器，那将是一件大事。
然后，另一方面，您在孩子身上看到的东西，以及在机器学习领域看到的东西，被称为主动学习。也许这也是能够与世界玩耍。您认为玩耍、能够互动对于发展系统一或系统二有多重要？
当然，您在学习预测您行动的后果时，学到了很多东西。我的意思是，您可以看到婴儿是如何学习的，您知道，用他们的手。他们如何学习，您知道，将他们手的运动与大脑中明显发生的事情联系起来，以及大脑学习新模式的能力。所以，您知道，就像您使用假肢一样，您将其连接起来，然后人们学会操作假肢，至少根据我听到的，他们学得非常快。
所以，我们有一个系统，它已经准备好通过行动来学习世界。
冒着进入过于神秘领域的风险，您认为构建这样一个系统需要什么？显然，我们离理解大脑如何工作还很远，但构建我们的大脑有多难？
您知道，我的意思是，我认为 Yandun 的回答，我们不知道有多少座山，我认为这是一个很好的回答。我认为，如果您看看 Ray Kotzwell 的说法，那对我来说似乎是离谱的，但我认为人们比那更现实，实际上 Demis 和 Jan 以及那些真正从事这项工作的人相当现实。我认为从理解的角度而不是从构建的角度来表述可能更好。人类有多复杂？您知道，我从事自动驾驶汽车和行人工作。所以我们试图模拟行人。
模拟一个人有多难？他们对世界的感知，他们运作的两个系统，足以预测行人是否会过马路？
我，您知道，我对此相当乐观，因为我们谈论的是每辆车都拥有的海量信息，这些信息会输入到一个巨大的系统中。所以，任何车辆学到的东西都会成为整个系统所知道的一部分。有了这样的系统乘数，您可以做很多事情。所以，人类非常复杂，而且，您知道，系统会犯错误，但人类也会犯错误。我认为他们能够，我认为他们能够预测行人，否则就会发生很多事情。他们能够，您知道，他们能够进入环岛并进入交通。所以，他们必须知道如何期望或预测人们在他们偷偷溜进去时会如何反应。而且这涉及到大量的学习。
目前，行人被视为不能撞到的东西，而不是被视为您可以与之进行博弈论互动的代理人。所以，我的意思是，这是一个完全开放的问题，每次有人试图解决它，它似乎都比我们想象的要难。而且没有人真正认真地尝试解决那种舞蹈问题，因为我不确定您是否考虑过行人问题，但您真的把生命交给了司机。
您知道，那里有一支舞蹈，有一部分舞蹈会非常复杂，但例如，当我过马路，有一辆车驶近时，我看着司机的眼睛，我认为很多人也是这样做的，您知道，那是一个信号，我正在发送，我将把这个信号发送给自动驾驶汽车，它最好能理解它，因为它意味着我正在过马路。
还有另一件事您会做。所以，我告诉您您会做什么，因为我们看了，我看了数百小时的视频。当您踏入街道时，您会在踏入街道之前这样做。当您踏入街道时，您实际上会移开视线。移开视线。是的。是的。
现在，那是什么？那意味着什么？我的意思是，您相信那辆还没有减速的车会减速。是的。您在告诉他，是的。我已下定决心。我的意思是，这就像一场“鸡”的游戏。所以我已下定决心，我正在移开视线。所以您必须停下来。
所以问题是，观察到这一点的机器是否需要理解死亡？我不确定它是否需要理解那么多，它需要预测。所以，在这里，但您让我感到惊讶，因为在这里，我会认为也许您可以在不理解的情况下进行预测，因为我认为这显然是玩围棋或下国际象棋时发生的事情。有很多预测，但没有理解。
正是如此。所以，我认为您不需要人类模型。是的。以及人类心智的模型来避免撞到行人。但您建议实际上我们需要。是的，您需要。然后它就难多了。所以，这是，我有一个后续问题，看看您的直觉在哪里。似乎几乎所有机器人与人类协作系统都比人们想象的要困难得多。
那么，您认为机器人和人类能够成功协作吗？我们谈论了一些半自动驾驶汽车，比如特斯拉的自动驾驶仪，但就任务而言，如果您认为我们目前的神经网络有点像系统一，您认为那些相同的系统可以借用人类的系统二类型的任务并成功协作吗？
嗯，我认为在人类和机器交互的任何系统中，人类将在相当短的时间内变得多余。也就是说，如果机器足够先进，能够真正帮助人类，那么它可能在很长一段时间内都不需要人类。
现在，如果存在一些机器无法解决但人类可以解决的问题，那将非常有趣。那么您就必须在机器中构建一种识别自己处于那种有问题情况的能力，并呼叫人类，这在不理解的情况下是不容易的。我的意思是，它必须非常困难才能编程识别自己处于有问题情况而又不理解问题。但这非常真实。为了理解有问题情况的全部范围，您几乎需要足够聪明才能解决所有这些问题。
机器需要人类多少，我还不清楚。我认为国际象棋的例子非常有启发性。我的意思是，曾有一段时间卡斯帕罗夫说，人类与机器的组合将击败所有人。甚至 Stockfish 也不需要人。而 AlphaZero 当然也不需要人。问题就像您所说的，有多少问题像国际象棋？有多少问题不是像国际象棋？嗯，最终所有问题都像国际象棋。问题是过渡期有多长？我的意思是，您知道，这是我想问您的问题。我的意思是，自动驾驶汽车的驾驶本身可能比解决围棋复杂得多。
是的。而且这并不奇怪，因为它是开放的。不，我的意思是，您知道，这对我来说并不奇怪，因为存在一个层次结构，即识别情况，然后在情况中调出相关知识，而要使这种层次结构系统起作用，您需要一个比我们目前拥有的更复杂的系统。
许多人认为，因为作为人类，这可能是认知偏差，他们认为驾驶非常简单，因为他们认为自己的经验。这实际上是人工智能研究人员或思考人工智能的人们的一个大问题，因为他们根据自己完成任务的难度来评估某个问题的难度。是的。然后他们就理所当然了。也许您可以谈谈这个问题，因为大多数人告诉我驾驶是微不足道的，而且事实上人类非常糟糕，人们这样告诉我，而我看到人类，人类实际上在驾驶方面非常出色，而且驾驶确实非常困难。是的。
所以，这只是您在心理学方面的工作中所描述的影响的另一个要素吗？
不，我的意思是，我实际上并没有，您知道，我会说我的研究对理解生态学和理解情况的结构以及问题的复杂性没有任何贡献。所以，我们所知道的非常清楚，围棋是无穷无尽的复杂，但它受到严格的限制。所以，而在现实世界中，约束要少得多，潜在的惊喜也要多得多。所以，所以这是显而易见的，因为并非对人们来说总是显而易见的，对吧？所以，当您想到，嗯，我的意思是，您知道，人们认为推理很难，而感知很容易，但您知道，他们很快就了解到，实际上对视觉进行建模非常复杂，甚至证明定理也相对简单。
稍微反驳一下“很快”这个词。他们花了数十年才学会这一点，而且大多数人仍然没有学会。我的意思是，我们的直觉当然是人工智能研究人员，但您稍微偏离了人工智能领域。直觉仍然是感知到解决方案。这是真的。我的意思是，公众的直觉没有发生根本性变化，而且它们正如您所说，它们是通过解决问题的难度来评估问题的复杂性，而这与在人工智能中解决问题的复杂性几乎没有关系。
从人工智能研究者的角度来看，我们如何应对公众的直觉？
所以，在尝试思考时，我的意思是，可以说是炒作、投资和公众直觉的结合导致了人工智能的寒冬。我敢肯定，同样的情况也适用于科技，或者公众的直觉导致媒体炒作，导致公司投资于技术，然后技术并没有为公司带来利润，然后就会崩溃。有没有办法教育人们来对抗所谓的系统一思维？
不。您知道，这是一个简单的答案。而且，在人们对这些系统能够做什么有了理解之前，还需要很长时间，您知道，这成为公众知识的一部分。而且，然后，期望，您知道，有几个方面将非常复杂，那就是您拥有一个无法解释自己的设备，这是一个重大的重大困难，而我们已经看到了。我的意思是，这确实正在发生的事情。所以，它正在司法系统中发生。所以，您有，您有系统，它们在预测假释违规方面显然比法官更好，但它们无法解释它们的推理，所以人们不想信任它们。
我们似乎在系统一中甚至使用线索来判断我们的环境。所以，这个可解释性问题，您认为人类可以解释事情吗？
不。但他们自己，我的意思是，有一个非常有趣的方面。人类认为他们可以解释自己，对吧？所以，当您说一些话，我问您为什么相信它时，就会出现原因，您会，但实际上我自己的信念是，在大多数情况下，原因与您相信它的原因几乎没有关系。所以，原因是一个故事，当您需要解释自己时，它就会进入您的脑海。但是，但是，但是人们依赖于这些解释。我的意思是，人际交往依赖于这些共享的虚构以及人们告诉自己的故事。
您刚才让我意识到，我们将稍后谈论故事，不要愤世嫉侩，但也许有一大群人正在努力实现可解释的人工智能，而我们实际上并不需要解释人工智能，它不需要解释自己。它只需要讲一个令人信服的故事。
是的，绝对。这个故事不一定需要反映真相，因为它可能是，它只需要令人信服。这其中有些道理。您可以以一种听起来愤世嫉俗或不愤世嫉俗的方式说同样的话。我的意思是，所以，但是，拥有解释的客观辉煌是讲一个人们可以接受的故事，并且为了被接受并且能够被稳健地接受，它必须包含一些真相的元素。但是，但是目标是让人们接受它。这确实很辉煌。
但是，关于我们讲的故事，抱歉问您一个大多数人都知道答案的问题，但您谈到了两种自我，就生活而言，体验自我和记忆自我。您能描述一下两者的区别吗？
嗯，当然。我的意思是，生活有一个方面，偶尔，您知道，大多数时候我们只是生活，我们有经历，它们更好，它们更糟，而且它会随着时间推移而发生，而且大多数时候我们忘记了发生的一切，或者我们忘记了发生的大部分事情。然后偶尔，当某件事结束时，或者在不同的时间点，您会评估过去并形成记忆，而记忆是示意性的。并不是说您可以回放一段互动的电影。您实际上构建了一个关于一个事件的故事元素。所以，有经历，也有关于经历的故事，这就是我所说的记忆。
所以我有一个关于两个自我的形象。所以，有一个自我正在生活，还有一个自我正在评估生活。那么其中的悖论，深刻的悖论是，我们有一个自我负责生活，但另一个自我，记忆自我，是我们唯一能保留的。基本上，决策和我们所做的一切都由我们的记忆支配，而不是由实际发生的事情支配。它由我们告诉自己的故事或我们正在保留的故事支配。所以，这就是区别。我的意思是，关于幸福的追求有很多绝妙的想法都源于此。
从自我中涌现出的幸福的特性是什么？
关于我们如何构建故事的特性非常重要。所以，我研究了几种，但有几种非常引人注目。其中之一是，在故事中，时间并不重要。有一个事件序列，或者有亮点，或者没有，以及花了多长时间。他们幸福地生活了下去，或者三年后发生了什么。时间真的不重要。在故事中，事件很重要，但时间不重要。这导致了一系列非常有趣的问题，因为时间是我们唯一的生活方式。我的意思是，您知道，时间是生命的货币。然而，时间在评估的记忆中基本上没有得到体现。所以，这造成了许多我思考过的悖论。
是的。那些很迷人。
但是，如果您要根据这些特性给出关于如何过上幸福生活的建议，那么最佳建议是什么？
嗯，您知道，我放弃了，我放弃了幸福研究，因为我无法解决这个问题。我无法，我看不清楚。首先，很清楚的是，如果您确实用这两个自我的术语来谈论，那么让记忆自我快乐和让体验自我快乐是不同的事情。我问了这个问题，假设您正在计划一次假期，并且刚被告知假期结束时您会得到一种遗忘药物，所以您什么都不记得，他们还会销毁您所有的照片。所以什么都不会留下。您还会去同一个假期吗？结果是，我们去度假很大程度上是为了构建记忆，而不是为了体验，而是为了构建记忆。而且事实证明，如果您知道自己不会记得，您为自己想要的假期可能与您会记得的假期不同。
所以，我没有这些问题的解决方案，但显然这些都是大问题，您也谈论了困难的问题。您谈论了您在假期上花费了多少分钟或小时。这是一个有趣的思考方式，因为那是您真正体验假期的方式，除了身处其中之外。但也有现代的方式，我不知道您是否考虑过，或者与之互动过。有一种现代方式可以放大记忆自我，那就是在 Instagram、Twitter、社交网络上发帖。很多人为了您拍摄的照片而生活，您将其发布到某个地方，然后成千上万的人分享，并且可能，可能数百万，然后您可以比那几分钟更长地重温它。您对此放大有什么想法吗？
您知道，我太老了，不适合社交网络。我，您知道，我从未见过 Instagram，所以我无法就这些事情发表有见地的评论。我太老了。但观察您描述的确切效果很有趣。它会产生很大的不同。我的意思是，它也会产生不同。而且，我不知道是否清楚，在某些方面，为我们服务的设备会取代功能。所以您不必记住电话号码。您不必，您真的不必知道事实。我的意思是，我参与的对话中，有人说“让我们查一下”。所以，在某种程度上，它使对话变得，嗯，这意味着知道事情的重要性大大降低了。您知道，过去知道事情非常重要。这种情况正在改变。所以，我们对我们自己和他人的要求正在改变，因为所有这些支持，而且我不知道 Instagram 会做什么，但是，嗯，我会告诉您，我希望我知道，我的意思是，我希望我能让我的记忆自我享受这次谈话。但我将通过观看和与他人交谈来更享受它。大约有 10 万人会收听或观看这次谈话，这可能令人恐惧。这会改变事情。它会改变您所寻求的体验，那些可以以这种方式分享的体验。而且我还没有看到，这是您描述的相同效果，而且我认为这种放大的心理学还没有被描述出来，因为这是一个新世界。您知道，分享。
曾有一段时间，人们阅读书籍，您可以假设您的朋友读过和您读过的相同的书籍。所以有一种无形的分享。有很多分享，而且有很多假设的共同知识，您知道，那是内置的。我的意思是，很明显您读过《纽约时报》。很明显您读过评论。我的意思是，所以很多被认为是理所当然的共享。而且，您知道，当有三个电视频道时，很明显您看过其中一个，可能也是同一个。所以分享一直都在，只是方式不同。
冒着被您嘲笑的风险，让我说我也喜欢萨特和加缪以及存在主义哲学家。而且，我当然是在开玩笑，关于嘲笑，但从两个自我的角度来看，您如何看待生命的存在主义哲学？所以，试图真正强调体验自我作为过上生活的方式，或者最好的方式。
我不知道足够的哲学来回答这个问题。但它不是，您知道，对体验的强调也是佛教的强调。是的。对了。所以，您只需要体验事物，而不是评估，而不是评判，而不是打分，而不是记分。所以，当您看到宏观的体验图景时，您认为这其中有什么道理吗？一个人获得满足感，甚至幸福感的一种方式是放手任何事情，任何记忆自我的程序。
嗯，是的。我的意思是，我认为，如果您能想象一种人们不给自己打分的生活。嗯，感觉就像那会是更好的生活，就像自我评分和，您知道，我做得怎么样，这种问题，不是一件很幸福的事情。但我离开了那个领域，因为我无法解决那个问题，那是因为我的直觉是体验自我就是现实。但后来发现，人们为自己想要的东西不是体验。他们想要记忆，他们想要一个关于他们生活的好故事。所以，您不能有一个不符合人们所期望的幸福理论。当我意识到事情正朝着这个方向发展时，我真的离开了研究领域。
您认为这种强调重温记忆的方面对于构建人工智能系统具有启发性吗？所以，目前人工智能系统更像是体验自我，因为它们会响应环境。有一些模式形成，比如学习，等等，但您并没有真正构建记忆，除非在强化学习中，偶尔会一次又一次地重播。
是的，但我的意思是，原则上那不会。您认为这有用吗？您认为这是人类的一个特征还是一个缺陷，我们回顾过去？
哦，我认为这绝对是一个特征。它不是一个缺陷。我的意思是，您必须回顾过去才能向前看。所以，没有回顾，您就无法真正聪明地展望未来。您在寻找相同类型体验的回声，以便预测未来会发生什么。
是的。虽然维克多·弗兰克尔在他的书《活出生命的意义》中，我不确定您是否读过，但他描述了他在第二次世界大战期间集中营的经历，以此来描述找到人生的目标，一个积极的人生目标可以拯救一个人免于痛苦。首先，您是否认同他所描述的哲学？
嗯，不怎么。我的意思是，所以我确实可以看到，一个拥有那种目标感和意义感的人，那可以支撑你。我通常没有那种感觉，而且我非常确定，如果我在集中营里，我会放弃并死去。所以，他是一个幸存者。是的。而且，您知道，他带着那个活了下来。而且，我不确定这种感觉对生存有多重要，但我确实知道，当我想到自己时，我会放弃，这毫无意义。而且，有一种性格，能够在这种条件下生存下来，然后因为他们生存下来，他们就讲述故事，听起来好像他们是因为他们所做的事情而生存下来的。我们不知道他们是因为他们是什么样的人而生存下来的，他们是那种能够生存下来并讲述某种特定故事的人。所以，我不是，所以您不认为寻求目标是我们生活中一个重要的驱动力吗？
我的意思是，这是一个非常有趣的问题，因为当您问人们是否有意义对他们来说非常重要时，他们会说“哦，是的，这是最重要的事”，但当您问人们他们过得怎么样，以及他们记得的经历是什么时，您不会得到太多意义，您会得到社交经历。然后，而且，而且有些人说，例如，在照顾孩子方面，他们是您的孩子，您在照顾他们，这会产生很大的不同。我认为这是完全正确的。但是，这更多是因为我们正在讲述一个故事，当我们照顾孩子时，这是一个非常不同的故事，当我们照顾其他事情时。
稍微跳跃一下，做很多实验。让我问一个问题。我所做的大部分工作，例如，都是在现实世界中，但您能做的许多干净的科学研究都在实验室里。所以，这个区别，您认为我们可以通过受控的实验室实验来理解人类行为的基本原理吗？如果我们谈论瞳孔直径，例如，当您可以控制照明条件时，它要容易得多。是的。对了。所以，当我们看驾驶时，光线变化几乎完全破坏了您使用瞳孔直径的能力，但在实验室里，正如我提到的，在半自动或自动驾驶汽车的模拟器中，我们无法捕捉到该领域真正诚实的。
所以，在您的直觉中？我们可以在实验室的受控环境中研究多少人类行为？
很多。但您必须验证它。您知道，您的结论基本上仅限于实验情况。然后您必须进行一个大的归纳飞跃才能进入现实世界。所以，而且，那就是火花。我认为那才是区别所在。
好的，这是您要求的翻译：
好的心理学家和其他那些平庸的人，其意义在于你的实验捕捉到了重要的东西，对吧？而且是真实的东西，而其他人只是在做实验。那么，从一个想法的诞生到在你脑海中发展成一个导致实验的东西，那是什么样的呢？这是否类似于爱因斯坦或一位优秀的物理学家所做的，是你的直觉。你基本上用你的直觉来构建。是的。但我的意思是，你知道，这是非常娴熟的直觉。我的意思是，我最近就有过这种经历。几天前，我有一个想法，结果证明是一个非常好的想法，你有一种感觉它在逐渐形成。所以，我和一位合作者一起工作，他基本上在说，“你在做什么？你知道，发生了什么？”我真的无法确切地解释，但我知道这会走向某个地方。但是，你知道，我在这个领域已经待了很长时间了。所以，你可以培养出这种预感，是的，这是值得跟进的。这是技能的一部分。你能否通过描述一个过程来将其简化为语言，并以建议的形式提供给他人？不能。基本上遵循你的心。我的意思是，你知道，这就像试图解释开车是什么感觉。你必须把它拆开，然后你就会失去，然后你就会失去体验。你提到了合作。你写过你与 Amos Tversky 的合作，说这是你在 12 或 13 年里写下的，在这段时间里，我们的大部分工作都是联合的，是人际和智力上的幸福时光。一切都很有趣。几乎所有事情都很有趣。而且有一种看到想法成形的喜悦。在那几年里，我们很多次分享了这种神奇的经历，其中一个人说了一些话，另一个人比说话者理解得更深刻。与信息论的旧法则相反，我们常常发现接收到的信息比发送的要多。我几乎没有和其他人有过这种经历。如果你没有经历过，你就不知道合作是多么美妙。那么，让我问一个可能很愚蠢的问题。一个人如何找到并创造这样的合作？这可能就像问一个人如何找到爱情一样？但是的，你必须幸运，而且我认为你必须具备相应的性格，因为我曾有过很多次合作。我的意思是，没有一次像和 Elmos 那样令人兴奋，但我有过，而且我还在经历非常好的合作。所以，这是一种技能。我认为我在这方面做得很好。不是每个人都擅长这个。然后就是幸运地找到也擅长此道的人。对于一个也寻求打破信息论法则的年轻科学家，有什么形式的建议吗？我真的认为这其中涉及很多运气，你知道，在我看来，至少在那些真正严肃的合作中，它们是非常个人的经历，而且我必须喜欢我正在与之合作的人，否则，我的意思是，有一种合作就像一种交换，一种商业交换，我给你这个，你给我那个。但真正的合作是人际的。它们发生在彼此喜欢的人之间，他们喜欢让对方思考，并且喜欢对方对你想法的反应。你必须幸运。是的。我的意思是，但我已经注意到，即使我只是在这里出现，你也很快就开始深入研究我正在研究的一个特定问题，并且新的信息已经开始出现。这仅仅是好奇心的过程，与人谈论问题并观察？我对任何与人工智能和机器人技术有关的事情都感到好奇，你知道，而且我知道你在处理这个问题，所以我很好奇。只要跟着你的好奇心走。在心理学方面，复制危机这个听起来很戏剧性的术语，但实际上只是有时研究结果并不完全可推广。如果你说得委婉点，情况更糟。但真是如此吗？所以，我实际上并不完全熟悉它有多糟糕，对吧？那么，你认为根源是什么？你认为我我认为我知道发生了什么。我的意思是，我有一个关于发生了什么的理论，而且发生的事情是，首先，在两种类型的实验之间有一个非常重要的区别，一种是受试者内实验。也就是说，同一个人有两种实验条件，另一种是受试者间实验，其中一些人有这种情况，另一些人有那种情况。它们是不同的世界，受试者间实验更难预测，也更难预料。而且它们也更昂贵，因为你需要更多的人，而且就是这样，问题出在受试者间实验上。不是那么多的受试者内实验，真的是受试者间实验。而且有一个非常好的理由，为什么研究人员对受试者间实验的直觉是错误的。这是因为当你是一名研究人员时，你处于受试者内的情况。也就是说，你正在想象这两种条件，你看到了因果关系，你感受到了它，但在受试者间的情况下，他们没有，他们生活在这种条件下，而另一种情况根本不存在。所以，我们的直觉对于受试者间实验非常薄弱，而且我认为人们还没有意识到这一点。而且，因为这样，我们对实验操纵的力量一无所知，因为当你处于两种条件下时，相同的操纵比你只生活在一种条件下要强大得多。因此，实验者对受试者间实验的直觉非常差。而且，我认为还有另一件非常重要的事情，那就是几乎所有的心理学假设都是正确的。也就是说，从方向上来说，如果你有一个假设，A 确实导致 B，那么 A 导致 B 的反面并不是真的，也许 A 的影响非常小，但假设大多是正确的，除了大多它们非常弱，比你想象的要弱得多，当你看到图像时。所以，我对此感到兴奋的原因是，我最近听说我的一些朋友，他们基本上资助了 53 项行为改变研究，由 20 个不同的团队进行，目标非常精确，即改变人们去健身房的次数。但是，你知道，成功率是零。53 项研究没有一项成功。有趣的是，这些人是该领域的顶尖人物，他们不知道发生了什么。所以他们没有校准。他们认为它会很强大，因为他们可以想象它。但实际上它只是很弱，因为你关注的是你的操纵，它对你来说感觉很强大。我写过一个叫做“聚焦错觉”的东西。也就是说，当你思考某件事时，它看起来非常重要，比它实际的更重要，比它实际的更重要。但是，如果你没有看到这种效果，那么这 53 项研究不意味着你只是报告它吗？那么，这该如何解决呢？嗯，我的意思是，解决方案是让人们少相信自己的直觉，或者在尝试他们的直觉之前，实验必须预先注册，在你进行实验之前，你必须致力于它，你必须认真地进行实验，而且是以公开的方式，所以，这正在发生。有趣的是，在之前发生了什么，人们如何为自己做准备，以及他们如何进行试点实验。这将训练心理学研究的方式，而且它已经发生了。你对这可能与研究样本量有关有什么希望吗？是的。你对互联网有什么希望吗？我的意思是，你知道，这真的正在发生。每个人都在 MTOK 上进行实验，而且它非常便宜且非常有效。所以，你认为这会从根本上改变心理学吗？因为你认为你现在可以运行一万名受试者，最终会这样。是的，我的意思是，你知道，我无法确切地指出如何，但这是真的，在心理学中，每当一种重要的新方法出现时，它就会改变感觉，而 MTOK 确实是一种方法，因为它使得做某些事情变得容易得多。一些本科生会问我，对于一个特定的问题，神经网络应该有多大。所以，让我问你一个等价的问题。一个研究需要多少受试者才能得出结论性的结果？这取决于效应的强度。所以，如果你研究的是视觉感知或颜色感知，许多视觉感知或颜色感知的经典结果都是在三四个人身上完成的，我认为其中一个人是色盲，或者部分色盲，但在视觉方面，你知道，它高度相关，许多人不需要很多重复来完成某些类型的神经实验。神经，当你研究较弱的现象时，尤其是在受试者间研究时，你需要比人们进行的更多的受试者，而这正是现在心理学中发生的事情之一，即实验的统计功效正在迅速提高。当受试者数量趋于无穷大时，受试者间实验会怎样？嗯，我的意思是，你知道，趋于无穷大有点夸张，但人们，心理学实验的标准受试者数量是 30 或 40 个，对于一个较弱的效应来说，这根本不够，你可能需要几百个。我的意思是，大概是那个数量级。在你职业生涯中观察到的关于理论和效应的主要分歧是什么，至今仍然存在？你研究过几个领域。是的。你脑海中仍然存在哪些主要分歧？我曾有过一次极端的经历，你知道，与一个非常不喜欢 Amos Tversky 和我所做工作的人的争议，他已经纠缠我们 30 多年了，至少是这样。你想谈谈吗？嗯，我的意思是，他的名字是 Gerd Gigerenzer，他是一位著名的德国心理学家。这是我唯一的争议，它很不愉快，而且我也不特别想谈论它。但是，即使在你自己的脑海中，偶尔也会有悬而未决的问题吗？你知道，我们谈论过半自动驾驶汽车，在我自己的脑海中，我看到了数据所说的，但我也在不断地挣扎。你有没有过你的研究发现了一些东西，但你也对它的意义感到知识上的挣扎，而且你可能在自己内心对某些事情存在分歧？我的意思是，你知道，有趣的事情之一是人们改变主意有多么困难，一旦他们承诺了，人们就不会改变任何重要的事情，这令人惊讶，但对于科学家来说确实如此。所以，我描述的争议，你知道，已经持续了大约 30 年了，而且永远不会解决，你建立了一个系统，你就生活在这个系统里，其他的思想体系对你来说看起来很陌生，而且几乎没有接触，也没有相互影响。你对此有什么充满希望的建议或信息吗？思考科学，思考政治，思考那些对这个世界有影响的事情。我们如何改变主意？我认为，我的意思是，在重要的事情上，你知道，那些政治的或与政治相关的，或者宗教的，人们就是不改变主意，总的来说，你对此几乎无能为力。发生的事情是，如果领导者改变主意。所以，例如，公众，美国公众并不真正相信气候变化，并不认真对待它，但如果一些宗教领袖认为这是对人类的重大威胁，那将产生很大的影响。所以，我们拥有我们拥有的观点，不是因为我们知道为什么拥有它们，而是因为我们信任一些人，而不信任另一些人。所以，这更多地是关于故事，而不是关于证据。因此，改变主意的一种方式是在个人层面，那就是你所尊敬的社区的领导者，他们的故事发生了变化，因此你的想法也随之改变。所以，有一个叫 Alan Turing 的人提出了图灵测试。是的。你认为什么是衡量智能的好方法？也许我们正在偏离一个我们可能在哲学化的话题，但你认为对于人工智能系统来说，什么是衡量智能的好方法？嗯，你知道，通用人工智能的标准定义是，它能做人类能做的任何事情，而且做得更好。是的。我们看到的是，在许多领域，都有特定领域的设备或程序或软件，它们在特定方面轻易地击败人类。我们离那种通用能力，一种通用目的的智能还很远。所以，我们在机器学习领域正在接近更通用的东西。我的意思是，AlphaZero 比 AlphaGo 更通用。但它在所能做的事情上仍然极其狭窄和具体。所以，我们离那种能在每个领域像人类一样思考，而且做得更好的东西还很远。哪个方面？所以，图灵测试受到了批评。它是自然语言对话。是的。这太简单了。在指定的限制下，很容易“通过”。对话的哪个方面会让你印象深刻？是你听到的吗？是幽默吗？是什么会让你印象深刻，如果你在对话中看到它？是的，我的意思是，当然是机智，你知道，机智会令人印象深刻，而且幽默会比事实性的对话更令人印象深刻，我认为事实性的对话很容易做到。幻觉会很有趣，隐喻也会很有趣。我的意思是，但新的隐喻，而不是练习过的隐喻。所以，有很多东西，你知道，如果它在对话中完全自然，那将是令人印象深刻的，但你真的不会期望。创造一个人类水平或超人类水平的智能系统的可能性让你兴奋吗？害怕吗？嗯，我的意思是，它让你感觉如何？我发现这一切都非常迷人。绝对迷人。令人兴奋，我认为是令人兴奋的。它也很可怕，你知道，但我不会在那里看到它。所以，我对现在发生的事情感到好奇，但我也知道关于它的预测很愚蠢。我们真的不知道 30 年后它会是什么样子。完全不知道。说到愚蠢，近乎深刻，他们可能会问这个问题：在你看来，这一切的意义是什么？生命的意义？我们是伟大的猿的后代。为什么？是什么驱动着我们作为一个文明，作为一个人类，作为你所观察和研究的一切背后的力量？有什么答案吗，还是这一切都只是一个美丽的混乱？我无法理解的答案。而且我也没有积极地寻找一个。你认为答案存在吗？不，没有我们能理解的答案。我没有资格谈论我们无法理解的东西。但我知道我们无法理解现实，你知道，我的意思是，有很多事情我们可以做，我的意思是，你知道，引力波，我的意思是，那是人类的一个重要时刻，当你想象那个猿能够回到大爆炸，那是，那是，但是那个“为什么”，那个“为什么”比我们更大，那个“为什么”是绝望的。真的，丹尼，非常感谢你。这是我的荣幸。感谢你今天的发言。谢谢。感谢收听这次对话，并感谢我们的赞助商 Cash App。下载它。使用代码 Lex Podcast。你将获得 10 美元，10 美元将捐给 First，一个 STEM 教育非营利组织，它激励数十万年轻人的心灵成为未来的领导者和创新者。如果你喜欢这个播客，请在 YouTube 上订阅。在 Apple Podcast 上给它五星好评，在 Spotify 上关注，在 Patreon 上支持它，或者只是在 Twitter 上与我联系。现在，让我用丹尼尔·卡尼曼的一些智慧之语来结束。智力不仅是推理能力，它也是在需要时从记忆中找到相关材料并部署注意力的能力。感谢您的收听，希望下次再见。