Transcription
如果你想知道我对某事的个人看法，我绝对会告诉你。如果你想知道我对此有多么坚信，我也会告诉你。我不会做的是给它加上数字，因为给它加上数字允许对不应该进行比较的事物进行谬误的比较。
[音乐]
欢迎来到“注定失败的诱饵”节目。今天我将与 Vaden Masani 和 Ben Chug 对话。他们是他们自己的播客“增量播客”的主持人，该播客在讨论认识论和偶尔的 AI 话题方面与我们有很多重叠。在接下来的几个小时里，你将听到 Vaden 和 Ben 就我的贝叶斯主义和认识论对我提出质疑。我将就 David Deutsch 的 AI 主张和 Karl Popper 的认识论对他们提出质疑。我们将讨论超级智能 AI 带来的灭绝风险。
所以，各位，欢迎，请轮流介绍自己，并告诉我们一些关于你们背景的信息。
太棒了，是的，感谢邀请我们，很高兴来到这里。嗯，我不确定你具体想让我说多少，但我的背景主要是学术的，学习数学和计算机科学。目前我正在攻读统计学和机器学习的博士学位。我曾短暂地去过法学院，假装我懂点法律，但总的来说，我的背景主要是数学。
是的，我很高兴来到这里。嗯，是的，我的博士学位是机器学习。我曾在一个贝叶斯机器学习实验室工作，该实验室的网站主要是关于构建超级智能的。所以，我开始在这个领域阅读了很多关于 Popper 和 Deutsch 的东西，并且我对贝叶斯主义在统计学和工程学方面的看法有很多积极的评价，我认为它很棒，但对贝叶斯主义在认识论和信念方面的看法有很多负面的评价。所以，我有点想走那条艰难的独木桥，一方面为一些人辩护，另一方面又攻击另一些人。
然后，在播客上，我和 Ben 已经这样做了大约四年了。我们是老朋友了，一起在卡尔加里长大，然后开始了这个播客，最初只是为了继续争论、学习和相互交流。我们探索了各种各样的话题，是的，Popper 和 Deutsch 经常出现，但也有像回收利用、父权制、AGI 超级智能以及介于两者之间的一切。所以，我们尽量不将自己局限于几个话题，但因为 Ben 来自 EA 背景，而我更多地来自 Popper 背景，所以这往往是我们谈论的焦点。但未来是开放的，我们不知道几年后播客会是什么样子。这就是我们。
太好了。是的，大家可以去听听“增量播客”，它有很多有趣的内容，我真的很喜欢。
为了设定背景，我们将从认识论开始谈起。观众们可能知道，我自己的背景是软件工程师，一家小型科技初创公司的创始人，终身学习计算机科学、计算理论等等。我是一名 AI 悲观主义者，自从 2007 年读了 Eliezer Yudkowsky 的文章以来，我基本上就信服了，而且随着事态的发展，我并没有怎么改变我的想法。这就是我的背景。我们将从认识论开始谈起。
我想先了解一下你们的立场。我想我会这样总结：就像你刚才说的，你们不太喜欢贝叶斯认识论，认为它不太有用。你们的认识论更像是卡尔·波普尔的风格，或多或少。你们认为 AI 悲观论的论证非常薄弱，你们并不太担心。这是个好的总结吗？
除了……有很多关于 AI 值得担心的事情：自主武器、面部识别技术等等。我确实担心这些，我认为这是一个巨大的问题。就像其他形式的技术一样，它绝对需要被解决，如果我们不谈论它，它就会变得非常成问题。所以，我并不是天真地认为有一些巨大的困难需要我们克服。我不担心的是超级智能、回形针最大化器、Bostrom 的模拟、Roko 的爬行者等等，对我来说，这些都只是科幻小说里的胡说八道。
然而，有一个前提是，我并没有读完 Yudkowsky 的所有作品。在谈话的某个时候，我很想让你就像我没听过一样，带我走一遍这个论证，因为我们可能在信息不对称的情况下进行交流。所以我完全愿意改变我的想法。我们不必现在就做，但我想在某个时候听听，就像从第一步、第二步、第三步开始，完整的论证是什么样的，因为我可能错过了 Yudkowsky 写的一些会改变我想法的东西。所以，这就是我的立场。
这是一个我喜欢问每个嘉宾的问题。它来了。
[音乐]
注定失败的诱饵。你的注定失败的诱饵是什么？
本，你的注定失败的诱饵是什么？
我几乎不愿意给你一个数字，因为无论我给你什么数字，它都会每天变化得非常大，而且完全基于一些我无法辩护或打赌的直觉。所以我认为，在这些对话中，更富有成效的做法是，基本上只讨论我们之间在客观层面的分歧，而不是试图假装我们对未来有所了解，然后想出一些随机的猜测，给这些猜测加上数字，然后用这些数字进行计算，就好像这些数字具有某种实际的认识论相关性一样。所以，我很抱歉打破了这个游戏，但是的，我甚至说我……这对我来说太愚蠢了。
我认为艾登想补充一下。
是的，我完全同意本所说的一切。是的，我有一个义务论原则，不给我的信念加上数字。然而，如果你的意思仅仅是“我相信什么”，那么我会把它归类为与“大劫难”或“玛雅末日”或“Roko 的爬行者”相同。这就是我的数字。
如果我们放大来看，不仅仅是谈论 AI，那么核战争、流行病，甚至小行星撞击（尽管在 100 年内似乎不太可能），但总的来说，人类在未来 100 年内灭绝或退化成穴居人的概率是多少？
这是一个毫无意义的问题。我不会给数字。我认为我们无法知道概率。如果你想知道我对事物的看法，那是另一个问题。所以，我可以告诉你我有多相信，但我不会给你一个数字。
你会告诉我你认为机会大于百万分之一吗？
数字也是没有意义的。同样，我的意思是，我可以……是的，我可以将其与其他事物进行比较。所以，这是我将给你一个比较的东西。人们之所以要数字，是因为我想比较。所以，我可以给你一些可以与之比较的东西。其中一件事是 Roko 的爬行者。我的意思是，Roko 的爬行者是一个相当晦涩的话题，对吧？而且问题相当直接：人类正在灭绝。所以，也许我们可以将其与小行星撞击进行比较，对吧？所以，比较人类灭绝的机会与恐龙时代那种大小的小行星在下个世纪撞击地球的机会。
所以，是的，我认为最好一次只讨论一个主题。所以，当我们谈论小行星撞击时，这是一个非常不同于 AI 或核战争的事件类别。特别是，我们有小行星的模型。我们有计数，也有关于小行星进入我们轨道频率的物理解释。而且，我们对我们的小行星防御能力有所了解。所以，有很多……我们确实了解小行星的轨迹。然后，我们可以使用一些统计数据来开始量化这些风险。这与地缘政治的状况完全不同。我们没有任何好的模型来模拟地缘政治的未来。
不，我明白了。好吧，我只是解释一下我提出这种问题的出发点。在我看来，我感觉我走在一座摇摇欲坠的桥上。我很容易想象在未来 100 年内，演出就会结束，人类就完了。对我来说，这似乎是一个非常显著的可能性。我们称之为超过 5% 的概率。我通常会这样谈论。然后，我问你们的原因是，我们甚至不必深入到认识论。我只是在问你们，在你们看来，这座桥是坚固的，还是摇摇欲坠的？
所以，是的，我认为 Vaden 和我可能在某些客观层面的事情上存在分歧。我当然担心地缘政治风险，而且我认为核战争在未来一百年内是可能的，我担心核威慑，我担心美国卷入某些可能增加核战争几率的地缘政治冲突。所有这些我们都可以谈。当你说的“说出……这个的概率是多少”时，你已经包含了许多假设，你知道，我们正在一个定义明确的概率空间中运作。概率是我们用来解决某些问题的技术工具，数学家有时会使用它。它有一个适用范围。机器学习就是其中之一。我们大量使用统计数据来推理算法性能，以及如何设计算法来实现某些目标。当你开始谈论核战争的概率时，我们完全超出了概率作为有用工具的范围。
这，你知道，现在我们似乎触及了对贝叶斯认识论的批判的核心。它……它用一种看待世界的方式，认为一切都可以归结为一个数字，而这些数字可以以连贯的方式进行比较。而这些是我们和 Vaden 都拒绝的前提。
是的，好吧，你们两位很快就把我的问题抛回给我了，但我感觉我问的是你们可以有意义地解释的事情，也许很容易。Vaden 说，在未来几年里，人类灭绝的概率是稳固的，或者说对人类灭绝的恐惧，我是说，主观恐惧？好吧，所以，它在某种意义上是稳固的，也许你可以称之为你的主观感受，对吧？当你说的“稳固”时，就是你回答的那种感觉。但是，要说清楚，主观感受不同于概率。
好吧，公平。所以，我可以让这个问题……也许更具意义，通过说，嘿，想象一下这是冷战危机的高峰，古巴导弹危机的高峰。人们说，男人，这个封锁，美国将在古巴周围进行封锁，苏联人威胁要做出回应，他们甚至可能在失去导弹之前就使用它们。所以，想象一下那个晚上，很多人说，我真希望他们今晚不要发射那些导弹。如果我问你，嘿，人类未来的下一个世纪看起来是稳固的还是摇摇欲坠的？你还会给出同样的答案吗？
在这种情况下不是稳固的。
好吧。所以，从我们今天的角度来看，你能想象在未来几十年里，就像现在乌克兰和俄罗斯，或者以色列和伊朗发生的事情一样，你能想象自己进入另一种那样的夜晚吗？当你觉得，哦，也许我不再感到稳固了。我可以想象各种各样的事情。所以，一般来说，当我们想象未来，思考过去，我们只是不确定会发生什么的时候，那通常是很多人会说，“嗯，似乎有相当大的可能性事情会变得非常糟糕。”很多人会这么说。但我们并不完全……你宁愿驳斥那些人，然后说，“不，我的答案是稳固的。”
不，你误解了我们所做的声明。我并不驳斥那些人。我问他们给出数字的原因，因为数字本身几乎没有意义。它并非完全没有意义，但接近于此。如果你想知道我对某事的个人看法，我绝对会告诉你。如果你想知道我对此有多么坚信，我也会告诉你。我不会做的是给它加上数字，因为给它加上数字允许对不应该进行比较的事物进行谬误的比较。所以，我们可以谈论主观……我只是想……是的，但我不会……如果你想让我加上数字，那么我们将陷入僵局。但如果你想要别的东西，那么我们可以……
是的，没错。现在我只是在追究你的答案。当你说的“稳固”时，你想修改“稳固”吗？还是你仍然想坚持“稳固”？
不，不。我是一个乐观主义者。是的，我对未来是乐观的。我认为肯定有令人担忧的事情，但也有很多令人兴奋的事情。技术很棒。我们可以谈论乌克兰、以色列和伊朗，这些都是值得担忧的事情。我们还可以谈论贫困的缓解，我们可以谈论登陆火星，我们可以谈论扩散模型正在创造的惊人事物，以及它将如何……
但这些事情都与我的问题，即古巴导弹危机之类的风险真正发生的可能性，没有直接关系。
那不是问题。如果我没记错的话，问题是，我们是否认为我们站在一座稳固的桥上，还是一座摇摇欲坠的桥上？然后你用古巴导弹危机作为例子，对吧？所以，如果桥上发生了许多好事，比如正在发生一场狂欢，但桥仍然可能倒塌。这更像是我的问题，是倒塌的风险。
我倒认为我们不会倒塌。
好吧。
所以，是的，你们提到了很多不同的主题，我肯定想深入探讨。我认为，是的，一个好的起点是，让我们放大来看，让我们谈谈认识论。认识论就像是研究人们如何被允许知道事物，对吧？基本上是这样吗？
当然。是的，研究……你知道，我们如何知道我们所知道的，我认为通常是它的表述方式。
是的，是的，是的。关于知识的知识，关于知识的知识。为什么认识论很重要？以及正确认识论的利害关系是什么？
本？
是的，所以，我的意思是，认识论也许是人类在如此短的时间内取得如此多成就的奥秘的中心。所以，在人类历史的大部分时间里，更不用说世界历史，更不用说宇宙历史，都没有发生多少事情，人类也没有取得大量进展。然后，突然之间，几百年前，我们开始取得了巨大的飞跃。而这是一个认识论的问题。所以，现在我们正在问，我们是如何取得如此大进展的？我们如何知道我们正在取得进展？我们真的可以说我们正在取得进展吗？我们似乎对周围的世界有了更好的理解。我们正在提出关于世界如何运作的理论，从细胞生物学到天文学。而这个神秘是如何展开的？而认识论是……这是其中的一个关键问题。能够说出……我们如何以及为何取得进展。同时也开始分析人们如何取得进展以及这可能在不同文化之间有何不同。是否有更好或更差的进展方式？是否有阻碍进展的想法？你知道，这些都是与未来进展相关的重要问题，以及……你知道，人类的福祉。
很好。也许可以补充一点。我赞同本所说的一切。我也会说，认识论就像是宏大的统一者。所以，如果你喜欢科学，喜欢文学，喜欢新闻，喜欢艺术，喜欢思考未来，认识论是所有这些的基础。这就是为什么我们的播客会不断地扩展到新的主题，因为认识论是……它是维恩图的中心。所以，出于这个原因，也出于这个原因。
是的，科学是大众认识论的一个主要突破。这个想法是，嘿，如果你想知道什么是真实的，而不是仅仅争论它，然后变得迷醉，然后屈服于地位更高的人，为什么我们不走出去做个实验，让现实告诉我们什么是对的呢？
没错。是的，所以，认识论在这方面很强大。然后，正如我们今天所站的，我认为我们争论认识论，因为它关系到我们如何预测未来。我的意思是，你刚才也看到了，我说，嘿，下个世纪，我们都会死吗？听起来我们似乎在这个问题上意见一致，我们甚至无法就我们是否可能都死于一场将追溯到我们认识论的冲突达成一致。
100%。没错。是的。
好吧。所以我只是想设定这个背景，因为我认为很多观众都不是像我们这样的认识论爱好者。但现在我们提高了赌注。所以，接下来的谈话会更有趣。
好吧。关于你的认识论的第一个问题是，你会称自己为波普尔主义者吗？以卡尔·波普尔的风格。
勉强是的。是的。我之所以说勉强，是因为我不喜欢标签，也不喜欢推特上那些自称波普尔主义者但又很讨厌的人。每次你给自己贴上标签，你就把其他人与这个标签联系起来，他们的不良行为或令人讨厌的倾向就映射到你身上。所以，这就是为什么我不喜欢这个标签。但我必须说，是的，我是一个彻头彻尾的波普尔主义者。他对我影响最大。我说的每一句话，要么直接引用他的名字，要么就是抄袭他的。所以，是的，一个波普尔主义者，绝对。
我记得你说过，你在你的播客上花了数百小时研究波普尔，或者那是你的背景？
是的。那是我在贝叶斯机器学习研究小组工作时所做的事情。是的。所以，白天是贝叶斯，晚上是波普尔。那正是……是的，是的。
你呢？
是的，可能比 Vaden 更勉强。如果只是因为我对波普尔的东西了解不多。我的波普尔知识……我读过波普尔的一些作品，而且非常详细。而且和 Vaden 无休止地争论过波普尔的很多东西。所以，说我不理解波普尔……嗯，这有点便宜。但是，我没有读过他的所有作品，而且我对给自己贴上任何特定观点的标签变得非常过敏。但是，是的，如果你们非要逼我，最终我还是会说，我认为波普尔和他的批判理性主义比我之前遇到的任何认识论都更有道理。所以，我不得不接受那个标签。
好的。而且你来自 EA 背景，我认为这对听众来说很重要。并不是说你完全中立，他们应该听。
他们应该听我们最初的 10 集，因为战斗是从那里开始的。所以，你熟悉 EA 的东西。而且，经过一场漫长而缓慢的战斗，这次两三个小时的谈话根本无法解决。但希望这次谈话能激发观众的一些兴趣，那些想进一步探索的人可以听我们 70 多集的节目，在那里我们逐渐探索了所有这些东西。所以，在这个特定的辩论中，没有人会改变主意，这就是为什么我不太喜欢辩论。但如果它能激发一些兴趣，人们真的想慢慢探索，那么有很多东西可以发现。所以，太好了。
好的。而且，正如人们可能知道的，我来自贝叶斯主义方面。那些读过 LessWrong 和 Eliezer Yudkowsky 的人，以及整个理性框架和 AI 悲观论，它确实来自贝叶斯认识论，并解释了为什么从我们的角度来看，贝叶斯认识论如此有用。在这场谈话中，我将提出一些论点，说明它为什么有用，而你们会不同意，对吧？所以，这就是我们要进行的，这有点像是波普尔对贝叶斯认识论的辩论，对吗？
Vaden，让我们开始吧。而且，在我们进一步深入之前，当我想到波普尔时，我觉得 David Deutsch 真的把它普及到了话语中。所以，我觉得大多数人，包括我自己，几乎没有直接读过波普尔，但我们间接读过或看过不少 David Deutsch 的作品。而且，当 David Deutsch 在你的播客上时，我认为他说他不是官方发言人，他不是波普尔的代理人。他只是一个读了很多波普尔并且深受波普尔影响的人，但他并不声称自己说话的方式和波普尔一样。但从你的角度来看，David Deutsch 不是与波普尔非常一致吗？
是的，如果你不太了解波普尔的作品，如果你非常了解波普尔的作品，那么你就会看到两者之间存在重大的区别。所以，从外部人士的角度来看，我认为理解 Deutsch 的作品是一个很好的切入点，它比波普尔更容易接近，当然。但是，没有替代品。读 Deutsch 并不像……
所以，实际上，让我退一步。大约五年时间里，我读了《无限的开端》和《现实的结构》。我只是对自己说，嗯，我知道了，我基本上明白了猜想与反驳。我明白了要点。你没有明白要点。你必须读《猜想与反驳》。那本书里有比你在《无限的开端》中学到的多得多的东西。而且，它根本不是一个代理。你至少必须读《猜想与反驳》。
太好了。从我的角度来看，我读了足够多的关于贝叶斯的东西，也许有一些深层的东西你们还没有理解。所以，也许我们会把一些深层的东西带出来。
所以，只是补充一下。在《科学发现的逻辑》和《科学的目标》中，这两本书大约四分之三都在讨论概率和贝叶斯。所以，这是数学，这是方程。而我所知道的关于贝叶斯的一切都来自波普尔，而这在 Deutsch 的作品中是没有的。所以，如果你想真正理解贝叶斯和概率，那么你必须读波普尔。仅仅读 Yudkowsky 是不够的，因为 Yudkowsky 来自……链条线。所以，ET Jaynes 是著名的贝叶斯主义者。而 Jaynes 是 Yudkowsky 的波普尔。但是，Jaynes 确实给了我们对概率如何运作的一瞥。所以，如果你真的想从根源上理解它，你不能只读 Yudkowsky 或……James。你必须深入到波普尔，然后从那里分支出去。
所以，只是为了将 David Deutsch 更直接地融入这场辩论。我听说当他在你的播客上时，你正在谈论你现在不喜欢贝叶斯主义，并且你在播客上花费了大量时间告诉人们为什么贝叶斯主义是错误的，或者论证看起来比实际要弱。而 David Deutsch 真的点头同意，我认为他给了你一个“干得好”，所以他基本上支持你反对贝叶斯主义的任务。
我们的任务是因为《无限的开端》中的一页。然后，这让我的小齿轮开始转动。然后，在一个贝叶斯机器学习研究小组……研究实验室里，再加上阅读波普尔，这使得整个论证……开始变得非常有趣。但是，是的，所以我们今天的辩论，它有点像一个两人对决的代理。你有一支卡尔·波普尔的队伍，现在还有仍然健在的 David Deutsch。而在我这边，我们有……你知道，托马斯·贝叶斯牧师，或者……你知道，发明了贝叶斯推理的团体。以及 alas Yudkowsky，他对许多像我这样的人产生了深远的影响，教给我们大部分关于贝叶斯的东西。所以，是的，所以，Eliezer 作为贝叶斯的继承人，对 David Deutsch 作为波普尔的继承人，通过我们这些随机的播客主持人进行战斗。听起来不错。
带有……是的，当然。我的意思是，是的，总是有一些……至少在我这边，我确信 Vaden 也是如此，有一些顾虑，要代表任何人说话。我的意思是，David Deutsch 有他自己的思想路线，而且，你知道，我非常不愿意将自己标记为 Deutsch 或 Popper 的专家。所以，你知道，我总是更喜欢我们把辩论停留在客观层面。当然，背景中会有这些贝叶斯主义者与……波普尔主义者之间的动态。而且，你知道，考虑到我们所有人的影响，这是不可避免的。但只是说出来，我……我感到不舒服说我的观点……精确地符合某人的观点。
只是为了向听众澄清一下。托马斯·贝叶斯牧师并不等同于贝叶斯主义者。而 Thomas Bayes 先生是合法的，他很好。而这只是……你知道，贝叶斯定理的来源，或者别的什么。但是，贝叶斯主义者，我认为是 ET Jaynes 和 IJ Good 和 Eliezer Yudkowsky。所以，这些人是我会放在账本的另一边的人。
好的。另一个我想纠正的是，我认为 Pierre Simon Laplace 实际上是第一个宣传贝叶斯方法的人，他以他的名字命名了它。所以，是的，你知道，这也不是真正的历史。我其实不太清楚发生了什么，但它就是这样，就哲学而言。
好的。好吧。为了开始这部分，Ben，你能简单地……就像，解释一下波普尔主义的推理，并说明它为什么有价值吗？
当然。我认为我喜欢从高层次上思考波普尔主义推理的方式，然后我们可以更深入地探讨细节。这只是试错。所以，这归结为我们如何学习。你知道，如果你问一个孩子如何学会骑自行车，或者如何学会做饭，或者如何学会任何东西。你尝试一些东西，它不起作用。你从你的错误中学习。你再试一次。你慢慢地减少你的……你的思维和习惯中的错误。然后，波普尔只是把这种态度应用到了认识论上。他说，好的，我们如何学习？嗯，我们对世界进行猜想，对世界如何运作进行猜测。无论是政治，还是科学。然后，我们寻找反驳这些猜测的方法。所以，这就是科学领域中波普尔的批判性实验。所以，我们有一个理论，该理论对世界如何运作做出预测。它说，在某些条件下，某些事情应该发生。而这给了我们一些可以测试的东西。然后，我们出去进行测试。然后，再次遵循他著名的证伪标准。所以，如果测试不成功，我们就说，好的，理论被证伪了。然后，我们想出新的猜测。
所以，当然还有很多要说的。但它确实是在认识论领域发挥作用的试错方法。所以，波普尔确实消除了……寻求确定性的观念。所以，你知道，他当时与维也纳学派一起工作，人们都在谈论我们如何从科学中获得确定性？或者我们如何……证明我们的确定性？同时也谈论……意义与……有意义性与无意义性之间的界限。而波普尔基本上用一把大锤子砸向了这两个传统，他说，这些都不是……有用的问题。而且，确定性是无法实现的。它是无法达到的。所以，让我们就推翻整个传统吧。相反，我们不会寻求确定性。但这并不意味着我们不能寻求真理。而且，这并不意味着我们不能随着时间的推移越来越接近真理。但我们无法确切地知道某事是否为真。所以，我们无法确定真理。然后，这也开始颠覆贝叶斯主义的一些观念，贝叶斯主义者想要……他们想要接近确定性，但现在是通过概率计算。所以，你知道，这可能让我们走得更远，但这也许是……辩论的范围。然后，我会让 Vaden 纠正我说的任何错误。
很好。只是补充一点。波普尔说，我们不做的是仅仅睁开眼睛观察证据被输入我们的头脑，使得一个假设的概率上升到某个阈值，然后砰，你知道，是真的。这就是你如何获得知识。它不是关于仅仅睁开眼睛，而是关于猜想事物，然后积极寻找反对你观点的证据，试图找到证伪你观点的东西，而不是睁开眼睛观察你想要看到的东西。
所以，我们肯定会深入探讨这一点。所以，我和贝叶斯主义者没有问题，接受大量的证据，然后根据这些证据更新你的信念。所以，我想我们会更多地谈论这个。
这听起来确实是一个有趣的区别。让我快速介绍一下贝叶斯主义是什么，它意味着什么。所以，贝叶斯主义说，你走进世界，在你的脑海里，你基本上有一堆不同的可能假设，一些关于世界如何运作的心智模型。不同的解释。然后，你观察到一些东西，而你不同的竞争性假设都说，哦，这与我预测的更一致。这与我预测的更不一致。然后，你去更新它们。你进行贝叶斯更新。那些说，“嘿，这真的很有可能”的，那些对你最终观察到的事物给出高预测、高概率的，在观察到证据后，它们会得到更好的更新。然后，随着你不断观察证据，你最终会达到一个点，你脑海中有一个假设，它的概率非常高，与其他假设相比。然后，你走进世界，使用这个假设，它会把你引向正确的方向。就像它会继续对实际发生的事情给出很高的概率。这就是贝叶斯主义的模型。
听起来，贝叶斯主义告诉你做的很多事情都和你告诉波普尔主义者做的很相似。我的意思是，贝叶斯主义者和波普尔主义者不是……不是截然不同。他们不是敌人。而且，可以说，他们比不同更相似。我的意思是，存在重大的差异，我们将要深入探讨。但是，就像，当你们说，“嘿，没有确定性，只有……尽力而为。”我的意思是，我觉得这完全符合贝叶斯主义者的说法。因为你不应该给出……0% 或 100% 的概率。
好吧，问个问题。你说的“更新”是什么意思？
我的意思是，我一直在改变我的想法。当……我以为是真的事情被证明不是真的，或者我看到新的证据，无论是证实我的观点还是否定它。所以我一直在改变我的想法。但是，你没有使用“改变主意”这个词。你说的是“更新”。有人好奇“更新”和“改变主意”有什么区别？
所以，当你谈论，“嘿，我在想什么？我怎么看是正确的假设？”就像……也许一个好的例子是选举，即使你知道政治非常……有争议。但我只是在谈论预测谁会赢。比如说，特朗普对阵卡马拉。如果你问我，Leon，谁会赢？我说，我不知道。我看到了最新的民意调查。我猜卡马拉。然后，明天，另一项民意调查将获胜概率移动了 1%。现在，我猜特朗普。但这并不是我的想法从卡马拉变成了特朗普。我一直在考虑卡马拉明天会赢的假设，以及特朗普明天会赢的假设。当我更新它们的概率时，我只是说，“好吧，是的，如果我必须打赌，我现在会稍微偏向于一个而不是另一个。”这就是我说的改变主意。它不是二元的。
不，我没有问你改变主意的意思。我问你……更新的意思。所以，更新是和改变主意一样，还是不同？
所以，我……我真的没有改变主意这件事。因为我脑海中的状态总是……它是一个不同的假设的竞技场。我总是有一个假设的群体。而且，从来没有一个……就像，这是我的想法。每一次我做出预测，实际上都有所有不同的假设在权衡，由它们的概率加权，它们一起做出预测。
你从哪里得到这些假设的？
等等，等等。是的。我们可以……不，我只是想……我只是不理解你的答案。但是，Ben 有个问题。
是的，就像，让我们把它具体化。所以，如果你正在设计一颗卫星，你要把它送入太空。你不会基于……一些加权组合的物理理论来计算这颗卫星的数学。你将基于广义相对论，希望如此，否则它将无法工作。所以，在什么意义上……你没有给广义相对论分配概率 1，因为我们也知道它在某些根本方面是错误的。特别是，它没有考虑到……某些我们知道为真的非常小的亚原子效应。所以，是的，在什么意义上……你正在做出一个决定。它不是物理理论的加权平均值。那是什么？
如果我要去投资 1 亿美元用于一个工程项目，那是因为我脑海中的任何假设组合都以足够高的概率一致地预测我的工程将成功。所以我脑海中没有一个假设的概率超过 1%，说你要发射那颗卫星，而另一个非牛顿、非爱因斯坦的力会把它从轨道上撞下来。我没有这样的假设，概率足够高。所以，这是一个我感到非常自信的例子。所以我关于物理如何运作的假设已经确立了……超过 99% 的概率。
我不明白。但是，Ben，你明白吗？
是的，我的意思是，好吧，那没关系。我只是认为，是的，我们可以继续。我的意思是，我认为这实际上不是你脑海中发生的事情。我认为你没有这些明确的理论，你实际上在给它们分配概率。我认为你被一些论点所说服，即如果你发射一颗卫星到太空，它就会起作用，相对论。所以我认为贝叶斯主义在这方面，无论是描述性的还是规范性的，我们稍后会讨论，都是错误的。但是，你知道，我不能坐在这里检查你头脑的内容。
如果我理解的话，我认为你正在提出一个有趣的观点。你基本上说，你看，你好像是在追溯地描述你自己使用贝叶斯认识论来证明你为什么资助这个卫星项目，但实际上，你从未想过这一点。你只是在追溯地假装你是在使用贝叶斯主义，就像你的批评一样。
等等，但是 Ben 的问题不是关于你是否有 10 万美元，你需要将其分配给不同的工程项目。它是关于如果你是工程师，而我们还不知道如何制造卫星，你将如何做？这是另一回事，对吧？所以，我们不是在谈论将概率分配给哪个项目更可能成功，而是在谈论……我们如何将卫星送入天空？而要做到这一点，你需要理解广义相对论和量子力学。而这两者是相互排斥的。所以，如果你给其中一个分配概率，那么根据贝叶斯框架，你必然会给另一个分配更低的概率。然而，科学家制造卫星并不是这样的。因为随着我们获得越来越多的量子力学证据，这并没有削弱我们从广义相对论中获得的知识，因为我们必须同时使用两者来发射那该死的卫星。所以，他只是回答了一个与 Ben 提出的问题相邻但又不相同的问题。
为了具体说明，是否存在一个特定的预测？你基本上说，“嘿，我如何解决这些不同理论之间的冲突？”但是，你能具体说明，在卫星工程中，哪个部分对你来说难以解决吗？
嗯，它……它更多的是，当你说的，你如何推理世界时，你并不局限于任何特定的假设。这听起来不像你的世界观是，“好吧，为了实现这个目标，我将假设广义相对论是正确的。”这是贝叶斯主义者的禁忌。你不会那样做，因为我们知道广义相对论在某些重要方面是错误的。所以，你说你所做的……你所想的，以及你所采取的行动，纠正我，如果我错了，当然，都是你对世界如何运作的假设的某种加权平均值。但这与……你知道，如果你是工程师，如何实际设计卫星并将其送入太空并不相符。你不是依靠……混合的物理理论来完成这项工作。你依靠广义相对论。
我的意思是，有一些具体的事情我需要建模才能让卫星正常工作。而且，我并不一定需要解决不同物理理论之间的所有矛盾。我只需要说，哪些相关的现象需要遵循我的模型，才能让卫星发挥其功能，并且不会掉到地球上。而且，我可能不会有不同理论之间的重大冲突。我的意思是，如果我不确定爱因斯坦的相对论是否正确。如果我不确定时间膨胀是否真实，或者不是。那么，作为一个贝叶斯主义者，我认为问题不在于贝叶斯主义。如果发射卫星的工程师不知道时间膨胀是否会成为问题，我认为即使作为一个波普尔主义者，你也会说，“呃哦，他们最好做些测试。”我认为我们在那里处于相同的位置。
是的，当然。当然。
我可以……我可以回到你之前说的另一件事吗？也许卫星的事情让我们有点卡住了。你说你从不改变主意，因为你有一套固定的假设，你只是给它们分配不同的权重。首先，这是准确的吗？
关于你，伙计。我不想……如果你想深入探讨。我不会称之为固定的假设集。在某种意义上，它是一个可变的集合。但是，它总是一个假设的社区。而且，它们都在获得权重。然后，它们一起权衡，当我做出预测时。
所以，当你说的“我从不改变主意”时，只是稍微详细地说明一下你的意思，因为我不想……如果……如果我走进一个陌生人的房间，我说，“伙计们，我从不改变主意。”我认为这会传递错误的信息。
完全，完全。这就是为什么我不是在……我不是在试图……我不是在歪曲你。所以，相反，你知道，要点是……不，贝叶斯主义者，我擅长改变主意的舞蹈。我不仅仅是把改变主意看作是……哦，嘿，我安装了一个可以切换的开关。不，不，不。我把自己看作是……空手道大师，我可以……精确地移动到我的头脑应该拥有的信念状态的正确新配置。所以，这回答了你的问题吗？
所以，我……我猜你为什么一开始说你从不改变主意？
完全理解。我……我……当我说的“我从不改变主意”时，我的意思是，当你使用“改变主意”这个术语时，它似乎表明……某人的头脑有一个预测。或者……他们选择了……这个最喜欢的假设，然后他们把它扔掉了，换了一个新的。而我只是说，那并不描述我的头脑。我的头脑总是一个……不同的假设的社区。
明白了。是的。所以，这实际上是波普尔主义者方法和贝叶斯主义者方法之间的一个很好的区别。所以，对我来说，一旦我有足够多的反驳证据，我就会做你说的，贝叶斯主义者不做。我把那个假设……它死了。我不再给它分配较低的概率，它只是……它死了。直到有另一个理由认为它不再死了，然后我才会让它复活。但是，但是，所以，这只是……我思绪工作方式和你思绪工作方式之间的区别，我想。
但是，我很好奇。还有一件事。你的假设是从哪里来的？因为我理解，在贝叶斯主义的框架下，你从假设开始，然后你只是给它们分配不同的权重。但是，我只是好奇，在那之前，在称重之前，假设是从哪里来的？
嗯，这是一个流行的……一个人们喜欢抛给贝叶斯主义者的陷阱。他们说，“嘿，你们谈论……猜想。”不，不，不。我知道，我知道。人们喜欢……贝叶斯主义者不断更新他们的概率。但是，如果你一开始就没有一个非常好的概率，那么你仍然可能会搞砸。例如，如果我对宙斯是唯一真神的先验概率是 99.99%。那么，即使我看到很多证据表明世界只是机械的，没有神。我仍然可能得出宙斯有很高概率的结论。所以，你知道，这只是……充实你的……你的论证思路。
不，你误解了问题。你误解了问题。我不是在谈论……你的先验概率从何而来。我……因为你谈论贝叶斯主义，你有你的似然度和你的先验。所以，P(E|H)，P(H) 除以 P(E)。所以，我们可以谈论 P(H) 的概率，这就是你所描述的。我不是在谈论那个。我是在谈论 H。H 从哪里来？所以，在概率之前……科学的概率，H 从哪里来？
这不一定是我们之间的分歧点。我的意思是，就像你可以生成假设一样，我也乐于生成假设并考虑它们。
新的假设，所以简短的回答是，你和我可能可以从相似的地方获取我们的假设。长篇回答是，有一个贝叶斯主义者可以操作的理想化方法，称为索洛诺夫归纳法。你们有人熟悉这个吗？是的，是的，是的。所以索洛诺夫归纳法只是说，只要你有无限的计算资源，对吧？它是为此原因而进行的理想化，但有一个理论上的抽象方法，你可以从所有可能的假设中获取，然后更新它们，对吧？这就是理想。所以我对这个理想进行了一些可计算的近似，但近似，细节就隐藏在那里，对吧？你，你，你没有每一个，你不是在脑子里运行每一个可能的假设，对吧？在某个时候，你会产生新的想法，比如有时你会醒来，有一个你以前没有过的创造性想法。你知道，贝叶斯主义者无法真正解释这一切，而且，你知道，如果你想深入数学，事情就会变得复杂，因为现在你正在处理一个不同的概率空间，对吧？所以，你分配给其他固定假设类别的概率会发生什么？现在就像，好吧，我现在有了一个新假设，一切都必须重新调整。所以，它，它只是没有令人满意地解释想法的创造。所以，这是，这是我如何看待当前对话的状态。我基本上就像，嘿，我的认识论有一个不可计算的理论理想，我正在尝试近似，而你们就像，哦，那充满了危险，你永远无法近似它，就像你实际做的事情将是它的影子，而我会对你们提出相反的批评，就像，好吧，你们甚至还没有达到拥有一个不可计算的理想的地步。所以我觉得我实际上已经走得更远了，因为近似一个不可计算的理想，我们一直都在这样做，对吧？这个想法就像，嘿，我们要去数学，好吧，数学实际上是不可计算的，对吧？评估数学单调陈述的通用任务是不可计算的。所以在生活的各个领域，我们都在不断地近似不可计算的理想。所以我，我并不为近似不可计算的理想而感到羞耻，但我们在这边也这样做。再说一遍，如果你想把它设置成一场辩论，那么我想我们可以这样做。图灵机是我们大脑近似的一个不可计算的理想，所以我们这边也有，如果你想要的话。它与波普尔主义有什么关系？它并不完全相关，因为波普尔主义者或波普尔，所以它与德意志有关。德意志的丘奇-图灵论题是他获得通用解释器的地方，我们可以深入探讨，如果你愿意的话。但就波普尔而言，它完全不相关，但就给你你所说的而言，它确实相关，因为你现在正在和我谈论它，这是一台 MacBook Pro，这是对一个不可计算的理想的近似。所以，好的，明白了。所以，所以当我问你们，嘿，波普尔主义者从哪里获得他们的假设时，你们基本上是在说，好吧，我们在某个时候会考虑每一个可能的图灵机，就像我不是，不是，不是，所以这是伟大的。所以，我们不知道，所以答案是我不知道。所以波普尔从试错开始，但关于 the 猜想从哪里来，想法从哪里来，我们没有答案，我不知道，我很想知道，对我来说，回答这个问题相当于解决通用人工智能。所以我完全不知道大脑最初是如何产生它的猜想的。波普尔从那里开始，它只是说有一些神奇的神秘过程，将留给神经科学家和心理学家去弄清楚，我们只会说不知道，但那是基础，试错。所以，这是我们这边的答案。是的，我想问你另一个问题，我认为你现在可能已经回答了，那就是，所以波普尔谈论了很多解释，对吧？比如好的解释，听起来你是在说，当你考虑一个解释时，你可以将一个解释的形式化为一台图灵机，你会同意吗？然后你认为什么？不，我不这么认为。我的意思是，如果我们知道如何编程一个好的解释，我们就可以在计算上生成它们，对吧？如果你在那个层面足够深入地理解它们，而且我也怀疑类似的事情是不可能的，因为那样你可能就能在任何情况下都辩论出什么是更好的解释和更差的解释，我非常怀疑这是可能的，对吧？这是争论和辩论的领域，主观性进入了战场，你无法说服每个人。所以我认为计算不是看待好解释的正确视角。而且，只是为了增加一个比喻，这就像在说，你能自动化证明过程吗？在某种意义上，绝对不行，不行，这就是不完整的东西，也就是说，对于不同类型的数学问题，你必须完全发明新的证明技术，比如康托尔的斜角论证，对吧？那是全新的，你不能只是把那个公式应用到各种新问题上，这就是数学家整天在做的事情，就是发明全新的证明类型。所以，如果你理解了数学空间，那么解释也是如此，我认为不同类型的现象将需要不同的解释模式，以至于你不能只用图灵机来近似它们。现在在数学领域，我认为我们现在已经到了，我们有了集合论和形式证明论，我认为我们已经到了，我可以说什么是一个数学，数学家做什么，他们正在近似这个创造数学对象的理想，你可以在证明论中将其形式化为证明，就像我们实际上已经确定了证明的本体论，但听起来你在说，好吧，但我们还没有确定解释的本体论和认识论。但现在你说，我们将它与数学进行比较，但我喜欢数学走得更远，可以吗？所以，只是在这里插一句话，本，本永远不会这样说自己，但听众只需在谷歌学术上输入本，看看他做的证明，它们很棒。所以你正在和一位数学家说话，而不是我，本。所以我只是把这个问题交给本，因为他是回答数学家做什么问题的绝对合适的人。我只是对你说的“我们已经解决了证明的本体论”感到好奇，作为一个真正好奇的问题，因为这可能会让我的生活轻松很多，如果我能诉诸某种书籍来告诉我我是否做对了或错了。假设一位数学系研究生去找他的教授，他说，嘿，我正在尝试证明这个，我正在尝试写一个证明，一旦我弄明白了。那么他现在写的东西几乎肯定会有一个类似的东西，原则上可能需要很多努力，但它可以纯粹地在集合论中形式化，对吗？是的，我的意思是，是的，我的意思是，好吧，我，我，我感到困惑。我的意思是，一旦你有了证明，重点是它是逻辑，对吧？所以你应该能够用，是的，比如一直到，比如ZF集合论，对吧？你应该能够用某些最大值来解释它。就数学而言，你倾向于不深入到那种技术水平，而且每个证明都停留在某种抽象层面，但是的，证明的全部意义在于它以足够严密的逻辑写成，它说服了社区的其余部分。这并不意味着它是确定的，这并不意味着我们保证了真理，这只是意味着其他人都被说服到足够大的程度，我们称之为已发表和真实。好的，很难的是首先想出证明。所以一旦你有了证明，是的，我们可以开始做一些事情，比如运行证明检查器之类的。难的是，你知道，首先是这件事。你说得对。我之所以提到它，是因为我甚至不想谈论找到证明的难度，我只想谈论本体论。这个想法是，当你问一个数学家你在做什么时，数学家可以回答，我正在进行启发式搜索，我的人类大脑正在对扫描所有可能的证明，在形式证明集中，并挑选出我需要的那个，它证明了我正在尝试证明的东西，一个不可计算的理想的可计算近似。我知道没有一个数学家会这么说，你刚刚问了一个数学家，他的回答不是这样。这是一个假设，我不是在对数学家说什么，我只是在对本体论说什么，对吧？所以，一个用英语写成的非正式数学论文，包含一个证明，映射到一个形式对象，我就是这么说的。是的，是的，我的意思是，你，我的意思是，映射，映射是一个形式语言，所以就证明是关于在这个形式语言中的操作而言，那么当然，是的。我之所以提到它，是因为当我谈论贝叶斯主义者时，你们问我，嘿，你从哪里获得假设，或者什么是假设，我会说，假设是一个输出世界预测的图灵机，如果你也将世界编码成比特，那么我有一个本体论，它是可形式化的，它为贝叶斯推理奠定了基础。但当你们谈论波普尔主义时，听起来你们还没有同意这样做，对吧？你们还没有同意接受这个想法，即解释有一个形式等价物，这是错误的类比，因为假设是用自然语言而不是形式语言。所以类比不起作用，因为本体论，数学论文，对吧？是一个研究论文。出去，去物理学或化学或类似的东西。就像，我只是说，你刚刚问的关于数学证明本体论的东西，用它作为类比，贝叶斯主义的假设，这个类比是破裂的，因为假设是一种自然表达，它不是一种形式语言。所以类比根本不起作用，我只是想说。是的，我不是说假设是一个证明，我只是说，当我用自然语言谈论假设时，或者当我说的，嘿，我的假设是太阳明天会升起时，有一个对应的形式的东西，那就是，嘿，如果你把我的话的所有输入都变成比特，然后你看看所有可能的图灵机，它们可能会输出这些比特，我的假设是关于太阳明天升起的，它是那些机器之一。当然，我的意思是，好吧，让我试着重述一下你对我们的批评，这样我就能确保我理解一致。我认为你想说的是，理论上，贝叶斯主义有一种谈论新假设生成的方式，尽管它很抽象和理想化，但我们已经以某种方式努力形式化了正在发生的事情。你们波普尔主义者坐在那里，你们在批评我们或嘲笑我们，你们甚至没有尝试付出努力来做这件事。你们的假设从何而来？你们不能因为这样做而批评我们，你们甚至没有一个形式主义，天哪，你们只有语言和东西。你们，你们，这就是你们的出发点，没有那种嘲讽，我加上去的。是的，这大致是准确的，因为我确实认为形式化你正在做的事情的理论理想代表了认识论的进步。但只有当理论哲学假设形式化是必需的时。波普尔的观点是，形式化有时在某些地方有用，但大多数时候你不想有形式化，因为有形式化会不自然地限制你的猜想空间。所以我们这边的理论是，形式化有时在某些地方有用，并非总是适用于所有地方。所以我完全接受你从你的观点提出的批评，因为你的观点是形式化总是更好的，而我们没有，因此我们更差。但我们的观点是，形式化有时在某些地方有用，并非总是适用于所有地方。你只是说，好吧，我可以使用图灵机作为我的解释形式化，这有什么问题吗？因为当我们看你们称之为解释的实际事物时，似乎很容易将它们映射到图灵机。是的，我猜你继续。我认为这无助于你试图弄清楚这些东西到底从何而来。所以，如果你最终感兴趣的是在哲学上，以及可能在神经科学上，弄清楚人类是如何产生假设的，将它们映射到所有可能的图灵机空间是没有帮助的。所以，你的新想法的输出可以由某个图灵机运行，很好。问题是，你知道，正如你指出的那样，存在着整个可能性空间，巨大的组合，事实上，可能的想法的无限组合。人类大脑以某种潜意识的方式奇迹般地将其缩小，新的想法就涌入我们的脑海。这到底是怎么发生的？我看不出图灵机形式化如何帮助我们回答这个问题。嗯，这是因为我们在谈论认识论的理想。也许可以想想，嘿，想象一下你从零开始编程一个人工智能。告诉人工智能什么是假设，什么是解释，难道不很好吗？你的认识论的理想是需要形式化，而不是我们的认识论。但我的意思是，好吧，你说不需要形式化，但假设我拿出一张白纸，我开始编写智能人工智能的代码。所以，当你说的形式化时，我说的是，嘿，我必须把一些东西放进人工智能的脑子里，我该如何触及人工智能？我的意思是，我同意，如果你们能回答这个问题，那就太棒了。但我只是不，我不认为你们通过诉诸某种我不太理解的东西来回答它。你们诉诸一个过程，对吧？好吧，让我再说一遍，一个在我们易犯错误的人类大脑中发生的过程，作为一种解释。你们诉诸这个理想化的系统，根据定义，我们知道那不可能是我们脑子里发生的事情。那么这如何帮助我们编程通用人工智能，我完全认为这是一个非常有趣的问题，而且我们，你知道，当我们开始谈论大型语言模型和深度学习时，我们会深入探讨这个问题。我认为这不是通往通用人工智能的正确道路。所以，从我的角度来看，一个非常有趣的问题是，正确的道路是什么？如果我们能对人类大脑如何做到这一点有一些概念，我同意，一旦我们弄清楚了，我们就可以坐下来，大概写一个程序来做到这一点。这是一个非常非常有趣的问题，我只是不认为我们知道答案。是的，我同意，仅仅因为我有一个形式化，这是一个贝叶斯认识论的不可计算的理想，并不意味着我准备好写一个超级智能的人工智能。而且，通过类比，如果，你知道，他们理解国际象棋，当第一台计算机出现时，很快就有人说，嘿，看，我可以写一个国际象棋程序，它基本上会查看每一个可能的走法，这是理想的问题。程序会打败你，它只需要比宇宙的寿命更长，但它会赢。所以我同意你的批评对我来说和那台国际象棋计算机一样有效。我唯一的论点是，发明那台国际象棋计算机的人确实在解决超人类国际象棋能力方面取得了进展，对吧？那是一个很好的第一步。是的，是的，这是公平的。我能稍微转移一下话题，请你澄清一下，你是在说贝叶斯主义在描述人脑方面是真实的，还是你在做一个规范性的声明，关于理性主体应该如何行动？是的，是的，你之前说过这个。我很高兴我们开始讨论这个，因为这绝对是关键点之一。而且，请记住，你之前说过，好吧，你现在告诉我，这个工程项目你使用了贝叶斯推理，说你对理论有99%的信心，但听起来你是在进行事后诸葛亮，什么是事后诸葛亮？它是事后诸葛亮，基本上是吗？完全贝叶斯。好的，很抱歉，我不知道这个词。抱歉打断你。不，这很好。所以，这是完全真实的，就像我一天到晚一样，对吧？我为什么要打开冰箱？我的5万个假设的集合告诉我，我的冰箱里会有不同的东西，或者冰箱里不会有黑洞？所有不同的东西是什么？答案是，看，我只是打开了冰箱，因为它是肌肉记忆，对吧？而且我还在想别的事情，对吧？所以我并没有假装我真的在运行贝叶斯算法。我声称的是，在我的能力范围内，我能够可靠地预测我的未来并驾驭我的世界，在我的大脑帮助我做到这一点方面取得成功，无论我做什么，我所做的事情的结构，我所运行的算法的结构，都将具有贝叶斯结构，否则它就不会那么好。好的，描述性地说，你是说，或者你是说描述性地说，如果你做别的事情，你就会达不到完美的理性，你会得到更糟糕的结果。我所说的是，有时我的肌肉记忆会直接从冰箱里拿到可乐罐，但到目前为止，它与贝叶斯认识论也会让你做的事情相吻合。贝叶斯认识论仍然是理想的认识论，但如果你做别的事情，最终会近似它，那么你仍然可以根据你的成功。是的，首先，它不是贝叶斯定律，而是贝叶斯定理。但当然，是的，这是我们说我们不同意的世界观。但当然，是的，我的意思是，从字面上看，对你们来说，当你们打开冰箱时，你们没有一个波普尔主义模型，有一个好的解释，那是什么？你们只是在想别的事情，很可能你们猜想你们渴了，或者你们有点，我猜我不知道问题是什么。如果你问的是波普尔主义者如何从冰箱里拿到东西，那很简单，你有一个想法，你饿了，你去那里，你打开冰箱，你把它拿出来。但如果这个说法更深层，那就是，波普尔主义观点是否说明了贝叶斯主义是理想的等等等等，那么它肯定说明不是这样。所以我们可以深入探讨为什么不是这样，但在你的回答中，你假设了我们正在争论的事情，这就是重点。是的，好的，几件事。不，我只是，是的，我只是，我们有点深入细节了，所以也许我想告诉听众我如何设想贝叶斯辩论通常是这样的，通常会发生两件事。一是你正在做的描述性声明，关于人类如何工作，大脑如何工作，以及他们正在做一些近似贝叶斯推理的事情。我和本都认为，出于某些哲学原因，这是错误的，也就是说，我们可以深入研究经验主义等等，但我认为观察并不与数字相关联，而这些数字并没有被你的大脑明确表示，而你的大脑正在通过贝叶斯定理进行更新。所以，我们已经进入了一个描述性的泥潭，但然后，你知道，事情真正发生的地方是规范性的。所以贝叶斯主义者想要，因为他们想给一切分配数字，就像你在这个播客开始时想要做的那样，你会给地缘政治灾难和末日论分配新的数字，然后你会将它们与来自大量数据支持的稳健统计模型得出的数字进行比较。我认为费登，如果我错了，请纠正我，我认为费登和我核心的担忧真的在于贝叶斯主义的第二个组成部分。我认为描述性内容在哲学上非常有趣，但它在实际决策和现实世界后果方面不太重要。如果你想坐在那里告诉我，你正在用你的大脑进行所有这些数字操作，这有助于你做出更好的决定，而且这就是你思考世界的方式，那么，老实说，对我来说没关系。但真正，你知道，当事情开始变得重要时，我将借用费登最喜欢的例子，因为我确定它最终会出现。那就是，你知道，托比·奥尔的书，《悬崖上的概率》。他在书中列出了人类在本世纪末死亡的概率，我记不清了，请纠正我，他给出了六分之一的概率。这个六分之一来自哪里？它来自他在这本书中分析的所有不同可能性。所以他做了人工智能，他做了生物恐怖主义，他做了火山爆发，所以他做了所有这些事情，这是非法的一步，从费登和我来看，这是我们真正想指出并认为非常重要的事情，并且真正促使了大多数贝叶斯批评，并且在某种程度上超出了我们现在一直在争论的图灵机式的描述性内容。所以，总而言之，我只是想向听众指出这一点，我认为这里有一些比仅仅决定早上如何打开冰箱更重要的东西，这很有趣，也很有趣。但我只是想也许可以这样框定一下。我能说一句吗？是的，我只是想补充一句本所说的，非常正确。我认为不断提醒听众、观众我们为什么在细节上争论如此之多，以及我们为什么如此争论，是因为你所说的这个高层次的原因，那就是，当有人说超级智能的概率是十分之一，并将其与火山灭绝的概率一比一百万进行比较时，这是非法的，是虚伪的，也是误导性的。因为你可以查看地理地质历史来计算火山，并做出相当可靠的估计，但你只是在编造，当你谈论未来时，然后你用数学和一百年的哲学来美化它。所以，为什么本或我不能为你说话，实际上，关于这一点，但为什么我喜欢并且需要如此深入地争论细节，是因为我必须在对手的领域进行争论。所以，当我因为这个十分之一对一百万的比较而感到恼火时，为了反驳它，我必须进入图灵机的哲学，以及这个，那个，以及任何东西，我们变得非常深入。但我在那里争论细节的原因是，托比·奥尔曾多次出现在播客上，并且可能向超过一千万人灌输了这个数字，如果你可以公平地假设埃兹拉·克莱因和萨姆·哈里斯都毫无批判地接受了这个数字，如果他们的听众人数在，我认为是六分之一，是所有灭绝的总和，然后是十分之一，是超级智能，如果我没记错的话，《悬崖》。然后与火山和超新星等进行了比较，我记不清了数字，但数量级是百万分之一，千万分之一。是的，是的。然后，你提出了为什么我们深入细节，为什么认识论如此高风险的论点，因为基本上，在这个特定的例子中，其结果是，人类应该能够做得比这个贝叶斯主义者托比·奥尔更好，因为托比·奥尔说核灭绝的概率可能只是为了简化他实际说的话，在接下来的一个世纪里有10%的可能性，这与我们之前讨论的内容有关。所以你认为像我这样的人和托比·奥尔说“嘿，伙计们，我们有10%的可能性在下个世纪核灭绝自己”这样的说法是一种失败模式。你认为更好的说法是“嘿，我们不知道我们是否会被灭绝，没有人应该量化它”。不，你误解了，这个说法。我不是故意使用核灭绝，因为我认为这也属于我们不太了解数字的范畴。我使用了火山，使用了超新星，使用了小行星。我没有使用核。那就是他。我认为我们都在同一页上，这些事情在任何一个世纪都不太可能发生。但，但，但我的说法不是我们不能推理核灭绝。我认为这非常重要。我只是说，如果我谈论火山的概率，然后我谈论核灭绝的概率，当我说的概率时，我指的是两个不同的东西。我应该谈论概率一和概率二，或者概率下划线 s 和概率下划线 o，或者别的什么。它们只是不同，我们不能使用同一个词。你可能会称之为频率主义概率，或者那样会是好的用法吗？不，不，频率主义，是的，频率主义是一种哲学解释。我一直在使用客观概率，但只是基于数据的概率，基于计数东西的数据的概率。但频率主义不对，对吧？是的，是的，也许你可以称之为统计概率。就这个对话而言，我们就称之为基于数据的概率，比如 CSV、Excel、JSON，好吧。是的，只是为了这个对话的目的，说实话。而且，是的，只是为了回答你刚才问费登的问题，当然不是说我们不能谈论核灭绝的风险。我们所说的是，让我们跳过我们都给出我们的直觉，并用没有人可能拥有的信息吓唬公众的部分。所以我将这个问题抛给你。所以，如果你，比如说，你非常担心核灭绝，你在接下来的50年里给出了十分之一的概率。然后有人来找你，某个地缘政治分析师，约翰·米尔斯海默来找你，他说我的概率是五十分之一。好的，你的下一个问题是什么？你会问，为什么你的概率是五十分之一？他会说，为什么你的概率是十分之一？你会做什么？你将开始深入争论的世界。你将开始谈论某些国家的动员，他们的核能力，他们的动机。你将进行一场充满争论和辩论以及主观看法的对话。你将不同意，你将同意，也许你会改变他的想法，也许他会改变你的想法，很好。然后，在所有这些之后，贝叶斯主义者想说，好吧，我现在要给它一个新的数字。但本和我只是说，数字完全无关紧要，它来自虚无。让我们只关注数字部分，然后进行争论。这并不是说我们不能思考未来的风险，我们不能为事情做准备。这不是我们束手无策，你知道，声称我们绝对不能对任何未来采取行动。这只是说，让我们做每个人都在做的事情，他们对事情有分歧，让我们认真对待争论。争论是首要的，这是我们世界观的说法，数字是次要的。数字是次要的，只有在它们正确时才有用。它们是针对问题的正确答案，而且它们当然不总是那么有用。是的，通常当你有一个数据集时，使用数字是有用的。是的。想象一下，我们都不是贝叶斯主义者，我们只是在幕后就核灭绝的风险进行了对话，然后我们出来说，好吧，我们都同意，可能性令人担忧。它太近了，不舒服。它仍然在我们谈话后萦绕在我们脑海中。我们没有排除被最小化的可能性。所以，这是一种普通人可能会说的非贝叶斯主义陈述。是的。或者，或者，你可以想象另一个假设，人们，也许是在古巴导弹危机期间，人们离开了房间，我认为实际上发生过类似的事情，在肯尼迪政府时期，人们离开了房间说，我认为这比不可能发生的可能性更大，这看起来真的很糟糕。所以，我的意思是，我认为你可以将人们在离开这些会议后经常说的各种英语陈述归类。很自然地说，好吧，首先，他们说“太近了，不舒服”，也许这个概率的范围是1%到20%。等等，等等，那就是那个举动，我想要删除的那个举动。我认为100%地对信念的强度进行分类是完全合法的。我认为这总是会发生，当你回答调查问题时。所以，1到10的量表非常有用。你有多同意这个命题？有时是“强烈不同意”，“不同意”，“中立”，“同意”，“强烈同意”。这是一个五点量表，表示信念的强度。有时使用10很有用。对于某些心理健康问题，我会这样做。好的，我完全支持这一点，这很重要。我只是说，嘿，人们称之为概率。你不需要这样做。你只需要说，你有多相信某事。一旦你开始称之为概率，我们就进入了哲学上危险的领域，因为将概率分配给信念，然后将纯粹的主观信念、直觉的概率与计算的、该死的、小行星的概率等同起来，这就是所有困难所在。所以我完全赞成量化、离散化信念的强度。我认为它就像一个10分量表一样有用。但这就是为什么医生不经常使用20分量表的原因。只有当我回答来自“less wrong”或“foster”之类的人的调查时，他们才会给我一个1到100的滑动量表。我只收到过一次滑动量表的调查，那就是我知道他们想把那个数字，因为我是一名人工智能研究员，然后把它变成概率，等等，等等。但大多数人并不这么认为。超过10的粒度非常有用，这就是为什么医生使用它。我的意思是，我认为我们都同意你不想引入虚假精度。但令人惊讶的是，人们对这个想法感到非常激动，就像，是的，我们只是在尝试近似一个理想。也许如果有一个超级智能的人工智能，那个人工智能可能会给出非常精确的估计。人类经常说，嘿，小行星撞击，我们有相当有信心的理由认为，在下个世纪，它的可能性不到一百万分之一，因为它每几亿年发生一次，统计上来说，我们没有一个关于一颗小行星正朝我们飞来的特定观点。所以，大致来说，这就是范围。然后我不能自信地告诉你核战争在下个世纪的概率。也许是1%，也许是5%，也许是90%。但我有信心告诉你，下个世纪的核战争发生的可能性将是小行星撞击下个世纪可能性的10倍以上。我声称这个说法是疯狂的吗？让我们回到哲学细节层面，你说的近似理想是什么意思？这里的理想是什么？就像，世界是，谢谢。是的，谁的理想？因为这不是我的理想，但不是，甚至不是一个有创造力的想法。当你说的，你知道，我疯狂吗？你，请纠正我，如果我错了，你说的是一个正确的概率，我试图用我的信念程度来近似它。所以，美国在未来一百年内遭受核打击的概率是x%，你认为呢？是的，我的意思是，索洛诺夫归纳法将为你提供做出决策的理想贝叶斯概率。好的，好的，那不一样。所以，那是关于理性的声明。我问你，世界有概率吗？世界是，世界是随机的吗？对你来说，概率是在模型制作者的头脑中。所以，宇宙，你可以把它当作是确定性的，因为你没有，当你在构建一个心智模型时，没有理由认为不确定性是宇宙的一个属性。你总是可以把不确定性内化到你的模型中，这是贝叶斯主义者对频率主义者的一些好的批评之一，我喜欢。所以，我们，我们完全同意你，世界是确定性的，非随机的，随机性实际上并不发生在自然界。我同意，随机性并不真正发生在自然界。我们只是没有认识价值来将宇宙视为本体论上根本上非确定性的。最强烈的例子是我在量子理论中看到的，比如量子塌缩是本体论上对宇宙至关重要的想法，概率也是本体论上至关重要的，而不是仅仅说，嘿，我不确定我的量子点会显示什么。对我来说，这似乎是可行的方法。顺便说一句，我把这个想法告诉了埃尔扎，因为它不是埃尔扎教条的官方组成部分，但埃尔扎说他认为我说的是对的。是的，很好。我认为，是的，就这个目的而言，我认为我们都达成了一致，世界是确定性的。所以，是的。那么现在的问题是，当你说的理想时，你是在诉诸一种规范性的说法，即理性主体应该如何行事。所以，现在我们需要深入研究，根据谁的观点，将概率分配给每一个命题是理性的？是的。但我只是想，因为当你说的，就像你说，有一个x%的概率某个事件发生，我们试图找出这个x是什么。那不是真的。所以，你知道，世界以某种方式存在。公平的问题是，理想，它是理想的贝叶斯推理者，这就是理想。让我给你更多关于贝叶斯世界观的背景，特别是索洛诺夫归纳法的世界观。我们在这里玩的游戏是，我们试图获得下一个我们预测的事情的校准概率。而索洛诺夫归纳法的理想是，我接受所有可以接受的证据，然后我给你一个关于接下来会发生什么的概率分布。没有人能在预测方面比我做得更好，就预测市场使用的那种评分函数而言，我将获得预测未来的最高分数，这就是游戏的名称。而且，请记住，赌注，我们进行这次对话的一个原因是，我们试图知道我们应该对人工智能即将灭绝我们感到多么害怕。我们中的许多贝叶斯主义者注意到，概率似乎很高。所以，就像我们会在一个我们认为有可靠交易对手的预测市场一样，我们会下很大的赌注，世界将会终结。好的，我们开始进入实质内容了。当然。我只是有一个历史问题，索洛诺夫归纳法是与客观贝叶斯学派还是主观贝叶斯学派相关联？还是你不知道？我真的不知道。所以，所以这是我可能模仿大卫·德意志的地方，我说，看，我不一定必须代表贝叶斯主义者。我认为我忠实地代表了尤德·阿拉佐夫斯基。你可以把我当作他的观点的随机鹦鹉，因为我没有看到任何不同之处。但我无法追溯到，你知道，阿拉佐夫斯基写过的关于索洛诺夫归纳法的内容。他暗示它是，它是原创的一部分。所以这可能只是阿拉佐夫斯基的观点。是的，那不是故意的。索洛诺夫归纳法是，它是，它是归纳法，就像哲学归纳法，我们一直在反对的东西，除了上面有一个贝叶斯定理的解释。所以我们对归纳法的所有批评都只是好奇，因为，你知道，贝叶斯主义有两种学派，客观贝叶斯主义和主观贝叶斯主义。詹姆斯来自客观学派。索洛诺夫归纳法，哦，他来自客观学派，这就是理想的理性主体。就像他认为有一个正确的先验，在每个时刻都有正确的概率。这听起来像，但这是一个主观学派，在贝叶斯主义中，仍然是概率的主观解释。有一个客观的，或者称之为逻辑的与主观的贝叶斯主义，这些是不同的。所以，主观贝叶斯主义者我认为不会同意索洛诺夫归纳法。这是一个完全的猜测，你可以把它剪掉，如果你愿意的话。他们，我认为他们不会同意索洛诺夫归纳法，因为他们，对他们来说，概率是完全个人的，而且没有办法争论。我有一个比你更好的概率，因为它完全是主观的。然后逻辑的或客观的贝叶斯主义者想说，不，有一种方法可以争论谁对这个命题有更好的信念。但他们仍然都是贝叶斯主义者，因为他们将概率分布在命题上等等。是的，明白了，明白了，谢谢。总之，继续。是的，你知道，雷·索洛诺夫比拉斯晚了几百年。所以，很长一段时间，人们都在想，嘿，贝叶斯更新非常有用，但先验来自哪里？我不太确定。但如果你有先验，这是更新它们的好方法。然后索洛诺夫来了，他说，嘿，看，我甚至可以理想化先验。我可以让你从零到六十，从没有信念到拥有可证明的最佳信念。我明白了，好的，所以可能是客观学派。我能为听众说一句吗？所有这些理想的、可证明的等等，都依赖于考克斯定理。所以只需谷歌我的名字，然后输入“信念假设”，然后你就可以看到考克斯定理的三项假设，第一项，第二项和第三项，都是你必须选择假设的东西。这就是尤基从不谈论的，当他谈论法律和理性等等时。所有这些都只有在你自愿选择假设信念假设时才适用。我不，因为该假设会导致一系列悖论、混乱和关于超级智能的废话等等。但对于听众来说，当你听到贝叶斯定律和理性定律时，所有这些都只有在你自愿选择假设信念假设时才适用。如果你不喜欢，就像我一样，那么这一切都不适用于你。所以，也许我们会深入探讨。但我为听众准备的比为你多得多。是的。我想接下来尝试的是，你们，你们付出了很好的努力，我对此表示赞赏，深入研究了贝叶斯主义的一些潜在的挑剔或缺陷。所以，让我来反击，让我深入研究波普尔主义的一些东西，我认为我可能会稍微削弱它。让我想想。所以，我们谈到了，好吧，你不太喜欢“让我们形式化解释的定义”这个想法。这就像，看，我们作为人类这样做，我们尽力而为，它有点非正式。波普尔主义者对解释的一个说法是，更好的解释是难以改变的。当然，德意志是这么说的。你想稍微详细说明一下这个说法吗？是的，这来自德意志，这是他建立在波普尔的东西上的。他所说的只是考虑两种关于太阳为什么会升起的理论。理论一：有一个神，如果他们那天高兴，就会让太阳升起。另一个理论是日心说，太阳位于太阳系的中心，地球围绕它旋转，地球有点倾斜，地球的倾斜，地球的旋转，导致第二天早上太阳升起。第一个解释，神的解释，完全容易改变和任意，因为你可以说，为什么是当神高兴时？为什么是一个神？为什么是六个神？你可以在那一刻证明任何你想证明的东西，都在那个理论下。所以，实际上，对于超级智能，我们稍后会谈到。对于日心说理论，它非常难以改变，因为如果你改变其中的任何细节，比如为什么是球形的？让我们把它换成立方体。那么预测就会完全不同，因为太阳升起的方式也会不同。所以，这就是德意志在“难以改变”的东西上所说的。但也有一些批评，那就是，如果我给你一个理论，它并不像你自然地将它归类为难以改变和容易改变的。所以，我假设你马上就要说，嗯，这是程度不同，而不是性质不同，因为一切都，有点更容易或更难改变，你不能自然地将它们归入一个阵营或另一个阵营。对此，我想说，我同意，这是真的。你不能，很难改变的标准，我认为它作为对他人理论的批评是相当无用的。你可以尝试告诉占星家和顺势疗法的人以及所有这些人，他们的理论。
很难改变，不容易改变，除非是错的，否则他们不会听你的。这对别人来说不是一个很好的批评，但对你自己来说是一个很好的内部批评。所以，如果你对自己进行这种分析，并审视自己的思维过程，问自己：“我的解释容易改变吗？比如，超级智能可以随时创造一个新现实的解释，容易改变吗？还是很难改变？然后你就可以开始……嗯……在你自己的思考中剔除不同类型的理论。所以，我只是补充一下德奇所说的，那就是它……嗯……它是一种程度，而不是一种类型，而且它对别人来说是一种无用的批评，但对你自己来说是一种很好的内部批评。我不知道你是否想补充什么。是的，也许我唯一想补充的是，虽然这听起来可能有点……嗯……在哲学上有点深入，但这正是人们每天都在做的事情，对吧？如果你把孩子送到幼儿园，然后去接他们，有很多理论你知道，他们可能在他们离开的时候被外星人取代了，现在他们变成了另一个人，或者他们在一天之内完全改变了他们的个性。你可以对未来做出许多可能的预测。你在做什么？你说那些完全不可能，因为，就像，如果那发生了，你知道你没有很好的解释，就像为什么那天会发生一样。所以，这也很好地符合我们每天如何看待……嗯……现实。为什么我不认为我的茶会突然开始漂浮？是的，正是出于这个原因，即使人们不这么想，我认为这就是正在发生的事情。也许为我们与托勒·萨默斯（Toler Summers）的谈话做个小广告，因为我们在其中进行了更详细的讨论。所以，对于那些想要我们刚才所说内容的更充实版本的人来说，请查看那一集。好的，所以就我个人而言，我确实看到了你选择的特定例子中的一些吸引力。比如，我认为……嗯……我明白为什么人们会用它来为他们的认识论辩护，因为如果有人……这不是对认识论的辩护，只是为了澄清。它更多的是认识论的结果。它是一种启发式和标准，而不是一种辩护。但是，是的，你认为它是一种……嗯……核心，还是你认为它是应用认识论的基本经验法则之一？不，它不是基础性的。不，它……它是一种……嗯……核心。是的，有趣的是，因为我觉得没有它，你可能很难从帕普阿里亚尼主义的其他方面推导出来。帕普阿里亚尼主义中没有什么是可推导的，它也不是基础性的。但你说没有什么是可推导的，但你也说它不是基础性的。哦，抱歉，抱歉。如果……抱歉，好的，好的主张。如果按可推导的意思是……嗯……形式上逻辑上可推导，那么不，没有什么是可推导的。它是……它是推测性的。推测性的。如果按可推导的意思只是……嗯……在通俗的意义上，比如，哦，是的，我推导了……是的，是的。所以，只是为了澄清一下，因为形式上的……嗯……区别似乎很重要。在这场谈话中，我还没有深入研究帕普阿里亚尼主义，所以我确实很好奇。所以，这个……嗯……德奇经常提出的规则，或者启发式，或者别的什么，对吧？好的解释很难改变。德奇是从波普尔说的其他什么东西推断出来的吗？如果是，那么推断是什么？是的，本，如果我错了，请纠正我。这是否有点来自波普尔的内容概念，比如理论的经验内容？对吧？如果你想要具有高经验内容理论，那自然意味着你想要那些难以改变的东西。我只是想，因为……嗯……本和我以及你思考事物的方式之间存在一个重要的区别，那就是……嗯……形式系统与自然语言。所以，像“可推导”、“推断”等词。我只是觉得我们需要……嗯……在这些词上插个旗帜，因为在那里会有翻译上的困难。所以，仅仅因为……是的，它绝对是……嗯……在通俗的意义上可以从他的……嗯……内容理论中推导出来的。绝对。但是……嗯……德奇只是……嗯……重新命名了它。所以，它当然与波普尔一致，但它只是……嗯……一种品牌重塑。它是一种……嗯……概念把手。它是一种……嗯……概念把手。很好。本，你想详细说明一下吗？我很好奇想多了解一点，因为，我的意思是，我发现这个概念有一些优点或吸引力。所以，你能告诉我更多关于……嗯……内容的概念，或者……嗯……无论你说什么？他喜欢东西。你想听一个关于内容的完整的东西吗？我可以谈论这个……嗯……一个小时。但是你能……你能告诉我……嗯……使解释难以改变的部分吗？是的，所以……嗯……我很乐意谈论内容。我需要解释一下它是什么。你知道波普尔的内容是什么吗？我不认为。是的，好的。所以，内容是一个非常有趣的概念。所以，一个陈述的内容是该陈述的所有逻辑结果的集合。好的。好的。是的。所以，我将稍微扩展一下，因为……嗯……它实际上会导向某个地方。它将与我们到目前为止一直在讨论的内容很好地联系起来。所以，举个例子，陈述“今天是星期一”的内容将是……嗯……所有可以从该陈述中推导出来的东西的集合。所以，今天不是星期二，今天不是星期三，今天不是星期四，等等。陈述“外面在下雨”的内容将是……它外面不是……嗯……晴朗的。天空中布满了云彩，诸如此类。所以，这就是内容。然后有不同类型的内容。所以，有经验内容和形而上学内容。所以，经验内容是所有内容的一个子集，它是可以推导出来的，并且可以经验地证伪。所以，例如，如果我说……嗯……陈述“所有天鹅都是白色的”的内容是什么？嗯，一个可以从中推导出的结论是……嗯……2024年星期三，时代广场没有黑天鹅。这将是经验上可推导的。嗯……一个主张。嗯……形而上学陈述的内容将是……嗯……进步的弧线倾向于正义，或者……嗯……那是什么……马丁·路德·金的引言？嗯……然后它的内容将是……嗯……未来将比过去更公正。好的。如果你让我再详细说明一下，我保证这会与我们正在讨论的内容联系起来。所以，现在我们可以谈谈……嗯……如何比较不同陈述的内容。所以，除了重言式之外，基本上一切……嗯……它都有无限的内容。因为你可以从“今天不是星期一”推导出无限多的陈述。你可以只是说“今天不是星期二”，等等。所以，它是……它是无限的。但是你可以进行类子集关系。所以，爱因斯坦理论的内容严格大于牛顿理论的内容，因为你可以从爱因斯坦推导出牛顿。所以，爱因斯坦是一个更高内容理论，而不是牛顿，正是因为牛顿可以推导出的任何东西，你都可以从爱因斯坦那里推导出。你无法比较爱因斯坦和达尔文的内容，因为它们只是无限的集合，无法进行比较。所以，再往前一点，现在，这与我们一直在讨论的内容将很好地联系起来。所以，让我们谈谈合取的内容。所以，合取的内容。所以，我们有两个陈述，“今天是星期一”和“外面在下雨”。所以，合取的内容将严格大于或等于……嗯……陈述本身的内容。所以，一个玩具的内容是零。如果你想给它一个度量，如果你想给它数字，它是零，因为从一个玩具中什么也推导不出来。一个矛盾的内容是无限的，或者是一个，因为根据……嗯……爆炸原理，或者别的什么，从一个矛盾中可以推导出任何东西。所以，它是无限的。但是因为它无限，所以你可以立即推导出……嗯……经验上的……嗯……证伪者，它会表明矛盾的内容是……嗯……错误的。是的，现在我们将联系起来。所以，让我们谈谈合取的概率。所以，合取的概率。“今天是星期一，而且外面没有下雨。”严格来说，概率会下降。概率小于或等于……嗯……重言式的概率是1。矛盾的概率是0。所以，如果你想在科学和思想中拥有高内容，你必然必须拥有低概率。如果你想让你的理论……嗯……大胆而有风险，那么它们必然必须具有低概率。所以，在这个阵营，我们声称科学项目是拥有高内容命题，大胆而有风险的理论。那就是必然的低概率。在你的阵营，你想要高概率。所以，如果你只想高概率，那就把你的教科书填满重言式。如果你想要低概率，那就填满矛盾。从我们的角度来看，我们想要高内容。所以，我们想要低概率。所以，我们完全颠倒了。而且，我认为，本也会认为，而且波普尔也是如此。我只是在模仿波普尔。科学的目标是拥有高内容，大胆，有风险，经验理论，如牛顿，爱因斯坦，达尔文，DNA等。这意味着低概率。这意味着……嗯……巴斯尼斯是错误的。是的。什么？谢谢。让我确保我完全理解。因为在……嗯……例子中，你知道，我认为我们谈到了太阳……嗯……在地球上，或者我们看到太阳升起和落下。一个人说，我认为这是因为地球在旋转，所以我们看到太阳升起和落下。另一个人说，我认为这是因为我相信希腊神，而这显然只是希腊神话中的赫利俄斯和他的战车。你说，嗯，我们更喜欢一个……嗯……更高内容理论。所以，当你谈论赫利俄斯时，因为他容易改变，这让我认为它使用了更少的逻辑合取，这将使其内容更低。我是在正确地转述你吗？是的，完全正确。是的，太好了。是的，我实际上没有将两者联系起来。而且它们之间存在一个很好的关系，即……嗯……复杂性，它与……嗯……陈述的合取有关，以及简单性。而我们在科学中所寻找的是具有高内容的简单陈述，因为那些是最容易被证伪的。所以，如果我们有某些陈述，可以从中推导出很多东西，比如你不能比光速更快地旅行，那么它就会做出很多可证伪的预测，从而更多地触及现实。而且它更难改变，因为如果你改变了它的任何部分，那么你就被证伪了，你就被证伪了，你就被证伪了。所以，那里有直接的关系。好的，但是如果古希腊人反驳说，哦，你需要逻辑合取。他说，让我告诉你关于赫利俄斯的事情。赫利俄斯驾驶他的战车绕着太阳转，他穿着金色的凉鞋，他和宙斯是朋友。所以，他给了你大约50个合取。他说，我实际上认为我的理论内容非常高。是的，所以，这就是内容和……嗯……易变性之间的区别。所以，他刚刚编造的所有合取，他可以编造另一组。这就是为什么它如此容易改变。但是，但是，如果……好的，只是玩一下。我的意思是，你可能是对的。把碰撞车推过去。但是，如果他说，但是，好的，但我只是具体告诉你我文本中的所有合取，而且我们没有改变文本。我认为，在那里，你想谈论他的观点的后果。你想看看……嗯……合取的内容，它们是……嗯……在这种情况下，它应该是一个经验理论，所以，经验后果。所以，你问他，好的，比如，考虑到你理论的所有这些细节，那很好。但是，你期望在世界上看到什么作为这个理论的结果？而那里，它的内容非常低。因为它可以解释任何可能发生的事情。战争，没有战争，有云，没有云。我不知道，我不知道。我不知道战车。我正在扮演魔鬼的代言人。我甚至不一定期望……嗯……打败你。但我只是想看看我是否能。所以，这不是输赢，而是互相学习。是的，是的。想象一下他说，好的，但是我有这个文本。它已经存在了大约一千年。它明确地说，每天赫利俄斯升起，然后落下。它可以稍微变化一点，但它总是在天空中以……嗯……上升和下降的弧形模式。所以，我没有改变它。它有大约50个合取。所以，为什么这不比……嗯……旋转理论更好？嗯，所以，如果你转向……嗯……归纳法之类的。而且我过去已经见过一千次了。你是不是想说这个？我实际上还在……我实际上还在试图……嗯……证明这个……嗯……难以改变的想法。所以，那么，赫利俄斯绕着太阳转的批评是什么？它不是……嗯……所以，哦，我明白了。所以，我宁愿谈论那个。这就是为什么我认为内容实际上是……嗯……更原始的概念，或者更原始的概念。因为在那里，你可以谈论它不是……它没有预测能力或没有内容。对吧？正如你所说，它会预测太阳每天都会升起和落下。但是然后你开始问，除了这个预测之外，它还能说明什么？嗯，赫利俄斯中心论理论说明了很多。它说明了季节。它做出了非常……它……嗯……它提出了一个非常僵化的世界结构，我们可以去测试这个结构。比如，嗯……倾斜理论……我猜这与此有关。嗯……你知道，它与其他理论相符。我们对世界的理解，它们一起构成了这个……嗯……事物网络。那就是……嗯……难以改变的地方。所有这些加在一起都非常……嗯……难以改变。所以，确实，它做出了一些……嗯……预测，并且具有一定的经验内容。对吧？这大概就是他们认为它……嗯……在最初是有用的预测理论的原因。但是你问，好的，赫利俄斯中心论在此基础上还有什么？它有更多。它提出了更多内容。所以，我们更喜欢它作为一个理论。这回答了你的问题吗？还是没有？好的。而且，只是为了确保，如果……让我试着总结一下。我可能正确，也可能不正确。你说的是，嗯……地球旋转模型，它也可以做出很多其他预测，我们甚至可以去测试。所以，仅仅因为这样，它就……嗯……有点像……你得到了更多的价值。它有点像……嗯……一个紧凑的理论。它得到了所有这些……嗯……它更多地限制了世界。但它听起来几乎像是……嗯……难以改变可能不是这里的主要论点。但它更多的是，嘿，看，有各种各样的证据，而且它很紧凑。我觉得这些是你喜欢它的属性。哦，嗯，所以，难以改变……嗯……再次，不是核心的东西。如果你否定了它，你就摧毁了所有的波普尔主义。它是一种……嗯……启发式。一种思考事物的方式。它与内容有关。内容是一个更充实的理论。所有这些都与证伪有关。内容是……嗯……你如何与证伪联系起来的一部分。它与……嗯……奥卡姆剃刀之类的东西有关，关于紧凑性。所以，紧凑性将你与简单性联系起来。但是，再次，它不是……嗯……你得到了……嗯……你得到了……嗯……是的，有时我考虑难以改变，有时我考虑经验内容。而本所说的……嗯……是美丽的，完美的。那就是……嗯……理论的僵化性。以及它如何……嗯……锁定并紧密地契合在现实之上。然后它给你额外的东西，你可以思考，而你没有意识到。如果这是真的，这会导致……嗯……其他事情。所以，例如，日心说很快就导致了……嗯……哦，[ __ ]，这些我们在天空中看到的小光点，它们是恒星。也许它们只是遥远。也许那里还有其他行星。也许在这些其他行星上还有其他人正在思考世界是如何运作的。所以，它不是……嗯……可以从它推导出来的。但它只是……嗯……它确实……嗯……导致了那里。而那是理论内容的一部分。所以，是的。所以，我的观点是……嗯……如果你来我的再教育营，我想重新编程你进入巴斯尼主义。我可能会做的是……嗯……继续强调……嗯……你说的难以改变是什么意思？你说的……嗯……遵循奥卡姆剃刀是什么意思？我觉得，如果我一直强调你对事物的启发式定义，我就会让你滑坡。然后你说，好吧，所罗门归纳法，完美形式化，就像我们所有的概念真正意味着的那样。它并没有让我们滑坡。本是一位统计学家。他理解贝叶斯。我在贝叶斯实验室长大。我们了解这些东西。我们都读过了。我读了很多……嗯……我了解论点。也许这里有一些……嗯……我们知道你们那边的论点，但你们并不完全了解我们那边的论点。所以，就像，再教育已经发生了。因为我一开始是贝叶斯主义者，我一开始是……嗯……错误的人，本也是如此。所以，我们已经被重新教育出来了。所以，你正在谈论……嗯……是的，你会的。我实际上没有在你的播客上听到我的观点被很好地代表。所以，让我们看看，让我们看看，到最后，你对我的观点了解多少。好的。好的。所以，我这里还有一个相关的问题。关于……嗯……更难改变的话题。而且，我认为你自己也提到了这一点。比如，是的，技术上来说，当有人说……当有人说……嗯……赫利俄斯是战车。技术上来说，或者……嗯……抱歉，方向错了。当有人说，嘿，地球在自转。这似乎有点难以改变。技术上来说，它并不难改变，因为你仍然可以想出无限多种等价的解释。不，所以……我指的是……好的，地球在自转，还有……嗯……天使在推着地球转。你可以不断添加随机细节，或者甚至做出等价的变体，用其他概念来构建它，等等。所以，这个无限的类别。但问题是，你浪费了比特。所以，它不紧凑。不，不，不，不，不，不，好先生。不是关于比特。不。所以，问题是……是的，你可以采取任何理论，然后……我实际上对此做过一次高中演讲。我称之为“那些小小的天使理论”。但是你可以说，把所有关于物理学的知识都说出来，然后说，这是因为那些小小的天使，而那些小小的天使正在做……嗯……做那件事。问题不在于你必须添加额外的比特。而是，一旦你假设了那些小小的天使，你就假设了一个我们……嗯……我们必须生活在其中的一个完全不同的宇宙。它会重写我们所知道的一切。就像顺势疗法之类的。如果……嗯……你稀释得越多，它就越强。这会重写……它们只是在那里，但它们是惰性的。所以，天使是从哪里来的？它们……嗯……为什么不是天使？为什么不是恶魔？而你正在改变解释的方式，正如我们现在所谈论的。所以，这是容易的。地球在自转，但是……嗯……只有一个额外的原子在那里，它只是坐在那里。我不能假设它吗？对吧？这难道不是一个容易的变体吗？然后，认真对待它作为一个理论。比如，认真对待它。那么，它是什么？这个额外的原子与任何东西相互作用吗？如果不是，那么它有什么用？如果不是，那么它就会产生影响。那么，为什么我们还没有看到任何这些影响？它在哪里？在我们的理论中？嗯……是的，比如……嗯……是的，而且，日心说理论也不是关于……嗯……有多少原子。它不是那个层面的理论。嗯……谁在数原子理论？所以，我想，让我总结一下我的观点。我认为你们在谈论难以改变方面确实有道理。而且，我认为它与贝叶斯主义者所说的……嗯……以及奥卡姆剃刀所说的相符。比如，让我们尽量让理论保持紧凑。它有一个更高的……嗯……如果它紧凑，我们的先验概率。如果你只是添加一百万个惰性天使，你就违反了奥卡姆剃刀。我认为这两个观点可能都同意这一点。但是，如果你说，不，不，不，我们不关心奥卡姆剃刀。我们关心的是它没有做出额外的预测，或者它……嗯……它会做出其他被证伪的预测。我觉得，现在你正在进入一个不同的论点。所以，我确实觉得，难以改变的论点似乎等同于奥卡姆剃刀的论点。顺势疗法可能可以用比元素周期表少得多的比特来表示。但我仍然更喜欢元素周期表，即使它更复杂。所以，它不仅仅是剃刀和更少的比特。嗯……比如，量子场论需要很多比特。有许多更简单的理论类型。但是它们什么也解释不了。它们无法解释实验结果。它不……嗯……有价值。好的，现在我们又回到了内容。但是我说的是，如果……嗯……唯一的标准是比特数量少，紧凑和简单。那么，我可以给你很多满足这个标准的理论，但我并不太喜欢它们。这就是……嗯……这实际上很有趣。顺便说一句，我猜我甚至没有真正期望你会说，你基本上认为奥卡姆剃刀没有用，或者……嗯……你对奥卡姆剃刀的立场是什么？我认为奥卡姆剃刀有时很好。它是一种……嗯……批评事物的一种方式。但它不是唯一的事情。有时理论非常复杂，并且有许多多余的假设需要去除。那时我会拿出奥卡姆剃刀。有时他们会拿出希钦斯剃刀。希钦斯剃刀说，那些可以无需证据断言的东西，也可以无需证据驳斥。这也是一种有用的批评和有用的启发式。有一整套不同的剃刀，你可以拿出来。它们都不是……嗯……基础层面的。它们都只是一种……嗯……刮刀，用来刮掉糟糕的论点。你们觉得贝叶斯主义的奥卡姆剃刀怎么样？我认为它和贝叶斯主义本身一样……嗯……谬误和错误。或者……嗯……那太便宜了。本，给我一个……嗯……不那么便宜的答案。是的，所以，我的意思是，所以你想说……嗯……更简单的理论应该具有更高的先验概率。对吧？这就是贝叶斯主义的观点。关于……嗯……对，这就是所罗门归纳法所做的。对吧？所以，它只是……它基本上对所有可能描述任何事物的训练机进行排序。然后它把……嗯……更短的机器放在前面。这意味着，如果你有一个训练机说，有一百万个天使在什么也不做。那么，它将被……嗯……优先排序低于……嗯……说“没有天使”的训练机。因为它更简单。所以，我认为很多……我能退后一步吗？一秒钟。如果……嗯……在你的观点中，我是在回避问题，请随时重新提问。但我只是想……嗯……稍微框架一下。然后，如果它看起来像回避，请批评我。但是……嗯……所罗门归纳法，所罗门归纳法，贝叶斯主义，所有这些东西往往……嗯……调整概率，以找到一个……嗯……为波普尔主义者已经拥有的辩护。所以，我们喜欢简单性是有原因的。其中一个原因是，简单的理论具有更高的内容，因此更容易被证伪。所以，在我看来，这就是我们喜欢简单性的原因。然而，你可以编造一个贝叶斯主义的故事，说明为什么……嗯……简单性。你可以……嗯……用归纳法来谈论它。你可以用所罗门归纳法来谈论它。你可以……嗯……调整数学，然后说，这就是我们从贝叶斯那里得到这个结论的方式。你可以到处做这个。这就像……嗯……贝叶斯认识论假设检验的东西。你可以编造一个事后故事，说明为什么贝叶斯定理就是我们发现双螺旋结构的依据。但是，它只是……它没有给我们带来任何新的东西。我们已经发现了。然后你可以编造一个事后故事。双螺旋结构是另一个很好的例子，说明为什么我喜欢内容。而且，我将停止重复自己。但是，但是，当你问这些问题时……是的，你总是可以从贝叶斯主义的角度讲述一个故事，说明为什么我们重视这些东西。而我们正在给你一个替代的故事。而我猜，最终，听众将不得不自己决定。但是，所罗门归纳法是正确的，这是错误的起点。我们可以就此争论。但是，如果你从……嗯……它正确的假设开始，而你不想让我们争论这个。那么，是的，当然，你从所罗门的角度编造了一个故事，说明为什么我们重视简单性。但是，我们只是完全在说不同的话。因为我拒绝所罗门归纳法，因为我拒绝归纳法。所以，任何形式的归纳法都是错误的。我们可以……嗯……你可以听我们争论这个几个小时。但是，你从……嗯……它正确的假设开始。而这已经意味着，我们没有好好地交流。是的。顺便说一句，我也想谈谈休谟的归纳悖论。我知道你们已经谈过了。我觉得很有趣。所以，我想先谈谈这个。但是，首先，我认为我还有一些……嗯……更实质性的东西可以给你。关于这个话题，我们如何实际应用……嗯……波普尔主义推理来判断不同的假设，这些假设似乎都可以适用。我有一个例子。好的，假设我从口袋里拿出一枚硬币。我们就在一个派对上。它看起来不像……我不是……嗯……外星人什么的。就是普通人。我拿出一枚四分之一美元的硬币。它看起来就像一枚完全普通的四分之一美元。你不会怀疑我。我把它抛了10次，它就出现了一个看起来相当随机的序列。比如，正面，正面，正面，反面，正面，反面，正面，正面，正面，反面。好的。所以，它看起来不是一个特别有趣的序列。然后你说，好的，这似乎是我对一枚普通的公平硬币的预期。然后我说，我有一个假设给你。这枚硬币在抛10次时总是会得到这个确切的序列。你总是得到正面，正面，正面，反面，正面，反面，正面，正面，正面，反面。所以，如果我再抛10次，我只会得到那个确切的序列。这就是我的假设。而且，我喝醉了。所以，我甚至看起来不像一个可信的人。但我还是提出了这个假设。你认为它似乎是一枚公平的硬币，除非我在进行一个精心设计的把戏。所以，我的问题是，波普尔主义者怎么看待对比这两个假设：公平硬币 vs. 每次抛10次都得到那个确切的序列？哪个假设对你来说更有吸引力，就……嗯……更难改变，或者更好？我只会再抛一次，然后很快就会发现。你再抛一次硬币。你得到相同的序列吗？下一次呢？如果……嗯……你必须下注。无论你预测什么，你都必须下注一千美元。所以，我让你再做一次。但是，我们得赌一把。我会说，我不想。我只想再做一次。所以，就像，如果我在派对上，有人给了我一枚魔法硬币。首先，我会说，那太疯狂了。这怎么可能？而且，显然，像……你能真的做到吗？你是在玩魔术吗？还是你只是……嗯……你能控制你的拇指，以至于得到相同的序列？所以，它在我看来，初步来看，完全不可信。所以，是的，我会拿钱。不，不，我不会拿钱。我不会下注，因为他们可能……他们是为了某个原因而下注。有什么把戏。所以，是的，我会说，想象一下，这真的只是一个随机的醉汉，他没有动机，不想和你打赌。他真的只是……嗯……有人在……嗯……我的问题，是的，忘了那个。所以，我的问题只是……我的意思是，你提到了……让我们再抛一次。而我说的是，嗯……无论出于什么原因，在你再次抛掷之前，只是你和我之间。你打电话给我。我将要做一些波普尔主义的推理。这是波普尔主义和贝叶斯主义之间根本区别的一个很好的例子。本很久以前就提到了一个很好的例子。但是，最大的区别是，波普尔主义者会直接去做。贝叶斯主义者会走进他们的房间，花6个小时写一篇20页的博客文章，关于他们如何形式化他们对这个特定情况的信念的概率空间。然后他们会发布到 LessWrong。然后花另外20个小时争论概率。这就是……嗯……波普尔主义者会直接去做。他们会说，哦，好的，那很有趣。是的，让我们直接去做。让我们试试。哦，错了。好的，继续。也许为了让这个答案稍微更具普遍性，并去除一点讽刺意味。我认为，一种可以连贯地谈论世界观差异的好方法，我认为这实际上非常有趣，那就是贝叶斯主义者极其关注拥有准确的信念。可以确切地决定我们如何定义准确。但准确的信念，考虑到你现在拥有的信息。波普尔主义者对生成新假设非常感兴趣，并弄清楚我们可以做什么来增长我们的信息。所以，非常感兴趣，比如，如果我们有多个相互竞争的好假设来解释某个现象，我们如何区分它们？而这正是关键测试等的作用所在。所以，是的，所以，我明白你的心态是直接去做。而且，我明白你想找到你的信息。但是，这……我不会回避回答。但是，我只是……我只是……文登之所以难以回答你的问题，是因为这两种世界观之间存在着极端的差异。以至于我最近开始难以称贝叶斯主义为贝叶斯认识论，因为它实际上不是关于认识论，而是关于增长知识。它是关于……嗯……认识论，即……嗯……为某些假设辩护当前信念。所以，这两种世界观的重点是不同的。而且它们仍然在重要方面存在冲突。正如我们所见。我的意思是，所罗门归纳法确实增长了知识，并增长了预测信心。所以，我认为……嗯……你将要说的是，贝叶斯主义者不应该拥有认识论这个词。不，不，不。他说，如果你想称之为……嗯……认识论，那没关系。我只是说，我认为，老实说，这是我试图给你一个……嗯……你的观点，我说，我认为我们经常在稍微错开的立场上争论。因为贝叶斯主义者极其关注……嗯……不确定性量化。他们想说，你的信念应该是什么，考虑到当前的信息。他们……嗯……我认为他们不太关注……我还没有听到多少贝叶斯主义者谈论生成这些新假设，用无限的图灵机之类的。我的意思是，我可以告诉你，我个人并不花很多时间试图精确量化假设。我只是知道，当我手动做事情时，比如，嗯……这是一个尝试的好方法。当我……嗯……粗略地思考时，我只是在头脑中，在元层面，我知道我正在近似数值理想。就是这样。我只是……嗯……以近似的方式生活。你假设你的头脑中是正确的。但是，是的。但是，让我不要回避问题。你能再说一遍问题吗？是的，是的，好的。所以，有一个奇怪的序列。是的，让我直接回答，然后说，是的，在其他条件相同的情况下，我认为我会说……嗯……我会下注，或者别的什么。我会说，是的，这可能是不可信的。因为，如果……如果我能看到他们是如何抛掷的，我会说，这似乎极其不可信，有一个机制，他们可以控制硬币。你知道，空中没有绳子什么的。而且，是的，所以，唯一可信的机制，为什么这个序列会发生，就是……嗯……基本上是那个人。因为你看到的是相同的……嗯……相同的硬币。而且，如果硬币……嗯……没有记忆，这似乎是一个合理的假设。它不会知道它已经抛出了……嗯……正面。它不会知道它自己的历史。所以，必须是那个人。而且，顺便说一句，我的意图是，我不会欺骗你。我不会……嗯……心理学。那个……不是我要去的。但是，不，是的，我可能会说，是的，它非常不可信，它就是这个序列。而且，我会……是的，如果我心情好，想打赌，而且我有足够的闲钱。我是一名博士生。所以我没有多少闲钱。你知道。但是，如果它是30美分，也许我会下注。是的，好的。所以，我的问题是，这对我来说似乎是一个很好的玩具例子，关于……嗯……你们如何实际操作波普尔主义推理，在一个玩具问题上？因为你说它是一枚公平的硬币。但对我来说，似乎是……嗯……HHH总是……嗯……HHHT HHH总是……这个假设，它是一个非常丰富的假设。它有更多。而且它更难改变。因为当你说是公平硬币时，我想，哇，你……公平硬币，这是一个多么容易改变的假设。你可以说它是一枚60/40的硬币。你可以说它是一枚70/30加权的硬币。事实上，在我的例子中，你得到了7个正面。所以，为什么你说公平硬币而不是70/30加权的硬币？你是在选择一个如此随意的，如此容易改变的假设。放一千个字。你只是把一千个字放到了我们的嘴里，我们并没有说。还有，是的，让我认为我可以快速解决这个问题。我说，是的，你说得对。说你可以抛出确切的硬币序列。这是一个极其严格的假设。它非常僵化，并且有大量内容。对吧？内容是……嗯……每次我这样做，我都会得到这个确切的数字序列。内容有什么用？它用于区分不同的理论。所以，我们如何做到这一点？我们会再抛一次硬币。所以，文登，就像……他不是在回避问题，说再抛一次硬币。内容本身就与……嗯……我们如何……好的，但是，为了争论起见，你不能再抛一次硬币了。你必须……你必须给我你最好的猜测。但是，……你正在说，好的，一个波普尔主义者会如何处理这种情况？这就是你的问题。好的。我明白你真的很想再抛一次硬币。但是，你不能……你只能给我你最好的猜测吗？所以，你基本上是说……所以，如果你……所以，你真的……你对我没有什么可说的，在抛掷之前？什么都没有？你打算把我们引向哪里？我们会再做一次实验。或者我们会下注，因为它太……嗯……不可信了，一枚硬币可以做到这一点。要么这个人掌握了他的拇指技巧，以至于他能做到，要么有一种魔法硬币，它知道如何以你要求的确切序列抛掷自己。而这两者似乎都完全不可信。所以，我会下注。我不会计算概率，然后在我脑子里想出一个数字。但是，是的，我给了你20个，或者几个不同的答案。是的。所以，我之所以想举出这个例子，是因为它最初启发了我，启发了我编造这个例子，是为了展示一个玩具例子，其中……嗯……难以改变似乎……嗯……违反直觉。对吧？因为我认为我已经成功地提出了一个例子，其中50/50的假设，即公平硬币的假设，实际上是容易改变的。你只从……嗯……统计学的角度来看，对吧？比如，在……嗯……在……嗯……解释方面，比如……嗯……解释潜在的物理学等等。那么，就像，他是在用他的魔法拇指神奇地做这件事吗？对吧？那是容易改变的。那是……那是容易改变的部分。难以改变的部分将是……这是不可能的，而这个人是错的。我会下注。因为容易改变的部分将是……魔法拇指。他是一个超级存在吗？他是一个念力者吗？我们生活在一个模拟中吗？这些……嗯……我可以想出……嗯……一整天。而这就是容易改变的。而我只是拒绝所有这些，因为我只是随口编造的。这就是我们……所以，这听起来像是……嗯……解决……嗯……它的悖论。但它听起来像是……嗯……解决方案必须……嗯……放大一点，并诉诸于……嗯……更广泛的背景。比如，看，我们生活在一个物理世界里。比如，硬币很难……嗯……做到如此棘手。总是以这个确切的序列出现。所以，作为一个贝叶斯主义者，我会称之为我的先验概率。但是，你如何称之为……嗯……常识，只是关于世界如何运作的知识？我只是喜欢……嗯……这是不可信的。所以，我会……是的，谢谢。任何不研究哲学的人都会得出相同的答案，大约是……我认为，如果我想挑战你更多，我认为我将不得不做一些工作，比如……嗯……发明一个完整的玩具宇宙，它没有那么多……嗯……关于物理定律的常识。所以，它不是……嗯……如此明显，硬币是……嗯……公平的。因为，我认为有一些本质，我会提炼出来，作为一个贝叶斯主义者，就像，你知道吗？我会从贝叶斯主义者那里得到什么？我认为是一个深刻的教训，值得学习。比如，你知道，想象一下一百万……想象一下一百万次抛掷，连续一百万次。那么，即使物理定律使得制造不公平的硬币变得很容易，但事实是，它看起来就像没有设置。而且，你知道，它甚至可能是你自己的硬币。你自己的硬币，你只是从……嗯……随机的Kmart 7-Eleven那里得到的。你抛了它。而且，它……嗯……就像你自己的硬币。而且它出现了……嗯……一百次，就像一个完全随机的东西。然后你说，我有一个很棒的理论。它总是做这个确切的序列。是的，我的意思是，我确实发现它令人信服。就像，看，物理定律使得这在先验上不太可能。但是，我觉得……嗯……公平硬币假设的一个巨大优势是，它……嗯……先验上比……嗯……这个确切序列的假设更可能。就像，这是一个相当荒谬的假设。我是在没有实际抛掷硬币的情况下得到这个假设的。你知道吗？你看到……也许那里有一些东西，你可以总是事后编造一个贝叶斯主义的故事。是的，它在先验上可能性较低。我们都同意这一点。然后，本和我会想说，它可能性较低，因为它是一个糟糕的解释。所以，我们只是拒绝它。而你想要说的是，它可能性较低。而且，好的，它精确地低多少？让我们来计算一下。让我们说，好的，那么，有8个正面，2个反面。让我们来计算一下。我们只是说，你不需要。这是一个荒谬的事情。也许只是转过身来。你对硬币公平的先验概率是多少？是的，这是个好问题。这是个好问题。是的。嗯，一般来说，如果……如果有人做一个派对把戏，而且我没有把他评判为……嗯……这个人实际上可以做一些相当花哨的魔法。如果它只是看起来像一个随机的醉汉朋友。那么，我可能会说，大概有97%的机会，这是一枚普通的公平硬币。而另外3%是……嗯……好吧，这个醉汉实际上得到了……
喜欢一个相当不错的魔术表演，好的，所以你给出的就像一堆理由，然后是一个数字，对吧？我们只是给你理由，是的，数字是一个大概的范围，正是如此。当我们只给你理由而没有数字时，它就是一个如此大概的范围，以至于我们根本不需要数字，比如数字是做什么的？是的，我的意思是，我明白了，对吧？所以，我的意思是，标准的贝叶斯回应是说，嗯，看，如果有一个市场，对吧？比如一个投注市场或一个预测市场，甚至是一个股票市场，对吧？这实际上涉及到我将要向你提出的另一个部分，那就是，好的，那么期望值，对吧？你对计算期望值的想法有什么看法？哦，天哪，我认为它就像一个在某些情况下有用，在其他情况下没用的异教徒定理，而且它是一个统计学家一直使用的数学事实，而且不知何故，它也是一个疯狂的哲学形而上学的东西，牛津哲学家们，比如威廉·麦考尔、托比·奥特、希拉里·格里夫斯和埃尔·奥茨基，还有一些日内交易者，我知道你要说什么……是的，那就是问题所在，让我们继续，我们可以对此进行很多讨论，但作为初步的近似，这就是我的想法。所以，在这个例子中，我的意思是，我之所以提出它，是因为在这个例子中，嘿，我们在一个派对上，有人刚刚用一枚硬币做了什么，他似乎想让我抓狂，就像这枚硬币总是出现，你知道，连续十次，但然后一个交易员无意中听到谈话并走过，他不是同谋，他只是一个喜欢交易和喜欢市场的人，他说，嘿，让我为你们做一个关于这个的市场，对吧？你想要什么样的赔率来打这个赌？这就是，好的，是的，我从屁股里掏出了数字，但就像这个人想开出赔率一样，对吧？所以你必须填入一些东西，他确实需要。如果你愿意下注，我需要下注。父母会直接走开，我们不会参与，对吧？但就像在一天实验的最后，我们会再次运行它，然后决定它是否如此模糊以至于需要我们进行一千次实验，然后收集数据，然后建立一个统计模型，然后使用该统计模型来弄清楚到底发生了什么，因为是的，有很多实验很难进行，而且每次你做的时候都会得到不同的结果，这就是数据和统计学适用之处，但这与仅仅说这个的期望值会很高，而你从哪里得到这些东西，你只是在编造，而且它在大多数情况下都无用，除非你有数据，是的，我们可以谈论交易者的文化，以及像萨姆·班克曼-弗里德，如果你读过 M 的书，他们谈论他在简街的文化，以及他们如何为一切设定期望值，这是一种文化现象，人们确实这样做，我们也可以谈论那里的文化，但这与大多数人使用它的方式截然不同。这本书中最有趣的例子是，我的意思是，如果你看看简街，你知道著名的奖章基金，所以有一些基金正在下注，你知道他们认为在各种市场中具有正期望值，我的意思是，使用大量数据和统计数据，以及大量关于过去五天的市场如何反映第二天市场情况的假设，对吧？是的，完全是这样，这是如此。在这次谈话的开始，我至少通过说贝叶斯统计学一切都好，贝叶斯认识论不好，所以贝叶斯统计学部分就是你正在询问的，因为你有大约 50 年的金融数据，你可以进行试验，你可以用你的数据进行模拟，你可以看到什么能给你带来略微更好的回报，这与长期主义者和贝叶斯主义者，比如尤克尔风格的贝叶斯主义者所做的事情完全不同。所以请确保我们谈话，是的，我们不是反统计学，因为如果你有数据，一切都好，只是要弄清楚，是的，或者反期望值，因为如果我们有数据，一切都好，你可以做错，当然，但我假设在这场谈话的目的中，我们做得很好，就像交易员，就像简街和所有这些大型对冲基金一样，他们的整个生活就是试图通过使用超级计算机来获得略微更好的赔率，是的，是的，那很好，是的，对于观看播客的观众来说，你们知道我最近做了一集，我正在回应萨姆·卡普尔，我认为他提出了很多类似的说法，我不知道他是否信奉卡尔·波普尔，但他对概率的说法是，你看，当你做统计学时，概率是很好的，但当你只是试图推理没有良好统计基础的未来事件时，就不要使用概率。你们知道 S. Tor 吗？这听起来像什么？但这听起来不错，听起来我不知道他从哪里来的，但那确实是，完全是。然后我能，我能真的再多说一点吗？那就是卡普尔主义最终归结为常识，所以有人不读波普尔，不知道波普尔，不知道杜伊特，说出类似的话，我一点也不惊讶，因为如果你不属于波普尔邪教或杜伊特邪教，然后你只是在思考世界如何运作，你很可能会想出一堆卡普尔主义的东西，因为它通常最终归结为常识。是的，我也想声称贝叶斯主义最终归结为常识，这是公平的，是的，我们将让观众决定，好的，当然，游戏可以这样玩，但是的，所以，嗯，所以不久前我曾说过，你看，当我们进行索伦森归纳法时，我认为那是我在实践中所做事情的理论理想，而实践中我经常只是使用我的肌肉记忆，同样，对于期望值，我会做出类似的声明，即现实地说，在我的生活中，我不会做很多量化投注，我通常只是随波逐流，不怎么算数学，但我确实认为期望值是我所做事情的理论理想，例如，我认为我们都可以同意，如果你不得不，比如说，你不得不打赌 100 美元，你必须打赌太阳明天会升起，或者卡马拉会赢得选举，太阳明天会升起将是一个更强的赌注，对吧？所以，这将是某种原始形式的期望值计算，是的，我的意思是，我们有一个非常好的解释，为什么太阳明天会升起，我们不太了解，好的，所以让我问你关于你的，所以，所以，假设我只是，我让你打赌 10 美元，作为交换，你知道，你必须给我你愿意打赌的赔率，10 美元，可能就像，我确定你们没有一个好的解释模型，她是否肯定会赢或不赢，因为这太难知道了，但如果我说，看，这是你的 10 美元，我的 1000 美元，你知道，随便选一边，你难道不会选一边，因为它似乎很有吸引力吗？当然，10 美元，是的，当然，我的意思是，如果你愿意，当我问你这个问题时，你不是说，不，莱昂，去竞选，去竞选，不，你不是在回避，对吧？你说，好的，我愿意拿出 10 美元，你的 1000 美元，这似乎很有吸引力，对吧？所以你不是刚刚暗示你认为打赌卡马拉的期望值比在这种情况下超过 10 美元吗？所以你是在事后定义期望值，我只是说，我接受这个赌注，因为它看起来是个不错的交易，我有 10 美元的可支配收入，你知道，是的，我没有做，我没有做，看起来是个不错的交易，我认为你正在近似期望值的数学理想，因为你可以使用这个框架来描述任何你想描述的东西，所以期望值，所以，好的，对于听众来说，什么是期望值？让我们只谈论离散的东西，它是一个求和，是的，所以一个事情发生的概率乘以一个事情的效用，然后你把它们全部加起来，好的，太好了，你会在那个总和中放什么？你必须自己编造，所以无论你想编造什么，你都可以做，然后你必须编造效用，然后你必须编造概率，所以你所做的是，你取一个编造的数字，乘以另一个编造的数字，然后你这样做很多次，然后你把所有这些编造的数字加起来，然后你得到一个新编造的数字，然后你根据这个新编造的数字做出决定，如果你想这样做并根据它做出决定，那就随心所欲吧，我们只是不需要这样做，所以它是 MTI，并且编造了一个新的编造的数字，你可以直接从最终编造的数字开始，你也可以直接从你实际上不需要这些数字的认识开始，因为选举就像一把刀刃，如果有人给你提供 1000 比 1 的赔率或其他什么，那么你就可以从他们那里赚钱，因为他们在关于即将发生的事情的知识上犯了错误，因为他们对某事过于自信，所以当你说刀刃这个词时，刀刃这个词是一个充满争议的词，你暗示它可能以任何一种方式发生，你怎么会把它弄得这么有争议？你不知道卡梅拉的未来，所以因为我们有一个数据集，那就是 3.3 亿将要投票的人以及试图近似这个的民意调查，所以民意调查是人口的一个样本，这是统计学，这是我所依据的，这就是为什么贝叶斯统计学没问题，因为我们知道民意调查是如何运作的，我们知道计数是如何运作的，我们有 3.3 亿次重复试验，人们会这样做，这就是统计学有意义的地方，但有一种黑暗的艺术，那就是所有这些民意调查者都在建立他们的模型，因为选举非常接近，你建立模型的方式将真正决定哪个候选人获胜，这是一个巨大的问题，是的，我可以重新表述一下，我可以这样重新表述这个问题：这些方程中注入了太多的主观性，听起来我们都在内心深处同意，选举的胜负概率非常接近 50/50，对吧？我想让你们对此提出异议，认为胜负不是 50/50，我有一个个人理论，但它不值得认真对待，所以我只看民意调查，但我认为民意调查是不准确的，是的，我想提出预测市场，对吧？现在有 Poly Market、Ki Manifold，这些市场在最近几周和几个月里吸引了很多关注，这很棒，对吧？因为你可以观察这些市场，而且很多在这些市场上下注的人对这个波动的数字意味着什么都有贝叶斯解释，我的意思是，还有什么其他方式，或者，你认为对这些数字进行贝叶斯解释作为你可以用来下注的好赔率是疯狂的吗？是的，我几乎完全忽略预测市场，但这是我的个人选择，然后，但我的意思是，你从预测市场中学到了什么，而你没有从民意调查中学到什么，出于好奇，哦，我个人学到了什么？是的，只是你没有从民意调查中学到什么价值？很多时候是多余的，我只是，我认为预测市场比民意调查更精细，所以当民意调查有点模糊时，我有时会看看预测市场，我会看到更多信号，我认为也许随着拜登退选，我想那不是，没有直接的民意调查，我的意思是，可能没有一个代表性的民意调查是拜登退选的民意调查，但我想我只是想在书中提到，有时我会看到一些事情发生，它没有被民意调查的本体完全捕捉到，但预测，有一个特定的预测市场，它飙升，然后我真的认为，哦，天哪，那个飙升似乎应该更新我对即将发生的事情的预期，这里有很多事情，让我只说几点，我认为你最初的论点，就像投注 10 比 1000 的赔率，这些都是非常好的赔率，你可能会接受，如果你继续减少 1000，你就会达到一个你不愿意接受那个赌注的点，对吧？当然，如果你想做一些算术来计算期望值，在那里我认为，我愿意打赌卡马拉对阵特朗普，你想称之为期望值，当然，你可以这样做，我们只是想强调，这与统计学家在拥有明确定义的数据集并查看明确定义的结果并计数或进行非常严格的统计假设并将两者都称为期望值时所做的事情是截然不同的，最多是无益的，最坏是积极有害的，因为这些不是同一种量。现在，我不是在争论人们认为某人比另一个人更有可能获胜，或者有不同的风险承受能力，有些人喜欢下注，有些人不喜欢下注，他们有不同的效用函数，所以如果你想，如果你想就此向他们施压，让他们在某些赔率下表现得像个傻瓜，并称之为期望值，那好吧，但这与统计期望值不同，在那里，我，统计学，是的，在开始时，好的，那是第一点，第二点是，是的，预测市场作为一种聚合知识很有趣，关于人们有时，一些人，有时许多有钱的人愿意在选举上下注，它总结了信息，从这个意义上说，对吧？而且，同样，你现在可以谈论这个市场中的不同人的期望值，整个要点是他们的期望值不同，这就是为什么我们在市场中看到不同的结果，而且没有办法精确地裁决它，因为它是主观的，这再次说明了为什么这与统计期望值不同，当我们拥有明确定义的统计模型时，我能问你一个问题吗？在你回答之前，那就是你如何处理许多不同的预测市场，它们都说不同的事情？我的意思是，套利通常会使它们非常接近，不，但这并没有，因为它们仍然说不同的事情，对吧？比如，在哪里有一个持续的，是的，我的意思是，我知道在特朗普对阵方面，它总是 +/- 3%，是的，实际上，我将退一步，只是让听众或观众自己检查，因为我最近没有检查过，但如果你说套利是可能的，我的意思是，这甚至不一定是关于认识论的陈述，这只是奇怪的，为什么人们不，我的意思是，这可能是一个关于认识论的陈述，对吧？如果你说不，事实核查我自己，也事实核查，我希望这里的评论者，无论何时查看它，只需调出四个预测市场，截图并放在下面，让我们看看房子，或者这里一个更好的例子是，像 Nate Silver 的模型和 Poly Market 之间的差异，Poly Market 我认为对特朗普来说是一个更大的优势，目前是 78%，Poly Market 允许有更多的模型，Nate Silver 限制了他允许自己使用的模型，其他人则说，哦，我也想权衡这个潜在的模型，所以 Nate Silver 没有捕捉到你可能想在你的预测中权衡的每一个模型，这并不奇怪，但我的问题是，如果你愿意为了争论而承认它们不同，你怎么决定跟随哪一个？这就是我的问题，因为如果它们都说不同的事情，我认为这是我们分歧的核心，我认为如果你是正确的，那么我很乐意承担损失，如果你实际上是正确的，预测市场存在持续的分歧，那么这绝对是贝叶斯概率无意义的证据，然后反过来，我声称事实并非如此，你实际上有非常狭窄的价差，我认为这是贝叶斯有意义的证据，而且我还有进一步的证据，你有没有检查过它们的校准？哦，天哪，是的，好吧，是的，让我们深入研究 Manifold，Manifold 是我看到的那个，他们查看了过去大量的市场，这些是贝叶斯市场，他们没有做统计学，他们只是预测随机问题的未来不确定性，当市场在给定的随机抽样时间说，比如说，有 70% 的机会，市场将解决是，对，无论它预测什么，比如俄罗斯是否会入侵乌克兰，比如所有这些随机问题，如果市场在任何给定时间说 70%，他们想要回来，他们检查校准，而且我可以把图表放在节目笔记里，但它非常准确，例如，70% 的数据点是，它大约是 68%，这是跨越 Manifold 点的随机样本，EA 论坛上有一篇文章说，这只在 5 年以下的时间范围内才成立，甚至可能是一年，我认为你在谈论超级预测，所以我们可以用贝叶斯概率来预测所有事件，一年内，这似乎对贝叶斯来说是一个很大的胜利，不，整整一天，因为整个超级智能的事情不是一年内，让我们谈谈，沿着这条路走下去，让我们这样做，让我说几件事，让我先说几件事，那就是，如果你想谈论超级预测和菲利普·泰特洛克之类的事情，你必须读他书的附录，他说任何超过 10 年的预测都是愚蠢的，你不应该尝试，如果你这样做，你会让自己难堪，所以第一点，第二点是，在 EA 论坛上，一位非常同情贝叶斯主义的人分析了，我认为是 Manifold 的校准，当你查看这些分数时，你必须考虑它们距离未来有多远，所以是的，一年内做出成功的预测是完全可能的，但你预测的事情很重要，所以如果你要预测明年将与今年相似，这是一个默认预测，它将使你的校准非常高，但这也不是一个巨大的让步，你基本上是在说，作为一个，你知道，这些贝叶斯主义者认为他们可以抓住一些没有大量统计数据的东西，并给它一个量化的概率，就像预测市场给出的那样，是的，只要时间范围小于一年，他们就可以期望近乎完美的校准，是的，我也可以做到，我预测一年后，圣诞节，将会有大量的航班，这取决于你所做的预测，如果预测很简单，任何人都可以做到并获得出色的校准，你看看预测，它们很复杂，它们是像俄罗斯将入侵乌克兰这样的事情，这些是人们愿意下注的事情，他们相对于其他人拥有差异化的知识，这不是同一群人一直在下注，你们告诉我，你们基本上说，如果有一个市场说俄罗斯将入侵，比如说，2022 年 1 月，那么我们还有大约一个月的时间，或者，比如说，有一个市场说，嘿，俄罗斯将在季度末入侵乌克兰，因为我认为那不是，没有假设，就像现在没有一样，所以在这个场景中，超级预测者在俄罗斯入侵乌克兰之前给了 15% 的概率，他们给了科莫 3% 的概率，到 3 月份美国将有超过 10 万例，是的，请记住，我们在这里谈论校准，我不是说市场给了 99% 的机会，然后它发生了，我是说，如果他们给了 15% 的机会，那么它将属于那些说 15% 的市场类别，我说校准数据告诉我们，15% 的这些市场确实解决了，是的，市场通常校准良好，所以听起来你们可能承认，在一年以下的小时间范围内，存在一种校准良好的贝叶斯概率，我承认，如果你承认一年后的任何事情都完全没有价值，哦，我的意思是，我认为这个让步，你知道，在辩论的背景下，我确实觉得这个让步几乎承认了一切，等等，等等，好的，如果你愿意，就这么觉得吧，但它不是，我的意思是，有完全的区别，因为你的整个，你想要什么，是的，是的，因为它没有，顺便说一句，这是意料之外的，这不是你进来的时候说，好吧，你们贝叶斯主义者太傲慢了，因为你们有这个惊人的工具，叫做预测市场，你可以一年内精确地进行校准，但让我告诉你，一年后贝叶斯主义会多么糟糕，就像那是你的，不，你在说什么，你在说什么，这里是，让我们放大一点，一秒钟，就像，你首先，我感到困惑，是的，我只是对你提出的说法感到困惑，所以预测市场不是概率共识，所以，你看，所以你会有一个预测市场，例如，如果一半的人认为某事有 25% 的概率，一半的人认为有 75% 的概率，它就会收敛到 50%，不是像一群贝叶斯主义者在更新，你有共识的人都在更新他们的先验概率，所以我不必是贝叶斯主义者，是的，所以要成为贝叶斯主义者才能参与，我不是，而且顺便说一句，我不是将预测市场作为一个人运行索伦森归纳法的例子，我将预测市场作为拥有，你知道，所以卡普尔的整个事情，我知道你们不知道，但它与你的观点有关，就像你们基本上说，这些概率数字来自哪里？你不能做期望值，除非你做统计学，看起来你可以非常成功地进行贝叶斯概率和期望值计算，如果你只是参考已经选择的现象的输出数字，用于预测市场，我们知道预测市场是如何运作的，抱歉，它只是不同，所以你已经选择了那些选择在这些市场上下注的人，这些人认为他们比普通人拥有更好的信息，他们认为他们有优势，因此他们愿意下注，这意味着他们认为他们对你所下注的东西有一个很好的解释，好的，是的，我们同意这一点，好的，是的，我们已经进入了一个非常受限的群体，他们，你知道，他们因为某些原因在下注，而且，是的，如果你对某事有优势信息，这就是下注的全部意义，当你认为其他人错了的时候下注，你有一个解释，为什么他们错了，所以你把它押上去，然后市场是什么？它就像汇总了所有这些信息，人们认为其他人错了，所以他们押注在另一边，等等，我有点不明白这与每个人的胜利有什么关系，贝叶斯主义说了什么，我认为你提出的说法是，你应该时刻带着概率去看待你构思的每一个假设，并不断更新新的信息，我看不出这如何，你知道，人们在下注非常具体的问题，所以让我重申一下你可能，让我测试一下你的说法，好的，那么你会声称全人类作为一个团队，利用预测市场的这项技术，人类可以成为一个非常好的贝叶斯主义者，因为人类可以列出一堆假设，运行预测市场，然后将这些概率作为贝叶斯更新，不，不是，不是任何长期的事情，不是有意义的事情，有时未来会像过去一样，对于非常重要的事情，要精确，但这不是贝叶斯更新，而是为了下注，为了期望值，为了政策，而且，你知道，我刚才描述的我认为是罗宾·汉森的未来主义概念，你让预测市场告诉你不同的概率，不同的结果，然后你最大化期望值，你选择将最大化期望值的政策，根据你现在很清楚的概率，你有一个有趣的事情，好的，你的问题是，如果我们能让全人类预测事情，那么我们是否仍然需要等待时间过去，然后看看它是否正确，一个预测要么正确要么错误，如果预测超过一年或两年，那么所有的预测最终都会变成 50/50，因为我们对什么一无所知，我很高兴你承认了一年，所以让我们只谈论一年内的政策，这不是让步，因为我们知道它是如何运作的，所以有一些预测可以在一年内绝对做出，这取决于预测的内容，所以我支持一年时间范围，我不会，当然不是，未来主义听起来很疯狂，为什么我会支持它，它在哪里出错，因为，所以，我不是未来主义者，如果你刚才说的是，你根据整个地球对一年内会发生什么事情的概率做出决定，这就是我们正在做的，有点，未来主义的想法，我们将把它限制在一年的时间里，任何时候都有一个政策提案，它将在明年产生回报，比如说，你想确保今年 GDP 增长 2%，对吧？这和有不同的政策，比如减税会提高 GDP 吗？所有这些都告诉你，它没有告诉你将会发生什么，它告诉你人们认为将会发生什么，而人们认为将会发生的事情可能完全错误，只是，为了充实这个场景，因为，你知道，你基本上问我，所以未来主义将是，你知道，有两种不同的，我们应该减税，我们应该增税，我们应该降低利率，对吧？所以有几个政策提案，每个人都同意有一个经济增长目标，那就是你想要的政策结果，所以未来主义会说，太好了，运行所有不同提案的预测市场，在给定这个提案的情况下，你知道，你允许做条件预测市场，那么 GDP 的变化会是什么？这样选民就可以看到，好的，这个政策是 GDP 变化最大的政策，然后实施它，我认为你开始反驳说，你看，这不是预测，但请允许我提醒你，这些预测市场已经证明自己非常校准良好，这意味着你可以将它们用作预测，你的期望值公式将非常，你知道，产生，不是每个人都在投票，我猜对吧？你只是把它限制在那些喜欢在这些市场上下注的人身上，因为预测市场的全部意义在于，不是每个人都说，你实际上是在 Poly Market 上运行它，使用与 Poly Market 相同的规则，它基本上只是一个财务激励参与，如果你认为你知道什么，好的，所以你将把民主决策委托给一个喜欢在 Poly Market 上下注的专家阶层，我绝对不会支持这一点，我的意思是，比如说，如果我们保持相同的系统，但我们投票选出那些，你看，如果有一个奇怪的紧急情况，我不会做未来主义，但我明白我们都是聪明人，我们都明白未来主义的价值，所以我将建立这些预测市场，你们可以帮助我为我的政策提供建议，所以你想找到一个精英阶层的超级专家，他们将被纳入预测市场，你想摆脱所有傻瓜，因为那些，不，不，那是一个已解决的问题，无论当前的预测市场做什么，数据都表明它们产生了校准良好的预测，所以你只是，你只是放大了有效的东西，你谈论的是抽象的预测，我希望看到，如果你认真地将此作为政策提案来谈论，我想看到所有预测的集合，我想弄清楚，这些是，你知道，有点容易预测，还是，哇，这太令人印象深刻了，首先，我想看看正在进行的预测的类型，然后我想看看哪些是正确的，哪些是错误的，以及原因，但只是为了稍微放大一下，这非常类似于直接民主的问题，如果我的车坏了，我可以做两件事之一，我可以和几个知识渊博的机械师谈谈，问他们认为有什么问题，他们可以告诉我，我可以得到几个不同的意见，或者我可以平均人口的 3.3 亿人的意见，然后做平均意见，你说的是第二种情况，平均一群人的意见，比对即将发生的事情的领域知识更受青睐，我会在任何情况下都选择领域知识，有时这种领域知识会在人们的头脑中，尤其是在湾区的人们，他们非常在线，喜欢在各种不同的事情上下注，而且根据问题，这可能是也可能不是一个好的信息来源，但没有，你刚刚摧毁了整个卡普尔主义方法，因为有些预测可以在一年内完成，就像我们必须考虑正在发生的事情，而有些预测绝对可以在一年内完成，是的，所以，所以，假设你是总统，你竞选的平台是，我会关注预测市场，因为我是贝叶斯主义者，并且了解关注市场的重要性，然后，你正在考虑减税，一次慷慨的全面减税，预测市场说，GDP 增长将比实施减税措施时增加 1% 以上，市场说有 70% 的机会，现在你说，只是重复你刚才说的话，现在你说，好的，是的，总统可以听取那个预测市场，但他雇佣了劳伦斯·萨默斯，或者只是某个著名的经济学家，他告诉他，总统先生，我认为你的减税有 30% 的机会，他会给出一个解释，他会给出一个解释，为什么会这样，是的，所以你会说，因为有解释，而且因为这个人值得信赖，所以应该听他的，而不是预测市场，他们应该听解释，也许再找几个，看看哪个更有意义，也许让人们争论一下，而且，是的，如果有一个解释，说明为什么预测市场在这种情况下可能是准确的，比如说，你有很多专家经济学家在这个市场上押注，那么，是的，在某种意义上，市场反映了一些专家阶层的观点，我们有理由期望他们知道他们在说什么，那么，是的，我会考虑这些信息，我仍然对这里的贝叶斯方面感到困惑，所以有些问题我们想使用统计学，我们一直都这么说，而且统计学是有价值的，因为它有助于我们预测，尤其是在有大量数据的情况下，好的，所以市场，预测市场可以在某种意义上反映这一点，对我来说，贝叶斯图景出现在个人层面，在个人层面，我非常怀疑人们能够做出所谓的超级预测，我认为那里的文献被大大夸大了，有一篇很好的评论，我记不起他们的名字了，加文·利奇和米沙·亚戈丁，也许吧，他们是，我认为是太阳神教的理性主义者，非常同情超级预测项目，他们看了泰特洛克的文献，发现最初的说法，比专家评论员准确 30% 的说法被大大夸大了，首先，衡量这些人的标准不同，所以一旦你纠正了这一点，它更像是 10% 的差异，其次，这个 10% 的差异甚至没有达到统计学意义，是的，哦，好吧，我的意思是，我有数据来反驳这一点，我的意思是，我认为这绝对是关键，我的意思是，如果我错了关于这种数据，那么我绝对愿意降低我对贝叶斯有用性的评估，但我会指出的数据是，如果你看看 Manifold 市场，那个发布了极好校准数据的市场，Manifold 市场中没有一个用户具有这种持续的校准，这是市场的校准，这是好的，我认为我们正在取得进展，对吧？没有一个用户具有良好的校准，好的，这意味着，在做了一堆，如果他们被迫对所有事情进行投票，也许有一些用户在他们选择下注方面具有良好的校准，我可以补充一点吗？抱歉，关于个人的另一件事是，超级预测者实际获得的 Brier 分数，你知道，0.25 是完美的 50% Brier 分数，所以如果你只是对所有事情下注 50%，假设答案集中有相等数量的是和否，你将得到 0.25，超级预测者通常获得什么样的 Brier 分数，大约是 0.2，这相当于 60% 到 65% 的准确率，所以我们说的是超级预测者，他们，我猜，以此为生，他们下注，当他们最大化地激励追求真理时，他们可以获得大约 60% 到 65% 的准确率，如果你想称之为他们看到未来的洞察力，那好吧，我承认，但我并不认为 60% 到 65% 的准确率是概率化一切的巨大胜利，我基本上认为他们遇到了认识论的硬性限制，即看到未来的容易程度，如果你拥有非常好的领域知识，那么你就能击败抛硬币，字面上的随机猜测，以及该领域的专家知识，并且受到激励，以正确的方式关心结果，而不是像政治评论员那样，所以，这就是我所有怀疑的地方，让我告诉你我在这里声称的是什么，为什么，为什么我们甚至在谈论预测市场？让我告诉你我在这里声称的是什么，我，而且你把它带回，你看，个人人类，一个个人人类比预测市场弱得多，这就是你说的，好吧，但让我告诉你我为什么提出这个问题，是因为我一直在思考人工智能，以及人工智能将拥有的力量，如果它被正确编程，或者如果我们继续这种将正确代码放入人工智能的进展，什么才是可能的？一个单一的人工智能可以对抗全人类，是的，有很多不同的人在做很多不同的模型，但你也可以复制人工智能的代码，运行它的许多实例，并让它们相互连接，在我的脑海里，这实际上是一个人工智能对抗全人类的问题，所以对我来说，当我看到预测市场跨越全人类的专家聚合时，就像预测市场知道如何聚合信息一样，我将其视为一个下限，一个正确编程的人工智能可以在其自身的大脑中做到什么，并得出自己的贝叶斯概率，所以当我设想人工智能在世界上的运作方式时，我设想它为事物分配概率，使这些概率校准良好，使用期望值公式，然后进行非常校准良好的投注，我能问一个问题吗？我能问一个快速的问题吗？预测市场对超级智能的可能性有什么看法？目前，我认为 AGI 大约在 2032 年到来，我认为这是 metaculus 上我最后一次检查的概率，所以这是你描述的场景的概率，即超级预测者和这些市场，他们分配了什么概率？确切的问题是什么？对于，你非常担心的那个末日灾难，那个奥尔给了 10% 的概率，我不知道我会去哪个预测市场检查那个，因为原因是，预测市场是一种强大的方法论，但它们确实存在交易对手风险和平台风险的问题，所以如果你说，嘿，一切基本上归零的可能性有多大，人类价值将归零，如果我认为它是 90% 的可能性，我怎么能收集到呢？我今天只是在赔钱，因为我无法收集的东西，所以你会遵循他们的预测，直到你有一个理由认为他们错了，然后你会忽略它们，好吧，这是一个系统性的失败，就像说，如果有人黑了他们的服务器，预测市场还会工作吗？等等，等等，不，不，现在肯定有一些预测市场说了一些灾难性的学生场景，我认为斯科特·亚历山大写过博客，而且它非常非常低，我可以找到这个故事，我认为大约是 3.5%，本，如果你还记得，市场是通过财务激励参与者来聚合信息的方式，没有财务激励来预测末日，那么为什么我们可以对你的末日预测或任何其他预测有信心呢？就像，为什么我们应该关心？预测只是从应用程序中出来的，是的，是的，我，我实际上只是在使用贝叶斯认识论，所以我们现在一直在谈论的一切，我没有说我们是末日，因为预测市场，我们做，我说，不，我有一个强大的认识论，它叫做贝叶斯认识论，它叫做索伦森归纳法的近似值，你可以看到这个认识论有多强大，当你去看看预测市场，比如 Manifold 的校准时，它们没有使用统计学来获得出色的估计，这有助于你看到我的认识论很强大，现在，作为一个具有强大认识论的推理者，让我告诉你我是如何得到高概率的，这将是我的论证的形状，好的，我只是，好的，非常快，你关于下注这些特定问题的答案没有意义，因为如果它们真的发生了，我们都会死，所以那些问题就不会出现在这些市场上，人们不会在上面下注，它们只是不在那里，我认为人们正在提出这个问题，为了，我认为那不是真的，但我唯一好奇的是，他们给出的某个数字，你有一些理由忽略，因为你的数字高得多，以及为什么你，在所有情况下都支持预测市场，除了当它与你意见不合时，那时你就不再支持它们了，好的，那么我为什么信任预测市场，除了它们的往绩记录之外？因为这听起来你是在模拟我，就像，你看，如果你喜欢预测市场的往绩记录，为什么你不只是推断出，无论预测是什么，你应该期望它被校准，但是的，我确实接受了一个结构性事实，我知道预测市场，我把它考虑在内，比如说，如果我知道比尔·盖茨将花费他所有的钱来操纵一个预测市场，那么，有一些事实可以告诉我，在某些时期，或者一些内部知识，你可以说这些预测市场是错误的，所以你大概是利用了这一点，并赚了一些钱，我的观点只是预测，它不是，你不能如此天真地说，好的，无论预测市场说什么，你都必须尝试，有一些界限，而且我没有，这不是一个临时限制，整个预测市场在某些赌注下关闭的想法，我的意思是，它被称为平台风险，这是交易中已知的，你基本上只是，你只是在对我进行一次标准的交易行为进行指责，你看看平台风险，不，不，你，你，你说你有内部知识，为了，你有理由和理由假设，分配给这些特定问题的概率是错误的，而你应该在世界末日来临时赚很多钱，我明白了，当世界末日来临时，我们将只在世界末日期间支付，假设是，你赚钱，因为当世界末日发生时，你会得到报酬，这是一个矛盾的模型，这几乎就像下注，你知道，一个阿莱尔·帕克斯，有一个预测市场，你能在这里做世界末日赌注吗？你能做世界末日赌注吗？就像奥尔沃斯基·汉森风格，那个人，但，是的，所以，所以，有一个我能做的赌注，但我不能在 Poly Market 或 Manifold 上做，但我可以非正式地做，我可以和你们一起做，
你们想要的是，如果你们今天给我一千美元，这样我还能在世界还存在的时候拥有它，我可以在二十年后做一些事情，而二十年后，我认为世界有百分之五十的可能性会结束。然后我可以还给你们两倍的钱，外加百分之五的利息，或者别的什么，对吧？就像你们在这二十年里会获得一个非常有吸引力的回报，如果我现在能使用你们的钱的话，因为我认为我对你们今天的钱确实给予了显著更高的价值。就是这样。所以，是的，我只想对听众说，我可能在预测市场如何运作的内部机制上弄错了。我以为你可以在它解决之前就获得报酬，但也许那只是不行。你确实可以获得报酬，你可以买入，如果你找到了其他人，比如说，末日的概率不断增加，你就可以把你的合同卖给别人，然后你可以提前套现。但问题是，即使他们认为末日的可能性更高，为什么有人会出比你更高的价钱呢？因为他们很愚蠢，因为他们应该知道，除非他们找到另一个傻瓜，否则他们不会得到报酬。它本质上就变成了一个庞氏骗局。我同意预测市场可以不，那有点太便宜了。是的，你们在这里听到了，伙计们，末日论者正在对每个人进行庞氏骗局。我没说，但是，嗯，是的，我认为我们应该从这里转移话题，因为我只是不理解这个机制，所以，嗯，嗯，我无法评判，我会相信你的话，但似乎你拥有应该以某种方式利用的内部知识。如果你是对的，应该有办法赚一大笔钱。你把内部知识和平台风险混淆了，对吧？这是两个不同的领域。是的，不，完全正确。我完全承认我遗漏了一些细节。我希望下面的评论者能为我们清理一下。是的，好的，好的，好的，酷。所以，嗯，是的，所以我想我们快要结束了。所以，嗯，是的，让我向你们开放，如果你们想提出几个话题，以确保我们在结束之前讨论到，我可以写下来，然后我们可以计划接下来的谈话。嗯，我们已经花了三个小时讨论基于认识论，我认为这是一个很好的暂停点，然后让我们再花三个小时讨论超级智能。这次谈话非常愉快。我们还没有谈论超级智能。而且，就像，这就是为什么当我们最初谈论这个的时候，我说，让我们延长一下时间，因为我们甚至无法完成第一组问题。好了，各位，我们已经谈了很多了，我和本和 B 私下聊过，我们都同意还有很多更有趣的事情可以谈，所以我们将进行第二部分。它也会相当长。看看这些即将到来的预告片，我们将讨论本的博客文章，题为“你需要一个理论来解释那个理论”。哦，我们还将讨论“帕斯卡尔的抢劫”。我们将讨论“休谟的归纳悖论”。我们将讨论“效用最大化作为人工智能的吸引力状态”。然后我们将有一个关于大卫·杜的整个部分，讨论他关于人工智能创造新知识的说法，以及一个我根据大卫·杜的论点发明的特定捕获。我们将讨论什么是创造力，我们如何知道人工智能何时真正具有创造力。我们将讨论智能，什么是智能，我们能谈论通用智能吗？人类与其他所有生命形式的区别是什么？人类之上还有多少提升空间？通用人工智能最终可能实现吗？未来一百年呢？超级智能相对于人类智能有多强大？是否存在数千个智商点？当前人工智能缺乏的基本能力是什么？然后还有人工智能末日的话题。我们将讨论能动性、正交性假说、智能收敛、人工智能对齐，甚至可能剖析埃隆·马斯克关于人工智能的一些说法。所有这些听起来我们可能需要十集，但我想我们将在第二部分讨论其中大部分。那么，我们来轮流总结一下，我们现在处于什么位置？我们从对方那里学到了什么？我们对任何事情改变了主意吗？从本开始。好的，是的，我有点担心我们冗长地绕着分歧打转，而没有精确地触及波普尔主义和贝叶斯主义之间的关键差异。但希望我只是有点消极，而差异确实显现出来了。我认为公平地说，波普尔主义面临的最大挑战是投注。如果人们的表现明显优于随机水平，那到底是怎么回事？如果概率是唯一能做到这一点的方式，那么大概这在认识论上就证明了某种形式的概率。我仍然怀疑这是真的，因为在个人层面，我还没有看到像我所说的超级预测者比百分之六十到六十五的准确率好多少，我认为这可以通过激励真相和限制投注来解释。思考那些你拥有非常好的主要专业知识的问题。但这绝对会是，我认为这是一个很好的关键点，也许如果我看到，实际上本和我讨论过，这听起来很熟悉，因为我嘴里说出来，如果，如果我们开始看到超级预测者的准确率随着时间的推移不断提高，并开始达到百分之七十、百分之七十五、百分之八十、百分之八十五，那么我完全会，那将开始接近证伪我的说法。如果人们变得越来越全知，越来越聪明，越来越擅长预测，我为什么需要一个个人？我能在这里澄清一下吗？所以，当你说他们必须获得越来越多的准确性时，他们是否必须具体给出百分之九十九的概率吗？因为通常我们看校准，对吧？他们会说百分之六十的机会，然后它发生了百分之六十的时间。所以你也在谈论校准准确性吗？所以校准是一个指标，但准确性是另一个完全有效的指标。当你谈论准确性时，你是指信心，比如高概率吗？所以任何听这个的机器学习人员都会知道我在说什么。你可以看信心，也可以只是有一堆问题，或者没有，它们发生了。然后你可以计算成功预测的数量。是的，就像，如果我看到布莱尔得分输出一堆概率。好的，所以布莱尔得分确实取决于，拥有良好的布莱尔得分的唯一方法就是经常给出高概率作为你的答案，对吧？你不能只是放弃说，“哦，百分之五十一”，但这是认识论上相关的事情，对吧？如果你真的使用概率来推理世界并更新你的概率，以至于能够真正预测未来，那么是的，你将以高度的信心预测未来，这就是说法，对吧？我关于零点二五评论的重点是，你可以很容易地获得一个低分，所谓的“先验分数”，只需预测百分之五十，所以这没什么意思，对吧？你想开始推动，但宇宙是混乱的，对吧？如果我给你，嘿，这是你的测试，它有 100 个三体问题，比如，非常混乱的东西，那么你就会不及格，即使你是一个真正的人。换句话说，宇宙根本上存在认识论的限制，关于我们能知道多少。你说你永远不会被说服。你是在说概率，你是在给我一个错误的测试。不，不，我说的不是概率不是推理未来的最佳工具，恰恰是因为未来是混乱和不可预测的。我们能做的最好的事情就是争论细节，而不是把随机的概率放在事物上，根据你自己的说法，这听起来就像你刚刚承认的，是固有的不可知的。所以，当奥尔说，比如，在未来一百年里，某种疯狂事件发生的可能性为六分之一时，是的，我想诉诸你所说的宇宙的混乱本质，说这是一个完全不合理的举动。而且，开始将这与小行星碰撞的概率进行比较，这是双重不合理的。但如果，如果每个人，如果当前对明年小行星撞击的普遍预测，比如说，而且出于某种原因，那不是一个世界末日事件，所以像一次小规模的小行星撞击，一个非世界末日的小行星撞击，在接下来的十一个月里发生。如果预测市场说六分之一，你不会认为六分之一是一个值得信赖的概率。在这种情况下，我们需要看看预测市场，就像，我们有一个理论，这个小行星正在撞向地球，我们会和天文学家谈谈，这不是地方。但就该理论的有效性而言，难道预测市场不会正是因为我们有一个好的理论吗？但这正是我们之间的整个分歧。我们说，是的，当然，预测市场有时很有用，但它们大多数时候都很有用，尤其是在遥远的未来，因为有些事情是固有的不可知的。在那些领域，概率是一个完全无意义的数学化，用来量化无知。贝叶斯立场，也许你不是想争论这个，我会很惊讶，但贝叶斯立场是，你应该总是对你的不确定性给出数字，无论是近期的还是远期的事件。我们只是想说，这些不一样。当你预测未来五年、十年、十五年的事情，就像预测明天的选举一样。我能，你开始给我们一个很好的测试，什么会让你改变主意，但然后测试被证明是，有点不可能，对吧？测试就像，你需要从预测市场看到什么才能改变你的主意？是的，准确性绝对证明了事情会随着时间的推移而变得更好，但我们可以问，为什么你的标准不是校准？为什么你的标准是准确性？因为准确性是不可能的。如果我们提出那些很难有超过百分之五十一的信心的问题，那么你肯定永远不会获得高准确性。所以，你知道，你给出了一个不可能的原因，你是在乞求问题。很难获得高百分之五十的信心是有原因的。好的，但你必须承认，这已经是一个很好的测试了，如果你只是说这是逻辑上不可能的。好的，不，让我重新表述一下。所以，如果这是一个非常有趣的结束回合，显然表明我们还有很多关于这个话题要讨论，这很好，这很好，但让我们试着结束，然后我们给观众留下一个暗示，我们显然还有很多要讨论。但，好的，让我们就用校准吧，好吧，假设它随着时间的推移变得越来越，越来越，越来越校准，而且对于越来越多的事件，就像我们对一切都说，是的，对于越来越多的事件。当然，除非你想处理只是校准是百分之五十的无聊情况。如果你变得越来越校准，那么这应该也会提高你的准确性，对吧？它们不会完全相同，但你应该获得更好的准确性，因为为什么不说标准，就说，“嘿，我将只过滤预测市场中那些概率大于百分之七十或小于百分之三十的数据点。我只使用那些数据点，然后我将测量它的校准。如果它保持很高，那么我将继续对贝叶斯认识论有很多贡献感到印象深刻，因为我们不印象深刻，我们也不会继续印象深刻。我们正在谈论会证伪我们的观点并迫使我们印象深刻的事情，因为我们自己的标准与你不同，我们只是想说，就像，如果准确性开始上升，我会非常印象深刻，因为校准开始下降。而且它不必是完美的准确性，就像表明随着时间的推移，人们获得了更多的知识，然后他们可以更好地预测。而且有一个可证伪的测试，你不需要，因为你已经确信了。但问题是，什么会改变我们的想法？而且，让我承认，实际上本刚才说的一些话，就像，如果你只是做了越来越多的事件，就像，如果你对所有事情都有预测市场，我们正在预测，你知道，从天气到，你知道，谁会在考试中获得 A，到，你知道，就像，如果我们预测一切，并且有校准，我们有完美的校准，所有这些市场都完美校准，那将是惊人的。我声称这是不可能的，尤其是随着这些事件的保真度变得越来越精确，越来越小。我不知道我想要什么词，但，总之，我认为那不是一个非常有条理的结束陈述，但你明白我想说什么，就像，我们使用预测市场来预测一切，而且它们总是完美校准的。让我印象深刻，我一定会重新组织我的想法。我仍然对贝叶斯主义在你心中的关系感到有些困惑，这对我来说是个人化的，而预测市场，但我认为我们现在无法解决这个问题，所以也许我们下次再讨论。我们应该为下次保留。是的，是的，太棒了。好的，那么，我同意本所说的一切。我唯一想说的是，对于那些现在不知所措的听众来说，因为有很多各种各样的事情，就像，我学习波普尔主义和贝叶斯主义之间差异的方式是，你还记得，就像，在小学的时候，你把一片叶子放在一张白纸下面，然后你用炭笔，你不断地涂抹，然后随着时间的推移，下面的图像开始变得越来越清晰，但任何一个特定的涂抹都不会完全给你分辨率。这就是我关于这两种方法差异的比喻。因为任何一次谈话都会很有趣，但它不会完全解释，砰，这就是区别。这更多的是听一系列与不同人进行的谈话，听我们的播客，也听其他播客，然后看到区别，看到区别。我只说这一点，不是为了自我推销，也是因为这里有很多东西被直接比较，但随着时间的推移，你会开始看到不同的方法论差异，不同的强调，不同的认知工具来解决问题。显然，我们在很多客观的事情上意见不合，但根本的区别在于我们如何看待世界。而这不会在任何一次谈话中得到清晰的体现，这是一个会随着时间逐渐变得越来越清晰的事情，就像叶子和炭笔一样。所以，只是为了那些觉得“哇，有很多事情，我仍然不完全理解这里的区别”的听众，你不必如此。在一场谈话中是不可能理解的，但随着时间的推移，你会开始看到方法和方法论上的差异，这就是我想说的。太棒了，是的，谢谢你们的总结，伙计们，你们真是太棒的辩论对手了，你知道，作为同行播客主持人，你们都是老手了，而且表现出来了。我认为这是一次非常有趣的谈话。我认为，我们没有丝毫保留，我们都非常投入，我，你知道，我认为我们都喜欢它。嗯，是的，你知道，一切都很好，我是说，就像，我，你知道，没有恶意，对吧？只是因为我们不同意。这太有趣了。好吧，对于听众来说，每次我们下播，每次像下播或剪辑一样，都有很棒的氛围。我们就是这样。是的，这不像部落主义之类的。而且，我也会快速尝试一下跨信仰的，我可能不会成功，但我会尝试做一个兼容主义的解决方案。如果我们说，诱导就像一个很好的理论理想，就像，你知道，下棋的人搜索每一个步骤是一个很好的理想，但作为人类，当你占用一个人类大脑，你只能完全受限，你甚至无法接近近似诱导。如果你遵循波普尔的建议，那么根据你自己的标准，试图近似诱导，那么你就会做得很好。怎么样？不，波普尔主义是野蛮主义，它诞生于反对所有诱导的斗争，而诱导就是其中之一。所以，如果你想理解波普尔主义，读他任何一本书，除了可能“生命就是解决问题”之外，他所有的书都攻击了诱导，而诱导是一个比诱导更深的概念。所以，一旦你消灭了诱导，你就消灭了任何诱导的推导或衍生物。因此，出于这个原因，我们将让听众处于一个悬念中。好的，与泰勒·萨默斯一起，来自“非常糟糕的巫师”，我们谈了两个小时，我最后一次努力试图达成停火已经失败了。所以，我们将不得不继续第二部分。是的，诱导说诱导就像，你敢，是的，诱导是一个加密的 Y。好的，太棒了。所以，是的，听众们，请继续关注，希望在接下来的几周里，第二部分即将到来。是的，请继续关注，我们这里还有其他很棒的辩论。非常感谢，伙计，这太棒了。