Transcription
以下是与埃里克·温斯坦的对话。他是一位数学家、经济学家、物理学家，也是 Thiel Capital 的董事总经理。他创造了“知识分子黑暗网络”这个词，可以说，他是这个松散集结的公共知识分子群体的创始人，该群体包括萨姆·哈里斯、乔丹·彼得森、史蒂文·平克、乔·罗根、迈克尔·谢默以及其他几个人。这次对话是麻省理工学院和“超越”人工智能播客的一部分。如果您喜欢，请在 YouTube、iTunes 上订阅，或者在 Twitter @lexfridman 上与我联系，拼写为 F-R-I-D。现在，这是我和埃里克·温斯坦的对话。
——你对此感到紧张吗？
——吓得屁滚尿尿。
——好的，（说外语）。
——你提到《功夫熊猫》是你最喜欢的电影之一。它有通常的深刻的师徒关系，那么，谁是一位对你的思维方向和人生工作产生了重大影响的老师？所以，如果你是功夫熊猫，谁是你的师傅？
——哦，那很有趣，因为我没把师傅看作是老师。
——谁是老师？
——乌龟大师，乌龟大师。
——哦，乌龟，对。
——他们在整部电影中只见面两次，第一次对话基本上不算数。所以，电影的魔力，事实上，它的重点是真正重要的教学是在一次对话中传递的，而且非常简短。那么，谁在我生活中扮演了那个角色？我想是我的祖父哈里·鲁宾和他的妻子索菲·鲁宾，我的祖母，或者汤姆·莱尔。
——汤姆·莱尔？
——是的。
——以何种方式？
——如果你给一个孩子播放汤姆·莱尔的唱片，你所做的是摧毁他们被后来的恶意软件控制的能力，它是如此不敬，如此机智，如此聪明，如此淫秽，以至于它摧毁了许多人过正常生活的能力。所以，如果我遇到一个通常真的偏离了任何典型神经表现的人，我经常会问他们，你是一个汤姆·莱尔的粉丝吗？他们回应的可能性非常高。
——现在汤姆·莱尔是“公园里毒死鸽子”的汤姆·莱尔？
——那非常有趣。有少数汤姆·莱尔的歌曲进入了大众。公园里毒死鸽子，元素之歌，也许还有梵蒂冈进行曲。所以，当你遇到一个知道这些歌，但不知道——
——哦，你现在在评判我，不是吗？
——严厉地。
——好的。
——不，但你是俄罗斯人，所以。
——是的。
——毫无疑问，你知道尼古拉·伊万诺维奇·洛巴切夫斯基。那首歌。
——是的，是的，嗯。
——所以，那是一首关于抄袭的歌，事实上，它被抄袭了，大多数人不知道，来自丹尼·凯。丹尼·凯唱了一首关于“穆斯基艺术”的斯坦尼斯拉夫斯基的歌。所以，汤姆·莱尔巧妙地抄袭了一首歌，并将其变成关于抄袭，然后变成关于这位研究非欧几里得几何的数学家。这就像给孩子注射海洛因。它极具成瘾性，最终把我引向了许多不同的地方。其中一个可能是数学博士学位。
——而且他至少是哈佛大学的数学讲师，我记得是这样吗？
——是的，事实上，我刚和他共进晚餐。我儿子十三岁生日时，我们没告诉他，但他的成人礼礼物是和他崇拜的偶像汤姆·莱尔共进晚餐，汤姆·莱尔八十八岁，思维敏捷，不敬，而且非常有趣，而且，你知道，世界上很少有人在你还在世时必须见到他们，而这绝对是我们家的一次。
——所以那种机智在某种深层意义上是智力的反映。就像那将是衡量智力是否是汤姆·莱尔粉丝的好方法。那么，你认为机智是怎么回事？关于那种幽默，看到存在荒谬的能力？你认为这与智力有关，还是我们只是两个喜欢那种幽默的犹太人在麦克风前？
——不，我认为这绝对与智力有关。你可以看到，汤姆·莱尔决定要嘲讽吉尔伯特和萨利文的吉尔伯特，他要用聪明、无意义的文字游戏超越吉尔伯特，他有，我忘了，嗯，让我们看看。他把克莱门汀写得好像吉尔伯特和萨利文写的，他说我错过了她，她让她年轻的妹妹埃丝特很沮丧。这个误解让她试图。纠缠不休的妹妹是溃烂的脓疮，最好是抵抗她，我说！妹妹坚持，误解者抵抗，我吻了她，所有的忠诚都滑落了。当她说我可以拥有她时，她妹妹的尸体一定在坟墓里转过身了。这太密集了。太疯狂了。
——是的。
——这显然是智力，因为很难构建这样的东西。如果我看看我最喜欢的汤姆·莱尔的歌词，你知道，有一句完全荒谬的歌词是，“曾经所有的德国人都好战而卑鄙，但那再也不会发生了。我们在 1918 年教了他们一课，从那以后他们几乎没有打扰过我们。”
——对。
——这是另一种智力。你知道，你正在处理一些非常可怕的事情，你正在让它变得可以接受和有趣，同时也展示了你的人性。我的意思是，我认为汤姆·莱尔写了所有这些可怕的、糟糕的歌词，但从中流露出来的只是他多么敏感和美好的灵魂，他通过幽默和优雅来传递痛苦。
——我在欧洲各地，在俄罗斯各地都看到了，二战一代也出现了同样的幽默。似乎那种幽默是为了某种程度地处理那场战争造成的痛苦和折磨。
——嗯，你需要环境来创造广阔的斯拉夫灵魂。我不认为很多美国人真正欣赏俄罗斯的幽默，在斯大林时期，比如第 58 条时期，你不得不多么小心地开玩笑。你知道，俄罗斯讽刺杂志的概念，比如《鳄鱼》，是没有意义的。所以你有一个跨文化的问题，有些人类经验的领域最好一无所知，不幸的是，东欧对它们了解很多，这使得弗拉基米尔·沃耶沃茨基的歌曲如此有力。你知道，普希金的散文，无论是什么。你必须欣赏东欧经验的深度，我想也许美国人在内战时期，或者在奴隶制和吉姆·克劳时期，甚至在劳工战争期间煤炭和钢铁雇主的严酷暴政时期，也知道一些类似的东西。但总的来说，我认为，除非我们有选择性压力系统，例如俄罗斯人所遭受的，否则我们很难理解和想象集体文化。
——是的，所以如果战争带来一件好事，那就是文学、艺术、幽默和音乐。
——哦，我不这么认为。我认为战争几乎所有方面都是好的，除了死亡和毁灭。
——对。没有死亡，它会带来浪漫，整个事情都很美好，但是——
——嗯，这就是为什么我们总是陷入战争。我们对它有一种非常模糊的关系，那就是它让生活变得真实、紧迫和有意义，但代价是不可接受的，而且代价从未如此之高。
——所以，稍微谈谈人工智能，在你的一次谈话或一个视频中，你描述了人工智能系统无法做到的事情，而生物系统可以做到，那就是在物理世界中自我复制。
——[埃里克] 哦，不，不。
——在物理世界中。
——嗯，是的。物理机器人无法自我复制，但有一个非常棘手的点，那就是我们唯一能够创造的真正复杂的东西，它具有我们生殖系统的类似物，那就是软件。
——但是，尽管如此，软件会自我复制，如果我们严格地说复制是在这种数字空间中。那么，让我先问一个问题。你是否看到了物理世界和数字世界之间的保护屏障或差距？
——我们不要称之为数字。我们称之为逻辑世界与物理世界。
——为什么是逻辑？
——嗯，因为即使我们有了，比如说爱因斯坦的大脑被保存下来，它作为一个物理对象对我们来说毫无意义，因为我们在逻辑层面无法处理它存储的东西。所以，一个东西可能在逻辑上存储，并且它可能在物理上存储，这两者并不一定，我们并不总是从同义化中受益。我并不是说逻辑世界没有物质基础，而是它确实需要与一个不需要调用逻辑门和零和一的独立层进行识别。
——而且，连接这两个世界，逻辑世界和物理世界，或者也许只是连接我们大脑中的逻辑世界，爱因斯坦的大脑，你提到了“外智力”这个概念。
——[埃里克] 人工外智力。
——人工外智力。
——是的，这是约翰·布罗克曼唯一邀请我写但拒绝在 Edge 上发表的文章。（莱克斯咯咯笑）
——为什么？
——嗯，也许它写得不好，但我不知道。
——这个想法很有说服力。至少从我的角度来看，它非常独特和新颖。也许你可以解释一下？
——当然。我当时在想，为什么我们要等待被通用人工智能吓倒？事实上，人工生命本身就令人恐惧，而且它已经存在了。所以，为了有一个选择性压力系统，你需要三个独立的要素。你需要种群内的变异，你需要遗传性，以及你需要差异化成功。所以，真正独特的是，我在这里，我想在别处，关于软件，如果你想想人类知道如何建造令人印象深刻的东西。所以，我总是拿一辆汽车来说，我问它是否有我们生理系统的类似物？它有骨骼结构，那就是它的车架。它有神经结构，它有一个车载计算机。它有消化系统。它唯一没有的是生殖系统。但如果你能把繁殖看作一个过程，那么你确实有一个生殖系统。这意味着你可以创造出具有变异性、遗传性和差异化成功的东西。现在，思维链的下一步是，我们在哪里看到无生命的非智能生命在智胜智能生命？我有两个最喜欢的系统，我尽量坚持它们，以免分心。其中之一是 Ophrys 兰花亚种或亚类，我不知道该怎么称呼它。
——那是某种花吗？
——是的，它是一种花，它模仿授粉昆虫的雌性，以欺骗雄性进行所谓的假交配，通常由下方的花瓣代表，还有一个信息素成分来愚弄雄性，让它们认为有机会交配。但花朵不必以花蜜的形式付出能量作为诱饵，因为它在欺骗雄性。另一个系统是密苏里州清澈溪流中的一种特定的贻贝，Lampsilis，它欺骗鲈鱼咬住一个肉质的唇，里面装着它的幼体，当鲈鱼看到这个肉质的唇，它看起来就像鲈鱼喜欢吃的鱼的种类一样，幼体就会爆炸并附着在鱼鳃上，寄生在鲈鱼身上，并利用鲈鱼来重新分配它们，当它们最终释放时。在这两个系统中，你都有一个高度聪明的受骗者，被一种低等生命形式欺骗。是什么塑造了这些令人信服的诱饵？是之前被这些策略欺骗的目标物种的智力。所以，当目标足够聪明以避免该策略时，那些较弱的模仿者就会消失，它们有终结线，只有更好的才能生存。所以，这是一场目标物种被寄生，变得更聪明，而这个不太聪明或不聪明的物体变得好像更聪明之间的军备竞赛。所以，你看到的是，不需要通用人工智能来寄生我们。仅仅足够让我们自己欺骗自己就够了，所以你可以有一个程序，比如说，那些尼日利亚骗局之一，它写信并利用发送它比特币的人来弄清楚程序的哪些方面应该保留，哪些应该改变并丢弃，而且你不必让它在任何方面都很聪明，就能被一个不知道自己在做什么的东西寄生，从而陷入一场真正的噩梦。
——你表达了一些概念非常精辟，所以让我尝试一下，这有几个方向。首先，在我们今天编写软件的方式中，允许它自我修改并不常见。
——但我们现在有这个能力。
——我们有这个能力。
——只是不常见。
——所以你的想法是，如果出现——
——但自我修改代码现在可用。
——所以有不同类型的自我修改，对吧？有个人化，你知道你的电子邮件应用程序，你的 Gmail 在你登录后会为你进行自我修改，或者无论如何，你可以这样想。但最终它是中心化的，所有信息都是中心化的，但你想到的是一个独特的实体在选择性压力下运作，并且它会改变——
——嗯，你只是，如果你考虑到我们的免疫系统不知道接下来会发生什么，但它们有一套小的跨度组件，如果它是一个足够有表现力的系统，任何形状或结合区域都可以用现有的乐高积木来近似，那么你就可以确信你不需要知道接下来会发生什么，因为组合学足以达到任何所需的配置。
——所以这是一个美丽但可怕的担忧，因为它就在我们触手可及的地方。
——每当我提出这些事情时，我总是担心我是否会通过谈论它们来实现它们。
——所以，下周 OpenAI 有一个关于与 OpenAI 创始人交谈的事情，关于他们的文本生成，他们新的文本生成的东西，他们不想发布它，因为他们是关于——
——我很高兴听到这个，但他们最终会发布的。
——是的，这就是我想说的，至少从我这边来说，我更倾向于技术预防，即进一步的创新来防止创新的有害影响。
——嗯，我们正在以加速的速度从山上滚落。所以，无论我们是支持者还是——
——这可能无关紧要。
——可能无关紧要。
——但我。
——嗯，可能不会。
——嗯，我确实觉得有些人一直在阻碍事情，你知道，比他们可能拥有的更贫穷地死去。我们甚至不知道他们的名字。我认为我们不应该低估这样一个想法，即最聪明的人通过他们开发的东西来炫耀他们的聪明才智可能是一个终结性的过程。我特别注意到爱德华·泰勒写给利奥·西拉德的一封美丽的信，西拉德当时正在试图弄清楚如何在第二次世界大战结束时控制原子武器的使用，而泰勒却奇怪地，因为我们许多人认为他是一个怪物，表现出了一些非常先进的道德思考，谈论我们生存的渺茫机会，唯一的希望就是让战争变得不可思议。我认为我们中很少有人能真正感受到，当我们处理技术问题时，我们正在玩弄什么。我建议任何没看过的人都去看一部名为《桂河大桥》的电影，关于我所认为的被俘的英国战俘，他们仅仅出于做好桥梁的愿望，就与他们的日本俘虏过度合作。
——嗯，现在你让我质疑对人工智能中思想的无限制公开讨论。
——我不是说我知道答案，我只是说我可以为我们需要谈论这个问题并专注于技术上控制它，或者需要停止谈论这个问题并希望那些研究这些问题的人相对较少且非常熟练，以至于我们应该谈论如何控制它，提出一个不错的论点。
——嗯，思想的产生方式，创新的发生方式，新思想是如何发展的，牛顿的微积分。如果他保持沉默，这个想法会在别处出现吗？嗯，就牛顿而言，当然，但在人工智能的情况下，产生这种想法的个人群体有多小？这是个问题——
——嗯，我们知道的研究人员的想法，以及我们不知道的研究人员的想法。他们可能生活在不希望我们知道他们目前水平的国家，并且非常自律地保守这些秘密。当然，我要指出，在喀拉拉邦有一个宗教学校，它开发了一种非常接近微积分的东西，当然就无限级数而言，我猜是在宗教祈祷和韵律和散文中。所以，你知道，不是牛顿有能力阻止它，我也不相信我们有能力阻止它。我认为我们可以改变我们花费时间担心成功的影响的比例，而不是仅仅试图成功并希望我们以后能够控制事情。
——说得好。那么，关于“外智力”这个想法，以一种谨慎的方式——我们已经同意了，因为我们正在从山上滚落——它会采取什么形式？
——我们停不下来，对吧？
——我们不能。它会采取什么形式？例如，Facebook、Google，他们想，我不知道更好的词，你想影响用户以某种方式行事。所以，这是“外智力”的一个例子，系统可能在修改这些聪明人类的行为，以便销售更多不同种类的产品。但你看到其他这样的例子出现吗？
——随便拿一个寄生系统，你知道吗？确保有一些方法可以实现差异化成功、遗传性和变异性，这些是神奇的配料。如果你真的想建造一个噩梦机器，确保表达变异性的系统有一个跨度集，这样它就可以通过使其足够有表现力来学习任意的水平。那就是你的噩梦。
——所以，这是你的噩梦，但它也可能是一个创造强大系统的强大机制。那么，你更担心它可能走向的负面方向，还是正面方向？所以，你说寄生，但这不一定意味着系统会收敛到那里。它可以是，它是什么，共生——
——嗯，寄生，寄生和共生之间的界限并不那么清楚。
——[莱克斯] 他们就是这么跟我说的婚姻。我还是单身，所以我不知道。
——嗯，是的，我知道。我们也可以深入探讨这一点，但是嗯。（莱克斯笑）不，我认为我们必须欣赏，你知道，你是否被你自己的线粒体感染了？
——对。是的。
——对，所以在婚姻中你害怕失去独立，但尽管美国治疗界可能非常关注共依赖，但谁能说共依赖不是维持一个稳定的关系以抚养孩子所必需的呢？这些孩子是最大程度的 K 型选择，需要大量的照顾，因为在有任何生殖回报之前你必须等待 13 年，而且我们大多数人都不希望我们 13 岁的孩子有孩子。这是一个非常棘手的情况。我会说捕食者和寄生虫驱动着我们的大部分进化，我不知道是该因为它们而生气还是感谢它们。
——嗯，最终，我的意思是，没有人知道生命的意义，甚至幸福是什么，但有一些衡量标准——
——哦，他们没告诉你？
——他们没有，他们没有。这就是为什么所有的诗歌和书籍都被购买。你知道，有一些衡量标准可以让你衡量这些人工智能系统在外面游荡有多好。那么，你对软件比对自我复制的盗窃想法更担心吗？
——我认为我们还没有真正感受到我们身在何处。你知道，偶尔我们会醒来。 9/11 事件与我们在美国本土经历过的任何事情都如此异常，以至于我们完全震惊，这甚至是一种可能性。它实际上是一个非常有创造力和决心很强的研发团队，深藏在阿富汗的腹地，向我们展示了我们有一些我们开放的漏洞，没有人选择表达。我可以想到其中几件事，我不会公开谈论，它们似乎都与那些希望造成混乱和破坏的人直到现在是多么缺乏想象力有关。我们这个时代，这个特定的小时代，最大的谜团是，自 1945 年我们展示了愤怒地使用核武器的能力以来，我们一直保持着惊人的稳定。而且，我们不知道为什么自那以后就没有发生过这样的事情。我们有过几次擦枪走火，有过错误，有过边缘政策，而现在发生的是，我们已经形成了一种感觉，哦，它永远不会发生。自那以来，已经很久没有发生过如此危险的事情了，以至于我们脑子里有了错误的观念，这就是为什么当我参加本·沙皮罗秀时，我谈到了恢复核装置地面测试的必要性，因为有些人认为，当，比如说，唐纳德·特朗普和朝鲜在推特上互动时，哦，这没什么，这只是姿态，每个人都只是为了钱，人们有一种感觉，他们处于电子游戏模式，这自 1945 年以来一直是正确的判断。我们大部分时间都处于电子游戏模式。太神奇了。
——所以你担心一代人没有经历过任何存在性的——
——我们活在其中。看，你年轻。我不知道，再说一次，你来自莫斯科。
——[莱克斯] 来自，是的。
——有一部电视节目叫《末日》，对成长中的美国一代产生了巨大影响，它讲述了核交换后的生活会是什么样子。我们没有经历过集体化的具身体验，让我们思考过这个问题，我认为这是我们长者中最不负责任的事情之一，那就是提供这个美丽的花园，玫瑰丛的刺被拔掉了，所有的边缘都被打磨圆了，所以人们形成了一种完全不真实的观念，那就是一切都会好起来的。我是否认为我最担心的是 AGI，或者我最担心的是热核交换或基因驱动器或其中任何一个？我不知道。但我知道，我们在这里度过的漫长实验的时间是有限的，因为我们制造的玩具是如此令人印象深刻，而伴随它们的智慧却没有出现。我认为自 1945 年以来，我们的智慧确实有所提高。我们有许多危险的、技术娴熟的玩家活跃在世界舞台上，尽管他们有多糟糕，但他们设法没有让我们陷入我们无法恢复的境地。
——冷战。
——是的，以及与冷战的距离，你知道，我非常清楚，实际上有一个俄罗斯传统，在你的婚礼那天去参观纪念那些为斯大林格勒战役献出生命的人的纪念碑。你能想象吗？在你生命中最幸福的一天，你去向那些在斯大林格勒战役中战斗并牺牲的人致敬？我不是共产主义的忠实粉丝，我得说，但俄罗斯人在苏联时期做了一些非常积极的事情，我认为让人们知道生活实际上有多严肃，俄罗斯的严肃模式比美国模式要好。
——而且也许，就像你提到的， 9/11 之后有一个小小的回响，但是——
——我们不会让它形成。我们谈论 9/11，但真正改变局势的是 9/12。当我们都在那里，没有人想说话时。我们目睹了非常严肃的事情，我们不想跑去我们的电脑上大声说出我们的深刻想法和感受。这是深刻的，因为我们短暂地醒来了，我谈到了那种塑造我们生活的封闭的制度叙事，我一生中见过它打破了三次。其中一次是唐纳德·特朗普的当选，另一次是雷曼兄弟的倒闭，当时所有知道贝尔斯登不那么重要的人都知道雷曼兄弟意味着 AIG 紧随其后，而另一次是 9/11。所以，如果我 53 岁，我只记得全球叙事被真正打断了三次，这告诉你我们对事态发展的掌控程度有多大。你知道？我们经历了穆拉联邦大楼爆炸，但它并没有导致叙事破裂，它不够深刻。在 9/12 左右，我们开始从沉睡中醒来，而当权者不希望我们团结起来。你知道，告诫是去购物。
——当权者，那么那股力量是什么？而不是指责个人——
——我们不知道。
——所以无论那——
——无论那股力量是什么。
——沉默中。
——它有一个涌现的组成部分，也有一个故意的组成部分。所以，给自己一个包含两个组成部分的投资组合。其中一部分是涌现的，但其中一部分也是一种理解，即如果人们团结起来，他们就会成为一股不可思议的力量。我认为你现在看到的是，有一些力量在试图团结起来，也有一些力量在试图将事物推开，你知道，其中之一是全球主义叙事与国家叙事。从全球主义的角度来看，国家本质上是坏的。它们是暂时的，它们是民族主义的，它们是沙文主义的，这一切都是负面的，对于更具国家色彩的人来说，他们说，看，这是我纳税的地方，这是我服兵役的地方，这是我投票的地方，这是我拥有护照的地方。你凭什么告诉我，因为你搬到了一个地方，你可以在全球赚钱，你就选择抛弃你负有特殊和崇高责任的其他人。我认为这些相互竞争的叙事一直在被精英推向全球视角，而越来越多被剥夺权利的人说，嘿，我实际上住在一个地方，我有法律，我说一种语言，我有文化，你凭什么告诉我，因为你可以在某个遥远的地方获利，我对我的同胞的义务就大大减少了。
——所以，国家之间的这些紧张关系等等，最终你认为为你的国家感到自豪等等，这可能导致了战争等等。最终，这是人性，这对我们有好处，是各种各样的警钟。
——嗯，我认为这些是紧张关系。我的观点不是，我的意思是，失控的民族主义是一场噩梦。失控的国际主义也是一场噩梦。问题是我们试图将这些钟摆推向一个它们大致平衡的地方。我们对那些与我们共享法律和公民身份的人负有更高的关怀责任，但我们不要忘记我们对全球系统的关怀责任。我认为这是基本常识，但我们面临的问题是，有些人可以通过放弃对他们系统内他人的义务来获利，而这就是我们几十年来所经历的。
——你提到了核武器。我希望从你那里得到答案，因为你做的许多事情中，经济学是其中之一，也许你能理解人类行为，为什么我们还没有互相炸毁对方？但好吧，所以我们会——
——我不知道答案。
——是的。说我们真的不知道——
——[埃里克] 智慧的轻微上升。
——智慧的轻微上升，史蒂文·平克，我和他谈过，他有很多关于原因的好想法，但他——
——我不信任他的乐观主义。（莱克斯咯咯笑）
——听着，我是俄罗斯人，所以我从不信任一个如此乐观的人——
——不，不，不，只是你在谈论一个看着一个系统的人，在这个系统中，越来越多的动能，比如战争，已经变成了势能，比如未使用的核武器。
——哇，说得太好了。
——而且你知道，现在我看着那个系统，我说，好吧，如果你没有势能修剪，那么一切都会变得越来越好。
——是的，是的，哇，说得太好了。只有物理学家才能做到，好吧。
——[埃里克] 我不是物理学家。
——嗯，这是个脏词吗？
——[埃里克] 不，不，我希望我是一名物理学家。
——我也是，我爸爸是物理学家。我可能一生都在努力达到他的水平。他可能也会听这个。
——嘿，爸爸。
——是的，（咯咯笑）。那么，你的朋友萨姆·哈里斯，非常担心人工智能的生存威胁。不是以你描述的方式，而是以更——
——嗯，他和埃隆在一起。我不认识埃隆。
——那么，你担心那种，你知道，关于，关于机器人系统或传统定义的人工智能系统本质上变得超级智能，比人类聪明得多，然后——
——嗯，它们已经如此了，而且它们还没有。
——当被视为一个整体时，你的意思是？
——我可以指很多事情，但当然，我们认为很多属于通用智能的事情并不需要通用智能。所以，这是其中一个巨大的觉醒，你可以仅凭统计数据就能写出相当令人信服的体育故事。而无需观看比赛。所以，你知道，写生动的政治散文是否可能？是的，还不。所以，我们基本上是东拼西凑。关于国际象棋，我曾经在 Quora 上问过一个问题，但没有得到太多回应，那就是，计算机在国际象棋比赛中产生的最伟大的辉煌是什么？这与有史以来最伟大的比赛的问题不同。所以，如果你想到辉煌，那就是真正激励我们许多人将国际象棋视为一种艺术形式的东西。那些是那些展示了如此多的才华、风度和灵魂的动作和组合。计算机在这方面并不擅长。它们是强大的位置怪物。最近我们开始看到辉煌。
——[莱克斯] 是的，一些特级大师已经认同 AlphaZero 的辉煌。
——是的，这是一个例子。我们不知道那是 AGI，但在像国际象棋这样非常受限的规则中，你开始看到高等诗歌。所以，我不喜欢我们正在等待 AGI 的想法。AGI 正在以同样的方式慢慢渗透到我们的生活中，就像我认为蠕虫不应该被视为有意识的，因为它只有 300 个神经元一样。也许它只有非常低水平的意识。因为我们不理解这些东西在规模扩大时意味着什么。那么，我是否担心这种普遍现象？当然，但我认为，我们许多人之所以为此烦恼，部分原因在于人类的需求。我们一直担心 Golem，对吧？
——[莱克斯] 嗯，Golem 是人造的——
——生命，你知道吗？
——[莱克斯] 就像弗兰肯斯坦式的人物——
——是的，当然，这是犹太版本。弗兰肯伯格，弗兰肯——
——是的，这说得通。
——抱歉，所以，但是我们一直担心创造这样的东西，而且它越来越近，而且有一些方法我们必须认识到，整个事情，我们所经历的整个生活背景，几乎肯定即将结束。我并不是说我们不会幸存下来，我不知道。我并不是说它明天就会到来。可能是 300 年， 500 年，但据我所知，没有计划，如果我们有三个可以居住的、在当前技术梦想中合理的星球；地球、月球和火星，而且我们有一个非常有竞争力的文明，仍然被迫诉诸暴力来解决无法仲裁的争端。我并不清楚我们是否有长远的未来，直到我们进入下一个阶段，那就是弄清楚爱因斯坦的速度限制是否可以被打破，而这需要我们的源代码。
——我们的源代码，我们大脑里的东西来弄清楚？你说的源代码是什么意思？
——背景的源代码。无论是什么产生了夸克、电子、中微子。
——哦，我们的源代码，我明白了，所以这是——
——你说的不是更高级别的语言。
——是的，是的，没错。你说的是低级别的，比特，甚至更低——
——对，那就是目前让我们留在这里的东西。我们甚至无法想象，你知道，我们有一些疯狂的计划来遵守爱因斯坦的速度限制。你知道，也许我们可以给自己下药，进入休眠状态，或者我们可以有多代人这样做。我认为所有这些东西都相当愚蠢。但我认为，想象我们的智慧会提高到我们可以拥有我们拥有的玩具，并且我们不会使用它们 500 年，这也是相当愚蠢的。
——说到爱因斯坦，我有一个深刻的突破，当我意识到你离他只有一个字母之差。
——是的，但我也离费恩斯坦只有一个字母之差。
——嗯，你可以选择。好的，那么，统一理论。你知道，你工作过，你享受几何的美。嗯，我其实不知道你是否享受它。你肯定很擅长——
——我为之颤抖。
——为之颤抖。如果你是宗教人士，那就是——
——我不必是宗教人士。它太美了，你无论如何都会颤抖。
——我刚读了爱因斯坦的传记，其中一种方式，你所做的事情之一就是探索统一理论，谈论一个 14 维的观察者，其中嵌入了 4D 时空连续体。我只是好奇，在哲学层面，在高层次上，你如何看待比我们能感知的维度更多的东西？当你谈论数学世界中大于我们可感知维度的维度时，你有什么感受？你从中得到的东西是否不仅仅是数学？
——嗯，首先，伸出你的舌头对着我。好的，现在。（莱克斯咯咯笑）在你舌头的正面。
——是的？
——有一个甜味感受器。旁边是咸味感受器，在两个不同的侧面。再往后一点是酸味感受器，你不会给我看舌头的后面，那里有苦味感受器。
——[莱克斯] 我总是展示好的一面。
——好的，但那是四种味觉感受器的维度。但你的舌头上也有痛觉感受器，可能还有热觉感受器。所以，假设你有一个。那就是六个维度。所以，当你吃东西时，你吃一片披萨，上面有一些辣椒，也许是一些墨西哥辣椒。你正在经历一个六维的体验，伙计。
——你认为我们是否过分强调了时间作为一个维度或空间的重要性？嗯，我们肯定过分强调了时间的重要性，因为我们有开始和结束的事情，或者我们真的不喜欢事情结束，但它们似乎会。
——嗯，如果你把一个空间维度变成一个时间维度呢？你和我将在纽约市见面，然后说，我们什么时候在哪里见面？我说，我会在下午 2 点和上午 11 点在第 36 街和莱克星顿大道见你？那会很混乱。
——嗯，对我们来说，思考时间太方便了，你的意思是？
——我们恰好处于一个令人愉快的境地，我们有三个空间维度和一个时间维度，它们以一种奇怪的织物编织在一起，我们可以用一点时间来换取一点空间。但我们仍然只有一个维度相对于其他三个维度被挑选出来。这非常像格拉迪丝·奈特和皮普斯乐队。
——那么，哪个是为谁开发的？我们是为这些维度开发的吗？还是维度，或者它们一直都在那里，而且不——
——嗯，你认为没有一个地方有四个时间维度吗？或者两个空间和一个时间？或者三个时间和一个空间？那么时间就不会扮演空间的角色了吗？你为什么认为你所在的部门就是全部？
——我当然不这么认为，但我无法想象其他方式。我的意思是，我没有服用过阿亚瓦斯卡或任何那些药物。我希望有一天能做到，但是——
——与其服用阿亚瓦斯卡，你不如去二号楼。
——那里是数学家吗？
——[埃里克] 是的，他们就在那里。
——[莱克斯] 只是看看一些几何学？
——嗯，问问伪黎曼几何，那才是你感兴趣的。（莱克斯咯咯笑）
——[莱克斯] 好的。
——或者你可以和萨满谈谈，然后去秘鲁。
——然后还有一些额外的旅行费用——
——是的，但如果你选择那样做，你就无法进行任何计算。
——嗯，一种不同的计算——
——可以这么说。
——是的。我最喜欢的人之一，爱德华·弗朗哥，伯克利教授，畅销书《爱与数学》的作者，他说你是一个非常杰出的知识分子，能够想出如此美丽、原创的统一理论等想法。但你是在学术界之外工作的。那么，在发展真正原创、真正有趣的想法方面，在学术界内外有什么区别？
——哦，这是一个糟糕的选择，一个糟糕的选择。所以，如果你在学术界内部这样做，你将被迫不断地……表现出对共识的极大忠诚，并通过微小、几乎是微观的异端来区分自己，以建立你的声誉。而且你有非常能干的人和聪明人一起工作，他们形成了非常深厚的社交网络，并且有非常高的行为水平，至少在数学领域，至少在理论物理领域是这样。当你走出学术界，你会遇到疯子和疯狂的人。疯子，这些人通常不认同共识立场，并且几乎总是迷失方向。关键问题是，进步很可能来自一个奇迹般地设法留在系统内并能够承担更大程度的异端（这是可以想象的）的人吗？在这种情况下，那将是迷人的。或者，更可能的是，有人会保持学术界之外的纪律水平，并能够利用不必不断确认对领域共识的忠诚所带来的自由。
——所以你认为学术界在这种特定意义上正在衰落。你发布了图表，教师的老年人口越来越大，年轻人越来越小，等等。那么，你对这两种方向中的哪一种更有希望？
——嗯，婴儿潮一代不能永远坚持下去。
——这首先是普遍真实的，其次是在学术界——
——但这确实是关于——
——是婴儿潮一代的控制。
——我们没有，我们习惯了像金融泡沫那样持续几年然后破裂。
——是的。
——婴儿潮一代的泡沫是一个非常长期的东西，所有的意识形态，所有的行为模式，规范，你知道，例如弦理论几乎完全是婴儿潮一代的现象。这是婴儿潮一代能够做到的事情，因为它需要非常高的数学能力。
——你不认为弦理论是一个原创的想法吗？
——哦，我的意思是，它对维内齐亚诺来说是原创的，他可能比婴儿潮一代年长，而且有一些比婴儿潮一代年轻的人仍在研究弦理论。我并不是说在大型弦理论复合物中发现的任何东西都是错误的。恰恰相反。很多杰出的数学和物理学结构都是由弦理论家阐明的。我对这个名为弦理论的产品的可交付性有什么看法？我认为这基本上是一个针对数学和几何才能极高的婴儿潮一代物理学家的平权行动计划，这样他们就可以说他们在研究量子引力方面的东西。现在还有其他方案。你知道，有像渐近安全这样的。你还可以想象做其他事情。我不认为任何主要的计划有多大价值，但通过一个口号强加了如此程度的忠诚，嗯，你当然不会质疑 x。嗯，我质疑弦理论计划中的几乎所有东西，这就是为什么我离开了物理学。当你称我为物理学家时，这是一种巨大的荣誉，但我没有成为物理学家是因为我爱上了数学。正如我所说，在 1984 年、1983 年，我看到这个领域正在走向疯狂，我看到数学，尽管有很多问题，但并没有变得疯狂。所以，我没有在物理学领域学习，而是认为在数学领域研究相同的对象要安全得多。这需要付出巨大的代价。你失去了物理直觉。但重点是，它也不是朝鲜的再教育营。
——你对破解爱因斯坦统一理论，以一种真正理解是否能将一切与量子理论等统一起来的方式感到乐观吗？
——我的意思是，我自己在扮演这个角色。做到这一点，将其移交给更负责任、更专业、更有能力的社区。所以，我认为他们在很多信念结构上是错误的，但我确实相信，我的意思是，我对这群人有一种深刻的爱恨关系。
——在物理学方面？
——哦，是的。
——因为数学家似乎更开放——
——嗯，他们是，也不是。他们对任何看起来像伟大的数学的东西都持开放态度。
——对。
——对，他们会研究一些对物理学不太重要的东西，但如果它是美丽的数学，那么他们就会有，他们对这些东西有很好的直觉。尽管数学家们很棒，而且我甚至可能在智力马力水平上给他们优势。理论物理学界是无与伦比的，是我们有史以来创造的最深刻的知识界。它是第一名，在我看来，没有第二名。就像，在他们的业余时间，在他们的业余时间，他们发明了分子生物学。
——分子生物学的起源是什么？你是说物理学家——
——嗯，像弗朗西斯·克里克这样的人。许多早期的分子生物学家——
——是物理学家吗？
——是的，我的意思是，你知道，薛定谔写了《生命是什么》，那非常有启发性。我的意思是，你必须认识到，没有一个社区像理论物理学的基本研究社区那样。而且，我非常批评这些人。我认为他们浪费了数十年的时间，并对他们对物理学问题概念化的误解进行了宗教般的虔诚。但这是学术界有史以来见过的最伟大的智力崩溃。
——你认为这是崩溃还是低迷？
——哦，我担心我们即将失去活力。我们负担不起支付这些人。我们负担不起给他们一个加速器来玩，以防他们在下一个能量水平上找到东西。这些人创造了我们的经济。他们给了我们 RAD Lab 和雷达。他们给了我们两件原子装置来结束第二次世界大战。他们创造了半导体和晶体管，通过摩尔定律为我们的经济提供动力。作为粒子加速器的积极外部效应，他们创造了万维网，而我们却傲慢地说，为什么我们要用纳税人的钱来资助你们？不，问题是，你是否享受你的物理学美元？对，这些人签署了世界上最糟糕的许可协议。
——对。
——而且，如果他们仅仅为每次使用晶体管或 URL，或享受他们在此期间提供的和平，通过他们开发的糟糕武器，或你的通信设备来收费。所有驱动我们经济的东西，我真的认为都来自物理学，甚至化学也来自物理学，分子生物学也来自物理学。所以，首先，你必须知道我非常批评这个社区。其次，它是我们最重要的社区。我们忽视了它，我们虐待了它，我们不认真对待它，我们甚至不
费尽心思让他们在几代人的失败后进入康复中心。对，没有人，我的意思是，我认为在理论层面对标准模型做出真正贡献的最年轻的人出生于1951年，对吧？弗兰克·威尔切克。而且在理论物理学领域，自1973年、1974年以来，几乎没有什么事情能让某人去斯德哥尔摩进行理论发展，并预测实验。所以，我们必须明白，这是我们自己造成的。现在，话虽如此，在我看来，这些人表现得极其糟糕，因为他们没有承认自己真正处于什么位置，他们真正面临什么问题，他们实际上能有多确定。他们没有分享他们一些最杰出的发现，而这些发现对于像规范场论这样的其他领域来说是急需的，至少数学家们可以分享，这是牛顿和莱布尼茨微积分的升级，而且他们也没有分享重整化理论的重要性，尽管这应该是跨学科科学中处理不同现象层级和不同水平的人的标准操作程序，所以——而你说的分享是指以一种传播到不同科学领域的方式进行沟通吗？——这些人，理论物理学家和数学家，都坐拥巨量的知识财富，对吧？他们有很多东西还没有在任何地方实现。我刚才在推特上，我想我提到了霍伯曼开关的演示，它展示了四面体的自对偶性，并实现了它的联动机制。现在这就像是小事一桩，却制作了一个很棒的玩具，你知道，它已经形成了一个市场。——是的。——希望查克·霍伯曼能因此发财。嗯，你根本不知道这些教士在他们的修道院里有多少伟大的东西。——所以，这真的是一种爱恨交加的关系？听起来更像是爱的那一边——（埃里克）我们现在所在的这座建筑。（莱克斯）是的。（埃里克）我就是在这座建筑里，通过政府大学工业研究圆桌会议，促成了美国科学院和美国国家科学基金会之间的阴谋，利用外国劳动力来摧毁美国学者的谈判能力。在基层的缩微胶片上。（莱克斯）博士后之类的？（埃里克）哦，是的，那都是在这座建筑里完成的。这难道不奇怪吗？（莱克斯）我真的在和一个革命者和一个激进分子说话——（埃里克）不，不，不，不，不，不，不，不。在智力层面，我绝对是普通大众。我就是直截了当。我们所处的这个系统。这所大学在功能上是疯狂的。（莱克斯）是的。（埃里克）哈佛在功能上是疯狂的，而且我们不明白，当我们把这些事情搞错时，金融危机已经非常清楚地表明了这一点。有一段很长的时间，每一个成年人，每一个穿着领带、说话低沉、名字后面带着正确学位的人。（莱克斯）是的。（埃里克）都在谈论我们如何消除了波动性，我们正处于大缓和时期。好吧，他们都疯了。谁是对的？就像纳西姆·塔勒布。（莱克斯）对。（埃里克）努里尔·鲁比尼。现在发生的是，他们声称市场疯了。但市场并没有疯。市场一直以来都很疯狂，而发生的是，它突然变得理智了。嗯，这就是我们与学者的状况。学者们现在就像疯帽子一样疯狂，这是显而易见的。我可以向你展示一张又一张图表。我可以向你展示内部讨论。我可以向你展示阴谋。哈佛大学目前正在处理一起关于其有色人种学生（碰巧来自亚洲）的招生政策的案件。所有这些疯狂都是为了让游戏继续下去。我们正在谈论的，就在我们谈论革命者这个话题的时候，我们正在谈论“理智爆发”的危险。（莱克斯）是的，你就是那个指出房间里大象的人——（埃里克）大象没穿衣服。（莱克斯）是这样吗？我本来想和乔·罗根谈谈这个，但时间不够了，但我认为你有一些，听你说话，你可能能很清楚地谈论学术界不同领域之间的区别。那么，你认为在学术界，科学、工程和人文学科之间在容忍度方面存在差异吗？从我的角度来看，我认为计算机科学和工程学可能对激进思想更宽容，但这也许是我天真了。因为我总是，你知道现在所有的争论都更多地发生在人文学科、性别研究等方面。（埃里克）你见过美国数学学会发表的一篇题为“让开”的文章吗？（莱克斯）我没有，那是什么——（埃里克）意思是，大学里担任数学职位的白人男性应该腾出他们的职位，以便年轻的黑人女性可以接任，之类的。（莱克斯）这是关于多样性，我也想问你，但就思想的多样性而言。（埃里克）哦，当然。（莱克斯）你认为，因为你基本上说物理学界作为一个整体，在某种程度上对新的激进思想变得有点不宽容，或者至少你说了——（埃里克）但最近情况有所改变。那就是，即使是弦理论现在也承认，好吧，短期内这看起来并不太有希望。对，所以问题是，如果你想用计算机科学的比喻来说，是什么能让你发表论文？你会花一辈子试图把一篇论文发表到期刊上，还是会很容易被接受？我们对提交者的特征以及哪些被采纳，哪些不被采纳，了解多少？所有这些领域都面临压力，因为没有哪个领域表现得如此出色，以至于它正在彻底改变我们的说话和思考方式，以我们已经习惯的方式。（莱克斯）但你不认为，即使在理论物理学中，很多时候，即使是像弦理论这样的理论，你也可以谈论它，它最终会引出这个理论可检验的方式吗？（埃里克）是的，最终，尽管你看，波普尔和科学方法在许多聪明人的脑子里是一种癌症和疾病。事情的解决方式并非如此，而是如何进行检查。（莱克斯）对，所以——（埃里克）理论和实验之间存在对话。但是，每个人都应该读读保罗·狄拉克1963年在《科学美国人》上发表的文章，他，你知道，非常有趣。他把它当作是关于薛定谔方程和薛定谔未能推进自己的工作，因为他未能解释一些现象。关键在于，如果你的理论稍微有点偏差，它就不会与实验一致，但这并不意味着理论实际上是错误的。但狄拉克同样可以谈论他自己的方程，他预测电子应该有一个反粒子。由于当时唯一已知的带正电的粒子是质子，海森堡指出，你的反粒子，质子，不应该和电子质量相同吗？这难道不会使你的理论无效吗？所以，我认为狄拉克实际上可能很狡猾，他谈论的是他自己也在某种程度上被海森堡推离了自己的理论。但是，你看，我们过分强调科学方法、波普尔和证伪主义，因为它保护我们免受疯狂想法进入该领域。所以，你知道，这是一个平衡第一类和第二类错误的问题，而我们在一个方向上已经达到了极限。（莱克斯）与此相反。让我来说说让我感到安慰的事情。比如生物学或工程学，归根结底，它能起作用吗？（埃里克）是的。（莱克斯）你可以排除那些疯狂的想法。嗯，你看，你现在说，但有些想法确实是疯狂的，有些是正确的，所以。（埃里克）嗯，有“目前疯狂的预先正确”。（莱克斯）是的。（埃里克）对吧？所以你不想摆脱所有“目前疯狂的预先正确”的人。问题是，我们没有普遍的标准，来确定谁的职业生涯必须被“处死”，谁必须被保护起来，作为某种巨大的时间浪费者，一个可能改变一切的惹人厌烦的人。（莱克斯）你认为这可能吗？创造一种选择机制——（埃里克）嗯，你不会喜欢答案，但它来了。（莱克斯）哦，天哪。（埃里克）这与非常人性化的元素有关。我们试图在规则和公平的层面上做到这一点，这不会奏效。因为唯一真正理解这一点的是，你读过《双螺旋》吗？（莱克斯）是一本书？（埃里克）哦，你必须读这本书——（莱克斯）哦，天哪。（埃里克）吉姆·沃森不仅半发现了DNA的三维结构，他还是一个非常棒的作家，在他变成一个混蛋之前。不，他试图——（莱克斯）是的，就像他一样。（埃里克）摧毁他自己的声誉——（莱克斯）我知道他是混蛋，我不知道他是个好作家。（埃里克）吉姆·沃森是现在在世的最重要的人之一，正如我之前所说，吉姆·沃森的遗产太重要了，不能留给吉姆·沃森。那本书告诉你更多关于真正推动事物发展的东西。我的意思是，关于他还有另一个故事，我并不同意，那就是他从罗莎琳德·富兰克林那里偷走了所有东西。我的意思是，他与罗莎琳德·富兰克林之间的问题是真实的，但我们应该通过深入研究来尊重我们历史上的这种张力，而不是有一个简单的解决方案。吉姆·沃森谈到弗朗西斯·克里克是一个惹人厌烦的人，每个人都暗地里知道他非常聪明。还有一次，查尔加夫（Chargaff）提出了核苷酸之间的等摩尔关系，他本应该发现DNA的结构，但沃森和克里克却发现了，你知道，他谈到了错过了生物学心跳中的一丝颤动，这些东西太美了，光是想想就让你颤抖。你看，我们常常知道谁是应该被害怕的，我们需要资助那些我们害怕的人。那些浪费我们时间的人需要被排除在对话之外。你看，你知道，我们可能在这两个方向上都会犯一些错误，但我们认识我们自己的人。我们知道那些可能成功的惹人厌烦的人，我们也知道那些只是吹牛的人，他们大多数时候真的贡献很少。这并非百分之百准确，但你无法通过规则做到这一点。（莱克斯）是的，这是使用某种直觉。我的意思是，说实话，我要让你翻个白眼，但第一次听到有很多人相信地球是平的，这真的让我停下来问自己——（埃里克）为什么会有这样一个群体？（莱克斯）是的，地球有可能真的是平的吗？所以我不得不说，等一下。我的意思是，然后你经历了一个我认为非常健康的过程。我认为它最终会变成一个几何学问题。至少这是一个有趣的思维实验。（埃里克）嗯，你看，我不，我做的是一个不同的版本。我说，为什么这个群体如此稳定？（莱克斯）是的，这是一个很好的分析方式。（埃里克）有趣的是，我们所做的一切并没有消除这个群体。所以，你知道，他们正在进行一场不会成功的漫长赌博，你知道吗？也许我们还没有充分考虑平方根2的合理性，也许某个聪明人会想出来。也许我们最终有一天会登陆木星表面并探索它。对，这些都是永远不会发生的可怕事情。（莱克斯）所以，社交媒体的很大一部分是通过人工智能算法运作的，我们稍微谈过这个，推荐你看到的内容。那么，关于激进思想这个想法，人工智能应该在你不同意的事情上向你展示多少，在推特上等等？在推特宇宙中——（埃里克）我讨厌这个问题。（莱克斯）是的？（埃里克）是的。（莱克斯）因为你不知道答案？（埃里克）不，不，不，不。你看，他们给我们推了这种认知乐高，只会导致疯狂。被挑战以你不同意的事情是好的。你的答案是，不。它应该被挑战以你目前不同意但可能是真实有趣的事情。我不在乎我是否同意某事，或者不同意某事，我需要知道为什么这个特定的令人不快的事情被推送出来。是因为它很可能是真的吗？是因为，有什么原因吗？因为我写了一个计算机生成器来产生无数令人不快的陈述，没有人需要看。所以，请在我推送令人不快的东西给我之前，告诉我原因。（莱克斯）这个问题有一个方面是相当愚蠢的，尤其是因为它被这些不同的网络非常笼统地用来表示，嗯，我们正在努力解决这个问题，但是，你知道，基本上，你看到你你不喜欢的东西有多大的价值？不是你不同意的东西，因为很难确切地知道你所阐述的，对你来说重要的是你不同意的东西。这真的很难弄清楚。底线是你讨厌的东西。如果你是希拉里·克林顿的支持者，看到任何关于唐纳德·特朗普的事情都可能让你感觉不好。这是算法目前唯一真正能优化的东西。它们真的不能——（埃里克）不，它们可以做得更好。（莱克斯）你认为呢？（埃里克）不，我们正在进行一场愚蠢的来回争论，我不知道那些有能力建立谷歌、Facebook、推特的人为什么会和我们进行如此低水平的讨论。他们不知道任何聪明人吗？他们没有那些能提升这些讨论水平的人的电话号码吗？（莱克斯）他们有，但是——（埃里克）请，不，不，不。（莱克斯）他们正在优化不同的东西，他们正在把那些人推出去。（埃里克）不，他们正在优化我们看不见的东西，是的，利润在那里。没有人质疑这一点。但他们也在优化政治控制，或者他们正在巴基斯坦做生意，所以他们不想谈论他们在巴基斯坦所屈服的一切。所以，我们正在进行一场虚假的讨论。（莱克斯）你认为呢？你认为谷歌内部会进行如此深入的对话吗？你不认为他们有一些基本的用户参与度指标吗？（埃里克）你们在和我们进行一场虚假的对话。我们知道你们在进行一场虚假的对话。我不想参与你们的虚假对话。你们知道如何冷却这些设备。你们对高可用性了如指掌。我的Gmail几乎从不宕机。（莱克斯）所以你认为，仅仅因为他们在软件方面能做出令人难以置信的工作，他们也能处理这些关于人类行为、人类理解的困难问题，你不是，（笑）。（埃里克）我的意思是，我见过人们在谷歌内部拍摄的开发者屏幕。（莱克斯）是的。（埃里克）我听过Facebook和Apple内部的故事。我们没有，我们正在进行，他们正在和我们进行错误的对话。我们不是处于这个低水平。这是我最喜欢的问题之一。（莱克斯）是的。（埃里克）为什么我购买的每一件基于文本的硬件都配备了监听设备？我的物理快门在哪里可以遮盖我的镜头？我们在20世纪70年代就有这个了。他们有带镜头盖的相机，你知道吗？要有一个安全模型需要多少钱？多付五美元。为什么我的指示灯是软件控制的？为什么当我打开相机时，我看不到指示灯亮着，把它设置成无法绕过的东西？为什么你们把我的所有设备都设置成监听设备，而且我们甚至都不谈论这个问题？这完全是狗屁。（莱克斯）嗯，我希望，所以。（埃里克）等等，等等。（莱克斯）这些关于隐私的讨论正在发生，因为它们比你想象的要困难——（埃里克）不只是隐私。（莱克斯）是的？（埃里克）这是关于社会控制。我们在谈论社会控制。为什么我不能控制我自己的杠杆？只要有一个非常可爱的用户界面，我就可以切换，我可以拨动旋钮，或者我至少可以看到算法是什么。（莱克斯）你认为这里有一些故意的选择——（埃里克）有涌现，也有意图。有两个维度。向量不会坍缩到任何一个轴上。但是，认为意图完全不存在的想法是一个孩子。（莱克斯）这说得太好了，而且就像你说的很多话一样，它会让我——（埃里克）我可以稍微反转一下吗？（莱克斯）是的。（埃里克）我和你坐下来，你说你痴迷于我的信息流。（莱克斯）嗯哼。（埃里克）我甚至不知道我的信息流是什么，你看到了什么而我没有？（莱克斯）我一直在痴迷地浏览你在推特上的信息流，因为它非常有趣，因为有汤姆·莱勒的元素，里面有幽默感。（埃里克）顺便说一句，那个信息流是推特上的@ericrweinstein。（莱克斯）太棒了。（埃里克）@ericrweinstein。（莱克斯）是的。（埃里克）不，但说真的，为什么？（莱克斯）为什么我觉得它很有趣，或者我看到了什么？（埃里克）你在寻找什么？我们为什么要这样做？这个播客是关于什么的？我知道你有很多有趣的人。我只是一个播客嘉宾。（莱克斯）某种播客，你甚至没打领带。我的意思是——（埃里克）我甚至没打领带。（莱克斯）这甚至不是一个严肃的采访。我一直在寻找意义，寻找幸福，寻找多巴胺的释放，短期和长期的。（埃里克）你是如何找到我的？我老实说不知道我做了什么来找到你。（莱克斯）代表那些对我来说是常识性的想法，而很少有人在说。所以，这有点像“知识分子黑暗网络”的那群人，对吧？这些人，从萨姆·哈里斯到乔丹·乔丹·彼得森，再到你本人，都在说一些话，就像你在说，“看，那里有一头大象，它没穿衣服”，我说，“是的，是的，让我们多谈谈这个话题。”我就是这样找到你的。（埃里克）我非常渴望改变我们正在进行的对话。我非常担心我们有2020年的选举。我认为我们负担不起又一个四年被误解的信息，唐纳德·特朗普就是如此，我也不想我们的制度被摧毁。他们似乎都一心想摧毁自己。所以，我正在努力拯救理论物理学，努力拯救《纽约时报》，努力拯救我们各种各样的进程，我觉得这对我来说是妄想，这落到了极少数愿意发声的人身上，他们不会因为说的话被误解而吓得魂不附体，他们的生活也不会因此被毁。我的意思是，我认为我们正处于一个绝对疯狂的时期，我不认为这应该落在如此少数的肩膀上来承担这份重担。（莱克斯）所以，我必须从资本主义的角度问你，你提到技术正在扼杀资本主义，或者产生了经济学家不会预测或谈论的资本主义的效应。我只想和你谈谈，总的来说，人工智能或技术自动化夺走工作岗位之类的事情，以及你认为如何缓解这种情况。无论是安德鲁·杨总统候选人提出的普遍基本收入，UBI，你对此有何看法？我们如何抵御技术的负面影响——（埃里克）好吧，你是个软件工程师，对吧？（莱克斯）是的。（埃里克）人类是一个工人，这是一个古老的想法。（莱克斯）是的。（埃里克）人类是一个工人是不同的对象，对吧？（莱克斯）是的。（埃里克）所以，如果你考虑面向对象编程作为一种范式，人类有一个工人，人类有一个灵魂。我们谈论的是，在一段时间内，人类的工人能够养活人类的灵魂。然而，我们在社会价值方面有两个独立的诉求。一个是作为工人，另一个是作为灵魂，而灵魂需要滋养，需要尊严，需要意义，需要目标。只要你的支持方式不是高度重复的，我认为你还有一段时间可以不用担心。但如果你做的事情是高度重复的，而且不是非常有创造性的，你就处于for循环和while循环的瞄准镜下，而这正是计算机擅长的；重复性行为，当我说的重复性时，我可能指的是通过组合可能性从未发生过的事情，但只要它具有循环的特性，你就有麻烦了。我们看到一股巨大的力量涌向社会主义，因为资本家们迟迟未能解决一个事实，即一个工人可能无法提出要求。我们社会中一个相对平庸的普通成员仍然需要繁衍，需要尊严，而当资本主义抛弃了普通个体或底层十分之一的人，或者无论它做什么时，它就是在玩火，而我担心的是资本家不够资本主义，无法理解这一点。你真的想在国内煽动威权主义控制，因为你看不出人们可能无法在市场上保护自己，因为他们劳动的边际产品太低，无法养活他们作为灵魂的尊严？所以，我最大的担忧是，我们的自由社会与我们是自我组织的这一事实有关。我记得在雷曼兄弟倒闭时，我从曼哈のです的办公室往下看，想着，谁会告诉所有这些人，当他们没有金融体系来激励他们上班时，他们需要去上班？所以，我的抱怨首先不是针对社会主义者，而是针对资本家，那就是你们这些白痴。你们在招惹革命，因为你们继续纠缠于那些老掉牙的想法，比如，努力工作，自力更生。是的，在某种程度上是有效的，在某种程度上。但我们显然正朝着一个方向发展，那就是我们贡献的需要和我们消费的需要之间没有任何联系，而这可能无法由资本主义提供，因为它可能只是一个暂时的现象。所以，看看我关于人类资本主义和新噱头经济的文章。我认为人们对这个警钟反应迟钝，我们将能更好地从自身拯救资本主义，因为我不希望这种情况在威权控制下发生，而且我们越是坚持认为，在我们社会中，那些在生育年龄没有蓬勃发展以组建家庭的人，在个人层面上是失败的。我的意思是，这是多么令人厌恶的事情。我们说了什么。我们变成了什么样子，我们如此信奉芝加哥学派，以至于我们看不到我们在此过程中正在摧毁的人性，我讨厌共产主义的想法，我真的讨厌。我的家人几十年前就曾接触过它，这是一个错误、糟糕的想法，但我们将需要弄清楚如何确保那些灵魂得到滋养和尊重，而资本主义最好能有一个答案。我押注于资本主义，但我得告诉你，我对我的团队非常失望。（莱克斯）所以你还在资本主义团队，只是有一个主题——（埃里克）嗯，激进资本主义。（莱克斯）对，超级资本主义，是的。（埃里克）你看，我想要，我认为超级资本主义必须与超级社会主义相结合。你需要让最有生产力的人创造奇迹，你必须停止用所有这些额外的“好”要求来拖累他们。你知道，“好”已经死了。“善”有未来。“好”没有未来，因为“好”最终会导致古拉格。（莱克斯）该死，这话说得真好。好吧，最后一个问题。你今天发了一条推文，一个简单但颇具洞察力的方程，写着“想象一下，你获得的每一单位名声，都会带来s个跟踪者和h个仇恨者”。我猜s和h取决于你成名的道路，也许有一点——（埃里克）嗯，它不简单。我的意思是，人们总是把这些东西看得太字面化，当你有大约280个字符来解释自己时。（莱克斯）所以你的意思是这不是一个数学——（埃里克）不，没有法律。（莱克斯）哦，好吧，好吧。（埃里克）我只是，我放了“想象”这个词，因为我仍然有数学家对精确的渴望。（莱克斯）是的。（埃里克）想象一下，这是真的。（莱克斯）但有一个美丽的方式来想象存在一个包含这些变量的定律——（埃里克）是的，是的。（莱克斯）而你现在已经相当出名了，那么你如何自己优化这个方程，用你一路走来获得的独特名声？（埃里克）我想变得更善良。我想对自己更善良，我想对别人更善良，我想拥有心灵、同情心，这些东西真的很重要，而且我的分析方法非常全面。我非常字面化。我随时可以像《雨人》一样对待你。不，我可以，我可以。如果你愿意，这是一种选择性自闭症，而人们会生气，因为他们希望自闭症得到尊重，但是。当你看到我编码，或者看到我做数学时，你知道，我说话有言语失语症，（结巴），晚饭时间到了，你知道吗？（莱克斯）是的。（埃里克）我们必须努力将自己融入这些张力之中，你知道，这有点回到了我们作为工人，我们作为灵魂。我们中的许多人正在以牺牲另一方为代价来优化一方。我与社交媒体斗争，我与人们威胁我们的家人斗争，我与人们的痛苦作斗争。如果我有一个信息想传达出去，那就是你负责，每个人，我们所有人，包括我自己，都在挣扎。拼命挣扎，因为没有人会替你挣扎。现在，话虽如此，如果你正在挣扎，并且你正在努力，并且你正在努力弄清楚如何提升自己，以及你在哪里失败了，你在哪里让你的家人、你的朋友、你的同事失望了，所有这些事情，给自己一点休息，你知道吗？如果它不起作用，我与失败和成功有着终生的关系。我生命中没有哪个时期不是以某种形式同时存在这两种情况。而且，我确实想说，很多时候人们认为这很光鲜。我马上要去，你知道，和萨姆·哈里斯一起做一个节目。（莱克斯）是的。（埃里克）人们将听到两个人在舞台上交谈。这完全是疯狂的，我一直在努力确保那些人获得最大的价值，这就是我做这个播客的原因，你知道，给自己一点休息。你欠我们你的挣扎。你不需要欠你的家人、你的同事、你的爱人或你的家庭成员成功。只要你在那里，并且你在努力站起来，认识到经济的新形势，它没有足够的动力来维持我们的制度，已经导致那些登上这些制度顶端的人变得相当残酷和无情。此刻每个人都在撒谎。没有人是真正的说真话者。试着保持你的人性。试着认识到，如果你失败了，如果事情不如你所愿，你正在挣扎，并且你正在努力弄清楚你做错了什么，你能做什么，这不一定都是你的错。我们正处于一个全球性的局面。我还没有遇到那些诚实、善良、优秀、成功的人。我遇到的没有人能打满分。没有人能得到满分10分。所以，我认为这是一个没有被充分强调的重要信息。要么人们想让社会为他们的失败负责，这是不合理的。你必须挣扎，你必须尝试。要么他们想说你对你的失败负百分之百的责任，这是完全胡说八道。（莱克斯）说得太好了。埃里克，非常感谢你今天的谈话。（埃里克）谢谢你邀请我，伙计。