Transcription
以下是与埃里克·温斯坦的对话。他是一位数学家、经济学家、物理学家，也是Thiel Capital的管理合伙人。他创造了“知识分子暗网”这个词，可以说，他是这个松散集结的公共知识分子群体的创始人，该群体包括萨姆·哈里斯、乔丹·彼得森、史蒂文·平克、乔·罗根、迈克尔·谢默以及其他几个人。这次对话是麻省理工学院“人工智能与超越”播客的一部分。如果您喜欢，请在YouTube、iTunes上订阅，或者在Twitter上与我联系，我的用户名是@lexfridman，拼写是F-R-I-D。现在，开始我与埃里克·温斯坦的对话。
——你对此感到紧张吗？
——吓得屁滚尿流。
——好的，（说外语）。
——你提到《功夫熊猫》是你最喜欢的电影之一。它有通常的深刻的师徒关系。那么，谁是一位对你的思维方向和毕生事业产生了重大影响的老师呢？所以，如果你是功夫熊猫，谁是你的师傅？
——哦，那很有趣，因为我并没有把师傅看作是老师。
——谁是老师？
——乌龟大师，乌龟大师。
——哦，那只乌龟，对。
——他们在整部电影中只见面两次，第一次谈话基本上不算数。所以，电影的魔力，事实上，它的重点是真正重要的教学是在一次谈话中传递的，而且非常简短。所以，谁在我的人生中扮演了这样的角色？我想是我的祖父哈里·鲁宾和他的妻子索菲·鲁宾，我的祖母，或者汤姆·莱尔。
——汤姆·莱尔？
——是的。
——以何种方式？
——如果你给一个孩子播放汤姆·莱尔的唱片，你所做的就是摧毁他们被后来的恶意软件侵蚀的能力，它是如此的无敬畏，如此的机智，如此的聪明，如此的粗俗，以至于它摧毁了许多人过正常生活的能力。所以，如果我遇到一个通常真的偏离了任何典型神经表现的人，我经常会问他们，你是一个汤姆·莱尔的粉丝吗？他们回应的可能性相当高。
——现在，汤姆·莱尔的《毒害公园里的鸽子》，汤姆·莱尔？
——这很有趣。有少数几首汤姆·莱尔的歌进入了大众。比如《毒害公园里的鸽子》、《元素之歌》，或许还有《梵蒂冈进行曲》。所以，当你遇到一个知道这些歌，但不知道——
——哦，你现在在评判我，对吧？
——严厉地。
——好的。
——不，但你是俄罗斯人，所以。
——是的。
——毫无疑问，你知道尼古拉·伊万诺维奇·洛巴切夫斯基。那首歌。
——是的，是的，嗯。
——所以，那是一首关于抄袭的歌，事实上，它本身就是抄袭的，大多数人不知道，来自丹尼·凯。丹尼·凯唱了一首叫做《斯坦尼斯拉夫斯基的艺术》的歌。所以，汤姆·莱尔巧妙地抄袭了一首歌，并将其内容变成了关于抄袭，然后又将其内容变成了关于这位研究非欧几里得几何的数学家。这就像给孩子注射海洛因。它极具成瘾性，并最终把我引向了许多不同的地方。其中一个可能就是数学博士学位。
——而且，我相信他至少曾在哈佛大学担任过数学讲师，是吗？
——是的，事实上，我刚和他共进晚餐。我儿子十三岁生日时，我们没有告诉他，但他的成人礼礼物是与他的偶像汤姆·莱尔共进晚餐，汤姆·莱尔当时八十八岁，头脑敏锐，无所畏惧，而且非常有趣，你知道，世界上很少有人在你还在世时必须见到他们，而这绝对是我们家的一次。
——所以，那种机智在某种深刻的意义上是智力的反映。就像，如果你是汤姆·莱尔的粉丝，那将是衡量智力的一项好测试。那么，你认为机智是怎么回事？关于那种幽默，那种看到存在荒谬的能力？你认为这与智力有关，还是我们只是两个喜欢那种幽默的犹太人在麦克风前？
——不，我认为这绝对与智力有关。你可以看到，汤姆·莱尔决定要嘲讽吉尔伯特和萨利文的吉尔伯特，他要用巧妙、无意义的文字游戏来超越吉尔伯特，他有，我忘了，嗯，让我们看看。他把《克莱门汀》写得好像吉尔伯特和萨利文写的一样，他说，我错过了她，她让她年轻的妹妹埃丝特很沮丧。这个男人纠缠她，她试图纠缠。纠缠的妹妹是溃烂的脓疮，你最好抵制她，我说！妹妹坚持，男人拒绝，我吻了她，所有的忠诚都消失了。当她说我能拥有她时，她妹妹的尸体一定在坟墓里翻身了。这太密集了。太疯狂了。
——是的。
——这显然是智力，因为要构建这样的东西很难。如果我看看我最喜欢的汤姆·莱尔的歌词，你知道，有一句完全荒谬的歌词是，“曾经所有的德国人都好战而卑鄙，但这种情况再也不会发生了。我们在1918年给了他们一个教训，从那时起他们几乎没有打扰过我们。”
——对。
——这是一种不同的智力。你知道，你把如此可怕的东西变得可以接受和有趣，同时也展示了你的人性。我的意思是，我认为，尽管汤姆·莱尔写了所有这些可怕的、糟糕的歌词，但真正体现出来的是他是一个多么敏感而美好的灵魂，他通过幽默和优雅来传递痛苦。
——我在欧洲各地，在俄罗斯各地都看到过，二战一代也出现了同样的幽默。似乎那种幽默是处理战争造成的痛苦和折磨所必需的。
——嗯，你需要环境来创造广阔的斯拉夫灵魂。我不认为很多美国人真正欣赏俄罗斯的幽默，你知道，在斯大林时期的第五十八条时期，你不得不多么小心。你知道，像《鳄鱼》这样的俄罗斯讽刺杂志的概念是没有意义的。所以，你有一个跨文化的问题，即人类体验的某些领域，最好一无所知，而不幸的是，东欧对它们了解很多，这使得弗拉基米尔·沃耶沃茨基的歌曲如此有力。你知道，普希金的散文，不管是什么。你必须欣赏东欧经验的深度，我想，也许美国人在内战时期，或者在奴隶制和吉姆·克劳时期，甚至在劳工战争期间煤炭和钢铁雇主的严酷暴政时期，也曾经历过类似的事情。但总的来说，我想说，我们很难理解和想象集体文化，除非我们有选择压力系统，例如，俄罗斯人就受到了这种压力。
——是的，所以如果战争带来的一件好事是文学、艺术、幽默和音乐。
——哦，我不这么认为。我认为战争几乎所有好的方面都除了死亡和毁灭。
——对。没有死亡，它就会带来浪漫，整个事情都很美好，但是——
——嗯，这就是为什么我们总是被战争所困扰。我们对它有一种非常模糊的关系，那就是它让生活变得真实、紧迫和有意义，但代价是不可接受的，而且代价从未如此之高。
——那么，让我们稍微谈谈人工智能。在你的一次谈话或一个视频中，你描述了人工智能系统无法做到的事情，而生物系统可以做到，那就是在物理世界中自我复制。
——[埃里克]哦，不，不。
——在物理世界中。
——嗯，是的。物理机器人无法自我复制，但有一个非常棘手的点，那就是我们唯一能够创造的真正复杂的东西，它拥有我们生殖系统的类似物，那就是软件。
——但尽管如此，软件还是会自我复制，如果我们严格地说复制是在这种数字空间中。那么，让我先问一个问题。你认为物理世界和数字世界之间存在一个保护屏障或差距吗？
——我们不要称之为数字。我们称之为逻辑世界与物理世界。
——为什么是逻辑？
——嗯，因为即使我们有，比如说爱因斯坦的大脑被保存下来，作为一个物理对象对我们来说是毫无意义的，因为我们在逻辑层面无法处理它存储的东西。所以，一个东西可能在逻辑上存储，并且可能在物理上存储，这两者并不一定，我们并不总是从同义化中受益。我并不是说逻辑世界没有物质基础，而是它确实需要与一个不需要调用逻辑门和零和一的独立层进行识别。
——那么，连接这两个世界，逻辑世界和物理世界，或者仅仅是连接我们大脑中的逻辑世界，爱因斯坦的大脑，你提到了“外智力”这个概念。
——[埃里克]人工智能。
——人工智能。
——是的，这是约翰·布罗克曼唯一邀请我写但拒绝在Edge上发表的文章。（莱克斯轻笑）
——为什么？
——嗯，也许写得不好，但我不知道。
——这个想法很有说服力。至少从我的角度来看，它是非常独特和新颖的。也许你可以解释一下？
——当然。我当时在想，为什么我们要等着被通用人工智能吓到？事实上，人工智能本身就令人恐惧，而且它已经存在了。所以，为了有一个选择压力系统，你需要三个独立的要素。你需要种群内的变异、遗传性和差异性成功。所以，真正独特的是，我在这里，我想，关于软件，如果你想想人类知道如何建造令人印象深刻的东西。所以，我总是以汽车为例，问它是否有我们生理系统的类似物？它有骨骼结构，那就是它的框架。它有神经结构，它有一个车载电脑。它有消化系统。它唯一没有的是生殖系统。但如果你能把繁殖看作一个过程，那么你实际上就有一个生殖系统。这意味着你可以创造出具有变异、遗传性和差异性成功的东西。现在，思考链的下一步是，我们在哪里看到无生命的、非智能的生命在智胜有智能的生命？我有两个最喜欢的系统，我尽量坚持它们，以免分心。其中之一是Ophrys兰花亚种或亚类，我不知道该怎么称呼它。
——那是某种花吗？
——是的，它是一种花，它模仿授粉昆虫的雌性，以欺骗雄性参与所谓的假交配，与假雌性进行交配，这通常由花瓣的最低部分代表，还有一个信息素成分来欺骗雄性，让它们认为有机会交配。但花朵不必以花蜜的形式付出能量作为诱饵，因为它在欺骗雄性。另一个系统是密苏里州清澈溪流中的一种特定的贻贝，Lampsilis，它欺骗鲈鱼咬住一个肉质的唇，里面有它的幼体，当鲈鱼看到这个肉质的唇，它看起来就像鲈鱼喜欢吃的鱼的种类一样，幼体就会爆炸并附着在鱼鳃上，寄生在鲈鱼身上，并利用鲈鱼来重新分配它们，当它们最终释放时。在这两个系统中，你都有一个高度智能的被欺骗者，被一种低等生命形式所欺骗。是什么塑造了这些令人信服的诱饵？是先前被欺骗目标物种的智力。所以，当目标足够聪明以避免这种策略时，那些较弱的模仿者就会消失，它们会走向终点，只有更好的模仿者才能生存。所以，这是一场目标物种被寄生，变得更聪明，而这个不太聪明或不聪明的物体变得好像更聪明之间的军备竞赛。所以，你看到的是，不需要通用人工智能来寄生我们。仅仅是我们自己欺骗自己就足够了，所以你可以有一个程序，比如说，那些尼日利亚骗局之一，它会写信，并利用任何发送它比特币的人来弄清楚程序的哪些方面应该保留，哪些应该改变和丢弃，而你不需要它以任何方式变得聪明，就能被一个根本不知道自己在做什么的东西寄生，从而陷入一场真正的噩梦。
——你把一些概念表达得非常清楚，所以让我试着，有几个方向可以发展。首先，在我们今天编写软件的方式中，允许它自我修改并不常见。
——但我们现在有这个能力。
——我们有这个能力。
——只是不常见。
——所以你的想法是，如果出现——那是一个严重的担忧。
——但自我修改代码现在就可以用了。
——所以有不同类型的自我修改，对吧？有个性化，你知道你的电子邮件应用程序，你的Gmail在你登录后会为你自我修改，或者无论如何，你可以这样想。但最终它是中心化的，所有信息都是中心化的，但你想到的是一个独特的实体在选择压力下运作，它会改变——
——嗯，你只是，如果你考虑到我们的免疫系统不知道接下来会发生什么，但它们有一套小的跨度组件，如果它是一个足够有表现力的系统，任何形状或结合区域都可以用现有的乐高积木来近似，那么你就可以确信，你不需要知道接下来会发生什么，因为组合学足以达到任何需要的配置。
——所以，这是一个美丽但可怕的担忧，因为它就在我们的掌握之中。
——每当我提出这些想法时，我总是担心我是否会通过谈论它们来实现它们。
——所以，下周OpenAI有一个活动，与OpenAI的创始人交谈，他们的新文本生成技术，他们不想发布，因为他们担心——
——我很高兴听到这个，但他们最终还是会发布的。
——是的，这就是我想说的，我认为谈论它，至少从我这边来说，我更倾向于技术预防，也就是说，进一步的创新来防止创新的有害影响。
——嗯，我们正在以加速的速度从山上滚下来。所以，无论我们是倡导者还是——
——这可能无关紧要。
——可能无关紧要。
——但我。
——嗯，可能不会。
——嗯，我确实觉得有些人一直阻碍着事情的发展，你知道，他们可能比本来更贫穷。我们甚至不知道他们的名字。我认为我们不应该忽视这样一个想法，即最聪明的人通过他们开发的东西来炫耀他们的聪明才智，这可能是一个终结过程。我特别注意到爱德华·泰勒写给利奥·西拉德的一封美丽的信，西拉德当时正在想办法控制第二次世界大战结束时原子武器的使用，而泰勒，奇怪的是，因为我们很多人都认为他是个怪物，却表现出了一些非常先进的道德思考，谈论我们生存的渺茫机会，唯一的希望就是让战争变得不可想象。我认为我们中很少有人能真正感受到我们正在玩弄的东西，当我们处理技术问题时，我建议任何还没有看过的人去看一部名为《桂河大桥》的电影，讲述的是被俘的英国战俘，他们仅仅是为了建造一座桥而与日本俘虏过度合作。
——嗯，现在你让我质疑对人工智能的无限制公开讨论。
——我不是说我知道答案，我只是说我可以为我们需要谈论这个问题并专注于技术上控制它，或者需要停止谈论这个问题并希望那些研究这些问题的人数相对较少，以至于我们应该谈论如何控制它，提出一个不错的论点。
——嗯，想法的产生方式，创新的发生方式，新想法的发展方式，牛顿的微积分。如果他保持沉默，这个想法会在别处出现吗？嗯，在牛顿的情况下，当然，但在人工智能的情况下，产生这种想法的个人群体有多小？这是个问题——
——嗯，我们知道的研究人员的想法，以及我们不知道的研究人员的想法。他们可能生活在不希望我们知道他们目前水平的国家，并且非常自律地保守这些秘密。当然，我要指出，在喀拉拉邦有一个宗教学校，它发展出了非常接近微积分的东西，当然就无穷级数而言，我猜是在宗教祈祷、韵律和散文中。所以，你知道，并不是牛顿有能力阻止它，我也不相信我们有能力阻止它。我认为我们可以改变我们花费在担心成功后果上的时间比例，而不是仅仅努力成功并希望以后能够控制事情。
——说得好。那么，关于“外智力”这个想法，它采取了什么形式，小心翼翼地前进，因为我们同意了，我们正沿着山坡滚落。什么形式——
——我们停不下来，对吧？
——我们不能。你看到了什么形式？例如，Facebook、Google，他们想，我不知道更好的词，你想影响用户以某种方式行事。这就是“外智力”的一种例子，系统可能在修改这些聪明人类的行为，以便销售更多不同种类的产品。但你是否看到了其他实际出现的例子？
——随便拿一个寄生系统，你知道吗？确保有一些方式，存在差异性成功、遗传性和变异性，这些就是神奇的配料。如果你真的想建造一个噩梦机器，确保表达变异性的系统有一个跨度集，这样它就可以通过使其足够有表现力来学习任意的水平。那就是你的噩梦。
——所以，这是你的噩梦，但它也可能是一个创造强大系统的强大机制。那么，你是否更担心它可能走向的负面方向，而不是正面方向？所以，你说寄生，但这不一定意味着系统会趋向于此。它可以是，是什么，共生——
——嗯，寄生，寄生和共生之间的界限并不那么清楚。
——[莱克斯]他们就是这么跟我说的婚姻。我还是单身，所以我不知道。
——嗯，是的，我知道。我们也可以深入探讨这一点，但是嗯。（莱克斯大笑）不，我认为我们必须欣赏，你知道，你是否被自己的线粒体感染了？
——对。是的。
——对，所以在婚姻中你害怕失去独立性，但尽管美国治疗界可能非常关注共依赖，但谁说共依赖不是拥有一个稳定的关系来抚养孩子所必需的呢？这些孩子是最大程度的K选择，需要大量的照顾，因为你必须等十三年才能有任何生殖回报，而我们大多数人都不希望我们十三岁的孩子有孩子。这是一个非常棘手的分析情况。我想说，捕食者和寄生虫驱动着我们的大部分进化，我不知道是该对它们生气还是感谢它们。
——嗯，最终，我的意思是，没有人知道生命的意义，甚至幸福是什么，但有一些衡量标准——
——哦，他们没告诉你吗？
——他们没有，他们没有。这就是为什么所有的诗歌和书籍都被购买。你知道，有一些衡量标准，你可以通过这些标准来衡量这些人工智能系统四处游荡有多好。那么，你是否更担心软件，而不是对自我复制盗窃的想法感到乐观？
——我认为我们还没有真正感受到我们所处的位置。你知道，偶尔我们会醒来。9/11事件与我们在美国本土经历过的其他任何事情相比都是如此异常，以至于它完全出乎我们的意料，甚至这种可能性都存在。它实际上是一个非常有创造力和决心强的研发团队，深藏在阿富汗的腹地，向我们展示了我们存在某些漏洞，我们对此毫无防备，而没有人选择表达出来。我可以想到其中几件事，我不会公开谈论，它们似乎都与那些希望造成混乱和破坏的人迄今为止的想象力相对不足有关。我们这个时代，这个特定小时代的最大谜团是，自1945年我们展示了愤怒地使用核武器的能力以来，我们一直保持着惊人的稳定。而且，我们不知道为什么自那以后就没有发生过这样的事情。我们有过几次擦边球，有过错误，有过边缘政策，现在发生的是我们已经形成了一种感觉，哦，它永远不会发生。自从发生过如此危险的事情以来已经过去很长时间了，我们脑子里有了一个错误的观念，这就是为什么当我参加本·夏皮罗秀时，我谈到了恢复核装置的地上试验的必要性，因为有些人他们的发展经验表明，当，比如说唐纳德·特朗普和朝鲜在推特上互动时，哦，这没什么，这只是姿态，每个人都只是为了钱，人们有一种感觉，他们处于电子游戏模式，而自1945年以来，这一直是正确的判断。我们基本上一直处于电子游戏模式。这太令人惊讶了。
——所以你担心的是一代人没有经历过任何生存危机——
——我们活在其中。你看，你年轻。我不知道，再说一次，你来自莫斯科。
——[莱克斯]来自，是的。
——有一部电视节目叫《末日》，对一代在美国成长的年轻人产生了巨大影响，它讲述了核交换后的生活会是什么样子。我们没有经历过集体性的、具象化的体验，让我们思考过这个问题，我认为这是我们长者中最不负责任的事情之一，那就是提供这个美丽的花园，玫瑰丛上的刺都被拔掉了，所有的边缘都被打磨光滑了，所以人们形成了一种完全不真实的观念，那就是一切都会好起来的。那么，我是否认为我最关心的是AGI，或者我最关心的是热核交换或基因驱动，或者这些东西中的任何一个？我不知道。但我知道，我们在这里的时光，在这个非常漫长的实验中，是有限的，因为我们制造的玩具是如此令人印象深刻，而伴随它们的智慧却没有出现。而且我认为自1945年以来，我们的智慧确实有所提升。我们有许多危险、技术娴熟的玩家活跃在世界舞台上，然而，无论他们有多糟糕，他们都设法没有让我们陷入我们无法恢复的境地。
——冷战。
——是的，而冷战的距离，你知道，我非常清楚，实际上有一个俄罗斯的传统，在你的婚礼那天去参观一个纪念那些献出生命的人的纪念碑。你能想象吗？在你生命中最快乐的一天，你去向在斯大林格勒战役中战斗和牺牲的人们致敬。我不是共产主义的忠实粉丝，我得说，但俄罗斯人在苏联时期做了一些非常积极的事情，我认为让人们知道生活实际上有多严肃，俄罗斯的严肃模式比美国模式要好。
——而且，也许，就像你提到的，9/11之后有一个小小的回响，但是——
——我们不会让它形成。我们谈论9/11，但真正改变局面的是9/12。当我们都在那里，没有人想说话的时候。我们目睹了非常严肃的事情，我们不想冲向电脑，大声说出我们的深刻想法和感受。这是深刻的，因为我们醒了，短暂地醒了，我谈到了那种塑造我们生活的封闭的制度叙事，我一生中见过它崩溃了三次。其中一次是唐纳德·特朗普的当选，另一次是雷曼兄弟的倒闭，当时所有知道贝尔斯登不那么重要的人都知道雷曼兄弟意味着AIG就在后面，还有一次是9/11。所以，如果我今年53岁，我只记得全球叙事被真正打断了三次，这告诉你我们对事态发展的掌控程度有多大，你知道吗？我们经历了穆拉联邦大楼爆炸事件，但它并没有导致叙事破裂，它不够深刻。在9/12左右，我们开始从沉睡中醒来，而当权者不希望我们团结起来。你知道，他们的告诫是去购物。
——当权者，那么那股力量是什么？而不是指责个人——
——我们不知道。
——所以，无论那是什么——
——无论那是什么。
——沉默中。
——它有一个涌现的组成部分，也有一个故意的组成部分。所以，给自己一个包含两个组成部分的投资组合。其中一部分是涌现的，但其中一部分也是一种理解，即如果人们团结起来，他们就会成为一股不可思议的力量。而我认为你们现在看到的是，有一些力量在试图团结起来，也有一些力量在试图将事物分开，你知道，其中一个是全球主义叙事与国家叙事。从全球主义的角度来看，国家本质上是坏的。它们是暂时的，它们是民族主义的，它们是沙文主义的，这一切都是负面的，对于更倾向于国家语言的人来说，他们说，看，这是我纳税的地方，这是我服兵役的地方，这是我投票的地方，这是我拥有护照的地方。你凭什么告诉我，因为你搬到了一个地方，你可以赚钱，你选择抛弃那些你负有特殊和崇高责任的人。我认为，这些相互竞争的叙事一直在推动精英阶层的全球化视角，而越来越多的被剥夺权利的人正在说，嘿，我实际上住在一个地方，我有法律，我说一种语言，我有文化，你凭什么告诉我，因为你可以在遥远的地方获利，我对我的同胞的义务就大大减少了。
——所以，国家之间的这些紧张关系，以及等等，最终你认为为你的国家感到自豪，等等，这可能导致了战争的发生。它们最终是人性，对我们来说是好的，是各种各样的警钟。
——嗯，我认为这些是紧张关系。我的观点不是，我的意思是，失控的民族主义是一场噩梦。失控的国际主义也是一场噩梦。问题是我们试图将这些钟摆推向一个平衡的地方。我们对那些与我们共享法律和公民身份的人负有更高的关怀责任，但我们不要忘记我们对全球系统的关怀责任。我认为这是显而易见的，但我们面临的问题是，有些人可以通过放弃对系统内其他人的义务来获利，而这正是我们几十年来所经历的。
——你提到了核武器。我希望从你那里得到答案，因为你做的许多事情中，经济学是其中之一，也许你能理解人类行为，为什么我们还没有互相炸毁对方？但好吧，所以我们将——
——我不知道答案。
——是的。说我们真的不知道——这很重要。
——[埃里克]智慧的温和上升。
——智慧的温和上升，史蒂文·平克，我和他谈过，他有很多关于原因的好想法，但他——
——我不相信他的乐观。 （莱克斯轻笑）
——听着，我是俄罗斯人，所以我从不相信一个如此乐观的人——
——不，不，不，只是你在谈论一个看着一个系统的人，在这个系统中，越来越多的动能，比如战争，已经变成了势能，比如未使用的核武器。
——哇，说得太好了。
——你知道，现在我看着那个系统，我说，好吧，如果你没有势能修剪，那么一切都会变得越来越好。
——是的，是的，哇，说得太好了。只有物理学家才能做到，好吧。
——[埃里克]我不是物理学家。
——嗯，这是个脏词吗？
——[埃里克]不，不，我希望我是一名物理学家。
——我也是，我爸爸是物理学家。我可能余生都要努力达到他的水平。他可能也会听这个。
——嘿，爸爸。
——是的，（轻笑）。那么，你的朋友萨姆·哈里斯，非常担心人工智能的生存威胁。不是以你描述的方式，而是以更——
——嗯，他和埃隆在一起。我不认识埃隆。
——那么，你担心那种，你知道，关于，关于机器人系统或传统定义的人工智能系统本质上变得超级智能，比人类聪明得多，然后——
——嗯，它们已经如此了，而且它们还没有。
——当作为一个整体来看，你的意思是？
——我可以指很多事情，但肯定的是，我们认为许多只属于通用智能的事情并不需要通用智能。所以，这是其中一个巨大的觉醒，你可以仅凭统计数据写出一个相当令人信服的体育故事。而不需要看过比赛。所以，你知道，写生动的政治散文是否可能？是的，还不。所以，我们有点天马行空。关于国际象棋，我曾经在Quora上问过一个问题，但没有得到太多回应，那就是，计算机在国际象棋比赛中产生的最伟大的辉煌是什么？这与有史以来最伟大的比赛的问题不同。所以，如果你想到辉煌，那就是真正激励我们许多人将国际象棋视为一种艺术形式的东西。那些棋步和组合，展现出如此的才华、风度和灵魂。计算机在这方面并不擅长。它们是强大的位置怪物。最近，我们开始看到辉煌。
——[莱克斯]是的，一些特级大师已经通过AlphaZero认出了相当辉煌的东西。
——是的，这是一个例子。我们不知道那是AGI，但在像国际象棋这样非常受限的规则中，你开始看到高等水平的诗歌。所以我讨厌我们还在等待AGI的说法。AGI正在慢慢渗透我们的生活，就像我不认为蠕虫应该被视为非意识，因为它只有300个神经元。也许它只是拥有非常低水平的意识。因为我们不明白这些东西在规模扩大时意味着什么。那么，我是否担心这种普遍现象？当然，但我认为，我们许多人之所以为此烦恼，部分原因在于人类的需求。我们一直担心 Golem，对吧？
——[莱克斯]嗯，Golem是人造的——
——生命，你知道吗？
——[莱克斯]就像弗兰肯斯坦式的人物——
——是的，当然，这是犹太版本。弗兰肯，弗兰肯——
——是的，这说得通。
——抱歉，所以，但是我们一直担心创造出这样的东西，而且它越来越近，而且有方法让我们意识到，整个事情，我们所经历的整个生活背景，几乎肯定即将结束。我并不是说我们不会幸存下来，我不知道。我也不想说它明天就会到来。可能是300年，500年，但据我所知，没有计划，如果我们有三个可以居住的、在当前技术梦想中合理的星球；地球、月球和火星，而且我们有一个非常有竞争力的文明，仍然被迫使用暴力来解决无法仲裁的争端。我并不清楚我们是否有长远的未来，直到我们进入下一个阶段，那就是弄清楚爱因斯坦的速度限制是否可以被打破，这需要我们的源代码。
——我们的源代码，我们大脑里的东西，你的意思是我们的源代码？
——背景的源代码。无论是什么产生了夸克、电子、中微子。
——哦，我们的源代码，我明白了，所以这是——
——你指的是用更高级的语言写的东西。
——是的，是的，没错。你指的是低级，比特，甚至更低——
——对，这就是目前将我们困在这里的东西。我们甚至无法想象，你知道，我们有疯狂的计划来遵守爱因斯坦的速度限制。你知道，也许我们可以给自己下药，进入一种休眠状态，或者我们可以有多代人这样做。我认为所有这些都相当愚蠢。但我认为，想象我们的智慧会提高到我们可以拥有我们拥有的玩具，而我们不会使用它们500年，这也是相当愚蠢的。
——说到爱因斯坦，我有一个深刻的突破，当我意识到你离他只有一个字母之差。
——是的，但我也只差一个字母就成了费恩斯坦。
——嗯，你可以选择。好吧，那么，统一理论。你知道，你工作过，你享受几何的美。嗯，我其实不知道你是否享受它。你当然很擅长——
——我为之颤抖。
——为之颤抖。如果你是宗教人士，那就是——
——我不需要是宗教人士。它太美了，你无论如何都会颤抖。
——我刚读了爱因斯坦的传记，其中一种方式，你做的事情之一就是探索统一理论，谈论一个14维的观测者，其中嵌入了4维时空连续体。我只是好奇，在哲学层面，在高层次上，你如何看待超过四维的东西？当你谈论数学世界中比我们能感知到的维度更大的维度时，你如何尝试，它让你有什么感觉？你从中得到的东西是否不仅仅是数学？
——嗯，首先，朝我伸出你的舌头。好的，现在。（莱克斯轻笑）在你舌头的最前面。
——是的？
——有一个甜味感受器。旁边是咸味感受器，在两个不同的侧面。稍微靠后一点是酸味感受器，你不会给我看你的舌头后面有苦味感受器。
——[莱克斯]我总是展示好的一面。
——好的，但那是四维的味觉感受器。但你的舌头上也有痛觉感受器，可能还有热觉感受器。所以，假设你有一个。那就是六维。所以，当你吃东西时，你吃一片披萨，上面有一些辣椒，也许是墨西哥辣椒。你正在经历一种六维的体验，伙计。
——你认为我们是否过分强调了时间作为一个维度或空间的重要性？嗯，我们肯定过分强调了时间的重要性，因为我们有事物开始和结束，或者我们真的不喜欢事物结束，但它们似乎会。
——嗯，如果你把一个空间维度变成一个时间维度呢？你和我将在纽约市见面，然后说，我们什么时候在哪里见面？我说，我会在下午2点和上午11点在36街和莱克星顿大道见你。那会很混乱。
——嗯，对我们来说，思考时间太方便了，你的意思是？
——我们恰好处于一个令人愉快的境地，我们有三个空间维度和一个时间维度，它们以一种奇怪的织物编织在一起，我们可以用一点时间来交换一点空间。但我们仍然只有一个维度相对于其他三个维度被区分出来。这非常像格拉迪斯·奈特和皮普斯乐队。
——那么，哪个是为谁开发的？我们是为这些维度开发的吗？还是维度，或者它们一直都在那里，而且它不——
——嗯，你想象一下，没有一个地方有四个时间维度吗？或者两个空间维度和两个时间维度？或者三个时间维度和一个空间维度？那么时间就不起空间的作用了吗？你为什么想象你所在的领域就是全部？
——我当然不这么想，但我无法想象其他情况。我的意思是，我没有服用过阿亚瓦斯卡或任何那些药物。我希望有一天能做到，但是——
——与其去阿亚瓦斯卡，不如去二号楼。
——那里是数学家吗？
——[埃里克]是的，他们就在那里。
——[莱克斯]只是看看一些几何学？
——嗯，问问伪黎曼几何，那才是你感兴趣的。（莱克斯轻笑）
——[莱克斯]好的。
——或者你可以和萨满谈谈，然后去秘鲁。
——然后为那次旅行省点钱——
——是的，但如果你选择那样做，你就无法进行任何计算了。
——嗯，一种不同的计算——
——可以这么说。
——是的。我最喜欢的人之一，爱德华·弗朗哥，伯克利教授，畅销书《爱与数学》的作者，他说你是一个非常杰出的知识分子，能够提出如此美丽、原创的统一理论等想法。但你在学术界之外工作。那么，在发展真正原创、真正有趣的观点时，在学术界内外有什么区别？
——哦，这是一个糟糕的选择，一个糟糕的选择。所以，如果你在学术界内部这样做，你被迫不断地……表现出对共识的极大忠诚，并通过微小、几乎是微观的异端来区分自己，以建立你的声誉。而且你有非常能干的人和聪明的人一起工作，他们形成了非常深厚的社交网络，并且有非常高的行为水平，至少在数学领域，至少在理论物理领域是这样。当你走到外面，你会遇到疯子和疯狂的人。疯子，这些人通常不认同共识立场，而且几乎总是迷失方向。关键问题是，进步很可能来自一个奇迹般地设法留在系统内并能够承担更大程度的异端（这是不可思议的）的人吗？在这种情况下，那将是迷人的。或者，更可能的是，有人会从学术界之外保持一定程度的纪律，并能够利用不必不断确认对领域共识的忠诚所带来的自由。
——所以你已经描述了学术界在这种特定意义上的衰落。你发布了图表，老龄化教师的比例越来越大，年轻的越来越小，等等。那么，在这两个方向中，你更看好哪个？
——嗯，婴儿潮一代不可能永远坚持下去。
——这首先是普遍真实的，其次是在学术界——
——但这真的是我们现在所处的——
——是婴儿潮一代的控制。
——我们没有，我们习惯了像金融泡沫那样持续几年然后破裂。
——是的。
——婴儿潮一代的泡沫是一个非常长期的现象，所有的意识形态，所有的行为模式，规范，你知道，例如弦理论几乎完全是婴儿潮一代的现象。这是婴儿潮一代能够做到的事情，因为它需要非常高的数学能力。
——你认为弦理论不是一个原创的想法吗？
——哦，我的意思是，它对维内齐亚诺来说是原创的，他可能比婴儿潮一代年长，而且也有比婴儿潮一代年轻的人仍在研究弦理论。我并不是说在大型弦理论复合物中发现的任何东西都是错误的。恰恰相反。很多杰出的数学和物理学结构都是由弦理论家阐明的。我对这个名为弦理论的产品的可交付性有什么看法？我认为这基本上是一个为数学和几何才能极高的婴儿潮一代物理学家提供的平权行动计划，这样他们就可以说他们正在研究与量子引力相关的项目。现在还有其他方案。你知道，有像渐近安全这样的。你还可以想象其他事情。我不认为任何主要的计划有多大价值，但通过一个口号强加了如此程度的忠诚，嗯，你肯定不会质疑 x。嗯，我质疑弦理论计划中的几乎所有事情，这就是我离开物理学的原因。当你称我为物理学家时，这是一种巨大的荣誉，但我没有成为物理学家是因为我爱上了数学。正如我所说，在1984年、1983年，我看到这个领域正在走向疯狂，我看到数学，尽管有各种各样的问题，但并没有变得疯狂。所以，我没有在物理学领域学习，而是认为在数学领域研究相同的对象要安全得多。这需要付出巨大的代价。你失去了物理直觉。但重点是，它也不是一个朝鲜再教育营。
——你对以一种真正理解是否能将一切与量子理论等结合起来的方式来破解爱因斯坦的统一理论感到乐观吗？
——我的意思是，我自己在扮演这个角色。做到一定程度，然后把它交给更负责任、更专业、更有能力的社区。所以，我认为他们在很多信念结构上是错误的，但我确实相信，我的意思是，我与这群人有着一种深刻的爱恨关系。
——在物理学方面？
——哦，是的。
——因为数学家似乎要开放得多——
——嗯，他们是，也不是。他们对任何看起来像伟大的数学的东西都持开放态度。
——对。
——对，他们会研究一些对物理学不太重要的东西，但如果它是美丽的数学，那么他们就会有，他们对这些东西有很好的直觉。尽管数学家们很棒，而且我甚至可能在智力上，在马力水平上给他们优势，但理论物理学界是无与伦比的，是我们有史以来创造的最深刻的智力社区。它是第一名，在我看来，没有第二名。比如，在他们的业余时间，在他们的业余时间，他们发明了分子生物学。
——分子生物学的起源是什么？你是说物理学家——
——嗯，像弗朗西斯·克里克这样的人。许多早期的分子生物学家——
——是物理学家吗？
——是的，我的意思是，你知道，薛定谔写了《生命是什么》，这非常有启发性。我的意思是，你必须认识到，在基础研究领域，没有哪个社区能与理论物理学相提并论。而且，我非常批评这些人。我认为他们浪费了数十年的时间，并且虔诚地误解了物理学中问题的根源。但这是学术界有史以来见过的最伟大的智力崩溃。
——你认为这是崩溃还是低迷？
——哦，我害怕我们即将失去活力。我们负担不起支付这些人。我们负担不起给他们一个加速器来玩，以防他们在下一个能量水平上找到东西。这些人创造了我们的经济。他们给了我们雷达实验室和雷达。他们给了我们两件原子装置来结束第二次世界大战。他们创造了半导体和晶体管，通过摩尔定律驱动了我们的经济。作为粒子加速器的积极外部效应，他们创造了万维网，而我们却傲慢地问，为什么我们要用纳税人的钱来资助你们？不，问题是，你是否享受你的物理学美元？对，这些人签署了世界上最糟糕的许可协议。
——对。
——而且，如果他们仅仅为每次使用晶体管或URL，或享受他们在此期间提供的和平，通过他们开发的糟糕武器，或你的通信设备来收费。所有驱动我们经济的东西，我认为都源于物理学，甚至化学也源于物理学，分子生物学也源于物理学。所以，首先，你必须知道我非常批评这个社区。其次，它是我们最重要的社区。我们忽视了它，我们虐待了它，我们不认真对待它，我们甚至不——
为了让他们在几代人的失败之后进入康复中心。对，没有人，我的意思是，我认为在理论层面真正为标准模型做出贡献的最年轻的人出生于1951年，对吧？弗兰克·威尔切克。而且在理论物理学领域，自1973年、1974年以来，几乎没有什么事情能让某人前往斯德哥尔摩进行理论发展，从而预测实验。所以，我们必须明白，这是我们自己造成的。现在，话虽如此，在我看来，这些人表现得极其糟糕，因为他们没有承认自己真正处于什么位置，他们真正面临什么问题，他们实际上有多么确定。他们没有分享他们一些最杰出的发现，而这些发现是像规范场论这样的其他领域迫切需要的，至少数学家们可以分享，这是牛顿和莱布尼茨微积分的升级，而且他们也没有分享重整化理论的重要性，尽管这应该是所有科学领域处理不同层面和不同现象的标准的运作程序，所以————而你说的分享是指以一种传播到不同科学领域的方式进行交流吗？——这些家伙，理论物理学家和数学家都坐拥巨量的知识财富，对吧？他们有很多东西还没有在任何地方实现。我刚才在推特上，我想我提到了霍伯曼开关的演示，它展示了四面体的自对偶性，实现了它的联动机制。现在这就像是小事一桩，它制作了一个很棒的玩具，你知道，它建立了一个市场。——是的。——希望查克·霍伯曼能因此发财。好吧，你不知道这些牧师在他们的修道院里有多少伟大的东西。——所以，这真的是一种爱恨交加的关系吗？听起来更像是爱的那一边————[埃里克]我们现在所在的这座建筑。——是的。——是我真正促成美国科学院与美国国家科学基金会通过政府大学工业研究圆桌会议合作，利用外国劳动力摧毁美国学者的谈判能力。在基地的缩微胶片上。——博士后之类的？——哦，是的，那是在这座建筑里完成的。这不奇怪吗？——我真的在和一个革命者和激进分子说话————不，不，不，不，不，不，不，不。在智力层面，我绝对是普通的。我就是直截了当。我们所处的这个系统。这所大学在功能上是疯狂的。——[莱克斯]是的。——哈佛在功能上是疯狂的，而且我们不明白，当我们把这些事情搞错时，金融危机已经非常清楚了。有一段很长的时间，每个成年人，每个穿西装、说话低沉、名字后面带着正确学位的人。——是的。——都在谈论我们如何摆脱了波动性，我们正处于大缓和时期。好吧，他们都疯了。谁是对的？就像纳西姆·塔勒布。——对。——努里尔·鲁比尼。现在发生的是，他们声称市场疯了。但市场并没有疯。市场一直都很疯狂，而发生的是它突然变得理智了。好吧，这就是我们和学者们的情况。学者们现在就像疯帽子一样疯狂，而且这是显而易见的。我可以给你看一张又一张图表。我可以给你看内部讨论。我可以给你看阴谋。哈佛现在正在处理一个关于其有色人种申请者（碰巧来自亚洲）的招生政策的问题。所有这些疯狂都是为了让游戏继续下去。我们正在谈论的，就在我们谈论革命者这个话题时，我们正在谈论一场理智爆发的危险。——是的，你就是那个指出房间里大象的人————大象没穿衣服。——是这样吗？我本来想和乔·罗根谈谈这个，但时间不够了，但我认为你有一些，听你说话，你可能能够非常雄辩地谈论学术界不同领域之间的区别。那么，你认为科学、工程和人文学科在学术界在容忍度方面是否存在差异？从我的角度来看，我认为计算机科学和工程学可能更能容忍激进的想法，但这也许是我天真了。因为我总是，你知道，现在所有的争论都更多地发生在人文学科和性别研究等方面。——你见过美国数学学会发表的一篇题为《让开》的文章吗？——我没有，是什么————意思是，大学里担任数学职位的白人男性应该腾出职位，以便年轻的黑人女性能够接任，之类的。——这是关于多样性，我也想问你，但就严格意义上的思想多样性而言。——哦，当然。——你认为，因为你基本上说物理学界作为一个整体，在某种程度上变得有点不容忍新的激进想法，或者至少你说了————但最近有所改变。那就是，即使是弦理论现在也承认，好吧，短期内这看起来并不太有希望。对，那么问题是，如果你想用计算机科学的比喻来说，什么会让你进入期刊？你会花一辈子试图把某篇论文塞进期刊，还是它会被轻易接受？我们对提交者的特征以及哪些被采纳，哪些不被采纳有什么了解？所有这些领域都面临压力，因为没有哪个领域表现得如此出色，以至于它正在革新我们的说话和思考方式，以我们已经习惯的方式。——但你不认为，即使在理论物理学中，很多时候，即使是像弦理论这样的理论，你也可以谈论它，它最终会导致这个理论可以被检验的方式？——是的，最终是这样，尽管你看，关于波普尔和科学方法的说法，这是一种癌症和疾病，存在于非常聪明的人的头脑中。事情并不是真的这样解决的，而是这样检查的。——对，所以————理论和实验之间存在对话。但是，每个人都应该读保罗·狄拉克1963年在《科学美国人》上发表的文章，他在文章中，你知道，这很有趣。他把它当作是关于薛定谔方程和薛定谔未能推进自己的工作，因为他未能解释某些现象。关键在于，如果你的理论稍微有点偏差，它就不会与实验一致，但这并不意味着理论实际上是错误的。但狄拉克完全可以谈论他自己的方程，他预测电子应该有一个反粒子。由于当时唯一已知的带正电的粒子是质子，海森堡指出，那么你的反粒子，质子，应该和电子质量相同，这是否会使你的理论无效？所以，我认为狄拉克实际上可能很狡猾，他谈论的是他自己也在一定程度上被海森堡推离了自己的理论。但是，你看，我们过分强调科学方法、波普尔和证伪主义，因为它保护我们免受疯狂想法进入该领域。所以，你知道，这是一个平衡第一类错误和第二类错误的问题，而我们在这一个方向上已经达到了极限。——与此相反。让我来说说让我感到安慰的事情。比如生物学或工程学，归根结底，它能起作用吗？——是的。——你可以测试掉那些疯狂的想法。好吧，你看，你现在说，但有些想法确实是疯狂的，有些是正确的，所以。——嗯，有目前疯狂的预言。——是的。——对吧？所以你不想摆脱所有那些预言疯狂但目前疯狂的人。问题是我们没有普遍的标准，来确定谁的职业生涯必须被牺牲，谁必须被保护，作为某种巨大的时间浪费者，他可能会改变一切。——你认为这可能吗？创造一个选择性的机制————好吧，你不会喜欢答案，但它来了。——[莱克斯]哦，天哪。——这与非常人性化的元素有关。我们试图在规则和公平的层面上做到这一点，这行不通。因为唯一真正理解这一点的是，你读过《双螺旋》吗？——这是一本书？——哦，你必须读这本书————哦，天哪。——吉姆·沃森不仅半发现了DNA的三维结构，他还是一个非常出色的作家，在他变成一个混蛋之前。不，他试过了——是的，就像他一样。——去摧毁他自己的声誉————我知道他是个混蛋，我不知道他是个好作家。——吉姆·沃森是当今在世的最重要的人之一，正如我之前所说，吉姆·沃森的遗产太重要了，不能留给吉姆·沃森。那本书告诉你更多关于什么真正能推动事物发展。我的意思是，关于他还有另一个故事，我并不同意，那就是他从罗莎琳德·富兰克林那里偷走了所有东西。我的意思是，他与罗莎琳德·富兰克林之间的问题是真实的，但我们应该通过深入研究来纪念我们历史上的这种张力，而不是简单地解决问题。吉姆·沃森说弗朗西斯·克里克是个混蛋，每个人私下都知道他非常聪明。还有一次，埃尔文·查尔加夫（Erwin Chargaff）遇到了沃森和克里克，他提出了核苷酸之间的等摩尔关系，他本应该获得DNA结构的功劳，而他谈到了错过了生物学心跳中的一丝颤动，这些东西太美了，仅仅想到它们就会让你颤抖。你看，我们常常知道谁是应该被惧怕的，我们需要资助那些我们惧怕的人。那些浪费我们时间的人需要被排除在对话之外。你看，你知道，我们可能在这两个方向上都会犯一些错误，但我们认识我们自己的人。我们知道那些可能会成功的混蛋，我们也知道那些真正只是吹牛的人，他们大多数时候贡献很少。这不是100%，但你无法通过规则来实现。——对，这是使用某种直觉。我的意思是，说实话，我让你翻白眼一秒钟，但第一次听说有一大群人相信地球是平的，这真的让我停下来问自己————为什么会有这样一个群体？——是的，地球有可能真的是平的吗？所以我得等等，等等。我的意思是，然后你经历了一个我认为非常健康的过程。我认为它最终会变成一个几何学问题。至少这是一个有趣的思维实验。——好吧，你看，我不，我做的是另一个版本。我说，为什么这个群体如此稳定？——是的，这是一个很好的分析方式。——有趣的是，我们所做的一切并没有消除这个群体。所以，你知道，他们是在打一场不会成功的长远赌博，你知道吗？也许我们还没有充分考虑到根号二的合理性，也许某个聪明人会想出来。也许我们最终有一天会登陆木星表面并探索它。对，这些都是永远不会发生的可怕的事情。——所以，社交媒体的很大一部分是通过人工智能算法运作的，我们稍微谈过这个，推荐你看到的内容。那么，关于激进思想这个想法，人工智能应该在推特等平台上向你展示多少你不同意的内容？在推特宇宙中————我讨厌这个问题。——是的？——是的。——因为你不知道答案？——不，不，不，不。你看，他们把这种认知乐高推给了我们，只会导致疯狂。与你不同意的事情进行辩论是好的。你的答案是，不。它应该与你目前不同意但可能是真实的事情进行辩论。我真的不在乎我是否同意某事或不同意某事，我需要知道为什么这个特定的令人不快的事情被推送给我。是因为它很可能是真的吗？是因为，有什么原因吗？因为我写了一个计算机生成器来产生无数个令人不快的陈述，没有人需要看。所以，请在我面前推送令人不快的东西之前，告诉我原因。——这个问题有一个方面是相当愚蠢的，尤其是因为它被这些不同的网络非常笼统地用来表示，嗯，我们正在努力解决这个问题，但是，你知道，基本上，你看到你讨厌的东西的价值有多少？不是你不同意的东西，因为很难确切地知道你所表达的，对你来说重要的是你需要考虑你不同意的东西。这真的很难弄清楚。底线是你讨厌的东西。如果你是希拉里·克林顿的支持者，看到任何关于唐纳德·特朗普的事情都可能让你感觉不好。这是算法目前唯一真正能优化的东西。它们真的不能————不，它们可以做得更好。——你认为呢？——不，我们正在进行一场愚蠢的来回争论，我不知道为什么那些有能力建立谷歌、Facebook、推特的人会让我们进行如此低水平的讨论。他们不知道任何聪明人吗？他们没有那些能提升这些讨论的人的电话号码吗？——他们有，但是————请，不，不，不。——他们正在优化其他东西，他们正在把那些人排除在外。——不，他们正在优化我们看不到的东西，是的，利润就在那里。没有人质疑这一点。但他们也在优化政治控制，或者他们正在巴基斯坦做生意，所以他们不想谈论他们在巴基斯坦所做的一切妥协。所以，我们正在进行一场虚假的讨论。——你认为呢，你认为谷歌内部正在进行如此深入的对话吗？你不认为他们有一些基本的指标来衡量用户参与度吗？——你们在和我们进行一场虚假的对话，伙计们。我们知道你们在进行一场虚假的对话。我不想参与你们的虚假对话。你们知道如何冷却这些设备。你们对高可用性了如指掌。我的Gmail几乎从不宕机。——所以你认为，仅仅因为他们在软件方面能够做出令人难以置信的基础设施工作，他们也能处理关于人类行为、人类理解的这些困难问题，你不是，（笑）。——我的意思是，我见过谷歌内部开发者屏幕的截图。——[莱克斯]是的。——而且我听说过Facebook和苹果内部的故事。我们不是，我们正在参与，他们让我们参与错误的对话。我们不是在这么低的水平。这是我最喜欢的问题之一。——是的。——为什么我购买的每一件文本基础硬件都配备了监听设备？我的物理快门在哪里可以遮盖我的镜头？我们在20世纪70年代就有这个了。他们有带镜头盖的相机，你知道吗？一个安全模型需要多少钱？多付五美元。为什么我的指示灯是软件控制的？为什么当我打开相机时，我看不到指示灯亮着，把它设为一个无法绕过的东西？为什么你们把我所有的设备都设置成监听设备，而且这对你们来说很困难，而我们甚至都不谈论这个问题。这他妈的简直是胡说八道。——好吧，我希望，所以。——等等，等等。——这些关于隐私的讨论正在发生，因为它们比你想象的要困难————不只是隐私。——是的？——这是关于社会控制。我们谈论的是社会控制。为什么我不能控制我自己的杠杆？只是有一个非常可爱的用户界面，我可以切换，我可以拨动东西，或者我至少可以看到算法是什么。——你认为这里有一些故意的选择————有涌现，也有意图。有两个维度。向量不会坍缩到任何一个轴上。但是，认为意图完全不存在的想法是一个孩子。——这说得太好了，就像你说的很多话一样，会让我————我能稍微转一下吗？——是的。——我和你坐下来，你说你痴迷于我的动态消息。——嗯哼。——我甚至不知道我的动态消息是什么，你看到了什么而我没看到？——我一直在痴迷地浏览你在推特上的动态消息，因为它非常有趣，因为有汤姆·勒尔的元素，里面有幽默感。——顺便说一句，那个动态消息是@ericrweinstein在推特上。——太棒了。——@ericrweinstein。——是的。——不，但说真的，为什么？——为什么我觉得它很有趣，或者我看到了什么？——你在找什么？我们为什么要这样做？这个播客是关于什么的？我知道你有很多有趣的人。我只是一个播客嘉宾。——某种播客，你甚至没打领带。我的意思是，——我甚至没打领带。——这甚至不是一次严肃的采访。我一直在寻找意义，寻找幸福，寻找多巴胺的释放，短期和长期的。——你是怎么找到我的？我真的不知道我怎么能联系到你。——代表那些对我来说是常识的观点，而很少有人在说。所以，这有点像“知识分子暗网”的那些人，对吧？这些人，从萨姆·哈里斯到乔丹·彼得森，再到你，都在说一些话，就像，你就像在说，看，那里有一头大象，他没穿衣服，我说，是的，是的，让我们多谈谈这个。我就是这样找到你的。——我非常想改变我们正在进行的对话。我非常担心2020年有选举。我认为我们负担不起อีก四年被误解的信息，唐纳德·特朗普就是这样，我不想我们的制度被摧毁。他们似乎都一心想摧毁自己。所以，我试图拯救理论物理学，试图拯救《纽约时报》，试图拯救我们各种各样的过程，我觉得这对我来说是妄想，这落到了极少数愿意发声的人身上，他们不会因为一切都被误解而吓坏，他们的生活会因此而毁掉。我的意思是，我认为我们正处于一个绝对疯狂的时期，我不认为这应该落在如此少数的肩膀上来承担这个重担。——所以，我必须问你关于资本主义的一面，你提到技术正在扼杀资本主义，或者产生一些并非有意，但也不是经济学家所预测或谈论的资本主义的效应。我想和你谈谈，总的来说，人工智能或技术自动化夺走工作岗位以及类似的事情的影响，以及你认为如何缓解这种情况。无论是安德鲁·杨总统候选人提出的普遍基本收入，UBI，你对此有什么看法？我们如何抵御技术的负面影响————好吧，你是个软件 guy，对吧？——是的。——人类是一个工人，这是一个古老的想法。——是的。——一个人是一个工人是不同的对象，对吧？——是的。——所以，如果你想到面向对象编程作为一种范式，一个人有一个工人，一个人有一个灵魂。我们谈论的是，在一段时间内，一个人拥有的工人能够养活一个人拥有的灵魂。然而，我们在社会价值方面有两个独立的声明。一个是作为工人，另一个是作为灵魂，而灵魂需要滋养，需要尊严，需要意义，需要目的。只要你的支持方式不是高度重复的，我认为你还有一段时间可以担心。但如果你所做的事情是高度重复的，而且不是非常具有生成性，你就会处于for循环和while循环的十字准口，而这正是计算机擅长的；重复性行为，当我说的重复性时，我可能指的是通过组合可能性从未发生过的事情，但只要它具有循环特性，你就有麻烦了。我们看到社会主义的巨大推动，因为资本家们迟迟没有解决这样一个事实：一个工人可能无法提出要求。我们社会中一个相对普通的普通成员仍然需要繁衍，需要尊严，而当资本主义抛弃了普通个体或底层的十分之一，或者无论它做什么时，它就是在玩火，而我担心的是资本家们不够资本主义，无法理解这一点。你真的想在我们的社会中招致威权控制，因为你看不出人们可能无法在市场上保护自己，因为他们劳动的边际产品太低，无法维持他们作为灵魂的尊严？所以，我最大的担忧是我们自由社会与我们是自我组织的这一事实有关。我记得在雷曼兄弟倒闭时，我从曼哈顿的办公室往下看，想着，谁会告诉所有这些人，当他们没有金融体系来激励他们上班时，他们需要上班？所以，我的抱怨首先不是针对社会主义者，而是针对资本家，那就是你们这些白痴。你们在招致革命，因为你们继续纠缠于那些老掉牙的想法，比如，努力工作，自力更生。是的，在某种程度上是有效的，在某种程度上。但我们显然正朝着一个方向前进，那里没有什么能将我们贡献的需要与我们消费的需要联系起来，而这可能无法由资本主义提供，因为它可能只是一个暂时的现象。所以，看看我关于人类资本主义和新噱头经济的文章。我认为人们对醒来的呼唤来得太晚了，而且我们会更好地拯救资本主义免于自身，因为我不希望这种情况在威权控制下发生，而且我们越坚持认为我们社会中那些在生育年龄没有蓬勃发展以组建家庭的人，在个人层面上是失败的。我的意思是，这是多么令人厌恶的事情。我们说了什么。我们变成了什么样子，我们如此接受芝加哥模式，以至于我们看不到我们在这个过程中正在摧毁的人性，我讨厌共产主义的想法，我真的讨厌。我的家人几十年前就曾接触过它，这是一个错误、糟糕的想法，但我们需要弄清楚如何确保这些灵魂得到滋养和尊重，而资本主义最好有一个答案。我押注于资本主义，但我要告诉你，我对我的团队非常失望。——所以你还在资本主义团队，只是有一个主题————[埃里克]好吧，激进资本主义。——对，超级资本主义，是的。——你看，我想要，我认为超级资本主义必须与超级社会主义相结合。你需要让最有生产力的人创造奇迹，你必须停止用所有这些额外的“好”要求来拖累他们。你知道，“好”已经死了。“善”有未来。“好”没有未来，因为“好”最终会导致古拉格。——该死，这句说得真好。好吧，最后一个问题。你今天发了一条推文，一个简单但相当有见地的方程，说“想象一下，你获得的每一单位名声，都会带来s个跟踪者和h个仇恨者”。我猜s和h取决于你成名的道路，也许有点————嗯，这并不简单。我的意思是，人们总是把这些话当真，当你有280个字符来解释自己时。——所以你的意思是这不是数学上的————不，没有法律。——哦，好吧，好吧。——我只是，我放了“想象”这个词，因为我仍然有数学家对精确的渴望。——是的。——想象一下这是真的。——但有一个美丽的方式来想象存在一个包含这些变量的定律————[埃里克]是的，是的。——而且你现在名声大噪，那么你如何通过你一路走来的那种特殊的声望来优化这个方程呢？我想要更善良。我想要对自己更善良，想要对别人更善良，我想要有心，有同情心，这些东西真的很重要，而且我有一种相当光谱化的分析方法。我非常字面化。我可以随时变成“雨人”。不，我可以，我可以。如果你愿意的话，这是一种选择性自闭症，而人们会生气，因为他们希望自闭症得到尊重，但是。当你看到我编码，或者你看到我做数学时，你知道，我说话有言语失语症，（口吃），晚饭就到了，你知道吗？——[莱克斯]是的。——我们必须努力将自己融入那些张力之中，你知道，这有点回到了我们作为工人，我们作为灵魂。我们中的许多人正在以牺牲另一个为代价来优化一个。我与社交媒体作斗争，我与人们威胁我们的家人作斗争，我与人们的痛苦作斗争。如果我有一个信息想传达出去，那就是你的责任，每个人，我们所有人，包括我自己，都在挣扎。拼命挣扎，因为没有人有责任替你挣扎。现在，话虽如此，如果你在挣扎，并且你在努力，并且你在努力弄清楚如何提升自己，以及你在哪里失败了，你在哪里辜负了你的家人、你的朋友、你的工人，所有这些事情，给自己一点休息，你知道吗？如果行不通，我一生都与失败和成功为伴。我生命中没有哪个时期不是以某种形式同时存在这两者。而且，我确实想说，很多人认为这很迷人。我马上要去，你知道，和萨姆·哈里斯一起做一个节目。——是的。——人们会听到两个人在舞台上交谈。这完全是疯狂的，我总是在想如何确保那些人获得最大的价值，这就是我做这个播客的原因，你知道，给自己一点休息。你欠我们你的挣扎。你不需要欠你的家人、你的同事、你的爱人或你的家人成功。只要你还在那里，并且你在努力站起来，认识到这种新的经济形势，它没有足够的动力来维持我们的制度，已经让那些登上这些制度顶端的人变得相当残酷和残忍。此刻每个人都在撒谎。没有人是真正的说真话的人。试着保持你的人性。试着认识到，如果你失败了，如果你没有达到你想要的位置，并且你在挣扎，并且你在努力弄清楚你做错了什么，你能做什么，这不一定都是你的错。我们正处于一个全球性的局面。我还没有遇到那些诚实、善良、优秀、成功的人。我遇到的人没有一个能打满分。没有人能得到满分。所以，我只是认为这是一个没有被充分强调的重要信息。要么人们想让社会为他们的失败负责，这是不合理的。你必须挣扎，你必须尝试。要么他们想说你对你的失败负100%的责任，这是完全胡说八道。——说得太好了。埃里克，非常感谢你今天的谈话。——谢谢你邀请我，伙计。