Transcription
以下是与 Pamela Romo Quarti 克的对话。她是一位作家，曾撰写有关人工智能的历史和哲学意义的文章。她的著作包括《思考的机器》（1979 年）、《第五代》（1983 年，与 Edie Foggy 合著）以及被认为是专家系统之父的 Minsky 的著作《混沌边缘》、《女性特征》等。
我以一种不寻常的方式接触到她的作品，偶然看到《思考的机器》中的一句话，大意是“人工智能始于古人想要塑造神明的愿望”。这是一种将我们社会与人工智能的关系联系起来的美妙方式，从日常的科学、数学和工程，到流行故事、科幻小说以及可以追溯到几个世纪前的自动机神话。
通过她的文学作品，她与人工智能领域的开创性人物有过很多接触，包括在 1956 年达特茅斯夏季研讨会上该领域得以启动的奠基人。我联系 Pamela 进行对话，希望能了解早期是什么样子，以及他们的梦想如何继续回响在我们今天的社区工作中。
我常常不知道对话会带我去哪里，但我会跳进去看看。没有限制、规则或目标是一种发现新想法的绝妙方式。
这是人工智能播客。如果您喜欢，请在 YouTube 上订阅，在 iTunes 上给予五星好评，在 Patreon 上支持，或者只需在 Twitter 上与我联系，我的用户名是 lex friedman，拼写为 fri d ma n。
现在，这是我和 Pamela McCourtik 的对话。
1979 年，《思考的机器》出版。您采访了一些早期的人工智能先驱，并探讨了人工智能的诞生并非源于数学和计算机科学，而是源于神话和传说。那么，如果您愿意，请告诉我您是如何首次创作这本书的，以及开始写作的旅程。
我曾是一名小说家，出版了两本小说。有一天，我坐在斯坦福大学我们租住的房子的门廊下，我想我应该写一本关于我认识的这些奇怪的人工智能领域的人的小说。然后我想，别写小说了，写一部历史吧，很简单，就是去采访他们，把它们拼接在一起，哇，一本即时书，哈哈。
这比那要难得多，但没有人这样做，所以我想，不，这是一个绝佳的机会。有些人，比如约翰·麦卡锡，认为这是一个疯狂的想法。这个领域还没有发展起来，所以他认为我应该写一些数学方面的东西，但我说，不，约翰，我不是一个在寻找项目的女人，这是我想做的，我希望你能合作。他说，哦，咕哝咕哝，好吧，这是你的时间。
那是在那个领域如此年轻的时候。您如何写一个如此年轻的领域的个人历史？
我说，这太棒了，这个领域的创始人还活着，还能谈论他们正在做的事情。他们当时是否觉得自己是创始人？他们知道自己已经创立了什么吗？
哦，是的，他们知道自己所做的事情非常重要，非常重要。我现在回想起来，他们正处于研究生涯的巅峰时期，这让我感到谦卑。他们从所有必须做的事情中抽出时间来与我交谈，因为他们在这里，并与一个说“我想写一本书”的女人交谈。哦，这真是太神奇了，太神奇了。
那么，也许回想 63 年前的达特茅斯会议，有哪些人物让您印象深刻？马文·明斯基在那里，麦卡锡在那里，克劳德·香农，艾伦·纽厄尔，赫伯特·西蒙，您提到的一些人，对吧？然后还有其他人物，对吧？您的合著者之一，对吧？
他没有参加达特茅斯会议。他没有参加达特茅斯会议，不。但我认为他当时是本科生。当然，还有乔·特劳特。我不是达特茅斯人，但在那个时代，对吧？就是这样。
那么，如果您能描绘一幅画面，有哪些人物让您印象深刻，或者您采访过的人的记忆？也许不是那些仅仅存在于那个氛围中的人。
当然，四位创始人都是非凡的人物，他们确实如此。
谁是创始人？艾伦·纽厄尔、赫伯特·西蒙、马文·明斯基、约翰·麦卡锡。他们是参加了达特茅斯会议的四个人，纽厄尔和西蒙带着一个名为“逻辑理论家”的有效程序来到那里。其他人都有关于如何做的绝妙想法，但他们还没有开始做。
您提到了乔·特劳特，我的丈夫。在我遇到乔之前，我一直在人工智能领域工作，因为我曾是斯坦福大学 Edie Gonzalez 的助手。在此之前，我曾与 Feigenbaum 和 Julian Feldman 编辑的书《计算机与思想》合作过，这是第一本人工智能读物教材。他们之所以这样做，是因为他们试图在伯克利教人工智能，而当时没有什么可用的。您必须将他发送到这个期刊，那个期刊，这不是互联网，您可以查找文章。
所以我从一开始就被人工智能迷住了。我是一名英语专业学生，我懂什么？但我仍然着迷。这就是为什么您看到了历史背景，但文学背景，我认为这是人工智能连续体中非常重要的一部分，人工智能源于同样的冲动。
是的，那种传统的，什么是什么？人工智能，您当时是如何想到它的？当时有哪些可能性？梦想？
我对人类头颅之外的智能的想法很感兴趣。这是一个非凡的想法。即使在我完成了《思考的机器》之后，我也不知道他们是否会成功。事实上，最后一章非常含糊不清，坦率地说，这个领域是否会成功。是的，是的。
这个想法是，人工智能始于塑造神明的愿望。那么，精神组成部分，我们渴望创造这个比我们自己更伟大的东西。对那些人来说，我不这么认为。纽厄尔和西蒙是认知心理学家。他们想模拟人类智能的各个方面，他们发现他们可以在计算机上做到。明斯基认为这是一件非常酷的事情。同样，麦卡锡。麦卡锡在 1949 年有了这个想法，当时他是一名加州理工学院的学生，他听了一个讲座。它就在我的书里。我忘了是谁。他想，哦，那会很有趣。我们怎么做？他采取了非常数学的方法。明斯基是混合的，纽厄尔和西蒙非常热衷于认知心理学。我们如何模拟各种关于认知，关于人类认知的事情？
多年来，我们的智能定义当然得到了极大的扩展。如今，生物学家乐于谈论细胞的智能，大脑的智能，不仅仅是人类大脑，而是任何类型的大脑的智能。头足类动物，我的意思是，章鱼非常聪明，无论如何我们都不会在 60 年代甚至 70 年代想到这一点。所以所有这些事情都融入了。我确实听到一位行为灵长类动物学家弗朗斯·杜瓦尔说，人工智能教会了我们该问什么问题。
是的，这就是发生的事情。当你试图构建它时，当你开始真正提问时。它就像一面镜子映照着我们自己。
是的，所以您在那里，在医学领域。似乎很少有人问您正在问的问题，您试图以您的方式看待这个领域。
我非常低调。当我为这个项目寻求资助时，因为我需要有人来转录采访，我需要旅行费用。我去了所有你能想到的地方，国家科学基金会，国防部高级研究计划局，有一个空军部门分发资金。他们每个人都说，嗯，那很有趣，那是一个非常有趣的想法，但我们会考虑的。国家科学基金会实际上用最直白的语言说，嘿，你只是一个作家，你不是科学史学家。我说，是的，这是真的，但你知道，科学史学家会到处研究这个领域。我为普通大众写作。所以我觉得，他们仍然不肯让步。我最终获得了一笔私人赠款，我不知道是谁给的，是 Ed Fredkin 和麻省理工学院。是的，他是个有钱人，他喜欢他称之为“疯子”的想法，他认为这是一个“疯子”的想法，他愿意支持它。我永远感激。
让我说，有些人会说，人工智能的科学史方法，甚至只是您写的书这样的历史，之后就没有再写过了。我不知道，也许我不熟悉，但肯定不多。如果我们考虑比这几十年的时间更长的时间，人工智能的根源是什么？
它们可以追溯到很久以前。是的，当然有所有传说中的东西，如 Golem 和 20 世纪的早期机器人。但它们可以追溯到更早。如果您读过荷马，荷马的《伊利亚特》中有机器人。几年前，一位古典学者向我指出，您只是读了《奥德赛》。《奥德赛》充满了机器人。我说，是的，您认为奥德修斯的船是如何从一个地方到另一个地方的？他没有两个人来做这件事，船员？这是魔法，是机器人。哇，我觉得多么有趣。
所以我们很长一段时间以来都有人工智能的概念。然后，在 19 世纪末，20 世纪初，有一些科学家实际上试图以某种方式实现这一点，但不成功。他们没有技术。当然，巴贝奇在 19 世纪 50 年代和 60 年代，他看到了他正在建造的东西能够进行智能行为。当他用完了资金，英国政府终于说够了。他和莱迪·洛夫莱斯决定，哦，为什么我们不玩这个呢？他还有其他筹集资金的想法。
但如果我们再次回溯，我认为人们并没有真正知道机器人确实出现在机器人概念中。您谈到了希腊和布拉格的观点。哦，是的。您能分别告诉我吗？
我这样定义它：希腊观点是机器人很棒，你知道，它们是派对帮手。它们帮助这个家伙，赫菲斯托斯，赫菲斯托斯在铁匠铺里制造了它们，我猜是为了帮助他，等等。它们欢迎机器人这个想法。布拉格的观点与第二诫有关，你不可制造任何雕像。换句话说，你最好不要开始模仿人类，因为那是被禁止的。这是第二诫。许多对人工智能的反应都有一种感觉，这在某种程度上是邪恶的，这在某种程度上是亵渎神明的，我们不应该去那里。
现在你可以说，是的，会有一些缺点，我说，是的，有，但亵渎神明不是其中之一。你知道，有一种恐惧感，感觉几乎是原始的。它们有宗教根源，因为我们的社会很大一部分有宗教根源。所以有一种感觉，就像您说的，亵渎神明，创造另一个，创造一些东西，你知道，它不一定是人工智能，而是创造生命。
嗯，这是弗兰肯斯坦的想法。是的，弗兰肯斯坦的注解在我桌上是一部伟大的小说，它确实非常敏锐。是的，我们确实害怕这个，我们有充分的理由害怕它。但因为它可能会失控。也许你能谈谈这种恐惧，心理学，如果你想过的话。
你知道，有一些实际的恐惧和担忧。短期内，你可以想到，如果我们真的考虑人工智能系统，你可以想到算法中的偏见和歧视。所以你可以想到它们的社交网络有算法推荐你看到的内容。这些算法控制着大众的行为。有这些担忧。但对我来说，人们的恐惧更深层。
您有没有想过它的心理学？
我肤浅地想过。有一种观念认为，如果我们制造出一台能够思考的机器，它就会比我们更聪明，从而取代我们。我想，这是一种原始的恐惧。是的，几乎是一种对死亡的恐惧。
所以，在你提到你在斯坦福大学与 Edie Phagon bomb 共事的时候。嗯。让我们看看那一个人，在这个人工智能的历史中，显然是一个关键人物，许多人之一。他周围发生了什么变化？斯坦福大学在过去多少年里发生了什么变化？我们在这里谈论多少年？从 65 年开始？
嗯，这不一定是他。我可以更大一些。但因为通常关键人物，例如专家系统，这些您采访过的人，在 79 年，在几十年里发生了什么变化？
就 Ed 而言，我知道他。我们是亲密的朋友，我们每个月左右见一次面。他告诉我，当《思考的机器》首次出版时，他真的认为所有前言都是胡说八道。十年后，他说，不，我明白了你的意思。是的，这是一种冲动，几千年来一直是一种人类冲动，创造一些人类头颅之外的东西，它具有智能。我认为当你处于算法层面，你只是想让某样东西起作用时，这本身就足够难了，很难退后一步，思考大局。
这让我想起我在圣达菲的时候，我认识很多考古学家，这是我的爱好。我会说，是的，是的，你可以看看碎片，说哦，这来自这个部落，这来自这个贸易路线，等等。但大局呢？一位非常杰出的考古学家告诉我，他们不那样想。你知道，他们试图将碎片与它的来源匹配。你知道，这些玉米的残余来自哪里？是本地种植的吗？还是在别处种植的？
我认为这是人工智能，任何科学领域的一部分。你太忙于做艰苦的工作，而且确实是艰苦的工作，以至于你没有停下来，说哦，现在，让我们来谈谈吧。你知道，这一切的普遍意义。
所以，即使是明斯基和麦卡锡，他们也没有。那些家伙，是的，创始人早就做到了，或者很早就做到了。他们有，但方式与我所看不同。两位认知心理学家纽厄尔和西蒙，他们想想象并改革认知心理学，以便我们真正了解大脑。明斯基更具推测性。约翰·麦卡锡认为，我想我对他很公平，他真的认为这项技术对人类来说是一大福音，这足以让他去做。他有很多关于如果你做数学，你就会看到这些东西对人类真的很好，如果你有技术上的反对意见，他有一个答案，一个技术上的答案，但我们可以如何克服它，然后 bla bla bla bla。
他最喜欢的事情之一是他称之为“文学问题”，当然他多次向我提出。那就是文学中的一切，文学中有惯例。文学的惯例之一是有一个反派和一个英雄。大多数文学中的英雄是人类，而大多数文学中的反派是机器。他说，情况不会是这样的，但我们习惯了。所以当我们讲述关于人工智能的故事时，总是用这种范例。
我想，是的，他是对的。回顾经典，您当然会看到机器试图推翻人类。弗兰肯斯坦不同。弗兰肯斯坦是一个生物，他从来没有名字。弗兰肯斯坦当然是创造他的人，人类弗兰肯斯坦医生。这个生物想被爱，想被接受。只有当弗兰肯斯坦转过头，实际上跑开时，生物才没有爱，他才变成了后来变成的怪物。
那么，弗兰肯斯坦中的反派是谁？不清楚，对吧？
哦，不清楚。是的，真的不清楚。是那些驱使他的人。把他们推开。他们把他最糟糕的一面激发出来了。是的，他们没有给他任何人类的慰藉，他被赶走了。你说得对。他一度成为一个盲人的朋友，他们成了非常好的朋友。但当那个盲人家庭的视力正常的人来时，啊，你这里有个怪物。所以它在某种程度上是非常说教的。
我不知道的是，玛丽·雪莱和珀西·雪莱是美国废奴主义文学的忠实读者。他们全盘接受了这一点。你知道，你正在把这些人变成怪物，因为你不给他们应有的尊重和爱。
如果我们稍微哲学一点，你是否担心一旦我们创造出比我们更聪明的机器，比如 Roomba，那个吸尘器，那个清洁工，人类的黑暗面，我们虐待另一个人，一个不同的人，会显现出来？
我不担心。我可以想象它会发生，但我认为人工智能将为人类提供的将是如此有吸引力，以至于人们会被说服。
所以你深入研究了这些人，进行了深入的对话，是的，了解他们的故事，他们的思维方式，以及它如何改变了您自己对人工智能的看法，这很有趣。
麦卡锡先生，他在卡内基梅隆大学与乔共事了多年。
乔不在人工智能领域，他在算法复杂性领域。人工智能和计算机科学之间一直有一条界限吗？例如，人工智能是一个独立的流浪者之地吗？
人工智能确实有一段流浪者时期。例如，在 1974 年，这个新领域才刚刚十年。计算机科学这个新领域被要求，我相信是国家科学基金会，或者可能是国家科学院，我记不清了，告诉我们的科学家同行，计算机科学是什么，它意味着什么。他们想排除人工智能，他们只同意将其纳入，因为唐·克努斯说，嘿，这很重要，你不能就这样排除它。
真的？唐·克努斯？是的。
我跟克努斯夫人谈过。在所有这些人中。是的。
但你看，是的，一个人工智能领域的人无法提出那个论点。他不会被相信。但克努斯被相信了。
所以乔在做真正的事情。乔在研究算法复杂性，但他会一次又一次地用最直白的语言说，我认识的最聪明的人都在人工智能领域。真的？哦，是的，毫无疑问。
总之，乔爱这些人。发生的事情是，我想当我开始写《思考的机器》时，赫伯特·西蒙和我成了非常亲密的朋友。他每天下班后都会经过我们北安普顿街的房子。我正要把打字机盖上，我会从门探出头说，赫伯，你想喝杯雪利酒吗？赫伯几乎总是想喝杯雪利酒。所以他会停下来，我们谈一两个小时。我的日记说，我们今天下午谈了三个小时。
当时他脑子里有什么，关于人工智能方面的事情？
哦，我们没有太多谈论人工智能。我们谈论其他事情，生活。我们都热爱文学，赫伯读过普鲁斯特的原版法语两次。我只能读英文译本。所以我们谈论文学，谈论语言，谈论音乐，因为他热爱音乐。我们谈论艺术，因为他实际上是一位画家，他不得不放弃，因为他担心这会影响他的研究，等等。所以，不，真的只是聊天，聊天，但非常温暖。
所以一个夏天我说，“赫伯，你知道吗？我的学生们都有一些非常有趣的谈话。我当时在匹兹堡大学英语系任教。你知道，他们可以谈论生命的意义之类的事情。而我有什么？我有大学会议，我们谈论复印预算，以及浪漫诗歌课程应该是一个学期还是两个学期。”
赫伯笑了，他说，“是的，我知道你的意思。他说，但你知道，你可以做些什么。”
“那是他的妻子，多萝西娅。我过去每周日晚上在芝加哥大学举办一个沙龙，我们基本上是开放门户，人们知道这不是闲聊，而是真正为了某个有深度的议题。”他说，“但我的建议是，你提前选择议题。”
“好的，”我说。所以接下来的夏天，我们通过邮件交换了信息，那时是邮寄，因为我们没有个人电子邮件。我们，我决定组织一下，我们八个人。艾伦·纽厄尔和他的妻子，赫伯特·西蒙和他的妻子多萝西娅。镇上有一位小说家，名叫马克·哈里斯。他刚刚到达，还有他的妻子约瑟芬。马克当时最有名的是一本关于棒球的小说《敲响慢鼓》。还有乔和我。所以八个人，我们每月聚会一次，我们深入探讨了真正困难的话题，这非常有趣。
在写《思考的机器》及其后续影响的过程中，您自己对人工智能的看法发生了怎样的变化？
我有点怀疑这一切是否会成功。这对我来说无关紧要，这太大胆了，整个事情，人工智能，人工智能，一般而言。是的。在某些方面，它并没有像我预期的那样发展。也就是说，得益于深度学习等等，有很多很棒的应用，但那些是算法的。而在符号处理方面，目前还很少。是的，这就是等待勤奋的毕业生的领域。
也许您可以告诉我一些在 80 年代与专家系统一起出现在您生活中的人物？有象征性人工智能的可能性，也就是大多数人所认为的人工智能。如果您梦想着人工智能的可能性，它实际上是专家系统。那些遇到了一些障碍，在那里有一些挑战。我想是的，它们会随着一些新的突破等等而再次出现。但那是什么感觉？可能性和随后的冬天，放缓？
啊，关于人工智能的冬天，对我来说都是胡说八道。冬天是因为我看了 80 年代的基础研究，我的天哪，那真的很重要。它奠定了没有人想过的事情，但这是基础研究，你无法将其货币化，因此有了冬天。是的。
你知道，科学研究是断断续续的，它不是这样平滑的，这个跟着那个，这个跟着那个，不。哦，你知道，它就是这样运作的。冬天发生的方式很有趣。这从来不是研究人员的错。这是，这是，一些炒作，过度承诺。
好吧，让我收回那句话。有时是研究人员的错。有时某些研究人员可能会过度承诺他们自己相信的可能性，他们认为我们只需要几年时间。就像最近我刚和你谈过埃隆·马斯克，他相信他将在一年内拥有自动驾驶汽车。他相信一年，一年，是的。将大规模部署。为了记录，现在是 2019 年。是的。他说的是 2020 年。
要做到不可能，你真的必须相信它。我想当您相信它时，因为他身边有很多非常聪明的人，一些很棒的东西会从中出来，一些意想不到的突破会从中出来。当你真的相信它时，当你如此努力地工作时。我相信，我相信自动驾驶汽车会到来。我只是不相信它会在一年内到来。我希望如此，但尽管如此，自动驾驶汽车是一个很好的例子。许多公司承诺在 2021 年之前，在 2022 年之前，通用汽车，基本上所有汽车公司都承诺将拥有自动驾驶汽车。
所以这种过度承诺会导致冬天，因为它会到来，而那些日期将不会有自动驾驶汽车。然后就会有一种感觉，等等，如果我们相信您当时的话，这意味着我们花了数十亿美元，却一分钱没赚到。然后就会有一种反击，每个人都放弃了它，在智力上和各个层面。希望就破灭了。剩下的只有几个基础研究人员。
所以您对这个想法的某些方面感到不适？
嗯，这是科学和商业的区别。所以你认为科学会占上风？科学会继续下去吗？
哦，是的。科学可能会因为没有获得适当的或及时的资助而被扼杀。我认为英国是一个完美的例子。怀特希尔报告，还记得吗？基本上说，英国再往这方面投入任何钱都没有用，它毫无用处。这都是关于英国的社会派系。埃德·莫罗讨厌剑桥，剑桥讨厌曼彻斯特。其他人可以写那个故事。但它确实对那里的研究产生了重大影响。现在他们凭借 DeepMind 卷土重来了。
但那是一个人和他周围的远见者。但只是为了继续这一点，有点有趣的是，您不喜欢“人工智能冬天”这个想法。这个词，它来自哪里？您在哪里？
哦，因为我就是不认为它是真的。有一个特定的时期，这个浪漫的观念，当然。是的。不，我比我崇拜商业更崇拜科学。商业很好，嘿，我们都得生活。但科学的视野比商业更长远，并且几乎不顾一切地继续下去。它不能完全不顾一切地继续下去，但它几乎不顾一切地继续下去，无论什么可销售，什么不可销售，什么可货币化，什么不可货币化。所以冬天只是商业方面发生的事情，而科学方面则不然。
所以，这似乎是一个非常乐观和鼓舞人心的信息。我同意您的观点。我认为如果我们看看人工智能领域工作的关键人物，以及大多数学科的关键科学家，他们出于对科学的热爱而继续工作，无论如何，您总能筹集到一些资金来维持生计，他们会继续勤奋地工作。但现在肯定有大量的资金，而且人工智能领域和深度学习领域存在担忧，担心我们可能会因为过度承诺而再次放缓资金，这确实会影响学生人数，你知道，那种事情。
是的，它确实会。那么，像《思考的机器》这样的想法，您在随后的几十年里继续保持了这种好奇心吗？
是的，我做到了。您对人工智能领域如何演变的看法是什么？关于它的对话，它的工作，它是否从诞生之初就一直以同样的方式持续下去？
不，当然不是。就像我们刚才谈到的，符号人工智能确实枯竭了，一切都变成了算法。我记得一位年轻的人工智能学生告诉我他在做什么。我离开这个领域已经足够长了，我参与了圣达菲研究所的复杂性研究。我想，算法，是的，你在表面上。但它们不是主要事件。
不，它们成了主要事件。这让我感到惊讶。我们都知道这其中的缺点。我们都知道，如果你使用算法来做决定，基于其中包含的数十亿人类决定，那么人类所有的错误，更宏大的树木，短视等等，都包含在其中。
所以您提到了圣达菲研究所。通常，您写了小说《混沌边缘》，但它受到了复杂性思想的启发，而复杂性思想在圣达菲研究所得到了广泛的探索，对吧？
是的。这是一个同样迷人的话题，就是从混沌中涌现的复杂性。没有人真正知道它是如何发生的。似乎所有有趣的事情都发生在那里。那么，第一本不是小说，而是复杂性，以及圣达菲研究所的工作，如何融入人工智能历史的更大谜团，或者甚至您个人的旅程？
我做的最后一个与人工智能相关的项目是研究画家哈罗德·科恩的作品。哈罗德深深地参与了人工智能。他首先是一位画家，他的终生项目“艾伦”反映了他自己的认知过程。
哈罗德和我，即使我写了一本关于他的书，我们之间也有很多摩擦。我以为，就是这样了，书死了，出版了，然后就陷入了困境。就是这样了，我完成了。是时候做些不同的事情了。
碰巧是我丈夫的休假年，我们在圣达菲研究所待了两个月，在加州理工学院待了两个月，然后在慕尼黑度过了春季学期。那两个月在圣达菲研究所对我来说非常恢复。我开始，研究所当时非常小，它在一个老圣达菲小径的办公综合体里。每个人都敞开门，所以你可以头脑风暴一个问题，如果你最终没能解决，你可以进去找斯图尔特·考夫曼，或者，你知道，很多人，说我没明白，你能解释一下吗？
我正在与默里·盖尔曼谈论复杂自适应系统。我告诉默里哈罗德·科恩做了什么，我说，你知道，这听起来像一个复杂自适应系统。他说，是的，它是。
那么，哈罗德的“艾伦”在世界各地，在科学和经济学等方面都有很多表亲。我松了一口气，我想，好吧，你的直觉是对的，你在做正确的事情。我没有词汇量。这就是圣达菲研究所给我的东西之一。如果我能重写那本书，它刚刚出版，我不能重写它。我会有词汇来解释“艾伦”在做什么。
所以我对研究所正在发生的事情非常感兴趣。人们再次聪明、有趣，并且愿意向这个业余爱好者解释任何事情。研究所所长乔治·考恩说，他认为我写一本关于研究所的书可能是一个好主意。我考虑了一下，我当时在关注其他项目，天知道是什么。我说，对不起，乔治。是的，我真的很想做，但你知道，现在对我来说行不通。
他说，哦，太糟糕了。我认为这会是一本有趣的书。好吧，他对了，我错了。我希望我做了，但那很有趣。我没想到，那是一条我希望我走过的未曾选择的路。
嗯，你知道，只是在这个观点上，作为一个作家，作为一个来自文学世界，文学思维，历史思维的世界，这确实是勇敢的。我假设人工智能或复杂性领域的人们都有很大的自负。您是怎么做到的？您是如何做到勇敢的？您从哪里找到勇气？这不仅仅是愚蠢的运气。
我知道，这是一个有趣的石头要翻过来。我要写一本关于它的书。你知道，人们对作家有足够的耐心，如果他们认为最终会有一本书，他们会让你到处摸索，等等。但他们也会看到，如果作家有，就像，他们眼中闪烁着光芒，他们明白了。当然。
您是什么时候在圣达菲研究所的？我说的那个时候是 1990 年。1990 年，1901 年，92 年。但后来，因为乔是外部教员，我们每年夏天都在圣达菲。我们在那里买了一栋房子。我不再与研究所有什么联系了。我在写我的小说，我在做我该做的事情。但我热爱研究所，我再次热爱它。那些想法的大胆确实吸引了我。我认为，就像在神经科学等伟大研究所一样，他们是为了理解现实和自然的根本问题而长期奋斗。这真的很令人兴奋。
那么，如果我们开始更近距离地看，人工智能今天非常受欢迎。您提到的算法领域，总的来说，人们通过流言蜚语听到的那种兴奋感，那种对话，与您记得的根源有什么不同吗？
不，同样的兴奋感，同样的“这真的会改变世界”的感觉，它确实做到了。你知道，很多人，尤其是年轻人，20 岁左右，他们认为我们刚刚发现了特别的东西，我们明天就会改变世界。
在时间尺度上，您是否对人工智能的突破有一个概念？
我真的不知道。因为看看深度学习。如果杰弗里·辛顿在 86 年提出了算法，但花了所有这些年，技术才足够好，能够真正应用。所以，不，我完全无法预测。我甚至不会尝试。
好吧，让我请您不要尝试预测，而是谈谈，你知道，我确信在 60 年代，就像现在一样，有人认为，让我们称之为，这个有趣的词，“奇点”。当有一个相变时，有一种深刻的感觉，我们都对所能实现的东西感到非常惊讶。我确信那些梦想都存在。我记得读过 60 年代的引语。
那么，您自己关于奇点的时间线看法是如何变化的？
嗯，我不怎么喜欢雷·库兹韦尔提出的奇点。
您会如何定义雷·库兹韦尔式的假期？
嗯，您如何看待奇点？如果我理解库兹韦尔的观点，那就是，将会有这样一个时刻，机器比人类更聪明，然后，游戏结束。无论游戏如何结束，他们会把我们放在保护区吗？他们等等等等。
首先，机器在很多方面都比人类聪明，而且自加法器发明以来一直如此。所以它不会像一个巨大的可食用的十字路口那样到来，你知道，它们在那里相遇，我们的后代，俄狄浦斯说，你的父亲。它就是不会发生。是的。
哦，计算器已经游戏结束了，对吧？它们已经比我们擅长基本的算术了。但你知道，有一种类似人类的智能，它不会摧毁我们，但你知道，一个你可以作为朋友的人。你可以有深厚的联系。那种通过图灵测试及以上。
这些想法，您梦想过吗？
哦，是的。是的。
在我与 Feigenbaum 合著的一本书中，有一个关于“老年机器人”的小故事。我是如何想到老年机器人的，这是一个故事本身。但这是“老年机器人”的功能。它不仅仅是清理你，喂你，然后把你推出去晒太阳。它最大的优点是倾听。它说，“再告诉我 73 年的伟大政变。再告诉我你的孙子孙女有多糟糕或多好，等等等等。”它不会在那里继承你的钱。它不会在那里，因为它找不到其他工作。这就是它的工作，等等等等。
我希望有这样的东西。哦，是的。我的意思是，这让我非常兴奋。所以我认为我们很多人都喜欢。
那是一个笑话。我梦到它，因为我需要和大学生交谈，我需要给他们一些关于人工智能可能是什么的想法。当我详细阐述时，他们笑得前所未有。当它被写进书里时，《纽约书评》给了我一顿痛骂。这就是我们对这些人关于人工智能的看法，他们不人道，来吧，别再这样了。
您不认为这对世界有好处吗？人工智能有可能做到这一点？
我当然认为。而且，你知道，我快 80 岁了。到我需要这种帮助的时候，我也希望它能自己滚到角落里，闭嘴。
让我再强调一下这一点。你真的吗？
是的。
这里。我想稍微反驳一下。但我看着我的朋友们经历了在家里找人帮忙的整个过程。有些人非常幸运，得到了很棒的帮助。有些人找来的人想让电视整天开着，或者整天打电话。所以基本上，你只能自己待在角落里。不幸的是，作为人类，当我们是助手时，我们仍然关心。即使我们在帮助别人，我们仍然更关心自己。所以你制造了更多的挫败感。而机器人人工智能助手可以真正优化你的体验。
我只是在谈论你提出的一个非常非常好的观点。但我说的是，作为人类，他们有点复杂。我们不一定想要一个完美的仆人。我可能不同意。但我觉得人类之间有一种拉锯战。
嗯。有点紧张，有点神秘。当然，这真的很难，失败了，但我觉得，尤其是在当今的社交媒体时代，人们越来越孤独，即使是年轻人，有时尤其是年轻人。这种孤独感，对联系的渴望。人工智能可以帮助缓解一些孤独感。只是有人倾听，就像面对面一样。
所以，可以说。是的。
所以，可以说。是的。对我来说，这真的很令人兴奋。
那么，如果我们看看那个智能水平，实际上非常难以实现。就像奇点，或者无论是什么。那是人们梦想过的，图灵梦想过的，他有一个时间表。您是否有？您自己的时间表是如何演变的？
我甚至不去想它。我甚至不知道。这个领域对我来说充满了惊喜。你只是接受它们，然后看看。我就是做不到。也许是因为我在这个领域待了足够长的时间，所以我想，你知道，不要走那条路。赫伯在预测何时会发生这种情况方面非常糟糕。他是一个明智的人。
他的引言经常被用作传奇。是的。
您对人工智能有担忧吗？许多人，比如埃隆·马斯克，以及萨姆·哈里斯等人，所说的存在威胁？
哦，是的。是的。这占据了我书中的半章。我称之为“男性凝视”。
嗯，“男性凝视”实际上是电影评论中的一个术语。我记不起是谁想出来的。她指出，大多数电影都是从男性视角制作的。女性是客体，而不是主体。她们没有任何能动性，等等等等。所以当埃隆和他的伙伴们，霍金等等出现时，我想，人工智能会吃掉我们的午餐，晚餐和宵夜。我想，什么？
我告诉 Ed Val，这是第一次。这些人一直是街区里最聪明的人。现在有一个可能更聪明的东西出现了。哦，让我们在它接管之前把它压垮。
他笑了。他说，我没那样想过。但我确实想过。而且确实是男性凝视。你知道，好吧，假设这些东西确实有能动性。那么，让我们等等看会发生什么。我们可以赋予它们道德吗？我们可以赋予它们同情心吗？还是它们只会是呃，呃。我们已经有了几百个这样的人了。
这很有趣，自负，男性凝视，立即受到威胁。所以你无法以耐心、冷静的方式思考技术可能带来的所有好处。
说到这里，在您 1986 年出版的《女性的未来》一书中。不，我认为当时，当然现在，我的意思是，也许当时，但我现在更具认知性。
非常相关。您和南希·拉姆齐谈到了女性在科学和技术领域四种可能的未来。所以，如果我们看看这本书发布前后的几十年，您能讲述一段女性在科学和技术领域历史吗？你知道，它是如何演变的？事物发生了什么变化？我们现在站在哪里？
不够。她们还没有改变得足够。女性在计算机领域被压垮的方式简直令人难以置信。
那么，书中女性在科技领域的四种可能未来是什么呢？您实际上是在看现在的各个方面。所以对于每一个，你可以说，哦，是的，我们有反击。看看堕胎发生的事情，等等。我们前进了一步，后退了一步。
“平等的黄金时代”是最难写的一章。我用了一些圣达菲研究所的东西，那就是沙堆效应。你非常缓慢地将沙子堆积在一个堆上，它会越堆越高，直到突然它就崩塌了。从某种意义上说，“我也是”就是这样。那是压垮一切的最后一粒沙子。那是一个完美的沙堆效应的例子。这让我感觉很好。它并没有改变整个社会，但它确实让很多人醒悟了。
但您总体上对未来感到乐观吗？
是的，我天生乐观。我忍不住。
人工智能呢？您的想法是什么？
我走了一条路。当然，我被问到我担心什么。我担心的是我们无法预料的事情。你知道，会有一些出乎意料的事情，我们会说，我们没有准备好。
我总体上是乐观的。当我开始对人工智能感兴趣时，就像该领域的大多数人一样，更多的智能就像更多的美德。你知道，有什么坏处呢？在某种程度上，我仍然相信这一点。但我意识到，我对智能的理解已经拓宽了。有许多种智能，我们需要将这些多种智能赋予我们的机器。
您现在刚刚完成或正在完成您的回忆录，您一直在写。您是如何改变的？写作本身，这个过程，如果您回顾一下，它带出了哪些让您惊讶的事情？
总而言之，最大的事情，而且这真的不是意外，就是我有多幸运。哦，我的天哪。能够接触到一个将改变世界的科学领域的开端。我怎么这么幸运？是的，当然，我的观点已经大大拓宽了。
回到我们谈话中的女权主义部分。在不知道的情况下，它真的潜意识地发生了。我想让人工智能成功，因为我厌倦了听到智能只存在于男性头颅中。我想，如果有一个不是男性思考和行动的东西，那么这将是对智能只存在于男性头颅中的整个观念的否定。我直到有一天晚上，哈罗德·科恩和我一起喝了一两杯葡萄酒时才知道。他说，是什么吸引你进入人工智能领域？我说，你知道，我认识的最聪明的人，伟大的项目，等等，等等。我说，而且我想要一些除了男性智慧之外的东西。它就从我身上冒了出来。
莱克斯，太棒了。
所以人工智能确实让我们所有人都谦卑下来，也让那些最需要被谦卑的人谦卑下来。
哇，这太美了。帕梅拉，非常感谢您的谈话。非常荣幸。
谢谢。