Transcription
大家下午好。欢迎来到今天的会议。人工智能的能力与局限性以及人工智能发展为真正智能。人工智能正以前所未有的速度重塑我们的社会和行业。它带来了巨大的机遇，提高了生产力，推动了医疗保健、教育乃至旅游业的创新，并有助于应对全球挑战。与此同时，它也带来了重大的风险，例如失业、伦理困境以及不平等加剧。在本次会议中，我们将探讨人工智能的两个方面，即其潜力和局限性。更重要的是，我们将讨论真正人工智能的概念，因为同情心、伦理判断、批判性思维和有目的的领导力等独特的人类能力将在人工智能时代日益区分个人和组织。我很荣幸介绍我们杰出的各位发言嘉宾。Tobin Ersi 教授，新南威尔士大学。Brad Harris 教授，巴黎高等商学院。今天能听到你们二位的发言，我们感到非常荣幸。那么，您能否先简单介绍一下自己？>> 当然。谢谢您的介绍，很高兴回到韩国。我一直很享受来到韩国。这里似乎是一个年轻的国家，仿佛已经走在了未来的五分钟，渴望拥抱人工智能和其他技术带来的机遇。我花了过去大约 40 年的时间从事人工智能领域的工作。在大部分时间里，它更像是科幻小说，而非科学事实。但真正令人兴奋的是，在过去五到六年里，人工智能如何转变为商业现实，转变为切实可行的现实，出现在我们生活的如此多的不同角落。所以我非常兴奋。现在是从事这个领域最激动人心的时刻，能够看到正在发生的转变以及转变的速度。我认为最让我惊讶的是技术现在到达的速度。>> 大家好。嘿，看，我很高兴来到这里。我们当然会谈论人工智能，但也会谈论真正的人工智能。我们将尝试围绕人类状况的重要性编织至少一部分故事。而且，我认为这个国家，这是我第一次来这里，这个国家确实体现了这一点。我感到受欢迎。我感受到了温暖。我收到了很棒的问题，我也能够向大家提出很棒的问题。所以，我当然认为这个话题会引起共鸣。嘿，看，Toby 是人工智能领域的专家。他研究这个问题已经很久了。Jeff 拥有实际应用经验。我想我更像是一个传统的学者。我是一名管理学和人力资源学教授。我研究诸如团队动力学、影响或领导力的社会过程等问题，而且我越来越多地与人力资源专业人士合作，以了解技术与人类如何互动，以及我几年前写的一些东西现在已经感觉过时了。比如，在招聘情境中，我们如何应对算法推荐？但也许我还有另一个角色，我认为可能很有用。我希望它对我们今天的谈论有益，那就是我拥有我们 MBA 和 EMBA 项目的副院长这一宏大挑战和荣幸，并且作为其中的一部分，我不断地思考和倾听人们的声音——无论是外部利益相关者、学生还是教职员工——我们该如何处理人工智能？我们该如何教授这个东西？我们需要了解什么？它将走向何方？也许我会从我可能会以它结束的地方开始：未来仍然是未知的，这是一个非常令人兴奋的空间。所以我希望我能为我尊敬的同事们带来一些价值。听起来不错。作为一家主要从事人工智能和数据业务的全球性公司的首席执行官，我期待着你们的见解。第一个问题是关于人工智能的影响和风险。正如我告诉你的，人工智能正以前所未有的速度重塑行业和社会。在你看来，人工智能带来的最具变革性的机遇是什么？我们必须迫切应对的最紧迫的风险又是什么？你先来。>> 好的，太棒了。我曾对自己发誓，对每个问题都要说“我不知道”，Jeff。所以我会尽力而为。我感到兴奋。我在很多方面都支持人工智能。我认为人工智能有潜力以一种真正增加价值的方式，使信息、数据甚至沟通方式民主化。如果我们做得对，我们不仅可以提高企业的效率，还可以真正地将人们从贫困中解脱出来。我们可以治愈疾病。这些都是伟大的事情。我认为，稍后我们会谈到这一点，我几乎可以肯定，我认为其弊端也很明显，而且在我看来，这至少部分是激励机制的问题。我们被告知了关于人工智能的所有伟大之处，但我们实际上在做什么？目前的产品实际上在做什么？我认为有很多用例可以增加价值。大多数人工智能在企业中的应用仍然不是正投资回报率。也许它们会。也许时间跨度太短，我无法做出这个陈述或得出结论。但是，我认为尽管人工智能有所有潜力，其弊端在于它将被用来使一小部分人更加富有，制造更多不平等。这让我非常害怕。我担心这就是结果。所以，我将再次论证，人类的声音和能动性在这个过程中仍然有很大的空间，但这就是我对第一个问题的看法。Toby，我非常想听听你在这里的看法。嗯，很棒的一点是，我们事先没有商量过。我得出了和你完全相同的结论，关于我们如果不小心就会看到的财富集中，我们已经开始看到了。这种巨大的价值。这是历史上最大的淘金热。我们从未见过财富以如此快的速度产生。举一个例子，OpenAI 是资本主义历史上增长最快的公司。在发布 ChatGPT 之前，没有任何公司从零收入，到一年后，年收入达到 10 亿美元，今天达到年收入 40 亿美元。我们从未见过如此快的财富产生，或者说市场价值。它是目前最有价值的私营公司。同样，在资本主义历史上，从未有过一家公司达到半万亿美元的私人资本化。因此，产生了巨大的财富，但目前掌握在极少数人手中，而我们的命运是由少数人决定的，其中许多人不在韩国。所以，这就是风险。财富没有得到充分的分享。机遇是巨大的。做人类甚至无法做到的事情的机遇。当人们问我，人工智能的最佳机遇是什么？我总是会想到医疗保健。它将彻底改变我们进行个性化医疗的方式。不仅仅是像我们个性化生活中许多其他服务那样进行个性化医疗，而是做人类无法做到的事情。如果你容忍我一下，我只想讲一个小轶事。我最近读了一篇论文，一些同事正在做一些让我惊叹的事情。他们获得了英国基因库的数据，所以英国有五十万人进行了基因测序，测序成本约为几百美元。他们已将这些数据与他们的病史、家族史以及所有医疗信息一起贡献给了公共数据库。现在，这是几十亿字节的数据。人类的眼睛无法理解如此庞大的数据量。你知道，所有的基因序列和所有的病史。但是你可以用人工智能来解决这个问题，即使是简单的机器学习算法也已经发现了有趣的东西。例如，他们发现了结直肠癌的遗传标记。这是世界上第三大癌症。大部分可预防。如果及时发现，大多数结直肠癌都可以治愈，但遗憾的是，由于结直肠癌的性质，大多数人在为时已晚之前都没有注意到它。现在，我们可以在出生时就知道你是否具有结直肠癌的遗传标记。我们不了解其机制。希望人工智能能帮助我们理解其机制。我们不了解环境诱因，因为遗传并非宿命。显然存在我们尚未发现的环境诱因。但现在，你可以从很小的年纪就进行血液检查，并接受监测，这样你就不会因结直肠癌而过早死亡。这是人类医生永远无法做到的事情。>> 明白了。我们正在从这项新技术中获得增长和利润。所以，总的来说，我能够从人工智能中获得一些东西，但有时正如你所说，它看起来像一个黑匣子。我认为这就是问题所在。我想进入下一个问题，关于人类的优势与人工智能。我们的会议介绍了真正智能的概念，包括同情心、伦理判断和批判性思维。为什么你认为在人工智能时代，这些人类品质将变得更加重要？嗯，我们谈到了不平等，但另一个让大多数人担心的挑战是它对人们工作的影响，以及人们担心人工智能会抢走他们的工作。人们应该感到害怕是有充分理由的，因为技术一直在抢走工作，而技术也创造了新工作的机会。那么新工作的机会是什么？未来重要的技能又是什么？就是你刚才提到的那些。它们是你的情商、你的社交智能、你的创造力、你的适应能力。这些是独特的人类技能。随着机器承担更多枯燥、常规、重复性的工作，而机器非常擅长做这些工作，这些将是我们在人类身上越来越看重的技能。也是机遇所在。而且，如果你仔细想想，有很多。我听说最重要的 CEO 特质是情商。你是一名领导者。你必须了解如何激励人们，如何领导他们，是什么阻碍了他们发挥作用。销售人员最重要的技能是情商。能够读懂对方，理解他们想要什么。政治家最重要的技能是情商，理解公众想要什么，以及是什么阻碍了他们。医生最重要的技能是情商，能够沟通诊断。他们可能会有一个人工智能专家帮助他们进行诊断。所以，在越来越多的地方，你的情商和社交智能、你的沟通技巧、你的批判性思维技巧将变得重要。这些将使你能够保住工作，不被机器取代。>> 哇。我必须跟着说了。嘿，我想我和你的想法一致，你很好地阐述了一些我一直在思考的事情。而且，如果我借鉴你其他的作品，你谈到了人工智能和 GPT 以及大型语言模型的所有能力，以及它们处理数据和以一种能引起我们共鸣的方式进行沟通的能力。这些东西非常像人类。>> 但我们很容易被迷惑。>> 是的。>> 伟人。>> 当我准备这次演讲时，你知道，这是 ChatGPT 的前一个版本，它告诉我我的想法多么棒。三天后，我发现，嗯，ChatGPT 5 不像这样了。我真的相信。>> 你是失望的 GPT5 客户之一。>> 是的。现在我只是切换回去了，我只是想让我的 AI 讨好我。但是，你也提到我们设计了这项技术，而且就目前而言，我希望它能保持这样，它缺乏感受失落、感受爱的那种化学反应，这些我们之所以是我们，那些独特的非理性的人类事物。我希望这仍然很重要。也许我可以给你一个类比，这可能会引起共鸣，人工智能在写作方面做得非常好，而且它显得引人入胜，当然也很自信，而且非常自信。但是，当你与小说中的作者互动时，不仅仅是书页上的文字。不仅仅是俏皮话或优美的词句。这是关于与人类经验建立联系。我成长过程中认识的一个人，你知道，我是美国人。我读了库尔特·冯内古特写的《五号屠场》。我一直被一位伟大的老师教导，关于他的背景。这是一个好故事。它让我发笑。它让我悲伤。有很多独特的元素。但它之所以重要，不仅仅是因为他说了什么。它之所以重要，是因为他经历了战争中的这些经历，而他正在写这些经历，并且他用不同的方式讲述它们。也许我将以此结束。我将回到这个问题，Jeff。通常有价值的东西是建立在稀缺、不可避免、无法复制且不易替代的资源之上的。所以，正如 Toby 完美地说过的，当我们把所有这些东西商品化时，处理数据、写作、做这个做那个以及接下来的一切的能力，还剩下什么？将是与人建立联系、解决冲突、寻求妥协、承认错误、像我现在这样在舞台上笨拙地回答问题的艰苦工作。我认为所有这些事情都很重要，而且如果我们不注意，它们将变得越来越稀缺。所以，这是我关于真正智能为何重要的前提。我>> 我只想在此基础上扩展一下，我们有一种错觉，认为我们的超能力是我们的智力，因此我们受到人工智能的威胁，但实际上我们的超能力是我们的社会。我们聚集在这样的房间里，分享想法和经验。这就是我们能够创造出比个人能力更强的能力。事实上，我们利用了我们的智力、语言和文化以及所有这些来在此基础上发展。但正是我们作为一个公司、一个村庄、一个城镇、一个国家共同努力的能力，放大了我们的能力，而这不会消失。>> 听起来很有趣。我只是想起了在新冠疫情期间，我们曾有过一次纯粹用于会议的电话会议，起初我觉得效率很高，但随着时间的推移，没有了人际互动，生产力甚至在下降。这就是为什么我认为这种对话很重要，不仅是为了质量，也是为了联系。>> 这就是为什么你必须回到办公室。 [笑声]>> 无论你是否喜欢，如果你不和人们在一起，你就会错过一些东西。>> 让我们继续第三个问题，关于领导力和组织。根据你的经验，领导者和机构如何才能在他们的组织内或为自己实际培养真正的人工智能，尤其是在效率和自动化受到优先考虑的情况下？因为这是我好奇想得到你们宝贵见解的地方。>> 好的，我先来回答这个问题。一个很棒的问题，顺便说一句。一个非常难的问题，也许我只会部分回答。第一，也是最明显的方式，领导者通过以身作则来影响这一点。他们出现并做事情，他们明确了对员工的期望。然后我有一位同事有一个 4C 框架。我将介绍其中几个，但要明确战略重点，也要明确组织的价值观。沟通。我们必须过度沟通。然后我们必须有一些后果。所以我给了你三个 C。这三个是最重要的。但这些是起点。但核心来说，也许思考领导力是什么会有帮助。Jeff，你每天都在经历这些。Toby，你是思想领袖。你也有丰富的经验。但从心理学上讲，领导力是一种影响的社会过程。它是关于让人们做他们否则不会做的事情，或者以他们否则不会有的热情去做。然后，我认为除了心理学定义之外，组织中的领导力是关于决策权。你拥有这些决策。如果有一个因素，仅仅一个因素，真正促使人们追求我们试图让他们努力的目标，那就是信任。现在，我们可以短期内替代信任。我们可以对冲。我们可以通过减少下行风险来消除上层福利，例如通过执行合同等。但实际上，如果我们想要我们的团队和组织获得最终的认同，那就是关于信任。信任就是我们愿意对他人敞开心扉。我们该怎么做？嗯，人们会根据我们能力、仁慈和正直的粗略半理性估计来决定是否信任我们。也许更实际可行的方法是他们对我们的逻辑做出判断。在这里，人工智能最终可能和我们一样好，或者可能已经达到了。我不确定。但他们也对我们的同情心做出评估。我们是否关心自己以外的事情？我们能否设身处地为他人着想？然后，对于这次谈话很重要，我们的真诚。他们是否相信我们展现的是真实的自己，或者至少在某种程度上？在这个阶段，我并不完全确信。我认为我们可以被愚弄一段时间，但我并不确信我们目前拥有的人工智能能够培养那种人际信任。我们需要推动真正特别的成果。Toby，我非常好奇在这里听到你的看法。不，我我不认为我们可以，我也不认为我们应该。我们应该始终将其视为助手，视为能够帮助我们实现目标的人，但我们的领导者将是人类。像 Jeff 这样能够激励我们的人，正如你所说。他们之所以激励我们，首先是因为他们的价值观。有句俗话说，一个组织就像一条鱼。船从头开始腐烂。所以我们看着我们的领导者，看他们的价值观，我们看着他们通过他们的言行来激励我们。我有幸见到了微软的首席执行官。他是一个非常有感染力的人，如果你认识他，他公开谈论过这件事。他有一个严重残疾的儿子。所以，当他谈论确保微软的产品对残疾人可用和可访问时，你知道他是发自内心的，这不是，这是他的价值观，他确实拥有这些价值观。因此，例如，我对微软在该领域所做的工作表示极大的尊重，因为你可以看到是他的领导力，他的价值观渗透到整个组织。这会花费微软的钱，但这才是领导力。>> 我觉得人类价值观的本质不会像你们的评论那样改变太多。我觉得。>> 我认为它们变得越来越重要。>> 是的。不仅仅是改变，它们将是区分优秀企业、有活力的企业与那些不优秀的企业的东西。>> 有趣。即使在人工智能时代，人类也能比以前为世界做出更多贡献，非常有趣。下一个问题是关于全球不平等和伦理。人们越来越担心人工智能可能会加剧全球不平等或制造伦理困境。政策制定者和像你们这样的教育工作者应该如何应对，以确保人工智能以公平和包容的方式发展？因为我们已经听到和看到了这么多新闻，很多富人得益于人工智能。所以我认为这是关于音频的真实担忧。>> 是的。我们一开始就说过，这是我们共同的主要担忧，我们看到的日益加剧的不平等，财富的集中。我认为我们应该回顾历史。这不是我们第一次经历由技术驱动的重大变革，它改变了我们经济的本质。我们已经经历过很多次了。我的意思是，我们通过互联网看到了这一点，我们通过工业革命看到了这一点。而且我们当时也有类似的担忧和忧虑。我的意思是，让我们不要忘记，在工业时代的黎明，我们担心财富的集中。事实上，一开始确实存在显著的财富集中。人们谈论的是铁路大亨，卡内基和洛克菲勒，那些拥有巨额财富的人。我们做了什么来确保工人不被剥削，财富不被过度集中？嗯，值得思考的是，我们对社会运作方式、我们工作方式所做的重大结构性改变，以确保我们所有人都能分享工业革命的成果。我们都分享了。我的意思是，很容易忘记当时的富裕。韩国和美国的预期寿命几乎翻了一番。我们过去在 40 多岁就去世了。我们过去在田野里过着农业生活。现在，我们生活在办公室和工厂工作的生活中，活到了 80 多岁。与 18 世纪的人相比，我们在财富、技术、生活质量方面就像国王和王后一样，这是变革性的。但我们也做了很多工作来确保我们获得利益，而不仅仅是洛克菲勒和铁路大亨。我们在大多数国家引入了普及教育，以便人们能够获得教育，为那些新工作做好准备。我们在大多数国家引入了福利国家，这样当人们失业时，他们就有后盾。我们在大多数国家引入了普及养老金，这样人们就可以在工作生涯结束后退休。我们引入了工会和劳动法，以及信用合作社等等，以确保工人拥有讨价还价的权利，工人能够分享一些利润，而这些利润不只属于工厂的所有者。所以我们做了很多改变来支持人们。我们对富人征税。我们进行了一些财富再分配。我们做了很多事情，相当重大的结构性事情。我认为今天我们需要同样雄心勃勃地思考。这就是我们需要政治家和思想家站出来，帮助我们雄心勃勃地、大胆地思考，这是一项将改变几乎每个人工作本质的技术。我们如何确保财富得到良好分配，从而提高我们所有人的生活质量？这不是一个简单的问题，挑战在于我们没有多少时间。工业革命花了 50 年才发生。我们没有 50 年。这正在一夜之间发生。>> 是的。你如何看待国家之间的不平等？>> 这也是一个很棒的问题。一个经常被问得不够的问题，那就是我们不仅可能看到国家内部不平等加剧，还可能看到国家之间不平等加剧。我确实担心，例如，全球南方，发展中国家可能会落后。我们享受了工业化和污染我们大气的碳经济的好处，而那些尚未发展的国家将被抛在后面。我们可能会有另一个时期，也许是殖民化，数字殖民化，在那里我们剥削他们的劳动力和数据以及其他一切。就像我们在第一次殖民浪潮中剥削了他们的土地和矿产一样。所以，这是我们必须担心的，因为我们不希望一个不平等加剧的世界，因为那将是一个非常危险的世界。为了我们自己的利益，我们必须确保这些不平等不会进一步加剧，因为这已经是一个相当危险的世界。如果我们不解决这些问题，它将是一个更加危险的世界。>> 非常有见地的回应，以及很棒的问题，也很棒的后续。当我想起如何减轻或解决日益加剧的不平等问题时，有几种不同的方式可以处理。而且，这不是一个详尽的列表，但我认为其中之一就是口语化。你在引入问题时提到了，我们有一些有钱人，我是德州人，我称呼所有人“伙计”，对我来说是性别中立的，但我认为这说明了，我们有三位男士在小组中，但我们有不止三位，但我们有一群男性在掌管一切。但这不仅仅是性别差异。它涉及到你之前谈到的一些事情。残疾人，来自世界不同地区的人。我认为代表性是我们可以采取的一种预防措施或保障措施。我们在做决定时是否有足够的声音？我认为托比谈论的更普遍的主题，我非常同意你的观点，就是我们没有多少时间。它发展得如此之快，我们需要一些护栏。而 Jeff，你生活在行业中，我认为我不知道你会怎么说出来，我不想把话放在你嘴里，但你几乎在寻求指导。比如界限在哪里？帮帮我。给我一些规则。它们可能会减慢速度，但请给我一些指导。我的问题是，谁有胆量？谁有勇气和雄心来设置护栏？在我自己的国家，大多数人认为监管人工智能不是一个受欢迎的立场。我的意思是，有很多能量围绕着对立面，但占主导地位的政党说不。不。而且我仍然非常相信，市场驱动的社会可能是我们拥有的最不坏的选择，但我们必须有一些东西。我们必须确保我们以一种有意义的方式分配一些财富，让人类茁壮成长。它会是宗教机构，如果不是政府的话？它仅仅是文化或人类价值观将我们联系在一起，使之产生区别吗？我不知道。但这是我担心的事情，也是我思考我们如何设计我们所在商学院教育的狭窄领域时所思考的事情。我们是在培训人们承担这一重任吗？Toby，你刚才提到了微软的执行官。我需要花两分钟时间分享一下为什么我对这个话题感到有些坚定。我有三个孩子，我有两个儿子。我非常爱他们。他们是了不起的人。他们将不得不生活在我们现在决定或不决定的后果中。我谨慎乐观。我担心，但我谨慎乐观，他们会解决的。但我有三个孩子。我有一个 10 岁的女儿，她患有一种极其罕见的遗传病。有很多智力迟缓和挑战，也有很多身体挑战。所以她看起来和我们不一样。她以不同的方式看待世界，她需要不同的资源才能茁壮成长。现在我们很幸运，她妈妈和我，我们可以帮忙。我们可以弥补不足。我们有资源。我们有时间。我们很幸运，我们在巴黎有一所学校可以帮助我们。但谁在关心她？我可以向你保证，没有电子表格会显示帮助一个患有十万分之一疾病的孩子项目的积极净现值。这让我害怕，而且我认为这不仅仅是做正确的事情。而且，这是我演讲中最不自信的部分。我认为这不仅仅是做正确的事情和照顾最弱小的人。我认为像我女儿这样的人有真正的价值。她当然给我带来了快乐。她看待世界的方式不同。她给了我视角。她试图说话。她不会说话，但她会发出声音，她试图拥抱巴黎地铁里的每个人。法国人以出了名的不那么热情和兴奋，但她给周围的世界带来了欢乐。我不想让这些东西被遗忘，作为基准。但我不希望这些近乎魔法或精神的东西消失，因为我们过于关注提高生产力或效率等事情。所以，我想问题确实是一个好问题。谁来承担责任，说这是游戏规则，或者这是我们不会跨越的界限？我喜欢这个问题。Jeff C>> 我能问一个问题吗？这是一个很棒的故事。但是，我的意思是，我们开始谈论我们世界内部日益加剧的不平等，而我们俩都没有谈论大象，那就是税收。我的意思是，解决日益加剧的不平等最简单的办法就是对富人征税。为什么科技公司支付的平均税率远低于传统公司，而它们实际上更有能力纳税？>> 为什么你看我问这个问题？>> 嗯，你在做生意。 [笑声]>> 我只是觉得，也许我们应该提到显而易见的大象，你知道，他们有幸在这些美好的市场工作。他们获得了巨大的收益，你知道，除了这些企业之外，没有其他企业能合法地获得如此惊人的营业利润。我我我我认为我们必须解决这个问题，那就是为什么他们不知何故认为只有普通公司才需要纳税，而他们不需要。>> 简短的回答是，我不知道，而且我认为许多富人会承认，是的，我们可以支付多一点税。但我也会承认，有一个反论点，在我自己的国家，尤其是在我的家乡德克萨斯州，我们说服自己，如果我们没有任何税收，它只会促进增长，我们都会赢，而且我们永远不必为道路或学校付费，因为我们会通过其他方式解决它。但是，我认为我们将不得不采取有意识的、系统的做法，而且我们将不得不思考，我显然超出了我作为管理学教授的领域，进入了会计和金融领域。我们将不得不找到一种方法来承认这些过高的市值很重要，因为现在你可以利用投资和其他支出来隐藏你的利润，并在你支付数十亿，或者说，埃隆的案例中可能是数万亿美元给首席执行官的同时，让事情变得模糊不清，而你的名义税率几乎为零。这感觉不对，这不符合常理，我认为。>> 而且也很难不去看，例如斯堪的纳维亚国家，看看你们美妙的社会保障体系，高税率，他们拥有社会凝聚力和幸福感。是的，这些衡量幸福感的指标在这些国家通常很高，而且不要认为也许这些是我们试图思考如何调整社会以应对人工智能挑战时应该考虑的模型。我们将做出选择，而这些选择将决定我们拥有什么样的社会。>> 而且也许这就是 Jeff 之前关于这一切的全球性质的后续问题很重要的地方，因为现在公司之间在竞争谁能最快地推动最多的投资，而且我不知道，在我看来，这进一步加剧了这场博弈。Jeff，你有没有一个明确的答案给观众？>> 嗯，作为主持人，我想结束这个问题。但是 [笑声] 好的，随着技术的发展，我们确信馅饼的规模也在不断增加。但问题是我们是否公平地分配了馅饼，或者我们是否按国家、按人来平衡了馅饼的份额，没有人可以信任任何人。我认为，如果没有全球的规则制定者或正确的政策制定者，我们可能会发生重大冲突，而且我认为这在我们所有人的人工智能时代都是一个非常大的问题。无论如何，让我们继续下一个问题，因为这个问题看起来很难，我期待着你们的回答。展望未来，你认为人工智能可以做什么和人类必须继续做什么之间的界限应该在哪里？我们如何维持技术进步与以人为本的价值观之间的健康平衡？我想在这两者之间划一条清晰的界限，这无疑对我们来说是宝贵的见解。好的，我将尝试划一条非常清晰的界限，这是由一个非常简单的道德法律观察驱动的，即人工智能是一种技术，就像其他技术一样。它真的没有什么神奇之处。人工智能带来的唯一独特的、其他技术以前没有带来的新特征是，它具有一定的自主性，一定的能动性，能够以最小甚至可能没有人为监督的情况下完成事情。这是独一无二的。我们以前从未有过机器在我们没有指导的情况下自行完成事情。这带来了伦理挑战。伦理挑战是，当事情出错，机器做了我们没有意图的事情时会发生什么。有人可能会受到伤害。有人甚至可能死亡。这是一个具有挑战性的道德伦理困境，因为我们的法律体系、我们的道德体系是建立在人类问责制之上的。世界上每一个法律体系都追究人类的责任。我们偶尔会追究公司的责任。这并不是一个很好的想法，但人类是法律体系的中心。是人类受到惩罚。是人类对其行为在道德上负有责任，而不是机器。所以，这是我们必须划定界限的地方，那就是我们需要对机器保持有意义的人为监督，当机器可能造成灾难性后果时。所以，这就是为什么关于自动驾驶汽车、无人驾驶汽车存在有趣的道德辩论和法律辩论，因为有时无人驾驶汽车可能会意外杀死人，而我们将追究谁对这些死亡负责？这就是为什么关于自主战争、关于人工智能和战争存在有趣的道德伦理辩论，因为我们实际上在制造机器来杀人。当他们杀死错误的人时会发生什么？当他们是无辜的旁观者，在冲突中被杀死的平民时会发生什么？>> 但如果我们有通用人工智能，甚至更高级，比如超人工智能呢？>> 但再次，>> 它们有可能被控制吗？>> 不。再次，当决策产生后果时。所以我谈到了两个决策产生后果的领域，但还有其他地方，例如国家决定你应该获得多少福利金，或者你是否应该获得签证，你需要对这些决策保持有意义的人为监督。这并不意味着我们不使用人工智能，当然人工智能将是一个很好的工具，可以帮助我们更快、更有效、更正确地做出这些决定，但最终必须由人类来批准这些决定。有很多地方，后果是适度的。事实上，最大的后果是让人类去做那些平凡的事情的成本，而如果我们能用人工智能取代人类做那些平凡的事情，我们就避免了伤害那些不得不做那些平凡的人类。在那里，我们应该庆祝人工智能承担完全自主权来做出这些决定，因为后果是适度的，而且事实上，后果是我们让人们摆脱了那些人类永远不应该被迫做的事情。>> 我非常赞赏关于问责链的讨论，一旦我们忽视了这一点，我们可能就越界了。我认为我同意这一点。自动驾驶汽车的比喻立刻就浮现在我的脑海里。我们是否拥有必要的信息来追究某人对汽车代码的责任，这些代码决定了撞上另一辆车或冲向行人？所以，我同意这一点。我认为你还说了一些其他事情。我想给你一些赞扬，并给你一个回应的机会。但你也说了一些更哲学的东西，关于我们何时停止放大，开始侵蚀人类的潜力。这可能是一个指标，表明我们越界了。看，我不知道我们离界限有多近。我在我的评论中有点消极和悲观，但我认为我们还有很大的空间来利用人工智能，当然，我们作为专业人士，也像我女儿这样的人，还有很多好处仍然触手可及。我想你想问的问题是，我们怎么知道？我们会看到悬崖吗？我们会看到边界结束，我们跨越到别的东西了吗？也许我会用一种更通俗的回应，完全忽略你对清晰黑白界限的恳求。我认为，当我们不再看到手写便条的价值，或者我们认为与刚刚经历痛苦的人坐在一起不值得时。我认为这不仅仅是人工智能特有的。我认为这是我们应该关注的信号，我们已经走得太远了，需要重新校准。Jeff，你一直在回避回应，但这行不通。你曾就读于世界上一些最好的学校。你在世界上一些最好的公司工作过，包括你现在的公司。>> 你怎么看？>> 我之前告诉他我要问这个问题了，所以他应该有所准备。实际上我们只有五分钟时间，但在研究你的研究时，我很好奇这个问题，因为你研究过杀人机器人。所以，我的意思是，我们在特拉维夫有一个办公室，昨天我们又发生了一次袭击，例如，以色列袭击了卡塔尔。在这种情况下，我正在思考战争，因为在拥有人工智能之后，我们可能就不会有战争了。所以，在你的研究之后，这对我来说非常好奇，但由于时间有限，我想快速结束这次会议，并请你们做最后的评论。今天的讨论提醒我们，虽然人工智能带来了巨大的希望，但也带来了严重的责任。关键的收获很明确。无论人工智能变得多么强大，真正的人工智能将仍然是我们真正的差异化因素。所以，从这个意义上说，我很高兴听到人类在拥有人工智能之后可以比以前做出更多贡献。在我们结束之前，我想请我们每位教授和人工智能小组做最后的思考。你们可以花大约一到两分钟做最后的评论。>> 我会很快说完，然后把话语权交给你们。所以，准备一些深刻的东西。嘿，看，我作为一个学者，我感到挣扎。我认为这是学者在学术生涯中面临的一个经典困境，即对世界的规范性观点与描述性观点。有我希望是真的，也有可能真的。我目前的信念是，人工智能将改变世界。它将改变世界。它已经在改变世界。但我确实相信，在这场革命中，人类也有自己的位置。而且我认为那里也有责任。所以，也许我留给你们的是这个。我希望在场的领导者们不要回避这个宏大的挑战，而是真正拥抱这个挑战。最后的发言，Toby。>> 我将借鉴一位伟大的人文主义者尼尔·波兹曼的话。他写了一篇很棒的文章。我鼓励你读读这篇文章。你可以在网上找到。它叫做“关于技术变革的五课”。我只想给你留下其中一课。这一课是，对于每一种技术，都要问它给了你什么，也要问它带走了什么。每一种技术都会给你一些礼物，但同时也会带走一些东西。举个具体的例子，当我们发明 GPS 导航系统时，当我们使用手机上的导航时，我们得到了永不迷路的礼物。但我们失去了一些东西。有很多心理学研究表明，如果你遵循导航系统，你永远不会学会你的社区。你永远不知道你在哪里。你只是在听从指示。这实际上改变了你的大脑。他们确实做过研究。他们表明，海马体，大脑顶部负责空间记忆的部分，如果你不使用它，实际上会萎缩。所以，每一种技术，这就是我担心的事情，也回到了关于划线的上一个问题，我划定了一条法律界限，一条道德界限，但我们应该划定一条人类界限，那就是记住，当我们把事情外包给机器时，这是一种便利，可以使我们的生活更好、更有效率，但要始终思考我们为此付出了什么。我们失去了自己身上的什么？我没有什么要补充的了。我应该让 ChatGPT 做一个更好的总结。看，我们都有空间。领导者都有空间。我只想重申我之前说过的话。你说得对。周期并不总是像我们想的那样。你知道，有时我们高估了短期影响，而低估了长期影响。我认为我们需要关注这一点。现在有很多炒作，但实际上五年、十年，我不确定时间跨度是多久，但我们的世界将会看起来不同，我们需要关注。我同意。谢谢。所以，RC 和 Harris 教授，我很高兴你们能来，你们的见解对我们理解如何管理人工智能非常有帮助，无论人工智能的能力如何。你可能宁愿成为人类而不是人工智能，因为人类比人工智能更好。所以，从这个意义上说，感谢你们分享你们的宝贵见解，再次感谢。>> 荣幸。谢谢。