Transcription
我不会问你是否同意这一点。真的不会。中国不需要我们。哦，科学家们总是非常，你知道，对未来非常乐观。我的意思是，事实上，恰恰相反。我遇到过的最聪明的人是那些只想一个人待着的人，对吧？音乐。你好。你好。很高兴来到这里。嗯，我们时间不多了，所以你必须直接进入采访。首先，所有的大科技公司都在竞相进入人工智能领域，而Meta似乎走了一条稍微不同的道路。当然，微软和OpenAI正在为客户提供服务，但Meta似乎正在试图建立一个人工智能生态系统。你能描述一下Meta在人工智能方面的哲学以及它为什么重要吗？主要的哲学和战略是将人工智能视为一个平台，并以开源的形式提供这个平台。历史上，互联网的软件基础设施已经开源。移动通信网络的软件基础设施、互联网上的服务器以及其他所有东西的软件基础设施也是如此。市场普遍有一种推动力，要求平台软件开源，所以Meta一直在拥抱这一战略，我认为这非常重要，因为人工智能系统是建立在基础模型之上的。基础模型训练成本非常高，需要大量的专业知识、计算资源和金钱，而世界上只有少数实体能够做到这一点。但是，如果它们以开源的形式提供，全世界的许多人都可以为改进它们做出贡献，也可以在它们之上构建产品，为各种用户服务，而这通常很难用专有平台来完成。因此，我不认为竞争是，你知道，一家公司对抗另一家公司，或者一个国家或一个地区对抗另一个国家。这更多的是专有世界之间的竞争，对抗开源世界，在那里思想被分享，软件平台被分享，研究成果被分享。嗯，所以你提出的更像是人工智能的民主化，而且你对大型语言模型非常批评。我想我或许可以重新表述一下，我们对大型语言模型并不确定，我们必须超越大型语言模型。我不太确定它们之间的区别是什么。所以你能否向我们解释一下这是什么意思，它们之间的区别是什么，以及为什么它很重要？好的。首先，大型语言模型非常有用。它们应该被开发并作为产品部署，在未来几年里，你将看到大型语言模型通过各种新的技术和工程进步得到很多改进。我之所以批评大型语言模型，是因为我不认为它们本身就能通往真正智能的系统，这些系统拥有与人类甚至动物相同的学习水平或能力。你知道，我们有大型语言模型可以生成好的文本，它们可以通过律师资格考试，它们可以解决数学方程，它们可以做各种有趣的事情，编写代码，并在人们的日常生活中提供很多帮助。但我们仍然没有家用机器人。我们还没有自动驾驶汽车，或者说五级自动驾驶汽车。人工智能系统有很多事情做不到。而人工智能系统做不到的是所有与物理世界有关的事情。所以大型语言模型能够操纵语言。我们认为语言是人类智能的巅峰。但事实上，不是，与现实世界相比，语言很简单。处理现实世界非常困难。我们仍然不知道如何用人工智能系统来做到这一点。所以未来的人工智能系统将能够理解物理世界。它们将拥有持久的记忆。它们将拥有推理和规划的能力。而这些是智能的四个基本特征，大型语言模型目前还无法做到。因此，我认为我们需要超越大型语言模型。这实际上让我想起了中国房间理论。所以，学者们之间存在争论。是人工智能或计算机真的在思考，还是仅仅在处理数据？是这样吗？不完全是。那是一个哲学辩论。中国房间论证是由哲学家约翰·塞尔提出的，他说你可以机械化思维而不真正理解。我一直认为这是一个糟糕的论点。思维，尤其是人类思维，没有什么特别神秘或玄妙之处。我认为毫无疑问，今天大多数人，尤其是在人工智能领域的人，都相信我们最终将能够设计和训练机器，使它们能够接近我们在人类和动物身上看到的智能水平。而且，没有什么特别神秘之处，我们无法在计算设备中复制它。所以毫无疑问，我们将在未来某个时候达到那个水平。真正的问题是怎样做到，以及需要多长时间？答案是，这可能比我们想象的要困难得多。嗯，你一直是开源人工智能的坚定倡导者。那么，你对开放的承诺的驱动力是什么？为什么它很重要？它之所以重要，有几个原因。有驱动Meta人工智能政策的原因。有一个更广泛的哲学立场，那就是参与科学和技术进步的人越多，进步就越快。所以，我们之所以在过去十几年里看到人工智能的快速进步，正是因为研究是开放的，你知道，在学术界，也包括来自公司的贡献，直到最近，而Meta通过我11年前创建的研究组织Fair，一直处于这种开放的前沿。然而，在过去的几年里，一些公司变得更加封闭。它们变得更加秘密，因为它们认为这是它们需要保持的竞争优势。但在Meta，我们公司DNA中有一个传统，那就是在很多年前就开始开源我们的平台软件。而公司，你知道，通过这些平台上的产品赚钱，而不是通过平台本身赚钱。因此，分发这些平台没有成本。事实上，它使技术进步更快。使其更安全、更可靠、性能更高，等等。所以这就是那种哲学。现在，公司开源的原因是多方面的。第一个是我们从他人对开源平台的贡献中获利，因此它使我们进步更快。第二，这是吸引顶尖人才的一种方式。如果你想吸引顶尖科学家来为你的公司工作，你不能告诉他们，你知道，在这个产品上工作，而且你不能说你正在做什么，因为这会毁掉他们的职业生涯。因此，如果你告诉他们，你可以发表你的知识成果，你的知识影响力是科学家的货币，那么吸引顶尖人才就会容易得多。但是，开源还有一个更重要的原因，而更重要的原因是，在不久的将来，我们与数字世界的每一次互动都将由人工智能助手来协调。它们将生活在我们的智能眼镜中，就像我现在戴的这种，或者可能是我们的智能手机或其他设备。但基本上，我们提出的每一个问题，我们都会问我们的人工智能助手。这意味着我们所有的数字饮食都将来自人工智能助手。现在，如果这些人工智能助手来自美国西海岸或中国的少数几家公司，那就不好了。这对文化多样性不利。因为这些系统不会说世界上所有的语言，它们不会理解所有的文化、所有的价值体系、所有的兴趣点。所以，正确的方法是拥有开源平台，任何人都可以基于这些平台构建具有其偏见、语言、文化、价值体系以及你能想象到的所有偏见的人工智能助手。因此，用户将可以选择他们想在任何特定目的下使用的助手，而这只能通过开源平台来实现。另一个优势是，它为那些可能没有本地资源来训练基础模型的国家提供了某种程度的主权。嗯，我的意思是，有很多好处，但仍然存在一些担忧和风险。人们担心如果它被滥用怎么办？如果发生什么事，谁来负责？嗯，这是两个不同的问题。好吧，让我们先谈谈责任问题，对吧？让我用一个类比来做初步的近似。当今整个计算世界都运行在Linux上，除了少数台式电脑和少数iPhone。互联网上的每一台服务器都运行Linux。你车里的所有电脑都运行Linux。你的手机，如果是一部安卓手机，就运行Linux。移动通信网络塔也运行Linux。所以，如果你买一个Wi-Fi路由器，因为某种原因里面有一个bug。有人闯入了你家里的Wi-Fi，它运行Linux，但你不会去起诉写Linux的人。你会去起诉那个盒子的制造商。对吧？这就是开源的力量。基本上，如果你有一个开源系统，并将其放入产品中，因为你可以访问源代码，所以你现在要对你的产品是否正常工作负责。你选择使用这个开源平台，如果它对你不起作用，你可以修复它。因此，如果产品坏了，那是你的错。我认为如果我们有开源人工智能平台，情况也会类似。如果你在开源基础模型之上构建产品，你就有责任确保该产品做正确的事情，并且对你的用户来说是安全的，等等。你对此负责，你总是可以责怪开源系统的提供者，但你没有义务使用它，而且你可以修复它，因为它开源，因为你可以微调它，对吧？因此，开源在某种程度上可以，你知道，提供一种责任隔离，我认为这对企业来说是一个巨大的优势。如果发生任何滥用怎么办？请原谅我，因为我对这个词很陌生，所以不太确定它是如何运作的。但人们之所以有点犹豫使用开源人工智能，是因为如果有人窃取我的信息和数据等等怎么办，因为没有一个非常强大的实体或领导者在监督。我的意思是，那里有几个不同的问题，对吧？再次，当你把产品推向市场时，你应该确保该产品，你知道，符合所有法规，并且不危及用户等等。你可以选择使用开源平台来构建它，也可以不使用。所以，如果你使用的平台不是开源的，那么如果你的产品因此而失败，你可以责怪该技术的提供者。但如果它是开源的，那真的取决于你。这并没有解决如果你提供产品或开源平台，而有些人用它做坏事，比如恶意的人用它做坏事的问题。在那里，你知道，这又回到了谁负责的问题。如果你买一把厨房刀，它很有用，对吧？你可以用它来切蔬菜做饭，但有人可能会拿你的厨房刀，你知道，杀死你的邻居。你不会去责怪厨房刀的制造商。做这件事的人是负责任的。这些问题还没有解决，因为案件还没有在诉讼中发生。但总有一天，法院，我认为，会解决这个问题。希望以不区分技术进步的方式，但以安全的方式。嗯，人们听到开源人工智能，可能会很容易想到中国的Deepseek。这是你对开源人工智能的定义吗？还是你的定义和Deepseek之间有任何区别？嗯，有几种开源的定义，而且在什么是真正的开源和什么不是真正的开源方面存在一些技术上的差异，而且有一些细节我不会深入探讨。Deepseek在多个方面都是一个开源系统。代码是分发的。权重是免费提供的。使用的技术在技术论文中有描述。所以有很多关于它的细节，以及它如何进行推理等等。Meta的开源基础模型Llama也提供了类似的东西，也有技术论文和开源代码以及免费权重，并且由于法律状况尚未完全确定，在某些方面的使用上有一些限制。我认为Deepseek的影响是向世界展示，好的想法可以来自任何地方，参与技术的人越多，进步就越快。所以，在此之前，人们认为专有模型在技术上领先于开源模型，但Deepseek改变了这一点。它基本上告诉人们，不对，开源世界也能产生非常好的想法，而且未来开源平台很可能会比专有平台进步得更快。这在过去25年里一直是互联网软件基础设施的情况。它们已经完全占据了主导地位，而且在人工智能领域很可能也会发生类似的事情。我们将基础模型视为基础设施，人们将在其之上构建产品。嗯，最近美国众议院中国委员会发布了一份报告，指控Deepseek收集美国用户数据并将其发送到中国。我不会问你是否同意这一点。这是一个非常政治性的问题，但技术民族主义与开放的科学合作之间存在明显的紧张关系。似乎我们80年前在核能方面看到的那种情况，我们是否应该与他国分享，或者类似的事情。那么，作为一名学者，作为一名人工智能学者，你将如何化解这种紧张关系？我认为存在一个根本性的误解，那就是人们本能地将进步解读为国家、地区或公司之间的竞争。但事实上，现在真正的竞争是专有世界与开源世界之间的竞争。每当有人做出贡献并发表时，这些进步就对所有人开放。每个人都可以从这些新技术中获得灵感，将它们整合到自己的模型中，然后，你知道，推出一个新版本的模型，可能比以前的任何东西都更好。而且，参与贡献的人越多，进步就越快。你知道，好的想法可以来自世界各地。你知道，世界上一些地区，尤其是在硅谷，有点优越感，但这是错误的，因为好的想法可以来自任何地方。例如，Llama的第一个版本，现在是Meta的开源载体，实际上是由Meta在巴黎的一个小型团队，大约十几个人在巴黎的研究实验室生产的。事实上，在过去十年中，所有计算机科学领域，乃至所有科学领域被引用次数最多的论文是关于深度学习的，是关于一种称为残差网络的技术，这篇论文大约在10年前发表。主要作者是一位名叫Kaiming He的先生，当时他在北京的微软研究实验室工作。这篇论文产生了巨大的影响。它潜在的技术，概念上非常简单，被用于今天所有的人工智能系统中。所以，这告诉你，你知道，想法可以来自任何地方，来自欧洲，来自亚洲，来自中国，来自新加坡，来自韩国，来自巴黎。事实上，我与一群韩国实验室有着非常紧密的合作，纽约大学有一个韩国政府和韩国大学之间的联合实验室，我在那里担任教授。对。这就是为什么你如此坚信开放。但是，你知道，因为很多人认为人工智能将是21世纪的决定性技术，就像核能和过去的航天技术一样，美国和中国之间存在巨大的竞争。当然，它们在各个方面都在竞争，在人工智能行业也是如此。所以，这可能是他们对Deepseek和其他人工智能如此敏感的原因。是的。但我想我在行业里看到的是，至少在行业里，人们的想法在演变，在Deepseek之前，美国的一些人主张我们不应该开源我们最好的模型，这样中国就无法获得它们。不仅仅是中国，还有其他地缘政治对手。然后，自从Deepseek以来，很多人意识到中国不需要我们。它不需要美国或西方。它们可以生产非常好的模型，事实上，它们正在开源自己的模型，而且可能没有理由保密工作，只是在某种程度上进行合作，所以很多人改变了想法。那些反开源的人现在变成了亲开源的人，因为他们说保守秘密没有意义。我们只是在搬起石头砸自己的脚。如果美国试图禁止开源人工智能，美国的进步就会放缓，但世界其他地方的进步不会放缓。所以这实际上会适得其反。嗯，只是出于好奇。我的意思是，这两个国家是领先的，我的意思是，我猜是人工智能行业的领导者。你能评估一下这两个国家的进步水平吗？以及每个国家有哪些优势和劣势？首先，世界其他地区也有贡献。当然，例如在法国，有一家名为Mistral的公司，它也在开源其主要模型。它的两位联合创始人实际上来自Meta，他们是Llama的最初贡献者，所以我想来自世界各地都会有贡献。我认为一个特定地区的地位是由于人才在生态系统中的集中。所以你现在看到的是美国西海岸人才的高度集中，你知道，人们四处走动，信息被交流，你附近有加州大学伯克利分校和斯坦福大学，所以很多信息在流通。你在纽约也看到了类似的中心。在欧洲，是巴黎和伦敦。它们都是人工智能创新的中心，你知道，有很多投资、初创公司、研究实验室和技术学校等等。然后是像越南这样的国家，它们正在努力贡献自己的力量，例如，它拥有非常年轻的人口。这是一个巨大的优势，你知道，未来。韩国和日本或中国的情况并非如此。中国的情况也并非如此。所以中国肯定在教育大量的工程师和科学家，仅仅因为统计数据，你知道，中国有很多创新，仅仅因为数量庞大，但中国有一些结构性和文化性因素，也许限制了影响，并在某种程度上，你知道，可能有利于美国，也许是无畏，如果你愿意，对创新而言，你知道，承担风险的能力，尤其是在投资者方面，以及类似的东西，这在美国非常活跃。所以，中国似乎拥有庞大的人口，非常有才华的人，但有点过于专制。也许我可以编辑一下，如果你们不喜欢的话。我会说它更自上而下。所以，能够基本上，你知道，把顶尖人才带到顶端，并给予他们资源，让他们能够蓬勃发展并取得成功，这是美国研究体系自二战以来一直非常擅长的事情。目前它没有朝着正确的方向发展，因为美国的联邦研究资金正在被削减。对大学和其他一切的压力越来越大。所以，可悲的是，这可能会给其他地区带来机会，让它们在研究中变得更加突出。嗯，仍然有很多人对人工智能感到恐惧。那么，如果它控制了人类世界，你知道，反乌托邦的未来呢？那么，你对这些末日论和叙事有什么看法？我不相信任何那种末日情景。不，我不同意我的一些同事，甚至我的一些朋友在这方面。我必须说，大多数人工智能科学家都更倾向于我这边。我的意思是，他们不相信，你知道，人工智能会接管世界并杀死所有人。嗯，科学家们总是非常，你知道，对未来很乐观，就像政治科学家一样。是的。但他们愿意辩论问题，并进行争论和反驳等等。对。如果你想得出真相，你就需要这样做。你需要能够辩论不同的方面。但我认为人们犯了一个根本性的错误，那就是我们唯一习惯于看到的智能实体的例子就是其他人类。所以我们只是假设，如果一个实体是智能的，它将以与人类相同的方式是智能的。它将拥有人类的所有特征。但这根本不是真的。人类之所以是这样，是因为进化。我们是一个社会性物种，你知道，我们是从像猿猴和其他动物这样的社会性物种进化而来的。所以，因为我们是一个社会性物种，个体之间存在关系，有时涉及影响他人的能力，在某些物种中，涉及支配他人的能力。这在人类身上也存在，但人类还有其他与他人建立关系的方式。所以我们有一种想法，认为智能与这种支配欲有关。但这根本不是真的。有一些不善于社交、不渴望支配任何东西的智能动物。一个很好的例子是红毛猩猩。红毛猩猩非常聪明，几乎和人类一样聪明，但它们不是社会性的。它们不渴望支配任何东西。所以，这种认为当一个系统变得智能时，它们必然会想要支配人类的想法是错误的。即使对人类来说也不是真的。最聪明的人并不总是想支配别人。我的意思是，事实上，恰恰相反。你知道，我的经验是，我遇到过的最聪明的人是那些只想一个人待着的人，对吧？也许这是我的最后一个问题。韩国是一个非常先进的科技国家，但它还不是一个全球性的人工智能超级大国。从你的角度来看，像韩国这样的国家如何做出贡献或发挥作用？以及你对我们的领导人和年轻学者有什么建议吗？我认为你触及了一个非常困难的问题，我不知道答案。但如果你看看亚洲的一些国家，比如韩国、日本和台湾，这些国家在技术方面非常出色，尤其是硬件技术，但在软件方面则不然。并不是说没有人才，人才就在那里。教育体系是高质量的。人们非常聪明。如果你把他们放在不同的环境中，他们就会蓬勃发展。我最杰出的合作者之一，也是我在纽约大学的同事，是Kung Yun Cho教授，他非常聪明，是韩国人。所以我解释不了为什么台湾、日本和韩国在某些领域处于领先地位，尤其是在硬件方面，而在软件方面则不然。我认为这可能是因为软件的卓越需要有组织的混乱。你需要混乱。你需要好的想法从底层冒出来。你需要承担风险。你需要给人们很大的自由度。如果你告诉人们做什么，你就不会有突破。你只会得到改进，你知道，渐进式的改进。这可能与北美文化的一些方面更兼容，而不是与亚洲或欧洲的文化。现在，这些东西会随着时间而演变。所以，反过来说，美国在硬件方面并不擅长。所以，我不知道。这是一个复杂的问题。这让我感到困惑。我认为这也困扰着许多希望在人工智能以及硬件等方面定位自己的政府。嗯，我认为这是一个非常有见地的回答，事实上，因为我们都知道我们讨厌混乱。我们喜欢并热爱秩序，但也许是时候改变了，正如你所说，来发展我们的软件。非常感谢Lukucn博士。我知道你必须去参加会议，日程非常繁忙，非常感谢你抽出时间进行这次创新。很高兴。非常感谢。音乐。