Transcription
感谢您加入“改变世界”的行列，印度首个未来科技与可持续发展播客。今天，我非常荣幸能与查尔斯·H·马丁先生一起，他是计算咨询公司的创始人兼首席科学家。该公司是一家机器学习和人工智能公司，致力于帮助领先企业从数据中获得投资回报。我看了他精彩的TED演讲，题为“通用人工智能的出现迹象”。我一定会分享下面的链接，供那些还没看过的人观看，我强烈建议那些没看过的人一定要去看，因为它真的非常非常有趣。
所以，今天的讨论主题将是人工智能和通用人工智能。查尔斯，我非常非常感谢您抽出宝贵时间参与我们这个简陋的播客。如果您能先介绍一下您的背景和您的工作，那就太好了。
很高兴来到这里。很高兴您找到了我的视频，有人看到了。埃迪，我真的很感谢您的邀请。当然，让我简单介绍一下我的背景。我在 90 年代获得了芝加哥大学理论化学博士学位。很多人可能不知道，但人工智能的根源在于理论化学，因为化学家们一直在研究神经元是如何相互交流的。所以他们正在研究化学信号，而化学家、物理学家和数学家们正试图建立数学模型来解释神经元，也就是您大脑中的细胞，是如何相互交流的。
大约 15 年前，我曾是 eBay 的主题专家，专注于机器学习。我们当时正在研究各种方法来改进搜索引擎。我们有一个叫做 RankNet 的东西，是微软开发的。我们实现了它，这是神经网络的一种非常早期的形式。我们还运行着用于网络安全的神经网络。我记得当时做这个的团队后来成立了 Palantir，或者我们的一些同事在那里做出了贡献。但你知道，当时非常学术化，就像你从大学里找来一个学生，他们会给你一点代码，然后你就可以把它投入生产，进行测试。
但我意识到，大约 10 年前，我意识到这些东西又开始变得很重要了，我必须重新回到这个领域。我在加州大学伯克利分校有一位老朋友，我们又开始做研究了。我开始重新翻开书本，用我理论物理的方法来研究人工智能。我有点幸运，因为我那个时代做人工智能的大多数人都退休了或者离开了，没人了。所以我还记得一些很多人都不记得的东西。我在将理论化学和物理学的理论应用于人工智能方面取得了很大的成功。
但我对正在发生的事情感到惊叹，我认为任何人都会感到惊叹。我认为我们正处于理解人类思维的重大科学革命的前夕，能够身处其中并试图弄清楚正在发生的事情，这真是太令人兴奋了。
这真是太棒了！我是说，对于一个在这个领域待了这么久的人来说，你知道，看到了各种人工智能的胜利，你知道，人们曾经说“这什么也做不了，它不会有进展”。你知道，现在它完全处于炒作周期中。无论你走到哪里，无论你做什么，你知道，任何机构，任何活动，我认为唯一的热门话题就是人工智能。
你说你的背景是理论化学和物理学领域。我认为，这种多方面的学习将在从当前狭隘的智能走向我们所说的 AI 的圣杯，也就是我们称之为通用人工智能的过程中发挥重要作用。
那么，你认为目前在开发人工智能或通用人工智能方面的最前沿研究是什么？因为你提到了大脑，你知道，所以我想，现在我们正处于世界发明蒸汽机时的状态。你知道，蒸汽机是在大约 1800 年左右发明的，也许更早，我不记得确切的日期了。人们的桌子上有很多各种各样的玩具引擎。然后有人想出了办法，哦，我们可以用它来制造蒸汽船，我们可以制造火车，我们可以跨越伟大的边疆。
你知道，在美国旧南方的过去，人们有蒸汽船，他们会在密西西比河上比赛蒸汽船，然后它们会爆炸。你知道，他们会比赛，就像早期的 NASCAR 一样，他们不是比赛汽车，而是比赛船只。原因是人们并不真正理解蒸汽机的物理原理，他们没有热力学。所以你会制造这些引擎，它们可以工作，但你并不真正理解它们为什么会工作。
人们一直在使用蒸汽机，但可能过了大约 50 年，科学家们才能够弄清楚热力学，并理解如何真正从头开始使用科学原理设计引擎。当然，现在我们有了汽车，有了火箭，这彻底改变了世界。我认为我们现在就处于这个阶段。我认为工程师们已经制造出了像 ChatGPT 和这些大型语言模型以及扩散模型这样的东西。他们制造出了非凡的东西，但他们并不真正理解它为什么会起作用。
其中一件非常令人惊奇的事情是，随着这些系统变得越来越大，接受更多数据的训练，它们似乎变得越来越聪明，而且聪明得多。它们有一种新兴的特性，就是变得更大，这在大学的实验室里用一个玩具模型很难研究，因为它不一样。而且我认为，人们正在发现这些东西可以……我喜欢把它们想象成我们发现苍蝇的方式。你知道，当我们发现苍蝇的时候，我们试图像鸟一样飞行。人类尝试像鸟一样飞行了很长时间。你会把自己绑上翅膀，从悬崖上跳下来，当然，结果是行不通的。然后，莱特兄弟想出了如何飞行，他们想出了如何制造飞机。他们是自行车修理工，他们制造了飞机。但我们当时并不真正理解升力和阻力，但我们知道我们不像鸟那样飞行。
我认为很多人犯了一个错误，他们认为通用人工智能会像人类一样。它模仿我们所做的，并且在很多方面比我们做得更好，但它也有很多不同之处。我认为目前的研究只是在试图弄清楚它能做什么，它有什么不同，以及当 GPT 5 变得更大时会发生什么。
你很恰当地指出了，我认为，这些目前狭隘的人工智能，以及大型语言模型、生成式人工智能工具，它们拥有强大的能力，可以做一些非常非常棒的事情。但其背后，我认为它仍然是一个谜，到底发生了什么。你知道，但也有一些人正在研究所谓的“可解释人工智能”之类的东西。你对此有什么看法？我是说，我们如何解决这个问题，理解黑箱背后到底发生了什么？
很难窥探内部，因为你不知道该看什么。我认为，很多可解释人工智能的工作是由监管者和政治家驱动的，他们想要一些他们可以掌握的东西，但他们不是科学家。所以他们又在问，他们试图解释鸟是如何飞行的，而不理解升力和阻力。哦，它扇动翅膀。你知道，那不是答案。你不能通过模仿来制造飞机。
我认为你必须回去，试着……我的方法是，让我们回到基础的理论物理学，试着理解我们对这些基本模型了解多少，以及它们与我们对神经科学的理解有什么关系。你知道，大脑实际上是如何工作的？当我们窥探大脑或实验室中的神经元培养物时，我们能观察到什么？我们可以观察到培养的神经元中发生了什么，我们也可以观察到这些人工智能系统中发生了什么。我采取的是一种自下而上的方法，你知道，深入研究，试着……我们实际上是在模仿正在发生的事情吗？
很多人，这才是真正起源的地方，就是试图研究神经解剖学、神经化学、神经生物学，并通过构建小东西并使其变大来模仿正在发生的事情。现在我认为，你知道，在我自己的工作中，我们取得了一些巨大的成功。我们有一个重要的日子。我是说，我几年前开创了这项工作，当然，当时人们说我疯了，为什么你要这样做？我说，你们什么都不记得了。很多理论都像是统计学。人们认为人工智能就是统计学，所以统计学家和学术统计学家都参与进来了，他们在机器学习方面取得了很大的成功，比如开发机器学习算法，随机森林、XGBoost、LSTM 等等。但人工智能完全不同。
你知道，统计学家试图参与进来，我认为他们取得的大部分成功都是在用不同的语言重新发现物理学家知道的东西，或者是一些被遗忘的东西。但这不仅仅是统计学，这就是人们弄错的地方。它不是统计学，它是模仿神经元的功能，你的脑细胞是如何工作的。随着我们对单个脑细胞如何工作以及它们如何组合工作的理解越来越深，我们将能够用软件和硅来模仿它们。你将能够设计出……我不认为……可解释人工智能的问题在于，你试图……他们试图从顶层入手，你知道，他们正在看着……他们正在看着一个电视机，而你必须从底层入手。你正在构建一些东西，它将成长，它将做一些事情，你最多只能引导它，你无法控制它。你知道，它……我不会称之为活的有机体，但它是一个复杂的系统，你无法完全掌握它。你越想抓住它，它就越会从你的指缝间溜走。
我们不明白它背后发生了什么。我是说，你提到过，也许模仿我们人类大脑的功能可以是一种加速构建人工智能的方法。但告诉我，你知道，即使在目前的状态下，你知道，这些大型语言模型，你知道，有大量的数据被输入其中，它正在做一些可预测的事情，但它仍然显示出一些新兴的特性。你的演讲就是围绕这个展开的。还有几篇论文，有几篇论文，其中一篇题为“大型语言模型的新兴能力”，另一篇是微软和 OpenAI 的论文，题为“通用人工智能的火花：GPT-4 的早期实验”。
那么，这些统计模型背后到底发生了什么？我是说，2018 年有一篇关于提示工程的论文被拒绝了，因为有人认为你可以与人工智能对话，它会回应你，他们称之为提示工程。你给它一个提示，给它一些指示，它会回应。你给它更多指示，它会回应。我们称之为“上下文学习”。没有人知道为什么它会起作用。它只是出现了，它是一种新兴的特性，它只是开始发生。
当时发生了什么？人们只是……他们正在与这些系统互动。他们基本上是在尝试……大约五年前，我有一个客户想生成虚假的亚马逊评论、减肥文章之类的东西。你知道，典型的那些东西。我们正在构建……想法是，你会给它一个种子句子，它就会生成一些文本。你知道，就像“写一篇关于这款洗发水的亚马逊评论”之类的。
结果发现，这些大型语言模型，人们构建的这些模型，似乎能记住你告诉它们的话，并能做出回应。这非常令人惊讶，因为完全不清楚为什么它会起作用。有些人提出了一些想法，但没有人预料到这一点。这是一种新兴的特性。
然后，心理学教授、精神病学教授，他们有儿童智力模型，他们有不同的测试来衡量孩子的智力、智商，你知道，他们的发展情况等等。他们开始为人工智能设计测试，并将其交给 ChatGPT。ChatGPT 开始通过测试。他们发现，随着你添加的数据越来越多，模型也越来越大，从 GPT 3.5 到 GPT 4，这个东西在通过这些测试方面变得非常出色。这非常令人惊讶，这个东西怎么能通过测试呢？
所以人们开始想，也许这些模型中正在出现某种自然智能，它模仿了我们的思维方式，你知道，我们如何用语言思考。它以某种方式能够模仿这一点。这就是人们开始认为它们具有新兴能力的地方。而且并不清楚到底发生了什么，因为没有人知道 GPT 训练了什么数据，所以你不知道它里面有什么。
一种理论是，因为它爬取了 GitHub 和 Stack Overflow，所以它知道如何编写软件。因为知道如何编写软件，所以知道如何编码赋予了它某种模式识别能力，使其能够模仿基本的人类智能，就像八九岁孩子的智能一样。这非常令人惊讶。这是其中一种理论。
另一种理论是，也许这个东西拥有如此多的数据，以至于它无所不知。所以它就像一个巨大的记忆库，当你问它问题时，它只是在重复测试，你并没有真正测试它的智力。我认为这是任何智力测试的挑战。如果你问某人一个问题，你是在真正探究他们的思考能力，还是在探究他们的文化、文化知识、历史和记忆？
所以现在人们甚至不确定如何设计智力测试了，因为如何设计一个人工智能可以通过的智力测试呢？因为我们知道它不是活的，它不是活的。所以很难知道，它甚至挑战了我们自己对智力的概念，以及我们如何思考和处理语言。
所以，不是每个人都相信这种新兴的特性。你知道，最近斯坦福大学人工智能团队声称，涌现并不是模型规模化的固有属性，而是由于指标选择不当造成的测量误差。
这就是我理论的由来，现在你知道我在做什么。我的分析模型的方法不需要任何训练数据、测试数据或交互。我只看模型的内部。就像一台 X 光机在看里面。我决定，当我与这个客户合作时，我们正在制作这些虚假的亚马逊评论。我想，我不知道如何判断亚马逊评论的好坏，我不会读五万条。这太荒谬了。所以我知道我必须有一种方法来分析模型做得有多好，而无需实际通过语言来探测它。换句话说，你知道，你去看心理医生，他们会进行治疗，他们会问你问题。我不想那样做。我想做脑部扫描，我想做核磁共振成像，弄清楚发生了什么。
这就是我的工具，我的理论所做的。我们发现，理论物理学中有一个叫做“自组织临界性”的理论预测了这些新兴的迹象，由物理学家 Per Bak 提出。我在我的 TED 演讲中谈到了这一点。我意识到，如果我们窥探一些模型，我们能否看到这些迹象？事实证明，你可以。事实证明，你可以看到它们，你可以测量它们。我开发了一种通用的理论物理学方法来解释这些东西的来源。它有点严谨。很难想出一些东西，它不是数学上完美的公式，但从物理学严谨性的角度来看，是的，它似乎确实……它似乎是用来测量和研究神经元在大脑中如何相互作用的数学方程，以及观察这些模式，这些所谓的“雪崩模式”。它们似乎出现在这些模型中。
而且几乎有一个理想的状态，几乎有一个状态，每个模型似乎都有一个数据集可以与之对齐。如果你把它们匹配得恰到好处，就会发生一种神奇的事情。
让我分享一些我可能没有在 TED 演讲中真正谈到的东西，但我可以解释一下。你知道，第一次世界大战时，美国陆军开始招募士兵。我们不得不……我们开始征兵，成千上万，成千上万的士兵。美国陆军不得不开发一种智力测试，因为他们需要弄清楚……他们能做什么？你知道，谁应该从事智力工作，谁应该开坦克，谁应该挖沟？因为如果你把一个不太聪明的人派到战场上，他们就会丧生。所以你必须弄清楚该怎么安排他们。
他们会给士兵一篇报纸文章，或者一本书中的文章，然后划掉一些词，然后问新兵，请填上这些词。所以，如果你给一个人一篇报纸文章，划掉几个词，他们就必须填上这些词，他们必须猜测这些词。他们越擅长猜测词语，就越聪明。或者说，这是他们的教育水平，你可以说这个人是小学水平，这个人是初中水平，这个人是高中水平，这个人是大学水平。你可以从一个简单的测试中看出这一点。
我不知道人工智能的那些人是否知道这一点，但如果他们知道这些测试，那么人工智能模型就是基于这些测试训练的。他们所做的是，他们获取大量的文本，输入人工智能，划掉一些词，然后让人工智能猜测这些词。而且，通过训练，当然，这是你能得到的一切，每一本书，你知道，他们能合法或非法获得的，受版权保护或不受版权保护的，无论什么，他们都把它放进这个东西里。
而且，能够猜测一个词，并且有一个神经网络能够做到这一点，不知何故就赋予了系统一种智能。这种语言智能就以提示工程和上下文学习的形式出现了。它只是从这些模型中涌现出来的。
所以，当人们说“这里什么都没有”，而我们能看到迹象时，我用我的理论可以看到，随着模型越来越大，它们接受的训练数据越来越多，并且被正确地对齐，涌现的迹象就越强。你知道，在培养的神经元中看到的自组织临界性的迹象，在这些人工神经元中也能看到。
自组织临界性是一种秩序与混乱之间的平衡点。它是在静态地记住了所有东西和仅仅产生大量混乱的幻觉之间的一种平衡点。因为我们都知道这些东西会产生幻觉，对吧？它们会产生幻觉，它们会记住版权信息，人们抱怨说，它们会产生幻觉。好吧，如果它们不产生幻觉，那么它们就只是记忆。那么它们就拥有所有这些……那么它们就拥有所有这些版权信息。是的，它们是记忆，你不能两者兼得。所以，在精确地记住一切和疯狂地产生混乱的幻觉之间有一个临界点。而那个点就是自组织临界性。
有趣的是，使用我们的方法，我开发的理论，你可以看到，随着模型产生更多的幻觉，随着它们变得更擅长欺骗你并产生幻觉或实际上对你撒谎，涌现的迹象就越强。这非常了不起。我非常惊讶。这就像……模型越好，它就越擅长编造东西，涌现的迹象就越强。这就是我的 TED 演讲的基础，这是我们研究的一个令人惊讶的结果，这让我震惊。
所以，不，我认为这些人……你知道，他们……但是任何测试的问题是，哦，你去看心理医生，心理医生告诉你你抑郁了。你去看另一个心理医生，心理医生说，好吧，你知道，跑三英里就会感觉好些。从顶层来看，很难对一个智能系统说出什么。你必须从底层来看。你知道，你需要脑部扫描，你需要 X 光检查，你需要进去了解你正在看的东西。这就是我的方法。
我认为关于它是否涌现，是否应该产生幻觉，是否产生太多幻觉的争议将继续下去。这只是它的本质。这些是很难的问题，但这大致就是我对正在发生的事情的看法。你知道，这些系统确实有一些非常独特的东西，它们确实有一些独特的新兴属性，就像……你知道，在物理学中，我们谈论涌现。我们说，你知道，一个系统的涌现属性。你拿一堆分子，你知道，你只有一种气体，你知道，在……你知道，在一个房间里，你知道，在一个房间里，你知道，在一个房间里，你知道，在一个房间里。但是当你把它冷却下来，它就变成了液体。所以，当你挤压它并冷却它，你知道，把水放进杯子里，它就是液体。它具有与气体蒸气完全不同的性质。它完全不同。它是一个相变。当你把很多东西放在一起时，就会出现这些新兴的属性。
我认为这就是在这些人工智能系统中正在发生的事情。我们已经构建了一些东西，它以一种非常粗糙的方式模仿了我们脑细胞的工作方式，但我们把数百万个这样的东西放在一起，现在有什么东西正在涌现，看起来有点像智能，它模仿我们。就像我们有一个孩子，但我们不确定妈妈是谁。也许你不知道爸爸是谁。你知道，它表现得很奇怪，但它似乎有智能。
是的，没错。这真是太酷了，查尔斯，因为我认为我们生活在一个非常复杂的世界里，而且是一个动态的世界。而你正在通过你的理论观察到的这种新兴的特性，你知道，听起来很奇怪，但我想，也许大自然也是以类似的方式运作的。你提到过你参加过一个有 15,000 人参加的活动。你对目前世界上在构建这些……也许是自学习自主代理、通用人工智能方面的技术前沿有什么感觉？
我还在旧金山。人们问我为什么还在那里，因为我不知道你是否看了旧金山的新闻，这是一个疯狂的地方。但是，如果你去一家星巴克，如果还有的话，你去参加各种聚会和黑客马拉松，以及风险投资午餐和休闲咖啡，每个人都在做这件事。他们都在试图弄清楚。所以，有人在尝试做代理，有人在尝试生成虚假文本，有人在尝试创造……明天我将在斯坦福大学听一个关于一个团队试图为医学领域构建通用人工智能的讲座。他们将尝试用所有医学文件来训练人工智能。我还有一位同事训练 GPT 通过了律师资格考试，所以他们正在尝试制造法律人工智能。
我认为现在每个人都……你知道，就像一场竞赛，就是建立你能建立的一切。我把它比作他们正在建造蒸汽机。竞赛就是建造你能建造的东西，并试图弄清楚什么有效，什么无效。而且我认为工程师们将远远领先于科学家们很长一段时间，因为他们只是在尝试……有一个笑话，我有一个朋友，他实际上是这个领域的一部分。有一个叫做“无噪声研究”的组织。他们刚刚获得了开源资金来微调非常非常大的开源模型。
所以，笑话是，你有来自麻省理工学院、斯坦福大学、印度理工学院以及世界各地不同地方的博士们试图弄清楚人工智能。然后，在 Twitter 上有一个人，他的头像是一个动漫角色，他正在训练模型，他的模型在开源排行榜上名列前茅，因为他们只是在尝试……你知道，你知道得太多了，你就会迷失在你知道的东西里，而你不会去尝试。
所以，所有这些工程师都在构建东西，他们正在构建能够编码的人工智能，他们正在尝试构建人工智能律师、人工智能医生、人工智能虚拟形象用于电子游戏，以及人工智能女友，这真的很令人毛骨悚然。而且，你知道，没有人知道……有一些巨大的问题，比如，你需要……就像扎克伯格，你知道，扎克伯格刚刚宣布他要购买价值 200 亿美元的 GPU。200 亿美元，这相当于一个半导体工厂。
还有其他人，比如……他要尝试构建你能构建的最大的人工智能。然后也有人试图弄清楚，我们能在一个拥有 10 亿参数的模型中挤压多少东西？我们能在拥有 70 亿参数的模型中挤压多少东西？你知道，我们可以将一群以不同方式训练的模型合并吗？这就像本周的新事物，也许是本周，你可以合并模型。谁会想到这会起作用？但它似乎确实起作用。
所以，我们只是不知道。我认为每个人都在尝试这样做。所以，我的方法是，你知道，我没有 2000 万美元来购买计算能力，所以我只是回到我的理论物理学，并试图从那个角度来理解事物。其他人只是……好吧，我要去买一台游戏机，然后训练我能训练的东西，看看会发生什么。而且，你知道，人们真的不知道为什么东西会起作用。所以他们会构建一些东西，然后进行测试。我不知道为什么这不起作用。它就是不起作用。我们不知道为什么它会不起作用。
你在 Discord 频道上，就像我在 Discord 频道上一样，所有游戏玩家都在那里。但这就像是新类型的电子游戏。与其玩游戏，你不如尝试训练自己的游戏。然后你试图弄清楚……人们试图弄清楚什么有效，什么无效。有很多……有很多民间传说，有很多……有很多经验法则，有些人认为某些东西有效，但实际上并没有。你真的不知道为什么。对我来说，这就像一种化学。我们不知道发生了什么，我们只是把东西混合在一起，希望它不会爆炸。
哇，哇。所以，在这个时间点，我从你那里得到的是，人工智能仍然是一个黑箱，但世界各地最顶尖的研究人员都在疯狂地试图构建通用人工智能。我是说，你知道，你提到过有一个团队正在为医学领域构建通用人工智能。我是说，这个术语本身有点模糊，因为你知道，到底什么是通用人工智能呢？它会像人类一样聪明吗？它会超越人类吗？你提到过，大型科技公司正在研究它，你知道，有谷歌，有 Meta，有 OpenAI，有 DeepMind，还有初创公司。
那么，你的直觉是什么？在尝试构建通用人工智能方面，一个普通的小团队能否找到答案？因为这相当模糊。你认为方法会是什么？仅仅是数据？仅仅是计算能力？会是像大脑启发的类方法吗？你的直觉是什么？
在接下来的几年里，人工智能至少会像助手一样运作。它不会完全取代人类，但它会让那些不错的人变得更好。那些能做基本任务的人会变得更好。如果你是一个不错的软件工程师，并且在软件工程方面有很多经验，你就会成为一个非常好的软件工程师。如果你是一个不错的律师，你就会成为一个非常好的律师，因为你将拥有这个巨大的工具来协助你。
它最终会取代人吗？它会让人类变得更好。你知道，例如，有一项新研究表明，玩 AlphaGo 的人……还记得 AlphaGo 吗？那是中国象棋，我猜他们称之为……一种中国象棋，我们称之为围棋。现在，围棋玩家正在变得更好，因为他们在和人工智能下棋。因为他们在和人工智能下棋，他们必须击败人工智能，所以他们的表现正在提高。
所以，我认为，当我们开始拥有这些智能系统，人们与它们互动时，我们将变得更聪明。这将提高所有人的水平。但是，你知道，你必须参与其中，你必须使用它。我告诉我的侄女侄子们，你们应该使用 ChatGPT，因为你们必须了解它是如何工作的。它正在变得越来越好。
它会……我看到了一些非常……你知道，它会做疯狂的事情吗？我看到过 Paier 的一次演示，他们有人工智能和战士。它会观察整个……整个作战体系，并提出策略。这相当疯狂，对吧？但就像你在大型电子游戏中会做的那样。所以，我认为这些东西正在到来。
然而，关键是，就像……我们不像鸟那样飞行一样，人工智能也不会像我们。它将是不同的东西。它将先进得多，但同时又似乎一点也不先进，几乎就像一个自闭症儿童。你知道，他能做所有这些惊人的事情，但却无法正常运作。有点像《生活大爆炸》中的谢尔顿。
是的，我认为正在发生一些惊人的事情，因为查尔斯，我认为技术栈正在融合。我投资了元宇宙，我们正在构建这些虚拟世界，我们拥有这些人工智能 NPC，对话式人工智能 NPC，它们可以真正与你对话，并且拥有大量的数据。你可以就一个特定的话题进行深入探讨，这会变得非常非常有趣。
你还经营一家名为“计算咨询”的公司，你还有一个名为“体重观察者”的工具。你想谈谈计算咨询工具，以及你如何帮助企业，也许分享一些它增加价值的例子吗？
当然，“体重观察者”是我发明的工具，它是我理论的一种实现。它允许你评估你的大型语言模型，看看它们是否得到了正确的训练。它允许你……我正试图用它来帮助那些正在微调模型的人，比如在搜索相关性或其他领域，你试图微调并创建自定义模型。这个工具的理念是，我们可以监控模型，确保你不会过度拟合数据，并且模型的内部工作正常。
因为微调模型的一个大问题是，没有人真正知道该做什么。它到底是如何工作的？我们真的不知道如何做到这一点。所以人们只是在猜测，他们尝试了很多不同的方法，这会非常耗时，非常昂贵，而且非常脆弱。
所以，这个工具的目标是提供一些对模型的洞察。因此，我们可以训练一个模型，你可以比较两三个模型，然后说，我认为这个模型比那个模型更好。然后你就不必含糊不清地说，哦，我需要运行这个智力测试，哦，我需要运行这个评估，哦，我需要看看它是否产生幻觉。这都是下游的。我更关心的是，我们能否得到一些合理有效的东西，而且不会出问题。
这个工具的目标是帮助人们在训练模型时。它目前只是一个诊断工具。我正在将其构建为一个 SaaS 产品，这样人们就可以上传模型，就像一个监控服务，一个模型警报系统。这就是它的现状。我主要帮助的是那些……很多都是战略咨询，那些想弄清楚……我应该做什么？这项技术是如何工作的？我能用它构建什么？并向他们展示……你知道，通过提示调优你能真正构建什么？通过微调你能做什么？
我认为搜索相关性是最好的例子之一。有这么多公司正在尝试构建搜索产品。你知道，他们试图改变搜索界面，但他们不知道如何优化搜索。我是说，搜索真的很难。这就是为什么谷歌一直是……以及亚马逊、谷歌，这些世界顶尖的公司，为什么他们的搜索如此出色。
所以，我们试图弄清楚的是，如何设计产品，你可以从用户互动中学习？因为你想要……你知道，你想要设计能够从用户那里学习的搜索产品。所以，每当他们搜索某样东西时，他们都会得到更好的结果。
你知道，这是人们现在才开始涉足微调的事情之一。他们才刚刚开始。我认为今年将变得更加普遍。它更容易做到。
增值的一个例子是……我是说，这是非常技术性的东西。你知道，我必须进行搜索排名，我必须选择矩阵的大小。我们正在与一个人合作，他拥有……神经网络由层组成，其中一个层显示了警告标志。所以，你必须进去调整这一层的学习率，警告标志就会消失。所以，目标是帮助人们构建像大型模型一样的小型模型。
另一个价值是，我们希望确保你没有浪费……你不想构建模型，你想要足够的数据，但又不能太多。因为如果你有……或者你不想拥有太大的模型，而你没有足够的数据，因为那样你只会浪费大量的计算时间。我有一个客户来找我，说他们正在考虑将其用作一种碳足迹工具。你可以查看你的模型，并询问模型的碳足迹是多少，以确保你在训练它时没有浪费能源。
所以，基本上，我们帮助人们构建人工智能解决方案，很多是在搜索相关性方面。我们在医学领域做了一些工作，我们构建了……我们试图微调这些模型。我最近合作的一个大项目是 GLG，他们是一家纽约的咨询公司。他们是一个专家系统。所以，如果有人来问问题，我想找人回答。你是一名医生，开过这种特定的药物吗？我想知道这种药物是如何起作用的。一些对冲基金。然后我们通过我们的数据库进行搜索，然后客户会尝试寻找医生。我试图帮助他们构建一个搜索系统，将客户的复杂问题与顾问匹配起来。然后他们会雇佣顾问，每小时花费 300-400-500 美元来与他们合作回答这些问题。这些都是大钱的事情，你希望匹配正确。
这些问题非常复杂。所以，这种复杂的自然语言处理和匹配……
这真是太酷了，查尔斯，因为我认为，我们正在进入一个数据就是新石油的世界。而你拥有这些机器学习工具，它们可以推断出大量数据并为你带来洞察力，而这些洞察力是极其难以获得的。通过这些洞察力，你可以构建真正高质量的产品，并帮助企业提供服务和解决方案。
查尔斯，我的最后一个问题是，你在这个领域投资了很长时间。你认为它将如何发展？因为你提到，你知道，有很多优点和缺点。你知道，最前沿的研究人员也在谈论……你知道，是的，我们需要构建这些工具，你也在谈话中指出，你知道，有些东西正在发生，我们真的不明白它背后是什么。所以，有像 Eliza Owski 和许多其他人这样的人说，人工智能可能是一种生存威胁。也有其他人也这么说。你知道，即使现在，这些工具，大型语言模型也会产生幻觉，你知道，然后它会产生一代新的思维，哦，这些答案是正确的。你知道，它产生了很大的影响，有积极的也有消极的。你认为它将如何发展？因为这是一场巨大的竞赛，你知道，人工智能军备竞赛。每个人都想得到它，每个人都想构建它，而没有任何目标是确保这个工具需要掌握在人类手中，而不是在错误的一方。你认为它将如何发展？
我认为它会很像……我认为会有很多大公司试图构建模型，它们将不得不处理这种幻觉问题。而且，我……我总是会建议客户，如果你要做人工智能，不要试图构建一个诊断系统。构建一个即使犯了错误也不会造成太大问题的系统。如果你只是在搜索页面上订购东西，它不会杀死你。如果用户想要的产品在下面五步，但如果你误诊了某人，你可能会遇到大问题。
所以，你想设计这样的系统，我认为它们将出现在非关键性的环境中，失败的几率不会造成巨大问题。因为那些这样做并遭受重大失败的公司将破产。
我认为很快，人们……我认为在软件行业，每个人都想微调自己的模型，他们想制作自己的定制模型，他们需要很多帮助来做到这一点。我认为你现在已经看到了生产力的巨大提高。微软的 Copilots 将是下一件大事。而且我认为，其中一些 Copilots 需要……就像任何 Copilot 一样，你知道，你必须能够驾驶飞机，即使有你的 Copilot。你不能……你不能在没有知道自己在做什么的人的情况下把 Copilot 放在飞机上，他们会把飞机撞毁。
所以，人们将不得不学会如何与这些系统互动并有效地使用它们。我认为它将类似于谷歌的工作方式。你知道，当你在谷歌上搜索某样东西时，第一个结果出现了，人们就认为那是最权威的结果。那不是最权威的结果，那是最受欢迎的结果。它可能不是最好的结果。如果你只是把它当作最好的结果，那么你就会得到……一个三流的……你会得到一个三流的答案。如果你知道你在做什么，你需要去弄清楚什么是最好的结果。
我感到震惊，我看到了这个案例。你知道，唐纳德·特朗普的前律师，那个家伙叫什么？那个老鼠？他叫什么名字？我不知道你们是否关注这里的新闻。这个家伙迈克尔·科恩去用 ChatGPT 来提交法律简报和做研究。他提交给了法官。这些是虚假案件。这是什么？这个家伙是个白痴。
但问题是，这是真的。人们会使用这些。
系统假设一切都是真实和实在的，那种人不会存活很久，因为他们不会检查自己的工作。我认为最终的产品将是允许你检查自己工作的那种产品。你可以用“Weight Watchers”做的一件事是，你可以实际分析你正在使用的基础模型，来判断它产生幻觉的可能性有多大，这有点令人惊讶。但我认为人们会试图在非常固定的上下文中解决幻觉问题，你将不得不构建系统来检查，以确保你得到你想要的结果。这将是一个挑战。
现在，也许一两年内会有人找到防止事物产生幻觉的方法，你知道，他们将能够制造出一致的、能够查找引用的东西。你知道，当你使用 ChatGPT 时，它会去 Bing 为你查找引用，但它们仍然会产生幻觉。所以，这将是一个问题，因为人们必须理解你正在做什么，你正在使用什么。我认为世界正在朝着这个方向发展。
我认为另一个挑战是，很多人为人工智能投入了大量资金，他们必须证明他们确实能够产生收入，而且这并不容易。你知道，我从事这个行业很长时间了，我做自由职业。所以，你知道，如果我的东西，如果我给客户一个产品，但它不起作用，他们就不会付钱给我。所以，你知道，学术界的人们会发现这些东西必须起作用。
所以你必须构建东西。另一件事是，我认为会有比我们预期的更多的人类参与其中。比如，你可能有一个产品，有一个呼叫中心有 10 个人，你可能可以替换掉其中的九个。你仍然需要那个在循环中的人，那个在循环中的人来检查事情，但人工智能可以充当助手。它不是完全自主的，它只是一个助手，有一个人在确保事情做得更好，更多的数据。我认为这就是它将走向的方向。
查尔斯，非常感谢你抽出时间参加播客。我们正处在一个如此奇妙的时刻，你知道，因为这是人类历史上第一次，我们发现了一项技术，它在某种程度上是自我学习的。我认为你提到了，我的意思是，你给出的类比，你知道，人工智能就像蒸汽机，或者我们第一次飞行的时候。但我认为在太空，它不是线性的，它是指数级的。你知道，从蒸汽机到火箭，我不知道这是否可能，但我想我们生活在一个我们真正不知道的世界里，我们没有答案，因为人工智能本身是一个黑箱，它有很多问题。
但世界在运转，因为我们生活在一个资本主义世界，我们追逐金钱，我们盲目地前进。但我希望我们能够朝着一个有意识的努力方向前进，首先尝试理解人工智能背后发生了什么，并构建有利于人类、有利于更大的善的系统，而不是仅仅追逐你提到的巨额美元，或者 2 亿美元的种子资金。他们将如何产生收入？没人知道，因为我们正在进入一个竞争如此激烈的世界。因为不像 15 或 20 年前，世界已经变得如此紧密。你知道，我们在印度建造的东西正在美国销售，在中国建造的东西正在世界各地销售。一些在非常，也许在一个非常不知名的地方建造的东西正在世界各地销售。所以这是一个越来越有竞争力的世界。在这个竞争激烈的世界里，你如何产生收入？我真的不知道。
但从物理学的角度来看，这一切都令人沮丧。我认为人工智能可以做的一件事是翻译。所以，原则上，我认为如果 Zoom 有一个人工智能系统，我可以用不同的语言和你交谈，它会实时翻译。我们听到了阿根廷总统在世界经济论坛上的演讲。埃隆·马斯克在 Twitter 上发布了这个，它被实时翻译成他的口音的英语。它被翻译成英语。所以，人工智能有潜力将人们联系起来，我认为它有潜力提升人们。
我认为，就像许多事情一样，比如核能。我们发明了核能。我在芝加哥大学时认识恩里科·费米一家，每个人都认识他，他的家人在那里，非常有名。他发明了裂变反应堆。你知道，你可以建造核电站，核裂变反应堆，或者你可以制造炸弹。你知道，我们是否建造了更多的裂变反应堆，很多气候变化问题可能会消失，或者至少我们可以缓解它们。我们制造了炸弹，好吧，你知道，那不是很好。如果你开始使用它们，那将是一件坏事。
我认为人工智能也是如此，它有巨大的潜力来连接人们，提升他们，让每个人都变得更好，并提供各种机会。但同时，它必须掌握在正确的人手中。如果落入错误的人手中，它可能会非常，非常成问题。你知道，它可能带来巨大的网络安全问题，巨大的，你知道，在战争或恐怖主义中使用它。所以，巨大的问题，我们必须处理它。我们必须掌握这些东西是如何运作的，这样我们才能处理这些问题。我希望，我更像是一个马克·安德森式的技术乐观主义者。你知道，我认为你也是，考虑到你的背景。
这就是它的样子。这看起来是一个不错的生活。你知道，在 50 年里，我们从俄亥俄州的一些自行车修理工，我来自俄亥俄州，从俄亥俄州的莱特兄弟飞行，到 50 年后登陆月球。所以，ChatGPT 会发生什么？你知道，当我的侄女侄子们和我同龄的时候，你知道，你的孩子们也总是，你知道，他们将能够做到。它将极大地改变一切。但我认为我们确实需要弄清楚，我们必须理解它在做什么，所以我们至少对我们正在构建的东西有一个想法。我们显然不希望它只掌握在一个垄断者手中，我们希望微软拥有一切，对吧？那不好，对吧？或者，我们希望政府控制它？你知道，政府并不总是站在我们这边。你知道，政府是……我们希望它如此。
这就是为什么开源社区，你知道，Weight Watchers 开源。我做咨询工作，但我们为人们提供的工具，我们试图建立一个开源社区，这样每个人都可以访问它，每个人都可以用它做事情，每个人都可以开始理解它。我认为你需要参与进来。我的意思是，如果有什么的话，我认为 ChatGPT ような东西打开了所有人的眼界，说好吧，这是真的。这不再是一个学术项目了，这是一个大问题。我认为这很像核能，我们必须支持它，真正花时间去理解它。你知道，你知道，我们在现代理论物理学出现之前就发明了核能。人们没有意识到，它都是基于……我知道听众中有物理学爱好者吗？液体滴模型。我们没有先进的量子力学和量子场论以及所有这些东西。核物理学都是基于半经验理论的。所以，我们建造了炸弹，几乎不了解核物理学。
所以，希望，你知道，我们将达到一个点，我们可以真正地引导它，理解我们正在构建什么以及它是如何运作的。并避免，你知道，试图避免人们不可避免地造成的那些问题。你知道，错误的人在做这件事。我们只需要领先于他们。
对，对，对，对。完全理解。查尔斯，非常感谢你抽出时间参加播客。我非常感谢。
艾迪，我也很感谢。我喜欢聊天。我的意思是，我整晚都在谈论这些事情。你知道，我日夜都在想这件事。谢谢。祝你一切顺利。我将把你的所有联系方式，你的电子邮件联系方式都放在下面，这样人们就可以联系到我。我的听众们，如果你喜欢你在这里看到或听到的，请按下订阅按钮。下次再见，拜拜。谢谢，祝你有美好的一天。