Transcription
好的。嗯，感谢您抽出时间来参加。希望您今天过得愉快。我知道这很不容易，而且您昨晚也很晚才睡，朱莉，如果您还在听的话。嗯，我做完“巨人”故事后，就躲回录音室去处理一些事情，结果发现我待得有点太久了。我们是最后离开大楼的人。嗯，我叫理查德·坎贝尔。我制作了很多播客，您知道，这对我是个很好的学习来源。我能和这么多很棒的人谈论不同的技术。如今，很容易就能找到一个关于人工智能的节目。事实上，可以说我有的太多了。但我在处理机器学习技术等方面的经验可以追溯到“好玩”的时代之前。事实上，在 2016 年，我曾为梵蒂冈为前教皇方济各做一个项目，我们当时有一个想法，认为资本主义和社会良知并非互不排斥。因此，我们实际上是一个加速器小组的一部分，帮助有社会良知的公司取得成功，帮助它们成长。比如为世界欠发达地区带来太阳能灯，这类事情。这是一个非常棒的项目。但在项目进行中，梵蒂冈的一个小组问我是否可以谈谈当时人工智能的现状。这是在 2016 年，当时我们只称之为机器学习，对吧？人工智能这个词还没有那么流行。所以我准备了一个演讲，我称之为“人工智能的危险与希望”。当时，我们主要关注的是，如果你给一个东西输入错误的数据，你就会得到错误的结果。经典的例子是，我们使用机器学习来确定犯罪的可能性。因此，影响警察以及他们选择谁来寻找犯罪活动的偏见，自然地反映在数据中，从而加剧了这种循环。这就是我们当时进行的对话。然后，显然事情变得更奇怪了。但我想在我谈论这个问题时，我想要做的其中一件事是真正谈论它的起源故事，因为“人工智能”这个词其实很古老。嗯，在 1955 年，马文·明斯基、约翰·麦卡锡以及其他几位非常聪明的人认为，当时（这是 50 年代，远在晶体管出现之前，更不用说集成电路了）的机电设备计算机能够做一些类似智能的事情。现在，这些人都是科学家，经验丰富的科学家，他们习惯于筹集资金，这让我想到“人工智能”是一个营销术语。它是为了筹集资金而设计的，并且很成功。他们向美国军方推销，让他们使用一种非常早期的机器学习形式来做后勤引擎，当然是用机电设备计算机，而且奏效了。他们获得了资金，我不知道您是否注意到，但美国人在向世界投射力量方面非常擅长，这得益于一些帮助组织他们如何调动资源以实现这一目标的软件。进入 60 年代。还有其他人也在试验这种软件，其中一位名叫约瑟夫·维森鲍姆的人写了一个软件来演示人类语言交互的奇怪之处，这个程序叫做 Eliza，他基于罗杰斯式疗法理论，只是重复你的话，我不知道他是否把它当作一个笑话，更多的是为了演示需要多少信息才能在软件中产生合理的反馈。令人震惊的是人们在 Eliza 上花费了多少时间。这是在 60 年代中期，所以是很久以前了。他一直在强调人类心理的这些方面，这些是我们前技术时代的残余。所以我们倾向于拟人化。在丛林中生存的策略之一是，如果你能设想出你能够将智能投射到你的猎物身上，你就能预测它们要去哪里。另一个方面是所谓的“空想性视错觉”，或者我们看到人脸的倾向。你可以再次想象一下，如果你是一个狩猎采集者，第一个意识到有捕食者并看到捕食者的脸并逃跑的人，很可能是那个能活下来的人。那些慢的，他们会成为食物。即使你错了，错误的副作用也很小。你只会被人嘲笑，但你活下来了。所以这种行为一直延续下来，对吧？我们在各种事物中都看到了人脸。即使是我们制造的东西，有时也会无意中带有面孔。有时我们在其他行星上看到人脸。这是火星上著名的脸部照片。结果只是一个有阴影的山丘，你知道，没什么大不了的。而且我们现在故意在我们的产品中加入人脸，因为我们喜欢它们，你知道，给汽车起名字。这很奇怪，但这就是人性，而且最近它被利用得比以往任何时候都多。现在，人工智能只有在斯坦利·库布里克 1968 年的杰作《2001：太空漫游》中才为普通人所熟知。如果你没看过，这是一部非凡的电影。里面有一个叫做 HAL 的电脑。HAL 在电影的大部分时间里都在试图杀死所有人。这就像现在我们有了这个很适合讲故事的桥段，就是聪明的电脑试图杀死所有人。你可以快进到 80 年代，你会得到《终结者》，然后进入 2010 年代，你会得到《奥创》。一遍又一遍，我们一遍又一遍地看到关于人工智能的这个相同桥段。所以当你看到新产品时，你使用这个名字有点令人不安，因为它被严重误解了。就像人们认为他们知道它的意思，因为他们看过电影，而这根本不是我们实际在制造的东西。现在，我跳过了一些历史，你知道，从 50 年代开始，然后快速跳过，因为有几个时期，不同的技术抓住了“人工智能”这个名字。但这个时期我称之为生成式人工智能时期，很大程度上始于三个人。让我们关注 Hinton，因为 Hinton 的故事也是我们现在面临的问题的一部分。Hinton 是英国人，尽管他在 70 年代获得了人工智能学位，但他多年来一直在多伦多大学工作，并且在 80 年代的大部分时间里，他热衷于早期神经网络技术。当时，神经网络技术相当浅显，比如输入层、隐藏层、输出层模型，80 年代有一些东西奏效了，它们主要用于一些模型，比如手写识别、识别邮政编码、识别支票，它们在那时就已经达到了产品级别。但随着复杂性的增加，他意识到更深层次的模型有优势。现在我们称它们为神经元，但它们不是，它们是逻辑结构或内存位置，但它们之间的连接以及我们如何进行权重，以及 Hinton 写了一篇非常著名的关于反向传播的论文，他简单地提出了一个关于如何构建一个 10 层深度或非常深度的神经网络模型以及如何调整这些模型的权重以获得成功行为的想法，但基本上以当时的计算机无法做到这一点而告终，我们没有足够的云，这篇论文在很大程度上被搁置了几十年。在 2010 年代，也就是奥创时代，有一个名为 ImageNet 大规模视觉识别挑战赛的比赛。所以这个想法是，我们能否让软件识别图像的内容，而在 2010 年，这基本上是不可能的。快进 15 年，我们现在理所当然地认为我们的手机完全能够识别任何照片的内容，这来自于这场比赛。在比赛的前几年，准确率，这是 1400 万张标记图像，大部分是从社交媒体上搜集的。所以，谢谢。嗯，在这些比赛中，准确率，如果你能达到 40%，你就很厉害了，这实际上并没有用，但这就是当时的情况。然后，来自 Hinton 团队的一群学生，包括 Ilia Sutskever，他们翻出了那篇旧论文，构建了一个深度神经网络来进行图像识别，他们在第一次运行时就达到了 80% 的正确率，到第二年就达到了 100%。图像识别突然就变成了一个已解决的问题，以至于我们现在都忘记了 15 年前它是不可能的。今天，我们只是期望它能正常工作。这并不是这种技术被试验的唯一地方。这些深度神经网络也被用于语言训练。即使在早期，斯坦福研究所的一个小组也在试验语音识别。我们已经有了多年的语音识别技术，但那时你需要自己进行大量的训练。如果你购买了一个 Dragon NaturallySpeaking 软件并设置了麦克风等，你必须一遍又一遍地重复短语，直到它能够识别你的声音。它的准确率大约是 90-92%。这意味着每个段落都有一个或两个错误。但有了 SRI，他们进行了大量的预训练，并能够构建模型，使其一开始就非常擅长语言。然后 Apple 收购了那家公司，并为其增加了一个额外的“i”。现在你知道，那就是 Siri。它现在或多或少是一个死产品。他们正在将其重塑成新的模型。但这是在同一时间发生的另一个完全独立的生成式人工智能的谱系，然后我们理所当然地认为它能识别你的声音，除非你是澳大利亚人，因为训练集没有包含很多澳大利亚口音，所以在这方面受到限制。所以到 2013 年，那里发生了很多事情。那是一张 Hinton 和 Sutskever 在背景中的照片，还有另一个人，他们被 Google 找上门来，说“嘿，你们应该成立一家公司来商业化你们在图像识别方面取得的一些技术”，于是他们在 2013 年这样做了，并立即被 Google 收购。所以他们都搬到了门洛帕克，加入了我在 Google 的一个叫做 Google Brain 的团队，该团队成立于 2011 年。所以他们是探索人工智能技术的智囊团的一部分。这就是我们得到那些故事的地方。你还记得大约在 2014 年，有很多知名的科技人士说，“嘿，人工智能即将来临，而且真的需要公开进行。我们有很多担忧。”这些人包括比尔·盖茨、埃隆·马斯克，甚至斯蒂芬·霍金都发表了关于他们对人工智能担忧的小视频。最终的回应是，包括彼得·蒂尔、埃隆和萨姆·奥特曼在内的一群科技亿万富翁成立了一家名为 OpenAI 的公司。他们的目标是把那些来自 Google 的科学家挖过来，说服他们在更好的公司基础设施中工作，为人类的福祉构建这项技术。除了他们撒谎的部分。当然，他们是一群亿万富翁。所以你期望他们贡献很多钱，但他们也没有这样做。所以这些实体有点步履维艰。比如很长一段时间，埃隆一直说，“哦，我往 OpenAI 投了 1 亿美元。”事实证明并非如此。大概是 1600 万美元和八辆特斯拉。好吧。然后他试图完全控制公司，结果被赶了出去，这就是为什么他仍然对 Sam Altman 感到愤怒。你看到这种持续的争夺。这一切都源于 OpenAI 的早期。而且他们的资金非常有限，他们没有多少资源来做他们想做的事情，但他们取得了进展。甚至到 2016 年，随着图像识别的演变，不一定是来自 OpenAI，我们的朋友 Hinton，这是他录制视频的一个片段，他说，“听着，放射学现在已经是一个已解决的问题了，我们有图像识别，它能比人类更好地找到癌症。”他真的说，“如果你是一名放射科医生，你就像一个行尸走肉。”他错了。错得离谱。现在要澄清的是，放射学已经受到了图像识别技术的显著影响。FDA 批准了超过 700 种不同类型的识别模型用于医学图像识别。但现实是，随着他们加快放射科医生识别图像的速度，成像的需求急剧增加，而你无法如此快速地培训放射科医生。因此，需求量增加了两倍多，但放射科医生的数量只增加了约 10%。培养更多放射科医生需要十年时间。这并不容易。对我来说，这是早期的一个信号，你知道，未来已来。只是尚未普及。现在，我们有一个高技能、高价值的行业，从一开始就拥有这些技术，而它真正的冲击是让它在一些附加条件下成长。它面临着很大的压力。你知道，存在着整个动态，医生是否仍然负责检查图像，或者当技术出错时，医生是否只负责任。对，在使用这项技术方面存在法律和道德上的挑战。但放射科医生已经走在了前面。所以，与此同时，在 OpenAI，他们正在研究一种通用翻译器。那是他们的想法。他们想出了一个策略，将人类语言标记化成一个标记集，然后可以将其输出成几乎任何其他语言。在构建模型时，他们发现从互联网上获取句子，他们可以获取句子的前半部分，然后让后半部分基本上有效地生成。你可以混合搭配，得到不同的版本。他们称之为生成式预训练 Transformer。第一个版本基本上没有被看到。但到了 GPT2，这大约是现在，我们是 2019 年，我们看到了他们正在构建的东西的第一个真正视觉迹象。而且他们很快就意识到他们不想真正开源发布它。不是因为贪婪，而是因为他们担心人们会用它做什么。他们制作了多个尺寸的 GPT2，因为他们穷得连运行自己最大的版本都负担不起，一个半十亿参数，大量的计算量，所以他们制作了更轻量级的版本，以便他们可以进行自己的测试，你知道，云对很多东西来说太贵了，而且效果不是很好，所以这是一个挑战。就在这个时候，微软出现了。Kevin Scott，前 LinkedIn 的首席技术官，现在在微软的首席技术官办公室工作，他有一个使命，他的使命是为 Microsoft Azure 寻找工作负载。那是他的工作，因为他来自硅谷，他认识很多 OpenAI 的人，他看到了他们在做什么，他现在写了一封著名的信给 Satya，他说，“看，我们一直在微软内部试验人工智能，我们在语言方面进展不大。这些人似乎有门道，而且他们真的很穷。我认为我们应该投资他们十亿美元，然后让他们在 Azure 上花掉，这对微软来说是一笔很好的交易，如果你想想的话。我拿了十亿美元，然后进行投资。所以现在我有一百万美元的投资，然后他们把钱都花在我身上。所以现在我有 20 亿美元。嗯，无论如何，他们显然这么做了，这给了他们足够的资金来开始构建一些更大的模型，并开始进行更大的实验，同时也将工作负载转移到 Azure。所以他们有了更多的计算能力。在 2020 年，OpenAI 发布了一篇非常著名的论文，名为“神经元缩放定律”。这篇论文，如果你客观地阅读它，它说的与所有机器学习专家的说法恰恰相反，那就是在训练模型时，不要过度拟合。如果你在数据上训练得太多，以至于达到很高的拟合水平，它只会对训练数据有效，而对真实数据无效。这篇论文说，如果我们不断地将地球上所有的文本输入到这个系统中，并且系统越来越大，它总有一天会像曲棍球杆一样飙升，并且会变得更好。有人会说，这篇论文是许多后续事件的基石，因为所有科技巨头都抓住了这一点。大规模的计算需求对科技巨头有利，以构建越来越大的模型。所以到 2020 年，2020 年春天，OpenAI 推出了 GPT3。微软为此感到高兴，因为它完全在 Azure 上运行。他们称之为当时世界第五大超级计算机。虽然是 2020 年，我们很忙。我不知道你怎么样，但我有点分心，2020 年 5 月。它有 1750 亿个参数。所以，它比最大的 GPT2 大得多。而且它并不那么好。比如，尤其是 GPT3 的早期版本，并不那么令人印象深刻。它们很大，但它们的响应并不那么出色。但 GitHub 的人，又在硅谷，他们想，“嘿，如果我们摆脱英语，专注于人类编程语言呢？”所以他们想出了 Copilot，比几乎所有人都要早，你可以看出它是 GitHub 的，因为它是一个非常好的名字，对吧？就像微软不会想出这么好的名字，对吧？而且它的含义非常完美，如果你仔细想想。就像它是副驾驶，你是驾驶员，责任还在你。这些是早期版本，所以他们还在解决一些问题，但他们取得了足够的成功，以至于微软又投入了 20 亿美元。用于 Azure，因为他们用完了第一次的 Azure，但最初 OpenAI 并没有立即开始构建更好的模型。他们认识到他们需要一个二阶训练集，最初的训练集完全来自互联网，结果是一系列边际结果。所以二阶训练集是“给我这个短语的五个最佳回应”，然后他们会让人类对这些短语进行排名。所以他们花了大量的钱，让人们通过一遍又一遍地对 21 年和 22 年的回应进行排名来构建一个二阶训练集。他们当时在做这个。这个二阶数据集变得相当大，而且它们大多是在英语国家完成的，但也在成本较低的印度尼西亚、菲律宾等地完成。到 22 年秋天，他们又没钱了。所以他们有了一个想法。让我们让公众来尝试一下。让我们把它放出去，让公众来训练。我们将停止付费，因为无论如何你都负担不起。那就是 ChatGPT。它有点像一个意外的产品，对吧？他们正处于一个转折点。他们需要更多的训练测试。如果你还记得这个的早期版本，它基本上总是提供多个回应。这是它的一种副产品。而且非常明显。它试图鼓励你回应更多，因为它的整个机制就是获取更多反馈，更多反馈来尝试训练更多数据。但发生了一件疯狂的事。他们在 22 年 11 月底发布了它，到 23 年 1 月，有 1 亿人注册了。作为 Net Rocks 的人，我有机会和当时正在做这件事的几个人聊了聊，相信我，这两个月是绝对疯狂的，没有人计划过 1 亿用户。就像有很多微软 Azure 的人，他们没有过一个愉快的圣诞节，因为他们只是在努力让系统能够应对如此多的用户。这是一个巨大的、巨大的扩展问题才能达到这一点。但当我问到这个问题时，他说，我说，你为什么认为有 1 亿用户注册了？我认为是因为我们在圣诞节期间发布的，人们宁愿和软件而不是和亲人交谈，这太奇怪了。为什么你要和软件交谈？这 1 亿用户标记是一个大事。这是科技公司用来衡量产品可行性等的指标。所以，疯狂正在蔓延，我认为这是我们的转折点，你知道，在 Gartner 的炒作周期列车上。那是你的技术触发器，对吧？如果我们回到互联网泡沫时期，技术触发器是什么？不是互联网公开上市。那不是大事。是它对公众开放。是 Netscape 上市，所有资金涌入，那就是我们的技术触发器，过度投资于互联网的潜力，直到 2001 年结束。那就是 Gartner 最初提出这个想法的时候，你有一个技术触发器，然后它会急剧上升，产生一系列荒谬的期望。当你试图为这项技术筹集资金时，你只是不断地向投资者承诺越来越高的回报，直到没有人再相信你，你无法兑现你的承诺，然后你就跌入幻灭的深渊，并从中产生一些后果。但它确实是一项有价值的技术，如果你理性地思考，它有其存在的空间。我们经历了 97 年到 2001 年的这段时期，我们今天仍然使用网络。它比那时更好，但这就是现实。我们已经看到了很多这样的情况。我以互联网泡沫为例，因为它对大多数人来说是最为人熟知的，而且仍然与这个问题相关。所以，我们在这里，我们在 23 年经历了技术触发器，我们一直在经历疯狂，现在的问题是我们现在处于这个弧线的什么位置。微软推出的第一个产品是代号为 Sydney 的产品，这是一个自然语言接口，用于必应，它应用了 OpenAI 的接口。事实上，在 23 年 1 月，Satya Nadella 发表了一封内部公开信。这是比尔·盖茨经常做的事情。这就像互联网的巨浪和可信计算。嗯，这是 Satya 作为 CEO 第一次这样做。基本上告诉每个产品团队，这里是 OpenAI 的 API。开始工作吧。制作一个 Copilot。显然，内部有数百个。大多数都不会面世，这可能是件好事。但必应是第一个。他们进展最快。有趣的是，Satya 在担任服务器工具总裁和首席执行官之前曾负责必应。所以，这并不奇怪。使用过它的人都认为它很棒，你知道。所以它没有引起太多关注，但它确实催生了另一个版本的 GPT。所以到 23 年 3 月，时间很短。我们达到了万亿参数。微软又投入了 100 亿美元。所以他们达到了 130 亿美元，以便能够构建这个越来越大的模型。然后 Copilot 的浪潮开始出现，微软谈论所有地方的 Copilot，可以说 Copilot 太多了，即使我们没有看到大多数。而且，你知道，看到它们全部出现很有趣，有点令人不知所措，就像现在的强烈反对，但这只是 23 年，才不到三年。OpenAI 开始认真思考，“好吧，我们现在有 100 亿美元了，GPT5 会是什么样子？”他们很难在 2019 年到 23 年之间以如此快的速度（三年内）制作出三个版本。现在他们正在努力想出足够大的东西来制作一个 5，而且中间有很多停顿。所以 4 是多平台和多方面版本，它可以处理视频、音频和图像以及文本。在此期间，DeepSeek 出现了。当然，还有很多其他竞争对手同时在行动，但 DeepSeek，这是在 25 年，DeepSeek 真的，嘿，它不必这么大。你知道，诚然，他们利用了之前出现的一些技术，但他们说，“你可以做一个更小的模型，它相当实用，而且在受限的环境中。”这只是打开了这样一种想法的大门，他们已经有了几个版本的 24，但这个在 25 年 1 月发布的非常强大。它只是一个提醒。不是说科技巨头不在乎。他们只是，你知道，微软说，“好吧，它也在铸造厂里，让我们继续前进，继续前进。”但这是一个，你知道，科技巨头有很大的动力去不断做得更大，遵循神经元缩放定律论文，并朝着我们一直前进的方向前进，即使我们得到了提示，还有其他可能性和方向可以去。而且编程语言方面似乎是一个闪光点。它在很多其他领域都更成功。我认为有很多很好的理由。首先，编程语言比人类语言更连贯。你知道，撇开 Lisp 不谈，但我们可以挑出很多语言，如果我仔细想想的话。但你再想想我们拥有的工具。你知道，作为开发者，我们有点习惯于这种工具模型。我们习惯于批评别人的代码，即使代码不是来自人，而是来自软件，对吧？我们一直都有代码生成。这只是一个可重入的非确定性代码生成器，我可以发送相同的提示三次，得到三种不同的代码，但它是可管理的，我们看到工具正在扩展。这是去年（25 年）Build 的一个截图，你知道，我们现在实际上在 GitHub 中创建问题，并将它们分配给 Copilot，然后它会生成一个 PR 请求，你可以对其进行迭代，并试图从中获得高质量的代码。有很多不同的策略来尝试解决这个问题。事实上，我们知道有很多策略，因为产品太多了。就像我在这个行业里几十年了，每当我看到这种产品爆炸时，就像这是一个未解决的问题。如果有一个好的方法来做到这一点，就不会有这么多这样的产品了。我们也看到了科技巨头非常残酷的一面，它们不再收购这些公司。这不是 2000 年的互联网泡沫时期，你建立了一个很酷的网站并获得了大量的市场份额，然后一个大公司出现了并收购了你，并将其发扬光大。哦不。现在，如果你聪明，并且构建了一些相当酷的东西，并且取得了一些成果，Google 就会出现，把你的所有高级员工都挖走，付清你的投资者的钱，然后留下公司的空壳，这有点令人作呕，但每个人都在快速行动。就像他们被激励去让这件事看起来比实际更紧迫。我并不是说它不重要，但炒作的一个副作用是制造紧迫感。就像它颠覆了我们对软件的思考方式一样。有一些类别的编程，我们都是这个房间里的开发者，当你想到自然语言接口结合像 MCP 这样的技术可以做什么时，就像我今天为什么要写一个 ERP 系统，如果我是一个应收账款人员？我基本上是一个“表单之上数据”的奴隶，对吧？我有一组显示谁没有付款的查询，呈现在屏幕上。然后我起诉以获得付款，随着付款的到来，列表会发生变化。就像可以是一组能够可靠地获取数据的提示。某些类别的软件，修改提示比修改这些表单更快。我的意思是，你知道，表单之上数据本身就一直在变化。低代码、无代码。所以，我们现在有了下一个层次，这取决于软件。没有什么是通用的。它仍然需要熟练的操作员，仍然需要领域知识，但我们肯定正处于软件形态的颠覆性时期。你可以看到人们的犹豫，你知道，这看起来是什么样的？你知道，最终我们的工作不是写软件。而是为客户提供问题解决方案。有很多方法可以做到这一点，对吧？很多人瞧不起无代码解决方案，而那些擅长此道的人，就像当年的 VB 人一样，他们一路哭着去银行，因为他们很快就解决了某些类的问题，而这可能是下一代。我们还不确定。它发生得非常快，而且似乎有一种巨大的紧迫感。在软件的构建方式和我们可以构建的不同类型的软件方面，都有生产力潜力。现在，我们最终得到了 GPT5，这是在 2025 年夏天，这花了一段时间，你知道，距离 GPT4 已经两年半了，中间有几次停顿。它并不那么受欢迎。它不是那种轰动性的。就像三和四之间的飞跃是巨大的。就像，我的天，万亿参数。这太棒了。等到我们达到两万亿参数。我记得在谈论，GPT5 会是什么样子？就像，你知道，在某个时候，你已经索引了整个互联网。这意味着 4chan 也在里面。就像那不好。你不希望它在里面。那不好。我们需要一些数据质量。我认为一个更小的、不那么愚蠢的模型似乎更有吸引力，对吧？就像我们面临着它到底是什么样子。GPT5 还有其他一些元素。OpenAI 最初以“这是迄今为止最具文学性的 GPT”而闻名。它会以查尔斯·狄更斯风格写作。一些真正懂文学的人开始试验，发现这家伙写的是垃圾。但他们注意到的是，当他们使用另一个 GPT 来问它对它产生的语言的看法时，GPT 认为它很棒。这似乎指向了，并且有一些很棒的论文是关于这个的。他们通过两个不同模型之间的对抗性训练来进行文学训练，直到一个模型说另一个模型做得更好。没有人真正看过句子，意识到它们不连贯。你知道，一个小细节，对吧？但他们处于自己的泡沫中，我们可以用我们的东西来训练我们的东西，对吧？如果你不断地复印复印件，它就会变得更好。所以我们在 GPT5 中看到了这些元素。它也不一定是更大的模型，而是一个更高效的模型。他们试图削减成本。你知道，我们最近从 OpenAI 自己的报告中看到，它们的成本开始降低。它们并没有降价，但它们正在努力控制成本。所以，在五号上进行了大量的优化，以牺牲其他一些东西为代价。那么，这让我们在这个周期中处于什么位置？我现在认为我们正处于低谷的底部。我认为我们已经下降了一段时间了。每个人都在期待游戏的结束。你知道，我们刚才还在谈论微软周三发布了季度报告，股价大跌。尽管他们在人工智能方面的销售额非常好，超出预期，但他们没有达到他们的云业务目标，差了百分之一两个，市场对此反应非常强烈。我听到的描述之一是，就像所有投资者都站在悬崖边上说，“我们现在跳下去吗？现在是时候了吗？”所以他们容易反应过度。市场很敏感，因为每个人都在看着这张图，想着我不想成为那个被困在底部的人，对吧？我想早点出去，然后在回升的时候再抓住它。但我也在纠结，这有必要吗？这是构建新技术的唯一途径吗？这是一个特别严重的例子。所以，谈话的一部分是，动机是什么？为什么制造如此大的紧迫感？为什么鼓励花费如此多的钱？为什么鼓励明显过度投资？其中一部分与技术无关。你必须看看玩家的激励。其中一个重要的激励是数据中心。当然，危机围绕着人工智能需要大量的数据中心。它是，计算效率低下是一种特征。现在，如果我真的需要更多的数据中心，更有效率意味着我不需要那么多数据中心。这三大科技巨头，它们在数据中心领域占主导地位，亚马逊、微软、谷歌，它们在 2010 年代末、2020 年代初就难以建造数据中心。人们不喜欢它们。它们消耗大量电力和水。它们很吵。所以，你开始看到关于它们说，“我们很难建造数据中心”的报道。然后人工智能浪潮来了，突然我们需要数据中心来做人工智能，而人工智能非常重要。它将改变一切。这种紧迫感使得建造数据中心更容易。所以它们有动力让这种紧迫感持续下去，以便它们能够进行圈地。就像在很多方面，你可以看到它们只是在巩固自己的领先地位。它们也在花钱。这些公司现金充裕。它们经常进行股票回购等，只是为了保持股价上涨，并处理掉所有过剩的资金。而这是一个花钱的机会。而且它们到目前为止主要是通过空壳公司进行的。比如，如果你知道微软要在你的城镇建一个数据中心，好吧，你会很高兴。所以它们创建了一个空壳公司，负责购买土地，预订所有设备等等。所以它们也造成了一个供应链的瓶颈。你知道，我听到的描述之一是，它们试图买到泰勒·斯威夫特的演唱会门票，它们打开了 10 个浏览器，因为它们只需要一套门票，但它们认为这样做会增加获得门票的机会。所以，它们正在抢占尽可能多的土地，订购尽可能多的设备，包括尚不存在的设备，填满管道，以期获得两张门票。所以，我们有效地制造了一场危机，以保持这些公司领先。它们也害怕会出现突破，而它们将被甩在后面。所以，支出是灾难性的。它正在字面意义上扭曲美国的经济，这些公司的资本支出是巨大的，并且在飞速增长，它们扭曲了美国的经济，因为虽然其他经济体似乎在放缓，但科技支出正在填补这一空白，使股价保持高位，并使经济活动看起来很高，而其他市场则远不如好。而标准普尔 500 指数是这方面的真正体现，在 2025 年，标准普尔 500 指数增长的 4% 或 55% 来自七家公司，即所谓的“神奇七巨头”，这只是增长数字，总体数字今天，标准普尔 500 指数中 500 家公司的 40% 的价值来自七家公司，以至于你现在可以购买一个指数基金，因为标准普尔 500 指数的全部意义在于你可以购买一个指数基金，该基金按比例购买这 500 家公司。所以你有一些覆盖。如果你愿意，你现在甚至可以购买一个“标准普尔 500 减 7”的指数基金，因为他们总是会为你制造产品。但不是说这些公司那么大，那么有价值，虽然这是真的。但只有一个原因。而当那个原因改变时，它们都会一起下跌。现在，它们不太可能破产，对吧？它们大多数只是在花钱，所以它们会没事的。但“理发”很重要。这是经济中的一个巨大变化。20-30% 的收缩。你可以看到它们的行为是在预料到这种风险。彭博社不久前发布了一个很棒的图表，关于英伟达如何进行自我交易，这又是一个例子，我提到了微软，他们向 OpenAI 投入了数十亿美元，主要是为了在微软上花费。嗯，英伟达也一直在做同样的事情，投资小型人工智能公司，以便它们可以向英伟达订购零件。我给你 50 万美元作为投资。现在我有一笔 50 万美元的投资。哦，看，我有一笔 50 万美元的订单，对吧？这使得英伟达在资产和投资以及资产和订单方面保持增长的假象，即使是同样的钱，对吧？这很可怕。这很扭曲。这也是泡沫结束的症状，对吧？唯一能让你继续创造数字以吸引投资者的方法就是不断地推高那个疯狂的管道。所以我们正处于这个上升期，直到它崩溃。我们正在等待所谓的“牛市陷阱”，对吧？我们是妄想的，贪婪正在蔓延。很难退出这些市场，因为它们增长得如此之快，你会错过机会。但我们正在等待这种“隆起”。这就是互联网泡沫破灭的形状，以及其他几次。所以，我们正在预测我们将要下跌。我的意思是，这对我们科技行业意味着什么？这意味着要回归投资回报率。就像，从工程角度来看，我真的很期待一些疯狂的现象消失，因为这里有一些好东西。它只是被疯狂所扭曲。我想专注于那些好东西。当资金枯竭时，另一面是你确实需要高效。效率再次变得重要，而这已经很多年没有发生过了。所以，那些能够优化并能够展示回报的人，你知道，我甚至不知道，最近有一个关于 IT 人员花费数百万美元购买 Copilot 许可证，获得董事会批准，并从 Soleno 那里获得祝贺，但没有利用率指标，也没有生产力提升的证据。事实上，他们甚至没有问，因为炒作正在起作用，对吧？这才是真正的问题。我们需要衡量这些事情的后果。还有另一方面。我的意思是，金融方面，这些是经济问题，是的，它们会影响我们。如果你想想 2003 年到 2004 年的网页开发人员是什么样的，是的。但让我们谈谈一直存在的心理问题。人们滥用这些聊天机器人，就像他们认为 WhatsApp 图标和 ChatGPT 图标之间没有区别一样，对吧？除了 ChatGPT 图标随时随地都能回应，而且总是说些好话。而且不久前，不是孩子，不是只是孩子，而是孩子，这是 Jeff Lewis，来自 Bedrock Investments。他投资人工智能技术。大约一年前，他发了一系列推文，说他知道自己被非政府实体追捕。就像这个软件的挑战是，如果你花太多时间在它上面，它就会把一个性格上的怪癖变成一个全面的心理健康危机，导致严重严重的后果。而且不是说这些科技公司不知道这一点。GPT5 发生的事情之一是，他们降低了它的谄媚程度，并且还下线了所有其他版本。他们希望人们转向更高效的模型，并且不太可能造成心理健康危机，除了这样做造成了很多心理健康危机，因为人们想念他们的朋友。当他们把 40 重新上线时，Reddit 上有一条疯狂的消息。所以人们找回了他们的朋友。是的，我的宝贝回来了，我哭了。这是软件。就像我为这个人以及有多少其他人处于这种情况而感到恐惧。这也是我们新技术的普遍问题，技术会被滥用。这个技术特别擅长制造心理健康危机，这令人担忧，而且仍然擅长，这意味着个位数百分比，但仍然是成千上万的人。我们会克服这个的。就像我们会找到一种方法随着时间的推移变得更好，但这是这些工具问题的一部分。而且，当我们处于炒作周期中时，很难专注于这一点。现在，超级智能对我来说是另一回事了，而且我认为它远不是最重要的部分，因为它真的不是一回事。Altman 一直在 OpenAI 招聘和招募所有这些科学家，高喊 AGI。AGI AGI。我也非常喜欢那些显示出你越了解这些工具的工作原理，就越不信任它们的统计数据，那些最热情的人是那些不了解它们的人，这给了我希望，但也意味着我们不负责任，因为我们不教育，因为你了解得越多，你就会越好。大多数负责任的科学家说，没有通往 AGI 的道路，但这并不意味着这项技术不会摧毁我们的社会。它可以，但会是人们在使用它。人工智能不会裁员。人们使用人工智能，人们裁员，但他们现在经常以人工智能为借口。他们过去也用过其他借口。你知道，关于劳动力重组的真正现实比这要复杂得多。它们一直都是如此。如果你真的深入研究制造更高级智能的科学，我喜欢 Roy Blat 的书。这是我读过的最难的书之一，因为它深入探讨了智能的本质，什么是感知或意识。你读得越多，你就越会想，“这不是我们正在研究的东西，甚至连边都沾不上。”所以我认为这在很大程度上是一个红鲱鱼。这些工具造成的伤害将是那些不当使用它们的人。这仍然是一个重要的问题。我们已经看到了很多伤害。有些是旧的。我不知道你是否还记得。看看音频是否有效。>> 你还记得这个吗？这是 2017 年。这是华盛顿州立大学的原始版本。>> 他们可以让我说一些话，比如，我不知道，Killmonger 是对的，或者本·卡森在“沉睡之地”。或者这样说：总统特朗普是一个完全彻底的。你知道，我永远不会说这些。>> 在他们能够做到语音模型之前。所以，>> 不是在公开演讲中，而是别人会说。像乔丹·皮尔这样的人。这是一个危险的时期。展望未来，我们需要对我们从互联网上信任的内容保持警惕。这是一个我们需要依赖可信新闻来源的时代。这听起来可能很基本，但如何
我们在信息时代前进，这将决定我们是生存下来还是沦为某种反乌托邦。谢谢。保持警惕，2017年。嗯，快进到2025年左右，有人在等，或者2020年，有人在等特朗普被捕，就能做出特朗普被捕的图，然后发到推特上，对吧？就像现在这些工具变得微不足道。如果你想学习如何使用它们，它们很容易做到。它们无处不在。嗯，你知道，尽管与此同时，我们也看到普通消费者的怀疑程度越来越高。不要相信你看到的视频。不要相信你看到的音频。人们正在对此做出反应，我们希望有更好的工具。我们可能不得不开发更好的工具，让人们更容易看到我们正在谈论的东西，比如拉兹洛的手段，以及欧盟，我认为他们在适当的技术和不适当的技术方面走得更远。我们看到了一些立法，但我们不能指望立法。这需要太长时间。技术现在发展得很快，这真的取决于我们。你知道，我们是坐在驾驶座上制定程序的人。我们选择这项技术会发生什么。这就是我们用它来写的东西。即使在人工智能出现之前，我们也看到了糟糕的技术。想想Greyball。我不知道你是否还记得。这是Uber。Uber获得了600亿美元的投资。没有人能用600亿美元做出明智的选择。这基本上是不可能的。现在，Uber坚持了一个细分市场。他们找到了这个薄弱环节。出租车行业在服务好顾客方面一直很懈怠。所以，任何人都可以成为一名出租车司机，只需一个应用程序，就可以轻松地找到目的地，获得价格，控制账单。很多这方面的东西都很好，但出租车行业不喜欢这样被攻击。所以他们去找立法者进行反击。在许多地区，他们都在抵制。所以Uber增加了一些软件来应对监管机构。监管机构发现了它。他们知道那个手机的EMIA代码。那个手机会显示没有可用的汽车。看，Uber什么都没做。但普通人却像变魔术一样奏效。而且它已经奏效了很多年。他们向各种政府人士隐瞒了Uber的真实做法，直到有一天，Greyball的一名程序员将其泄露给了媒体。就像他们否则不会发现一样。这并没有真正阻止他们太多。但它确实带来了我们可以编写糟糕软件的想法。而且，也许那个人想保住他的工作，但最终他也泄露了。所以也许我们对此有所回应。嗯，也许离家近一点，剑桥分析公司。你知道，朋友们，那是一些相当邪恶的软件，他们依赖于这样一个想法，即普通Facebook消费者不知道他们看到的广告是为他们量身定制的。他们是唯一看到那个广告的人。所以你实际上是在个人层面进行操纵。你不需要人工智能来做这个。你可以用它来做这些糟糕的事情。我们还没有听到他们太多消息，我对此感到很高兴。但我们确实可以选择如何使用这些软件。而且现在有一种真正的推动力，也许所有这些生成式人工智能的东西都是坏的。这根本不是真的。我想指出另一个英国实体，DeepMind。这是Demis，嗯，嗯，Demis Hassabis，他真的想制造一个AGI。他就是从那里开始，在英国建立了DeepMind，最终被谷歌收购，为他的很多东西提供资金，这很不幸，但他拒绝去硅谷。他留在了英国，他们最初的重点是电子游戏，对吧？他们建造了一个通用的电子游戏播放器，可以自己学习玩游戏。这是我们第一次看到它真正闪耀是在一款突破性游戏中，你看到这个工具非常精确地将球打到后排，进行大量的敲击等等。它玩了很多不同的游戏。现在，这并不是特别重要的事情。然后那些人把注意力转向了围棋，这被认为是一个不可能的问题。你知道，我们已经解决了国际象棋，但围棋的走法太多了。所以没有办法做到这一点。他们建造了AlphGo模型，他们在几年内对顶级棋手进行了训练，最终成为了世界上最好的棋手。他们并没有止步于AlphGo。他们转向了AlphaZero，他们采用了不同的训练模型。他们让两个都了解围棋规则的实例互相比赛，在几周内而不是几年内就完成了训练，并且成为了比AlphGo更好的棋手。同样，这并不重要，但那是他们的学习。当DeepMind开始改变世界时，是当他们解决了蛋白质折叠问题。所以，不知道你想戴上你的生物学帽子。让我们回到大学里学的蛋白质。有80种重要的氨基蛋白质。其中一些是你的身体产生的，一些不是。但几乎所有有机生命都以某种形式依赖于这些蛋白质。这些蛋白质以多种方式连接在一起。当它们连接在一起时，它们就会扭曲以暴露不同形式的不同蛋白质。这就是蛋白质折叠的全部意义。那些肽键都是独一无二的，当你能够弄清楚它们是如何工作的，你就可以在生物学上做一些了不起的事情。所以，如果我们回到一个英国人，约翰·肯德鲁，他花了12年时间研究肌红蛋白的结构，因为它们太小了，你看不见它们。他创造了X射线晶体学来解决这个问题，并因此获得了诺贝尔奖，因为一旦我们知道肌红蛋白是如何协同工作的，我们就能对抗像白血病这样的疾病，但有数百万种不同的蛋白质组合。在过去的60年里，数万名生物学家投入了数十万小时，研究了大约一百种蛋白质折叠模型。X射线晶体学有一些限制。你需要非常稳定的蛋白质才能使这一切奏效。现在，国际空间站上有任务进行X射线晶体学，因为在自由落体中，你可以更好地形成这些晶体，进行这些测量，因为当你能够弄清楚这些蛋白质是如何协同工作的，这是非常有价值的。所以DeepMind将注意力转向了这些不同蛋白质的工作方式。有一个名为CASP的比赛，旨在预测蛋白质结构，可以追溯到90年代。到2000年，到2014年，他们几乎没有取得任何进展。有一个小组甚至制作了一个电子游戏，让普通人参与到蛋白质折叠问题中。它叫做Foldit。而且，相信与否，他们确实解决了一个蛋白质问题。它是一种与植物病害中的毒素相关的蛋白质。这导致了一种阻止植物毒素的治疗方法。很酷，只是效率不高，对吧？所以他们采用了AlphaFold算法，并将其应用于理解蛋白质折叠，并经历了几个迭代，主要是在疫情初期，并参加了CASP比赛，取得了历史最高分。他们花了将近两年时间才得到验证，但他们每两年才举行一次比赛。但到2022年，他们的准确率达到了90%。所以他们基本上破解了蛋白质折叠的原理。许多试图为不同治疗方法弄清楚蛋白质折叠的实体都去找他们，说你们能弄清楚我的蛋白质吗？丹尼斯的回答是，为什么我们不全部弄清楚呢？所以他们弄清楚了2亿种蛋白质的蛋白质折叠模式，并将它们免费提供，这从根本上改变了，而且我们甚至还不知道，到目前为止，我们已经基于这些蛋白质折叠找到了疟疾疫苗，我们发现了几种新的治疗不同血液相关疾病的方法。我们正在努力解决这个问题。我们基本上已经解决了抗生素耐药性问题。我们在此基础上发现了两种新的抗生素。免费提供。我们选择如何使用这项技术。我们有例子。我们只需要决定去做。这取决于我们。我希望这对您有所帮助。感谢您的时间。