Transcription
欢迎收听《Almost Human》今日节目。今天，我们将讨论元学习，它是教人工智能如何学习的方法。因此，您无需数百万甚至数千万张 CT 图像，或整个领域的网络历史，您实际上可以从相邻的分布中教会 AI 模型如何最好地利用有限的数据量。对于那些不需要花费一亿美元来训练新的基础模型的早期初创公司来说，它是一个均衡器。今天，我与 Liran Tam 一起，呃，我实际上在人工智能真正被认为是人工智能之前就认识他了，对吧？那是……14年前？哒哒哒哒。哒哒哒哒哒哒哒哒哒哒哒哒哒哒哒哒哒哒哒哒。哦哦。嗯，您重新构建了吉他的物理学。将近 20 年——这真是令人难以置信。所以您制造了吉他，对吧？但是吉他背后的物理引擎是通过机器学习实现的，然后，当时它被称为 Joy Tunes，它构建了引擎，识别引擎。您涉足了机器人技术，您几乎涉足了所有与新数据集和新机器学习方法相关的事情。我们不是针对人工智能学者，我们针对的是创始人、企业家。目标是让他们在理解元学习是什么之后能够理解。他们不会因此而恐慌。我们将专注于它如何改变早期创始人游戏的规则。对。太棒了。所以，如果您必须在 20,000 英尺的高度总结元学习是什么，它是什么。所以也许在此之前，我们人类拥有这种令人难以置信的能力，能够非常快速、非常有效地进行泛化并适应新任务？对，从非常早期的发展阶段开始，我们就可以通过几个例子来学习新技能。我们可以，学习，模式并进行泛化。而这，确实是智能行为中固有的或根本的特征。对。所以，我们通常不会表现出这种行为，即使是大型基础模型，它们也不能有效地适应新任务。对。以 ChatGPT 为例。您可以教它新技巧，对吧？这被称为推理或上下文学习。或者您可以对其进行微调，使其适应某个非主流或某个相似的分布，但总的来说，它的泛化能力不如人类，尤其是在只有几个例子的情况下。这是普遍情况。是的。所以，元学习来拯救。对。所以元学习就是训练模型学习如何快速适应新任务。这就是前提，通常只需要很少的数据，或者让我们更精确地说，它非常高效，适应阶段、调整阶段可能只需要几个梯度反向传播步骤，或者只需要几个例子。所以我想这就是，我们粗略的，粗略的。这就是元学习。所以，如果我看看，一个很多人使用的例子是肿瘤学，对吧？就像您看看微调，甚至预训练，很多都只是记忆然后构建抽象。但是如果我，作为一个初创公司，有 42 张图片，而谷歌有 200 万张，我有什么机会？那么这个例子如何成为元学习的一个好例子，如果是的话，它是如何工作的？我如何教它而不必需要那 200 万张数据集？嗯，首先，天下没有免费的午餐，对吧？所以，如果您有用于您下游任务的标记训练数据，大量的标记训练数据，那么，可能没有什么能比监督学习或半监督监督学习设置更好了。假设您有 42 个标记的例子，关于某种罕见的新疾病的 X 射线图像。对。这就是情况。无论您多么努力，这就是您能整理出的所有训练数据。对。所以，通过元学习，为了用它做些什么，用它来训练模型，您需要将其连接到一个更大的数据集，该数据集具有相似的分布或相似的，或来自您更容易获得的相似的领域。对。所以，假设医学状况 A 是罕见的且独特的。并且只有 42 张 X 射线图像可用，标记的 X 射线图像可用。那么您可以做的是，利用另外几百个相似的任务，比如对其他疾病（不是罕见的疾病）的分类任务。然后训练模型不是在特定疾病上表现出色，比如分类医学状况 A，而是理解任务本身的分布。对？所以一旦您这样做了，您就拥有了一个预先学习的元学习器。然后，您可以使用您的少量示例来调整它以适应您的下游任务。所以，这是，这是一个用例。元学习在这种用例中表现出色，它确实闪耀。另一个用例，也许当您的计算预算有限时，对吧？无论是在训练阶段还是尤其是在测试阶段，在推理阶段，推理后作为测试阶段或部署后。对。所以，例如，您想做一个为每个用户个性化的推荐系统。它可以是医学方面的，可以是流媒体服务方面的。就像 LinkedIn 在推荐工作机会方面所做的那样。他们发表的一篇论文，我想是在 2024 年，我想说，能给您提供，能解决这个问题的最佳候选人，就是元学习，您只有在大量用户群上有一些例子。所以每个用户将被视为一个不同的任务。对。而不是训练一个巨大的模型来尝试捕捉所有潜在的抽象和所有数据的表示，在所有用户之上，您可以保持模型非常紧凑且非常精简，就计算能力而言，它只需要能够，能够，能够在一个特定用户上表现良好。对。这比训练一个大型基础模型所需的计算量要少一到两个数量级。对。您在元学习范式下训练该模型，使其表现良好，不是针对特定用户，而是要在调整阶段表现良好。对。所以，好的，所以这是前提，这是我的总体想法。所以。所以我很喜欢这个。所以，首先，如果我从商业角度来看。所以市场太小了，以至于无法收集数据，或者市场太落后了，以至于根本没有收集信息。对。然后问题就变成了，如果您看看那种您可以实际训练的相邻数据集，它需要与教师数据集对学生数据集有多接近？什么东西实际上会起作用？因为我不会接受不相关的信息。它无助于我实际创建更容易用更少的数据集学习的东西。那么它需要有多接近？嗯，这是元学习普遍存在的一个陷阱。那么，您如何定义任务的领域？因为您真正想做的是在部署前对模型进行调整或适应的任务领域上训练模型。对？所以，我可以给您一些极端的例子。这并不能保证，您知道，这不是普遍情况。所以有一些非常成功的作品表明，在测试时，您可以在视频序列上进行元训练，其中包含人们执行不同任务的先前序列，然后在元测试时或在调整模型时，您将其调整到在真实环境中执行任务的机器人手臂。对？所以我们谈论的是两个非常不同的领域，但总体行为是相同的。对？一些机械的东西，人体或机器人手臂在环境中以某种方式行事。所以这是一个成功的故事。我谈论的是一个可部署到行业中的模型。对？所以有很多成功的故事，人们或公司在虚构的或不相关的环境或不太相似的环境中进行元训练，甚至没有机器人，然后每周左右进行调整以在装配线上执行一些新任务。对？所以这是我所认为的一个极端用例场景。另一个更直接的场景是，直观上领域是，我们谈论的是同一个领域，对吧？如果我们以 X 射线为例，那么这是非常直观的。领域是什么？领域是医学状况的分类。它们可能与不同的疾病或其他疾病非常不同。但它们应该说同一种语言，对吧？它们来自相同的输入分布数据。它是 X 射线图像。它们可以来自相似的图像，医学影像，如 CT 扫描，但它甚至不必如此。有一系列论文证明了这一点。它甚至不必是同一个器官，同一个，人体的一部分。对。而且效果很好。是否有机会，或者也许已经有一个数据库，基于领域的模型？因为实际上，您所说的是，嘿，我可以教模型识别 X 射线，所以我可以教模型理解空间和时间，对吧？用于机器人技术。我将通过视频教它。那么是否有机会，或者，元学习基础模型，它们之间或彼此之间是否太不相同了？这又回到了问题，基础模型或，元学习前的模型需要有多接近？所以，元学习在研究界重新流行起来，抱歉，是为了利用元学习作为抽象思维、推理和泛化、解决问题的一个基石，一个真正的基础。因为元学习范式使您能够真正地泛化元特征。对？所以，如果我们跳到几年后，我相信元学习将在某种程度上发挥重要作用，类似于一个基础模型，它在适应任何场景、环境或任务方面都表现出色。就是这样的东西。但我们还没有达到那个阶段。对？所以，如果您，如果您在一个特定的模态上训练一个元学习器，比如，从音频到，比如，语音识别，您会发现这种高度受损的语音，带有电component 含义，也就是说，非常私密的语音，无论是通过语音学还是语义标准，针对特定用户。您训练一个元学习器来专门学习特定用户。这不会转移到，比如，机器人手臂在工业环境中执行某些行为，它不会转移。话虽如此，有很多研究工作证明，在一个非常广泛的领域，如机器人技术，或在图像、视频或音频模态上，无论音频意味着什么，比如语音或音乐或声音制作的东西。那么，迁移学习，尤其是在强化学习的设置中，可以将知识或，技能，非常元知识和元技能很好地转移到子领域。完全可以。我认为，绝对有机会，至少在，在某种特定领域，然后创建一个数据库，可以快速启动并有效地允许您验证元学习是否是特定领域的良好工具。但然后，也许您会开始，你知道，一个全新的模型，你知道，这很有趣。但我们稍后会谈论这个。您还会提高对客户用例的采用速度。对？所以以色列显然是一个网络国家，网络攻击的每种技术都与其他技术不同。这是同一个领域。但是当人们进行零日漏洞利用时，它通常是一个非常不同的领域或攻击方式。所以，它确实是元学习，在这个领域采用很有趣，只是有不同的工作流程，关于，关于，特定的攻击。如果我看看网络安全。所以我想再次，这只是我的直觉。但是，当我考虑处理该领域的论文时，我认为元学习在网络空间、网络安全领域存在巨大的机会，因为，尽管环境发生了变化，比如公司 A 的特定网络拓扑与公司 B 的大型拓扑相比，拥有所有这些层的网络，你知道，大量的攻击这些网络或这些服务的方式与我们人类的思考和运作方式有关。对？所以有很多共享的模式，这些模式是中心化的，或者组合在一起形成新的病毒或新的，无论是什么攻击，针对该网络。所以，我认为元学习可以，可以真正擅长这一点，因为，问题之一是您在一个特定的拓扑或网络上学习了一些东西，对吧？您学习了那种特定的攻击，然后您很难将其应用于大型网络或特定领域的网络。对？或者针对特定的基于 API 的服务。所以元学习可以泛化。这是构建该特定攻击的底层特征或模式。所以，所以学术界在这方面做了很多工作。我不知道是否有具体的初创公司在该领域利用元学习。但真的很可惜。不，这又回到了《Almost Human》的目标，对吧？就像有太多的技术发展适用于商业问题。但大多数映射都在人们的脑海中，在研究人员的脑海中，而不是在企业家那里。所以，好的。所以，如果我回到基本原理，对吧？所以今天的普遍看法是，在人工智能时代，数据和分布是护城河，您实际上说的是，元学习将护城河更多地推向分布，因为您需要更少的数据来解决特定的 AI 问题。而且我认为，我认为这是一个很好的结论，我认为元学习将护城河从谁拥有最大和，我不知道，原始数据集，转移到谁拥有最多样化的数据集，对吧？所以您不必拥有特定领域的大量示例。最好是拥有少量示例，这些示例已经解释或呈现了该领域。对？但大量的领域。我认为护城河将会转移，而不是消除。这是关于护城河的一点。另一件事是，很多机会被忽视了，因为您没有足够的数据来解决它们。对？所以突然之间，如果您意识到元学习范式，那么，那么，它为您提供了一个潜在的解决方案，可以解决那些数据不足的问题。所以我被说服了，好吧。所以。但是，我是一名企业家。我想弄清楚元学习是否是解决我想解决的问题的正确方法，这是一个有趣的问题。或者这是一个相关的问题。如果我不是机器学习专家，最快的方法是什么？如果您能找到与您的问题相似的任务，这些任务在功能层面上，而不是在特征层面上，也不是在特定的像素层面上起作用或表现。如果您能找到与您的领域相似的任务，并且您拥有的资源只是利用规范的或传统的监督学习或监督学习管道所需资源的一小部分，那么您可以做的是，使用一些开源代码进行非常快速的实验。而且，有很多框架实现了，该领域甚至是最先进的元学习算法，并且，并且，并且实验非常快。我现在说的是几天，而不是几周或几个月，因为，因为它不需要，对您习惯做的事情进行根本性的转变。对？您只需要组装训练数据并应用模型。这比这稍微复杂一些，但但您可以，您可以非常快速地在您的数据和您的问题上进行元学习实验，看看它是否，是否，是否能解决问题。那么，这个问题的反面是，企业家在进行元学习时应该预料到哪些陷阱？您最常看到的失败模式是什么？是的，不幸的是。不幸的是，有很多。所以，由于元学习通过应用，我这么说吧，在几个时间尺度的分辨率上，优化您的，您的，您的目标。有一个内部循环和外部循环。所以，有很多参数需要您设置和确定，才能使事情正常工作。对？所以，它比，它比，只是，你知道，玩学习率和可能，几个，几个参数在您的，优化器中要复杂得多。这是第一个陷阱。另一个陷阱是，它更难评估或调试当事情不起作用时发生了什么，就像任何深度学习机制一样。事情不会一开始就奏效。您需要优化您的方法参数并进行一些实验。所以，对于元学习来说，这是一个更复杂的过程。我想说更复杂，但不是多得多，因为它，它是可行的。主要是能够快速理解，就像，是否有价值？对？而且可能仍然有 20% 到 30% 的改进。但这，这是适用的。这是可行的。是的。是的。这可能是主要的陷阱。是的。是的。嗯，几个快速问题。这太棒了。几个快速问题，三个，对您来说，AGI 是什么？就像，您如何定义 AGI？哦，哇。是的。对我来说，AGI 是当一个代理，它不必被实体化在任何产品中，对吧？一个代理能够做得很好，在大多数普通人能做的事情上表现良好。对？我认为最高境界是，如果平均研究人员，比如在科学领域，能够被一个代理，一个训练有素的代理，利用 AGI 来取代。那就是。什么时候？这个定义是什么？对？您认为什么时候，如果您有。4 月 2 日星期一。不，我开玩笑，十年内。我不确定是否会有 AGI 阶段，对吧？只是跳到超级智能，但是，是的，那太短了。而且我认为，所以您在玩，实际上是在我们有生之年。是的。但是。是的。所以您在玩，是美国还是中国？美国。绝对是美国。是的。我认为中国在这方面，是，有点，更大的老虎。就像他们产生了大量的研究。但是，我认为它不像西方生产的那样前沿和成熟，或者至少是相当的。是的。所以，这是我们迄今为止的第二集。一个中国，一个美国。我们最终需要决定胜负。而且这是。太棒了。我知道您坚信中国会。可能会，或者我不知道。是的，我知道有能源问题。就像中国在推动能源方面比美国好得多。所以，即使在最基本的层面上，我认为美国也完蛋了。但是，是的，总之，这太棒了。我喜欢元学习的一点是，它能让竞争更加公平。不再是关于谁拥有最多的数据——而是关于谁适应得最快。如果您正在创办一家早期公司，这就是您的切入点。您不必在规模上击败谷歌，您只需要在他们忽视的地方学得更快。这就是我们将在《Almost Human》中继续探索的思维方式：创始人，而不是巨头，重新定义什么是可能的。如果您有任何问题、评论或对未来嘉宾的建议，请随时发送电子邮件至 [almosthuman@aleph.vc]——谁知道呢，我们可能会使用您的反馈，给您寄送周边商品，或者在节目中提及您！如果本期节目为您拨开了迷雾，请与正在 AI 领域创业的朋友或同事分享。并确保关注《Almost Human》，以免错过接下来的内容。感谢收听。下次再见。