Transcription
大家好。我是 Andrew Lo，麻省理工学院斯隆管理学院的金融学教授，也是麻省理工学院计算机科学与人工智能实验室的首席研究员，我非常期待回答大家的问题。我们先来回答第一个问题。大型语言模型如何有效地分析财务报告以提取关键见解，例如识别风险、机遇和新兴趋势？大型语言模型实际上是设计用来能够阅读纯文本并能够消化和总结它们的。收益报告、财务报表。这些是大型语言模型现在可以阅读并能够生成非常、非常简短精炼的摘要，以便能够关注风险、机遇和其他问题。在金融领域，我们使用特定的关键词来突出风险和机遇，因此存在大型语言模型可以非常、非常快速地识别的自动标签。大型语言模型将对金融分析师的生活产生巨大影响，因为他们日复一日的工作就是能够阅读这些报告，而现在他们可以使用这些工具以更快、更准确的方式完成这项工作。LLM 能否识别可能逃过人类分析师的微妙市场模式和异常情况？答案是肯定的，它们可以，但它们也可能识别不存在的异常情况，换句话说，就是产生幻觉。这也是我们必须处理的 LLM 的挑战之一。目前，我们知道它们非常有能力识别一些非常有趣的模式，但同时，它们也可能识别不存在的事物，需要人类进行额外的监督。顺便说一句，人类也不是完美的，我们有时也会产生幻觉。保罗·萨缪尔森曾说过：“经济学家预测了最后三次衰退中的五次”，我认为这部分是他想表达的意思。我们需要思考如何提高我们的准确性。因此，人类和 LLM 的结合实际上可能是能够为各种经济现象产生真正准确预测的理想选择。我们如何建立对 LLM 提供的财务建议和决策的信任？并且可以采取哪些策略来维持人类的监督和控制？现在，这是一个非常有趣的问题，因为它触及了我与合作者在过去几个月里一直在研究的一个问题，我们认为我们有一个方法，但还需要几年时间才能实现。我们正在研究的问题是信任问题。我们如何让 LLM 值得信赖，特别是在财务建议的背景下？因此，在该领域，我们实际上有一个称为“信托责任”的概念，这确实触及了信任的核心。在金融领域，受托人是指将您的利益置于其自身利益之上的人。例如，如果您有财务顾问，该财务顾问对您负有信托责任，这意味着当他们就如何管理您的资金向您提供建议时，他们必须首先考虑您的福祉，而不是通过他们代表您进行的交易来为自己谋取佣金。我们如何让 LLM 成为受托人？我们如何让它成为您值得信赖的财务顾问？我们的方法是思考在行业中人类财务顾问是如何做到这一点的。人类顾问是如何成为受托人的？嗯，首先，他们有道德准则，所以他们必须遵守某些规则，但更重要的是，他们必须遵守大量的金融法规，我们制定的法律是为了保护消费者。我记得曾经研究过这些法律，因为我必须参加一项证券考试，才能参与特定类型的金融机构。这项名为 Series 65 的考试不仅测试您对财务分析的知识，还测试您对指导我们整个行业监管体系的了解。因此，在花了无数时间阅读所有这些规则并因被迫记住这些东西而感到沮丧之后，我终于明白了这些东西的来源。历史上的一系列判例法，用于指导律师、监管机构和消费者何可为何不可为，这是人类试图利用他人并最终被抓住并成功起诉的所有方式的化石记录。因此，如果我们训练 LLM，不仅仅是使用金融知识，而是使用针对金融体系中某些不良行为者提起的各种不同诉讼的完整判例法历史，如果我们做到这一切，那么我们就可以训练 LLM 成为受托人。我们相信，距离 SEC 和律师会同意的受托人还有几年时间，但我们至少知道前进的方向，并且我们非常兴奋能够走这条路，并最终生产出一种可以完全被人类信任的软件。LLM 在自动化和简化银行和金融机构的风险评估流程方面可以发挥什么作用，以及这些系统应该如何管理？这也是一个很好的问题，因为风险管理是金融机构必须履行的最重要的职能之一。在我看来，风险管理有两个部分。第一部分是量化部分，这实际上相对容易自动化。计算诸如风险价值、情景分析和最坏情况损失等内容，所有这些现在都可以通过按一下按钮来完成，并且所有大型金融机构都在这样做。更困难的是第二组任务，即将所有这些数字转化为可以提供给风险经理、政策制定者、客户的叙述，以便他们了解这些数字对他们个人情况的影响。想象一下，股市今天下跌了 15%，这意味着您的债券投资组合现在陷入困境，因为股市下跌了，并且担心美联储将不得不介入，每个人都担心各种不同情景下的违约，而您持有大量本身就有风险的公司债券，但在今天的情景下，情况更糟。您该怎么办？LLM 可以即时分析数值数据，然后将其编织成一个叙述，其中可能说，也许今天的股票市场大幅下跌。这意味着美联储将介入，投资者中会出现恐慌，这意味着某些资产将抛售，而其他资产将变得更有价值。如果您持有公司债券，那么这些债券很可能会受到重创，国库券的表现会非常好，但我会等到三到五周后再采取任何激进措施，因为纵观历史，如果您观察类似情况，这些类型的波动是暂时的，事情会恢复正常。这就是 LLM 可以提供的叙述，而仅仅查看一整张数字表格是无法获得的。因此，随着时间的推移，我怀疑 LLM 在编织这些叙述方面会做得更好，并且也能够描述其叙述中的一些弱点，以及您可以在哪里运用自己的个人判断来为自己的投资组合做出决定。因此，我认为我们离使用 LLM 进行风险管理并不遥远，我希望这将使每个人都专注于与他们相关的正确风险。LLM 的自然语言处理能力如何用于对金融新闻、社交媒体和其他文本数据进行情感分析，以指导交易和投资决策？通常，我们认为金融市场由两件事驱动：恐惧和贪婪。这是华尔街交易员的观点。如果您问经济学家，那完全是关于数字的，对吧？归根结底是两者兼而有之。是数字，但也是我们如何解读数字，而这正是情感的用武之地。因此，情感分析的目的是试图理解人类情感将如何对数字做出反应。在过去的几十年里，关于人类行为、心理以及我们在非常、非常困难的财务环境中管理情绪的能力已经写了很多。显然，我们大多数人在这样做时都会遇到麻烦，因为我们天生就会启动“战或逃”反应。当我们受到威胁时，我们的生理反应会非常可预测，如果您在十万年前的非洲草原上被剑齿虎追赶，这会很有用，但在今天的纽约证券交易所交易大厅里就没那么管用了。因此，情感分析是试图查看各种不同的金融指标，以了解市场是反应过度还是反应不足。我认为这就是 LLM 将大显身手的地方，因为它们将能够查看数字，但更重要的是，它们将能够阅读当时新闻来源正在写的内容，这些内容正在让其他人感到恐慌。当新闻频道告诉我们，“牛奶中是否有什么东西可能伤害您的婴儿？更多详情请收看 11 点新闻。”您会觉得有必要观看 11 点的新闻报道。因此，我们很容易被这些威胁所动摇。因此，LLM 将非常擅长捕捉这些类型的威胁，并协调语言分析与数字分析，以产生情感分析。事实上，我不会感到惊讶，如果某些对冲基金已经在利用 LLM 来检测这些类型的模式并开始利用它们。希望是普通的散户投资者，我们其他的消费者很快就能获得这些工具。好的，下一个问题。我们如何减轻 LLM 在金融应用中的偏见，以及像算法透明度和问责制这样的其他道德考量应该如何优先处理？首先需要注意的是，LLM 绝对存在偏见。我知道这一点，因为我的学生和我最近在一篇关于 LLM 在面对各种候选人时可能做出的招聘决策的论文中记录了这一点。因此，它在各种不同情况下确实存在性别偏见。这并不奇怪，因为 LLM 反映的是什么？它们反映了它们用作训练输入的文献的总和。处理偏见的第一步是记录它。我们需要了解，根据 LLM 的性质、它的训练方式以及我们使用的其他补充，我们需要确切了解这些偏见是什么。我们必须量化它们。一旦我们量化了它们，我们就可以开始问这个问题，我们如何决定改变偏见，使其更适合当前的目的？这是一个需要领域特定知识的问题。在某些领域，偏见可能非常小。在其他领域，偏见可能非常大。因此，对于每一个应用程序，我认为我们需要仔细考虑我们使用的 LLM 中的隐含偏见。一旦我们记录了这一点，就可以开始进行重新编码或添加各种不同的补充，检索增强生成（RAG），这些补充实际上可以根据我们想要的程度来抵消这些偏见。随着时间的推移，我们需要了解这些偏见是如何变化的。它们随时间、随文化、随国家而变化。因此，要准确了解这些 LLM 的作用，将是我们能够将这些事物付诸实践的前提。您必须先衡量，然后才能管理。LLM 能否用于加强金融欺诈的检测和预防？我认为这个问题的答案是明确的“绝对可以”。目前，SEC 和其他机构已经在使用一些机器学习工具来识别潜在的欺诈行为。很久以前，一位数学家就提出，数字表中必须存在某些统计特性。因此，如果您看到偏离这种统计规律的情况，那就是欺诈的一个例子。因此，利用这些类型的分布，我们已经可以检测到某些类型的欺诈，但现在有了 LLM，通过更复杂的处理自然语言和数字相结合的方式，我们可以做得更好。因此，我毫不怀疑这将是一个极其强大的工具。其阴暗面是，有了这些 LLM，我们也可以制造更难检测的欺诈。例如，想象一下提示您的 LLM，让它查看您的纳税申报表，并建议一些扣除方式，这将使您的税单大大降低。即使他们违反规则，也要以一种典型的 IRS 审计员几乎无法检测到的方式来这样做。现在想象一下，如果您将该提示提供给 LLM，并想象一下它能够完成该请求。这就是危险所在。这也是我认为监管机构和犯罪分子之间正在进行军备竞赛的原因之一，也是我认为我们应该增加监管机构预算的原因之一，因为它们需要拥有同等水平的设备和复杂性来应对这些担忧，以便它们能够领先于欺诈者。LLM 在开发和测试更复杂的交易算法方面可以提供哪些帮助？我相信它们实际上已经为此目的而使用了。过去，机器学习算法确实必须专注于您提供给它的特定特征，以便能够识别金融数据中的模式。而这正是交易算法。它实际上只是模式匹配，以便您可以预测明天会发生什么，并今天进行交易以利用该预测。但现在想象一下，不仅可以基于数值数据，还可以基于文本数据进行预测。并且能够将两者结合起来，以创建这种情感分析分数，并能够理解某些类型的语言如何产生最终在股票价格、债券价格和其他金融工具中实现的预测。因此，大型语言模型现在可以分析各种不同的文本来源，包括新闻。新闻是金融市场真正关键的方面之一。市场总是对当前信息做出反应，而信息不一定准确，金融市场也会做出反应。在许多情况下，它们对谣言的反应与对实质性真实信息的反应一样快。因此，大型语言模型可以整合来自各种不同新闻来源的信息，并将其提炼成一个单一的预测，即资产明天的价格会上涨还是下跌？我相信更复杂的预测方法是可能的，但挑战在于提出正确的提示来做出这些预测，然后能够处理幻觉问题。因此，这也是为什么对冲基金现在正在试验这些大型语言模型的原因之一，也是为什么那些有志于从事金融分析职业的人，我敦促你们开始尝试使用 LLM 来实现这一目的。在将 LLM 部署到该领域时，应解决哪些监管和合规方面的考虑？我提到监管机构和欺诈者之间正在进行一场军备竞赛，我认为这是我们在未来几年需要认真考虑的事情，因为创新步伐在从业者方面正在越来越快。我们需要为监管机构提供工具来应对这种战斗。除非我们通过立法来帮助他们，否则我认为这将是一场一边倒的比赛。让我举一个我认为我们必须考虑的立法例子。数据在这个行业中是极其强大的货币。那么，谁控制数据？如果我是一名消费者，并将我的数据提供给某个为我提供服务的特定供应商，那么该供应商是否有权将其用于任何目的，包括对我造成损害的目的？因此，需要制定这项立法，明确谁拥有数据的权利，如果供应商正在使用客户数据，他们可以做什么，不可以做什么。我们需要通过立法来明确这一点，以便我们能够以更广泛、更有效的方式使用数据，同时保护那些需要保护的人的利益。因此，我认为这是目前最重要的一系列问题，即监管机构没有他们需要的所有工具，也没有他们处理这些问题所需的预算。我们需要咬紧牙关，投资于我们的监管基础设施，以应对我们正在进入的这个崭新世界。