Transcription
我是格雷戈里·艾伦，您正在收看人工智能政策播客。今天，我们将与 A16Z 的两位领导人进行一次关于人工智能创新和监管的对话。A16Z 是该领域最大的风险投资公司之一。太好了。今天我请到了首席法律和政策官杰·拉马斯瓦米（Jay Ramaswami）和 A16Z 人工智能政策主管马特·佩拉尔特（Matt Peralt）。现在我假设在座的各位观众都知道 A16Z 是什么。它是硅谷一家传奇的公司。嗯，它是现代科技投资时代最早的公司之一，在过去十年里，它已成为许多科技政策问题的重要声音，其中最突出的就是人工智能。所以，我们将从 A16Z 的角度出发，探讨人工智能政策在监管和创新方面应该是什么样的。嗯，但在我们开始之前，我能否请你们两位谈谈自己，以及你们是如何走到这个位置的，以及你们是如何将人工智能政策作为一项职能来做的？那么，杰，我们能从你开始吗？>> 嗯，当然。嗯，我的背景实际上是五花八门的。嗯，所以我想回过头来可以编一个故事，但我最好还是直接说出来。所以，我大学毕业后，我想成为一名教授。所以当时我甚至都不是一名律师。好的。而且我在剑桥大学做了一些关于社会和政治思想方面的工作。>> 所以甚至不是法学教授。>> 不，不，就像哲学、哲学、历史等等。所以，我拿到了博士学位，但找不到工作。所以最后我像我们所有人一样，转到了法学院。嗯，太棒了。但从法学院毕业后，我真的对政府服务产生了兴趣。嗯，所以我曾在私营部门工作了一段时间。嗯，时间很短，但最后我曾在纽约南区担任检察官。嗯，我专注于白领犯罪，嗯，最终转向了非法金融和网络犯罪之类的事情，因为我喜欢>> 而纽约南区可以说是该类犯罪最重要的地区。是的，我们倾向于称自己为“主权地区”。纽约，正如所说，但我的意思是，这毕竟是纽约，所以，对于那些想在法律上稍微深入研究的人来说，审判地很重要。联邦政府可以提起诉讼取决于你是否有联系>> 而且几乎任何白领案件在纽约都有审判地，因为银行系统在那里。所以，如果你愿意，你可以人为地制造审判地。我不会，你知道，我现在已经不是检察官了，但我可以对几乎任何事情都找到审判地。所以，你处理的问题的规模和范围都非常巨大，而且这是一项非常复杂的实践。所以>> 那时候科技是你的重点吗？>> 是的。所以我当时是所谓的“芯片协调员”之一，即计算机黑客和知识产权协调员。事实上，我当时也专注于资产没收和洗钱问题。嗯，但那是我转型的契机，因为我最终调到了华盛顿特区，在计算机犯罪和知识产权部门工作，在那里我们追捕全球的黑客。嗯，>> 太棒了。>> 嗯，正是在那里，我第一次尝到了政策的味道，因为当你身处美国检察官办公室时，无论它是否是一个复杂的地区，它都是起诉。你在处理案件。当你来到华盛顿时，你突然间就必然要处理政策问题，因为你与情报部门合作。你正在考虑你将要求国会提供的东西。所以，你必然会变得更加注重政策，而且你正在观察全国各地正在发生的起诉，并扮演一种监督和把关的角色。所以，在这个领域，我变得更加深入地参与政策。我参与了诸如《网络犯罪公约》之类的事务，嗯，嗯，这非常吸引人。嗯，>> 你是直接从公共服务转到 A16Z 的吗？>> 不是。嗯，嗯，所以在那之后，我成为了资产没收和洗钱部门的主管，我们处理了许多数字资产案件。嗯，嗯，>> 当我听到数字资产时，我想到了加密货币。>> 是的，加密货币。但加密货币的前身，像 Liberty Reserve 和 e-old 这样的东西，它们总是试图在互联网上创建结算系统，因为那是原始互联网的缺陷之一。你无法进行结算，我们可以完全深入地讨论那个话题，但加密货币可以说是那种尝试的最新版本和一代，我对此进行了一些研究。嗯，但之后我去了私营部门，成为了一家公司的高管，嗯，嗯，在美国银行担任反洗钱合规主管，嗯，所以多年来我处理了一家大型金融机构的全球合规问题，然后从那里去了 Capital One，也担任了监管角色，成为企业风险管理主管，但大约在金融服务行业工作了六年之后，我发现这是一个非常不具前瞻性的领域，创新非常困难，甚至>> 就像金融界的任何人都会喜欢赞美意大利文艺复兴时期的人们，因为他们弄明白了多少东西，对吧？就像有些东西不需要改变，有些则需要。>> 我的意思是，直到加密货币和区块链出现，自美第奇家族以来，结算和会计方面没有任何创新。我的意思是，它完全是同一个系统。嗯，但监管机构出于显而易见的原因非常规避风险，尤其是在金融服务领域。所以我实际上并没有做我在政府工作时真正让我兴奋的事情。所以，我进行了调整，嗯，嗯，嗯，并联系了当时我在 A6Z 的一位认识的人，她以前在政府工作，她把我介绍给了他们的一家投资组合公司 Cello，该公司正在从事与区块链相关的工作。>> 非常酷。你在 A16Z 的工作跨度是多久？所以基本上是头衔，是的，我的意思是，我嗯，嗯，嗯，我负责我们所有的法律职能。所以，所有进行的法律工作，而且我有像我说的团队，我有一个 35 人的团队。马特也在团队里，但这是一个非常大的法律、合规和政府事务政策团队。所以合规是我们作为注册投资顾问必须做的合规事务，嗯，嗯，以确保我们没有窃取投资者的钱，我们是作为受托人行事，所有这些事情。所有法律工作。>> 我有点跳跃了。但你为 A16Z 的工作有多少是为你自己做的，有多少是为 A16Z 的投资组合公司提供支持服务？所以，我想说，在我个人的投资组合中，而且我认为马特的会有点不同，但在我的投资组合中，很多都是为公司建立结构和基础设施。>> 即使是政策工作，我们的政策工作和政府事务工作很重要的一点是，虽然我们会与投资组合公司交流并帮助他们导航系统，但我们并不真正想成为任何这些公司的外包政府事务或政策职能，因为>> 很多公司都认为你会这样做。嗯，我们尽力而为，但现实是，如果这对他们来说是一项重要的职能，我们希望帮助他们建立它。>> 我们希望帮助他们建立他们需要的东西，因为当我们思考问题时，我们可以更深入地探讨，我们从行业角度思考政策，因为我们关心的是长期投资，以及在 10 到 15 年的时间跨度内，某项事物可以带来什么回报。我们不是热钱。嗯，我认为有些人不理解。我们不是对冲基金。是的。>> 我们不是私人公司。我们不控制这些公司。我们对那些“登月”想法进行早期的小额投资。>> 如果这些想法成功了，我们会赚很多钱，就像一位朋友形容的那样，“慢慢致富”理论，因为这些公司需要 10 到 15 年才能成熟。我们试图帮助他们建立公司。他们中的许多人都有很棒的想法，并且拥有合适的创始人性格，但他们有时需要了解建立一家企业需要什么。所以，从政策角度，甚至从法律角度来看，我们的角色就是为他们提供“授人以渔”的工具。是的。>> 而不是“为他们捕鱼”。嗯，然后我们从政策角度来思考行业需要什么，因为只有当一个新行业被创造出来时，我们才能受益。>> 嗯，然后从那个行业中，公司才能成功。所以，我们试图创造的是技术政策基础设施，这将使公司能够成功，而不是成为一家非常具体公司的倡导者。但如果我们能帮助一家公司建立他们需要的东西，因为越来越多的政策是科技公司需要理解的重要组成部分，而这是一个变化，与一代人之前相比，这是一个巨大的变化，那时公司真的只是在建造。嗯，我们之所以如此深入地参与政策，是因为这是本·霍洛维茨（Ben Horowitz）和马克（Mark）的洞察，当然，当我加入时，他们认为政策将是“帐篷里的长杆”，嗯，你不能只是一家科技公司，然后保持低调。嗯，我不是带有贬义地这么说，但这是一个障碍，斯大林手下的秘密警察头子说，“你可能对政治不感兴趣，但政治对你感兴趣。”嗯，所以这就是现实，科技已经从全球角度、社会角度变得重要，而技术不可能不开始在政治上参与。>> 太棒了。好的。所以，我想深入探讨所有这些，但首先我想让马特有机会谈谈他的背景。>> 我能回应一下杰说的一件事吗？这对我来说也是一种学习，听着杰的旅程。所以，杰谈到的教授职业抱负，我认为对我们公司和我们公司的身份以及我们试图在人工智能政策领域建立的功能真的非常重要。我刚加入公司时，我比杰更晚加入，但让我印象深刻的是，书籍对我们公司的美学有多么重要，就像你走进公司时，几乎所有办公室里你首先看到的就是一排书。当我们公司的联合创始人公开谈话，或者在我们召开全员会议时，他们经常会引用他们读过的书，以及他们如何快速掌握新话题。所以，学习过程我认为对整个公司都至关重要。我发现这是在这里工作的一个非常非凡的部分。嗯，现在我可以稍微谈谈这与我的背景有何关联。我曾在 Meta 工作了一段时间，然后我离开了 Meta。Meta 真的教会了我关于科技政策的一切。然后我在杜克大学创办了一个科技政策中心，然后我把那个中心搬到了北卡罗来纳大学教堂山分校。嗯，>> 哦，我的天哪，那一定非常有争议。>> 我是杜克大学的篮球迷，但我成了北卡罗来纳大学教堂山分校科技政策的粉丝。嗯，嗯，你会认为，好吧，Meta 到学术机构，然后到 A16Z。嗯，你会认为学术机构是学习的地方，而 Meta 或 A16Z 这样的地方可能更多的是“武力”而不是“头脑”之类的，而这实际上与我的经验不符。嗯，在我们公司，这与我在 Meta 的经验不符，也与我们在 A16Z 的工作不符。我认为我与杰以及我们整个团队的合作关系，就是深入思考和学习我们正在处理的问题。人工智能政策令人兴奋、非凡，有时也令人畏惧的一点是，很多问题都是前所未有的，或者你正在将现有的法律体系应用于新技术，并试图弄清楚它们是否有效。所以我认为杰早期职业生涯中的教授抱负现在对我们有利，因为学习是我们工作中的关键部分。>> 太棒了。那么，让我们来谈谈，再次假设大多数人都熟悉这家公司，但你做了一件非常有帮助的事情，那就是区分了风险投资公司和对冲基金。你能否详细说明一下？比如，它的商业模式是什么？我知道早期投资是其中的重要组成部分，几乎你所有的投资都不成功，但成功的投资却非常成功，这是一种理论，但能否向我们介绍一下什么是风险投资，以及安德烈森·霍洛维茨（Andreessen Horowitz）在风险投资生态系统中的作用？>> 很好。所以，人们需要了解风险投资很重要的一点是，在某些方面，它并不是真正的金融学科。我认为当人们想到一家投资公司时，他们会想，哦，你在处理电子表格，你有损益表之类的东西，而这些确实在发生。我们对我们的公司进行一些财务分析，但嗯，我认为是我们的创始人之一本·霍洛维茨（Ben Horowitz），当我刚加入时，他说了一些让我印象深刻的话，那就是风险投资实际上是一项人才和技术业务。>> 因为正如你所说，风险投资公司为投资者赚钱的方式，而这很重要。嗯，这不是我们的钱，是投资者的。我们是投资者的资金的受托人，我们有来自机构的资金，机构投资者，你可以把这主要看作是机构投资者，他们拿出他们资金的一小部分，投入到风险极高的投资中，这是因为现代投资组合理论。你可以去芝加哥大学学习所有关于机构为何这样做。但它确实有助于他们的回报，并帮助他们>> 实现他们的目标，无论是在他们的基金会中。无论是为教育机构提供资金，无论是为医疗设备提供研究资金，无论是什么，他们都希望获得投资回报。嗯，我们占有的份额风险极高，这意味着回报需要远远高于基本回报水平。>> 是的。>> 我们唯一能向投资者返还这种资金的方式就是基本上拥有某种>> 返回三倍、四倍、五倍的资金。对于外面的人来说，你知道，股市的标准回报率是每年 7% 左右，过去 50 年的平均值。所以， 300% 或 400% 的回报，>> 这是惊人的，对吧？>> 是的。年化回报率约为 25% 到 30%。嗯，所以想想看。什么能给你带来这种回报？而且，风险投资家经常会受到批评，说：“哦，你们这些家伙只是浪费了很多钱，对吧？你们把钱扔给东西，它们就失败了。你们在做什么？那不是钱的好去处。”实际上，这是一种错误的思考方式，因为从我们的角度来看，唯一有意义的投资是那些能带来巨额回报的投资，而这是因为大多数投资都会失败。我们处于投资组合中风险最高的部分，而且我们的大多数投资都会失败。事实上，嗯，其中 50%>> 破产。>> 破产。>> 是的。而在剩下的 50% 中，一两个会是赢家，它们将回报整个基金。信不信由你，那是 Facebook，那是数据砖。那是改变了行业的一家公司。所以，你正在寻找那些创造全新行业的公司。这真的是“登月”项目。所以，实际上，我们作为风险投资家最大的风险是错失一笔交易。>> 是的。>> 不是投资一笔交易而亏损。而是错失了那笔可能成为下一个大事件的交易。所以，我们实际上是在寻找那些能够做到以下几点的创始人：他们不仅有一个好想法并深入理解技术，而且当全世界都告诉他们他们所做的事情是荒谬的时候，他们仍然愿意资助他们。>> 这就像是你的兴趣所在，对吧？如果每个人都认为这是一个好主意，那可能就不是你这种投资的好选择。>> 这是反直觉的。所以，我们投资于反直觉的事物，世界告诉人们这些事物不会成功，但我们相信，如果它们成功了，>> 我们就一举成功了，而且我们很早就介入了。我们一路进行投资。我们确实进行后续投资，而且我们确实越来越多地投资于公司，有时我们甚至有一个增长基金。在它们上市之后，我们仍然认为有价值。但我们认识创始人，我们认识到他们有能力看待常规并说“这无关紧要”，他们已经这样做了。所以，你正在寻找创始人的个人特征和技术，这些技术不仅仅是一两次地改善世界，而是像 10 到 15 次地创造全新的事物，这就是我们的世界，这就是为什么，正如马特所说>> 我们的公司里充满了读者，因为这是基于理论的投资。>> 嗯，因为存在一种世界观。嗯，而这正是驱动投资策略的原因，就是大量阅读。嗯，我认为，该领域其他人称之为“有准备的头脑”。了解世界上正在发生什么，以及哪些事物足够新颖，可以成为“全垒打”，而这确实涉及大量的阅读，相信我。我的意思是，我们的 GPS 是你能想象到的最贪婪的读者之一，涵盖了各种领域。>> 是的。你不需要说服我。就像我总是告诉 CSIS 的年轻员工一样：>> 阅读书籍，在会议中做笔记，并与做这两件事的人一起闲逛，因为你会惊讶于仅仅做这两件事就能让你领先于平均水平。嗯，随着世界的其他地方阅读得越来越少，阅读的优势只会增加而不是减少。嗯，那么我们能谈谈吗？所以，我认为杰所描述的不仅对理解公司的财务背景很重要，而且对我们如何思考政策也很重要。所以，我认为如果你看看这个生态系统，你现在对人工智能感到焦虑的事情，我认为这是短期泡沫的可能性，它真的会扰乱我们的社会。人们失业。整个社会都会出现所有这些负面后果，然后那些从中获利的人已经赚到了钱，他们就离开了，然后社会就承担了后果。>> 是的，那将是一个糟糕的场景。>> 这是一个糟糕的场景，我认为类似的事情促使了许多人的恐惧，而你有时会在民意调查数据中看到。有一件非常重要的事情需要理解，那就是杰所描述的关于它如何映射到人工智能政策，那个世界对我们不起作用。我们不是那种在这种情况下卷款潜逃的人，因为我们试图在 10 到 20 年的时间跨度内创造可持续的市场。所以，我们不是在寻找类似 Napster 的东西，我们正在寻找 Spotify，我们正在寻找对整个生态系统都适用的可持续的新市场，因为这就是我们看到杰所描述的那种回报。短期泡沫实际上不符合我们的经济利益。所以，如果你正在寻找那种世界，一个你创造了一个健康可持续的新的，正如杰所说，它可能非常有破坏性，但可持续的新生态系统的世界，那么就必须有一些治理作为其中的一部分。它不能是一个无治理的制度。>> 是的。所以，你知道你关于政策通常是“帐篷里的长杆”的观点，你正在寻找那些代表新行业或新行业方法的公司。我的职业生涯也与之交叉，因为在某种程度上，我与你们一起做这个播客也是在回报你们的恩情。早在 2018 年，我就参加了 A16Z 的播客，因为你们是第一批认真对待技术与国家安全交叉点的人之一，而且我认为 A16Z 值得称赞的是，在当时并不时髦的时候就这么做了。对吧？就在谷歌退出“Maven 项目”前后。而我，你知道，我一直在倡导者中说，“不，我们需要找到一种方法，让硅谷能够富有成效地为国家安全服务。”令我震惊和欣喜的是，A16Z 是如此热情的倡导者，而不仅仅是谈论它，而是用他们的钱来支持他们，投资于现在已经成为一些令人兴奋的公司，尤其是 Androll、Shield AI 等等。嗯，所以我想称赞 A16Z 在不时髦的时候就进入了这个领域。我认为这真的很酷。嗯，你能否详细说明一下国家安全是如何成为公司一部分的，因为你们有这个“美国活力”系列。你们做了很多，嗯，嗯，自 2018 年以来，很多事情都发生了变化。>> 是的，绝对。嗯，嗯，我一开始会专注于“美国活力”投资组合，因为它很有趣，而且正如你所描述的那样，但要明白，国家安全重点不仅仅是存在的。当我们谈论人工智能问题时，你会听到我们播客中的很多内容，以及我们谈论的内容，人工智能讨论也有一个潜在的安全要素，这是无法避免的。嗯，但就“美国活力”而言，实际上本周我们在这里举行了峰会。嗯，嗯，而这个投资组合的想法>> 嗯，你应该大力宣传这次峰会，无论我是否被允许参加这个播客。我不会被排除在外，但嗯，嗯，你知道，这是我们一年一度的“美国活力峰会”，我们强调了政策制定者和创始人之间的交叉点，并试图展示我们的一些投资组合公司正在做什么可以影响国家利益。嗯，嗯，这个投资组合本身实际上是嗯，嗯，专注于那些传统上引起政府兴趣的领域，在国家利益领域。但要明确的是，你提到了几个与国防相关的初创公司，这是一个非常重要的领域，>> 但还有其他与太空和卫星相关的领域，坦率地说，与供应链有关，嗯，与执法和公共安全有关，但也与教育有关。其想法是，经济中生产力最高的部分，是那些受到硅谷影响的部分，坦率地说。但经济的许多领域仍然未受影响，或者历史上一直未受创新影响。其想法是，为什么不能将这种相同的投资原则，这种创造了如此多创新的相同创始原则，扩展到其他领域呢？在某种意义上，嗯，实际上，一位同事今天早上提到了，所以我从他那里借用。嗯，在某种意义上，是孩子来教父母，因为当你回想时，嗯，嗯，嗯，硅谷的建立实际上是在国家利益的驱动下。二战后，政府在创造硅谷文化方面发挥了巨大的作用。其想法是，我们必须创建能够快速迭代、快速原型化并由政府使用其中一些技术的创新公司。然后，政府转向了一种非常集中的国防采购模式。在某种意义上，我们所说的只是，我们希望你回到你的根源。>> 而你孕育了我们。让我们帮助你达到你本应达到的水平，如果我们已经这样做了。但但就是这样。所以，你知道，对解决国家问题感兴趣的创始人，这就是那个投资组合的重点，而本周我们有机会向>> 华盛顿特区的人们展示这一点。>> 是的。非常酷。而且，嗯，现在我能说的是，那大约是 A16Z 开始特别关注政策对话的时候，还是更早？就像我认为 A16Z 在风险投资公司中是政策和政治方面最响亮的声音之一。那是什么起源？嗯，嗯，我认为政策早于此，但那是对政策重要性的认识的体现，而且是在一系列不同的领域。我认为我们的一些政策努力实际上可以追溯到 2016 年，我认为第一批政策努力是在那时开始的。嗯，嗯，嗯，但现代的化身，或者说最近的化身，实际上可以追溯到我加入公司的时候。嗯，当我加入时，我实际上，信不信由你，我进入了加密货币政策领域。那是我在这份工作之前的第一份工作。原因是因为，嗯，政府对它产生了极大的兴趣，并且在某种意义上采取了一种反创新的技术方法，一种非常怀疑的态度，坦率地说，这与政府过去看待技术的方式不同，无论你回到战后时期和硅谷的诞生，还是甚至 20 年前，技术是美国做得很好的事情，政府希望依靠它，而近年来，这种怀疑已经影响了许多政策辩论，而这正是我们参与其中的原因，因为我们担心，嗯，嗯，当然，我们这样做是为了我们业务的重要性，但我们碰巧认为我们的业务实际上对国家有益。事实上，如果你看看标准普尔 500 指数，我认为进入其中的公司中有 50% 是创始人领导的风险投资支持的公司，尤其是现在排名前七的公司。>> 它是美国经济中极其重要的组成部分。所以，我们的担忧是，我们有一个“金鹅”。我们国家有些事情做得不好，但我们擅长去中心化和创新。是的。所以，所以我们需要，我们想保留这一点，嗯，嗯，并确保这一点是重中之重，而且桌子上没有声音，相信我，为“小科技”发声。除了我们在加密货币方面的努力之外，真正让我们关注并将其推向最前沿的是最初关于人工智能政策的辩论。嗯，你知道，你可以想到舒默参议员的洞察论坛，嗯，嗯，嗯，拜登的行政命令，以及一系列的事情。我们很惭愧，其他风险投资家也很惭愧，但在那些早期的制定过程中，>> 初创公司并没有在场。是那些大公司在场定义了行政命令的内容。当我们看到结果时，我们就像，“哦，不。我们的声音不在那里。没有人说话。”嗯，我至少要给舒默参议员一些赞誉，对吧？我当时在一个洞察论坛上作证，我坐在 Shield AI 的创始人布兰登·桑（Brandon Sang）旁边，Shield AI 是 A16Z 的一家投资组合公司。>> 我想说清楚，嗯，我们参加了那些活动，嗯，但很明显，当门关闭时>> 当行政命令被制定时，有巨大的空白，谁在与政府对话，谁参与其中。但是的，绝对要归功于舒默参议员，我们也喜欢参加那些论坛。嗯，嗯，因此，我们意识到，实际上并没有一个行业协会代表初创公司。实际上没有人代表“小科技”创始人，他们的利益与大型科技公司截然不同。而这成为了我们的指导方针，那就是我们希望提供这种声音，因为它不在桌子上，而且我们认为我们可以带来新的视角和新的声音，我们希望它成为桌子上值得信赖的声音。所以，嗯，现在让我们转向我们谈话的主要焦点，因为我喜欢这一切，而且我认为对于听众来说，这是至关重要的背景。但当我们把谈话明确转向人工智能政策时，嗯，我认为可以说，A16Z 参与人工智能政策的宏大统一理论围绕着你刚才所说的，即为初创公司和“小科技”发声。所以，让我们先定义一下。什么是“小科技”？>> 看，我的意思是，给你一个画面，那就是典型的“车库里的两个人”。>> 是的。>> 是那些在获得资金之前就有想法的人。是那些产品尚未成型的人。他们没有产品，他们有一个想法。而这个想法真的可以改变一个行业，改变一些事情。>> 这就是我们对“小科技”的定义。现在，>> 我们希望“小科技”能发展成“大科技”，因为这就是我们作为投资者成功的途径。对吧？>> 所以，你看，这个领域的挑战在于，史蒂夫·乔布斯（Steve Jobs）多年前所说的，最终海盗会变成海军。>> 嗯。>> 但你总是希望有人在倡导海盗，从好的意义上说。这些是好海盗。这些更像是，你知道，沃尔特·罗利（Walter Raleigh），而不是我们有英国王室的信件之类的。是的。>> 是的，没错。但但但这就是我们一直想要的，因为他们有非常独特的需求。如果你是一家只有两三四个员工的初创公司，你最关心的是生存。>> 嗯，嗯，以及我们如何提供一个政策环境，让他们能够蓬勃发展。你需要确定性。所以，模糊的规则和“先执法”的方法对初创公司不起作用，因为它们需要确定性。无论规则是什么，你都需要确定你所做的事情不是非法的。>> 是的。>> 这非常重要。所以，我们试图考虑这一点，以及什么将帮助他们成长为行业领先的公司，而这就是监管体系。所以，我们有时被指责为反监管。我们实际上不是。如果你看看我们参与过的各种领域，我们实际上提出了监管建议。你可以不同意我们的监管建议，但我们想要监管。现在，我想，你将确定性视为模糊性的替代方案，但我认为你也可以说确定性是波动性的替代方案，也就是说，监管体系的稳定性。所以，就像选择一个并固定下来，这样我们就能知道在我们 10 到 15 年的投资视野中，它将是理想情况下恒定的。>> 是的。我认为这两者结合在一起的方式是，嗯，通常情况下，嗯，当交易在房间里达成时，你知道，老式的“烟雾缭绕的房间”。>> 嗯，>> 没人再抽烟了，但>> 没人再抽烟了，嗯，你知道，我不知道现在是房间还是虚拟房间。但但问题是，你希望“小科技”的视角在场，因为一家大型科技公司愿意做出某些权衡。>> 好的，让我，让我，让我，让我对两件事进行追问。第一，小科技真的还存在吗？>> 举个例子，对吧？嗯，一些新的人工智能初创公司在员工不到五人的情况下就吸引了数十亿美元的风险投资。这足以创办一家新的航空公司。这足以建造一个发电厂。我的意思是，这些都是大实体，至少在财务上是这样，即使在员工人数上不大。那么，你怎么看？看，但但要明白，你所谈论的是一个股权结构表。>> 嗯。>> 而那些钱基本上是花出去的。>> 是的。>> 用于支付能源和计算能力。>> 但其中一些不能用于支付像你或马特这样的人去公司工作吗？>> 嗯，而且我们越来越多地鼓励他们这样做，这就是为什么，你知道，我们不会取代政策制定者。然后我把话筒交给马特。我们不会取代政策制定者。我们鼓励他们。我的意思是，我们扮演的角色之一是说，你已经达到了一个点，而且我也在法律方面这样做，你需要一位总法律顾问，或者你需要一位政策制定者，顺便说一句，我们可以帮助你识别一个好的人来做这件事。绝对。我认为他们确实需要这个。但请记住，特别是当你谈论基础设施公司时，嗯，很多创新也发生在应用程序方面。>> 嗯，嗯，而且还有开源之类的问题。开源对应用程序初创公司来说非常重要，因为如果你只有昂贵的闭源模型，代币价格非常昂贵，那么开发应用程序的人将很难进行构建。我的意思是，坦率地说，最近最重要的一款应用程序是完全开源的产品，你知道，项目，而一个人，再次，那就是重要的精神，人们并不真正理解成为那个，你知道，成为那个创始人需要什么，以及在这个世界里取得成功需要什么。>> 而现在你说你想要“小科技”>> 在场，我的意思是，我熟悉给初创公司创始人提供的许多建议，其中一个来自史蒂夫·乔布斯，他经常说“专注就是说‘不’”，你知道，你需要说“不”，不仅是对你不做的事情，而且你还需要对你想要做的事情说“不”，否则你实际上就没有专注。那么，你真的想象那些只有两家公司的初创公司会花时间来参加这些听证会吗？还是 A16Z 希望成为那个行业协会，你聚合这些组织的经验、见解和观点，然后你在某种程度上成为他们的声音？是的，我的意思是，我认为是后者，但马特直接与这些公司打交道，他可以告诉你确切的动态，但它是两者的结合。我的意思是，我们对此的说法不仅仅是一句口号。这是真实的。就像创始人主要在竞争。所以，我实际上认为人们总是当我们问他们关于“小科技”时，他们希望我们尽可能具体。我们可以具体说明那可能是什么样子。我很乐意提供一些我们思考它的具体方式，但我确实认为功能性目的至关重要。我认为问题是我们希望人工智能生态系统有多具竞争力。如果我们希望它非常有竞争力，那么我认为有一个问题是，哪些公司会受到合规成本增加的负面影响？这会让他们竞争更加困难吗？所以，你描述的公司，大量的风险投资支持，理论上可以出去雇很多人，这家公司面临着如此多的艰巨挑战，以至于与微软、Meta、OpenAI 和 Anthropic 等公司竞争。在我们看来，我们希望这家公司将尽可能多的资源投入到人才、数据获取、市场进入策略等领域，以及能够让这家公司竞争的一切，因为正如我们几分钟前所说的，这些公司的死亡几率很高，对吧？就像它可能看起来非常成功，早期看起来很乐观，但如果它们很可能成功，我们会看到更多成功的风险投资公司，对吧？就像，很难预测成功。所以，我们试图保护的公司是那些我们希望有机会竞争的公司，我们不希望合规成本成为负担。>> 嗯，如果我能补充一点，嗯，只是为了让人们对在政策领域取得成功需要什么有一个具体的概念，>> 需要认识到的一点是，政策是一个关系游戏。这不是一次性与参议员或国会议员交谈的问题。嗯，初创公司可以做到，而且我认为他们一直在这样做。但如果你>> 在大多数情况下，影响相对温和，对吧？>> 是的。我的意思是，这是一次性对话。除非他们变得大得多，资源丰富得多，否则他们将无法与各办公室的员工建立关系，并在想法酝酿时进行持续的对话。所以，初创公司很难拥有这种基础设施。所以，我们希望做的是提供这种基础设施，然后公司可以利用它。所以，坦率地说，马特和我与许多政策制定者及其工作人员交谈。他们不想和我们说话。我们是律师。>> 而我们最常听到的问题是，为什么你不能带来一个正在建造很酷的东西的建造者？>> 某个我可以在推特上发布的东西，你知道，带有很酷的照片。是的。>> 但这之所以发生，是因为这种关系已经建立起来了。他们希望我们成为诚实的中间人，他们认为我们可以现在就进入我们的生态系统，并将人们带给他们，并为他们识别人们。所以，这两者是相辅相成的，如果你没有建立起这种基础设施，长期以来建立的关系，因为我们有 10 到 15 年的时间，我们不是在建立关系时，我们将其视为一项长期关系，就像我们在做生意一样。所以，嗯，这意味着当新的初创公司出现时，>> 它们不必花时间去建立它。它已经建立起来了。所以，希望我们的一些公司变得更成功，不再需要我们，一些新的公司就会拥有我们。嗯，嗯，当它们的利益与那些已经成功的大公司发生分歧时，它们就会拥有我们来提供>> 这太棒了。那么，现在让我们转向实际的政策论点。你们已经谈到了一些关于你们希望在政策辩论和生态系统中扮演的角色。我认为，当然，你们在过去一年中非常响亮和突出的一点是关于州一级的人工智能监管，以及关于是否应该对监管框架进行联邦先发制人的辩论。所以，马特，我知道你写了一篇文章概述了 A16Z 在此问题上的立场。嗯，你能否给我们介绍一下？>> 是的，实际上我们写了一篇文章，我们一起合著了这篇文章，我认为这又回到了>> 我们在这里有马特写的。我的嗯，嗯，这又回到了杰的教授抱负和我们工作的学习基础。我们在人工智能政策的对话中听到所有关于国会尚未采取行动，我们就需要各州采取行动的说法。嗯，然后人们又说，嗯，因为这涉及到州际商业，这是国会的职责，而不是各州的职责。从我们的角度来看，这两种说法都有些过于极端。我们有一个联邦制。州政府和联邦政府都有各自的作用。所以，这种方向，这种基础，真的在于思考，好吧，我们的宪法为各州规定了角色，也为联邦政府规定了角色。这些车道是什么样的，它们如何映射到人工智能政策？而且我认为它们确实映射得很好。所以，国会主要负责监管各州之间的商业，监管州际商业。所以，当我们考虑创建一个国家人工智能市场，并创建美国希望拥有的工具来在全球竞争，以及人工智能的地缘政治价值时，这主要是国会的职责。>> 嗯，然后问题是，好吧，那么各州应该什么都不做吗？这是否意味着各州没有什么可做的了？我认为各州有很多事情要做。但人们，我认为有些人读了我们的文章，认为我们说各州在人工智能治理方面没有任何作用，而这，这并不是我们所说的，也不是我们所相信的。嗯，各州在监管人工智能的有害使用方面发挥着重要作用，而我们认为这是我们政策立场的核心组成部分。我们认为监管有害使用非常关键。我认为这在实践中意味着什么的最佳例子是刑法。嗯，有联邦刑法，但大部分刑法，就像你在 1L 课程中思考的“什么是犯罪”，大部分都是在州一级定义的。所以，当我们考虑如何防止人工智能在犯罪活动中使用时，各州将发挥主导作用。嗯，我们确实认为，如果各州积极试图监管人工智能的开发，那么创建这个竞争性国家市场将会更具挑战性。嗯，如果你是加利福尼亚州、纽约州、德克萨斯州或佛罗里达州的一名人工智能开发者，如果你必须为 50 个不同的州构建这个工具，那么构建这个工具将会很困难。所以，当人们谈论对这种“拼凑”的担忧时，这确实是令我担忧的事情。>> 让我回放一下我所听到的，因为我认为这是一个非常重要的区别，对吧？你有两种>> 人工智能监管理论，不是人工智能监管理论，而是两种人工智能监管领域。一种是关于人工智能的有害使用。嗯，你知道，如果你制造，如果你将人工智能与枪支结合起来，它就会射杀某人，那仍然是谋杀，对吧？嗯，有害使用。嗯，人工智能的参与并不意味着它是一种“免罪卡”，可以逃避有害使用的责任。但还有就是监管事物的开发。那么，在什么情况下，条件，等等，安全措施，你创造了人工智能？现在，嗯，用一个我认为对更多人来说更容易理解的比喻，嗯，如果你是一名飞行员，而且你喝醉了，对吧？然后你坠机了，你知道，那么你就会受到惩罚。
进入故事的有害使用部分。但我们也规范飞机的开发。你不能随便把任何东西放进美国的领空，因为案件的理论是，我们根本不能冒那个风险。嗯，作为一个社会，我们需要嗯，一个普遍认证安全的领空，因为嗯，经济你知道，无法承受人们认为空中交通不安全，或者好人被坏人撞击等等。所以，如果我理解你的立场，你对各州监管有害使用感到满意。你对各州监管开发不满意，>>而且你对联邦政府可能监管两者都感到满意，只要他们做得好。这样说公平吗？>>是的。我的意思是，你知道，我们我认为这大致是正确的。嗯，我们确实有担忧，我认为，关于大多数形式的监管开发，但也有一些我们支持过。我们有一个透明度框架，我们认为这很重要，它正在监管开发？当然，你可以想象一些情况，我的意思是，说出来很荒谬，但你可以想象一种情况，开发与犯罪活动如此紧密相连，以至于开发显然是有缺陷的。所以，比如你不能有儿童色情 GPT。>>是的。>>对。所以，所以，所以，如果不仅仅是这样，你就可以制造一架完全有问题，只会伤害人的飞机，而且除非有飞行员以有害的方式指挥它，否则不会有责任。但我们认为，当你关注有害使用时，你会涵盖很多人认为最成问题的活动。你涵盖了欺诈，你涵盖了使用人工智能进行盗窃，你涵盖了很多我认为人们真正关心的事情。嗯，消费者保护法，民权法。>>如果我能补充一点，另一个贯穿所有这一切的事情是，有一种叙事已经形成，嗯，嗯，人工智能监管是狂野西部。什么都不存在。>>所以，我们真正鼓励州和联邦立法者关注的另一个原则是法律中的空白>>因为我们实际上已经有了人工智能很长一段时间了。有早期版本，机器学习，嗯，其他类型的东西，但它们现在是经济的一部分。>>嗯，当你得到 Netflix 的推荐时，它是经济的一部分。嗯，银行一直在，我呆了很长时间，一直在尝试并找出方法将人工智能应用于信用评分等领域。他们已经意识到，哦，UDAP 法规适用。是的。嗯，你知道，不公平的欺诈性行为。嗯，嗯，民权法也适用。所以，>>你不能因为你的人工智能告诉你这样做就拒绝某人抵押贷款，理由是种族。>>就业，有很多关于人工智能如何奇怪地筛选掉候选人的故事。嗯，嗯，公司退缩了>>而且，而且，而且，所以现在已经存在监管领域。所以，在你创造出非常具体针对特定人工智能技术的東西之前，你应该考虑一下嗯，普遍适用的法律，其中今天存在空白，因为技术的原因，因为如果你专注于技术，它将坦率地说，嗯，很快就会过时，然后你又回到了监管或或或立法游戏。所以，这是贯穿整个讨论的另一个原则，那就是看看州法律中的空白。看看联邦法律中的空白，然后再假设我需要一个人工智能特定的东西，因为我们处于一个受到严格监管的环境中，无论我们是否意识到。>>我认为这真的非常重要，要强调这不仅仅是一个放松管制的举动。在我们看来，如果你做了人们在开发方面推动的事情，影响评估，审计，压垮初创公司的可能性非常高。就像我们正在合作的公司不会出现在华盛顿特区，因为他们，或者很大程度上不会出现在华盛顿特区，因为他们没有时间出现在华盛顿特区。有些人告诉我，嗯，你一定和很多总法律顾问合作过。有时我和总法律顾问合作。我们很多公司都没有总法律顾问。所以，他们无法投入资源。所以，我们认为以开发为导向的授权会对初创公司产生毁灭性的影响。但是，如果它们在防止人工智能危害方面确实非常成功，那么也许我们可以考虑这一点。但我想你会说，航空公司承担着很高的监管负担，这对创办一家新航空公司来说是一种威慑，>>但我们认为这是值得的成本。>>航空公司行业竞争并不激烈，对吧？不，不，不，竞争并不激烈。所以，嗯，在我们看来，如果你真的关心危害，这不仅仅是开发方面对初创公司不利。而是，如果你最关注危害，你就专注于监管危害。这就是我们在法律的大多数方面所做的。嗯，我们像谋杀一样，嗯，社会上最令人发指的罪行，最令人发指的活动，我们通常通过识别禁令来对抗它，然后确保我们的嗯，我们的执法机构理想情况下能够拥有他们所需的资源来追究犯罪活动或非法民事活动发生时，然后追究责任。那就是我们法律体系的重点。是的。如果我能稍微退一步。嗯，嗯，>>所以，我们已经某种程度上融合了，我想确保人们理解。嗯，我们已经从各州有角色，联邦政府有角色，是的，监管是必要的。现在我们已经转向了监管的类型。我只想确保这并不意味着不应该有任何监管。现在，马特提出的区别很重要，因为他举了航空公司的例子，我们仍然监管波音的开发。>>嗯。>>我们没有，如果我们试图监管飞行的发明，>>我们甚至不会有波音。M>>嗯，所以，如果莱特兄弟在某种程度上开发了这项技术，或者那个人还记得我们过去看到的那些人们挥舞翅膀试图飞行的视频，与莱特兄弟的技术相比，所有这些都是实验，如果联邦政府，人们死了，如果联邦政府介入说，你知道吗，这太危险了，所以我们将允许挥舞翅膀的技术，因为你真的杀不了那么多人，但我们不允许莱特兄弟那样的技术>>我们会有非常不同的行业，我认为退一步认识到我们实际上正处于这项技术的莱特兄弟时刻非常重要，而且学术界>>和私营部门之间有很多沟通，我们正在谈论基础性发现，因为归根结底，这项技术在基础模型层面，它真的只是数学。它是复杂的向量线性代数，但对数学家来说，它实际上相当简单。这些不是复杂概念。所以，很多人都能做到。嗯，嗯，当你开始谈论监管模型时，你就是在谈论监管基础数学和数据科学。困难在于，我认为你应该将类比视为一种阶段性问题。而现在，我们正处于一个非常非常嗯，嗯，非常早期的发展阶段，它就像决定哪个模型会赢，而且我们坦率地说，甚至基础模型是否重要，我们都不知道。我们现在看到人们建议，我认为嗯，嗯，嗯，你知道拉里·埃利斯建议，实际上基础模型在 Openclaw 开发后将成为商品。看起来实际上，所有这些东西都发生在应用程序层。>>是的。>>我们不知道足够多。所以，你知道，当人们说我们需要监管时，在你了解你要监管什么之前，你很可能会创造出一些根本无效的东西。>>是的。>>只会阻碍创新。所以，在早期阶段，你必须认识到创新和监管之间的平衡确实倾向于创新。只有当达到一定的成熟度时，你才能真正开始进行相应的权衡。>>所以，让我尝试呈现一下案件的另一面，因为嗯，你知道几周前，我们采访了国际人工智能安全报告的两位主要作者，第二版刚刚发布。嗯，斯蒂芬·卡斯指出，近年来人工智能安全的技术和程序方面实际上已经取得了很大进展。他举了 Grock 快速大规模地对女性和儿童进行脱衣的例子。他说，你知道，这不是一些未解决的数学问题。嗯，我们有其他公司采用的安全措施，你明天就可以在 Grock 上实施，这将使这种情况几乎不可能发生。所以，这是其中一件事，我们确实有有效的方法。是否应该要求公司使用它们是一个问题。然后我认为第二个方面是，可能存在系统性风险的领域呢？当然，在美国国家安全辩论中非常突出的是化学、生物或核武器，对吧？嗯，生物武器曾经非常昂贵且难以制造。我记得嗯，二战后读了一些报告，美国政府估计，生物武器计划的最低可行规模是 5000 名员工，其中一半必须是技术人员。现在，随着 DNA 合成技术，嗯，随着在网上按需打印的病毒，你进入了一个不同的世界，一个恶毒的个人可以想象地造成全球规模的危害。在这种情况下，嗯，很多人认为你需要先发制人的安全措施，因为系统性风险太大了。所以我很好奇你会如何回应这两种立场。>>当然。嗯，看，我认为，如果你谈论嗯，某些危害，我认为这是一个合理的讨论。嗯>>嗯，我认为在实施这些措施的意义以及它们如何影响创新方面，必须做出权衡。我认为嗯，我们必须进行这些讨论。是的。>>特别是关于生物嗯嗯，武器威胁。我想说的是，嗯，我们是否认为有一种方法可以实施这些措施，而不会损害，例如，开发新型癌症药物的能力？嗯。>>我不知道，我不是任何这些领域的专家，但其中涉及真正的权衡，试图在模型层面确定这一点，尤其是在有更有效的方法来监管这个空间时，因为它变成了物理的东西，因为你可以监管湿实验室，你可以监管前体材料。嗯，还有各种其他实际方法。你给了我一个推广自己论文的借口。所以，我在这里扮演着经典的智库混蛋的角色，推广我与前同事乔治亚·亚当森发表的一篇论文。我们指出，你知道，一些最好的监管干预措施，当你担心人工智能的危害时，可能是供应链其他部分的监管干预措施。所以，在这种情况下，DNA 合成公司可能实际上是监管控制的更好地点，>>而不是针对模型。我只是把它提出来。好的。所以，我们一直在谈论监管开发与监管使用。现在，我想把谈话转回到联邦与州，并给你们一个机会来权衡这个问题，关于商业条款，这是 A6Z 一直是杰出声音的领域。>>我能先做一个推广吗？>>当然。>>谈论早期监管的危险。你可能还记得一年前或两年前，当时有一个公开辩论，关于开源是否过于危险>>以至于不能让它进入野外>>有很多对话，坦率地说，研究人员之间存在困惑，他们是否应该这样做，结果是中国现在在基础层面与美国和西方相当甚至更好。你在这里提出了一个相当大的主张。所以，我只想确保这确实是你声称的，关于开源是好是坏的犹豫是具体的原因。这不是原因。这更多的是退一步理解我们有一个担忧。>>现在，担忧的是，实际上我们正在落后，而且事实上，如果中国的战略是推广开源的使用，以便他们保持主导地位，即使它有 80% 的好，它更便宜，它更容易获得，而且它更好。我只是指出，这些东西非常嗯，嗯，技术正在变化。是的。然后突然 Openclaw 出来了，看起来哦，也许我们在开源方面有优势，而不是你知道。所以，所以，我只是说，所有这些东西都处于非常非常早期的阶段，做出是否应该使用的决定很可能会是错误的。我们只需要谦虚地对待它，而且危险很可能不是我们认为的那样，因为我们就是不知道。所以，你监控它，你考虑平衡这些问题的方法。但尽管有人会说，无论他们是安全研究员还是不是，我认为这需要一点谦虚。但但回到你的另一个问题，我只想确保我们>>不，那是一次非常精彩的干预。所以，现在让我们转向商业条款，再次嗯，你们两位都写了一篇关于这个的文章。所以，让我们从你概述这篇论文的主要论点开始。>>是的。所以，所以，在夏天，有一个嗯，州政策的暂停，它被提议但最终在政治上没有成功，在那之后，很多人都在说>>而且 A16Z 非常支持这个暂停。我这么说对吗？>>嗯，是的，我们所以我们支持，但有一些细微之处，我认为重要的是要弄清楚。所以，嗯，我们我们不认为州政府应该扮演联邦政府的角色。嗯，所以，如果联邦政府的角色是监管州际商业，我们认为这应该是国会扮演的角色。嗯，而且，就各州在做那些让初创公司难以建立能够成功面向全国的产品，然后又反过来让美国难以在全球竞争的事情而言。嗯，我们不认为各州应该这样做。嗯，夏天提出的暂停，我会说，并不直接符合我们的政策立场，因为我们认为各州参与惩罚人工智能的有害使用是好的。嗯>>虽然那个暂停大部分会，并非全部，说实话，我认为有一个小公关问题，我不认为那个暂停实际上阻止了各州这样做，但它被解释或被描绘成这样，所以这真的很奇怪，嗯>>我觉得我我越了解人工智能政策，我就越不了解人工智能政治。嗯，所以，有一个持续的解读，暂停了对普遍适用法律的例外>>所以，一个州可以起诉它的民权法，它的消费者保护法，在涉及人工智能的情况下。而这将涵盖，正如我们一直在描述的，许多用例，也许是所有用例，以及普遍的政策最佳实践，而不是将你的法律限制在特定技术的用途上，而是让它更普遍适用。我们不需要马的法律，正如一篇著名的法律评论文章所写的那样。嗯，所以，暂停会允许这样做。有点不同于我们的立场的是，如果一个人工智能，如果一个州想通过一项法律，将使用人工智能进行欺诈定为刑事犯罪，我们会完全没问题。所以，暂停会，会禁止这样做。嗯，但在那场辩论之后，很多人都在说，嗯，如果国会没有采取行动，那么各州就需要采取行动。再次回到第一年的法学院宪法原则，那是不准确的。那是一个夸大其词。各州不能扮演联邦政府的角色。而且有一个管辖原则可以解决这个问题。嗯，休眠商业条款。所以，杰和我开始探索休眠商业条款说了什么。几年前有一个案例，限制了休眠商业条款的应用。所以我实际上是从一个命题开始的，它是否完全扼杀了它？就像，这是当前的法律状况，休眠商业条款不存在？结果是，它仍然存在，而且很有活力。它不是休眠的，而且嗯>>它适用于歧视情况。所以，如果一个州对州外产品与州内产品有不同的待遇，那么休眠商业条款显然适用。在那份意见中非常清楚，这是判例法的核心，也是未来发展的方向。但也有空间可以争辩，当各州试图管辖其边界以外的行为时，即发生在完全在其边界以外的行为，那么休眠商业条款可能对此有所评论。或者在负担过重的情况下，也就是说，当州外成本可能显著超过当地州内利益时。而且我们认为，虽然该法律趋势一直在缩小，但我们认为人工智能提出了一些非常有趣的用例，因为嗯，你可能有一个在加州的开源开发者，他在加州以外对他的产品没有任何控制。这是开源的定义。任何人都可以构建，任何人都可以使用它。那么，如果开源开发者在加州构建，他们是否会受到纽约的法律约束，或者他们是否会自动受到佛罗里达州的法律约束？所以，>>因为通常法律的连接点是可用的，而开源是普遍可用的。>>所以，就像我们看到的那样，所以，一些州法律我们看到没有管辖权限制，没有任何内容说明，只，你知道，只针对州内的开发者或部署者。嗯，有些已经使用了“在该州开发或部署”等术语，这意味着如果它在其他地方开发但在该州部署，那么法律就适用。而且你还看到州立法者跳起来说，“国会没有采取行动，但看看我们正在做什么。我们正在创造一个国家标准。”他们实际上会说，“我们正在创造一个国家标准。”而这正是宪法所说的，各州不应该做这件事。>>所以，我想嗯，只是退一步说，我们之前在争论何时应该采取州行动。现在，我们正在讨论在法律上、宪法上，何时可以采取州行动。插话。不，我只是想说，这实际上是最初的嗯，在某些方面，推动因素是，是的，你有人明确地说，在州立法机构嗯，或者州长或其他什么人说>>因为联邦政府不行动，我们认为我们必须行动。>>而这在我们看来是错误的。这在智力上或在理解上似乎都不对>>我们谈论的是监管开发，主要是故事，而不是有害使用>>而且在我们看来，各州实际上不能监管联邦政府选择不监管的所有领域。>>让我们思考一下为什么，让我们善意地对待各州，思考一下他们为什么想这样做。例如，嗯，所以，让我们只考虑食物，对吧？嗯，有些食物，如果你不做好准备，如果你不妥善储存，你就会传播疾病。所以，你可以想象一个州可能会说，除非它一直冷藏，否则不允许我在我的州出售饼干面团，对吧？或者，并且是在拥有以下健康安全指南的工厂生产的。他们会说，我们正在保护我们州的人民，我们通过监管开发，嗯，基本上是这个食品产品的制造，使其安全来保护他们。那么，为什么或者为什么这不是一个州应该能够做的事情？所以，我们看到的是法律，它们实际上并没有说你所说的，而是说，>>嗯，因为我们想保护我们州的人民免受变质食品的侵害，>>我们说，如果你准备食物，>>它必须冷藏，就这样，>>没有那个钩子。>>所以，这是明确试图创造一个脱离地方利益的国家标准。而且它比>>你能稍微刻薄一点，点名一些你认为落入这种失败模式的州法律吗？>>不。>>不。>>这不是，这不是一个，重要的是，这不是个人攻击。而且，而且现实是，我们不是，我们不是说没有合法的担忧，利益。这真的是一个结构性论点。而且，如果你喜欢，我喜欢在历史上和宪法理论上进行学术研究，你知道，但但但现实是，嗯，在某些方面，这场人工智能辩论是关于一个国家市场和一个国家行业。如果你一直追溯到邦联条例，以及为什么宪法本身在那时被创立，当时的问题是关税是否可以在不同州之间征收，或者是否有国家债务市场来支持美元，因此美国是否能够支持全部的信任和信用。是的。嗯，嗯，我们所做的只是将这场对话转化为一个非常现代的对话。但人们认识到，为了让美国存在并与英国竞争，与其他人竞争，就需要在某些领域进行联邦控制。嗯，而这正是休眠商业条款所保护的。嗯。>>嗯，在这场辩论中，你可以有真诚的人说，“但是，但是，但是，但是，我想要 X、Y 和 Z，而我的州对国家经济如此重要，以至于我们希望能够监管它。”但这就像当时弗吉尼亚州监管罗德岛的农产品一样。>>嗯，嗯，我们不这样做是有原因的。这与结构有关。所以，对我们来说，结构比任何特定的批评都更重要，因为我们可以理解人们有真诚的原因去做这件事。但宪法做出了一些决定，将此事从他们手中夺走。我确实想说，我们现在这样谈论它，就好像各州可以做的主要事情是监管开发一样。而且我认为情况并非如此。我认为我的沮丧之一是，因为一些原因，比如所有最令人争议的事情实际上占据了大部分的讨论时间，在那里你可以找到一个清晰的支持和一个清晰的反对。但在如此多的讨论中，有一些常识性的政策，我认为大多数人都会支持，我不明白为什么我们的政治不支持实施。>>嗯，我的意思是，总统已经签署了一项行政命令，成立了一个工作组。我认为这是司法部的一个工作组，它将以商业条款为由起诉各州，试图使他们的当地人工智能法规无效。所以，我的意思是，我们已经到了这一步。>>嗯，对我来说，这应该是没有争议的。司法部应该有一个工作组来起诉以阻止违宪的法律。所以，对我来说，这就像，我不明白为什么这会有争议。但同样，行政命令有很多报道，让人们觉得各州应该什么都不做，而在我们看来，情况并非如此。所以，比如，让我给你一个不同的例子。所以，现在关于心理健康和人工智能在心理健康中的使用有很多争议。嗯，一些非常悲剧性的后果。>>悲剧性的后果，谁颁发心理健康专业人士的执照，显然是各州，这是他们的领域。所以，当然有一些我们不同意的心理健康方面的有问题的法律，我们认为这些法律会极大地限制人工智能在支持人们方面的积极使用。但有很多法律我认为总体上是正确的方向。比如，你不应该能够提示一个人工智能工具说嗯，你有没有执照提供心理健康服务，然后让一个实际上没有这些资格的工具说“是”。这似乎违反了消费者保护法，可能违反了州执照规定。嗯，所以，嗯，有很多事情各州可以做，我认为可以设定一些常识性的护栏。另一个我喜欢谈论的问题，因为它不是对抗性的，它是一个头脑风暴的谈话，是工人失业。所以，共和党人对此表示担忧。民主党人对此表示担忧。我认为当他们设想他们担心的工人失业时，他们设想的是不同的人。但他们是团结的。我认为两党都认为，如果出现劳动力动荡，我们不知道是否会出现，或者如果出现，它会是什么样子。但我认为有很多支持工人的支持。所以，这是各州将在支持工人方面发挥重要作用。所以，我能问一下心理健康方面的问题吗？因为我认为这是一个有趣的故事。嗯，听起来你愿意接受旨在减少人工智能与人互动所造成的心理健康危害的监管。你的观点是，最佳干预措施应该是在方程的有害使用方面，而不是开发方面？>>我认为是这样。我的意思是，我想这取决于具体情况，但比如这些州现在正在尝试一些法律，我认为总的来说是有道理的。比如消费者保护法，你应该知道你在和什么互动。所以，如果你提示一个 LLM，然后说，“你有执照提供心理健康服务吗？”如果，如果 LLM 没有执照提供心理健康服务，它就不应该说“是”。>>是的。开源确实让这件事很有趣，因为我记得当 DeepSeek V3 发布时，你说，“你是谁？”它会说，“嗨，我是 Chad GPT。”你知道，所以，在最基本的层面上，>>这是一个完美的例子。>>给我。>>Deepseek 是什么？它是一个中国模型。>>是的。>>所以，所以我们必须从更广泛的背景来看待这个问题。我认为美国公司绝对应该受到监管，那些在这里的公司也应该受到监管。我认为在心理健康领域可以做一些事情，坦率地说，在嗯，联邦和州层面。我的意思是，FDA 嗯，今天对设备有监管权，其中包括嗯，提供健康建议的模型，对吧？所以，所以，有一些事情的叠加。>>这又回到了你的差距分析，什么可以>>你知道，差距是什么，我们完全开放。我的意思是，坦率地说，部分原因，我可能有点超前了，部分原因是我们提出了我们对联邦人工智能政策可能是什么样子的支柱的设想，是因为辩论在某种程度上已经变得如此偏颇，因为我们有一种智力兴趣，写了一篇关于休眠商业条款的论文。人们从中读到的不仅仅是，哦，我的天哪，你知道，各州什么都不能做，而是你希望联邦政府在这个领域什么都不做，他们有权这样做，所以这实际上只是一个反监管议程。>>所以，我们然后写下来，说不，实际上，这些是我们嗯，我们会支持的原则，它们很广泛，但对我们来说，这是对话的开始。嗯，你知道，我们足够谦虚，知道我们没有所有正确的答案，但我们想做的就是把我们所有的想法都放到公共领域，然后然后面对，然后面对任何批评，然后然后，但对我们来说，重要的是要设定一个标记，说实际上不，那是一场关于各州在宪法上可以做什么的对话，但它不是一个说联邦政府应该什么都不做的论点。这些是联邦政府可以进入的领域，而且，而且，即使在各州不能采取行动的地方，也应该进入。嗯，而且，值得称赞的是，我的意思是，这实际上是我之所以想让你上播客的原因，因为你实际上正在把这些东西提出来。嗯，它们不仅仅是口号，对吧？你试图在智力上保持一致，在智力上严谨，并对正在发生的事情进行思考。所以，我感谢你把这些带到播客上。嗯，我们已经超出了我承诺你花费的时间。我很容易再和你聊一个小时，所以我们下次还得请你回来。但，嗯，在我们离开之前，你还有什么想分享给我们的听众吗？在告别之前？嗯，我唯一想指出的是，我们正处于一个人工智能不是一项新技术，不是一个新行业。它将是计算的新控制层。>>它将是我们未来与计算机互动的方式。我们不会有图形用户界面或公司创建的东西。人们将能够与计算机交谈，并基本上创建自己的界面。例如。嗯，而且，正是因为如此，它将成为一种调解现实的东西，我们应该非常关心这个系统在这里生产，并且是在嗯，我们所有的制约和平衡下生产的。我们并不总是做对，我们也会犯错，但它有点，它，它是一种混乱，从中产生了一些东西，那就是妥协。我们应该非常关心这种动态，以及这种东西在哪里制造的国际动态。我们确实提到过 Deep Seek，但我不会，尽管我们没有深入讨论，这是一个非常重要的对话，我们不应该忽视。太棒了。马特，有什么你想补充的吗？>>不，完美。>>太棒了。嗯，先生们，感谢你们两位来到人工智能政策播客。>>谢谢。>>谢谢。>>本次关于人工智能监管与创新的 A16Z 系列节目到此结束。我们还有更多关于这个话题以及各种其他话题的节目即将推出。所以，请继续收听。