Transcription
我们感谢您抽出宝贵时间。您是 Anthropic 的首席执行官 Daario Amade。对吗？>> 是的，没错。是的。>> 太好了。嗯，我的第一个问题是，为什么您不向美国政府无限制地发布 Anthropic 的人工智能？>> 是的。所以，您知道，我们或许应该稍微回顾一下，提供一些背景信息。所以，嗯，您知道，Anthropic 实际上一直是所有人工智能公司中与美国政府和美国军方合作最积极的公司。我们是第一家，您知道，将我们的模型部署到机密云的公司。我们是第一家为国家安全目的制造定制模型的公司。我们的模型已部署到整个情报界和军方，用于网络安全、战斗支援行动等各种应用。您知道我们之所以这样做，是因为我坚信我们必须保卫我们的国家。我相信我们必须保卫我们的国家，使其免受像中国和俄罗斯这样的威权主义对手的侵害。因此，我们一直非常积极。我们有一个重要的公共部门团队。但是，您知道，我一直认为，在保卫我们自己免受威权主义对手侵害的同时，我们必须以捍卫和维护我们民主价值观的方式来进行。因此，我们已告知国防部，我们对几乎所有用例都持开放态度，基本上是他们想要的用例的 98% 或 99%，除了两个我们感到担忧的。一个是国内大规模监控。我们担心，您知道，人工智能可能会实现以前不可能实现的事情。例如，政府可以获取私营公司收集的数据，然后通过人工智能进行大规模分析。这实际上是合法的。嗯，只是在人工智能时代之前，它从未有用过。因此，国内大规模监控正在超越法律。技术发展如此之快，以至于它已经脱离了法律的轨道。这是第一种情况。第二种情况是全自主武器。这不是目前在乌克兰或台湾可能使用的部分自主武器。这是指制造无需任何人类干预即可发射的武器的想法。现在，即使是这些，我认为，您知道，我们的对手可能在某个时候会拥有它们。所以也许，您知道，为了捍卫民主，它们在某个时候可能是必需的。但我们对此有一些担忧。首先，当今的人工智能系统远未达到制造全自主武器的可靠程度。嗯，您知道，任何与人工智能模型打交道的人都明白，它们存在一种我们尚未在纯技术层面解决的基本不可预测性。还有一个监督问题。如果您拥有一支庞大的无人机或机器人军队，可以在没有任何人类监督的情况下运行，没有人类士兵来决定目标是谁，谁是射击对象，这会引起担忧，我们需要就如何进行监督进行对话，而我们还没有进行过这种对话。因此，我们坚信，您知道，这两种用例不应该被允许。五角大楼告诉我们，他们原则上同意这两项限制，并希望达成协议。为什么未能达成协议？>> 是的，您知道，这有几个阶段，所有这些都很快完成，而且都是由他们给我们的非常有限的三天窗口决定的，对吧？他们给了我们最后通牒，要求我们在三天内同意他们的条款，否则就会被指定为供应链风险或根据《国防生产法》处理。我想我们稍后会谈到这一点。嗯，但是，在那段时间里，我们进行了几次来回的沟通。您知道，有一次他们发给我们的措辞，表面上看似乎符合我们的要求，但其中包含了各种措辞，比如“如果五角大楼认为合适”或“或者，您知道，或者为了做任何符合法律的事情”。所以它实际上并没有以任何有意义的方式做出让步。而且，还有进一步的步骤，同样没有以任何有意义的方式做出让步。从一开始我们就想达成协议。如果您想了解五角大楼的立场，五角大楼发言人肖恩·帕内尔在前一天发推文说，他重申了他们的立场。我们只允许所有合法用途，这与他们发送给我们的条款相同。所以，嗯，他们没有超越，而且在任何方面都没有以任何有意义的方式同意我们的例外情况。总统今天回应了这一情况，发推文说：“他们的自私”（指的是 Anthropic）正在危及美国人的生命，使我们的部队处于危险之中，并使我们的国家安全处于危险之中。您对此有何看法？您的回应是什么？>> 是的，嗯，在我们昨天发布的声明以及今天发布的声明中，我们表示，即使国防部或特朗普政府对我们采取这些前所未有的措施，这种通常用于对抗外国对手的供应链指定，我们也表示，即使他们采取这些极端行动，我们将尽一切努力支持国防部，提供我们的技术，直到我们能够将这些业务转移给愿意做我们不愿意做的事情的竞争对手。>> 准备退出。>> 是的。所以，我们提供了连续性。我们对此深感担忧。我们对服务中断感到深切担忧，而这正是当我们被指定为供应链风险时所发生的情况，对吧？当我们被指定为供应链风险时，他们会说，您必须退出我们所有的系统。我与一线人员，军官交谈过，他们说这是至关重要的。没有这个将使我们倒退六个月，十二个月，甚至更长。这就是为什么我们如此努力地试图达成协议。但再次强调，三天的最后通牒，将我们指定为供应链风险的威胁。整个时间表是由国防部推动的，而不是由我们。我们正在努力提供连续性。我们正在努力提供服务。我们正在努力达成协议。>> 那么这对美国人的安全意味着什么？>> 是的。嗯，我想说几点。嗯，您知道，短期内，这意味着，嗯，这取决于国防部。您知道，我们仍在努力与他们达成协议。我们仍在与他们沟通。您知道，>> 他们在和您沟通吗？>> 您，我们收到了各种沟通。我们没有看到任何能够满足我们担忧的事情。嗯，但是，您知道，我的意思是，从广义上讲，我们仍然有兴趣与他们合作，只要这符合我们的底线。嗯，>> 但听起来你们仍然相距甚远，现在黑格斯部长已经认定你们是供应链风险，并说了他所说的话。那么，您认为此时达成协议的可能性有多大？>> 您知道，我，看，协议需要双方。嗯，我们，就我们而言，愿意为这个国家的国家安全服务。我们愿意向所有政府部门提供我们的模型，包括国防部、情报界，您知道，更多的文职部门，按照我们提供的条款，按照我们的底线。我们一直愿意这样做，对吧？您知道，我们，您知道，您知道，我们不会因此感到冒犯。我们之所以以这种方式提供我们的技术，是因为我们想支持美国的国家安全。我们不是为了五角大楼官员而做的。我们不是为了某个特定政府而做的。我们这样做是因为它有利于美国的国家安全，我们将继续这样做。您为什么认为，像 Anthropic 这样的私营公司，在人工智能在军事中的使用方面，比五角大楼本身拥有更大的发言权更好？>> 首先我想说，我认为这是一个重要的观点，据我们所知，一线人员实际上并没有遇到任何这些例外情况的限制。这些，抱歉，这些是 1% 的用例，而且我们没有看到任何证据表明这些用例已经发生。现在，我再说一遍，我不能说他们的计划是什么，我们不知道。嗯，但是，我们没有证据表明这些用例实际上已经遇到了麻烦。我们已经部署到国防部和其他政府部门，而没有遇到任何这些问题。现在，就这些一两个狭窄的例外而言，我实际上同意，从长远来看，我们需要进行民主对话。从长远来看，我实际上确实认为这是国会的职责。例如，如果国内大规模监控存在可能性，政府购买美国民众的批量数据，包括地点、个人信息、政治派别，以建立个人档案，现在可以通过人工智能进行分析。事实是，这是合法的，这似乎是，您知道，第四修正案的司法解释没有跟上，或者国会通过的法律没有跟上。所以从长远来看，我们认为国会应该跟上技术发展的步伐，但国会不是世界上最快的机构，而现在我们是站在第一线看到这项技术的人。我预计国防部，我预计他们会认真考虑这些问题，您知道，主动地，您知道，思考这些问题，所以我本来期望他们不会有任何担忧，而我们可以进行对话，但我认为在没有这一点的情况下，嗯，您知道，您知道，我们需要看看技术，我们需要看看它的可靠性能力，我们需要看看它如何超越法律，以及它如何逃避法律的意图。这些是非常狭窄的领域，但我认为它们很重要。这些事情对美国人来说是根本性的，对吧？美国人不受政府监视的权利，对吧？我们的军官自己决定战争的权利，而不是完全将其交给机器。这些都是基本原则。但是，以基本原则的名义，为什么美国人应该信任您，一家私营公司的首席执行官来做这些决定，而不是联邦政府？>> 嗯，我会给出两个答案。一是，您知道，我们是一家私营公司，对吧？我们可以选择出售或不出售我们想要的任何东西。还有其他供应商。如果国防部，政府，您知道，不喜欢我们提供的服务，或者我们提供服务的方式，他们可以使用另一家承包商。这本来是处理这种情况的正常方式，对吧？只是说我会不同意，但如果他们说，我们不想和 Anthropic 合作，我们的原则与你们不符，我们将选择其他模型，我会尊重他们。但他们已经将这种做法扩展到了国防部以外的政府部门，并试图惩罚性地撤销我们超出国防部的合同，他们还做了这种供应链指定的事情，基本上说，如果您是另一家拥有军事合同的私营公司的一部分，您就不能在任何触及这些军事合同的方面使用 Anthropic。所以他们正在干预私营企业的行为。很难将此解释为其他任何方式，而不是惩罚。据我们所知，供应链指定从未适用于一家美国公司。它只适用于像卡巴斯基实验室这样的对手，这是一家俄罗斯网络安全公司，您知道，这家公司被怀疑与俄罗斯政府有关联，中国芯片供应商，您知道，被归为一类，这感觉非常惩罚性和不恰当，考虑到我们为美国国家安全所做的贡献。所以您说您为美国国家安全做了很多。您坚持您想保留的这两项限制。您认为 Anthropic 在这里比五角大楼更了解情况吗？>> 我们不。看，您知道，我，自由市场和自由企业的一个特点是，不同的人可以根据不同的原则提供不同的产品。请记住，这不仅仅是关于使用条款。这不仅仅是关于，您知道，这是我们的模型在法律上允许做什么。我们的模型有自己的个性。它能够做某些事情。它能够可靠地做某些事情。它能够不可靠地做某些事情。我认为我们能够很好地判断我们的模型能够可靠地做什么，以及不能可靠地做什么。而且我认为我们对技术如何再次超越法律有很好的认识。但我会再次说，我实际上同意您，这在长期来看是不可行的。我不认为长期的正确解决方案是私营公司和五角大楼就此争论。我认为国会需要在此采取行动，我们正在考虑这一点。我们正在考虑国会可以采取什么措施来施加一些护栏，这些护栏不会阻碍我们击败对手的能力，但会让我们能够以符合我们国家价值观的方式击败对手。但正如您所知，国会行动缓慢。不。所以，您知道，我认为，我认为，我认为在此期间，我们需要划清界限。>> 那么，在国会采取行动之前，您说您将坚持立场。但还有许多其他公司与美国政府做生意。波音公司为美国军方制造飞机。波音公司不告诉美国军方如何使用这些飞机。这有什么不同？>> 我再说一遍，有两种不同之处。一是，我再次指出这项技术的新颖性。对吧？当一项技术成熟时，然后，您知道，您知道，我的意思是，飞机有很多技术方面的东西，但是，您知道，我认为，您知道，一位将军对飞机如何工作有相当好的理解，飞机已经存在了很长时间。>> 但航空航天业内部有很多创新。>> 当然，但不是以我们看到人工智能的速度。人工智能的进步速度如此之快。我经常谈论人工智能是如何呈指数级增长的。每隔四个月，模型，您知道，模型所需的计算量就会翻倍。我们从未见过如此快的创新速度。>> 但如果这种速度继续下去，那么美国政府将永远无法跟上。那么，如果长期以来您一直主张希望与美国政府合作以提供适当的国家安全，因为这将是如此快速的发展，以至于国会无法跟上，那么这种逻辑如何适用？>> 那么，为什么背弃呢？>> 我认为只有一次赶上。所以，技术发展速度很快，出现的问题很少，但非常重要。再次，我们只有这两个问题：国内大规模监控、全自主武器。我们需要与国会进行对话，帮助他们理解其中一些风险。再次，这是世界上最美国的事情。没有人想被美国政府监视。没有人想被美国政府监视。>> 同时，我们的一些最大对手拥有技术，这些技术正在迅速赶上我们，或者最终会赶上我们。也许已经赶上了。因此，如果我们的军队对于保卫美国人民、捍卫我们的民主、自由和共和国至关重要，为什么还要坚持这种立场，说不，我们不合作？>> 您知道，再次，这是一个抽象的，这是一个抽象的论点，但让我们看看实际的两种用途。国内大规模监控无助于美国赶上其对手。国内大规模监控是政府的滥用权力，即使在技术上是合法的。所以，我们可以排除这一点。嗯，全自主武器，我实际上担心我们可能需要跟上。您知道，它不是，您知道，技术还没有准备好，所以我们不是，正如我所说，我们不是绝对反对全自主武器，我们只是认为可靠性还没有达到，我们需要就监督问题进行对话，我们已经提出与国防部合作，在沙盒环境中帮助开发这些技术，原型化它们，但他们不感兴趣，除非他们可以从一开始就做任何他们想做的事情。所以，再次，我们需要平衡生存的需要。没有人比我更强调击败我们的对手。但我们需要以正确的方式战斗。您知道，这就像说有很多国家，对手犯下战争罪。我们不应该犯战争罪吗？我不是说这等同于战争罪。我的意思是，我们的价值观的本质是我们必须找到一种方法来赢得胜利，同时保留这些价值观。我们不能只是进行一场彻底的逐底竞争。我们，您知道，我们必须有一些原则，而且这些原则非常少。这项技术可以极大地加速我们军队的能力。我与海军上将谈过。我与将军们谈过。我与作战指挥官们谈过，他们说这彻底改变了我们的能力。而这些只是我们迄今为止部署的非常有限的用例。所以，为什么要在违背我们价值观的 1% 的用例上纠缠不休，而我们可以追求 99% 的用例，这些用例有利于我们的民主价值观，并保卫这个国家。我们甚至可以尝试研究最后 1% 的用例，以了解是否有办法在符合我们价值观的情况下执行它们。这就是我们的立场，我认为这是非常合理的。>> 给我一两个可能出错的例子。>> 所以，我能想象可能出错的两类事情。一是再次围绕可靠性这个想法，它错误地锁定了目标。它射杀了平民。它没有表现出人类士兵会表现出的判断力。嗯，嗯，误伤或射杀平民，或者只是错误的事情。我们不想出售我们认为不可靠的东西，我们也不想出售可能导致我们自己人丧生或导致无辜者丧生的情况。二是监督问题。如果您考虑一下，您知道，您，人类士兵，您知道，有一整套问责制，假设一个人运用常识。假设我有一支由一个人或一小群人协调的 1000 万架无人机组成的军队。您不能，您知道，很容易看出那里存在问责制问题，对吧？您知道，将权力集中到如此程度是行不通的。这并不意味着我们不应该拥有这支舰队。再次，我不知道。也许在某个时候我们需要它，因为我们的对手会拥有它，但我们需要就问责制进行对话，关于谁掌握着按钮，谁可以按下“停止”按钮。我认为这是非常合理的。>> 特朗普总统称 Anthropic 为左翼觉醒公司。这个决定是否受到意识形态的驱动？我，看，我无法谈论其他人正在做什么，以及他们正在做什么。>> 但您和 Anthropic 呢？>> 是的，看，我们，我们认为我们努力保持非常中立。我们在人工智能政策问题上发表意见，因为我们有专业知识。我们没有观点，我们不考虑一般的政治问题，我们努力在有共同点的时候合作。例如，我参加了在宾夕法尼亚州与总统、参议员麦考马克的一次活动，关于提供能源，为我们的人工智能模型提供足够的能源，并在美国提供我们的人工智能模型。我与总统谈过。我，您知道，我，我，我表达了我，您知道，同意他所做的大部分事情。我们还做了一项关于使用人工智能促进健康的承诺，我们还做了其他几件事。当人工智能行动，政府的人工智能行动计划出台时，我们说，其中有许多方面，也许是大多数方面，我们都同意。所以，这种我们某种程度上是党派的，或者我们没有一视同仁的想法，我们一直非常谨慎地一视同仁。嗯，而且，再次，我们无法控制，即使是总统，您知道，对我们有看法，这不在我们的控制之下。在我们的控制之下的是，我们可以是合理的，我们可以是中立的，我们可以坚持我们所相信的。>> 1 到 10，未来是否会与联邦政府达成协议，还是您认为这已经结束了？>> 看，我，我没有水晶球。就我们而言，我们的立场很清楚。我们有这两条底线。我们从第一天起就有了它们。我们仍然，您知道，我们仍然在倡导这些底线。我们不会在这些底线上退让。如果我们能与部门达成一致，您知道，您知道，我们可以看法一致，那么也许可以达成协议，就我们而言，为了美国国家安全。我们，您知道，我们，我们继续希望这能奏效。嗯，但是，您知道，再次，达成协议需要双方。如果您现在今晚有机会与总统谈话，您会对他说什么？>> 您知道，我，再次，我会说我们是爱国的美国人。我们所做的一切都是为了这个国家，为了支持美国国家安全。我们之所以积极部署我们的模型给军方，是因为我们相信这个国家。我们相信击败我们的威权主义对手。我们相信保卫美国。我们设定的底线是因为我们，我们，我们相信跨越这些底线违背了美国价值观，我们想捍卫美国价值观。当我们受到供应链指定和国防生产法的威胁时，这些都是政府对私营经济前所未有的干预。我们行使了我们经典的宪法第一修正案权利，以表达异议并不同意政府。不同意政府是世界上最美国的事情，我们在这件事上所做的一切都是爱国的。我们坚持了这个国家的价值观。>> 您认为 Anthropic 作为一家企业能够承受这一切吗？您知道，嗯，当总统，嗯，嗯，黑格斯部长发布了供应链指定推文时，他说了一些不准确的话，远远超出了他们的合法权限。他说，任何与军方有合同的公司都不能与 Anthropic 做任何生意。法律并没有这么说。我们发布了一份声明，指出了法律。法律只规定，作为其军事合同的一部分，任何公司都不能将 Anthropic 作为这些军事合同的一部分使用。这是一个非常，影响非常有限。>> 所以您确信 Anthropic 能够承受这一切？>> 不仅能承受，我们还会做得很好。这次指定的实际影响很小。现在，部长发布的推文的性质是为了制造不确定性，是为了制造一种情况，让人们相信影响会更大，是为了制造恐惧、不确定性和疑虑，但我们不会让它得逞。>> 我们会做得很好。>> 批评者称这是滥用权力。五角大楼和白宫的做法。您认为这是滥用权力吗？您知道，再次，我会回到这个想法，这是前所未有的。>> 但这是滥用权力吗？>> 您知道，这种情况以前从未发生过。这种指定从未适用于一家美国公司。我认为他们的一些声明，他们的一些措辞已经非常清楚地表明，这是报复性和惩罚性的。我不知道，我不知道还能称之为什么，报复性和惩罚性。>> 那么，您会采取法律行动吗？我们，我，我，我已经在我们的声明中再次说过，我们收到的只是一个推文。我们没有收到实际的供应链指定。您知道，政府还没有采取任何实际行动。只有推文说他们打算做什么。>> 您没有收到任何正式信息。>> 我们没有收到任何正式信息。我们只看到了总统的推文和黑格斯部长的推文。当我们收到某种正式行动时，我们会审视它。我们会理解它，我们会在法庭上挑战它。>> 您认为这说明了他们在处理重大国家安全问题方面的能力吗，如果这就是他们与您沟通的方式？>> 再次，您知道，我，我不想让这件事成为关于这个特定政府的。我不想让这件事成为关于特定个人的。我们正在尽一切努力支持美国国家安全。这就是为什么我们致力于尝试找到一个协议。如果我们找不到协议，这就是为什么我们致力于以一种平稳的方式进行业务转移，以确保我们的作战人员在进入冲突时能够继续得到支持。这就是为什么我们致力于坚持，您知道，我们认为不符合这个国家价值观的行为。这与任何特定的人无关。这与任何特定的政府无关。这是关于坚持正确原则的问题。>> Dario Amade，Anthropic 的首席执行官。非常感谢您。非常感谢您邀请我。