Transcription
减轻人工智能的风险，印度主办了一场国际聚会，重点关注人工智能日益增长的主导地位所带来的影响。如何最好地管理这种快速发展的技术的使用？它能被监管吗？这是《内幕故事》。大家好，欢迎收看节目。我是里沙德·萨拉马特。
人工智能的快速发展引发了人们对其潜力的极大兴奋，但它也加剧了人们对潜在危险的担忧。世界各国领导人、创新者、科技巨头和研究人员正在印度会面，讨论这项技术的实际和道德应用。但对人工智能的依赖正以史无前例的速度增长，本次峰会预计不会就管理其崛起达成任何具有约束力的承诺。尽管如此，人们仍希望这次会议能就该技术的负面影响达成国际共识。那么，政治家们能否充分解决人们对人工智能过度使用的日益增长的担忧？我们稍后将与我们的嘉宾交谈，但首先，请看迈克尔·阿普尔的报道。
它们在人工智能领域大受欢迎，展示着舞步，捕捉着人们的想象力，让人类得以梦想人工智能进步所能带来的无限可能性。>> 而且它能打开洗碗机。在这些表演的背后，为这些机器人提供动力的相同技术，也已为自主武器平台提供动力。这种平衡潜在利益与潜在危害的相同难题，将在印度的人工智能影响峰会上进行辩论。此次峰会召开之际，社交媒体公司和技术平台正受到越来越多的审查。缺陷、错误信息、虚假信息的迅速传播，基本上正在动摇这些机构的根基。这些机构之间信任的根基。
大型科技公司主导着市场。全球市值最高的公司英伟达，凭借其在人工智能芯片领域的主导地位，实现了飞速崛起。被称为“七巨头”的上市科技巨头，占据了标普500指数总市值的逾三分之一。但专家警告称，我们正处于泡沫之中，市场回调可能即将到来。除了可能被高估之外，还存在缺乏护栏来指导道德使用和实施的问题。欧盟正在为此调查埃隆·马斯克的Grock模型。
我们看到了未经同意的女性深度伪造图片，也看到了儿童性虐待材料。>> 人工智能的进步远远超过了对其进行限制的尝试。>> 人工智能正以光速发展，没有哪个国家能独自看到全貌。>> 但人工智能是一项大生意，掌权者知道他们在白宫有一个盟友。去年12月，唐纳德·特朗普总统发布了一项行政命令，为他的政府在人工智能问题上定下了基调。他表示，美国正在与对手争夺人工智能霸权。为了赢得这场竞赛，科技公司必须能够在没有他所描述的繁琐法规的情况下自由创新。他的命令成立了一个人工智能诉讼工作组，以挑战任何通过可能损害人工智能创新的法规的州。
但不惜一切代价的创新，这是世界各地许多领导人和机构日益警惕的事情。迈克·拉佩尔，半岛电视台《内幕故事》。让我们请出我们来自新德里的嘉宾。我们请到了AI Now研究所的联合主任安巴拉克。在阿姆斯特丹，RIA法学院的副教授鲁塔·莱纳，以及在京都。日本的马克·爱因斯坦，Counterpoint Research的研究总监兼全球人工智能研究主管。感谢各位的加入。我将从马克开始。你知道，我们现在正处于人工智能的各种迭代中的哪个阶段？因为每一次新的发展，都会带来大量新的问题。对吧。
所以我认为我们正开始进入我们所说的“代理人工智能”时代。这真正意味着人工智能正从更高级、更智能的搜索，转向能够自主完成任务。这确实震撼了金融市场，并引发了许多关于商业和生活未来会是怎样的疑问。
>> 你呢，鲁特？嗯，是的，我同意马克。代理人工智能是一个巨大的话题。嗯，但我们仍在适应所有生成式人工智能的新发展。所以我认为我们必须思考我们希望这个方向走向何方，以及消费者真正想要什么。
>> 安巴，>> 是的，我的意思是，我认为，在某种程度上，人们倾向于被这个闪亮新玩具的每一次新迭代所分散注意力。嗯，你知道，无论是人工智能（AI）还是通用人工智能（AGI）或代理人工智能（agentic AI），每个术语都有数百万种不同的解释，嗯，所以这一切都表明，我认为这是一个快速变化的疯狂新闻周期。我认为我们的重点是如何确保公众，而不仅仅是坐在硅谷的科技公司首席执行官，能够在这个发展轨迹中拥有发言权。
>> 绝对如此，你知道，鲁特，我们目前真正讨论的，是对人工智能日益依赖的担忧是什么？
嗯，所以，其中一个问题是，我们当然仍然会遇到很多“幻觉”。嗯，所以，这些非常流行的大型语言模型会给出不真实的答案。嗯，我认为这需要结合保障措施，以及如何高效使用这些系统的教育。嗯，所以我认为这仍然是一个非常热门的话题。嗯，我们还没有找到解决办法。
但最终，安巴，监管是这里的答案吗？
听着，监管可以说是我们工具箱中的一个工具。但问题是我们的目标是什么？我认为我们的目标，嗯，实际上是试图对抗许多我们对这项技术感到焦虑的根本原因，那就是科技行业一小部分人手中前所未有的权力集中。嗯，这不仅仅是市场权力的问题，也不仅仅是谁能瓜分这个新经济的红利。嗯，因为随着人工智能融入到每一个领域，无论是医疗保健、娱乐还是教育，嗯，你知道，我们看到开发这项技术的人的世界观也变得岌岌可危，并有可能，嗯，你知道，准备主导社会面貌的下一个时代。所以这一切都表明，这些不仅仅是技术或科技问题。这些是社会问题。它们对我们的经济，当然也对我们的民主，有着极其深远的影响。因此，嗯，我认为当务之急是利用我们所掌握的一切工具来开启对话。嗯，这样，就像我说的，是公众重新掌握了主导权。
嗯，绝对如此。但从地缘政治角度来看，这影响巨大，不是吗，马克？我的意思是，例如弗拉基米尔·普京实际上呼应了唐纳德·特朗普所说的话。嗯，普京说，谁在人工智能领域领先，谁就将统治世界。这说得太轻描淡写了吗？
不，我真的不这么认为。我认为我们开始看到，我敢说，以中国为中心和以美国为中心的人工智能软件之间存在巨大的分歧。嗯，我认为这是一场伟大的竞赛，而且界线正在划定。我认为有趣的是，越来越多的国家不希望依赖任何一个国家。因此，我们开始越来越多地谈论一个名为“主权人工智能”的概念，许多国家正在收回对其基础设施、数据和软件的控制权。嗯，但就人工智能而言，这确实是一个非常碎片化的世界。
最终这变成了一场竞赛，不是吗？也是。现在正在进行一场人工智能类型的主权人工智能竞赛。
你问我这个真有趣。我此刻在新德里的原因，我们组织总部设在纽约，是为了参加目前由印度主办的全球人工智能峰会，这是第一个由全球南方非西方国家主办的峰会。第一次是在布莱切利公园。嗯，上一次是在巴黎。嗯，这里非常重要的一个首要问题是，在某种由中美主导的人工智能未来之外，是否存在第三条道路，嗯，你知道，我认为围绕着人工智能民主化的这个想法有很多讨论。嗯，但同样地，我认为，嗯，你知道，我们如何实现这一目标的方法仍然相当薄弱。我认为，炫耀“主权人工智能”或，嗯，你知道，人工智能的开放性和民主化等术语很容易，但归根结底，我认为如果我们不坦诚面对这项技术所产生的，嗯，某种固有的基础设施依赖性，即少数科技巨头不仅主导着关键输入，还主导着基础设施，当然也主导着消费者和企业市场在这新经济中的货币化途径，我认为这才是当前真正的生存问题。这种权力集中需要被点名，在我们做任何事情之前，嗯，你知道，在我们能够开始并制定一个议程来解决它之前。
布里奇特，你对人工智能民主化的看法。嗯，所以我认为谈论这个民主化方面和主权方面非常重要，因为它会给公民选择权，因为目前权力集中，即使消费者不喜欢他们正在使用的工具，也没有多少平等可比的替代品。嗯，这造成了一种情况，即主要的参与者可以保持他们的主导地位，甚至恶化用户的条款，因为存在他们一直在使用这些工具的锁定效应。所以我认为谈论它非常重要。嗯，我不知道我们是否已经达到拥有它的地步，但我认为即使在这次峰会上讨论它也是，嗯，至关重要的。是的。
嗯，马克，我想了解一下，你知道你提到了以美国和中国为中心的人工智能的概念。它们之间有什么区别？以及它们在被当局看待和监管的方式上有什么区别？
嗯，我认为有几个关键区别。我认为一个区别是，嗯，中国主要推广开源标准，因此这些标准的盈利方式不同。这些是免费使用的，我认为它们将被广泛使用。嗯，而美国则更多地采用以利润为中心的模式。嗯，我认为你会看到的另一件事是，嗯，这两个地方的审查级别不同。所以我认为存在一些关键区别。我认为你绝对不会看到某些国家不使用，嗯，以美国或中国为中心的人工智能，这就是为什么我说我确实看到界线正在划定，而且我确实看到一种二分法，嗯，你知道，正在形成。嗯，我只想提一下，嗯，去年在巴黎举行的人工智能影响峰会上发生的事情，正如赞伯所暗示的，美国副总统JD范说，我们现在相信，对人工智能行业的过度监管可能会扼杀一个正在起飞的变革性产业。你对此有什么看法，鲁特？
嗯，所以去年的峰会在许多方面都备受争议。它也非常政治化，嗯，当然，嗯，我认为当我们谈论创新时，我们必须考虑权衡。那么赢得人工智能竞赛的代价是什么？我认为一些保障措施必须始终存在，这也是你在全球人工智能治理中看到的。有些规则可能不同，但我认为我们都可以同意一些最低限度，特别是当我们谈论儿童以及现在一些新的生成式人工智能的限制时。
阿玛，>> 我会说，将创新与监管对立起来，是企业游说者惯用的最古老的伎俩，因为我认为，你知道，有时我，我的意思是，我几乎会反驳它甚至是一种权衡的观点，对吧，我认为很多时候，无论是保护儿童，还是，嗯，你知道，聊天机器人的心理健康影响，或是安全问题，我们真正通过明智的监管，试图促进的是一场向上而不是向下的竞争。但我认为，在当前这种政治环境下，监管在某种程度上被当作一个贬义词，而那些不仅能，嗯，你知道，保护公众，而且我认为还能增强消费者在使用这些聊天机器人时所感受到的信任，并在某些方面促进采用的基本保护措施，嗯，所有这些都被，嗯，被漫画化成这种，嗯，你知道，创新与公众基本保护之间的零和游戏，而我认为这种，你知道，矛盾不应该存在。
嗯，马克，我的意思是，有些人呼吁大型人工智能公司对其行为负责，或受到约束，或受到严格监管。现在，你知道，很多人评论说，我们现在市场上存在一个巨大的人工智能泡沫。这是应该真正刺破那个泡沫的东西吗？
嗯，所以我几乎每天都会被问到这个问题。我认为，如果你看看人工智能投资与人工智能支出，我的意思是，我们今天的投资是回报的16倍。所以我确实认为该行业的许多公司都被高估了。嗯，我认为我们更多地处于大型语言模型（LLM）泡沫中。我认为这些模型公司通常被高估了。我确实看到了修正，但我不认为这是一个人工智能泡沫。人工智能是一种将长期存在的技术。我认为在数据中心和其他基础设施等方面的这些投资是长期投资，最终会，嗯，得到回报。但是，你知道，这就像互联网泡沫一样。互联网泡沫破裂并不是互联网的终结。它是互联网的开始。而且，嗯，那些幸存下来的公司就是今天统治世界的公司。
是的。还有鲁特，我的意思是，当你看看互联网在泡沫前时代是如何真正像狂野西部一样。我们现在是否处于那种阶段？我的意思是，我们一直都在挣扎。嗯，监管总是落后于科技公司一步。展望未来，这种情况还会发生吗？
嗯，所以我认为我们经常谈论技术的这个炒作周期，而且我认为马克所说的区分不同类型的人工智能系统很重要，因为我认为人工智能将长期存在，但大型语言模型（LLMs）以及我们将如何使用、管理和整合它们。嗯，那是一个单独的问题。嗯，我认为既然我们确实开始看到这些事情中的一些实际危害，我认为监管正在努力追赶。所以即使我们有规则，嗯，其中一些还没有强制执行，或者它们才刚刚，嗯，到位。嗯，所以我认为这一切仍在形成中，嗯，以成为能够，嗯，改善局面的东西。
安巴，就同一个话题，
我的意思是，我认为，嗯，让我们从我们拥有的工具开始。现行法律没有人工智能例外，我们所看到的，嗯，尤其是在美国，在，嗯，你知道，总统，嗯，特朗普总统对这个行业的态度之后，但实际上全世界都普遍不愿执行我们现有的工具，我认为我们所看到的是对监管不作为的强烈反弹，虽然我认为将人工智能视为新颖和颠覆性是容易或诱人的，但我认为在许多方面，我们看到的人工智能的失败模式是痛苦地熟悉的，因为我们有过去十年的社交媒体，嗯，以及平台生态系统可以借鉴。无论是我们看到的大型科技公司关门大吉的那种竞争担忧。你知道，我们以前见过这个故事。我们看到开放的互联网在表面上或实际上已经关闭，或者它是令人上瘾的设计。如果所有道路都通向，嗯，监控广告，那对我们的注意力意味着什么？那对我们的隐私意味着什么？对吧？这些都不是新的。我从事科技政策工作15年了，我会告诉你，关于，嗯，大型语言模型（LLMs）以及它们引发的担忧，很少有感觉，嗯，新颖的。在大多数情况下，这感觉像是一种恶化。这并不是说我们不需要新规则，而是说我们当然不需要重新发明轮子。
嗯，就是这样，丽塔，你来说。我的意思是，人们都在说，鉴于外面有大量的虚假信息，我们正在进入一个后真相世界。你同意吗？社会将如何实际适应这种情况？
嗯，这是一个非常困难的问题，因为我认为我们在线上看到的，嗯，人工智能生成的内容越多，嗯，我们对所看到的事物以及其他用户分享的事物的信任就越受到挑战。嗯，所以我认为目前有一种感觉，我们不断问自己这是人工智能生成的还是，嗯，真实内容，嗯，这很成问题，因为很多人，嗯，现在，嗯，不再像以前那样依赖传统媒体获取新闻和搜索，而是转向，嗯，或主要使用社交媒体。
嗯，所以我认为这是一个具有挑战性的话题。我认为教育可以帮助，嗯，嗯，一如既往，但我也认为我们现在才进入一个阶段，我们正在治理平台，嗯，可以说比以前更严格，我们以前也有过，嗯，这方面的监管，但我认为至少在欧洲，随着数字服务法的出台，很多事情也在改变。
马克，我的意思是，你作为一名研究人员，一定不得不应对这种后真相社会的到来，以及它随之带来的市场影响和金融影响。
确实如此，我的意思是，我认为，你知道，我们在科技圈里谈论的一件事就是“死互联网理论”，即，你知道，互联网上现在有太多的内容是人工智能生成的。人们不知道什么是真实的，什么是不真实的。我实际上认为这最终会改变商业模式。我认为这会，嗯，你知道，它可能会导致人们为可信赖的服务支付更多费用，因为其他任何东西都不可信。它可能会导致区块链被用作验证方法。它可能意味着代理人工智能将成为我们使用的新用户界面，而不是应用程序以及来自可信代理的类似事物。所以我绝对认为这会带来非常大的金融影响。我认为互联网的商业模式最终会自行改变，
对吧？你知道，这也让你思考这些人工智能系统有多大的责任。我的意思是，如果一台电脑不能负责，而它在某个地方造成了毁灭性的影响，那么谁应该负责呢？我的意思是，是编写软件的公司、主要机器、公司，还是使用那台电脑的组织，如果你愿意，或者说这里的人工智能，我想我把这个问题抛给安巴。
是的，我的意思是，我认为“从头到尾”的问责制是我们谈论它的方式，对吧，就像大型语言模型（LLM）生态系统或供应链的运作方式一样，在基础模型层会做出某些设计决策和数据决策，而只有那些构建这种基础模型基础设施的ChatGPT、OpenAI、Anthropic，嗯，你知道，谷歌等公司，才应该对源自，嗯，你知道，在该层发生的决策和，嗯，开发所产生的错误、不准确和幻觉负责。同样地，有些危害确实是在部署时产生的，这些危害不仅来自于基础模型的构建方式，嗯，你知道，那个特定的“香肠”是如何制作的，而且来自于特定系统的部署方式，无论是否有“人在回路中”，嗯，无论，你知道，在这种特定情境下正在设计什么样的社会互动，所以，是的，我认为这确实取决于具体情况，但我想最重要的是要记住，我们需要确保它不是，嗯，你知道，不是只有另一端的消费者，嗯，在处理一台智能机器，并被告知，你知道，是电脑做的，所以没有责任。我们需要问责制，而且我们需要它，嗯，贯穿整个供应链。
嗯，>> 鲁特，就这个问题，你知道，当一个程序可以重写自己的代码，并且偏离了创建者想要实现的目标时，会发生什么？这当然会带来许多其他长远影响。我认为这些仍然是悬而未决的问题。嗯，但是，嗯，我同意安巴的观点，无论如何，即使存在困惑或灰色地带，也必须有人承担责任，也许只是补充一点，嗯，我认为我们还需要监管，这样就不会把所有的负担都压在用户身上，因为如果你需要为这些损害找到证据，我认为即使，嗯，损害已经存在，证据也越来越难以获得。嗯，马克，让我们稍微改变一下话题，谈谈这对个人财富意味着什么。这会影响金融平等还是不平等？它会集中财富吗？你对此有什么理论？
所以这是一个有趣的问题。我能看到，我能从两方面论证。嗯，坦率地说，我确实认为，你知道，我提到的这些人工智能工具，嗯，其中许多是开源的，并且对所有人开放。嗯，我们将拥有一个世界，任何人都可以通过与他们的智能手机或电脑对话来制作一个应用程序。所以，我认为它将刺激初创企业和我们从未见过的各种事物的创新。嗯，我认为，你知道，很多事情都将自动化。嗯，我认为已经有同行评审的研究表明，其中一些大型语言模型（LLMs）比医生更准确。因此，如果你考虑这对医疗保健行业的影响，医疗保健成本可能会大幅下降，这是世界上每个国家都面临的问题。但我认为，正如我们在这个小组中说过的，这些人工智能基础设施公司和超大规模公司以及与此相关的公司，嗯，存在着非常高的权力集中，你知道，你可以说这是一种寡头垄断，所以我认为会有一些巨大的好处，嗯，但同时也有一些非常合理的担忧关于这个行业的状况。
是的，行业状况和财富集中，这只是需要注意的一件事，不是吗，安巴？你知道它如何影响我们所有人？我们，我会被全息图取代吗？
嗯，我认为此刻真正，嗯，有趣的一件事是，你看到世界各地的科技公司首席执行官登上舞台，发出警报，称我们将在，你知道，中长期内，也许是10年，也许是30年，看到大规模失业或大规模劳动力流失。而这些，嗯，你知道，不祥的预测，嗯，我认为正在做，嗯，两件阴险的事情。首先，我认为我们需要认真对待，如果这是，嗯，来自硅谷的愿景，那么这是否是公众，当然还有我们的政治代表，必须接受的愿景？这些，嗯，你知道，未来是不可避免的吗？其次，嗯，你知道，当你将这些系统描绘得如此强大，以至于它们会，嗯，基本上终结大部分白领工作时，那里的，嗯，你知道，柔道动作是什么？嗯，它真的是想告诉我们这些系统是如此奇妙和神奇吗？因为实际情况，这在泡沫讨论的背景下也曾出现，是其中一些，嗯，你知道，这项技术在操作上正面临严峻的限制，我们在实践中看到的是，公司正在努力寻找，嗯，这些，你知道，大规模流失，嗯，愿景所基于的那种价值。
好的。我们时间不多了。这个问题每人30秒，你知道，能实现什么？斯蒂芬·霍金在2015年谈到人工智能解决重大全球挑战的潜力，但警告说它可能终结人类。鲁特，你对此有什么看法？
>> 嗯，很快，嗯，我认为如果我们找到一个共同目标，嗯，我们绝对可以利用它，嗯，来改善，嗯，我们的生活质量。但这不是目前大公司的方向。
马克，我会说它能拯救人类。我认为它可能对可持续性和各种效率产生的影响是我们甚至还没有想象到的。
当然，安巴也在这里。
我认为我们需要，嗯，将这个问题视为权力问题，而非进步问题。所以首先要问的问题是，在这个新世界中谁将拥有权力，谁将失去权力，并从那里开始。非常感谢您的加入。感谢我们的嘉宾安巴卡、嗯，布鲁塔·利皮娜和马克·艾因森。并且感谢，嗯，您的收看。您可以随时访问我们的网站aljazer.com观看这个节目。如需进一步讨论，请访问我们的Facebook页面，网址是facebook.com/jinsidetory。您也可以在X上加入对话。我们的账号是AJinsidestory。我是拉沙德·萨拉马特，以及多哈的全体团队。再见。