Transcription
以下是托马斯·桑特霍姆的对话。他是一位教授，也是 Libratus 的联合创始人。Libratus 是第一个在无限注德州扑克单挑游戏中击败顶尖人类玩家的人工智能系统。他在博弈论和机器学习领域发表了 450 多篇论文，其中包括 2017 年在 NIPS（现已更名为 NeurIPS）上发表的“最佳论文”。正是在那里，我与他进行了这次对话。他的研究和公司在现实世界中产生了广泛的影响，尤其因为他和他的团队不仅提出了新想法，还构建了系统来证明这些想法在现实世界中是有效的。这次对话是麻省理工学院人工智能课程和人工智能播客的一部分。如果您喜欢，请在 YouTube、iTunes 上订阅，或者在 Twitter 上与我联系，我的用户名是 Lex Friedman，拼写是 Fri D。现在，这是我和托马斯·桑特霍姆的对话。
您能否在高层次上描述一下扑克德州扑克单挑无限注德州扑克，为可能不熟悉这种纸牌游戏的人们？
是的，我很乐意。单挑无限注德州扑克在人工智能社区中已成为测试这些独立于应用的算法以解决不完美信息博弈的主要基准。这是一种人类实际玩的比赛，但出于明显的原因，您在电视或赌场中看不到太多。不过，您会在一些专家级别的赌场和有史以来最棒的扑克电影中看到它。它实际上是扑克世界系列赛中的一个项目，但主要是在线进行的，通常赌注很大。这通常只有专家才会玩的游戏。所以，如果您还记得周五晚上在家里的游戏，那可能不是单挑无限注德州扑克。在某些情况下，可能是无限注德州扑克，但通常是多人游戏，而且竞争性没那么强。
“单挑”意味着是两人游戏，所以真的就像是我对你，或者你对我，就像国际象棋或围棋一样。但它是一种不完美信息博弈，这使得它更加困难，因为我必须处理您知道我不知道的事情，而我知道您不知道的事情，而不是棋子整齐地摆放在棋盘上供我们双方查看。
在德州扑克中，您只看到自己的两张牌，对吧？
是的，是的。他们会逐渐发一些牌，总共是五张牌，所有人都看得到。信息的不完美性在于您手中的两张牌。所以，正如您所说，您首先私下拿到两张牌，然后进行一轮下注。然后，您会在公共区域看到三张牌在桌子上。然后是下注轮。然后您会在公共区域看到第四张牌在桌子上。然后是下注轮。然后您会在桌子上看到第五张牌。然后是下注轮。所以总共有四轮下注和四轮信息揭示，如果您愿意的话。只有第一轮是私密的，之后都是公开的。这可能是人工智能和普通大众中最受欢迎的不完美信息游戏。所以，这可能是最受欢迎的观赏性游戏，对吧？
这就是为什么这是一个非常令人兴奋的游戏。我会说，在人工智能领域，它在受欢迎程度上与国际象棋相当，它设定了智能的标杆。
那么，在 2017 年，Libratus，您怎么发音？Libratus？Libratus？Libratus 击败了四位顶尖人类玩家。您能描述一下那次活动，您从中吸取了什么教训，那是什么样的，总的来说，对于那些没有阅读过论文和研究的人来说，过程是怎样的？
那次活动是，我们邀请了当时排名前十的四位玩家。他们是单挑无限注德州扑克的专家玩家，这一点非常重要，因为这个游戏实际上与多人游戏有很大不同。我们将 Libratus 带到匹兹堡，在 Rivers 赌场玩了二十天。我们想打出 12 万手牌，因为我们想获得统计学上的显著性。即使对于这些顶尖职业玩家来说，他们通常玩得很快，这仍然是很多牌。所以我们不能只让他们中的一个人打那么多牌。他们基本上从早到晚都在玩，我们支付了他们 20 万美元作为一点激励。设置是这样的，他们每人没有拿到 5 万美元。我们实际上是根据他们对人工智能的表现来支付报酬的。所以他们有动力尽最大努力去玩，无论他们领先很多，落后很多，还是刚好能击败人工智能。
您不能赚钱，对吧？
不，我们不能赚钱。所以，几年前，我实际上曾探索过我们是否可以为钱而玩，因为与顶尖玩家为钱而玩当然也很有趣。但宾夕法尼亚州博彩委员会说不行。所以，所以我们不能。这更像是一场展览，就像音乐家或拳击手的展览一样。尽管如此，您还是在追踪金钱，而且我们似乎赢了近 200 万美元，我想。所以，如果当时是真钱，如果您能够赚钱，那将是一项非常令人印象深刻和鼓舞人心的成就。
能提供一些细节吗？玩家们在看什么？我是说，他们在电脑后面吗？界面是什么样的？
是的，他们玩的方式和他们平常一样。这些顶尖玩家玩这个游戏时，他们大多是在线玩的，所以他们习惯于通过用户界面玩。他们在这里也做了同样的事情。所以有一个布局，您可以想象屏幕上有一个桌子，人类坐在那里，然后人工智能也坐在那里。屏幕显示着发生的一切，牌发出来，下注正在进行。我们还为人类提供了下注历史记录，所以如果人类想回顾一下到目前为止的牌局发生了什么，他们实际上可以参考并等等。
他们被允许访问下注历史记录是有原因的吗？
我们只是……这真的无关紧要，因为他们不会忘记。这些人都是顶尖人才。但我们只是想把它摆在那里，这样就不是人类忘记的问题，人工智能试图从中获得优势。
那是什么样的？我是说，那是一项了不起的成就。那么，在活动之前，您感觉如何？您有怀疑吗？有希望吗？您的信心在哪里？
是的，很棒。这是个好问题。十八个月前，我组织了一场类似的“大脑对人工智能”竞赛，使用我们之前的人工智能 Libratus。我们没能击败人类。所以这次，仅仅十八个月后，我知道新的人工智能 Libratus 要强大得多。但在尝试之前，很难说它对阵顶尖人类的表现如何。所以我认为我们有大约 50/50 的机会。而国际博彩网站将我们列为四比一或五比一的劣势。所以，有趣的是，人们真的相信人类，并且对人工智能有过高的期望。人们不仅相信自己，而且还对其他人有过高的期望，与人工智能的表现相比。是的，我们以四比一或五比一的劣势击败了人类。在国际博彩网站上，我们仍然是 50/50。
您认为扑克有什么特别和神奇之处吗？在人们思考它的方式上？我是说，即使在国际象棋中，也没有好莱坞电影。扑克是许多电影的主角。有一种感觉，某些人类的面部表情、肢体语言、眼神交流，所有这些“读牌”都对扑克至关重要。您可以看透某人的灵魂，了解他们的下注策略等等。所以，这可能是为什么人们如此自信人类会表现更好，因为人工智能系统无法感知这些“读牌”，它们只关注下注模式和其他东西。下注模式和统计数据。
那么，对您来说更重要的是什么？如果您退一步看，人类玩家，人类对人类，这些“读牌”的作用，这些我们浪漫化的想法？
我把它分成两部分。一是为什么人类如此信任扑克，并且对人类有过高的期望？是的，我认为这与“读牌”问题无关。这只是因为他们见过这些顶尖玩家有多好，他们真的很棒。所以真的很难相信人工智能能击败他们。是的，我认为这源于此。而且，这可能是一个关于人工智能的更普遍的教训，直到您看到它超越人类的表现，否则很难相信它能做到。但是，这些顶尖玩家中的许多人非常擅长隐藏“读牌”，以至于在顶尖玩家之间，实际上不值得他们投入大量精力去寻找彼此的“读牌”，因为他们非常擅长隐藏它们。所以，是的，在周五晚上的游戏中，“读牌”将是至关重要的。您可以阅读其他人，如果您是一个好的读者，您会像翻开的书一样阅读他们。但在扑克的顶尖水平上，“读牌”变得越来越小的游戏方面。当您达到顶尖水平时，策略的数量，可能的操作数量非常大，超过 10 的 100 次方。所以一定有一些……我读过几篇相关的论文。它必须形成各种牌局和操作的一些抽象。
那么，对于扑克游戏来说，哪些抽象是有效的？
您说得完全正确。当您从一个 10 的 161 次方（甚至更多）的游戏树，尤其是在不完美信息游戏中，它太大了，无法直接解决，即使使用我们最快的算法。所以您想先进行抽象。在游戏中进行抽象比在 MDP 或其他单人环境中进行抽象要棘手得多，因为存在抽象病理学。如果我有一个更精细的抽象，我可以从中获得的策略对于真实游戏来说可能比我从粗粒度抽象中获得的策略要差。您必须非常小心。
关于抽象，我们谈论的是手牌抽象和下注策略。下注操作。信息抽象，谈论一般博弈论。信息抽象是关于机会所做的事情的抽象，在扑克的情况下就是牌。然后是行动抽象，这是对实际玩家所做行动的抽象，在扑克的情况下就是赌注。
您和别的玩家。对于信息抽象，我们是完全自动化的。这些是算法，但它们做的是我们称之为“潜在感知抽象”，我们不仅关注手牌的价值，还关注它如何随着时间的推移可能演变成好牌或坏牌。这是一种自下而上的过程，涉及整数规划、聚类和各种方面。您如何构建这个抽象？然后，在行动抽象方面，它在很大程度上基于人类和其他人工智能过去玩这个游戏的方式。但一开始，我们实际上使用了自动化的行动抽象技术，这是可证明收敛的，它能找到最佳的下注金额组合。但它扩展性不好，所以我们不能将其用于整个游戏。但我们将其用于最初的几次下注。
那么，什么更重要？手牌的强度，信息抽象，还是如何打牌，行动？您知道，浪漫化的观念再次出现，手牌如何并不重要，下注，也许是您获胜的方式，无论您有什么手牌？
这就是为什么您必须打很多牌，这样运气的作用就会减小。否则，您可能会运气好拿到一些好牌，然后您就会赢得比赛。即使打成千上万手牌，您也可能运气好，因为无限注德州扑克中存在如此多的变数。因为如果我们都梭哈，那将是巨大的筹码波动。所以在无限注德州扑克中存在巨大的波动。这就是为什么您不仅要打数千手牌，还要打超过 10 万手牌才能获得统计学上的显著性。
我换个方式问这个问题。如果您甚至不看自己的手牌，而您的对手不知道，您能做得多好？
这是个好问题。实际上，我听说过一个故事，一位名叫维多利亚·克鲁格（Victoria Coren）的挪威女扑克玩家，她实际上赢得了一场比赛，就是这样做的。但那将是极其罕见的。所以，我真的不能……手牌确实起着一定的作用。
哦，是的。据我所知，Libratus 没有使用深度学习方法。学习在其中有空间吗？
嗯，Libratus 没有理由不……您知道，结合像 AlphaGo 那样的估值函数的方法。您对这个有什么看法？也许与另一种我不太熟悉的算法 DeepStack 相比，DeepStack 是一个使用深度学习的引擎，它表现如何尚不清楚，但它确实使用了深度学习。您对学习方法在 Libratus 玩扑克的方式中的作用有什么看法？
正如您所说，Libratus 没有使用学习方法，并且在没有它们的情况下表现得很好。从那时起，我们实际上……这里有几篇关于使用学习技术的论文，特别是深度学习。就像您所说的那样，它学习评估函数。但在不完美信息游戏中，与围棋或现在也与国际象棋和将棋不同，仅仅学习一个状态的评估是不够的，因为信息集的值不仅取决于确切的状态，还取决于双方玩家的信念。例如，如果我有一手坏牌，如果对手认为我有一手好牌，那对我来说要好得多，反之亦然。如果我有一手好牌，如果对手认为我有一手坏牌，那对我来说要好得多。所以，一个状态的价值不仅仅是牌的函数，它还取决于，如果您愿意的话，是比赛的路径，但仅限于它被包含在信念分布中的程度。所以，这就是为什么它不像在不完美信息游戏中那么简单。我还会说，在不完美信息游戏中，它当然在计算上也极其复杂，但至少在概念上，它非常直接。有一个状态，有一个评估函数，您可以尝试学习它。在这里，您必须做更多的事情。在我们的一篇论文中，我们正在研究允许对手在搜索树的叶节点采取不同策略，如果您愿意的话。这是一种不同的方法，它不假设对手的特定玩法，而是允许对手从一组不同的后续策略中选择。这迫使我们不要在局部前瞻搜索中过于乐观。这就是在不完美信息游戏中进行合理前瞻搜索的一种方式，这非常困难。
您刚才问到 DeepStack，他们所做的与 Libratus 或这项新工作所做的非常不同。他们生成了各种游戏场景，然后他们从那里进行前瞻搜索直到游戏结束，就好像那是另一场游戏的开始一样。然后他们使用深度学习来学习那些状态的价值。但这些状态不仅仅是物理状态，它们还包括信念分布。
当您谈论 DeepStack 或 Libratus 的前瞻搜索时，这是否意味着要考虑游戏可能涉及的每一种可能性？我们谈论的是极其……就像树的指数级增长？
是的，我们谈论的就是这个。就像您在 Alpha-Beta 搜索或 Minimax 搜索中所做的那样，但使用了不同的技术。有一个不同的搜索算法，然后我们必须以不同的方式处理叶节点。所以，如果您考虑 Libratus 所做的，我们不必担心这个问题，因为我们只在游戏结束时进行。所以我们总是会终止于一个真实的情况，我们会知道支付是多少。它没有进行深度有限的前瞻搜索。但在我们现在这篇新论文中，我认为它叫做“不完美信息游戏的深度有限搜索”，我们可以进行合理深度有限的前瞻搜索。所以我们可以从游戏一开始就进行前瞻搜索，因为对于整个漫长的游戏来说，这太复杂了。所以在 Libratus 中，我们只在最后进行。
然后是另一边，信念分布。您是否明确地模拟了对手可能拥有的信念类型？
是的，是的，它被明确地模拟了。但当然，信念不是输入，而是输出。起始信念是输入，但它们只是从游戏规则中得出的，因为我们知道发牌员是从牌堆中均匀发牌的。所以我知道您可能拥有的任何一副牌都是同样可能的。我确实知道这一点，这是从规则中得出的。当然，除了我拥有的两张牌，我知道您没有那些牌。是的，您必须考虑到这一点。这叫做牌移除，这非常重要。
在单挑游戏中，发牌总是来自一副牌吗？所以您可以假设是单副牌？
是的。所以，如果我有黑桃 A，我知道您没有黑桃 A。
那么，一开始，您的信念基本上是公平发牌的事实。但您如何开始调整这种信念呢？
这就是博弈论的美妙之处。纳什均衡，约翰·纳什在 1950 年引入，它定义了多人游戏中的理性玩法。这些是策略对，策略是每个玩家的应急计划。在其他玩家不偏离的情况下，任何一个玩家都不想偏离到不同的策略。但作为副产品，您会从贝叶斯定理中获得信念。所以，纳什均衡不仅仅是推导。在这些不完美信息游戏中，纳什均衡不仅定义了策略，还为我们双方定义了信念，也为每个状态定义了信念。所以，在每个状态，在每个信息集，游戏中都有一个信息集。我们可能处于一组不同的状态，但我不知道我们处于哪一个。纳什均衡精确地告诉我，在我心中，关于那些真实世界状态的概率分布是什么。
纳什均衡如何为您提供该分布？
我举个简单的例子。您知道石头剪刀布游戏。所以我们可以将其绘制为玩家 1 先走，然后玩家 2 走。但当然，重要的是玩家 2 不知道玩家 1 走了什么，否则玩家 2 每次都会赢。我们可以将其绘制为信息集，其中玩家 1 首先做出三个选择之一，然后是玩家 2 的信息集。所以玩家 2 不知道世界是哪个节点。但一旦我们知道玩家 1 的策略，纳什均衡就会说，您玩 1/3 石头，1/3 剪刀，1/3 布。从那里，我可以推导出我对信息集的信念，即它想要 1/3，想要它……所以贝叶斯为您提供了基础。
但这是否特定于某个玩家，还是有什么东西可以快速更新？
博弈论实际上不是玩家特定的。这也是为什么我们不需要任何数据，我们不需要任何历史记录，这些特定的人类过去是如何玩的，或者任何人工智能，甚至之前玩过的。这完全是关于理性的。所以我们只是认为人工智能只是在思考一个理性的对手会做什么，如果我是理性的，我会做什么。这就是博弈论的想法。所以它确实是一种数据免费、对手免费的方法。
它来自游戏的规则设计，而不是玩家的设计？
确切地说。没有对手建模本身。我是说，我们在这方面做了一些工作，将对手建模与博弈论结合起来。所以您甚至可以利用弱玩家。但那是另一条线索。在 Libratus 中，我们没有开启它，因为我决定这些玩家太好了。当您开始利用对手时，您通常会暴露自己以被利用。而这些人有如此少的漏洞可以利用，而且他们是世界领先的反利用专家。所以我决定我们不会开启这些东西。
实际上，我看到了一些关于利用对手的论文，听起来很有趣。您认为除了 Libratus 之外，普遍存在利用的空间吗？是否存在可以利用的主题或人际差异，不仅仅是在扑克中，而是在一般互动、谈判，所有这些您正在考虑的其他领域？
我绝对认为有。我们在这方面做了一些工作，我真的很喜欢将两者结合起来。所以您会弄清楚一个理性的对手会做什么。而且，在这些零和游戏中，这是安全的，因为如果对手做了不理性的事情，它可能会扰乱我的信念，但对手通过扰乱我的信念而获得的收益总是少于他们因打得差而损失的。所以，它是安全的。但是，如果某人是一个弱玩家，您可能想以不同的方式玩以更多地利用他们。所以您可以这样想：博弈论策略是不可战胜的，但它并没有最大限度地击败对手。所以每手牌的收益可能会用不同的策略更好。而混合策略是，您从博弈论方法开始，然后随着您从对手那里获得关于游戏树某些部分的数据，在那些游戏树的部分，您开始更多地调整您的策略以进行利用，同时仍然非常接近博弈论策略，以免过度暴露自己。
您是如何做到的？您是否尝试使策略多样化，使其难以预测？这就像囚徒困境中的“以牙还牙”策略？
嗯，那是一个重复博弈类的囚徒困境。但即使在那里，也没有证明说这是最好的。但实验证明它确实表现良好。
那么，首先，有哪些类型的游戏？我不知道这是否是您可以简单总结的内容。有完美信息游戏，所有信息都在桌面上。有不完美信息游戏。有重复博弈，反复进行。有零和博弈。有非零和博弈。然后有一个非常重要的区别，您正在区分两人游戏与多人游戏。那么，还有哪些其他游戏？两人游戏与多人游戏的区别是什么？
好的，让我从基础开始。重复博弈是一种游戏，其中相同的游戏反复进行。在扩展形式博弈中，想象一下带有信息集来表示不完整信息的树形图。您可以进行重复的互动。重复博弈本身就是这种情况的一种特殊情况。但如果游戏不一定完全相同，例如，我们每年都看到相同的供应基础，但我购买的东西每次都略有不同，供应基础也略有不同，等等。所以它不是真正的重复。所以找到纯粹的重复博弈实际上在世界上非常罕见。所以它们实际上是对正在发生的事情的一种非常粗略的模型。
然后，如果您从重复的简单重复矩阵博弈开始，而不是一直到扩展形式博弈，而是在两者之间，有随机博弈。想象一下，就像这些小矩阵博弈。当您采取行动，您的对手采取行动时，它们决定了不是我将进入的下一个状态或下一场比赛，而是我可能进入的下一场比赛的分布。所以，这就是随机博弈。但它就像矩阵博弈、重复的随机博弈、扩展形式博弈，从最少到最多的一般性。扑克就是最后一个例子。所以它实际上是最一般的情况，扩展形式博弈。这就是人工智能社区一直在研究的，并以此为基准，通过这个单挑无限注德州扑克。
您能描述一下扩展形式博弈吗？这里的模式是什么？
是的，如果您想象一下树形图。所以它实际上是像国际象棋中的树形图，有一个搜索树，而不是矩阵。矩阵。而矩阵被称为矩阵形式或普通形式博弈。而这里是树形图。所以您实际上可以进行某些类型的推理，当您转到普通形式时，您会丢失信息。存在一种等价形式，例如，如果您从树形图开始，并说每个可能的应急计划都是策略，那么我实际上可以回到普通形式，但我会丢失一些信息，因为缺乏顺序性。
多人与两人游戏区别也很重要。两人游戏在零和游戏中概念上更容易，计算上也更容易。它们仍然很大，就像这个一样，但它们概念上更容易，计算上也更容易。概念上，您不必担心对手会玩哪个均衡，当有多个时。因为任何均衡策略都是对任何其他均衡策略的最佳回应。所以我可以玩一个与您不同的均衡，我们仍然会得到正确的游戏价值。即使是两人游戏，当您拥有一般和博弈时，即使没有合作，即使没有合作，这种情况也会发生。所以从两人零和游戏到两人一般和博弈，甚至到三人零和游戏，存在一个巨大的差距。至少在理论上是这样。
您能否提供一些直观的解释，为什么当有三名或更多玩家时，一切都会崩溃？您认为仍然可以有一个有指导意义的纳什均衡？
是的，这是真的，所有有限博弈都有纳什均衡。这是纳什实际上证明的。所以它们确实有纳什均衡，这不是问题。问题是可能有很多。然后就有一个选择哪个均衡的问题。如果您从一个不同的均衡中选择您的策略，而我从我的均衡中选择我的策略，那么这意味着什么？在这些非零和博弈中，我们可能会因为仅仅愚蠢而失去一些联合收益，如果我们做别的事情，我们可能会都变得更好。是的，在三人游戏中也会出现其他问题，例如串通。也许您和我可以联合起来对付第三个人，通过串通我们可以做得更好。所以会出现很多问题。
所以，Libratus 的研究人员提到，我看了 AMA，读了它。他提到扑克玩家合作的能力将使游戏……他被问到这个问题，如何让扑克游戏超越当前人工智能方法的解决能力？他说，让扑克变得更难的方法不多，但玩家之间的合作或协作将使其极其困难。您能解释一下为什么会这样吗？您是否同意这个观点？
是的，我们在这方面做了很多工作，关于合作博弈。我们实际上有一篇论文，与我的另一位学生卡佩拉·法里纳和其他一些合作者一起，在 NeurIPS 上发表。我们刚刚从海报展示回来，我们在那里进行了演示。当您有串通时，这是一个不同的问题。它通常会变得更难。甚至一些游戏表示法也不允许串通计算。所以我们实际上引入了一种新的游戏表示法，用于这种合作部分。模型是……您是否……您是否知道其他玩家正在合作的信息，还是只是这种混乱，什么都不知道？
您能举一个串通类型游戏的例子吗？或者您选择了一个……
想想桥牌。就像您和我组成一个团队一样。我们的报酬是相同的。问题是我们不能说话。所以，当我拿到我的牌时，我不能悄悄告诉您我的牌是什么。那是不允许的。所以我们必须提前以某种方式协调我们的策略，而且只能提前。然后有一些信号我们可以谈论，但它们必须是其他团队也能理解的。所以，这是一个例子，协调已经内置到游戏规则中。但在许多其他情况下，例如拍卖、谈判或外交关系，扑克，它并没有真正内置。但它仍然对串通者非常有帮助。
我读过您在谈判中的一些说法，您带着先前的……策略来到谈判桌，您愿意做什么，不愿意做什么，诸如此类的事情。那么，您如何开始……现在，我们正在远离扑克，超越扑克，进入其他应用，例如谈判。您如何开始将其应用于其他领域，以及您已经从事过的其他现实世界领域？
我实际上有两家创业公司在做这件事。一家叫做 Strategic Machine，用于构建各种应用，游戏、体育等等。任何将这些应用于商业、体育和游戏，以及金融、电力市场等各种事物。另一家叫做 Strategy Robot，我们将它应用于军事、网络安全和情报应用。
您是否在广告方面做了一些工作，就是那种……建议广告之类的？
拍卖。那是另一个组成部分。优化市场。优化。但这更多的是关于组合市场和基于优化的技术，而不是使用这些博弈论推理技术。我认为。
那么，您在高层次上如何看待我们使用博弈论概念来模拟人类行为的能力？您认为……您认为人类行为是否适合这种建模？所以，在扑克游戏之外，您在哪里看到它在您的工作中成功地完成了？
我不确定目标是否真的是模拟人类。例如，如果我玩零和博弈，我真的不在乎对手是否遵循我的理性行为模型，因为如果他们不遵循，对我来说就更好了。所以，您看到了，在博弈论中，对手的先决条件是您已经以某种可分析的方式形式化了互动。您进行了惊人的机制设计工作，设计具有特定结果的游戏。所以，我将举一个我自己的领域，自动驾驶汽车的例子。我们正在研究行人与汽车之间的非语言交流谈判。存在一种奇怪的、紧张的舞蹈，行人基本上说“我相信你不会杀死我”，所以作为一个闯红灯的人，我会走到马路上，即使我违反了法律。存在这种紧张关系。问题是，我们真的不知道如何很好地模拟它，在尝试模拟意图时。所以人们有时会提出博弈论等想法。您认为人类行为的这个方面可以使用这些不完美信息方法来建模吗？当我们甚至不知道如何设计游戏来描述这种情况时，我们如何开始解决这样的问题？
好吧，我还没有真正考虑过闯红灯。但我想自动驾驶汽车的一个很好的应用可能是以下情况：假设您有由不同公司运营的车队自动驾驶汽车。所以，也许这里是 Waymo 车队，这里是 Uber 车队。如果您考虑道路规则，它们定义了一些小的规则，但这仍然留下了一个巨大的策略空间。举个简单的例子，当汽车合并时，您知道如何合并。您知道它们会减速并互相观察，然后尝试合并。难道不应该提前预先协商所有这些情况，这样我们就可以全速合并，并且我们知道这是情况，我们就是这样做的，而且一切都会更快？但手动协商的情况太多了。所以您可以使用自动协商。至少这是想法。您可以使用自动协商来提前协商所有这些情况，或者许多情况。当然，可能会是这样的：嘿，也许您不会总是让我先走。也许您会说，“好吧，在这些情况下，我会让您先走，但作为交换，您将给我……您将在这种情况下让我先走的程度。”是的，这是一项巨大的组合谈判。
您认为在合并的例子中，是否有空间将整个情况建模为不完美信息博弈，还是您真的想将其视为完美信息博弈？
这是一个好问题。是的，这是一个好问题。我付出了代价，假设您不知道一切。我不知道。当然，完美信息博弈更容易。所以，如果您能做到，您就应该这样做。但如果真实情况是不完美信息，那么您就必须处理不完美信息。
那么，您从年度计算机扑克比赛中学到了什么？这是一项了不起的人工智能成就。您看看人工智能的历史，像深蓝、围棋这样的里程碑事件，当工程和科学的努力结合起来击败了顶尖人类玩家时。那么，您从整个经历中得到了什么？您从设计能够玩这类游戏的系统中学到了什么？这对人工智能的未来发展意味着什么？
这是一个好问题。有很多话要说。我确实喜欢这种面向性能的研究，尽管在我的团队中，我们从想法到理论到实验再到大型系统部署和商业化。我们覆盖了整个范围。但我认为，在很多情况下，人工智能确实必须构建大型系统并在规模上进行评估，然后您才知道什么有效，什么无效。我们在计算博弈论社区已经看到，许多在小范围内看起来不错的技术，在大范围内就不再那么好了。我们也看到，许多技术在理论上看起来更优越，我真的指的是收敛速度，更好的……例如，一阶方法，更好的收敛速度，像基于 CFR 的算法。是的，基于 CFR 的算法实际上是最快的。所以这真的告诉我，您必须在现实中进行测试。理论不够严谨，如果您愿意的话，无法告诉您哪些算法更好。您必须在大范围内看待这些事情，因为任何从小的规模进行的预测，至少在这个领域，都可能非常具有误导性。所以，这有点像是从科学和工程的角度。从个人的角度来看，这真是一次疯狂的经历。第一次扑克比赛，第一次……第一次“大脑对人工智能”人机扑克比赛，我们组织的。顺便说一句，还有其他四场扑克比赛。之前有过比赛，但这是单挑无限注。这是第一次。而且我可能成为了扑克界最令人讨厌的人。我不是故意的。我……我破解了游戏。是的，很多人觉得这对整个游戏，对游戏的整个存在都是一种真正的威胁。如果人工智能比人类更好，人们会害怕玩扑克，因为有超人类的人工智能在四处掠夺他们的钱，您知道，所有这些。所以，所以它真的……评论非常激烈。我收到了……除了死亡威胁之外，我收到了一切。
您认为国际象棋也是如此吗？因为现在他们刚刚完成了世界冠军赛。人类已经开始忽略人工智能系统现在比人类表现更好这一事实。他们仍然享受这项运动，它仍然是一项美丽的运动。我认为是这样。而且我认为扑克也是如此。所以，我没有把自己看作是会毁掉这项运动的人，我也不认为我做到了。我真的学会了热爱这项运动。我以前不是扑克玩家，但从这些人工智能那里学到了很多新的东西。它们确实改变了这项运动的玩法。顺便说一句，它们有非常……非常规的扑克玩法，顶尖人类现在正在将这些策略融入他们自己的玩法中。所以，对我来说，我们的工作反而让扑克成为一项更丰富、更有趣的比赛，供人类玩，而不是会让他们完全远离它。
只是对您说的一句话做一个快速评论，如果我没记错的话，在学术界，这有时是相当罕见的。将您的想法付诸实践，就像您描述的那样，说有时好想法在规模应用时并不奏效，这需要很大的勇气。那么，这源于什么呢？我是说，如果您能给人们一些建议，是什么驱动着您？您一直都是这样吗？我是说，这需要一个勇敢的人，我想说的是，去测试他们的想法，看看它是否真的能对抗顶尖人类玩家等等。
我不知道是否勇敢，但这需要大量的工作。需要大量的时间来组织，来做一些大事，来组织一场活动等等。是什么驱动着您在这方面付出努力？因为我敢说，即使没有这样做，您也可以在 2017 年获得 NIPS 的最佳论文奖。是的。所以，总的来说，我相信在现实世界中，在规模上做事情非常重要。而这，如果您愿意的话，才是真正的……“证据在布丁里”，它就在那里。在这个特定的案例中，多年来，不同团体之间一直存在一场竞争，看谁能第一个击败单挑无限注德州扑克中的顶尖人类玩家。所以，它变成了一种……一种竞争，谁能到达那里。是的，一点点友好的竞争可以带来奇迹般的进步。
是的。那么，机制设计这个话题，它也很有趣。对我来说，除了作为观察者之外，我不太了解。我不知道政治。我是一个机制的观察者。但您在您的论文“自动化机制设计”中写道，我快速阅读了一下。机制设计是设计游戏规则，以便您获得某种期望的结果。您在这方面的工作是自动进行的，而不是微调。那么，您从这些努力中学到了什么？如果您看看……例如，我们的政治体系。我们能否以自动化的方式设计我们的政治体系，以获得我们想要的结果？我们能否设计出像交通信号灯那样智能的系统，以获得我们想要的结果？那么，您从这项工作中吸取了哪些教训？
我仍然非常相信自动化机制设计方向。是的。但它并非万能药。机制设计中有不可能结果的证明，表明没有机制可以实现目标 X 在 C 类中。所以，所以……您无法通过任何机制设计工具，手动或自动，来完成某些事情。在机制设计中，您无法再次描述它。所以，意思是，不可能实现。是的。是的。所以，这些不是关于人类创造力的陈述，他们可能会想出一些聪明的东西。这些是证明，如果您想在 C 类中实现属性 X，那么任何机制都无法实现。好消息是，自动化机制设计，我们并不是真的为某个类别设计，我们是为特定的设置设计。所以，即使对于整个类别存在不可能结果，它也并不意味着类别中的所有情况都是不可能的。它只是意味着有些情况是不可能的。所以我们实际上可以在这些已知的不可能类别中开辟可能性的小岛。我们实际上已经这样做了。
所以，机制设计中的一个著名结果是迈尔森-萨特斯韦特定理，关于罗杰·迈尔森和马克·萨特斯韦特在 1983 年的论文，它是不完美信息下有效交易的不可能性。我们表明，在许多情况下，您可以避免这种情况，并且仍然获得有效的交易，具体取决于他们如何设计游戏。所以，取决于您如何设计游戏。当然，这并不以任何方式……与不可能结果或不可能结果相矛盾。它们仍然存在。但它只是在不可能的类别中找到了那些点，在那些点上，您没有……可能性。抱歉，如果我有点哲学化了。但您从中吸取了哪些教训，我提到了政治或人际互动，以及为交易、拍卖或纯粹形式化游戏之外的设计机制，人类互动，例如政治体系。您认为它如何适用于……是的，政治或商业，谈判，这些类型的。设计具有特定结果的规则。是的。是的。
我认为是的。您见过成功吗？成功地完成了？是的。哦，您的意思是机制设计，还是自动化机制设计？所以，机制设计本身到目前为止的成功相当有限。有一些案例，但大多数现实世界的情况实际上并非……从机制设计的角度来看。即使在那些由非常有知识的机制设计人员设计的案例中，人们通常也只是从理论中获得一些见解，并将这些见解应用于现实世界，而不是直接应用机制。一个著名的例子是 FCC 的频谱拍卖。我在这方面也起了一点作用。非常好的经济学家一直在研究这个问题，但实际设计的规则是……通常，诚实竞标不是最佳策略。机制设计，我们试图让参与者更容易。所以，诚实是最佳策略。但即使在那些非常高风险的拍卖中，您有数十亿美元的频谱被拍卖，诚实竞标也不是最佳策略。顺便说一句，即使是那些高风险拍卖，也没有人知道一个最优的竞标策略。
那么，制定最优策略的挑战是什么？因为有很多玩家，有很多玩家，但有很多待售物品。而这些机制是这样的，即使只有两件商品或一件商品，如果您竞标诚实，那也不是最佳策略。如果您查看人工智能的历史，它以里程碑式的事件为标志，AlphaGo 成为围棋世界冠军。我会将 Libratus 赢得单挑无限注德州扑克视为这样一个事件。谢谢。那么，您认为下一个这样的事件是什么？无论是您个人生活中的，还是更广泛的人工智能社区中的。
我认为可能存在一些会震惊世界的东西，所以这是一个很好的问题，我真的不知道答案。就游戏求解而言，单挑无限德州扑克确实是唯一一个被广泛认可的剩余基准。所以那是一个重要的里程碑。现在还有其他事情吗？是的，当然有，但目前还没有一个社区普遍关注的。那么还有什么呢？有一些团队在研究《星际争霸》，有一些团队在研究《Dota2》，这些都是视频游戏。是的，或者你可能有像《外交》或《花火》这样的游戏，你知道，诸如此类，这些都是休闲游戏，但它们都没有真正被公认为下一个主要的挑战问题，就像国际象棋、围棋或单挑无限德州扑克那样。所以我真的不知道在游戏求解领域，下一个基准是什么或将会是什么。我有点希望会有下一个基准，因为确实，不同团队在同一个问题上的努力，在短短十多年里，真正推动了这些与应用无关的技术的发展。
你认为有没有什么开放性问题让你兴奋，让你开始从游戏转向现实世界的游戏，比如股票市场交易？是的，我就是这样的人，所以我可能不会在这些休闲基准上投入太多精力。我正在做两家关于游戏求解技术的初创公司，一家是“战略机器”，一家是“战略机器人”，我们非常希望能将这些东西付诸实践。你认为什么样的强大成果会令人惊讶？如果能说，我是说，在未来五到十年内，从统计学上讲不太可能发生的事情，但如果有一个突破，会实现什么？是的，所以我认为总体而言，我们在博弈论方面所处的境况与在机器学习方面所处的境况大不相同。是的，在机器学习中，它是一项相当成熟的技术，在现实世界中得到了广泛应用并取得了成功。在游戏求解中，几乎还没有任何应用。我们刚刚变得超人，而机器学习可以说是在90年代，甚至更早的时候就发生了，至少在某些复杂的监督学习应用中。现在，我认为下一个挑战问题，我知道你不是在问这个，你是在问技术突破，但我认为最大的突破是能够展示，嘿，也许大部分的，比如说军事规划，或者大部分的商业策略，实际上将通过计算博弈论来战略性地完成。那是我希望在未来五到十年内看到的目标。
也许你可以再向我解释一下，如果这是一个显而易见的问题请原谅，但你知道机器学习方法，神经网络，它们存在不透明、不可解释的问题。博弈论方法，比如纳什均衡，当你看不同的解决方案时，它们通常是可解释的吗？当你谈论军事行动时，一旦你看到这些策略，它们是否合理，是否可解释？或者它们是否也存在与神经网络相同的问题？这是一个好问题。我会说有点是，也有点不是。我的意思是，这些博弈论策略，比如说纳什均衡，它具有可证明的性质。所以它不像深度学习，你有点像交叉手指希望它能奏效，然后事后当你有了权重，你仍然交叉手指希望它能奏效。在这里，你知道解决方案的质量是存在的，这是可证明的，或者说有质量保证。但这并不一定意味着这些策略是人类可以理解的，那是另一个完全不同的问题。所以，我认为深度学习和计算博弈论在这方面处于同一条船上，两者都难以理解，但至少博弈论技术具有这种质量保证。
那么，你是否认为未来的企业运营，或者甚至军事行动，至少会有强大的候选方案是由自动化系统提出的？你看到了吗？是的，我看到了，我看到了，但这更多是一种信念，而不是一个有充分证据的事实，这取决于你站在乐观还是悲观的一边。对我来说，这是一种解脱，这是一个令人兴奋的未来，特别是如果它们在最优性方面是可证明的。所以展望未来，有一些人担心，特别是当你看看扑克游戏，它可能是游戏求解方面的最后一个基准之一，他们担心未来以及人工智能的生存威胁。那么，人工智能对社会造成的任何形式的负面影响，这是否也让你同样担忧？你是否更乐观地看待人工智能的积极影响？哦，我对积极影响要乐观得多。就我自己的工作而言，我们迄今所做的，我们运行了全国性的肾脏交换系统，今天有数百人还活着，否则他们就不会活着了。而且它增加了就业。你现在有很多从事肾脏交换工作的人，在移植中心与肾脏交换系统互动，你有额外的外科医生、护士、麻醉师、医院，所有这些。所以，就业因此而增加，世界正在变得更美好。另一个例子是组合采购拍卖。在我的一个名为“Combine It”的早期初创公司中，我们从2001年到2010年进行了800次大规模组合采购拍卖，我们将600亿美元支出的供应链效率提高了12.6%。所以这在全球范围内带来了超过60亿美元的效率提升。这就像是将价值从一个人转移到另一个人，只是效率的提升，比如在卡车运输中减少空载行驶，从而减少浪费，减少碳足迹等等。这在短期内产生了巨大的积极影响。
但为了更深入地探讨一下，因为我认为博弈论在这里可以发挥作用。好吧，让我回过头来告诉你，我认为亚洲也将使世界变得更加安全，所以，这是一个经常被忽视的方面。好吧，让我问这个问题，也许你可以谈谈“更安全”这个话题。我曾与马克斯·泰格马克和斯图尔特·罗素交谈过，他们非常担心人工智能的简历，是的，通常的担忧是关于价值观错位，即人工智能系统基本上是朝着与人类文明、人类不一致的目标运作。所以，博弈论似乎可以在这里发挥作用，以确保价值观与人类保持一致。我不知道你是否这样认为，如果不是，你认为人工智能如何帮助解决这个问题？你认为人工智能如何使世界更安全？是的，我认为这种价值观错位是一个相当理论化的担忧，我从未真正在实践中看到过它，因为我做了很多实际应用，我从未在任何地方看到过它。我最接近看到它的是以下这种思维练习，在80年代末，当我们构建这些交通优化系统时，有人听说高资产利用率是个好主意，所以他们告诉我，嘿，为什么不把这个作为目标呢？我们甚至没有把它作为目标，因为我只是向他展示了，你知道，如果那成为你的目标，解决方案将是把你的卡车装满，然后绕圈行驶，什么都不会被运送，你会有一百的利用率。所以，是的，我知道这种现象，我了解它已经超过30年了，但我从未见过它在现实中真正成为一个问题。是的，如果你有错误的目标，人工智能会将其优化到极致，而且它会比一些试图以半生不熟的方式，带着一些人类洞察力的人做得更好，但我只是没有看到它在实践中实现。你刚才非常清楚地指出了理论与现实之间的这种差距，这很难用语言表达。我认为这是你理论上可以想象的最坏情况，甚至，是的，我是说坏情况，以及现实中通常发生的情况。
所以，对我来说，也许你可以评论一下，我是在苏联长大的，你知道，目前世界上有10,000枚核武器，几十年来，从理论上讲，核战争没有爆发，这让我感到惊讶。你通常从博弈论的角度思考这个问题吗？为什么会这样？为什么理论上你可以看到事情会变得非常糟糕，但不知何故它们却没有？是的，你是怎么想的？所以，我确实经常思考这个问题。我认为人类面临的两个最大威胁，一个是气候变化，另一个是核战争。所以，这些是我主要担心的两个问题。我曾尝试为气候做些事情。我实际上曾两次考虑为气候变化做些事情，在我两家初创公司之前，我们曾委托研究过我们可以在这些方面做些什么，但我们没有真正找到一个最佳切入点。但我仍然在关注，如果有什么我们可以提供市场解决方案、优化解决方案或其他技术解决方案来解决目前的问题，比如，我们当时关注的是污染信用市场，而那些市场不成功更多是因为缺乏政治意愿，而不是糟糕的市场设计。所以我可以进去做一个更好的市场设计，但如果没有政治意愿，那对世界的影响不会很大。在美国，你知道，至少芝加哥市场已经被关闭了，等等。所以，它并没有真正帮助创建你的市场设计。核方面呢？全球变暖是一个更具侵蚀性的问题，你知道核武器一直都在那里，这是一个显而易见的问题，它一直存在。那么，你如何看待那里的机制设计，它让一切看起来都很稳定？你仍然非常担心吗？我仍然非常担心。所以你可能知道MAD的简单博弈论，也就是“相互保证毁灭”，它不需要任何计算，用小矩阵你就可以说服自己，这个游戏是这样的，没有人愿意发起。是的，那是一个非常粗略的分析，它确实适用于你有两个超级大国或少数超级大国的情况。现在情况非常不同，你有更小的核武器，所以发起核战争的门槛更低，而且你有更小的国家和非国家行为者制造核武器等等。所以，我认为现在比以往任何时候都更危险。
你已经稍微谈到了一些想法和应用，但现在对你来说最令人兴奋的是什么？我是说，你现在在NIPS Europe，你有一些出色的工作，但你正在做的几家公司，你对未来有什么想法？最令人兴奋的事情，或者其中之一是什么？对我来说，现在最重要的事情是提出这些可扩展的游戏求解技术，并将其应用于现实世界。我们仍然对市场设计非常感兴趣，我们正在优化市场中进行这项工作。但我最感兴趣的是，如果现在最重要的是战略机器和战略机器人，将这项技术推广出去，并像你一样在实际应用中，看到真正需要填补什么，还需要填补哪些技术空白。所以，仅仅坐在那里想象需要做什么是非常困难的，但当你真正做实际应用时，应用会告诉你需要做什么，我非常享受这种互动。
将你正在研究的一些最先进的技术应用于工业界、军方或那些真正能从中受益的人，并让他们实际使用，这是一个具有挑战性的过程吗？这个过程是怎样的？你知道，在自动驾驶汽车领域，我们将与汽车公司合作，他们在很多方面有点老派，这很困难。他们确实想使用这项技术，这显然会带来巨大的好处，但他们的系统还没有完全到位，无法轻易地在数据、计算以及所有这些方面进行集成。那么，这是你面临的更大挑战之一吗？你如何应对这个挑战？是的，我认为这始终是一个挑战，那就是缓慢和惯性，真的，就是“让我们按照我们一直以来的方式做事”。你只需要找到客户内部的拥护者，他们明白，嘿，未来事情不能再这样下去了，否则会发生不好的事情。在大多数车辆中，汽车制造商正在这样做，这实际上非常有趣，他们非常传统，但与此同时，像谷歌和百度这样与汽车或交通无关的科技公司，正在大力推动自动驾驶汽车。我觉得这很吸引人。显然，你对这些想法在世界上产生影响感到非常兴奋，无论是技术方面，还是思想和研究方向方面，你是否也对一些你谈到的不完全信息博弈的方法，或者将深度学习应用于这些问题中的一些，在研究方面有什么让你兴奋的地方？
是的，是的，在游戏求解中有很多不同的事情。所以，求解更大的游戏，游戏中你的行动会有更多的隐藏动作，扑克就是这样一种游戏，其中机会行动是隐藏的，或者其中一些是隐藏的，但玩家的行动是公开的。各种多人游戏，串通、对手利用，所有这些，甚至更长的游戏，有些游戏基本上是无限期的，但它们不是重复的。所以，寻找无限期的扩展形式游戏，哇，那会是什么样子？你如何表示它？你如何解决它？有没有这样的游戏例子？或者这是随机游戏中的一些？想象一下，比如说商业策略，所以它不仅仅是模拟特定的互动，而是从现在到永远地思考业务，或者我认为，或者，比如说军事策略，所以战争不会消失，你如何思考将永远持续下去的军事策略？你甚至如何建模？你如何知道某人所做的一个举动是否好？等等。所以，那是一个方向。我还对学习更具可扩展性的整数规划技术非常感兴趣。所以，今年夏天我们有一篇不错的电子邮件论文，是关于第一个具有理论泛化保证的自动化算法配置论文。所以，如果我看到这么多训练示例，并且我以这种方式告诉我的算法，它将在我未曾见过的真实分布上表现良好。所以，这有点有趣，你知道算法配置现在已经进行了至少17年了，但之前没有任何泛化理论。
嗯，这真的很令人兴奋，能和你交谈是我的巨大荣幸。非常感谢你，感谢你将利瓦达斯带到这个世界，以及你所做的所有伟大工作。嗯，非常感谢，很有趣，很好的问题。