Transcription
他们只是设置好人工智能就走开吗？如果他们这样做，他们会损失很多钱。
>> 公司为个人生产力优化人工智能，但这真的是正确的方法吗？亚历克斯·桑迪·彭特兰是麻省理工学院和斯坦福大学的教授，他在集体智能和信任方面的研究获得了超过 165,000 次引用。
在某些方面，人工智能永远不会像人类那样聪明。人工智能是基于回顾性数据进行训练的。所以它无法真正知道未来会发生什么。所以当它说“这里有一个答案”时，它只是基于过去。正如我们都知道的，过去的表现并不能证明未来的答案。这是一件事。
另一件事是它们不具备情境敏感性。就像我们生活在这个世界里，我们看到人们对事物的感受，你知道所有这些细微的附带情况。年轻人怎么想？这种情境对于弄清楚接下来会发生什么很重要。而人工智能则不具备这些。
嗯，举个例子，一种思考这个问题的方式，就像一个晴雨表，看看人们在金融领域做什么。金融非常直接，无论你输还是赢。嗯，但他们所做的是他们意识到他们拥有的所有数据实际上都是回顾性的。它通常是过度拟合的。所以它不能很好地预测未来，因此他们让人们在那里加入他们的直觉，事实上，这绝对有助于回报。这根本不是一个问题，人加上人工智能比人工智能更好，也比人更好。嗯，很多变化来自于事情的变化或风险出现时，人们变得非常重要。
你对这个问题进行了系统化思考。你的最新著作名为《共享智慧》。你谈了很多关于集体智能，或者你称之为社区智能。这如何融入你正在描述的画面？
>> 我们生活在一个我们称之为文化的世界里。有些事情是每个人都知道的，对吧？有些是对的，有些是不对的。也许它没有被恰当地表述。然后有一些我们听说过的，是更广泛的情境。嗯，当你经营一家公司或组织时，你真的希望拥有一种与你想要做的事情相兼容的文化。你需要让人们意识到所有可能发生并可能让你措手不及的事情。嗯，那就是社区智能。那就是对你所处的整个环境的认识。而共享智慧是每个人都相信的事情，其中一些可能不真实。所以你需要不断地发展它。
你做到这一点的方式是，你尝试事物，看看它们是否有效，你对此进行讨论，看看其他人做了什么，正是这个提炼关于发生了什么智慧的过程，产生了文化。你可能会认出这就是科学。科学就是这样。人们做这些实验。他们互相讨论。最终，他们会弄清楚如何做得更好并预测未来。嗯，现在你可以直接建造东西，因为你现在有了关于事物的这些规则，直到规则改变。但是，嗯，你知道，这就是公司应该做的事情，它必须拥有一种与实际发生的事情相匹配的文化和社区智能，这样你就可以预测在哪里投入你的精力以及能够做什么。人工智能可以帮助你做到这一点。嗯，但它在可预见的未来无法取代它。
人工智能如何叠加到你所描述的共享智慧、社区、智能和文化这些概念上？因为到目前为止，你所说的与将技术整合到组织中的问题并没有太大区别，这可以追溯到石器时代，或者至少是计算机和企业软件的早期。
让我举个例子。我曾在一个由几家大型公司首席技术官组成的小组中发言，我们当时正在讨论真正的问题是获取正确的数据，但这将在本次讨论的稍后进行。他们为所有人所做的事情，而且我后来看到其他人也在这样做，就是他们为每个员工创建了人工智能伙伴。
那么什么是人工智能伙伴呢？人工智能伙伴就是阅读了所有手册、报告和新闻通讯，并且知道隔壁的人在做什么，以及另一个部门的人在做什么的东西。所以你可以用它来让你了解情况，为你的决策提供背景信息，知道人们在做什么，什么有效，什么无效。这与你只是知道，嗯，它产生一个数字或其他东西，是完全不同的。人们不读那些手册。人们无法阅读所有不同的报告，但人工智能可以，它可以挑选出可能与你相关的东西。所以，这就像拥有一个非常聪明的图书管理员，或者类似的东西来帮助你了解情况。这真的很重要。
人工智能可以做的第二件事，我在书中也谈到了这一点，就是有那种个人事务，有小组讨论。人类的优势在于结合观点并互相测试。你知道，每个人都讨厌会议。为什么？因为我们分心了，而且有各种奇怪的事情和权力动态。所以我们构建了使用人工智能的工具。你可以看看 deliberation.io，所有免费，所有开放，我们构建了小的工具，它们基本上只是反映。它们不提供答案。它们说，“我听到人们说这个和那个。”而这种小小的、狡猾的反映所做的就是让人们专注于问题，并确保那些响亮的声音不会像它们通常那样占据主导地位。
所以这个微小的东西，它就像一个调解员，只是它不是人类，对吧？它只是一个人工智能，根据人们的说法，它使人们的会议效率和效果提高了一倍以上。想想看。如果你能将会议的效率、准确性和绩效提高一倍，你就会成功，对吧？而且事实证明，这是一种非常简单的人工智能，可以根据其总结结果来完成。
然后人们需要做的第三件事是，人们需要做我认为是探索的事情。你知道，外面有一个大世界。人们在尝试很多事情。其中一些事情对你正在做的事情非常有趣。也许不完全一样，但你应该听说过它们。我们一直在发现这样的事情，哦，真的吗？他们在这样做？这很有趣。也许如果我们用另一种稍微不同的方式去做，我们也可以这样做。这种对世界的探索是人工智能真正擅长的事情。所以用它来探索，用它来寻找共识和测试想法，然后用它来让人们了解情况，这些都是很棒的地方，它不会削弱人类的智能，而是增强人类的智能。
是的，一些任务会变得更有效率。这都很好。但实际上发生的是，任务将变得更具互补性并相互加强。不再是一群人分开做事，你现在有一个团队，一个巨大的团队，就像在展望未来，环顾四周，一起做出决定并采取行动。我认为每个人都知道，这就是领导者必须做的事情，对吧？让每个人朝着同一个方向前进，并选择正确的方向。
你实际上是在谈论将人工智能用于效率之外的更广泛的用途。这不仅仅是更快地执行某个特定流程的问题，而是真正进入创新的核心。
我们现在收到一些来自 LinkedIn 和 Twitter X 的问题。我只想提醒大家，现在你可以提问了，我强烈建议你这样做。利用这个机会问桑迪·彭特兰，你知道，几乎任何你想问的问题。所以利用它。让我们来问一些问题。
现在我们有一个来自安东尼·斯克里菲诺的问题，他说：“你能谈谈人类如何调整提问方式以适应人工智能，以及这种适应如何可能微妙地影响创新吗？”
我看到人们使用它的方式是，是的，他们正在使用它来进行这种探索和测试想法。所以通常人们习惯于查找信息或询问谷歌之类的东西。嗯，现在你有一个更具交互性的媒介来做这件事。所以这会改变事情，根据我的经验，这会使事情变得更好，因为你现在正在训练这个人，在某种意义上要持怀疑态度。他们正在提问。他们就像在探究，嗯，你为什么这么认为，或者为什么这是真的，或者有什么吗？所以他们对问题更加投入，并且对问题更加质疑，因为媒介，人工智能媒介在这种方式上响应更强。而这确实是使用它的正确方式，因为你不想相信答案。这不是幻觉的问题。这是它是否拥有所有数据的问题。它是否知道什么会发生得最快？不，它没有。对吧？所以，所以你想在那里使用它，作为一种查询世界的方式，查询你所知道的东西，如果你有那种探索的心态，那与人们通常做事的方式不同。
我们从 Twitter X 收到了另一个非常有趣的问题，来自 Arcelon Khan，他说：“在某种程度上，文化是高管领导力以及激励和抑制因素的反映。如果人工智能失败了，我们是否应该只责怪高管？”
我认为更重要的是，嗯，更重要的是，如何在我们之间分配责任，在高管和人工智能之间？文化实际上是共同创造的，领导者拥有外部影响，因为他们控制着激励措施等。此外，人们认为他们拥有比实际更多的信息，更多的视野，更广阔的视野。嗯，关于人工智能的一件事是，你现在可以拥有个人，而不仅仅是领导者，拥有非常广阔的视野，这意味着讨论不再像过去那样自上而下。嗯，我认为你需要将文化视为共同创造的，其中领导者就像管弦乐队的指挥，但实际上声音来自管弦乐队，而这才是最终的产品。所以我认为这种归咎于人的想法可能是一种错误的构思方式。是的，人们会这样做的。但关键是，我们是否一起创作了好的音乐？好的。如果领导者通过将人们推向不同的方向，违背他人的想法，并且不进行解释，让他们能够接受，从而搞砸了，那么领导者就需要改变他们的做法，或者让开。嗯，我不知道。这本身不是归咎于人的问题，但这是一个问题，嗯，再次，想象一下管弦乐队的指挥。如果他的风格与管弦乐队的风格不符，你就有问题了。
但是，当人工智能获得更大的“智能”时，会发生什么？人工智能当然是基于各种不同的数据集进行训练的。那么，由人类大师和人工智能团队共同创造的文化会发生什么？你之前谈到了人工智能伙伴。
>> 人工智能是基于过去进行训练的，而不是未来。它生活在一个盒子里，而不是在外面，这意味着它对情境和时事不太敏感。它并没有真正理解因果关系，什么导致了额外的东西。它有关于人们说什么的概念，但我们实际上都能够比人工智能更好地预测未来，至少在短期内是这样，尤其是在群体中，这在数量上是绝对真实的。所以我想，嗯，有一件事要一直记住的是，量化分析师做什么？对冲基金做什么？他们只是设置好人工智能就走开，答案是，如果他们这样做，他们就会损失很多。
嘿，为什么会这样？嗯，因为回溯测试，缺乏情境，嗯，因为，你知道，关于知道什么导致什么的观念。而这些是金融领域最热门的话题，因果关系，人工智能根本无法做到的事情。没有实验你就做不到。嗯，所以，所以，回到问题，如果每个人都有这种，好的，我们正在查询未来。我们正在查询事实。如果你有新的事实，带进来并贡献出来，那将是很好的。嗯，你知道，领导者可以就长期的事情引发讨论。这是人工智能允许我们做到的主要事情之一，而我们今天做得还不够，因为我们经常谈论日常的事情和发生的错误，但领导者必须能够说，是的，但我们将在四五年后到达这个地方，实际上他们应该考虑 20 年， 40 年。世界上其他地方实际上也是这样做的。例如，如果你看看中国的投资基金，有 40 年的时间跨度。如果你看看中东的投资基金，有 40 年的时间跨度。他们问，“我们在这次旅程中，我们正朝着哪个方向前进，人们需要有这个文化。”他们需要理解，你知道，我们正朝着这个方向前进，是的，我们正在处理今天的问题等等，但长远的未来就在那里，嗯，我们都会努力做出选择，朝着那个方向前进。
有什么好的例子吗？嗯，假设你制造任何产品或提供服务。嗯，你知道的一件事是，人口平均来说正在变老，老龄化人口大大增加。好的。嗯，如果你的服务与帮助人们在家中养老或人们变得更成熟有关，那么你应该考虑，好的，那么 20 年后，这就是人口结构。市场将是巨大的。也许加上或减去你对此的看法，但这却是一个巨大的机会，而且你知道这将会发生，问题是，你所走的方向是否朝着这个方向，以便你能够抓住这种机会，还是你正朝着另一个方向前进？它不会真正改变你的日常，但它会改变你每做出的一个微小决定的方向。所以长远来看，这就是人工智能擅长的那种探索，对吧？嗯，关于去哪个方向的讨论。嗯，这就像 deliberation.io 那样，是人们在互相测试想法。然后人工智能伙伴就是现在正在发生的事情，我能做什么才能做出最好的决定？这样做有哪些问题和缺点，潜在的缺点？
>> 有太多我们不知道的事情正在发生，尤其是在组织中。你知道，其他人都在做什么？我稍后会给你讲一个关于一些世界上最大的组织正在做什么的故事。但是，当你这样做的时候，当你查询人工智能时，你必须有一种查询的心态，一种探索者的心态。在没有某种检查（内部或外部）的情况下，你不应该相信它所说的。它是一个头脑风暴的伙伴。它并不总是正确的。它不知道今天发生的事情。它不理解人类方面的情境。嗯，这就是关于一些大型组织正在做什么的故事。他们意识到，这种人工智能伙伴可以让你了解组织中每个人都在做什么，这对于在家工作来说是完美的。在家工作的最大问题是你不知道当天的原因是什么，也不知道其他人或远程办公室、其他国家办公室在做什么。所以拥有不同国家的办公室，与实际客户进行更个人的交流是很棒的，除了他们不知道其他人是如何做的，而且没有好的方法来传播想法。这就是人工智能伙伴的完美之处。它让每个人都了解情况。
我刚才说的是，例如，这是一个大型跨国公司领导者的例子，拥有 35 万名员工。他说他将减少到 15 万名在职员工，但他将把其他类型的员工规模扩大一倍，所以他实际上会再雇佣 10 万人，但他们将基于项目。他们不是内部员工。他们是不同国家的人，与不同的客户合作等等。所以他所描述的是一个更分散的公司，一个更与客户相关的公司，拥有这些电子人工智能辅助工具来协调其行动并让每个人都保持一致。我认为这是最大的故事。公司不再拥有这些大型层级结构和孤岛，而是会变得更加扁平。团队将更加敏捷。团队将更小。从信息和情境的角度来看，公司中的孤岛和管理层级正是你不想要的。它们就像是“A不知道B在做什么”的秘方，对吧？人工智能可以帮助你融合这些，让人们更加了解情况。嗯，我与之交谈的许多领导者都设想未来大多数团队由五六个人组成，他们有不同的背景，以便他们能够互相交流不同的观点，利用人工智能，并且他们相对自主。嗯，他们不是严格听从组织的命令，组织在某种程度上更像风险投资，或者更准确地说，像一个孵化器，是的，组织从顶层获得资金，他们必须向顶层汇报，但顶层给了他们很大的自主权，他们能够出去并真正采取行动。
使这一切成为可能的是，现在六个人可以控制一个每年价值数十亿美元的业务。就像你可以用少数人来建立一家金融公司、一家支付公司。这太神奇了。以前你永远无法做到这一点，或者一家物流公司，或者其他许多事情，你可以在那里非常快速地组建团队并生产产品。软件变得非常便宜。所以，我的意思是，我只想讲一个故事。它来自我的一位朋友。这是一位医院的医生，没有技术背景。他看到医院只是人们之间没有协调好，当然就会出现糟糕的健康问题。所以这位没有技术背景的医生，他得到了几个人工智能工具，还有一两个更了解情况的朋友，在六周内，他们为医院构建了一个操作系统，医院最终采用了这个操作系统，并取得了更好的成果和更高的效率。所以，看，如果像这样的小团体可以完成像医院这样复杂的事情，这是一个真实的例子，那么想想未来会发生什么。人工智能就是将大量数据汇集在一起，从中找出一些意义，然后促使事情发生。如果你有一群优秀的人一起工作，互相交流观点和想法，你就能创造奇迹。
各位，我鼓励你们提问。LinkedIn 上的各位，所有这些问题都来自 Twitter，到目前为止。你们在哪里？你们正在观看。提问吧。哦，顺便说一句，订阅 CXO Talk 的新闻通讯，以便我们通知您即将举行的节目。只需访问 cxotalk.com 并订阅。您会很高兴您这样做了。
总之，桑迪，你所描述的是我们可以称之为代理人工智能的未来，我们有代理和小型工具来完成成千上万的小任务，以及由此带来的效率提升和快速适应。但在此过程中，会不会有巨大的工作转移、重新安置和失业，这将导致一个非常痛苦的过渡时期？
如果你看到这种变化，变成很多小团体做事，也许他们拥有相同的品牌。他们都是普华永道或类似的公司，但实际上是许多独立的、获得资助并有一些合作协议的实体。那么，就会有很多动荡。从商业角度来看，主要会发生的是令人难以置信的敏捷性和做事的能力，并且可以立即做出反应。从工人的角度来看，雇员的角度来看，这意味着你将不断地改变你所做的事情。不幸的是，至少在美国社会，我们已经将医疗保健和退休等事物与就业联系起来。现在，我们在 20 世纪 50 年代就这么做了，当时终身就业并非玩笑。这是一个错误。我们需要以某种方式改变它。
我有一个想法，并且一直在推广，而且它很有趣，那就是，如果你成立一家公司，你被要求将 10% 的股份，并且记住，在公司成立之初，股份价值为零，交给一个主权财富基金，然后作为回报，你将获得未来税收等方面的保证，人们会接受的。现在，如果我们早在 1990 年就建立了这个体系，那么今天在美国，我们将拥有一个价值约 10 万亿美元的主权财富基金，我们也不会为社会保障网争论不休，因为 10 万亿美元可以支持很多人，对吧？仅仅是从利息中。所以有办法分配机会、成功和失败，让每个人都有一个好的最低限度。我们没有提高税收。我们所做的是让每个人都拥有蛋糕的一部分。我认为这是一个非常有趣的想法。我刚来英国，这个想法对这里的政府来说非常有趣，因为他们面临不平等问题。他们面临人工智能带来的所有这些问题，以及如何保障人们安全的问题。在英国，他们仍然有行会的历史。所以你可以想象拥有专业协会和行会，这些行会就是为像你这样的人管理基金的。所以，如果你是一名医生，你就加入医生行会，每次都将一部分收入存入其中，然后所有这些都归所有医生。
有许多方法可以做到这一点，通过汇集机会，汇集风险，就像投资基金那样，而我们今天没有这样做，因为我们自 1950 年或 1960 年以来就没有真正改变过社会契约。
我必须说，我们开始谈话时谈到了共享智慧和社区智能。我们已经转向，而且很大一部分也得到了人工智能的改进和推动。然后我们转向了它对组织结构、工作创造方式的影响，而你现在已经拓宽了这一点，如果我们能够遵循这个链条，基本上就是说人工智能将推动社会组织的基本变革。
最明显的地方是教育。我的意思是，我们有这个教育系统。我就是其中的一部分。你知道，它基于一个来自一千年前的模板，而且基本上没有实质性改变，因为知识不是非常有活力的，世界在选择职业方面相当稳定，你一生都坚持下去。终身就业直到不久前才是一个真正的事情。
那么，我们将在教室里用人工智能做什么呢？让我举一个我参与过的例子。有一个拉丁美洲的小国，哥斯达黎加。他们意识到，除非他们能够提升自己，并拥有一支技术精湛的人口，否则他们将永远种植咖啡豆。他们进行了一项投资。他们给了每个学童一台电脑。这要追溯到 70 年代，对吧？他们坚持要求他们说世界的科技语言，那就是英语。所以这是一个西班牙语的咖啡种植区，决定每个孩子都将是技术娴熟的，并且能够用英语交流。结果，他们让英特尔在那里建造了一个晶圆厂。他们有了软件。他们做得相当好，谢谢。因为他们通过这种方式提高了人口的技能。
在美国，例如，会有什么类比呢？为什么我们不给六年级的孩子们提供带有 AI 的笔记本电脑，并要求他们作为一个团队，而不是单独地，构建他们认为重要的软件。你知道，照顾老人，改善交通。他们将学会如何在这些 IT 工具的存在下一起工作。我们看到，例如，我帮助塑造了麻省理工学院的媒体实验室。它不是传统的教育项目。它是一个学徒项目。你通过构建事物并将其与公司赞助商、现实世界以及各种事物进行压力测试来学习。在那里，你不仅学习工具，还学习业务，学习你所构建事物的背景，学习社会问题。你需要拥有所有这些，而不是将它们孤立成一个 X 学位或一个 Y 学位。它们必须结合在一起。你必须能够利用技术工具来在它们之间进行协调并创造一个新的未来。嗯，我们做得相当好。嗯，我将吹嘘一下，谦虚地吹嘘一下，或者吹嘘一点。我上过一门创业课，挑战是你们必须有一个使用这些人工智能工具的小团队。这些是现在比较旧的人工智能工具，它们创造了一个触及全球 10 亿人的企业，对吧？而这 10 亿人必须在富裕国家之外。他们必须在贫穷国家。你猜怎么着？我们有几个人做到了。[笑声]这太棒了。所以，所以这些孩子真的能做事，如果他们学会了，你知道，结合问题领域、工具、社会组织来在一个团队中工作，以及出去并实现它的热情。
最终，我们需要更多这样的东西。我将提到 Zoho 的首席执行官 Sridhar Vembu，他曾多次做客 CXO Talk，他有一个概念叫做跨国地方主义，结合了我与他交谈时所说的社会资本主义，利用 Zoho 作为变革的推动者来支持当地社区的技术技能提升。我必须说，他们已经把钱花在了他们说的地方。我的意思是，Zoho 已经投资于世界各地的许多社区。这实际上非常令人惊讶。
>> 这应该是共享智慧，这就是教育的方式，而不是死记硬背。目前几乎所有人都采用死记硬背的方式。嗯，所以那种拥有创造性教育，一种真正构建事物并融合多种学科和多种工具的教育，我认为是关键。
它确实让我们，如果你想去那里，进入美国以外的人们正在做什么，因为他们正在做的事情与美国人的想法非常不同。我们有一个问题，来自 Twitter 的 Chris Peterson，我知道 LinkedIn 上有一些问题，我们稍后会处理。Chris Peterson 说：“你认为大型语言模型、GPT、生成式人工智能会实现其吹捧者所做的承诺，还是人工智能会再次转向包括其他可能更古老的形式来完善其实际能力？”
所有这些现代技术，大型语言模型和 GPT 等等，在作为语音界面、摘要器、图书管理员方面都做得相当好。它们在许多方面做得出奇地好。我们基本上是在寻找那些数据量巨大、距离遥远以至于人类根本看不到的长期相关性和关系，但它们在很多方面并不可靠。这些是相关性。它们是回顾性的，等等。所以确实需要一些更古老的工具来参与其中。
一个关键的事情是我们正在运行的 loyalagents.org。它与 Consumer Reports 和斯坦福大学法学院合作。我们正在做的是，我们说，看，如果你要让一个代理为你购买东西，它最好代表你，而不是代表其他公司，对吧？我的意思是，这是处理金钱的基本原则。而它们做不到。[笑声]此外，它应该是可审计的。我的意思是，如果有人说你自营交易或有偏见，你必须能够审计并回答，对吧？所以这些是更传统的机器学习或专家系统类型的技术和其他类似技术真正发挥作用的地方。
如果你以法律为例，这是一个非常热门的领域，法律是一个大型专家系统，好的，但找到可能有趣的法律条文是一个很好的大型语言模型问题。所以，所以这是两者的混合，能够问“我所做的现在合法吗？还是我会遇到真正的麻烦？”同样，对于各种支付。这是可能最终不好的事情，还是最终更好的事情？嗯，所以我认为在技术和进化方面还有很大的增长空间。嗯，我所看到的未来发展的关键是，是的，会有这种进化等等，但所有人工智能都依赖于数据。所有人工智能都是数据中的模式，所以越来越多地获取数据将是战斗的关键。嗯，你说我们不会谈论国际问题，但我会告诉你，这就是国际人士正在做的事情。他们想运行世界上所有的系统，这样他们就能获得世界上所有的数据。嗯，我认为这是你需要认真考虑的事情，如果你拥有数据，技术就会在那里，能够以有趣的方式使用它。嗯，但如果你没有数据，你就无法到达那里。
一个有趣的统计数据是人们应该关注的。最近有一项对所有开源大型语言模型的研究，他们发现，在给定的性能水平下，使用当前最先进的大型语言模型完成此任务的成本每 3.5 个月下降 50%，每年下降 10 倍。这意味着在过去三年里，给定数量的智能成本下降了千倍。所以当人们谈论所有电力，谈论所有成本等等时，他们忘记了这些东西的进步速度比以往任何技术都快。所以你已经看到了在大型笔记本电脑上运行的东西，实验性的高端手机，诸如此类。这真的很令人兴奋，因为它使其非常普遍。这也将数据所有权问题推到了最前面。
嗯，但一个非常有趣的事情是，我有一个朋友，他经营着这个国家最大的超级计算机中心，当然，他们也做所有这些人工智能方面的事情。他说，一旦他们能够让这些大型语言模型在高端笔记本电脑上运行，他们的生产力就翻了三倍。原因是他们不必进行所有云设置和配置，也不必争夺时间，他们可以做到。嗯，这是值得思考的，对吧？那么个人人工智能可用时会发生什么？所以专有或个人数据的控制就在每台设备上。这将是一个与我们现在考虑的 Claude 或类似的东西非常不同的世界。
让我们从 LinkedIn 上一个来自 Capil Chari 的实际组织问题开始，他提出了一个重要问题。他说：“领导者明白人工智能的价值需要工作流程和流程的重新设计，但许多人犹豫不决，因为他们缺乏具体的例子或框架。对于试图通过人工智能重新构想工作的组织，你会推荐哪些实际模式或起点？”
我喜欢这个问题，因为它真的开始在桑迪你刚才描述的愿景和你正在描述的之间建立一座桥梁。
>> 对于大多数组织来说，你想从不重新设计流程的事情开始。只是让流程更好，减少错误，更一致。它改善了关于它的文化。但当然，真正的收益来自于重新设计流程。我认为思考流程的一个好方法是数据在哪里，对吧？如果数据没有相互通信，那么这就是一个机会，因为人工智能可以结合这两个数据集并找到，哦，这些事情密切相关。嗯，如果你发现存在需要相互关联的孤岛，那么正确的做法是开始在代表这些孤岛的人和人工智能之间进行对话，并询问重组这些机会在哪里。而这正是人类维度发挥作用的地方，你必须让在场的所有人都清楚，如果他们能够重塑一个伟大的流程，那么他们将获得奖励，他们不会失业。所以谈论解雇人员可能不是开始这种对话的正确方式。你想说，好吧，我们有这些数据，这些数据流。我们如何将它们结合起来构建更好的流程，以及我们可以剔除哪些一直让我们头疼的事情，并将那些人转移到其他流程中。
嗯，这通常有点困难。我曾是 AT&T 的数据委员会成员。你知道，他们有一个问题，你知道，他们是一家拥有百年历史的公司。每个人都固执己见，他们认为他们现在必须与谷歌这样将成为竞争对手的人打交道。嗯，所以他们也实施了技能提升计划，结果是，人们获得了应用学位。他们给了那些不想这样做的人提前退休。嗯，他们尝试了公司不同部门的不同组织，看看什么适合他们的文化。嗯，我认为所有这些都是实际的事情，你实际上需要做。你必须进行实验。这些事情没有唯一的答案。这取决于你的文化、你的业务领域、你的居住地等等。
这是一个来自 Elizabeth Shaw 的有趣问题，她说：“社交媒体在放大和传播错误信息和虚假信息方面有着悠久的历史。生成式人工智能在提供不准确信息方面也有着悠久的历史。在这种环境中，你如何防止被腐蚀的共享智慧和社区智能？”
我只想提一下，对于正在收听的人来说，我们将在四月份邀请两位研究人员讨论人工智能群集对错误信息、虚假信息和民主的影响。所以就是这个问题。那么，桑迪，我们该怎么办？
>> 至少有两个主要方面。嗯，一个是，你需要对互联网的工作方式进行一些改革。嗯，这样你就可以知道哪些是机器人。对吧？嗯，所以我们经营一个小组，嗯，在 IETF 中，他们是制定互联网规范的人，以更容易识别事物，并更难做坏事。而且我们对自己感觉相当好，因为我们即将完成一项规范，这将使朝鲜每年损失约 10 亿美元，因为他们窃取东西。他们不仅仅是虚假信息，他们还在窃取东西，而像数据来源这样的微小变化，就足以在防止此类事情方面产生巨大影响。所以，你知道，这是一个活跃的研究领域。这也是人们开始认识到的最高优先级，因为我们看到了，你提到了坏事，更坏的事情还在后面。
所以，我刚参加了一个会议，与世界上一些最大的金融管理公司的负责人会面，他们吓坏了，对吧？因为想象一下，如果所有这些东西都与欺诈和盗窃金钱有关，我的天哪。所以，所以一个是我希望在那里发生变化，使攻击更难，更容易防御。但这并没有解决社交媒体的主要问题，那就是你会有这些关于虚假信念的爆发，因为这一切都基于点击量，你知道，点击量越多，钱就越多。好的，你说一些疯狂的话，你会得到很多点击量。好的，所以疯狂的人就是那些获得所有点击量的人。你越疯狂，得到的点击量就越多。
有办法做到这一点。所以，例如，如果你看看台湾用于政府对话、政府如何管理国家的东西，叫做 polace。他们有办法可视化对话的范围。嗯，这样做可以让你识别出疯狂的人，然后说，嗯，是的，他这么说，但他就是那些疯狂的人之一。嗯，我们有一个版本叫做 deliberation.io，所有开源的，你可以看看它，研究一下等等。它在这方面做得非常出色。嗯，但大型社交媒体公司已经开始做一些叫做社区笔记的事情。所以社区笔记是一个非常简单的人工智能系统。当有人发表评论，是那种“我的天哪”类型的评论时，人们就可以开始添加他们的判断。当你从足够广泛的受众那里获得评论时，对吧？不仅仅是回声室，而是广泛的受众，你就会开始看到附加在这些评论上的笔记，说：“是的，但其他人都不相信这个。”它会给你这些警告信号，而且它确实在很大程度上减少了这些事情。
缺失的部分是，那些一直这样做的人没有声誉评分。你知道，在现实世界中，我们与人交谈，我们知道听谁的，不听谁的，因为那个人总是说些疯狂的话，或者她总是有点离谱，或者不怎么样。我们在社交媒体上没有这个，我认为这是需要改革的事情之一。所以，社交媒体需要更像面对面的交流，声誉、社区智能、共享智慧，这就是社区笔记所做的。这可以提供很大帮助。嗯，你知道，台湾的 polace 或我们的 deliberation.io 确实是这样做的方式，因为它没有这种不稳定性，疯狂的评论会引起很多关注，对吧？这是你需要注意的事情，因为这是所有这些胡说八道的原因。
>> 但当然，你正在对抗你所描述的核心商业模式，那就是来自地球上一些最赚钱的公司带来的点击量和注意力。
>> 嗯，到目前为止的研究表明，像社区这样的东西，它实际上已经被部署了，对吧？它实际上就在那里。
>> Facebook 实际上拥有它，它是一个微小的功能。
>> 是的。是的。是的。是的。所以，他们还没有完全修复。但另一方面，那个小东西确实有显著的影响，而且它并没有减少他们的利润。所以因为人们互相评论，对吧？正确的方法是拥有一个不同的平台，它没有那种爆炸性的特点。嗯，我不知道如何解决这个商业问题。嗯，但人们希望，我们中的一些有创造力的人会。我们已经看到了一些有希望的事情，例如，一个后处理器。这就像一个人工智能代理。所以它会查看你的流，它所做的是随机化它，这样你就不会一次性看到很多“天塌下来了”之类的评论。或者你可以调整它，这样你就听不到某些程度的情绪，或者情绪被降级了。所以，所以有一些事情你可以事后做，不受公司控制。嗯，我们会继续努力。我认为一个非常有趣的事情是，很多有趣和可怕的事情是，人们相信拥有人工智能代理来帮助你搜索、查找和理解事物将大大减少网络上的广告量，并且由于法律限制，如果你实际上在就购买等事宜向人们提供建议，那么一些法律限制就会生效，而今天它们却没有。嗯，所以一些驱动这种点击欲望的东西将会改变。
嗯，危险当然是，如果你有代理来做所有这些事情，你就会出现疯狂的[笑声]事情，对吧？嗯，我们已经看到了一些绝对疯狂的代理，所以我们需要能够监管那种事情。这与所有大型金融机构都害怕的事情相同。嗯，如果你有可以做疯狂事情的代理，而可怜的用户可能不知道，或者公司可能不知道，那么你就会在金融市场上造成巨大的混乱。那不好。
LinkedIn 上的 Steve Tout 说他正在做这项工作，他说：“我们需要可验证的数据源，Oasis 有一个关于这个主题的工作组，叫做数据来源标准，他邀请任何对此领域感兴趣的人与他联系，他在 LinkedIn 上发布了一些网址，如果你对数据来源感兴趣，请查看 Steve Tap 的 LinkedIn 评论。”
>> 这确实是一个关键问题，也是人们正在努力解决的问题。我们也参与其中。嗯，你知道，我们会看看这一切如何整合。我认为驱动它的将是当人们看到金融方面的事情发生时，你知道，因为数据被盗了数百万美元，你不知道它来自哪里。然后我们终于会得到来源。
你几次谈到数据以及不同国家在国际上正在做什么。你能给我们一个概述吗？告诉我们那里发生了什么，以及为什么它如此重要。
>> 我将从一个小故事开始。所以，我参加了一个晚宴，一些旧金山顶尖的知识分子风险投资家，你知道，谈论他们为什么投资于所有这些东西。我当时和 Singtel 的负责人坐在一起，Singtel 是印度洋-太平洋地区最大的电信公司，以及新加坡的主权财富基金 GIC。他们很难不笑出声来，因为他们认为“前沿模型和智能将运行一切”这种想法简直是疯了。他们看到的是，如果你拥有廉价准确的模型来运行每个流程，每个业务流程，物流，订购，健康等。如果你将这些代理化，那么你就会拥有世界上所有的数据。而如果你拥有世界上所有的数据，你就能预测在哪里投资，在哪里不投资，要实施哪些流程，你就在有利的位置。而这不需要天才级别的智能来做到这一点。这是一种智能。它的成本足够低，可以部署到整个。
所有参与国际贸易或拥有类似业务流程的国家。所以，这正是中国通过“一带一路”主要关注的，而且他们在这方面做得非常好。您可能想看看非洲最大的贸易伙伴是谁。但印度也非常关注这一点。他们有一个叫做“公民堆栈”的东西，这是他们“印度堆栈”的泛化。它是一个开放、免费、公共的软件，提供身份、合同、支付、医疗信息，而且是免费的，对吧？政府坚持要求所有银行和医院开始接受它。它由一个小型的非政府组织发起，但他们制作了一个模块化版本，其他国家也可以使用。其他国家可以配置它，对吧？目前已有 12 个国家签署，总共有 26 个国家正在考虑并参与其中。他们已经为这个项目吸引了 14 亿客户。将其与其他一些国家进行比较，您可能从未听说过它，对吧？但现在他们拥有的是一个覆盖世界上增长最快的部分的数据结构，并且它涵盖了经济的所有基本部分，您可以打赌人们正在其之上构建人工智能。所以也许您想引起注意。它不会是前沿的东西。它将是那些您知道的有助于学校运转、促进贸易、保持人们健康的东西。但他们最终会做的是，他们将能够以管理和利用整个印度-太平洋地区数据流的方式来拥有它。中国有“一带一路”，你知道，这是一种亚洲到欧洲的那种东西。同样，他们不必看到数据，他们只需要看到元数据。他们需要知道事物在哪里流动，然后这会告诉您应该在哪里投资。我作为阿联酋主权财富基金的顾问工作，是的，这就是他们的方向。你知道，这就是游戏，因为随着人工智能越来越聪明，稀缺的资源就是数据。您知道实际上发生了什么，以便它能够进行推理吗？除非您拥有这些数据，否则您就处于黑暗之中。桑迪，我们快没时间了，但您能告诉我们这对我们意味着什么吗？人们应该思考的是，他们如何通过他们正在做的事情来更广泛地了解经济。我不会说一定是拥有数据，而是拥有关于事物去向和谁在做什么的元数据，这类东西。我认为还需要记住，真正驱动这一切的是坏人。网络攻击、欺诈行为，这类事情，它们才刚刚开始以一种难以想象的方式升级。但随着我们朝着这个方向发展，这是一个具有新的攻击面的领域。它处理实际的贸易、金钱等。它具有现实生活的影响。它运行着医院之类的系统。我们花了很长时间才弄清楚如何半加固互联网，而这些新的代理系统需要时间来加固。在此期间，我们将看到很多灾难。所以，请注意安全，对吧？知道您的数据来自哪里。监控事物，你知道，了解正在发生的事情，就像你会监控金钱一样，对吧？你知道，如果你的账户里少了 100 万美元，你会在瞬间知道。你需要对这些代理系统做同样的事情，因为它们实际上是控制事物的东西，在不久的将来，它们将是会被攻击的对象。抱歉最后说得这么消极，但你知道，有时候推动进步的是被攻击，而不是拥有机会。您能分享一下您对开源人工智能的看法吗？我还要告诉听众，我们即将有一位 Mozilla 的首席技术官来节目中谈论这个问题。所以请订阅我们的时事通讯 cxotalk.com。非常快速地分享一下您对开源人工智能及其重要性的看法，请。嗯，这确实是一件关键的事情，因为它使人们愿意采用它。它是免费的。它在您自己的控制之下，您可以看到它，您可以对其进行专门化。然后要问的问题是，谁控制数据？总是归结为数据。那就是你获得见解的地方，那才是最重要的。有很多东西可以谈论，而我们才刚刚触及了所有进来的问题。所以，我希望您能回来，桑迪，下次再和我们一起做这个。我很乐意。是的。肯定还有更多要谈论的。事情要向前发展，对吧？桑迪·彭特兰，非常感谢您成为我们的嘉宾。所有观看的人，你们太棒了。感谢提问的人。请查看我们的网站。访问 cxotalk.com 并订阅，以便我们可以向您发送新节目的更新。下次再见。非常感谢大家。希望您度过愉快的一天。