Transcription
停止无休止地滚动。 [音乐] 你今年有宏大的梦想和目标。Mindset 应用为你提供 [音乐] 实现这些目标所需的建议和动力。不要等到“某一天”。立即下载 Mindset [音乐]。>> 在 1 到 10 的评分中，你如何评价目前深度伪造的威胁级别？>> 12。原因如下。>> Honey Freed 是加州大学伯克利分校的教授，也是全球顶尖的深度伪造专家之一。>> 在 25 年的 >> 研究之后，他在此发出警告。>> 真正应该让你困扰的是，我们已经进入了一个 [音乐] 世界，如果一切都可以是假的，那么就没有什么是必须真实的。所以，现在开始发生的是，真实的警察暴力视频，真实的人权侵犯视频，真实政客做和说他们不该做的事情的视频。假的，假的，假的。我不再需要为我的任何行为负责，因为我们生活在一个深度伪造的世界里，[音乐] 我可以轻易地否认现实。在某种程度上，这种共享现实的丧失对我来说是最令人担忧的。如果你的听众从这次谈话中带走任何东西，就带走这个。你在这方面做得不好。你可能认为，因为有人会给你看一个深度伪造 [音乐] 并告诉你这是一个深度伪造，然后你再为你的解释进行回溯。在这个任务上，你做得有多好，唯一相关的因素是你的信心，而它们是成反比的。Icons 是一个节目，我们从中学习真正偶像的生活课程。今天的嘉宾将从我们的数字时代中传达一个重要的教训。深度伪造如何摧毁我们共享的现实，以及我们必须如何反击。Honey Fared，欢迎来到 Icons。>> Fared 教授，在 1 到 10 的评分中，你如何评价目前深度伪造的威胁级别？>> 12。[笑声] 原因如下。顺便说一句，在网络安全领域，我们经常考虑的是未来的防护，比如地平线上会发生什么。这与未来的防护无关。这是现在。我可以告诉你，每天我们都会看到这种情况。小规模的骗局，人们接到亲人的电话，损失数千美元。大规模的骗局，企业损失数千万美元，因为他们与那些并非他们声称身份的人通话。我们看到朝鲜的 IT 工作人员渗透到财富 500 强公司，[音乐] 窃取知识产权，安装恶意软件，并从根本上资助整个朝鲜政府。我们看到围绕选举、气候变化、疫苗以及世界上发生的一切的虚假信息宣传活动，从根本上威胁着我们的民主。我们看到非经同意的亲密图像的创建，人们将女性的肖像放入露骨材料中。我们看到这种情况发生在孩子们身上，他们因此自杀，因为他们感到走投无路。这种情况每天都在发生。重要的是要理解，是的，它是由最新一波的生成式人工智能驱动的。但这建立在我们过去 20 年在技术领域所做的一切的基础之上，那就是社交媒体和超连接性，以及这些每天黏在我们脸上的东西。当我看到这一点，以及在过去 5、10、15 年里这种威胁是如何出现的，它正在以一种令人深感不安的速度加速。我想，让我担心的是，我们似乎在技术领域犯了过去 20 年同样的错误，那就是“快速行动，打破常规”，放开方向盘，希望一切都会好起来。而所有迹象都表明，除非我们开始认真对待这些事情，否则一切都不会好起来。>> 当你说 12 时，我的下巴都惊掉了，而且我也感觉一样。我觉得这就是 12。我觉得这是我们知道正在流传的对话之一，但它还没有真正达到临界点。>> 是的。我对整个话题很着迷。我想我的团队已经厌倦了我在前期讨论这个话题，但是，你知道，你谈到了所有这些正在发生的事情。有没有什么让你觉得最可怕？>> 是的，有几件事确实让我很困扰。所以，显然，对民主的威胁非常严重，我们已经看到国家支持的行动者、社交媒体、主流媒体和人工智能共同扰乱了世界各地的选举，这非常令人担忧，因为现在我们谈论的是我们社会的稳定和民主。我想说，另一方面，对个人的攻击令人心碎。我曾与失去孩子的父母交谈过，他们的孩子因为被网络罪犯敲诈而自杀，这几乎是另一个极端。我认为所有这些都让我夜不能寐，让我担忧。但这里有一个真正的大问题，那就是我在你第一个问题之后列举的所有我们正在看到的事情，如果这些不让你困扰，那它们就应该。但真正应该让你困扰的是，我们已经进入了一个世界，如果一切都可以是假的，那么就没有什么是必须真实的。所以，现在开始发生的是，真实的警察暴力视频，真实的人权侵犯视频，真实政客做和说他们不该做的事情的视频。假的，假的，假的。我不再需要为我的任何行为负责，因为我们生活在一个深度伪造的世界里，而我却可以轻易地否认现实。而这就是生成式人工智能世界带来的双刃剑，假的东西造成了伤害，但谁又会相信真实的事情呢？在某种程度上，这种共享现实的丧失对我来说是最令人担忧的，因为我不知道在一个没有共享现实感的世界里，如何拥有一个稳定的社会、稳定的民主和稳定的经济。我们可以就很多事情达成一致。分歧是好的，但我们必须从一个基础开始。这就是世界上正在发生的事情。而我们却不是这样。我说 1 加 1 等于 2，而我的对手说不，等于苹果酱。这就是谈话的基调。我认为这对我们的社会和民主来说是一个真正的问题。>> 这种双刃剑的性质是其中一个非常有趣的部分，不是吗？即使我们没有给予足够的关注，我们也可以开始谈论假的东西，但那对真实的东西意味着什么呢？>> 是的。你知道，我们只是直接切入，我的意思是，听到来自世界专家的说法，这些事情令人担忧，这确实是令人信服的，而且可能应该让我们所有人感到警惕，但你能描述一下你的工作吗？>> 是的。是的。是的。我确实觉得我们跳过了一些步骤。所以，让我们退一步谈谈这个。我认为大多数人都听说过生成式人工智能和深度伪造，但让我们来谈谈这个，那就是我们在扭曲视觉记录的能力方面，历史上大致有三个阶段。有模拟世界，要明白，即使在模拟时代，当我们用胶片录制时，操纵图像也是可能的。斯大林为了讨好而把失宠的人从照片中抹去，但这很难做到，需要大量的专业知识、才能、技巧、时间和精力。而且，你知道，你真正能做的就是改变历史书。这并不是说这不重要。然后，当我们进入数字时代，我们经历了所谓的 Photoshop 年代，是的，我们手机上都有不错的相机，我们都有 Photoshop，你知道，我们现在可以在线分发这些东西，因为社交媒体正在兴起，你知道，我们开始看到很多愚蠢的鲨鱼 [音乐] 图片，以及把这个人的脸放在那个人的身体上的滑稽图片，但这仍然需要一点技巧和努力，而且有点笨拙。然后，当然，第三个也是当前浪潮是完全成熟的生成式人工智能，我现在只需要一个键盘和一个互联网连接，就可以制作出你说的或做的任何事情的图像或视频，或者我说的或做的任何事情。突然之间，威胁的范围从世界上少数人到更多人，突然变成了任何有键盘和互联网连接的人。而且，你不仅可以创建这些东西，当然，我们还可以立即在全球范围内将它们分发给数百万人，数亿人。而这种威胁范围对于个人、组织、社会和民主来说看起来非常不同。所以，我们现在生活的这个深度伪造的世界意味着，你只需按一下键盘，就可以创建任何人的图像、录音或视频，让他们做任何事情，而且它看起来非常逼真，以至于普通人在网上看到这些东西时，根本无法将其与现实区分开来。>> 这说明了，你知道，我们的大脑会转向检测方面，如果现在这么容易。>> 是的。我知道你非常热衷于检测方面。你经营着一家世界领先的公司。是否仍然有线索？比如，我们能看出来吗？你有什么想说的，比如“嘿，注意这个”吗？>> 是的。这里的好处是这是一个尖锐的问题。我现在可以回答你的问题，但问题是，所有听众都会认为他们真的学到了什么。他们学到了，但他们没有。因为在一个月后，我今天告诉你的几乎所有东西可能都不再是真的了。线索变化很大。而且，因为我们整天都在制作深度伪造，整天都在看这些东西，我们可以跟上。但当我告诉听众，嘿，嗯，你知道，人工智能生成的图像中有六根手指。是的，那曾有一段时间是真的，然后就不是了。所以，我能告诉你的是。我们的主业是开发计算技术和数学技术来检测被操纵或修改的图像、音频和视频。但我们也进行所谓的感知研究，我们向人们展示图像、音频和视频，然后问他们是否能找到它，并告诉他们线索是什么，我们说注意这些，不要注意那些，这些是可靠的，那些不是，而它们几乎只是随机的。所以，即使我们让你处于最佳状态，我们为你设定了成功的条件，你也没有在手机上进行绝望的滚动，我们为你设定了条件，我们告诉你你要做什么，我们给你一些技能，我们几乎只是随机的。现实是，我们的听觉和视觉系统根本不适合做这个。而深度伪造是如此令人难以置信的逼真，以至于我们无法可靠地做到这一点。而可靠性确实很重要，因为当你犯错，说某样东西是真的还是假的，或者某样东西是假的还是真的。这两者都有后果。如果你 10% 的时间，20% 的时间这样做，那是不行的，对吧？嗯，所以，可悲的现实是，我们将不得不依赖技术，因为视觉系统根本是有限的。如果你的听众从这次谈话中带走任何东西，就带走这个。你在这方面做得不好。你可能认为你做得很好。你可能认为，因为有人会给你看一个深度伪造，并告诉你这是一个深度伪造，然后你再为你的解释进行回溯，但事实是，科学表明你在这方面做得不好。在这个任务上，你做得有多好，唯一相关的因素是你的信心，而它们是成反比的。你越自信，你就越糟糕。如果你什么都不带走，请理解，那些说人工智能是或不是的免费网站不起作用。你的视觉系统不起作用。你必须回到可信的来源。你必须回到那些审查内容的媒体。他们与我这样的人交谈。他们进行调查，以弄清楚世界上发生了什么。社交媒体不会给你可靠的信息，因为社交媒体每天都是垃圾的绝对垃圾场。它不再是一个获取可靠信息的地方。>> 哇。我的意思是，我们的人类系统已经不再适应这个了。>> 是的。而且情况比这糟糕得多。我可以告诉你，情况比这糟糕得多。原因如下。我并不是想成为一个末日论者。而且我们应该谈谈这个领域正在发生的酷事，因为确实有酷事。但这里有一点。我们一直在谈论的大部分是你在浏览新闻时会在网上看到的那种东西。但另一件事是，我们现在可以在像这样的视频通话中实时改变人们的身份。所以，这不仅仅是，哦，你真的无法相信你在 Twitter 和 Facebook 上看到的东西。好吧？你知道，比较有见识的听众可能知道这一点。但现在我们看到的，以及我们在企业层面看到的这些攻击是，人们在电话里，他们以为自己在面试某人，但那个人不是。他们把别人的脸换成了另一张脸。>> 他们改变了他们的声音。他们改变了他们的身份。所以，突然之间，这个对话也变得合理了。你真的知道你在和谁说话吗？我们正处于这样的地步，说真的，如果我够不到你，我就不知道我在和谁说话了。这是一个奇怪的世界，我们正在进入，因为我们所做的很多事情，无论是个人还是职业，都依赖于这个，对吧？以及我屏幕上的这 10 平方英寸。当那不再可信时，会发生什么？我们该怎么办？>> 我认为这种迷失方向是，我不知道技术前沿到底发生了什么，但我能感觉到这种迷失方向，我们所有人都能感觉到，对吧？我认为，我听到你和一位同事谈话，你们谈到了那种面试，实时视频，还有那个，你知道，手放在脸前的测试。它现在消失了。>> 你担心我们的检测技术 >> 无法跟上人工智能生成假新闻的速度吗？>> 是的。首先，我喜欢这个说法，令人迷失方向。我认为这是一个很好的词。它确实令人迷失方向。我将从你那里借用它。嗯，现在回答你的问题。这是一个很好的例子，6 个月前我会告诉你，嗯，在视频通话中，如果你把手放在脸前，深度伪造会 [音乐] 出现故障。是的，现在不再是真的了。对吧？所以，任何遵循这个建议的人都很好，但现在不再有效了，因为现在的深度伪造已经足够好了，它们知道脸前面有遮挡物或东西。我们会跟上吗？可能不会。但这是坏消息。但好消息是，网络安全中的一切都是缓解而不是消除。所以，想想经典的赛博安全威胁，垃圾邮件，网络钓鱼，恶意软件，勒索软件。你知道，它们是可管理的威胁。我们大多数人一天，一年都没有问题。而且，你知道，有些东西会溜走。零日攻击会溜走。我认为现在我们生活在一个很容易欺骗人们的世界里，无论是线上还是像这样的视频通话。我们必须让我们能够解决 80% 到 85% 的问题，然后我们再处理剩下的百分之几。这里有一个物理方法。我每天离开家时，都会锁上前门。我清楚地知道人们可以撬锁。他们可以打破窗户进去。但这实际上给了我相当大的保护。我可以很多年不被别人闯入我的房子，即使锁实际上相当脆弱。所以，从某种意义上说，这是个好消息，因为它意味着，你知道，非常标准的、基本的培训，让你意识到威胁是什么。一些好的技术，这就是我们在 Get Real 所做的。这将大有帮助。然后我们开始缩小范围，针对网络罪犯。我们将他们逼入绝境，让他们更难工作。所以，我们会跟上吗？不。但我们会缓解威胁吗？是的，绝对。因为这就是我们在网络安全领域看到的。>> 那么，让我们反过来。让我们从可怕的事情转向解决方案。显然，你在做这个。你已经做了 25 年了。你在发明新的工具，新的技术。>> 什么在起作用？>> 是的。好。我将以这句话作为我回答的开场白，这个问题中存在一些紧张关系。紧张之处在于，我真的不想告诉你我具体在做什么，因为我公开谈论得越多，我的对手就越了解。所以，我将勾勒出一些大致的轮廓，并给你一些具体的细节，但请理解，有些事情我们不会公开谈论，因为它给了我们不对称的优势。所以，我们有两种基本的方法来思考如何保护内容。无论是图像、视频还是音频，无论是文件，还是流媒体，或多或少，都是相同的底层技术。所以，有两种基本方法。第一种是，你必须从根本上了解你的对手。你必须了解深度伪造是如何制作的。你不能，你知道，如果你是制造保险箱的，嗯，嗯，嗯，将绕过窃贼，你最好有一个好的窃贼在你的员工队伍里，这样他们就可以告诉你他们做了什么。是的。所以，我们有内部的红队演练。我们有威胁情报。我们了解深度伪造是如何制作的。我们所做的就是反向工程。我们深入到那些技术中，说：“好吧，他们是怎么做到的？”好吧，他们抓取视频流，他们获取视频流，他们找到一张脸，他们替换掉那张脸，从眉毛到下巴，从脸颊到脸颊，他们将其重新输入到虚拟摄像头中，然后我们将虚拟摄像头连接到，在我们的例子中，Riverside 或 Zoom 或 Teams 或 WebEx 或任何东西。在这个过程中，信号发生了许多与将视频流推入 Riverside 不同的事情。是的。所以，我们寻找统计性质、几何性质、物理性质、元数据性质的伪影，视频是如何被压缩或重新压缩的。然后，我们构建技术来搜寻这些非常具体的信号。是的。这既适用于单个帧级别，也适用于时间序列，也适用于语音。你必须创建一个技术网络。你不能只说，“这是我的那种魔法银弹，它将”不，不，不。你有许多不同的技术。它们以某种方式并行工作。它们各自都有优点和缺点，但它们一起开始讲述一个非常好的故事。所以，这是第一个支柱：了解坏人，弄清楚他们在做什么，并构建技术。第二个是也要了解真实内容是如何创建的。在自然图像、音频或视频中，你会期望看到什么？然后寻找那些缺失的东西作为操纵或人工智能生成的证据。最后我要说的是，我们还有两种基本方法：我们称之为身份无关和身份特定保护。身份无关是指，你和我以前没有通过视频交谈过。我们当然交换过电子邮件，但所以，我以前从未见过你。所以，对此，我会运行一个身份无关的深度伪造检测。这是人脸吗？这是真实的声音吗？背景是真的吗？等等，等等。但现在我们谈过了，我可以开始收集你的信息。我可以开始了解你的面部生物特征，你的声音生物特征，你的背景可能是什么样的，你房间里的声学效果可能是什么样的。嗯，当我说话时，你点头的方式，作为一名教授，我一直很欣赏，因为它意味着我正在接触我的听众。嗯，我们都有非常不同的说话方式。我们坐的方式，我说话时用手的方式，对吧？我比你更喜欢用手说话，对吧？可能是因为你不想碰到麦克风，对吧？所以，你知道，这些是我们能学到的东西，所以当我一次又一次地看到我的首席执行官 Matt Moyahan 在电话里时，我现在可以引入这些身份特定的保护。这里的目标是，基本上比我的对手更好地了解通话另一端的人，因为我越了解你，我就越能保护你。然后，有一整套身份特定的技术，例如，你第一次面试某人。很好。当他们回来面试时，让我们确保是同一个人，因为人们正在进行这种诱饵和开关骗局。一个人面试，另一个人来上班。对吧？所以，这就是我们所做的基本方法。在幕后，有大量的数字取证研究，有网络安全研究，当然还有机器学习和人工智能。嗯，还有许多不同的工具汇集在一起，形成了一套丰富的嗯，嗯，嗯，嗯，技术。嗯，你知道，如果你是实时攻击，你必须在大约 1/30 秒内创建你的实时。这是视频的帧率。我可以等 5 到 10 秒来确定你是否真实。所以，有趣的是，我们在实时方面有一点优势。而对于你在线发布的文件，我们处于劣势，因为坏人可以花几天、几周、几个月的时间来制作一个好的假货，然后我们进来，当这个东西被分发时，我们必须收拾残局。所以，这里也有一个有趣的非对称性。>> 你知道，这一切在逻辑上都是有道理的。再次，这不是我的背景，但它是有道理的，特别是当你想到，你知道，帽子已经从袋子里出来了。这些东西已经存在了。如果我们能进一步向上游，如果我们能尝试在它出来之前阻止它，>> 你会建议怎么做？是监管吗？是水印吗？我们该怎么办？>> 是的。我们该怎么办？好。嗯，首先，我认为你是对的。帽子已经从袋子里出来了。我们不会把它收回来。它，它，它有点太晚了。但让我们玩这个游戏。如果我能回去。嗯，我想说监管，但我也不是天真的，关于世界是如何运作的。你知道，监管的步伐与技术，更不用说人工智能的步伐相比，是惊人的。我预计监管在短期内不会赶上。现在，公平地说，欧盟、英国和澳大利亚做得相当好，但你知道，这些事情，看，这是一个很大的世界。假设美国通过了真正良好、周到的监管。我们占世界人口的 5%。你不在美国管辖范围内。这项监管对你有什么用？所以，我全力支持，我们应该考虑它。但我想，归根结底，我们需要技术解决方案。所以，如果我能选择，我会这样做。在任何人工智能公司成为人工智能公司之前，我会说，任何时候你创建一个假的图像、假的声音或假的视频，它都必须被隐形地打上水印，可见地打上水印，指纹识别，将联系凭证塞进元数据中。你需要签署这份内容，这样我们才能从上游知道我们在看什么。这里又有一个很好的物理类比。如果我去杂货店，我可以买很多不同的食物。有些是健康的，有些是不健康的。美国政府说，我们将强制制造商在食品上贴上营养标签。它没有说好或坏，或者吃或不吃。它只是说，如果你吃这袋薯片，你将摄入这些。是的。我认为这和这个一样。我们并不是说不要创建人工智能生成的内容。有很多有趣和富有创意的应用，但要给它贴上营养标签。这很简单，对吧？所以，如果我能，如果我能回到五年前，我会说，让我们把这个作为标准。嗯，但你知道，那艘船已经走了。显然，这并不能解决所有问题，因为我的对手，国家支持的攻击者，网络罪犯将生成他们自己的工具，而没有这个。但看，如果我能让排名前五、六、十的人工智能公司这样做，再次，我解决了我的大部分问题。是的。是的。你知道，我想到牙医的广告，底部会写着“这不是真正的牙医”。你知道，他们不得不这样做。而在这个世界里，这只是一个自由放任。而我们这个世界有趣的一点是，我们是加拿大最大的 YouTuber 之一，但我们也保护世界上一些最著名的 YouTube 声音。所以，声音的权利。而这些声音现在正在发生的事情是令人难以置信的，就它们被，你知道，重新形式化而言。>> 是的。>> 而这正通过 Facebook 和 YouTube 等平台发生，你知道，在某种程度上，在过去几十年里，我们已经建立或失去了信任。>> 而且感觉我们还没有任何东西。>> 是的。>> 是仅仅是商业模式失控，还是很难？>> 嗯，这很难，但问题不是这个。问题是商业模式，对吧？问题是，嗯，两件事。问题是商业模式。而我们现在拥有数万亿美元的公司，它们在全球范围内拥有巨大的权力和影响力，它们可以做什么，又不必做什么。所以，从根本上说，我想说，最初的，如果我能稍微往回看一点，嗯，如果你愿意，最初的罪恶是社交媒体的商业模式。它的驱动用户参与。它不是为这个产品付费，构建一个好的产品，必须留住订阅者。它是我们将免费提供一切，如果你可以称之为免费，因为我不认为它真的是。我们将窃取你的注意力、你的时间和你的精力，坦率地说，还有你的一点灵魂。嗯，我认为那种商业模式是事情如此混乱的根源。我之所以知道这一点，是因为我总是喜欢当大科技公司说，“哦，这是一个非常困难的问题。”然而，然而，他们已经能够成为数万亿美元的公司，靠的是什么？管理数据，进行数据嗯，情报，弄清楚如何货币化。因为他们告诉广告商的不是，“嘿，这是一个非常困难的问题。我们什么都不知道。”他们告诉广告商，“我们了解所有人，这就是为什么你应该付钱给我们。”然后，当涉及到，“嘿，让我们试着让人们安全。”他们说，“哦，是的，我们不知道怎么做。我们不能。”这是一个巨大的谎言。是的，这是一个困难的问题，但问题是，你正在直接与商业模式发生冲突。就在昨天，《路透社》的一篇文章说，去年 Meta 的利润中有 10% 来自诈骗和非法产品。10%！这是数十亿美元。>> 哇。>> 他们从中获利，他们知道他们从中获利。这不是 1% 或 0.1%。这是他们利润的 10%。那么，你会怎么做？对吧？所以，有，我认为我们需要一个监管，我们需要一个更好的监管框架，我们需要开始追究这些公司的责任。这些公司被允许制造不安全的产品并造成损害，因为起诉它们真的很难。我们所知道的是，一旦我们可以把你告上法庭，说你明知故犯或本应知道，那么你就会开始内化那种责任，并制造更好、更安全的产品。你知道，我不得不承认，这有一个令人沮丧的组成部分。你知道，如果我想想我该打电话给谁来解决这个问题，你就是那种人，就像你不仅在学术层面做这件事，而且已经做了几十年了，你还有一家公司在做这件事。>> 而你所说的，现在最值得信赖的其实是技术。就像我们无法解决商业模式问题。我们无法在监管方面领先。就像，现实中，那些东西都无法及时到位。我发现，嗯，可能和我预期的完全一样，但>> 是的。>> 也有点令人心碎。>> 我同意。我并不是想让你稍微再沮丧一点，但这里，让我再补充一点，然后我会试着说一些有希望的话，另一个问题是，我们有这些公司造成的虚拟垄断，对吧？所以，你可以说，“好吧，让我，我想成为一个自由市场资本家。”好吧，没问题。所以，让市场运作吧。但市场不起作用，因为你有垄断。这些公司可以进来，它们可以压垮任何人，对吧？而且，顺便说一句，多年来，你可能一直听到硅谷裁员数万、数十万人。是的，部分原因是人工智能的颠覆，但很大一部分是这些公司一直在进行所谓的防御性招聘。他们雇佣了他们不需要的人，因为他们想饿死所有初创公司，这样他们就无法雇佣人才，他们可以提供初创公司无法提供的薪水。嗯，他们一直在毒害水源，因为他们不想要竞争。所以，当你拥有五家公司控制着整个市场时，自由市场就不再运作了。这是一个真正的问题。所以，我认为，嗯，我们作为消费者必须开始生气。嗯，监管者必须开始认真对待。我们需要更好的反垄断做法。嗯，好消息是，欧盟通过了所谓的 DMA，数字嗯，嗯，嗯，营销法案，我好像是这么叫的，关于这些虚拟垄断。但你知道，这些东西，现在你有了这些万亿美元的公司，这些公司的权力和影响力将很难打破。嗯，这让我非常担心，因为那样我们就没有一个健康的生态系统，这对消费者来说是很糟糕的。C，我们可以回去吗？我想到那个父母，或者那个，你知道，内部会计接到 CEO 的电话，然后必须实时处理这个问题。我的意思是，除了你之前提到的情感成分，它让我心碎，那个人该做什么？假设他们没有工具。他们能做什么来试着弄清楚，比如？>> 是的。他们能做什么？>> 所以，首先，你知道，当你接到你亲人的声音打来的电话，而且是恐慌的、紧急的，挂断电话，然后回拨。这很简单，对吧？因为通常发生的是他们在伪造电话号码。我知道这在情感上很难，但说实话，挂断电话，然后回拨。这是第一点。我会告诉你，我和我妻子有一个暗号。嗯，所以，如果她接到电话，或者我接到对方的声音打来的电话，暗号是什么？嗯，你得时不时地测试一下，因为我们容易忘记。而且，顺便说一句，我们之所以有这个，是因为这确实发生在我身上。嗯，有人克隆了我的声音。他们没有给我妻子打电话，但他们打电话给一位我正在处理一个非常敏感案件的律师，并开始通过我的电话号码，伪造的电话号码和我的声音来获取他的信息。他挂断了电话，回拨给我，然后我们创建了一个暗号。所以，老式的模拟解决方案很有用，对吧？所以，要明白，网络罪犯会制造紧迫感，让你迅速做出反应。所以，当这种情况发生时，你必须意识到这是可能的。我可以花 15 秒的样本来克隆你的声音，然后用你的声音打电话，我们每天都看到这种情况。好的。所以，在公司方面，我会说你需要有最佳实践。嗯，对吧？所以，当你和某人交谈时，摄像头必须打开。嗯，最好不要使用虚拟背景。嗯，如果 CEO 给你打电话，让你做某事，你必须有一个双因素认证的版本。你必须有一个密码。挂断电话。回拨。就像我们必须在这个崭新的世界里开始创造卫生习惯。而且，我们在网络钓鱼诈骗方面已经做得相当好了。是的。当你收到短信说点击这个链接时，不，删除它。当有人让你去买礼品卡，因为 CEO 很忙时，是的，这是个骗局，对吧？所以，我们需要有公共服务公告，我们需要进行你和我正在进行的这些对话来告知人们。然后，我们必须开始沿途建立防御。这是我感到害怕和担忧的，因为这是一个更难防御的，那就是孩子们现在开始被敲诈，网络罪犯会利用他们的肖像，将其插入儿童虐待材料中，然后发送给他们，然后通过像 Snap 和 Instagram 这样的东西告诉他们，然后说，如果你不这样做，嗯，要么拍一张你自己的露骨照片，要么给我钱，我们将把这个发给你的父母，孩子们会恐慌，这只需要大约 60 秒。所以，这意味着我们必须和孩子们谈谈。我并不是说要把负担推给父母，好像他们已经负担够重了。但我们需要开始和孩子们谈谈如何在网上保持安全。我可以告诉你，我没有孩子，谢天谢地，说实话。但我的所有有孩子的朋友，他们不担心街头。他们担心这个。他们担心孩子手中这个设备整天都在。而这些事情正在以前所未有的规模 [鼻息] 和速度发生。而这要困难得多，因为你知道，当你只有 12、13、14 岁，你的前额叶皮层还没有完全发育，你没有能力去推理。你很害怕。你很害怕。你很尴尬，而且你反应很快。所以，这需要我们与我们所有的亲人进行非常认真的对话。最后一个关于这个是我们的父母，对吧？当他们进入 70、80、90 岁时，他们非常脆弱。有认知能力下降。他们孤独。他们害怕。他们很容易被操纵。所以，那些恶毒的、恶毒的网络钓鱼诈骗，那些我们已经看到的浪漫骗局，现在正在被人工智能超级充电，这也需要和我们的父母进行对话。嗯，我经常和我的父母谈论这个，对吧？不要点击链接。不要，如果有人告诉你他们需要技术支持，给我打电话，对吧？嗯，所以，你必须开始和每个人进行这些对话。我认为，这五分钟的回答就像是所有人必须听的内容。>> 是的。>> 从简单到复杂，以及所有相关的层次。我的意思是，只是为了背景，如果你回到一两年前，并将你遇到的这些事情的数量与现在进行比较，那么上升的速度看起来是怎样的？>> 好。这个问题的难点在于我们不知道，因为我们只看到被报告的事情。所以，当你查看向 FBI 的报告，向 FCC 的报告，以及向 DOJ 的报告时，它们只是冰山一角，对吧？但我们知道的是。去和 AARP，美国退休人员协会谈谈。去和 FTC 谈谈。去和 DOJ 和 FBI 谈谈。它正在急剧上升。我们知道所有这些都是由人工智能驱动的吗？不。但很明显，它正在促进。而且，这些骗局不是，这些是每年数十亿美元的产业，全球性的，这些是庞大的网络罪犯，有些是国家支持的，俄罗斯、朝鲜、伊朗，有些只是网络罪犯，只是赚了很多钱。嗯，但数字是惊人的，仅在美国，就有数十亿美元，从小型骗局，数十万，到浪漫骗局，它们会窃取退休人员的整个积蓄，高达数十万到数百万美元，到企业，全面的 25 到 5000 万美元。而我能告诉你的是，顺便说一句，你读到的每一篇关于这个的新闻报道（有很多），都有 10 到 100 篇你从未读到过的，因为人们感到尴尬。人们，无论是企业层面，你肯定不想说你成了受害者，人们感到尴尬，他们不想谈论这个。这很糟糕，他们感到尴尬，我理解他们为什么尴尬，我不认为他们应该，他们是受害者。但所以，我们对它只有一个非常小的了解，但我们所看到的已经非常令人担忧了。>> 我的意思是，我想象一个 12 岁的孩子，被迫处理这种情况，以及我当时的情感状态，>> 我会如何，你知道，我需要具备的技能，我的意思是，它只是>> 不，我们让他们处于一个不可能的境地。他们无法保护自己。>> 而且说实话，你可以说，“嗯，这是父母的责任。”这种情况发生在大约 90 秒内。别跟我谈父母的责任。这种情况发生得快得令人难以置信。人们说，“嗯，把它推给父母，这样他们就不用为他们的服务被滥用负责了。”所以，是的，父母可以和他们的孩子谈谈吗？当然。但他们不能每时每刻都看着他们的孩子。所以，我们必须想办法保护我们中最脆弱的人。我认为这非常重要。哇。你已经做了几十年了，我理解你必须注意不要说太多，因为你知道，有罪犯在听，但如果你要预测未来，下一个迭代可能会出现什么？是更多这样的事情，还是会有其他事情开始出现？>> 是的。所以，首先，预测未来总是很难，而且鉴于一切的快速发展，现在尤其困难。所以，这里，我给你一些简单的预测。明年，一年半，两年，情况会差不多。图像会更好。声音会更好。完整的视频会更好。一切都会更好。实时缺陷会更好。你会看到过去四年我们一直在看到的增长。毫无疑问。嗯，我认为我们的技术在检测这些东西方面会更好。毫无疑问。嗯，但威胁也会更大。我认为长期来看，有几件事让我担心。其中之一是，我们似乎正从一个我们都从模拟世界获取信息的时代，走向一个我们从少数几家新闻台收听，阅读少数几家报纸，你知道，那不是世界上最好的系统，但你知道，或多或少，我们共享一个共同的现实感。嗯，即使它不是，我们可能并不总是有我们想要的所有信息，但实际上我们是一个相当，我们是一个相当了解的公众。我们从那个时代进入了社交媒体时代，任何有键盘和互联网连接的人现在都可以在网上说任何他们想说的话，而且可以说，情况变得糟糕得多。即使我们获得了更多信息，区分好信息和坏信息也变得几乎不可能，因为社交媒体倾向于最煽动性和最荒谬的东西，而不是可信的来源。所以，这就是我们现在所处的时代。我们现在要去哪里？我们几乎要回到相反的方向。我们正在通过一个单一的人工智能聊天机器人来缩小我们的世界事件。所以，想想人工智能模型 OpenAI 的模型是什么。你的整个世界都变成了 ChatGPT，对吧？所以，他们有自己的浏览器，对吧？所有的谷歌搜索现在都是 ChatGPT。你的个人对话是 ChatGPT。你的专业对话是 ChatGPT。嗯，他们想进入色情行业。所以，你所有的娱乐现在都将在那个上面，或者你的一部分娱乐。嗯，他们正在走向整个互联网。现在想象一个世界，你的整个世界观，你的个人观点，你的教育，你对世界的了解，你的专业世界，现在都将通过 Sam Altman 的 OpenAI 或 Elon Musk 的 AI 机器人或 Mark Zuckerberg 的机器人进行。这要糟糕得多。这要糟糕得多。我们走向了我们想要的方向的完全相反的方向，因为现在想想你如何能够操纵人们，对吧？想想一旦商业模式是，“哦，我们必须让人们保持参与。”好吧，我们该怎么做？嗯，让我们开始喂给他们他们想要的东西，然后告诉他们。而现在，我认为这是一个，这是一个世界，我们的整个世界观将由这个大型语言模型塑造，坦率地说，没有人理解它，而且很容易被操纵，以最大化这些公司的利润。所以我担心，嗯，你已经看到了这一点。我在这里加州大学伯克利分校任教。我可以告诉你，学生们不使用谷歌，一切现在都是 ChatGPT，Claude，你最喜欢的 LLM。它们是所有东西。他们与它交谈。他们问你问题。他们用它写电子邮件。我需要写信给我的教授，请求延期。我该怎么做？所以我担心那个世界看起来会是怎样的。嗯，因为我认为它会造成更多的扭曲，嗯，我认为比尔·盖茨说过，对吧？嗯，我们倾向于高估一年内会发生的事情，而低估十年内会发生的事情，我认为这是对的。我认为明年这个时候，如果我们和你谈话，我认为一切都会大致相同。十年后，我认为我们将生活在一个截然不同的世界里。我认为世界将几乎无法辨认。我之所以知道我可能是对的，是因为回想十年前和二十年前。有人看到这个吗？不。没有人预见到这一点。它凭空出现。即使是我们这些技术人员，十年前，人工智能还是个笑话。没有人认真对待它。只是可能有趣的东西，然后突然，砰，它爆炸了。但即使是互联网，互联网也在十几年内从零发展到一百。移动。这些东西很快就占据了我们的生活。所以，我认为，很可能在十年内，无论好坏，我们将生活在一个非常不同的世界里。>> 我的意思是，你开始谈话时，提到了这个，你知道，这个影响的涟漪效应，当你开始>>
无法信任真相，或者无法信任你所看到的一切，以及这一切可能意味着什么。所以，显然有技术工具，有我们提到的培训，我们可以进行的培训，你和孩子们以及父母们谈论过的卫生习惯，以及所有这些事情。
>> 心理成分呢？比如我们如何开始梳理这些？>> 我们将要面对一个世界，这个世界将向我们抛出大量的，[哼鼻声] 你知道的，真相和虚假的东西，现在我们将质疑这一切。
>> 是的。这让我担心的是，我不仅需要教育整整一代人如何成为数字公民并应对这一切，而且我们还必须在过去十年里，我们已经侵蚀了对学者、科学家、媒体（顺便说一句，就是你）以及政府和机构的信任的时候来做这件事。所以，当你侵蚀了我们稳定民主所必需的事物的信任时，你如何做到这一点，而你却通过深度伪造、生成式人工智能和社交媒体的胡言乱语来侵蚀信任？天哪，这是所有问题的根源。是的。我认为我们既有真相问题，也有信任问题。所以，我给你举个例子。嗯，我每天都会收到几十封邮件，人们让我分析图像和视频。这是一种相当典型的通信。有人会说，“嘿，你是这方面的世界顶级专家。你应该看看唐纳德·特朗普的这段视频，然后告诉全世界它是假的。”嗯，我会回应说，“嘿，这段视频已经由，你知道的，这些组织进行了审查，这是我们所做的，它是真实的。”他们会回来说，“你真是个[脏话]白痴。”是的。为什么？因为是的，直到我说了一些他们不同意的话的那一刻，我一直是世界顶级专家，然后我就成了一个白痴。是的。嗯，谈话的基调是，当我告诉你一些你同意的事情时，太棒了。当我告诉你一些你不同意的事情时，你就是个自由派社会主义共产主义的伯克利教授。我们不能进行这种对话，对吧？所以，当你不再信任彼此时，我我也不信任。而且问题是，一旦你不再信任彼此，你如何重新获得信任？
>> 是的，那是个真正的问题。所以我没有一个很好的答案给你。我有一丝希望，因为我觉得在这场谈话之后我需要喝一杯烈酒，而现在才上午11点45分。这里有一丝希望。当我看到这一代人成长起来时，那些现在开始上大学的孩子们，18岁，你知道，嗯嗯，他们看待世界的方式与他们之前的几代人截然不同。首先，他们对技术不那么感兴趣。他们对社交媒体不那么感兴趣。他们对人际关系更感兴趣。他们开始有点反抗他们认为他们前几代人所处的这个非常糟糕、丑陋且不健康的世界。所以，这里有一丝希望。顺便说一句，我看到很多孩子又回到了翻盖手机、功能手机，你知道，只能打电话和发短信。所以，也许会有一种反弹，你知道，有一句伟大的话叫做“互联网的去污名化”，如果你把互联网搞得太糟糕，你知道，总有一天人们会离开的。说实话，如果我能，如果我有一种超能力，我能做任何事，我今天就会关闭所有的社交媒体，而且它永远不会再回来。我认为，如果我们能做到这一点，我们作为一个社会和个人将会变得无限好。我认为它可能会自行发展，因为，你知道，Facebook继续它的下滑，你知道，走向胡言乱语。Twitter很糟糕。嗯，你知道，YouTube起起伏伏，起起伏伏。对于像你这样的人来说，仍然有价值。嗯，但我认为，你知道，我的希望是，你知道，会有大众的反叛，我们会说，“看，够了。我们不再相信这个了。”顺便说一句，隐私的侵犯和商业模式的糟糕，我认为将会开始出现一些反弹。这就是我寄托希望的地方，那就是，哦，上帝保佑我们所有人，那些现在开始上大学的18岁年轻人。
来帮助解决那杯烈酒的问题。我想问你几个我能问所有来节目的偶像的问题。但在那之前，我还有一个问题。但当你提到，你知道，媒体部分，我对此负有责任。嗯，在此之前，我在高等教育机构任教。所以，我认为我从几个不同的层面都理解了信任问题，但是，嗯，你知道，如果，只是为了让大家了解一下，对于那些正在考虑自己在这个生态系统中的位置的人来说，对于大多数人来说，假设你的声音和形象已经存在了，是不是公平的？就像你迄今为止发布的一切，现在都作为数据存在了。>> 是的。无法撤回。你应该知道的是。你的一张照片，15秒的声音，我就有了你的身份，你对此无能为力。嗯，即使你没有发布照片，你的朋友发布了一张照片，>> 完了。人们喜欢你。是的。没机会了，对吧？你是个公众人物，你的脸和声音很多，但即使是一张照片，也是。是的。而且没有办法保护自己。我总是被问到这个问题。我如何保护自己？答案是，你不能。>> 你不能。你无能为力。完了。对。顺便说一句，坏人有你的社会安全号码。坏人，他们拥有你的一切。他们拥有所有这些信息，因为我们在过去20年里睡着了。而且我们决定让这些科技公司随心所欲。我们在美国仍然没有数据隐私法。一些国家有，欧洲人当然有GDPR。但是的，那已经结束了。无法挽回。嗯，而且我看不出这会从根本上改变。这只是现实。
在我们俩倒那杯烈酒之前，嗯，你知道，我们能在这个节目中请到偶像。对我们来说，偶像就是那些随着时间推移改变了行业的人。而且我认为时间总是令人着迷的。产生巨大影响是一回事，但当你长期这样做时，你看到了旅程，你也在自己的旅程中。>> 我真的很喜欢问偶像关于他们自己的旅程。如果你回想一下年轻时的自己，>> 只是个人方面，无论是否与这个话题有关，你会告诉你20岁的自己什么？是的，>> 我并不经常后悔，因为说实话，我认为这对我们没什么好处。我认为我们应该从我们的缺点和失败中学习，然后做得更好。但是当我回想过去20年、25年、30年的时候，我确实后悔的是我对待人们的方式。嗯，就是，善待他人。嗯，因为这是唯一一件可以说仍然困扰我的事情。我一生中犯了很多错误，很多事情。但是我们对待人们的方式，我认为，确实是我们唯一能做的事情。因为事实是，我知道当你善待他人时，它会产生惊人的积极涟漪效应。当你对待他人不好时，情况恰恰相反。不仅仅是你对待那个人不好，而是与之相关的涟漪效应。所以，我会说这是最重要的，那就是要更小心地对待你身边的人。嗯，还有另一个，我有一个新的座右铭。变老的一件好事是，你知道你以前经历过。你知道它是什么样的。我的新座右铭是，如果我5天后都不在乎，我现在也不会在乎。我花在那些根本不重要的事情上的精神和情感能量的数量。我希望能回到过去，重新获得所有那些时间。你知道，理解事物的规模，比如，这件事真的重要吗，还是它只是在这一刻让我烦恼，并理解生活中真正重要的是什么，并据此进行调整。我花了许多许多许多年才弄清楚这一点。
>> 嗯，我能，我能，我想亲自检验一下。>> 我[笑声]觉得那个五天测试>> 五天，顺便说一句，你知道，五天，几乎没有什么会困扰你，说实话。真的，我是说，说实话，因为你知道，你就是知道这一点，对吧？比如接下来的一个小时，更不用说第二天了。你会想，昨天困扰我的那件事又是什么？我甚至不记得了。我为什么要浪费那么多情感能量在上面？是的。是的。>> 就像如果这不能延长到新闻阶段，我不会。是的。是的。是的。>> 是的。>> 嗯，>> 当>> 当你想到你如何进行自己的卫生习惯、仪式、日常习惯时，无论是与深度伪造和技术有关，还是仅仅是生活中的。>> 是的。>> 你是如何度过你的日子的？>> 是的。嗯，这里有一件重要的事情。所以，我的我的世界可能是黑暗的。你知道，我处理的是儿童性虐待问题。我处理的是恐怖主义、欺诈和深度伪造以及发生的可怕事情。如果你不学会如何区分它们，它们就会渗透到你的生活中。所以，你必须学会如何做你相信并且认为重要的事情，但不要让它渗透到其他地方。你的个人关系、你的身体健康和你的心理健康。所以，例如，嗯，我是一个狂热的公路自行车爱好者。我尽量多骑车，清空我的大脑。嗯，我有一辆哈雷戴维森摩托车，我尽量经常骑着它沿着一号公路向南行驶，沿着海岸行驶。嗯，说实话，有时候我只需要半个小时，对吧？那种精神上的休息。嗯，而且你知道，因为事实是，如果你沉溺于那些坏人那里，你对任何人都没有好处。所以对我来说，因为我的世界可能非常黑暗，很多时候是寻找生活中的乐趣，无论是和朋友坐下来抽一根好雪茄，还是骑着公路自行车穿越湾区大桥进入旧金山。我认为照顾好自己。我我不一定喜欢“工作与生活平衡”这个词。我认为这个词有点被过度使用了，但你就是得照顾好自己。你知道，你不能一直开下去，你得照顾好自己，你得照顾好你身边的人。嗯，这至少应该放在优先列表的顶部。
>> 我喜欢这些问题和答案，你知道，你想到我们之前谈论的在线卫生习惯的挑战，然后你开始谈论事实，你知道，你后悔的是没有善待他人。我的意思是，如果我们能做到这一点，有多少社交媒体的东西可以消失？>> 是的。停止。停止做一个混蛋。停止在网上做一个混蛋。我认为这是对的。>> 是的。>> 我的天哪。甚至连区分对待。我的意思是，你经历了黑暗的事情，但我们很多听众也经历了，你知道，他们有自己生活中的黑暗。>> 我们如何开始克服这一点？>> 是的，没错。是的。而且我认为，你知道，还要有同情心，关心他人，能够设身处地为他们着想。嗯，你知道，我认为这是问题的一部分，互联网本应让世界变得更小，但它让世界变得更糟。我们不知何故失去了同情心。我们失去了同情心。我们失去了与人交往的能力，我们不仅以欺凌他人为乐，还以观看和参与其中为乐。我不明白为什么它会激发出人性中最糟糕的一面，但它确实如此。嗯，我我我我不认为大多数人在网上会做他们在社交媒体上做的事情。我认为你应该好好想想。是的。>> 为什么会这样？>> 是的。我知道有好有坏。当你谈论摆脱社交媒体时。我的意思是，哇，那将是一份礼物，不是吗？但即使我们能摆脱匿名账户，你知道，你必须有点做自己。你必须做你自己。>> 但我也理解其中的一些权衡。>> 我也理解其中的一些权衡。我也理解。但我认为我们已经走得太远了。>> 是的。是的。是的。>> 是的。>> 你知道有趣的是什么吗？这个问题总是会朝着一百万个不同的方向发展，但是>> 你正处于这个时刻的十字路口，这个我们历史上的转折点，而且你一直在做引领潮流的工作。所以我很好奇，当你想到你的遗产时，它会走向何方。>> 你希望它是什么？>> 你知道，我当了大约25年的学者。嗯，我我我真心喜欢我们所做的学术研究，我们开发的技术，我们创办的公司，以及我们帮助过的人。我真的我真的认为这项工作很重要。但是当我真正思考我留下了什么时，我认为是成为一名教育者，因为事实是，你知道，我每天都在教室里，有时有成千上万的学生，有时有几十个学生。在我的一生中，有很多学生来来往往。当我把工作做得很好，我激发和激励和教导一个学生时，这种涟漪效应是惊人的。但还有另一件事，如果你是一个糟糕的教授，你也会造成很大的伤害。所以对我来说，这真的就是培训和激励下一代年轻人的头脑，让他们对自己的所作所为深思熟虑，并努力负责任地、合乎道德地去做，同时也要找到能给他们带来激情和人生意义的事情。而作为一名教育者，这确实是我们能够与这些年轻的心灵互动，并真正开始塑造他们，让他们走向世界。这是一种不可思议的礼物。和责任。
>> 嗯，我不得不承认，亲爱的，我的意思是，我我第一次听说你和你工作是在几个月前，你为我播下的种子，你对这个问题的清晰度和你的信念，以及你全力以赴的方式。我的意思是，我可以想象很多人正在听这个，也许是第一次听到你的声音，并想知道，我如何参与进来？我如何保持联系？你会引导他们去哪里了解你的工作？>> 是的。所以，嗯，让我想想。我不在社交媒体上，我想这不会让你感到惊讶。嗯，我在领英上，所以你可以在领英上关注我，我确实会定期发布关于我们正在做什么，我们如何思考它的信息。嗯，我有一个YouTube频道，嗯，顺便说一句，它没有盈利，但我发布我所有的讲座和所有的演讲。嗯，我我我教育部分就是推动人们去看YouTube。嗯，Get Real Security是公司，所以你可以看到我们在公司方面的工作。然后在我的伯克利网站上，也就是far.edu，edu。有很多技术论文和非技术论文以及评论文章和播客和采访和演讲，你可以从中了解更多。我今年早些时候有一个TED演讲，我认为它对我们多年来如何思考这个问题提供了一个很好的概述。所以，我的网站、领英、YouTube上有很多东西。
>> 哇。我可以想象有很多公司和个人现在正在收听，他们会去那些网站。我们会在下面的描述中列出所有这些。我只想全心全意地感谢你这次谈话，深入探讨并深入黑暗，同时也努力让事情变得光明一些。感谢你的加入。>> 我我我感谢你，我理解我支持科技。我只是认为我们应该得到比现在更好的科技。>> 这是结束的绝佳方式。这句话。谢谢。>> 非常感谢。感谢观看这次关于偶像的采访。有一件事引起了我的注意，97%观看我们视频的人都没有订阅。所以，如果你是其中一员，我鼓励你点击那个按钮。当我今天在办公室里说出这句话时，我们办公室里有人倒吸了一口凉气，就像真正的倒吸一口凉气。所以，如果你有兴趣向那些拥有成功经验的真正偶像学习，并试图弄清楚如何将这些经验应用到你自己的生活中，并以一种有点激励人心的方式去做，这就是你想要继续观看这个节目原因。再次感谢观看。