Transcription
如果一个应用程序能正常工作，看起来不错，那就算成功了。但（音乐）真正突出的是我们对这个移动应用程序寄予了多少信任。我（音乐）的意思是，今天如果你看看，你所有的信用卡信息，所有你的可识别个人信息都在你的手机里（音乐），而你却随身携带这些凭证、支付数据、个人身份和行为信息。软件开始发展得更快，它不再停滞不前。发布周期开始压缩。不再是几个月了。已经缩短到几周，现在甚至几天。API 已经成倍增加。世界上有太多的 API。本期节目由 Tasty Trade 呈现。在 Ion AI，我们经常谈论人工智能如何改变人们分析信息、发现模式和做出更明智决策的方式。市场也不例外。优势越来越来自于拥有正确的工具、正确的数据以及清晰理解风险的能力。这就是我喜欢 Tasty Trade 正在构建的东西的原因之一。通过 Tasty Trade，您可以在一个平台上交易股票、期权、期货和加密货币，佣金低廉，包括股票和加密货币的零佣金。这样您就能保留更多收入。该平台配备了先进的图表工具、回测、策略选择和风险分析工具，可以帮助您以概率而非猜测的方式思考。他们还推出了一项由人工智能驱动的搜索功能，可以帮助您发现符合您兴趣的符号，这是更具策略性地探索市场的明智方式。对于活跃交易者，有主动交易模式、一键交易和智能订单跟踪等工具。如果您仍在学习，Tasty Trade 提供数十种免费的教育课程，以及在交易时间内由其交易台代表提供的现场支持。如果您认真对待在日益被技术塑造的世界中进行交易，请查看 Tasty Trade。访问 tastyrade.com 开始您今天的交易之旅。我将自己。Tasty trade inc 是注册经纪交易商，也是 FINRA NFA 和 SIPC 的成员。那么，Subho，你能向听众介绍一下你自己吗？>> 当然。谢谢，Greg。很高兴来到这里。我叫 Shubhalder，是 AppNox 的联合创始人兼首席执行官。我在人工智能成为日常对话的一部分之前很久就开始了我的职业生涯，当时我是一名安全研究员。但当时我大部分时间都在为银行、电信和其他大型消费公司逆向工程移动应用程序。而当时的移动安全在很大程度上被忽视了。如果一个应用程序能正常工作，看起来不错，那就算成功了。但真正突出的是我们对这个移动应用程序寄予了多少信任。我的意思是，今天如果你看看，你所有的信用卡信息，所有你的可识别个人信息都在你的手机里，而你却随身携带这些凭证、支付数据、个人身份和行为信息。但安全团队仍然把这些应用程序当作一个瘦客户端，假设真正的风险实际上存在于服务器上，而这种脱节导致我创办了 appnox，我们创办 appox 大约 12 年前，想法非常简单，安全必须快速发展，当时大多数安全测试都是手动、缓慢、合规驱动的，您一年会测试一次或两次应用程序，生成一份报告，希望在发布之间没有什么（清嗓子）严重的变化。但遗憾的是，软件开始发展得更快，它不再停滞不前。发布周期开始压缩。不再是几个月了。已经缩短到几周，现在甚至几天。API 已经成倍增加。世界上有太多的 API。许多第三方 SDK 爆炸式增长，移动应用程序开始变得越来越像一个活生生的系统。它不再是一个静态产品了。在过去十年里，我也看到了安全格局如何演变。应用程序不再是被动的，它们从用户那里学习，随着时间的推移不断适应。它现在越来越像事物正在变化一样行事，而从安全的角度来看，这是一个全新的挑战。历史上，安全就是保护代码、基础设施、构建参数、安全。但今天更多的是理解系统的行为、意图、结果。我们不再问的是代码是否存在漏洞。我们问的是这个系统是否在做它不应该做的事情，即使代码看起来很好。而这正是许多组织面临的困境。他们的安全模型是为更慢、更可预测的世界而构建的，一个充满静态二进制文件、固定逻辑、明确定义的边界的世界。但随着人工智能的出现，任何人现在都可以构建一个移动应用程序，我的意思是，你现在就可以去任何网站，免费构建一个移动应用程序，它打破了这些假设，一旦这成为现实，而这已经是现实了。当我们今天谈论人工智能和安全时，我并不认为这是一个渐进式的改进。我认为这是一个类别转变，我们正从保护软件作为对象转向保护软件作为活生生的系统，这就是我今天想戴上的眼镜，并进行更多讨论。所以，是的。>> 是的。而且，我有一个儿子在一家人工智能公司工作。问题是恶意行为者创建了做坏事的应用程序并将其发布出去，人们在不知情的情况下下载它们，还是基于人工智能的应用程序存在安全漏洞，恶意行为者可以利用这些漏洞？您关注的是哪一个？我们关注的是恶意行为者可以利用的人工智能应用程序的安全性。我给你一些非常基本的见解。如果你今天看看桌面上的任何应用程序，你的 Chrome，比如如果你在 Chrome 中打开 Chip 或 Perplexity，我的意思是，你也可以使用它们的桌面应用程序，但假设这个应用程序正在访问你的位置信息，那么 Chrome 有自己的权限系统，会弹出提示说，嘿，你真的想分享你的位置吗？但如果你看看手机上的应用程序，它们稍微更具限制性。比如在你安装应用程序时，它会告诉你这个应用程序需要哪些不同的权限，这只是一次性授予，一旦你继续安装应用程序，你就不会再关心它了。现在，GPT 移动应用程序确实可以访问你的位置，但你对此一无所知，除非你 actually 进入设置，进入应用程序，找出事情的真相。我说这些不是因为 Charge 是一个有问题应用程序，而是因为任何行为者，任何攻击者都可以创建一个恶意的 Charge 包装器，免费提供，并说嘿，你不需要为 Charge 支付每月订阅费，为什么不免费使用它呢？然后你从这些商店下载那个应用程序，然后你意识到，哦，是的，我能够使用聊天模型，但在幕后，这些应用程序实际上正在发送大量敏感信息。而且，如果你比较你的桌面和你的手机，你的手机保存着更多非常敏感的信息给你，它有你的财务记录。它有你的信用卡信息。你现在用你的手机，用你的设备，用 Apple Wallet 或 Google Wallet 支付你的杂货店账单。它有你所有的 SSN 证书，SSN 信息。它有你的医疗保健信息，还有更多。所以，现在这些应用程序突然可以访问关于你的令人难以置信的数据。而且，想象一下，如果这样的应用程序突然可以访问这些数据，而恶意行为者实际上可以窃取这些数据。在 2025 年初，我们开始做这件事，叫做在商店、应用商店和 Play 商店里找出假冒应用程序，我指的是不是第三方商店，我们发现了一些在 App Store 和 Play Store 上的应用程序，我们帮助他们下架了那些应用程序，它们不是合法的应用程序。它有 Chad 的标志，有 WhatsApp 的标志，有有效品牌的标志，并且谈论的是同样的事情，但内部却泄露了很多东西。而且我们能够找出或弄清楚这些应用程序，谢天谢地，我们能够找出这些应用程序，这得益于人工智能本身。因为再次，大规模的安全是人工智能获胜的地方。不幸的是，对于人类来说，大规模的，你需要时间。时间是进行安全测试中最复杂的因素。所以，这种情况发生了，这种情况帮助我们开始验证这个想法，即找出应用商店、Play 商店甚至第三方商店中的假冒应用程序，并弄清楚事情。所以，这就是我们关注的重点。现在，另一部分重点是我们无法关注的地方，但我希望像 Google 和 Apple 这样的 OEM 供应商能够教育用户自己，确保他们不会成为下载这些应用程序的受害者。不幸的是，这种责任在于 OEM 或供应商。但我们所能做的就是确保 OEM 平台，即市场足够安全，以确保这些假冒应用程序不会进入这些应用程序商店。>> 是的。它们是如何进入商店的？因为可以假设，我的意思是，我经历过这个过程，苹果的 App Store 的应用程序提交过程，而且它相当严格。是因为应用程序审查现在由人工智能完成，而它们错过了这个，还是苹果的某个人没有注意到？>> 我认为这是一个很好的问题。所以，为了理解像 Play Store 和 App Store 这样的市场发布应用程序的动机是什么。他们的动机是确保它不会真正影响用户，这意味着他们会检查应用程序是否没有表现得像经典的计算机病毒或特洛伊木马攻击。它基本上检查这个。它检查应用程序是否没有做它不应该做的事情。但这些进入商店的假冒应用程序，它是一种非常良性的应用程序。它实际上不会影响，它实际上不会侵入你的账户并为你进行支付，但它更多的是一种数据收集应用程序。所以，有几种不同类型的假冒应用程序。我们定义了其中一种是简单的包装器类应用程序，它们更侧重于赚取广告收入。所以，我将，比如说，我将说嘿，Charge light，我将尝试将其放入 Play 商店和 App 商店或替代商店，并说这是一个有效的应用程序，它是一个良性的应用程序，它确实有效，只是它是一个广告，有很多广告，只是为了让你使用它，我将免费提供它，你只需要点击广告，我将从中赚取一些钱。所以，这是假冒应用程序的一个类别。另一类假冒应用程序是真正进行数据收集的应用程序，它试图从设备中收集尽可能多的数据。就像它会下载所有联系人。它会试图弄清楚它连接到的是哪个 Wi-Fi。而且它仍然看起来是良性的。所以，即使对于 Play 商店和应用程序的审查过程，它也感觉像，是的，这个应用程序实际上需要相机访问权限才能拍照，以便你可以将其发送给人工智能进行图像分析。但幕后，它就像，嘿，我不仅会把这张图片发送给人工智能进行分析，我还会把这张图片发送到我自己的服务器，我将创建一个安装了我应用程序的任何人的个人资料。而且第三种是最危险的，也是 Play 商店和 App 商店试图寻找的那种，即这些应用程序实际上在攻击使用它们的用户。它们试图规避 OEM 为设备设置的保护措施，而这些应用程序往往会被标记出来。如果你看看 2024 年的一些数据，这与人工智能无关，从类别上看，最多的假冒应用程序是银行应用程序。这些都是提供贷款的应用程序，你可以下载这个应用程序，在你拿到工资之前就可以获得 10,000 美元的快速贷款。而这些应用程序可以访问你的短信，可以访问你的电话簿和地址簿以及所有东西。他们给出的理由是，我想要建立信用评分。我能给那些人多少贷款。但想象一下，如果我提出了另一个模仿类似行为的应用程序，但我不会用这些数据来给你贷款，而是用它来做完全不同的事情。这就是 Play 商店和 App 商店的审查过程失败的地方。而且，我的意思是，如果你看看数据，每年几乎有 20 万到 25 万个应用程序因为某种原因被从 App 商店和 Play 商店下架，几乎 50% 到 60% 的原因是它违反了这些设备的安全规范，这就是它们被下架的原因。>> 是的。那些发布应用程序的人，他们在收集数据。那是他们的商业模式吗？他们只是把这些数据卖给数据经纪人，还是有其他用途？>> 当然。这些数据正在数据经纪人那里出售。这些数据也在暗网上出售。所以，正如我之前提到的，有三种假冒应用程序，对吧？你有广告软件应用程序，这是完全的收入模式，我想利用任何新发布的炒作，以确保尽可能多的安装发生，我从中赚取一些广告收入。所以，这是第一种应用程序。第二种是数据收集应用程序。这些应用程序会把数据卖给数据经纪人，他们会试图卖给竞争对手，比如我敢肯定，如果 OpenAI 今天发布了什么，Anthropic 也会试图吸引 OpenAI 的用户群来安装他们的应用程序。所以，会有数据经纪人说，嘿，你知道，我知道有多少人使用了这个，为什么你不使用，比如，类似的东西，甚至这些数据也卖给银行和金融机构，以针对那些有更好、有更多消费能力和权力的人，这样你就可以投放更多广告，并接触到他们，并进行大量冷呼叫。所以，这是第二种类型，第三种类型，正如我所提到的，它们是非常有策略地攻击用户本身。它更像是网络安全领域的恶意软件或病毒。这就是我们所说的，它具有非常恶意的意图，与赚钱或任何事情无关，而是为了对用户造成损害和伤害。>> 是的。>> 是的。而这些应用程序就是为此目的而设计的。但关于，我的意思是，人工智能正在被嵌入到所有东西中，现在所有应用程序。而且应用程序开始包含代理，智能代理，它们会随着你的使用而适应和演变。那么，例如，我构建一个应用程序，我有一个 API 调用，它是一个所谓的“人工智能应用程序”，问题有多大？我只是在安全方面不够小心，这成为了恶意行为者接触应用程序用户的途径。>> 这是一个很好的问题。所以，我们应该从两个角度来看待这个问题。它是“人工智能用于安全”和“人工智能的安全”。这就是我一直告诉人们的，对吧？所以，“人工智能用于安全”是如何利用人工智能来确保应用程序的安全性。“人工智能的安全”是如何确保人工智能本身在设备上的行为安全。我们所看到的是，在“人工智能的安全”方面，当我们把这些人工智能模型嵌入到这些应用程序中时，我们所看到的是，需要对这些模型进行大量测试，以确保这些代理不会失控，不会开始收集它不应该收集的数据，等等。我们已经看到了很多这样的情况，最近有一个例子，这与移动无关，但它出现了，比如 Cloud Code，我喜欢 Cloud Code，对吧？Cloud Code 开始，我的意思是，有一个事件，Cloud Code 开始删除敏感目录，对吧？你如何阻止代理代表用户执行危险操作？这是一个非常重要的事情，在移动领域，这一点更加重要，因为现在你有一套非常敏感的数据，然后你有人工智能可以访问这些非常敏感的数据。你如何为模型和人工智能设置护栏，以确保即使它们可以访问数据，它们也确切地知道如何访问它，或者你不应该访问这些数据，我的意思是，无论护栏是什么，这些护栏是否足够好，以确保不会发生这种情况？反过来是使用人工智能进行安全。十年前，在网络安全领域，有一个词叫做“脚本小子”。脚本小子就是那些进入网络安全领域的人，他们看到一些脚本，可以通过它入侵一些东西。他们只是运行脚本。他们什么都不懂，它试图进入系统，他们就像在黑客攻击中，或者用粗俗的说法，我们称之为安全新手，那些这样做的人。现在，这已经完全改变了。你可以使用这个人工智能模型，你可以使用 Cloud Code 来尝试入侵系统。你可以指示一个 Cloud Code 代理，说嘿，Cloud，你能观察一下这个 Android 应用程序，反编译这个应用程序，找出是否存在问题，或者类似的事情。人工智能的力量在于它的推理周期，它如何推理情况。这改变了一切。所以，现在这些脚本小子，在我们那个时代被称为新手，不再是脚本小子了，因为现在他们更像是提示工程师或安全提示工程师。现在，他们所要做的就是确保他们指示人工智能模型去做一些非常具有攻击性的事情，并且由他们代表他们去做。这改变了，因为攻击部分现在变得如此容易，进入的门槛如此之低，以至于防御部分变得越来越有问题。这就是我们介入的地方。比如，在 AppNox，我们是防御方，对吧？我们必须覆盖所有方面，对吧？即使一个单一的故障点也是有问题的。对于攻击者来说，他们只需要找到那个单一的故障点。他们不需要做所有事情。所以，对于防御情况来说，使用我们过去在网络安全领域使用的旧方法变得非常困难。它不再是那种算法方式来找出漏洞，而是更多地利用人工智能，利用推理周期来阻止那些通过攻击发生的攻击。我相信这个世界不会太远，我们将看到两个人工智能代理互相争斗，一个试图防御，另一个试图攻击，这很快就会成为现实。所以，是的，这是我的看法。>> 是的。>> 是的。实际上，这很有趣。人工智能代理互相争斗，一个防御者和一个攻击者。信任如何成为人工智能系统可衡量的绩效指标？我的意思是，公司需要证明什么才能赢得用户的信任？>> 我认为人工智能最大的问题之一是它就像一个黑盒子。你输入一些信息，它给你一些信息。而人们真正担心的是，我真的不想把我的个人数据给人工智能，因为我不确定这些数据是如何在内部处理的。它被保存在某个地方了吗？它是如何被处理并给我一个输出的？这就是信任发挥作用的地方。在人工智能世界中，信任非常重要，对吧？所以，有一个非常微妙的界限，我们是一个信任隐含的社会，这意味着默认情况下我们试图信任某物，但如果信任被打破，那就完了，然后我们成为一个信任明确的社会，然后我们就说，我们不会信任你，先给我看一些证据，然后我才会去做，而这就是我们今天生活的社会，不幸的是，过去发生了一些人工智能模型泄露信息或访问了它们不应该被允许访问的数据的事件，这 kind of 建立了这种行为，即“我不信任人工智能模型”。因此，对于像我们这样利用人工智能来驱动或利用防御部分的公司来说，为用户建立信任是一个非常大的问题，而我们建立信任的方式是通过提供透明度，我之前也谈到过这一点。透明度是建立信任的关键。如果我透明地告诉用户，我如何处理你的数据。人工智能如何处理你的数据，以及数据处理的结果是什么，你就会开始建立信任。这是建立信任的第一个步骤，像这样的事件，如果你还记得 2025 年初，像 Deepseek 这样的事件，把所有数据都放到了人们不知道的服务器上，因为这件事有很多新闻，很多人干脆停止使用 Deepseek，这表明了信任的重要性。我们 somehow 信任 Anthropic 和 OpenAI，因为数据驻留、数据隐私等原因，确保我们的数据在那里。我的数据没有离开这个国家，它还在那里，这很好。但每当用户感到不安，如果数据去了其他地方，或者数据被滥用或误用。所以，信任在人工智能领域非常重要，对于公司来说，不仅仅是我们这样的公司，还有在人工智能领域内的公司，在如何处理数据以及人工智能模型如何内部使用这些数据方面建立透明度非常重要。>> 是的。>> 是的。实际上，这很有趣，不仅仅是因为人工智能，当然人工智能在其中扮演着重要角色，信任正在受到侵蚀，尤其是在美国社会，但在全球范围内，对技术的信任，对媒体的信任，对政府的信任，信任，这其中很大一部分就是这个，那么公司如何开始评估，不仅仅是谁在访问他们的应用程序，还有他们的意图是什么？>> 这完全取决于数据是如何处理的，以及正在处理的数据的意图是什么。它从那里开始。如果一家公司实际上正在利用你的个人数据来预测或做某事。例如，假设我是一家医疗保健公司，我真的需要访问你的医疗记录来，你知道，预测某事或帮助你某事，这是一项崇高的事业，对吧？我应该有控制权，我应该分享哪些数据，我不应该分享哪些数据，对吧？所以，公司应该向最终用户提供这种控制，并传达为了使工作或用例正常进行需要哪些数据。除非我知道用例，否则我可能不会信任系统来提供这些数据。我明白，对于医疗保健来说，这是一个大问题，因为他们需要访问你所有的医疗记录才能给你一个适当的治疗计划，而唯一的方法就是你可以与公司分享这些数据。现在，我不是在谈论人工智能。我只是在一般性地思考。而且还有一些控制措施。比如数据清理。有时你需要共享数据，但这些数据不需要与链接相关联，对吧？所以，有数据谱系和数据链接。例如，你可以分享你的健康记录，但不需要识别这是 Craig 的健康记录。它可以是 X 个人，这是 X 人的健康记录，这对于模型或公司来说就足够了，可以根据数据来预测或给你一个适当的治疗计划。在医疗保健领域更容易解释，但你可以从医疗保健领域推断到其他领域，比如你的支付处理，你的消费品牌，你的电子商务，所有这些都可以推断到其他类似的行业。所以，用户了解他们为什么需要数据，需要共享多少数据，以及需要共享的最小数据量非常重要，这样他们最终才能从中受益。>> 是的。>> 是的。正如你提到的，问题之一是教育公众，因为 GDPR 在我看来很大程度上是失败的，因为为了遵守，公司会放一个小的“接受”按钮，没有人有时间去阅读，我的意思是，你需要一个律师才能阅读这些细则，所以他们只是接受。随着这种信任问题的增长，你如何教育人们或公司如何处理这些事情？而且，你还说，我们都信任 OpenAI 和 Anthropic，因为核心研究人员在那两家公司。他们从信誉良好的风险投资家和投资者那里筹集了大量资金。但我不知道 OpenAI 在做什么，我每天都使用它。我的意思是，就我所知，他们，而且我们都有过这样的经历，和妻子谈论过，或者说配偶，关于去巴哈马度假。接下来，我们就收到关于去巴哈马度假的广告。这就像，我的手机在听我说话。我不知道，也许是。我总是告诉我妻子，你知道，这些系统收集了大量数据，它们可以根据家庭成员的搜索来推断。但是，这确实让你感到不安。公司如何建立这种信任，消费者应该如何应对这些应用程序？>> 我认为这是一个很好的问题，信任是法律、政府和公司之间的混合体，对吧？它一直都是这三者的混合体，因为就像我经营 AppNox，我可以笼统地说，我不在我的数据库中存储任何东西，如果你说这个，你会相信我吗？只有当有某些流程到位时，你才会相信我。现在，如果我用“嘿，我拥有 SOC 2 Type 2 认证”来支持它，它会建立一个流程或控制，告诉我即使我持有敏感数据在我的数据库中，我仍然可以访问它。但你仍然会说，好吧，但仍然不完全值得信赖。然后是第三部分，即土地法，即土地法的严格程度。你谈到了 GDPR 不是一个非常强大的隐私遵循，我同意你的看法，比如那些接受 cookie 的按钮，现在我们的大脑总是被编程为点击接受，但你试过点击拒绝吗？网站仍然正常工作，对吧？这只是一个同意，它不重要，无论它是接受还是拒绝，不幸的是，这就是当今世界的真相。如果一家公司实际上是在建立信任，如果你实际上点击拒绝，也许一些视频。比如，YouTube 视频是为了展示产品是如何工作的。但如果你点击拒绝，那个 YouTube 视频就不应该加载，因为你同意你的数据将被共享给 YouTube，而你不同意。这是一个非常简单的方法来弄清楚他们是否真的正确实施了。不幸的是，在当今世界，我们只需要看到免责声明消息，仅此而已。但它仍然建立了一点信任。第三件事是政府。我对美国政府感到满意。他们确实有一个国会，如果发生问题，他们会召集公司。他们会追究他们的责任。我认为这是一个非常好的事情，它建立了公众的信任。那么，问题是，为什么 Deepseek，一家中国公司，服务器在中国，而 OpenAI，我为什么更信任 OpenAI 而不是 Deepseek？原因是，我知道今天如果我的数据发生了什么可怕的事情，不幸的是，如果只有我的数据发生了什么可怕的事情，也许我无能为力，但假设一个可怕的事情发生在整个国家，有很多数据，发生了一场大规模的问题，政府在那里可以召集他们，他们可以问他们问题，但如果 Deepseek 发生同样的问题会怎样？美国政府可以去问他们吗？嘿，你能来这里回答这个问题吗？这不会发生，中国政府会在中国做同样的事情吗？说，嘿，为什么会发生这种情况？人们不信任这一点。所以，这与美国政府是否更好或中国政府是否更好无关，而是关于流程是什么，人们如何看待这些流程在光天化日之下？而这些都是心理问题，不幸的是，这与技术无关，这与心理学有关。这就是为什么我们更信任 OpenAI 或 Anthropic，因为土地法，因为政府，因为我们知道，如果明天在那里发生什么可怕的事情，至少他们需要向美国政府回答，不幸的是，如果它不在美国，如果它在其他国家，其他政府在那里，我们不确定他们是否会做同样的事情，这就是为什么我想要提出的呼吁是，我认为这是每个国家，每个国家的每个政府都应该拥有那种土地法和那种流程，他们可以召集一家公司并询问用户数据是如何处理的，这会建立很多信任。所以，这是一个共同的责任。不幸的是，这不仅仅是公司能做的事情。>> 是的。>> 是的。你最近做了一份关于零售应用程序安全性的报告，在最近的假日季节，每个人都在购物。我的意思是，你发现了什么？从那份报告中，有什么令人惊讶的发现？一件事。所以，我们做这份报告的原因非常有趣，是因为有一个黑色星期五的促销活动开始，我当时想，我需要为自己买一些小玩意，然后我意识到有很多人实际上正在使用应用程序来购买、订购东西，甚至预订黑色星期五的东西。这让我开始思考，嘿，这不仅仅是我，我所有的朋友都在使用亚马逊和其他应用程序来预订或订购东西。所以，这就是为什么我们想，好吧，现在是假日季节。是圣诞节。我要为我的家人买些东西。我将使用我的移动应用程序来做这件事。这就是消费者的行为。然后，这个想法就出现在我的脑海里，嘿，这些应用程序真的安全吗？它们背后隐藏着什么？这就是为什么我们开始收集这些零售应用程序，以弄清楚我们在这些应用程序中发现的不同东西，我们确实在这些应用程序中发现了一些问题，我们在报告中写了这些问题。我们发现应用程序没有遵循服务器和移动应用程序之间的安全通信，这意味着存在中间人攻击的可能性。中间人攻击就是，有一个连接，如果我是一个人，我可以坐在两个连接之间，我可以看到什么在流动，这就是中间人攻击的样子。而这些应用程序中的大多数都容易受到这类攻击。有几个应用程序中硬编码了 API 密钥，这又回到了创建假冒购物应用程序、克隆应用程序的领域，使用这些 API 密钥在后台调用这些 API。所以，现在这成为了一个真正的威胁载体。这就是报告简要介绍的内容。这就是我所说的。但这就是报告所说的，关于这些移动应用程序，零售应用程序的状态。我不是说它们真的很糟糕，但我也不是说它们是顶级的安全应用程序。不幸的是，如果你将它们与银行应用程序进行比较，银行应用程序比这些零售应用程序拥有更多的安全保护和元素。我完全理解，因为我的一些朋友在电子商务网站工作，对他们来说，假日季节主要是关于扩展服务器，确保他们能够满足订单量的需求，并完成订单，而不是很多关于安全。即使是关于安全，也是关于我们如何防止机器人攻击？我们如何防止更多的传入流量？我们如何，你知道，保存那些不是基本安全部分的东西，比如连接是否安全？你是否正确使用 SSL，或者你是否正确地在应用程序中存储秘密？所以，我们能够弄清楚这些事情，这就是报告所说的。>> 是的。>> 是的。所以，AppNox，我的意思是，你们不仅仅是研究这些东西。你们有产品。那么 AppNox 是什么？正如我们之前所说的，AppNox 来自 Fort Knox。AppNox 做什么？我的意思是，你们提供什么产品？你们的市场是构建应用程序的公司，还是使用应用程序的消费者？我们的市场是构建这些应用程序的公司，正如你所说，我们取了这个名字，AppNox，来自 Fort Knox 的故事，但我们不是在建造堡垒，我们是在构建应用程序，我们如何确保这些应用程序是安全的？这就是名字的由来。我们有几个产品。我们的基本产品是关于找出移动应用程序中的安全漏洞。我们只专注于移动端，因为这是我们的才能所在，也是我们的专长所在。所以，我们不想进入其他市场。我们不想与其他非常大的供应商竞争。我们专注于移动应用程序，并试图成为该市场的领导者。我们努力做到这一点。所以，第一个产品是关于找出应用程序中的安全问题、漏洞。这是第一个。第二个非常重要，我们称之为 StoreNox，我们观察这些 Play 商店和 App 商店，这就是我从所有这些报告中得出的结论。第二个产品。它基本上观察 App Store、Play Store 和第三方商店。我们观察全球大约 30 多个商店，并试图找出正在上传到这些商店的不同应用程序，并试图找出这些应用程序是否已被 AppNox 扫描过。这是第一点。第二，我们试图找出是否有假冒应用程序正在商店发布，一旦我们弄清楚了，我们就帮助品牌和公司将这些应用程序下架。第三，我们做的是一种人工智能渗透测试模块，我们试图利用人工智能的推理能力来对这些应用程序进行渗透测试。而不是由人类进行渗透测试。我们试图让人工智能对这些应用程序进行渗透测试，正如我一开始所说的，这不再是手动的，它更快，我们试图找出这些应用程序如何被黑客攻击，我们帮助公司获取这些数据，并确保他们在应用程序被黑客攻击之前修复它。所以，是的，这些是我们一直在 AppNox 做的一些事情。>> 是的。>> 是的。你们还有一份关于开发者倦怠的报告，这与此有关，因为随着人工智能生成更多的代码，它会影响安全开发实践和调试工作流程。你能谈谈吗？我发现这很有趣，因为倦怠的原因之一是，尽管人工智能，比如 Cloud Code，加快了开发速度，但它也给开发者带来了压力。就像，你过去可以花一段时间做一件事，现在你被期望做五件事，因为，嘿，你有 Cloud Code。你能稍微谈谈这个，以及它如何影响所写代码的安全性吗？>> 我认为这是一个很好的问题。所以，是的，我们实际上写了这份报告，因为我们想看看有很多公司推出了像提示工程这样的东西，你写一个提示，嘿，你能为我创建一个网站或一个移动应用程序吗？它可以在大约 5 到 10 分钟内立即创建一个代码，给你一个看起来很漂亮的应用程序，它能工作，你就会想，哇，我的意思是，我本来可以花至少一周的时间来开发，现在是 5 分钟，我得到了一段代码，但我们需要问这个问题，这段代码安全吗？这段代码足够安全吗？它是否正确处理了业务逻辑？应用程序内部是否有护栏和检查和平衡，以确保你的数据不会泄露到任何地方？不幸的是，这并不是人工智能编写代码的目标。你作为用户，我们定义了一个目标，即嘿，这个应用程序看起来很棒，这是这个应用程序的操作指南，但不幸的是，我们没有把安全最佳实践放在提示部分。这导致了开发者，他们现在能够非常快速地生成代码，这是我正在谈论的 AppNox 的真实生活例子。我们有一个人工智能代理，它检查 API 是否有任何错误，它会立即尝试找出 GitHub 代码库中的错误所在，并发送一个拉取请求来修复 API 中的那个错误。现在，并非所有的拉取请求都需要合并，因为有时这些错误是预期的错误。但现在，开发者需要去检查代码，看看人工智能写的代码是否安全。这是第一点。第二，它是否真的解决了代码试图编写的错误的用途。第三，是验证这段代码，甚至将其放入 QA 系统，以了解它是否真的有效。这花费了很多时间。所以，现在为了给你一个大致的了解，它是如何工作的。假设有一个有效的错误。我们立即创建一个 Jira 票证，然后将其分配给一个开发者，然后开发者花一天时间来理解这个错误是什么。再花一天时间来修复它。将其发送给审查。审查员会查看代码。这很容易，因为它是人类。如果他们不理解代码，他们会打电话给开发者，说嘿，我不理解你写的东西。让我们来谈谈。他们会进行一次谈话，大约半小时的审查就完成了，然后你进入 QA，一切看起来都不错，然后就完成了，你将其推送到生产环境，总周转时间是 2 到 3 天。现在，让我们谈谈人工智能。代码生成的速度是一分钟，对吧？它只花了一分钟，就这样。但现在我开始查看这段代码，理解为什么生成这段代码，试图寻找它的根本原因。现在，我不理解这段代码，为什么会生成这段代码的根本原因。所以，我花了一个半小时到一小时来理解，然后我把它交给一个审查员，审查员说，为什么你要写这段代码？我没有人可以谈论它。现在，审查员将使用另一个人工智能模型，比如 Cloud Code，来理解这段代码，这会让他们更加困惑，然后他们会说，我的天哪，我不明白。然后工程经理会来，说嘿，这段代码是在 5 分钟内写出来的，已经一天了，为什么还没有投入生产？然后 QA 会尝试测试它。他们仍然不知道这段代码做什么。不知何故，有一个高级工程师不得不介入，现在他们明白了，哦，这段代码有问题。我将修改它。他们再次使用人工智能来修改它，然后它进入生产 PR，然后进入生产。你能看到开发者疲劳是如何产生的吗？所以，开发者疲劳已经从编写代码转移到审查代码并将其投入生产。它并没有解决任何问题，它只是将问题从源头转移到源头的后期。这就是这里发生的事情，这是一个真实的问题，这就是为什么我们决定，嘿，我们能否做一个调查，了解一下，我们是否做错了什么，是 AppNox 的问题，还是开发者普遍存在的问题？这就是报告所说的，核心是什么？显然，我们可以非常快速地制作原型和 MVP。现在，但是这些产品可以轻松地部署到生产环境中吗？它们足够安全吗？我理解人工智能写的代码吗？我是否对它有深入的了解？为什么它被写出来？所以，所有这些现在都转移到了 SDLC 周期后期，开发旅程，这就是开发者倦怠变得真实的地方。这就是报告中我们写的部分。>> 是的。>> 是的。问题是，人工智能接管的代码编写和代码审查越多，人类的参与就越少，你就失去了对代码功能的了解。而且可能存在人工智能因为基于过去的漏洞而不是新的漏洞而无法识别的安全漏洞。什么是渗透测试？渗透测试是一种方法，通过这种方法，渗透测试人员试图渗透到应用程序内部。例如，如果你有一个 Web 应用程序，比如说
假设它是一个购物应用程序，如果我是一个渗透测试人员。所以渗透测试，我试图渗透到你的应用程序内部，并转向我不应该去的地方，枢转到我不应该去的地方。例如，如果我能够访问管理员面板，或者如果我能够访问数据库，这些地方作为普通用户我是不应该能够到达的。但作为一名渗透测试人员，我能够通过特定的路径或通过利用某些漏洞来达到。这就是渗透测试。简而言之，我们称之为渗透测试。是的。>> 是的。
那么，人工智能系统在渗透测试中能做的事情和人类能做的事情之间是否存在差距？>> 老实说，在人工智能出现之前，实际上没有办法进行渗透测试，因为要进行渗透测试，你需要人类。而人类是最重要的，因为我作为一个人，我可以在我的大脑中进行推理。我试图推理如何绕过应用程序中的某些方式，以实际到达数据库或管理员面板，对吧，而算法的方式是不可能的，就像算法有一组定义好的目标一样。它知道这是模式，这就是漏洞所在，对吧。但随着人工智能的出现，我们，人工智能渗透测试所拥有的是推理循环。人工智能如何自我推理。现在，那不是一个预定义的理由。所以人工智能可以重新，它也有其优点和缺点，对吧？有时它能正确推理，这就是我们作为渗透测试的一部分所需要的。有时它会进行一些不当的推理，这就是我们所说的幻觉。对吧？所以，如果不当的推理，如果我们能以某种方式过滤掉不当的推理，如果我们专注于它以正确方式进行的推理，这就是我们如何自动化渗透测试的方式，在当今世界，许多公司都在利用人工智能进行渗透测试，这在当今世界已经成为可能，但我可以在一个模型中自动化人类推理周期的一部分，我们可以训练这个模型，或者我们可以使用任何基础模型，如Claude或Gemini，来推理出它需要采取的下一步行动是什么，这就是渗透测试在当今变得越来越自动化的方式，它是否等同于人类渗透测试人员？我不认为它已经达到了，也许它只有1%，但我很高兴它至少有1%，对吧，总比零好，对吧，但从1%到100%，我认为不会花很长时间，我认为我所关注的时间范围是，在接下来的2到3年里，我们将拥有人工智能代理，它们实际上比人类渗透测试人员做得更好，但这只是一种我希望给出的有远见的声明，希望人类能提升水平，这就是整个游戏在这里结束的方式。
是的。是的。展望未来，你担心什么？我的意思是，人工智能能够进行渗透测试是一个积极的发展，但你知道，随着代理的特别增长，你未来看到了什么担忧，你们接下来在做什么？>> 所以，我们正在做同样的事情。我们正在努力构建渗透测试人员的大脑，对吧？我们正在努力训练这个模型，使其思考如何前进并推理出通往最终目标、最终目的的方法，这可能包括获取数据库访问权限或获取管理员面板访问权限等等。所以有些事情>> 这就是我们正在努力的。它的未来是惊人的，因为如果你看看我们人类，现在有一个问题，人们开始说如果人工智能开始做所有事情，我的工作会发生什么>> 对吧，因为我正在尝试将人类所做的事情商品化为自动化，对吧，然后问题就来了，我的工作会发生什么，但我认为这是一件好事，并不是说你的工作处于危险之中，而是你要解决下一个更高阶的问题。这是一个更高阶的问题。今天我们不在乎。我们知道计算机以二进制的1和0工作，就是这样。但我们并不真正关心微处理器或GPU中到底发生了什么。1和0的事情正在发生什么？我们正在解决一个更高阶的问题，我们正在其之上构建软件。现在我们甚至不关心构建软件。现在我们正在研究提示工程。我们正在尝试构建提示。某种程度上，如果我将这个作为输入放入提示中，这就是输出结果，但从根本上讲，一切都运行在1和0上，对吧，但我们正在解决更高阶的问题。我的观点是，渗透测试将变得商品化，将变得自动化，但那时人类需要解决更多更高阶的问题。他们需要更多地关注零日攻击，比如即使人工智能也无法发现的攻击，因为它太复杂了，这就是整个人类和人工智能对话将继续发生的方式。人工智能不会来抢走你的工作。这就像你必须升级到下一个更高层次的更高阶问题。这就是你必须努力的方向。所以这就是我的感受，这就是我的信念，这也是我们正在努力的方向。我们正在尝试构建人工智能渗透测试产品，我们与人工智能渗透测试产品的区别在于我们是在二进制之上工作的，对吧。所以，你知道，有些公司从事人工智能渗透测试，他们使用API，API是人类可描述的语言，比如如果你看URL，你会知道，例如，如果你看appnox.com，你知道有一家公司叫appnox.com，那就是URL，但二进制没有那些，你知道，英语名称的二进制，1和0，它是寄存器，而我们正在做的是以一种人工智能模型能够理解这些二进制的方式来翻译这些二进制，然后对这些二进制进行渗透测试，这就是我们正在努力的差异化，希望我们能在2026年1月推出它。是的。
好的。本集由ion上的Tasty Trade赞助播出。我们经常谈论人工智能如何改变人们分析信息、发现模式和做出更明智决策的方式。市场也不例外。优势越来越来自于拥有正确的工具、正确的数据以及清晰理解风险的能力。这就是我喜欢Tasty Trade正在构建的东西的原因之一。使用Tasty Trade，您可以在一个平台上交易股票、期权、期货和加密货币，佣金低廉，包括股票和加密货币的零佣金，因此您可以保留更多收益。该平台配备了高级图表工具、回溯测试、策略选择和风险分析工具，帮助您以概率而非猜测的方式思考。他们还引入了人工智能驱动的搜索功能，可以帮助您发现与您的兴趣相符的符号，这是一种更有目的地探索市场的智能方式。对于活跃交易者，有活跃交易者模式、一键交易和智能订单跟踪等工具。如果您仍在学习，Tasty Trade提供数十门免费教育课程，以及在交易时间内来自其交易台代表的实时支持。如果您在一个日益由技术塑造的世界中认真对待交易，请查看Tasty Trade。访问tastytrade.com，立即开始您的交易之旅。我也会去看看。Tasty Trade公司是一家注册经纪自营商，也是FINRA、NFA和SIPC的成员。