自主网络攻击:新趋势及应对准备

自主网络攻击:新趋势及应对准备

SOC Prime Team
SOC Prime Team linkedin icon 关注

多年来,“AI 驱动的攻击”意味着更好的网络钓鱼邮件。这个时代已经结束。在 2025 年末,Anthropic 披露了一项国家赞助的间谍活动,其中一个 AI 代理完成了约 80-90% 的战术工作,针对大约 30 个目标,仅在人类决策节点处进行干预。攻击者的瓶颈不再是人力,而是 token。

对于 SOC 分析师和检测工程师来说,这改变了计算方式。驻留时间缩短,攻击量随着计算能力而扩大,我们撰写规则的 TTPs 开始在每次运行时进行变异。以下是自主攻击的内部运作方式,以及如何构建能够以相同速度移动的防御。

免费开始

什么是自主 AI 网络攻击?

自主 AI 网络攻击是指 AI 代理在最少的人工干预下计划、执行和调整攻击链的入侵过程。操作员设定一个目标(“在目标 X 获得域管理员权限”),而代理决定如何实现它。

与经典自动化的关键区别在于推理。脚本每次运行相同的剧本。代理读取工具输出,注意到漏洞利用失败,并尝试其他路径。可以将其视为从装满弹药的枪转换为一个永不休息,新手红队操作员,其以惊人的速度和低廉的费用并行处理数百个目标。

自主攻击是如何运作的?

大多数自主攻击框架运行一个简单的循环:观察、计划、行动、评估、重复。一个编排器模型将目标分解成小任务,并交给通过框架如 Model Context Protocol (MCP) 连接到真实工具的子代理:扫描仪、凭证转储工具、浏览器、shell。

一个典型的运行可以清晰地映射到 MITRE ATT&CK:

  1. 侦察(TA0043): 代理枚举暴露的服务,抓取员工数据,根据价值对目标进行排名。
  2. 初始访问(TA0001): 它会为发现的弱点编写或调整一个漏洞利用程序,进行测试,并在失败后重试。
  3. 凭证访问和横向移动(TA0006、TA0008): 它会收集秘密信息,进行验证,并进行横向移动,记录每一步供操作员查看。
  4. 信息收集和外泄(TA0009、TA0010): 它根据情报价值对窃取的数据进行分类后,再将其发送出去。

使这项工作成功的诀窍是任务分解。每个子任务单独看起来都很无害(“扫描此主机”、“测试此登录”),这正是攻击者能够避开模型保护的方式。防御上的启示是:信号存在于序列和节奏中,而不是任何单一事件。

如何防御自主 AI 攻击?

代理很快,但不够微妙。他们产生的请求速率是没有人类操作员能够维持的,重试态度激进,有时还会产生虚假的凭证或发现。那噪声是你的优势。将检测集中于:

  • 行为胜过指标。 由代理驱动的活动可能每次运行时都有独特的 IOC。编写围绕行为的 Sigma 规则,如快速连续发现命令、大量帐户的认证突发尝试,或者在几秒钟内新生成几十个侦察工具的进程。
  • 速度和相关性。 将低严重性事件链接成高置信度警报。来自一个身份在 60 秒内的十个无害动作就是一个值得讲述的故事。
  • 身份和 API 遥测。 代理依赖 tokens 和服务帐户。监视异常的 API 使用、不可能速度的会话,以及服务器意外对 LLM 端点的调用。
  • 诱导欺骗。 诱捕代币和诱饵凭证在狂热验证其发现内容的代理面前表现优异。

在自主攻击中 LLMs 如何使用?

LLM 在现代攻击堆栈中扮演三个角色:

  • 大脑。 商业或开放式模型充当编排者,决定接下来要做什么,并按需生成代码。
  • 有效载荷。 恶意软件现在在运行时查询模型。CERT-UA 的 LameHug,与 APT28 相关,使用托管的 LLM 动态生成侦察命令,PromptLock 概念验证展示勒索软件通过本地运行模型编写自己的 Lua 脚本。没有静态命令字符串意味着签名更少。
  • 社交工程师。 个性化钓鱼、语音克隆以及深伪视频现在以极低的边际成本扩展至数千个目标。

对于检测工程师而言,这创造了新的遥测值得追踪:来自非用户主机的对 LLM API 的出站流量,嵌入在二进制中的 API 密钥,出现在端点上的本地推断运行时,以及看起来像是新生成的脚本,而不是从已知工具集中复制而来的。

如何为这样的攻击做好准备?

准备始于一个诚实的问题:如果攻击者今夜对你的威胁模型中的每种技术进行尝试,并行进行,你会捕获到哪些?

  1. 将覆盖范围映射到 ATT&CK。 识别代理偏爱的技术上的差距:发现、凭证访问和横向移动。根据真实的日志来源优先排序,而不是理论矩阵。
  2. 缩小暴露表面。 代理在发现被遗忘的资产方面表现出色。持续的外部攻击面管理和快速修补面向互联网的系统可以消除他们最容易的得手机会。
  3. 强化身份。 实施抗钓鱼的多因素认证,轮换机密,消除长期特权。被窃取的凭证是每个自主链条的燃料。
  4. 管理自己的 AI。 清点内部代理、MCP 服务器和 LLM 集成。你给自己 AI 的每一个工具,都是攻击者可以通过提示注入进行劫持的工具。
  5. 以机器速度进行演练。 使用 AI 辅助的敌人模拟运行紫队演习,并以分钟,而非天数来测量检测时间。

如何将安全转变为自主防御?

你不能用工单队列与代理作斗争。自主防御意味着让机器负责重复的循环,而分析师掌控判断和策略。在实践中,这看起来像:

  • 检测即代码管道。 规则生活在版本控制中,会自动测试,并在几分钟内部署到每个 SIEM、EDR 和数据湖中。作为供应商无关格式的 Sigma 使其具有可移植性。
  • AI 辅助检测工程。 使用 AI 将威胁报告翻译为规则,在平台之间转换查询,并调整噪声内容。SOC Prime 的 Uncoder AI 正是这样做的,将 CTI 转换为可部署的检测,并在十几个 SIEM、EDR 和数据湖语言之间翻译规则。
  • 持续内容更新。 每周都会出现新的行为。SOC Prime 平台上的威胁检测市场提供策划的、与 ATT&CK 对应的规则,随着新兴威胁的出现而不断演变,因此覆盖范围在不需要等待积压的情况下继续发展。
  • 带有限制的代理分流。 让 AI 代理丰富警报、关联上下文,并起草响应行动,但是要让人类批准任何具有破坏性的操作。没有监管的自主性只会给攻击者一个新的目标。

目标不是取代分析师。它是要压缩检测到响应的周期,以便团队能处理真正需要人类头脑的 5% 的案例。

自主攻击的网络安全趋势是什么?

  • 漏洞利用窗口塌缩。 AI 系统已经在规模上发现真实漏洞,正如 DARPA 的 AI 网络挑战所展示的那样。预计从披露到武器化的时间会从几周下降到几个小时。
  • 运行时生成的恶意软件成为主流。 LLM 查询的有效载荷将推动防御者进一步转向行为检测。
  • AI 基础设施成为目标。 提示注入、中毒的 MCP 服务器和被劫持的代理将加入攻击面。
  • 防御变得代理对代理。 与 AI 驱动的检测工程相结合的人类专长的 SOC 将保持步伐。而没有的将被抛在后面。

攻击者已经自动化。现在轮到你了。探索 SOC Prime 平台,今天就将基于行为的检测用于新的 AI 驱动威胁中。

加入 SOC Prime 的 Detection as Code 平台 以提高对与您的业务最相关的威胁的可见性。为了帮助您开始并带来即时价值,现在与 SOC Prime 专家预约会议。