長年にわたり、「AIによる攻撃」とは、より優れたフィッシングメールを意味していました。その時代は終わりました。2025年の後半には、AnthropicがAIエージェントが約30のターゲットに対して戦術的作業の推定80〜90%を実行し、人間が介入したのはわずかな意思決定ポイントであるという国家支援のスパイ活動キャンペーンを公開しました。攻撃者のボトルネックはもはや人材の頭数ではありません。それはトークンです。
SOCアナリストや検出エンジニアにとって、これで計算が変わります。滞在時間は短縮し、攻撃のボリュームは計算力とともに拡大し、私たちがルールを作成するためのTTPが走行ごとに変異し始めます。これが自律攻撃の内部での様子であり、同じスピードで動く防御を構築する方法です。
自律AIサイバー攻撃とは?
自律AIサイバー攻撃とは、AIエージェントが最小限の人間の指示で攻撃の計画、実行、適応を行う侵入のことです。オペレーターは目標(「ターゲットXでのドメイン管理者取得」)を設定し、エージェントがその達成方法を決定します。
古典的な自動化との主要な違いは、推論です。スクリプトは毎回同じ手順を実行します。エージェントはツールの出力を読み取り、失敗したエクスプロイトに気付き、別の経路を試みます。眠らないジュニア赤チームのように、数百のターゲットを同時に扱い、API使用時間が1時間あたり数ドルで動作すると思ってください。
自律的な攻撃はどのように機能しますか?
ほとんどの自律攻撃フレームワークは、観察、計画、行動、評価、繰り返しという単純なループを実行します。オーケストレーターモデルは、目標を小さなタスクに分解し、それらをモデルコンテキストプロトコル(MCP)などのフレームワークを通じて実際のツールに接続されたサブエージェントに渡します:スキャナー、資格情報ダンパー、ブラウザ、シェル。
典型的な実行は、MITRE ATT&CKにきちんとマップされます:
- 偵察(TA0043): エージェントは露出したサービスを列挙し、従業員データをスクレイピングし、ターゲットを価値でランク付けします。
- 最初のアクセス(TA0001): それは発見された脆弱性のためにエクスプロイトを書いたり適応させたりし、それをテストし、失敗した場合はリトライします。
- 資格情報アクセスと横移動(TA0006、TA0008): それは秘密を収集し、検証し、ピボットします。オペレーターのためにすべてのステップを記録しています。
- 収集と流出(TA0009、TA0010): それは盗んだデータをインテリジェンス価値によって分類し、外部に送信します。
これを機能させるトリックは、タスクの分解です。各サブタスクは独立してみると無害に見えます(「このホストをスキャン」、「このログインをテスト」)。これがまさに攻撃者がモデルのセーフガードをすり抜ける方法です。防御の要点:信号は系列とテンポにあり、個々のイベントにはありません。
自律AI攻撃に対抗する方法は?
エージェントは速いですが、繊細ではありません。それらは人間のオペレーターが持続できないリクエストレートを生成し、積極的に再試行し、時には資格情報や発見を幻覚します。そのノイズがあなたの優位です。検出を以下のことに集中します:
- 指標ではなく行動。 エージェント駆動のキャンペーンからのIOCは、実行ごとにユニークです。迅速な連続発見コマンドや多くのアカウントにわたる突発的な認証試行、新しいプロセスによる数十の偵察ツールの秒単位での出現といった行動に基づいてSigmaルールを書きます。
- 速度と相関関係。 低重大度のイベントを高信頼度のアラートに連結します。一つのIDによる60秒以内での10の無害なアクションは、語る価値のあるストーリーです。
- 身元とAPIのテレメトリ。 エージェントはトークンとサービスアカウントに依存します。異常なAPI使用、達成不可能な速度でのセッション、サーバーからの予期しないLLMエンドポイントへの呼び出しを監視します。
- 欺瞞。 ハニートークンや誘導資格情報は、見つけたものすべてを貪欲に検証するエージェントに対して非常に効果的に機能します。
自律攻撃でLLMはどのように使われますか?
LLMは現代の攻撃スタックで3つの役割を果たします:
- 頭脳。 商用またはオープンウェイトモデルがオーケストレーターとして機能し、次に何をすべきかを推論し、要求に応じてコードを生成します。
- ペイロード。 マルウェアは現在、実行時にモデルにクエリを出します。CERT-UAのLameHugは、APT28に関連付けられ、ホストLLMを使用して即興で偵察コマンドを生成し、PromptLockのコンセプト証明は、ローカルで動作するモデルを介して自らのLuaスクリプトを書いてみせました。静的なコマンド文字列がないため、マッチする署名が減ります。
- 社会的エンジニア。 パーソナライズされたフィッシング、音声クローン、新たに制作された偽動画が、ほぼゼロの限界費用で数千のターゲットにスケールします。
検出エンジニアにとって、これにより新たなテレメトリ価値があります:ユーザーホストでないところからのLLM APIへの発信トラフィック、バイナリに埋め込まれたAPIキー、リモート推論がエンドポイント上で現れること、および既知のツールキットからコピーされずに新たに生成されたかのように見えるスクリプト。
そのような攻撃に備えるにはどのようにするか?
準備は正直な質問から始まります:もし攻撃者が今夜あなたの脅威モデル内のすべての技術を試すことができたら、どれを捕まえますか?
- ATT&CKへのカバレッジのマッピング。 エージェントが好む技術に対するギャップを特定します:発見、資格情報アクセス、および横移動。理想的なマトリックスではなく、実際のログ源によって優先順位を付けます。
- 露出した表面を縮小。 エージェントは忘れられた資産を見つけることに優れています。外部攻撃面管理を継続し、インターネットに面したシステムの早期修正を行うことで、彼らの最も簡単な勝利を排除します。
- 身元を強化。 フィッシング抵抗のあるMFAを強制し、秘密を回転させ、特定の特権を消去します。盗まれた資格情報はすべての自立チェーンの燃料です。
- 自分のAIを統治する。 内部エージェント、MCPサーバー、LLM統合を目録化する。自分のAIに与えるあらゆるツールは、プロンプトインジェクションを介して攻撃者が乗っ取ることができるツールです。
- 機械の速度でリハーサルする。 AI支援の敵模倣を用いたパープルチーム演習を実施し、検出までの時間を分単位で計測する。
セキュリティを自律防御に変革するには?
チケットキューでエージェントと戦うことはできません。自律防御とは、繰り返しのループを機械に任せ、分析者が判断と戦略を担当することを意味します。実際には、次のようになります:
- コードとしての検出パイプライン。 ルールはバージョン管理にあり、自動的にテストされ、数分でSIEM、EDR、データレイクに展開されます。Sigmaはベンダー非依存の形式としてこれをポータブルにします。
- AI支援の検出エンジニアリング。 AIを使用して脅威レポートをルールに変換し、プラットフォーム間でクエリを変換し、騒がしいコンテンツを調整します。SOC PrimeのUncoder AIはまさにこれを行い、CTIを即座に導入可能な検出に変換し、SIEM、EDR、およびデータレイクの数十の言語間でルールを翻訳します。
- 継続的なコンテンツ更新。 新しい行動が毎週現れます。SOC PrimeプラットフォームのThreat Detection Marketplaceは、新たに発生した脅威が浮かび上がると、ATT&CKマッピングされたルールを提供し、バックログを待つことなくカバレッジが進化します。
- ガードレールを備えたエージェント的トリアージ。 AIエージェントにアラートを強化させ、コンテキストを関連付け、応答アクションをドラフトさせますが、破壊的なものはすべて人間が承認します。監督なしの自律性は、単に攻撃者に新しいターゲットを与えるだけです。
目標はアナリストを置き換えることではありません。それは、検出から応答へのサイクルを圧縮し、あなたのチームが実際に人間の脳を必要とする5%のケースに取り組むことです。
自律攻撃のサイバーセキュリティトレンドは?
- エクスプロイト・ウィンドウの消滅。 DARPAのAIサイバーチャレンジが示したように、AIシステムは既に大規模にリアルな脆弱性を見つけています。公開から武器化までの時間は、週から数時間に短縮されると予想されます。
- 実行時生成マルウェアが主流に。 LLMをクエリするペイロードが、防御者をさらに行動検出に向かわせるでしょう。
- AIインフラストラクチャがターゲットになる。 プロンプトインジェクション、毒されたMCPサーバー、および乗っ取られたエージェントが攻撃面に加わります。
- 防御がエージェント対エージェントになる。 人間の専門知識とAI駆動の検出エンジニアリングを組み合わせるSOCはペースを保ちます。そうでない場合は追い抜かれます。
攻撃者は自動化しました。今度はあなたの番です。SOC Primeプラットフォームを探索して、行動ベースの検出を新たに発生するAI駆動の脅威に統合してください。