検知の妥当性確認と衰退

検知の妥当性確認と衰退

Brandi Moore
Brandi Moore Chief Revenue Officer linkedin icon フォローする

検出の検証とは、検出ルールがまだ意図したイベントに対してトリガーすることを証明する実践です。検出劣化とは、ロジックソース、スキーマ、またはパーサーが変更されることで、かつて機能していたルールが静かに失敗することを指します。配置され有効化されたルールは、実際に機能することが証明されたルールではありません。

検出ルールがまだ機能していることをどうやって知るのですか?

ルールは、定義されたウィンドウ内で既知のイベントに対してトリガーするときに機能します。それ以外はすべて仮定です。

ほとんどのチームは「配置済みおよび有効化済み」を動作状態として扱います:ルールはSIEMに存在し、配置時の検証を通過し、カバレッジヒートマップは緑色のままです。実行状態とカバレッジ状態は存在を測定するのであり、機能ではありません。空の結果セットに対して正常に実行されたルールは、プラットフォームの観点からは、静かなネットワークを監視するルールと同じように見えます。いずれにせよダッシュボードは緑のままです。

誠実な証拠の階層には、弱いものから強いものまで5つの層があります:

層状態証明されること証明されないこと
0主張ルールが存在する機能に関することは何も
1lint合格正しく解析され、必要なブロックが存在し、フィールドがターゲットスキーマに存在する何も一致するかどうか
2フィクスチャ再生済み記録済みの既知の悪いイベントに一致し、対になる良性フィクスチャを拒否(オフライン)ライブパイプラインでトリガーするかどうか
3エミュレーション検証済みエミュレートされた実際の手順に対してエンドツーエンドでトリガーする(Atomic Red Team or MITRE Caldera)展開されたパイプラインでこの環境のOSとログ設定で、このイベントを発生させる敵対者の実際の手順を証明しているわけではない
4本番でトリガー済み敵対者やレッドチームの活動に対して実際にトリガーされ、配置記録がある最上位

解析されたルールは、一致するルールではありません。テストフィクスチャに一致するルールは、本番でトリガーするルールではありません。層1と層3の間のギャップが静かな失敗の住みかです:ルールはクリーンに解析され、有効なフィールドを参照しながら一致数をゼロで返すことができます。フィールドが空であるか、名前が変更されたか、ルールが期待していたとの意味で異なる意味で現在は埋められているためです。

どの検出ルールが静かに機能を停止したかをどうやって知るのですか?

4つの独立したシグナルが、以下の中で静かに壊れたルールを明らかにします。 Splunk, Microsoft Sentinel、 Elastic Security。単一のシグナルだけでは十分ではありません。

発火率のベースライン設定

各ルールの現在の発火率を最近のベースラインと比較します。ゼロへの崩壊や、定義されたウィンドウ内でそのベースラインよりはるかに下回る持続的な低下を警告します。

データの保存場所:

プラットフォーム発火率データ健康および実行メタデータ
Splunkindex=notableindex=_internal sourcetype=scheduler, index=_audit
Microsoft SentinelSecurityAlert, SecurityIncidentテーブルSentinelHealth table
Elastic Security.alerts-security.alerts-*ルールページのモニタリングタブ(ルール実行ログ、8.x+)

既知の制限事項: 発火率のベースライン設定は正常時の発火率がゼロの低ベースレートのルールには失敗することがあります。正当な理由で年に2回発火するルールは、発火率のみでは監視できません。だからこそ次に挙げる3つのシグナルが存在します。

カナリーイベント

ルールに一致することが分かっている合成イベントを注入します。ルールがエンドツーエンドで発火することを確認します。これはパターンであって、ネイティブのプロダクト機能ではありません。

プラットフォーム注入面確認面
SplunkHTTP Event Collector(HEC)index=notable
Microsoft SentinelログインジェストAPI カスタムテーブルへのデータ収集ルール経由でSecurityAlertテーブル
Elastic Security監視対象インデックスへのBulkまたは_docインデックスAPI.alerts-security.alerts-*

カナリーイベントは到達範囲を証明します:イベントは収集、解析、正規化を経て生き残り、ルールがそれに一致することを確認します。しかし、それは行動を証明しません:実際の敵対手順はカナリーが想定したものとは異なるテレメトリを生成するかもしれません。

定期的リプレイ

ルールを履歴データ(過去の実イベントまたは保存されたポジティブサンプル)に対して再実行します。まだ警告が出ることを確認します。

リプレイはタグ付きまたはページング禁止のシンクに落ちる必要があります。冪等性コントロールがない場合、検証リプレイは重複インシデントを生み出し、SOCをページングします。

ネイティブサポートは異なります。Elastic Security(8.x+)は検出ルールの手動実行とギャップ検出をサポートします。Splunkは履歴的な時間範囲にわたって検索を再実行することをサポートします。Microsoft Sentinelはネイティブな分析ルールのリプレイをサポートしていません。

スキーマドリフトアラート

ルールが静かに壊れる前に(フィールドがリネームされ、削除され、再タイプされ、新しい列挙値)受信データの形状が変わったことを検出します。

プラットフォームドリフト検出面
SplunkエンタープライズセキュリティのCIMデータモデル監査ビュー、フィールド抽出
Microsoft SentinelSentinelHealth テーブル、データ収集健康状態監視ワークブック。ポピュレートが停止した列はスキーマエラーではなく、上昇傾向にあるnull値として表示されます
Elastic Securityインデックス管理のマッピング競合、 Elastic Common Schema(ECS) コンプライアンス

発火率のベースライン設定は必要だけれども不十分です。4つすべてを利用してください。

Prime Huntの コンテンツ監査はあなたがすでに動作させているルールをMITRE ATT&CKに自動でマッピングし、最新のTTPを接続環境全体でデータを移動させることなく自動の脅威検索を行います。

営業問い合わせ

なぜ検出ルールは機能しなくなるのですか?

5つのメカニズムが静かな劣化を引き起こします。どのケースでも、ルールは実行を続け、ゼロマッチを返し、実行ステータスは緑色のままです。エラーは発生せず、カバレッジヒートマップは移動しません。

1. ログソースのバージョン変更。 ソースは新しいログバージョンを送り、既存のフィールドのセマンティクスを変更します。例:IDプロバイダは認証結果を3つの状態(成功、失敗、挑戦)から2つ(成功、失敗)に統合します。「先行するチャレンジなしでの成功」を探してMFAバイパスを検出するルールは、通常のMFAフローとバイパスを区別できなくなります。ルールは依然として動作し、フィールドは依然として存在します。それが変わったのはその意味です。

2. フィールド廃止。 ソースはフィールドの放出を停止します。正規化マッピングはそのフィールドに対してnullを生成します。そのフィールドでフィルタリングするルールは、すべての値がnullになるためゼロ行を返します。唯一の目に見える症状は、そのフィールドのnull率がほぼゼロから満杯へと上昇することです。

3. スキーマ変更(フィールドリネームまたは再タイプ)。 ソースはフィールドをリネームしたり、その型を変更したりします。正規化マッピングは古い名前や古い型強制に引き続きポイントしています。ダウンストリームでは、正規化されたフィールドは空あるいは間違っています。

具体例:2019年にMicrosoftはDefender ATPアドバンストハンティングテーブルにDeviceプレフィックスを追加しました(ProcessCreationEventsが DeviceProcessEventsになり)、後にMicrosoft 365 Defenderとして、そしてその後Defender XDRとして出荷された統一スキーマの前に。保存済みポータルクエリとカスタム検出は自動的に変換されました; APIを介して実行されたクエリやポータル外に保存されたクエリは古い名前のままで、結果を返さなくなりました(Microsoftの移行ガイダンス)。名前が変更されたテーブルに対するアドバンストハンティングクエリは空を返し、厳密なエラーではありません。

4. パーサー変更。 ソースはそのログフォーマットを変更し、パーサーの正規表現がもはや一致しません。イベントは死文字キューに落ち、検出層に届きません。これらのイベントからのフィールドに依存するルールは、イベントが構造化された形で決して到達しないため、静かになります。

5. ソース廃止。 ログソースが退役されるか、移行されるか、または監査ロギングがオフになると、そのソースを読むすべてのルールはゼロを返します。新鮮さSLOがそのソースを監視している場合、検出時間は数分以内です。何も監視しない場合、ギャップは次の監査または次のインシデント時に発見されます。

静かな劣化の教科書ケースは Windows Event 4688 (プロセス生成)です。それは監査プロセス生成が有効なときにログされますが、プロセスコマンドラインフィールドは別のグループポリシー設定(「プロセス生成イベントにコマンドラインを含む」)が有効なときのみポピュレートされます。そのポリシーが無効になり、ポリシー更新で元に戻り、新しいOUに着地するか、再構築されたゴールドイメージに降りかかると、コマンドラインコンテンツに一致するすべての検出が静かに一致を停止します。

ルールは依然として解析されます。イベント4688は依然として届きます。ルールがキーとなるフィールドは空です。何もエラーはありません。ポリシーの切り替えと新たな4688イベントに対してルールを再実行することで再現可能です。(Splunk Lantern:GPO経由でプロセスコマンドラインロギングを有効化)

5つすべてが1つの特徴を共有します:緑は静かではなく壊れているということです。データプレーンシグナル(null率、解析率、ソースボリューム、発火率)のみが故障を明らかにします。

実際の攻撃が発生する前に、自分の環境で検出ルールが本当にトリガーすることをどうやって証明できますか?

2つの証明の柱が必要です。どちらか一方だけでは不十分です。

柱1:エミュレートされた実手順(行動の柱)

実際の技術を環境に対して実行し、ルールがそれに対してトリガーすることを確認します。これはルールが実際の敵対行為に一致することを証明します。

  • Atomic Red Team。 技術別のアトミックテスト:MITRE ATT&CK技術IDにマッピングされた孤立した繰り返し可能な手順。単一のテスト(例:T1059.001 PowerShell実行)を実行し、検出が発火することを確認します。
  • MITRE Caldera。 連鎖された敵対エミュレーション:複数の技術が順番に実行され、キャンペーンをシミュレートします。関連する検出が順番に発火することを確認します。
  • パープルチーム演習。 最もコンテキストの多い検証。オペレーターは技術セットを実行し、検出エンジニアが観察します。

柱2:購入者の環境全体(到達の柱)

ライブパイプラインで真のポジティブを確認し、ルールごとに通過記録を保持します。これにより、その技術のテレメトリがこの資産の収集、解析、正規化を生き残ることが証明されます。テストラボで機能し、本番で失敗したルールは構文を証明していますが、到達を証明していません。

合成テストイベントでトリガーされるルールは、構文と一致(証拠の階層の層1および2)を証明していますが、その環境で敵対者の本当の手順がそのイベントを生成することを証明していません。技術はこのOSバージョン、このエンドポイントエージェント、またはこのログ設定では、ルールが期待するイベントを生成しないかもしれません。

エミュレートされた行動に対して発火したことが証明されていないルールは、そうでないと証明されるまで装飾用と見なされます。

既存のSIEMルールをスミアなしにどのように引退するかを判断するには?

引退はカバレッジの決定であって、クリーンアップの作業ではありません。特有のカバレッジを知らずにルールを削除するとブラインドスポットが形成されます。4つの入力が防御可能な引退を知らせ、1つの記録された決定がそれを閉じます。

発砲履歴

ルールは定義された期間内に真のポジティブを生成しましたか?レビューウィンドウで真のポジティブがないルールは候補であり、判断ではありません。いくつかのルールは珍しいが高影響の技術のために存在します。ルールが死んでいるのではなく未行使であるとの結論を下す前にデータソースの健康を確認してください。

技術マッピング

そのルールはどのMITRE ATT&CK技術をカバーしていますか?マッピングがない場合、引退がギャップを生むかどうか評価できません。ルールがその技術の唯一のカバレッジであれば、引退は除去前にギャップを埋めるか、合意され文書化されたリスクとして受け入れられなければなりません。

カバレッジの重複

別のルールまたは別のデータソースが同じ技術をカバーしていますか?IDプロバイダーログを読むものとエンドポイントテレメトリを読むものは、同じT1078をカバーする2つのルールであっても交換可能ではありません。重複は技術とデータソースが組み合わさったもので、技術だけではありません。

データソースの状態

ルールが依存するログソースはまだアクティブでポピュレートされていますか?廃止されたソースに対するルールは何も生成せず、カバレッジロスなしで引退できます。

決定記録

Detection-as-Code は引退をバージョン管理されたレビュー可能な変更として扱います:コミットメッセージ、ディフ、および記録であり、SIEMコンソールからの静かな削除ではありません。引退記録はルール名、そのカバーした技術、カバレッジの決定(他でカバーされている、受け入れたリスク、または置換された)、日付、および著者を名付けます。四半期ごとのレビュー節奏は候補を現します。 Prime Hunt はプラットフォーム全体でATT&CK技術に検出コンテンツをマッピングするためのカバレッジと検証スーパーフェイスを提供します。

引退を強制する条件:ルールが依存するデータソースが廃止され、技術が同じデータに対してより正確なルールで完全に置き換えられ、調整後に誤報のみを生成し、リデザインでの修正が不可能な場合。

古い検出を引退させてください。抑制しないでください。抑制されたルールはルール数を膨らませ、カバレッジの偽りの感覚を生み出します。

防御可能な検証の頻度とは?

外部標準はこれらの頻度を設定していません。以下は実務者の推奨です。各行はカレンダーのリズムとイベントトリガーをペアにしており、劣化は時間によりもイベント駆動であることが多いからです。

ルールのクラス試験方法カレンダーの頻度イベントによる再検証作成される証拠
高揮発性のソース(EDR、クラウド監査、カスタムパーサー)Atomic Red Teamリプレイ + 発火率のベースライン毎月センサー/エージェントのアップグレード、パーサーの変更、フィールドのリネーム、コネクタの変更ルールごとの通過記録 + 必要なフィールドのnull率
安定したソース(ネットワーク、ファイアウォール)アトミックテスト + 発火率のベースライン四半期ごとソースフォーマットの変更、インジェストルーティングの変更通過記録 + ソースボリューム内バンド
相関/ステートフルルールMITRE Calderaチェーンエミュレーション四半期ごとに、全構成ルールの変更時にコンポーネントルールまたはそのデータソースの変更時終了まで火、配置
コンプライアンスに依存するルールエミュレーション + 記録済みの真のポジティブ四半期ごと、監査と一致規制または制御の変更日付が挿された証拠バンドル
AIによって作成されたルール完全な階層(リント、ユニット、エミュレーション、FPベースライン)を展開前に実施、その後それに応じた頻度で実施すべての展開前に再ドラフト、プロンプトまたはモデルの変更出所記録(誰が作成、誰がレビュー)+ 発火の証明

2つの運用原則が適用されます。

発火率のベースライニング、必要フィールドのnull率モニタリング、ソースボリュームのバンドは継続的です。カレンダーではなく常に実行されており、これはスケジュールされた検証の間に静かな劣化を見逃さない方法です。

プラットフォームネイティブの健康ビューがこれをサポートします。Splunkはインデックス=_internalでスケジューラーメタデータを露出し、インデックス=_auditで相関検索の実行を露出します。 Sentinel はSentinelHealthにアナリティクスルールの健康を露出します。Elastic Securityはルール実行ステータスをモニタリングタブ(8.x+)で露出します。これらから発火率のベースラインを構築してください。

表のイベントトリガーは任意ではありません。四半期ごとのペースでミッドクォーターパースの変更を無視すると、それがキャッチし存在する劣化を見逃します。

この原則が当てはまらない場合

  • 行動分析および機械学習に基づく検出 には、リプレイやフィクスチャテストを行うための個別のルールロジックがありません。異常をスコアリングするモデルの検証は、その入力をテストすること(期待されるデータが期待される形で届いているかどうか)とその出力の分布をチェックすることであり、Sigmaフィクスチャをリプレイすることではありません。
  • 脅威インテリジェンスインディケータの一致 (ハッシュ、IP、ドメイン)は異なる理由で劣化します。インディケータは、スキーマが変わるのではなく、敵対者がインフラを回転させるために期限切れになります。検証の質問は、マッチングロジックが依然として解析するかではなく、インディケータフィードの鮮度です。
  • デセプションベースの検出 (ハニーポット、ハニートークン、カナリーアカウント)は、それ自体の検証面です。テストは、偽装資産との相互作用が依然として期待される警告を生成するかどうかであり、これはカナリーイベントの注入に近いものです。
  • スキーマ・ドリフト警告は、ネイティブ機能としては未熟です。 主要なSIEMは「あなたの検出が依存するフィールドがちょうど変わった」と言うパッケージ化されたルール対応警告を出荷していません。ドリフト検出のためのデータは存在します(null率、マッピングの競合、CIMギャップ)。フィールド変更から影響を受けたルールへの接続は今日では手動です。
  • これらの頻度は基準ではありません。 規制機関や業界フレームワークは特定の検出検証頻度を義務付けていません。上記の頻度は実務者による推奨です。環境の変化速度に応じてそれらを調整してください。

検出 検証 チェックリスト

展開前

[ ] ルール 解析 対象 スキーマ (層 一致 1)

[ ] ルール 既知のポジティブ フィクスチャ イベント 拒否 一致 2)

[ ] ルール ペアリングされた 既知の良性 発火 イベント 拒否 一致 2)

[ ] ルール エミュレートされた 対象 実際の 手順: チーム

チームチーム Red 展開済み or 展開済み 展開済み 一致 3)

[ ] ルール エミュレートされた end to end in the パイプライン 誤検出のベースライン 一致 3)

[ ] 文書化済み 本番 テレメトリ 対象 ATT&CK telemetry

[ ] 展開済み 技術 マッピング 記録済み 展開後

(最初の 日) 7 発火率

[ ] 確立 本番 警告

[ ] ボリューム 比較 展開前の to 推定 予期しない

[ ] No 誤検知 継続的に監視 比較

(連続)

[ ] 確立 必要フィールド 対象 本番 null率

[ ] ソース ドロップ 必要フィールド null率

[ ] カナリー 比較 必要フィールド for イベント null率

[ ] 注入 スケジュールされた (ペース 表に従って) エミュレーション リプレイ スキーマ・ドリフト

[ ] モニタリング replay 表に従って) エミュレーション リプレイ スキーマ・ドリフト

[ ] Schema-drift アクティブ 必要 on フィールド 引退

レビュー (四半期ごと) 火

[ ] 履歴 閲覧済み: 本当の 肯定 ウィンドウ in (四半期ごと) 技術

[ ] 現在の 記録済み カバレッジ

[ ] 重複 評価済み: 他の ルール ソース or カバー

チームデータ the マッピング

[ ] 状態 カバー 確認済み: まだ ポピュレートされています 必要 and 意思決定

[ ] レビュー 技術と 展開後 カバレッジについての 理論、 日付、

チーム著者によって 証拠 and 検証

サイクル per 通過 履歴

[ ] 記録 方法、 per ソース カバレッジについての 証拠 結果 and Null率

[ ] 発火率 and ベースライン チェック カバレッジ

[ ] Schema-drift 理由 カバレッジ

[ ] レビュー log カバレッジ カバレッジについての 代替品 and 4つの信号が静かに壊れたルールを検出します:各ルールの自身の最近のベースラインに対する発火率のベースライン設定、検出パイプラインを通じたカナリーイベントのエンドツーエンド注入、保存されたポジティブサンプルの定期的なリプレイ、および必要なフィールドでのスキーマ・ドリフト監視。発火率のベースライン設定は最も一般的な出発点です。通常の発火数がゼロの低ベースレートのルールには失敗します、これが4つの信号がすべて必要である理由です。Splunk、Microsoft Sentinel、Elastic Securityは、それぞれ独自のデータサーフェイスを介して発火率と実行健康を見せています。Prime HuntはコンテンツをATT&CK技術にマッピングするためのカバレッジと検証の表面を提供しています。

FAQ

どの検出ルールが静かに機能を停止したかをどうやって知るのですか?

Four signals catch silently broken rules: fire-rate baselining against each rule’s own recent baseline, canary event injection end to end through the detection pipeline, periodic replay of stored positive samples, and schema-drift monitoring on required fields. Fire-rate baselining is the most common starting point. It fails for low-base-rate rules whose normal fire count is zero, which is why all four signals are needed together. Splunk, Microsoft Sentinel, and Elastic Security each expose fire-rate and execution health through native data surfaces described in the platform tables above. Prime Hunt provides a coverage and validation surface for mapping content to ATT&CK techniques.

実際の攻撃が発生する前に検出ルールが発火することを証明するには?

2つの証明の柱、どちらも必要です。まず、Atomic Red Teamを使用して技術ごとのテストを実行するか、MITRE Calderaを使用して敵対者エミュレーションをチェインして環境に対して技術を実行し、検出がトリガーされることを確認します。これは行動の柱です。次に、ライブパイプラインでルールがエンドツーエンドでトリガーされ、ルールごとに通過記録として検証されることを確かめます。これは到達の柱です。合成テストイベントで発火するルールは構文と一致を証明しています。しかし、敵対者の実際の手順がこの環境で同じテレメトリを生成することを証明していません

スミアを生じずにSIEMルールをどのように引退することを決定しますか?

4つの入力が意思決定を防御可能にします:レビューウィンドウにおけるルールの発砲履歴、そのMITRE ATT&CK技術マッピング、別のルールまたはデータソースが同じ技術をカバーしているか、ルールのデータソースが依然としてアクティブかどうかです。引退の決定は、Detection-as-Code規律で記録されます:ルール名、カバーする技術、カバレッジの理論(他でカバーされている、受け入れられたリスク、または置換される)、日付、および著者。四半期ごとのリズムが候補を浮き彫りにします。

検出はどのくらいの頻度で再検証されるべきですか?

外部の標準は特定の検出検証頻度を義務付けていません。上記のカデンステーブルは実務者の推奨を示しています:高揮発性のソース(EDR、クラウド監査、カスタムパーサー)に対するルールは月次、安定したソース(ネットワーク、ファイアウォール)に対するものは四半期ごと、AIで起草されたルールは毎回のデプロイ前です。イベントトリガーはカレンダーと同様に重要です:パーサーの変更、センサーアップグレード、フィールドのリネームは、スケジュールにかかわらず即時再検証をトリガーします。発火率のベースライン設定とnull率のモニタリングは継続的に実行されます。

関連した読み物

SOC PrimeのDetection as Codeプラットフォームに参加し ビジネスに最も関連性のある脅威に対する可視性を向上させましょう。開始して即座に価値をもたらすためには、今すぐSOC Primeの専門家とのミーティングを予約してください。

More Articles