フォローする 少し前までは、フィッシングメールを見つけるのはほとんどゲームのようなものでした。奇妙な言い回し、ずれたロゴ、合わない送信者アドレスなど、注意深く見ればヒントは通常そこにありました。しかしそれは急速に変わりつつあります。現在のキャンペーンの背後にあるツールが劇的に改善され、同時に劇的に安価になったからです。AIサイバー攻撃とは、人工知能が重労働の一部を担うものです。例えば、フィッシングのコピーを書く、声をクローンする、マルウェアを書き換えて実行するたびに異なるように見せる、あるいは悪用する価値のある誤設定されたサーバーをネットワーク内でスキャンするなどです。
AIが攻撃を完全に独立して開始するわけではありませんが、エージェント的なセットアップは四半期毎にそれに近づいています。主に、AIがやっているのは攻撃者を遅らせる原因となっていた摩擦を取り除くことです。説得力のあるコピーを書くための時間、アンチウイルス署名を回避するための手動作業、偽装呼び出しの前にターゲットを調査するための肉体労働などです。
この変化が防御者にとって重要である理由は、攻撃が抽象的な、SF的な意味で賢くなったということではありません。生産が安価になり、指紋で見分けるのが困難になり、以前よりもはるかに多くの攻撃者にとって利用可能になったことです。数年前にはこんなに説得力のある攻撃を実行する技能や忍耐がなかった多くの攻撃者を含みます。そして参入障壁が低下し続けるため、検出および防御のアプローチもそれに合わせて進化する必要があります。
AI駆動のサイバー攻撃の多様な顔
AI駆動のサイバー攻撃は単一の技術ではありません。攻撃ライフサイクルのほぼすべての段階に取り付けられるツールキットです。以下は、セキュリティチームが現在対処している最も明確なAI駆動のサイバー攻撃の例です。それぞれがAIサイバー攻撃がそれに設計されていない防御をくぐり抜ける異なる方法を示しています。
AI生成のフィッシングとソーシャルエンジニアリング。 これは今のところ最も一般的なエントリーポイントです。数千の受信ボックスに送信されたテンプレートメールの代わりに、攻撃者は言語モデルにLinkedInのデータ、侵害ダンプ、公開申請を供給し、ターゲットの仕事、マネージャーの名前、会社の内輪言葉を実際に知っている誰かによって書かれたようなメッセージに変わります。誤字も奇妙な言い回しもありません。まさに本物と区別がつかないほどのメッセージであり、キャンペーン内では2つのメッセージが全く同じである必要はありません。まさにこのことが、フィルタに対するバルクマッチングを従来よりも効果が薄くする理由です。
ディープフェイクの声とビデオのなりすまし。 音声クローンツールは今や、収益通話、ウェビナ記録、YouTubeインタビューから数秒の音声を取得するだけで説得力のあるフェイクを生成することができます。それをビデオ合成と組み合わせると、ビデオ通話に出席し、送金を承認したり緊急リクエストを承認したりする偽造の幹部が現れます。完全に偽造されたリーダーシップチームとのビデオで「会った」後に何百万ドルもの送金に関わる金融スタッフの事件は既に話題になっており、それらの技術はますますアクセスしやすくなっています。
多様性のある、AIが書いたマルウェア。 従来のマルウェア検出は既知の署名に大きく依存しています。AI生成のマルウェアは、実行時に自身のコードを書き直すことでこれを回避し、感染したすべてのマシンがわずかに異なるバイナリになるようにします。一部のバリアントは実行中にAIモデルに呼び出しを行い、変異を続けることで、静的な署名一致が単独では信頼性を下げ、外観ではなく動作に依存する必要があります。
AI加速の偵察。 攻撃者が1通のメールを送信する前に、AIはソーシャルメディア、企業文書、組織図、古い侵害データをチューして分析し、企業とその従業員の詳細なプロファイルを構築します。これまで手作業で数日かかっていた作業が、今や数分に圧縮されています。攻撃者はターゲット企業のすべての従業員を調査する余裕があり、高価値な人だけに限られません。
AI支援のビジネスメール詐欺。 アカウントが侵害されると、AIは財務や人事スタッフと多段階の信憑性のある会話を続け、ターゲットのリアルタイムの反応に基づいてトーンや緊急性を調整します。しばしばマルウェアや悪意のあるリンクは関与せず、攻撃は会話そのものであり、後から検査するものがほとんどありません。
企業AIへのプロンプトインジェクション。 企業がAIコーパイロットやエージェントを展開すると、最新のカテゴリが生まれます。AIアシスタントが処理するドキュメント、メール、カレンダー招待の中に悪意のある指示を隠し、ユーザーが何も意図的にクリックせずにデータを流出させたり攻撃者が制御するコマンドを実行させたりします。
これらのカテゴリは、実際の事件で常に重なります — 単一のキャンペーンがAI駆動の偵察から始まり、パーソナルフィッシングメールに移行し、ディープフェイクの声の通話で契約を締結することがあります。もはやこれらの技法の1つだけに依存する攻撃はめったにありません。
AI駆動のサイバー攻撃のメカニズム
機械的なレベルでは、ほとんどのAI駆動のサイバー攻撃はいつもの攻撃と同じ形をとります — 偵察、初期アクセス、エスカレーション、実行 — しかし、AIはほぼすべてのステップで挿入され、時間を短縮し、より説得力のあるものにします。生成モデルがフィッシングコピーや偽のドキュメントを書き、声とビデオの合成モデルがわずかな公開サンプルで訓練されてなりすましを扱います。より高度なセットアップでは、エージェントAIシステムがこれらのステップを最小限の人間の入力で連鎖し、ネットワークをプローブしたり、防御に当たったときに適応し、次のステージにほぼ独力で移行します。
その結果、固定されたスクリプトというよりリアルタイムで反応し調整するものに近い動作をする攻撃がもたらされます。それこそが、2度見ても同じように見える攻撃を期待するように作られた静的なルールベースの防御で捕まえるのを非常に難しくする要因です。
AI駆動のサイバー攻撃を検出する方法
シグネチャーベースのツールは繰り返されるパターンをキャッチするために構築されました — しかし、AI生成の攻撃は自分自身を繰り返さないように特に作られています。それがまさに、検出がパターンマッチングだけに頼れなくならなければならなかった理由です。行動分析が現在多くの重労働を担っています。「このメールは既知の悪いパターンに一致しているか」ではなく、「この送信者の行動は通常のコミュニケーション方法と一致しているか」を訊くのです。ログイン時間の異常、「信頼された」連絡先からの不通常なリクエスト、表情が自然に追従しないビデオ通話参加者はすべて、コンテンツベースのフィルターではしばしば見逃されるシグナルです。マルウェア実行中の行動パターンを観察することで、静的なファイルハッシュの一致を頼りにするよりも、メール、アイデンティティ、およびSaaSの活動全体にわたってシグナルを相関させることが効果的です。AI生成コンテンツの特定の指紋に検出ロジックを調整することで、さらにそれを鋭敏にします。
AI駆動のサイバー攻撃を緩和する方法
攻撃が足場を得た後は、損害を制限し、拡がりの防止や繰り返しの防止に重点が移ります。侵害されたアカウントとエンドポイントを迅速に隔離することが今まで以上に重要です。特にAI駆動のキャンペーン — 特にBECスタイルのもの — は、一度信頼を確立すると迅速に会話またはネットワークを移動することができますので。
資格情報のローテーション、アクティブセッションの取り消し、異常のための最近の認証ログのレビューは、事後報告に隠すのではなく、直ちに行われるべきです。毎日のプロセスにアウトオブバンド認証を組み込むことも大いに役立ちます — 送金、証明書のリセット、支払詳細の変更などの敏感なものに対して、完璧なディープフェイクの声による通話でも、別のチャンネルを通じた独立した追加確認なしには完了できないように。この警戒が収まった後、学んだことを検出ルールや脅威インテリジェンスにフィードバックすることが実際にループを閉じることになります。攻撃者は何が効果的だったかを踏まえて反復する傾向があり、あなたの防御もそれに合わせて反復し続ける必要があります。
AI駆動のサイバー攻撃を防ぐ方法
ここでの防止策は単一のツール購入ではありません — AIサイバー攻撃を最初に実行するのを意味のあるハードルにするための層状の習慣です。
まずはアイデンティティから始めましょう: FIDO2キーやパスキーのようなフィッシング抵抗型MFAはSMSコードよりも、依然として欠けていません。それによって、完璧なAI生成のフィッシングページでさえも、ハードウェアキーが打鍵されたパスワードのように傍受されることはないため、資格情報盗みの試みの大きな部分を閉じます。厳格なDMARCの実施と不要なメールリレー機能のロックダウンは、まずスプーフィングされたメッセージが誰かの受信トレイに説得力をもって届く確率を減らします。従業員のトレーニングもまだ大いに重要ですが、それには正直なアップデートが必要です — 現代のAIフィッシングとディープフェイクの試みが今日どのように見えるのかを人々に明示する必要があります。5年前の不器用で誤字にあふれた例ではなく、定期的で現実的なシミュレーションは年一度のスライドショーよりもはるかに役立ちます。ガバナンス側では、自社のAIコパイロットやエージェントを展開する組織には、これらのシステムが何をアクセスし何を行えるかに関する明確なポリシーが必要です。先に説明されたプロンプトインジェクションの種類のトリックによって正に利用されるのを待っている新しい攻撃面そのものです。
AIはAI駆動のサイバー攻撃の防御に役立つか？
はい — 現時点では、それはオプションというよりも必須に近いです。AI規模の攻撃に手動で、人間のペースで対抗するのは維持がますます難しいです。攻撃者側の量と速度が非常に高く、人間だけでは追いつけないからです。
防御AIは具体的で実用的な多くの方法で登場します。特定のユーザーまたはシステムにとっての「通常」を学習し、人間のアナリストが単独で働くよりもはるかに迅速に逸脱を旗立てる行動モデル;メール、アイデンティティ、およびネットワークテレメトリーをまたがっての自動相関は、単一のツールが孤立的に発見することのない多段的攻撃をキャッチします。そして、AI支援の検出エンジニアリング、モデルがセキュリティチームが検出ロジックを書くのを支援し、完全に手動プロセスが許すよりも速く洗練します。検出エンジニアリングに基づいたプラットフォームはますますこれに頼り、AIを活用して新しい攻撃技術が野生に現れる時とそれを実際にキャッチするルールがある時の間のギャップを短縮します。
重要な場合の最終決定には人間の判断がまだ果たす役割があります — 疑わしい送金、不通常なアクセスリクエスト、何か少し違和感のある通話。しかし、防御側でのAIがセキュリティチームに追いつく速度を提供し、それが — AI駆動の検出に支えられた人間の判断という組み合わせが、これらの攻撃が進化を続ける中で、どのように守るかを先取りするものです。
