수년 동안 “AI 기반 공격”은 더 나은 피싱 이메일을 의미했습니다. 그 시대는 끝났습니다. 2025년 말, Anthropic은 AI 에이전트가 약 30개의 목표물에 대해 전술 작업의 80-90%를 수행하고 인간이 몇 가지 의사 결정 지점에서만 개입한 국가 지원 스파이 캠페인을 공개했습니다. 공격자의 병목 현상은 더 이상 인력이 아닙니다. 그것은 토큰입니다.
SOC 분석가와 탐지 엔지니어에게 이는 수학적 계산을 변화시킵니다. 머무름 시간이 줄어들고, 공격 규모가 컴퓨팅 능력에 따라 확장되며, 우리가 규칙을 작성하는 TTP(전술, 기술 및 절차)는 매 실행마다 변형되기 시작합니다. 자동 공격이 후드 아래에서 어떻게 작동하는지, 그리고 동일한 속도로 방어를 구축하는 방법을 소개합니다.
자율 AI 사이버 공격이란?
자율 AI 사이버 공격은 AI 에이전트가 인간의 최소한의 지휘로 공격 체인을 계획, 실행 및 적응하는 침입입니다. 운영자는 목표(“목표 X에서 도메인 관리자 얻기”)를 설정하고 에이전트가 거기에 도달하는 방법을 결정합니다.
클래식 자동화와의 주요 차이점은 추론입니다. 스크립트는 매번 동일한 운영 절차를 실행합니다. 에이전트는 도구 출력물을 읽고, 실패한 익스플로잇을 확인하고 다른 경로를 시도합니다. 잠긴 총에서 밤낮으로 잠을 자지 않고 병행으로 수백 개의 목표를 작업하며 API 시간을 몇 달러에 운영하는 주니어 레드 팀원으로 이동하는 것으로 생각할 수 있습니다.
자율 공격은 어떻게 작동합니까?
대부분의 자율 공격 프레임워크는 간단한 루프를 실행합니다: 관찰, 계획, 수행, 평가, 반복. 조정자 모델은 목표를 작은 작업으로 나누고 이를 모델 컨텍스트 프로토콜(MCP)과 같은 프레임워크를 통해 실제 도구에 연결된 하위 에이전트에 전달합니다: 스캐너, 자격 증명 덤퍼, 브라우저, 셸.
일반적인 실행은 MITRE ATT&CK에 깔끔하게 매핑됩니다:
- 정찰 (TA0043): 에이전트는 노출된 서비스를 열거하고, 직원 데이터를 긁어내며, 가치를 기준으로 목표를 순위 매깁니다.
- 초기 액세스 (TA0001): 발견된 취약점을 위한 익스플로잇을 작성하거나 조정하고, 이를 테스트하며, 실패 시 다시 시도합니다.
- 자격 증명 접근 및 횡단 이동 (TA0006, TA0008): 비밀 정보를 수집하고, 이를 검증하며, 피벗하고, 운영자를 위해 모든 단계를 기록합니다.
- 수집 및 추출 (TA0009, TA0010): 도난당한 데이터를 지능 가치에 따라 정리한 후 발송합니다.
이 작업을 가능하게 하는 요령은 작업 분해입니다. 각 하위 작업은 개별적으로는 무해해 보입니다(“이 호스트를 스캔하라”, “이 로그인을 테스트하라”), 이는 정확히 공격자들이 모델 보호 장치를 회피하는 방법입니다. 방어 측에서 얻을 수 있는 교훈: 신호는 모든 단일 이벤트에 있는 것이 아니라 시퀀스와 템포에 있습니다.
자율 AI 공격에 맞서 방어하는 방법?
에이전트는 빠르지만 미묘하지는 않습니다. 인간 운영자가 지속할 수 없는 요청률을 생성하고, 공격적으로 재시도하며, 때때로 자격 증명이나 발견을 환각할 수도 있습니다. 그 잡음이 바로 당신의 이점입니다. 탐지를 집중할 곳은:
- 행동 지표 위. 에이전트 중심 캠페인에서 나온 IOC는 실행마다 고유할 수 있습니다. 빠른 연속 발견 명령, 여러 계정에서의 폭발적인 인증 시도, 몇 초 안에 수십 개의 정찰 도구를 생성하는 새 프로세스 등의 행동에 대한 Sigma 규칙을 작성하십시오.
- 속도와 상관관계. 저심각도 이벤트를 고신뢰 알람으로 연결합니다. 60초 내에 동일한 ID에서 10개의 무해한 행동이 있으면 이는 이야기할 가치가 있습니다.
- ID 및 API 원격 측정. 에이전트는 토큰과 서비스 계정에서 작동합니다. 비정상적인 API 사용, 불가능한 속도의 세션, 서버에서의 LLM 엔드포인트에 대한 예상치 못한 호출을 모니터링하십시오.
- 기만. 허니 토큰과 미끼 자격 증명은 발견한 모든 것을 탐욕스럽게 검증하는 에이전트에 대해 훌륭하게 작동합니다.
자율 공격에서 LLM은 어떻게 사용되나요?
LLM은 현대 공격 스택에서 세 가지 역할을 합니다:
- 두뇌. 상업적 또는 오픈 모델은 오케스트레이터로 작용하여 다음에 할 일을 추론하고 필요에 따라 코드를 생성합니다.
- 페이로드. 말웨어는 이제 런타임에 모델을 쿼리합니다. APT28과 관련된 CERT-UA의 LameHug는 호스팅된 LLM을 사용하여 실시간으로 탐사 명령을 생성했고, PromptLock 개념 증명은 로컬에서 실행되는 모델을 통해 자신의 Lua 스크립트를 작성하는 랜섬웨어를 보여주었습니다. 정적 명령 문자열이 없다는 것은 일치하는 서명이 더 적다는 것을 의미합니다.
- 사회 공학자. 맞춤형 피싱, 음성 클로닝, 딥페이크 비디오는 이제 거의 제로의 한계 비용으로 수천 개의 목표에 쉽게 확장됩니다.
탐지 엔지니어에게는 이것이 사냥할 가치가 있는 새로운 원격 측정을 생성합니다: 비사용자 호스트에서의 LLM API로의 아웃바운드 트래픽, 이진 파일에 내장된 API 키, 엔드포인트에 나타나는 로컬 추론 런타임, 알려진 툴킷에서 복사된 것보다 새로 생성된 것처럼 보이는 스크립트.
이러한 공격에 대비하기 위해 비즈니스를 준비하는 방법은 무엇인가요?
준비는 솔직한 질문에서 시작합니다: 만약 공격자가 오늘 밤 위협 모델 내 모든 기법을 병행으로 시도할 수 있다면, 어떤 기법을 잡을 수 있겠습니까?
- ATT&CK에 맵핑된 범위. 에이전트가 선호하는 기법인 발견, 자격 증명 접근, 그리고 횡단 이동에 대한 갭을 식별하십시오. 이론적인 매트릭스가 아닌 실제 로그 소스를 기반으로 우선순위를 정하십시오.
- 노출 표면을 축소하십시오. 에이전트는 잊혀진 자산을 찾는 데 뛰어납니다. 지속적인 외부 공격 표면 관리를 통해 인터넷에 노출된 시스템의 빠른 패치를 통해 그들의 가장 쉬운 이득을 없애십시오.
- ID를 강화하십시오. 피싱 저항 MFA를 시행하고, 비밀을 순환하며, 지속적인 권한을 제거하십시오. 도난당한 자격 증명은 모든 자율 체인의 연료입니다.
- 당신의 AI를 관리하십시오. 내부 에이전트, MCP 서버, LLM 통합을 인벤토리로 나열하십시오. 호환 주입을 통해 당신의 AI에게 제공하는 모든 도구는 공격자가 탈취할 수 있는 도구입니다.
- 기계 속도로 리허설하십시오. AI 지원 적군 에뮬레이션과 함께 보라색 팀 연습을 실행하고 탐지 시간 계산을 분 단위로 측정합니다.
보안을 자율 방어로 변환하는 방법?
티켓 큐와 에이전트를 싸울 수 없습니다. 자율 방어는 반복적인 루프를 기계에 맡기고 분석가가 판단과 전략을 소유하는 것을 의미합니다. 실제로 이는 다음과 같이 보입니다:
- 코드 파이프라인으로서의 탐지. 규칙은 버전 관리 시스템에 저장되고 자동으로 테스트되며 모든 SIEM, EDR, 데이터 레이크에 몇 분 만에 배포됩니다. Sigma는 벤더 독립적 형식으로 휴대 가능합니다.
- AI 지원 탐지 엔지니어링. AI를 사용하여 위협 보고서를 규칙으로 번역하고, 플랫폼별로 쿼리를 변환하며, 시끄러운 콘텐츠를 조정합니다. SOC 프라임의 Uncoder AI는 바로 이를 수행하여 CTI를 즉시 배포할 수 있는 탐지로 변환하고 여러 SIEM, EDR, 데이터 레이크 언어로 규칙을 번역합니다.
- 지속적인 콘텐츠 갱신. 새로운 행동이 매주 나타납니다. SOC 프라임 플랫폼의 위협 탐지 마켓플레이스는 신종 위협이 등장함에 따라 ATT&CK과 매핑된 규칙을 제공하므로, 백로그를 기다리지 않고도 커버리지가 발전합니다.
- 안전장치를 가진 에이전트식 선정. AI 에이전트를 활용하여 경고를 풍부하게 하고, 컨텍스트를 상관시키며, 대응 조치를 초안하지만 파괴적인 것은 사람이 승인하도록 유지하십시오. 감독 없는 자율성은 공격자에게 새로운 표적을 줄 따름입니다.
목표는 분석가를 대체하는 것이 아닙니다. détect-to-respond 주기를 압축하여 팀이 실제로 인간의 브레인이 필요한 5%의 케이스에 집중하도록하는 것입니다.
자율 공격에 대한 사이버 보안 트렌드는 무엇인가요?
- 익스플로잇 윈도우 감소. AI 시스템은 이미 규모에 따른 실제 취약점을 찾고 있으며, DARPA의 AI 사이버 챌린지가 이를 보여주었습니다. 공개에서 무기화까지의 시간이 주에서 시간으로 줄어들 것으로 예상됩니다.
- 런타임 생성 악성코드가 주류로 가고 있습니다. LLM 쿼리 페이로드는 방어자를 행동 탐지 쪽으로 더 밀어낼 것입니다.
- AI 인프라가 표적이 됩니다. 프롬프트 주입, 오염된 MCP 서버, 탈취된 에이전트가 공격 표면에 합류할 것입니다.
- 방어는 에이전트 대 에이전트로 전환됩니다. 사람의 전문성을 AI 기반 탐지 엔지니어링과 결합한 SOC는 계속 발맞출 것입니다. 그렇지 않은 경우, 앞서 나가게 될 것입니다.
공격자는 자동화되었습니다. 이제는 여러분의 차례입니다. SOC 프라임 플랫폼을 탐험하여 새로운 AI 기반 위협에 대한 행동 기반 탐지를 오늘날 당신의 스택에 포함하십시오.