주요 AI 지원 사이버 공격 및 사기에는 무엇이 있을까?

AI를 사이버 공격에 사용할 수 있는 방법은 무엇인가요?

AI 지원 공격을 이해하려면 종단 간 ‘공격 파이프라인’으로 생각하세요. AI는 접근, 인프라 또는 기술을 대체하지 않지만, AI와 사이버 범죄의 모든 단계에서 마찰을 줄입니다:

• 정찰 및 프로파일링. 공격자는 공개 소스 정보 (OSINT)를 수집하고 요약하여 흩어진 데이터를 타겟 프로필로 변환합니다: 누가 송장을 승인하는지, 어떤 벤더를 사용하는지, 어떤 기술 스택을 언급하는지, 그리고 어떤 비즈니스 이벤트 (감사, 갱신, 여행)가 긴급성을 이용할 수 있게 만드는지.
• 사전 텍스트 및 대화 관리. LLMs는 믿음직한 이메일, 채팅 메시지, 전화 스크립트를 생성하여 현실적인 쓰레딩 (‘Re: 지난주의 티켓’), 정중한 긴급성, 스타일 모방을 포함합니다. 또한 빠른 반복을 쉽게 만들어 공격자가 수십 개의 변형을 생성하여 필터를 통과하거나 수신자를 설득할 수 있는지 확인할 수 있습니다.
• 악성코드, 툴링, ‘글루 코드’. AI는 특히 연결을 담당하는 반복되는 ‘스티칭’을 포함한 스크립트 (PowerShell, JavaScript), 매크로 논리, 단순 로더 작성 속도를 높일 수 있습니다. LOLBins, 다운로드 및 지속성 단계. Sophos는 피싱 이메일 생성 및 악성코드 작성과 같은 악의적인 사용 사례를 명시적으로 경고합니다 like generating phishing emails and building malware.
• 회피 및 운영 속도. 생성 도구는 키워드 기반 방어를 피하기 위해 텍스트를 다시 작성하고, 문서 레이아웃을 변경하며, 허위 콘텐츠를 생성할 수 있습니다. 실행 중에는 공격자가 종종 명령 하나가 실패할 경우 AI 지원으로 문제를 해결하여 대안을 제안함으로써 방어자가 활동을 봉쇄할 시간을 줄입니다.
• 확대된 착취 및 우선 순위 설정. 자동화는 노출된 서비스를 스캔하고, 타겟을 평가하며, 거점이 존재할 때 후속 작업을 대기시킬 수 있습니다. AI는 또한 취약점 공지를 요약하거나 피해자의 스택에 맞게 공개된 익스플로잇 코드를 조정하는 데 도움을 줄 수 있어 ‘알려진 문제’가 빠르게 타협되도록 합니다.
• 사후 착취 및 유출. AI는 파일 공유를 분류하는 데 도움을 주며(무엇이 가치 있고, 무엇이 민감한지), 유출 스크립트를 작성하고 산업의 고통 포인트에 맞춘 협박 메시지를 생성할 수 있습니다.

AI 지원 공격에 대응하기 위해, 보안 팀은 여러 지점에서 파이프라인을 끊을 수 있습니다. 여기에는 인터넷에 노출되는 시스템을 빠르게 패치하고, 농성 가치를 줄이고(필요 없는 공개 세부사항 제한), 고위험 요청에 대한 신원 확인을 강화하고, 실행 경로(매크로, 스크립트, 서명되지 않은 바이너리)를 제한하는 것이 포함됩니다. Fortinet은 서명 및 IOC가 부족할 때 비정상 활동을 탐지하는 접근법으로 행동 분석/UEBA를 권장합니다.

유용한 마인드셋은 ‘메시지가 완벽하다’고 가정하는 것입니다. 문법과 톤이 신호를 제공하지 않는다고 가정하면, 여전히 효과적인 제어 수단-인증, 권한 부여, 실행 제한-에 투자하게 될 것입니다. AI를 공격자의 속도를 증가시키는 것으로 취급하고, 새로운 접근 방식으로 보지 마십시오.

운영적으로, 방어자는 정상적인 관리 활동처럼 보이는 더 많은 ‘직접 컴퓨터 사용’ 순간을 예상해야 합니다. 아이덴티티, 이메일 및 엔드포인트 스크립팅 환경 전반에 걸친 강력한 로깅은 OAuth 동의 남용, 이상한 PowerShell 실행, 지속 메커니즘 및 외부 데이터 유출을 포함한 중요한 활동을 드러냅니다. 중앙 집중식 상관관계는 공격자 행동 패턴을 가시화합니다.

AI 지원 사기를 어떻게 피할 수 있나요?

AI 지원 사기를 피하는 것은 ‘AI 감지’보다는 검증 습관을 강화하는 것입니다, 특히 메시지가 긴급하거나 감정적으로 고조된 경우에. 기억해야 할 키워드는 AI와 사이버 공격입니다: 공격자의 목표는 여전히 이를 클릭, 결제, 자격 증명 공개 또는 접속 승인하도록 만드는 것입니다. 다음 단계들은 AI 기반 사기를 신속하게 인식하고 피하는 데 도움이 될 수 있습니다:

1. 고위험 행동을 늦추세요. 규칙을 만드십시오: 돈, 자격 증명, MFA 코드, 급여 변경, 기프트 카드, 또는 ‘보안 점검’이 관여하는 요청은 일시 정지합니다. 사기꾼들은 검증을 앞서가기 위해 속도에 의존합니다.
2. 시작점을 통제 하에 두었음을 확인하세요. 이메일이 결제를 요청하는 경우, 동일한 스레드에 응답하지 않고 알려진 전화번호 또는 내부 티켓 시스템을 통해 확인하세요. 음성 요청의 경우, 메시지의 번호가 아닌 디렉터리 번호를 사용하여 다시 전화를 거세요.
3. ‘새로운 지시사항’을 의심스럽게 다루세요. 새로운 은행 계좌, 새로운 포털, 새로운 WhatsApp 번호, ‘임시’ 이메일 주소, 막바지 공급업체 변경은 공식적인 확인 단계 및 이중 승인자가 필요합니다.
4. 피싱 저항성 인증(MFA)을 사용하세요. 모든 곳에 MFA를 활성화하십시오. 그러나 SMS나 푸쉬 전용 승인보다는 패스키나 하드웨어 키를 선호하세요. 일회용 코드를 절대 공유하지 마세요-진짜 지원팀은 그것이 필요 없습니다.
5. 비밀번호 관리자 및 고유 비밀번호를 사용하세요. 자격 증명을 재사용하는 것은 AI 주도 공격의 핵심 지원 도구이며, 비밀번호 관리자는 고유 자격 증명을 관리 가능합니다.
6. 링크와 첨부 파일을 엄격하게 처리하세요. 알려진 URL을 수동으로 입력하고, 예상치 못한 아카이브/HTML/매크로 문서는 피하고, 필요시 파일은 제어된 환경(보기 모드, 샌드박스 또는 비특권 장치)에서 엽니다.
7. 워크플로우 불일치를 찾아보세요, 문법이 아니라. AI는 완벽한 글쓰기를 생성할 수 있습니다. 핵심 질문은 요청이 예상된 프로세스, 승인 및 도구를 따르는지 여부입니다.
8. 공격자가 배울 수 있는 것을 줄이세요. 조직도, 송장 프로세스, 개인 연락처 정보 및 여행 세부 정보를 공개적으로 제한하세요.
9. 현실적인 시나리오를 연습하세요. 딥페이크 오디오 요청, ‘벤더 은행 변경’ 이메일, 가짜 지원 채팅에 대한 연습을 수행하세요. 사람들이 어디에서 준수하는지 측정하고 절차를 조정하세요.

Sophos는 자동화가 사람의 실수를 줄일 수 있지만, 결국 인간이 결제와 자격 증명 공개에 대한 최종 결정을 내리므로 검증 과정이 ‘직감’을 이긴다고 지적합니다. that automation can reduce human error, but humans still make the final call on payments and credential disclosure, so the verification process beats “gut feel.”

회사의 경우, 두 가지 조직적 습관을 추가하세요:

• 의심스러운 보고서를 단일 메일 박스 또는 티켓 큐에 분류하고 라우팅하세요;
• 재정, 인사 및 도움말 데스크용으로 일 페이지 ‘검증 플레이북’을 발행하세요. 목표는 사람들이 압박 속에서 즉흥적으로 행동하지 않도록 모호성을 제거하는 것입니다.

개인적으로는 장치 및 브라우저를 업데이트하고, 공식 앱 스토어 및 확인된 벤더 포털을 선호하세요. QR 코드를 스캔하거나 ‘보안 업데이트’ 설치를 요청받으면, 공식 채널을 통해 요청을 확인할 때까지 의심스럽게 처리하세요. 사기 키트는 점점 더 QR 코드, 짧은 링크 및 가짜 지원 번호를 이메일에서 벗어나게 하여 감사를 쉽게 만듭니다.

AI가 피싱 및 사회 공학에 미치는 영향

AI는 피싱 과 사회 공학을 더욱 위험하게 만듭니다. 이는 공격자가 역사적으로 어려웠던 세 가지를 개선하기 때문입니다: 개인화, l언어 품질, 및 볼륨. 그래서 방어자들은 사이버 보안 AI가 어떻게 개선되고 있는지를 계속 묻고 있습니다. 그들은 탐지와 대응 속도를 동일하게 높이기를 원합니다.

AI 주도 피싱으로 인해 어떤 변화가 생길까요?

• 실제 벤더, 프로젝트, 티켓 또는 정책을 참조하는 더 나은 사전
• “비원어민” 신호가 적은 다국어 유혹
• 인터랙티브 조작 (공격자는 채팅을 계속할 수 있으며 반대 의견을 다른 방식으로 응답할 수 있음)
• 합성 증거(가짜 스크린샷, 송장 및 ‘보안 경고’)
• 음성 지원 사기 (복제된 ‘헬프데스크’ 음성이 사용자가 도구를 설치하거나 MFA 승인을 허용하도록 설득)

방어하는 방법 (실용적인 제어)

피싱과 사회 공학 공격을 방어하기 위해 다음 팁을 따르세요:

• 이메일 및 도메인 신뢰를 강화하세요. SPF/DKIM/DMARC를 시행하고, 유사 도메인을 플래그하고, 메일박스 규칙 및 외부 전달을 모니터하세요. 은행 세부정보 변경을 문서화된 확인 절차를 통해 통제된 프로세스로 취급하세요.
• 자격 증명 재생 가치를 줄이세요. 피싱 저항성 MFA 및 조건부 액세스를 사용하여 SSO를 사용하세요. 심지어 비밀번호가 포착되더라도 로그인에 충분하지 않아야 합니다.
• 아이덴티티 및 메일박스 남용에 대한 행동 탐지를 추가하세요. Fortinet은 AI 보안을 대량 데이터 집합을 분석하여 피싱 및 이상을 탐지하는 것이라고 설명합니다. 이것을 불가능한 이동, 비정상적인 OAuth 허가, 이상한 토큰 사용, 의문의 메일박스 API 액세스 및 예상치 못한 전달 규칙에 대한 경고로 전환하세요. as analyzing large datasets to detect phishing and anomalies. Turn that into alerts for impossible travel, unusual OAuth grants, anomalous token use, suspicious mailbox API access, and unexpected forwarding rules.
• 초기 실행을 쉽게 차단하세요. 인터넷에서 Office 매크로를 비활성화하고, 스크립트 인터프리터를 제한하며, 일반 LOLBins에 애플리케이션 제어를 사용하세요. 많은 사회공학 체인이 ‘원클릭’ 스크립트 실행에 의존합니다.
• 고품질 피싱에 대한 훈련을 하세요. 완벽한 문법과 현실적인 컨텍스트를 가진 예시를 통해 인식 프로그램을 업데이트하세요. 직원을 교육하여 워크플로우를 확인하는 법을 배우도록 하고, 글쓰기 품질은 확인하지 않도록 하세요.
• 도움데스크 경로를 안전하게 지키세요. 많은 캠페인이 비밀번호 재설정으로 끝납니다. 강력한 신원 확인을 요구하고, 모든 재설정을 기록하며, 권한 있는 계정에는 추가 승인을 요구하세요.

계층적 방어가 중요합니다: 사용자가 클릭하더라도 강력한 인증, 최소 권한 및 이상 탐지는 하나의 메시지가 전체 타협으로 이어지지 않도록 해야 합니다.

보안 도구를 운영하는 팀의 경우 ‘불가능한 워크플로우’를 중심으로 탐지를 구축하는 것을 고려하세요: 사용자가 새 장치에서 인증을 받고 즉시 받은편지함 규칙을 생성하거나; 도움 데스크 재설정 이후 대량 파일 다운로드가 발생하거나; 또는 재정 계정이 새로운 벤더 지급 목적지를 시작하고 그 다음 비정상적인 지리적 위치에서 로그인합니다. 이러한 시퀀스는 어떤 단일 IOC보다 종종 더 신뢰할 수 있습니다.

피싱 위험을 줄이려면 잠재적으로 악성인 첨부 파일을 샌드박스하고, 신뢰할 수 없는 단축 링크를 비활성화하며, 새로운 도메인 및 낯선 발신자의 활동에 플래그를 다시 적용하세요. 확인 서식, 보여지는 UI 큐(예: 외부 발신자 배너, 유사 도메인 경고 또는 자격 증명 재설정이나 재무 변경 요청 메시지의 마찰)와 결합하세요.

AI 지원 사이버 공격 표적이 되었을 때는 어떻게 해야 하나요?

보안 침해를 의심한다면, 공격자가 재접속하거나 당신을 서두르게 해서 결정을 압박하기 전에 상황을 통제하고 증거를 수집하는 것이 첫 번째 목표입니다. 이것은 AI가 사이버 보안에 미치는 영향을 보여줍니다: AI 기반 공격자는 더 빨리 움직이며 더 오래 지속되므로 방어자는 속도, 구조, 일관성으로 대응해야 합니다.

개별 사용자 팁

1. 상호작용을 중지하고, 사기꾼과 협상하지 마세요.
2. 이메일을 먼저 보호하세요: 비밀번호 재설정, MFA 활성화, 알 수 없는 세션/장치 해제
3. 복구 설정, 전달 규칙 및 최근 로그인 확인.
4. 금융 계정을 검토하여 새로운 결제 방법이나 트랜잭션을 확인하고, 은행/제공사에 빠르게 연락하세요.
5. 증거 보존: 이메일(헤더 포함), 채팅 기록, 전화번호, 음성 메모, 스크린샷 및 모든 파일/링크.

조직을 위한 팁

1. 보안 데이터 손실을 방지합니다. 영향을 받은 엔드포인트 및 계정을 고립시키고, 손상된 사용자를 비활성화하거나 재설정하며, 토큰과 세션을 해제합니다.
2. “정리” 전 로그 수집. 이메일 아티팩트를 보존 및 내보내고, EDR 프로세스 트리를 캡처하고, 프록시 및 DNS 로그를 가져오고, 아이덴티티 제공자 로그를 검색하고, 메일박스 감사 데이터를 아카이브합니다.
3. 후속 조치를 사냥하세요. OAuth 동의 허가를 검토하고, 메일박스 규칙 생성을 검사하며, 새로운 MFA 등록을 확인하고, 권한 및 관리자 변경을 감사하며, 클라우드 스토리지의 데이터 스테이징 활동을 검색합니다.
4. 비즈니스 영향을 제한합니다. 지급 변경 및 벤더 업데이트를 중단하고, 노출 가능성이 있는 비밀/API 키를 회전합니다.
5. 대응을 조정합니다. 사고 관리자를 지정하고, 하나의 사고 채널을 유지하며, 증거를 파괴할 수 있는 병행 수정을 피합니다.
6. 역병하고 복구합니다. 지속성을 제거하고 필요한 경우 이미지를 다시 작성하며, 접속 제거가 확인된 후에만 복원하고, 교훈을 배웁니다.

Fortinet은 AI 지원 보안이 규모에 맞춘 빠른 탐지 및 응답을 지원하지만, 인간의 감독 및 정기 업데이트와 같은 모범 사례도 강조한다-자동화는 속도를 주도하고, 인간은 통제를 보장합니다.

초기 봉쇄 후, 영향을 평가합니다:

• 어떤 데이터가 접근되거나 유출되었습니까?
• 특권 계정이 영향을 받았습니까?
• 공격자가 새로운 MFA 방법을 등록하거나 지속적인 메일박스 규칙을 생성했습니까?

이 질문들에 대한 답변은 사용자 하위 집합에 대해 비밀번호 재설정이 필요한지, 더 광범위한 토큰 해제가 필요한지, 전체 엔드포인트 이미지를 다시 작성해야 하는지를 안내합니다. 외부 노출도 검토하세요: 사건이 공급업체 송장이나 고객 지원을 포함한 경우, 해당 상대방에게 알림을 보내 후속 타겟팅을 감시할 수 있게 합니다.

유혹이 악성코드 실행을 포함한 경우, 메모리 이미지를 캡처하고(가능한 경우), 핵심 아티팩트를 캡처합니다(프리페치, 심캐시/암캐시, 스케줄된 작업, 자동실행). 복원을 시작하기 전에 백업을 확인하고, 영향을 받은 호스트에서 사용된 자격 증명을 손상된 것으로 간주합니다. 클라우드 중심 사건의 경우, 아이덴티티 및 감사 로그를 내보내고, 그 시간 동안 생성된 새로운 앱 등록, 서비스 주체 또는 API 키를 검토하세요.

AI와 딥페이크 사이에 차이가 있습니까?

AI는 패턴 인식, 예측 및 콘텐츠 생성을 포함하며, 딥페이크는 특정 AI 구동 기술을 나타냅니다. 사이버 보안에서 AI는 종종 이상을 감지하고, 악성코드를 분류하거나, 분석을 자동화하는 머신러닝 모델을 의미합니다. Fortinet은 사이버 보안에서 AI는 알고리즘과 기계 학습을 사용하여 데이터를 분석하여 사람의 능력을 초월하는 속도와 규모로 탐지, 예방 및 대응을 강화하는 것을 말합니다.

“딥페이크”는 일반적으로 오디오, 이미지 또는 비디오와 같이 실제처럼 보이게 매체를 생성하거나 수정하는 AI(대개 딥 러닝)을 특정 응용에 사용하는 것을 의미합니다. 딥페이크는 로그 분석이나 행동 탐지보다는 합성 매체에 중점을 둔 생성 AI의 하위 집합입니다. 포티넷도 딥페이크를 다음과 같이 정의합니다 오디오, 이미지 및 비디오를 가짜로 생성하는 AI

차이점이 중요한 이유:

• 텍스트 사기는 워크플로우 검증에 의존하고 있으며, 딥페이크는 “지각적” 속임수(예: 사람의 목소리나 얼굴을 보는 것)를 추가합니다.
• 이메일 게이트웨이와 MFA는 피싱에 대한 방어에 도움을 주며, 딥페이크 사기는 콜백 프로토콜, 신원 확인 및 “음성 메모에 따른 승인 없음” 정책이 필요합니다.
• 사람들은 얼굴과 목소리를 신뢰합니다; 신뢰할 수 있는 단 한 번의 설득력 있는 클립이 이메일에 대한 회의론을 넘어설 수 있습니다.

딥페이크 지원 사기에 대한 방어 방법

1. 우선 상황을 파악하세요: 요청이 절차와 승인과 일치합니까?
2. 알려진 번호, 디렉터리 또는 티켓 시스템을 통해 대역 외로 확인하세요; 민감한 승인을 위해 공유 암구호를 사용하세요.
3. 전달된 클립보다는 상호 작용 확인(챌린지-응답이 있는 실시간 통화)를 선호하세요.
4. 간단한 편집과 연결된 오디오가 AI와 마찬가지로 효과적일 수 있으므로 “저가 페이크”도 진지하게 취급하세요.
5. 가능한 경우 신뢰할 수 있는 출처(검증된 회의 초대, 서명된 메시지)를 선호하세요.

합성 미디어가 향상되더라도, 검증, 업무 분리 및 최소 권한 등의 좋은 프로세스 설계는 파급 범위를 제한합니다.

사용자 교육 관점에서 보자면, 사람들에게 “보는 것이 더 이상 믿는 것이 아니다”며 경각심을 키우게 하세요. 직원들이 원하는 사람의 음성 메모나 짧은 클립을 불신 대상을 취급하도록 하며, 고위험 역할에서는 돈을 움직이거나 접근을 변경할 수 있는 행동에 대해 주기적인 “실시간성” 검사를 고려해보세요(실시간 비디오, 콜백 또는 직접 확인).

딥페이크는 또한 기술적 특징이 있지만 맛볼수록 일관성이 없습니다: 입술 동기화가 어긋나거나, 비정상적인 깜박임, 이상한 조명, 방음 없는 오디오 및 갑작스러운 전환이 있습니다. 이러한 점에만 의존하지 마세요. 승인에 대한 통제를 구축하세요: 두 번째 차원이 있는 확인을 요구하세요(티켓 ID, 내부 채팅 확인 또는 콜백) 및 중요한 변경을 요구하고 승인하지 않도록 의무를 분리하세요.

AI 지원 사이버 공격의 미래는 무엇입니까?

단기적으로는 “AI 슈퍼 해커”보다는 자동화와 사실주의와 더 관련이 있습니다. AI 지원 캠페인이 점점 더 타겟팅되고 더 지속적이며, 채널 간 통합이 될 것으로 예상됩니다 (이메일 → 채팅 → 음성 → 헬프데스크). 공격자들은 유인책을 작성, 대화를 관리, 훔친 데이터를 요약 및 수동 노력을 줄이며 다단계 플레이북을 조율하는 데 AI를 사용할 것입니다.

AI 기반 사이버 공격과 관련된 동향 및 예측

AI 주도 공격은 위협 환경을 변화시키고 있으며, 적대자가 타겟팅을 자동화하고 메시지를 개인화하며 전술을 빠르게 개선할 수 있게 합니다. 사이버 범죄의 최신 동향은 다음을 포함하는 AI 강화 캠페인으로의 이동을 보여줍니다:

• 피해자가 참여할 때를 감지하고, 대상을 우선순위화하고, 후속 조치를 트리거하는 에이전트 워크플로우
• 피해자의 언어와 톤으로 제공되는 OSINT 및 유출 데이터로부터의 더 빠른 개인화
• 낮은 비용으로 딥페이크 사기 (즉시 음성 복제, 짧은 “충분히 괜찮은” 비디오)
• AI로 생성된 포털, 양식 및 지원 챗봇을 사용하는 적응형 피싱 인프라
• 통제에 대한 빠른 반복 – 공격자들은 변형을 테스트하고, 어떤 것이 그들을 차단하는지 배우며, 조절

상쇄하는 경향은 방어적 AI도 향상되고 있다는 점입니다. Sophos는 강조합니다 행동 패턴 탐지, 이상 현상 감지 및 분석가에게 더 높은 가치의 작업을 위한 시간을 제공하는 자동화 포티넷은 유사하게 AI 주도 보안을 설명합니다 실시간 대규모 탐지로, 양질의 데이터를 사용하고, 모델을 정기적으로 업데이트하며, 인간의 감독을 유지하는 최고의 관행을 강조합니다.

AI 지원 사이버 공격에 대비하는 방법

가트너의 2026년 전략적 추세 는 AI 주도 공격의 속도와 복잡성에 대응하기 위한 사전 예방적 사이버 보안에 대한 강조가 증가하고 있음을 강조합니다. 다음 방어 조치는 보안 팀이 AI 사이버 공격으로부터 조직을 보호하는 데 도움이 될 수 있습니다:

1. 중심에서 정체성을 강화하세요. 피싱 저항 MFA를 배포하고, 조건부 액세스 정책을 시행하며, 최소 권한으로 고정된 특권을 줄이세요.
2. 검증을 제품처럼 취급하세요. 콜백을 표준화하고, 공유 암구호를 요구하며, 검증을 단순하고 빠르고 의무적으로 하기 위해 이중 승인을 적용하세요.
3. 신호를 중앙 집중화하고 조사 속도를 높이세요. 신원, 엔드포인트, 이메일 및 네트워크 원격 측정을 집계한 후, 고위험 활동의 상관 관계 및 우선순위를 자동화하세요.
4. 인간 워크플로우를 스트레스 테스트하세요. 공급 업체 변경 요청, 헬프데스크 재설정, 경영진 승인 및 재무 프로세스에 대한 공격을 시뮬레이션하여 격차를 노출하세요.
5. AI 관리 추가 AI 결과를 검증하고, 오탐을 측정하며, 자동화를 맹목적으로 신뢰하지 마세요.

AI는 사기의 기본 품질을 높일 것이지만, 계층화된 제어 및 규율된 검증을 통해 방어자의 우위를 유지할 수 있습니다. 시간이 지남에 따라 더욱탐지, 격리, 학습, 강화하여 – 각 시도는 통제를 개선하고 다음 시도를 더 비용이 들게 만듭니다.

콘텐츠 출처에 대한 강조가 더 많이 기대됩니다: 서명된 이메일, 검증된 발신자 표시, 회의 링크 검증 및 (적용 가능한 경우) 미디어가 신뢰할 수 있는 장치에서 왔다는 암호학적 증명. 동시에, 조직은 “AI 준비된” 보안 운영 – 경고량 증가와 더 빠른 공격자 반복을 가정하고 자동화를 사용하여 사례를 풍부하게 하고 라우트하면서 분석가가 의사 결정 및 격리에 집중하도록 하는 플레이북을 채택할 것입니다.

또 다른 새로운 동향으로 사이버 보안에서 AI 관리가 필요합니다. 보안 팀은 AI 모델이 어떻게 훈련되고 업데이트되는지 평가하고, 그 결과에 맹목적으로 의존하지 않도록 해야 합니다. AI 기반 탐지를 다른 신호처럼 간주 – 검증되고, 상관되고, 오탐을 모니터링 – 하여 자동화를 보안 향상에 기여하게 하고 새로운 위험을 초래하지 않도록 합니다. SOC Prime의 AI 고유 탐지 인텔리전스 플랫폼 은 보안 팀이 탐지에서 시뮬레이션까지의 전체 파이프라인을 커버할 수 있도록 하여 AI 사이버 방어를 다음 단계로 끌어올리는 동시에 AI 지원 사이버 공격을 효과적으로 저지할 수 있게 합니다.