Стежити Ще недавно виявлення фішингового електронного листа було майже грою. Дивний стиль, невідповідний логотип, адреса відправника, яка не зовсім співпадала — зазвичай все це можна було помітити, якщо придивитися уважніше. Але це швидко змінюється, тому що інструменти, що використовуються в сучасних кампаніях, стають набагато кращими і значно дешевшими одночасно. Кібер-атака з використанням штучного інтелекту — це коли штучний інтелект бере на себе частину важкої роботи: пише текст фішингу, клонує голос, переписує шкідливе програмне забезпечення, щоб воно виглядало інакше щоразу, коли запускається, або сканує мережу у пошуках неправильно налаштованого сервера, який слід експлуатувати.
Штучний інтелект не обов’язково запускає атаку повністю самостійно, хоча агентні налаштування з кожним кварталом все ближче до цього. В основному, він усуває тертя, яке раніше сповільнювало нападників — час, витрачений на написання переконливого тексту, ручні зусилля з уникнення антивірусних сигнатур, рутинну роботу з дослідження цілі перед дзвінком із метою обманути.
Це зрушення має значення для захисників не тому, що атаки стають розумнішими в якомусь абстрактному, науково-фантастичному сенсі. А тому, що вони дешевші у виробництві, важчі для відбитка і доступні для набагато більшої кількості атакуючих, ніж раніше — включно з великою кількістю людей, які не мали б навичок або терпіння так переконливо це здійснити ще кілька років тому. І оскільки бар’єри для входу постійно знижуються, підходи до виявлення та захисту мають еволюціонувати разом із цим.
Зв’язатися з відділом продажів
Багато облич кібер-атак на основі штучного інтелекту
Кібер-атаки, що працюють на базі штучного інтелекту, — це не один метод, а набір інструментів, який прикріплений до майже кожного етапу життєвого циклу атаки. Нижче представлені деякі з найяскравіших прикладів кібер-атак на основі штучного інтелекту, з якими зараз стикаються команди безпеки, і кожна з них показує різний спосіб, як кібер-атака на основі штучного інтелекту може пройти крізь захист, для якого вона ніколи не була розроблена.
Фішинг, згенерований штучним інтелектом, та соціальна інженерія. Це найпоширеніша точка входу, безсумнівно. Замість шаблонного електронного листа, надісланого тисячам поштових скриньок, нападники використовують модель мовлення, щоб отримані дані LinkedIn, зливи або публічні документи перетворилися на повідомлення, яке виглядає так, ніби його написав хтось, хто дійсно знає роботу цілі, ім’я їхнього менеджера та внутрішній жаргон їхньої компанії. Без помилок, без незграбної фразеології — лише повідомлення, яке дійсно важко відрізнити від справжнього, і жодне повідомлення в кампанії не повинно виглядати однаково, що саме робить масове фільтрування менш ефективним, ніж раніше.
Глибоке фейкове голосове та відео підроблювання. Інструментам клонування голосу тепер потрібно лише кілька секунд аудіо — отриманого з дзвінка про доходи, запису вебінару, інтерв’ю на YouTube — щоб створити переконливий фейк. Поєднайте це з синтезом відео, і ви отримаєте підроблених керівників, які беруть участь у відеодзвінках, дозволяючи переказ грошей або схвалюючи терміновий запит. Випадки, коли фінансовий персонал переказував мільйони доларів після “зустрічі” з повністю вигаданим керівним складом на відео, вже стали заголовками, і технологія, що їх підкреслює, стає все доступнішою.
Поліморфне, написане штучним інтелектом шкідливе ПЗ. Традиційне виявлення шкідливого ПЗ значною мірою покладається на відомі сигнатури. Згенероване штучним інтелектом шкідливе ПЗ оминає це, переписуючи свій код у режимі виконання, так що кожна заражена машина закінчується трохи іншою бінарною. Деякі варіанти навіть викликають модель ІІ під час виконання, щоб продовжити мутування, що робить статичне збігання сигнатур менш надійним самостійно і змушує захисників спиратися на поведінковий аналіз замість зовнішнього вигляду.
Прискорена розвідка з штучним інтелектом. Перш ніж нападник надішле жодного електронного листа, ІІ може пережовувати соціальні мережі, корпоративні документи, організаційні схеми та старі дані витоків, щоб створити детальний профіль компанії та її працівників, на роботу яких раніше витрачалися дні ручного дослідження, тепер стискається до хвилин. Ця швидкість означає, що нападники можуть дозволити собі досліджувати кожного окремого працівника цільової компанії, а не лише очевидних, високовартісних.
Підробка бізнес електронних листів за допомогою ІІ. Як тільки обліковий запис компрометовано, ІІ може проводити багатоступеневу, переконливу розмову з фінансовим або кадровим персоналом, коригуючи тон і терміновість на основі того, як ціль реагує в реальному часі. Часто немає жодного шкідливого ПЗ та жодного шкідливого посилання — атака є самою розмовою, що залишає командам безпеки дуже мало, що насправді потрібно перевірити після факту.
Введення зловмисних даних у корпоративні системи ІІ. Коли компанії впроваджують копілотів та агентів ІІ, відкривається нова категорія: приховування зловмисних інструкцій у документі, електронному листі або запрошенні до календаря, які асистент ІІ згодом обробляє, обманюючи його, щоб витік даних або виконання команд, керованих нападником відбулося, без людського втручання.
Ці категорії постійно перетинаються у реальних інцидентах — одиночна кампанія може початися з розвідки, що рухається за допомогою ІІ, перейти до персоналізованого фішингового електронного листа, а потім завершитися глибоким фейковим голосовим дзвінком для укладання угоди. Рідко атака покладається лише на один з цих методів в ізоляції.
Механіка кібер-атак на основі штучного інтелекту
На механічному рівні більшість кібер-атак на основі штучного інтелекту слідують таким самим форматом, як і завжди — розвідка, початковий доступ, ескалація, виконання — але ІІ вбудовується практично на кожному етапі, щоб прискорити процеси і зробити їх більш переконливими. Генеративні моделі пишуть текст фішингу або підроблені документи. Моделі синтезу голосу та відео здійснюють підробку, часто тренуючись на лише жмені публічно доступних зразків. У більш просунутих налаштуваннях агентні системи ІІ виконують ці кроки з мінімальним людським втручанням — пробиваючи мережу, адаптуючись, коли вони стикаються із захистом, і переходячи до наступного етапу переважно самостійно.
Результатом є атака, яка поводить себе скоріше як реагуюча і пристосовувана в реальному часі, навчанні з того, що спрацювало і що було заблоковано. Це саме те, що робить її настільки важчою для виявлення за допомогою статичних, правил, які спираються на очікування, що атака виглядатиме однаково двічі.
Як виявляти кібер-атаки на основі штучного інтелекту
Інструменти, що ґрунтуються на сигнатурах, призначені для виявлення повторюваних шаблонів — а атаки, згенеровані штучним інтелектом, побудовані спеціально для того, щоб не повторюватися, що саме для цього виявлення мало еволюціонувати поза рамки лише співпадіння шаблонів. Поведінковий аналіз виконує більшу частину важкої роботи зараз: замість запитання “чи відповідає цей електронний лист відомій поганій схемі,” системи запитують “чи відповідає поведінка цього відправника тому, як він зазвичай спілкується.” Аномалії в часі входу, незвичний запит від “дTrusted” контакту або учасника відеодзвінка, чиї вирази не слідкують природньо — все це сигнали, які часто прослизають через фільтри, що базуються на контенті. Спостереження за поведінковими шаблонами під час виконання шкідливих програм, а не співставленням статичних хешів файлів, і корелювання сигналу чрез електронну пошту, ідентичність та діяльність SaaS виявляються ефективними у виявленні того, що статичні правила самі по собі не можуть.
Як пом’якшити кібер-атаки на основі штучного інтелекту
Щойно атака здобула точку опори, мета змінюється на обмеження збитків і відрізання її здатності поширюватися або повторюватися. Ізоляція компрометованих облікових записів і кінцевих точок швидко має більше значення, ніж коли-небудь, оскільки кампанії, що керуються ІІ — особливо ті, що нагадують компрометацію бізнес електронної пошти (BEC) — можуть швидко просуватися через розмову або мережу, коли вони вже встановили трохи довіри.
Зміна облікових даних, скасування активних сесій та перегляд недавніх журналів автентифікації на наявність аномалій повинні відбуватися негайно, а не як прикінцевий винос у звіті після інциденту. Також це значно допомагає мати підтвердження не через основний канал у повсякденних процесах для будь-чого чутливого — перевід грошей, скидання облікових даних, зміни в платіжних даних — так, щоб навіть ідеальний глибокий фейковий дзвінок не міг виконати дію без другого, незалежного підтвердження через інший канал. Після того, як все заспокоїться, підживлення того, що ви дізналися, назад у свої правила виявлення та розвідку загроз — це те, що насправді замикає петлю, оскільки нападники, як правило, ітераціюють на тому, що спрацювало, і ваш захист повинен також розвиватися разом із ними, якщо вони хочуть утриматися на рівні.
Як запобігати кібер-атакам на основі штучного інтелекту
Запобігання тут не є одинарною покупкою інструменту — це набір пошарованих звичок, які роблять кібер-атаку на основі ІІ значно важчою, щоб її взагалі реалізувати.
Почніть з ідентичності: кешування MFA, стійкого до фішингу, такого як ключі FIDO2 або безпарольні входи замість кодів SMS, закриває велику частину спроб крадіжки облікових даних, оскільки навіть ідеальні згенеровані ІІ фішингові сторінки все ще не можуть перехопити апаратний ключ, так як вони можуть перехопити введений пароль. Строге дотримання DMARC і закриття зайвих можливостей ретрансляції електронної пошти знижує шанси, що підроблене повідомлення коли-небудь з’явиться в чиїйсь поштовій скриньці як правдиве. Навчання співробітників все ще має велике значення, але воно потребує чесного оновлення — люди повинні бачити, якими насправді виглядають сучасні спроби фішингу з ІІ та глибокого фейка сьогодні, а не незграбні, наповнені помилками приклади з п’яти років тому, і регулярні, реалістичні симуляції роблять набагато більше користі, ніж раз на рік слайд-шоу будь-коли. З боку управління, організації, які впроваджують власні копілоти та агенти ІІ, потребують чітких політик щодо того, що ті системи можуть мати доступ і на чому діяти, оскільки погано керовані внутрішні ІІ інструменти самі по собі є абсолютно новою поверхнею атаки, яка очікує на експлуатацію саме такими хитрощами, як описано раніше.
Чи може ІІ допомогти у захисті від кібер-атак на основі ІІ?
Так — і на даний момент це майже необхідність, а не опція. Спроба боротися з нападами із масштабом штучного інтелекту за допомогою ручного, людського виявлення все складніше підтримувати. Обсяг і швидкість на боці нападника занадто великі, щоб людина змогла встигнути за.
Захисний ІІ проявляється у кількох конкретних, практичних способах: поведінкові моделі, які навчаються, як виглядає «норма» для конкретного користувача або системи, і виявляють відхилення набагато швидше, ніж коли-небудь зміг би людський аналітик, працюючи самостійно; автоматичне корелювання через електронну пошту, ідентичність та телеметрію мережі, яке виявляє багатоступеневі атаки, які жоден одиночний інструмент ніколи не зміг би помітити в ізоляції; і ІІ-помічений інженеринг виявлення, де моделі допомагають командам безпеки швидше писати та вдосконалювати логіку виявлення, ніж дозволяють повністю ручні процеси. Платформи, засновані на інженерії виявлення, все більше покладаються саме на це — використання ІІ для допомоги у перетворенні сирої розвідки загрози у розгортаємі, робочі правила виявлення, що скорочує розрив між появою нової техніки нападу в диких умовах і наявністю правила, що дійсно її виявляє.
Людський суд все ще відіграє роль у прийнятті остаточного рішення про будь-що високоризикове — підозрілий переказ грошей, незвичний запит на доступ, дзвінок, що просто здається трохи не таким. Але ІІ на стороні захисту надає командам безпеки швидкість, щоб триматися на рівні, і це поєднання — людський суд, підкріплений виявленням на базі ІІ — дозволяє захисникам залишатися попереду, як тільки ці атаки продовжують розвиватися.
