Segui Non molto tempo fa, individuare un’email di phishing era quasi un gioco. Frasi strane, un logo non corrispondente, un indirizzo del mittente che non quadrava del tutto: i segnali erano di solito lì se si guardava abbastanza da vicino. Questo sta cambiando rapidamente, perché gli strumenti dietro le campagne di oggi sono diventati drasticamente migliori e drasticamente più economici allo stesso tempo. Un attacco informatico AI è uno in cui l’intelligenza artificiale fa parte del lavoro pesante: scrivere il testo di phishing, clonare una voce, riscrivere malware in modo che sembri diverso ogni volta che viene eseguito, o scansionare una rete alla ricerca del server mal configurato da sfruttare.
L’AI non sta necessariamente lanciando l’attacco interamente da sola, anche se le configurazioni agentiche si stanno avvicinando a questo con ogni trimestre che passa. Principalmente, ciò che fa è eliminare l’attrito che rallentava gli attaccanti: il tempo necessario per scrivere un testo convincente, lo sforzo manuale per sfuggire alle firme antivirus, il lavoro faticoso di ricerca di un obiettivo prima di una telefonata di pretesto.
Ciò che rende questo cambiamento significativo per i difensori non è che gli attacchi siano più intelligenti in un senso astratto, da fantascienza. È che sono più economici da produrre, più difficili da identificare e disponibili ad un pool di attaccanti molto più ampio rispetto a prima, inclusi molti che non avrebbero avuto le capacità o la pazienza per realizzare qualcosa di così convincente solo pochi anni fa. E poiché la barriera all’ingresso continua a diminuire, gli approcci di rilevamento e difesa hanno dovuto evolversi di conseguenza.
Le molte facce degli attacchi informatici potenziati dall’AI
Gli attacchi informatici potenziati dall’AI non sono una singola tecnica — sono un kit di strumenti che è stato applicato a quasi ogni fase del ciclo di vita dell’attacco. Di seguito sono alcuni degli esempi più chiari di attacchi informatici potenziati dall’AI con cui i team di sicurezza stanno attualmente affrontando, e ciascuno mostra un modo diverso in cui un attacco informatico AI può superare le difese che non sono mai state progettate per esso.
Phishing generato dall’AI e ingegneria sociale. Questo è di gran lunga il punto d’ingresso più comune. Invece di un’email preformattata inviata a migliaia di caselle di posta, gli aggressori alimentano un modello linguistico con dati estratti da LinkedIn, dump di violazioni o documenti pubblici, e ne esce un messaggio che sembra scritto da qualcuno che conosce veramente il lavoro del bersaglio, il nome del loro manager e il gergo interno della loro azienda. Nessun errore di battitura, nessuna frase scomoda — solo un messaggio davvero difficile da distinguere da uno reale, e nessun messaggio in una campagna deve assomigliare agli altri, il che è esattamente ciò che rende i filtri di corrispondenza di massa molto meno efficaci di quanto non fossero una volta.
Impersonificazione vocale e visiva tramite deepfake. Gli strumenti di clonazione vocale ora necessitano solo di pochi secondi di audio — estratti da una teleconferenza sui guadagni, una registrazione di webinar, un’intervista su YouTube — per produrre un convincente falso. Combina ciò con la sintesi video e ottieni dirigenti fittizi che partecipano a una videochiamata, autorizzano un bonifico o approvano una richiesta urgente. Gli incidenti che coinvolgono personale finanziario trasferendo milioni di dollari dopo aver “incontrato” un intero team dirigenziale fabbricato in video hanno già fatto notizia, e la tecnologia dietro di essi continua a diventare più accessibile.
Malware polimorfico, scritto dall’AI. Il rilevamento del malware tradizionale si basa pesantemente su firme conosciute. Il malware generato dall’AI evita questo riscrivendo il proprio codice in runtime, quindi ogni macchina infetta finisce con un binario leggermente diverso. Alcune varianti contattano persino un modello di AI durante l’esecuzione per continuare a mutare, il che rende la corrispondenza delle firme statiche meno affidabile da sola e costringe i difensori a concentrarsi sul comportamento anziché sull’aspetto.
Ricognizione accelerata dall’AI. Prima che un aggressore invii una singola email, l’AI può masticare social media, documenti aziendali, organigrammi e vecchi dati di violazione per costruire un profilo dettagliato di un’azienda e dei suoi dipendenti, un lavoro che richiedeva giorni di ricerca manuale ora compressi in minuti. Tale velocità significa che gli aggressori possono permettersi di cercare informazioni su ogni singolo dipendente di un’azienda target anziché solo quelli ovvi e di alto valore.
Compromissione della posta aziendale assistita dall’AI. Una volta compromesso un account, l’AI può portare avanti una conversazione credibile a più fasi con il personale finanziario o delle risorse umane, adattando il tono e l’urgenza in base a come il bersaglio risponde in tempo reale. Spesso non c’è malware e nessun link dannoso coinvolto — l’attacco è la conversazione stessa, il che lascia alle squadre di sicurezza molto poco da ispezionare effettivamente dopo il fatto.
Iniezione di prompt contro l’AI aziendale. Man mano che le aziende implementano copiloti e agenti AI, si è aperta una nuova categoria: nascondere istruzioni dannose all’interno di un documento, email o invito a un calendario che un assistente AI successivamente elabora, ingannandolo per far trapelare dati o eseguire comandi controllati dall’aggressore senza che un essere umano clicchi consapevolmente su qualcosa.
Queste categorie si sovrappongono costantemente in incidenti reali — una singola campagna potrebbe iniziare con una ricognizione guidata dall’AI, passare a un’email di phishing personalizzata e chiudere con una chiamata vocale deepfake per sigillare l’affare. Raramente un attacco si affida a una sola di queste tecniche in isolamento ormai.
Le Meccaniche Dietro gli Attacchi Informatici Potenziati dall’AI
A un livello meccanico, la maggior parte degli attacchi informatici potenziati dall’AI segue la stessa forma che gli attacchi hanno sempre avuto — ricognizione, accesso iniziale, escalation, esecuzione — ma l’AI viene inserita quasi in ogni fase per accelerare le cose e rendere ciascuna di esse più convincente. I modelli generativi scrivono il testo di phishing o documenti falsi. I modelli di sintesi vocale e video gestiscono l’impersonificazione, spesso allenati su solo una manciata di campioni disponibili pubblicamente. In configurazioni più avanzate, i sistemi AI agentici concatenano questi passaggi con un input umano minimo — sondano una rete, si adattano quando incontrano una difesa e passano alla fase successiva in gran parte da soli.
Il risultato è un attacco che si comporta meno come uno script fisso e più come qualcosa che reagisce e si adatta in tempo reale, imparando da ciò che ha funzionato e ciò che è stato bloccato. Questo è esattamente ciò che lo rende così difficoltoso da catturare con difese statiche e basate su regole progettate per aspettarsi un attacco che appaia allo stesso modo due volte.
Come Rilevare gli Attacchi Informatici Potenziati dall’AI
Gli strumenti basati su firme sono stati costruiti per catturare schemi ripetuti — e gli attacchi generati dall’AI sono costruiti specificamente per non ripetersi, motivo per cui il rilevamento ha dovuto evolversi oltre la semplice corrispondenza di schemi. L’analisi comportamentale sta svolgendo gran parte del lavoro pesante ora: invece di chiedersi “questa email corrisponde a un modello noto di cattiva reputazione”, i sistemi chiedono “il comportamento di questo mittente corrisponde a come comunica normalmente.” Anomalie nei tempi di accesso, una richiesta insolita da un contatto “fidato” o un partecipante a una videochiamata le cui espressioni non sembrano seguire in modo naturale sono tutti segnali che i filtri basati sui contenuti spesso lasciano sfuggire. Osservare i modelli comportamentali durante l’esecuzione del malware, invece di abbinare hash di file statici, e correlare segnali tra email, identità e attività SaaS si stanno dimostrando efficaci nel catturare ciò che le regole statiche da sole non possono. Ottimizzare la logica di rilevamento alle specifiche impronte digitali del contenuto generato dall’AI lo affina ulteriormente.
Come Mitigare gli Attacchi Informatici Potenziati dall’AI
Una volta che un attacco ha preso piede, l’obiettivo si sposta sulla limitazione dei danni e sul taglio della sua capacità di diffondersi o ripetersi. Isolare rapidamente account e punti finali compromessi conta più che mai, poiché le campagne guidate dall’AI — specialmente quelle in stile BEC — possono muoversi attraverso una conversazione o una rete rapidamente una volta che hanno stabilito un po’ di fiducia.
La rotazione delle credenziali, la revoca delle sessioni attive e la revisione dei registri di autenticazione recenti per le anomalie dovrebbero avvenire immediatamente, non come un ripensamento inserito in un rapporto post-incidente. Aiuta enormemente anche avere una verifica fuori banda incorporata nei processi quotidiani per qualsiasi cosa sensibile — bonifici, reset di credenziali, modifiche ai dettagli di pagamento — in modo che anche una chiamata vocale deepfake impeccabile non possa completare un’azione senza un secondo controllo indipendente tramite un canale diverso. Dopo che la polvere si è posata, introdurre ciò che hai imparato nelle tue regole di rilevamento e intelligence sulle minacce è ciò che chiude effettivamente il ciclo, poiché gli attaccanti tendono a iterare su ciò che ha funzionato, e le tue difese devono iterare appena al loro fianco se vogliono stare al passo.
Come Prevenire gli Attacchi Informatici Potenziati dall’AI
La prevenzione qui non è un singolo acquisto di strumenti — è un insieme di abitudini stratificate che rendono un attacco informatico AI significativamente più difficile da realizzare in primo luogo.
Inizia con l’identità: MFA resistente al phishing, come le chiavi FIDO2 o le password piuttosto che i codici SMS, chiude un’ampia parte di tentativi di furto di credenziali, poiché anche pagine di phishing generate perfettamente dall’AI non possono intercettare una chiave hardware come fanno con una password digitata. Un’applicazione rigorosa di DMARC e il blocco delle funzionalità di inoltro email non necessarie riducono le probabilità che un messaggio contraffatto atterri in modo convincente nella casella di posta di qualcuno in primo luogo. La formazione dei dipendenti è ancora molto importante, ma ha bisogno di un’onesta aggiornamento — le persone devono vedere come appaiono realmente oggi i tentativi di phishing e deepfake dell’AI moderni, non gli esempi goffi e pieni di errori di cinque anni fa, e le simulazioni realistiche e regolari fanno molto più bene di una presentazione annuale di diapositive. Dal lato della governance, le organizzazioni che lanciano i propri copiloti e agenti AI hanno bisogno di politiche chiare su ciò a cui questi sistemi possono accedere e agire, poiché uno strumento AI interno mal gestito è esso stesso una nuova superficie di attacco in attesa di essere sfruttata dai trucchi di iniezione di prompt descritti prima.
L’AI può aiutare a difendere contro gli attacchi informatici potenziati dall’AI?
Sì — e a questo punto, è quasi necessario piuttosto che opzionale. Cercare di combattere attacchi su scala AI con il rilevamento manuale, a ritmo umano, sta diventando sempre più difficile da sostenere. Il volume e la velocità dal lato dell’aggressore sono semplicemente troppo elevati perché le sole persone possano tenere il passo.
AI difensiva si presenta in alcuni modi concreti e pratici: modelli comportamentali che imparano cos’è “normale” per un utente o un sistema specifico e segnalano deviazioni molto più velocemente di quanto un analista umano potrebbe mai fare da solo; correlazione automatizzata attraverso email, identità e telemetria di rete che cattura attacchi a più fasi che nessun singolo strumento rileverebbe mai da solo; e ingegneria del rilevamento assistita dall’AI, in cui i modelli aiutano i team di sicurezza a scrivere e affinare la logica di rilevamento più velocemente di quanto i processi completamente manuali consentano. Le piattaforme costruite intorno all’ingegneria del rilevamento stanno sempre più puntando su questo — usare l’AI per aiutare a tradurre inteligenza sulle minacce grezza in regole di rilevamento applicabili e funzionanti, il che riduce il divario tra una nuova tecnica di attacco che si presenta in natura e l’avere una regola che la cattura effettivamente.
Il giudizio umano gioca ancora un ruolo per la chiamata finale su qualsiasi cosa ad alto rischio — un bonifico sospetto, una richiesta di accesso insolita, una telefonata che sembra un po’ strana. Ma l’AI sul lato difensivo è ciò che dà alle squadre di sicurezza la velocità per tenere il passo, ed è quella combinazione — giudizio umano supportato dal rilevamento guidato dall’AI — che permette ai difensori di stare avanti man mano che questi attacchi continuano ad evolversi.
