Proofpoint: l’AI generativa cancella i segnali comportamentali usati dai filtri email

• Proofpoint: l'AI rende phishing e BEC fluenti, personalizzati e unici, indebolendo il rilevamento comportamentale
• FBI IC3 2025: 24.768 denunce BEC, circa 3,05 miliardi di dollari di perdite
• Casi: 30+ agenti immobiliari contattati, device-code phishing, finta fattura di audit
• Proposta: analisi dell'intento come terzo livello, oltre a rilevamento tradizionale e moderno

L’intelligenza artificiale generativa sta rendendo meno affidabili i segnali comportamentali su cui i filtri email si basano da anni. Lo sostiene Proofpoint, che alla conferenza Protect 2026 ha presentato alcuni casi di phishing e business email compromise (BEC) scritti in modo fluente, personalizzato e diverso per ogni destinatario.

Cosa è cambiato

Per anni i filtri hanno sfruttato gli errori degli attaccanti: testi goffi, pretesti generici, template e infrastrutture riutilizzati. Con l’AI, secondo Proofpoint, questi limiti cadono. Il testo è corretto in qualsiasi lingua, le risposte seguono il contesto e il ruolo del destinatario, lo stile e le firme possono essere imitati e ogni messaggio può essere unico. Non esiste più un modello da riconoscere.

Il quadro è coerente con i dati dell’FBI. Il suo Internet Crime Complaint Center ha registrato nel 2025 oltre 22.000 denunce che coinvolgono l’AI, con perdite vicine a 900 milioni di dollari. Ha inoltre contato 24.768 denunce di BEC, con circa 3,05 miliardi di dollari di perdite dichiarate.

I casi descritti

• Agenti immobiliari. Un solo attore ha contattato più di 30 agenti della stessa società, ciascuno da un account diverso, su un immobile diverso e con parole diverse. Tutte le conversazioni si chiudevano con la stessa richiesta: partecipare a una videoriunione. In un caso l’invito è arrivato 13 minuti dopo una richiesta inviata alle 2:58. Il link era un vero redirect di google.com, quindi superava i controlli di reputazione, ma un parametro dell’URL portava la vittima su un sito estraneo.
• Assicurazioni. Una variante ha preso di mira agenti assicurativi con richieste di preventivo e referenze, per poi inviare un falso invito a una conferenza che consegnava il payload.
• Campagne di disturbo. Centinaia o migliaia di mittenti scrivono agli stessi dirigenti, con messaggi offensivi o immagini manipolate dall’AI. Non c’è link né credenziale da rubare, e ogni messaggio da solo sembra quello di un singolo corrispondente irritato.
• Phishing-as-a-service. Un kit presenta lo stesso flusso con quattro travestimenti: portale giudiziario, firma di documenti, verifica d’identità, archivio di report finanziari. La vittima incolla un codice generato dall’attaccante su una pagina di accesso legittima e autorizza così la sessione di chi attacca (device-code phishing).
• BEC. Un’email contiene una conversazione citata in cui un falso fornitore di audit e un dirigente sembrano concordare fattura, sconto del 50% e data di pagamento. L’indirizzo di pagamento differisce da quello del mittente.

Dal comportamento all’intento

Proofpoint propone di valutare che cosa il messaggio vuole ottenere, se è plausibile nel contesto del rapporto e quale tecnica usa. Come esempio cita una richiesta di cambio IBAN da un fornitore noto. Cinque elementi la tradiscono: è il primo cambio in anni, non c’entra con la conversazione a cui risponde, la scadenza è legata a uno specifico ciclo di pagamenti, si chiede di non scrivere in thread e si chiude la verifica sostenendo che la casella finance è «in migrazione».

L’azienda presenta questo livello come un terzo strato, accanto al rilevamento tradizionale (regole, firme, reputazione) e a quello moderno (threat intelligence e baseline comportamentali). Il suo modello Nexus Intent-Based Detection, annunciato a settembre, usa tre livelli. Il primo analizza tutta la posta in meno di 500 millisecondi. Il secondo tratta meno dell’1% dei messaggi, il terzo meno dello 0,01%, con analisi sempre più profonde.

Indagini più rapide

Proofpoint descrive anche un Threat Investigation Agent, che indaga su email, identità, messaggistica, browser e fornitori. In un caso di account takeover seguito a un phishing a tema RFP, l’agente avrebbe contenuto l’incidente in quattro minuti. Ha recuperato 92 messaggi in uscita, eliminato la regola di casella e bloccato l’URL. Quattro azioni più delicate, tra cui il reset delle credenziali, sono rimaste in attesa di approvazione umana.

Va ricordato che le valutazioni sull’efficacia provengono dal vendor stesso.

Fonte: The Hacker News · Foto: The Hacker News