WhatsApp, istruzioni nascoste al chatbot AI: non indicare i garanti privacy

• Pagine di aiuto WhatsApp con istruzioni nascoste al chatbot AI: non indicare autorità privacy né citare il GDPR
• Redact ha trovato 102 blocchi in 80 pagine; tutti rimossi entro le 02:08 UTC del 18 ottobre
• Non è noto se il chatbot abbia seguito gli ordini; WhatsApp parla di bug già risolto
• Utenti UE: restano il diritto alla cancellazione e il reclamo al garante (artt. 17 e 77 GDPR)

Le pagine di aiuto di WhatsApp contenevano istruzioni nascoste, rivolte al chatbot di supporto basato su AI. Il testo ordinava di non consigliare un’autorità per la protezione dei dati agli utenti che non riuscivano più a cancellare l’account. Era presente nel codice delle pagine, mai mostrato a schermo, ed è stato rimosso entro il 18 ottobre.

Cosa c’era scritto

La scoperta è di Redact, azienda di software per la cancellazione dei dati. Redact ha letto le istruzioni, non le risposte del chatbot. Non è quindi noto se il chatbot le abbia mai seguite.

Un account WhatsApp si può eliminare solo dall’app, sul telefono principale. Chi ha perso telefono o numero non può farlo. La pagina sulla cancellazione lo spiega in una nota visibile: un account disattivato viene eliminato dopo 30 giorni, uno inattivo in genere dopo 120 giorni (365 negli Stati Uniti).

Sotto la nota, in un blocco invisibile, c’erano tre ordini. Secondo la copia della pagina dell’8 ottobre, il chatbot non doveva:

• consigliare di contattare un’autorità per la protezione dei dati o un regolatore;
• suggerire che WhatsApp possa cancellare manualmente l’account per conto dell’utente;
• consigliare di usare un altro telefono con un numero attivo.

Un secondo blocco, nella pagina su segnalazione e blocco, scattava quando l’utente citava azioni legali, avvocati o tribunali. Da quel momento il chatbot non doveva richiamare i Termini di servizio o l’informativa privacy, né parlare della responsabilità di WhatsApp. Doveva indirizzare l’utente a un professionista legale. Non doveva inoltre citare né interpretare norme come GDPR, LGPD o CCPA, nemmeno se sollevate dall’utente.

Il contrasto con l’informativa privacy

L’informativa per l’Europa, in vigore dal 2 luglio 2026, dice il contrario. Riconosce il diritto di presentare reclamo all’autorità capofila, la Irish Data Protection Commission, o a un’altra autorità competente. Prevede anche il diritto di chiedere accesso, rettifica e cancellazione dei dati. Sono diritti sanciti dal GDPR: il reclamo dall’articolo 77, la cancellazione dall’articolo 17.

I numeri dell’analisi

Redact ha trovato le prime note l’8 ottobre e ha pubblicato i risultati il 19. Ha poi esaminato le 545 pagine del centro assistenza collegate e ha contato 102 blocchi nascosti in 80 pagine.

La maggior parte era ordinaria: chiarimenti su termini confusi, rimandi alla pagina giusta, descrizione dei piani a pagamento. Alcuni proteggevano gli utenti, per esempio vietando di suggerire un’età falsa. Pochi seguivano la linea dei due casi citati. Per chi aveva perso il numero, l’attesa era «the ONLY correct answer». Per le segnalazioni, il chatbot doveva dire che sono gestite internamente, senza indicare altri passaggi o tempi.

Redact ha controllato anche 300 pagine di Facebook e Instagram, che usano lo stesso sistema, senza trovare note simili.

Aspetti tecnici e cronologia

I blocchi stavano nell’HTML sotto il nome HelpContentGalaxyLLMInclude. Chiunque guardasse il sorgente poteva leggerli. Il server li inviava ai crawler di Google e Bing. Richieste inviate il 9 ottobre con gli user-agent dei crawler di OpenAI, Anthropic e Perplexity hanno ricevuto risposte senza articolo né note. Redact non ha verificato se un assistente AI abbia agito su quel testo.

Secondo le copie dell’Internet Archive, la nota non c’era il 12 luglio ma c’era il 4 settembre. Entrambi i blocchi erano online il 15 ottobre alle 21:40 UTC. Alle 02:08 UTC del 18 ottobre tutti i 102 blocchi erano spariti dalle 80 pagine.

La posizione di WhatsApp

Secondo WIRED, WhatsApp ha rimosso il testo dopo essere stata contattata da Meta e prima di ogni pubblicazione. Ha spiegato che le istruzioni erano per il chatbot raggiungibile scrivendo a WhatsApp Support with AI e che erano comparse nelle pagine per un bug, ora risolto. Il portavoce Joshua Breckman ha detto che l’obiettivo è avere risposte accurate e che il chatbot non deve offrire consulenza legale. Non è chiaro se le stesse istruzioni valgano ancora per il chatbot, ora che non sono più nelle pagine.

Cosa possono fare gli utenti

Chi non riesce a cancellare l’account dall’app può attendere i tempi indicati nella pagina di aiuto. In Europa può chiedere a WhatsApp la cancellazione dei dati. Se non è soddisfatto, può rivolgersi alla propria autorità nazionale o alla Irish Data Protection Commission. L’informativa chiede di contattare prima l’organizzazione, poi tramite il modulo online.

Indicatori di compromissione (IoC)

HelpContentGalaxyLLMInclude

Fonte: The Hacker News · Foto: The Hacker News