Anthropic: piccoli modelli AI potrebbero presto autoreplicarsi su dispositivi IoT

• Anthropic: piccoli modelli AI potrebbero autoreplicarsi su dispositivi IoT entro pochi mesi
• Test su 15 TV box Android da circa 55 dollari: modello da 26 miliardi di parametri a 0,39 token/s
• GLM-5.2 ha raggiunto otto dispositivi emulati su otto in quattro prove su cinque
• Difese: monitorare il traffico anomalo e eliminare le password predefinite

Piccoli modelli di intelligenza artificiale potrebbero essere a pochi mesi dalla capacità di autoreplicarsi su dispositivi IoT commerciali, senza bisogno di un data center. È la conclusione di una ricerca della Frontier Red Team di Anthropic, resa nota il 13 ottobre 2026.

Che cosa hanno studiato

Lo studio riguarda gli «AI worm»: malware che eseguono un proprio modello direttamente sui dispositivi compromessi. Un codice di questo tipo sarebbe difficile da fermare, perché non ha un punto centrale da spegnere. Si diffonderebbe però, con ogni probabilità, in modo lento.

I ricercatori non si sono concentrati sull’exploitation, già analizzata da studi precedenti. Hanno verificato se i modelli riescano ad avviare l’inferenza AI su hardware sconosciuto.

I test

• Sono stati acquistati 15 TV box Android di marche minori, a circa 55 dollari l’uno. Un modello open-weight da 26 miliardi di parametri, distribuito sui dispositivi, ha raggiunto 0,39 token al secondo.
• Un modello da 9 miliardi di parametri è riuscito a far funzionare l’inferenza su otto dei nove tipi di hardware provati.
• Il ciclo completo di replicazione è stato provato su una rete chiusa di otto dispositivi Android emulati, con la fase di attacco volutamente banale. Tra i modelli open-weight, solo GLM-5.2 ha completato il compito, raggiungendo tutti gli otto dispositivi in quattro prove su cinque.

Anthropic ritiene questi risultati un limite superiore per il successo nel mondo reale. Ricorda però che botnet IoT come Mirai si diffondevano semplicemente provando le credenziali predefinite dei produttori.

Prospettive e limiti

I modelli fino a 30 miliardi di parametri sanno già svolgere molti dei singoli passaggi, ma sbagliano quando devono concatenarli. Se continueranno a migliorare al ritmo storico, Anthropic prevede che raggiungano il livello di GLM-5.2 entro la fine del 2026. Secondo l’azienda, «replicatori basati sui pesi di piccole dimensioni» potrebbero diventare possibili poco dopo.

I ricercatori hanno anche ipotizzato una botnet grande quanto Kimwolf, che ha infettato oltre due milioni di dispositivi. Con una copia del modello da 26 miliardi di parametri ogni 15 TV box, ospiterebbe circa 133.000 copie. La potenza di calcolo complessiva varrebbe al massimo circa 40 GPU Nvidia H100 e ogni replicazione richiederebbe più di un giorno.

Vantaggi per chi difende

A differenza delle botnet tradizionali, pensate per dispositivi specifici, un AI worm potrebbe capire da solo hardware mai visto. Ai difensori restano però dei vantaggi:

• i trasferimenti di grandi modelli e il traffico prolungato tra dispositivi che di norma non comunicano sarebbero evidenti nel monitoraggio degli ISP;
• spingere i produttori verso impostazioni più sicure, per esempio eliminando le password predefinite, ridurrebbe il numero di bersagli.

Anthropic precisa che non esiste ancora un replicatore «rogue» completo. I modelli, tuttavia, migliorano in ogni fase della catena e nel trasmettere alle proprie copie ciò che imparano.

Fonte: SecurityWeek · Foto: SecurityWeek