Home Office, l’AI per l’asilo sbaglia: il 22% dei riassunti non supera i controlli

• 45 riassunti AI su 203 bocciati dagli esperti del Home Office: 22%, contro il 9% del pilota
• Strumenti basati su GPT-4o di OpenAI via Azure AI Foundry di Microsoft
• Controllato solo lo 0,3% dei riassunti; test su APS interrotti
• ORG chiede sospensione e audit indipendente dei due strumenti

Più di un riassunto su cinque generato dall’intelligenza artificiale per le interviste di asilo ha fallito i controlli di accuratezza. Lo sostiene un rapporto di 20 pagine dell’Open Rights Group (ORG) sugli strumenti AI adottati dal Home Office, il ministero dell’Interno del Regno Unito.

Gli strumenti sotto esame

L’indagine, basata su richieste di accesso agli atti (Freedom of Information) e sulla corrispondenza con i ministri, riguarda due sistemi usati dai funzionari che istruiscono le pratiche:

• Asylum Case Summarisation (ACS), che riassume le interviste ai richiedenti asilo;
• Asylum Policy Search (APS), uno strumento in stile chat per cercare informazioni sulle politiche relative ai Paesi di origine.

Entrambi si basano sul modello GPT-4o di OpenAI, erogato tramite Azure AI Foundry di Microsoft. Il governo ribadisce che le decisioni restano a carico di persone.

I numeri dei controlli

Dopo l’avvio di ACS nell’aprile 2026, 45 riassunti su 203 non hanno superato le verifiche iniziali degli esperti. È un tasso di fallimento del 22%, contro il 9% di rifiuti registrato nella fase pilota. Altri 19 riassunti sono stati segnalati per ulteriori controlli. Dei 56 riesami di secondo livello, 30 non hanno raggiunto lo standard richiesto.

Gli errori comprendono inesattezze fattuali e travisamenti di ciò che il richiedente ha detto. Secondo ORG, un riassunto può inoltre superare i controlli anche se omette dettagli importanti, purché ciò che riporta sia corretto.

I controlli, peraltro, coprono una quota minima. Sulla base di un carico mensile previsto di 17.515 casi, ORG stima che tra aprile e luglio gli esperti abbiano verificato solo lo 0,3% dei riassunti.

Efficienza e supervisione

ORG mette in dubbio anche i risparmi di tempo. Dall’aprile 2026 il numero medio mensile di decisioni sostanziali iniziali sarebbe sceso di circa il 42% rispetto allo stesso periodo del 2025. Il tempo medio tra intervista e decisione sarebbe salito del 29%. Questi dati non dimostrano che l’AI abbia causato il rallentamento, ma non mostrano nemmeno i guadagni di produttività promessi.

Per APS, il Home Office ha confermato in agosto che i test degli esperti sono stati interrotti, nonostante avesse detto ai parlamentari che proseguivano. Secondo ORG non è stata prodotta alcuna sintesi dei risultati.

I richiedenti asilo non sono informati in modo specifico dell’uso dell’AI nei loro casi. Non possono nemmeno consultare o correggere i riassunti delle proprie interviste. Inoltre, la valutazione d’impatto sulla protezione dei dati del ministero indica che ACS automatizza un lavoro prima svolto da specialisti tecnici. ORG avverte che lo strumento potrebbe eliminare un livello di controllo esperto, anziché limitarsi a far risparmiare personale.

Le richieste

ORG chiede di sospendere entrambi gli strumenti e di sottoporli ad audit indipendente. A suo giudizio, le tutele attuali sono inadeguate per decisioni che stabiliscono se una persona può restare nel Regno Unito.

Non è la prima polemica. A giugno oltre 60 organizzazioni per i diritti hanno chiesto di abbandonare la stima dell’età con l’AI per i minori richiedenti asilo, ritenuta inaffidabile nella fascia tra i 16 e i 18 anni. Nello stesso mese un’ispezione ha rilevato che il sistema Atlas non forniva ai funzionari il riscontro sugli appelli, costringendoli a ricorrere a soluzioni alternative. Il Home Office non ha risposto alle domande della testata.

Fonte: theregister · Foto: theregister