Gartner: Il 40% delle aziende subirà incidenti di sicurezza causati da Shadow AI
Entro il 2030, più del 40% delle organizzazioni globali subirà incidenti di sicurezza e conformità a causa dell’uso di strumenti di intelligenza artificiale non autorizzati, ha previsto Gartner.
L’analista ha riferito che un sondaggio condotto con i responsabili della sicurezza informatica all’inizio di quest’anno ha rivelato che il 69% ha prove o sospetti che i dipendenti stiano utilizzando AI generativa pubblica (GenAI) sul lavoro.
È stato avvertito che tali strumenti possono aumentare il rischio di perdita di proprietà intellettuale, esposizione di dati e altri problemi di sicurezza e conformità. Questi rischi dovrebbero ormai essere ben compresi. Già nel 2023, Samsung è stata costretta a vietare l’uso interno di GenAI dopo che il personale ha condiviso codice sorgente e appunti di riunioni con ChatGPT.
“Per affrontare questi rischi, i CIO dovrebbero definire politiche aziendali chiare per l’uso degli strumenti AI, condurre regolari audit per l’attività di shadow AI e incorporare la valutazione del rischio GenAI nei processi di valutazione SaaS,” ha detto il VP analista Arun Chandrasekaran.
I risultati di Gartner sono in linea con diversi studi simili.
L’anno scorso, Strategy Insights ha riferito che oltre un terzo delle organizzazioni negli USA, UK, Germania, Paesi Nordici e Benelux hanno avuto difficoltà a monitorare l’uso non autorizzato di AI. Nello stesso anno, RiverSafe ha affermato che un quinto delle aziende del Regno Unito ha avuto potenziali esposti dati aziendali sensibili a causa dell’uso di GenAI da parte dei dipendenti.
Separatamente, 1Password ha rivelato il mese scorso che il 27% dei dipendenti ha lavorato con strumenti AI non autorizzati.
Accumulo di Debito Tecnico
Anche l’uso legittimo di GenAI potrebbe avere conseguenze non intenzionali, ha avvertito Gartner.
L’analista ha previsto che entro il 2030 il 50% delle imprese affronterà ritardi negli aggiornamenti dell’AI e/o costi di manutenzione crescenti a causa del debito tecnico non gestito associato all’uso di GenAI. I ritardi negli aggiornamenti, in particolare, possono creare rischi di sicurezza se non gestiti correttamente.
“Le imprese sono entusiaste della velocità di consegna di GenAI. Tuttavia, l’elevato costo punitivo di mantenimento, riparazione o sostituzione di artefatti generati dall’AI come codice, contenuti e design, può erodere il ritorno sugli investimenti promesso da GenAI,” ha detto Chandrasekaran.
“Stabilendo standard chiari per la revisione e documentazione degli asset generati dall’AI e tracciando le metriche del debito tecnico nei cruscotti IT, le imprese possono prendere misure proattive per prevenire interruzioni costose.”
L’analista ha anche avvertito circa il blocco dell’ecosistema (vendor lock-in) e l’erosione delle competenze che possono derivare dall’uso troppo intensivo di GenAI.
“Per prevenire la perdita graduale della memoria e capacità aziendale, le organizzazioni dovrebbero identificare dove il giudizio umano e l’artigianalità sono essenziali, progettando soluzioni AI per complementare, non sostituire, queste competenze,” ha detto Chandrasekaran.
Ha aggiunto che i CIO dovrebbero dare priorità a standard aperti, API aperte e architetture modulari quando progettano il loro stack AI, per evitare una dipendenza eccessiva da un singolo fornitore.
Fonte (https://www.infosecurity-magazine.com/news/gartner-40-firms-hit-shadow-ai/)
