AI e rischio umano: le minacce che nascono dai comportamenti
L'AI crea rischi comportamentali nuovi: dati sensibili nei chatbot, phishing più credibile, decisioni delegate all'algoritmo. Come gestire il rischio umano nell'era AI.
· 6 min
Si parla molto di come l'AI renda gli attacchi più sofisticati. Si parla molto meno di come l'AI stia creando rischi comportamentali nuovi, che nascono da come le persone la usano ogni giorno. È qui, non negli attacchi, che si gioca gran parte del rischio.
I dati che escono dall'azienda
Il rischio più diffuso è anche il più banale: una persona incolla dati sensibili, codice o informazioni riservate in un chatbot AI per fare prima. Quei dati escono dal controllo dell'organizzazione. Non c'è stato un attacco: c'è stato un comportamento, ripetuto da molte persone, ogni giorno.
Le organizzazioni si preoccupano dei dati che escono attraverso l'AI generativa, ma molte non hanno ancora una strategia per il comportamento delle persone.
Il phishing che non riconosci più
L'AI ha reso gli attacchi di ingegneria sociale più credibili: email senza errori, messaggi personalizzati, imitazioni convincenti. I segnali su cui le persone si erano abituate a fare affidamento (errori di grammatica, tono strano) non funzionano più. Serve un comportamento diverso, non solo occhi più attenti.
Le decisioni delegate all'algoritmo
Un rischio più sottile riguarda chi usa l'AI per decidere: valutazioni, selezioni, priorità. Delegare all'algoritmo non elimina la responsabilità, e un algoritmo può introdurre errori o pregiudizi che nessuno verifica. La decisione resta umana, anche quando la suggerisce una macchina.
Gestire il rischio umano nell'era dell'AI
La risposta non è vietare l'AI, ma allenare le persone a usarla senza creare rischi: sapere cosa non incollare mai, riconoscere le nuove forme di attacco, mantenere il giudizio umano dove conta. È rischio umano, nella sua forma più nuova.