IA y riesgo humano: las amenazas que surgen de los comportamientos
La IA genera nuevos riesgos de comportamiento: datos sensibles en los chatbots, phishing más creíble, decisiones delegadas al algoritmo. Cómo gestionar el riesgo humano en la era de la IA.
· 6 min
Se habla mucho de cómo la IA hace que los ataques sean más sofisticados. Se habla mucho menos de cómo la IA está generando nuevos riesgos de comportamiento, que surgen de la forma en que las personas la utilizan a diario. Es aquí, y no en los ataques, donde reside gran parte del riesgo.
Los datos que salen de la empresa
El riesgo más común es también el más trivial: una persona pega datos sensibles, códigos o información confidencial en un chatbot con IA para ahorrar tiempo. Esos datos quedan fuera del control de la organización. No ha habido ningún ataque: se trata de un comportamiento que muchas personas repiten a diario.
Las organizaciones se preocupan por los datos que se generan a través de la IA generativa, pero muchas aún no cuentan con una estrategia para abordar el comportamiento de las personas.
El phishing que ya no reconoces
La IA ha hecho que los ataques de ingeniería social resulten más creíbles: correos electrónicos sin errores, mensajes personalizados, imitaciones convincentes. Las señales en las que la gente solía confiar (errores gramaticales, tono extraño) ya no sirven. Se necesita un comportamiento diferente, no solo estar más atentos.
Las decisiones delegadas al algoritmo
Existe un riesgo más sutil para quienes utilizan la IA para tomar decisiones: evaluaciones, selecciones, prioridades. Delegar en el algoritmo no elimina la responsabilidad, y un algoritmo puede introducir errores o sesgos que nadie comprueba. La decisión sigue siendo humana, incluso cuando la sugiere una máquina.
Gestionar el riesgo humano en la era de la IA
La solución no es prohibir la IA, sino enseñar a la gente a utilizarla sin generar riesgos: saber qué no se debe pegar nunca, reconocer las nuevas formas de ataque y mantener el criterio humano donde sea necesario. Se trata de un riesgo humano, en su forma más novedosa.