IA et risque humain : les menaces liées aux comportements
L'IA engendre de nouveaux risques comportementaux : données sensibles dans les chatbots, phishing plus crédible, décisions déléguées à l'algorithme. Comment gérer le risque humain à l'ère de l'IA.
· 6 min
On parle beaucoup de la manière dont l'IA rend les attaques plus sophistiquées. On parle beaucoup moins de la façon dont l'IA engendre de nouveaux risques comportementaux, qui découlent de la manière dont les gens l'utilisent au quotidien. C'est là, et non pas dans les attaques, que réside l'essentiel du risque.
Les données issues de l'entreprise
Le risque le plus courant est aussi le plus banal : une personne copie-colle des données sensibles, du code ou des informations confidentielles dans un chatbot IA pour gagner du temps. Ces données échappent alors au contrôle de l'organisation. Il ne s'agit pas d'une attaque : il s'agit d'un comportement, reproduit par de nombreuses personnes, jour après jour.
Les organisations s'inquiètent des données générées par l'IA générative, mais beaucoup d'entre elles n'ont pas encore de stratégie concernant le comportement des individus.
Le phishing que vous ne reconnaissez plus
L'IA a rendu les attaques d'ingénierie sociale plus crédibles : des e-mails sans fautes, des messages personnalisés, des imitations convaincantes. Les indices sur lesquels les gens avaient pris l'habitude de se fier (fautes de grammaire, ton étrange) ne fonctionnent plus. Il faut adopter un comportement différent, et pas seulement être plus vigilant.
Les décisions déléguées à l'algorithme
Un risque plus subtil concerne ceux qui utilisent l'IA pour prendre des décisions : évaluations, sélections, priorités. Déléguer à l'algorithme n'élimine pas la responsabilité, et un algorithme peut introduire des erreurs ou des préjugés que personne ne vérifie. La décision reste humaine, même lorsqu'elle est suggérée par une machine.
Gérer le risque humain à l'ère de l'IA
La solution n'est pas d'interdire l'IA, mais d'apprendre aux gens à l'utiliser sans créer de risques : savoir ce qu'il ne faut jamais copier-coller, reconnaître les nouvelles formes d'attaques, faire prévaloir le jugement humain là où cela compte. C'est le risque humain, sous sa forme la plus récente.