IA e risco humano: as ameaças decorrentes dos comportamentos
A IA gera novos riscos comportamentais: dados confidenciais em chatbots, phishing mais convincente, decisões delegadas ao algoritmo. Como lidar com o risco humano na era da IA.
· 6 min
Fala-se muito sobre como a IA torna os ataques mais sofisticados. Fala-se muito menos sobre como a IA está criando novos riscos comportamentais, que surgem da maneira como as pessoas a utilizam no dia a dia. É aí, e não nos ataques, que reside grande parte do risco.
Os dados que saem da empresa
O risco mais comum é também o mais banal: uma pessoa cola dados confidenciais, códigos ou informações sigilosas em um chatbot de IA para economizar tempo. Esses dados saem do controle da organização. Não houve um ataque: houve um comportamento, repetido por muitas pessoas, todos os dias.
As organizações se preocupam com os dados gerados pela IA generativa, mas muitas ainda não têm uma estratégia para lidar com o comportamento das pessoas.
O phishing que você nem reconhece mais
A IA tornou os ataques de engenharia social mais convincentes: e-mails sem erros, mensagens personalizadas, imitações convincentes. Os sinais nos quais as pessoas estavam acostumadas a confiar (erros gramaticais, tom estranho) não funcionam mais. É preciso um comportamento diferente, não apenas olhos mais atentos.
As decisões delegadas ao algoritmo
Um risco mais sutil diz respeito àqueles que utilizam a IA para tomar decisões: avaliações, seleções, prioridades. Delegar ao algoritmo não elimina a responsabilidade, e um algoritmo pode introduzir erros ou preconceitos que ninguém verifica. A decisão continua sendo humana, mesmo quando sugerida por uma máquina.
Gerenciando o risco humano na era da IA
A solução não é proibir a IA, mas sim capacitar as pessoas a usá-la sem criar riscos: saber o que nunca se deve copiar e colar, reconhecer novas formas de ataque e manter o julgamento humano onde ele é essencial. Trata-se de um risco humano, em sua forma mais recente.