A segurança de dados em sistemas com IA é uma das perguntas que chegam tarde demais para a maioria das equipes de desenvolvimento. O sistema funciona, a funcionalidade impressiona, os primeiros usuários estão usando, e só então alguém pergunta: mas como esses dados estão sendo tratados?
Não é descuido. É a ordem natural de muitos projetos que nasceram rápido, com ferramentas que democratizaram o acesso à inteligência artificial e reduziram o tempo de construção de meses para semanas. O problema é que velocidade de desenvolvimento e maturidade de segurança raramente caminham no mesmo ritmo.
O que muda quando IA entra no sistema
Aplicações construídas com componentes de inteligência artificial têm algumas características que as diferenciam de sistemas mais tradicionais do ponto de vista da proteção de dados.
A primeira é a dependência de APIs externas. Boa parte dos sistemas com IA consome serviços de terceiros, sejam modelos de linguagem, APIs de visão computacional ou plataformas de processamento. Cada chamada a esses serviços pode carregar dados do usuário junto, dependendo de como o sistema foi construído. A pergunta que precisa ser respondida é: o que, exatamente, está saindo da sua aplicação a cada requisição?
A segunda é o volume de dados processados. Sistemas com IA tendem a processar mais informações por interação do que sistemas convencionais, e muitas vezes armazenam históricos de conversa, preferências inferidas ou padrões de comportamento que se qualificam como dados pessoais sob a LGPD, mesmo que não tenham sido coletados com essa intenção.
A terceira é a opacidade do modelo. Quando um sistema usa um modelo treinado externamente, nem sempre é claro o que acontece com os dados que passam por ele, onde são retidos temporariamente e como são descartados. Isso gera uma zona de responsabilidade difusa que a lei não reconhece como justificativa para a falta de controle.
LGPD se aplica a sistemas com IA? Sim, sem exceção
A Lei Geral de Proteção de Dados não faz distinção pela tecnologia utilizada. O que define a obrigação é o tratamento de dados pessoais de titulares brasileiros, e qualquer sistema que colete, processe, armazene ou transmita esse tipo de informação está sujeito às mesmas regras, independentemente de usar IA, automação ou qualquer outro recurso tecnológico.
Na prática, isso significa que o desenvolvedor ou a empresa por trás do sistema é o controlador dos dados que fluem por ele. A responsabilidade sobre como esses dados são coletados, com qual base legal, para qual finalidade e por quanto tempo ficam armazenados recai sobre quem tomou a decisão de construir e disponibilizar o sistema, como o artigo sobre adequação à LGPD e o papel do controlador detalha.
O uso de uma API de terceiro para o processamento de linguagem, por exemplo, não transfere a responsabilidade sobre os dados do usuário. O desenvolvedor continua sendo o controlador; o provedor da API passa a ser um operador, e a relação entre os dois precisa estar contratualmente formalizada com obrigações de segurança e confidencialidade.
O que considerar antes de colocar o sistema em produção
Alguns pontos que costumam ser ignorados no desenvolvimento de sistemas com IA e que têm impacto direto na proteção dos dados dos usuários:
Quais dados chegam ao modelo. É comum que o prompt enviado a um modelo de linguagem inclua informações do usuário que não precisariam estar lá. Revisar o que entra em cada requisição, eliminar dados desnecessários e trabalhar com pseudonimização quando possível são práticas que reduzem a superfície de exposição.
Onde os dados ficam armazenados e por quanto tempo. Históricos de conversa, logs de uso e preferências inferidas acumulam volume rapidamente. Sem uma política de retenção definida, esses dados ficam armazenados indefinidamente, ampliando a responsabilidade da empresa e o impacto potencial de qualquer incidente.
Como o sistema se comporta diante de uma tentativa de extração. Aplicações com IA são suscetíveis a ataques de prompt injection, em que um usuário manipula a entrada do sistema para obter informações que não deveriam estar acessíveis. Testar o sistema contra esse tipo de comportamento antes do lançamento é parte da avaliação de segurança, assim como qualquer outra análise de vulnerabilidades em aplicações que a equipe técnica conduziria em um sistema convencional.
Se há base legal para cada tipo de tratamento. Consentimento, legítimo interesse, execução de contrato: cada dado coletado pelo sistema precisa ter uma justificativa legal documentada. Sistemas que coletam dados para “melhorar o modelo” sem consentimento explícito do usuário estão operando em área de risco regulatório.
O risco que ninguém mapeia antes do incidente
Há um padrão recorrente em sistemas que chegam a uma revisão de segurança após algum problema: as vulnerabilidades encontradas existiam desde o início, mas nunca foram procuradas. Nenhuma análise foi feita, nenhum teste de intrusão foi conduzido, nenhuma política de acesso aos dados foi formalizada. O sistema funcionava, e funcionamento foi confundido com proteção.
Com aplicações de IA isso se agrava porque o ambiente é mais dinâmico: modelos são atualizados pelos provedores, integrações mudam de versão, comportamentos que não existiam em produção semanas atrás passam a existir sem que ninguém tenha revisado as implicações de segurança. O que estava em conformidade num mês pode não estar no seguinte, e só uma revisão periódica da infraestrutura permite acompanhar esse ritmo.
A parte boa é que a maioria dos pontos descritos acima tem solução técnica conhecida. O que falta, na maior parte dos casos, é o momento deliberado de parar o desenvolvimento, mapear o fluxo real dos dados e responder com honestidade às perguntas sobre o que está acontecendo com as informações dos usuários.
Esse momento precisa acontecer antes do lançamento. Depois, o custo de corrigir é significativamente maior, e o risco de que um incidente mostre o problema antes da equipe técnica encontrá-lo é real.
A STWBrasil apoia equipes de desenvolvimento e gestores na avaliação de segurança de sistemas com IA, mapeando o fluxo de dados, identificando vulnerabilidades e verificando a conformidade com a LGPD antes que um incidente faça esse trabalho por você.
