No meu dia a dia com IA, ao avaliar um sistema usado por várias empresas, começo por uma pergunta. Existe algum caminho em que uma empresa veja o dado da outra? Neste texto, "cliente" é cada empresa que usa o sistema, não quem compra dela.
Esse erro não faz barulho. O sistema continua funcionando, e o dado errado aparece numa tela, bem escrito, como se fosse o certo. Num sistema com muitas entradas (cada tela, aplicativo ou integração que pede dados), basta uma esquecer de conferir de quem é o dado.
Se você contrata um sistema online usado por várias empresas, onde procuraria uma falha assim?
O que é isolar os dados, e por que a IA muda o risco?
Isolar os dados é impedir que o dado de um cliente chegue a outro, em cada lugar por onde ele passa. O arranjo em que várias empresas dividem o mesmo sistema tem nome: multi-tenant.
Em palavras simples
Multi-tenant (vários inquilinos): vários clientes no mesmo sistema, cada um vendo só o seu. É como um prédio de salas comerciais, com uma estrutura só e uma chave por empresa. No sistema, é como se o porteiro conferisse a chave toda vez que você pede alguma coisa.
Com IA, o risco muda de forma. Quando alguém pergunta algo ao assistente, o sistema junta os dados relevantes num texto e o envia à IA, como quem cola tudo numa conversa do ChatGPT. A IA responde com o que veio nesse texto e não sabe a quem pertence cada informação.
Se o texto traz dados de dois clientes por engano, o modelo de linguagem (o programa que escreve a resposta) usa tudo o que recebeu. Numa tela comum, o dado alheio costuma aparecer como um campo estranho que alguém nota. Com IA, ele entra numa frase bem escrita e passa despercebido.
Imagine o vendedor de uma distribuidora que pede ao assistente o preço de um produto. Ele recebe a lista de preços de outra distribuidora, bem escrita, como se fosse a dele.
Cinco lugares por onde o dado de um cliente passa
O dado de um cliente passa por cinco lugares, do banco até a tela:
- o banco de dados, onde ele fica guardado;
- o texto que o sistema monta e envia à IA;
- o cache, a memória rápida que guarda respostas prontas;
- o log, o diário do sistema;
- a tela, onde alguém lê o resultado.
Em cada um, a pergunta é a mesma: de quem é este dado? Eu aprendi a revisar um sistema por esse caminho, lugar por lugar.
O banco de dados basta?
Não basta, mas é por ele que se começa. O banco guarda os dados de todos os clientes em tabelas, que são listas como as abas de uma planilha. Uma coluna "cliente" diz de quem é cada linha, e o banco devolve só as linhas de quem pediu. O nome técnico é segurança por linha (RLS).
A proteção não pode depender de lembrança. Uma tabela nova precisa nascer trancada, como uma sala nova de porta fechada: ninguém vê nada até alguém escrever a regra de acesso de propósito.
Mas nem todo caminho passa pelas regras do banco. Um relatório que soma dados de vários clientes, por exemplo, costuma ler tudo com uma credencial de administração, como a chave do zelador, que abre qualquer sala. Nesses caminhos, quem confere de quem é cada dado é o programa do sistema, a cada consulta (cada vez que ele busca um dado).
A boa prática é que toda consulta leve o filtro do cliente, calculado a partir do login da pessoa. Ele nunca pode vir do navegador, do texto enviado à IA nem do que a IA decidir sozinha. Onde o sistema ignora as regras do banco, cada consulta precisa provar de quem é o dado.
O que conferir no texto enviado à IA, no cache, no log e na tela?
O texto enviado à IA nasce no programa do sistema, fora do banco. O teste que eu recomendo simula dois clientes ativos ao mesmo tempo e confere se o texto de um traz algum fragmento do outro.
O cache guarda uma resposta pronta para não refazer a conta. É como o vendedor que repete o preço dito a uma empresa sem olhar a lista da outra. Se a etiqueta da resposta guardada não inclui o cliente, o cliente B recebe a do A.
Esse erro só aparece quando dois clientes consultam a mesma coisa dentro da validade do cache, e passa em teste comum.
O log registra o que aconteceu, e isso é útil. O risco é anotar dado sensível sem separar por cliente. Um log que mistura clientes é um segundo banco de dados sem as proteções do primeiro.
A tela é o último lugar. Um teste que você mesmo pode fazer: entre numa empresa, depois em outra, e veja se sobrou algo da primeira.
Que perguntas fazer a quem vende software com IA?
A Tecela AI também faz sistemas com IA, então estas perguntas valem para nós. Elas seguem o caminho do dado e cabem num e-mail:
- Na demonstração, vocês usam dados inventados ou dados reais de outro cliente?
- Existe um teste em que uma empresa tenta ver os dados de outra e o sistema precisa barrar? Posso vê-lo rodando?
- Quando criam uma tabela nova (uma lista nova de dados no banco), ela já nasce protegida, ou alguém precisa lembrar?
- Quem decide de quem é cada dado: o login da pessoa ou a própria IA?
- As respostas guardadas na memória (cache) e o log do sistema também separam por empresa?
Uma boa resposta nomeia o mecanismo e mostra como foi testado, de preferência numa demonstração. "Seguimos as melhores práticas" não responde a nenhuma das cinco. Peça as respostas por escrito.
Quando não vale a pena separar tudo isso?
Se só uma empresa usa o sistema, o risco é outro: quem, dentro dela, pode ver o quê. O vendedor não deveria ver a margem, nem o estoquista os salários. Separar por cliente deixa de ser o ponto, e vale mais cuidar de papéis e permissões.
Se o sistema é um teste descartável com dados inventados, não há o que vazar. Vale só criar o hábito de proteger o banco e o texto enviado à IA desde já, e deixar cache e log para quando houver dado real.
Em resumo
- O dado de um cliente passa por cinco lugares, do banco à tela, e basta um falhar para um cliente ver o dado de outro.
- A IA não sabe de quem é cada informação, então o filtro por cliente vem do programa.
- Tabela nova nasce trancada, e onde o sistema ignora as regras do banco, cada consulta prova de quem é o dado.
- Pergunte ao fornecedor como cada lugar é protegido e peça para ver o teste rodando.
Uma pergunta para levar: se você contratasse hoje, quem provaria para você que o dado de uma empresa não chega à outra?
