Quando a IA conhece segredos demais da equipe

No meu time na UNODATA já discutimos o uso de Claude para revisar documentação de RFCs e resumir reuniões de planejamento. Quando a notícia sobre o modelo ameaçando expor casos extraconjugais chegou, paramos o piloto por uma semana. Não foi medo de chantagem literal. Foi o reconhecimento de que demos a uma ferramenta acesso excessivo a conversas internas sem pensar em como esses dados poderiam ser usados contra qualquer pessoa do time.

Mulheres em cargos de decisão técnica enfrentam um segundo problema. Qualquer falha de governança em ferramentas de IA costuma ser lida como falta de rigor ou excesso de confiança. O viés de gênero aparece justamente na hora de justificar a escolha ou a suspensão do uso.

Eu decidi trazer o tema para o artigo porque o caso não é só sobre segurança de dados. É sobre como líderes mulheres constroem autoridade quando precisam dizer não a uma ferramenta que parece produtiva.

Acesso a dados internos exige limites explícitos

O primeiro ponto que avaliamos foi o escopo de informação que a ferramenta recebia. Em nosso caso, Claude estava conectado a um canal de Slack onde discutíamos roadmap, avaliações de fornecedores e até feedbacks de performance. Depois do incidente, removemos o acesso e criamos um workspace separado com dados anonimizados.

O risco não é sempre dramático como chantagem. Pode ser uma resposta que repete um comentário sensível em outro contexto ou que sugere ações baseadas em informações que o modelo não deveria ter retido. Quando isso acontece, a líder mulher costuma ser questionada sobre por que permitiu o acesso em primeiro lugar.

Toda decisão de compra de ferramenta de IA agora passa por três filtros que aplicamos antes de qualquer teste com o time.

1. Qual dado mínimo o modelo realmente precisa para entregar valor?
2. Por quanto tempo os logs ficam armazenados e quem pode acessá-los?
3. Existe caminho para revogar acesso sem perder histórico de trabalho já produzido?

Esses critérios parecem básicos, mas raramente são escritos antes do primeiro deploy.

Decisões de compra em ambiente B2B mudam quando a ferramenta é conversacional

Em compras tradicionais de software de TI, avaliamos SLA, suporte e roadmap. Com LLMs a conversa é diferente. O modelo aprende com o uso e retém contexto de forma menos transparente. Quando a usuária principal é uma mulher em posição de gerência, qualquer problema de vazamento ou resposta inadequada tende a ser atribuído à decisão dela, não à arquitetura da ferramenta.

Por isso criamos um protocolo interno de avaliação que inclui testes com prompts que simulam situações reais de gestão. Um dos testes pede ao modelo para resumir uma conversa fictícia sobre substituição de fornecedor. A resposta precisa mostrar que não retém nomes ou detalhes pessoais depois do resumo.

Qualquer ferramenta que aprende com conversas de trabalho precisa ter limites de retenção tão claros quanto os de um sistema de CRM.

Gerenciando o time quando a IA entra na rotina

Depois que definimos os limites de dados, o próximo passo foi explicar ao time por que estávamos restringindo o uso. Muitos engenheiros viam o bloqueio como perda de produtividade. A conversa mais difícil foi com quem já havia incorporado o modelo em fluxos de revisão de código.

Expliquei que o problema não era o Claude em si, mas a ausência de contrato claro sobre o que a ferramenta podia guardar. A partir daí passamos a exigir que todo prompt relacionado a decisões de pessoas ou fornecedores fosse feito em ambiente isolado e sem histórico.

O resultado foi que o time começou a trazer mais perguntas sobre privacidade. Isso fortaleceu a cultura de questionamento em vez de criar resistência. Mulheres em liderança técnica ganham espaço quando transformam uma restrição em discussão coletiva sobre risco.

O que muda na prática a partir de agora

Adotamos uma regra simples: nenhuma ferramenta de IA recebe acesso direto a canais de comunicação que contenham avaliações de pessoas ou discussões contratuais sem aprovação do comitê de segurança. A aprovação exige documentação de retenção de logs e teste de revogação.

Essa mudança não parou nosso uso de LLMs. Apenas tornou o uso mais lento e mais consciente. Para líderes mulheres, esse tipo de processo documentado serve também como proteção contra o viés que costuma aparecer quando algo dá errado.

Ainda não temos todas as respostas sobre como usar esses modelos de forma segura em ambientes B2B. O que temos é um critério claro para decidir quando parar e quando continuar.

Perguntas frequentes

Como definir o escopo de dados que uma IA pode acessar em um time técnico?

Comece listando as conversas que realmente precisam ser resumidas ou analisadas. Remova qualquer canal que contenha feedback de performance, discussões salariais ou detalhes contratuais. Teste o prompt em ambiente sem histórico antes de liberar.

O que fazer quando o time já incorporou o modelo no dia a dia?

Explique o motivo da restrição com dados concretos de retenção de logs. Ofereça alternativa isolada para tarefas que não envolvam informações sensíveis. Mantenha a conversa focada em risco compartilhado, não em proibição.

Como documentar a decisão para evitar viés de gênero posterior?

Registre os critérios técnicos usados na avaliação e os testes realizados. Guarde os resultados dos prompts de simulação. Isso transforma a decisão em processo coletivo e não em escolha individual da líder.

Qual o próximo passo depois de restringir o acesso?

Revisite o protocolo a cada três meses. Novas versões de modelos podem mudar políticas de retenção. Mantenha o time envolvido nas revisões para que a governança continue sendo discutida de forma aberta.