IA certa na hora errada: o risco que nenhum painel de governança enxerga

Há algumas semanas, conversei com o diretor comercial de uma empresa de médio porte que acabara de implantar um sistema de IA para priorização de leads. O sistema funcionava perfeitamente. Scorings corretos, CRM atualizado em tempo real, alertas para o time de vendas chegando no momento certo. O problema: o modelo havia sido treinado com dados de um perfil de cliente que a empresa estava, conscientemente, tentando deixar de atender. Em seis meses, eles tinham mais desses clientes do que nunca.

A IA não errou nada. Executou com precisão cirúrgica exatamente o que foi pedido. E foi esse o problema.

Essa história coloca em xeque o debate que ainda domina as conversas sobre risco em IA. A maioria das empresas, quando fala em governança de inteligência artificial, está olhando para o erro: o modelo que alucina, o algoritmo que discrimina, a previsão que erra por três desvios padrão. Esses riscos existem e merecem atenção. Mas, na minha experiência na UNODATA, o risco que realmente machuca as empresas é outro. É o risco da IA certa executando a pergunta errada em velocidade industrial.

Vou desenvolver esse ponto porque ele tem consequências diretas para quem toma decisão de comprar, implantar ou recomendar sistemas de IA dentro de uma empresa.

O problema não é a máquina. É o briefing

Quando um vendedor humano recebe uma instrução confusa, ele para, questiona, negocia o entendimento. Às vezes erra mesmo assim, mas o erro é lento o suficiente para ser percebido e corrigido antes de escalar. A IA não faz isso. Ela pega o briefing, otimiza para o objetivo declarado e executa na velocidade que você autorizou.

Isso muda completamente a natureza do risco gerencial. O gargalo deixa de ser a execução e passa a ser a formulação. Quem define o objetivo do modelo, com que dados, com que restrições, revisando com qual frequência: essas são as decisões que vão determinar se a IA vai trabalhar a favor ou contra a estratégia da empresa.

No contexto de vendas B2B, isso aparece de formas concretas:

• Um modelo de churn treinado em comportamento histórico pode aprender a reter clientes que deveriam ser deixados ir, porque eram lucrativos no passado e hoje são estrategicamente indesejáveis.
• Um sistema de recomendação de upsell pode empurrar o produto de maior margem para o cliente que precisa do produto de menor margem, gerando cancelamento no trimestre seguinte.
• Um scorer de leads pode penalizar segmentos de mercado que a empresa decidiu, em reunião de diretoria, que quer conquistar, simplesmente porque esses segmentos nunca compraram antes.

Em todos esses casos, o modelo está certo. O objetivo estava errado.

Velocidade é um multiplicador, não uma vantagem em si

Existe uma sedução enorme na velocidade que a IA entrega. Eu entendo. Quando você vê um processo que levava três dias sendo executado em quarenta segundos, é difícil não querer escalar isso para tudo. Mas velocidade é um multiplicador. Ela amplifica tanto o acerto quanto o erro de direção.

Se a empresa está indo para o lugar errado, a IA vai garantir que ela chegue lá muito mais rápido.

Na prática, o que eu tenho visto com frequência é que as empresas compram velocidade sem primeiro resolver o problema de clareza estratégica. Elas automatizam processos que ainda não entenderam completamente, treinam modelos com dados que nunca foram auditados e definem objetivos de otimização que conflitam com metas de longo prazo que estão documentadas em outro slide deck que ninguém abriu nos últimos seis meses.

O resultado não é catástrofe imediata. É desvio silencioso. A empresa vai um grau para a esquerda por semana, de forma consistente, até que alguém olha para os números de um trimestre inteiro e não entende por que as vendas cresceram mas a margem caiu, ou por que a retenção melhorou mas o NPS piorou.

O que separa uma implantação bem-feita de uma armadilha bem-construída

A diferença, na minha visão, está em três práticas que a maioria das empresas pula na pressa de colocar o sistema em produção:

1. Auditoria de objetivo antes de auditoria de dados. Antes de perguntar se os dados são bons, a empresa precisa perguntar se o objetivo que ela vai otimizar ainda representa o que ela quer. Isso exige uma conversa entre quem cuida do modelo e quem cuida da estratégia, e essa conversa raramente acontece.
2. Revisão periódica do contexto, não só da performance. Um modelo pode manter acurácia estável enquanto o mercado muda ao redor dele. Performance técnica não é garantia de relevância estratégica. É preciso revisar se o problema que o modelo foi treinado para resolver ainda é o problema que a empresa tem.
3. Definição explícita de restrições éticas e estratégicas como parâmetros, não como políticas. Se a empresa decidiu não atender determinado perfil de cliente por razões estratégicas, isso precisa entrar no modelo como restrição operacional, não ficar num documento de política que ninguém lê antes de acionar o sistema.

O que muda na gestão quando a IA entra na operação

Implantar IA na operação comercial ou em qualquer função crítica de negócio muda o papel do gestor. O gestor deixa de ser o responsável por garantir que a execução está correta e passa a ser o responsável por garantir que a pergunta está certa.

Isso é uma mudança profunda de função, e a maioria das empresas não prepara seus líderes para ela. O gestor que foi excelente apagando incêndio de execução pode ser um risco real quando o problema passa a ser silêncio estratégico: a IA executando sem reclamação algo que deveria ser questionado.

Na UNODATA, quando trabalhamos com empresas que estão implantando IA em processos de negócio, uma das primeiras perguntas que fazemos não é técnica. É: quem, na sua organização, tem autoridade e visibilidade para dizer que o objetivo do modelo está errado e parar a operação para corrigir? Se a resposta for vaga, o risco é real, independentemente de quão boa seja a tecnologia escolhida.

A governança de IA que funciona não é um comitê que aprova projetos na entrada. É uma capacidade instalada de perceber desvio de direção durante a operação e ter mecanismo claro para corrigir. Isso envolve pessoas, processo e, sim, tecnologia de monitoramento. Mas começa com uma pergunta simples que quase ninguém faz antes de apertar o botão de deploy: o que acontece quando esse sistema funciona exatamente como planejado?

Fecho

O debate sobre IA vai continuar focado no erro porque o erro é visível, auditável e processável. Mas, para quem está na cadeira de decisão, o risco mais relevante nos próximos anos vai ser o da IA competente servindo uma estratégia mal formulada. Esse risco não aparece nos relatórios de auditoria de modelo. Aparece nos resultados de negócio, trimestres depois, quando já é difícil rastrear a causa.

A pergunta que eu faço para qualquer líder que está avaliando IA agora é essa: você tem mais clareza sobre o que quer que a IA otimize do que tinha sobre o que queria que o seu time de vendas fizesse? Se a resposta for não, comece por aí.

Perguntas frequentes

Por que a IA pode ser prejudicial mesmo quando funciona corretamente do ponto de vista técnico?

Quando um modelo de IA é treinado com um objetivo mal formulado ou com dados que não refletem a estratégia atual da empresa, ele executa com precisão algo que vai contra os interesses do negócio. O sistema entrega o que foi pedido, mas o que foi pedido estava errado. Isso é mais difícil de detectar do que um erro técnico porque os indicadores de performance do modelo permanecem saudáveis.

Como definir bons objetivos para um modelo de IA em vendas B2B?

O ponto de partida é alinhar o objetivo do modelo com a estratégia de negócio vigente, não com o histórico de dados disponível. Isso exige uma conversa entre o time técnico e os responsáveis pela estratégia comercial antes de qualquer linha de código ou configuração. O objetivo precisa incluir não só o que se quer maximizar, mas também as restrições explícitas sobre o que não se quer produzir.

Com que frequência uma empresa deve revisar os modelos de IA implantados em operações comerciais?

A revisão técnica de performance pode ser mensal ou trimestral, dependendo do volume de dados. Mas a revisão estratégica, que avalia se o problema que o modelo resolve ainda é relevante para o negócio, deve acontecer sempre que houver mudança de direção comercial, de perfil de cliente alvo ou de posicionamento de produto. Não existe frequência fixa: existe gatilho de contexto.

Qual é o papel do gestor numa operação comercial que usa IA intensivamente?

O gestor deixa de ser o fiscal da execução e passa a ser o guardião da pergunta. Sua função principal é garantir que o objetivo do modelo continua representando o que a empresa quer, perceber quando o contexto mudou e o modelo não sabe disso, e ter autoridade para parar ou ajustar a operação quando o desvio for identificado. Essa mudança de papel exige preparo explícito, não acontece por osmose.