Até 2027, você vai desligar a IA que comprou.

/context

A inadimplência da carteira de distribuidores subiu de novo no fechamento, o terceiro mês seguido, e ninguém na sala tinha uma boa explicação. O comercial jurava que a base era a de sempre. O crédito mostrava as aprovações dentro da política. Foi quando alguém perguntou, quase por acaso, desde quando o sistema vinha liberando limites mais altos para a região Nordeste — e a resposta foi: desde a virada do ano, mais ou menos. Ninguém tinha decidido isso. A ferramenta de score que define o limite de crédito de cada distribuidor tinha, sozinha, ficado mais generosa com um perfil que vinha se deteriorando.

Ela não quebrou. Não deu erro, não saiu do ar, não disparou nenhum alarme. Ela foi ficando errada, devagar, enquanto o cenário econômico mudava debaixo dela e o modelo continuava decidindo com a régua do ano passado. Quatro meses de decisões cada vez mais otimistas, uma de cada vez, nenhuma absurda o bastante para chamar atenção — até virarem uma linha na DRE.

A ferramenta tinha sido aprovada havia um ano. Passou por avaliação, entrou no inventário, alguém assinou embaixo. E aí todo mundo seguiu a vida, confiando que uma coisa aprovada continua certa. O CFO descobriu o problema no fechamento contábil — não num painel, não num aviso. Descobriu pelo prejuízo, que é o lugar mais caro do mundo para descobrir qualquer coisa.

Quando a conta ficou clara, a decisão da diretoria foi rápida e cara: desligar a ferramenta — a mesma que tinham aprovado, pago e defendido um ano antes. A IA que compraram foi a primeira que desligaram.

Esta é a última peça da série de governança de IA, e a menos glamourosa: depois de inventariar, classificar o risco, escrever a política e nomear o dono, sobra a pergunta que ninguém gosta de fazer porque ela nunca termina. Quem está olhando agora?

/nofilter

A intuição que atrapalha é tratar IA como software comum. Software comum, quando falha, falha barulhento: dá erro, trava, sai do ar, e o monitoramento tradicional acende uma luz vermelha. A IA falha calada. Ela não retorna um código de erro — retorna uma resposta plausível e errada, no mesmo tom confiante da resposta certa. O sistema fica verde, o uptime fica em 99,9%, e a qualidade vai escorrendo por baixo sem acionar nada. Você está monitorando se a IA responde. O que importa é o que ela responde.

E há três motivos pelos quais o que ela responde não fica parado no lugar. O primeiro é que o chão se move: o modelo foi calibrado num cenário e passa a operar noutro — câmbio, juros, comportamento de cliente, tudo muda, e o modelo continua com a régua antiga. O segundo você já viu nas últimas duas edições: o fornecedor troca o modelo por baixo de você, sem aviso e sem o seu consentimento — do mesmo jeito abrupto que um governo desligou um modelo inteiro semana retrasada. O que rodava ontem pode responder diferente amanhã. O terceiro é que o erro de IA é estatístico e distribuído: não é uma falha grande e visível, são mil decisões um pouco enviesadas que só viram sinal quando você olha a tendência, nunca o caso isolado.

Por isso o monitoramento de IA vigia outra coisa, e em quatro frentes.

Deriva: a qualidade da resposta caindo contra a linha de base que você mediu no dia da aprovação.

Viés: a decisão tratando grupos de forma diferente, acumulando longe dos olhos.

Incidente: o uso indevido, o vazamento, o comando malicioso escondido num documento — a falha intencional, que nunca avisa.

Custo: o consumo de tokens e chamadas disparando silencioso, com a fatura contando a história sempre por último. O infográfico abaixo abre as quatro.

Mas o ponto que separa governança real de teatro de governança não está em nenhum dos quatro sinais. Está no que você faz quando um deles dispara. Um painel bonito que ninguém olha, ou que ninguém tem autoridade para agir quando ele apita, não é monitoramento — é decoração. Monitoramento de verdade é um gatilho ligado a uma pessoa: um número que, ao cruzar um limite definido, aciona o dono que você nomeou na edição passada — alguém com alçada para pausar a ferramenta e, se for o caso, acionar o plano de continuidade da edição anterior a essa. Sem limite, sem dono e sem alçada, o dashboard é só uma forma mais cara de não ver o problema chegando.

/howto

O exercício de hoje transforma o seu inventário numa rotina de monitoramento — não um projeto de observabilidade, uma página que você revisa de tempos em tempos. A ideia é deliberadamente modesta: você não vai instrumentar tudo. Vai colocar olhos nos poucos usos que, se derivarem no escuro, viram linha na DRE.

Passo 1. Foque nos usos de risco alto. Pegue o inventário das edições anteriores e isole só o que está marcado como risco alto — provavelmente uma meia dúzia de usos. É neles que a deriva silenciosa custa caro. O resto pode esperar.

Passo 2. Para cada um, defina o gatilho e o dono. Peça à IA para montar a rotina:

Passo 3. Marque a primeira revisão na agenda. Uma rotina sem data é uma intenção. Bloqueie trinta minutos daqui a um mês para olhar os gatilhos: nenhum disparou porque está tudo bem, ou porque ninguém está medindo? Essa é a pergunta que mantém o monitoramento vivo depois que o entusiasmo passa.

O que você tem ao fim da tarde. Não um sistema de observabilidade — o mapa de onde colocar os olhos primeiro. Os poucos sinais que, se você acompanhar, evitam descobrir o problema no fechamento. É a diferença entre governança que respira e governança que está num PDF esperando a próxima auditoria.

/update

Os fatos da semana, e o que eles dizem para quem decide no Brasil.

Um levantamento divulgado esta semana colocou número no desconforto: 57% das empresas brasileiras já usam IA de forma ativa, mas só 13% mantêm processos estruturados de teste e auditoria desses sistemas. As outras 87% estão exatamente onde a Serrana estava no início desta edição — usando, confiando, e sem ninguém olhando. E o Gartner pôs prazo na conta: até 2027, 40% das organizações vão desativar agentes de IA que já tinham colocado para rodar, por causa de falhas de governança identificadas só depois que os sistemas estavam em produção. Não é que a IA não vá entregar; é que muita empresa vai ter de desligar o que comprou, depois de pagar, porque não montou os olhos antes.

No mesmo movimento, a Comissão Especial da Câmara aprovou o texto final do PL 2338 — o marco da IA — e a votação no plenário é dada como questão de meses. Vale ler o texto pela lente desta edição, e não pela do noticiário: entre as obrigações para sistemas de alto risco estão o monitoramento contínuo e a reclassificação dos sistemas ao longo do tempo, além do comunicado de incidentes graves à autoridade competente, a ANPD. Traduzindo: a vigilância que hoje só 13% praticam está prestes a deixar de ser boa prática e virar exigência legal. Quem montar a rotina agora chega à lei com a casa arrumada. Quem esperar vai descobrir o monitoramento do jeito mais caro — por imposição, com prazo, e sob o olhar de um regulador.

/briefing

Dois movimentos da indústria que mostram para onde isso está indo.

A observabilidade de IA está virando infraestrutura. No Data + AI Summit desta semana, a Databricks ampliou seu gateway de governança para registrar, proteger e auditar não só modelos, mas agentes e serviços de IA, dentro da mesma camada onde a empresa já governa seus dados — com rastreabilidade e observabilidade nativas. A leitura: o monitoramento de IA está deixando de ser um script caseiro e virando peça de plataforma, do mesmo jeito que o monitoramento de banco de dados virou commodity há quinze anos.

E o volume do que se vigia é maior do que parece. Uma plataforma de telemetria de runtime de IA relatou identificar cerca de 210 mil anomalias de segurança, conformidade e operação por dia em ambientes corporativos — o tipo de evento que, sem instrumentação, ninguém veria passar. Por que isso importa: a boa notícia é que você não precisa construir o monitoramento do zero — o mercado está empacotando a ferramenta. A notícia que continua sendo sua é a que nenhuma plataforma resolve: quem recebe o alerta, qual o limite que dispara, e quem tem alçada para mandar pausar. A ferramenta é comprável. O dono e o gatilho, não.

/thinkdeeper

Esta edição fecha cinco. Inventário: o que existe. Risco: o que pode dar errado. Política: as regras do jogo. Dono: quem responde quando dá errado. E monitoramento: como você descobre que deu errado antes do fechamento contábil. Olhe as cinco juntas e perceba o que elas não são — não são um documento, não são um comitê, não são um selo na parede. São um organismo: cada peça só funciona porque a anterior existe. O monitoramento aciona o dono. O dono aplica a política. A política existe porque o risco foi classificado. O risco foi classificado porque o inventário revelou o que estava na sombra.

É aqui que a governança de IA se separa da governança de papel. Papel é estático: você escreve, aprova, arquiva, e ele apodrece em silêncio enquanto o mundo se mexe. Governança de IA não tem como ser estática, porque a coisa governada não é estática — ela deriva, é trocada por baixo, muda de comportamento sem pedir licença. Uma governança que combina com isso precisa respirar: rever, remedir, reagir. A aprovação de ontem não é um atestado permanente. É a primeira leitura de um sinal que você vai ter de ler de novo, e de novo.

A IA não bate na sua porta quando começa a errar. Ela continua sorrindo, confiante, entregando respostas no mesmo tom de sempre — enquanto a régua envelhece por dentro. Por isso a pergunta que encerra esta série não é "a sua IA funciona?". Funcionar, ela funciona. A pergunta é a outra: como você vai saber quando ela parar de funcionar — e quem você nomeou para estar olhando quando esse dia chegar? Porque a IA que você vai acabar desligando não é a que travou no meio do expediente. É a que continuou rodando, impecável, enquanto ninguém olhava.

Você montou as cinco peças no papel — inventário, risco, política, dono e monitoramento. Operacionalizá-las em produção, em escala, é outro trabalho. É o que faz a watsonx.governance, a plataforma de governança de IA da IBM: monitora os modelos no ar (deriva, viés, qualidade), dispara o alerta quando um gatilho é cruzado, documenta cada decisão numa trilha de auditoria automática (as AI Factsheets) e estende a vigilância aos agentes. É o olhar que não pisca desta edição, virado produto — reconhecida como Líder no Forrester Wave de Governança de IA (2025), e já em produção no Brasil, no Banco do Brasil, com monitoramento em tempo real e alertas proativos.

A strateg.ia é parceira da IBM em watsonx.governance: desenhamos a sua rotina de monitoramento — os sinais, os gatilhos, os donos — e implantamos a plataforma que a sustenta. Quer ver como ela cobre, ponto a ponto, as cinco peças que você acabou de montar? Responda este email com "watsonx" no assunto.

Atuamos na strateg.ia em consultoria de governança e arquitetura de IA aplicada a finanças e pessoas, como parceiros como a IBM.

— Alexandre Scotti, scotti@strategia-serv.com