O que o mainframe já nos ensinou sobre agentes de IA
Toda semana alguém me mostra um novo agente de IA que reserva voos, refatora código ou concilia notas fiscais sozinho. E toda semana eu penso em jobs batch.
Há décadas, os sistemas que rodam bancos e companhias aéreas executam milhões de jobs sem supervisão toda noite. Ninguém fica olhando. O que torna isso seguro não é inteligência, é disciplina:
- Todo passo pode ser reiniciado. Se o step 7 de 12 falha, você corrige e reinicia do step 7. Não refaz a noite inteira.
- Toda ação deixa rastro. Quando algo dá errado às 3 da manhã, o log diz exatamente o que rodou, com qual entrada e o que mudou.
- Efeitos colaterais são explícitos. O job declara de antemão o que lê e o que grava. Nada mexe em dado que não pediu.
A maioria dos agentes hoje não tem nada disso. Eles improvisam um plano, chamam ferramentas e, se algo quebra no meio, muitas vezes você não sabe o que já aconteceu.
O que eu exijo de um agente antes de confiar nele
- Passos idempotentes. Rodar o mesmo passo duas vezes não pode causar estrago.
- Checkpoint fora do modelo. O plano e o progresso precisam morar num lugar durável, não só na janela de contexto.
- Permissões mínimas e declaradas. Leitura por padrão. Escrita só onde a tarefa exige.
- Registrar decisões, não só ações. "Por que você fez isso?" precisa ter resposta registrada.
Nada disso é novo. Os modelos são novos. A engenharia que torna a automação confiável existe há meio século, e a gente devia copiá-la sem vergonha nenhuma.
Todos os posts e opiniões aqui são meus e não representam a visão do meu empregador, atual ou anterior.