Comece pela conclusão: uma decisão que passou por IA só é auditável se o registro guardar seis coisas — o dado de entrada com sua versão, o que foi recuperado da base, qual modelo respondeu, o que ele devolveu, quem revisou e sob qual alçada, e o que foi efetivamente executado. Falta uma dessas e a defesa perante o regulador vira reconstituição de memória.
A tentação, quando se fala de auditoria de decisões de IA, é discutir explicabilidade do modelo. É a discussão errada para quem administra fundo. O supervisor não vai pedir os pesos da rede. Vai pedir a evidência de que o dever era seu, foi cumprido, por alguém identificado, na data em que devia.
O que o supervisor pergunta quando a IA entrou no caminho
Nenhuma norma brasileira de fundos atribui dever a uma ferramenta. A RCVM 175 atribui deveres a prestadores de serviços essenciais, com nome e CNPJ. Delegar a execução a um agente não transfere a responsabilidade, do mesmo jeito que terceirizar o processamento nunca transferiu.
Então a pergunta que chega no ofício é sempre a mesma, com ou sem IA no meio: de quem era esse dever, e onde está a evidência de que foi cumprido? A diferença é que, com agente na operação, existe uma etapa nova onde a evidência costuma sumir. Alguém perguntou, o sistema respondeu, a pessoa agiu, e não sobrou nada além do resultado.
Os seis registros que sustentam a auditoria de decisões de IA
| Registro | O que precisa guardar | Por que o auditor pede |
|---|---|---|
| Entrada | Qual dado, de qual base, em que posição e versão | Para saber se a resposta valia naquele momento |
| Recuperação | Quais documentos e trechos foram consultados | Para conferir se a fundamentação existe |
| Modelo | Nome, versão, data e parâmetros da chamada | Para separar comportamento de modelo de erro de processo |
| Saída | A sugestão como ela veio, sem reescrita | Para comparar com o que foi executado |
| Revisão humana | Quem aprovou, quando e com qual alçada | Para identificar o responsável pelo ato |
| Execução | O que efetivamente entrou no sistema | Para fechar o elo entre sugestão e efeito |
O elo mais frágil dessa lista é o quarto. Sistemas mal desenhados guardam o resultado final e descartam a sugestão original, e é justamente a diferença entre as duas que prova revisão humana efetiva. Se a saída do agente e o lançamento executado são sempre idênticos, você não tem controle: tem carimbo.
Reprodutibilidade é a meta errada
Modelos de linguagem não são determinísticos. Rodar a mesma pergunta duas vezes pode produzir redações diferentes, e a base consultada muda todo dia. Prometer ao auditor que a resposta pode ser reproduzida é assinar um compromisso que a tecnologia não sustenta.
A meta correta é evidência, não repetição. O que se guarda é o que aconteceu naquele instante: a versão do documento recuperado, o texto exato devolvido, a hora, o usuário. Isso é auditável de forma trivial e não depende de o modelo se comportar igual seis meses depois.
Vale escrever essa distinção na política interna de uso de IA, com essas palavras. Prometer reprodutibilidade num documento de governança cria uma obrigação impossível de honrar, e o problema aparece na pior hora: quando alguém tenta cumprir.
O log do que não aconteceu vale tanto quanto o resto
Trilha completa registra recusa. Consulta negada porque o usuário não tinha escopo naquele fundo, campo devolvido com confiança baixa que foi para revisão manual, validação que travou o fechamento antes da publicação da cota.
Esses registros provam duas coisas que o registro de sucesso não prova: que o controle de acesso funciona de verdade e que o sistema sabe dizer que não sabe. Um agente que responde a tudo, sempre, é indistinguível de um agente que inventa quando não encontra.
O mesmo raciocínio se aplica à segregação de funções. Se o mesmo usuário pede a apuração, revisa a sugestão do agente e aprova o resultado, a trilha registra três atos de uma pessoa só. Dupla aprovação com alçadas distintas é o que dá sentido ao log.
Quem responde continua sendo humano
Três decisões de arquitetura fazem essa fronteira existir na prática, em vez de existir só na política.
Cada agente tem escopo declarado, e o escopo é técnico, não contratual: o agente que lê documento não escreve no razão. Cada ação relevante exige aprovação identificada antes de produzir efeito. E o registro é imutável, com retenção definida — no nosso caso, cinco anos, alinhado ao horizonte em que a supervisão costuma pedir reconstituição.
Se você está montando essa governança agora, dois textos ajudam: o que escrevemos sobre o que diferencia um assistente para fundos de um wrapper sobre LLM e o caso concreto de reconciliação de carteiras com agentes, onde cada verificação vira registro.
Na Arkar, toda ação — de pessoa ou de agente — grava quem, quando, o quê e sob qual permissão, em registro que não se altera depois. Nossa política de uso de IA é pública e os provedores operam sob Zero Data Retention, então nenhum dado da sua operação treina modelo de terceiro. Para ver a trilha funcionando sobre um fechamento real, agende uma demonstração.