A inteligência artificial generativa deu um salto definitivo no setor corporativo com a chegada dos sistemas “agênticos”. Diferente das ferramentas conversacionais tradicionais, estes agentes possuem autonomia para tomar decisões e interagir em ecossistemas de múltiplos agentes. Contudo, essa evolução acende alertas cruciais sobre controle e segurança. No painel “Quem controla os agentes? Riscos, governança e ética em ambientes de múltiplos agentes”, no Febraban Tech 2026, especialistas debateram os cuidados indispensáveis nessa transição.
A perda do determinismo é o principal desafio técnico. Em sistemas de software tradicionais, a programação gera sempre o mesmo comportamento replicável. Com agentes autônomos, o cenário muda radicalmente. Sandoval César de Oliveira Mendonça, superintendente de arquitetura de TI da Caixa, adverte: “No sistema tradicional, quando você programa, é possível reproduzir o mesmo comportamento. Quando falamos de IA agêntica, o processamento deixa de ser determinístico, o que traz desafios.”
Para mitigar riscos, Mendonça defende limites severos para os acessos dos sistemas, afirmando que o agente precisa tomar decisões com base em metas e intenções colocadas para ele. “As APIs continuarão existindo, mas o agente não pode ter autonomia para acessar todas as APIs dentro do banco. Do mesmo modo que identificamos pessoas, teremos que identificar agentes”, defende.
A autonomia, portanto, não deve ser tratada de forma binária. Segundo Neli Freitas, presidente da Risck Women: “Autonomia de agentes não é um interruptor que liga e desliga, o que exige supervisão e o que o agente pode conduzir sozinho deve ser desenhado milimetricamente pelas corporações”, diz.
Para as empresas, a governança dos agentes tornou-se uma corrida contra o tempo. Camila Achutti, CEO e fundadora da Mastertech, observa que o aprendizado prático precede as regras. “Os agentes nascem das pessoas e seus desafios. Não dá para organizar a casa antes que as pessoas testem”, diz, salientando que o maior obstáculo não é o ferramental técnico, mas a divisão de responsabilidades. ” A parte difícil é definir quem tem responsabilidade pela decisão ou por delegar decisões. É menos técnico e mais organizacional. Temos que definir como fazer a especificação da responsabilidade”, alerta.
Roberto Frossard, head de emerging tech do Itaú Unibanco, concorda que as estruturas existentes devem assumir as novas atribuições, mas prevê um desafio inédito. “Os donos são as mesmas pessoas de risco, governança e segurança com as quais já lidamos hoje em dia. Mas teremos um paradigma: um erro da IA será culpa nossa. Temos mais perguntas do que respostas hoje.” Para mapear esses riscos emergentes, o Itaú estruturou um centro de pesquisa com cerca de 90 pesquisadores internos e um ecossistema de 200 profissionais nacionais e estrangeiros.
O labirinto jurídico
No campo jurídico, a delegação de poder de decisão a máquinas gera questionamentos complexos. Juliano Maranhão, professor da faculdade de Direito da USP, distingue a responsabilidade interna (governança organizacional para identificar falhas) da externa (relação com terceiros). “Perante terceiros, há uma dificuldade inicial porque a responsabilização no Direito está relacionada à culpa e envolve intencionalidade, que é uma característica humana. Como imputar responsabilidade a uma máquina?”, indaga.
No Brasil, Maranhão explica que no caso de ações de consumidor, a responsabilização ocorre automaticamente [de forma objetiva]. Fora disso, o Código Civil prevê responsabilidade por risco. Ele também alerta para a pressão por explicabilidade, que colide com a complexidade técnica dos sistemas. A ANPD já exigiu explicações causais detalhadas em sistemas com centenas de variáveis, algo considerado impraticável.
Para que ecossistemas de múltiplos agentes operem com segurança, a rastreabilidade da comunicação é essencial. Frossard adverte sobre os perigos da falta de padronização nas conversas entre IAs. “Boa parte dos agentes que temos visto no mercado são conversacionais, cada um com um estilo, e aí vira uma brincadeira de telefone sem fio”, compara. Para mitigar isso, o Itaú vem utilizando “skills” baseados em princípios rígidos de factualidade para fracionar conversações em fatos verificáveis.
Mendonça, da Caixa, reforça que a auditoria deve ser nativa e inviolável. “Todo sistema multiagente tem que nascer com uma trilha de auditoria. Essa trilha deve ser imutável e não pode ser acessada pelo agente. Por fim, tem que ser algo legível para ser interpretado pelo ser humano”, explica. Ele sugere o uso de “agentes que monitorem os outros” em tempo real para identificar desvios de comportamento e permitir a intervenção humana imediata.
Finalmente, o sucesso da implementação reside no letramento humano. Camila destaca o risco de criarmos um “terceiro cérebro” artificial que atrofie a nossa própria vigilância. “O letramento de IA é muito mais cultural do que técnico. Temos que saber verificar e saber interromper no momento certo. Somos fortes o suficiente para saber quando confiar em um agente?”, questiona.
A prudência deve ditar os próximos passos da indústria financeira. Conforme pondera Mendonça, a cautela ainda prevalece sobre a delegação total. “Hoje eu não teria coragem de delegar uma ação irreversível a um agente, mas isso deve acontecer no futuro”, conclui.
