Um setor altamente regulado como o financeiro pode ter conflitos quando o assunto é regulação de inteligência artificial no futuro. Para Raissa Moura Ferreira, Global Data Protection Officer do Nubank, a IA é uma realidade no setor e sua evolução acelerou nos últimos cinco anos. Os desafios de hoje podem não ser os mesmos de amanhã por conta do dinamismo da tecnologia, em especial a generativa. Por este motivo, a executiva da instituição financeira acredita que o PL 2338, que regula a IA no Brasil, deve se atentar para as transformações que acontecem em alta velocidade.
“Com a mudança tão intensa e com a evolução tão rápida, como é que a gente vai ter condições de lidar com normas que sejam tão detalhadas e prescritivas, sem espaço para discussão infralegal dos reguladores, seja o regulador geral, seja o regulador setorial, para conseguir moldar os desafios que a gente vai ver na prática do nosso dia a dia”, questiona durante painel temático sobre o setor bancário no evento Diálogos Atlânticos sobre Tecnologia e Regulação, na FGV Direito Rio, nesta terça-feira, 28, também dia de lançamento do AI Hub, Núcleo de Estudos Avançados em Inteligência Artificial, cuja missão é contribuir para o desenvolvimento sustentável e responsável da IA no país, realização de pesquisas e estudos de impacto para a sociedade, mercado e setor público.
Seu receio é colocar muitas regras na regulamentação que podem engessar a inovação para, inclusive, lidar com o desafio de proteger os sistemas contra cibercriminosos – que estão usando IA.
Moura resumiu as preocupações de outros painelistas. Houve consenso entre as instituições presentes – Nubank, Mercado Pago, Bradesco e BNDES – de que a regulação é necessária, mas não deve ser detalhista nem binária. As empresas clamam por princípios gerais com espaço para que reguladores competentes, como o Banco Central, adaptem as regras ao contexto e aos riscos específicos de suas atuações, sem onerar a inovação nacional com exigências impossíveis ou duplas sanções.
“Se a gente, de fato, coloca muitas regras que engessem na forma como as empresas precisam acelerar sua inovação para, inclusive, lidar com esse desafio que é ter na ponta os criminosos com essa inovação super acelerada na palma da mão para atacar os nossos sistemas de nossos consumidores, nossos clientes, a gente vai ficar atrasado nessa conversa. A gente tem que pensar em como fazer isso de maneira responsável, obviamente, garantindo, porque, de um lado, a gente vai conseguir combater o crime e a gente vai tirar o dinheiro da mão dos criminosos e vai proteger os nossos clientes, mas, de outro, a gente também abre a porta para riscos, não tem como”, resumiu a executiva.
Não à toa, é fundamental implementar controles e salvaguardas de segurança e governança.
O Nubank sugere que a inteligência artificial tenha sua infraestrutura pensada de forma transversal e multidisciplinar. “Para que a gente garanta um ponto de vista de vários fragmentos que existem na organização, mas que precisam andar de maneira coordenada”.
Acertos do PL 2338
Raissa Moura, do Nubank. Crédito: Isabel Butcher/Mobile Time
Para a executiva, o projeto acerta ao evitar regras puramente binárias (o que pode ou não pode ser feito). A abordagem baseada em riscos permite aplicar o princípio da proporcionalidade, exigindo salvaguardas mais robustas e complexas apenas para aplicações de alto risco (como análise de crédito e fraude), aliviando o peso sobre operações mais simples.
E, no caso da estrutura de governança, Moura vê com bons olhos o modelo em que um conselho geral ou órgão (como a ANPD) dita diretrizes amplas, deixando as especificidades e a fiscalização direta para o regulador setorial (como o Banco Central), que entende melhor a realidade do mercado financeiro.
“Sei que tem muitos colegas muito críticos ao PL, e acho que as críticas devem ser feitas, mas a gente também enxerga os avanços e eles precisam ser elogiados. Precisamos incentivar para que a regulação da inovação siga um caminho adequado”, disse. Com a proposta baseada em risco, no lugar de um modelo binário do que pode e do que não pode, o sistema vai consolidar a ideia de proporcionalidade, “que é muito benéfica para o setor financeiro”, resumiu.
Assim, a executiva dá como exemplo, os desafios do uso de IA para análise de crédito, para verificação de fraudes, que serão beneficiadas com o uso baseado em risco e que vão ter obrigações proporcionais e, ao mesmo tempo, a IA usada no atendimento ao cliente, de identificação de como montar a fila de atendimento, por exemplo, pode ser uma abordagem mais leve.
“Quando coloco meu esforço de governança para os temas de mais alto risco, me dá mais margem para o avanço em outros temas que são igualmente importantes, sem que a gente precise colocar um grande esforço em absolutamente tudo o que a gente faz. Essa abordagem baseada em risco me ajuda a priorizar onde é que precisamos ser mais criteriosos, onde é que vamos ter mais supervisão humana, onde teremos salvaguardas mais robustas, onde precisamos buscar ainda mais segurança. Entendo que isso é muito positivo para o mercado financeiro”, exemplifica.
Sobre a estrutura de governança dividida entre reguladores gerais e setoriais, a executiva do Nubank aprova a construção da estrutura de governança proposta pelo PL entre os reguladores do sistema da IA. “Da forma como está estruturado, para mim faz algum sentido, a gente tem ali o Conselho de Governança de IA, que é um conselho que vai ser responsável pelas diretrizes e salvaguardas de maneira geral”. Ela também elogia a ideia de um regulador geral atuando de forma descentralizada: “um regulador específico […] teria um papel de normatização geral e um papel de regulação mais residual, e isso eu simpatizo bastante”.
Pontos negativos e preocupações do Nubank
Moura também elencou suas preocupações com relação ao texto do PL 2338. Entre eles estão o excesso de detalhamento, risco de dupla sanção e sombreamento de regras e o custo de conformidade e perda de competitividade.
Sobre excesso de detalhamento, a executiva acredita que existe um temor de que o texto da lei seja prescritivo em excesso. Como a tecnologia evolui muito rápido, regras excessivamente detalhadas nascerão obsoletas. O Nubank defende uma lei principiológica (como a LGPD), deixando os detalhes para a normatização infralegal e setorial.
Já com relação ao risco de dupla sanção e sombreamento de regras, para Moura, o PL ainda deixa margem para insegurança jurídica. O banco teme punições ou regulações duplas, pelo órgão geral (ANPD) e pelo setorial (BC) ao mesmo tempo.
E, por fim, o custo de conformidade e perda de competitividade porque uma regulação muito engessada trará custos altíssimos de implementação, o que pode prejudicar empresas nacionais frente a concorrentes estrangeiras que já possuem essas estruturas, além de frear a inovação necessária para combater fraudadores criminosos que utilizam IA avançada.
Mercado Pago
Priscila Faro, do Mercado Pago. Crédito: Isabel Butcher/Mobile Time
Priscila Faro, legal director de fintechs e assuntos regulatórios no Mercado Pago defende um cenário de regulação descentralizada. Em sua visão, o ideal é a criação de uma regra geral e principiológica, permitindo que cada regulador setorial (como o Banco Central) trate do uso da IA com base nos problemas específicos da sua área.
A maior preocupação do Mercado Pago diz respeito à transparência e à gestão de dados dos clientes (opt-in e opt-out). A representante aponta que a regulação esbarra num grande desafio tecnológico: se o cliente consentir o uso de seus dados para a IA, mas depois se arrepender e pedir a remoção (opt-out), é extremamente complexo “desfazer” ou “desaprender” o que já foi processado e inserido nos modelos de inteligência artificial.
BNDES
Vanessa Almeida, do BNDES. Crédito: Isabel Butcher/Mobile Time
Com uma perspectiva que une atuação bancária e desenvolvimento econômico, as preocupações do BNDES giram em torno da capacidade do Estado e da responsabilização.
Entre as preocupações apresentadas por Vanessa Almeida, gerente de inovação digital no BNDES, está a responsabilização descentralizada entre bancos, fornecedores e toda a cadeia do ecossistema. A executiva aponta que o desenvolvimento de sistemas deixou de ser algo fechado e feito apenas por grandes empresas. Hoje, um banco usa sistemas de fornecedores que, por sua vez, usam códigos (bibliotecas) criados por terceiros espalhados pelo mundo. Almeida questiona como a regulação conseguirá lidar com a culpa e a responsabilização dentro dessa teia descentralizada em caso de erros ou danos.
Outro ponto, pensando no governo, está a imensa fuga de talentos do Estado para a iniciativa privada. O governo, incluindo reguladores importantes como o Banco Central, tem grande dificuldade em reter profissionais de tecnologia, pois eles são “sugados” pelos salários mais altos do setor.
