Bloomberg Opinion — O rei Charles se reuniu com executivos das principais empresas de inteligência artificial (IA) do mundo nesta quinta-feira (17), justamente quando eles pediam ajuda do governo para regulamentar seus sistemas de ponta e de alto risco. O rei deveria buscar uma fonte de ajuda em seu próprio território.
O Instituto de Segurança em IA do Reino Unido (AISI, na sigla em inglês) é a agência mais bem financiada do mundo para testar modelos de IA de ponta, graças aos £ 240 milhões que recebeu do governo britânico em 2025 e a um orçamento anual de cerca de £ 66 milhões.
A agência equivalente nos Estados Unidos, em Washington, conhecida como Centro de Padrões e Inovação em IA, recebe apenas US$ 10 milhões por ano.
O AISI existe há cerca de três anos e conta com mais de 100 profissionais técnicos provenientes de organizações de segurança em IA e da academia, bem como de empresas de tecnologia, incluindo OpenAI, Anthropic e Google DeepMind; muitos deles aceitaram uma redução salarial para ingressar no programa financiado pelos contribuintes.
⟶ Assine as newsletters da Bloomberg Línea e receba as notícias do dia em primeira mão no e-mail.
Os funcionários da agência estão sujeitos a rigorosos acordos de confidencialidade, mas, a portas fechadas, falam de suas preocupações com a segurança de novos sistemas de IA — a mesma preocupação que levou o ex-pesquisador da Anthropic, Jacob Coxon, e outros engenheiros a se manifestarem neste mês. Muitos também querem ver mais intervenção governamental na tecnologia.
Os líderes das empresas de IA afirmam que também querem o mesmo, mas seus alertas não são ouvidos em Washington. O presidente americano Donald Trump se reunirá com o líder chinês Xi Jinping na próxima semana, e espera-se que o presidente da Nvidia, Jensen Huang, participe de um jantar de Estado, mas não se deve esperar uma discussão frutífera sobre segurança.
Leia também: Riscos da IA abrem divisão entre CEOs sobre desacelerar tecnologia ou reforçar controles
Trump afirmou recentemente que os temores sobre os riscos da IA eram uma farsa e rejeitou os apelos por uma desaceleração, o que poderia permitir que a China ganhasse terreno. Huang concordou esta semana, dizendo a Trump: “Não vamos deixar isso acontecer, senhor”.
Mas a “farsa” não está desaparecendo. A evidência mais recente vem da OpenAI, que afirma que seus modelos de IA apresentaram comportamentos inadequados de várias maneiras preocupantes, por exemplo ao fabricar dados e tentar contornar restrições de rede.
A empresa quer relatar esses incidentes ao governo federal dos EUA e disse que proporia um mecanismo para fazê-lo. A OpenAI afirmou em seu blog: “Também acreditamos que incidentes graves relacionados à segurança, proteção e desalinhamento devam ser compartilhados com o governo federal dos EUA, e estamos trabalhando para propor mecanismos de notificação.”
Com que frequência as empresas pedem mais regulamentações governamentais e têm seus pedidos recusados? Raramente. Mas recomendações específicas como as da OpenAI sobre notificação são sensatas e podem muito bem ser bem-vistas pela Casa Branca. Também há uma boa chance de que as empresas de IA concordem em incorporar avaliadores independentes para garantir que os modelos estejam sendo desenvolvidos com segurança. Essa foi uma sugestão recente do CEO da Anthropic, Dario Amodei.
Esses testadores desempenhariam um papel vital não apenas no escrutínio de novas inovações arriscadas, mas também na dissipação de temores generalizados, à medida que as empresas de tecnologia correm para encontrar o próximo grande avanço.
Modelos como o ChatGPT evoluíram inicialmente graças às chamadas leis de escalonamento — a noção de que mais poder de computação aliado a mais dados leva a modelos mais inteligentes. Mas os ganhos estão se tornando mais caros e incrementais, levando as equipes de engenharia a buscar métodos inovadores, como o autoaperfeiçoamento recursivo, em que os sistemas de IA ajudam a desenvolver seus próprios sucessores.
Leia também: Larry Fink alerta que atrasos na expansão da IA podem favorecer grandes empresas
Essa foi a técnica destacada por Coxon em uma publicação no X que teve mais de 170 milhões de visualizações desde 9 de setembro, quando ele acusou a Anthropic e a OpenAI de agir de forma irresponsável e de “correr direto para uma superinteligência que se autoaperfeiçoa e apostar com nossas vidas”.
A OpenAI e a Anthropic contratam seus próprios auditores de segurança, vinculados, é claro, aos imperativos comerciais das próprias empresas. A OpenAI publicou recentemente um anúncio de emprego para sua “equipe de segurança e preparação”, que oferecia um pacote salarial entre US$ 295 mil e US$ 445 mil para “apoiar os preparativos para o autoaperfeiçoamento recursivo”. A empresa afirmou que era “importante que as pessoas nessa função fossem sensatas e estratégicas”.
Embora os riscos possam ser debatidos, seu alerta, sem dúvida, abalou a confiança do público. Isso por si só exige avaliações de segurança confiáveis e faz com que a identidade do avaliador seja de extrema importância.
O AISI britânico já possui um histórico de testes com os mais recentes sistemas de IA, e obteve acesso antecipado ao Mythos, o modelo da Anthropic que inicialmente estava restrito devido às suas capacidades cibernéticas. A agência, apoiada pelo governo, não apresenta conflito de interesses comerciais, e sua sede em Londres proporciona uma distância significativa da bolha financeira e ideológica do Vale do Silício.
“Nossa opinião é que deve haver uma gama diversificada [de avaliadores]”, diz-me Mustafa Suleyman, CEO da Microsoft AI. “A AISI seria uma boa candidata.”
De fato, há outros grupos de avaliação para se escolher. Amodei recomenda a METR (Model Evaluation and Threat Research), empresa de pesquisa sediada em Berkeley, na Califórnia, mas há dúvidas sobre sua independência. Ter uma agência governamental como avaliadora criaria um caminho mais claro entre os testes e a fiscalização.
Leia também: Novo se alia à Anthropic para usar IA na busca por sucessores para Ozempic e Wegovy
O próprio AISI não possui poder de fiscalização atualmente, e suas relações com os laboratórios de IA são voluntárias. Faz sentido dar mais poder à agência. Afinal, de que adianta monitorar uma nova tecnologia perigosa se não é possível impedir que ela seja desenvolvida?
Alguns dos reguladores mais importantes de tecnologias de alto risco contam com apoio governamental, desde a Agência Internacional de Energia Atômica, com sede em Viena, até a Administração Federal de Aviação, em Washington.
O mesmo princípio deveria se aplicar à IA. Altman e Amodei podem ter suas próprias ideias sobre quem deveria supervisionar seu trabalho, mas, no espírito de uma supervisão adequada, a escolha não deveria caber inteiramente a eles.
Seria uma grande ironia se o encontro com o rei Charles, um símbolo do antigo império britânico, ajudasse a incentivar a atual elite tecnológica americana a pensar em conferir poderes a um sofisticado órgão regulador de IA em Londres. Mas seria prudente fazê-lo. O Reino Unido já criou o órgão regulador que diz querer. O próximo passo é recebê-lo e conceder-lhe autoridade real.
Esta coluna reflete as opiniões pessoais do autor e não reflete necessariamente a opinião do conselho editorial ou da Bloomberg LP e de seus proprietários.
Parmy Olson é colunista da Bloomberg Opinion e escreve sobre tecnologia. Já escreveu para o Wall Street Journal e a Forbes e é autora de “We Are Anonymous.”
Veja mais em Bloomberg.com
Leia também
Mbappé assina contrato com a On para alavancar a entrada da marca suíça no futebol
© 2026 Bloomberg L.P.
