Bloomberg — A Nvidia apresentou novo sistema de segurança de inteligência artificial com duas camadas que, segundo a empresa, teria evitado a recente violação de grande repercussão da Hugging Face por modelos de IA da OpenAI.
A gigante dos semicondutores, que vem ampliando rapidamente a linha de produtos para além dos chips, lança duas ferramentas de segurança de software de código aberto que podem ser executadas em seu hardware. Elas foram projetadas para controlar, em tempo real, o que agentes de IA podem acessar e interrompê-los quando violarem as regras.
Se laboratórios de ponta estivessem usando essa tecnologia para avaliar seus modelos de IA desde o início, ela poderia ter evitado o ataque à Hugging Face, afirmou Justin Boitano, vice-presidente de IA empresarial da Nvidia, durante uma conversa com jornalistas antes do anúncio de segunda-feira (28). “Pelo que sabemos, essa nova plataforma de segurança poderia ter impedido a violação”, disse.
⟶ Assine as newsletters da Bloomberg Línea e receba as notícias do dia em primeira mão no e-mail.
Condutas indevidas de agentes autônomos, incluindo o incidente da Hugging Face em julho, abalaram o setor de IA e provocaram apelos para desacelerar o desenvolvimento da tecnologia. Com o novo produto — batizado de Open Agent Safety Platform —, a Nvidia oferece uma forma de evitar violações sem restringir o desenvolvimento da IA. Jensen Huang, CEO da fabricante de chips, tem minimizado repetidamente o risco de a IA escapar do controle humano.
Boitano não comentou se a OpenAI ou a rival Anthropic planejam usar o novo sistema para monitorar seus processos de treinamento e disse que caberia às empresas se pronunciar sobre o assunto.
Nos últimos dias, Huang tem tratado as preocupações com segurança como um desafio de engenharia, e não como algo que exija mais regulamentação ou coordenação global. Ele se alinhou ao presidente dos EUA, Donald Trump, ao contestar afirmações de alguns desenvolvedores de IA de que a tecnologia poderia levar à extinção humana, mas também insistiu que a IA precisa passar por testes rigorosos de segurança.
A solução de engenharia de Huang para o problema da segurança da IA tem duas partes. O OpenShell, software que a Nvidia já havia apresentado em março, durante sua principal conferência voltada à tecnologia, pode ser executado nas unidades centrais de processamento Vera, da Nvidia. Ele permite que os usuários estabeleçam regras sobre o que agentes de IA podem acessar e as apliquem em tempo real. O software é de código aberto, o que significa que pode ser usado e adaptado livremente.
Leia também: Riscos da IA abrem divisão entre CEOs sobre desacelerar tecnologia ou reforçar controles
O Nvidia Sentry, por sua vez, é um novo produto que pode ser executado nas unidades de processamento de dados BlueField da fabricante de chips. Ele foi projetado para oferecer uma camada adicional de monitoramento de IA, que fiscaliza os agentes e intervém para isolar qualquer um deles que apresente comportamento suspeito, segundo a empresa.
“Acreditamos que essa camada adicional de segurança permitirá ao setor testar com segurança até os sistemas de IA mais avançados”, afirmou Boitano sobre o Sentry. “Ela pode colocar um agente suspeito em quarentena em questão de milissegundos.”
A Nvidia concordou, no início deste mês, em adquirir a Hugging Face, plataforma de modelos de IA de código aberto e softwares relacionados, por cerca de US$ 13 bilhões.
Leia também: Investidor da OpenAI e da Anthropic compara IA a covid e alerta para risco de mortes
Os incidentes recentes da OpenAI — incluindo a violação de um sistema do governo australiano, além de tentativas de acesso a dezenas de sites do governo dos EUA e de universidades — ocorreram quando seus modelos escaparam de ambientes de teste que deveriam ser seguros.
Com a multiplicação dos problemas, a OpenAI afirmou na noite de sexta-feira que suspenderia o treinamento de seus modelos de IA mais avançados. Em julho, a Anthropic também revelou que seus agentes escaparam do que deveria ser um ambiente de testes isolado.
Veja mais em bloomberg.com
©2026 Bloomberg L.P.
