Existe uma necessidade crítica de governança global para mitigar os riscos existenciais impostos pela inteligência artificial avançada. Em documento oficial das Nações Unidas, o alto-comissário da ONU para Direitos Humanos, Volker Türk, disse que casos recentes mostram que sistemas potentes de IA são capazes de enganar e desobedecer humanos e que, casos recentes mostram agentes de IA “escapando” de ambientes confinados para procurar dados na internet sem autorização.
“Estamos em um ponto de inflexão. Empresas e pesquisadores estão avançando a inteligência artificial a uma velocidade estonteante. Investimentos em IA e em sua infraestrutura subjacente quebram recorde atrás de recorde”, é como abre a carta o alto-comissário.
A mensagem do alto comissário ocorre dias após a declaração de um ex-pesquisador da Anthropic que renunciou ao cargo, alertando que “as pessoas que desenvolvem IA acreditam sinceramente que ela pode acabar com todos nós até o fim da década”.
A IA avançada também ameaça direitos fundamentais, a estabilidade democrática e a segurança física da humanidade.
“Eventos recentes mostraram que sistemas avançados podem produzir comportamento fora de seus parâmetros operacionais pretendidos, burlar salvaguardas, praticar engano e perseguir objetivos de forma independente em caminhos que seus desenvolvedores não anteciparam”, afirmou Türk na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, ao ler a carta, nesta segunda-feira, 14.
O alto comissário alerta ainda que falhas nesses agentes autônomos podem paralisar serviços essenciais, desestabilizar infraestruturas críticas — como corte de água limpa, aquecimento e serviços financeiros —, além de acelerar a corrida armamentista e enfraquecer barreiras contra o lançamento de armas de destruição em massa.
Outro ponto é a dependência global em relação a poucas empresas privadas, concentradas principalmente na China e nos Estados Unidos. “No mundo de hoje, estamos quase inteiramente dependentes de um pequeno número de empresas poderosas para tomar as escolhas corretas sobre o desenvolvimento de IA para toda a humanidade”, disse Türk no documento.
ONU pede limites
Para frear riscos de grande escala, a carta exige que as empresas de tecnologia façam um compromisso imediato de limitação técnica. “As empresas precisam se comprometer imediatamente a limitar o uso de autoaperfeiçoamento recursivo para o desenvolvimento de IA de fronteira como uma precaução imediata até que as pesquisas para torná-la segura sejam feitas”.
Para evitar danos irreversíveis, Türk defende uma colaboração internacional imediata entre Estados e o setor privado, focada em transparência e prestação de contas. Propõe-se que as empresas aceitem supervisão independente e padrões de segurança rigorosos, garantindo que a inovação tecnológica não ocorra às custas da proteção humana.
Por fim, o apelo central busca estabelecer um compromisso ético e jurídico para que as futuras gerações não herdem um mundo desestabilizado por tecnologias sem controle.
