Demis Hassabis, o CEO do Google DeepMind e um dos gênios da inteligência artificial, quer que os modelos de AI mais poderosos sejam regulados de maneira similar ao mercado financeiro.
Em um artigo divulgado hoje e antecipado pelo Axios, Hassabis propôs a criação de uma entidade de autorregulação nos moldes da Financial Industry Regulatory Authority (FINRA), uma organização privada sem fins lucrativos que supervisiona a atuação das corretoras de Wall Street.
“O rápido avanço da AI exige uma nova abordagem para testar as capacidades dos modelos que estão na fronteira – uma abordagem que seja dinâmica, adaptável e rigorosa,” afirmou Hassabis. “Dada a sua posição econômica e técnica, os EUA estão bem posicionados para dar o primeiro passo no desenvolvimento dessa estrutura.”
Para Hassabis, ganhador do Nobel de Química de 2024 pelas inovações na descoberta de proteínas com o uso do modelo AlphaFold, a AI vive hoje um “momento crucial” – em que a artificial general intelligence (AGI), o sistema com recursos cognitivos similares ao do cérebro humano, está a apenas “alguns poucos anos à frente.”
O CEO da DeepMind disse que a AI já entrega muitos benefícios reais, mas daqui para frente haverá também ameaças crescentes e desconhecidas – “incluindo riscos nucleares e biológicos.”
“Precisamos de uma ação urgente para enfrentar os riscos que podem surgir à medida que nos aproximamos da AGI,” escreveu Hassabis. “Já observamos os desafios que os modelos de fronteira impõem à cibersegurança.”
De acordo com o Axios, Hassabis vem trabalhando nos bastidores para atrair apoio ao seu projeto de autorregulação, mantendo conversas com autoridades internacionais e colegas da indústria de AI.
Dario Amodei, o CEO da Anthropic, já havia feito uma proposta semelhante. Em um artigo publicado no mês passado, ele sugeriu que “deveríamos seguir para a AI o arcabouço de regulação de agências como a Federal Aviation Administration (FAA).”
Até aqui, o Governo Trump manifestou preocupação com o tema, mas tem evitado qualquer tipo de controle – e uma das principais razões é o temor de que obstáculos burocráticos ao desenvolvimento da tecnologia poderão deixar os EUA para trás na disputa com a China pelo domínio da tecnologia.
Hassabis, no entanto, disse que vem encontrando apoio e espera ver algo aprovado “nos próximos meses.” Para ele, o novo órgão deveria entrar em operação “antes do fim do ano.”
Pela sua proposta, os laboratórios de AI deveriam compartilhar voluntariamente os seus modelos mais avançados para serem testados pelo menos 30 dias antes de eles ficarem disponíveis publicamente. Seria feita uma análise de possíveis ameaças cibernéticas e biológicas dos sistemas, além de comportamentos fora do esperado.
Apenas depois do aval dessa entidade os sitemas de AI poderiam ser lançados no mercado americano.
“O órgão de normas seria responsável por desenvolver protocolos de avaliação, colaborando com as agências federais e com os laboratórios dos EUA na realização de testes em áreas relevantes para a segurança nacional,” escreveu Hassabis.
Um modelo seria classificado como frontier-class se atingisse determinados patamares no conjunto de benchmarks definidos pela entidade autorreguladora.
Para Hassabis, esse arcabouço regulatório seria usado em todos os sistemas mais poderosos, sejam eles de código aberto ou fechado, e mesmo para os desenvolvidos fora dos EUA.
O CEO da DeepMind prevê que a classificação agregaria prestígio às ferramentas de AI. “Acho que é um ativo muito bom, que dá prestígio,” afirmou.
No mês passado, a Anthropic retirou de circulação por alguns dias dois modelos, o Fabel 5 e o Mythos 5, depois de o Governo Trump impedir a exportação desses sistemas citando riscos de ataques cibernéticos.
Para Hassabis, o caso mostra a necessidade de criar uma agência reguladora, em vez de deixar o setor à mercê das decisões improvisadas e sem critérios.
Ontem, um grupo de economistas – incluindo 15 laureados com o Nobel – divulgou um manifesto clamando por uma ação imediata ante o impacto social que poderá ser causado pela substituição de humanos pelas máquinas. O texto ganhou o apoio de diversos executivos e grandes investidores do Vale do Silício, entre eles o ex-Google Eric Schmidt.
