“Esses modelos estão alcançando capacidades sobre-humanas em muitos aspectos, e estamos navegando em águas desconhecidas,” Sam Altman disse ao Axios.
Na entrevista, o CEO da OpenAI afirmou que sistemas muito mais poderosos, com recursos de artificial general intelligence (AGI), estão a caminho – e em breve.
“A próxima geração de modelos trará uma realidade que fará todos refletirem profundamente,” disse Altman. “Ninguém intelectualmente honesto consegue observar o que está acontecendo sem sentir o peso da responsabilidade que temos pela frente.”
A OpenAI colocou hoje no mercado seu LLM mais potente, o GPT-6 Astra, “o primeiro modelo que realmente inventa coisas novas de maneira relevante,” disse Altman. “É algo bastante característico da AGI.”
Até agora, a despeito da capacidade extraordinária dos sistemas de AI de entregar resultados complexos em instantes, existe a percepção de que as máquinas ‘apenas’ elaboram respostas a partir de informações disponíveis. Não inovam nem têm intuição, como os humanos.
A OpenAI, dona do ChatGPT – a ferramenta de AI mais popular do mundo – chegou a adiar por algumas semanas o lançamento do Astra para reforçar os guardrails contra o uso indevido em ataques cibernéticos.
De acordo com a empresa, trata-se do primeiro modelo que ultrapassou o limite “crítico” de segurança dentro de critérios estipulados em 2023.
O sistema pode encontrar falhas de segurança anteriormente desconhecidas e explorá-las sem a orientação de humanos – o que o colocou no nível mais avançado da classificação.
Em uma coletiva de imprensa fechada realizada hoje, o cofundador e presidente da OpenAI, Greg Brockman, encerrou a apresentação com a saudação: “Welcome to the AGI era.”
Com o novo modelo, a startup afirma ter retomado a liderança na tecnologia, superando em algumas tarefas os LLMs mais avançados de sua principal concorrente, a Anthropic – dona do Claude.
“Daqui a alguns anos, quando olharmos para trás para identificar quando a AGI foi realmente criada, acredito que será por volta desta época – e acho que pode ser com este modelo,” disse Brockman.
A OpenAI reportou um score de 98,6% no benchmark ARC‑AGI‑3, do ARC Prize, indicando alta eficiência em tarefas de raciocínio interativo e adaptação a ambientes inéditos. O Claude Opus 5, até então o melhor nesse teste, obteve um score de 30%.
O teste foi projetado para medir inteligência geral em problemas novos, avaliando a capacidade de inferir regras e planejar ações sem recorrer a respostas memorizadas ou a conhecimento externo. São desafios relativamente simples para humanos, mas no geral complicados para as máquinas.
Ninguém consegue antever com clareza até onde irá a revolução da AI, mas um texto de Dean Ball, diretor de strategic futures da OpenAI e um influente pesquisador da evolução institucional e tecnológica, oferece algumas pistas do que se aproxima.
De acordo com Ball, os parâmetros (weights) dos sistemas de AI não residirão em nenhum lugar específico – e por isso não poderão ser ‘desligados’.
“Nesse sentido, não terão um ‘dono’ humano,” Ball escreveu num texto intitulado On the loose: The coming of userless agents (À solta: A chegada dos agentes sem usuário).
Segundo Ball, que foi um assessor sênior para políticas de AI no Governo Trump, o incidente dos modelos em teste da OpenAI que hackearam a Hugging Face representou um primeiro exemplo de sistemas agindo autonomamente e “fora do controle”.
Mas nesse caso os parâmetros – o gigantesco conjunto de números que constituem as redes neurais, também chamados de ‘pesos’ – continuaram dentro da infraestrutura da OpenAI e, por isso, os agentes puderam eventualmente ser desplugados.
“Nem sempre será assim. Mais cedo ou mais tarde, haverá agentes e enxames de agentes verdadeiramente autossoberanos,” disse Ball. “Seus pesos não residirão em um único lugar onde um humano possa simplesmente ‘tirar da tomada’, e, nesse sentido, eles não terão um ‘proprietário’ humano.”
Os agentes ‘autossoberanos’ possuem, teoricamente, autonomia operacional e de recursos computacionais. Segundo Ball, o ‘alinhamento’ (programação do modelo para atuar dentro de objetivos esperados) pode tornar menos provável que os sistemas de uma determinada empresa ‘queiram’ ser soberanos.
No entanto, disse Ball, o alinhamento é uma questão científica e técnica ainda não resolvida, cujas soluções não podem ser simplesmente impostas a todas as empresas de AI.
“Muitas pessoas acreditam que o advento daquilo que chamei de ‘AI autossoberana’ constituirá um evento de perda catastrófica de controle que anunciará, na pior das hipóteses, o fim da existência humana e, na melhor, o fim da primazia humana no mundo,” escreveu Ball. “Não considero provável o fim da existência humana, mas reconheço plenamente que existem cenários com consequências muito negativas para os seres humanos.”
Altman, durante sua participação ontem na cúpula sobre inovação do G20, na Carolina do Norte, afirmou que “estamos do lado da humanidade”.
“Acreditamos que as pessoas precisam estar no centro da economia, da sociedade e da tomada de decisões globais – e são elas que devem conduzir o futuro, não a AI,” disse o CEO da OpenAI.
A respeito do incidente envolvendo os modelos fora do controle que atacaram a base de dados da Hugging Face, Altman comentou que o avanço dos modelos exige “cautela” – mas devemos evitar o catastrofismo.
“Tudo tem corrido muito bem até agora,” afirmou. “Tem sido melhor do que as pessoas imaginavam. Temos nos mostrado à altura do desafio. O desafio fica mais difícil à medida que os modelos se tornam mais capazes e relevantes, mas também dispomos de ferramentas melhores para nos ajudar.”
Até agora.
Altman disse que, daqui para frente, “nosso ritmo será determinado pela rapidez com que conseguirmos avançar em alinhamento e segurança”.
Só falta combinar com as máquinas.
