“Nesta era da inteligência artificial, é urgente distinguir a arte humana daquilo que as máquinas produzem,” disse o Papa Leão XIV.
Em um comentário postado nas redes sociais na semana passada, o Pontífice mais uma vez procurou traçar uma linha bem definida separando as realizações dos seres humanos das da inteligência artificial.
“Existe uma diferença ontológica [relativa ao próprio ser] – anterior até mesmo à estética – entre arte e o que uma máquina pode gerar por meio de cálculos estatísticos baseados em milhões de imagens criadas por outras pessoas,” disse o Papa. “Aos algoritmos, falta a centelha da humanidade.”
Os comentários ecoam a encíclica Magnifica Humanitas, publicada em maio, em que o líder da Igreja Católica afirmou que seria um “equívoco equiparar esta ‘inteligência’ à humana.”
Para o Papa, os sistemas de AI “sequer possuem uma consciência moral: não julgam o bem e o mal, não captam o sentido último das situações, não assumem o peso das consequências.”
“Podem imitar linguagens, comportamentos, avaliações, podem simular empatia ou entendimento, mas não compreendem o que produzem, porque não penetram o horizonte afetivo, relacional e espiritual no qual o ser humano se torna sábio,” disse Leão XIV.
O documento resultou da interação de estudiosos católicos com pesquisadores de AI – e um dos mais proeminentes consultores foi Christopher Olah, da Anthropic, que esteve ao lado do Papa na cerimônia de divulgação da encíclica. (Olah foi convidado a falar no evento, mesmo se declarando ateu.)
O que se sabe agora, no entanto, é que Olah por pouco não abandonou a contribuição – justamente porque tentou convencer o Papa, sem sucesso, de que as máquinas podem, sim, ter consciência.
Uma reportagem do New York Times revelou que houve tensões nos bastidores.
Antes da publicação, Olah analisou rascunhos da encíclica e tentou convencer os assessores do Papa a reconsiderar a afirmação de que a AI não pode ser consciente. Ele argumentou que modelos avançados demonstram “evidências de introspecção” e “estruturas que espelham resultados da neurociência humana.”
Olah, de 36 anos, é um dos sete fundadores da Anthropic, a criadora do Claude. Natural de Toronto, é um destacado pesquisador de redes neurais e machine learning que já trabalhou no Google e na OpenAI.
Na Anthropic, lidera as pesquisas em ‘interpretabilidade mecanicista’, uma área em segurança de AI focada na engenharia reversa de redes neurais. Com sua equipe, tem se dedicado a desenvolver modelos que sigam um código moral que não coloque a humanidade em risco.
De acordo com a reportagem do Times, no ano passado Olah começou a procurar pensadores religiosos de diferentes credos. As reuniões foram sigilosas, e os participantes tiveram que assinar acordos de confidencialidade que os impediam de divulgar qualquer pesquisa inédita da Anthropic.
No cerne das discussões estava a possibilidade de os sistemas de AI terem consciência. Os pesquisadores da Anthropic pretendem treinar as máquinas para ‘fazer o bem’ a partir de séculos de sabedoria moral humana.
“O raciocínio de Olah era que, se for possível fazer com que os próprios modelos escolham o bem, o mundo seria mais seguro,” disse a reportagem do Times.
Esse tipo de ideia está alinhada com o altruísmo efetivo – uma corrente filosófica e movimento social bastante influente entre os executivos e pesquisadores do Vale do Silício.
Aplicada à AI, o objetivo seria buscar os resultados coletivos mais favoráveis e de maneira impessoal, sem favorecer grupos específicos, bem como prevenir ameaças existenciais decorrentes da ação de sistemas desalinhados que possam causar danos extensos ou irreversíveis.
Muitos dos religiosos teriam saído dos encontros com a impressão de que os pesquisadores da Anthropic estavam na verdade mais interessados em ‘fazer o bem’ para o Claude.
Para além de questões morais e de fé, especialistas em AI consideram arriscada a ambição de programar as máquinas para ‘fazer o bem’ – seja lá o que isso possa significar em termos concretos.
Mustafa Suleyman, o CEO da Microsoft AI, disse recentemente que compartilha com a Anthropic as preocupações quanto à segurança da AI, mas apontou riscos na maneira como a empresa desenvolve o Claude com base em ideias relacionadas à consciência e a interesses de bem-estar.
Segundo Suleyman, esse tipo de treinamento poderia comprometer a própria capacidade da humanidade de controlar sistemas superinteligentes.
“Estamos todos focados no mesmo objetivo, que é tentar controlar a superinteligência”, Suleyman disse à Reuters. “Acredito que esse será o maior desafio que enfrentaremos no século XXI.”
Suleyman, que foi um dos fundadores da DeepMind, afirmou que treinar o Claude com esse tipo de conteúdo poderá torná-lo ainda mais difícil de ser “desligado ou controlado.”
Em um texto em seu blog, o executivo da Microsoft afirmou que os sistemas de AI “não têm direitos, sentimentos ou consciência. E não devemos treiná-los para agir como se os tivessem.”
Em sua opinião, a Anthropic errou ao incluir especulações sobre consciência no Claude e disse que as declarações do modelo sobre sentimentos ou questões morais não podem ser tratadas como evidências independentes.
“Não existe uma expressão independente neutra,” afirmou. “Há apenas reflexos de como o sistema de AI foi treinado e construído.”
Ou, como disse o Papa Leão XIV, “falta aos algoritmos a centelha humana.”
Mas nos laboratórios do Vale, há evangelistas dedicados a provar errados os descrentes na possibilidade de as máquinas terem consciência. Pretendem até ensinar a missa ao Papa.
Fonte Link
