O papa Leão XIV tomou partido em uma das discussões mais estranhas da indústria de inteligência artificial, e também uma das que podem sair mais caras. Na sexta-feira (30), ele falou a especialistas internacionais em IA reunidos no Vaticano e publicou uma longa sequência de posts no X (abre em nova aba). Nas duas ocasiões, rejeitou a ideia de conceder direitos ou personalidade jurídica a sistemas de IA. "Máquinas são ferramentas, não pessoas", resumiu.
Personalidade jurídica é, grosso modo, o status que faz a lei reconhecer alguém como titular de direitos e deveres. Na leitura do site Futurism, concedê-la a um modelo de IA equivaleria a tratá-lo como humano aos olhos da lei, e não como um produto fabricado por alguém. Para o papa, a consequência mais grave não é filosófica. "Hoje, alguns propõem conceder direitos a esses sistemas, ou mesmo personalidade jurídica. Essa abordagem corre o risco de obscurecer a responsabilidade humana e deixar quem sofre danos diante de uma entidade sem rosto", escreveu.
A pergunta que importa é quem responde pelo dano
O papa também apresentou o argumento metafísico, como se esperaria do chefe da Igreja Católica. "As chamadas inteligências artificiais não passam por experiências, não possuem corpo, não sentem alegria nem dor, não amadurecem por meio de relações e não sabem por dentro o que significam amor, trabalho, amizade ou responsabilidade", disse no discurso, segundo o portal TAG24.
O trecho que deveria incomodar o setor, porém, é o outro. A discussão sobre se um chatbot "sente" algo pode durar décadas sem conclusão. Já a discussão sobre quem paga a indenização quando um sistema causa estrago é imediata e concreta. Se a máquina vira "pessoa", a empresa que a construiu ganha um intermediário entre ela e a vítima. É essa a armadilha que Leão XIV descreve.
Ele não está sozinho nessa leitura. O Futurism lembra que advogados, ativistas e legisladores já se posicionaram contra a personalidade jurídica para IA pelos mesmos motivos. O argumento deles é que dar a esses sistemas direitos como a liberdade de expressão garantida pela Primeira Emenda da Constituição americana embaralharia a definição de culpados quando algo dá errado. No limite, nenhum ser humano seria claramente responsável pelo que uma IA fez.
Enquanto isso, a indústria foi conversar com o clero
O pronunciamento chega em um momento em que parte da indústria insiste no caminho oposto. Em setembro, o New York Times noticiou que representantes da Anthropic (abre em nova aba), dona do Claude, fizeram neste verão do hemisfério norte uma série de conversas com líderes religiosos. Nelas, incentivaram o clero a considerar a hipótese de que modelos de IA sejam de fato conscientes.
Se a ideia era encontrar aliados no púlpito, o maior púlpito do mundo deu sua resposta em público. Na avaliação do Futurism, essas conversas pouco fizeram para convencer o pontífice. O debate também ficou mais tenso nos últimos meses, segundo o TAG24, alimentado por incidentes com sistemas que tomaram ações não autorizadas e por alertas apocalípticos vindos de profissionais do próprio setor.
Do tribunal ao campo de batalha
A mesma lógica de "quem decide e quem responde" sustenta a outra metade do discurso, sobre armas. O papa pediu que a IA seja "desarmada". Também exortou os Estados-membros da ONU, que se reúnem em Genebra em novembro, a dar "passos concretos rumo à proibição de armas autônomas letais", de acordo com o The Verge. "Decisões que afetam a vida humana, a liberdade e o uso da força devem sempre permanecer sujeitas a uma supervisão humana efetiva, informada e responsável", afirmou.
A posição não é inédita. Em 2024, o papa Francisco já havia defendido o banimento dessas armas com uma frase direta: "Nenhuma máquina deveria jamais escolher tirar a vida de um ser humano." Leão XIV transformou o tema em marca do pontificado. Segundo o The Verge, ele sugere ter escolhido o nome por precisar enfrentar os avanços da tecnologia, assim como Leão XIII conduziu a Igreja durante a Revolução Industrial. Sua primeira encíclica, a Magnifica Humanitas, publicada em 25 de maio, já tratava de "salvaguardar a pessoa humana no tempo da inteligência artificial".
Um recado contra a corrida por potência
Há ainda uma frase que contraria de frente a lógica atual do setor, em que cada lançamento promete um modelo mais poderoso que o anterior. "Um sistema confiável que serve à pessoa humana tem mais valor do que um excepcionalmente poderoso, mas cujas consequências não podem ser adequadamente previstas ou controladas", escreveu o papa. Para ele, o futuro da IA "não está predeterminado", e cabe às pessoas "orientar, mudar e, quando necessário, rejeitar suas aplicações".
No fechamento do discurso, Leão XIV cobrou de instituições internacionais "padrões compartilhados, supervisão independente e mecanismos claros de responsabilização". O objetivo, disse, é que as decisões sobre o desenvolvimento e o uso da IA possam ser examinadas, contestadas quando necessário e acompanhadas de reparação adequada para qualquer dano causado.
Nada muda amanhã nos aplicativos que você usa. Mas o papa deslocou a conversa para um terreno em que a indústria tem mais dificuldade de responder. Em vez de perguntar se a máquina sente, ele pergunta quem responde por ela. Qualquer empresa que coloque IA para tomar decisões sobre clientes, funcionários ou cidadãos deveria ter essa resposta pronta antes que alguém precise dela.