A IA tem consciência só por que consegue conversar sobre sentimentos? A pergunta expõe um limite da avaliação das máquinas: produzir respostas sofisticadas não basta para demonstrar que exista uma experiência subjetiva por trás delas.
Como destaca Murilo Garavello, em coluna no UOL, publicada em 5 de novembro, observar corvos, plantas e IA ajuda a questionar critérios humanos usados para reconhecer inteligência e consciência.
Por que corvos e plantas entram no debate
Garavello apresenta comportamentos de corvos e respostas complexas de plantas ao ambiente para discutir os limites dessas comparações. A capacidade de resolver problemas, porém, não comprova, sozinha, a existência de sensações.
A distinção importa porque reunir animais, vegetais e sistemas artificiais numa mesma discussão não significa que as evidências sobre consciência sejam equivalentes nos três casos.
Leia também: "A inteligência das aves"
A Declaração de Nova York sobre Consciência Animal, lançada em abril de 2024, afirma haver forte sustentação científica para atribuir experiências conscientes a outros mamíferos e às aves.
O documento também reconhece uma possibilidade realista em todos os vertebrados e em diversos invertebrados, incluindo insetos, crustáceos decápodes e moluscos cefalópodes, como os polvos.
Essas conclusões dizem respeito a animais. Não constituem comprovação de consciência em plantas nem podem ser automaticamente transferidas para uma IA.
Como investigar se uma IA tem consciência
Um relatório científico de 2023, assinado por Patrick Butlin e outros pesquisadores, propôs avaliar sistemas artificiais a partir de indicadores derivados de teorias da consciência.
O trabalho considerou diferentes explicações científicas, como processamento recorrente e espaço global de trabalho. A proposta é investigar propriedades computacionais dos sistemas, além da impressão causada por suas respostas.
Na análise apresentada naquele relatório, os autores não identificaram sistemas conscientes entre os avaliados. Também não apontaram barreiras técnicas óbvias à construção de sistemas que satisfaçam os indicadores propostos.
Atender a indicadores, contudo, não equivale a uma prova definitiva de consciência. O relatório oferece uma abordagem de investigação, e sua avaliação de 2023 não deve ser apresentada como um levantamento de todos os modelos disponíveis hoje.
O que isso muda ao conversar com um chatbot
Na discussão retomada pelo UOL, a fluência das máquinas cria uma armadilha: podemos interpretar uma descrição convincente de tristeza ou dor como evidência de que o sistema sente essas emoções.
Para quem usa IA, a consequência prática é separar três perguntas: a ferramenta executa bem a tarefa? Sua resposta está correta? Existe evidência de experiência subjetiva?
O sucesso nas duas primeiras não resolve a terceira. Essa distinção permite avaliar a utilidade de um chatbot sem transformar sua habilidade de conversar em comprovação de uma vida interior.