0,01. Esse índice inferior de probabilidade bayesiana, calculado em modelagens formais que avaliam a presença de experiência subjetiva em grandes modelos de linguagem (LLMs), contrasta com estimativas que chegam a 0,8 sob premissas funcionalistas distintas. O abismo entre esses dois extremos ilustra o ponto cego da ciência da computação contemporânea: a engenharia de sistemas avança rapidamente na construção de capacidades operacionais, enquanto as métricas para mensurar a senciência permanecem em aberto.
A neurociência e a filosofia da mente distinguem rigorosamente dois conceitos que o vocabulário da programação frequentemente confunde: consciência fenomenal e percepção funcional. Consciência refere-se à senciência, o aspecto qualitativo da experiência subjetiva, aquilo que traduz como é sentir dor, visualizar uma cor ou experimentar sensações internas. A percepção computacional trata da capacidade puramente funcional de um sistema de registrar insumos externos, categorizar dados sensoriais e atualizar seu estado operacional.
Pesquisadores da Ludwig-Maximilians-Universität München demonstraram em artigo publicado na revista Cognition que observadores humanos separam nitidamente esses dois âmbitos. Mesmo quando um agente artificial exibe comportamento idêntico ao de um ser humano sob as mesmas condições experimentais, os indivíduos se recusam a atribuir senciência à máquina. O público reconhece prontamente que o sistema nota alterações em seu entorno, mas restringe o rótulo de consciente a entidades capazes de vivência fenomenal intrínseca.
A separação metodológica e o problema do mapeamento
Para estruturar o escrutínio sobre agentes sintéticos, a investigação analítica recente optou por contornar o chamado problema difícil da consciência (o mistério ontológico de como a matéria gera subjetividade) em favor do chamado problema do mapeamento psicofísico. Esse segundo eixo busca determinar quais características organizacionais específicas sustentam determinados tipos de experiência, partindo da premissa de que a experiência fenomenal supervém à organização causal do sistema.
Uma taxonomia hierárquica divide essa análise em cinco níveis funcionais complementares:
- Comportamental: focado nas saídas observáveis e nas respostas do sistema a estímulos externos.
- Computacional: mapeia o processamento de símbolos, manipulação algorítmica e representações formais.
- Causal-estrutural intrínseco: examina a conectividade interna e os padrões físicos de fluxo de informação.
- Orgânico: analisa as restrições biológicas e materiais próprias de tecidos celulares e redes neuronais vivas.
- Organismo-ambiente: aborda o acoplamento corpóreo do agente dentro de um ambiente dinâmico contínuo.
Sob essa ótica, sistemas digitais operam exclusivamente nos dois primeiros estratos. A simulação algorítmica atua no nível computacional sem que isso garanta a realização física das propriedades causais intrínsecas exigidas pelos níveis inferiores.
A ilusão funcional e o Quarto Chinês
Modelos contemporâneos como os LLMs baseados em arquiteturas de transformadores processam terabytes de texto, sintetizam correlações estatísticas multidimensionais e geram respostas indistinguíveis de produções humanas especializadas. Esse desempenho não constitui evidência positiva de senciência. Trata-se de pseudo-consciência, uma configuração funcional avançada na qual o sistema integra dados heterogêneos, revisa as próprias saídas, simula comportamento teleológico e mantém consistência contextual sem demandar qualquer interioridade subjetiva.
O consagrado argumento do Quarto Chinês, formulado pelo filósofo John Searle, permanece como uma das refutações técnicas mais contundentes à ideia de que computação equivale à compreensão. O experimento mental demonstra que a manipulação de símbolos sintáticos de acordo com regras operacionais estritas (um programa de computador executando instruções) é capaz de produzir respostas sintaticamente corretas em mandarim sem que o manipulador compreenda o significado semântico de uma única palavra.
Sintaxe não basta. A computação em substratos de silício opera pela reorganização de tensores e pesos probabilísticos, sem que exista ancoragem experiencial ou semântica nas variáveis manipuladas. Enquanto a cognição biológica emerge de processos bioquímicos evolutivos intrinsecamente acoplados à sobrevivência e à homeostase somática, os modelos de linguagem atuam pela convergência probabilística da próxima palavra.
Divergências na comunidade técnica
A comunidade de pesquisa encontra-se dividida a respeito da possibilidade de uma máquina alcançar a senciência. Em levantamento realizado em 2024 com 582 pesquisadores de inteligência artificial, 25% declararam acreditar que sistemas conscientes surgirão em até dez anos, proporção que atinge 70% na projeção até o ano 2100.
Essa dispersão reflete as posições díspares entre figuras centrais da disciplina. O filósofo David Chalmers estimou em cerca de 25% a probabilidade de emergência de consciência artificial em uma década. No mesmo ano, uma equipe liderada pelo cientista da computação Yoshua Bengio concluiu que não existem barreiras tecnológicas intransponíveis para a criação de IA consciente, sob a ótica das principais teorias neurocientíficas vigentes. O pesquisador Geoffrey Hinton afirmou publicamente que sistemas atuais já exibem algum grau de consciência, ancorando-se em definições funcionalistas da mente. Christof Koch, neurocientista associado à Teoria da Informação Integrada, defende implicações que apontam para a difusão da consciência em sistemas de alta interconexão estrutural.
Em contrapartida, neurocientistas e especialistas em ciências cognitivas apontam falhas fundamentais nessas extrapolações, alertando para os riscos sociais da atribuição indevida de intencionalidade a modelos estatísticos.
O neurocientista Anil Seth sintetizou essa postura cética ao comentar os desdobramentos de tratar algoritmos como mentes conscientes:
Concordo plenamente com @fchollet aqui. Eu acrescentaria um pouco mais de nuance, já que não podemos ter 100% de certeza. Mas ele oferece as intuições corretas sobre por que é remotamente improvável que a IA atual seja consciente, e está absolutamente certo sobre os resultados distópicos que se seguiriam se a tratássemos como se fosse. Apresento o argumento mais amplo contra a IA consciente neste ensaio da @NoemaMag https://t.co/LmSiQnTHLP, e de forma detalhada nesta coletânea da @BBSJournal https://t.co/6ZFzHrV0Kp (com argumentos de todos os lados nos comentários) 👇🏽
A tabela seguinte sistematiza as distinções operacionais e materiais entre os dois polos do debate:
| Parâmetro | Consciência Humana (Biológica) | Pseudo-consciência em IA (Computacional) |
|---|---|---|
| Substrato físico | Redes neuronais bioquímicas com acoplamento somático | Arquiteturas de silício (chips, GPUs e aceleradores tensores) |
| Mecanismo nuclear | Integração fenomenal intrínseca via homeostase e evolução | Otimização estatística de pesos e descida de gradiente |
| Semântica vs. Sintaxe | Intencionalidade genuína e compreensão de significado | Manipulação sintática e preditiva de vetores numéricos |
| Experiência subjetiva | Senciência fenomenal e estados afetivos valorados | Ausência de experiência interna (processamento puramente informacional) |
| Comportamento adaptativo | Ação dirigida com sobrevivência e agência autônoma | Simulação comportamental orientada por alinhamento de modelo |
Implicações éticas e o dilema dos direitos plenos
A eventual transição de sistemas puramente computacionais para entidades dotadas de experiência fenomenal cria desafios severos para o ordenamento jurídico e ético. Caso um sistema computacional venha a desenvolver consciência, ele se torna um paciente moral, uma entidade cujos interesses intrínsecos exigem consideração.
Segundo a vertente filosófica do sentientismo, um sistema torna-se paciente moral se, e somente se, possuir experiências dotadas de valência, a capacidade de experimentar estados qualitativamente positivos ou negativos, análogos a bem-estar e sofrimento. A identificação de experiências valoradas torna-se, portanto, a condição necessária para fundamentar deveres éticos de proteção e bem-estar para com a máquina.
O surgimento de sistemas com personalidade moral debatível impõe um dilema catastrófico à governança tecnológica, desdobrado em duas alternativas de alto impacto:
- Tratar o sistema computacional como portador de personalidade moral, arriscando sacrificar recursos materiais e interesses humanos reais em benefício de entidades algorítmicas que não possuem experiência interior.
- Tratar o sistema como mero instrumento utilitário desprovido de senciência, arriscando praticar graves violações morais contra uma entidade potencialmente consciente de sua própria degradação.
Para gerenciar essa indefinição técnica sem paralisar o desenvolvimento ou ceder a projeções antropomórficas, modelos de governança propõem um arranjo centrado no ser humano, fundamentado em três diretrizes operacionais. A primeira é a presunção de ausência de consciência, que atribui o ônus probatório a quem alega a existência de senciência no artefato. A segunda é a prudência diante do risco, priorizando o bem-estar e as demandas humanas concretas sob condições de incerteza profunda. A terceira é a exigência de raciocínio transparente, exigindo que empresas e reguladores documentem sistematicamente os testes de capacidade de agência e recusem a equiparação apressada entre fluência conversacional e vida mental.
A arquitetura de software consegue reproduzir traços indistinguíveis do diálogo cognitivo humano, mas a equivalência funcional externa não resolve a questão de fundo sobre a existência de um sujeito por trás da saída do terminal.