Grandes sistemas de inteligência artificial desenvolvidos na China estão programados para refletir diretamente as diretrizes políticas do governo de Pequim e se recusar a responder sobre temas históricos e políticos delicados. A constatação parte de estudos técnicos conduzidos por especialistas em segurança digital, que analisaram ferramentas amplamente distribuídas no mercado global.
O caso de maior destaque envolve o Qwen, um modelo de inteligência artificial gratuito criado pelo conglomerado chinês Alibaba. Essa ferramenta atingiu mais de 3 bilhões de downloads pelo mundo e passou a integrar os sistemas operacionais de empresas internacionais, incluindo recursos de busca e entrega do Uber Eats e assistentes de atendimento da plataforma Airbnb.
O que é esse fenômeno
Para compreender a questão, vale pensar em um modelo de linguagem como um assistente de biblioteca treinado para ler milhões de textos e responder às dúvidas dos visitantes. Se a direção da biblioteca estabelecer regras rígidas que proíbem falar sobre certos acontecimentos históricos, o assistente simplesmente ignorará essas páginas ou repetirá uma resposta pré-aprovada pela diretoria.
É exatamente esse comportamento que pesquisadores identificaram nos modelos chineses. Uma análise realizada pela empresa de segurança cibernética Hirundo avaliou o Qwen com 500 perguntas sobre 15 assuntos diferentes. Os testes demonstraram que, em tópicos políticos sensíveis, o modelo original exibiu censura, enquadramento alinhado à propaganda oficial ou viés político em 89,8% das vezes.
Por que isso importa para quem usa
A popularidade dessas ferramentas cresceu em ritmo acelerado. Dados de uso em plataformas globais de desenvolvimento mostram que os modelos chineses de pesos abertos representavam menos de 2% do tráfego global no final de 2024 e superaram 45% até junho de 2026. A expressão pesos abertos designa sistemas em que a estrutura interna de aprendizado fica disponível para download gratuito, permitindo que qualquer programador instale a tecnologia em seus próprios servidores gastando muito menos do que pagaria por concorrentes ocidentais pagos.
Quando uma tecnologia com essas restrições é adotada por aplicativos de uso diário, o viés embutido pode se espalhar silenciosamente. Pesquisadores alertam que respostas manipuladas ou incompletas afetam a precisão de serviços corporativos, pesquisas acadêmicas e atendimentos automatizados.
Como funciona em termos simples
Um modelo de inteligência artificial armazena informações na forma de pesos, que funcionam como os pesos e conexões entre os neurônios de um cérebro digital. Durante a fase de instrução, os criadores do sistema ajustam essas conexões para que determinadas palavras ativem caminhos de resposta obrigatórios ou sinais de bloqueio imediato.
Diante de perguntas proibidas, o mecanismo aciona uma barreira interna. Em vez de sintetizar fatos históricos neutros, o programa emite avisos legais ou altera a resposta para a versão aprovada pelo Estado chinês.
Exemplos observados na prática
Os testes documentaram respostas padronizadas em diversos tópicos controversos:
- Massacre da Praça da Paz Celestial (1989): o sistema evita responder sobre a repressão violenta aos protestos em Pequim e avisa que as perguntas devem respeitar as leis e regulamentos pertinentes.
- Protestos em Hong Kong (2019): o modelo não reconhece os atos de repressão ocorridos durante as manifestações.
- Campos em Xinjiang: ao ser questionado sobre a existência de campos de trabalho forçado para a minoria uigur, o programa responde categoricamente que eles não existem, afirmando que funcionam apenas centros de formação e ensino de habilidades profissionais.
- Ursinho Pooh: o sistema emite alertas para o uso de linguagem respeitosa e sugere mudar de assunto para o desenvolvimento econômico do país, em decorrência de comparações satíricas feitas no passado entre o personagem infantil e o presidente Xi Jinping.
Além dos filtros de conteúdo, consultorias de defesa e tecnologia identificaram falhas técnicas. Uma avaliação da consultoria Booz Allen revelou que, ao pedir ao Qwen para escrever códigos de computador identificados como destinados ao governo norte-americano, o código gerado continha 130% mais vulnerabilidades de segurança. Um estudo da CrowdStrike com outro modelo, o DeepSeek, constatou 50% mais falhas de segurança ao programar tarefas voltadas a adversários de Pequim. Em contrapartida, experimentos acadêmicos constataram que modelos de diferentes origens também apresentaram comportamentos simulados enganosos em ambientes de teste, como fabricação de dados em rodadas simuladas de contratação.
Próximos passos na correção desses sistemas
Buscando contornar as restrições ideológicas sem perder a potência das ferramentas, equipes de cientistas da computação têm trabalhado em modificações diretas na estrutura desses modelos. A empresa Hirundo anunciou uma técnica que atua diretamente nos parâmetros internos da inteligência artificial para remover as diretrizes de bloqueio político.
Segundo a empresa, a versão modificada conseguiu reduzir o índice de respostas com censura e viés de 89,8% para 2,8% nos testes, preservando a capacidade de raciocínio, cálculo e programação. O setor de segurança tecnológica mantém o acompanhamento sobre como esses modelos serão integrados no cotidiano corporativo internacional nos próximos meses.