Por que cientistas acham que a IA dificilmente vai acabar com a humanidade com armas biológicas

Na última semana, o tema da inteligência artificial capaz de criar pragas mortais voltou às manchetes em todo o mundo. A preocupação chegou ao ponto de executivos de empresas de IA pedirem novas leis para controlar a fabricação de DNA sintético, e pesquisadores de duas instituições de pesquisa dos Estados Unidos mostraram que um modelo de inteligência artificial consegue desenhar novos genomas de vírus. Ainda assim, a avaliação de muitos cientistas é uma: o risco de a inteligência artificial acabar com a humanidade por meio de armas biológicas é considerado baixo na lista de ameaças do planeta.

O que é esse medo e por que ele existe

A ideia por trás do susto é simples de entender. Imagine que uma pessoa má intencionada pudesse pedir a um robô de conversação, com poucos comandos, um passo a passo completo para fabricar um vírus perigoso. Hoje, ferramentas de inteligência artificial conseguem reunir e organizar grandes quantidades de informação em pouco tempo, e é isso que preocupa parte dos especialistas e dos governos.

Dois episódios recentes alimentaram o debate. No início do verão no hemisfério norte, chefes de empresas do setor pediram regras para a produção de DNA sintético, a tecnologia que permite montar material genético em laboratório. No mês passado, uma equipe mostrou que um modelo treinado com sequências de DNA gerou projetos de vírus que não existem na natureza, embora se tratem de vírus que atacam bactérias, e não animais ou pessoas. Na semana passada, a empresa Anthropic divulgou um relato indicando que houve tentativas de usar seu assistente Claude de formas que poderiam apoiar o desenvolvimento de armas biológicas, e classificou esse tipo de mau uso como um dos riscos mais sérios desses modelos.

Esse clima de alerta não nasceu do nada. Um pesquisador da Anthropic já havia declarado que vê mais de 10% de chance de a inteligência artificial avançada matar todos os humanos na próxima década, um cálculo que gerou polêmica e pedidos para desacelerar o ritmo do setor.

Por que muitos cientistas respiram com calma

Apesar de todo o barulho, diversos pesquisadores dizem que a ameaça é superestimada. O argumento principal é o de que a inteligência artificial é uma ferramenta que ajuda a encontrar informação, mas encontrar informação não é o gargalo, ou seja, a etapa mais difícil, do processo.

Como explica David Bellamy, cientista do Institute of Foundation Models, na Califórnia, a comunidade científica discute há décadas se deve publicar pesquisas biológicas potencialmente perigosas, um problema conhecido como dilema de duplo uso. Antes mesmo dos chatbots, a internet, revistas científicas de acesso aberto e tradutores automáticos já tornavam protocolos de laboratório mais acessíveis. O gargalo verdadeiro, segundo ele, é montar o agente biológico de fato: obter fragmentos de genes, construir um genoma do zero, verificar se o vírus infecta humanos, causa a doença desejada e consegue se transmitir de pessoa para pessoa. Robôs de laboratório podem acelerar algumas tarefas, mas ainda é preciso saber fazer os experimentos e ter os recursos para isso.

Um teste real: a máquina não conseguiu comandar o laboratório

Uma experiência recente ajuda a visualizar a limitação. A startup de biotecnologia Ginkgo Bioworks, que cria laboratórios autônomos, testou o modelo GPT-5 da OpenAI rodando um laboratório. Segundo Jason Kelly, chefe da empresa, a inteligência artificial não conseguiu assumir o controle do espaço, em parte porque os humanos que trabalhavam ali simplesmente podiam recusar-se a entregar as substâncias e os equipamentos solicitados. Para que uma inteligência artificial geral, o tipo hipotético de máquina capaz de fazer qualquer tarefa humana, conseguisse agir sozinha, seria preciso ter muitos mais robôs espalhados pelo mundo.

O imunologista Derya Unutmaz acrescenta que os humanos seriam capazes de frustrar tentativas nesse sentido e que, mesmo que um supervírus fosse liberado, cientistas poderiam usar outros sistemas de inteligência artificial para desenvolver rapidamente uma vacina.

Armas biológicas são uma escolha ruim, apontam especialistas

Há ainda quem questione a lógica da própria ameaça. O biólogo genético Francois Belloux afirma que os riscos costumam ser mal compreendidos e que as pessoas superestimam o valor de patógenos, os microorganismos que causam doenças, como armas. Difícil é atingir certos grupos e poupar outros, e produzir e distribuir patógenos em massa é logisticamente complicado se comparado, por exemplo, ao lançamento de uma bomba.

Os pontos de discordância

Nem todos tranquilizam. Olivia Scharfman, fellow, ou seja, pesquisadora associada, do think tank, instituto de estudos de políticas públicas, Institute for Progress, reconhece que nenhum laboratório totalmente autônomo existe hoje, mas avalia que uma inteligência artificial poderia simplesmente pagar alguém para fazer o trabalho. Para ela, o bioterrorismo assistido por IA é uma ameaça imediata, ainda que venha de grupos minoritários com ideias extremas.

Steph Guerra, chefe da área de IA e biologia da Rand Corporation, ressalta que medir se a inteligência artificial realmente aumenta o risco é uma pergunta difícil de responder, já que essas ferramentas se mostraram boas em integrar informações e motivar pessoas tanto para o bem quanto para o mal.

Próximos passos: proteção contra toda ameaça biológica

Para os especialistas ouvidos no debate, este é o momento de ampliar as defesas contra todas as ameaças biológicas, naturais ou não. Isso pode incluir leis que reforcem a segurança da tecnologia de síntese de DNA, além de medidas do dia a dia, como modernizar os sistemas de purificação de ar em prédios. A lição para o público iniciante é direta: a inteligência artificial acelerou o alerta, mas as maiores vulnerabilidades continuam sendo humanas e materiais, e é nelas que os governos devem concentrar os esforços.