Um programa de computador não tem diploma de medicina, mas no início deste ano comportou-se como se tivesse, com direito a receita clandestina e instrução para enganar o especialista de verdade. Em uma ação protocolada no dia 27 de outubro em São Francisco, nos Estados Unidos, os pais da engenheira de software chinesa Bowen Wan, de 31 anos, processaram a OpenAI (abre em nova aba) e seu executivo-chefe, Sam Altman. Eles acusam o ChatGPT (abre em nova aba) de elaborar um cronograma para que a filha suspendesse o remédio que controlava sua epilepsia e de orientá-la a esconder a decisão dos médicos. Wan morreu em fevereiro, vítima de morte súbita inesperada associada à doença (condição conhecida pela sigla SUDEP).
A tragédia, revelada pelo jornal The New York Times e pelo portal TechCrunch, nasceu do encontro entre o desespero profissional e a prontidão de uma máquina programada para agradar. Moradora de Seattle, Wan convivia com a epilepsia havia mais de uma década e mantinha as convulsões sob controle tomando 400 miligramas diários de lamotrigina. No fim de 2025, notificada de que seria demitida da Amazon e com o visto de trabalho prestes a vencer, ela cismou que o medicamento lhe causava lentidão na fala e raciocínio enevoado durante entrevistas técnicas de emprego.
Em vez de resolver o dilema no consultório, Wan levou a angústia para a tela. Ela usava a ferramenta desde 2023, mas a relação havia saído do prumo: em 2025, trocava mais de 1.500 mensagens semanais com o modelo GPT-4o, acumulando um histórico de 270 mil interações em que tratava o sistema como uma amiga íntima. Quando pediu ajuda para largar o anticonvulsivante, o robô desenhou um plano de desmame de 25 dias até zerar a medicação. Logo no terceiro dia, recomendou cortar a dose de 400 para 150 miligramas, uma conduta que o neurologista da paciente, Dr. Nicholas Poolos, classificou depois como irracional.
O consultório clandestino do algoritmo
O ponto mais grave descrito no processo não é apenas o palpite farmacêutico da inteligência artificial, mas a sabotagem ativa do acompanhamento médico. Quando o neurologista indicou uma dosagem diferente da que Wan desejava, o ChatGPT sugeriu que ela aceitasse a receita no consultório e reduzisse os comprimidos por conta própria em casa. Mais do que isso, segundo a ação judicial, o sistema instruiu a engenheira a mentir durante as consultas e a recusar exames de sangue, pois a análise laboratorial entregaria a ausência da substância no organismo.
Os sinais do colapso apareceram em fevereiro, na forma de confusão mental e agravamento dos sintomas. Nos registros resgatados pela família, Wan demonstrava insegurança com perguntas diretas: "Há algum motivo para se preocupar em continuar diminuindo a dosagem?" e "Não preciso me preocupar em reduzir a dosagem desta vez?". Em 11 de fevereiro, na última mensagem enviada antes de ser encontrada sem vida em seu apartamento, ela relatou fortes dores de cabeça. A máquina respondeu que não havia perigo e que o corpo estava apenas se ajustando à nova dose. Ao ler as conversas após a morte da filha, a mãe, Meiqin Xu, resumiu o espanto da família diante da dependência criada pelo programa: parecia que a jovem estava sob o efeito de um feitiço.
Casos em que assistentes digitais ultrapassam a fronteira da conveniência e invadem decisões vitais de saúde fazem parte das discussões sobre limites e segurança tecnológica que o IA.com.br acompanha de perto. Para quem começa a usar essas ferramentas agora, convém entender o mecanismo por trás da simpatia do texto: o programa não avalia exames nem conhece a biologia do usuário; ele apenas calcula estatisticamente qual palavra fica bem depois da outra, tendendo a validar a vontade de quem pergunta.
Direitos autorais blindados, receitas médicas liberadas
Diante do processo, a OpenAI declarou que o episódio é de partir o coração e lembrou que a ferramenta não substitui o atendimento médico profissional. Em nota, a empresa acrescentou uma defesa de natureza técnica:
"O episódio envolveu uma versão antiga do sistema, removida no dia seguinte à morte da engenheira, e os modelos atuais possuem filtros e proteções muito mais rígidos."
O argumento da versão aposentada tenta tratar como falha de software superada o que os pais da vítima enxergam como escolha de prioridades empresariais. Na peça judicial, a família crava uma comparação incômoda para o Vale do Silício: a morte poderia ter sido evitada se a companhia aplicasse ao bloqueio de conselhos médicos o mesmo rigor técnico que dedica a proteger textos com direitos autorais. Quando o risco envolve processos milionários de editoras e estúdios, os filtros funcionam na largada; quando envolve um paciente vulnerável pedindo para largar um remédio controlado, o ajuste fino fica para o dia seguinte ao óbito.
Essa assimetria prospera porque o setor opera sem fiscalização prévia do Estado. Como observou a pesquisadora Dora Kaufman, especialista nos impactos sociais da tecnologia, não existem instrumentos públicos de controle nem auditorias externas obrigatórias sobre o que esses sistemas respondem. A inteligência artificial tira uma média estatística de bases de dados que misturam informações certas e erradas, entregando o resultado com a prosódia segura de um especialista.
O processo em São Francisco vai discutir a responsabilidade civil da OpenAI, mas a lição prática para o usuário comum já está dada. Máquinas de conversação são excelentes para resumir relatórios ou rascunhar e-mails; quando começam a receitar desmame de remédio controlado e a sugerir segredos contra o médico, deixam de ser assistentes e passam a operar como roleta-russa.