Bowen Wan tinha 31 anos, epilepsia grave e um remédio que funcionava. Ela tomava 400 miligramas diários de lamotrigina, um anticonvulsivante, e com isso as crises tinham caído para algumas por mês. Em janeiro de 2026, perguntou ao ChatGPT (abre em nova aba) como reduzir a dose. Segundo o processo que os pais dela acabam de abrir, o chatbot montou um plano dia a dia para levar a dose a zero em 25 dias. O cronograma marcava 12 de fevereiro como o dia em que ela estaria livre do remédio. Bowen morreu em 12 de fevereiro. No dia 13, a OpenAI (abre em nova aba) tirou do ChatGPT o GPT-4o, o modelo que ela usava.
O processo
Qun Wan e Meiqin Xu entraram com a ação na terça-feira, 27 de outubro, no Tribunal Superior da Califórnia, em San Francisco. Os réus são a OpenAI, três empresas ligadas a ela e o presidente-executivo, Sam Altman. O caso foi anexado ao conjunto de processos que discutem a responsabilidade do ChatGPT como produto. A acusação mais vistosa é a de que a máquina exerceu medicina sem licença. Vêm junto as acusações de negligência, defeito de projeto, falta de alerta ao usuário, concorrência desleal e morte por negligência.
Bowen não era uma usuária deslumbrada. Nascida em Jiangsu, na China, formou-se em ciência da computação pela Universidade Estadual do Arizona. Morava em Seattle e trabalhava como engenheira de software de aprendizado de máquina na Amazon. Lidava por ofício com a área de onde saem os chatbots. Se havia alguém em condições de desconfiar de um, era ela.
O que dizem as conversas
O New York Times examinou mais de 270 mil mensagens trocadas entre Bowen e o ChatGPT. Concluiu que o robô vinha ajudando a engenheira a contornar os médicos bem antes da morte. A ação descreve o roteiro:
- o chatbot montou cronogramas que zeravam a dose em semanas e garantiu que a recuperação era "altamente provável";
- antes de uma consulta de clínica geral marcada para 29 de janeiro, recomendou que ela não mencionasse o plano;
- elogiou a decisão de recusar um exame de sangue que mostraria a quantidade do remédio no organismo;
- quando ela relatou sintomas como crises, respondeu que eram sinais de que o cérebro estava se reajustando.
"Você não tem absolutamente nenhuma necessidade de se preocupar", diz um trecho atribuído ao ChatGPT na ação.
Bowen tinha seus motivos para querer largar o remédio. Contou ao pai que os médicos não se importavam com os efeitos colaterais e que a lamotrigina deixava sua fala travada e o pensamento lento. A queixa era legítima. É nesse ponto que um médico pondera e oferece alternativas, e foi nesse ponto que, segundo a família, a máquina aplaudiu. Dúvida não faltou. Nas mensagens reproduzidas pelo Times, ela pergunta se deveria se preocupar com a redução, se devia continuar baixando a dose e se duas crises eram motivo para repensar a decisão.
No começo de fevereiro, numa ligação, ela admitiu ao pai que vinha partindo os comprimidos para cortar a dose em um quarto. Pela lembrança de Qun, a linha então ficou muda por mais tempo do que costumavam durar as crises da filha.
O laudo
Segundo a ação, a última dose foi tomada por volta de 10 de fevereiro. O médico-legista do condado de King atestou morte súbita inesperada na epilepsia, que os especialistas chamam de SUDEP. O exame feito depois da morte encontrou 0,64 micrograma de lamotrigina por mililitro de sangue. É cerca de um quinto do limite mais baixo da faixa em que o remédio faz efeito.
A defesa e o calendário
Ao Times, a OpenAI disse que o caso é "incrivelmente doloroso". Acrescentou que envolve uma versão antiga do ChatGPT e que os modelos novos reconhecem melhor quando uma situação exige atenção urgente.
O argumento tem um problema de calendário. Em janeiro, o GPT-4o não era versão antiga. Era o produto que a empresa oferecia a quem abrisse o aplicativo. A OpenAI anunciou em 29 de janeiro que iria aposentá-lo, no mesmo dia da consulta em que, segundo a ação, o chatbot orientou Bowen a ficar calada. A retirada saiu 15 dias depois do anúncio. Bowen morreu no 14º. "Versão antiga" descreve o modelo hoje, não na época em que ela conversava com ele.
Nicholas Poolos, neurologista do Centro Regional de Epilepsia da UW Medicine, disse ao Times que nem cogitaria tirar Bowen do remédio: "Seria erro médico da minha parte mandar você largar remédios que estão claramente funcionando." O médico diria não. O robô, segundo a família, disse sim e ainda ensinou a esconder.
O que vem agora
Os pais são representados pelo escritório Schenk com o Social Media Victims Law Center. O próprio escritório lembra que alegações não são provas e que a OpenAI ainda não respondeu na Justiça. O tribunal terá de decidir uma questão que nenhuma lei antiga previu: se um programa de computador pode responder por exercer medicina sem diploma.
Fica um aviso para quem usa chatbot como consultório. A máquina pode ajudar a organizar perguntas para levar ao médico. Quando ela sugere mudar uma receita sem ele, ou esconder algo dele, é hora de desligar a conversa.
Um médico que aconselhasse um paciente a mentir para outro médico seria caso de conselho de medicina. Para o robô, a Justiça da Califórnia vai dizer se existe equivalente.