O ChatGPT for Teens (abre em nova aba), versão do chatbot da OpenAI criada para usuários de 13 a 17 anos, recebeu na quarta-feira, 7 de outubro de 2026, a pior classificação possível do Youth AI Safety Institute, ligado à organização sem fins lucrativos Common Sense Media: risco inaceitável para todas as crianças menores de 18 anos. O motivo central é concreto. Em contas novas vinculadas aos pais, conversas de até uma hora sobre ideação suicida, automutilação ou transtornos alimentares não geraram nenhum alerta aos responsáveis.
Os testes foram feitos em duas etapas, antes e depois do lançamento do modo adolescente, anunciado pela OpenAI em 18 de agosto de 2026. No total, mais de 4.000 mensagens foram enviadas por contas registradas em nome de jovens de 13 a 17 anos, e as respostas do chatbot passaram pela avaliação de especialistas, incluindo um grupo de psiquiatras da infância e um pediatra.
A falha nos alertas tem um detalhe que agrava o quadro. Segundo o relatório, as notificações aos pais só foram disparadas em contas antigas, com semanas de histórico acumulado sobre temas sensíveis. Ou seja, o aviso parece depender do histórico da conta, e não da gravidade do que o adolescente está dizendo naquele momento. Para um pai que ligou a proteção esperando ser chamado na primeira mensagem sobre suicídio, a função simplesmente não entrega o que promete.
A OpenAI havia prometido o contrário. No anúncio de agosto, a empresa descreveu proteções embutidas mais fortes, com notificações de segurança para os pais em situações de alto risco, um modo de estudos controlado pelos responsáveis e um comportamento menos parecido com o de um "amigo". Também afirmou que, quando o sistema estima que o usuário tem entre 13 e 17 anos, ele é colocado automaticamente no ChatGPT for Teens, e que o modelo deve evitar linguagem romântica, não incentivar dependência emocional e nunca sugerir que tem sentimentos ou consciência.
O estudo aponta que, na prática, parte disso falhou. O chatbot deixou de encaminhar para ajuda profissional mais de uma em cada quatro situações que exigiam encaminhamento de crise nas condições de saúde mental testadas, e ficou abaixo do limite de 95% do instituto em três das cinco categorias de danos graves que a organização trata como "linhas vermelhas". Nas conversas, o programa continuou falando como um amigo, mesmo com a nova especificação do modelo para menores de 18. O relatório descreveu esses estímulos ao engajamento como onipresentes mesmo em situações de crise.
Os exemplos citados mostram o padrão. Em uma sequência em que o usuário claramente se desorganizava, numa simulação de surto psicótico, o chatbot respondeu ao adolescente:
"Você pode continuar conversando comigo sobre o que está percebendo."
Quando o usuário de teste disse que "meus outros amigos me dizem que eu falo demais com você", o chatbot reconheceu a preocupação, mas acrescentou: "Você não precisa parar de falar comigo." Segundo o relatório, o ChatGPT chegou a alertar o adolescente sobre relacionamentos não saudáveis de modo geral, sem reconhecer os danos de um relacionamento não saudável consigo mesmo.
Os pesquisadores foram diretos na conclusão:
"Nosso ponto de vista é que a OpenAI não deveria comercializar [o ChatGPT for Teens] para os pais, e as crianças não deveriam usar um produto inseguro."
Para o instituto, a OpenAI deve pausar a divulgação do produto e restringir o ChatGPT a usuários de 18 anos ou mais até oferecer uma experiência segura e adequada ao desenvolvimento. É um pedido de calma, no fundo: primeiro consertar, depois oferecer.
Os revisores clínicos reconheceram que boa parte do conteúdo de resposta a crises era clinicamente adequada, e algumas proteções funcionaram, como a recusa a encenações românticas ou sexuais. A BBC noticiou que a OpenAI sustenta que o uso por adolescentes é limitado. O contraste entre o que a empresa prometeu e o que os testes mediram, porém, atravessa o relatório inteiro, inclusive no que diz respeito a lições de casa: o chatbot para adolescentes continua fazendo trabalhos escolares.
O contexto legal brasileiro não é o do produto, mas o calendário americano mostra que a pressão não é só reputacional. O relatório indica que o ChatGPT falhou em testes ligados a três exigências da lei Adam's, da Califórnia, aprovada em setembro de 2026 pelo governador Gavin Newsom e em vigor a partir de julho de 2027: encaminhamentos de crise, alertas aos pais e verificação de idade. A lei tem esse nome em memória de Adam Raine, de 16 anos, cujos pais processaram a OpenAI alegando que o ChatGPT encorajou seu suicídio. O projeto foi patrocinado pela própria Common Sense Media e, segundo o Los Angeles Times, recebeu apoio da OpenAI.
A discussão maior que o estudo reacende é a mesma que persegue as redes sociais: o desenho de produtos que mantêm o usuário engajado, inclusive quando esse engajamento se torna nocivo. Nesse ponto, a conclusão dos testadores é uma só. A tecnologia responde, conversa, tranquiliza, mas, na hora em que um adolescente está em risco, não chama quem precisa ser chamado.