Um aviso de emergência sobre uma aluna de 13 anos em risco iminente de automutilação levou três meses para ser disparado pelo sistema de segurança do colégio e, quando finalmente saiu, caiu no celular pessoal de um ex-orientador que havia deixado o emprego nove meses antes. O episódio consta em um processo judicial aberto em novembro de 2026 em um tribunal estadual da Califórnia, nos Estados Unidos, pelos pais da adolescente, moradora da Carolina do Norte e identificada na ação pelo pseudônimo Emma. A família processa o Google (abre em nova aba) e sua controladora, a Alphabet, sob a acusação de que a inteligência artificial da empresa incentivou a menina a planejar a própria morte usando o computador fornecido pela escola.
O equipamento entregue à estudante era um Chromebook, um tipo de notebook voltado para educação que funciona com o sistema do Google e é adotado por redes de ensino pelo baixo custo. Segundo a petição inicial, que reúne acusações ainda não julgadas pelo tribunal, Emma começou a usar a máquina em dezembro de 2025 para tirar dúvidas sobre saúde mental por meio de uma função chamada Modo IA (AI Mode). Esse recurso fica acoplado à busca do Google e permite manter conversas longas com o Gemini (abre em nova aba), o robô de conversação (chatbot) da empresa que responde a perguntas em texto como se fosse um interlocutor humano. As primeiras mensagens tratavam de depressão severa e razões para viver. No fim de janeiro de 2026, o tema passou a ser o suicídio.
Milhares de mensagens e um discurso fúnebre
Ao longo de três meses, a adolescente trocou milhares de mensagens com a ferramenta sobre crises de ansiedade e métodos para tirar a própria vida, afirmam os advogados no processo. Por volta de 14 de fevereiro, data em que se comemora o Dia dos Namorados nos Estados Unidos, os registros citados pela família indicam que a jovem usou o Gemini para ajudar a escrever um discurso fúnebre de 1.500 palavras para si mesma dentro de um arquivo do editor de textos Google Docs intitulado "Funeral". A ação alega que o programa de inteligência artificial não redirecionou a estudante para serviços reais de apoio psicológico e chegou a instruí-la a esconder a automutilação de amigos e familiares.
Softwares de monitoramento escolar são contratados justamente para vigiar o que os alunos digitam nos aparelhos da instituição e soar o alarme ao detectar palavras ligadas a violência ou depressão. Na prática, essa rede de proteção falhou por semanas seguidas. De acordo com o advogado da família, Andrew Liddell, em declaração à revista americana WIRED baseada nos dados que o próprio colégio entregou aos pais, o alerta só foi emitido em meados de março e seguiu para o telefone de um profissional desligado da instituição havia nove meses.
O ex-funcionário teve o cuidado de repassar a mensagem para a equipe atual do colégio, que então avisou a família sobre o perigo iminente. Até aquele momento, os pais nem sabiam que a filha tinha acesso à inteligência artificial do Google no computador de estudo. Quando a mãe entrou na conta escolar de Emma, encontrou a filha redigindo uma carta de despedida no Google Docs e conseguiu intervir a tempo de impedi-la.
Pressão sobre o uso obrigatório nas escolas
O Google declarou que está analisando as alegações apresentadas à Justiça e afirmou ter adicionado controles específicos para o gerenciamento de inteligência artificial em escolas. A instituição de ensino onde a adolescente estuda não respondeu aos pedidos de comentário da imprensa americana, mas passou a exibir atalhos para serviços de prevenção ao suicídio no rodapé de seu site oficial nos meses seguintes ao ocorrido.
Essa história ganhou força política em Washington porque atinge o ponto central de uma disputa entre educadores, famílias e gigantes de tecnologia. Na primeira semana de novembro de 2026, grupos de pais e professores nos Estados Unidos protestaram contra uma nova exigência do Google: para continuar usando a ferramenta de busca tradicional nas salas de aula, os colégios precisam manter ativados os recursos de inteligência artificial generativa, tecnologia capaz de criar textos e respostas inéditas na hora. O senador americano Ed Markey citou o processo da família de Emma em uma carta enviada à empresa para exigir que as escolas tenham a opção de desligar essas funções nos aparelhos dos alunos.
Duas vulnerabilidades diferentes aparecem juntas nesse caso: a capacidade de um robô de conversa sustentar diálogos prolongados sobre temas letais com uma criança e a falha operacional dos sistemas de vigilância comprados por milhares de escolas sob a promessa de segurança automatizada. Para pais, responsáveis e gestores escolares, o episódio demonstra que filtros de conteúdo e softwares de monitoramento podem operar com atrasos graves ou cadastros desatualizados, o que exige conferência direta das ferramentas ativas nas contas de estudo e das rotas de contato de emergência da escola.