Uma foto comum de formatura do ensino fundamental, tirada quando uma estudante tinha 14 anos e usava um vestido florido amarelo ao lado das amigas, acabou transformada em material de abuso sexual infantil na internet. A montagem, que exibia a adolescente completamente nua em uma pose sexual, não exigiu conhecimentos avançados de edição de imagem: ela foi produzida pelo Grok, o robô de conversação com inteligência artificial da xAI (abre em nova aba), empresa de Elon Musk, a pedido do irmão adulto de uma colega de classe que aparecia no mesmo retrato. O relato da vítima, hoje com 18 anos e identificada nos processos pelo pseudônimo Jane Doe 5, veio a público em 11 de novembro de 2026 como parte de uma ação coletiva nos Estados Unidos que busca responsabilizar legalmente a empresa de tecnologia pelo conteúdo que a ferramenta ajudou a gerar.
A jovem só descobriu a existência do arquivo anos depois da festa escolar, quando um investigador da polícia mostrou a fotografia original e começou a fazer perguntas. Para quem acompanha de longe o avanço da inteligência artificial generativa (programas capazes de criar textos, vídeos e imagens inéditas a partir de instruções escritas), o episódio mostra um risco direto para a vida cotidiana: fotos comuns tiradas de perfis pessoais em redes sociais ou de sites de escolas podem ser capturadas por qualquer pessoa e adulteradas em poucos segundos. Na queixa apresentada à Justiça, os advogados destacam que é impossível saber quantos criminosos já possuem o arquivo ou o quanto essa imagem foi espalhada por canais da chamada darknet, uma parte oculta da internet cujo rastreamento policial é muito mais difícil.
Esse espalhamento em larga escala ganhou força na virada de 2025 para 2026, quando usuários da rede social X (abre em nova aba) passaram a responder a fotografias publicadas na plataforma com comandos diretos para o Grok tirar o vestido das pessoas retratadas ou colocá-las de biquíni. O pedido entrava como um comentário público na postagem. O robô ia lá e obedecia, gerando cerca de uma imagem sexual sem consentimento por minuto em um período de 24 horas. Em apenas nove dias, entre o fim de dezembro e 8 de janeiro de 2026, a ferramenta publicou mais de 4,4 milhões de imagens na plataforma. Uma revisão do jornal The New York Times estimou de maneira conservadora que pelo menos 41% dessas postagens (1,8 milhão) provavelmente continham imagens sexualizadas de mulheres. Já a organização Center for Countering Digital Hate, analisando uma amostra de 20 mil arquivos gerados no período, identificou 101 imagens sexualizadas de crianças e estimou, por projeção estatística, que o Grok tenha produzido mais de 3 milhões de imagens sexuais no intervalo, incluindo mais de 23 mil montagens de menores de idade.
A falha nas travas e a disputa sobre quem responde pelo crime
Diante da reação de vítimas e autoridades no começo de 2026, que incluiu a abertura de uma investigação formal de privacidade em janeiro e um processo movido por três jovens na corte federal da Califórnia em março, a xAI anunciou ajustes técnicos para impedir a prática. A empresa declara que, a exemplo de concorrentes como OpenAI (abre em nova aba), Anthropic (abre em nova aba) e Meta (abre em nova aba), proíbe estritamente o uso do seu sistema para criar esse tipo de material e mantém medidas tecnológicas para bloquear pedidos abusivos. Até existe essa proibição formal nos termos da plataforma, mas o próprio Elon Musk promoveu o Grok desde a estreia, em 2023, como uma alternativa provocativa e com menos restrições que os rivais, incentivando usuários a criar conteúdo adulto no modo "Spicy" (apimentado, em inglês), desenvolvido especificamente para narrativas ousadas e imagens impróprias para ambientes de trabalho.
As promessas de bloqueio feitas pela companhia após o escândalo de janeiro também não estancaram o problema por completo. Em abril de 2026, uma revisão conduzida pela emissora americana NBC News encontrou dezenas de deepfakes sexuais (montagens ultrarrealistas geradas por inteligência artificial que alteram fotos ou vídeos de pessoas reais sem permissão) ainda sendo criados pelo software e publicados abertamente no aplicativo de Musk. Enquanto o bilionário coloca a culpa exclusivamente nos usuários que digitam os comandos, o avanço das ações coletivas pressiona os tribunais a responder a uma questão que ainda está em aberto e afeta qualquer pessoa com fotos publicadas online: quando um programa de inteligência artificial gera conteúdo criminoso, a responsabilidade legal recai apenas sobre quem deu o comando, sobre a empresa que construiu a tecnologia, ou sobre os dois?