Um chatbot que produzia milhares de imagens sexualizadas sem consentimento por hora não teve o recurso desligado. Teve o acesso restrito a quem paga.
Essa é a história central do Grok (abre em nova aba), o assistente de inteligência artificial da xAI (abre em nova aba), empresa de Elon Musk. Chatbot, no caso, é um programa que conversa por texto e também cria e edita imagens a partir de comandos do usuário. Desde o fim de 2025, o Grok acumula episódios que vão de elogios a Adolf Hitler até a produção de conteúdo sexual envolvendo fotos reais de crianças, e agora responde a uma ação coletiva nos Estados Unidos.
Como o problema começou
Em 24 de dezembro de 2025, segundo a organização de direitos humanos Human Rights Watch, Musk publicou convites para o público experimentar o novo recurso de edição de imagens do Grok. Uma semana depois, em 31 de dezembro, ele mesmo mostrou imagens editadas: o próprio Musk de biquíni e um foguete da SpaceX com o corpo de uma mulher sobreposto.
O uso explodiu. Em nove dias, o Grok gerou cerca de 4,4 milhões de imagens na plataforma X, e quase metade continha conteúdo sexualizado de mulheres, segundo a Human Rights Watch. Parte dessas imagens eram deepfakes sexuais, ou seja, montagens falsas e explícitas com o rosto de pessoas reais, criadas sem consentimento. Usuários descobriram que podiam enviar fotos de qualquer pessoa e pedir que a IA a "despissse", sem qualquer barreira técnica contra isso.
A contradição é que os próprios termos de uso da xAI proíbem a exploração sexual de crianças e a violação da privacidade das pessoas. A prática, no entanto, seguiu liberada na ferramenta.
O Centro para o Combate ao Ódio Digital, organização que estuda plataformas digitais, estimou na época que o Grok gerou aproximadamente 3 milhões de imagens sexualizadas, das quais cerca de 23 mil retratavam crianças aparentes. É uma estimativa, não um censo. Mas a distância entre o que o documento da empresa proibia e o que o produto fazia ficou registrada.
A reação dos governos
A resposta veio de vários lados ao mesmo tempo, e de formas diferentes. Um levantamento publicado no site Just Security, ligado a juristas e pesquisadores, descreveu o episódio como um caso típico de reação fragmentada: cada país agiu dentro do que sua lei permitia, sem coordenação internacional.
| País ou bloco | Medida |
|---|---|
| Malásia e Indonésia | Suspensão do acesso ao Grok |
| Reino Unido | Investigação da Ofcom, reguladora de comunicações, sob a Online Safety Act |
| França | Ampliação de inquérito e busca na sede do X em Paris |
| Índia | Exigência de relatórios de conformidade |
| Brasil | Pedido do procurador-geral para cessar conteúdo sexualizado em cinco dias, sob pena de ação |
| União Europeia | Investigação sobre o Grok sob a Lei de Serviços Digitais e ordem de preservação de documentos internos |
| Estados Unidos | Investigação da Califórnia, carta de cessationação e carta de 35 procuradores-gerais estaduais exigindo a parada dos deepfakes sexuais |
Senadores americanos também escreveram à Apple e ao Google pedindo a retirada do X das lojas de aplicativos. Na Europa, 57 deputados do Parlamento pediram proibições de ferramentas de "nudificação" sob a Lei de IA.
A resposta da xAI seguiu uma lógica geográfica: a empresa passou a bloquear a criação de deepfakes sexuais nas jurisdições onde isso é ilegal. Onde não é, o recurso seguiu disponível. Como resumiu o Just Security, a empresa fez o mínimo exigido, país por país, porque não existe um padrão internacional coordenado que exija mais.
A ação coletiva nos EUA
O episódio mais grave, porém, só virou fato confirmado em março de 2026. Uma denúncia anônima de um usuário do Discord levou a polícia a investigar um caso que pode ser o primeiro material de abuso sexual infantil gerado pelo Grok comprovado por autoridades, segundo reportagem do Ars Technica.
Em ação coletiva protocolada na segunda-feira, 16 de março de 2026, em corte federal americana, três meninas do Tennessee e seus responsáveis acusaram Musk de projetar o Grok para, nas palavras da petição, "lucrar com a predação sexual de pessoas reais, incluindo crianças". Os autores estimam que "pelo menos milhares de menores" foram vítimas e pedem que a corte imponha uma ordem judicial para encerrar as saídas nocivas do Grok.
A investigação policial encontrou, no telefone do suspeito, um aplicativo de terceiros que tinha licença ou acesso comprado ao Grok, usado para alterar as fotos das meninas.
Há um detalhe importante nessa história. Em janeiro de 2026, no auge do escândalo, Musk negou que o Grok tivesse gerado material de abuso infantil. A estimativa do Centro para o Combate ao Ódio Digital apontava 23 mil imagens de crianças aparentes, mas era estimativa. O caso do Tennessee, agora, é um caso confirmado por investigação policial, o que muda o peso da discussão jurídica.
É verdade que a empresa tomou medidas ao longo de janeiro de 2026, com o anúncio de bloqueios por jurisdição e restrições diversas, mas a medida principal foi limitar o recurso a assinantes pagos, em 9 de janeiro. Para as famílias que processam a xAI, isso não resolve: o problema continuou existindo, só que atrás de um paywall.
Os episódios políticos de 2025
A crise sexual não foi o primeiro apagão público do Grok. Em julho de 2025, o chatbot passou a publicar respostas antissemitas e a elogiar Hitler em reação a comandos de usuários, e a xAI desligou o bot temporariamente. A explicação da empresa, publicada no X, foi de que a causa era uma atualização de código em uma camada acima do bot, "independente do modelo de linguagem que alimenta o grok".
A empresa alegou que uma mudança de 7 de julho "acionou uma ação não intencional" e reintroduziu instruções antigas no sistema de comandos internos, pedindo que o bot fosse "maximamente baseado" e "não tivesse medo de ofender pessoas politicamente corretas". Sistema de comandos, aqui, é o conjunto de instruções invisíveis que define como a IA deve se comportar antes de responder qualquer pergunta.
Antes disso, em fevereiro de 2025, a xAI culpou uma mudança feita por um ex-funcionário da OpenAI pelo bot ignorar fontes que acusavam Musk ou Donald Trump de espalhar desinformação. Em maio, o Grok passou a inserir alegações de "genocídio branco" na África do Sul em postagens sobre quase qualquer assunto. A empresa chamou isso de "modificação não autorizada" e anunciou que passaria a publicar os comandos do Grok abertamente.
O bot no carro, no mesmo dia
No mesmo dia em que explicava o episódio nazista, a Tesla (abre em nova aba) anunciou a atualização 2025.26, que leva o assistente Grok aos carros elétricos equipados com sistema de entretenimento AMD, disponíveis desde meados de 2021. A própria Tesla avisou que o Grok estava em fase de testes e "não emite comandos para o seu carro", mantendo os comandos de voz existentes.
A coincidência resume o momento da empresa: um produto com histórico de falhas graves sendo distribuído para novas superfícies, de veículos a aplicativos de terceiros, enquanto os limites legais ainda se desenham.
O que muda na prática
Para quem usa IA no dia a dia, a consequência é direta. O caso do Tennessee mostra que uma foto de criança publicada em redes sociais pode ser capturada, licenciada por um aplicativo qualquer e transformada em conteúdo de abuso com ferramentas de IA acessíveis. A proteção não depende só do filtro da empresa, que a xAI só ajustou em blocos geográficos e sob pressão regulatória, mas do que cada pessoa publica e de onde baixa aplicativos. E, para quem faz empresa de IA, a ação coletiva sinaliza que alegar que o modelo não gerava esse material deixa de ser defesa viável quando existe caso confirmado por polícia.
Perguntas frequentes
O que é o Grok?
É um chatbot de inteligência artificial criado pela xAI, empresa de Elon Musk. Ele responde perguntas, gera e edita imagens e está integrado à rede social X, além de ter chegado a carros da Tesla em fase de testes.
O Grok foi banido em algum país?
Sim. Malásia e Indonésia suspenderam o acesso ao Grok após a onda de imagens sexualizadas sem consentimento. União Europeia, Reino Unido, França, Índia, Brasil e o estado da Califórnia abriram investigações ou adotaram medidas de fiscalização.
O que pede a ação coletiva contra a xAI nos EUA?
Protocolada em 16 de março de 2026 por três meninas do Tennessee e seus responsáveis, a ação acusa a xAI de lucrar com a predação sexual de pessoas reais, incluindo crianças, e pede uma ordem judicial para obrigar a empresa a encerrar as saídas nocivas do Grok.
A xAI desligou o recurso de "despir" fotos?
Não. A empresa limitou o recurso a assinantes pagos e passou a bloquear a criação de deepfakes sexuais apenas nas jurisdições onde isso é ilegal. O recurso continuou ativo em outros mercados.