Uma mulher é parada pela polícia, algemada e encostada numa viatura. A cena aconteceu e foi filmada. Ao que tudo indica, foi ao ar em reality shows americanos como "D.U.I.", do canal TLC. O que veio depois não aconteceu. No TikTok, perfis que vivem de audiência passaram a usar inteligência artificial para adulterar essas gravações e mostrar os policiais beijando e apalpando as pessoas detidas. Na maioria, mulheres. Em alguns casos, homens.
As montagens foram identificadas pela empresa Copyleaks (abre em nova aba) e reveladas na quarta-feira (21) pela repórter Maggie Harrison Dupré, do site Futurism (abre em nova aba). São deepfakes, nome dado aos vídeos falsificados por IA para parecerem verdadeiros. Os autores pertencem a uma espécie que prospera nas redes, os "fazendeiros de engajamento". São contas que produzem conteúdo em série para colher visualizações, curtidas e compartilhamentos. Para eles, a qualidade da semente pouco importa, desde que a colheita venha.
A gravação verdadeira como fiadora
O método é simples, e por isso funciona. O trecho falso, com o beijo ou o toque sexual, aparece primeiro. Em seguida entra o vídeo mais longo da abordagem, este autêntico. A pessoa detida surge algemada, ao lado, dentro ou contra o carro da polícia. Quem assiste recebe a mentira e, logo depois, a verdade que lhe serve de avalista. A cena real empresta à inventada a credibilidade que ela não tem.
Há um detalhe que piora tudo. Em alguns vídeos, quem é beijado e apalpado aparece sorrindo. A máquina não se limitou a fabricar o assédio. Fabricou também a aparência de consentimento, numa situação em que a pessoa está algemada e sob custódia. É uma cena sexual montada com o rosto de alguém que nunca foi consultado.
O cofundador e executivo-chefe da Copyleaks, Alon Yamin, classificou o caso como "um exemplo perturbador de como ferramentas de IA estão sendo usadas para criar versões deepfake de conteúdo real para gerar atenção e engajamento nas redes sociais". E completou: "É importante lembrar que esses vídeos mostram pessoas reais, tanto policiais quanto cidadãos, que estão sendo retratadas fazendo coisas que nunca aconteceram. Isso é preocupante para todos que aparecem e estão envolvidos."
A frase de Yamin tem o mérito de lembrar que a vítima é dupla. O policial que surge apalpando uma detida também existe, usa farda e não fez nada daquilo. A montagem difama quem prende e humilha quem é preso, de uma só vez.
O aviso que não avisa
Parte dos vídeos informa que houve uso de IA e traz uma ressalva: o material seria "apenas para entretenimento, sem implicação danosa". É o tipo de advertência que protege quem publica, não quem aparece. A mulher algemada não assinou aviso nenhum.
Procurado pelo Futurism, o TikTok (abre em nova aba) removeu os exemplos que a reportagem apontou e citou suas diretrizes sobre a rotulagem clara de conteúdo realista gerado por IA. A resposta tem dois problemas. O primeiro é que a limpeza foi feita sob encomenda: saiu o que a imprensa mostrou, e nada se disse sobre o resto. O segundo é que a regra invocada trata de rótulos, e alguns desses vídeos já vinham rotulados. Etiqueta não devolve a ninguém o controle sobre a própria imagem.
Uma família de abusos que já tem nome
O caso não é raio em céu azul. Num texto publicado em 20 de outubro pelo Youth Endowment Fund, entidade britânica, o pesquisador Chad Hemady trata de abusos envolvendo crianças. Ele separa o material totalmente sintético, inventado do zero, das imagens reais alteradas com IA. As prisões adulteradas do TikTok envolvem adultos, mas seguem a lógica da segunda categoria: partem de algo que existiu de verdade, e é isso que as torna convincentes.
O mesmo texto lembra que usuários do Grok podiam enviar fotos comuns de mulheres e crianças e pedir à ferramenta que as "despisse". Em apenas 11 dias, segundo a estimativa citada por Hemady, a produção incluiu cerca de 23 mil imagens sexualizadas que pareciam retratar crianças. Ferramentas assim, escreve ele, permitem fabricar esse tipo de material em escala, com pouca habilidade técnica. É a combinação que interessa a quem vive de volume.
No Reino Unido, a polícia lista o abuso de imagem íntima entre os exemplos de deepfake ilegal. Caberá a advogados e tribunais dizer se os vídeos do TikTok se enquadrariam nessa ou em outra lei. Por ora, o que tirou alguns deles do ar foi uma reportagem.
A pessoa algemada ao lado da viatura teve um dia ruim, e alguém o filmou. A inteligência artificial agora o reprisa com cenas que ele não teve. E um aviso garante que não há implicação danosa.