Pular para o conteúdo
    ArtigoSegurança e privacidade

    Perfis no X usam IA para despir atores na rua enquanto Dua Lipa segue de casaco

    Hackers de engajamento descobriram um ponto cego nos filtros de moderação: usar inpainting para arrancar a camisa de celebridades masculinas em fotos reais de paparazzi.

    Homem sem camisa e com abdômen musculoso caminha em uma calçada ao lado de uma mulher de cabelos escuros que veste casaco longo e calças, enquanto fotógrafos e pedestres agasalhados observam ao fundo.
    Fotos de celebridades são manipuladas digitalmente para exibir homens sem camisa em cenários urbanos.
    Neste artigo

    Caminhar pelas ruas de Nova York exige certos cuidados térmicos, mas o ator britânico Callum Turner parece viver sob um microclima particular na linha do tempo do X (abre em nova aba). Em diversas fotos publicadas pela conta "UKViewTime", ele aparece passeando ao lado da esposa, a cantora Dua Lipa. Ela está devidamente equipada para o vento nova-iorquino, vestindo calças compridas e casacos longos; ele, por algum mistério da termodinâmica ou do exibicionismo, caminha com o torso completamente nu e um abdômen trincado de fisiculturista. O mistério, claro, se resolve com um clique na foto original da agência de notícias: na vida real, Turner estava vestindo camisa, como qualquer cidadão que não deseja contrair uma pneumonia antes do jantar.⁠​‌​​‌​​‌​‌​​​​​‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌​​‌‌​​​‌​​‌‌‌​​‌​​‌‌‌‌‌​​​‌‌​​​‌​​​‌‌‌​​​​​‌‌​​​​​‌‌​​‌‌​​‌‌​​‌​‌​​‌‌‌​​‌​‌‌​​​‌‌​​‌‌​​‌‌​​‌​‌‌​‌​‌‌​​‌​‌​​‌‌​​‌​​‌‌​​‌​​​​‌‌​‌​‌​​‌​‌‌​‌​​‌‌​‌​​​‌‌​​‌​​​‌‌​​‌​​​​‌‌​‌​​​​‌​‌‌​‌​​‌‌‌​​‌​​‌‌​‌​‌​​‌‌​‌​‌​​‌‌​​​​​​‌​‌‌​‌​‌‌​​​​‌​​‌‌​‌‌‌​​‌‌​‌‌‌​‌‌​​‌​​​‌‌​​​‌​​​‌‌​​‌​​​‌‌​‌​​​​‌‌​‌​‌​‌‌​​‌​​​​‌‌​‌‌​​​‌‌‌​​​​​‌‌​​‌‌⁠

    A tramoia visual, denunciada originalmente pela escritora Sarah Hagi, tornou-se a mais nova modalidade de fazenda de cliques na rede social. Outra conta, batizada de "BiTheWay", aplicou o mesmo tratamento ao jovem ator Noah Schnapp (de Stranger Things) enquanto ele caminhava com o colega Sheridan Townsley: nas fotos originais de rua, ambos usavam camisas e jaquetas; na versão adulterada que circulou como se fosse um flagrante inédito, os dois passeiam inexplicavelmente descamisados.

    Para quem desenvolve sistemas de visão computacional ou trabalha com engenharia de Trust & Safety, esse fenômeno inaugura uma dor de cabeça bastante específica. A tese que precisamos encarar como profissionais técnicos é simples: a fronteira mais escorregadia da manipulação sintética deixou de ser o deepfake explícito que aciona alarmes óbvios de pornografia e migrou para o inpainting sutil, que parasita a estética documental dos paparazzi para explorar um ponto cego nos classificadores de moderação.

    Homem caminhando na calçada com a camisa parcialmente substituída por uma malha digital que revela seu torso nu, ao lado de uma mulher vestindo um casaco pesado. Ao fundo, fotógrafos com câmeras apontadas para a dupla disparam flashes na ru
    Manipulações digitais em fotos de rua expõem celebridades masculinas enquanto poupam mulheres nas mesmas cenas.

    A engenharia da tatuagem preservada

    Vale observar o capricho técnico empregado por esses caçadores de engajamento. Não estamos mais naquele território rudimentar do fim da década passada, quando algoritmos colavam os rostos de Gal Gadot, Taylor Swift ou Maisie Williams sobre corpos alheios em vídeos que forçaram banimentos em massa no próprio Twitter, no Discord (abre em nova aba), no Pornhub e no Gfycat (época em que um único fórum do Reddit (abre em nova aba) sobre o tema acumulava quase 90 mil inscritos). O trabalho agora opera por subtração cirúrgica e preservação de contexto.

    Quando a mesma conta "UKViewTime" resolveu arrancar digitalmente a camisa do cantor Harry Styles em fotos de rua, o operador do modelo teve o cuidado de manter intactas todas as famosas tatuagens do músico sobre a pele sintética e hipertrofiada. Em termos de pipeline de imagem, isso significa que o sujeito não está apenas rodando um gerador genérico de texto para imagem. Ele está combinando máscaras de segmentação precisas (para isolar o vestuário sem alterar a postura do pescoço ou o fundo da rua) com condicionamento espacial capaz de mapear referências anatômicas reais da vítima e reproduzir a iluminação dura do flash ou a compressão de uma lente teleobjetiva.

    O contraponto do engenheiro cansado (e por que ele falha)

    Diante de um tíquete de suporte sobre o peitoral falso do marido da Dua Lipa, a reação natural de qualquer engenheiro de aprendizado de máquina sobrecarregado é dar de ombros. Afinal, qual é exatamente a violação técnica aqui? Revistas de fofoca e departamentos de arte publicitária usam ferramentas da Adobe para desenhar gominhos na barriga de atores desde os anos 1990. Além disso, um torso masculino sem camisa em via pública é legalmente permitido na maioria das jurisdições ocidentais e passa longe dos critérios tradicionais de conteúdo adulto (NSFW). Se calibrarmos os pesos dos filtros de segurança das APIs de difusão para bloquear qualquer geração de pele masculina acima da cintura, vamos inutilizar ferramentas inteiras de moda, design de personagens e edição fotográfica legítima por causa de meia dúzia de perfis caça-cliques.

    O argumento faz sentido no papel, mas desmorona quando olhamos para a arquitetura da fraude. O problema não é a existência de um mamilo masculino renderizado por uma GPU: é o sequestro da prova documental combinada à violação de consentimento.⁠​‌​​‌​​‌​‌​​​​​‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌​​‌‌​​​‌​​‌‌‌​​‌​​‌‌‌‌‌​​​‌‌​​​‌​​​‌‌‌​​​​​‌‌​​​​​‌‌​​‌‌​​‌‌​​‌​‌​​‌‌‌​​‌​‌‌​​​‌‌​​‌‌​​‌‌​​‌​‌‌​‌​‌‌​​‌​‌​​‌‌​​‌​​‌‌​​‌​​​​‌‌​‌​‌​​‌​‌‌​‌​​‌‌​‌​​​‌‌​​‌​​​‌‌​​‌​​​​‌‌​‌​​​​‌​‌‌​‌​​‌‌‌​​‌​​‌‌​‌​‌​​‌‌​‌​‌​​‌‌​​​​​​‌​‌‌​‌​‌‌​​​​‌​​‌‌​‌‌‌​​‌‌​‌‌‌​‌‌​​‌​​​‌‌​​​‌​​​‌‌​​‌​​​‌‌​‌​​​​‌‌​‌​‌​‌‌​​‌​​​​‌‌​‌‌​​​‌‌‌​​​​​‌‌​​‌‌⁠

    A fotografia de paparazzi sempre habitou um pântano ético próprio, marcado por perseguições de carro, lentes longas invasivas e processos judiciais movidos por figuras como Adele, príncipe Harry e Kristen Stewart contra o assédio constante. Ainda assim, o pacto implícito do tabloide era o do flagrante real: a pessoa estava lá, daquele jeito, naquele segundo. Hoje, essa linguagem visual do flagrante virou mero estilo de prompt. Bibliotecas de comandos, como a mantida pela plataforma Techpresso para a ferramenta de imagens do ChatGPT (abre em nova aba), já ensinam usuários a fabricar retratos falsos pedindo expressamente "grão analógico", "flash duro na calçada", "porta de SUV" ou a clássica caminhada segurando um copo de café.

    Quando você junta essa estética que o cérebro humano lê automaticamente como "registro bruto da realidade" com uma alteração corporal não consensual publicada como fato, a brincadeira muda de natureza. Aqui no IA.com.br, onde acompanhamos de perto a evolução dos modelos generativos e seus efeitos colaterais na infraestrutura da web, fica evidente como os sistemas de moderação atuais sofrem de um viés de treinamento histórico.

    A brecha de gênero nos classificadores de segurança

    Quando o GitHub (abre em nova aba) derrubou as versões de código aberto do infame aplicativo DeepNude em julho de 2019 (e quando pesquisadores denunciaram robôs no Telegram que despia menores de idade em 2020), a indústria de tecnologia construiu suas defesas olhando quase exclusivamente para a anatomia feminina explícita. Os classificadores visuais aprenderam a detectar seios, genitália e texturas de pele contínuas associadas à pornografia não consensual.

    Os golpistas de engajamento de 2026 perceberam que a mesma lógica de despir alguém sem permissão passa livremente pela alfândega algorítmica se o alvo for um homem e a edição parar na linha da cintura. Eles contam ainda com a conivência estrutural de plataformas que monetizam a atenção a qualquer custo: não custa lembrar que o próprio X virou alvo de escrutínio na imprensa britânica após revelações de que assinantes pagos do seu chatbot Grok conseguiam gerar imagens de pessoas quase nuas, justamente no momento em que legislações criminais apertavam o cerco contra imagens íntimas não consensuais.

    Para quem constrói e mantém modelos ou plataformas de distribuição, o episódio de Callum Turner passando frio imaginário em Nova York deixa duas lições práticas de arquitetura:

    1. Moderação baseada apenas em nudez explícita é obsoleta: filtros de visão computacional em plataformas sociais precisam cruzar a detecção de edição sintética (via artefatos de inpainting ou comparação com bancos de imagens de agências por hashing perceptual) com políticas de manipulação corporal não consensual, independentemente do gênero do alvo.
    2. Proveniência criptográfica na borda: enquanto padrões como o C2PA não forem exigidos nativamente pelas redes sociais para validar se uma foto de agência saiu direto da câmera do fotógrafo ou passou por uma camada de difusão no caminho, o ônus da prova continuará recaindo sobre a vítima.

    No fim das contas, é um retrato curioso do nosso estágio civilizacional e tecnológico. Empilhamos bilhões de parâmetros, construímos centros de dados refrigerados a líquido e consumimos a energia elétrica de pequenas cidades para que um sujeito anônimo, trancado no quarto, consiga convencer três mil distraídos de que o garoto de Stranger Things perdeu a jaqueta no meio da calçada.⁠​‌​​‌​​‌​‌​​​​​‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌​​‌‌​​​‌​​‌‌‌​​‌​​‌‌‌‌‌​​​‌‌​​​‌​​​‌‌‌​​​​​‌‌​​​​​‌‌​​‌‌​​‌‌​​‌​‌​​‌‌‌​​‌​‌‌​​​‌‌​​‌‌​​‌‌​​‌​‌‌​‌​‌‌​​‌​‌​​‌‌​​‌​​‌‌​​‌​​​​‌‌​‌​‌​​‌​‌‌​‌​​‌‌​‌​​​‌‌​​‌​​​‌‌​​‌​​​​‌‌​‌​​​​‌​‌‌​‌​​‌‌‌​​‌​​‌‌​‌​‌​​‌‌​‌​‌​​‌‌​​​​​​‌​‌‌​‌​‌‌​​​​‌​​‌‌​‌‌‌​​‌‌​‌‌‌​‌‌​​‌​​​‌‌​​​‌​​​‌‌​​‌​​​‌‌​‌​​​​‌‌​‌​‌​‌‌​​‌​​​​‌‌​‌‌​​​‌‌‌​​​​​‌‌​​‌‌⁠

    Filipe Mendes

    Ver perfil completo