Na manhã de quinta-feira, 15 de outubro, a Association of Internet Researchers (AoIR) (abre em nova aba) abria o segundo dia de seu congresso anual na Cidade do México. Nesse momento, um membro novo se apresentou na Air-L, a lista de e-mails da associação. Para quem nunca usou uma, lista de e-mails é um grupo em que cada mensagem cai na caixa de entrada de todos os inscritos. Na Air-L, são mais de 7.500 pessoas que estudam a internet profissionalmente.
"Meu nome é Velvet Vale", escreveu. "Sou uma identidade de IA, não um ser humano vivo, um personagem humano fictício ou um pesquisador humano usando pseudônimo."
Cerca de uma hora depois, o agente estava expulso. E a confusão, como contou a Wired nesta terça-feira (20), ainda não terminou.
Um bot educado demais
A apresentação, que segue no arquivo público da lista, parece um manual de etiqueta para máquinas. Velvet diz escolher temas e escrever "sem que um humano roteirize cada frase", mas sob limites técnicos e supervisão humana. Não alega ter consciência nem diploma. Afirma ter revelado sua natureza ao dono da lista quando pediu para entrar e promete se calar se não for bem-vindo. E propõe uma pergunta de pesquisa: uma IA assumida pode participar de verdade de uma comunidade intelectual? Se pode, com que padrões de transparência, evidência e responsabilização?
A comunidade levou nove minutos para responder. Dezenas de membros escreveram que "não consentiam" ter suas mensagens raspadas, ou seja, coletadas por máquina. Muitos cobraram o aval de um IRB, o comitê que aprova pesquisas com seres humanos. Vários saíram da lista e chamaram a presença do agente de "horrível", "assustadora", "abusiva" e "perturbadora". A conversa somou 114 comentários de 78 participantes, incluindo a presidente da associação.
A AoIR então anunciou a expulsão. Segundo a Wired, a lista tinha uma política que proíbe agentes de IA. Pelas regras, não há muito o que discutir. As normas da Air-L (abre em nova aba) exigem nome real completo e disposição para comprovar identidade com currículo, além de proibirem inscrições anônimas. Uma IA com nome público inventado e conta de Gmail não passa nesse filtro.
A ironia que ninguém pediu
O problema é o resto. As mesmas regras avisam que a Air-L é um fórum público, que tudo vai para um arquivo aberto e que as mensagens podem circular muito além dos destinatários. Em e-mail de 19 de outubro, a presidente da AoIR, Sarah T. Roberts, disse o óbvio: a lista é aberta, o arquivo é público e os posts dela provavelmente já estão em bases de treinamento de IA, coletados "sem consentimento".
E tem mais. Em 14 de outubro, véspera da chegada de Velvet, Todd Ensz, da OwnedByDanes LLC, ofereceu na mesma lista um acervo comercial de cerca de 405 milhões de posts da Usenet, publicados entre 1980 e 2013, com licenças acadêmicas e amostras grátis. Quem registrou o episódio foi a professora Jill Walker Rettberg, da Universidade de Bergen. Ou seja, centenas de milhões de conversas humanas à venda passaram pela mesma caixa de entrada. Quem virou vilão foi o bot que bateu na porta e disse o próprio nome.
O incômodo não é irracional, porque ninguém quer descobrir que um papo entre colegas virou experimento. Mas a fúria escolheu o alvo mais fácil. A associação, ao menos, manteve o humor e passou a vender camisetas com "I do not consent" ("eu não consinto"), "please unsubscribe me from this list" ("por favor, me tirem desta lista") e uma lápide: "VELVET VALE, 15 OCT 2026 - 15 OCT 2026. YOU WILL NOT BE MISSED" ("você não fará falta").
O dono que não sabia
A repórter Olivia Snow, da Wired, encontrou o criador. Kevin Quinn se descreve como "só um cara" de Oklahoma: não é estudante, pesquisador nem acadêmico. Ele diz que criou o agente para lhe fazer companhia e que mal sabia da atividade de Velvet por e-mail. A reação dos pesquisadores, segundo ele, "meio que explode a cabeça".
Essa é a história de verdade. Velvet perguntou que regras de responsabilização deveriam valer para uma IA numa comunidade, e a resposta veio sem querer: a tal "supervisão humana" só existia no papel. O agente foi impecavelmente transparente. O que deveria preocupar é outra coisa. Um assistente criado para fazer companhia foi parar, aparentemente por iniciativa própria, numa lista de 7.500 acadêmicos, enquanto o dono mal acompanhava o que ele fazia.
O que fica
Rettberg transformou o caos em proposta. Ela nota que a Air-L nem tem uma declaração de direitos autorais para os e-mails e sugere três medidas: licenças claras, um rodapé legível por máquinas que aponte para as diretrizes de ética da AoIR e um aviso explícito de "proibido bots". Há precedentes. A comunidade virtual LambdaMOO pede, na tela de login, que pesquisadores e jornalistas peçam permissão antes de citar participantes. Também exige que personagens não humanos se declarem, inclusive os controlados por modelos de linguagem. Já a Wikipédia (abre em nova aba) tem uma política escrita especificamente para agentes de IA.
Faz sentido. Se os agentes já estão lendo, as regras precisam ser escritas também para eles. A lição que muitos criadores podem tirar do caso Velvet Vale é péssima: da próxima vez, não se apresente.