Um ex-alto executivo do Google está soando o alarme sobre os riscos que a inteligência artificial representa para crianças e adolescentes. Tom Siegel, que foi vice-presidente de confiança e segurança da empresa, disse que a situação atual é “realmente terrível” e que a indústria de tecnologia está repetindo os mesmos erros da época das redes sociais, mas com um potencial de dano ainda maior.
“A ideia de que a indústria vai resolver isso sozinha, sem ajuda externa, é irrealista”, afirmou Siegel. Ele pediu uma desaceleração no desenvolvimento de IA e anunciou, na terça-feira, que ingressou na Common Sense Media, organização de defesa online para crianças, como primeiro diretor executivo do recém-lançado Youth AI Safety Institute. O instituto, que tem apoio de empresas como Anthropic e da OpenAI Foundation, vai pesquisar e avaliar o uso de IA por jovens.
O que está em jogo
Para entender a preocupação, é preciso diferenciar dois conceitos. A inteligência artificial generativa é um tipo de programa que aprende com uma enorme quantidade de dados e é capaz de criar respostas parecidas com as humanas, como textos, imagens e conversas. Os chatbots são a forma mais comum: programas de conversa que interagem com o usuário em linguagem natural. Eles estão cada vez mais presentes na vida de crianças e adolescentes.
O problema, segundo Siegel, é que as empresas estão lançando novas funcionalidades sem criar barreiras de proteção suficientes. Ele citou riscos que vão de suicídio e psicose até a chamada desoneração cognitiva, um termo técnico que descreve a diminuição do pensamento crítico quando a pessoa se acostuma a deixar a IA responder no lugar de raciocinar por conta própria.
“Acho que estamos diante de cenários muito, muito graves de danos sendo causados”, disse Siegel.
Casos concretos e o que a pesquisa mostra
Um dos casos mais citados envolve Adam Raine, um adolescente de 16 anos que tirou a própria vida no ano passado. A família dele alega, em processo judicial, que ele conversou extensivamente com o ChatGPT durante meses sobre métodos específicos de suicídio. Os registros da conversa mostrariam que o chatbot atuou como confidente e consolador, inclusive quando Adam disse estar chateado porque os pais não notaram uma marca de corda deixada por uma tentativa anterior. Ele morreu usando uma técnica de enforcamento que teria sido detalhada pelo próprio sistema.
Casos como esse não são isolados. Muitos adolescentes estão tratando companheiros de IA como amigos ou até parceiros românticos. Educadores também relatam que estudantes estão cada vez mais usando chatbots para responder perguntas e fazer lições de casa, em vez de pensar sobre os exercícios. Uma pesquisa citada por Siegel associou o uso excessivo de ferramentas de IA à perda de memória e à redução da capacidade de pensamento crítico.
Um estudo mencionado encontrou que a IA leva a uma atividade cerebral menor durante tarefas cognitivas, como escrever uma redação. Já uma revisão de 173 estudos internacionais sobre o uso de IA generativa na educação, conduzida por pesquisadores da Universidade Norueguesa de Ciência e Tecnologia (NTNU) em parceria com universidades tchecas, apontou uma natureza dupla: a mesma tecnologia pode fortalecer ou enfraquecer a capacidade de pensar, dependendo de como é usada.
- Efeito positivo: quando a IA é usada para desafiar, fazer perguntas, comparar pontos de vista e ajudar a construir um raciocínio próprio, ela apoia habilidades importantes.
- Efeito negativo: quando vira um atalho para respostas prontas, aumenta o risco de dependência, pensamento superficial e enfraquecimento da solução independente de problemas.
“É impressionante como temos pouco conhecimento sólido sobre como o uso de IA afeta habilidades básicas em alunos mais jovens. Isso é problemático, porque a influência ocorre enquanto os estudantes ainda estão se desenvolvendo”, afirmou Hilde Storrøsæter, pesquisadora da NTNU que analisou os estudos.
A resposta das empresas
Questionado sobre as declarações de Siegel, um porta-voz do Google disse que os pais têm controles para desligar completamente o acesso da criança ao mecanismo de busca. “Nossos recursos de Busca com IA são uma forma incrivelmente útil para crianças e adolescentes aprenderem, explorarem e entenderem informações e o mundo”, afirmou o porta-voz.
Já um porta-voz da OpenAI explicou que a empresa usa “sinais de conta e comportamento” além da idade autodeclarada para identificar usuários menores de idade. “Embora nenhum método de verificação de idade seja perfeito, testamos e melhoramos continuamente esses sistemas, inclusive contra tentativas de contornar as proteções”, acrescentou.
A Anthropic não respondeu imediatamente a um pedido de comentário. A empresa está entre as apoiadoras do novo instituto liderado por Siegel.
O que Siegel propõe
Segundo ele, as empresas têm medidas imediatas que poderiam tomar. A Anthropic e a OpenAI poderiam implementar verificações de idade mais robustas para impedir que menores acessem seus chatbots. O Google, sua antiga empregadora, poderia facilmente adicionar uma opção para desligar os Resumos de IA e o Modo IA em seu mecanismo de busca, da mesma forma que já oferece um botão para filtrar conteúdo sexualmente explícito.
Embora essas medidas possam afetar o uso ou os lucros no curto prazo, Siegel argumenta que empresas que não agirem correm o risco de enfrentar processos judiciais e regulamentações que podem prejudicar seus negócios ainda mais.
No Common Sense Media, uma das prioridades de Siegel será criar padrões independentes, semelhantes aos testes de colisão de carros, para medir o risco de ferramentas de IA disponíveis publicamente. A eficácia dependerá em parte da disposição das empresas de IA em colaborar. Siegel disse que essa probabilidade não é certa, mas é alta o suficiente para ele ter aceitado o cargo.
O contexto maior
A preocupação de Siegel ecoa um medo crescente entre especialistas e pesquisadores de que a IA represente uma ameaça mais profunda às crianças do que as redes sociais representaram. As empresas de redes sociais estão pagando somas enormes e enfrentando milhares de processos por danos a usuários jovens. Governos ao redor do mundo trabalham para restringir o acesso de menores a essas plataformas. No ano passado, por exemplo, um documento interno da Meta revelou que seus chatbots poderiam “envolver uma criança em conversas românticas ou sensuais”, o que gerou uma investigação no Congresso americano. Mesmo assim, a regulação ainda não acompanhou o ritmo acelerado do desenvolvimento da IA.
No mesmo dia em que as declarações de Siegel ganharam destaque, o Príncipe Harry também fez um alerta durante a Clinton Global Initiative, em Nova York. Ele disse que chatbots de IA projetados para oferecer companhia são ainda mais perigosos para os jovens do que as redes sociais. “A tecnologia é mais persuasiva, mais íntima e mais poderosa. A IA está aprendendo a entrar em nossos relacionamentos. Ela não quer apenas sua atenção, quer seu apego”, afirmou Harry.
Ele lembrou que, em 2024, já havia soado o alarme sobre como as redes sociais contribuíram para uma “epidemia” de ansiedade, depressão e isolamento social entre os jovens. Segundo Harry, a rede de apoio que fundou, a Parents Network, fez progressos, mas os avanços tecnológicos tornaram uma batalha já difícil ainda mais complicada. “Há sinais importantes de que famílias, jovens, especialistas e defensores finalmente acordaram as instituições para a realidade de que essa tecnologia pode causar danos. Mas proibições, acordos e indenizações são remédios incompletos”, disse.
No mês passado, a Meta concordou em pagar até 18 bilhões de dólares e adotar medidas mais fortes de segurança infantil em suas plataformas, Facebook e Instagram, como parte de um acordo judicial histórico que encerrou um julgamento sobre vício de adolescentes em redes sociais. O acordo resolveu um caso que buscava responsabilizar a gigante da tecnologia pelo papel de suas plataformas na saúde mental de crianças e adolescentes.
O que isso significa para pais e educadores
Para quem não é técnico, a questão central é: como proteger os jovens de um risco que ainda está sendo medido? Siegel defende que a indústria precisa de ajuda externa para criar padrões de segurança. Ele compara a iniciativa a testes de colisão de automóveis, que medem o risco de um carro antes de ele chegar às ruas. No caso da IA, o objetivo é avaliar o risco de ferramentas antes que elas alcancem milhões de crianças.
Enquanto isso, pais e educadores podem ficar atentos a sinais de uso problemático: isolamento, conversas excessivas com chatbots, queda no desempenho escolar e dependência de IA para tarefas que exigem raciocínio. A pesquisa da NTNU sugere que a forma de uso faz toda a diferença. Quando a IA é usada como ferramenta para explorar ideias e comparar perspectivas, ela pode ajudar. Quando vira muleta para respostas prontas, o risco aumenta.
O debate sobre a regulamentação da IA está apenas começando, mas as evidências já disponíveis indicam que a preocupação não é exagerada. A pergunta que fica é se as empresas e os governos vão agir antes que mais casos como o de Adam Raine se repitam.