A partir de 1º de dezembro, um grupo de presídios masculinos no estado americano de Michigan vai entregar uma parte crítica da sua rotina a um algoritmo. O Departamento de Correções local vai iniciar um teste piloto com o software da Recidiviz (abre em nova aba), uma organização tecnológica sem fins lucrativos sediada em Utah que nasceu como um projeto de organização de dados dentro do Google (abre em nova aba). O objetivo da parceria é prever quais pessoas encarceradas vão cometer atos de violência no futuro e usar esse cálculo para decidir onde cada detento será alojado.
Até agora, definir o nível de periculosidade de um preso em Michigan era tarefa exclusiva de um comitê de funcionários nomeado pelo diretor de cada unidade. Com o novo sistema, o software vai cruzar dados históricos e de desempenho para ajudar a distribuir a população carcerária em cinco níveis de alojamento e segurança. O governo estadual faz questão de frisar que a ferramenta não terá poder sobre concessões de liberdade condicional. Na prática da vida atrás das grades, porém, o endereço da cela define quase tudo: a classificação de alojamento determina a quais programas de reabilitação, recursos e atividades o preso terá direito.
Não é difícil entender por que a administração penitenciária busca uma solução tecnológica com tanta urgência. Entre 2019 e 2024, as agressões contra funcionários nas prisões de Michigan saltaram 77%, enquanto os ataques entre os próprios detentos cresceram 54%. Pressionada por uma crise real de segurança, a diretora do departamento, Heidi Washington, afirmou em comunicado no dia 28 de outubro que o algoritmo deve melhorar em aproximadamente 30% a capacidade do estado de prever riscos de violência futura, substituindo fichas estáticas de condenação por revisões de risco mais rápidas e frequentes.
O problema desse número de 30% é que o estado não explicou como a conta foi feita. No acompanhamento sobre automação no setor público que fazemos no IA.com.br, uma porcentagem tão específica acompanhada de uma metodologia vaga costuma servir de alerta. Prever o comportamento humano em ambientes de altíssimo estresse é uma tarefa delicada, e vestir um placar de risco com o rótulo de inteligência artificial muitas vezes oferece aos gestores um escudo conveniente para terceirizar a responsabilidade quando uma decisão dá errado.
O peso do histórico na matemática
O retrospecto de ferramentas preditivas na justiça dos Estados Unidos acumula motivos para cautela. Um programa semelhante de análise de risco adotado na Louisiana apresentou vieses raciais e socioeconômicos embutidos nas suas avaliações. Quando você alimenta um software com o histórico do sistema prisional, a tendência natural do modelo é aprender as distorções do passado e devolvê-las no presente com aparência de neutralidade matemática.
Há também uma ironia curiosa na trajetória da própria desenvolvedora da tecnologia. A Recidiviz ganhou tração com a promessa de padronizar dados confusos da justiça criminal para identificar presos elegíveis a programas estaduais, reclassificação ou soltura, além de coordenar o acesso a moradia transitória e emprego. Ver essa mesma infraestrutura ser acionada para rotular o grau de perigo de detentos mostra como ferramentas criadas para destravar burocracias podem rapidamente assumir uma função de controle mais dura dependendo de quem opera o sistema.
Tentar reduzir agressões contra agentes e detentos com dados melhores é uma meta compreensível diante da escalada de violência registrada nos últimos anos. Mas trocar o julgamento de comitês humanos por recomendações algorítmicas exige um nível de transparência que o governo de Michigan ainda não demonstrou. Se o estado quiser provar que o seu piloto de dezembro é mais do que um palpite automatizado, precisará abrir a caixa-preta do sistema antes que um erro de cálculo tranque a pessoa errada no lugar mais restrito da prisão.