Quando uma empresa de inteligência artificial escreve a lei que vai regulá-la, convém ler o texto duas vezes. A primeira leitura mostra o que a lei obriga a empresa a fazer. A segunda mostra o que ela impede o governo de fazer.
A Anthropic (abre em nova aba), uma das maiores empresas de IA do mundo, tem apresentado discretamente a parlamentares em Washington um rascunho de projeto de lei. O alvo são os modelos de fronteira, os sistemas de IA mais poderosos do mercado. O Politico revelou o caso em 16 de outubro, com base em três pessoas que acompanham as conversas. A empresa confirmou. Segundo um porta-voz, o texto reúne as propostas do "Advanced AI Framework" da Anthropic, que ela vem defendendo junto a legisladores federais e estaduais desde junho. "São políticas sensatas sobre as quais acreditamos que o Congresso deveria agir", disse.
O número que define tudo
O número que importa aqui é 50. Pelo rascunho, o governo só poderia bloquear o lançamento ou o uso de um modelo se ele trouxesse um risco "previsível e iminente" de matar ou ferir gravemente mais de 50 pessoas, ou de causar mais de US$ 1 bilhão em danos.
Esse risco também precisa vir de uma de três fontes:
- a criação ou liberação de uma arma biológica;
- um ataque cibernético;
- o próprio modelo escapar do controle de quem o desenvolveu.
Esses limites não foram inventados agora. Segundo o TechCrunch, eles se parecem muito com os da SB 53, lei da Califórnia sancionada no ano passado, que já tratava esses cenários como "risco catastrófico". Na prática, a Anthropic propõe levar para o país inteiro uma régua que já existe num estado.
Como funcionaria o freio
O caminho até a suspensão de um modelo tem etapas bem definidas:
- Avaliação externa. Avaliadores independentes, registrados no Departamento de Comércio dos EUA, examinariam periodicamente a empresa e seus modelos mais avançados.
- Quem paga. Esses avaliadores poderiam ser pagos pela própria empresa avaliada, desde que o pagamento não dependa do resultado da avaliação.
- Prazo para avisar. Se encontrassem um "risco enumerado iminente", teriam 72 horas, contadas a partir do fim da análise, para comunicar o Departamento de Comércio.
- Decisão judicial. O Departamento de Comércio poderia então pedir a um juiz federal do Distrito de Colúmbia que suspendesse o modelo. Só esse juiz poderia dar a ordem.
O detalhe mais revelador vem depois dessas etapas. O texto proíbe expressamente que qualquer outro "departamento, agência ou autoridade" do governo americano suspenda o desenvolvimento, a distribuição ou mesmo o uso interno de um modelo. O governo ganharia um único caminho para frear uma IA perigosa, e esse caminho passa obrigatoriamente por um tribunal.
O que vem junto no pacote
O projeto também cria obrigações para as empresas. Elas teriam de manter planos de segurança, publicar relatórios de transparência, proteger funcionários que denunciem problemas e comunicar incidentes críticos ao Departamento de Comércio. Ao falar com a Reuters, o porta-voz destacou que o texto exige que os desenvolvedores testem seus modelos, sejam transparentes sobre o que encontrarem e passem por avaliação independente. Segundo ele, a proposta dá ao governo a "capacidade de bloquear ou dissuadir lançamentos perigosos dos modelos mais poderosos".
Há ainda uma contrapartida que interessa diretamente às empresas. O projeto passaria por cima de parte das leis estaduais sobre divulgação pública de riscos, avaliação por terceiros e comunicação de incidentes críticos. Para quem vende IA no país inteiro, uma regra federal única é muito mais simples do que várias regras estaduais diferentes. O efeito colateral é que diminui o número de autoridades com poder de cobrar alguma coisa.
O que está em jogo
Uma empresa de IA propor regras para o próprio setor não é, em si, um problema. Uma companhia que pede regulação, com transparência obrigatória e proteção a denunciantes, contribui mais para o debate do que uma que trata qualquer regra como ameaça. A Anthropic merece crédito por colocar uma proposta concreta na mesa.
Mesmo assim, o texto deve ser lido como proposta de uma parte interessada, e três pontos pedem atenção:
- A barra é alta. O risco precisa ser iminente, envolver mais de 50 vítimas ou US$ 1 bilhão e caber numa de três categorias. Muitos danos sérios ficariam de fora.
- O avaliador pode ser pago pelo avaliado. A condição de que o pagamento não dependa do resultado ajuda, mas não resolve a questão por completo.
- Só existe uma forma de parar um modelo. Ela depende do Departamento de Comércio e de um juiz específico, e as demais agências ficam proibidas de agir.
Somados, esses pontos fazem o projeto funcionar ao mesmo tempo como regulação e como proteção para as empresas. Ele dá ao governo um freio e, no mesmo texto, define até onde esse freio pode ir.
Por enquanto, trata-se de um rascunho confidencial. Nenhuma das reportagens indica que algum parlamentar tenha assumido o texto, e o Departamento de Comércio não respondeu à Reuters. Se a proposta avançar, o Congresso terá de decidir se esses limites são o mínimo que se exige das empresas de IA ou o máximo que o governo poderá cobrar delas.