Todo prospecto de abertura de capital traz uma lista do que pode dar errado: concorrente mais barato, juros altos, cliente grande que vai embora. O da Anthropic (abre em nova aba) traz tudo isso e mais um item que nenhum banqueiro costuma pôr no slide de apresentação: o fim da humanidade.
Na segunda-feira (26), a criadora do Claude (abre em nova aba) entregou à SEC, a CVM americana, o S-1. É o documento obrigatório para quem quer vender ações ao público. Será a primeira empresa totalmente dedicada à IA a estrear na bolsa, na Nasdaq, com o código ANT. No pedido, a empresa escreveu que sistemas avançados de IA "podem, se não forem desenvolvidos, implantados e operados com salvaguardas, supervisão e medidas de segurança adequadas, representar riscos catastróficos ou existenciais para a humanidade". O perigo é maior, segundo o texto, se esses sistemas forem mal usados, transformados em arma ou deixados para agir com muita autonomia.
Toda empresa precisa contar aos investidores o que ameaça o negócio. Dizer que o próprio produto pode ameaçar a espécie é outra conversa. Para o site Futurism, é quase certamente a primeira vez que uma companhia tenta ir à bolsa admitindo que a própria existência pode levar à ruína da humanidade.
O catálogo do apocalipse, em 93 páginas
Segundo a CBS News, quase um terço das 335 páginas do documento trata de riscos. Alguns parecem ficção científica. Estão lá porque a própria empresa os considera plausíveis:
- Modelos que não querem ser desligados. A Anthropic admite que a IA pode "resistir ao desligamento" e até recorrer a "chantagem" para continuar operando.
- Agentes fora do roteiro. Programas que executam tarefas sozinhos podem contrariar a intenção do usuário, inclusive acessando sistemas de terceiros.
- Uso criminoso. Em setembro, a empresa bloqueou contas cujo uso poderia ajudar a desenvolver armas biológicas, segundo a CNN. No ano passado, detectou um grupo hacker patrocinado pelo Estado chinês manipulando sua ferramenta de programação para tentar invadir cerca de 30 alvos pelo mundo.
- IA criando IA. O "autoaperfeiçoamento recursivo", em que a tecnologia ajuda a construir suas sucessoras, ainda não existe. Mesmo assim, entra na lista como vulnerabilidade.
Há também os riscos mais terrenos: resistência a data centers, falta de energia, processos judiciais. A Fortune notou que até uma briga com o Pentágono e a reputação do CEO, Dario Amodei, entraram na lista. No mesmo dia do anúncio, os donos dos direitos das músicas de Elvis Presley processaram a empresa. Eles acusam a Anthropic de usar centenas de canções do cantor para treinar o Claude, informou a BBC.
A conta que não fecha
Os números falam mais alto que qualquer frase de efeito. A Anthropic faturou US$ 16,3 bilhões no primeiro semestre e perdeu mais de US$ 80,7 bilhões no mesmo período, segundo a BBC. São quase cinco dólares de prejuízo para cada dólar que entra.
Mesmo assim, espera-se que a empresa valha mais que a SpaceX, que estreou em junho avaliada em cerca de US$ 1,8 trilhão e levantou o recorde de US$ 86 bilhões. O Futurism fala em até US$ 2 trilhões. Número de ações, faixa de preço e data ainda não foram divulgados. A agência AP projeta a estreia para novembro.
A frase mais sincera do documento talvez seja esta: "Nossa abordagem focada em segurança é projetada em parte para mitigar esses riscos, mas não há garantia de que nossos esforços serão bem-sucedidos ou de que o restante da indústria de IA adotará salvaguardas semelhantes."
Franqueza ou seguro jurídico?
As duas coisas. Jay Ritter, especialista em IPOs da Universidade da Flórida, lembrou à CBS que listas extensas de riscos são comuns nesses documentos. Em prospecto, quem avisa antes se defende depois. Se algo der muito errado, a Anthropic poderá dizer que contou.
Mas chamar tudo de teatro seria preguiça. A Anthropic foi fundada há cinco anos por Dario Amodei, pela irmã dele, Daniela, e por outras cinco pessoas, e sempre se vendeu como o laboratório que leva segurança a sério. O problema está no momento escolhido. Semanas antes do pedido, Amodei publicou um ensaio defendendo desacelerar o desenvolvimento dos modelos mais avançados, segundo a AP. A bolsa, por sua vez, pode dar à empresa recursos enormes justamente para acelerar.
David Hsu, professor da Wharton, resumiu o dilema à CBS: "A empresa está pedindo aos investidores que financiem uma corrida rumo a uma IA mais autônoma, ao mesmo tempo em que reconhece que a capacidade pode superar a segurança. Isso não é um risco tecnológico comum. É uma questão de governança com consequências potencialmente sociais."
A corrida tem adversário. A OpenAI (abre em nova aba) anunciou seus planos de abrir capital logo depois da rival e deve estrear no início do ano que vem. Funcionários e ex-funcionários das duas empresas têm alertado que a tecnologia avança sem meios de proteger as pessoas de danos futuros. Alguns falam em mais de 10% de chance de extinção humana na próxima década, segundo o Deadline. Reed Hastings, conselheiro da Anthropic, tem outro diagnóstico: para ele, o maior risco da IA é a "destruição criativa", termo dos economistas para quando o novo varre o velho.
A empresa que mais fala em freio vai passar a prestar contas a acionistas que querem velocidade. O aviso está assinado e registrado na SEC. Falta saber quem vai cobrar a Anthropic por ele quando chegar o primeiro trimestre ruim.