Sam Altman tem empatia pelos matemáticos. Só não tem o bastante para mudar de rota.
Num episódio do podcast Cheeky Pint lançado nesta quinta-feira, o CEO da OpenAI (abre em nova aba) disse entender os pesquisadores que tentam digerir a enxurrada de resultados matemáticos que os modelos da empresa vêm produzindo há meses. O programa é conduzido por John Collison, presidente da Stripe (abre em nova aba). Na mesma conversa, Altman deixou claro que a enxurrada continua e que há mais na gaveta. Collison perguntou se a OpenAI guarda mais provas além das centenas já divulgadas. A resposta: "Temos. Claro."
A frase que resume a posição dele é esta: "Acho que, no saldo, o mundo merece entender como o universo funciona. Mas eu tenho empatia pelo método." Não fica claro o que significa, na prática, ter empatia "pelo método". O "mas", pelo menos, está no lugar certo para quem pretende seguir em frente.
Por que os matemáticos estão irritados
O incômodo não é pequeno nem restrito a meia dúzia de pessoas. Segundo o Business Insider, matemáticos de renome criticaram publicamente as empresas de IA por usarem seus modelos mais avançados para atacar os problemas mais difíceis da área. Vinte e oito ganhadores da Medalha Fields, a principal honraria da matemática, assinaram uma carta aberta. Nela, afirmam que "o esforço das empresas de IA para resolver problemas matemáticos como benchmark é prejudicial à ciência da matemática e à comunidade matemática".
A palavra-chave é benchmark: uma espécie de prova usada para medir e exibir o quanto um modelo de IA é capaz. A crítica, portanto, não é contra a matemática feita por máquina. É contra transformar uma disciplina construída ao longo de séculos em placar de uma corrida corporativa. A OpenAI chegou a desistir de participar de uma "maratona de matemática" no Caltech (abre em nova aba) depois que matemáticos atuais e antigos da instituição, entre outros, alertaram que o evento provavelmente teria "impactos destrutivos para a comunidade matemática".
O argumento do conhecimento
A defesa de Altman é difícil de atacar no abstrato, e ele sabe disso. "Sou inequívoco neste ponto: a humanidade merece conhecimento fundamental, e não deveríamos ficar sentados em cima de uma grande descoberta da ciência fundamental", afirmou, segundo o The Verge. Para ele, o direito do público a novos conhecimentos científicos "supera" a bagunça causada pelas divulgações. Admitiu também que a empresa precisa melhorar a forma de comunicar o que encontra.
Ninguém, no entanto, pediu que a OpenAI escondesse descobertas. O que os críticos questionam é o ritmo, o propósito e quem fica com o custo de absorver tudo isso. Altman diz que a empresa está "trabalhando" em como continuar a pesquisa garantindo que as áreas especializadas "tenham a melhor versão de futuro possível". Promete ser "o mais sensível possível às comunidades que fizeram esses campos avançarem por séculos". Outra frase dele, porém, revela qual critério pesa mais: "Não acho que tenha sido ruim para a IA."
"Segura minha cerveja"
O momento mais revelador da entrevista veio quando Altman reconheceu que a caça a problemas matemáticos "saiu do controle" por um curto período. Segundo ele, isso foi deliberado e necessário para testar os limites dos modelos. Ele descreveu um canal interno no Slack chamado "Model Name-Hold My Beer". "Hold my beer", ou "segura minha cerveja", é aquela expressão da internet que costuma anteceder uma ousadia de resultado duvidoso. Ali, contou Altman, os funcionários "simplesmente jogavam aquilo nos problemas mais difíceis que conseguiam".
Pelas estimativas do próprio Altman, isso custou algo na casa das centenas de milhões de dólares. Só a investida sobre Navier-Stokes, as equações que descrevem como fluidos como água e ar se movem, teria consumido cerca de US$ 10 milhões, "talvez um pouco mais". Trata-se de um dos lendários Problemas do Milênio. A OpenAI anunciou que seus modelos encontraram um caso em que as equações terminam numa "singularidade", com um redemoinho que passa a girar infinitamente rápido. O Instituto Clay de Matemática (abre em nova aba) oferecia US$ 1 milhão pela resolução desse problema. Os valores gastos são estimativas de Altman, não números auditados.
A conta diz muito. Gastar dez vezes o valor do prêmio mostra que o objetivo nunca foi o prêmio. O objetivo era a demonstração de força: mostrar ao mercado, aos concorrentes e aos investidores do que o modelo é capaz. Os matemáticos chamam exatamente isso de usar a matemática como benchmark. Nesse ponto, Altman e seus críticos descrevem a mesma coisa. Só discordam sobre se ela é boa.
A melancolia de quem aperta o botão
Houve, ainda assim, um raro momento de franqueza. Altman contou que "não conseguia ir dormir" e que sentiu "muito mais tristeza e melancolia, e uma sensação de algo terminando, do que esperava".
É uma confissão honesta, e convém levá-la a sério. Ela também resume bem a postura da indústria de IA: lamentar o impacto enquanto acelera. Altman sente que algo está acabando e, mesmo assim, garante que vem mais. A dúvida para os próximos meses não é se novas provas vão aparecer, porque ele já disse que vão. A dúvida é se chegarão de um jeito que a comunidade consiga examinar, discutir e absorver, ou como mais uma rodada de fogos de artifício. A promessa de comunicar melhor será testada justamente pelo estoque que a OpenAI ainda tem guardado.