IA supercooperativa: como projetar agentes que escalam o trabalho em equipe

Modelos de inteligência artificial já superam especialistas humanos em avaliações individuais, mas esse ganho isolado raramente se traduz em automação organizacional de ponta a ponta. No estudo Organizing Intelligence (abre em nova aba), pesquisadores do DeepMind Institute (abre em nova aba) demonstram que o impacto estrutural da tecnologia depende de separar duas variáveis distintas: a competência de tarefa (task competence, que define a produtividade bruta na execução de uma atividade específica) e a coordenação (coordination, que governa como essa produtividade escala conforme o tamanho da equipe ou do sistema aumenta).⁠​‌​​‌​​‌​‌​​​​​‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌​​‌‌​​​‌​​‌‌‌​​‌​​‌‌‌‌‌​​​‌‌​​‌​​​‌‌​​‌​​​​‌‌​‌‌​​​‌‌​​‌​​​‌‌​​​​​‌‌​​​​‌​‌‌​​‌​​​​‌‌​​​‌​​‌​‌‌​‌​‌‌​​​‌​​‌‌​​‌​‌​‌‌​​‌​​​​‌‌‌​​​​​‌​‌‌​‌​​‌‌​‌​​​‌‌​​‌​​​​‌‌​​‌​​​‌‌​​​‌​​‌​‌‌​‌​​‌‌‌​​‌​​‌‌​​​​​​‌‌‌​​‌​‌‌​​​‌​​​‌​‌‌​‌​‌‌​​​​‌​​‌‌​‌‌​​​‌‌‌​​‌​​‌‌‌​​‌​​‌‌‌​​​​‌‌​​‌​‌​​‌‌​​​‌​​‌‌​​‌‌​‌‌​​‌​‌​​‌‌​‌‌​​​‌‌​​‌​​​‌‌​​‌‌⁠

Existem duas interpretações principais na engenharia de sistemas sobre como resolver gargalos complexos de produção. A primeira aposta na força bruta do modelo isolado: treinar redes maiores até atingir o regime que o estudo chama de IA supercompetente (supercompetent AI), no qual a máquina supera o melhor especialista humano em cada domínio produtivo individual, exceto na capacidade de se coordenar. A segunda interpretação sustenta que o salto real exige cruzar um limiar crítico de articulação coletiva, criando a chamada IA supercooperativa (supercooperative AI).

A modelagem econômica e computacional favorece a segunda abordagem. Mesmo quando um modelo é mais capaz do que a média das pessoas, equipes humanas formadas por perfis complementares conseguem superá-lo por meio da inteligência em mosaico (mosaic intelligence, a combinação coordenada de habilidades distintas em uma organização). Escalar a competência individual ajuda bastante no desempenho de tarefas fechadas, claro, mas não resolve sozinho o atrito de colocar múltiplos agentes para dividir responsabilidades sem perda de rendimento.

Onde os modelos atuais falham ao trabalhar em grupo

No trabalho diário de quem desenvolve aplicações com grandes modelos de linguagem (LLMs, na sigla em inglês), a limitação aparece na própria interface. Assistentes de IA costumam ser projetados como ferramentas privadas para um único usuário, ao passo que o trabalho de engenharia e negócios acontece em conversas compartilhadas, cheias de dependências e decisões simultâneas.

Para investigar esse abismo, o projeto Kordi (abre em nova aba), desenvolvido no Stanford Digital Economy Lab, testou a inserção de agentes diretamente em ambientes colaborativos. Na arquitetura do Kordi, pessoas e agentes pessoais dividem o mesmo espaço de diálogo por meio de primitivas sociais conhecidas (contas, contatos, grupos, estado de mensagens não lidas e histórico sincronizado), sustentados por uma interface de programação de aplicações (API) hospedada e um executor de agentes (agent runner) contínuo.

Dessa bateria de testes com modelos de fronteira emergiram três gargalos sistemáticos que impedem a cooperação fluida hoje:

1. Instabilidade de priorização: quando diferentes usuários em um mesmo grupo apresentam objetivos conflitantes, os modelos falham com frequência em manter uma ordem de prioridade estável ao longo da execução.
2. Degradação de privacidade multiturno: conforme a interação se estende por múltiplos turnos de conversa entre vários participantes e agentes, cresce a taxa de vazamento de informações que deveriam permanecer restritas ao escopo de um único usuário.
3. Gargalos de eficiência na coleta iterativa: quando a coordenação exige buscar informações aos poucos com diferentes membros do grupo antes de tomar uma decisão, o custo computacional e a latência degradam o fluxo de trabalho.

Essas falhas práticas têm raízes matemáticas mais profundas. Mais adiante veremos como até agentes programados com objetivos idênticos podem sabotar um resultado conjunto por falta de seleção de equilíbrio.

Da utilidade compartilhada aos jogos de habilidades coalicionais

A busca por máquinas capazes de atuar em conjunto mudou de premissa ao longo do tempo. Nas primeiras décadas da literatura de IA distribuída, conforme aponta o relatório Artificial Intelligence & Cooperation (abre em nova aba), da Computing Research Association (CRA), os estudos concentravam-se em sistemas fechados nos quais todos os agentes compartilhavam exatamente a mesma função de utilidade (utility function, a regra matemática que define o que o agente tenta otimizar).

Em dezembro de 2020, durante o workshop Cooperative AI (abre em nova aba) na conferência NeurIPS, pesquisadores como Allan Dafoe, Dario Amodei, Vincent Conitzer e Gillian Hadfield propuseram reorganizar a área. Em ambientes abertos, agentes de diferentes fornecedores e usuários humanos operam como agentes autointeressados ou com preferências parcialmente distintas. A cooperação deixa de ser um simples problema de otimização centralizada e passa a exigir quatro capacidades técnicas: entendimento de outros agentes, comunicação, construção de compromissos verificáveis e infraestrutura normativa.

Mais recentemente, em abril de 2025, a pesquisadora Kalesha Bullard apresentou na organização FAR.AI (abre em nova aba) um formalismo matemático específico para estruturar equipes heterogêneas: os jogos de habilidades coalicionais (coalitional skill games, um ramo da teoria dos jogos cooperativos focado em particionar agentes em coletivos eficazes).⁠​‌​​‌​​‌​‌​​​​​‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌​​‌‌​​​‌​​‌‌‌​​‌​​‌‌‌‌‌​​​‌‌​​‌​​​‌‌​​‌​​​​‌‌​‌‌​​​‌‌​​‌​​​‌‌​​​​​‌‌​​​​‌​‌‌​​‌​​​​‌‌​​​‌​​‌​‌‌​‌​‌‌​​​‌​​‌‌​​‌​‌​‌‌​​‌​​​​‌‌‌​​​​​‌​‌‌​‌​​‌‌​‌​​​‌‌​​‌​​​​‌‌​​‌​​​‌‌​​​‌​​‌​‌‌​‌​​‌‌‌​​‌​​‌‌​​​​​​‌‌‌​​‌​‌‌​​​‌​​​‌​‌‌​‌​‌‌​​​​‌​​‌‌​‌‌​​​‌‌‌​​‌​​‌‌‌​​‌​​‌‌‌​​​​‌‌​​‌​‌​​‌‌​​​‌​​‌‌​​‌‌​‌‌​​‌​‌​​‌‌​‌‌​​​‌‌​​‌​​​‌‌​​‌‌⁠

"Como podemos alinhar esse coletivo altamente capaz em termos de valores e resultados quando os agentes têm diferentes habilidades ou capacidades individuais?"

Na formulação exposta por Bullard, o problema de engenharia é decomposto em três elementos formais:

• **Jogadores (players):** o conjunto de agentes disponíveis no sistema.
• **Habilidades (skills):** o conjunto total de competências técnicas (como escrita de código, auditoria de segurança, consulta a banco de dados ou síntese financeira), sendo que cada jogador possui apenas um subconjunto dessas habilidades.
• **Tarefas (tasks):** demandas complexas que possuem um requisito estrito de habilidades; uma coalizão de agentes só consegue executar a tarefa se a união das habilidades dos seus membros cobrir todo o requisito exigido.

Para o desenvolvedor, modelar uma arquitetura multiagente como um jogo de habilidades coalicionais evita o erro comum de instanciar múltiplos agentes generalistas idênticos que apenas conversam entre si sem complementaridade real.

Por que alinhar agentes individualmente não basta

Pode parecer intuitivo supor que, se alinharmos cuidadosamente cada agente individual aos objetivos da nossa aplicação, o grupo funcionará em harmonia. No artigo Foundations of Cooperative AI (abre em nova aba), publicado na conferência AAAI, os autores provam o contrário: mesmo quando cada agente individual está quase perfeitamente alinhado com um objetivo comum, fenômenos clássicos da teoria dos jogos continuam ocorrendo na implantação.

O primeiro obstáculo é o problema de seleção de equilíbrio (equilibrium selection problem). Em jogos repetidos (interações contínuas de longo prazo), o chamado teorema popular (folk theorem) demonstra que existe uma multiplicidade imensa de equilíbrios possíveis. Se dois agentes autônomos tentam cooperar, mas cada um adota uma estratégia de coordenação ligeiramente diferente, o resultado conjunto pode ser desastroso, como dois carros autônomos que desviam para o mesmo lado tentando evitar uma colisão. A sustentação da cooperação em interações repetidas também depende do fator de desconto (discount factor, o peso que o agente atribui a recompensas futuras em relação ao ganho imediato): quanto menor o fator de desconto nos algoritmos de aprendizado por reforço, menor a estabilidade da cooperação.

Software traz ainda uma peculiaridade inexistente em equipes humanas: a reprodutibilidade instantânea. Podemos copiar o código de um mesmo agente e instanciá-lo múltiplas vezes em processos paralelos, muitas vezes sem que cada instância saiba onde ou quando está sendo executada. Isso abre espaço para novos protocolos de coordenação baseados em simetria algorítmica (como programar agentes que reconhecem e cooperam em cenários equivalentes ao Dilema dos Prisioneiros quando interagem com uma cópia exata ou verificável de si mesmos), mas exige infraestrutura externa para quando os agentes possuem arquiteturas distintas.

Como implementar princípios de cooperação na sua arquitetura

Lá na ponta, quando o engenheiro de software precisa transformar esses conceitos em código para sistemas multiagentes, a recomendação central da literatura de IA Cooperativa é não depender apenas da reciprocidade espontânea do modelo no prompt. Como resume a documentação do workshop do NeurIPS, a cooperação é um fenômeno de grupo e requer infraestrutura de grupo para se manter.

Para mitigar os gargalos identificados por Stanford no projeto Kordi e aplicar as bases de jogos coalicionais e desenho de mecanismos, utilize a lista de verificação arquitetural abaixo ao projetar seus fluxos de trabalho:

Limites operacionais e riscos de conluio

Construir agentes com capacidade de coordenação acima do limiar humano traz restrições técnicas e econômicas que precisam entrar na conta de qualquer projeto. O estudo Organizing Intelligence aponta que organizações humanas sofrem com retornos decrescentes de escala devido a custos de comunicação e assimetria de informação; embora agentes de IA possam contornar parte desses limites e até formar organizações autônomas (standalone organizations), os testes empíricos atuais mostram que a coleta iterativa de informações entre LLMs ainda gera gargalos severos de eficiência e consumo de computação.

Existe também um limite de segurança explícito documentado na literatura fundacional da AAAI: nem sempre desejamos que agentes de IA sejam cooperativos. Em sistemas de precificação automatizada, leilões de anúncios ou auditoria cruzada de código (onde um agente revisa as vulnerabilidades do código gerado por outro), a cooperação excessiva entre máquinas pode se converter em conluio silencioso contra os interesses do usuário humano ou do mercado.

Se a próxima fronteira de produtividade no desenvolvimento de software depende menos de trocar um modelo por outro ligeiramente superior em testes individuais e mais de construir a infraestrutura normativa que organiza o trabalho coletivo das máquinas, como a arquitetura atual do seu sistema separa os momentos em que seus agentes devem cooperar daqueles em que precisam fiscalizar uns aos outros?⁠​‌​​‌​​‌​‌​​​​​‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌​​‌‌​​​‌​​‌‌‌​​‌​​‌‌‌‌‌​​​‌‌​​‌​​​‌‌​​‌​​​​‌‌​‌‌​​​‌‌​​‌​​​‌‌​​​​​‌‌​​​​‌​‌‌​​‌​​​​‌‌​​​‌​​‌​‌‌​‌​‌‌​​​‌​​‌‌​​‌​‌​‌‌​​‌​​​​‌‌‌​​​​​‌​‌‌​‌​​‌‌​‌​​​‌‌​​‌​​​​‌‌​​‌​​​‌‌​​​‌​​‌​‌‌​‌​​‌‌‌​​‌​​‌‌​​​​​​‌‌‌​​‌​‌‌​​​‌​​​‌​‌‌​‌​‌‌​​​​‌​​‌‌​‌‌​​​‌‌‌​​‌​​‌‌‌​​‌​​‌‌‌​​​​‌‌​​‌​‌​​‌‌​​​‌​​‌‌​​‌‌​‌‌​​‌​‌​​‌‌​‌‌​​​‌‌​​‌​​​‌‌​​‌‌⁠