O código aberto tem um problema de poluição por IA
Por Oleg Sidorkin, CTO da Cinevva
Rémi Verschelde é uma das pessoas que mantêm o Godot funcionando. Não como um projeto paralelo ou hobby, mas como o trabalho de uma vida. Ele mantém a engine desde antes de a maioria das pessoas ter ouvido falar dela, revisando contribuições, integrando patches e garantindo que aquilo de que milhões de desenvolvedores dependem realmente funcione.
No mês passado, ele descreveu o que está acontecendo com o fluxo de contribuições do Godot como algo "exaustivo e desmoralizante".
A causa: pull requests gerados por IA. Muitos deles.
"Agora precisamos desconfiar de quase todo pull request enviado por novos colaboradores."
— Rémi Verschelde, via Game Developer
Neste momento, o Godot tem 4.681 pull requests abertos no GitHub. Uma porcentagem cada vez maior dos novos envios vem de pessoas que digitaram um prompt, receberam algum código e o enviaram sem entender o que ele faz. À primeira vista, o código muitas vezes parece plausível. Ele compila. Os nomes das variáveis fazem sentido. Então, um mantenedor passa vinte minutos descobrindo que ele introduz um bug sutil, quebra um caso extremo ou resolve um problema que não existe.
O tempo gasto rejeitando PRs ruins é tempo que deixa de ser usado para revisar os bons.
A ironia se escreve sozinha
As ferramentas de IA deveriam tornar os desenvolvedores mais produtivos. Essa é a promessa. É por isso que as empresas estão captando bilhões para desenvolvê-las. E, no nível individual, elas realmente fazem isso. Uso ferramentas de IA todos os dias. Toda a nossa plataforma usa IA para criação de jogos, geração de música, modelos 3D e muito mais. Não sou contra a IA.
Mas há um efeito sistêmico sobre o qual ninguém fala nas apresentações para investidores. Quando a IA torna extremamente fácil gerar uma contribuição, o custo de enviá-la cai para zero, mas o custo da revisão permanece exatamente o mesmo, surge um problema de poluição.
As pessoas que enviam esses PRs não têm más intenções. A maioria delas quer genuinamente contribuir. Disseram a elas que as ferramentas de IA permitem contribuir com projetos de código aberto sem conhecimento especializado. E essas ferramentas realmente permitem gerar algo que parece uma contribuição. Só que não é.
Verschelde reconheceu que usar IA para detectar PRs gerados por IA seria "terrivelmente irônico". Ele tem razão. Combater conteúdo produzido por IA com detecção por IA é uma corrida armamentista em que ninguém vence.
O que isso realmente nos revela
Criar algo agora é barato. Criar algo bom ainda custa o mesmo.
Essa é a lição que está aparecendo em toda parte, não apenas na revisão de código aberto. Ela aparece no desenvolvimento de jogos, na produção musical e na criação de conteúdo. A IA rebaixou o patamar mínimo. A contribuição minimamente viável, o jogo minimamente viável e a publicação de blog minimamente viável agora podem ser gerados em segundos. Mas o patamar máximo não mudou.
Quem já dominava seu ofício agora trabalha mais rápido. A distância entre "criar algo" e "criar algo que valha o tempo de alguém" ficou ainda maior, porque o volume de resultados medíocres explodiu, enquanto o número de pessoas capazes de avaliar a qualidade não mudou.
As diretrizes de contribuição do Godot exigem que o uso de IA seja informado. As pessoas as ignoram. Seria possível tornar as regras mais rígidas, mas aplicá-las exige o mesmo tempo de revisão humana que se pretende economizar.
A verdadeira solução é entediante
O principal pedido de Verschelde é financiamento. Contratar mais mantenedores. Mais pessoas revisando o trabalho. Essa não é uma solução técnica. É uma solução organizacional. E provavelmente é a única que funciona.
Os projetos de código aberto estão aprendendo a mesma lição que o restante de nós: a IA não elimina a necessidade de julgamento humano. Ela a aumenta. Quanto mais conteúdo gerado por IA entra em qualquer sistema, maior é a necessidade de pessoas capazes de distinguir entre algo que parece certo e algo que está certo.
Pensamos nisso constantemente ao desenvolver as ferramentas da Cinevva. O objetivo nunca foi eliminar o julgamento humano da criação de jogos. É permitir que pessoas criativas concentrem seu julgamento no que importa: isso parece certo, isso funciona, alguém se divertiria com isso? O trabalho braçal é resolvido. O bom gosto não é automatizado.
O Godot vai encontrar uma solução. A engine é importante demais e a comunidade é forte demais para que isso não aconteça. Mas o padrão com o qual eles estão lidando não vai desaparecer. Todo projeto de código aberto, toda plataforma criativa e todo sistema que aceita contribuições do público terá de enfrentar a mesma pergunta: como lidar com um mundo em que produzir algo é praticamente gratuito, mas avaliá-lo não é?
Conteúdo relacionado:
- Ferramentas de código com IA agêntica — uso responsável de ferramentas de programação com IA
- Modelos de IA generativa de código aberto de ponta — os modelos de código aberto que impulsionam essa mudança
- Controvérsia sobre IA, confiança e a economia pós-IA — a questão mais ampla da confiança na IA aplicada ao trabalho criativo
- Comparação de engines para jogos web — o Godot e outras engines afetadas por essa tendência