El código abierto tiene un problema de contaminación por IA
Por Oleg Sidorkin, CTO de Cinevva
Rémi Verschelde es una de las personas que mantienen Godot en funcionamiento. No como proyecto secundario ni como pasatiempo, sino como el trabajo de toda una vida. Lleva manteniendo el motor desde antes de que la mayoría de la gente hubiera oído hablar de él, revisando contribuciones, fusionando parches y asegurándose de que aquello de lo que dependen millones de desarrolladores funcione de verdad.
El mes pasado describió lo que está ocurriendo con el flujo de contribuciones de Godot como «agotador y desmoralizante».
La causa: solicitudes de incorporación de cambios generadas por IA. Muchas.
«Ahora tenemos que poner en duda casi todas las solicitudes de incorporación de cambios de nuevos colaboradores».
— Rémi Verschelde, vía Game Developer
Godot tiene ahora mismo 4.681 solicitudes de incorporación de cambios abiertas en GitHub. Un porcentaje cada vez mayor de los nuevos envíos procede de personas que escribieron una instrucción, obtuvieron algo de código y lo enviaron sin comprender qué hace. A primera vista, el código suele parecer plausible. Compila. Los nombres de las variables tienen sentido. Entonces, un mantenedor dedica veinte minutos a descubrir que introduce un error sutil, rompe un caso límite o resuelve un problema que no existe.
El tiempo dedicado a rechazar solicitudes deficientes es tiempo que no se dedica a revisar las buenas.
La ironía se escribe sola
Se supone que las herramientas de IA deben aumentar la productividad de los desarrolladores. Esa es la promesa. Por eso las empresas están recaudando miles de millones para crearlas. Y, a nivel individual, lo consiguen. Uso herramientas de IA todos los días. Toda nuestra plataforma utiliza IA para la creación de juegos, la generación de música, los modelos 3D y mucho más. No estoy en contra de la IA.
Pero existe un efecto sistémico del que nadie habla en las presentaciones para inversores. Cuando la IA hace que generar una contribución sea trivialmente fácil y el coste de enviarla cae a cero, pero el coste de revisarla permanece exactamente igual, aparece un problema de contaminación.
Quienes envían estas solicitudes no tienen malas intenciones. La mayoría quiere contribuir de verdad. Les han dicho que las herramientas de IA les permiten colaborar con proyectos de código abierto sin tener conocimientos profundos. Y esas herramientas sí les permiten generar algo que parece una contribución. Pero no lo es.
Verschelde reconoció que usar IA para detectar solicitudes generadas por IA sería «terriblemente irónico». Tiene razón. Combatir los resultados de la IA con detección mediante IA es una carrera armamentística en la que nadie gana.
Lo que esto nos dice en realidad
Crear algo ahora es barato. Crear algo bueno sigue costando lo mismo.
Esa es la lección que estamos viendo en todas partes, no solo en la revisión de código abierto. Aparece en el desarrollo de juegos, la producción musical y la creación de contenidos. La IA rebajó el umbral mínimo. La contribución mínima viable, el juego mínimo viable y la publicación de blog mínima viable ahora pueden generarse en segundos. Pero el techo no se movió.
Quienes ya dominaban su oficio ahora son más rápidos. La brecha entre «hacer algo» y «hacer algo que merezca el tiempo de alguien» es, en realidad, más amplia que antes, porque el volumen de resultados mediocres se ha disparado mientras que el número de personas capaces de evaluar la calidad no ha cambiado.
Las directrices de contribución de Godot exigen revelar el uso de IA. La gente las ignora. Se podrían endurecer las reglas, pero hacerlas cumplir requiere el mismo tiempo de revisión humana que se intenta ahorrar.
La solución real es aburrida
La principal petición de Verschelde es financiación. Contratar a más mantenedores. Más personas que revisen el trabajo. No es una solución técnica, sino organizativa. Y probablemente sea la única que funciona.
Los proyectos de código abierto están aprendiendo la misma lección que el resto de nosotros: la IA no elimina la necesidad del criterio humano. La aumenta. Cuanto más contenido generado por IA entra en cualquier sistema, más personas se necesitan que sepan distinguir entre algo que parece correcto y algo que realmente lo es.
Pensamos constantemente en esto al crear las herramientas de Cinevva. El objetivo nunca fue eliminar el criterio humano de la creación de juegos, sino permitir que las personas creativas centren su criterio en lo que importa: ¿se siente bien?, ¿funciona?, ¿alguien disfrutaría de esto? El trabajo pesado queda resuelto. El gusto no se automatiza.
Godot encontrará la manera de resolverlo. El motor es demasiado importante y la comunidad demasiado fuerte como para que no lo haga. Pero el patrón al que se enfrentan no va a desaparecer. Todos los proyectos de código abierto, todas las plataformas creativas y todos los sistemas que aceptan contribuciones del público tendrán que afrontar la misma pregunta: ¿cómo se gestiona un mundo en el que producir algo es casi gratis, pero evaluarlo no?
Relacionado:
- Herramientas agénticas de IA para código — uso responsable de las herramientas de IA para programación
- Modelos generativos de IA de vanguardia y código abierto — los modelos de código abierto que impulsan este cambio
- Controversia sobre la IA, confianza y economía pos-IA — la cuestión más amplia de la confianza en torno a la IA en el trabajo creativo
- Comparativa de motores de juegos web — Godot y otros motores afectados por esta tendencia