L’open source a un problème de pollution par l’IA
Par Oleg Sidorkin, directeur technique de Cinevva
Rémi Verschelde est l’une des personnes qui assurent le bon fonctionnement de Godot. Ce n’est ni un projet secondaire ni un passe-temps. C’est l’œuvre de sa vie. Il maintient le moteur depuis une époque où la plupart des gens n’en avaient jamais entendu parler, examinant les contributions, fusionnant les correctifs et veillant à ce que l’outil dont dépendent des millions de développeurs fonctionne réellement.
Le mois dernier, il a décrit la situation actuelle du processus de contribution de Godot comme « épuisante et démoralisante ».
La cause : les demandes de fusion générées par l’IA. Beaucoup de demandes.
« Nous devons désormais nous méfier de presque chaque demande de fusion provenant de nouveaux contributeurs. »
— Rémi Verschelde, via Game Developer
Godot compte actuellement 4 681 demandes de fusion ouvertes sur GitHub. Une part croissante des nouvelles soumissions provient de personnes qui ont saisi une consigne, obtenu du code et l’ont envoyé sans comprendre ce qu’il fait. À première vue, le code paraît souvent plausible. Il se compile. Les noms de variables sont cohérents. Puis un mainteneur passe vingt minutes à découvrir qu’il introduit un bug subtil, casse un cas limite ou résout un problème qui n’existe pas.
Le temps passé à rejeter de mauvaises demandes de fusion n’est pas consacré à examiner les bonnes.
L’ironie s’écrit toute seule
Les outils d’IA sont censés rendre les développeurs plus productifs. C’est la promesse. C’est pour cela que des entreprises lèvent des milliards afin de les concevoir. Et à l’échelle individuelle, ils y parviennent. J’utilise des outils d’IA tous les jours. Toute notre plateforme utilise l’IA pour la création de jeux, la génération musicale, les modèles 3D et bien plus encore. Je ne suis pas opposé à l’IA.
Mais il existe un effet à l’échelle du système dont personne ne parle dans les présentations destinées aux investisseurs. Lorsque l’IA rend la génération d’une contribution extrêmement facile et que le coût de sa soumission tombe à zéro, tandis que celui de son examen reste exactement le même, on obtient un problème de pollution.
Les personnes qui soumettent ces demandes de fusion ne sont pas malveillantes. La plupart souhaitent sincèrement contribuer. On leur a expliqué que les outils d’IA leur permettaient de contribuer à l’open source sans expertise approfondie. Et ces outils leur permettent effectivement de générer quelque chose qui ressemble à une contribution. Mais ce n’en est tout simplement pas une.
Verschelde a reconnu qu’utiliser l’IA pour détecter les demandes de fusion générées par l’IA serait « horriblement ironique ». Il a raison. Combattre les productions de l’IA par la détection automatisée est une course aux armements que personne ne peut gagner.
Ce que cela nous apprend vraiment
Créer quelque chose ne coûte désormais presque rien. Créer quelque chose de bon coûte toujours autant.
C’est la leçon qui se manifeste partout, pas seulement dans l’examen du code open source. On l’observe dans le développement de jeux, la production musicale et la création de contenu. L’IA a abaissé le plancher. La contribution minimale viable, le jeu minimal viable ou l’article de blog minimal viable peuvent désormais être générés en quelques secondes. Mais le plafond n’a pas bougé.
Les personnes qui maîtrisaient déjà leur métier sont maintenant plus rapides. L’écart entre « avoir créé quelque chose » et « avoir créé quelque chose qui mérite le temps de quelqu’un » est en réalité plus grand qu’auparavant, car le volume de productions médiocres a explosé tandis que le nombre de personnes capables d’en évaluer la qualité n’a pas changé.
Les règles de contribution de Godot imposent de déclarer toute assistance par l’IA. Les gens les ignorent. On pourrait durcir les règles, mais leur application exige précisément le même temps d’examen humain que l’on cherche à économiser.
La véritable solution est ennuyeuse
La principale demande de Verschelde concerne le financement. Embaucher davantage de mainteneurs. Davantage d’humains pour examiner le travail. Ce n’est pas une solution technique, mais organisationnelle. Et c’est probablement la seule qui fonctionne.
Les projets open source tirent la même leçon que nous tous : l’IA ne supprime pas la nécessité du jugement humain. Elle l’accroît. Plus le contenu généré par l’IA afflue dans un système, plus il faut de personnes capables de distinguer ce qui paraît juste de ce qui l’est réellement.
Nous y réfléchissons constamment lorsque nous concevons les outils de Cinevva. L’objectif n’a jamais été de supprimer le jugement humain de la création de jeux. Il s’agit de permettre aux personnes créatives de concentrer leur jugement sur ce qui compte : est-ce que cela procure la bonne sensation, est-ce que cela fonctionne, est-ce que quelqu’un y prendrait plaisir ? Les tâches ingrates sont prises en charge. Le goût, lui, ne s’automatise pas.
Godot trouvera une solution. Le moteur est trop important et sa communauté trop forte pour qu’il en soit autrement. Mais le phénomène auquel ils sont confrontés ne va pas disparaître. Chaque projet open source, chaque plateforme créative et chaque système acceptant des contributions du public devra répondre à la même question : comment gérer un monde où produire quelque chose ne coûte presque rien, mais où l’évaluer a toujours un coût ?
À lire également :
- Outils de programmation agentique par IA — utiliser les outils de programmation par IA de manière responsable
- Modèles d’IA générative open source de pointe — les modèles open source à l’origine de cette évolution
- Controverse autour de l’IA, confiance et économie post-IA — la question plus large de la confiance envers l’IA dans le travail créatif
- Comparatif des moteurs de jeux web — Godot et les autres moteurs concernés par cette tendance