Open Source hat ein KI-Verschmutzungsproblem
Von Oleg Sidorkin, CTO von Cinevva
Rémi Verschelde ist einer der Menschen, die Godot am Laufen halten. Nicht als Nebenprojekt oder Hobby. Sondern als Lebenswerk. Er arbeitet schon an der Engine, seit die meisten Menschen noch nie von ihr gehört hatten: Er prüft Beiträge, führt Patches zusammen und stellt sicher, dass das System, auf das Millionen von Entwicklern angewiesen sind, tatsächlich funktioniert.
Letzten Monat bezeichnete er die aktuelle Situation in Godots Beitrags-Pipeline als „auslaugend und demoralisierend“.
Die Ursache: KI-generierte Pull Requests. Jede Menge davon.
„Inzwischen müssen wir nahezu jeden Pull Request von neuen Mitwirkenden kritisch hinterfragen.“
— Rémi Verschelde, via Game Developer
Derzeit gibt es auf GitHub 4.681 offene Pull Requests für Godot. Ein wachsender Anteil der neuen Einreichungen stammt von Menschen, die einen Prompt eingegeben, Code erhalten und ihn eingereicht haben, ohne zu verstehen, was er tut. Auf den ersten Blick wirkt der Code oft plausibel. Er lässt sich kompilieren. Die Variablennamen sind sinnvoll. Dann verbringt ein Maintainer zwanzig Minuten damit herauszufinden, dass er einen subtilen Fehler einführt, einen Sonderfall nicht mehr abdeckt oder ein Problem löst, das gar nicht existiert.
Die Zeit, die für das Ablehnen schlechter PRs aufgewendet wird, fehlt bei der Prüfung guter Beiträge.
Die Ironie schreibt sich von selbst
KI-Werkzeuge sollen Entwickler produktiver machen. So lautet das Versprechen. Deshalb sammeln Unternehmen Milliarden ein, um sie zu entwickeln. Und auf individueller Ebene tun sie das auch. Ich nutze jeden Tag KI-Werkzeuge. Unsere gesamte Plattform setzt KI für die Spieleentwicklung, Musikgenerierung, 3D-Modelle und mehr ein. Ich bin nicht gegen KI.
Doch es gibt einen systemischen Effekt, über den in den Investorenpräsentationen niemand spricht. Wenn KI das Erstellen eines Beitrags trivial einfach macht und die Kosten für das Einreichen gegen null gehen, während der Prüfaufwand exakt gleich bleibt, entsteht ein Verschmutzungsproblem.
Die Menschen, die diese PRs einreichen, handeln nicht böswillig. Die meisten wollen wirklich etwas beitragen. Ihnen wurde gesagt, dass sie mithilfe von KI-Werkzeugen auch ohne tiefgreifende Fachkenntnisse zu Open Source beitragen können. Und diese Werkzeuge ermöglichen es ihnen tatsächlich, etwas zu erzeugen, das wie ein Beitrag aussieht. Nur ist es keiner.
Verschelde räumte ein, dass der Einsatz von KI zur Erkennung KI-generierter PRs „entsetzlich ironisch“ wäre. Er hat recht. KI-Ausgaben mit KI-Erkennung zu bekämpfen, ist ein Wettrüsten, das niemand gewinnt.
Was uns das wirklich zeigt
Etwas zu erschaffen ist inzwischen billig. Etwas Gutes zu erschaffen kostet noch immer genauso viel.
Diese Erkenntnis zeigt sich überall, nicht nur bei der Prüfung von Open-Source-Code. Sie zeigt sich in der Spieleentwicklung, in der Musikproduktion und bei der Erstellung von Inhalten. KI hat die Einstiegshürde gesenkt. Ein minimal brauchbarer Beitrag, ein minimal brauchbares Spiel oder ein minimal brauchbarer Blogbeitrag kann nun in Sekunden generiert werden. Doch die Obergrenze hat sich nicht verschoben.
Menschen, die ihr Handwerk bereits beherrschten, sind jetzt schneller. Die Kluft zwischen „etwas gemacht“ und „etwas geschaffen, das die Zeit anderer wert ist“ ist sogar größer als früher, weil die Menge mittelmäßiger Ergebnisse explodiert ist, während die Zahl der Menschen, die Qualität beurteilen können, gleich geblieben ist.
Godots Richtlinien für Beiträge verlangen, dass der Einsatz von KI offengelegt wird. Viele ignorieren das. Man könnte die Regeln verschärfen, doch ihre Durchsetzung erfordert genau jene menschliche Prüfzeit, die man eigentlich einsparen möchte.
Die wirkliche Lösung ist langweilig
Verscheldes wichtigste Forderung ist mehr Finanzierung. Mehr Maintainer einstellen. Mehr Menschen, die die Arbeit prüfen. Das ist keine technische Lösung. Es ist eine organisatorische. Und wahrscheinlich die einzige, die funktioniert.
Open-Source-Projekte lernen dieselbe Lektion wie wir alle: KI beseitigt nicht die Notwendigkeit menschlichen Urteilsvermögens. Sie vergrößert sie. Je mehr KI-generierte Inhalte in ein System fließen, desto mehr Menschen braucht man, die zwischen etwas unterscheiden können, das richtig aussieht, und etwas, das tatsächlich richtig ist.
Darüber denken wir beim Aufbau der Werkzeuge von Cinevva ständig nach. Das Ziel war nie, menschliches Urteilsvermögen aus der Spieleentwicklung zu entfernen. Es geht darum, kreative Menschen ihr Urteilsvermögen auf das Wesentliche richten zu lassen: Fühlt sich das richtig an, funktioniert es, würde es jemandem Freude bereiten? Die Routinearbeit wird erledigt. Geschmack lässt sich nicht automatisieren.
Godot wird eine Lösung finden. Die Engine ist zu wichtig und die Community zu stark, als dass das nicht gelingen könnte. Doch das Muster, mit dem sie zu kämpfen haben, wird nicht verschwinden. Jedes Open-Source-Projekt, jede Kreativplattform und jedes System, das öffentliche Beiträge akzeptiert, wird sich derselben Frage stellen müssen: Wie geht man mit einer Welt um, in der die Herstellung von etwas nahezu kostenlos ist, seine Bewertung jedoch nicht?
Zum Thema:
- Agentenbasierte KI-Codewerkzeuge — verantwortungsvoller Einsatz von KI-Programmierwerkzeugen
- Führende quelloffene generative KI-Modelle — die Open-Source-Modelle, die diesen Wandel vorantreiben
- KI-Kontroverse, Vertrauen und die Post-KI-Ökonomie — die umfassendere Vertrauensfrage rund um KI in kreativer Arbeit
- Vergleich von Webgame-Engines — Godot und andere Engines, die von diesem Trend betroffen sind