Açık kaynağın bir yapay zekâ kirliliği sorunu var
Cinevva CTO'su Oleg Sidorkin tarafından
Rémi Verschelde, Godot'nun çalışmaya devam etmesini sağlayan kişilerden biri. Bunu bir yan proje veya hobi olarak yapmıyor. Hayatının işi olarak yapıyor. Çoğu insan Godot'nun adını bile duymadan önce motorun bakımını yapmaya başlamıştı; katkıları inceliyor, yamaları birleştiriyor ve milyonlarca geliştiricinin güvendiği bu sistemin gerçekten çalışmasını sağlıyor.
Geçen ay, Godot'nun katkı sürecinde yaşananları "tüketici ve moral bozucu" olarak tanımladı.
Sebebi: Yapay zekâ tarafından oluşturulan pull request'ler. Hem de çok sayıda.
"Artık yeni katkıda bulunanların neredeyse her pull request'ini kuşkuyla yeniden değerlendirmek zorundayız."
— Rémi Verschelde, Game Developer aracılığıyla
Godot'nun şu anda GitHub'da açık 4.681 pull request'i var. Yeni gönderimlerin giderek artan bir bölümü, bir istem yazıp karşılığında kod alan ve ne yaptığını anlamadan bu kodu gönderen kişiler tarafından oluşturuluyor. Kod, ilk bakışta çoğu zaman makul görünüyor. Derleniyor. Değişken adları anlamlı geliyor. Ardından bir bakımcı, kodun incelikli bir hata oluşturduğunu, uç bir durumu bozduğunu veya var olmayan bir sorunu çözdüğünü anlamak için yirmi dakika harcıyor.
Kötü PR'ları reddetmek için harcanan zaman, iyi olanları incelemeye harcanamıyor.
İroni kendini yazıyor
Yapay zekâ araçlarının geliştiricileri daha üretken kılması bekleniyor. Sunulan vaat bu. Şirketlerin bu araçları geliştirmek için milyarlarca dolar toplamasının nedeni de bu. Bireysel düzeyde bunu gerçekten yapıyorlar. Ben de her gün yapay zekâ araçları kullanıyorum. Platformumuzun tamamında oyun oluşturma, müzik üretimi, 3B modeller ve daha fazlası için yapay zekâ kullanılıyor. Yapay zekâ karşıtı değilim.
Ancak yatırımcı sunumlarında kimsenin bahsetmediği sistem düzeyinde bir etki var. Yapay zekâ bir katkı oluşturmayı son derece kolaylaştırdığında, gönderim maliyeti sıfıra düştüğünde ancak inceleme maliyeti hiç değişmediğinde ortaya bir kirlilik sorunu çıkıyor.
Bu PR'ları gönderen kişiler kötü niyetli değil. Çoğu gerçekten katkıda bulunmak istiyor. Onlara, yapay zekâ araçlarının derin bir uzmanlığa sahip olmadan açık kaynağa katkıda bulunmalarını sağlayacağı söylendi. Bu araçlar gerçekten de katkıya benzeyen bir şey oluşturmalarına imkân veriyor. Ancak ortaya çıkan şey aslında bir katkı değil.
Verschelde, yapay zekâ tarafından oluşturulan PR'ları tespit etmek için yapay zekâ kullanmanın "korkunç derecede ironik" olacağını kabul etti. Haklı. Yapay zekâ çıktısıyla yapay zekâ tespiti kullanarak mücadele etmek, kimsenin kazanamayacağı bir silahlanma yarışı.
Bunun bize gerçekten söylediği şey
Bir şey yapmak artık ucuz. İyi bir şey yapmanın maliyeti ise hâlâ aynı.
Bu ders yalnızca açık kaynak kod incelemelerinde değil, her yerde karşımıza çıkıyor. Oyun geliştirmede, müzik prodüksiyonunda ve içerik üretiminde de görülüyor. Yapay zekâ alt sınırı aşağı çekti. Asgari düzeyde geçerli bir katkı, oyun veya blog yazısı artık saniyeler içinde oluşturulabiliyor. Ancak üst sınır değişmedi.
Zanaatlarında zaten iyi olan insanlar artık daha hızlı. "Bir şey yaptım" ile "birinin zaman ayırmasına değecek bir şey yaptım" arasındaki fark aslında eskisinden daha büyük. Çünkü vasat çıktıların hacmi patlama yaşarken kaliteyi değerlendirebilecek insanların sayısı değişmedi.
Godot'nun katkı yönergeleri, yapay zekâ desteğinin açıklanmasını zorunlu kılıyor. İnsanlar bunu görmezden geliyor. Kuralları daha katı hâle getirebilirsiniz, ancak bunları uygulamak, tasarruf etmeye çalıştığınız insan inceleme süresinin aynısını gerektiriyor.
Gerçek çözüm sıkıcı
Verschelde'in öncelikli talebi finansman. Daha fazla bakımcı işe alın. Çalışmaları inceleyecek daha fazla insan. Bu teknik bir çözüm değil. Organizasyonel bir çözüm. Muhtemelen işe yarayacak tek çözüm de bu.
Açık kaynak projeleri, geri kalanımızın öğrendiği dersin aynısını alıyor: Yapay zekâ, insan muhakemesine olan ihtiyacı ortadan kaldırmıyor. Bu ihtiyacı artırıyor. Herhangi bir sisteme ne kadar çok yapay zekâ üretimi içerik akarsa, doğru görünen bir şey ile gerçekten doğru olan bir şey arasındaki farkı anlayabilecek insanlara o kadar fazla ihtiyaç duyarsınız.
Cinevva'nın araçlarını geliştirirken bunu sürekli düşünüyoruz. Amaç hiçbir zaman insan muhakemesini oyun üretiminden çıkarmak değildi. Amaç, yaratıcı insanların muhakemelerini önemli noktalara odaklamalarını sağlamak: Bu doğru hissettiriyor mu, işe yarıyor mu, birileri bundan keyif alır mı? Angarya işler hallediliyor. Beğeni ve estetik anlayışı otomatikleştirilmiyor.
Godot bunun üstesinden gelecektir. Motor fazlasıyla önemli, topluluğu da başarısız olmasına izin vermeyecek kadar güçlü. Ancak karşı karşıya oldukları bu örüntü ortadan kalkmayacak. Her açık kaynak projesi, her yaratıcı platform ve kamudan katkı kabul eden her sistem aynı soruyla yüzleşecek: Bir şey üretmenin neredeyse ücretsiz, ancak onu değerlendirmenin hâlâ maliyetli olduğu bir dünyayla nasıl başa çıkarsınız?
İlgili içerikler:
- Ajan tabanlı yapay zekâ kod araçları — yapay zekâ kodlama araçlarının sorumlu kullanımı
- Öncü Açık Kaynak Üretken Yapay Zekâ Modelleri — bu dönüşüme yön veren açık kaynak modeller
- Yapay zekâ tartışmaları, güven ve yapay zekâ sonrası ekonomi — yaratıcı çalışmalarda yapay zekâyı çevreleyen daha geniş güven meselesi
- Web Oyun Motorları Karşılaştırması — bu eğilimden etkilenen Godot ve diğer motorlar