오픈소스에 AI 오염 문제가 생겼다
글 Oleg Sidorkin, Cinevva CTO
Rémi Verschelde는 Godot를 계속 돌아가게 만드는 사람 중 한 명이다. 부업이나 취미가 아니라 평생의 일로서 그렇다. 대부분의 사람이 Godot라는 이름을 듣기도 전부터 그는 이 엔진을 유지보수하면서 기여를 검토하고, 패치를 머지하고, 수백만 명의 개발자가 의존하는 이 물건이 실제로 작동하도록 챙겨 왔다.
지난달 그는 Godot의 기여 파이프라인에서 벌어지고 있는 일을 "진을 빼고 사기를 꺾는다"고 표현했다.
원인은 AI가 생성한 풀 리퀘스트다. 그것도 아주 많이.
"이제 우리는 신규 기여자에게서 온 거의 모든 풀 리퀘스트를 한 번씩 의심해 봐야 합니다."
— Rémi Verschelde, Game Developer를 통해
Godot는 지금 GitHub에 열려 있는 풀 리퀘스트가 4,681개나 있다. 새로 들어오는 제출 중 점점 더 큰 비율이, 프롬프트를 입력해 코드를 얻은 뒤 그게 무슨 일을 하는지 이해하지도 못한 채 제출한 사람들에게서 나온다. 그 코드는 언뜻 보면 그럴듯해 보일 때가 많다. 컴파일도 된다. 변수 이름도 말이 된다. 그러다 메인테이너가 20분을 들여서야, 그게 미묘한 버그를 들여오거나, 어떤 예외 상황을 망가뜨리거나, 존재하지도 않는 문제를 푼다는 걸 알아낸다.
나쁜 PR을 거절하는 데 쓰는 시간은 좋은 PR을 검토하는 데 쓰지 못한 시간이다.
아이러니는 스스로 쓰여진다
AI 도구는 개발자를 더 생산적으로 만들어야 한다. 그게 세일즈 포인트다. 그래서 여러 회사가 그걸 만들겠다고 수십억 달러를 모으고 있다. 그리고 개인 차원에서는 실제로 그렇다. 나는 매일 AI 도구를 쓴다. 우리 플랫폼 전체가 게임 제작, 음악 생성, 3D 모델 등에 AI를 쓴다. 나는 AI에 반대하는 사람이 아니다.
하지만 투자자용 자료에서는 아무도 말하지 않는 시스템 차원의 효과가 있다. AI가 기여 하나를 만드는 일을 너무나 쉽게 만들어서 제출 비용이 0으로 떨어지는데, 검토 비용은 예전 그대로 머물러 있으면, 오염 문제가 생긴다.
이런 PR을 제출하는 사람들은 악의가 있는 게 아니다. 대부분은 진심으로 기여하고 싶어 한다. 그들은 AI 도구를 쓰면 깊은 전문성 없이도 오픈소스에 기여할 수 있다고 들었다. 그리고 그 도구들은 정말로 기여처럼 보이는 무언가를 생성하게 해 준다. 다만 그게 기여가 아닐 뿐이다.
Verschelde는 AI 생성 PR을 잡아내는 데 AI를 쓰는 건 "끔찍하게 아이러니할" 거라고 인정했다. 그의 말이 맞다. AI 산출물을 AI 탐지로 맞서는 건 아무도 이길 수 없는 군비 경쟁이다.
이것이 진짜로 말해 주는 것
무언가를 만드는 건 이제 싸다. 좋은 것을 만드는 건 여전히 같은 비용이 든다.
이건 오픈소스 코드 리뷰에서만이 아니라 어디서나 드러나는 교훈이다. 게임 개발에서, 음악 제작에서, 콘텐츠 제작에서 나타난다. AI는 바닥을 낮췄다. 최소한으로 쓸 만한 기여, 최소한으로 할 만한 게임, 최소한으로 봐줄 만한 블로그 글이 이제는 몇 초 만에 생성될 수 있다. 하지만 천장은 움직이지 않았다.
이미 자기 일을 잘하던 사람들은 이제 더 빨라졌다. "무언가를 만들었다"와 "누군가의 시간을 들일 만한 것을 만들었다" 사이의 격차는 사실 예전보다 더 벌어졌다. 평범한 산출물의 양은 폭발적으로 늘었는데, 품질을 평가할 수 있는 사람의 수는 변하지 않았기 때문이다.
Godot의 기여 가이드라인은 AI 도움을 받았다면 그 사실을 밝히도록 요구한다. 사람들은 그걸 무시한다. 규칙을 더 엄격하게 만들 수도 있지만, 집행에는 당신이 아끼려던 바로 그 사람의 검토 시간이 필요하다.
진짜 해법은 지루하다
Verschelde의 가장 큰 요청은 자금이다. 메인테이너를 더 고용하라는 것. 작업을 검토할 사람을 더 두라는 것. 그건 기술적 해법이 아니라 조직적 해법이다. 그리고 그게 아마 유일하게 통하는 해법일 것이다.
오픈소스 프로젝트는 나머지 우리 모두가 배우고 있는 것과 같은 교훈을 받고 있다. AI는 인간의 판단에 대한 필요를 없애지 않는다. 오히려 키운다. AI가 생성한 콘텐츠가 어떤 시스템으로든 더 많이 흘러들수록, 그럴듯해 보이는 것과 실제로 옳은 것의 차이를 분간할 수 있는 사람이 더 필요해진다.
우리는 Cinevva의 도구를 만들 때 이걸 늘 생각한다. 목표는 게임 제작에서 인간의 판단을 없애는 게 결코 아니었다. 창의적인 사람들이 중요한 것에 판단력을 집중하게 하는 것이다. 이게 느낌이 맞나, 이게 작동하나, 누군가 이걸 즐길까? 막일은 처리된다. 안목은 자동화되지 않는다.
Godot는 이 문제를 풀어낼 것이다. 이 엔진은 너무 중요하고 커뮤니티는 너무 강해서 그러지 못할 리가 없다. 하지만 그들이 마주한 이 패턴은 사라지지 않는다. 모든 오픈소스 프로젝트, 모든 창작 플랫폼, 대중의 기여를 받는 모든 시스템은 똑같은 질문에 직면하게 된다. 무언가를 생산하는 건 거의 공짜인데 그걸 평가하는 건 그렇지 않은 세상을, 당신은 어떻게 다룰 것인가?
관련 글:
- 에이전트형 AI 코드 도구 — AI 코딩 도구의 책임 있는 사용
- 프런티어 오픈소스 생성형 AI 모델 — 이 변화를 이끄는 오픈소스 모델
- AI 논란, 신뢰, 그리고 포스트 AI 경제 — 창의적 작업에서 AI를 둘러싼 더 넓은 신뢰 문제
- 웹 게임 엔진 비교 — Godot와 이 추세에 영향받는 다른 엔진들