开源世界面临 AI 污染问题
作者:Oleg Sidorkin,Cinevva CTO
Rémi Verschelde 是让 Godot 持续运转的人之一。这不是副业,也不是爱好,而是一生的事业。早在大多数人听说 Godot 之前,他就在维护这个引擎,审阅贡献、合并补丁,确保这个数百万开发者赖以为生的东西真的能用。
上个月,他把 Godot 贡献管线正在发生的事形容为"耗人心力、令人灰心"。
原因是:AI 生成的 pull request。大量涌入。
"我们现在几乎要对来自新贡献者的每一个 pull request 都打个问号。"
— Rémi Verschelde,来自 Game Developer
Godot 此刻在 GitHub 上有 4,681 个开放的 pull request。新提交中越来越大的比例,出自这样一些人:他们敲了一段提示词,拿到一些代码,没弄懂它做什么就提交了。这些代码乍一看往往很合理。它能编译。变量名说得通。然后维护者花二十分钟才弄明白,它引入了一个微妙的 bug、破坏了某个边界情况,或者解决了一个根本不存在的问题。
花在拒掉糟糕 PR 上的时间,就是没花在审阅优秀 PR 上的时间。
讽刺不言自明
AI 工具本应让开发者更高效。这是它的卖点。这也是各家公司为了打造它们而融资数十亿美元的原因。在个人层面上,它们确实做到了。我每天都用 AI 工具。我们整个平台都在用 AI 做游戏创作、音乐生成、3D 模型等等。我不反对 AI。
但有一个系统层面的效应,没人会在投资人路演文档里讲。当 AI 让生成一份贡献变得轻而易举,提交的成本降到了零,而审阅的成本却原封不动,你就得到了一个污染问题。
提交这些 PR 的人并无恶意。他们中的大多数真心想做贡献。有人告诉他们,AI 工具能让他们不必有深厚专长就能为开源做贡献。而这些工具确实能让他们生成看起来像一份贡献的东西。只是它并不是。
Verschelde 承认,用 AI 去检测 AI 生成的 PR 会"讽刺得可怕"。他说得对。用 AI 检测去对抗 AI 产出,是一场没人能赢的军备竞赛。
这真正告诉我们什么
做出一个东西如今很便宜。做出一个好东西,成本还是一样。
这是到处都在浮现的教训,不只是在开源代码审阅里。它出现在游戏开发里,出现在音乐制作里,出现在内容创作里。AI 把地板降低了。最低限度可用的贡献、最低限度可玩的游戏、最低限度像样的博客文章,如今几秒钟就能生成。但天花板没有动。
那些本来就擅长自己手艺的人,如今更快了。"做出了一个东西"和"做出了一个值得别人花时间的东西"之间的差距,其实比从前更大了,因为平庸产出的数量爆炸式增长,而能评判质量的人数并没有变。
Godot 的贡献指南要求披露 AI 协助的情况。人们无视它。你可以把规则定得更严,但执行需要的,正是你想省下来的那份人工审阅时间。
真正的解法很无聊
Verschelde 最主要的诉求是资金。雇更多维护者。更多人来审阅工作。这不是一个技术解法,而是一个组织上的解法。而它很可能是唯一行得通的那个。
开源项目正在领到我们其余人都在学的同一课:AI 不会消除对人类判断的需要。它放大了这种需要。流进任何系统的 AI 生成内容越多,你就越需要那些能分辨"看起来对"和"确实对"之间区别的人。
我们在打造 Cinevva 的工具时一直在想这件事。目标从来不是把人类判断从游戏创作里移除。而是让有创意的人把判断力聚焦在真正要紧的事情上:这感觉对吗、这能用吗、有人会喜欢这个吗?苦活累活被接管。品味不被自动化。
Godot 会把这件事捋顺的。这个引擎太重要,社群太强大,不可能办不到。但他们正在应对的这个模式,不会消失。每一个开源项目、每一个创意平台、每一个接受公众贡献的系统,都将面对同一个问题:当生产一个东西几乎免费、而评估它却不免费时,你该怎么办?
相关阅读:
- Agentic AI 代码工具 — 负责任地使用 AI 编程工具
- 前沿开源生成式 AI 模型 — 驱动这场转变的开源模型
- AI 争议、信任与后 AI 经济 — 围绕创意工作中 AI 的更宏观的信任问题
- 网页游戏引擎对比 — Godot 与受此趋势影响的其他引擎