Skip to content

开源世界面临 AI 污染问题

作者:Oleg Sidorkin,Cinevva CTO

Rémi Verschelde 是让 Godot 持续运转的人之一。这不是副业,也不是爱好,而是一生的事业。早在大多数人听说 Godot 之前,他就在维护这个引擎,审阅贡献、合并补丁,确保这个数百万开发者赖以为生的东西真的能用。

上个月,他把 Godot 贡献管线正在发生的事形容为"耗人心力、令人灰心"。

原因是:AI 生成的 pull request。大量涌入。

"我们现在几乎要对来自新贡献者的每一个 pull request 都打个问号。"

— Rémi Verschelde,来自 Game Developer

Godot 此刻在 GitHub 上有 4,681 个开放的 pull request。新提交中越来越大的比例,出自这样一些人:他们敲了一段提示词,拿到一些代码,没弄懂它做什么就提交了。这些代码乍一看往往很合理。它能编译。变量名说得通。然后维护者花二十分钟才弄明白,它引入了一个微妙的 bug、破坏了某个边界情况,或者解决了一个根本不存在的问题。

花在拒掉糟糕 PR 上的时间,就是没花在审阅优秀 PR 上的时间。

讽刺不言自明

AI 工具本应让开发者更高效。这是它的卖点。这也是各家公司为了打造它们而融资数十亿美元的原因。在个人层面上,它们确实做到了。我每天都用 AI 工具。我们整个平台都在用 AI 做游戏创作、音乐生成、3D 模型等等。我不反对 AI。

但有一个系统层面的效应,没人会在投资人路演文档里讲。当 AI 让生成一份贡献变得轻而易举,提交的成本降到了零,而审阅的成本却原封不动,你就得到了一个污染问题。

提交这些 PR 的人并无恶意。他们中的大多数真心想做贡献。有人告诉他们,AI 工具能让他们不必有深厚专长就能为开源做贡献。而这些工具确实能让他们生成看起来像一份贡献的东西。只是它并不是。

Verschelde 承认,用 AI 去检测 AI 生成的 PR 会"讽刺得可怕"。他说得对。用 AI 检测去对抗 AI 产出,是一场没人能赢的军备竞赛。

这真正告诉我们什么

做出一个东西如今很便宜。做出一个好东西,成本还是一样。

这是到处都在浮现的教训,不只是在开源代码审阅里。它出现在游戏开发里,出现在音乐制作里,出现在内容创作里。AI 把地板降低了。最低限度可用的贡献、最低限度可玩的游戏、最低限度像样的博客文章,如今几秒钟就能生成。但天花板没有动。

那些本来就擅长自己手艺的人,如今更快了。"做出了一个东西"和"做出了一个值得别人花时间的东西"之间的差距,其实比从前更大了,因为平庸产出的数量爆炸式增长,而能评判质量的人数并没有变。

Godot 的贡献指南要求披露 AI 协助的情况。人们无视它。你可以把规则定得更严,但执行需要的,正是你想省下来的那份人工审阅时间。

真正的解法很无聊

Verschelde 最主要的诉求是资金。雇更多维护者。更多人来审阅工作。这不是一个技术解法,而是一个组织上的解法。而它很可能是唯一行得通的那个。

开源项目正在领到我们其余人都在学的同一课:AI 不会消除对人类判断的需要。它放大了这种需要。流进任何系统的 AI 生成内容越多,你就越需要那些能分辨"看起来对"和"确实对"之间区别的人。

我们在打造 Cinevva 的工具时一直在想这件事。目标从来不是把人类判断从游戏创作里移除。而是让有创意的人把判断力聚焦在真正要紧的事情上:这感觉对吗、这能用吗、有人会喜欢这个吗?苦活累活被接管。品味不被自动化。

Godot 会把这件事捋顺的。这个引擎太重要,社群太强大,不可能办不到。但他们正在应对的这个模式,不会消失。每一个开源项目、每一个创意平台、每一个接受公众贡献的系统,都将面对同一个问题:当生产一个东西几乎免费、而评估它却不免费时,你该怎么办?


相关阅读: