禁止AI内容的论坛……进展如何?

我们在以艺术为主题的 Discourse 论坛上实施了 AI 禁令,到目前为止反响相当不错。对于一个艺术社区来说,这其实是在意料之中的。对于图片,我们从一开始就实行了严格的禁令。后来,我们将规则扩展到了所有生成式内容,包括文本和代码(但有一个例外:如果仅仅是翻译,则不在禁止之列,以免仅因非英语母语者语言不通而对他们进行惩罚)。当禁令扩展到代码(例如绘画软件的插件)时,曾引发过一些争论,但主要只是少数人的声音。在我们的案例中,鉴于 AI 对整个艺术社区造成的种种损害,禁止 AI 并对此表明立场也是某种程度上的必然。偶尔会有插件创作者提出抱怨,但我们告诉他们,他们可以随心所欲,只是不能在我们的论坛上发布即可,他们大多也能接受。有时你会遇到个别用户发出“如果不允许使用这些技术,你们的软件将会落后”之类的言论,试图通过威胁、制造错失恐惧症(FOMO)或引发内疚感来迫使我们撤销规定,但大多数时候这里都很平静。

至于内容审核,我们主要依靠社区力量。我们设置了一个额外的标记功能,用于举报 AI 生成内容。在核查时,我们不想营造一个充满不信任和猜疑的社区氛围,因此我们首先假定每个人都是清白的。如果无法确切证明某内容是由 AI 生成的,通常就予以保留。我们不想将其变成一场“猎巫行动”,也不愿仅仅因为某人的作品看起来像 AI 生成,就误封一个完全无辜的用户,而实际上情况可能恰恰相反。

幸运的是,AI 用户往往迟早会无意中暴露自己,比如忘记移除生成器的水印,文件名中仍保留着类似“gemini generated image”的字样,或者其作品的风格和质量出现剧烈波动。

4 个赞