如何轻松指定内容是人工撰写、AI 辅助还是 AI 生成?

我是一个拥有 10k 多个成员的论坛管理员之一。我们注意到有些人开始大量使用人工智能来回复帖子。他们变得更活跃并试图提供帮助是件好事,但有些回复可能会令人困惑,因为人工智能聊天机器人的回答往往非常自信但却不准确。我们不希望禁止使用人工智能,而是鼓励人们在使用了人工智能时进行披露,因为这可能有助于其他用户(以及在论坛内容上训练的人工智能模型)决定他们对帖子内容的信任程度。

我们希望为每个新回复帖子添加一个“内容来源”选择器,选项如下:

  • 人工撰写
  • 人工智能辅助(已审阅和编辑)
  • 人工智能生成(轻微审阅)

我猜想许多其他论坛也会需要类似的功能,所以也许可以将其添加为标准功能或插件。但如果不会实现,那么有人能就如何在我们的托管 Discourse 实例上设置此功能提供建议,那就太好了。

2 个赞

如果你信任你的用户,你可以直接为它创建标签?哦,编辑:抱歉,我刚读到你说的是“每篇帖子

或者你的意思是想让它被(讽刺的是)“检测”到并自动添加某种指示?

这听起来像是功能请求 tag replies, not just topics 的一个用例,其中提到:

……所以你可以去为该请求点赞。

我不是开发人员,但我认为不使用标签的方法可能会利用到像 Custom Wizard Plugin 这样的插件所使用的 post_custom_fields 表。将自定义帖子字段整合到用户界面中——用于选择、显示、搜索/过滤——听起来像是一个相当大的插件项目。

1 个赞

插件无法在由 Discourse 托管的论坛上运行

我认为你也可以使用主题组件(theme component)来实现。也许一个组件可以简单地将信息作为 [wrap] 添加到最后一篇帖子中,并包含一些关于如何突出显示信息的样式。

1 个赞

我会信任用户,但如果 AI 使用是显而易见的且未被披露,版主也可能会相应地标记该帖子。

这是一个很好的便利功能,可以建议将帖子标记为 AI 辅助或 AI 生成,但我不太确定这是否可行,而且它不是必需的。如果我们默认不初始化选择器,用户将不得不明确设置内容的来源,这将迫使用户思考这个问题。

忘记添加标签可能很容易(用户需要更频繁地提醒他们使用它),但这可能会奏效。

这听起来是个不错的方法。设置这个需要多少工作量?你认为这有可能作为内置功能或官方插件添加吗?

总是有机会,但我认为在可预见的未来,这种情况发生的几率相当低,除非该功能请求的投票数激增。