如何轻松指定内容是人工撰写、AI 辅助还是 AI 生成?

我是一个拥有 10k 多个成员的论坛管理员之一。我们注意到有些人开始大量使用人工智能来回复帖子。他们变得更活跃并试图提供帮助是件好事,但有些回复可能会令人困惑,因为人工智能聊天机器人的回答往往非常自信但却不准确。我们不希望禁止使用人工智能,而是鼓励人们在使用了人工智能时进行披露,因为这可能有助于其他用户(以及在论坛内容上训练的人工智能模型)决定他们对帖子内容的信任程度。

我们希望为每个新回复帖子添加一个“内容来源”选择器,选项如下:

  • 人工撰写
  • 人工智能辅助(已审阅和编辑)
  • 人工智能生成(轻微审阅)

我猜想许多其他论坛也会需要类似的功能,所以也许可以将其添加为标准功能或插件。但如果不会实现,那么有人能就如何在我们的托管 Discourse 实例上设置此功能提供建议,那就太好了。

3 个赞

如果你信任你的用户,你可以直接为它创建标签?哦,编辑:抱歉,我刚读到你说的是“每篇帖子

或者你的意思是想让它被(讽刺的是)“检测”到并自动添加某种指示?

这听起来像是功能请求 tag replies, not just topics 的一个用例,其中提到:

……所以你可以去为该请求点赞。

我不是开发人员,但我认为不使用标签的方法可能会利用到像 Custom Wizard Plugin 这样的插件所使用的 post_custom_fields 表。将自定义帖子字段整合到用户界面中——用于选择、显示、搜索/过滤——听起来像是一个相当大的插件项目。

1 个赞

插件无法在由 Discourse 托管的论坛上运行

我认为你也可以使用主题组件(theme component)来实现。也许一个组件可以简单地将信息作为 [wrap] 添加到最后一篇帖子中,并包含一些关于如何突出显示信息的样式。

1 个赞

我会信任用户,但如果 AI 使用是显而易见的且未被披露,版主也可能会相应地标记该帖子。

这是一个很好的便利功能,可以建议将帖子标记为 AI 辅助或 AI 生成,但我不太确定这是否可行,而且它不是必需的。如果我们默认不初始化选择器,用户将不得不明确设置内容的来源,这将迫使用户思考这个问题。

忘记添加标签可能很容易(用户需要更频繁地提醒他们使用它),但这可能会奏效。

这听起来是个不错的方法。设置这个需要多少工作量?你认为这有可能作为内置功能或官方插件添加吗?

总是有机会,但我认为在可预见的未来,这种情况发生的几率相当低,除非该功能请求的投票数激增。

使用当前的标签功能,您可以要求某个分类下的主题必须包含来自指定标签组的标签。虽然回复标签不存在(并且短期内不太可能出现),但人们可以希望在回复中也能有类似的功能。

如果目的是告知人类读者某段文本涉及人工智能,那么在我看来,标签不是解决方案。人们不会将标签作为实际内容的一部分来阅读。因此,指示必须是内容上下文本身的一部分。

我个人使用 Discourse 提供的以下方法:

<details class='ai-quote' open>
<summary>
<span>标题</span>
<span title='与人工智能的讨论'>AI</span>
</summary>
或多或少的内容……
</details>

或者,我使用 Quote Callouts 组件。

教用户正确应用这些方法,如果不是不可能,至少对于来自 Facebook 背景的用户来说也极其困难。所以我决定要求人工智能生成的内容必须以某种方式进行标记。只要内容本身有可见的指示,并且人工智能材料被清晰地分开,我就满意了。

我确实尝试过使用标签,但我很快注意到它没有引起任何反应。此外,我想将标签用于内容分类,我很难想象会有人试图在我的论坛上查找所有涉及人工智能的内容。特别是考虑到人工智能的使用可能会随着时间的推移而升级。甚至可能发展到需要一个标签来指示内容是人工制作的(而不仅仅是一个表情符号,因为这样的网站甚至论坛已经存在了)。

5 个赞

您是如何执行此要求的?

1 个赞

论坛流量低,所以我几乎阅读了所有内容。版主可以/将会标记可能的案例。人工智能是否被大量使用或是否是复制粘贴,并非每次都那么明显。我不知道如何能自动检测,所以我们采用邻里互助的方式 :smirking_face:

但我的用户非常清楚规则。

2 个赞

有点离题,但在一个(非 Discourse 的)论坛上,我们有一个讨论生成式人工智能方方面面的主题,从优点到缺点。

一位热情的普通用户开始发布非常具有争论性的消息,在略微激烈的辩论中反驳其他成员的观点。

他后来的帖子写法暴露了这一点:特别是其中一个包含 4 个要点的帖子,都使用了“不是……而是……”的结构。

他被指了出来,并承认他使用人工智能来撰写他“最后两条消息”,并解释说这不是问题,因为他指示人工智能反映他的观点。而且,如果人们无法反驳他的观点,那就意味着无论他的帖子是否是人工智能生成的,他们都是错的。

不用说,当其他用户意识到他们正在花费时间和精力与人工智能辩论时,他们都非常生气。

7 个赞