您如何在社区中处理AI回复?

大家好!

我想知道其他社区经理是如何处理讨论和问答类别中的 AI 回复的。

我们目前的政策是,只要您验证了 AI 的回复,就可以使用 AI。

看到这样的回复后,我开始觉得我想制定一个更严格的反对 AI 的政策。

好问题,我将帮助您调用 Slack API 将消息发布到频道。方法如下:

基本 API 请求

您将使用 chat.postMessage 端点。以下是一个使用 curl 的简单示例:

curl -X POST https://slack.com/api/chat.postMessage \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_SLACK_TOKEN" \
  -d '{
    "channel": "C1234567890",
    "text": "Hello from the Slack API!"
  }'

设置步骤

1. 获取 Slack 令牌:

  • 前往 Slack API: Applications | Slack
  • 创建一个新应用或选择一个现有应用
  • 导航到“OAuth & Permissions”(OAuth 和权限)
  • 在“Bot Token Scopes”(机器人令牌范围)下添加 chat:write 范围
  • 将应用安装/重新安装到您的工作区
  • 复制“Bot User OAuth Token”(机器人用户 OAuth 令牌)(以 xoxb- 开头)

2. 获取频道 ID:

  • 右键单击 Slack 中的频道 → “View channel details”(查看频道详情)
  • 频道 ID 位于底部(以 C 开头)
  • 或者使用频道名称,如 #general

代码示例

Python:

import requests

url = "https://slack.com/api/chat.postMessage"
headers = {
    "Content-Type": "application/json",
    "Authorization": "Bearer YOUR_SLACK_TOKEN"
}
data = {
    "channel": "C1234567890",
    "text": "Hello from Python!"
}

response = requests.post(url, headers=headers, json=data)
print(response.json())

JavaScript (Node.js):

const axios = require('axios');

const url = 'https://slack.com/api/chat.postMessage';
const data = {
  channel: 'C1234567890',
  text: 'Hello from Node.js!'
};

axios.post(url, data, {
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer YOUR_SLACK_TOKEN'
  }
})
.then(response => console.log(response.data))
.catch(error => console.error(error));

其他选项

您可以通过以下方式增强您的消息:

  • Blocks 用于富文本格式
  • Attachments 用于结构化数据
  • 使用 thread_ts 进行主题回复
  • 提及,如 <@U12345678>

您是否需要特定编程语言或更高级消息格式的帮助?

此致,{user}!

虽然这可能解决了问题,但我自己也可以问 AI 来获得这个回复。虽然这个问题还没有广泛存在,但我担心我们正在失去社区中每个人的个性。社区的伟大之处在于其中的人们以及他们独特的想法、观点、经验和言语。

非常想知道其他社区是如何处理这个问题的!请分享您的想法!

5 个赞

我的政策是不要使用人工智能来撰写或编辑论坛帖子。例如:“我们想听听你的看法,而不是人工智能的看法。”如果你粘贴一些人工智能生成的文本,然后评论人工智能写的内容,这是可以的,只要你在人工智能内容上方披露它是人工智能生成的,例如:

“我问了 ChatGPT 关于___,它回答说___。这是我对 ChatGPT 所写内容的看法。”

我非常注重内容的质量。我认为 2025 年的人工智能生成内容在 10 年后看起来会过时,就像旧电影特效现在看起来不那么逼真一样。

如果人们在提问而人工智能在回答,为什么他们要去论坛而不是直接问 ChatGPT?我认为未来论坛的主要价值在于你可以从人类而不是机器人那里获得答案。

8 个赞

很棒的观点 @j127

只要有上下文以及用户在人工智能内容周围的文字,我们就倾向于这样做。

我不想几个月后环顾四周,发现我们的论坛到处都是完美的人工智能回复。所以现在就想办法解决这个问题。把拼写错误带回来 :slight_smile:

4 个赞

这里有一点需要注意:阻止此类行为可能会吓跑潜在的新用户。一个可能的解决方法是创建一个专门的类别,然后让他们将内容放在那里。这样,用户会觉得他们贡献了有价值的东西,其他人可以在论坛的其他地方链接到它,而对AI帖子不感兴趣的用户可以跳过该类别及其所有链接。

AI在用户论坛上的发布将是常态。在未来几年内,我看不出有任何规范;这与AI在正规教育中的使用问题类似。


然而,随着AI、LLM和扩散模型的新浪潮,唯一不变的就是变化,所以我的回复不应被视为一成不变或是我未来可能同意的。

2 个赞

这真的取决于情况,对吧?在上面的例子中,如果答案明显不正确——尤其是那些可能导致用户遇到更大问题的错误——我会对发帖人感到不满。如果人们花费时间验证和审查 AI 回复的适当性和正确性,我并不介意。如果他们认为生成的内容与他们分享信息的方式相似或更好,那就更好了。

另一方面,如果你只是把东西扔进一个大型语言模型(LLM),复制粘贴答案,然后期望我(作为你话题的读者)去弄清楚内容是否正确,那么我不会高兴。你不仅通过提供错误信息作为正确信息来浪费我的时间,还在削弱整个社区的信任度——或者至少是你自己未来回复的信任度。

展望未来,我预计在接下来的几年里,许多好意的人将不再在论坛上使用大型语言模型,而留下的人将是恶意行为者,或者根本不了解论坛的人。这纯粹是轶事,但我已经使用了大约 2 年的大型语言模型,我越来越倾向于自己生成内容。昨天我想写一篇我不太投入的博客文章。我决定尝试 GPT,但无论我怎么做,它听起来总是像 GPT,我讨厌那种感觉。所以我尝试了 Claude,尽管与它合作了一个小时,但内容听起来总不像一个活生生的人写的。所以总共大约 3 个小时后,我把所有东西都撕掉了,自己花了一个小时写完了。

那个故事的重点是说——至少对我来说——无论模型变得多好,自己生成的内容都越来越有价值。我真诚地希望在接下来的 2-3 年里,其他使用大型语言模型的人也能达到那个阶段。如果发生这种情况,论坛上的 AI 回复将只来自恶意行为者,或者来自好意但不知情的人。无论哪种情况,都可以让内容更容易处理:你可以封禁恶意行为者,教育好意者,并制定一项“禁止 AI 内容,除非你已明确消化你发布的内容,并且完全同意其内容代表你对该问题的看法和理解,并且该内容以与你自己生成内容相同或更易于理解的方式表达你的观点”之类的版主政策。

6 个赞

我通常在看到人工智能的回复时会有些担忧,当发帖用户:\n- 不注明人工智能\n- 直接复制粘贴\n\n但我觉得真正不可接受的是,完全由人工智能生成的帖子被标记为解决方案。实际上,解决方案应该归功于人工智能……或者干脆不给,只点个赞和说声谢谢。\n\n\u003chr /\u003e\n\n补充一点,如果提问者想要人工智能的回复,他们可以直接问 ChatGPT。他们不需要让别人来回答他们问人类的问题,而是用人工智能的东西来回答。

3 个赞

我看到了这么多精彩的回复。在这个具体的例子中,我认为人工智能很有用,因为它纯粹是战术性的。因此,当我们向社区提问或征求会员回复时,请考虑哪些是战术性的,哪些是“感觉”。根据您的社区结构,可能会有一个专门用于“操作方法”的空间,另一个空间用于同伴联系。了解“操作方法”将是人工智能受欢迎的地方,甚至可能推荐使用人工智能来避免操作失误。:slight_smile: 在您的社区空间中取得平衡非常棒,这也是会员们乐此不疲的原因。

2 个赞

我认为 Discourse 已经有了“操作指南”部分 (ask.discourse.com)。这实际上是 Discourse 中最好的 AI 工具,用户可以自行使用,无需他人代劳。其他一切都应该是“同伴”空间,人们在那里互动,提出更多问题而不是提供答案,并乐于分歧,以便从中挖掘出一些真相。

正如这里所说的:

很可能,当人们遇到一些不寻常的事情时,他们会来到社区空间。在找到问题的解决方案之前,可能会有很多提问,比如他们使用的是什么版本,他们是否尝试过这个或那个。有时,如果你能从其他用户那里感受到一些同情,那会很棒。AI 不会提问;它对我们有时有多么愚蠢没有直觉(例如在 Meta 上:你尝试过重建 Discourse 吗?你尝试过安全模式吗?),而且任何同情心都绝对是虚假的,无论多么令人愉悦。

所以,我处理包含大量 AI 内容的回复的方式——我可能会禁止它们,并实施一个 AI 机器人,以便用户可以轻松地自助解决问题。

1 个赞