コミュニティでAIの応答をどのように扱っていますか？

[tyler-mairose-sp (Tyler Mairose)]

皆さん、こんにちは！

ディスカッションや質問カテゴリでのAIによる回答について、他のコミュニティマネージャーがどのように対応しているか気になっています。

現在の私たちのポリシーは、AIの回答を検証する限り、使用はOKということです。

例えば、このような回答を見て、AIに対してより厳格なポリシーを作成したいと思い始めています。

良い質問ですね。Slack APIを呼び出してチャンネルにメッセージを投稿する方法をお手伝いします。方法は以下の通りです。

基本的なAPIリクエスト

chat.postMessage エンドポイントを使用します。以下にcurlを使用した簡単な例を示します。

curl -X POST https://slack.com/api/chat.postMessage \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_SLACK_TOKEN" \
  -d '{
    "channel": "C1234567890",
    "text": "Hello from the Slack API!"
  }'

セットアップ手順

1. Slackトークンの取得:

• Slack API: Applications | Slack にアクセスします。
• 新しいアプリを作成するか、既存のアプリを選択します。
• 「OAuth & Permissions」に移動します。
• 「Bot Token Scopes」の下に chat:write スコープを追加します。
• アプリをワークスペースにインストール/再インストールします。
• 「Bot User OAuth Token」（xoxb-で始まる）をコピーします。

2. チャンネルIDの取得:

• Slackでチャンネルを右クリックし、「チャンネル詳細を表示」を選択します。
• チャンネルIDは一番下にあります（Cで始まります）。
• または、#general のようなチャンネル名を使用します。

コード例

Python:

import requests

url = "https://slack.com/api/chat.postMessage"
headers = {
    "Content-Type": "application/json",
    "Authorization": "Bearer YOUR_SLACK_TOKEN"
}
data = {
    "channel": "C1234567890",
    "text": "Hello from Python!"
}

response = requests.post(url, headers=headers, json=data)
print(response.json())

JavaScript (Node.js):

const axios = require('axios');

const url = 'https://slack.com/api/chat.postMessage';
const data = {
  channel: 'C1234567890',
  text: 'Hello from Node.js!'
};

axios.post(url, data, {
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer YOUR_SLACK_TOKEN'
  }
})
.then(response => console.log(response.data))
.catch(error => console.error(error));

追加オプション

以下のような機能でメッセージを強化できます。

• Blocks によるリッチなフォーマット
• Attachments による構造化データ
• thread_ts を使用したスレッド返信
• ＜@U12345678＞ のようなメンション

特定のプログラミング言語や、より高度なメッセージフォーマットについて、お手伝いが必要ですか？

Cheers, {user}!

この回答は問題を解決するかもしれませんが、自分でAIに尋ねてこの回答を得ることもできたはずです。問題はまだ広まっていませんが、コミュニティの個々の個性が失われているのではないかと懸念しています。コミュニティの素晴らしい点は、そこにいる人々、そして彼らのユニークなアイデア、考え、経験、言葉です。

他のコミュニティがどのようにこれに対処しているか、非常に興味があります！皆さんの考えを共有してください！

[j127]

私のポリシーは、フォーラムの投稿を作成または編集するためにAIを使用しないことです。例えば、「AIの意見ではなく、皆さんの意見を聞きたいのです」といった具合です。AIが生成したテキストを貼り付けて、AIが書いた内容についてコメントすることは構いませんが、AIコンテンツの上にAIによるものであることを開示する必要があります。例えば、次のようにします。

「___についてChatGPTに尋ねたところ、___と回答しました。ChatGPTの回答について、私の考えは以下の通りです。」

私はコンテンツの品質を注意深く守っています。2025年のAI生成コンテンツは、古い映画の効果がもはや通用しないように、10年後には時代遅れに見えると思います。

人々が質問をしてAIが回答している場合、なぜChatGPTに直接尋ねるのではなくフォーラムに来るのでしょうか？将来のフォーラムの主な価値は、ボットではなく人間から回答を得られることだと思います。

[tyler-mairose-sp (Tyler Mairose)]

素晴らしい点ですね、@j127様

@j127

AIが生成したテキストを貼り付けて、AIが書いた内容についてコメントすることは、AIコンテンツの上にそれがAIであることを開示する限り、問題ありません。例えば、以下のようになります。

これは、文脈があり、AIコンテンツの周りにユーザー自身の言葉がある限り、私たちが考えていた方向性です。

数ヶ月後にフォーラムの至る所が完璧に書かれたAIの返信で埋め尽くされるのを見たくないので、今から先手を打とうとしています。スペルミスを復活させましょう

[EricGT]

@tyler-mairose-sp

他のコミュニティがこれをどのように扱っているか、とても興味があります！皆さんの考えを教えてください！

注意すべき点が1つあります。そのような行為を抑制すると、潜在的な新規ユーザーが離れてしまう可能性があります。可能な回避策は、そのようなコンテンツのためのカテゴリを作成し、そこにコンテンツを置いてもらうことです。これにより、ユーザーは価値のあるものを貢献したと感じ、他のユーザーはフォーラムの他の場所で必要に応じてそれにリンクでき、AI投稿に興味のないユーザーはカテゴリとすべてのリンクをスキップできます。

ユーザーフォーラムでのAIの投稿は今後も続きます。フォーマルな教育におけるAIの使用に関する質問と同様に、今後数年間でこれに対する規範ができるとは思いません。

---

しかし、AI、LLM、ディフュージョンの新しい波では、唯一の定数は変化であるため、これに対する私の返信は、石に刻まれたものや、将来的に私が同意するかもしれないものとして見られるべきではありません。

[Tris20 (Tristan)]

それは本当に状況次第ですよね？上記の例では、回答に明らかな誤りがあった場合、特にユーザーをより大きな問題に導くような誤りがあった場合、投稿者に腹を立てるでしょう。AIが生成した回答を投稿すること自体は構いませんが、その情報の適切性と正確性を検証し、確認する時間も費やしている場合に限ります。さらに、生成されたコンテンツが、自分が情報を共有する方法と似ている、あるいはそれ以上であると同意しているのであれば、なお良いでしょう。

一方で、単にLLMに何かを投げ込み、回答をコピー＆ペーストして、その内容が正しいかどうかを読者である私に判断させようとしているのであれば、私は満足しません。誤った情報を正しいものとして提示することで私の時間を無駄にしているだけでなく、コミュニティ全体の信頼性、少なくともあなた自身の将来の応答の信頼性を低下させているのです。

今後、多くの善意の人々が数年かけてフォーラムでのLLMの使用から離れていくと予想されます。そして、残るのは悪意のあるユーザーか、フォーラムというものを理解していない人々でしょう。これはあくまで個人的な経験ですが、私は約2年間毎日LLMを使用してきましたが、自分で生成したコンテンツにますます移行しています。昨日、あまり熱意のないブログ記事を書きたいと思いました。GPTを試してみることにしましたが、どんなに頑張ってもGPTらしく聞こえてしまい、それが嫌でした。そこでClaudeを試しましたが、1時間かけても、そのコンテンツは生きている人間が書いたもののように聞こえることはありませんでした。結局、合計約3時間かけてすべてを破棄し、自分で約1時間で書き上げました。

その話のポイントは、少なくとも私にとっては、モデルがどれだけ優れていても、自分で生成したコンテンツの方がますますやりがいがあることを示しているということです。LLMを使用している他の人々も、今後2〜3年でその段階に達することを心から願っています。もしそうなれば、フォーラムでのAI応答は、悪意のあるユーザーか、善意だが何も知らない人々からのものだけになるでしょう。どちらにしても、その状況はコンテンツの扱いをはるかに容易にします。悪意のあるユーザーは追放し、善意の人々には教育し、「AIコンテンツは禁止するが、投稿するコンテンツを明確に消化し、その内容が問題に関する自分の意見と理解を表していることに完全に同意し、かつ、そのコンテンツが自分で生成するよりも同等かそれ以上に分かりやすい方法で自分の意見を表現している場合に限る」といったようなモデレーションポリシーを持つことができます。

[NateDhaliwal]

AIの回答を見るのは、一般的に少し不安です。さらに、投稿者が以下のいずれかを行う場合は、なおさらです。

• AIのクレジットを記載しない
• そのままコピー＆ペーストする

しかし、完全にAIによって生成された投稿が「解決策」としてマークされることは、本当に問題だと思います。実際、解決策はAIに与えられるべきです…あるいは、実際には、与えられず、ただ「いいね」と「ありがとう」だけで十分です。

---

追記ですが、もし投稿者がAIの回答を求めていたのであれば、単にChatGPTに尋ねればよかったのです。彼らは、人間に対して尋ねた質問に、AIからの回答で答えてもらう必要はありません。

[TheCuratedCommunity (Allison Van Buren)]

ここでは素晴らしい回答がたくさん見られますね。この特定の例では、AIは純粋に戦術的なものとして役立つと私は考えています。そのため、コミュニティに質問したり、メンバーからの回答を求めたりする際には、戦術的なものと「感情」的なものを考慮に入れてください。コミュニティの構造によっては、「ハウツー」の質問専用のスペースと、ピアコネクション専用の別のスペースがある場合があります。AIが歓迎され、オペレーターのエラーを回避するために推奨される可能性のある場所として、「ハウツー」を知っておくことは重要です。 コミュニティスペース内にバランスがあることは非常に素晴らしいことであり、それがメンバーを惹きつけ続ける理由です。

[tvavrda (Tomas Vavrda)]

Discourse にはすでに「ハウツー」セクション (ask.discourse.com) があると思います。これは、ユーザーが自分で利用できる Discourse 内の最高の AI ツールであり、誰かに代わりにやってもらう必要がありません。それ以外のすべては「ピア」スペースであるべきで、人間が交流し、質問よりも多くの質問をし、そこから真実を絞り出すために喜んで意見を異にする場所です。

ここで美しく述べられているように:

@HAWK

人々は、フォロワーを増やすことを優先して、真のコミュニティ構築の技術を失いつつあります。聴衆をコミュニティと誤って分類することは、オンラインコミュニティの基盤となる社会システムの複雑さを考慮に入れていません。

おそらく、人々は何か珍しいことが起こったときにコミュニティスペースに来ます。問題の解決策が見つかる前に、どのバージョンを使用しているか、これを試したか、あれを試したかなど、多くの質問があるでしょう。他のユーザーから共感を得られると素晴らしいこともあります。AI は質問をしません。私たちが時々どれほど愚かであるかについて直感を持っていません (たとえば、Meta で: Discourse を再構築しようとしましたか？セーフモードを試しましたか？)、そしてどんな共感も、たとえ心地よくても、間違いなく偽物です。

したがって、AI コンテンツが大多数を占める応答に対処する方法は、おそらくそれらを禁止し、AI ボット を実装して、ユーザーが簡単に自分で助けられるようにすることです。