今年の目標として、Discourse AI およびその機能の導入拡大を目指しています。コミュニティ内でDiscourse AIを試すことを妨げている要因について、全体像を把握しようとしています。
機能固有の側面が気になる可能性は理解していますが、今回は、問題となりうる理由の全体像を把握したいと考えています。
また、もしよろしければお電話でお話しさせていただけると幸いです。どのようなフィードバックでも大変ありがたく思います🙏
「いいね！」 9
AIの悪用。つまり、人々がAIを使ってあらゆるものを書いているということです。それは人間を無価値にするようなものですが、それはすべてのAIにとって避けられないことかもしれません。しかし、私はすぐに（もし支払うことができれば）そうするかもしれません！
「いいね！」 9
ええ、わかります。私たちは、Discourse AIを、すべてを「書く」ことに頼るのではなく、Discourseの旅における役立つアシスタントにするつもりです。同時に、GenAI機能に表示されているコンテンツがAIによって生成されたものであることを人々に知らせます。
「いいね！」 7
私たちのコミュニティでは、ユーザーがChatGPTがローンチされた頃に非常に一般的だった機能を使って、ジャンクな回答やチュートリアルの解決策をスパムしていました…
「いいね！」 4
個々の投稿を1つ以上のAIペルソナに知識ベースとして手動で割り当てられるようにしたいです。
「いいね！」 3
この瞬間は非常に高価であり、人間の議論に焦点を当てているときにユーザーが入力したりAIコンテンツを作成したりしたくありません。
「いいね！」 5
まだDiscourseは利用していませんが（評価はまだ進行中です）、概念的には2つの大きな障害があります。
- 当社のコミュニティは主にテーブルトークRPG愛好家であり、人間の創造性が高く評価されています。その結果、生成AIに対して否定的な見方をするユーザーがかなりの割合を占めています。新しいツールを使った実験も多く行われていますが、実質的に生成AIの使用は慎重に検討する必要があります。
- 当社はセルフホスティングを行っており、予算が限られています（一部のユーザーから寄付されたものです）。Discourse（または他のコミュニティソフトウェア）をホストするための十分なサーバーはありますが、現在のLLM（サービスとしての提供）と専用GPUサーバーの両方のコストは、予算に収めるには高すぎます。また、期待されるメリットもそれを正当化するには低すぎます。
「いいね！」 7
上記のコメントのいくつかに同意します。特に、AIで人々が書きすぎることを恐れており、人間が「書いた」ものとそうでないものを見分けるのが難しくなることです。
しかし、私がより大きな懸念を抱いているのは、リモートAIを使用することです。私は、Discourseフォーラムをどの程度公開したいかについてしばしば議論してきましたが、最近のAI APIがプライバシーをどの程度侵害するかについてのヒューリスティック（発見的手法）を持っていないようです。
より強力で安価な自己ホスト型、あるいはオンデバイスのLLMがあれば、もっと安心できると思います。オンデバイスのLLMがDiscourseにどのように役立つかはわかりませんが、リモートLLMを使用することには最近ためらいを感じています。
「いいね！」 3
DiscourseホストのオープンソースLLMは、他のサードパーティプロバイダーよりも安心できますか？（ただし、オンデバイス型よりは少し劣るかもしれませんが？）
「いいね！」 9
少しですが、セルフホストまたはオンデバイス（セルフホストフォーラムで機能する可能性がある場合）を好むと思います。
おそらく、Discourseが現在そうであるように、セルフホストのオプション付きでDiscourseホストであれば、それにもっと興奮するでしょう。その時点で、懸念はLLM出力の品質と実行コストに移ると思います。
「いいね！」 7
私のコミュニティはまだ確立されていないため、より確立されたコミュニティからの意見を聞きたいと思いますが、ここに投稿します。
DiscourseサイトにAIを活用した機能を追加することを妨げるものはありませんが、私が興味があるのはAIを活用しているという事実ではなく、「機能」そのものです。
例えば、セマンティック検索や、投稿を自動フラグ付けする機能（後で人間がレビューできるように）は、どちらも私が使いたい機能です。投稿をリアルタイムで翻訳する機能も役立つでしょう。
マーケティングの観点から、私が言いたいことの例をいくつか挙げます。
-
Googleでテキストを翻訳する場合、「AIで翻訳」とは言わず、単にテキストを翻訳するオプションを提供します。
-
Googleで検索する場合、「AIで検索」とは言いません。検索結果（現在はあまり良くありませんが）を返すためにAIが関与しているにもかかわらずです。
-
Soundcloudがアップロードされたトラックにタグを提案する場合、「AIでタグ付け」とは言わず、UIがいくつかのタグを提案するだけです。エンドユーザーは、アップロードされたトラックの分析に基づいて適切なタグを提案できる（素晴らしい）テクノロジーについて考えるようには促されません。
特にチャットボットに関連するAI関連機能は、オンラインコミュニティの本質に反すると感じられる可能性があります。「Discourse AI」という見出しの下にすべてのAI関連機能をグループ化することで、AIによって強化されているものの、フォーラムにとって非常に役立つ可能性のある機能から人々を遠ざけるリスクがあります。
私はマーケティングの天才ではないので、上記すべてを参考程度に受け止めてください。
「いいね！」 30
AIを活用したモデレーション支援の必須ツールは私にとって問題ありません。画像生成の方法を探していますが、コミュニティの精神を失うリスクがあるため、AIを使った方法はすべて拒否しています。
ソーシャルメディアが衰退しているのには理由があり、それがポイントです。
「いいね！」 2
私はそれを使用しています。私のフォーラムでは、AIが物事を説明するために使用されています[1]。しかし、一般メンバーには許可していません。なぜなら、それはあまりにも高価だからです。私は、月額50ドルが非常に高価であるという規模にいます;）
しかし、私にとっての主な問題はAIのせいではなく、まともな知識ベースを作成するためにどれだけの作業が必要かということです。しかし、私にとってAIの最大の弱点は、埋め込みをどれだけ悪く使用しているかであり、コミュニティによって作成されたコンテンツが十分に活用されていないことです。
はい、わかっています。それは主にOpenAIの制限によるものです。そして、その技術は主張されているほど本番準備ができていません。さらに、言語の壁があります。
さらに悪いことに、良いプロンプトを作成するのは非常に難しいです。そして、数週間後には何かが変更され、プロンプトを再び修正する必要があります。
いつか、いくつかのバックグラウンドジョブに役立つかもしれません。しかし、チームが毎日の要約などで苦労している（そして私の視点からは、時間の無駄であり、お金の無駄であり、すみません🥴）のを見ると、それが実際に収益を増加させないそのような作業にあまりにも多くの作業が必要であると主張します。それがドルであろうと幸福であろうと関係ありません。それは管理者や開発者のワークロードを減らすのではなく、増やします。
もちろん、エネルギー飲料の在庫を毎月補充するよりも少ない1万ドルを持つ大企業は、AIを使用して、Diacourseによるサポートフォーラムを含む物事を自動化できます。それがCDCKの目標であり、そうあるべきです。しかし、ここに自分の考えを伝えている人が何人いるかはわかりません。
as: 野球のルールを説明し、なぜそれが非常に人気のあるスポーツであるのか、たとえそれが非常に遅く、退屈であっても、推測してください ↩︎
「いいね！」 4
GenAIが問題を引き起こすか、コミュニティ内で大混乱を引き起こす可能性があり、自然な交流や人間の創造性から奪うという一般的な意見があるようです。Discourse AIでは、執筆を完全に代行するのではなく、執筆を強化するためだけに存在するようなバランスを取ろうとしていると思います。
「AIを使用する」という機能に関する@simonの素晴らしい指摘は、確かにそのブランディングが一部の人々を遠ざける可能性があり、逆にAIと対話しているという意識を人々が評価する可能性があります。
「いいね！」 8
無料ではないという事実によって、主に妨げられています。
「いいね！」 7
私たちはインタラクティブフィクションのファン、クリエイター、作家、アーティストのための小規模なクリエイティブコミュニティを運営しています。通常、モデレーションの仕事が多すぎるという問題に直面することはありません。モデレーターやコミュニティの多くのメンバーは喜んで質問に答えてくれます。そのため、AIを「フォーラムの仕事」に使うことはありません。
私たちが作成するゲームに関連して「テキスト生成」という文脈でAIを議論することはよくあり、多くの人がそれに興味を持っていますが、AIが「本物のフォーラムユーザーを装って」チューリングテストに合格しようと人々を欺こうとする状況で、実際のAI生成コンテンツを投稿することを禁止するというルールを設けました。私たちのフォーラムをAIのテストグラウンドとして使用したり、2006年からの過去のコンテンツをテキストコンテンツのスクレイピングフィールドとして使用したりすることは望んでいません。
人々がAI生成素材を、自身の執筆アシスタントとして、または構築中のゲームのデモンストレーションとして投稿する場合、それが「自身の」素材ではないことを明記するか、ソースとして引用するように依頼しています。ChatGPTのようなAIにトピックを与え、その結果を投稿することで、正当なフォーラム参加のように見せかけようとするスパマーが数人いました。私たちの芸術のジャンル全体が、ユーザーとのインタラクションに「応答する」テキスト作品を作成すること（Zorkのようなテキストアドベンチャーを考えてください）であるため、ほとんどの人は機械生成されたコンテンツを pretty easily に見抜いてフラグを立てることができます。
AIまたはLLMは、利用規約および行動規範に同意することはできません。もし誰かを不快にさせたとしても、それをモデレートする方法はありません。私たちはユーザーにこの種のコンテンツについて透明であることを期待しているため、私たちのサイトがフォーラムのコンテンツや応答にAI生成を使用することは、おそらく偽善的でしょう。
また、多くのユーザーがグラフィックアーティストであり、オンライン作品がAIアートのソース素材として盗まれることに非常に敏感であるため、ゲームでのAIアートの使用に関するトピックが、それを容認する人々に対する個人的な攻撃にすぐに発展してしまったため、勃発寸前の炎上戦争を鎮圧しなければなりませんでした。そのため、AIは、意図的な盗用の文脈で議論されないように注意する必要があるトピックの1つです。
TL;DR: AIは、多くのアーティストや作家が利用するフォーラムの文脈で使用すべきではない、ルールを設ける必要があったホットボタンの問題です。
「いいね！」 11
私たちはAIの流行にはうんざりしています。なぜなら、それはほとんどの場合、ゴミの山を生み出し、その見返りに環境破壊を引き起こすからです。バブルが弾けて、誰もが次に流行るくだらないものに夢中になるか、それよりもさらに良いことに、実際に役立つものに焦点を当てるか、あるいは皆が見過ごしている基本的な機能を改善することに期待しています。AIのゴミをすべてに詰め込もうとしているのは、他の皆が同じことをしているからであり、そして今、無知な投資家たちが資金を投じているものだからです。
おそらくあなたが望んでいた答えではないかもしれませんが、それが正直なところです。
「いいね！」 7
ここでの主な障壁は、サードパーティのツールやデータアクセスに関する社内制限（開始の許可を得るため）のナビゲーションと、コスト（トークン使用量など）の見積もり方法が明確でないことです。これにより、新しいツールの使用を開始するための予算承認を得ることができません。
特にセンチメント分析レポートなど、いくつか使用を開始したいと思います。ただし、ツールの認知と実装の間には大きなギャップがあるように感じます。
また、私たちのコミュニティにさらに多くのGenAIコンテンツを持ち込むことに関する周辺的な懸念もあります。これは、コミュニティメンバーとその生計に影響を与える最も重要なトピックです。また、スレッドの明らかなAI要約（および既存の投稿からの質問への「回答」のかなり不正確な試み）を投稿する新しいフォーラムアカウントも多数見られます。そのため、ユーザーはすでに、コミュニティの人間的な要素が、AIツールによってサポートまたは拡張されるのではなく、AIツールによって圧倒されていると感じています。
「いいね！」 5
AI生成コンテンツに焦点を当てたコメントが多いようですが、私たちのエンタープライズコミュニティのために、Discourse AIの管理面への継続的な投資を希望します。つまり、コミュニティの価値をリーダーシップチームに示すのに役立つツールです。私たちの（比較的）クリーンなカテゴリ分類とタグ付けのおかげで、四半期ごとのビジネスレビューでDiscourse AIを非常にうまく活用し、「この製品について議論している、このカテゴリの、このユーザーサブセットの感情はこうです」といったことを時系列で示すことができました。
それをグラフ化し、このような先行指標を見ることでコミュニティの価値をより定量的なビジュアルで組織に示すことは、素晴らしい反響と継続的な投資につながりました。このような機能がさらに増えれば、私たちはより深く掘り下げることができるでしょう。
AIボットについては、AIボット体験を仲介する能力のカスタマイズをさらに進めたいと考えています。ユーザーデータをAIサービスに送信する方法については厳格な要件があるため、DiscourseとAWS Bedrockの間に独自のAWS Lambdaサービスを構築しました。ボットが連携するエンドポイントを指定する機能と、オブジェクトモデルに関するドキュメントがあれば、コミュニティで既存のAIボットを完全に活用できるようになります。現時点では、PMとWebhookを使用して独自のボット体験を構築し、一時的にボックス体験をシミュレートしています。
Discourseの管理とモデレーションにAIをさらに活用するためにできることは、私たちの視点からは最善の投資となります。私たちはビジネスのために、スケーラブルな方法でこのコミュニティを構築し、サポートする必要があります。そして、それを可能にするためにDiscourseでAIを活用する多くの機会があると考えています。
「いいね！」 12
team@discourseにご連絡ください。
サイトで「関連トピック」が有効になっていないのは非常に残念です。これは完全に当社がホストしており（すべてのプランに含まれています）、データやトークン、価格に関する懸念はありません。
同様に、センチメントモデルも自社でホストしており、喜んでお客様と検討させていただきます。センチメントについては、具体的にどのような問題が解決されるのかを理解しようとしているため、まだ少し懐疑的です。
また、自社ハードウェアでオープンモデルを実行することも検討しており、Llama 3は驚くほど有能です。特に7Bモデルが自信を持って要約を実行できるようになれば、長期的には要約などの機能を自社モデルで提供できるようになる可能性があります。
予算については承知しております。Discourse AIはすでにユーザーごとのトークン使用量を追跡しており、プラグインにクォータを追加する予定です。
これはロードマップに大きく載っており、現在取り組んでいます。URLを指定して、それが話す「方言」を指定できる機能です。
「いいね！」 9