最初の理由は、Discourse AIがどのような機能を持っているのかを実際によく知らなかったことです。Metaでいくつか見かけましたが、それ以外はよく知りませんでした。
しかし、このページで疑問は解消されました 
もしこれを見ていなかったら、何ができるのか分からなかったでしょう。
他の多くの人もそうかもしれませんが、それは分かりません。
「いいね！」 7
「AI」という言葉を聞くだけで、私たちのコミュニティのほとんどの人はうんざりし、残りの人々は二極化します。私たちのケースでは、莫大なエネルギー消費とグローバル監視を次のレベルに引き上げる大企業にお金を払うことは…私たちのすべての価値観に反します。
オープンソースとセルフホストでこれを緩和できるかもしれませんが、それでも…私たちがそれを使用する主な機能はより良い検索とより良い提案です。そして、それに「AI」に頼る必要があるのでしょうか？同じコストとエネルギー消費で、ローカルで機能するコンテンツデータベースと検索・提案アルゴリズムの改善があり、大手AIゲームのアクティブプレイヤーになることなく、それらの改善を利用できるのではないでしょうか？
「いいね！」 4
例えば、AIが組み込みの「校正」ツールとしてのみ使用されるのであれば、私はそれを使用するかもしれません。あるいは、翻訳ツールとしても。
「いいね！」 1
Discourse AIの使用を妨げるものは何もありません。むしろ、現在ではアプリケーション全体で最も素晴らしい部分の1つだとさえ思っています。
しかし、私は教育者であり、AIの研究者/エンジニアでもあるため、このいわゆる「AIバブル」の外にいる人々と密接に協力していることから、この問題について謙虚な見解を提供したいと思います。私の経験では、人々は主に3つの理由でAIの使用/実装をためらっています。
- 悪名高いLLMの幻覚を管理できない。
- 関与を正当化するために、適切なユースケースを見つけられない。
- その能力を誤解しており、失望する。
実際には、これらのジレンマはすべて、この件に関する教育と適切なプロンプトエンジニアリングによって軽減できます。したがって、Discourse側に欠陥があるわけではありません。しかし、もし同社がDiscourse AIプラグインに特化した「AI入門」の短期コースを作成すれば、導入率と快適さの両方が向上するかもしれません。AIは現在大きな話題となっているため、多くの人が、どのように、または何のために使用するのかを知らなくても、使用したいと考えています。
それにもかかわらず、私の直感では、この機能セットは、単に巧妙でシステムに非常によく統合されているため、近い将来Discourseの人気を牽引するだろうと考えています。本当に素晴らしい仕事です！
「いいね！」 6
これは非常に奇妙な言い方だと思います。批判としてではなく、スレッドのタイトル「Discourse AIを試すのを妨げているものは何ですか？」を繰り返しているからです。
どちらの場合も、AIは明らかに良いもので価値のあるものであるという前提があり、なぜかそれが見えていない人がいるように感じられます。
しかし、私はそれを異なって見ています。今日の「AI」は、最新のもの自体が好きでたまらない人々にとって非常に魅力的な、魅力的なテクノロジーの泡であり、あちこちで価値があるかもしれませんが、それ自体に内在的な価値は全くありません。
問題は、その利点が何であるか、何が物事を改善するのか、この場合はフォーラムのメンバーやフォーラムの管理者にとって何が改善されるのか、ということです。
そこで、次の点に移ります。
言い換えれば、今日の製品の単なる信頼性の低さです。要約や提案で役立つこともありますが、あまりにも頻繁に間違えます。信頼できない要約？信頼できない感情分析？それはより悪い経験しか生みません！
AIを推進するために雇用されている人、または製品に統合するために雇用されている人には、少し同情します。それが雇用の性質であり、時にはその役割自体が誤解されていることもあります。
しかし、これがすべてのフォーラムを助ける素晴らしいものだという前提は、本当に理解できません。いくつかのフォーラムでは、おそらく。価値がどこにあると想定されているのか、そしてその価値が信頼できない形で提供されるコストを含めて教えてください。
「いいね！」 3
私の言いたいのは、AIは非常に多くのことを改善できるということです。私の経験では、クライアントの中には、ビジネスや業務を何らかの形で強化したいと考えているものの、具体的にどうすればよいかわからないという人がいます。私は、誰もがAIを使おうとすべきだとは全く思っていません。それは単に、現在の誇大広告の罠にはまっているだけです。
確かに本質的な価値はありません。私もそう示唆したわけではありません。ほとんどのテクノロジーと同様に、過剰に使用されたり、期待外れの結果になったり、あるいは完全に悪用されたりする可能性があります。
私はまだこの「著しい信頼性の低さ」を経験したことがありません。おそらく、あなたが達成しようとしていることによりますか？非常に一般的で複雑なタスクは、依然として信頼性の低い結果につながる可能性があります。それは本当です。繰り返しになりますが、これを軽減するためには、プロンプトエンジニアリングとこのテクノロジーの応用に関する十分な知識が不可欠です。したがって、私の主張は変わりません。
同情は感謝しますが、必要ありません 
。私は自営業であり、必要のない人々にAIを「推進」する必要はありません。また、あなたがトピックについてほとんど根拠のない意見を持っていることから、誰かやその仕事が誤解されていると決めつけるのは非常に思い込みが激しいことです。
私は、脳腫瘍を自動的に検出し、セグメント化し、治療リスク分析を提供するAIシステムを開発しました。そのような進歩から恩恵を受ける患者が、そのような役割が「誤解されている」と同意するとは思えません。私たちの中には、単に一儲けするためだけでなく、人類の利益のためにAIを研究している者もいます。
繰り返しますが、それがすべてのフォーラムを助けるとは仮定していませんし、むしろドメイン知識や最終目標なしに「ただ」採用する管理者は愚かかもしれないと信じています。
余談ですが：
AIに関する今後の応答では、もう少し差別的でなく、もう少し情報に基づいたものになることを謙虚に奨励します。あるいは、少なくとも誰かの応答を文脈から切り離して、誤解されていると非難し、同情を提供しようとしないでください 
編集：
Discourseがカスタマイズのオプションを増やすこと（例えば、トピックサマライザーを適切にプロンプトエンジニアリングする機能）が、多くのリスクを軽減するということを追加するのを忘れました。彼らはすでに、ペルソナや使用するモデルを選択する機能などを通じて、この方向に向かっています。
「いいね！」 1
申し訳ありませんが、このスレッドが始まった時からずっと考えており、あなたの貢献を私の出発点として利用しました。私の観察には、特定の個人的な意味合いはありません。
私にとって、AIを議論で使用することについて、@Saif が知りたいと思っているように、価値提案を知る必要があります。現在、私のフォーラムはうまく機能しており、コストは管理下にあります。金銭的なコストがかかるものを追加するには、その利点を知る必要があります。AIを試すことを妨げているものは何もありません。
「いいね！」 4
Akismet を無効にし、Discourse AI Spam and Persona を内部でテストしています。LLM は Google Gemini Flash 2.0 です。
これはインタラクションで学習し、人間のフィードバックでディープラーニングしますか？キャッシュデータは有料版のみ許可されているオプションなので。
「いいね！」 1
何も学習しませんが、間違いを犯していることに気づいた場合は、フォーラム固有のカスタム指示を提供できます。
「いいね！」 2
ペルソナのメンションを特定のトピックにロックする可能性はありますか？
これが再び話題になったので：
-
私はそれを使用していますが、コストを非常に注意深く監視しています。私の最大の懸念は、少なくとも平均的なトークン使用量がどの程度になるかの感覚を得るまで、トークン使用量が制御不能になることです。コスト制限を設定できるのは良いことですが、コミュニティの通常の利用状況を知るまで、個人的には安心できません。これには時間がかかります。
-
ユーザーの信頼問題は非常に大きいです。私がどのようなメッセージを作成しても、サイト管理者として何を言っても無駄です。LLMがユーザー生成コンテンツをトレーニングに使用しており、Discourseシステムによるいかなる使用も「許可なく」ユーザーデータを「販売」しているという揺るぎない認識があります。これは、私の経験では、多くのコメント投稿者の間で一般的な問題であり、人々は「AI企業が実際に何をしているかを知っている」ため、それを覆すことは不可能です。フォーラムでAIベースのトリアージを有効にして、それを実行していると言っても、「私の言葉でお金を稼ぐために、あなたのデータをAIテックブロ企業に送ることに同意しません！」という苦情の洪水に直面する可能性があります。この種のことに懸念を抱いていない人もいますが、懸念している人は、議論には全く興味がない一方で、激怒しています。この問題に対する良い答えがありません。
-
私のフォーラムのスパム検出の状態を、[ある時点で数十の異なる企業のモデルがどのように感じているか]（https://meta.discourse.org/t/ai-spam-bot-says-it-is-not-spam-but-scan-log-says-it-is-spam/379375/5）に依存させることに、私はいくぶん不快感を感じています。正直に言いましょう。AIスパム検出、AIトリアージ、その他のすべてのAI機能は、基本的に「よし、これをAIの問題にしよう」と言って、プロンプトエンジニアリングを通じてそれをどのように実行したいかをコード化しようとしているだけです。それは機能しますが、そのプロセスは*非常に非決定的*です。基本的に、物事が機能し続けていることを願うしかありません。私はこれが好きではありません。全く好きではなく、不安になります。私はツールが完全に決定的であることを望みます。LLMは決定的であることの対極にあり、私たちはOpenAI*などが提供するものに、フォーラムの機能の一部を依存させています。
とはいえ、私はAIアンチスパムとAIフォーラムトリアージの両方を使用しています。それは役立ちます。しかし、これらのソリューションの効果を継続的に監視する必要があるという事実を認識するように努めています。
「いいね！」 2
プラグインに関連するコンピューティングコストは誰が支払いますか？
トークン生成は無料ではなく、クラウドでGPUをレンタルするには、最も安いプラン（Google CloudのNVIDIA T4）で月額約250ドルかかります。
このプラグインは月額250ドルですか？
「いいね！」 1
ほとんどの人は、大手AIサービスプロバイダーのいずれかの有料プランを利用していると思います（ドキュメントのこちらにサポートされているモデルのリストがあります）。
残念ながら、セルフホスティング向けの安価な選択肢は認識していません。私が知っているGPUベースのものはすべて、あなたが言及した価格帯にあります。また、CPUベースの推論は、より強力なマシンでも遅すぎると推測します。
「いいね！」 1
セルフホストされたDiscourse AIを使用すると、API経由でさまざまな商用モデルに接続できます。AIトリアージ、AIスパム対策、および一部のAIナイトリーサマリーの費用は、Gemini Flash 2.0を使用した場合、月額約0.03ドルです。
「いいね！」 4
「セルフホスト型AI」についての理解が異なっているようです。私にとってそれは、ローカルで実行されるモデル/サービスに接続することを意味します。あなたが説明していることは可能ですが、実際にはローカル部分は単なるプロキシであり、データはサーバーから離れてAPIプロバイダーに転送されることになります。多くの人にとってはそれで問題ないでしょうが、私や私たちのコミュニティにとっては、それは選択肢ではありません。
「いいね！」 1
セルフホスト型Discourseのことを指していました。私の間違いです。
「いいね！」 4