AIプラグインのプライバシー懸念

feature-request

Discourseの開発者の皆様、
AIプラグインを稼働させていただきありがとうございます。私たちは、このプラグインをコミュニティフォーラムで使用しており、仕事に関する意見やベストプラクティスを共有しています。
ヨーロッパにおける個人プライバシーの権利について懸念があります。私たちのフォーラムでは、通常、ユーザー名として氏名を使用しています。AIプラグインへのリクエストは、投稿内容とともに氏名を第三者のサービス(OpenAI、Meta、Claudeなど)に送信します。これは、コンテンツが個人に紐づくため、プラグインを使用する上で大きな問題となります。
そのため、あらゆる個人データの転送を無効にするプライバシー機能の追加を希望しています。
皆様からのご返信をお待ちしております。
敬具、
Wolfgang

「いいね!」 2

それはサイトオーナーによる意図的な選択です。

Discourse AIは、初日からAIプロバイダーから独立して構築されたため、管理者は、データに関して信頼できるAIプロバイダーを選択したり、地域的な境界線を遵守するプロバイダーを選択したり、あるいはフォーラムが実行されているのと同じハードウェアでAIモデルをホストしたりできるため、データがサードパーティと共有されることはありません。

「いいね!」 9

投稿が新しいトピックに分割されました: MistralをEmbeddingsで実装する方法

ファルコさん、こんにちは。
この設定を変更する方法について、ガイドまたは指示をいただけますでしょうか?
また、この投稿は私の考えを非常によく表しています。

最初にLLMを設定したのと同じ方法で、管理者 > プラグイン > AI > LLM に移動し、そこで選択したLLMを登録することで行うことができます。

「いいね!」 2

なるほど、ありがとうございます。しかし、誤解があると思います。私の言いたいのは、どのLLMであっても、ユーザー名がLLMに送信されるかどうかを選択できるようにしたいということです。この設定も上記で説明されたものと同じですか?

「いいね!」 2

いいえ、そのようなサイト設定はなく、現時点では計画されていません。

サードパーティと共有できるものに対してより厳格なルールが必要なスタッフのために、私たちが提供している回避策は、事実上すべてのホスト型LLMおよびローカルLLMとの互換性であり、別の角度から問題に取り組むことで解決します。

サイト運営者に誤った安心感を与えるような不完全な機能を提供することは、私たちの考えとは異なります。

ユーザー名がPII(個人識別情報)と見なされる場合…では、PIIが投稿に紛れ込む無数の方法についてはどうでしょうか?

  • 引用
  • メンション
  • ジェーン・オースティンという名前を単にカジュアルに言及すること?
「いいね!」 4

なるほど、それはもっともな点です。そこまでは考えていませんでした。
つまり、結局は信頼できるLLM次第ということですね。もしどのLLMも信頼できず、自分でホストする余裕もない場合、その機能/プラグインは利用できないということでしょうか?

「いいね!」 2

書きかけの言及や引用さえも識別情報を明らかにする可能性がある場合、他にどのように秘密性を維持できますか?

その通りです!もしあなたが両方の場合:

  • 第三者のLLMを一切信頼しない
  • 自前のLLMを実行したくない

フォーラムにLLMを統合しないことをお勧めします。

「いいね!」 5