AI要約が3.3.0 beta1へのアップグレード後に機能しません

@falco、前のトピックが自動的に閉じられたため、ここで続けます。残念ながら、3.3.0 beta1 にアップグレードした後、AI 要約が完全に機能しなくなりました。つまり、要約ボタンが完全に消えてしまいました。(トピック要約のしきい値を確認しましたが)新しいトピックにはボタンが表示されず、以前に AI で要約されたトピックにのみボタンが表示されます。

ログを確認すると、このエラーが表示されます。これは新しく、以前はありませんでした。

Message

DiscourseAi::Completions::Endpoints::Gemini: status: 429 - body: {
  "error": {
    "code": 429,
    "message": "Quota exceeded for quota metric 'Generate Content API requests per minute' and limit 'GenerateContent request limit per minute for a region' of service 'generativelanguage.googleapis.com' for consumer 'project_number:184805424415'.",
    "status": "RESOURCE_EXHAUSTED",
    "details": [
      {
        "@type": "type.googleapis.com/google.rpc.ErrorInfo",
        "reason": "RATE_LIMIT_EXCEEDED",
        "domain": "googleapis.com",
        "metadata": {
          "quota_limit_value": "0",
          "quota_location": "us-east2",
          "quota_metric": "generativelanguage.googleapis.com/generate_content_requests",
          "service": "generativelanguage.googleapis.com",
          "quota_limit": "GenerateContentRequestsPerMinutePerProjectPerRegion",
          "consumer": "projects/184805424415"
        }
      },
      {
        "@type": "type.googleapis.com/google.rpc.Help",
        "links": [
          {
            "description": "Request a higher quota limit.",
            "url": "https://cloud.google.com/docs/quota#requesting_higher_quota"
          }
        ]
      }
    ]
  }
}


Backtrace

/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:93:in `block (2 levels) in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2353:in `block in transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http/response.rb:320:in `reading_body'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2352:in `transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2306:in `request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/patches/net_patches.rb:19:in `block in request_with_mini_profiler'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/mini_profiler/profiling_methods.rb:50:in `step'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/patches/net_patches.rb:18:in `request_with_mini_profiler'
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:91:in `block in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:1570:in `start'

Env

HTTP HOSTS: xxx.com

これも 50 に設定されています: "Net::HTTPBadResponse" errors on Gemini Embeddings - #2 by Falco

何が起こっているのか確認するために、何か提供できるものはありますか?

これは非常にわかりやすいエラーのようですね。クォータの増加をリクエストする場所まで提供されています。

「いいね!」 1

私の質問は、以前あなたが提供した指示に従って、1分あたり50リクエスト(Geminiは1分あたり60リクエストの制限がある)に制限を設定しているにもかかわらず、なぜレート制限エラーが発生するのかということです。

それらは自動バックグラウンド通話を制限しますが、それに加えてユーザーが開始した通話を合計する必要があります。詳細については、GCP のログを確認してください。

「いいね!」 1

ありがとうございます。現在、AIへのアクセスをスタッフのみに制限しようとしています。AIの設定をすべて再確認し、利用可能な場所では信頼レベルをスタッフに制限しました。

信頼制限がないモジュール(検索?要約?)があるのではないでしょうか。クローラーやログインしていないユーザーはこれらのAI機能を使用できますか?小規模なサイトなので、APIを使用しているのはログインユーザーではないことはわかっています。

また、AIで要約するボタンが消えた理由と、それを元に戻す方法がわかりません。何か insight があれば幸いです。

参考までに、どのグループがトピックを要約するためにAIを使用できるかは、「カスタム要約許可グループ」によって制御されます。その設定を確認して、期待どおりのグループが含まれているかどうかを確認できますか?

セマンティック検索の場合、AIパワーは埋め込みの作成内にあるため、一度完了すれば、AIプロバイダーに追加の呼び出しを行うことなくAI検索を使用できると思います。 今はそれが正確かどうか確信が持てません。

「いいね!」 1

これで締めくくりとして、Geminiに問題がありました。クォータページは空白で、APIキーに対するメトリクスが表示されません。

要するに、APIキーを削除して新しいものを再生成することで解決しました。これで、新しいAPIキー/プロジェクトのメトリクス使用量を確認できるようになり、正常に動作しています。Falcoさん、ありがとうございました。

「いいね!」 2

ここにさらにフィードバックがあります。キーが機能しなくなった後、新しいキーに交換しましたが、AI機能は機能せず、BOTヘルパー(フォーラムと設定エクスプローラー - どちらからも応答がなく、ログにエラーが発生しました)も機能せず、AI要約ボタンが消えました。

管理設定からAIモジュールを無効/有効にしたり、./launcher stop app を使用してコンテナを停止および開始したりしましたが、それも役に立ちませんでした。AI機能が再び機能し始めるには、マシン全体を再起動する必要がありました。

編集:custom summarization allowed groupsEveryone に設定すると、全員(スタッフを含む)のAI要約ボタンが無効になるようです @JammyDodger

はい、その everyone の擬似グループはトリッキーなものです。誤解を招く人を減らすために、まもなくそのような設定から削除する計画があると思います。TL0 がこの目的に適したグループです。

TL0 はログインしていないユーザーには機能しません。したがって、匿名ユーザーに要約 AI オプションを使用させたい場合、TL0 では機能しません。

これらの機能は現在、ログインしているメンバーのみが利用できると思います。

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.