3.3.0 beta1로 업그레이드 후 AI 요약이 작동하지 않음

제품 지원
1

@falco, 이전 토픽이 자동으로 닫혔기 때문에 여기서 이어서 말씀드립니다. 불행히도 3.3.0 beta1로 업그레이드한 후 AI 요약 기능이 완전히 작동하지 않게 되었습니다. 즉, 요약 버튼이 완전히 사라진 상태입니다. 이전에 AI로 요약된 토픽에서는 버튼이 표시되지만, 새로운 토픽에는 더 이상 표시되지 않습니다(토픽 요약 임계값을 확인해 보았습니다).

로그를 확인하면 다음과 같은 오류가 보이는데, 이는 이전에 없던 새로운 오류입니다:

Message

DiscourseAi::Completions::Endpoints::Gemini: status: 429 - body: {
  "error": {
    "code": 429,
    "message": "Quota exceeded for quota metric 'Generate Content API requests per minute' and limit 'GenerateContent request limit per minute for a region' of service 'generativelanguage.googleapis.com' for consumer 'project_number:184805424415'.",
    "status": "RESOURCE_EXHAUSTED",
    "details": [
      {
        "@type": "type.googleapis.com/google.rpc.ErrorInfo",
        "reason": "RATE_LIMIT_EXCEEDED",
        "domain": "googleapis.com",
        "metadata": {
          "quota_limit_value": "0",
          "quota_location": "us-east2",
          "quota_metric": "generativelanguage.googleapis.com/generate_content_requests",
          "service": "generativelanguage.googleapis.com",
          "quota_limit": "GenerateContentRequestsPerMinutePerProjectPerRegion",
          "consumer": "projects/184805424415"
        }
      },
      {
        "@type": "type.googleapis.com/google.rpc.Help",
        "links": [
          {
            "description": "Request a higher quota limit.",
            "url": "https://cloud.google.com/docs/quota#requesting_higher_quota"
          }
        ]
      }
    ]
  }
}


Backtrace

/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:93:in `block (2 levels) in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2353:in `block in transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http/response.rb:320:in `reading_body'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2352:in `transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2306:in `request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/patches/net_patches.rb:19:in `block in request_with_mini_profiler'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/mini_profiler/profiling_methods.rb:50:in `step'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/patches/net_patches.rb:18:in `request_with_mini_profiler'
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:91:in `block in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:1570:in `start'

Env

HTTP HOSTS: xxx.com

여기도 50으로 설정되어 있습니다: "Net::HTTPBadResponse" errors on Gemini Embeddings - #2 by Falco

무엇이 문제인지 파악할 수 있도록 제가 제공할 수 있는 정보가 있을까요?

2

오류 메시지가 아주 잘 설명되어 있는 것 같네요. 쿼터 증대를 요청할 수 있는 곳까지 알려주고 있네요.

3

제가 궁금한 건, 이전에 주신 지침대로 분당 50회 요청으로 한도를 설정했는데(제미나이의 한도는 분당 60회입니다) 왜 속도 제한 오류가 발생하는지입니다.

4

이 설정들은 자동화된 백그라운드 호출을 제한하지만, 사용자에 의해 시작된 호출은 별도로 합산해야 합니다. 자세한 내용은 GCP의 로그를 확인하세요.

5

감사합니다. 현재 AI 접근 권한을 직원으로만 제한하려고 하고 있습니다. AI 설정을 두 번 확인했고, 가능한 범위 내에서 신뢰 수준을 직원으로 제한했습니다.

신뢰 제한이 없는 모듈(검색? 요약?)이 몇 가지 있는 것 같습니다. 크롤러나 로그인하지 않은 사용자가 이러한 AI 기능을 호출할 수 있을까요? 사이트 규모가 작아서 API를 사용하는 것이 로그인한 사용자일 리는 없다고 보고 있습니다.

또한, AI로 요약하기 버튼이 사라진 이유를 이해할 수 없고, 어떻게 다시 표시할 수 있는지 모르겠습니다. 이에 대한 조언을 주시면 감사하겠습니다.

6

참고로, 어떤 그룹이 AI를 사용하여 주제를 요약할 수 있는지는 custom summarization allowed groups 설정으로 관리됩니다. 해당 설정을 확인하여 예상하는 그룹이 포함되어 있는지 확인해 보세요.

의미론적 검색(Semantic Search)의 경우 AI 처리가 임베딩 생성 단계에서 이루어지므로, 해당 작업이 완료되면 AI 제공자에게 추가 호출 없이 AI 검색을 사용할 수 있다고 생각했습니다. 지금은 그 말이 정확한지 확신이 서지 않습니다.

7

이 모든 것을 정리하자면, Gemini 쪽에 문제가 있었습니다. 할당량 페이지가 비어 있고 API 키에 대한 어떤 지표도 표시되지 않았습니다.

간단한 해결 방법은 API 키를 삭제하고 새 키를 재생성하는 것이었습니다. 이제 새 API 키/프로젝트에 대한 지표 사용량을 확인할 수 있으며, 정상적으로 작동하고 있습니다. Falco 감사합니다.

8

여기에 추가 피드백을 남깁니다. 키가 작동하지 않게 되자 새 키로 교체했지만 AI 기능이 작동하지 않았습니다. BOT 헬퍼(포럼 및 설정 탐색기 - 둘 다 응답이 없으며 로그에 오류 발생)도 작동하지 않았고, AI 요약 버튼이 사라지는 등의 문제가 발생했습니다.

관리자 설정에서 AI 모듈을 비활성화/활성화하거나 ./launcher stop app을 사용하여 컨테이너를 중지하고 시작해 보았지만 도움이 되지 않았습니다. AI 기능이 다시 작동하려면 전체 기기를 재시작해야 했습니다.

수정: custom summarization allowed groups를 Everyone으로 설정하면 모든 사용자(스태프 포함)에게 AI 요약 버튼이 비활성화되는 것 같습니다 @JammyDodger

9

네, 그 everyone 의사 그룹은 좀 까다로운 녀석입니다. 그런 유형의 설정에서 이를 제거하여 더 많은 사람들이 혼동하지 않도록 하려는 계획이 곧 있을 것 같습니다. 이 용도에는 TL0 그룹을 사용하는 것이 적절합니다.

10

TL0은 로그인하지 않은 사용자에게 작동하지 않습니다. 따라서 익명 사용자에게 AI 요약 옵션을 사용하게 하려면 TL0은 작동하지 않습니다.

11

이 기능들은 현재 로그인한 회원만 사용할 수 있는 것 같습니다.