AI로 주제 요약이 무한정 로딩됩니다. 잘못된 JSON 페이로드 수신?

기여 버그
1

안녕하세요, 최근 포럼의 토픽 요약 기능이 완전히 작동하지 않는 것 같아 요청을 보내면 토픽 요약을 생성하는 작업이 무한정 멈추는 현상을 확인했습니다. 사이트의 다른 AI 도구들은 정상적으로 작동하고 있으며, 요약 Gist와 AI Composer Helper도 문제가 없습니다.

아래는 토픽 요약 모달이 멈춰 있는 것 같은 화면의 이미지입니다:

A black screen displays the text "Topic summary," with placeholder blocks below and a caption "Summarizing topic using AI...". (Captioned by AI)
A black screen displays the text "Topic summary," with placeholder blocks below and a caption "Summarizing topic using AI...". (Captioned by AI)507×227 7.05 KB

아래는 이 문제와 관련이 있을 것으로 보이는 로그 항목입니다:

This image shows a terminal or console output for generating job URLs using OpenAI's GPT-3.5 API, where successful request statuses are highlighted in green and errors in red. (Captioned by AI)
This image shows a terminal or console output for generating job URLs using OpenAI's GPT-3.5 API, where successful request statuses are highlighted in green and errors in red. (Captioned by AI)1919×911 60.4 KB

DiscourseAi::Completions::Endpoints::Gemini: status: 400 - body: {
  "error": {
    "code": 400,
    "message": "Invalid value at 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \"json_schema\"\nInvalid JSON payload received. Unknown name \"json_schema\" at 'generation_config.response_schema': Cannot find field.",
    "status": "INVALID_ARGUMENT",
    "details": [
      {
        "@type": "type.googleapis.com/google.rpc.BadRequest",
        "fieldViolations": [
          {
            "field": "generation_config.response_schema.type",
            "description": "Invalid value at 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \"json_schema\""
          },
          {
            "field": "generation_config.response_schema",
            "description": "Invalid JSON payload received. Unknown name \"json_schema\" at 'generation_config.response_schema': Cannot find field."
          }
        ]
      }
    ]
  }
}

다른 분들도 이 문제를 겪고 계신지, 혹은 해결 방법에 대한 아이디어가 있으신지 궁금합니다. 미리 감사합니다.

AI topic summarize hangs (Gemini)
3

어떤 모델을 사용하고 있나요?

1개의 좋아요
4

현재 무료 티어에서 Gemini 2.0 Flash를 사용하고 있습니다.

1개의 좋아요
5

provider를 "OpenAI"로, endpoint를 https://generativelanguage.googleapis.com/v1beta/chat/completions로 설정해 보시겠어요?

1개의 좋아요
6

말씀해 주신 단계를 수행해 보았고, LLM이 이제 의도대로 작동하는 것을 확인했습니다. 감사합니다!

1개의 좋아요
7

해결되어서 정말 다행이지만, 여전히 @Falco / @Roman 님과 함께 해결해야 할 버그가 있다고 생각합니다.

모든 모델이 JSON을 반환한다고 선언했지만 실제로는 그렇지 않은 경우, 어떤 이유로든 해당 상황이 발생하면 폴백(fallback) 처리를 해야 할 수도 있습니다. 이 부분은 평가(eval)가 필요한 영역 중 하나입니다.

1개의 좋아요
8

네, 맞아요. 모델이 아닌 Google API 쪽에서 문제가 발생하는지 분리해서 확인하고 싶어서, 이번 주에 수정 작업을 진행할 수 있도록 도와드리고 싶었습니다.

4개의 좋아요
10

Gemini 오류는 다음 PR에서 수정되었습니다:

JSON 스키마에 대해 약간 다른 형식을 기대하고 있었습니다. 또한, 모델이 요청에도 불구하고 유효한 JSON을 반환하지 않으면 이제 해당 완료 결과를 일반 텍스트로 처리할 것입니다.

5개의 좋아요
11

이 주제는 2일 후 자동으로 닫혔습니다. 더 이상 새 답변을 작성할 수 없습니다.