AI-сводка темы зависает, получен недопустимый JSON-пейлоад?

Внести вклад Ошибка
1

Здравствуйте! Недавно я заметил, что функция Сводка темы на моём форуме, похоже, полностью перестала работать: запросы на генерацию сводки темы зависают на неопределённое время. Примечательно, что другие инструменты ИИ на сайте работают корректно, например, «Сводные заметки» (Summarization Gists) и помощник AI Composer Helper.

Ниже приведено изображение модального окна «Сводка темы», которое, по-видимому, зависло:

Чёрный экран отображает текст «Сводка темы», ниже расположены блоки-заполнители, а подпись гласит: «Генерация сводки темы с помощью ИИ...» (Подпись сгенерирована ИИ)
Чёрный экран отображает текст «Сводка темы», ниже расположены блоки-заполнители, а подпись гласит: «Генерация сводки темы с помощью ИИ...» (Подпись сгенерирована ИИ)507×227 7.05 KB

Вот запись лога, которая, кажется, имеет отношение к проблеме:

Это изображение показывает вывод терминала или консоли при генерации URL-адресов заданий с использованием API GPT-3.5 от OpenAI, где успешные статусы запросов выделены зелёным цветом, а ошибки — красным (Подпись сгенерирована ИИ)
Это изображение показывает вывод терминала или консоли при генерации URL-адресов заданий с использованием API GPT-3.5 от OpenAI, где успешные статусы запросов выделены зелёным цветом, а ошибки — красным (Подпись сгенерирована ИИ)1919×911 60.4 KB

DiscourseAi::Completions::Endpoints::Gemini: status: 400 - body: {
  "error": {
    "code": 400,
    "message": "Invalid value at 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \"json_schema\"\nInvalid JSON payload received. Unknown name \"json_schema\" at 'generation_config.response_schema': Cannot find field.",
    "status": "INVALID_ARGUMENT",
    "details": [
      {
        "@type": "type.googleapis.com/google.rpc.BadRequest",
        "fieldViolations": [
          {
            "field": "generation_config.response_schema.type",
            "description": "Invalid value at 'generation_config.response_schema.type' (type.googleapis.com/google.ai.generativelanguage.v1beta.Type), \"json_schema\""
          },
          {
            "field": "generation_config.response_schema",
            "description": "Invalid JSON payload received. Unknown name \"json_schema\" at 'generation_config.response_schema': Cannot find field."
          }
        ]
      }
    ]
  }
}

Сталкивался ли кто-то ещё с этой проблемой или есть идеи, как её решить? Заранее спасибо.

AI topic summarize hangs (Gemini)
3

Какую модель вы используете?

1 лайк
4

Сейчас я использую бесплатную версию Gemini 2.0 Flash.

1 лайк
5

Можете попробовать установить провайдер в значение “OpenAI”, а конечную точку — в https://generativelanguage.googleapis.com/v1beta/chat/completions?

1 лайк
6

Я выполнил шаги, которые вы дали, и могу подтвердить, что LLM теперь работает как ожидалось. Спасибо!

1 лайк
7

Очень рад, что вопрос решён, но я всё же считаю, что здесь есть баг, который нам стоит устранить @Falco / @Roman.

Возможно, стоит предусмотреть fallback, если модель по какой-то причине заявляет, что вернёт JSON, но не делает этого. Это один из аспектов, который нам нужно оценить.

1 лайк
8

Да, безусловно. Я хотел помочь изолировать проблему в Google API, а не в модели, чтобы мы могли на этой неделе заняться исправлением.

4 лайка
10

Ошибка Gemini была исправлена в:

Ожидался немного другой формат для схемы JSON. Кроме того, теперь завершение будет обрабатываться как обычный текст, если модель не возвращает валидный JSON при запросе.

5 лайков
11

Эта тема была автоматически закрыта через 2 дня. Новые ответы больше не принимаются.