@falco, продолжаю эту тему из предыдущей, так как она автоматически закрылась. К сожалению, после обновления до версии 3.3.0 beta1 функция AI-резюмирования полностью перестала работать: кнопка для создания резюме полностью исчезла. Я вижу кнопки только на темах, которые ранее были обработаны AI, но их нет на новых темах (я проверил порог для резюмирования тем).
При просмотре логов я вижу эту ошибку, которой раньше не было:
Сообщение
DiscourseAi::Completions::Endpoints::Gemini: статус: 429 - тело:
{
"error": {
"code": 429,
"message": "Превышена квота для метрики квоты 'Запросы к API генерации контента в минуту' и лимита 'Лимит запросов на генерацию контента в минуту для региона' сервиса 'generativelanguage.googleapis.com' для потребителя 'project_number:184805424415'.",
"status": "RESOURCE_EXHAUSTED",
"details": [
{
"@type": "type.googleapis.com/google.rpc.ErrorInfo",
"reason": "RATE_LIMIT_EXCEEDED",
"domain": "googleapis.com",
"metadata": {
"quota_limit_value": "0",
"quota_location": "us-east2",
"quota_metric": "generativelanguage.googleapis.com/generate_content_requests",
"service": "generativelanguage.googleapis.com",
"quota_limit": "GenerateContentRequestsPerMinutePerProjectPerRegion",
"consumer": "projects/184805424415"
}
},
{
"@type": "type.googleapis.com/google.rpc.Help",
"links": [
{
"description": "Запросить более высокий лимит квоты.",
"url": "https://cloud.google.com/docs/quota#requesting_higher_quota"
}
]
}
]
}
}
Стек вызовов
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:93:in `block (2 levels) in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2353:in `block in transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http/response.rb:320:in `reading_body'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2352:in `transport_request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:2306:in `request'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/patches/net_patches.rb:19:in `block in request_with_mini_profiler'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/mini_profiler/profiling_methods.rb:50:in `step'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/rack-mini-profiler-3.3.1/lib/patches/net_patches.rb:18:in `request_with_mini_profiler'
/var/www/discourse/plugins/discourse-ai/lib/completions/endpoints/base.rb:91:in `block in perform_completion!'
/var/www/discourse/vendor/bundle/ruby/3.2.0/gems/net-http-0.4.1/lib/net/http.rb:1570:in `start'
Окружение
HTTP HOSTS: xxx.com
Думаю, мой вопрос в том, почему я получаю ошибку ограничения скорости, хотя установил лимит в 50 запросов в минуту (у Gemini лимит — 60 в минуту), следуя инструкциям, которые вы предоставили ранее?
Это ограничит автоматические фоновые вызовы, но вам нужно также суммировать вызовы, инициированные пользователем. Для получения дополнительной информации проверьте логи в GCP.
Спасибо. Сейчас я пытаюсь ограничить доступ к ИИ только для сотрудников. Я дважды проверил все настройки ИИ и там, где это возможно, ограничил уровни доверия сотрудниками.
Думаю, есть некоторые модули, у которых нет ограничений по уровням доверия (поиск? суммаризация?). Могут ли краулеры или незарегистрированные пользователи вызывать эти функции ИИ? Сайт небольшой, поэтому я знаю, что API используют не незарегистрированные пользователи.
Также я не понимаю, почему исчезла кнопка «Суммаризировать с помощью ИИ» и как её вернуть. Буду благодарен за любые разъяснения.
Кстати, группы, которые могут использовать ИИ для резюмирования тем, контролируются настройкой custom summarization allowed groups. Вы можете проверить эту настройку и убедиться, что там указаны ожидаемые вами группы?
Я думаю, что для семантического поиска возможности ИИ заключаются в создании эмбеддингов, поэтому после их завершения люди могут использовать поиск на базе ИИ без дополнительных запросов к провайдеру ИИ. Теперь я не уверен, что это верно.
Чтобы подвести итог, в Gemini возникла проблема. Страница квот пустая и не отображает никаких метрик для ключа API.
Краткое решение заключалось в том, чтобы удалить ключ API и сгенерировать новый. Теперь я вижу метрики использования для нового ключа API/проекта, и всё работает нормально. Спасибо, Falco.
Вот дополнительная обратная связь. После того как ключ перестал работать, я заменил его на новый, но функции ИИ не заработали: помощник BOT (Форум и Settings Explorer — от обоих нет ответа, в логах ошибки) не работал, кнопка суммаризации ИИ исчезла и т. д.
Я пытался отключить/включить модуль ИИ в настройках администратора, остановить и запустить контейнер с помощью команды ./launcher stop app, но это тоже не помогло. Чтобы функции ИИ снова заработали, пришлось перезагрузить всю машину.
РЕДАКТИРОВАНИЕ: Похоже, что установка параметра custom summarization allowed groups в значение Everyone отключает кнопку суммаризации ИИ для всех (включая сотрудников) @JammyDodger
Да, эта псевдо-группа everyone — штука хитрая. Кажется, скоро планируют убрать её из таких настроек, чтобы не вводить людей в заблуждение. Для этой цели подойдёт группа TL0.
TL0 не работает для пользователей, не авторизованных в системе. Поэтому, если мы хотим разрешить анонимным пользователям использовать опцию Summarize AI, TL0 не подойдёт.