Привет @westes,
Понимаю вас. Я вижу, почему лимиты кредитов могут сначала казаться ограничивающими.
Вот несколько моментов, которые помогут взглянуть на ситуацию под другим углом:
Кредиты пополняются ежедневно, поэтому каждые 24 часа вы получаете новую порцию: 15 тыс. (тариф Starter) или 30 тыс. (тариф Pro). На практике маловероятно, что 20 разных пользователей одновременно запросят сводки в один день, особенно учитывая, что у нас работает кэширование. Как только тема будет сгенерирована в виде сводки, последующие пользователи увидят кэшированную версию без списания дополнительных кредитов. Но если вы действительно наблюдаете такой уровень ежедневного использования функции сводок, это на самом деле отличный знак! Это означает, что ваш форум очень активен, а пользователи вовлечены.
Если использование действительно такое высокое, возможно, вам пора перейти на более высокий тариф. Тариф Business (100 тыс. кредитов) с запасом покроет потребности очень активного сообщества. Высокое использование функций ИИ обычно сигнализирует о том, что вы перерастаете свой текущий план и в других аспектах.
Прежде чем рассматривать переход на более высокий тариф, вы также можете использовать квоты на пользователя. Система квот LLM позволяет более устойчиво распределять использование среди ваших пользователей, чтобы несколько активных пользователей не исчерпали всё в начале дня.
Если это всё ещё не поможет, сторонние LLM могут лучше подойти для вашего случая. Вы можете подключить собственного провайдера LLM (OpenAI, Anthropic, Gemini и др.). Вы будете оплачивать его отдельно, но это даст вам больше контроля и может оказаться более экономичным при больших объёмах использования.
Мы стремимся предложить решение «из коробки», которое хорошо работает для большинства клиентов, без необходимости возиться с API-ключами или отдельной биллинговой системой. Но вы не ограничены использованием только его. Это должно быть полезно, и если это кажется слишком ограничивающим, переход на стороннего провайдера — абсолютно нормальный вариант, и мы полностью поддерживаем такое решение.