Когда я устанавливаю «Макс. количество постов в контексте»
Это ожидаемое поведение данной настройки? Если да, то почему не уведомить пользователя о достижении порога, а просто прекратить ответы?
Так не работает. Он «запоминает» множество ответов и использует их для сохранения контекста, а затем как основу для новых ответов.
Скорее всего, вы используете слишком много токенов или что-то подобное, и из-за этого он просто перестает выполнять ваш запрос.
Думаю, в логах ошибок должно быть что-то об этом.
Да, я тоже так подумал, прочитав описание.
Но до вчерашнего дня, если я достигал лимита постов, всё просто зависало.
Сегодня, когда я попробовал, всё работает как ожидалось — зависаний нет, и количество постов остаётся в указанном лимите. Похоже, проблема исправлена 
Странная проблема, но да, это просто устанавливает размер контекста.
Интересно, не скрывается ли здесь какая-то ошибка при обновлении.
Также я хочу добавить стратегию «суммаризация», которая позволит работать с огромными контекстами при небольшом количестве токенов (для каждых N токенов выполнять суммаризацию для извлечения ключевой информации).
