Постоянная память AI в Discourse

Я реализовал простое хранилище ключ-значение, используя персонажа и пользовательские инструменты, на своём блоге.

Тем не менее, добиться правильной работы здесь очень сложно: приходится постоянно напоминать персонажу запоминать информацию, что утомительно.

Альтернативой является использование RAG (поиска с учётом контекста) по всей истории общения с ботом (в некоторой степени аналогично тому, как это делает OpenAI).


Предположим, для начала: каково ваше видение того, как это должно работать? Как это улучшит ситуацию?