Я действительно задумываюсь о непрерывности взаимодействия с конечным пользователем. RAG, на мой взгляд, отлично подходит администраторам для предоставления информации о персонах. В ChatGPT, Gemini и других системах бот сохраняет небольшой профиль: тон, глубину, текущие цели — так что вам не нужно объяснять всё заново в каждом сеансе. Именно такой опыт был бы замечательным в Discourse AI: помощник запоминает несколько устойчивых фактов о каждом пользователе и использует их по мере необходимости, чтобы диалоги продолжались с того места, где они были прерваны.
Я не уверен, возможно ли в принципе хранение истории разговоров с использованием RAG для конечных пользователей.
Ценность заключается в том, что любое надёжное ощущение «оно меня знает» без постоянных напоминаний значительно улучшает опыт в тех случаях, когда пользователи возвращаются к тем же типам разговоров.
При этом я не думаю, что всё это — незначительная задача. Не могу сказать достаточно о том, насколько хорошо всё это уже разработано.