Спасибо, Сэм!
Это очень полезный комментарий.
Я всегда считал, что RAG-документы работают в паре с инструментами (обычно поиск и чтение). То есть использовать инструменты для получения ответов на форуме, а RAG — для добавления дополнительных знаний, например, из блогов, внешних документов и т. д.
А затем из всего этого выбирать наиболее релевантное.
Я использовал промпт, чтобы задать персонажу правила работы с этим контекстом, но не думал о том, что:
Делается ли это путём предоставления объяснений о структуре форума и примеров вопросов и ответов в документации?
Можете ли вы немного подробнее рассказать, как происходит обобщение вопроса?