Это было бы здорово. Я не могу и не имею права требовать этого от команды Discourse, поэтому просто предлагаю некоторые идеи.
Используя старое решение с «разделителями» для более надежного парсинга, можно использовать сырое содержимое в стиле XML, например:
<SUMMARY_START>
Содержимое резюме.
<SUMMARY_END>
<SUGGESTIONS_START>
<SUGGESTION_START>
Предложение 1
<SUGGESTION_END>
<SUGGESTION_START>
Предложение 2
<SUGGESTION_END>
...
<SUGGESTIONS_END>
Затем, игнорируя всё, что находится вне тегов <START> и <END>, я считаю, что даже самая некомпетентная производственная модель ИИ сможет корректно обрабатывать метки.
Также стоит попросить ИИ не добавлять лишних описаний, а затем предупредить администраторов о возможных проблемах при включении этого флажка.
Я не знаю, как выглядит тело запроса, сгенерированное Discourse AI. Но если это не так, просто поместите системные промпты в первое сообщение от роли system, результат запроса к векторной базе данных — в следующее сообщение от роли system с префиксом вроде Важное прошлое содержимое:\n, а содержимое поста или другие фактические данные — в сообщения от роли user.