좋은 제안입니다. 저는 Discourse 팀에게 이를 요구할 위치에 있지 않거나 요구할 수도 없으므로, 그저 몇 가지 제안을 드리는 것입니다.
더 견고한 파싱을 위해 구식 “separators” 솔루션을 사용하여 다음과 같은 XML과 유사한 원시 콘텐츠를 사용할 수 있습니다:
<SUMMARY_START>
Summary contnet.
<SUMMARY_END>
<SUGGESTIONS_START>
<SUGGESTION_START>
Suggestion 1
<SUGGESTION_END>
<SUGGESTION_START>
Suggestion 2
<SUGGESTION_END>
...
<SUGGESTIONS_END>
이 경우 <START>와 <END> 태그 밖의 내용은 신경 쓰지 않으면 됩니다. 이렇게 하면 가장 무능한 프로덕션용 AI 모델이라도 라벨을 올바르게 처리할 수 있다고 생각합니다.
또한 AI에게 추가 설명을 넣지 않도록 지시하고, 해당 체크박스를 활성화할 경우 관리자에게 발생할 수 있는 문제를 경고하는 것도 좋습니다.
Discourse AI가 생성하는 요청 본体的(request body)이 어떤 모습인지 정확히 알지 못합니다. 하지만 만약 그렇지 않다면, system 역할의 첫 번째 메시지에 시스템 프롬프트를 넣고, 다음 system 역할 메시지에 Past important content:\n과 같은 접두사와 함께 벡터 데이터베이스 조회 결과를 넣으며, 게시글 내용이나 기타 실제 데이터는 user 역할의 메시지에 넣으면 됩니다.