@Falco와 제가 꽤 오랫동안 논의해 온 아이디어 중 하나는 “가이드된 요약(guided summary)” 옵션이었습니다.
"헬퍼"에 커스텀 프롬프트를 설정할 수 있도록 하여, 요약에도 커스텀 프롬프트를 입력할 수 있게 하는 방식이죠.
이런 시스템이라면 해당 문제를 해결할 수 있을 것 같습니다.
이러한 커스텀 프롬프트에 대한 UI와 장기적 영속성(long-term persistence)을 어떻게 구현할지 고민해 봐야 하지만, 도움이 될 수 있다고 생각합니다.
또 다른 아이디어(이미 존재하지만 개선할 수 있는 부분)는 다음과 같습니다.
“내 토픽과 대화하기” - 채팅 창에서 챗봇과 대화 중 화면에 토픽이 표시되어 있다면, 그 토픽이 컨텍스트가 되는 방식입니다. 현재 컨텍스트가 다소 제한적이기 때문에, 이를 위해서는 페르소나(persona) 설정을 꽤 조정해야 할 것입니다.