BrianC
(Brian)
1
안녕하세요! Discourse AI 플러그인의 관리자 패널에 이제 Examples 섹션이 추가되었음을 확인했습니다. 이 섹션에서는 이전 사용자/모델 상호작용을 시뮬레이션하여 더 나은 응답을 유도할 수 있습니다.
이 예시를 만들 때 권장되는 모범 사례가 있을까요? 짧고 핵심적인 내용이어야 하나요, 아니면 더 긴 전체 응답 형태가 좋을까요?
또한, 평소 페르소나/시스템 프롬프트에 포함하곤 하던 내용을 여기에 옮기는 것이 좋은 방법일까요? 그리고 모델은 프롬프트에 있는 내용과 예시를 어떻게 다르게 처리하나요? 가중치나 처리 방식에 차이가 있나요?
프롬프트가 과도하게 길어지지 않으면서도 이 기능을 최대한 활용하고 싶습니다. 팁이나 설명을 주시면 감사하겠습니다!
Falco
(Falco)
2
출력 결과가 갖춰야 할 형식과 동일한 형식을 따르는 것이 좋습니다. 이후 상호작용에서 짧은 답변을 원한다면 예시도 짧게 작성하고, 그 반대라면 예시도 길게 작성하면 됩니다.
아니요. 이것은 단순히 해당 페르소나와의 모든 상호작용 앞에 붙여지는 대화 라운드를 추가하는 것입니다.
모델에 따라 다릅니다. Gemma와 같은 일부 모델은 시스템 프롬프트와 사용자 메시지를 기본적으로 동일한 가중치로 취급합니다. 반면 다른 모델들은 시스템 프롬프트에 더 큰 가중치를 부여합니다.
이 기능의 핵심 아이디어는 이 페르소나와의 대화가 다음과 같은 형태가 된다는 것입니다.
system: 시스템 프롬프트가 들어가는 곳
user: 예시 1
assistant: 예시 1
user: 예시 2
assistant: 예시 2
user: 실제 메시지가 들어가는 곳
assistant:
여기서 예시는 어시스턴트 메시지의 스타일을 설정하는 데 매우 효과적으로 작동합니다.