We can edit, change and build system prompts, but could we have more general access to every prompt? Those need tuning every now and then.
The special need for that request is AI explanations. It is good that it considers the context of a post, but it is now really lazy — specially OpenAI-based ones. It mostly copies what is already written, but it should expand that explanation while keeping the context too.
I’m a bit afraid that functionality is quite hard-coded (and something comes from the OpenAI ecosystem), but would editing be possible without needing to totally overhaul everything that is already built?
시스템 프롬프트는 지시사항뿐만 아니라 예상 출력 형식까지 제어하기 때문에, 이를 제대로 처리하는 것은 매우 어렵습니다.
지금 사용자에게 커스터마이징을 허용한다면, 요약이나 헬퍼와 같은 기능을 파싱하기 위해 필요한 예상 출력 형식을 업데이트할 때마다 사용자의 사이트가 깨지므로, 좌절감을 느끼는 사용자들의 지속적인 불만이 쏟아질 것입니다.
이를 피하는 한 가지 방법은 Guidance / 함수 호출 / 구조화된 출력을 사용하여 모든 것을 엄격한 형식으로 전환하는 것입니다. 그러나 현재 생태계는 대부분의 프로바이더와 셀프호스팅 옵션에서 이러한 기능이 사용 가능한 성숙도 수준에 이제 막 도달하고 있습니다. 이는 중요한 문제입니다. Discourse AI는 커뮤니티를 OpenAI에 종속시키지 않으며, 수천 개의 호환 가능한 LLM 중에서 선택할 수 있도록 허용하기 때문입니다.
결론적으로, 우리는 이 기능을 구현하고 싶지만, halfway(반쪽짜리) 구현은 할 수 없습니다. 이는 AI 생태계 전체가 따라잡아야 한다는 것을 의미하며, 그 과정은 지금 막 진행되고 있습니다.
@Falco 피드백 감사드립니다. 전반적으로 페르소나는 매우 잘 작동하며 높은 유연성을 제공합니다. 여기저기 어지럽게 된 포럼이 생기는 것을 원치 않는다는 관점도 충분히 이해합니다. 사실 그것은 포럼 소유자를 위한 배려라고 볼 수 있습니다. 프롬프트는 현재 상태가 매우 좋다고 생각하지만, 개별 커뮤니티에 맞게 약간의 컨텍스트를 통해 영향을 줄 수 있으면 좋겠습니다. ‘이것은 하라’, '저것은 하지 말라’는 식의 것 말이죠. 시스템 프롬프트는 현재 매우 잘 작동하고 있으니 건드리지 마시고, 어딘가에 약간의 추가 컨텍스트를 주입하는 정도면 충분할 것 같습니다.