우리는 시스템 프롬프트를 편집하고 변경하며 구축할 수 있지만, 모든 프롬프트에 대한 더 일반적인 접근 권한을 가질 수는 없을까요? 이러한 프롬프트는 때때로 튜닝이 필요합니다.
이 요청의 특별한 필요성은 AI 설명 기능입니다. 게시물의 맥락을 고려하는 것은 좋은 점이지만, 지금은 정말 게으릅니다 — 특히 OpenAI 기반인 경우. 기존에 작성된 내용을 단순히 복사하는 경우가 많지만, 맥락을 유지하면서 설명을 확장해야 합니다.
해당 기능이 상당히 하드코딩되어 있고(일부는 OpenAI 생태계에서 온 것일 수 있음) 걱정되지만, 이미 구축된 것을 완전히 재설계하지 않고도 편집이 가능할까요?
다음 몇 달 동안의 로드맵에 포함되어 있습니다.
안녕하세요 @Falco, 시스템 프롬프트를 편집할 수 있도록 허용하는 시기에 대해 업데이트가 있나요? 저는 이것이 포럼 헬퍼와 LLM을 활성화할 때 사용되는 메인 시스템 프롬프트를 의미할 것 같고, 이 프롬프트는 현재 표시되지 않는 것으로 알고 있습니다 
시스템 프롬프트는 지시사항뿐만 아니라 예상 출력 형식까지 제어하기 때문에, 이를 제대로 처리하는 것은 매우 어렵습니다.
지금 사용자에게 커스터마이징을 허용한다면, 요약이나 헬퍼와 같은 기능을 파싱하기 위해 필요한 예상 출력 형식을 업데이트할 때마다 사용자의 사이트가 깨지므로, 좌절감을 느끼는 사용자들의 지속적인 불만이 쏟아질 것입니다.
이를 피하는 한 가지 방법은 Guidance / 함수 호출 / 구조화된 출력을 사용하여 모든 것을 엄격한 형식으로 전환하는 것입니다. 그러나 현재 생태계는 대부분의 프로바이더와 셀프호스팅 옵션에서 이러한 기능이 사용 가능한 성숙도 수준에 이제 막 도달하고 있습니다. 이는 중요한 문제입니다. Discourse AI는 커뮤니티를 OpenAI에 종속시키지 않으며, 수천 개의 호환 가능한 LLM 중에서 선택할 수 있도록 허용하기 때문입니다.
결론적으로, 우리는 이 기능을 구현하고 싶지만, halfway(반쪽짜리) 구현은 할 수 없습니다. 이는 AI 생태계 전체가 따라잡아야 한다는 것을 의미하며, 그 과정은 지금 막 진행되고 있습니다.
@Falco 피드백 감사드립니다. 전반적으로 페르소나는 매우 잘 작동하며 높은 유연성을 제공합니다. 여기저기 어지럽게 된 포럼이 생기는 것을 원치 않는다는 관점도 충분히 이해합니다. 사실 그것은 포럼 소유자를 위한 배려라고 볼 수 있습니다. 프롬프트는 현재 상태가 매우 좋다고 생각하지만, 개별 커뮤니티에 맞게 약간의 컨텍스트를 통해 영향을 줄 수 있으면 좋겠습니다. ‘이것은 하라’, '저것은 하지 말라’는 식의 것 말이죠. 시스템 프롬프트는 현재 매우 잘 작동하고 있으니 건드리지 마시고, 어딘가에 약간의 추가 컨텍스트를 주입하는 정도면 충분할 것 같습니다.