시스템 프롬프트는 지시사항뿐만 아니라 예상 출력 형식까지 제어하기 때문에, 이를 제대로 처리하는 것은 매우 어렵습니다.
지금 사용자에게 커스터마이징을 허용한다면, 요약이나 헬퍼와 같은 기능을 파싱하기 위해 필요한 예상 출력 형식을 업데이트할 때마다 사용자의 사이트가 깨지므로, 좌절감을 느끼는 사용자들의 지속적인 불만이 쏟아질 것입니다.
이를 피하는 한 가지 방법은 Guidance / 함수 호출 / 구조화된 출력을 사용하여 모든 것을 엄격한 형식으로 전환하는 것입니다. 그러나 현재 생태계는 대부분의 프로바이더와 셀프호스팅 옵션에서 이러한 기능이 사용 가능한 성숙도 수준에 이제 막 도달하고 있습니다. 이는 중요한 문제입니다. Discourse AI는 커뮤니티를 OpenAI에 종속시키지 않으며, 수천 개의 호환 가능한 LLM 중에서 선택할 수 있도록 허용하기 때문입니다.
결론적으로, 우리는 이 기능을 구현하고 싶지만, halfway(반쪽짜리) 구현은 할 수 없습니다. 이는 AI 생태계 전체가 따라잡아야 한다는 것을 의미하며, 그 과정은 지금 막 진행되고 있습니다.