안녕하세요, 여러분
,
먼저, 공식 AI 플러그인을 개발하고 유지 관리해 주신 Discourse 팀에 감사드립니다. 다양한 배포 시나리오에서 안정적이고 유연하게 사용할 수 있도록 많은 고민이 들어간 것이 느껴집니다.
그럼에도 불구하고, 여러 AI 프로바이더(OpenAI 호환 게이트웨이 및 제3자 Gemini 엔드포인트 포함)를 통합해 보며, AI 도구 생태계가 성숙해짐에 따라 점점 더 불편하게 느껴지는 UX상의 공백 두 가지를 발견했습니다. 이에 대해 공식적인 개선 계획이 있는지, 혹은 이를 해결하기 위한 커뮤니티 플러그인에 대한 관심이 있는지 문의드리고자 합니다.
1. 프로바이더로부터의 모델 탐색 / 모델 목록 부재
현재 모델을 추가할 때 관리자는 다음과 같은 작업을 수동으로 수행해야 합니다:
- 모델 ID를 직접 입력해야 합니다.
- 프로바이더가 어떤 모델을 지원하는지 사전에 알아야 합니다.
- ID가 정확히 철자까지 맞게 입력되었는지 확인해야 합니다.
대부분의 최신 AI 도구와 게이트웨이(OpenAI Playground, OpenRouter, OneAPI, LM Studio 등)에서는 이제 다음과 같은 방식이 표준화되어 있습니다:
- 프로바이더에서 사용 가능한 모델 목록을 가져오기 (예:
/v1/models) - 드롭다운 메뉴에서 사용자가 모델을 선택하도록 허용
- 선택적으로 기본 기능(컨텍스트 길이, 비전 지원 여부 등) 표시
Discourse AI가 비표준이거나 프록시된 백엔드를 많이 지원하며, 모든 프로바이더가 모델 목록 기능을 일관되게 구현하지는 않는다는 점을 이해합니다. 그럼에도 불구하고, 선택적인 “프로바이더에서 모델 가져오기” 작업(최선의 노력, OpenAI 호환)만이라도 제공된다면 많은 설정 환경에서 사용성이 크게 향상될 것입니다.
2. 컨텍스트 윈도우는 수동 입력이 아닌 기본값이 있어야 함
현재 컨텍스트 윈도우 필드는 기본값이 없으며 수동으로 입력해야 합니다.
사용자 관점에서 이는 플러그인이 다음과 같은 방식을 취해야 한다고 느껴집니다:
- 모델의 알려진 최대 컨텍스트로 기본값을 설정하거나,
- 알 수 없는 경우 안전하고 합리적인 기본값으로 대체하거나,
- 빈 값은 "프로바이더/모델 기본값 사용"으로 처리
관리자가 컨텍스트 크기를 직접 조사하여 입력하도록 요구하는 것은 오류 발생 가능성이 높고 불필요합니다. 특히 대부분의 경우 모델 이름만으로도 이 정보가 암시되므로 더욱 그러합니다.
3. 질문: 계획, 패턴, 또는 커뮤니티 플러그인?
따라서 커뮤니티와 유지 관리자에게 드리는 질문은 다음과 같습니다:
- 공식 AI 플러그인에서 모델 탐색 및 기본값 개선에 대한 계획이 있나요?
- 현재 이를 더 효율적으로 처리하기 위한 권장 패턴이 있나요?
- 이러한 공백을 해결하는 커뮤니티 플러그인이나 확장 기능이 있는지(또는 개발 중인 것이 있는지) 알고 계신 분이 있나요?
답변이 "아니오, 그리고 코어에 반영될 가능성은 낮다"라면, 다음 사항에만 집중하는 작은 동반(companion) 플러그인을 실험해 볼 것을 진지하게 고려하고 있습니다:
- 모델 탐색
- 기능 메타데이터
- 합리적인 기본값
그 경로를 선택하기 전에, 이것이 다른 사람들에게도 관심 있는 주제인지, 아니면 제가 놓치고 있는 맥락이 있는지 확인하고 싶었습니다.
읽어 주셔서 감사합니다. 여러분의 의견을 듣고 싶습니다.