안녕하세요,
저희는 기업 네트워크 내에서 디스코스(Discourse) 보드를 운영 중입니다. ChatGPT나 기타 공개된 LLM을 통합할 수는 없지만, 회사 내부에서 AI 모듈(이를 포함하여 GPT)을 위한 내부 서비스를 구축하는 대규모 이니셔티브가 진행되고 있습니다.
해당 서비스는 자체적인 API를 갖추고 있으며, 커스텀 LLM 플러그인을 작성할 수 있는지 문의드립니다.
혹시 다른 대안이 있을까요?
이 내부 API에 대한 호출은 인증이 필요하며, API 자체도 별도의 API 키가 필요합니다. 따라서 사전에 제공해야 하는 필수 정보가 여러 가지 있습니다.
도움 주시면 감사하겠습니다.
감사드리며,
WS
현재 플러그인에서는 사용자 지정 모델 및/또는 엔드포인트를 사용할 수 있습니다.
추가 기능이 필요할 경우, 포크를 해서 자체 플러그인을 유지 관리할 수도 있습니다.
네, 가능합니다. 하지만 AI 플러그인을 설치해서 이미 어떤 기능들을 지원하는지 확인해 보셨나요?
내부 엔드포인트가 OpenAI 유형의 API 인터페이스를 사용하는 한, Discourse AI를 그대로 사용하면서 커스텀 LLM만 정의하면 됩니다.
한 번 시도해 볼게요. 다만, 인증 관련해서 큰 걱정거리가 하나 있습니다.
API 키뿐 아니라 OIDC 기반(사내 정책상 
)이기도 하거든요…
즉, 보드가 이 API에 요청을 보내는 방식을 어떻게든 커스터마이즈해야 합니다. 포크를 하지 않고 제 손으로 직접 하지 않고도 이게 가능한가요?
여러분, 항상 감사합니다 