OpenRouter 언어 모델 설정

:bookmark: 이 가이드는 3자 LLM 키가 필요한 Discourse AI 기능을 활성화하기 위해 OpenRouter에 API 키를 설정하는 방법을 설명합니다.

:person_raising_hand: 필요한 사용자 권한: 관리자

이 가이드에서는 여러 대규모 언어 모델에 통합된 API를 통해 접근할 수 있는 서비스인 OpenRouter를 설정하는 방법을 다룹니다.

참고: OpenRouter의 요금제와 설정된 API 키가 필요합니다.

API 키 발급

  1. OpenRouter 방문
  2. 계정 가입
  3. 대시보드로 이동하여 API 키 찾기

Discourse AI에서 OpenRouter가 지원하는 모델

Discourse AI는 현재 OpenRouter의 모든 모델을 지원합니다. 다음 모델은 원클릭 프리셋으로 사용할 수 있습니다:

  • DeepSeek V3.2 (최대 163k 토큰)
  • Moonshot Kimi K2.5 (최대 262k 토큰)
  • xAI Grok 4 Fast (최대 131k 토큰)
  • MiniMax M2.5 (최대 196k 토큰)
  • Z-AI GLM-5 (최대 204k 토큰)
  • Arcee Trinity Large - Free (최대 128k 토큰)

OpenRouter에서 사용할 수 있는 기타 모든 모델은 수동으로 설정할 수 있습니다.

Discourse AI를 위한 API 키 사용

  1. AdminPluginsAILLMs 탭으로 이동
  2. OpenRouter 모델이 프리셋 템플릿으로 나열되어 있는 것을 확인할 수 있습니다. 설정하려는 모델 옆의 Set up 버튼을 클릭하세요. 그러면 제공자, 모델 ID, 엔드포인트, 토크나이저가 자동으로 입력됩니다. API 키만 입력하면 됩니다.

기타 모델 수동 설정

프리셋으로 나열되지 않은 OpenRouter 모델을 사용하려면:

  1. "Manual configuration"의 Set up 버튼을 클릭합니다.
  2. 다음 설정을 구성합니다:
  • Provider: “OpenRouter” 선택
  • Model ID: 모델 ID 입력 (예: “deepseek/deepseek-v3.2”)
  • API Key: OpenRouter API 키
  • Endpoint URL: https://openrouter.ai/api/v1/chat/completions
  • Tokenizer: OpenAiTokenizer 사용

고급 설정 옵션

Discourse AI의 OpenRouter는 추가적인 설정 옵션을 지원합니다:

  1. Provider Order: 시도할 제공자의 순서를 지정할 수 있습니다(쉼표로 구분된 목록)
    예시: “Google, Amazon Bedrock”

  2. Provider Quantizations: 양자화 선호도를 지정합니다(쉼표로 구분된 목록)
    예시: “fp16,fp8”

  3. Disable Streaming: 모델의 스트리밍 응답을 비활성화하려면 이 옵션을 활성화합니다.

네이티브 도구 지원 비활성화를 해야 할까요?

OpenRouter의 일부 모델은 네이티브 도구를 지원하지 않습니다. 이러한 경우 네이티브 도구를 비활성화하여 XML 기반 도구를 계속 사용할 수 있습니다. 또한 성능이 모델마다 다르므로 특정 모델에 대해 XML 도구와 네이티브 도구 중 어떤 것이 더 나은 결과를 제공하는지 테스트해야 합니다.

  • XML 기반 도구 구현을 사용하려면 "Disable native tools"를 활성화합니다.
  • 네이티브 도구 구현을 사용하려면 비활성화 상태로 둡니다.
7개의 좋아요