Discourse AI - 대규모 언어 모델(LLM) 설정 페이지

[Discourse]

이 가이드는 Discourse AI 플러그인의 일부인 LLM 설정 페이지를 다룹니다.

필요한 사용자 권한: 관리자

전용 설정 페이지는 Discourse AI 기능에 사용되는 대규모 언어 모델(LLM)과 관련된 모든 사항을 한곳에 모으도록 설계되었습니다.

활성화된 Discourse AI 기능에 따라 LLM이 필요할 수 있습니다. LLM이 선행 조건인지 확인하려면 각 Discourse AI 기능을 확인하십시오.

기능

• 사전 입력된 정보로 새 모델 추가
• 목록에 없는 사용자 지정 모델 추가
• LLM 설정 구성
• AI 봇에 특정 LLM 사용 허용
  • AI 봇 사용자 이름 확인
• 비전 지원 활성화 (모델에 따라 다름)
• 허용된 첨부 파일 유형 구성
• 그룹별 사용량 할당량 설정
• 입력/출력 토큰 비용 추적
• 테스트
• 설정 저장

LLM 연결 추가

1. Admin → Plugins → AI로 이동
2. LLMs 탭으로 이동
3. 새 연결을 추가하고 모델을 선택합니다
4. API 키를 입력합니다 (모델에 따라 수동으로 입력해야 하는 필드가 더 있을 수 있음) 그리고 저장합니다
5. (선택 사항) 연결이 정상 작동하는지 확인하기 위해 테스트를 실행합니다

지원되는 LLM

목록에 모델이 표시되지 않으면 언제든지 사용자 지정 옵션을 추가할 수 있습니다. 지원되는 모델은 지속적으로 추가되고 있습니다. 사전 구성된 모델은 템플릿이며, "수동 구성"을 사용하여 항상 동일한 결과를 얻을 수 있습니다.

Anthropic

• Claude Opus 4.6
• Claude Sonnet 4.6
• Claude Haiku 4.5

Google

• Gemini 3 Pro
• Gemini 3 Flash

OpenAI

• GPT-5.4
• GPT-5 Mini
• GPT-5 Nano

Open Router

• DeepSeek V3.2
• Moonshot Kimi K2.5
• xAI Grok 4 Fast
• MiniMax M2.5
• Z-AI GLM-5
• … 그리고 훨씬 더 많은 모델

추가로, 호스팅 고객은 설정 페이지에 사전 구성된 CDCK Hosted Small LLM을 사용할 수 있습니다. 이는 Discourse에서 호스팅하는 오픈 웨이트 LLM으로, AI 기능을 구동하기 위해 즉시 사용 가능합니다.

구성 필드

선택한 LLM 프로바이더와 관련된 필드만 표시됩니다. Model name과 같은 사전 입력된 필드는 해당 프로바이더와 반드시 재확인하십시오.

핵심 필드:

• Display name — 드롭다운에 표시되는 친숙한 이름
• Model name — API로 전송되는 모델 식별자 (예: claude-sonnet-4-6, gpt-5.2)
• Provider — 모델을 호스팅하는 서비스 (예: Anthropic, OpenAI, Google, AWS Bedrock, Azure, Open Router 등)
• URL — API 엔드포인트 URL (AWS Bedrock의 경우 표시되지 않음)
• API Key — AI Secrets 시스템을 통해 구성
• Tokenizer
• Max prompt tokens — 과도한 요청을 방지하기 위해 프롬프트 트리밍을 제어
• Max output tokens
• Input cost / Output cost — 사용량 추적을 위한 백만 토큰당 비용
• Cached input cost / Cache write cost — 프롬프트 캐싱을 지원하는 프로바이더용
• Vision enabled — 이미지 이해 활성화 (모델에 따라 다름)
• Allowed attachment types — 모델이 처리할 수 있는 파일 유형

프로바이더별 필드 (선택된 프로바이더에 따라 동적으로 표시됨):

• AWS Bedrock: Access Key ID, Role ARN, Region, 추론/사고 옵션, Prompt caching
• Anthropic: 추론 옵션, Prompt caching
• OpenAI: Organization ID, Reasoning effort, Service tier
• Google: Enable thinking, Thinking level
• Open Router: Provider order, Provider quantizations

할당량 (초기 저장 후 사용 가능):

• 그룹별 사용량 할당량은 최대 토큰 수, 최대 사용 횟수, 기간으로 구성할 수 있습니다

기술적 FAQ

토크나이저(tokenizer)란 무엇인가요?

• 토크나이저는 문자열을 모델이 입력을 이해하는 데 사용하는 토큰으로 변환합니다.

Max prompt tokens에 어떤 숫자를 사용해야 하나요?

• 좋은 규칙은 모델 컨텍스트 윈도우의 50%입니다. 컨텍스트 윈도우는 전송하는 토큰 수와 생성되는 토큰 수의 합입니다. 프롬프트가 너무 크면 요청이 실패합니다. 이 숫자는 프롬프트를 잘라내어 이러한 상황을 방지하는 데 사용됩니다.

주의 사항

• 사용하려는 모델이 목록에 표시되지 않을 수 있습니다. 수동으로 추가할 수는 있지만, 인기 있는 모델은 출시 시점에 지원될 예정입니다.