Discourse AI 기능을 구동할 대규모 언어 모델(LLM)을 선택할 때, 커뮤니티 관리자이신 여러분과 커뮤니티 구성원들의 요구 사항을 이해하는 것이 중요합니다.
다음과 같은 여러 요소가 결정에 영향을 미칠 수 있습니다:
- 용도별 성능: 최고의 성능을 가진 모델을 찾고 계신가요? 성능은 작업(예: 요약, 검색, 복잡한 추론, 스팸 감지)에 따라 달라질 수 있습니다. 평가는 모델이 정확하고 관련성이 있으며 일관된 응답을 생성하는 능력에 기반합니다.
- 컨텍스트 길이: 컨텍스트 윈도우는 모델이 한 번에 '확인’하고 고려할 수 있는 텍스트의 양입니다. 더 큰 컨텍스트 윈도우는 더 많은 정보(예: 요약을 위한 긴 주제)를 처리하고 더 긴 상호작용 동안 일관성을 유지하는 것을 가능하게 합니다.
- 호환성: 해당 모델이 Discourse AI 플러그인에서 기본적으로 지원되나요? 특정 API 엔드포인트나 설정이 필요할까요? 지원되는 제공업체와 모델 목록은 플러그인 문서를 확인하세요.
- 언어 지원: 많은 상위 LLM이 여러 언어를 잘 처리하지만, 성능은 달라질 수 있습니다. 커뮤니티가 영어 이외의 언어를 주로 사용하는 경우, 해당 언어에 대해 특정 모델을 테스트하는 것이 권장됩니다.
- 멀티모달 기능: AI Helper의 이미지 캡셔닝과 같은 일부 기능은 이미지(비전)를 처리할 수 있는 모델을 요구합니다. 선택한 모델이 필요한 모달리티를 지원하는지 확인하세요.
- 속도 및 모드: 더 크고 강력한 모델은 더 느릴 수 있습니다. AI Helper나 검색과 같은 실시간 기능의 경우, 더 빠른 모델이 더 나은 사용자 경험을 제공할 수 있습니다. 일부 모델은 다양한 모드(예: 확장된 사고나 추론 노력 수준)를 제공하여 속도와 깊은 추론 사이의 트레이드오프를 허용합니다.
- 비용: 예산은 종종 핵심 요인입니다. 모델 비용은 제공업체와 모델 등급에 따라 크게 달라집니다. 비용은 일반적으로 토큰(입력 및 출력)당으로 측정됩니다. 더 빠르고 작은 모델은 일반적으로 대형/고성능 모델보다 저렴합니다. 오픈소스 모델은 호스팅 환경에 따라 더 비용 효율적으로 실행할 수 있습니다.
- 개인정보 보호 우려: LLM 제공업체마다 데이터 사용 및 개인정보 보호 정책이 다릅니다. 특히 데이터가 학습 목적으로 사용될 수 있는지에 관한 서비스 약관을 검토하세요. 일부 제공업체는 제로 데이터 리텐션(데이터 보존 없음) 옵션을 제공합니다.
- 오픈소스 vs. 클로즈드소스: 오픈소스 모델은 투명성과 셀프 호스팅 또는 파인튜닝의 잠재력을 제공하지만, 더 많은 기술적 노력이 필요할 수 있습니다. 클로즈드소스 모델은 일반적으로 API를 통해 사용하기가 더 쉽지만, 제어와 투명성이 낮습니다.
Discourse AI 기능을 위한 LLM 선택
LLM 환경은 빠르게 변화하고 있습니다. 아래 표는 다양한 Discourse AI 기능에 적합할 현재 인기 있고 유능한 모델들의 일반적인 개요를 제공하며, 일반적인 강점과 비용 프로필로 분류됩니다. 각 카테고리 내의 모델은 알파벳 순으로 나열됩니다.
이는 일반적인 가이드라인입니다. 지원되는 모델의 최신 목록과 필요한 설정에 대해서는 항상 공식 Discourse AI 플러그인 문서를 확인하세요. 성능과 비용은 자주 변경되므로, 최신 세부 사항은 LLM 제공업체의 문서를 참조하세요. 오픈소스 모델의 가용성과 성능은 특정 제공업체나 호스팅 설정에 따라 달라질 수 있습니다.
호스팅 고객의 경우, Discourse AI 플러그인의 관리자 인터페이스를 통해 사용할 수 있는 사전 구성된 LLM을 사용하는 것이 대안이 될 수 있습니다. 이는 Anthropic, Google, OpenAI, OpenRouter의 인기 모델에 대한 원클릭 프리셋을 제공하며, 관리자 → 플러그인 → AI → LLMs에서 설정할 수 있습니다.
| 카테고리 | 모델 | 제공업체 | 주요 강점 / 사용 사례 | 비고 |
|---|---|---|---|---|
| 최고 성능/추론 | Claude Opus 4.6 | Anthropic | 최대 추론 능력, 복잡한 작업, 분석, 생성 | Anthropic 모델 중 가장 높은 비용, 200K 컨텍스트, 뛰어난 비전 |
| Gemini 3 Pro | 높은 성능, 매우 큰 컨텍스트 윈도우, 강력한 멀티모달 | 1M 토큰 컨텍스트, 뛰어난 올라운더 | ||
| GPT-5.2 | OpenAI | 최첨단 추론, 복잡한 작업, 생성, 비전 | 400K 컨텍스트, OpenAI의 강력한 올라운더 | |
| xAI Grok 4 Fast | xAI (OpenRouter를 통해) | 강력한 추론, 경쟁력 있는 성능 | OpenRouter를 통해 사용 가능, 비전 지원 | |
| 균형 잡힌 (다목적) | Claude Sonnet 4.6 | Anthropic | 높은 성능, 좋은 추론, 큰 컨텍스트, 비전, 빠름 | 훌륭한 기본 선택지, 속도와 기능을 균형 있게 조율, 200K 컨텍스트 |
| DeepSeek V3.2 | DeepSeek (OpenRouter를 통해) | 강력한 일반 성능, 좋은 가치 | 오픈소스 옵션, 광범위한 사용에 비용 효율적, 163K 컨텍스트 | |
| Moonshot Kimi K2.5 | Moonshot (OpenRouter를 통해) | 강력한 성능, 매우 큰 컨텍스트, 비전 | 262K 컨텍스트 윈도우, 좋은 가치 | |
| 비용 효율적/속도 | Claude Haiku 4.5 | Anthropic | 빠르고 저렴한 비용, 단순한 작업에 적합, 비전 지원 | 검색, 기본 요약과 같이 대량 처리 및 낮은 지연 시간이 필요한 경우 최적 |
| Gemini 3 Flash | 매우 빠르고 비용 효율적, 좋은 일반 기능, 비전 | 1M 컨텍스트, 요약, 검색, 헬퍼 작업에 적합 | ||
| GPT-5 Mini | OpenAI | 빠르고 저렴하며, 많은 작업에 적합 | 400K 컨텍스트, 단순한 기능에 대한 비용/성능의 좋은 균형 | |
| GPT-5 Nano | OpenAI | 매우 빠르고 OpenAI 옵션 중 가장 저렴 | 가장 대량 처리 및 최저 비용이 필요한 경우 최적 | |
| Arcee Trinity Large (무료) | Arcee (OpenRouter를 통해) | 무료 티어 옵션, 128K 컨텍스트 | 테스트나 예산이 매우 제한적인 배포에 적합 | |
| 비전 지원 | Claude Opus 4.6 / Sonnet 4.6 / Haiku 4.5 | Anthropic | 현재 모든 Anthropic 모델이 비전을 지원 | AI Helper의 이미지 캡셔닝에 유용 |
| Gemini 3 Pro / 3 Flash | 강력한 비전 기능 | AI Helper의 이미지 캡셔닝에 유용 | ||
| GPT-5.2 | OpenAI | 통합된 텍스트 및 비전 | AI Helper의 이미지 캡셔닝에 유용 | |
| Moonshot Kimi K2.5 | Moonshot (OpenRouter를 통해) | 비전 지원 | OpenRouter를 통해 사용 가능 | |
| xAI Grok 4 Fast | xAI (OpenRouter를 통해) | 비전 지원 | OpenRouter를 통해 사용 가능 |
일반적인 권장 사항 매핑 (간이화):
- AI 봇 (복잡한 Q&A, 에이전트): 최고 성능/추론 모델(Claude Opus 4.6, Gemini 3 Pro, GPT-5.2) 또는 강력한 균형 잡힌 모델(Claude Sonnet 4.6, DeepSeek V3.2).
- AI 검색 / 발견: 비용 효율적/속도 모델(Haiku 4.5, Gemini 3 Flash, GPT-5 Mini/Nano) 또는 약간 더 나은 이해를 위한 균형 잡힌 모델(Sonnet 4.6, DeepSeek V3.2).
- AI 헬퍼 (제목 제안, 교정, 번역): 비용 효율적/속도 모델 또는 균형 잡힌 모델. 종종 속도가 선호됩니다. Claude Sonnet 4.6 또는 GPT-5 Mini가 좋은 후보입니다.
- 요약: 균형 잡힌 모델(Claude Sonnet 4.6, GPT-5.2, DeepSeek V3.2) 또는 비용 효율적 모델(Gemini 3 Flash, GPT-5 Mini). 긴 컨텍스트 윈도우(Gemini 3 Pro/Flash의 1M 토큰)는 긴 주제에 유용합니다.
- 스팸 감지: 비용 효율적/속도 모델이 일반적으로 충분하고 비용 효율적입니다(Haiku 4.5, Gemini 3 Flash, GPT-5 Mini/Nano).
- 번역: 비용 효율적/속도 모델은 로케일 감지 및 번역 작업에 잘 작동합니다(Haiku 4.5, Gemini 3 Flash, GPT-5 Mini).
- 자동화 (분류, 보고서): 복잡성에 따라 다릅니다. 단순한 분류 규칙은 비용 효율적 모델로 잘 작동합니다. 복잡한 에이전트 기반 분류는 균형 잡힌 또는 최고 성능 모델의 이점을 받습니다.
각 기능별로 Discourse 관리자에서 플러그인 → AI → Features 섹션에서 선택한 LLM을 구성하고, 플러그인 → AI → LLMs 섹션에서 LLM 연결을 설정하는 것을 잊지 마세요.