설정 문의: Discourse의 AI 요약 및 LLM 통합

[NateDhaliwal]

Hi @S.AAKASH_MUTHIAH , AI 플러그인 관련 문서를 여기에서 확인하시면 대부분의 질문에 대한 답을 찾으실 수 있습니다.

---

@S.AAKASH_MUTHIAH

Discourse에서 AI 요약 기능을 활성화하고 설정하려면 어떤 단계를 거쳐야 하나요?

참고:

Discourse AI - 요약

이 주제는 Discourse AI 플러그인의 요약(Summarize) 기능 설정에 대해 다루고 있습니다. 필요한 사용자 권한: 관리자(Administrator) 주제와 채팅 채널을 요약하여 빠른 복습을 제공합니다. 대형 주제나 큰 규모의 토론에서 어떤 일이 일어나고 있는지 파악하는 데 사용하세요. [Chat channel summarize option] 기능 주제 맵(주제 상단 및 하단)에서 주제 요약 특정 기간(최대 7일)의 채팅 채널 요약 이전에 생성된 주제에 대한 캐시된 요약 이전 요약 재생성 요약 날짜 및 사용된 AI 모델 확인 요약(Summarize) 활성화 사전 요구 사항 프로바이더의 대규모 언어 모델(LLM)을 하나 이상 설정해야 합니다. 시작하려면 Discourse AI - 대규모 언어 모델(LLM) 설정 페이지를 통해 설정할 수 있습니다. OpenAI Anthropic Azur…

그리고:

요약 - Gists

이 가이드는 Discourse AI 플러그인의 Summarize 기능의 일부인 Gists를 활성화하고 구성하는 방법을 설명합니다. 필요한 사용자 권한: 관리자 이 기능은 아직 discourse.org 호스팅에서 사용할 수 없습니다 Gists는 주제 목록에서 빠른 개요를 얻을 수 있도록 돕는 짧은 AI 요약문입니다. 기능 주제의 짧은 요약을 자동으로 채워 넣습니다 컴팩트 뷰와 확장 뷰(AI 요약 포함) 사이를 전환할 수 있습니다 모든 주제 뷰(예: 인기, 최신, 최고 등)에서 사용할 수 있습니다 Summarize 활성화 사전 요구 사항 제공업체에서 최소 하나의 대규모 언어 모델(LLM)을 구성해야 합니다. 시작하려면 Discourse AI - 대규모 언어 모델(LLM) 설정 페이지를 통해 구성할 수 있습니다. 구성 Admin → Plugins → AI → Features 탭으로 이동…

---

@S.AAKASH_MUTHIAH

AI 요약 기능을 시작하는 데 필요한 플러그인이 있나요? 있다면 어떤 것들이며, 어디서 찾을 수 있나요?

네, ai 플러그인입니다. 최신 버전으로 업데이트하셨다면 코어에 포함되어 있으며, /admin/plugins로 이동하여 활성화 및 설정하시면 됩니다.

---

@S.AAKASH_MUTHIAH

사용 가능한 LLM 모델: Discourse에서 사용할 수 있는 AI 요약 모델에는 어떤 것들이 있으며, 어떻게 선택해야 하나요?

Discourse AI에 어떤 LLM을 사용해야 하나요?

Discourse AI 기능을 구동할 대규모 언어 모델(LLM)을 선택할 때, 커뮤니티 관리자이신 여러분과 커뮤니티 구성원들의 요구 사항을 이해하는 것이 중요합니다. 다음과 같은 여러 요소가 결정에 영향을 미칠 수 있습니다: 용도별 성능: 최고의 성능을 가진 모델을 찾고 계신가요? 성능은 작업(예: 요약, 검색, 복잡한 추론, 스팸 감지)에 따라 달라질 수 있습니다. 평가는 모델이 정확하고 관련성이 있으며 일관된 응답을 생성하는 능력에 기반합니다. 컨텍스트 길이: 컨텍스트 윈도우는 모델이 한 번에 '확인’하고 고려할 수 있는 텍스트의 양입니다. 더 큰 컨텍스트 윈도우는 더 많은 정보(예: 요약을 위한 긴 주제)를 처리하고 더 긴 상호작용 동안 일관성을 유지하는 것을 가능하게 합니다. 호환성: 해당 모델이 Discourse AI 플러그인에서 기본적으로 지원되나요? 특정 API 엔드포인트나 설정이 필요할까요? 지원되는 제공업체와 모델 목록은 플러그인 문서를 확인하세요. 언어 지원:…

---

@S.AAKASH_MUTHIAH

무료 vs 유료 모델: LLM 모델 중 무료로 사용할 수 있는 것이 있나요, 아니면 모두 비용이 발생하나요?

대부분 유료이지만, 일부 무료 모델도 제공하는 OpenRouter를 살펴보실 수 있습니다.

---

@S.AAKASH_MUTHIAH

사용 제한: 무료 모델의 경우 일일 요청 한도나 토큰 제한과 같은 사용 제한이 있나요?

AFAIK(제 생각에는) 이는 제공업체에 따라 다르지만, CMIIW(틀린 부분이 있을 수 있습니다) Discourse에서도 제한을 설정할 수 있습니다.

아마도 다음 링크를 참고해 보세요:

Discourse AI에서 LLM 사용 비용 추정

Discourse AI의 특정 기능을 사용하려면 대규모 언어 모델(LLM) 제공업체를 사용해야 합니다. 각 AI 기능별로 어떤 LLM이 호환되는지 확인해 보세요. 비용이 큰 걱정거리라면, 지출을 관리하는 데 도움이 되는 Discourse AI의 내장 도구가 몇 가지 있습니다: AI 사용량 대시보드 — 기능, 모델, 사용자별 토큰 소비량을 예상 비용과 함께 추적합니다 사용량 할당량 — 설정 가능한 시간 창(시간당, 일당, 주당) 내에서 모델별, 그룹별 토큰 또는 요청 수 한도를 설정합니다 크레딧 할당 — 모델별 전체 크레딧 예산을 소프트 및 하드 한도로 설정합니다 벤더 측 예산 — 추가적인 안전장치로 벤더에서 바로 사용량 한도를 설정할 수 있습니다 그룹 제한 — AI 기능에 대한 액세스를 특정 사용자 및 그룹으로만 제한합니다 LLM 사용 비용을 계산할 때는 고려해야 할 여러 변동 요인이 있습니다. 간소화된 관점은 다…

---

@S.AAKASH_MUTHIAH

비용 지표: 각 모델의 가격 구조는 어떻게 되나요? 요청당 또는 토큰당 비용이 포함됩니다. 여러 가격 등급이 있다면 각 모델에 대한 세부 내역을 제공해 주실 수 있나요?

이는 AI LLM 제공업체에 따라 다르며, 업체마다 차이가 있습니다.

---

AI 플러그인 관련 모든 문서는 여기에서 확인하실 수 있습니다.

플러그인에서 제공하는 설정에 대해서는 이 가이드를 참고해 주세요.

---

도움이 되셨으면 좋겠습니다!