자체 호스팅된 Discourse 사이트에서 Discourse AI 플러그인 사용

[JammyDodger]

이것들도 함께 보유하고 있습니다:

Discourse AI - 셀프 호스팅 가이드

이 가이드는 Discourse AI 모듈을 구동하는 서비스의 자체 인스턴스를 실행하는 방법에 대한 것입니다. 소개 자체 호스팅된 인스턴스에서 Discourse AI를 사용하려면 활성화하려는 모듈에 필요한 동반 서비스(companion services)를 실행해야 할 수 있습니다. 각 모듈에는 하나 이상의 필수 동반 서비스가 있으며, 이러한 서비스는 Discourse 자체보다 더 많은 CPU / GPU / 디스크 공간을 사용하므로, Linux 서버 관리와 Docker에 익숙하지 않은 분들에게는 권장하지 않습니다. 요약 / AI 헬퍼 / AI 봇 임베딩(Embeddings) 감정 분석(Sentiment) 프로덕션 환경에서 실행 실제 운영 중인 사이트에서 실행할 때 로드 밸런싱, TLS, 헬스 체크, 레이트 리미트 등의 기능을 활성화하기 위해 이 서비스를 리버스 프록시 뒤에 두는 것을 고려할 수 있습니다. 서비스가 실행되면, 관리자 UI(관리자 > 플러그인 > Dis…

Discourse AI에서 LLM 사용 비용 추정

Discourse AI의 특정 기능을 사용하려면 대규모 언어 모델(LLM) 제공업체를 사용해야 합니다. 각 AI 기능별로 어떤 LLM이 호환되는지 확인해 보세요. 비용이 큰 걱정거리라면, 지출을 관리하는 데 도움이 되는 Discourse AI의 내장 도구가 몇 가지 있습니다: AI 사용량 대시보드 — 기능, 모델, 사용자별 토큰 소비량을 예상 비용과 함께 추적합니다 사용량 할당량 — 설정 가능한 시간 창(시간당, 일당, 주당) 내에서 모델별, 그룹별 토큰 또는 요청 수 한도를 설정합니다 크레딧 할당 — 모델별 전체 크레딧 예산을 소프트 및 하드 한도로 설정합니다 벤더 측 예산 — 추가적인 안전장치로 벤더에서 바로 사용량 한도를 설정할 수 있습니다 그룹 제한 — AI 기능에 대한 액세스를 특정 사용자 및 그룹으로만 제한합니다 LLM 사용 비용을 계산할 때는 고려해야 할 여러 변동 요인이 있습니다. 간소화된 관점은 다…