DiscourseAI를 위한 오픈소스 LLM 셀프호스팅

고맙습니다! AI 플러그인이 활성화되어 있을 때만 URL이 작동한다는 점도 제가 알아차렸어요 :person_facepalming:

신규 추가된 제공자에 대해, 다음 필수 설정에 무엇을 선택/설정해야 할지 제안이 있을까요?

  1. 토크나이저 (Tokenizer)
  2. 컨텍스트 윈도우 (Context window)

모델의 경우, stablelm2:1.6b 또는 https://ollama.com/library/translategemma:4b를 사용하려고 생각하고 있지만 아직 결정하지 못했습니다.
후자의 README에는 입력 프롬프트에 대한 설명이 있습니다. 번역 AI 기능이 Ollama로 전송하는 쿼리가 무엇인지 궁금합니다. /admin/plugins/discourse-ai/ai-agents/-28/edit 참고.