# 为 DiscourseAI 自托管一个开源 LLM

**URL:** <https://meta.discourse.org/t/self-hosting-an-opensource-llm-for-discourseai/290923>\
**Category:** Self-Hosting\
**Tags:** ai\
**Created:** [2024年一月8日 20:39 UTC](https://meta.discourse.org/t/self-hosting-an-opensource-llm-for-discourseai/290923 "2024-01-08T20:39:55Z")\
**Posts on this page:** 1\
**Showing post:** 12

<div class="post-metadata">

**Author:** ![mononym](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/mononym/32/566879_2.png) [@mononym](https://meta.discourse.org/u/mononym)\
**Post date:** [2026年七月6日 17:04 UTC](https://meta.discourse.org/t/self-hosting-an-opensource-llm-for-discourseai/290923/12 "2026-07-06T17:04:42Z")

</div>

谢谢！我也注意到，只有启用 AI 插件时该 URL 才能正常工作：person\_facepalming:

对于新添加的提供商，对于以下必需设置，有什么建议吗？

> 1. 分词器
> 2. 上下文窗口

对于模型，我在考虑是否使用 [stablelm2:1.6b](https://ollama.com/library/stablelm2:1.6b) 或 [https://ollama.com/library/translategemma:4b，但还不确定。](https://ollama.com/library/translategemma:4b%EF%BC%8C%E4%BD%86%E8%BF%98%E4%B8%8D%E7%A1%AE%E5%AE%9A%E3%80%82)  
后者的 README 中有一些关于输入提示的描述。 ~~我想知道翻译 AI 功能向 Ollama 发送的查询是什么。~~ 参见 `/admin/plugins/discourse-ai/ai-agents/-28/edit`

---

_[View the full topic](https://meta.discourse.org/t/self-hosting-an-opensource-llm-for-discourseai/290923)._