Einrichtungsanfrage: KI-Zusammenfassung in Discourse und LLM-Integration

[NateDhaliwal]

Hallo @S.AAKASH_MUTHIAH, die meisten Ihrer Fragen können in der Dokumentation für das KI-Plugin hier beantwortet werden.

---

@S.AAKASH_MUTHIAH

Welche Schritte muss ich befolgen, um die KI-Zusammenfassung in Discourse zu aktivieren und zu konfigurieren?

Siehe:

Discourse AI - Summarize

This topic covers the configuration of the Summarize feature of the Discourse AI plugin. Required user level: Administrator Summarize topics and chat channels for a quick recap. Use it in mega topics and large discussions to figure out what’s happening. [Chat channel summarize option] Features Summarize topics from topic map (top and bottom of topic) Summarize Chat channels for specific duration of time (up to 7 days) Cached summaries in prior gen…

Und:

Summarize - Gists

This guide explains how to enable and configure Gists, which is part of the Summarize feature of the Discourse AI plugin. Required user level: Administrator This feature isn’t yet available on discourse.org hosting Gists are short AI summaries to help you get a quick overview from topic lists. Features Auto backfills short summaries of topics Toggleable between compact and expanded (with AI summary) topic views Available for all topic views, …

---

@S.AAKASH_MUTHIAH

Benötige ich Plugins, um mit der KI-Zusammenfassung zu beginnen? Wenn ja, welche und wo finde ich sie?

Ja, das #ai-Plugin. Es ist im Kern enthalten, wenn Sie auf dem neuesten Stand sind. Gehen Sie einfach zu /admin/plugins, um es zu aktivieren und zu konfigurieren.

---

@S.AAKASH_MUTHIAH

Verfügbare LLM-Modelle: Welche verschiedenen KI-Zusammenfassungsmodelle sind in Discourse verfügbar und wie wähle ich zwischen ihnen?

What LLM to use for Discourse AI?

It’s important to understand the needs of you as the community admin and your members when choosing a Large Language Model (LLM) to power Discourse AI features. Several factors may influence your decisions: Performance for use-case: Are you looking for the best-performing model? Performance can vary depending on the task (e.g., summarization, search, complex reasoning, spam detection). Assessment is based on the model’s ability to generate correct, relevant, and coherent responses. Context …

---

@S.AAKASH_MUTHIAH

Kostenlose vs. kostenpflichtige Modelle: Sind einige der LLM-Modelle kostenlos nutzbar oder fallen für alle Kosten an?

Die meisten sind kostenpflichtig, aber Sie können sich OpenRouter ansehen, das auch einige kostenlose Modelle anbietet.

---

@S.AAKASH_MUTHIAH

Nutzungsbeschränkungen: Gibt es Einschränkungen für die Nutzung kostenloser Modelle, wie z. B. tägliche Anfragelimits oder Token-Beschränkungen?

Soweit ich weiß, hängt dies von Ihrem Anbieter ab, aber wenn ich mich nicht irre, können Sie die Limits auch in Discourse erzwingen.

Vielleicht siehe:

Estimating costs of using LLMs for Discourse AI

In order to use certain Discourse AI features, users are required to use a Large Language Model (LLM) provider. Please see each AI feature to determine which LLMs are compatible. If cost is a significant worry, one way to combat that is to set usage limits right from the vendor and use a monthly budget. Another option is to only let select users and groups access the AI features There are several variable factors to consider when calculating the costs of using…

---

@S.AAKASH_MUTHIAH

Kostenmetriken: Wie ist die Preisstruktur für jedes Modell, einschließlich etwaiger Kosten pro Anfrage oder pro Token? Wenn es mehrere Preisstufen gibt, können Sie eine Aufschlüsselung für jedes Modell bereitstellen?

Das liegt an Ihrem KI-LLM-Anbieter; sie unterscheiden sich.

---

Sehen Sie sich die gesamte Dokumentation für das KI-Plugin hier an.

Die im Plugin angebotenen Einstellungen finden Sie in diesem Leitfaden.

---

Ich hoffe, das hilft!