Discourse AI - Einstellungen für das Large Language Model (LLM)

[Discourse]

Dieser Leitfaden behandelt die Seite mit den LLM-Einstellungen, die Teil des Discourse AI-Plugins ist.

Erforderliches Benutzerniveau: Administrator

Die dedizierte Einstellungsseite wurde entwickelt, um alles, was mit großen Sprachmodellen (LLMs) zu tun hat, die für Discourse AI-Funktionen verwendet werden, an einem Ort zu bündeln.

Abhängig von der aktivierten Discourse AI-Funktion kann ein LLM erforderlich sein. Bitte überprüfen Sie jede Discourse AI-Funktion, um festzustellen, ob ein LLM eine Voraussetzung ist.

Funktionen

• Neue Modelle hinzufügen, mit vorab ausgefüllten Informationen
• Benutzerdefinierte Modelle hinzufügen, die nicht aufgeführt sind
• LLM-Einstellungen konfigurieren
• Spezifische LLM-Nutzung für AI-Bot zulassen
  • AI-Bot-Benutzernamen anzeigen
• Vision-Unterstützung aktivieren (modellabhängig)
• Zulässige Anhangstypen konfigurieren
• Nutzungskontingente pro Gruppe einrichten
• Eingabe-/Ausgabetokenkosten verfolgen
• Testen
• Einstellungen speichern

Hinzufügen von LLM-Verbindungen

1. Gehen Sie zu Admin → Plugins → AI
2. Gehen Sie zur Registerkarte LLMs
3. Fügen Sie eine neue Verbindung hinzu, wählen Sie Ihr Modell aus
4. Fügen Sie den API-Schlüssel hinzu (abhängig vom Modell müssen Sie möglicherweise weitere Felder manuell eingeben) und speichern Sie
5. (Optional) Testen Sie Ihre Verbindung, um sicherzustellen, dass sie funktioniert

Unterstützte LLMs

Sie können immer eine benutzerdefinierte Option hinzufügen, wenn Ihr Modell nicht aufgeführt ist. Unterstützte Modelle werden ständig hinzugefügt. Vorab konfigurierte Modelle sind Vorlagen – Sie können immer das gleiche Ergebnis mit der „Manuellen Konfiguration“ erzielen.
Anthropic

• Claude Opus 4.6
• Claude Sonnet 4.6
• Claude Haiku 4.5
  Google
• Gemini 3 Pro
• Gemini 3 Flash
  OpenAI
• GPT-5.4
• GPT-5 Mini
• GPT-5 Nano
  Open Router
• DeepSeek V3.2
• Moonshot Kimi K2.5
• xAI Grok 4 Fast
• MiniMax M2.5
• Z-AI GLM-5
• … und viele, viele mehr
  Darüber hinaus können gehostete Kunden das auf der Einstellungsseite vorab konfigurierte CDCK Hosted Small LLM verwenden. Dies ist ein Open-Weights LLM, das von Discourse gehostet wird und bereit ist, KI-Funktionen zu unterstützen.

Konfigurationsfelder

Sie sehen nur die Felder, die für Ihren ausgewählten LLM-Anbieter relevant sind. Bitte überprüfen Sie alle vorab ausgefüllten Felder mit dem entsprechenden Anbieter, wie z. B. Model name
Kernfelder:

• Display name — Der Anzeigename, der in Dropdown-Menüs angezeigt wird
• Model name — Die an die API gesendete Modellkennung (z. B. claude-sonnet-4-6, gpt-5.2)
• Provider — Der Dienst, der das Modell hostet (z. B. Anthropic, OpenAI, Google, AWS Bedrock, Azure, Open Router usw.)
• URL — Die API-Endpunkt-URL (nicht für AWS Bedrock angezeigt)
• API Key — Konfiguriert über das AI Secrets-System
• Tokenizer
• Max prompt tokens — Steuert das Zuschneiden der Eingabeaufforderung, um überdimensionierte Anfragen zu vermeiden
• Max output tokens
• Input cost / Output cost — Kosten pro Million Tokens, verwendet für die Nutzungsnachverfolgung
• Cached input cost / Cache write cost — für Anbieter, die Prompt-Caching unterstützen
• Vision enabled — Aktiviert die Bilderkennung (modellabhängig)
• Allowed attachment types — Dateitypen, die das Modell verarbeiten kann
  Anbieterspezifische Felder (werden dynamisch basierend auf dem ausgewählten Anbieter angezeigt):
• AWS Bedrock: Access Key ID, Role ARN, Region, Reasoning/Thinking-Optionen, Prompt caching
• Anthropic: Reasoning-Optionen, Prompt caching
• OpenAI: Organization ID, Reasoning effort, Service tier
• Google: Enable thinking, Thinking level
• Open Router: Provider order, Provider quantizations
  Kontingente (nach dem ersten Speichern verfügbar):
• Nutzungskontingente pro Gruppe können mit maximalen Tokens, maximaler Nutzung und Dauer konfiguriert werden

Technisches FAQ

Was ist ein Tokenizer?

• Der Tokenizer übersetzt Zeichenfolgen in Tokens, was das ist, was ein Modell verwendet, um die Eingabe zu verstehen.
  Welche Zahl sollte ich für Max prompt tokens verwenden?
• Eine gute Faustregel ist 50 % des Modell-Kontextfensters, was die Summe der gesendeten Tokens und der generierten Tokens ist. Wenn die Eingabeaufforderung zu groß wird, schlägt die Anfrage fehl. Diese Zahl wird verwendet, um die Eingabeaufforderung zuzuschneiden und dies zu verhindern.

Einschränkungen

• Manchmal wird das gewünschte Modell möglicherweise nicht angezeigt. Obwohl Sie es manuell hinzufügen können, werden wir beliebte Modelle unterstützen, sobald sie herauskommen.

[qianping_chen (rouin)]

Es ist zu schwierig, ich weiß überhaupt nicht, wie ich es machen soll. Ich hoffe, spezifische Tutorials zu verschiedenen KIs, wie z. B. Google-Anmeldeeinstellungen, zu aktualisieren.