Dieser Leitfaden erklärt, wie API-Schlüssel für Amazon Bedrock konfiguriert werden, um Discourse AI-Funktionen zu aktivieren, die 3rd-Party-LLM-Schlüssel erfordern.
Erforderliches Benutzerniveau: Administrator
In diesem Beispiel verwenden wir Amazon Bedrock, um die Schlüssel zu generieren.
Hinweis: Sie benötigen einen kostenpflichtigen Plan und konfigurierte API-Schlüssel.
Plattformen ändern sich ständig, daher spiegelt dieser Leitfaden den Prozess möglicherweise nicht zu 100 % wider.
API-Schlüssel abrufen
Die Konfiguration von Schlüsseln auf Amazon Bedrock ist etwas komplizierter als bei den meisten anderen Anbietern. Sie müssen wahrscheinlich mit Konzepten wie IAM-Rollen und mehr vertraut sein. Anweisungen zum Abrufen von Schlüsseln finden Sie unter:
Welche Bedrock-Modelle unterstützt Discourse AI?
Discourse AI unterstützt alle Anthropic-Modelle (Haiku 3.5 / Sonnet 3.5 / Opus 3.5) und alle Nova-Sprachmodelle (Micro / Lite und Pro).
Diese Modelle werden mit Bild-, Video- und Tool-Calling-Funktionen (XML und nativ) unterstützt.
Stand Dezember 2024 sind hier die wichtigsten Modell-IDs:
Nova:
- amazon.nova-pro-v1:0
- amazon.nova-lite-v1:0
- amazon.nova-micro-v1:0
Claude:
- anthropic.claude-3-5-haiku-20241022-v1:0
- anthropic.claude-3-5-sonnet-20241022-v2:0
Beachten Sie, dass nicht alle Modelle in allen Regionen verfügbar sind. Überprüfen Sie Ihre Bedrock-Konfigurationsseite.
API-Schlüssel für Discourse AI verwenden
- Gehen Sie zu
Admin→Plugins→AI→LLMs-Tab. - Klicken Sie auf die Schaltfläche „Einrichten“ unter „Manuelle Konfiguration“.
- Geben Sie alle Modelleinstellungen ein:
Beachten Sie, dass Sie einen API-Schlüssel, einen Bedrock-Zugriffsschlüssel und die Region benötigen.
Als Tokenizer können Sie den OpenAiTokenizer für Nova und den AnthropicTokenizer für Claude-basierte Modelle verwenden.
Sollte ich die native Tool-Unterstützung deaktivieren oder nicht?
Discourse wird mit nativen Tool- und XML-Tool-basierten Konfigurationen ausgeliefert. In einigen Fällen übertreffen XML-Tools die native Tool-Implementierung. Sie sollten experimentieren, um herauszufinden, welche Konfiguration für Sie am besten geeignet ist.