Hilfe beim Verständnis von OpenRouter-Sprachmodellen

Ich wollte antworten, aber ich glaube, ich darf dort nicht antworten? (Oder vielleicht war es etwas anderes, auf das ich einmal geantwortet habe, was nicht erlaubt war, und vielleicht habe ich keine besonderen Kräfte mehr).

Fortsetzung der Diskussion von Konfiguration von OpenRouter-Sprachmodellen:

Entschuldigung. Ich verstehe es immer noch nicht, und ich weiß mehr über Discourse als die meisten Leute, für die das hier bestimmt ist (aber wahrscheinlich weniger über KI?). Dies ist die erste Erwähnung von “XML-Tools in diesem Thema…”.

Sind die OpenRouter-Tools XML-Tools? Normale Leute kümmern sich nicht darum, dass XML sich auf einige zugrunde liegende Details der Funktionsweise der API bezieht, aber ich bin neugierig.

Und bezieht sich “Native Tools” auf die Konfiguration von API-Schlüsseln für Anthropic und OpenAI? Auf der Seite /admin/plugins/discourse-ai/ai-llms? Und diese XML-Tools, genau wie die Native Tools, erlauben es Ihnen, Personas zu erstellen, die einige dieser LLMs verwenden, richtig?

2 „Gefällt mir“

Open Router hat einige Modelle mit nativer Tool-Unterstützung und einige Modelle, denen native Tool-Unterstützung fehlt. Dies ist für jedes Modell dokumentiert.

Der Versuch, native Tool-Aufrufe an diese nicht unterstützten Modelle zu machen, führt zu einem Absturz des Aufrufs.

Glücklicherweise implementiert Discourse sein eigenes Tool-System, sodass Sie Zugriff auf Funktionen haben, die ein Modell-Anbieter nicht nativ implementiert.

2 „Gefällt mir“

Erwähnenswert ist auch, dass die Tools derzeit nur den Discourse AI Bot beeinflussen. Für AI Helper, Summarize, Search und Automation verwenden wir keine Tools, daher spielt es keine Rolle, ob Sie ein Modell mit oder ohne Unterstützung auswählen.

2 „Gefällt mir“