TypeSafe Jev und andere Entscheidungsmodelle von System One

Ich freue mich sehr, bekanntgeben zu können, dass wir nun eingebaute Unterstützung für Entscheidungsmodelle bieten. :confetti_ball:

Entscheidungsmodelle wurden von TypeSafe.ai vorangetrieben und erstmals entwickelt und seither von zahlreichen Anbietern implementiert, darunter CloudFlare (clef), Open AI (decisions api) und viele weitere.

Sie ermöglichen es, Text und Bilder zu klassifizieren, indem sie willkürliche Fragen zu den Eingaben schnell, genau und kostengünstig beantworten.

Bisher konnten wir uns für dieses Verhalten auf Sprachmodelle stützen, aber Kosten/Geschwindigkeit und Genauigkeit waren nicht so gut.

Wir haben direkte Unterstützung in Discourse AI hinzugefügt:


Der neue Tab (vorläufig) wird nur aktiviert, wenn Sie Discourse Workflows aktiviert haben (da dies der einzige Verbraucher ist)

Sobald Sie ein Entscheidungsmodell konfiguriert haben, erhalten Sie Zugriff auf ein neues “Classify”-Modell in Workflows.


Die neue Intelligenz kann für eine sehr große Anzahl von Workflows verwendet werden, da sie es Ihnen ermöglicht, Text (und Bilder) mit einem von Ihnen entworfenen Klassifizierer zu klassifizieren.

  • Automatische Moderation – Benachrichtigung, wenn Diskussionen hitzig werden
  • Benachrichtigen Sie bestimmte Teammitglieder, wenn bestimmte Themen diskutiert werden
  • Automatisches Taggen und Kategorisieren
  • Und vieles mehr

Viel Spaß, und bitte teilen Sie interessante Workflows, die Sie ausdenken.

26 „Gefällt mir“

Ich finde das großartig für Triage-Agenten; ich bin bereits bei meinen ersten Tests, um zu sehen, wie es läuft. Ich verstehe, dass diese neuen Modelle für Entscheidungsfindungen sehr präzise und schnell sind, und ich freue mich, dass wir sie in Discourse nutzen können.

Ich frage mich, ob es Pläne gibt und/oder ob es technisch möglich wäre, sie auch in allgemeine Agenten zu integrieren, um „Senior Helpers“ zu entwickeln, die zunächst klassifizieren und dann delegieren. Oder ergibt das überhaupt keinen Sinn?

Es ist wahrscheinlich, dass ich ihren eigentlichen besten Anwendungsfall noch nicht vollständig verstanden habe, und vielleicht frage ich etwas Unpassendes.

2 „Gefällt mir“

Ich denke, es gibt hier eine Vielzahl von Anwendungsfällen. Sie als ein Tor zu nutzen, das den richtigen Agenten oder Subagenten findet, um die Antwort zu geben, ist auf jeden Fall etwas, das ich erkunden möchte.

Wie stellst du dir vor, wie das funktionieren würde?

So stelle ich es mir vor, basierend auf unserem Setup als Beispiel. Unser Hauptagent hat fünf Subagents:

Subagent Wird gewählt, wenn
publicator ein Mitglied einen Text teilt, der vor der Veröffentlichung verbessert werden soll
links lose Verknüpfungen, die zu einem Entwurf für einen Beitrag verarbeitet werden sollen
web Dinge, die sich außerhalb des Forums ändern
base kuratiertes Archiv: ältere Diskussionen, Dokumente, Bücher
at ein Diagramm, das ein Mitglied teilt, geprüft anhand unserer öffentlichen Methode

Derzeit liest das übergeordnete LLM die Beschreibungen der Subagents und wählt mit spawn_agent einen aus. Das Gate würde diese Entscheidung von ihm übernehmen:

  1. Eine Gate-Einstellung am Agenten, die auf ein Entscheidungsmodell verweist.
  2. Die Optionen sind die bereits vorhandenen Beschreibungen der Subagents sowie „selbst antworten“. Für Administratoren gibt es nichts Neues zu schreiben.
  3. Nur die Subagents, auf die der aktuelle Benutzer zugreifen kann, werden angeboten.
  4. Über einem Konfidenzschwellenwert wird der Subagent direkt ausgeführt. Unterhalb davon erreicht das Ergebnis das übergeordnete LLM als Hinweis, und das LLM entscheidet, wie es derzeit tut.
  5. Da Entscheidungsmodelle Bilder klassifizieren können, stammt „Mitglied hat ein Diagramm geteilt“ direkt aus dem Bild selbst.

Dasselbe Gate, als Ja/Nein-Frage formuliert, könnte auch als Guard vor der Ausführung des LLM dienen.

Wir sind eine Bildungscommunity und geben keine Signale, Kursziele oder Anlageberatung heraus, daher ist „bittet dies um ein Handelssignal?“ → festgelegte Antwort. Heute ist diese Regel eine Zeile in jedem Prompt, und Modelle weichen unter Druck davon ab.

Wenn du dazu kommst, würden wir gerne eine frühe Version auf unserem Forum testen.