Wie wählt man Personas aus? und was sind Personas im Vergleich zu ai bot enabled chat commands ?
Insbesondere, wie macht man das?
1 „Gefällt mir“
Personas sind der beste Weg, den @sam gefunden hat, um uns zu ermöglichen, mehr und bessere Befehle zu unterstützen. Anstatt eines „einzigen Bots“, der versucht, alles zu tun, aber schließlich aufgrund bekannter LLM-Einschränkungen vergisst und versagt, erhalten Sie durch die Auswahl der geeigneten Persona zu Beginn eine weitaus bessere Erfahrung.
2 „Gefällt mir“
Aha! Das ist großartig. Ich habe meine Chats selbst als PMs begonnen.
Das erklärt auch einen Fehler. Wenn Sie eine PM starten und sie an einen GPT senden, wird das Thema verdeckt, sodass Sie die Nachricht nicht senden können. Niemand, der das Plugin vernünftig nutzte, würde dies tun.
Warum ich nie das Symbol zum Starten eines Chats verwendet habe, kann ich nicht erklären. Ich habe einem Benutzer sogar gesagt, dass er auf diese Weise einen Chat starten kann, aber ich habe nie daran gedacht, es selbst zu tun!?
Meine nächste Frage ist, wie einfach es ist oder sein wird, neue Personas zu erstellen. (Ich werde mir als Nächstes den Code ansehen.)
Zum Beispiel habe ich eine Vorlage erstellt (die mit dem KI-Chatbot-Plugin funktioniert) wie diese:
@AIBot
Sie sind ein freundlicher und hilfsbereiter Tutor. Ihre Aufgabe ist es, dem Benutzer ein Konzept klar und einfach zu erklären, ihm eine Analogie und ein Beispiel für das Konzept zu geben und das Verständnis zu überprüfen. bla bla bla
. . .
Ich würde das gerne zur Persona machen.
EDIT: Auf den ersten Blick scheint es nur ein paar Dateien zu geben, die geändert werden müssen, um eine Persona hinzuzufügen. Die Person selbst, und dann muss entry_point.rb sie erfordern und es muss eine Einstellung geben, um sie zu aktivieren. Oh! Oder vielleicht könnte es eine benutzerdefinierte Persona geben, die den Prompt als Website-Einstellung übernimmt. Ich schätze, das ist eine längerfristige Lösung. Wäre es sinnvoll, wenn ich mich daran versuche, einen PR dafür zu erstellen, oder sollte ich vorerst meine eigene Version forken?
3 „Gefällt mir“
Wir planen, Eingabeaufforderungen in Zukunft anpassbar zu machen, aber dafür ist es noch zu früh.
Ich würde mit einem Fork beginnen. Im aktuellen „Vorschau“-Zustand des Plugins ändern wir viel und können nicht garantieren, dass die interne Code-Struktur stabil bleibt.
Wenn Sie etwas haben, das Ihrer Meinung nach allgemein nützlich ist und den gleichen Standard wie andere Personas erreicht, können Sie ein Thema in Feature eröffnen, um einen PR zu besprechen.
6 „Gefällt mir“
@pfaffman Wir denken über all die verschiedenen Arten von Personas nach, die wir für den KI-Bot haben können. Bisher haben wir uns auf die folgenden beschränkt, experimentieren aber noch …
- Forum-Helfer: Allzweck-KI-Bot, der verschiedene Aufgaben ausführen kann. Kann Ihre aktuelle Discourse-Instanz durchsuchen und diese Informationen verwenden, um Antworten zu erstellen
- z. B. Was sind die Top-Beiträge zu KI?
- SQL-Helfer: KI-Bot, der sich auf die Erstellung von SQL-Abfragen in dieser Discourse-Instanz spezialisiert hat (kennt Ihr aktuelles Datenbankschema)
- z. B. Schreiben Sie mir eine Abfrage, um alle KI-Bot-Nachrichten eines bestimmten Kunden/Benutzers zu finden
- Künstler: KI-Bot, der sich auf die Generierung von Bildern spezialisiert hat
- z. B. Zeichnen Sie mir ein Bild einer Katze
- Einstellungen-Explorer: KI-Bot, der sich auf die Erkundung der Discourse-Site-Einstellungen spezialisiert hat (kennt den Discourse-Quellcode)
- z. B. Wie aktiviere ich Discourse AI auf meiner Discourse-Site?
- Forscher: KI-Bot mit Google-Zugriff, um Informationen für Sie zu recherchieren
- z. B. Wie viele Beine hat ein Dinosaurier?
Gibt es andere Personas, die Sie sich für den KI-Bot wünschen würden? Würden Sie es als wertvoll erachten, Ihre eigene „benutzerdefinierte“ Persona zu entwickeln (wenn Ihnen die oben genannten nicht gefallen)?
1 „Gefällt mir“
Meine Idee, an der ich bisher null Arbeit geleistet habe, ist, eine Kategorie für Personas zu haben, bei der der OP des Themas der Prompt ist. Ich stelle mir benutzerdefinierte Prompts wie diesen vor, der einen Prompt für einen KI-Bildgenerator erstellt: ChatGPT Prompt Genius Engineering | MetricsMule, oder einen Prompt von Now is the time for grimoires - by Ethan Mollick, der mit
beginnt.
Ich denke, dass benutzerdefinierte Prompts/Personas wahrscheinlich eine nützliche Funktion für viele Communities sein werden und es trivial machen würden, neue Prompts zum Kern hinzuzufügen (oh, aber es könnte es auch schwieriger machen, diese Prompts im Kern zu aktualisieren, da es schwierig wäre zu wissen, ob sie absichtlich bearbeitet wurden…).
Oder vielleicht eher als ein Thema eine Einstellung, die ein Array von Prompts enthält, was eine bessere Möglichkeit sein könnte, sie zu verwalten als Themen (was für vorgefertigte Antworten funktioniert).
3 „Gefällt mir“
Was baut in dieser Persona auf der Discourse-Integration auf, abgesehen von der Verwendung der Discourse-UI als Frontend für die externe LLM?
Für die meisten unserer Personas untersuchen wir RAG, wo wir etwas erstellen können, das ein Standard-LLM nicht auch bieten kann.
3 „Gefällt mir“
Oh. Äh. . .
Ja. Das ist es, was ich will.
Mein Anwendungsfall ist es, Kursaufgaben (wie der hilfreiche Tutor) zu erstellen, die Leute durch eine KI-generierte Aktivität führen. Discourse ist mein Hammer, also möchte ich, dass alles in Discourse ist. (Ich habe am Wochenende etwa 12 Stunden damit verbracht, einen URL-Shortener/QR-Code-Generator zu finden und zu installieren – ich glaube, ich hätte es schneller als Discourse-Plugin schaffen können!).
Wenn ich mir ansehe, wofür ich und meine Studenten API-Aufrufe bezahlt haben, scheint es viel günstiger zu sein, Discourse als eine Möglichkeit zur Nutzung von GPT4 zu haben, als 20 $/Monat für die Nutzung ihrer Oberfläche zu bezahlen.
Wenn sonst noch jemand zuhört, ich glaube, er meint das: https://research.ibm.com/blog/retrieval-augmented-generation-RAG.
Oh, Entschuldigung. Ja, ich bin weit davon entfernt.
2 „Gefällt mir“
Kann ich „Sokratischer Tutor“ zu dieser Liste hinzufügen? Ich habe mit einer Webanwendung experimentiert, die einen Satz strukturierter Eingabeaufforderungen gegen einen Aufsatz eines Schülers ausführt, um ihm Feedback zu geben. Ich würde gerne ein verstecktes Thema haben, das Quellmaterial für einen Lernialog basierend auf RAG bereitstellt
Etwas wie: Sie sind ein weiser und freundlicher Lehrer, der Schülern bei ihrer Arbeit helfen möchte, ohne jemals eine direkte Antwort zu geben. Sie möchten den Schülern genügend Informationen geben, um ihre eigenen Probleme zu lösen. Die Quellmaterialien in [dieser Kategorie oder Beiträge oder einzelnes Thema] sind korrekt und liefern alle Informationen, die Sie benötigen, um die spezifischen Fragen der Schüler zu beantworten. Verwenden Sie nur Informationen aus diesen Quellen, um Fragen zu beantworten.
2 „Gefällt mir“
Wir möchten auf jeden Fall Unterstützung für „benutzerdefinierte Personas“ hinzufügen, bei denen Sie Folgendes auswählen können:
- Temperatur
- Systemnachricht
- LLM
- Befehle
Wir müssen eine Benutzeroberfläche dafür erstellen, daher kann die Entwicklung etwas dauern. Dennoch sehe ich dies als eine sehr leistungsstarke und nützliche Funktion.
Im Extremfall sollten Endbenutzer auch benutzerdefinierte Personas erstellen können. V0 wäre wahrscheinlich eine Admin-Funktion.
Die langfristige Vision ist, dass Sie auch benutzerdefinierte Befehle definieren können, damit Sie mit beliebigen Systemen interagieren können (stellen Sie es sich wie Webhooks vor usw. und tätigen Sie API-Aufrufe an ein benutzerdefiniertes System, um Kontext für den Bot zu füllen).
All diese Dinge befinden sich derzeit noch in meinem Gedankenpalast, aber wir werden dorthin gelangen… also
Phase 0
- Administratoren können benutzerdefinierte Personas definieren und Befehle/Temperatur/Systemnachricht/LLM auswählen
Phase 1
- Zugelassene Gruppen können eine „persönliche Persona“ definieren – z. B. Ich möchte, dass meine kreative Persona kreativer/prägnanter/usw. ist – ähnlich wie benutzerdefinierte Anweisungen von OpenAI, aber leistungsfähiger
Phase 2
- Ermöglicht benutzerdefinierte Befehle, sodass Sie sich in Drittanbietersysteme integrieren können
8 „Gefällt mir“
Das klingt alles gut.
Phase 0 und 1 wären jedoch viel leistungsfähiger, wenn die Idee einer Persona durch das Konzept einer Wissensdatenbank ergänzt würde. Das heißt, Sie können eine kleine Charakterbeschreibung schreiben, um zu beschreiben, wie sich der Bot verhalten wird, aber Sie können auch ein Thema, eine Themenkategorie, eine Kategorie oder eine Reihe von Tags verwenden, um zu definieren, was der Bot weiß.
In Foren, in denen einige Leute viel wissen oder kanonisch zu einem Thema sind und andere Leute Fragen stellen oder weniger informierte Diskussionen führen, macht dies einen großen Unterschied. Sie möchten nicht, dass der Bot alte oder verwirrte Diskussionen zu einem Thema wiederkäut … Sie möchten ihn auf einen validierten Faktenbestand beschränken können.
Der Persona-Editor ist einsatzbereit!
Ich werde dies nun schließen. Fühlen Sie sich frei, neue Funktionsanfragen für den Persona-Editor zu eröffnen.
4 „Gefällt mir“