Aktivierung des AI Bot in Chat

Wir würden uns freuen, einen KI-Bot in der Chat-Funktion zu haben. Unsere Benutzer nutzen den Chat intensiv.

3 „Gefällt mir“

Können Sie genauer erläutern, wie Sie möchten, dass es funktioniert?

2 „Gefällt mir“

Meine Benutzer würden es so verwenden:

  • Mein Tierarzt sagte, Hunde können Vitamin D durch Sonnenlicht bekommen
  • Das glaube ich nicht… alle sagen, wir müssen Nutrazeutika verwenden
  • Wirklich? Hallo @helpful-bot, können Hunde Vitamin D von der Sonne bekommen?

So etwas in der Art. Das bedeutet, ich brauche keine verschiedenen Personas. Aber für mich ist das kein Dealbreaker. Ich habe bereits einen anderen Chatbot in den Kanälen im Einsatz :smirking_face:

4 „Gefällt mir“

Entschuldigen Sie die Mehrdeutigkeit. Ich meinte, dass unsere Benutzer den Bot im allgemeinen Chat-Kanal aufrufen können sollen, indem sie @botname verwenden. Zusätzlich sollen Benutzer innerhalb der berechtigten Gruppe die Möglichkeit haben, dem Bot direkt Nachrichten zu senden. wie auf den unten stehenden Screenshots zu sehen ist;

3 „Gefällt mir“

Ich verstehe, also um hier genauer zu werden, gibt es … mit ein paar technischen Details.

  1. Das @mentioning von @gpt3.5-bot würde die erste priorisierte Persona auswählen… das wäre normalerweise der Forenhelfer, aber das könnte man ändern.
  2. Wir würden auch Kontext liefern (sagen wir 1000 Tokens von vorherigen Chat-Nachrichten), damit es abgestimmt ist. (Ist das konfigurierbar oder nicht? Konfigurierbar nach Persona oder nicht?)
  3. Wir müssen klar die Gruppe der Personen einschränken, die in Chats @mentionen können, also bräuchten wir dafür eine Website-Einstellung.
  4. Wir müssen über Auditierbarkeit nachdenken, ein einfaches Minimum hier wäre, eine Data Explorer-Abfrage bereitzustellen.
  5. Angesichts der jüngsten Chat-Refaktorisierungen können wir “unbegrenzt” neue Diskussionen mit einem Bot eröffnen, also könnten wir dort sicher etwas entwerfen.
  6. Wenn wir @mentioning im Chat erlauben… warum nicht auch in Forum-Posts für dieselbe Gruppe? Andere Gruppe.

Angesichts all dessen wäre mein V0-Vorschlag:

  1. Website-Einstellung ai_bot_chat_enabled_groups hinzufügen
  2. Vorerst 1000 Tokens Kontext fest codieren – erste priorisierte Persona wählen
  3. Nur @mention-Unterstützung für V0

V1

  1. Streaming- und Abbruchunterstützung

V2

  1. Optionale Unterstützung für “Gruppen-DMs mit KI-Bots” hinzufügen
  2. Sicherstellen, dass wir auch eine gute Benutzeroberfläche haben, um all diese Dinge zu finden und den Aufwand dafür zu minimieren.

V3

  1. Optional erlauben, dass Personas auch einen dedizierten Benutzer mit einem dedizierten Avatar bereitstellen. Dann kann man mit mehreren Bots im Chat interagieren. In diesem Modus würde die Persona auch einen Benutzer/ein Modell ausgewählt haben.
  2. Einige Konfigurationen auch in die Persona-Benutzeroberfläche verschieben … welche Persona ist für den Chat aktiviert?

V4

  1. Über Limits nachdenken – maximale Token-Nutzung pro Tag pro Benutzer, so etwas.

V5

  1. Überlegen, einige dieser Funktionen auch in Standard-Topics einzubauen – (benötigt Website-Einstellung usw.) z. B.: @summary_bot fasse dieses Thema bis jetzt zusammen

Insgesamt gefällt mir vieles davon, wir müssen nur herausfinden, wie wir diese Dinge in unsere Roadmap integrieren.

8 „Gefällt mir“

In der Zwischenzeit können Sie, wenn Sie selbst gehostet sind, immer Discourse Chatbot in Betracht ziehen, der Chat von Anfang an unterstützt hat (und tatsächlich der erste KI-Chatbot für Discourse war).

4 „Gefällt mir“

Das klingt nach einem sehr soliden Plan.

Vielleicht beginnen wir mit einer Einstellung für eine Standard-Chat-Persona und wechseln später zu pro Kanal?

100%

Ich denke, Chat ist ein guter Anfang, und später wird dasselbe Verhalten auf Themen übertragen.

2 „Gefällt mir“

Ich stimme Ihren und @Falcos Gedanken hier weitgehend zu. Das Einzige, was noch hinzuzufügen wäre, ist sicherzustellen, dass es auch mit Chat-Threads funktioniert, wenn nicht V0, dann V1/V2.

(Optional) Eine zusätzliche Sache, die es wert sein könnte, später hinzugefügt zu werden, ist die Option, hier einen Chat mit dem Bot zu starten. Mein Gedanke ist, dass einige Benutzer möglicherweise nicht einmal wissen, dass sie das tun können!

4 „Gefällt mir“

Scheint für eine V0 in Ordnung zu sein. Ich denke, eine bessere Benutzeroberfläche zum Erstellen von Bots und die Möglichkeit, erlaubte Gruppen über diese Benutzeroberfläche zu definieren, wäre auf lange Sicht weitaus besser als eine Website-Einstellung.

1 „Gefällt mir“

Persona-Editor ist, wie wir dorthin gelangen werden, ganz sicher.

Wir haben bereits alle Grundlagen, um einen neuen Benutzer an eine Persona anzuhängen.

2 „Gefällt mir“

KI-Bot im Chat wird viel besser sein als aktuelle private Nachrichten an KI…
Ich hoffe, diese Verbesserung kann bald hinzugefügt werden…

Übrigens, die Nutzung der Gemini API wird bald nicht mehr kostenlos sein… hmm…

1 „Gefällt mir“

Ich habe damit experimentiert, es hat einige Einschränkungen, da es schwierig ist, den Verlauf zu verfolgen, Markdown ist nicht so vollständig und mehr… Es ist kein Selbstläufer. Es ist zwar einfach, Gespräche zu beginnen, aber kein vollständiger Ersatz.

Können Sie genau erläutern, warum Sie denken, dass es viel besser ist?

Gemini 1.0 Pro ist nicht so toll, ich würde es sowieso meiden. Wenn Sie nach einem günstigen LLM suchen, ist Claude 3 Haiku die beste Wahl.

4 „Gefällt mir“

Dies ist jetzt implementiert! :confetti_ball:

Anleitung unter:

4 „Gefällt mir“

Dieses Thema wurde nach 2 Tagen automatisch geschlossen. Neue Antworten sind nicht mehr möglich.