Activer le bot AI dans Chat

Fonctionnalité
, , ,
5

Je vois, donc pour affiner ici, il y a… avec un peu plus de détails techniques.

  1. Mentionner @gpt3.5-bot sélectionnerait la première persona prioritaire… ce serait généralement l’assistant du forum, mais vous pourriez le changer.
  2. Nous fournirions également un contexte (disons 1000 tokens de messages de chat précédents) afin qu’il soit aligné. (Est-ce configurable ou non ? Configurable par persona ou non ?)
  3. Nous devons clairement restreindre le groupe de personnes qui peuvent @mention dans le chat, nous aurions donc besoin d’un paramètre de site pour cela.
  4. Nous devrons réfléchir à l’auditabilité, un minimum facile ici serait de fournir une requête d’explorateur de données.
  5. Compte tenu des récents refactorings de chat, nous pouvons ouvrir un nombre illimité de nouvelles discussions avec un bot, nous pourrions donc certainement concevoir quelque chose là-bas.
  6. Si nous autorisons les @mention dans le chat… pourquoi ne pas les autoriser également dans les publications du forum pour le même groupe ? groupe différent.

Compte tenu de tout cela… ma suggestion V0 serait :

  1. Ajouter le paramètre de site ai_bot_chat_enabled_groups
  2. Coder en dur 1000 tokens de contexte pour l’instant - choisir la première persona prioritaire
  3. Ne faire le support @mention que pour la V0

V1

  1. Streaming et support d’annulation

V2

  1. Ajouter le support optionnel pour les “Messages privés de groupe avec des bots IA”
  2. Assurez-vous que nous avons également une belle interface utilisateur pour trouver tout cela et minimiser les frais généraux.

V3

  1. Permettre éventuellement aux personas de créer également un utilisateur dédié avec un avatar dédié. Ensuite, vous pouvez interagir avec plusieurs bots dans le chat. Dans ce mode, la persona aurait également un utilisateur/modèle sélectionné.
  2. Déplacer également une partie de la configuration vers l’interface utilisateur de la persona… quelle persona est activée pour le chat ?

V4

  1. Penser aux limites - utilisation maximale de tokens par jour par utilisateur, ce genre de choses

V5

  1. Penser à ajouter également une partie de cela dans les sujets standard - (nécessite un paramètre de site, etc…) par exemple : @summary_bot résume ce sujet jusqu'à présent

Dans l’ensemble, j’aime beaucoup tout cela, il faut juste trouver comment intégrer ces éléments dans notre feuille de route.

8 « J'aime »