Nous aimerions avoir un bot IA dans la fonction de chat. Nos utilisateurs utilisent beaucoup le chat.
Pouvez-vous expliquer plus en détail comment vous souhaitez que cela fonctionne ?
2 « J'aime »
Mes utilisateurs l’utiliseraient comme ceci :
- mon vétérinaire a dit que les chiens peuvent obtenir de la vitamine D du soleil
- Je ne pense pas… tout le monde dit que nous devons utiliser des nutraceutiques
- vraiment ? Salut
@helpful-botles chiens peuvent-ils obtenir de la vitamine D du soleil ?
Quelque chose comme ça. Cela signifie que je n’ai pas besoin de personas différents. Mais pour moi, ce n’est pas un problème rédhibitoire. J’ai un autre chatbot en cours d’utilisation dans les canaux 
4 « J'aime »
Désolé pour l’ambiguïté. Je voulais dire que nous voulons que nos utilisateurs puissent invoquer le bot dans le canal de discussion général en utilisant @nomduBot. De plus, les utilisateurs du groupe éligible devraient pouvoir envoyer des messages directs au bot. comme les captures d’écran ci-dessous ;
3 « J'aime »
Je vois, donc pour affiner ici, il y a… avec un peu plus de détails techniques.
- Mentionner
@gpt3.5-botsélectionnerait la première persona prioritaire… ce serait généralement l’assistant du forum, mais vous pourriez le changer. - Nous fournirions également un contexte (disons 1000 tokens de messages de chat précédents) afin qu’il soit aligné. (Est-ce configurable ou non ? Configurable par persona ou non ?)
- Nous devons clairement restreindre le groupe de personnes qui peuvent
@mentiondans le chat, nous aurions donc besoin d’un paramètre de site pour cela. - Nous devrons réfléchir à l’auditabilité, un minimum facile ici serait de fournir une requête d’explorateur de données.
- Compte tenu des récents refactorings de chat, nous pouvons ouvrir un nombre illimité de nouvelles discussions avec un bot, nous pourrions donc certainement concevoir quelque chose là-bas.
- Si nous autorisons les
@mentiondans le chat… pourquoi ne pas les autoriser également dans les publications du forum pour le même groupe ? groupe différent.
Compte tenu de tout cela… ma suggestion V0 serait :
- Ajouter le paramètre de site
ai_bot_chat_enabled_groups - Coder en dur 1000 tokens de contexte pour l’instant - choisir la première persona prioritaire
- Ne faire le support
@mentionque pour la V0
V1
- Streaming et support d’annulation
V2
- Ajouter le support optionnel pour les “Messages privés de groupe avec des bots IA”
- Assurez-vous que nous avons également une belle interface utilisateur pour trouver tout cela et minimiser les frais généraux.
V3
- Permettre éventuellement aux personas de créer également un utilisateur dédié avec un avatar dédié. Ensuite, vous pouvez interagir avec plusieurs bots dans le chat. Dans ce mode, la persona aurait également un utilisateur/modèle sélectionné.
- Déplacer également une partie de la configuration vers l’interface utilisateur de la persona… quelle persona est activée pour le chat ?
V4
- Penser aux limites - utilisation maximale de tokens par jour par utilisateur, ce genre de choses
V5
- Penser à ajouter également une partie de cela dans les sujets standard - (nécessite un paramètre de site, etc…) par exemple :
@summary_bot résume ce sujet jusqu'à présent
Dans l’ensemble, j’aime beaucoup tout cela, il faut juste trouver comment intégrer ces éléments dans notre feuille de route.
8 « J'aime »
Dans l’intervalle, si vous êtes auto-hébergé, vous pouvez toujours envisager Discourse Chatbot, qui prend en charge le Chat depuis le tout début (et a en effet été le premier Chatbot IA pour Discourse).
4 « J'aime »
Cela semble être un plan très solide.
Peut-être commencerions-nous par un réglage pour une persona de chat par défaut, puis migrerions-nous éventuellement vers par canal ?
100%
Je pense que le chat est un bon point de départ, puis nous porterons éventuellement le même comportement aux sujets.
2 « J'aime »
Je suis à peu près d’accord avec tes réflexions et celles de @Falco ici, la seule chose à ajouter serait de s’assurer que cela fonctionne également avec les fils de discussion de chat, si ce n’est pas V0 alors V1/V2.
(Optionnel) Une chose supplémentaire qui pourrait valoir la peine d’être ajoutée plus tard est une option ici pour initier une conversation avec le bot, ma pensée est que certains utilisateurs pourraient même ne pas savoir qu’ils peuvent le faire !
4 « J'aime »
Cela semble correct pour une V0. Je pense qu’avoir une meilleure interface utilisateur pour créer des bots et pouvoir définir les groupes autorisés à partir de cette interface serait bien mieux qu’un paramètre de site à moyen/long terme.
1 « J'aime »
L’éditeur de persona est la façon dont nous y parviendrons, c’est certain.
Nous avons déjà tous les éléments pour attacher un nouvel utilisateur à un persona.
2 « J'aime »
Le bot IA dans le chat sera bien meilleur que la messagerie privée actuelle avec l’IA…
J’espère que vous pourrez bientôt ajouter cette amélioration…
Au fait, il semble que l’utilisation de l’API Gemini ne sera bientôt plus gratuite… hmm…
1 « J'aime »
J’ai expérimenté cela, cela présente pas mal de limitations étant donné qu’il est difficile de suivre l’historique, le markdown n’est pas aussi complet et plus encore… Ce n’est pas une victoire facile. Pourtant, il est facile de démarrer des conversations mais ce n’est pas un remplacement complet.
Pouvez-vous développer exactement pourquoi vous pensez que c’est bien mieux ?
Gemini 1.0 pro n’est pas terrible, je l’éviterais de toute façon, si vous cherchez un LLM bon marché, alors Claude 3 Haiku est la voie à suivre.
4 « J'aime »
Ceci est maintenant implémenté ! 
Guide sur :
4 « J'aime »
Ce sujet a été automatiquement fermé après 2 jours. Les nouvelles réponses ne sont plus autorisées.