Bot IA - Personnages

Documentation Gestion de site
, ,
1

:bookmark: Ce guide explique comment configurer et gérer les Personas pour Discourse AI - AI bot.

:person_raising_hand: Niveau d’utilisateur requis : Administrateur

Le bot Discourse AI inclut un système flexible pour gérer les Personas. Ce guide couvre :

  • Méthodes d’interaction pour les Personas IA
  • Options de configuration
  • Paramètres avancés
  • Commandes prises en charge
  • Possibilités de personnalisation

:link: En savoir plus sur le bot IA et comment l’activer dans ce guide.

Que sont les personas ?

Les personas sont une fonctionnalité puissante qui vous permet de personnaliser le comportement du moteur IA sur votre forum Discourse. Ils agissent comme un « message système » qui guide les réponses et les interactions de l’IA, contribuant à créer une expérience utilisateur plus personnalisée et engageante.

Pourquoi utiliser des personas ?

Avec les personas, vous pouvez adapter le comportement de l’IA pour mieux correspondre au contexte et au ton de votre forum. Que vous souhaitiez que l’IA soit plus formelle pour un cadre professionnel, plus décontractée pour un forum communautaire, ou même qu’elle incarne un personnage spécifique pour un jeu de rôle, les personas vous offrent la flexibilité nécessaire pour le faire.

Accès aux personas spécifique aux groupes

De plus, vous pouvez configurer de manière à ce que certains groupes d’utilisateurs aient accès à des personas spécifiques. Cela signifie que vous pouvez avoir différents comportements d’IA pour différentes sections de votre forum, enrichissant ainsi davantage la diversité et la richesse des interactions de votre communauté.

Interagir avec les Personas

Les personas peuvent être utilisés de plusieurs manières :

  1. Message privé (MP)
  2. Message direct de chat (DM)
  3. Mentions dans un canal de chat
  4. Mention dans un sujet public via @nom_utilisateur_bot_exemple

Les administrateurs peuvent contrôler les méthodes d’interaction autorisées pour chaque persona.

Configuration

Pour configurer les Personas, accédez à discourse.example.com/admin/plugins/discourse-ai/ai-personas.

Les principales options de configuration incluent :

  • Message système : Oriente la conversation
  • Support de la vision : Activer pour les LLM basés sur la vision, c’est-à-dire GPT-4 Turbo, Claude 3
  • Modèle par défaut : Requis pour les personas mentionnables
  • Groupes autorisés : Définir les autorisations à l’aide de la sécurité des groupes Discourse
  • Téléchargements : Indexer les fichiers texte pour des connaissances supplémentaires (en utilisant RAG - Retrieval-Augmented Generation)
  • Commandes activées : Contrôler l’accès à des commandes spécifiques
  • Autoriser le chat : Activer le chat via DM (nécessite le plugin de chat, un modèle de langage large (LLM) par défaut et un utilisateur)

Voici un aperçu d’un écran de configuration complet de persona IA :

Écran de configuration du persona IA
Écran de configuration du persona IA1277×2653 273 KB

Options de configuration avancées

L’éditeur de persona offre plusieurs options avancées :

  • Température et top_p (échantillonnage par noyau) : Contrôlent la créativité par rapport à la prévisibilité
  • Posts de contexte max : Limite le nombre de posts fournis au LLM pour l’historique - moins de posts réduiront les coûts, mais feront « oublier » à l’IA le contenu plus ancien
  • Options de téléchargement :
    • Tokens de morceaux : Contrôle la division des documents
    • Tokens de chevauchement de morceaux : Définit le chevauchement entre les morceaux
    • Morceaux de conversation de recherche : Nombre de fragments de documents ajoutés aux requêtes des utilisateurs
    • LLM de consolidation des questions : Choisir le LLM pour déterminer les questions des utilisateurs

Prérequis pour le support des téléchargements

Pour utiliser le support des téléchargements :

  1. Activer le paramètre ai_embeddings_enabled
  2. Configurer un ai_embeddings_model

Discourse AI prend en charge divers modèles d’intégration. Les clients hébergés bénéficient d’un accès gratuit au modèle bge-large-en.

:information_source: Les auto-hébergeurs ou ceux qui souhaitent plus de choix peuvent auto-héberger un modèle d’intégration ou utiliser des modèles d’Open AI, Google (Gemini), et plus encore.

Division du texte dans Discourse AI

Discourse utilise un diviseur de texte récursif par caractères pour conserver les paragraphes, les lignes et les mots ensemble lors de la division du texte. Vous pouvez contrôler la division du texte à l’aide du séparateur [[metadata VOTRE MÉTA-DONNÉE ICI]] :

[[metadata sur les chats]]
une longue histoire sur les chats
[[metadata sur les chiens]]
une longue histoire sur les chiens

Cette méthode empêche la « contamination des morceaux » en garantissant que seules les données pertinentes sont incluses dans chaque morceau.

Débogage des personas IA

Pour déboguer votre persona :

  1. Ajoutez des utilisateurs au groupe spécifié dans le paramètre ai bot debugging enabled groups
  2. Les utilisateurs de ce groupe verront un bouton de débogage IA en bas des posts IA
  3. Cliquez sur le bouton pour accéder à la fenêtre modale de l’interface de débogage

Bouton de débogage IA
Bouton de débogage IA600×205 16.8 KB

Fenêtre modale de l'interface de débogage
Fenêtre modale de l'interface de débogage1415×1122 112 KB

:warning: Rappelez-vous : Si vous fournissez des informations vagues ou peu utiles à un LLM, il aura beaucoup de mal à les convertir en informations utiles.

Commandes prises en charge

Discourse AI prend en charge diverses commandes, notamment :

  • Catégories
  • Tags
  • Recherche
  • Navigateur Web
  • Intégration GitHub (Recherche de code, Différence de Pull Request, Contenu de fichier)
    • Nécessite que le paramètre ai bot github access token soit renseigné
  • Recherche sur Meta Discourse
  • Sélecteur aléatoire
  • Lire
  • Heure
  • Recherche Google
    • Nécessite que les paramètres ai google custom search api key et ai google custom search cx soient renseignés
  • Génération d’images via DALL-E
    • Nécessite une clé open_ai
  • Génération d’images via Stable Diffusion
    • Nécessite que le paramètre ai stability api key soit renseigné
    • Le paramètre ai stability engine contrôle l’algorithme de génération d’images
  • Schéma
  • Paramètres de recherche
  • Définir le contexte

Certaines commandes nécessitent une configuration supplémentaire ou des clés API.

Support d’outils personnalisés

Vous pouvez créer vos propres outils en utilisant le support d’outils personnalisés.

Personnalisation des personas système

  1. Créez un nouveau persona
  2. Copiez et collez le message système du persona que vous souhaitez personnaliser
  3. Modifiez selon vos besoins
  4. Désactivez éventuellement le persona système d’origine pour éviter les doublons

Personnalisation de la recherche

Pour personnaliser la recherche d’un nouveau persona :

  1. Créez un nouveau persona
  2. Ajoutez la commande « recherche »
  3. Configurez les options de recherche, notamment :

Cela vous permet de déléguer les autorisations de recherche, d’augmenter le nombre de résultats ou de restreindre la recherche à des sections spécifiques de votre site.

7 « J'aime »
2

Un message a été divisé en un nouveau sujet : Puis-je fournir une fonction de génération d’images à Discourse AI

3

Que fait exactement l’outil Lire ?

De plus, les mentions dans les publications sont actuellement cassées selon ce rapport de bug.

4

En bref, cela permet au LLM de lire les sujets et les publications sur votre forum.

1 « J'aime »
5

Essentiellement, il lit un sujet/post lorsqu’une URL, un nom ou un ID est donné et sinon, ou toujours, il utilise des intégrations et le quoi, quand, pourquoi et comment dépend du modèle lui-même, de l’incitation, etc. ?

2 « J'aime »
8

Oh désolé, je répondais à un autre message :slight_smile:

Il utilise l’ID du sujet ou l’ID du sujet + le numéro du message pour trouver le markdown brut d’un sujet/message avec quelques protections pour la longueur maximale.

Ne dépend pas de l’intégration.

5 « J'aime »
9

Un peu hors sujet, mais comme je n’ai rien à demander et que vous allez nettoyer ces sujets de temps en temps, je m’en fiche.

Les titres automatiques dans les MP avec l’IA sont maintenant dans la bonne langue. Ce n’est pas grand-chose, mais sa valeur psychologique est grande. Merci !

4 « J'aime »
10

Y a-t-il un moyen d’ajouter des utilisateurs Bot à un groupe ? Je veux essentiellement ajouter un avatar flair à ces utilisateurs, mais lorsqu’ils sont ajoutés à un groupe, ils n’apparaissent pas.

11

Ils n’apparaissent pas, mais sont toujours là. Vous pouvez en être sûr en essayant d’ajouter une personne IA une seconde fois. Ou vous voyez le groupe nécessaire dans les paramètres de ces pseudo-utilisateurs.

1 « J'aime »
12

Quelle partie du dépôt Discourse AI dois-je consulter si je veux savoir précisément comment fonctionnent les outils du bot IA ?

13

Outil, Playground et Bot sont tous de bons points de départ.

Voir cet exemple : Understanding Tools in Discourse AI System - AI Conversation - Discourse Meta

3 « J'aime »
14

Exactement la réponse que je cherchais — merci, cher monsieur ! Pour quiconque cela pourrait concerner : je recommande de lire le code de ce dépôt pour mieux orienter vos invites pour les outils de votre persona.

1 « J'aime »
16

Une publication a été divisée en un nouveau sujet : Ingénierie d’une persona pour s’appuyer sur l’historique de discussion

17

J’essaie actuellement de récupérer tous les messages d’un sujet via l’outil « Lire », mais il ne fournit qu’un maximum de 100 messages au modèle LLM. J’ai déjà défini « Max messages » sur 999 dans les paramètres de persona, mais le problème persiste.

Y a-t-il une limitation de requête API côté serveur qui pourrait causer le problème ?

18

@sam une idée de la cause ?

19

Je n’ai pas vérifié la base de code, mais je soupçonne qu’il pourrait s’agir d’une limite stricte définie dans le code lui-même. Puis-je vous demander ce que vous essayez d’accomplir avec ceci ? C’est un facteur clé ici.

Et peut-être serait-il préférable d’utiliser le persona de chercheur du forum ?

20

Nous avons la catégorie « journal/log » qui contient souvent plusieurs centaines de publications où le propriétaire du sujet rend compte de l’avancement de son projet sur une période de 4 à 5 mois.

Mon objectif est de récupérer toutes les publications de ce sujet, de les filtrer par auteur = propriétaire du sujet et de créer un résumé.

1 « J'aime »
21

Vous devez utiliser le chercheur de forum pour cela, c’est le cas d’utilisation exact pour le persona

2 « J'aime »
22

@sam J’adorerais, mais actuellement il ne prend pas en charge les images. Est-ce quelque chose qui est prévu ou pas une priorité pour le moment ?

3 « J'aime »
23

Bien sûr, je peux ajouter cela, ce n’est pas un changement trop important.

3 « J'aime »