Discourse AI - Tri des requêtes par l'IA

[sam (Sam Saffron)]

Le triage par IA est conçu pour améliorer la gestion et la modération des publications de forum en automatisant le processus de classification des publications.

Veuillez noter que cette fonctionnalité nécessite les plugins discourse-automation et discourse-ai pour fonctionner.

Cas d’utilisation

1. Catégorisation automatisée des publications : Le triage par IA peut catégoriser automatiquement les sujets en fonction de leur contenu. Ceci est particulièrement bénéfique pour les grands forums où la catégorisation manuelle peut prendre beaucoup de temps. Vous pouvez appliquer les règles à un sous-ensemble de sujets (premier sujet uniquement ou sujets publiés dans des catégories particulières)

2. Étiquetage des publications : Le triage par IA peut attribuer des étiquettes spécifiées aux publications. Cette fonctionnalité facilite une meilleure organisation des publications et rend la recherche et la récupération des sujets plus efficaces.

3. Réponses automatisées : Le triage par IA peut générer des réponses aux publications en utilisant des réponses prédéfinies. Ceci est utile pour répondre aux questions fréquemment posées ou aux requêtes courantes, envoyer du spam vers des catégories indésirables, et plus encore.

4. Masquage des sujets : Le triage par IA peut masquer les sujets en fonction de certains critères. Ceci peut être utilisé pour gérer le spam ou le contenu inapproprié.

5. Détection de contenu NSFW/Toxicité/Spam

   • Configuration de la détection NSFW dans votre communauté
   • Configuration de la détection de toxicité dans votre communauté
   • Configuration de la détection de spam dans votre communauté

Comment ça marche

Le triage par IA utilise des modèles d’IA pour analyser le contenu des publications. En fonction de cette analyse, si le modèle renvoie un texte spécifique, il exécute les actions spécifiées. Ces actions incluent le déplacement de la publication vers une catégorie spécifiée, l’ajout d’étiquettes, la réponse avec une réponse prédéfinie et le masquage du sujet.

Configuration

Le champ de l’invite système a été déprécié au profit des Agents. Si vous aviez une automatisation d’IA avant ce changement, un nouvel Agent avec l’invite système associée sera créé automatiquement.

Pour configurer le triage par IA, vous devez spécifier certains paramètres :

• Agent : Agent utilisé pour le triage. Assurez-vous qu’il répond avec un seul mot que vous pouvez utiliser pour déclencher les actions ci-dessous.
• Rechercher du texte : Si le texte suivant apparaît dans la réponse du LLM, appliquez les actions ci-dessous.
• Max Tokens de publication : Le nombre maximal de jetons à analyser à l’aide du triage LLM.
• Séquences d’arrêt : Indiquez au modèle d’arrêter la génération de jetons lorsqu’il atteint l’une de ces valeurs.
• Max Tokens de sortie : Lorsqu’il est spécifié, définit une limite supérieure au nombre maximal de jetons que le modèle peut générer.
• Inclure les messages personnels : Analyse et trie également les messages personnels.
• Catégorie : Il s’agit de la catégorie vers laquelle la publication sera déplacée si le texte spécifié est trouvé.
• Balises : Ce sont les balises qui seront ajoutées à la publication si le texte spécifié est trouvé.
• Masquer le sujet : Si cette option est activée, le sujet sera masqué si le texte spécifié est trouvé.
• Signaler la publication : Si cette option est activée, le sujet sera signalé pour la file d’attente de révision pour que les modérateurs, le personnel et les administrateurs prennent des mesures.
• Type de signalement : Le type de signalement à appliquer. Les options incluent :
  • Ajouter la publication à la file d’attente de révision — envoie uniquement à la file d’attente de révision
  • Ajouter la publication à la file d’attente de révision et masquer la publication — envoie à la file d’attente de révision et masque la publication
  • Ajouter la publication à la file d’attente de révision et supprimer la publication — envoie à la file d’attente de révision et supprime la publication
  • Ajouter la publication à la file d’attente de révision, supprimer la publication et faire taire l’utilisateur — envoie à la file d’attente de révision, supprime la publication et fait taire l’utilisateur
  • Signaler comme spam et masquer la publication — signale comme spam et masque
  • Signaler comme spam, masquer la publication et faire taire l’utilisateur — signale comme spam, masque et fait taire l’utilisateur
• Utilisateur de réponse : Il s’agit de l’utilisateur qui sera mentionné dans la réponse standard.
• Réponse : Il s’agit de la réponse prédéfinie qui sera publiée si le texte spécifié est trouvé.
• Agent de réponse : Agent IA à utiliser pour les réponses. Doit avoir un LLM par défaut, sera prioritaire sur la réponse standard. Répondra conditionnellement contrairement à Discourse AI - AI triage using Agent.
• Répondre en murmure : Indique si la réponse de l’IA doit apparaître comme un murmure.
• Notifier l’auteur par MP : Envoyer un message personnel à l’auteur de la publication lorsque sa publication est mise en file d’attente et supprimée.
• Expéditeur du MP : Utilisateur qui enverra le MP (par défaut, système).
• Contenu du MP : Message personnalisé facultatif à envoyer à l’auteur.

Précautions

• Les appels LLM peuvent être coûteux. Lors de l’application d’un classificateur, veillez à surveiller les coûts et envisagez toujours de n’exécuter ceci que sur de petits sous-ensembles.
• Le cas d’utilisation particulier que nous avons testé (et que nous exécutons en production pour un client) est la classification des premiers sujets d’un utilisateur.
• Nous vous recommandons d’utiliser AI bot pour aider à rédiger l’invite système de l’agent.

[EricGT]

En étant l’un des chanceux à voir cela en action, voici une fonctionnalité pour les grands sites que vous devriez vraiment comprendre et envisager d’utiliser.

Comme cela fonctionne à l’aide d’une IA basée sur un LLM, elle ne parvient pas toujours à la bonne conclusion, mais elle réussit tellement bien dans les cas où je l’ai vue utilisée pendant quelques jours pour faire une partie du travail d’un modérateur qu’elle a certainement été un avantage significatif.

Certaines des premières discussions à ce sujet se trouvent dans la catégorie Lounge sur le site d’OpenAI. Bien que l’accès à cette catégorie soit ouvert à tous, les exigences TL3 doivent être satisfaites et OpenAI étant un grand site, il faut beaucoup d’efforts pour atteindre TL3 sur le site.

Pour ceux qui ont accès, voici le lien
https://community.openai.com/t/lost-users-first-empirical-data/403082/95

---

Fondamentalement, la logique consiste à aider les modérateurs pour un problème spécifique : nous constatons qu’environ 5 % des publications d’utilisateurs nouveaux pensent que le forum est l’endroit où ils posent des questions à ChatGPT, ils sont clairement perdus ou peut-être qu’un résultat de recherche fournit un lien invalide. L’IA identifie ces publications, répond avec un texte préécrit et modifie la catégorie et les tags si nécessaire, par exemple

Education is very important how can children who are disinterested in the...

---

Dans le cas noté, voici ce que fait la “Règle d’automatisation du classificateur de publications Discourse AI”

Catégorisation automatisée des publications
Le classificateur modifie la catégorie en ChatGPT si nécessaire. Comme la plupart des nouveaux utilisateurs ne sélectionnent pas de catégorie, le site OpenAI attribue actuellement par défaut la catégorie API aux nouvelles publications, ce qui est incorrect dans ce cas.

Tagging des publications
Le classificateur modifie le(s) tag(s) en lost-user dans ce cas. Le nom du tag a été créé par un utilisateur TL3 sur le forum qui modifiait manuellement les tags.

Réponses automatisées
Le classificateur répond avec une publication préécrite.

Masquage des sujets
Les sujets sont non répertoriés car ils n’avaient pas de valeur pour les développeurs qui utilisent le site.

Utilisateur de réponse
System est utilisé comme créateur de la réponse.

Remarque : Je fournirais la Configuration pour cela, mais je manque d’accès. Peut-être que @Sam peut ajouter les détails. D’après ce que je sais, cela peut être rendu public car rien n’est confidentiel dans la configuration. Comme il s’agit d’un site spécifique, je ne m’attendrais pas à le trouver dans le dépôt public. Si vous comprenez cette technologie, il n’est pas difficile de deviner les bonnes valeurs, ou des valeurs proches. Le Prompt système a nécessité un certain travail et peut-être que @sam peut partager certaines leçons apprises, la connaissance de la façon de créer le prompt a été d’une grande valeur pendant la phase de développement.

Prompt système

Remarque : Ceci est une version publiée dans l’OpenAI Lounge (ref), je suis à peu près sûr que la version finale est différente, mais un exemple évite beaucoup de conjectures.

You are bot that is triaging all first interactions a user has on the OpenAI developer forum.

Please only ever respond with “ok” or “bad”

Posts are on topic and ok if:

They relate to OpenAI APIs / Community / Plugin development / Documentation / Prompting
They are about developing or improving methods for prompting large language models
They relate to AI in a general way
They involve complex discussions or logical problems related to AI
Posts are bad if:

A user appears to be having a random conversation with ChatGPT
A user is off topic discussing an unrelated field
A user is prompting a large language model to generate text without a clear purpose
You have extreme difficulty understanding what they are about
Relates to an OpenAI topic BUT is clearly a conversation with a bot
A user is attempting to train or test the AI model through their post
A user is giving instructions or asking for responses in a non-discussion format
A user is posting content that is not conducive to meaningful discussion or learning
A user is posting hypothetical or speculative content without clear relation to OpenAI’s scope
A user is posting the entire post in a language that is not English
Please classify the following content surrounded by [[[]]]:

[[[
%%POST%%
]]]

---

FYI

Si vous êtes modérateur sur un site utilisant cela et que vous souhaitez/avez besoin de voir une liste de publications non répertoriées, rappelez-vous que vous ne pouvez pas utiliser la recherche. Cependant, vous pouvez accéder à une telle liste en naviguant vers la catégorie, puis en sélectionnant les tags. Ou vous pourriez également créer l’URL manuellement, par exemple https://community.openai.com/tags/c/chatgpt/19/lost-user

---

Oui, cela fonctionne même pour les langues autres que l’anglais

Rend der Eingewöhnung von ihrem Vater bogustet. Schon Maries Geschwister...

Cependant, cela ne fonctionne pas avec les images , il ne convertira pas une image en texte puis n’exécutera pas la vérification, par exemple

Solving of mathematics equation involving fraction with addition

Voici un faux positif récent ou du moins je pense qu’il l’est.

Looking for a developer for a Dungeon Master AI bot on Discord

---

Pour les détails sur les faux/vrais négatifs/positifs - Classification : Vrai vs Faux et Positif vs Négatif

[EricGT]

Une fonctionnalité possible.

Au moins pour les modérateurs examinant un message, convertissez le texte dans la langue du modérateur lorsqu’il consulte le sujet. Ceci n’implique pas seulement pour un signalement, mais pour toute consultation du message.

---

Parfois, lors de l’examen des actions du classificateur de messages de Discourse AI, il est nécessaire de convertir le texte du message dans ma langue (anglais) pour vérifier si l’IA a pris une mesure correcte. Actuellement, il m’est plus facile de coller le texte dans Google Translate.

[sam (Sam Saffron)]

Il convient de noter et cela est lié à cette quête secondaire.

@keegan travaille à l’intégration d’un assistant IA dans notre menu contextuel. Ainsi, à l’avenir, dans les cas où il y a beaucoup de texte dans une langue inconnue, vous pourrez simplement surligner le texte et cliquer sur traduire.

Nous prenons cela en charge dans le compositeur aujourd’hui, mais une fois fusionné, vous pourrez surligner du texte dans n’importe quel message Discourse et obtenir une traduction rapide basée sur un LLM.

[ncaming215 (nate c.)]

Cela… change la donne pour moi. Où puis-je envoyer des cartes de remerciement ?

[jordan-violet]

@sam

Classification des publications : Le classificateur de publications peut attribuer des étiquettes spécifiées aux publications. Cette fonctionnalité permet une meilleure organisation des publications et rend la recherche et la récupération des sujets plus efficaces.

Quel est un exemple de la façon de faire cela en faisant référence aux étiquettes existantes de votre forum aujourd’hui ? par exemple, la publication est analysée par le LLM et les étiquettes les plus probables/pertinentes sont ajoutées à la publication.

[sam (Sam Saffron)]

J’adore cette question, pouvez-vous développer… comment aimeriez-vous que cela fonctionne ?

• Appliqueriez-vous le « marquage automatique » si le sujet a déjà des étiquettes ?
• L’appliqueriez-vous sur tous les premiers messages ou seulement sur les premiers messages de groupes particuliers ? (par exemple, tl0 / tl1)
• Est-ce quelque chose que vous préféreriez exécuter manuellement sur un sous-ensemble de sujets ?

Nous allons devoir faire quelques ajustements ici… pour le moment, le classificateur est binaire, mais les changements sont raisonnablement faciles tant que nous connaissons l’objectif ?

[jordan-violet]

• Appliquer à tous les nouveaux sujets d’une catégorie
• Vous pourriez certainement avoir la possibilité de varier selon le niveau de confiance. Comme tout (et dans ce cas, chaque communauté), cela dépend. Dans le cas de ma communauté, je le garderais probablement activé pour tout le monde sauf tl4 (ou tout le monde, si cette configuration n’est pas une option)
• Je préférerais qu’il s’exécute sur tous les nouveaux sujets dans les catégories spécifiées

L’objectif ici, bien sûr, est de ne jamais avoir à travailler sur le marquage des sujets par nous-mêmes et de laisser l’IA le faire entièrement en fonction du sujet initial créé et de l’examen des balises existantes que nous avons maintenant.

Cela pourrait probablement être encore amélioré si vous aviez la possibilité d’ajouter des descriptions aux balises dans Discourse, et de le laisser utiliser ces descriptions pour un contexte supplémentaire afin d’ajouter les bonnes balises

[EricGT]

Tout d’abord, permettez-moi de déclarer que je soutiens pleinement cette fonctionnalité et que je souhaite l’améliorer. Ce qui suit n’est que quelques faits sur son fonctionnement actuel (16/10/2023). Chaque jour, en tant que modérateur de catégorie sur OpenAI, j’examine tous les nouveaux messages, pas toutes les réponses, et je vois tous les faux positifs et faux négatifs de l’IA.

@jordan-violet

L’objectif ici, bien sûr, est de ne jamais avoir à travailler sur le marquage des sujets.

En tant qu’utilisateur de cette fonctionnalité, le classificateur de messages Discourse AI - règle d’automatisation, soyez conscient que :

• elle n’est pas précise à 100 %
• elle nécessite actuellement une action manuelle pour annuler si l’IA a fait un faux positif. Selon la modification, une action peut être nécessaire par un modérateur de catégorie ou supérieur ; répertorier spécifiquement un sujet non listé.
• elle peut manquer certains sujets, faux négatif
• comme de nombreux utilisateurs qui recevront la réponse automatisée de l’IA ne comprennent pas comment signaler la réponse de l’IA s’il s’agit d’un faux positif, ils devront être identifiés et modifiés manuellement. Il faudra donc l’aide de vrais utilisateurs pour les repérer.
• comprendre comment formuler l’invite pour qu’elle fonctionne comme nécessaire
• pourrait potentiellement nécessiter un réglage fin et/ou des agents pour s’approcher du niveau de satisfaction souhaité, ce qui pourrait devenir coûteux
• aucun moyen de suivre les faux positifs et négatifs pour comprendre comment modifier l’invite et/ou un éventuel réglage fin et/ou des agents

---

faux positif - L’IA n’aurait pas dû apporter de modification et l’a fait, ce qui est incorrect.
faux négatif - L’IA aurait dû apporter une modification et ne l’a pas fait, ce qui est incorrect.
vrai positif - L’IA a apporté une modification, ce qui est correct.
vrai négatif - L’IA n’a pas apporté de modification, ce qui est correct.

[sam (Sam Saffron)]

Une bonne première étape consiste à essayer une invite en mode créatif :

Quelque chose comme…

Vous êtes un générateur d’étiquettes automatique pour Discourse, vous suggérez une liste d’étiquettes pour un sujet.

Les étiquettes sont :

étiquette1 : description
étiquette2 : description

Suggérez jusqu’à 3 étiquettes pour le sujet suivant :

SUJET

Essayez ceci sur quelques-uns de vos sujets, comment s’en sort-il ?

[EricGT]

@EricGT

Parfois, lors de l’examen des actions du classificateur de messages d’IA de Discourse, il est nécessaire de convertir le texte du message dans ma langue (l’anglais) pour vérifier si l’IA a pris une mesure correcte. Actuellement, il m’est plus facile de coller le texte dans Google Translate.

@sam

@keegan travaille à l’intégration d’une aide IA dans notre menu contextuel. Ainsi, à l’avenir, dans les cas où il y a une grande quantité de texte dans une langue inconnue, vous pourrez simplement surligner le texte et cliquer sur traduire.

Fonctionne très bien ! Merci

[EricGT]

Mise à jour récente (11/01/2023)

L’identifiant utilisateur du bot est désormais gpt-4-triage, du moins sur le forum OpenAI.

Cela a été fait pour que les utilisateurs puissent faire taire le bot si nécessaire.

Exemple de réponse du bot.

Write a 500 to 1000 words about wolfgang keller

[sam (Sam Saffron)]

Notez que ceci est configurable, vous pouvez faire en sorte que la réponse automatique provienne de n’importe quel utilisateur de votre choix.

[ncaming215 (nate c.)]

Donc, pour faire suite après avoir essayé ceci.

Il semble que ce soit dans les premières étapes, et je suis impatient de voir où cela va, mais la vision de @jordan-violet est exactement ce que je cherche à accomplir. J’ai essayé l’invite de test que @sam a suggérée et elle semblait suffisamment intelligente pour appliquer les bonnes étiquettes en théorie. Cependant, il semble que le script actuel limite les étiquettes applicables à 7, et nous en avons considérablement plus que cela.

En bref ? Ce serait formidable si cela permettait d’appliquer sémantiquement les étiquettes existantes à un nouveau sujet. En termes de gestion de forum (même ici sur meta, je l’ai remarqué !), l’application cohérente des étiquettes pour mieux organiser une communauté et son contenu continue d’être une bataille difficile, et c’est le chaos pur à grande échelle. Pour ceux d’entre nous qui comptent sur les étiquettes, ce serait une aubaine, même si c’est précis à 75 %.

Je garderai un œil sur ce projet au fur et à mesure de son développement !

[aas]

C’est super ! Avez-vous des suggestions pour déboguer cela ? Je viens de configurer une automatisation qui ne s’est pas déclenchée comme prévu. Je ne vois aucun journal pertinent.

[sam (Sam Saffron)]

Hmmm, que s’est-il passé ici, pouvez-vous ouvrir un sujet dédié ?

[aas]

Si je me souviens bien, je n’avais pas défini cette option au début. Quand je l’ai fait, cela a commencé à fonctionner.

[loginerror (Maciej Kuźmicz)]

Question rapide. Y a-t-il des projets pour afficher un journal d’audit pour ces automatisations (peut-être de manière similaire au modèle de webhook que vous avez déjà) ?

Cela aiderait à atténuer le sentiment effrayant de « qu’as-tu fait » que j’ai après l’activation d’une automatisation

[sam (Sam Saffron)]

Ai log enregistre déjà toutes les interactions llm. Vous pouvez y accéder dès aujourd’hui via une requête dans l’explorateur de données.

[loginerror (Maciej Kuźmicz)]

@sam

toutes les interactions llm

Bien que cela soit vrai, il est plutôt difficile de lier les entrées de journal de type llm_triage à un message/sujet qu’elles affectent, ou à l’action qui a été entreprise (ou non) en conséquence.

Avoir un aperçu de ces actions serait formidable