||||
-|-|
| Résumé | Google Perspective API est le plugin officiel Google Perspective API pour Discourse
| Lien du dépôt | https://github.com/discourse/discourse-perspective-api
| Guide d’installation | Comment installer des plugins dans Discourse
Fonctionnalités
Qu’est-ce que l’API Perspective ?
D’après le site officiel, « Perspective est une API qui facilite l’hébergement de meilleures conversations. L’API utilise des modèles d’apprentissage automatique pour évaluer l’impact perçu qu’un commentaire pourrait avoir sur une conversation. Ce modèle a été entraîné en demandant aux gens de noter les commentaires d’Internet sur une échelle allant de très toxique à très sain. La toxicité est définie comme… un commentaire impoli, irrespectueux ou déraisonnable qui est susceptible de vous faire quitter une discussion. »
Que peut faire le plugin discourse-perspective-api ?
- Inviter les utilisateurs à confirmer qu’ils sont sûrs de soumettre un message potentiellement toxique, avant la soumission.
- Marquer automatiquement les messages toxiques pour examen par les modérateurs et les administrateurs.
- Optionnellement, analyser les catégories privées et les MP (messages privés) pour détecter le contenu toxique.
Configuration
Où obtenir une clé API Perspective ?
Suivez ces instructions pour créer un compte Google Cloud et obtenir une clé API.
L’API peut être utilisée gratuitement, voici la documentation de référence de l’API.
Guide des paramètres du site
(Admin → Tapez ‘perspective’ dans le champ de texte du filtre)
L’API est actuellement uniquement disponible en anglais.
Les seuils par défaut sont définis à un niveau raisonnablement élevé, mais ces paramètres offrent une certaine personnalisabilité pour affiner le fonctionnement de ce plugin. Expérimentez avec la démo en direct sur la documentation officielle liée ci-dessus pour vous faire une idée du comportement des seuils.
-
perspective_enabled :
Activer le plugin pour filtrer les messages potentiellement toxiques. -
perspective_toxicity_model :
Choisir le modèle de toxicité pour l’API Google Perspective. En savoir plus sur le développement de ces modèles en lisant la documentation de référence de l’API.-
standard
Clasifie les commentaires impolis, irrespectueux ou déraisonnables qui sont susceptibles de faire quitter une discussion. Il est plus facile de franchir le seuil sur le modèle standard si des gros mots et des insultes sont utilisés de manière amicale et les messages sont facilement signalés. Si vous choisissez un seuil élevé de 0,9, le modèle standard signalera moins de messages et prendra moins d’actions incorrectes. -
toxicité sévère (expérimental)
Ce modèle utilise le même algorithme que le modèle standard, mais est entraîné à reconnaître des exemples considérés comme « très toxiques ». Cela le rend beaucoup moins sensible aux commentaires qui incluent des utilisations positives de gros mots, par exemple. Les messages ne sont signalés que lorsque des cas extrêmes de toxicité sont détectés et le seuil pour ce modèle peut être abaissé jusqu’à 0,7 comme valeur raisonnable.
Par exemple, un message contenant
"I f*****g love you man"serait signalé sous le modèle standard (en utilisant les seuils par défaut) mais pas avec le modèle toxicité sévère. -
-
perspective_notify_posting_min_toxicity_enable :
Activer la vérification du contenu potentiellement toxique pendant qu’un utilisateur essaie de soumettre un message et afficher une notification dans l’éditeur de texte lorsque l’utilisateur écrit quelque chose de toxique.- perspective_notify_posting_min_toxicity :
Si l’API renvoie un score supérieur à ce seuil, nous invitons l’utilisateur à confirmer qu’il souhaite poster un contenu potentiellement toxique. Le niveau de confiance de la toxicité du message entre 0 et 1 est utilisé pour vérifier la toxicité pendant la rédaction d’un message, où un score de 1 signifie extrêmement toxique. Une valeur supérieure à 0,9 devrait signaler uniquement les messages très toxiques, selon le modèle utilisé. Comme l’utilisateur sera notifié avant la publication, nous pouvons utiliser un seuil légèrement plus bas ici, comme 0,85, pour avertir les utilisateurs à l’avance.
- perspective_notify_posting_min_toxicity :
-
perspective_flag_post_min_toxicity_enable :
Signaler les messages potentiellement toxiques qui ont déjà été soumis et envoyer des messages pour notifier les modérateurs des messages soumis. Les administrateurs/modérateurs sont notifiés des messages signalés.- perspective_flag_post_min_toxicity :
Si l’API renvoie un score supérieur à ce seuil, nous signalons le message aux administrateurs/modérateurs pour examen. Le niveau de confiance de la toxicité du message entre 0 et 1 est utilisé pour vérifier la toxicité après qu’un utilisateur a posté, où un score de 1 signifie extrêmement toxique. Une valeur supérieure à 0,9 devrait signaler uniquement les messages très toxiques, variant selon le modèle utilisé.
- perspective_flag_post_min_toxicity :
-
perspective_google_api_key :
Clé API pour l’API Perspective que vous avez reçue après avoir terminé le processus d’inscription mentionné ci-dessus. -
perspective_check_private_message :
Vérifier et signaler les messages privés s’ils sont toxiques.
Remarque : Le contenu du MP sera envoyé aux modérateurs/administrateurs.
S’applique également au mode de rétroaction (backfill). -
perspective_check_secured_categories :
Vérifier également les catégories privées pour détecter le contenu toxique en activant ce paramètre. -
perspective_backfill_posts :
Interroger la toxicité des messages existants et enregistrer les résultats dans les champs personnalisés des messages.
L’activation de ce mode désactive la vérification en ligne pour les messages. -
perspective_historical_inspection_period :
La période en jours pour démarrer une nouvelle itération de requête après la fin de la dernière itération. Utilisé uniquement siperspective_backfill_postsest activé.
Captures d’écran
Ce qu’un utilisateur voit lorsqu’il essaie de soumettre un message toxique :
Ce que les administrateurs/modérateurs voient lorsqu’un message toxique est soumis :
JOURNAL DES MODIFICATIONS
À FAIRE
Un grand merci à @fantasticfears pour avoir créé ce plugin !