L’utilisation de l’IA figurait dans nos directives depuis longtemps. Le problème venait d’un nombre croissant d’utilisateurs, généralement nouveaux, qui l’utilisaient non seulement pour répondre aux autres, mais aussi pour créer des sujets excessivement structurés et formels, ressemblant davantage à des thèses qu’à des échanges. Cela affectait le ton du site et l’engagement des utilisateurs. La modération devenait chronophage pour une petite équipe, et certaines personnes détestaient être modérées, ce qui rendait l’atmosphère désagréable et conflictuelle. J’ai donc décidé de créer un agent IA dans Discourse (basé sur GPT-5.5) et de mettre en place une automatisation pour analyser la création de sujets par les nouveaux membres dans les catégories clés, afin de détecter les signes de génération par IA. Cela déclenche un signalement automatique ainsi qu’une explication polie sur les raisons du signalement, avec des références aux directives et quelques conseils pour favoriser un meilleur engagement. Les modérateurs peuvent toujours lever un faux signalement ou traiter un cas limite. Ce système s’est avéré très précis, a encouragé les comportements appropriés tout en demandant beaucoup moins de temps, et a permis d’éviter les conflits.
Nous autorisons le scraping limité en débit de la part des grandes entreprises technologiques, mais nous avons blacklisté le reste, responsables d’un nombre énorme de connexions qui nous faisaient dépasser nos limites d’utilisation. Comme la plupart des mauvais acteurs sur un site, ce sont généralement un petit nombre de personnes qui consomment de manière disproportionnée le temps et les ressources.