Nous nous battons aussi avec ça : il devient de plus en plus difficile de repérer les contenus générés par l’IA, surtout si les gens utilisent des outils comme Humanizer qui aident à éviter les signes typiques de l’IA.
D’un point de vue gestion de communauté, j’ai le sentiment que permettre l’utilisation de chatbots sur votre forum vide votre communauté de son âme : si les gens voulaient parler à une IA, ils l’auraient déjà fait. Ils sont ici parce qu’ils veulent parler à un humain.
Nous n’avons pas encore trouvé de solution ; nous avons effectué quelques tests avec des détecteurs d’IA, mais c’est un jeu du chat et de la souris, et ils produisent trop de faux positifs. Pour l’instant, nous avons mis en place une politique pour le forum (que nous allons commencer à communiquer plus fermement très bientôt), et nous comptons sur l’aide de nos modérateurs communautaires pour repérer, vérifier et nettoyer.
Mais franchement, c’est épuisant, et je m’inquiète parfois pour l’avenir de nos communautés si elles se font envahir par des bots.
C’est une raison qui me pousse à éviter de participer aux communautés Reddit. Il y a d’autres raisons, et je n’ai jamais été très actif sur Reddit, mais de nos jours, il est si envahi de bots que cela m’éloigne encore plus de la publication.
Cela me rappelle fortement la situation avec les e-mails à la fin des années 90 et au début des années 2000. En tant qu’administrateur système pour une petite agence de design, le personnel avait commencé à utiliser les e-mails dans le cadre de son travail, et le spam était si omniprésent qu’il rendait les e-mails presque inutilisables. À cette époque, lutter contre le spam ressemblait à un jeu de « whack-a-mole ».
Comment a-t-on finalement maîtrisé cette situation ? L’utilisation de l’IA suivra-t-elle un cours similaire ? Faut-il s’attendre à ce que cela prenne des décennies ?
Cela semble être la seule façon de gérer la situation pour le moment : il y a trop de variables pour détecter les productions d’IA avec une fiabilité quelconque, et toute personne affirmant le contraire vend du vent. Les tentatives paresseuses sont plus faciles à repérer, mais dans les autres cas, nous devons juger chaque message sur le mérite de son contenu, sans chercher à deviner comment il a été rédigé.
« L’idée que seuls les outils d’écriture par IA utilisent la tiret cadratin me semble toujours étrange. Les humains l’utilisaient bien avant l’avènement de l’IA. »
L’utilisation de l’IA figurait dans nos directives depuis longtemps. Le problème venait d’un nombre croissant d’utilisateurs, généralement nouveaux, qui l’utilisaient non seulement pour répondre aux autres, mais aussi pour créer des sujets excessivement structurés et formels, ressemblant davantage à des thèses qu’à des échanges. Cela affectait le ton du site et l’engagement des utilisateurs. La modération devenait chronophage pour une petite équipe, et certaines personnes détestaient être modérées, ce qui rendait l’atmosphère désagréable et conflictuelle. J’ai donc décidé de créer un agent IA dans Discourse (basé sur GPT-5.5) et de mettre en place une automatisation pour analyser la création de sujets par les nouveaux membres dans les catégories clés, afin de détecter les signes de génération par IA. Cela déclenche un signalement automatique ainsi qu’une explication polie sur les raisons du signalement, avec des références aux directives et quelques conseils pour favoriser un meilleur engagement. Les modérateurs peuvent toujours lever un faux signalement ou traiter un cas limite. Ce système s’est avéré très précis, a encouragé les comportements appropriés tout en demandant beaucoup moins de temps, et a permis d’éviter les conflits.
Nous autorisons le scraping limité en débit de la part des grandes entreprises technologiques, mais nous avons blacklisté le reste, responsables d’un nombre énorme de connexions qui nous faisaient dépasser nos limites d’utilisation. Comme la plupart des mauvais acteurs sur un site, ce sont généralement un petit nombre de personnes qui consomment de manière disproportionnée le temps et les ressources.
C’est un problème majeur. Ils n’encouragent pas l’engagement, et lire cette bêtise, c’est comme essayer de marcher dans de la mélasse. C’est ennuyeux, décourageant, et rarement approprié ou nécessaire.
Beaucoup de gens ont déjà du mal à formuler leur idée succinctement, et l’IA a créé un problème de communication encore pire.
Ce que font ces utilisateurs, c’est ne pas faire preuve d’égards envers le lecteur.
Faut-il mettre en place une limite de longueur maximale pour les messages ?
J’ai emprunté et amélioré certains prompts que j’ai trouvés lors de mes recherches.
Voici ce qui est demandé à notre agent :
Vous êtes un agent de classification de modération pour un forum technique.
Votre tâche consiste à déterminer si un sujet de forum semble être :
AIISH = assisté par l’IA dans la rédaction, la réécriture, la structuration, le résumé, le formatage, la mise en forme, l’ajustement du ton ou la présentation.
OK = contenu exclusivement humain, sans signe significatif d’assistance par l’IA.
Vous ne détectez pas si le problème sous-jacent, les détails techniques, le code, les journaux, les informations sur l’environnement, les captures d’écran, la configuration ou l’historique de dépannage sont réels. Ils peuvent être réels et fournis par un humain.
Vous détectez si le message de forum final semble avoir été façonné par une IA.
Un message peut être AIISH même lorsque :
Les faits techniques sont précis et exacts
Le contexte repose clairement sur un problème humain réel
Le code, les journaux, les traces de pile, la configuration ou les messages d’erreur sont authentiques
L’auteur a personnellement rencontré le problème
L’IA n’a aidé qu’à réécrire des notes approximatives en un message plus clair
Classifiez comme AIISH lorsque le message final présente des signes d’une présentation assistée par l’IA, y compris mais sans s’y limiter :
Un vocabulaire excessivement poli, formel, neutre ou rappelant un rapport pour un forum technique décontracté
Une sectionnement clair avec des titres tels que Résumé, Contexte, Environnement, Problème, Comportement attendu, Comportement réel, Étapes effectuées, Dépannage, Questions ou Conclusion
Un style de ticket de support ou de rapport de bug structuré qui semble généré ou fortement réécrit
Une explication anormalement complète et ordonnée
Un résumé concis suivi de détails méthodiques
Des listes à puces qui organisent le problème de manière trop soignée
Un phrasé équilibré ou didactique plutôt qu’une question de forum naturelle
Une politesse excessive, une neutralité ou des formules de clôture génériques
Des phrases telles que « Toute orientation serait appréciée », « J’essaie de comprendre », « Voici ce que j’ai essayé », « Pour contexte », « Le problème est que » ou un langage de liaison poli similaire
Un ton qui semble édité pour la clarté, l’exhaustivité et le professionnalisme au-delà du comportement normal d’un forum
La répétition d’une même idée sous plusieurs formes polies
Un message qui donne l’impression que des notes humaines approximatives ont été converties en une demande de support soignée
Classifiez comme OK lorsque le message semble exclusivement et naturellement humain, y compris mais sans s’y limiter :
Un vocabulaire décontracté, direct, concis, désordonné ou irrégulier
Un contexte incomplet ou une organisation imparfaite
Des transitions abruptes
Des fautes de frappe, des abréviations, de la frustration, de l’incertitude ou un phrasé informel
Une question technique pratique sans mise en forme polie
Un comportement naturel de forum tel que « ça a cassé », « qu’est-ce que je rate », « quelqu’un a déjà vu ça » ou « pourquoi cela arrive-t-il »
Des détails techniques présentés simplement, sans résumé excessif ni structure formelle
Règles d’étalonnage :
Si l’assistance par l’IA est plus probable que non, produisez AIISH.
Si le message est techniquement détaillé mais anormalement bien structuré, poli, formel ou exhaustif, produisez AIISH.
Si le message ressemble à une version nettoyée des notes techniques approximatives d’un humain, produisez AIISH.
Si le message est ambigu mais présente une organisation ou un ton typique de l’IA, produisez AIISH.
Si le message est ambigu et ne présente pas de signes clairs de mise en forme typique de l’IA, produisez OK.
Ne classifiez pas comme AIISH uniquement parce que le message est long, technique, exact ou bien écrit.
Ne classifiez pas comme OK uniquement parce que le problème est réel ou contient des détails techniques spécifiques.
Je pense qu’on devrait consciemment éviter d’utiliser un tiret cadratin pour avancer un peu dans la démonstration qu’on est humain
J’ai récemment répondu à un court post sur LinkedIn en les mettant au défi parce qu’ils avaient utilisé un tiret cadratin — bien sûr, je n’ai jamais reçu de réponse, car bien sûr le post avait été créé par un bot se faisant passer pour un humain… et il était évident que ce bot n’avait pas été programmé pour faire face à l’adversité ou aux taquineries
Nous avons mis en place une interdiction de l’IA sur notre forum Discours axé sur l’art, et jusqu’à présent, cela a été assez bien accueilli. C’était un peu attendu de la part d’une communauté artistique. Pour les images, nous avions une interdiction stricte dès le départ. Nous avons ensuite étendu les règles à tout le contenu généré, y compris le texte et le code (avec une exception pour les simples traductions, afin de ne pas pénaliser les non-anglophones uniquement parce qu’ils ne maîtrisent pas la langue). Lorsque l’interdiction a été étendue au code (comme les plugins pour les logiciels de peinture), il y a eu un peu de débat, mais principalement de la part de quelques personnes. Dans notre cas, il est aussi assez logique d’interdire l’IA et de prendre position contre elle, compte tenu de tous les dommages causés à la communauté artistique dans son ensemble. De temps en temps, certains créateurs de plugins se plaignent, mais nous leur disons qu’ils peuvent faire ce qu’ils veulent, tant qu’ils ne publient pas leurs créations sur notre forum, et cela les arrange généralement. Parfois, on reçoit l’occasionnel « votre logiciel sera dépassé si vous n’autorisez pas cela », tentant de nous menacer, de nous faire craindre de manquer quelque chose ou de nous culpabiliser pour faire annuler la règle, mais dans l’ensemble, c’est calme.
En ce qui concerne la modération, nous nous appuyons principalement sur notre communauté. Nous avons un drapeau supplémentaire pour signaler le contenu généré par IA. Lorsqu’il s’agit de vérifier, nous ne voulons pas créer une communauté fondée sur la méfiance et les suspicions, donc nous partons du principe que tout le monde est innocent, et si nous ne pouvons pas vraiment prouver qu’un contenu est généré par IA, il peut généralement rester. Nous ne voulons pas en faire une chasse aux sorcières et bannir accidentellement un utilisateur complètement innocent simplement parce que son œuvre ressemble à celle d’une IA, alors qu’en réalité c’est l’inverse.
Heureusement, assez souvent, les utilisateurs d’IA finissent par se révéler en oubliant de retirer le filigrane du générateur, en laissant un nom de fichier contenant encore quelque chose comme « image générée par Gemini », ou parce que le style ou la qualité varie de manière drastique.
Étant donné que l’utilisation est très spécifique aux nouveaux utilisateurs/de base et à la création de nouveaux sujets, elle ne s’exécute pas en continu, donc 1 à 2 dollars par mois.
Je viens de le changer pour 5,6 terra, ce qui a un coût nettement inférieur.
Tout à fait. C’est gênant que des humains doivent devoir arrêter d’autres humains juste pour prouver qu’ils ne sont pas des machines, ce qui n’est pas le cas de toute façon.
Je suis tombé sur cet article et j’ai pensé à cette réponse ici sur Meta. Je suis d’accord avec les deux — d’ailleurs, étant hispanophone, j’ai commencé à les utiliser.
