Cette question s’adresse à tous les propriétaires et modérateurs de forums : qu’en pensez-vous des utilisateurs qui se servent de l’IA pour parcourir automatiquement le forum, lire les derniers commentaires et générer une réponse qu’ils publient ensuite dans le fil de discussion ? Ils le font pour ne pas avoir à participer réellement, car ils souhaitent atteindre un niveau de confiance plus élevé afin d’accéder aux sections réservées aux membres de confiance.
Surveillez-vous activement ces utilisateurs ? Comment détectez-vous un contenu rédigé par une IA ? Ou préférez-vous fermer les yeux ?
Cela peut même devenir plus malhonnête. J’ai vu des publications où un compte de marionnette crée un nouveau sujet avec du contenu généré par IA, puis, un peu plus tard, un nouvel utilisateur (probablement contrôlé par la même personne) publie une réponse qui approuve et complimente l’auteur du message original.
Je n’ai jamais vu ce comportement, mais de mon côté, cela entraînerait une suspension. S’ils étaient des membres actifs et en règle, ce serait un avertissement, mais cela donne l’impression qu’ils n’ont jamais contribué.
Je pense qu’il est utile d’avoir une politique explicite concernant les contributions générées par des LLM.
Bon, comment tu devrais gérer ce problème ? Ma question serait : à quel point tu values ton contenu restreint par le niveau de confiance et à quel point tu values l’accès à ce contenu.
S’il s’agit de contenu que tu ne veux pas que les gens obtiennent en « trichant » pour contourner le système, je chercherais comment essayer d’empêcher ce type de comportement.
La raison en est que ce genre de comportement est très courant. Regarde l’exemple de Robert :
ah… ça continue ici… tous les jours
Bref
souvent, c’est assez évident pour un modérateur humain en le lisant simplement, mais cela prend du temps de modération. Certains administrateurs utilisent l’IA pour détecter l’IA (drôle, non ?)
Si vous parvenez à isoler les agents utilisateurs utilisés, ou s’ils respectent les normes de contrôle, vous pourriez envisager de les bloquer, de limiter leur débit ou d’utiliser llms.txt.
Cela ne fonctionne que si les automatisations se comportent en gentlemen.
Si certaines régions posent problème, le géoblocage reste également une option.
J’utilise un agent de détection par IA pour filtrer les nouveaux niveaux de confiance ou les niveaux de confiance faibles. Il s’est avéré être précis à plus de 95 %.
Cela dépend de la ruse de vos mauvais acteurs, mais avec un peu de travail et des tests, vous pouvez être plus rusé
Nous avons également vu ça assez souvent. Bien sûr, je ne peux pas parler des motivations, mais d’après mon expérience, c’est beaucoup moins intéressant que la tentative de « gagner la confiance ». Je pense que c’est simplement du spam.
Le spam inclut désormais les jeux de données d’entraînement pour l’IA et le GEO — où il est avantageux pour eux de simplement mentionner un produit, un service ou une entreprise partout sur Internet.
Parfois, l’objectif est de récolter suffisamment de confiance pour insérer un lien, mais je soupçonne que les liens ne sont plus qu’un objectif secondaire.
Jusqu’à présent, les indices étaient assez évidents — mon « avis honnête » est que les « coutures structurelles » se voient clairement. Je mets le sujet en attente et j’envoie à l’utilisateur un message privé amical (mais standardisé) pour le bienvenue et lui demander simplement de me répondre pour le réactiver.
Comme l’a suggéré quelqu’un d’autre, il semble que vous devriez reconsidérer la valeur de votre contenu protégé et la valeur relative des contributions des utilisateurs au forum. Les personnes qui n’ont pas accès au contenu protégé ont-elles les connaissances ou les compétences nécessaires pour contribuer de manière significative ? Peut-être modifier les exigences pour atteindre un nouveau niveau de confiance de telle sorte que le dépôt de contenu de mauvaise qualité ne soit plus utile, et rendre cela clair pour éviter que les gens ne soient tentés de le faire.
Avant l’arrivée de l’IA, les nouveaux utilisateurs étaient-ils capables de contribuer de manière significative et d’atteindre le niveau de confiance suivant ?
