À quelle fréquence cela se produit-il ? Je me demande si votre site est spécifiquement ciblé pour une raison quelconque.
Je fais une supposition audacieuse que cela a quelque chose à voir avec l’un ou l’autre de ces sites : http://bestpickleballpaddle.com/, https://thepickleballpaddles.com/. (Notez que ce sont de vrais sites, mais ne leur donnons pas trop de trafic à partir d’ici.)
La motivation la plus évidente à laquelle je peux penser pour générer un message comme celui de votre capture d’écran est d’obtenir une certaine confiance sur le site afin de pouvoir publier des liens de spam à l’avenir. Si c’est le problème, il pourrait être utile de modifier la valeur du paramètre min trust to post links de votre site, qui est par défaut au niveau de confiance 0, à soit le niveau de confiance 1 ou 2. S’il existe des domaines pour lesquels vous êtes heureux d’autoriser les utilisateurs de n’importe quel niveau de confiance à publier, vous pourriez ajouter ces domaines au paramètre de site allowed link domains.
Je ne fais qu’émettre des hypothèses, mais je me demande si, au lieu de déployer beaucoup d’efforts pour essayer de détecter le contenu généré par les LLM, il ne serait pas préférable d’essayer de réduire la motivation pour créer ces types de messages en premier lieu. Ma préoccupation est que le contenu généré par les LLM deviendra de plus en plus difficile à détecter avec le temps. L’identification erronée de contenu comme ayant été généré par un LLM pourrait devenir un problème.
Une autre approche qui pourrait être utile dans certains cas serait d’utiliser l’adhésion à une organisation, ou l’activité sur une autre plateforme comme critère pour créer un compte Discourse, ou comme critère pour obtenir un niveau de confiance qui permet de publier des liens sur un site Discourse. Par exemple, votre formulaire d’inscription a un champ facultatif demandant le niveau de classement USAPA de l’utilisateur. Si l’adhésion à l’USAPA donne aux membres une page de profil sur leur site, vous pourriez faire de l’adhésion à l’USAPA une condition préalable à l’inscription sur votre site en ayant “Lien de profil USAPA” comme champ obligatoire sur votre formulaire d’inscription. Vous pourriez ensuite activer le paramètre de site Discourse must approve users et n’approuver les utilisateurs qu’après avoir confirmé leur adhésion à l’USAPA. Une autre possibilité serait que Discourse ajoute une fonctionnalité qui permettrait de limiter le niveau de confiance d’un utilisateur en fonction d’un critère personnalisé. Par exemple, ne pas autoriser un utilisateur à dépasser le niveau de confiance 1 tant que son adhésion à l’USAPA n’a pas été confirmée.
J’utilise simplement l’adhésion à l’USAPA comme exemple ici. Je peux comprendre pourquoi vous ne voudriez pas exiger l’adhésion à l’USAPA pour les utilisateurs de votre site. L’idée d’établir la confiance par l’adhésion ou l’activité sur un autre site est liée au plugin dont il est question ici : $10k Bounty: Gitcoin Passport plug-in for Discourse.