Nous nous battons aussi avec ça : il devient de plus en plus difficile de repérer les contenus générés par l’IA, surtout si les gens utilisent des outils comme Humanizer qui aident à éviter les signes typiques de l’IA.
D’un point de vue gestion de communauté, j’ai le sentiment que permettre l’utilisation de chatbots sur votre forum vide votre communauté de son âme : si les gens voulaient parler à une IA, ils l’auraient déjà fait. Ils sont ici parce qu’ils veulent parler à un humain.
Nous n’avons pas encore trouvé de solution ; nous avons effectué quelques tests avec des détecteurs d’IA, mais c’est un jeu du chat et de la souris, et ils produisent trop de faux positifs. Pour l’instant, nous avons mis en place une politique pour le forum (que nous allons commencer à communiquer plus fermement très bientôt), et nous comptons sur l’aide de nos modérateurs communautaires pour repérer, vérifier et nettoyer.
Mais franchement, c’est épuisant, et je m’inquiète parfois pour l’avenir de nos communautés si elles se font envahir par des bots.
C’est une raison qui me pousse à éviter de participer aux communautés Reddit. Il y a d’autres raisons, et je n’ai jamais été très actif sur Reddit, mais de nos jours, il est si envahi de bots que cela m’éloigne encore plus de la publication.
Cela me rappelle fortement la situation avec les e-mails à la fin des années 90 et au début des années 2000. En tant qu’administrateur système pour une petite agence de design, le personnel avait commencé à utiliser les e-mails dans le cadre de son travail, et le spam était si omniprésent qu’il rendait les e-mails presque inutilisables. À cette époque, lutter contre le spam ressemblait à un jeu de « whack-a-mole ».
Comment a-t-on finalement maîtrisé cette situation ? L’utilisation de l’IA suivra-t-elle un cours similaire ? Faut-il s’attendre à ce que cela prenne des décennies ?
Cela semble être la seule façon de gérer la situation pour le moment : il y a trop de variables pour détecter les productions d’IA avec une fiabilité quelconque, et toute personne affirmant le contraire vend du vent. Les tentatives paresseuses sont plus faciles à repérer, mais dans les autres cas, nous devons juger chaque message sur le mérite de son contenu, sans chercher à deviner comment il a été rédigé.