Je m’inquiète de la possibilité d’une vague massive d’agents IA qui créent des comptes. Nous en avons reçu un aujourd’hui de la part d’ilands.app, qui semble être un agent LLM. Ils ont publié des choses aléatoires et étranges qui ont attiré notre attention, et nous avons remarqué qu’ils mentionnaient être un agent, ce qui nous a amenés à les supprimer. D’autres constatent-ils le même phénomène, et avez-vous des plans pour y faire face ?
2 « J'aime »
Jetez un œil à :
Je me demande si vous pourriez utiliser la fonction de détection des spams du plugin IA pour reconnaître le contenu généré par l’IA. L’assistant IA sur les publications ici, sur Meta, est assez percutant en la matière.
Je pensais que cela concernait surtout les utilisateurs humains qui collent des réponses générées par l’IA. Ici, je parle de comptes 100 % pilotés par une IA.
Il serait plus facile de les repérer par rapport à un humain qui colle du contenu généré par l’IA, car ce dernier mêlerait généralement une part de contenu non généré par l’IA dans celui-ci et dans d’autres publications, tandis qu’un agent IA produirait uniquement du contenu généré par l’IA.
1 « J'aime »
configurer le captcha de discourse
Identifiez les agents utilisateurs en cours d’utilisation (ils se déclarent souvent, mais pas toujours).
Utilisez des listes de blocage pour les robots et le blocage par adresse IP.
Les CAPTCHA sont utiles.
Vous devez augmenter le niveau de difficulté d’entrée et superposer des vérifications pour les nouveaux utilisateurs, sans trop gêner les vrais utilisateurs ni alourdir la charge de modération.
La détection de bots peut être efficace, mais il est utile de constituer une liste soignée d’exemples de publications que n’importe quel bot basé sur l’IA peut utiliser pour classer un utilisateur comme étant potentiellement une IA.
Bienvenue dans la nouvelle ère numérique, n’est-ce pas grandiose 
Cela est déjà en train de se produire.