Je reçois beaucoup de spammeurs IA ces derniers temps, et il faut beaucoup de temps pour les examiner.
Avec le spammeur actuel que j’examine, le texte est écrit en anglais parfait, c’est un VPN, l’adresse e-mail est dans StopForumSpam, et je peux dire que le contenu a été copié/collé car le trait d’union utilisé n’existe pas sur les claviers. J’ai dû vérifier tout cela manuellement et j’ai encore plusieurs choses à examiner ce matin.
Brainstorming d’une autre idée :
Lorsqu’un message est enregistré, Discourse pourrait enregistrer des données supplémentaires dans un champ JSONB sur ce message :
- Adresse IP
- is_vpn ? — une recherche dans maxmind pour trouver l’organisation et voir s’il s’agit d’un VPN (par exemple, PacketHub S.A.)
- Une recherche rapide de l’adresse e-mail dans StopForumSpam
- Une comparaison du nombre de caractères produits dans l’éditeur par rapport au nombre de caractères produisant une sortie tapés (en excluant les touches fléchées, ctrl, etc.). Par exemple, l’utilisateur a produit 1 000 caractères dans le contenu brut, mais n’a appuyé que 10 fois sur des touches produisant une sortie (suggérant que le contenu a été collé et que l’utilisateur a ensuite peut-être modifié un mot).
- Nombre de fois où le contenu a été copié ou coupé à l’aide de raccourcis clavier ou d’un clic droit.
- Nombre de fois où le contenu a été collé à l’aide de raccourcis clavier ou d’un clic droit. La différence entre les nombres de copie/coller fournirait un autre indice.
Les modérateurs pourraient visualiser ces données sur les messages dans un petit tableau. Les valeurs inhabituelles pourraient être mises en évidence afin que les messages suspects se démarquent.
Il n’existe probablement pas de méthode parfaite pour automatiser la détection, mais disposer de plus d’informations accélérerait le processus de modération.