Avez-vous des problèmes de spam basé sur l'IA ?

Communauté
10

En fait, je viens de tomber sur un utilisateur qui s’est faufilé et qui publie avec ChatGPT ou une autre IA. Il pourrait y avoir d’autres comptes de spam que j’ai manqués.

Quelques idées pour lutter contre cela :

  • Créer une base de données de fournisseurs de VPN. L’adresse IP de cet utilisateur provient de “M247 Europe SRL”, qui est un fournisseur de services VPN. J’ai toujours voulu une sorte de notification lorsqu’un nouveau compte utilise un VPN. Je dois le faire manuellement pour le moment.
  • Suivre le temps de lecture, les jours de visite, les sujets/messages lus. Cet utilisateur a passé 8 minutes à lire le site mais a posté 6 commentaires, et n’a visité que 3 fois le jour de son inscription. L’utilisateur est en fait toujours TL0 naturellement, car il n’a rien fait d’autre que poster des commentaires.
  • J’ai écrit d’autres idées dans les commentaires sur cette page.

Je me demande s’il est possible de classer grossièrement les utilisateurs par le ratio temps passé sur le site par rapport au nombre de mots écrits, ainsi que par d’autres signaux comme le VPN, le contenu copié, le contenu injecté, etc. Les comptes suspects pourraient être marqués pour examen.

Edit : cette requête rapide Data Explorer en a révélé quelques autres, bien que certains d’entre eux aient déjà été suspendus.

SELECT
    u.id,
    u.created_at,
    u.username,
    u.trust_level,
    us.time_read,
    us.days_visited,
    us.topics_entered,
    us.post_count,
    us.topic_count
FROM users u
LEFT JOIN user_stats us
ON us.user_id = u.id
WHERE u.trust_level < 1
AND u.created_at > '2023-01-01'
AND us.time_read < 1000 -- secondes
AND us.post_count > 1
3 « J'aime »