Stai riscontrando spam basato su AI?

In realtà, mi sono appena imbattuto in un utente che è sfuggito al controllo e sta postando con ChatGPT o altre IA. Potrebbero esserci altri account di spam che mi sono sfuggiti.

Alcune idee su come combatterlo:

  • Creare un database di provider VPN. L’indirizzo IP di questo utente proviene da “M247 Europe SRL”, che è un provider di servizi VPN. Ho sempre desiderato un qualche tipo di notifica quando un nuovo account utilizza una VPN. Al momento devo farlo manualmente.
  • Tenere traccia del tempo di lettura, dei giorni di visita, degli argomenti/post letti. Questo utente ha trascorso 8 minuti a leggere il sito ma ha pubblicato 6 commenti e ha visitato solo 3 volte il giorno della sua registrazione. L’utente è effettivamente ancora TL0 naturalmente, perché non ha fatto altro che pubblicare commenti.
  • Ho scritto altre idee nei commenti su questa pagina.

Mi chiedo se sia possibile classificare approssimativamente gli utenti in base al rapporto tra il tempo trascorso sul sito e il numero di parole scritte, oltre ad altri segnali come VPN, contenuti incollati, contenuti iniettati, ecc. Gli account sospetti potrebbero essere contrassegnati per la revisione.

Modifica: questa rapida query di Data Explorer ne ha scoperti alcuni altri, anche se alcuni di essi erano già sospesi.

SELECT
    u.id,
    u.created_at,
    u.username,
    u.trust_level,
    us.time_read,
    us.days_visited,
    us.topics_entered,
    us.post_count,
    us.topic_count
FROM users u
LEFT JOIN user_stats us
ON us.user_id = u.id
WHERE u.trust_level < 1
AND u.created_at > '2023-01-01'
AND us.time_read < 1000 -- secondi
AND us.post_count > 1
3 Mi Piace