Вы сталкиваетесь со спамом на основе ИИ?

Создание сообщества
10

На самом деле я только что наткнулся на пользователя, который проскользнул мимо системы и публикует сообщения с помощью ChatGPT или другого ИИ. Возможно, есть и другие спам-аккаунты, которые я упустил.

Несколько идей, как с этим бороться:

  • Создать базу данных провайдеров VPN. Данный IP-адрес принадлежит «M247 Europe SRL», что является провайдером VPN-услуг. Я всегда хотел получать уведомление, когда новый аккаунт использует VPN. В данный момент мне приходится делать это вручную.
  • Отслеживать время чтения, количество посещений, просмотренные темы/сообщения. Этот пользователь провёл на сайте 8 минут, оставил 6 комментариев, но за день регистрации зашёл всего 3 раза. Фактически пользователь остаётся на уровне TL0, поскольку, кроме комментариев, ничего не сделал.
  • Я изложил больше идей в комментариях на этой странице.

Интересно, можно ли примерно классифицировать пользователей по соотношению времени, проведённого на сайте, и количества написанных слов, а также по другим сигналам, таким как использование VPN, вставка скопированного контента, внедрённый контент и т. д. Подозрительные аккаунты можно помечать для проверки.

Редактирование: этот быстрый запрос к Data Explorer выявил ещё несколько таких случаев, хотя некоторые из них уже были заблокированы.

SELECT
    u.id,
    u.created_at,
    u.username,
    u.trust_level,
    us.time_read,
    us.days_visited,
    us.topics_entered,
    us.post_count,
    us.topic_count
FROM users u
LEFT JOIN user_stats us
ON us.user_id = u.id
WHERE u.trust_level < 1
AND u.created_at > '2023-01-01'
AND us.time_read < 1000 -- секунд
AND us.post_count > 1
3 лайка