За последние пару недель мы наблюдаем всплеск активности на нашем сайте. Мы видим типичный спам со скрытыми ссылками в новых ответах от новых аккаунтов. Когда мы повысили уровень репутации, необходимый для создания новых сообщений, количество ответов, сгенерированных ИИ, увеличилось. Похоже, что боты пытались постепенно повышать репутацию на фиктивных аккаунтах. Эти ответы не содержат очевидных фальшивых ссылок, они просто содержат общий текст от ИИ, который не помогает ответить на вопрос.
Нам пришлось столкнуться с крупным всплеском спам-сообщений в выходные дни, настолько значительным, что кто-то создал новую тему, заявив, что на нашем форуме слишком много спама. С тех пор администраторам приходится проверять сайт каждый день, чтобы удалять фальшивые сообщения от ИИ. Мы также замечаем сообщения от ИИ на аккаунтах, которые были созданы в прошлом, но не проявляли никакой активности. Это создает впечатление, что некоторые спам-боты заранее готовили аккаунты и оставляли их бездействующими в течение длительного времени. Теперь они пытаются постепенно преодолеть ограничения по вовлеченности, чтобы иметь возможность создавать новые темы.
Как отмечалось выше, мы повысили уровни доверия, необходимые для создания новых тем. Мы также включили Akismet. Однако это не остановило спам-сообщения от ИИ. В настоящее время администратору или модератору необходимо ежедневно проверять форум, чтобы просматривать отмеченные сообщения и удалять спам. Некоторые сообщения вызывают трудности, так как они могут выглядеть как написанные человеком, поэтому их проверку должны проводить два человека.
Мы призвали наших пользователей помогать и отмечать сообщения, которые выглядят как сгенерированные ИИ, и это помогло.
Наш форум имеет относительно низкую активность и годами функционировал с минимальным количеством административной чистки и обслуживания, но, похоже, боты на основе ИИ нашли нас. Я думаю, что для борьбы с ИИ, возможно, потребуется использование самого ИИ?