Форум, в котором я помогаю, в последние месяцы сталкивается с лавиной регистраций спам-аккаунтов. Почти наверняка это боты на базе ИИ, так как они умеют заполнять формы регистрации (по сути, отмечать галочки), решать hCaptcha, обрабатывать письма с подтверждением и даже создавать информацию профиля пользователя. Обычно мы можем догадаться, какие регистрации поддельные, по нескольким признакам (например, нулевое время чтения статей, некоторые тонкие особенности в именах и адресах электронной почты, явно фальшивые данные пользователя), но это непросто (например, часто это легитимные адреса Gmail). Однако такой процесс неустойчив: у нас иногда бывает до десяти фейков в день, и при наших ограниченных возможностях по сортировке таких заявок легко допустить ошибку.
Добавление капчи сократило количество фейковых регистраций, но у нас всё ещё остаётся большой backlog пользователей, которых нужно одобрить, из-за чего новым участникам иногда приходится ждать неделю или две, чтобы присоединиться. Мы рассматривали текстовые опросы для новых пользователей, но реальность такова, что у нас нет ресурсов, чтобы читать множество вопросов и гадать, сгенерированы ли они ИИ (к тому же эта проблема будет только усугубляться).
Один из вариантов — просто разрешить таким пользователям присоединяться, а затем помечать их, если они опубликуют что-то явно спамное? Мне кажется, мы колеблемся открыть шлюзы на этом этапе, поскольку это просто переносит процесс из одной точки (регистрация) в другую (помеченные посты), и вернуть кота обратно в мешок уже не получится: сто скрытых аккаунтов ИИ, которые постепенно начнут публиковать сообщения в течение нескольких месяцев, могут легко полностью разрушить форум.
У кого-нибудь есть стратегии, которые помогут справиться с этим? Мы относительно небольшие, поэтому не могу представить, что мы единственные, кто сталкивается с такой проблемой…
