Недавно мы добавили несколько ключевых слов в наш инстанс.
Однако наш пользователь нашёл способ обойти их, как показано ниже. Автоматически ли Discourse удаляет неподдерживаемые HTML-теги? Эти теги были встроены прямо в пост и не вызвали срабатывание системы проверки.
dis</n>cord discord
tampe</big>rmonkey
Наш список ключевых слов:
*discord*
*tampermonkey*
Слова-фильтры довольно примитивны. Есть много способов их обойти.
Если пользователь делает это, значит, он сделал это намеренно, и вы можете наказать его соответствующим образом.
Боюсь, вам придется изучить Discourse AI - Обнаружение спама
@jimmy0017, вы получили ответ, который вас устраивает? Ответ Джея абсолютно точен. Слова, которые отслеживаются, могут быть обойдены людьми, намеренно нарушающими правила. Вам необходимо использовать модерацию, чтобы дать понять, что существуют правила, и их соблюдение обязательно для участия в вашем сообществе.
Да… Но тогда проблема в том, что у нас увеличивается количество регистраций «ботов». У нас есть несколько модераторов, следящих за этим. Но в основном мы просто не хотим, чтобы пользователи вообще видели такой контент. Мы навсегда забанили довольно много пользователей за умышленное обходное использование отслеживаемых слов.
Мы подумаем о детекции спама с помощью ИИ и посмотрим, будем ли мы это внедрять. Просто потому, что это более прямой способ «отслеживания слов», чем использование ИИ-LLM.
Боюсь, если бы это было правдой, вы бы не написали этот пост. У вас есть боты, которые умнее функции «слежения за словами». Кроме того, вполне вероятно, что это настоящие люди (хотя боты за последний год могли стать настолько совершенными, что люди, создававшие новые учётные записи, потеряли работу).
Другой вариант — одобрять все посты от пользователей TL0/1. Если у вас не так много новых легитимных пользователей, которые расстроятся, если их пост не появится сразу, это может стать «прямым» решением.