Использование ИИ давно прописано в наших правилах. Проблема заключалась в растущем количестве, преимущественно новых, пользователей, которые использовали его не только для ответов другим, но и для создания чрезмерно структурированных и формальных тем, больше похожих на диссертацию, чем на общение. Это влияло на тон сайта и вовлеченность. Модерация занимала слишком много времени для небольшой команды, и некоторым людям очень не нравилось, когда их модерировали, из-за чего атмосфера становилась неприятной и конфликтной. Я решил создать ИИ-агента в Discourse (на базе GPT 5.5) и использовать автоматизацию для сканирования создания тем новыми участниками в ключевых категориях, оценивая признаки генерации ИИ. Это запускает автоматическое пометку и вежливое объяснение, почему тема была помечена, со ссылками на правила и некоторыми советами для лучшего взаимодействия. Модераторы все еще могут снять ложную пометку или рассмотреть пограничный случай. Это оказалось очень точным и способствовало правильному поведению, экономя при этом значительно меньше времени и избегая конфликтов.
Мы разрешаем ограниченный по частоте скрейпинг от крупных технологических компаний, но добавили в черный список остальных, которые были ответственны за огромное количество соединений, превышающих наши лимиты использования. Как и в случае с большинством злоумышленников на сайте, это, как правило, небольшое количество людей, которые непропорционально потребляют время и ресурсы.