Я также столкнулся с проблемой невозможности оркестрации выполнения скриптов автоматизации вместе с детектором спама.
Отличная новость заключается в том, что Discourse теперь создал базовый плагин «Workflows» (Рабочие процессы), который облегчает реализацию тех же типов приложений, что и плагин «Automation» (Автоматизация), но гораздо более мощным и гибким способом:
Запрошенная здесь оркестрация может быть достигнута, если вы используете плагин Workflows для реализации систем, которые ранее реализовывались через плагин Automation.
Целью моей автоматизации было постановка флагов на сообщениях с определенными характеристиками, которые могут указывать на спам, но не однозначно. Проблема, с которой я столкнулся, заключается в том, что эти же характеристики часто присутствуют в спам-сообщениях, помеченных системой обнаружения спама Discourse AI. Это приводило к тому, что автоматизация часто ставила избыточные флаги, создавая бессмысленную дополнительную работу для модераторов.
«Обходной путь», предложенный выше, заключающийся в объединении всего в единую автоматизацию, не подходил для моей системы, поскольку я намеренно разделял эти две системы:
- Задача системы обнаружения спама — выявлять сообщения с высокой вероятностью спама.
- Задача моей вспомогательной системы — привлекать внимание модераторов к сообщениям, которые имеют некоторую вероятность быть спамом.
Поскольку детектор спама Discourse AI имеет специальную реализацию в фреймворке Discourse (в отличие от чистой работы на фреймворке Discourse AI, предоставляемом администратору форума), у меня не было никакого желания пытаться заменить его автоматизацией.
Кроме того, не было целесообразно объединять мою вспомогательную систему с детектором спама (добавляя инструкции в промпт). Поведение спам-системы, немедленно скрывающее сообщение и заглушающее автора, уместно, пока оно настроено на работу с высокой точностью. Напротив, моя вспомогательная система по своей природе подвержена ложным срабатываниям, и поэтому ее флаги не должны влиять на пользователя до проверки человеком.
Решение, которое мне удалось достичь после замены автоматизации на рабочий процесс:
- Триггер «Создание сообщения».
- Шаг «Ожидание», чтобы дать время системе обнаружения спама на выполнение.
- Шаг «Data Explorer» (Исследователь данных) для получения данных о сообщении:
- Шаг «Фильтр» для определения, следует ли продолжать выполнение рабочего процесса, на основе данных о сообщении:
