Приоритет/Серьезность:
Средний
Платформа:
Discourse b66fca70d0e3d12ef930398289fac5269cd240c7
Описание:
В официальном плагине «Автоматизация» есть скрипт «Классификация постов с помощью ИИ». Этот скрипт включает опцию для пометки постов.
Тип пометки, создаваемой автоматизацией (а также сопутствующие действия), можно настроить через параметр скрипта «Тип пометки»:
- «Добавить пост в очередь проверки»: пометки получают причину «Требуется одобрение».
- «Пометить как спам»: пометки получают причину «Спам».
Поскольку отдельная функция Discourse AI для обнаружения спама уже обеспечивает высокое качество обнаружения спама, скрипт «Классификация постов с помощью ИИ» часто будет использоваться для задач, не связанных со спамом. В этом случае наиболее подходящим вариантом будет «Добавить пост в очередь проверки».
Когда параметр «Тип пометки» автоматизации установлен на один из вариантов «Добавить пост в очередь проверки», элементы проверки, созданные поднятыми пометками, не видны модераторам. Бремя проверки этих пометок полностью ложится на администраторов форума, хотя это задача модерации.
Шаги для воспроизведения:
- Войдите на форум с учетной записью администратора.
- Откройте страницу администрирования Discourse AI > Персоны (
/admin/plugins/discourse-ai/ai-personas). - Нажмите кнопку «+ Новая персона».
Откроется страница настройки персоны. - Добавьте произвольный контент в поля «Имя» и «Описание» на странице настройки персоны.
- Определите промпт в поле «Системный промпт», который будет подходящим для запуска автоматизации на тестовом посте. Например:
Вам будет предоставлен фрагмент текста, и вашей задачей является определить, содержит ли он строку `foobarbazquxpippoplutopaperino`. Если пост содержит эту строку, ответьте `true`. Если пост не содержит эту строку, ответьте `false`. Ваш ответ должен состоять только из текста `true` или текста `false` и ничего более. - Выберите модель из меню «Модель языка по умолчанию» (например, «CDCK Hosted Small LLM»).
- Нажмите кнопку «Отправить» в нижней части страницы.
- Если плагин «Автоматизация» еще не включен, включите его.
- Перейдите на страницу «Автоматизации» плагина (
/admin/plugins/automation/automation). - Нажмите кнопку «+ Добавить автоматизацию».
Откроется страница «Выбор скрипта». - Добавьте произвольное имя в поле «Имя» на странице настройки автоматизации.
- Выберите скрипт «Классификация постов с помощью ИИ».
Откроется страница настройки автоматизации. - Выберите «Пост создан/отредактирован» в меню Когда/Что… > Триггер.
- Выберите созданную вами персону из меню Параметры скрипта > Персона.
- Введите
trueв поле Параметры скрипта > Поиск текста. - Установите флажок Параметры скрипта > Пометить пост.
- Выберите Добавить пост в очередь проверки в меню Параметры скрипта > Тип пометки.
- При необходимости внесите изменения в другие настройки автоматизации для удобства тестирования.
- Нажмите кнопку «Обновить автоматизацию» в нижней части страницы настройки автоматизации.
Вы вернетесь на страницу «Автоматизации». - Переключите параметр «Включить автоматизацию» для newly созданной автоматизации в положение «вкл».
- Создайте пост или личное сообщение, которое запустит автоматизацию.
ⓘ С приведенным выше примером системного промпта это достигается включением текстаfoobarbazquxpippoplutopaperinoв пост. - Опубликуйте пост или сообщение.
- Используя учетную запись администратора, перейдите в очередь проверки (
/review).
Автоматизация создала пометку «Требуется одобрение» для тестового поста. - Войдите на форум с учетной записью, не являющейся учетной записью администратора, но имеющей права модератора.
- Перейдите в очередь проверки (
/review).
Элемент проверки, созданный пометкой «Требуется одобрение» автоматизации, не виден учетной записи модератора. Даже если вы перейдете напрямую по URL-адресу элемента проверки с этой учетной записью, вы увидите только страницу с ошибкой 404.
Дополнительная информация:
Ошибка не возникает, если вместо этого выбрать Пометить как спам и скрыть пост в меню Параметры скрипта > Тип пометки.
Хотя это предлагает обходной путь, он приводит к плохому опыту для сотрудников модерации в случае использования скрипта для классификации постов по причинам, не связанным с обнаружением спама. Мы ожидаем, что пометка будет иметь причину «Спам» только в том случае, если есть подозрение на спам.
Пометки «Требуется одобрение», созданные функцией «Одобрять, если не разрешенные группы», видны модераторам. Это заставляет меня полагать, что отсутствие видимости пометок от скрипта «Классификация постов с помощью ИИ» вызвано ошибкой, а не (необъяснимым) намеренным дизайном.
Я не вижу никаких веских причин скрывать эти элементы проверки от модераторов, но если они есть, то такое поведение должно быть хотя бы опциональным.
Мне удалось воспроизвести ошибку на форуме forum.arduino.cc.
Это действительно похоже на упущение