Недавно начал использовать ИИ, поэтому, вероятно, упускаю какую-то настройку.
Срок вывода API Google Perspective из эксплуатации был перенесён на более раннюю дату в связи с внедрением ИИ, которого многие старались избежать.
И спам, и токсичность определяются корректно, но один и тот же пост помечается и как спам, и как токсичный. Это нормальное и ожидаемое поведение?
Комментарий по терминологии: в контексте флага, применённого ИИ, формулировка «Отклонён флаг» сбивает с толку. Пост отклонён и помечен как отклонённый, или же был отклонён первоначальный флаг ИИ?
Добавлен ещё один пример использования как персоны детектора спама (предварительно настроенной), так и персоны токсичности.
Сообщение помечается одновременно как спам и как токсичное, что приводит к созданию двух помеченных записей с совершенно разными вариантами реагирования и последствиями.
Вопрос: Учитывая высокую вероятность того, что большинству нечастных форумов потребуется предотвращение как спама, так и токсичных сообщений, имеет ли смысл объединить персоны «Спам» и «Токсичность» в одну предварительно настроенную персону?
После того как я потратил больше времени на работу с этим и немного обдумал ситуацию, возможно, двойное флагование (спам и токсичность) можно уменьшить, если внести соответствующие изменения в персону «Триаж токсичности». По моему опыту, токсичность чаще встречается у не новых участников, чем у спамеров.
С учетом этого, я считаю, что стоит обратить внимание на
Также объединение спам- и токсичностных флагов или включение токсичности в модуль, аналогичный модулю спама, кажется разумной просьбой о новой функции и темой для обсуждения, поэтому переношу это на Topics tagged ai
