Согласно официальному сайту, «Perspective — это API, который упрощает проведение качественных обсуждений. API использует модели машинного обучения для оценки того, как комментарий может повлиять на беседу. Эта модель была обучена на основе оценок людей, которые ранжировали интернет-комментарии по шкале от очень токсичных до очень полезных. Токсичность определяется как… грубый, неуважительный или неразумный комментарий, который, скорее всего, заставит вас покинуть обсуждение».
Что может делать плагин discourse-perspective-api?
Запрашивать у пользователя подтверждение перед отправкой потенциально токсичного сообщения.
Автоматически помечать токсичные сообщения для проверки модераторами и администраторами.
Опционально сканировать закрытые категории и личные сообщения на наличие токсичного контента.
Настройка
Где получить ключ API Perspective?
Следуйте этим инструкциям, чтобы создать учётную запись Google Cloud и получить доступ к ключу API.
Наши клиенты используют функцию «Триаж по персонам» в плагине Discourse AI, которая выполняет все те же задачи, но при этом обеспечивает гибкость, необходимую для учета специфики каждого сообщества.
Gemini Flash 2.0 уже недостаточно для моего сообщества. По сути, у меня нет другого инструмента для борьбы с токсичностью, кроме этого API, но ладно, я подумаю об этом позже.
Важное уведомление: Perspective API прекращает работу, и сервис официально завершит свою деятельность после 2026 года.
Предполагаю, мы можем перейти к общему использованию решений на базе больших языковых моделей (LLM)? Так же, как и в случае с фильтрацией спама? Есть ли дорожная карта, на которую я могу подписаться?
