 |
Resumen | El Plugin de API de Moderación de Discourse mejora tu foro de Discourse con capacidades de moderación automatizada. Aprovecha el motor de detección probado en batalla de la API de Moderación e incluye un panel de moderación mejorado para multiplicar la eficiencia de los moderadores por 10. |
 |
Enlace al Repositorio | https://github.com/moderation-api/discourse-moderation-api |
 |
Guía de Instalación | Cómo instalar plugins en Discourse |
Características Destacadas
Moderation API es una solución de moderación de pila completa.
Acciones de Moderación Automatizada
- Marca automáticamente comentarios y temas.
- Elige entre más de 20 modelos preconstruidos para casos de uso comunes o crea el tuyo propio.
- Detecta toxicidad, contenido NSFW, PII, spam, autopromoción, actividad ilegal y más.
- Establece umbrales personalizados para el marcado automatizado.
Detección Potenciada por LLM
- Integra las directrices de tu comunidad en un agente de IA.
- Utiliza la IA como primera línea de defensa o como moderador de confianza para marcar comentarios.
Entrenamiento de Modelos Personalizados
- Desarrolla tus propios modelos de IA para obtener la máxima precisión en la moderación.
- Utiliza las acciones de los moderadores como retroalimentación para entrenar y refinar modelos.
- Mejora continuamente el marcado automatizado a través del aprendizaje automático.
Cola de Revisión Mejorada
- Opcionalmente, utiliza la cola de revisión de Moderation API para una experiencia de moderación optimizada y moderna.
- Crea múltiples colas de revisión adaptadas a diferentes idiomas, categorías o propósitos específicos.
- Desarrolla flujos de trabajo de moderación para escalar contenido.
- Asigna moderadores a colas de revisión específicas para una gestión eficiente.
Análisis del Panel
- Supervisa las actividades y resultados de la IA a través del panel de Moderation API.
- Obtén información sobre problemas comunes e identifica áreas de mejora.
Integración Perfecta
- Se integra fácilmente con los flujos de trabajo y roles de usuario existentes de Discourse.
- Elige entre la cola de revisión de Discourse o la cola de revisión de Moderation API.
- Utiliza las acciones de moderación integradas de Discourse.
Configuración
Sigue estos pasos para configurar el Plugin de API de Moderación:
Crear un Proyecto en Moderation API
- Navega a tu Panel de Moderation API.
- Crea un nuevo proyecto y selecciona las etiquetas que deseas detectar.
(Opcional) Probar y Ajustar Umbrales
- Utiliza los deslizadores de umbral para determinar la rigurosidad de tu moderación.
- Prueba la respuesta de la API en el playground.
Establecer Clave API
- Localiza tu clave API en Integrar en el panel de tu proyecto.
- En el panel de Administración de Discourse, navega a Configuración > Moderation API.
- Pega tu clave API en el campo Moderation API Key.
- Guarda los cambios.
Habilitar el Plugin
- Selecciona tu comportamiento de marcado (ver opciones a continuación). Puedes empezar con “nada” para probar el plugin sin realizar ninguna acción.
- Presiona habilitar plugin para comenzar a analizar nuevas publicaciones. El plugin no analiza ningún contenido preexistente.
(Opcional) Añadir las Directrices de tu Comunidad
- Ve al Model Studio en Moderation API.
- Crea un nuevo agente de IA.
- Incorpora tus directrices como reglas para el agente. Si tienes directrices extensas, considera crear varios agentes.
- Añade el agente a tu proyecto.
Comportamientos de Marcado
El plugin ofrece cuatro comportamientos de marcado diferentes, que determinan las acciones tomadas cuando la API de Moderación marca un comentario.
1. Marcar (Comportamiento Predeterminado)
El bot del plugin añade una marca “Inapropiado” al comentario, siguiendo la configuración de tu Discourse. Típicamente, esto significa que el comentario aparece en la cola de revisión, pero puede que no se oculte inmediatamente hasta que un moderador lo apruebe o usuarios adicionales marquen el comentario. Revisa tu configuración relacionada con las marcas en Discourse para personalizar.
2. Poner en Cola para Revisión
El comentario se oculta instantáneamente y se añade a la cola de revisión para que los moderadores lo aprueben o rechacen.
3. Bloquear Publicación
El comentario nunca se publica. El autor recibe un mensaje de error indicando que el comentario fue bloqueado por el sistema de moderación automatizada. (Puedes personalizar el mensaje de error).
4. Nada
No se toman acciones inmediatas. El comentario se analiza y aparecerá en el panel de Moderation API si se marca. Esta opción es útil para probar Moderation API antes de habilitar completamente el plugin.
TODO
- Habilitar acciones de la cola de revisión de Moderation API para eliminar contenido de Discourse.
- Sincronizar acciones de la cola de revisión de Discourse con la cola de revisión en Moderation API.
- Permitir proyectos de moderación separados para diferentes categorías.
- Marcar contenido utilizando una categoría de marcado de Discourse seleccionada (actualmente se usa Inapropiado).
Configuración
A continuación se muestra una tabla de la configuración disponible para el Plugin de API de Moderación junto con sus descripciones:
| Configuración | Descripción |
|---|---|
| Habilitar Moderation API | Controla si el plugin está activo. Predeterminado: Deshabilitado |
| Comportamiento de Marcado | Qué sucede cuando se marca el contenido: • Poner en cola para revisión • Marcar publicación • Bloquear publicación • Nada Predeterminado: Marcar publicación |
| Mensaje de Bloqueo | El mensaje que se muestra a los usuarios cuando su publicación es bloqueada. Predeterminado: “Tu publicación ha sido bloqueada por nuestro sistema de moderación.” |
| Notificar en Cola de Publicaciones | Envía notificaciones cuando las publicaciones se ponen en cola para revisión. Predeterminado: Habilitado |
| Comprobar Mensajes Privados | Aplica moderación a los mensajes privados. Predeterminado: Deshabilitado |
| Grupos a Omitir | Grupos de usuarios que omiten las comprobaciones de moderación. Predeterminado: Ninguno |
| Categorías a Omitir | Categorías del foro que omiten las comprobaciones de moderación. Predeterminado: Ninguna |
| Clave API | Tu clave de autenticación de Moderation API. Predeterminado: Ninguno |
Suscripciones
Puedes instalar el plugin inmediatamente y aprovechar nuestro nivel gratuito o prueba de 30 días. Para funciones extendidas y límites de uso más altos, explora nuestras opciones de suscripción.
Documentación
Soporte
- Obtener Soporte: support@moderationapi.com
- Solicitar una Característica: Solicitudes de Características
- Informar un Problema: Informar aquí
Descargo de responsabilidad: Si bien el Plugin de API de Moderación de Discourse mejora significativamente las capacidades de moderación, es esencial revisar y comprender las implicaciones de la moderación automatizada. Asegúrate siempre de la transparencia con tu comunidad sobre el uso de IA en los procesos de moderación.
Nota de Privacidad: Este plugin procesa el contenido generado por el usuario para aplicar las reglas de moderación. Asegúrate de cumplir con tus políticas de privacidad e informa a los usuarios sobre las prácticas de procesamiento de datos.