 |
Resumo | O Plugin Discourse Moderation API aprimora seu fórum Discourse com recursos de moderação automatizada. Ele utiliza o motor de detecção comprovado da Moderation API e inclui um painel de moderação aprimorado para aumentar a eficiência dos moderadores em 10 vezes. |
 |
Link do Repositório | https://github.com/moderation-api/discourse-moderation-api |
 |
Guia de Instalação | Como instalar plugins no Discourse |
Funcionalidades em Destaque
A Moderation API é uma solução completa de moderação.
Ações de Moderação Automatizada
- Marque automaticamente comentários e tópicos.
- Escolha entre mais de 20 modelos pré-construídos para casos de uso comuns ou crie o seu.
- Detecte toxicidade, conteúdo NSFW, PII, spam, autopromoção, atividades ilegais e muito mais.
- Defina limites personalizados para marcação automatizada.
Detecção Potencializada por LLM
- Integre as diretrizes da sua comunidade a um agente de IA.
- Utilize a IA como a primeira linha de defesa ou como um moderador confiável para marcar comentários.
Treinamento de Modelos Personalizados
- Desenvolva seus próprios modelos de IA para obter a máxima precisão na moderação.
- Use ações de moderador como feedback para treinar e refinar modelos.
- Aprimore continuamente a marcação automatizada por meio de aprendizado de máquina.
Fila de Revisão Aprimorada
- Opcionalmente, use a fila de revisão da Moderation API para uma experiência de moderação simplificada e moderna.
- Crie várias filas de revisão adaptadas para diferentes idiomas, categorias ou propósitos específicos.
- Desenvolva fluxos de trabalho de moderação para escalonamento de conteúdo.
- Atribua moderadores a filas de revisão específicas para gerenciamento eficiente.
Análise do Painel
- Monitore as atividades e resultados da IA por meio do painel da Moderation API.
- Obtenha insights sobre problemas comuns e identifique áreas para melhoria.
Integração Transparente
- Integra-se facilmente com os fluxos de trabalho e funções de usuário existentes do Discourse.
- Escolha entre a fila de revisão do Discourse ou a fila de revisão da Moderation API.
- Utiliza ações de moderação integradas do Discourse.
Configuração
Siga estas etapas para configurar o Plugin Moderation API:
Criar um Projeto na Moderation API
- Navegue até o seu Painel da Moderation API.
- Crie um novo projeto e selecione os rótulos que deseja detectar.
(Opcional) Testar e Ajustar Limites
- Use os controles deslizantes de limite para determinar o rigor da sua moderação.
- Teste a resposta da API no playground.
Definir Chave de API
- Localize sua chave de API em “Integrar” no painel do seu projeto.
- No painel de Administração do Discourse, navegue até Configurações > Moderation API.
- Cole sua chave de API no campo “Moderation API Key”.
- Salve as alterações.
Ativar o Plugin
- Selecione o comportamento de marcação (veja as opções abaixo). Você pode começar com “nada” para testar o plugin sem realizar nenhuma ação.
- Pressione “enable plugin” para começar a analisar novas postagens. O plugin não analisa nenhum conteúdo pré-existente.
(Opcional) Adicionar as Diretrizes da Sua Comunidade
- Vá para o “Model Studio” na Moderation API.
- Crie um novo agente de IA.
- Incorpore suas diretrizes como regras para o agente. Se você tiver diretrizes extensas, considere criar vários agentes.
- Adicione o agente ao seu projeto.
Comportamentos de Marcação
O plugin oferece quatro comportamentos de marcação diferentes, determinando as ações tomadas quando a Moderation API marca um comentário.
1. Marcar (Comportamento Padrão)
O bot do plugin adiciona uma marcação “Inapropriado” ao comentário, seguindo a configuração do seu Discourse. Normalmente, isso significa que o comentário aparece na fila de revisão, mas pode não ser imediatamente oculto até que um moderador o aprove ou usuários adicionais marquem o comentário. Revise suas configurações relacionadas a marcações no Discourse para personalização.
2. Fila para Revisão
O comentário é instantaneamente oculto e adicionado à fila de revisão para que os moderadores aprovem ou rejeitem.
3. Bloquear Postagem
O comentário nunca é postado. O autor recebe uma mensagem de erro indicando que o comentário foi bloqueado pelo sistema de moderação automatizada. (Você pode personalizar a mensagem de erro.)
4. Nada
Nenhuma ação imediata é tomada. O comentário é analisado e aparecerá no painel da Moderation API se for marcado. Esta opção é útil para testar a Moderation API antes de ativar totalmente o plugin.
A Fazer
- Habilitar ações da fila de revisão da Moderation API para remover conteúdo do Discourse.
- Sincronizar ações da fila de revisão do Discourse com a fila de revisão na Moderation API.
- Permitir projetos de moderação separados para diferentes categorias.
- Marcar conteúdo usando uma categoria de marcação Discourse selecionada (atualmente usando “Inapropriado”).
Configurações
Abaixo está uma tabela das configurações disponíveis para o Plugin Moderation API juntamente com suas descrições:
| Configuração | Descrição |
|---|---|
| Ativar Moderation API | Controla se o plugin está ativo. Padrão: Desativado |
| Comportamento de Marcação | O que acontece quando o conteúdo é marcado: • Fila para revisão • Marcar postagem • Bloquear postagem • Nada Padrão: Marcar postagem |
| Mensagem de Bloqueio | A mensagem exibida aos usuários quando sua postagem é bloqueada. Padrão: “Sua postagem foi bloqueada pelo nosso sistema de moderação.” |
| Notificar na Fila de Postagens | Enviar notificações quando postagens são enfileiradas para revisão. Padrão: Ativado |
| Verificar Mensagens Privadas | Aplicar moderação a mensagens privadas. Padrão: Desativado |
| Grupos a Ignorar | Grupos de usuários que ignoram as verificações de moderação. Padrão: Nenhum |
| Categorias a Ignorar | Categorias do fórum que ignoram as verificações de moderação. Padrão: Nenhuma |
| Chave de API | Sua chave de autenticação da Moderation API. Padrão: Nenhum |
Assinaturas
Você pode instalar o plugin imediatamente e aproveitar nosso nível gratuito ou teste de 30 dias. Para recursos estendidos e limites de uso mais altos, explore nossas opções de assinatura.
Documentação
Suporte
- Obter Suporte: support@moderationapi.com
- Solicitar um Recurso: Solicitações de Recursos
- Relatar um Problema: Relatar aqui
Aviso Legal: Embora o Plugin Discourse Moderation API aprimore significativamente os recursos de moderação, é essencial revisar e entender as implicações da moderação automatizada. Sempre garanta transparência com sua comunidade em relação ao uso de IA nos processos de moderação.
Nota de Privacidade: Este plugin processa conteúdo gerado pelo usuário para aplicar regras de moderação. Garanta a conformidade com suas políticas de privacidade e informe os usuários sobre as práticas de processamento de dados.