O que vem a seguir para a detecção de toxicidade no Discourse AI

Hoje anunciamos o adeus ao módulo Discourse AI - Toxicidade :waving_hand: em favor do Discourse AI - AI triage, aproveitando o poder dos Modelos de Linguagem Grandes (LLMs) para proporcionar uma experiência superior.

Por que estamos fazendo isso?

Anteriormente, usar o módulo de Toxicidade significava…

  • Você estava preso a um único modelo pré-definido
  • Nenhuma personalização para as necessidades específicas da sua comunidade
  • Métricas de limiar confusas
  • Desempenho insatisfatório

Os LLMs avançaram muito e agora podem oferecer uma experiência mais performática e personalizável.

O que há de novo?

O Discourse AI - AI triage pode ser usado para triar posts de Toxicidade (entre outras formas) e impor às comunidades códigos de conduta específicos. Isso significa…

  • Múltiplos LLMs suportados para diferentes requisitos de desempenho
  • Fácil de definir o que e como o conteúdo deve ser tratado
  • Prompts personalizáveis para necessidades específicas da comunidade
  • Sinalizar conteúdo para revisão

e muito mais.

Para auxiliar na transição, já escrevemos guias:

O que acontece com a Toxicidade?

Este anúncio deve ser considerado muito inicial, até que estejamos prontos para desativar você pode continuar usando a Toxicidade. Quando o fizermos, desativaremos o módulo e removeremos todo o código do plugin Discourse AI e serviços associados de nossos servidores.

:backhand_index_pointing_right:t5: Atualização: O módulo de Toxicidade foi oficialmente removido do Discourse, incluindo todas as configurações e recursos relacionados do site. Agora estamos incentivando os usuários a migrarem para o uso do Discourse AI - Triagem por IA e seguirem os guias listados acima.

Clientes Business e Enterprise verão o seguinte em Novidades nas configurações de administrador em seus sites, permitindo que ativem LLMs hospedados pelo Discourse para potencializar a triagem por IA sem custo adicional.

6 curtidas

Existe uma data limite para o módulo de Toxicidade?

3 curtidas

Ainda não definimos uma data específica, mas estamos trabalhando para concluir isso em breve.

3 curtidas

Isso é extremamente relevante para um artigo que estou escrevendo para o Community Leaders Institute agora, para o meu doutorado sobre toxicidade e muito mais. Vocês estariam dispostos a fazer uma entrevista dos bastidores sobre este sistema para o meu canal do YouTube como parte da minha série sobre como inocular comunidades online contra a toxicidade? Isso também está servindo como um empreendimento acadêmico para o meu doutorado.

Você está dentro?

2 curtidas

Obrigado por considerar o Discourse para o seu canal do YouTube! Você poderia, por favor, enviar mais detalhes por e-mail para mae@discourse.org sobre o que exatamente a entrevista dos bastidores envolveria e o que é necessário da nossa parte?

2 curtidas

FYI sobre a seguinte alteração

2 curtidas

Obrigado, Mae! Dei seguimento!

1 curtida

Como um aviso, estamos ocultando as configurações do site para ativar/desativar Toxicidade e NSFW. Este é o nosso esforço contínuo enquanto continuamos a desativar os recursos.

Se você tiver esses recursos ativados, eles ainda funcionarão normalmente. NÓS AINDA NÃO desativamos totalmente os recursos.

Se você o desativou e gostaria de ativá-lo, não poderá mais fazê-lo.

1 curtida

Olá pessoal, só queria compartilhar esta atualização

1 curtida