Olá! Primeiro, gostaria de agradecer a todos os membros deste site. Que comunidade incrível! É ótimo fazer parte dela
Então, em um aplicativo personalizado para a comunidade, onde as pessoas interagem comentando, publicando tópicos com imagens e vídeos, existe um plugin chamado “discourse image filter plugin” que restringe o envio de imagens explícitas. Existe algo semelhante para vídeos? Algum plugin que possa restringir automaticamente um usuário se o post contiver algum vídeo explícito? Ou outras soluções para isso?
Por favor, ajudem! Obrigado
Não tenho certeza de como um plugin funcionaria para vídeos, mas poderia haver algo semelhante ao que o plugin de filtro de imagens do Discourse faz, usando a API do Google Cloud Vision para restringir o upload de imagens explícitas no fórum. Existe algo parecido?
Não deve ser muito difícil estender o plugin de filtro de imagem para lidar com vídeos.
Detecção de Conteúdo Explícito detecta conteúdo adulto em vídeos. Conteúdo adulto é geralmente inadequado para pessoas com menos de 18 anos e inclui, mas não se limita a, nudez, atividades sexuais e pornografia. Tal conteúdo detectado em desenhos animados ou anime também é identificado.
A resposta inclui um valor de probabilidade categorizado, de VERY_UNLIKELY a VERY_LIKELY.
