¡Hola! Primero, quiero dar las gracias a todos los miembros de este sitio. ¡Qué gran comunidad! Me alegra ser parte de ella
En una aplicación personalizada para la comunidad, donde los usuarios interactúan comentando y publicando temas con imágenes y videos, existe un plugin llamado “discourse image filter plugin” que restringe la subida de imágenes explícitas. ¿Existe algo similar para los videos? ¿Algún plugin que pueda restringir automáticamente a un usuario si la publicación contiene algún video explícito? ¿O alguna otra solución al respecto?
No estoy seguro de cómo funcionaría un plugin para video, pero ¿podría existir algo similar al plugin de filtro de imágenes de Discourse que utiliza la API de Google Cloud Vision para restringir la carga de imágenes explícitas en el foro? ¿Hay algo parecido?
No debería ser demasiado difícil extender el plugin de filtro de imágenes para que maneje videos.
Detección de contenido explícito: detecta contenido para adultos en videos. El contenido para adultos generalmente es inapropiado para menores de 18 años e incluye, entre otros, desnudez, actividades sexuales y pornografía. También se identifica dicho contenido cuando aparece en dibujos animados o anime.
La respuesta incluye un valor de probabilidad categorizado, desde VERY_UNLIKELY hasta VERY_LIKELY.
