Привет! Сначала хочу поблагодарить всех участников этого сайта. Отличное сообщество! Рад быть его частью
Итак, у меня есть кастомное приложение для сообщества, где люди общаются через комментарии, создают темы с фотографиями и видео. Существует плагин «discourse image filter plugin», который ограничивает загрузку откровенных изображений. Есть ли что-то подобное для видео? Какой-нибудь плагин, который автоматически блокирует пользователя, если в сообщении есть откровенное видео? Или какие-либо другие решения на этот счёт.
Пожалуйста, помогите! Спасибо.
Я не уверен, как плагин будет работать с видео, но можно ли сделать что-то вроде плагина фильтра изображений Discourse, который использует Google Cloud Vision API для блокировки загрузки откровенных изображений на форум? Есть ли что-то подобное?
Расширение плагина фильтра изображений для обработки видео не должно составить большого труда.
Обнаружение откровенного контента выявляет контент для взрослых в видеороликах. Контент для взрослых, как правило, не подходит для лиц младше 18 лет и включает, помимо прочего, наготу, сексуальные действия и порнографию. Также определяется такой контент, обнаруженный в мультфильмах или аниме.
В ответе содержится категоризированное значение вероятности в диапазоне от VERY_UNLIKELY до VERY_LIKELY.
