음란성 영상을 자동으로 제한하거나 표시하는 방법이 있을까요?

안녕하세요. 먼저 이 사이트의 모든 회원분들께 감사의 말씀을 드립니다. 정말 훌륭한 커뮤니티입니다! 이 일원이 된 것이 반갑습니다. :slight_smile:

커뮤니티에서 사람들이 댓글을 달고, 사진과 비디오가 포함된 주제를 게시하는 방식으로 참여하는 커스텀 앱을 개발하고 있습니다. "discourse image filter plugin"이라는 플러그인이 있어 노골적인 이미지 업로드를 제한할 수 있습니다. 비디오에 대해서도 비슷한 기능이 있을까요? 게시글에 노골적인 비디오가 포함된 경우 사용자를 자동으로 제한할 수 있는 플러그인이 있거나, 다른 해결책이 있는지 알고 싶습니다.

도움 부탁드립니다. 감사합니다.

플러그인은 어떻게 내 영상이 노골적인지 알 수 있을까요?

확실하지는 않지만, 비디오용 플러그인은 어떻게 작동할까요? Discourse의 이미지 필터 플러그인이 Google Cloud Vision API를 사용하여 포럼에 노골적인 이미지 업로드를 제한하는 것과 유사한 기능이 비디오에도 적용될 수 있을까요? 비슷한 것이 있을까요?

이미지 필터 플러그인을 확장하여 비디오를 처리하도록 하는 것은 그리 어렵지 않을 것입니다.

**명시적 콘텐츠 감지(Explicit Content Detection)**는 비디오 속 성인 콘텐츠를 감지합니다. 성인 콘텐츠는 일반적으로 18세 미만자에게 부적절하며, 노출, 성행위, 포르노그래피 등을 포함하지만 이에 국한되지 않습니다. 만화나 애니메이션에서 감지된 이러한 콘텐츠도 식별됩니다.

응답에는 VERY_UNLIKELY부터 VERY_LIKELY까지의 버킷화된 가능성(likelihood) 값이 포함됩니다.