こんにちは、まずはこのサイトのすべてのメンバーに感謝申し上げます。素晴らしいコミュニティですね！その一員になれて嬉しいです 
さて、写真や動画を投稿し、コメントを通じて交流するコミュニティ向けのカスタムアプリについてです。「discourse image filter plugin」というプラグインがあり、これは露骨な画像のアップロードを制限するものです。動画についても同様の機能はありますか？投稿に露骨な動画が含まれている場合、自動的にユーザーを制限するプラグインや、他の解決策はありますか？
ご教示ください。よろしくお願いいたします。
プラグインがその動画が過激な内容であることをどうやって判断するのでしょうか？
動画用のプラグインがどのように機能するかは確信がありませんが、Discourse の画像フィルタプラグインのように、Google Cloud Vision API を使用して、フォーラムへの不適切な画像のアップロードを制限する仕組みは存在するでしょうか？同様のものはありますか？
画像フィルタプラグインを拡張して動画に対応させるのは、それほど難しいことではないはずです。
露骨なコンテンツの検出は、動画内の成人向けコンテンツを検出します。成人向けコンテンツは一般的に18歳未満の人には不適切であり、ヌード、性的行為、ポルノなどを含みますが、これらに限定されません。また、カートゥーンやアニメで検出されたそのようなコンテンツも識別されます。
応答には、
VERY_UNLIKELYからVERY_LIKELYまでのバケッタイズされた likelihood 値が含まれます。