Плагин, который проверяет все изображения, загружаемые в Discourse через Google Cloud Vision API, и отклоняет их, если они не соответствуют заданным уровням безопасности.
Документация:
Google предоставляет Ruby-гем:
Этот плагин должен интегрироваться в основной процесс загрузки изображений в Discourse для всех типов изображений (сообщения, аватары, фоны профилей и т. д.) и отклонять изображения, содержащие недопустимый контент:
puts "Adult: #{safe_search.adult}" puts "Spoof: #{safe_search.spoof}" puts "Medical: #{safe_search.medical}" puts "Violence: #{safe_search.violence}" puts "Racy: #{safe_search.racy}"
['UNKNOWN', 'VERY_UNLIKELY', 'UNLIKELY', 'POSSIBLE', 'LIKELY', 'VERY_LIKELY']
Минимальные пороги вероятности для отклонения загрузок по различным категориям (Adult, Spoof, Medical, Violence, Racy) должны настраиваться в параметрах плагина.
Отклонённые изображения должны удаляться мгновенно и нигде не сохраняться.
Поддерживаемые форматы изображений в Google Cloud Vision: