Bonjour,
J’ai configuré l’automatisation « Trier les publications à l’aide de l’IA » pour la modération de contenu sur ma plateforme (madeira.community — un annuaire d’entreprises multilingue pour l’île de Madère).
L’automatisation fonctionne parfaitement pour les publications publiques. Cependant, j’ai activé l’option « Inclure les messages personnels » et constaté que les messages privés (MP) entre utilisateurs réguliers ne sont pas analysés du tout.
Mon inquiétude est réelle : des acteurs malveillants peuvent utiliser les messages privés pour mener des activités illégales — trafic de drogue, partage de données financières volées, emprise sur des mineurs — tout en contournant complètement la modération par IA qui fonctionne bien sur le contenu public.
Mes questions :
-
L’option « Inclure les messages personnels » prend-elle réellement en charge l’analyse des MP entre deux utilisateurs réguliers (non membres du personnel) ?
-
Si non — s’agit-il d’un choix de conception ou d’une limitation connue ?
-
Existe-t-il une méthode prise en charge pour appliquer le triage par IA aux messages privés entre utilisateurs réguliers ?
J’ai trouvé une référence à un commit « Ignorer l’analyse des MP dans le triage par LLM par défaut », ce qui suggère que cela pourrait être intentionnel. Mais l’option dans l’interface utilisateur existe — je suis donc confus quant à ce qu’elle fait réellement.
Merci