Hola,
He configurado la automatización “Clasificar publicaciones con IA” para la moderación de contenido en mi plataforma (madeira.community — un directorio empresarial multilingüe para la isla de Madeira).
La automatización funciona perfectamente para las publicaciones públicas. Sin embargo, habilité la opción “Incluir mensajes personales” y descubrí que los mensajes directos entre usuarios normales no se escanean en absoluto.
Mi preocupación es real: los actores malintencionados pueden utilizar mensajes privados para llevar a cabo actividades ilegales —tráfico de drogas, intercambio de datos financieros robados, acoso a menores—, eludiendo por completo la moderación con IA que funciona bien en el contenido público.
Mis preguntas:
-
¿La opción “Incluir mensajes personales” realmente soporta el escaneo de mensajes directos entre dos usuarios normales (no personal)?
-
Si no es así, ¿es esto por diseño o una limitación conocida?
-
¿Existe alguna forma soportada de aplicar la clasificación con IA a los mensajes privados entre usuarios normales?
Encontré una referencia a un commit “Saltar el escaneo de PM en la clasificación LLM de forma predeterminada”, lo que sugiere que esto podría ser intencional. Pero la opción de la interfaz de usuario existe, por lo que estoy confundido sobre lo que realmente hace.
Gracias