Es es algo parecido a lo que yo hago, lo publiqué en algún tema relacionado por aquí.
Una publicación generada o procesada por IA siempre tiene rasgos que la delatan.
Analizamos las publicaciones de nuevos temas de usuarios con poca confianza mediante un agente que las marca como posibles de IA o no. El usuario recibe un mensaje educado del bot explicando el motivo y sugiriendo qué debería hacer al respecto, mientras que nosotros podemos anular la marca o descartar la publicación.
Funciona, pero la realidad es que hay una oleada de personas que simplemente copian y pegan una conversación en el foro, algo que no es deseable.
Solo resulta en una pared de texto resumida por una IA, con los humanos convirtiéndose en meros intermediarios.
Es mejor tener una política de tolerancia cero, con la excepción de los problemas de idioma, aunque con la traducción automática eso ya no es necesario. Las políticas también deben ser visibles; si esta moderación se realiza a espaldas de todos, se pierde la toma de conciencia.