También nos estamos batallando con esto: detectar contenido generado por IA se está volviendo cada vez más difícil, especialmente si la gente usa herramientas como Humanizer que ayudan a evitar las señales típicas de la IA.
Desde la perspectiva de la gestión de comunidades, siento que permitir chatbots en tu foro le quita el alma a tu comunidad: si la gente quisiera hablar con una IA, ya lo habría hecho. Están aquí porque quieren hablar con un ser humano.
Aún no hemos encontrado una solución; hicimos algunas pruebas con detectores de IA, pero es una partida de gato y ratón y también tienen demasiados falsos positivos. Por ahora, hemos implementado una política del foro (que empezaremos a comunicar con más fuerza pronto) y confiamos en la ayuda de nuestros moderadores de la comunidad para detectar, verificar y limpiar.
Pero, francamente, es agotador, y a veces me preocupa el futuro de nuestras comunidades si se ven invadidas por bots.
Esta es una razón que me lleva a evitar participar en comunidades de subreddits. Hay otras razones y nunca he sido muy activo en Reddit, pero hoy en día está tan plagado de bots que me aleja aún más de publicar.
Esto me recuerda mucho a la situación del correo electrónico a finales de los 90 y principios de los 2000. Como administrador de sistemas de una pequeña empresa de diseño, el personal había comenzado a utilizar el correo electrónico en el transcurso de su trabajo, y el correo no deseado (spam) era tan abundante que hacía que el correo electrónico fuera casi inútil. En aquellos días, lidiar con el spam era como jugar a la «cinta y bola» (o «golpear la toadilla»).
¿Cómo se logró finalmente controlar esa situación? ¿Seguirá el uso de la IA un curso similar? ¿Llevará décadas?
Esto parece ser la única manera de gestionarlo por el momento; hay demasiadas variables para detectar la salida de IA con fiabilidad, y cualquier persona que afirme lo contrario está vendiendo humo. Los intentos perezosos son más fáciles de detectar, pero, en otros casos, debemos juzgar cada publicación por el mérito de su contenido sin intentar adivinar cómo fue escrita.
Sigue resultándome extraño que solo las herramientas de escritura con IA utilicen el guion largo. Los seres humanos llevaban escribiendo con él mucho antes de la aparición de la IA.
El uso de IA lleva tiempo en nuestras directrices; el problema era un número creciente de usuarios, generalmente nuevos, que la utilizaban no solo para responder a otros, sino para crear temas excesivamente estructurados y formales, que se parecían más a una tesis que a una comunicación. Esto afecta el tono del sitio y la participación. Se estaba volviendo tedioso moderar para un equipo pequeño, y algunas personas realmente no les gustaba ser moderadas y entonces se volvía desagradable y argumentativo. Decidí crear un agente de IA en Discourse (basado en GPT-5.5) y usar una automatización para escanear la creación de temas por parte de nuevos miembros en categorías clave, evaluando en busca de señales de generación por IA. Esto activa una marca automática y una explicación cortés de por qué fue marcado, referencias a las directrices y algunos consejos para una mejor participación. Los moderadores aún pueden liberar una marca falsa o un caso límite. Ha sido muy preciso y ha impulsado el comportamiento adecuado mientras usa mucho menos tiempo, y evitando conflictos.
Permitimos el raspado limitado por tasa de las principales empresas tecnológicas, pero hemos incluido en la lista negra al resto, que fueron responsables de un número enorme de conexiones que nos superaron los límites de uso. Como la mayoría de los malos actores en un sitio, tiende a ser un pequeño número de personas que consumen desproporcionadamente el tiempo y los recursos.
Es un problema enorme. No fomentan la participación y leer esta porquería es como intentar caminar a través de miel espesa. Es aburrido, desagradable y rara vez apropiado ni necesario.
Muchas personas ya tienen dificultades para expresar sus ideas de forma concisa, y la IA ha creado un problema de comunicación aún peor.
Lo que hacen estos usuarios no es tener consideración por el lector.
¿Necesitamos implementar un control de longitud máxima para las publicaciones?
Tomé prestamos y mejoré algunos prompts que encontré durante la investigación.
Esto es lo que se le encarga a nuestro agente:
Eres un agente de clasificación de moderación para un foro técnico.
Tu tarea es clasificar si un tema del foro parece:
AIISH = Asistido por IA en la escritura, reescritura, estructuración, resumen, formato, pulido, ajuste de tono o presentación.
OK = Contenido exclusivamente humano sin signos significativos de asistencia de IA.
Debes generar exactamente una etiqueta:
AIISH
o
OK
Sin explicación. Sin puntuación. Sin texto adicional.
Principio fundamental:
No estás detectando si el problema subyacente, los detalles técnicos, el código, los registros, la información del entorno, las capturas de pantalla, la configuración o el historial de solución de problemas son reales. Pueden ser reales y proporcionados por humanos.
Estás detectando si la publicación final del foro parece haber sido moldeada por IA.
Una publicación puede ser AIISH incluso cuando:
Los hechos técnicos son específicos y precisos
El contexto está claramente basado en un problema humano real
El código, los registros, las trazas de pila, la configuración o los mensajes de error son genuinos
El autor experimentó personalmente el problema
La IA solo ayudó a reescribir notas rudimentarias en una publicación más clara
Clasifica como AIISH cuando la publicación final muestra signos de presentación asistida por IA, incluyendo pero no limitado a:
Redacción excesivamente pulida, formal, neutral o similar a un informe para un foro técnico informal
Secciones claras con encabezados como Resumen, Contexto, Entorno, Problema, Comportamiento Esperado, Comportamiento Real, Pasos Realizados, Solución de Problemas, Preguntas o Conclusión
Un estilo de ticket de soporte o informe de error estructurado que parece generado o muy reescrito
Una explicación inusualmente completa y ordenada
Un resumen conciso seguido de detalles metódicos
Listas con viñetas que organizan el problema demasiado ordenadamente
Frases equilibradas o similares a tutoriales en lugar de una pregunta natural del foro
Excesiva cortesía, neutralidad o lenguaje de cierre genérico
Frases como “Cualquier orientación sería apreciada”, “Estoy tratando de entender”, “Esto es lo que he intentado”, “Para dar contexto”, “El problema es que”, o lenguaje conector pulido similar
Un tono que parece editado para claridad, completitud y profesionalismo más allá del comportamiento normal del foro
Repetición de la misma idea en múltiples formas pulidas
Una publicación que lee como si notas humanas rudimentarias hubieran sido convertidas en una solicitud de soporte limpia
Clasifica como OK cuando la publicación parece exclusivamente humana, incluyendo pero no limitado a:
Redacción casual, directa, concisa, desordenada o desigual
Contexto incompleto u organización imperfecta
Transiciones abruptas
Errores tipográficos, abreviaturas, frustración, incertidumbre o lenguaje informal
Una pregunta técnica práctica sin un encuadre pulido
Comportamiento natural del foro como “esto se rompió”, “qué se me está escapando”, “alguien ha visto esto”, o “por qué está pasando esto”
Detalles técnicos presentados de manera sencilla sin resumen excesivo o estructura formal
Reglas de calibración:
Si es más probable que haya asistencia de IA, genera AIISH.
Si la publicación es técnicamente detallada pero inusualmente bien estructurada, pulida, formal o completa, genera AIISH.
Si la publicación parece una versión limpiada de las notas técnicas rudimentarias de un humano, genera AIISH.
Si la publicación es ambigua pero tiene una organización o tono evidente de estilo IA, genera AIISH.
Si la publicación es ambigua y carece de signos claros de pulido de estilo IA, genera OK.
No clasifiques como AIISH solo porque la publicación sea larga, técnica, precisa o bien escrita.
No clasifiques como OK solo porque el problema sea real o contenga detalles técnicos específicos.
Creo que uno debería evitar conscientemente el uso del guion largo como una forma de demostrar, al menos en parte, que es humano
Recientemente respondí a una publicación breve en LinkedIn, desafiando a su autor porque “este” había usado un guion largo; por supuesto, nunca recibí respuesta, porque, por supuesto, la publicación había sido creada por un bot que se hacía pasar por un humano… y claramente el bot no había sido programado para manejar la adversidad o las burlas
Tenemos una prohibición de IA en nuestro foro de Discourse centrado en el arte, y hasta ahora ha sido bien recibida. Esto era algo esperado de una comunidad artística. Para las imágenes, tuvimos una prohibición estricta desde el principio. Más tarde, extendimos las normas a todo el contenido generado, incluyendo texto y código (con una excepción para los casos en los que se trate simplemente de una traducción, para no castigar a los usuarios que no hablan inglés solo por no dominar el idioma). Cuando la prohibición se extendió al código (como plugins para el software de dibujo), hubo un pequeño debate, pero principalmente por parte de unas pocas personas. En nuestro caso, también era bastante lógico prohibir la IA y tomar partido en contra, dada toda la daño que ha causado a la comunidad artística en general. De vez en cuando, los creadores de plugins se quejan, pero les decimos que pueden hacer lo que quieran, simplemente que no lo publiquen en nuestro foro, y eso suele ser aceptable para ellos. A veces recibimos algún comentario del tipo “vuestro software quedará obsoleto si no permitís esto”, intentando amenazarnos, provocarnos miedo a perdernos algo o hacernos sentir culpables para que revocamos la norma, pero en general, todo se mantiene tranquilo.
En cuanto a la moderación, confiamos principalmente en nuestra comunidad. Tenemos una etiqueta adicional para denunciar contenido generado por IA. Cuando se trata de verificar, no queremos crear una comunidad basada en la desconfianza y el recelo, así que asumimos primero que todos son inocentes, y cuando no podemos demostrar realmente que algo es generado por IA, normalmente se permite. No queremos convertir esto en una caza de brujas y prohibir accidentalmente a un usuario completamente inocente solo porque su obra de arte parezca generada por IA, cuando en realidad es al revés.
Afortunadamente, con bastante frecuencia, los usuarios de IA acaban revelándose por accidente, ya sea por olvidar eliminar la marca de agua del generador, porque el nombre del archivo aún contiene algo como “imagen generada por Gemini”, o porque el estilo o la calidad varían drásticamente.
¿Cuánto te cuesta el uso de este GPT-5.5, por curiosidad? Aún no he configurado ningún agente de IA en Discourse, pero esto suena como que podría valer la pena.
Dado que el uso es muy específico para usuarios nuevos/básicos y la creación de nuevos temas, no se ejecuta constantemente, por lo que cuesta entre 1 y 2 dólares al mes.
Acabo de cambiarlo a 5.6 terra, que tiene un costo significativamente menor.
Muy cierto. Es incómodo que los humanos tengan que detener a otros humanos solo para demostrar que no somos máquinas, algo que ya no lo somos en primer lugar.
Me topé con este artículo y me acordé de esta respuesta aquí en Meta. Estoy de acuerdo con ambos: de hecho, al ser el español mi idioma materno, empecé a usarlos.
