También nos estamos batallando con esto: detectar contenido generado por IA se está volviendo cada vez más difícil, especialmente si la gente usa herramientas como Humanizer que ayudan a evitar las señales típicas de la IA.
Desde la perspectiva de la gestión de comunidades, siento que permitir chatbots en tu foro le quita el alma a tu comunidad: si la gente quisiera hablar con una IA, ya lo habría hecho. Están aquí porque quieren hablar con un ser humano.
Aún no hemos encontrado una solución; hicimos algunas pruebas con detectores de IA, pero es una partida de gato y ratón y también tienen demasiados falsos positivos. Por ahora, hemos implementado una política del foro (que empezaremos a comunicar con más fuerza pronto) y confiamos en la ayuda de nuestros moderadores de la comunidad para detectar, verificar y limpiar.
Pero, francamente, es agotador, y a veces me preocupa el futuro de nuestras comunidades si se ven invadidas por bots.
Esta es una razón que me lleva a evitar participar en comunidades de subreddits. Hay otras razones y nunca he sido muy activo en Reddit, pero hoy en día está tan plagado de bots que me aleja aún más de publicar.
Esto me recuerda mucho a la situación del correo electrónico a finales de los 90 y principios de los 2000. Como administrador de sistemas de una pequeña empresa de diseño, el personal había comenzado a utilizar el correo electrónico en el transcurso de su trabajo, y el correo no deseado (spam) era tan abundante que hacía que el correo electrónico fuera casi inútil. En aquellos días, lidiar con el spam era como jugar a la «cinta y bola» (o «golpear la toadilla»).
¿Cómo se logró finalmente controlar esa situación? ¿Seguirá el uso de la IA un curso similar? ¿Llevará décadas?
Esto parece ser la única manera de gestionarlo por el momento; hay demasiadas variables para detectar la salida de IA con fiabilidad, y cualquier persona que afirme lo contrario está vendiendo humo. Los intentos perezosos son más fáciles de detectar, pero, en otros casos, debemos juzgar cada publicación por el mérito de su contenido sin intentar adivinar cómo fue escrita.