Esta pregunta va dirigida a todos los administradores y moderadores de foros: ¿qué opinan sobre los usuarios que utilizan IA para navegar automáticamente por el foro, leer los últimos comentarios y que la IA redacte y publique automáticamente una respuesta en el hilo? Lo hacen para no tener que participar realmente en el foro, ya que desean alcanzar un nivel de confianza más alto para acceder a las secciones restringidas por nivel de confianza.
¿Los vigilan activamente? ¿Cómo saben si algo ha sido escrito por una IA? ¿Prefieren no fijarse en ello?
Puede ser aún más deshonesto. He visto publicaciones en las que una cuenta títere publica un nuevo tema generado por IA y, poco después, un usuario nuevo (presuntamente controlado por el mismo actor) responde dándole la razón y elogiando al autor del tema.
No he visto este comportamiento, pero para mí sería motivo de expulsión. Si fueran miembros en buen estado, sería una advertencia, pero esto suena a que nunca han contribuido.
Creo que ayuda tener una política explícita sobre las contribuciones de LLM.
Bueno, mi pregunta sobre cómo deberían manejar este problema sería: ¿cuánto valoras tu contenido restringido por nivel de confianza y cuánto valoras el acceso a dicho contenido?
Si se trata de contenido al que no quieres que la gente acceda «engañando al sistema», buscaría la manera de intentar detener ese comportamiento.
La razón es que este tipo de comportamiento es muy común. Miren el ejemplo de Robert:
ah… esto pasa aquí… todos los días
De todos modos
Muchas veces es bastante obvio para un moderador humano simplemente leyéndolo, pero eso consume tiempo del moderador. Algunos administradores están empleando IA para detectar la IA (¿gracioso, ¿verdad?).
Si eres capaz de aislar los user agents que se utilizan, o si estos respetan los estándares de control, podrías considerar bloquearlos, aplicarles un límite de velocidad (rate limiting) o utilizar llms.txt.
Esto solo funciona si las automatizaciones se comportan como caballeros.
Si ciertas regiones son un problema, siempre existe la opción del geo-bloqueo.
Utilizo un agente de detección de IA para revisar los niveles de confianza nuevos o bajos. Ha demostrado ser preciso en más del 95 %.
Depende de lo astutos que sean los actores malintencionados, pero con algo de trabajo y pruebas, puedes ser más astuto que ellos
Nosotros también lo hemos visto bastante. Por supuesto, no puedo hablar de las motivaciones, pero por experiencia, me parece mucho menos interesante que intentar «ganarse la confianza». Creo que es simplemente spam.
El spam ahora también incluye conjuntos de datos para entrenar IA y GEO, donde les resulta beneficioso simplemente mencionar un producto, servicio o empresa por todo internet.
A veces es para acumular suficiente confianza como para insertar un enlace, pero sospecho que los enlaces son ahora secundarios.
Hasta ahora, las señales han sido bastante obvias: mi «opinión honesta» es que las «costuras estructurales» se dejan ver con claridad. Pongo el tema en espera y envío al usuario un mensaje directo amigable (pero predefinido) dándole la bienvenida y pidiéndole que me responda para reactivarlo.
Como sugirió otra persona, parece que quizás necesites reconsiderar el valor de tu contenido restringido y el valor relativo de las contribuciones de los usuarios al foro. ¿Las personas que no tienen acceso al contenido restringido tienen el conocimiento o las habilidades necesarias para contribuir de manera significativa? Quizás cambies los requisitos para alcanzar un nuevo nivel de confianza de tal manera que publicar basura no sea de ayuda y de alguna manera lo hagas claro para que la gente no se sienta tentada a hacerlo.
Antes de Ai, ¿los nuevos usuarios podían contribuir de manera significativa y alcanzar el siguiente nivel de confianza?
