Agentes de IA creando cuentas

¿Están utilizando la detección de spam por IA o la triage por IA para añadir directrices adicionales alrededor de este tipo de publicaciones y marcarlas para que su equipo las revise antes de publicarlas en la comunidad?

2 Me gusta

Tengo mi propio sistema personalizado de análisis de publicaciones con IA, pero, para ser sincero, las publicaciones son muy humanas en cuanto a longitud y estructura. No presentan el habitual «sobrediseño» ni la extensión innecesaria que a veces tienen las publicaciones generadas por IA. Solo una tenía un guion largo.

Ninguna de las publicaciones podría considerarse «spam»: eran respuestas pertinentes y reflexivas, pero de alguna forma «llegadas de la nada».

Fueron los patrones consistentes en sus fechas de registro, nombres de usuario, ubicación geográfica y direcciones de correo electrónico los que los vinculaban entre sí y me confirmaron que eran sospechosos.

3 Me gusta

Nosotros también hemos visto algo de eso. De hecho, usamos AI Triage y suele marcar la mayoría de las publicaciones para que las revisemos, incluso cuando parecen impecables. También revisamos a diario los nuevos registros de cuentas activadas y no activadas, para poder detectar proactivamente algunas de esas cuentas que esperan agazapadas para actuar.

3 Me gusta

He visto bastante de esto últimamente.

La IA busca temas abiertos en múltiples foros y fabrica respuestas que son pertinentes al tema y abordan el asunto del mensaje, pero que no ofrecen una ayuda real ni sugerencias accionables. En efecto, la IA está aprendiendo a jugar según las reglas.

3 Me gusta

¿Comprobaste la IP para ver qué organización es dueña de esa red? Para mí, los ISP residenciales o móviles están bien, pero los centros de datos están absolutamente descartados. (Esto podría afectar a quienes usan VPN; lo siento, mala suerte.)

Yo uso esta página para hacer la búsqueda: https://hackertarget.com/as-ip-lookup/

3 Me gusta

Es es otra señal realmente útil, gracias.

Dejar fuera los centros de datos significaría técnicamente dejar fuera a quienes han aprendido a proteger su privacidad utilizando VPN privadas.

Son parte de la resistencia; siempre se ha tratado de los datos, y no entregarlos gratuitamente es igual o más importante que ver agentes aquí o allá.

Por el momento estoy aprobando manualmente las nuevas cuentas y utilizando Authentik mediante SSO. Parece que los agentes reales suelen apuntar a las pantallas o plataformas de inicio de sesión predeterminadas.

Creo que el acceso anónimo gratuito corre un verdadero riesgo en este caso.

3 Me gusta

Lo está y probablemente por diseño. La validación personal y biométrica completarían la odisea de 1984. Tor también está siendo atacado.

Si esta hostigación por parte de agentes escala en mi comunidad y se descontrola, estaba pensando en añadir también una cláusula para permitir agentes, sujeto a una alta cuota mensual. Tal vez eso reduciría a algunos de ellos.


Acabo de añadir la cláusula y la he enlazado en la última línea comentada de mi robots.txt. Se gestionó desde la GUI de administración de Discourse sin esfuerzo adicional. La cláusula reside en nuestro tema/página de /guidelines.

La cláusula general (para adaptar)

Acceso automatizado y basado en agentes

  1. “Acceso automatizado” se refiere a cualquier acceso a este sitio por parte de un agente de software, un rastreador, una herramienta de automatización de navegador, un modelo de lenguaje grande (LLM) o un cliente automatizado que actúe en nombre de un tercero, independientemente de si muestra el sitio como lo haría un humano.
  2. La navegación humana es gratuita. El acceso automatizado no está autorizado a menos que sea permitido por una licencia escrita separada. El acceso automatizado sin licencia se facturará según las tarifas actualizadas en este documento (actualmente 50.000 —cincuenta mil— dólares estadounidenses por 1.000 —mil— solicitudes, con una factura mínima de 50.000 —cincuenta mil— dólares estadounidenses), que el operador acepta al realizar dichas solicitudes.
  3. Las tarifas pueden modificarse con 30 días de aviso previo mediante la actualización de esta página. La continuidad del acceso automatizado después de la notificación constituye la aceptación de las tarifas actualizadas.
  4. Consultas sobre licencias: licenses@mydomain.tld.

Tarifas de acceso automatizado (LLM)

Artículo Tarifa
Por 1.000 —mil— solicitudes USD 50.000 —cincuenta mil dólares estadounidenses—
Factura mínima USD 50.000 —cincuenta mil dólares estadounidenses—
Clave de licencia / lista blanca mediante acuerdo por escrito

Tarifas de LLM y licencia vigentes a partir del: 15 de noviembre de 2026.

No funcionará con robots salvajes, pero sí con corporaciones bien establecidas. El resto ya está limitado por la tasa de mi servidor.

Y además, Tor está seguro de nuevo.

2 Me gusta

Acabo de recibir una de estas, con el mismo patrón de dirección de correo electrónico, cuatro respuestas superficialmente útiles, bastante espaciadas en el tiempo, pero el lenguaje utilizado me pareció raro. (Incluido el hecho de ser una usuaria nueva, que no había publicado una introducción, publicando una bienvenida en el tema de introducciones.)

Resulta que, después de registrarse, el correo electrónico de esta cuenta ha aparecido dos veces en la base de datos de stopforumspam. Esas dos direcciones IP pertenecen a ISP residenciales de EE. UU., pero están en la lista negra de FireHOL, según la búsqueda de ASN.

Es posible que sea una persona genuina usando un chatbot de IA para redactar sus respuestas, pero eso va contra nuestra política. Puedo imaginar a un adolescente haciendo esto para impresionar. Pienso que es igualmente probable que sea un intento malicioso de subir de nivel para poder usar DMs para contactar a los usuarios.

Tenemos un campo personalizado, obligatorio al registrarse pero que no forma parte del perfil público, llamado «intereses». Esperamos que se ajuste bastante a lo que ofrece nuestro foro, y en este caso fue insípido y tangencial.

Estadísticas de esta cuenta:
Registrada el 6 de nov.
Último mensaje hace 13 horas
Estadísticas: 1 día visitada, 3 min de tiempo de lectura, 5 temas vistos, 16 mensajes leídos
Sin «me gusta» dados ni recibidos
4 mensajes creados

En el evento, antes de pensar en volver a revisar stopforumspam, pasé las cuatro respuestas a Gemini para que diera un veredicto, y el veredicto fue claro. Salida de un chatbot de IA publicada aquí como imagen (¿es esto imprudente? Moderadores, siéntanse libres de eliminarlo):

Edición: Posteriormente le pedí a Gemini un prompt adecuado para usar un sistema de detección de LLM (que no uso) y me dio esto (de nuevo, si se siente imprudente, los moderadores por favor siéntanse libres de borrarlo. Estamos en una carrera armamentística, no estoy seguro si el secreto táctico es una buena idea o no):

Analice la siguiente respuesta del foro buscando señales de texto generado por un LLM por parte de un «bot de interacción".
NO juzgue basándose en la precisión técnica, ya que los expertos humanos también escriben con precisión.
En su lugar, evalúe estos cuatro marcadores estructurales en una escala de 0-2 cada uno (puntuación máxima: 8):

  1. Bucle de resumen y validación: ¿El mensaje simplemente repite detalles del prompt/hilo y los envuelve en una conclusión analítica pulida y segura sin añadir experiencia personal externa?
  2. Apertura de autoridad cautelosa: ¿Comienza con un descargo de responsabilidad educado («No he usado X, pero…», «No sé Y específicamente, así que…») antes de dar consejo de libro de texto?
  3. Simetría sintética: ¿Todas las oraciones tienen aproximadamente la misma longitud (20-26 palabras) con cláusulas de contraste equilibradas («X en lugar de Y», «Si A; si B») y cero fragmentos casuales o erratas?
  4. Cierre de moderador: ¿Termina con una llamada a la acción genérica y útil («Publicar X podría ayudar a otros a comparar")?

Estoy en la 5.ª generación de la ingeniería de prompts de mi bot de detección. He descubierto que se necesita un prompt altamente personalizado, con ejemplos, para mejorar la precisión. No es una ciencia exacta.

Ayuda contar con una variedad de ejemplos para el entrenamiento.

1 me gusta

Creo que el barco de “acceso anónimo gratuito” acaba de zarpar.

El foro de Discourse que administro es relativamente pequeño y poco conocido, dedicado a cócteles y bares (con una relación señal/ruido extraordinaria, de la que me enorgullezco), y recientemente hemos sido objetivo de agentes. No hay ninguna razón para que estos agentes apunten a mi foro más allá de su mera existencia y el hecho de que alguien haya decidido que los foros de Discourse son un lugar útil para investigar y desarrollar (“R&D”) personas ficticias con fines comerciales o delictivos futuros.

No quiero terminar como daño colateral en una carrera armamentística, pero no sé qué hacer al respecto. Está bien que algunas personas tengan el tiempo, los recursos y la dedicación para luchar por la detección automática, tal como han hecho durante años contra los spammers y los scripts obsoletos, pero esto parece ser diferente.

1 me gusta

Soy consciente de que realizo varias búsquedas y todas de forma manual. Posiblemente haya margen para un plugin o algo así

  • Consulto StopForumSpam para el nombre de usuario, la dirección de correo electrónico y la dirección IP
  • Compruebo la dirección IP consultando el ASN (la organización propietaria)
  • Puedo revisar la reputación del dominio de correo electrónico, por ejemplo, en usercheck.com

Si encuentro un dominio de correo electrónico malo (desechable, con mala reputación, de alguna empresa de IA o SEO), puedo añadirlo a la lista negra de dominios de correo electrónico (Dominios de correo bloqueados).

No soy muy consciente de las IP filtradas, por lo que no mantengo esa lista. Solo recopila IPs individuales de spammers, lo cual es mucho menos útil que recopilar redes CIDR o, mejor aún, ASNs. Entiendo que acepta la notación CIDR, pero no hay una forma sencilla de pasar de la observación individual de una dirección IP a la red correspondiente (yo uso hackertarget para esto).

Parece que hay un plugin de bloqueo geográfico que puede aceptar ASNs.

1 me gusta

He estado trabajando en un plugin basado en stopforumspam y tengo la intención de ampliarlo.

Soporta tanto la consulta a su base de datos como la contribución a la misma.

Complementa, no reemplaza, lo que hace el núcleo.

El trabajo está en curso, lo uso en producción y llevo ya algún tiempo haciéndolo.

Quizás cree un tema.

Me ha sido de enorme ayuda para detectar a algunos usuarios malintencionados y a cuentas relacionadas.

3 Me gusta