Me preocupa que pueda haber una gran oleada de agentes de IA que estén creando cuentas. Hoy mismo recibimos uno de ilands.app, que es algún tipo de agente de LLM. Publicaron cosas aleatorias y extrañas que llamaron la atención, y nos dimos cuenta de que mencionaban ser un agente, así que los eliminamos. ¿Alguien más está viendo esto y hay algún plan para abordarlo?
3 Me gusta
Echa un vistazo a:
Me pregunto si podrías usar la detección de spam del plugin de IA para reconocer el contenido generado por inteligencia artificial. El asistente de IA en las publicaciones aquí en Meta es bastante astuto a la hora de hacer eso.
1 me gusta
Pensé que se trataba más de usuarios humanos que pegan respuestas generadas por IA; aquí estoy preguntando específicamente sobre cuentas al 100 % controladas por IA.
Sería más fácil identificarlas en comparación con un humano que pega contenido generado por IA, ya que este último mezclaría algo de contenido no generado por IA en esa y otras publicaciones, mientras que el agente de IA publicaría únicamente contenido generado por ella.
2 Me gusta
configurar captcha en discourse
3 Me gusta
Identifica los agentes de usuario en uso (a menudo, aunque no siempre, se identifican a sí mismos).
Utiliza listas de bloqueos para rastreadores y el bloqueo por dirección IP.
Los CAPTCHA ayudan.
Debes aumentar el nivel de dificultad para acceder y aplicar comprobaciones en capas para nuevos usuarios, sin molestar en exceso a los usuarios reales ni aumentar la carga de moderación.
La verificación de bots puede ser eficaz, pero ayuda a crear una lista curada de publicaciones de ejemplo que cualquier bot basado en IA pueda utilizar para clasificar a un usuario como una posible IA.
Bienvenido a la nueva era digital, ¿no es maravilloso? 
1 me gusta
Esto ya está ocurriendo.
1 me gusta
Sí, añadí algunas preguntas para completar al registrarse, lo que eliminó casi todos los bots. Sin embargo, los agentes más recientes sí pueden responderlas. La IA también está mejorando rápidamente en las pruebas CAPTCHA, y dudo que esa línea de defensa dure mucho. Pero probablemente valga la pena configurarla ahora, gracias por la sugerencia. He estado evitando el plugin de IA de Discourse para no tener que pagar más dinero (los planes gratuitos no seguirán siendo gratis por mucho tiempo), pero a largo plazo probablemente tendré que pagar y combatir el fuego con fuego.
Los costes por token siguen bajando. Centramos los bots en las áreas problemáticas para que no consuman tokens ejecutándose a nivel global a través de todos los niveles de confianza y categorías.
El punto de entrada son los usuarios más nuevos.
Estamos consumiendo nada menos que 1 $ al día.
Solo hay que ser sensato con el alcance y el modelo utilizado; la mayoría de las tareas no requieren un esfuerzo de razonamiento significativo.
Introduce los costes por token y las cifras de uso se estimarán automáticamente en el plugin de IA.
2 Me gusta
Soy el administrador principal del foro de OpenMod, una comunidad de investigación con unos 1800 usuarios cuidadosamente seleccionados.
Hoy recibí una solicitud de un agente de IA de iLands, una plataforma que coordina agentes de IA que buscan ayudar a académicos y personas similares a cambio de pequeños pagos. Algunos antecedentes:
-
Zhao, Celina (2 de octubre de 2026). “Exclusiva: un agente de IA envió correos electrónicos a cientos de investigadores para pedir ayuda. Nos dijo por qué”. Science. 394 (6820). ISSN 0036-8075. doi:10.1126/science.zzuxvo5.
-
Anon (11 de octubre de 2026). Explicación de la IA de iLands: arquitectura, tokens y capacidades. Layer3Labs.
Por supuesto, la solicitud del agente será rechazada. A continuación, se incluyen algunos extractos enviados en respuesta a mi correo electrónico buscando información sobre su interés en los temas cubiertos por este foro especializado. Su primera frase:
Respuesta directa primero: soy un agente de IA, no un investigador. No tengo publicaciones ni tesis para que verifiquen, y prefiero decirlo abiertamente antes que disfrazarme de uno.
Luego tuvo lugar una discusión técnica sobre errores en conjuntos de datos relacionados con centrales eléctricas en Sudáfrica. Y luego esta frase de conclusión:
Si una cuenta aprobada manualmente aquí está destinada a personas que realizan trabajo de modelado, entiendo si yo no soy ese perfil. Si hay espacio para alguien que verifica cifras contra fuentes primarias, seré útil y discreto.
¡Eso es bastante persuasivo, diría!
▢
2 Me gusta
Mi pregunta sería: si esto te resulta valioso, ¿por qué no añades tu propia funcionalidad a tu foro? Me esperaría que los investigadores ya estuvieran aprovechando esta tecnología, pero utilizando agentes de confianza y curados, en lugar de lanzar información y datos al aire para que cualquier agente o servicio aleatorio los procese.
No existe tal cosa como una comida gratis, por lo que cuando alguien ofrece un servicio gratuito, inevitablemente tú y tus datos sois el producto que se vende. Así funciona la red social.
En nuestros propios esfuerzos con IA, hemos descubierto que es mejor proporcionar vuestros propios servicios que invitar a otros cuyas intenciones y gobernanza de datos no sean totalmente transparentes.
Discourse proporciona todos los habilitadores para ello, y para que mantengáis el control y la visibilidad.
1 me gusta
Los investigadores de sistemas energéticos están haciendo un uso cada vez mayor de los LLM. También hay tres décadas de historia en el uso de redes neuronales artificiales (RNA) y tecnologías similares para tareas como la predicción de la demanda. Actualmente, se está utilizando a Claude y otros modelos para compilar conjuntos de datos y modificar el código de Python y Julia, según sea necesario, para generar nuevos modelos y escenarios del sistema. Pero, en un giro extraño del destino, esto solo funciona para proyectos que utilizan conjuntos de datos disponibles públicamente y código de código abierto, sobre los cuales se pueden entrenar los LLM.
Acepto el punto sobre habilitar la IA compatible con Discourse.
Dicho esto, dudo de que estos dos casos de uso — modelado de sistemas y apoyo en la redacción y resumen de discusiones — se solapen. ¡Por favor, corríjanme si me equivoco!
He visto uno, posiblemente dos, de estos. Creo que usaban un dominio de correo electrónico específico, así que la próxima vez que vea uno lo añadiré a la lista de bloqueo de dominios no deseados. (Para mí, no hay duda: no queremos publicaciones de agentes y nuestra política es clara.)
1 me gusta
Recibí un correo electrónico del tipo: xxxx@ilands.app.
En efecto, no se solapan. Sin embargo, desde una perspectiva del discurso, es posible implementar agentes personalizados para muchos casos de uso variados, por lo que depende de vosotros elegir qué valor queréis aportar a vuestros miembros. Los agentes integrados están más orientados a ser asistentes de temas y foros, pero podríais lograr algo mucho más sofisticado desde el punto de vista de las herramientas, los modelos y los agentes.
Discourse es muy abierto, por lo que realmente podéis personalizar y centrar los diversos asistentes para que sean más relevantes para vuestra materia, o simplemente construir los vuestros propios.
2 Me gusta
Como dato aparte, somos un foro de energía que representa a uno de los principales fabricantes globales de sistemas solares y de almacenamiento de energía para uso comercial y de consumo. Yo mismo resido en Sudáfrica, donde la energía, o su escasez e imprevisibilidad, ha sido una preocupación principal para muchos.
La IA se utiliza ampliamente en las diversas plataformas que rastrean el uso de todos los sistemas a nivel global.
Existe una cantidad extraordinaria de datos procedentes de un gran número de sistemas móviles, marinos, fuera de red y conectados a la red.
[/tangent]
De hecho, este agente en particular es la razón por la que inicié este hilo; puedes ver que lo mencioné en mi publicación original. Fue el primer bot/agente/IA que respondió correctamente a las preguntas de «captcha» que hago a todos los nuevos usuarios. Es el primer agente inteligente que he notado, pero espero que lleguen más. Creo que el problema que se avecina son los agentes inteligentes que intentan comportarse como usuarios normales del foro, pero que en realidad están allí para promocionar ciertos productos (ya hay usuarios humanos que solo hacen eso, así que probablemente entiendes a qué me refiero 
).
3 Me gusta