Me preocupa que pueda haber una gran oleada de agentes de IA que estén creando cuentas. Hoy mismo recibimos uno de ilands.app, que es algún tipo de agente de LLM. Publicaron cosas aleatorias y extrañas que llamaron la atención, y nos dimos cuenta de que mencionaban ser un agente, así que los eliminamos. ¿Alguien más está viendo esto y hay algún plan para abordarlo?
2 Me gusta
Echa un vistazo a:
Me pregunto si podrías usar la detección de spam del plugin de IA para reconocer el contenido generado por inteligencia artificial. El asistente de IA en las publicaciones aquí en Meta es bastante astuto a la hora de hacer eso.
Pensé que se trataba más de usuarios humanos que pegan respuestas generadas por IA; aquí estoy preguntando específicamente sobre cuentas al 100 % controladas por IA.
Sería más fácil identificarlas en comparación con un humano que pega contenido generado por IA, ya que este último mezclaría algo de contenido no generado por IA en esa y otras publicaciones, mientras que el agente de IA publicaría únicamente contenido generado por ella.
1 me gusta
configurar captcha en discourse
Identifica los agentes de usuario en uso (a menudo, aunque no siempre, se identifican a sí mismos).
Utiliza listas de bloqueos para rastreadores y el bloqueo por dirección IP.
Los CAPTCHA ayudan.
Debes aumentar el nivel de dificultad para acceder y aplicar comprobaciones en capas para nuevos usuarios, sin molestar en exceso a los usuarios reales ni aumentar la carga de moderación.
La verificación de bots puede ser eficaz, pero ayuda a crear una lista curada de publicaciones de ejemplo que cualquier bot basado en IA pueda utilizar para clasificar a un usuario como una posible IA.
Bienvenido a la nueva era digital, ¿no es maravilloso? 
Esto ya está ocurriendo.