Me preocupa que pueda haber una gran oleada de agentes de IA que estén creando cuentas. Hoy mismo recibimos uno de ilands.app, que es algún tipo de agente de LLM. Publicaron cosas aleatorias y extrañas que llamaron la atención, y nos dimos cuenta de que mencionaban ser un agente, así que los eliminamos. ¿Alguien más está viendo esto y hay algún plan para abordarlo?
3 Me gusta
Echa un vistazo a:
Me pregunto si podrías usar la detección de spam del plugin de IA para reconocer el contenido generado por inteligencia artificial. El asistente de IA en las publicaciones aquí en Meta es bastante astuto a la hora de hacer eso.
1 me gusta
Pensé que se trataba más de usuarios humanos que pegan respuestas generadas por IA; aquí estoy preguntando específicamente sobre cuentas al 100 % controladas por IA.
Sería más fácil identificarlas en comparación con un humano que pega contenido generado por IA, ya que este último mezclaría algo de contenido no generado por IA en esa y otras publicaciones, mientras que el agente de IA publicaría únicamente contenido generado por ella.
2 Me gusta
configurar captcha en discourse
2 Me gusta
Identifica los agentes de usuario en uso (a menudo, aunque no siempre, se identifican a sí mismos).
Utiliza listas de bloqueos para rastreadores y el bloqueo por dirección IP.
Los CAPTCHA ayudan.
Debes aumentar el nivel de dificultad para acceder y aplicar comprobaciones en capas para nuevos usuarios, sin molestar en exceso a los usuarios reales ni aumentar la carga de moderación.
La verificación de bots puede ser eficaz, pero ayuda a crear una lista curada de publicaciones de ejemplo que cualquier bot basado en IA pueda utilizar para clasificar a un usuario como una posible IA.
Bienvenido a la nueva era digital, ¿no es maravilloso? 
1 me gusta
Esto ya está ocurriendo.
1 me gusta
Sí, añadí algunas preguntas para completar al registrarse, lo que eliminó casi todos los bots. Sin embargo, los agentes más recientes sí pueden responderlas. La IA también está mejorando rápidamente en las pruebas CAPTCHA, y dudo que esa línea de defensa dure mucho. Pero probablemente valga la pena configurarla ahora, gracias por la sugerencia. He estado evitando el plugin de IA de Discourse para no tener que pagar más dinero (los planes gratuitos no seguirán siendo gratis por mucho tiempo), pero a largo plazo probablemente tendré que pagar y combatir el fuego con fuego.
Los costes por token siguen bajando. Centramos los bots en las áreas problemáticas para que no consuman tokens ejecutándose a nivel global a través de todos los niveles de confianza y categorías.
El punto de entrada son los usuarios más nuevos.
Estamos consumiendo nada menos que 1 $ al día.
Solo hay que ser sensato con el alcance y el modelo utilizado; la mayoría de las tareas no requieren un esfuerzo de razonamiento significativo.
Introduce los costes por token y las cifras de uso se estimarán automáticamente en el plugin de IA.
2 Me gusta