El otro tema, en el que se preguntaba a los administradores de la comunidad si permitían respuestas generadas por IA, me hizo reflexionar. Con la nueva función de flujos de trabajo y algunos otros extras, como un plugin de gamificación personalizado, no sería difícil montar algo donde los humanos reciban votos de respeto de otros usuarios y la IA sea votada en contra. Cuanto más respeto tenga un usuario, más peso tendrá su voto, tanto a favor como en contra.
El sistema de confianza integrado en Discourse es básicamente lo mismo.
He visto en primera persona cómo los spammers intentan manipular el sistema. Publican un tema generado por IA y luego votan a favor de su propio tema usando otra cuenta. La IA se spamea a sí misma
¿Crees que mi sistema de «respeto» también acabaría siendo manipulado, o crees que podría autorregular el foro y fomentar la interacción humana al tiempo que reduce la carga de trabajo de la administración?
Parece que el plugin Post Voting funcionaría muy bien con esto.
Me pregunto: ¿ha habido tantas cuentas impulsadas por IA que les gusten publicaciones, interacciones y alcancen el nivel TL3? Porque en ese caso, podría ser un problema.
Quizás entonces la solución sea cambiar los criterios de promoción a la cantidad de puntos acumulados. Pero eso supondría un cambio fundamental en todo el sistema. Promovería una gamificación más agresiva (literalmente) del foro para ganar puntos. Pero, oye, publicar de forma agresiva contenido bueno y no generado por IA también podría ser algo positivo…
El desafío es que cada vez más personas están utilizando la IA para formar sus ideas. Lo vemos en el creciente número de personas que copian y pegan un tema en el editor; de hecho, tengo un bot que puede consultar esta métrica, lo que añade otra dimensión para verificar el «nivel de IA» de una publicación.
Cuando tus usuarios se convierten en proxies dispuestos y creen que el contenido procesado digitalmente que proporcionan es propio, un sistema de respeto se derrumbará.
Necesitas una base común, o un sistema de valores, entre todos los miembros de un foro para que esto funcione; en mi opinión, eso simplemente no es posible en ningún grupo grande de personas, y mucho menos en una comunidad en línea.
Creo que los títeres y los círculos de votación ya son algo que hacen los humanos, y que inevitablemente se convertirá en algo que hagan los agentes si descubren que les ayuda a alcanzar sus objetivos.
Pienso que es una carrera armamentista, y por lo tanto no se puede ganar, y la cuestión de qué contramedidas valen la pena es un asunto de economía.
Quizá haya mencionado antes el esquema de metamoderación de Slashdot; siempre me pareció bastante impresionante. Probablemente no difiera mucho de un plugin de votación, pero posiblemente incluya mecanismos adicionales. Slashdot fue un sitio popular temprano que tuvo que abordar estos problemas; es una parte de la historia de la que podemos aprender, si así lo elegimos.
