O outro tópico, que perguntava a administradores da comunidade se eles permitem respostas de IA, me fez pensar. Com o novo recurso de fluxos de trabalho e alguns outros recursos, como um plugin de gamificação personalizado, não seria difícil criar algo em que humanos reais recebam votos de respeito de outros usuários e a IA seja rebaixada. Quanto mais respeito um usuário tiver, mais peso terá o voto que ele dar, seja para cima ou para baixo.
O sistema de confiança integrado ao Discourse é basicamente a mesma coisa.
Já vi de perto como os spammers tentam burlar o sistema. Eles publicam um tópico de IA e, em seguida, dão voto positivo no próprio tópico usando outra conta. A IA se spam sozinha
Meu sistema de ‘respeito’ acabaria sendo burlado ou vocês acham que ele poderia se autogerir, incentivando a interação humana e aliviando a carga de trabalho da administração?
Parece que o plugin Post Voting funcionaria muito bem com isso.
Me pergunto: já existem contas impulsionadas por IA a ponto de curtir posts, interagir e atingir o TL3? Porque, se for o caso, isso poderia ser um problema.
Talvez a solução seja mudar os critérios de promoção para a quantidade de pontos acumulados. Mas isso seria uma mudança fundamental em todo o sistema. Promoveria uma gamificação (literalmente) mais agressiva do fórum para ganhar pontos. Mas, sabe, postar ativamente conteúdo bom e não gerado por IA também poderia ser uma coisa boa…
O desafio é que cada vez mais pessoas estão usando uma IA para formar seus pensamentos. Vemos isso no aumento do número de pessoas que copiam e colam um tópico no editor — na verdade, tenho um bot que pode consultar essa métrica, o que adiciona outra dimensão para verificar o quanto uma publicação é “artificial”.
Quando as pessoas se tornam proxies dispostas e acreditam que o conteúdo digitalmente processado que fornecem é delas, um sistema de respeito vai se desintegrar.
É necessário um fundamento comum, ou um sistema de valores, entre todos os membros de um fórum para que isso funcione. Na minha opinião, isso simplesmente não é possível em nenhum grande grupo de pessoas, muito menos em uma comunidade online.
Acho que marionetes e anéis de votação já são algo que os humanos fazem — e inevitavelmente se tornarão algo que os agentes farão, se descobrirem que isso ajuda a alcançar seus objetivos.
Acho que é uma corrida armamentista, e portanto impossível de vencer, e é uma questão de economia saber quais contramedidas valem a pena.
Talvez eu já tenha mencionado o esquema de metamoderação do Slashdot — eu sempre fiquei bastante impressionado com isso. Provavelmente não é muito diferente de um plugin de votação, mas possivelmente com mecanismos extras. O Slashdot foi um dos primeiros sites populares que precisou lidar com esses problemas — é um pouco de história que podemos aproveitar, se assim quisermos.
