Não tenho certeza se este é o lugar certo para postar sobre isso, mas é o tópico mais próximo que encontrei.
Recentemente, estamos vendo um aumento em posts gerados por IA; novos usuários com posts longos e densos, um pouco bem escritos demais. A prova definitiva é a aparição de posts semelhantes em outro fórum do Discourse.
Minha suspeita é de um usuário que foi banido anteriormente por usar IA de maneiras irritantes, retornando para testar seu modelo mais recente. Esses novos posts são de muito melhor qualidade do que os esforços anteriores. A próxima geração de posts gerados por IA será tão difícil de distinguir da escrita humana que talvez nunca saibamos a diferença. A questão é: o que pode ser feito a respeito, se é que algo pode ser feito?
Então, aqui vai uma sugestão, possivelmente uma má sugestão, mas aqui vai mesmo assim… Precisamos dos nossos próprios respondentes por IA para responder a novos usuários suspeitos, respondendo a perguntas óbvias e testando se as respostas foram geradas por humanos. Pode ser necessário que isso aconteça em uma espécie de ambiente isolado (sandbox), para que não fique óbvio para o novo usuário que ele está sendo testado.
Crédito original da ideia para Randall Munroe.