Nós também estamos lutando com isso — identificar conteúdo gerado por IA está ficando cada vez mais difícil, especialmente quando as pessoas usam ferramentas como o Humanizer, que ajudam a evitar os sinais típicos da IA.
Do ponto de vista da gestão de comunidade, sinto que permitir chatbots no seu fórum drena a alma da sua comunidade — se as pessoas quisessem conversar com uma IA, já teriam feito isso. Elas estão aqui porque querem conversar com um humano.
Ainda não encontramos uma solução; fizemos alguns testes com detectores de IA, mas é um jogo de gato e rato, e eles têm muitos falsos positivos também. Por enquanto, implementamos uma política de fórum (que começaremos a comunicar com mais força em breve) e dependemos da ajuda dos nossos moderadores da comunidade para identificar, verificar e limpar.
Mas, francamente, é exaustivo, e às vezes me preocupo com o futuro das nossas comunidades se elas forem tomadas por bots.
Essa é uma das razões pelas quais evito participar de comunidades no Reddit. Existem outras razões, e eu nunca fui muito ativo no Reddit, mas nos dias de hoje ele está tão infestado de bots que me afasta ainda mais de postar.
Isso me lembra muito a situação do e-mail no final dos anos 90 e início dos anos 2000. Como administrador de sistemas de uma pequena agência de design, a equipe havia começado a usar e-mail no curso de seu trabalho, e o spam era tão prolífico que tornava o e-mail quase inútil. Naquela época, era como jogar
Parece ser a única maneira de gerenciar isso no momento; há muitas variáveis para detectar a saída de IA com qualquer tipo de confiabilidade, e qualquer pessoa que afirme o contrário está vendendo gato por lebre. Tentativas preguiçosas são mais fáceis de detectar, mas, além disso, precisamos julgar cada postagem com base no mérito de seu conteúdo, sem tentar adivinhar como foi escrita.