Esta pergunta é para todos os proprietários e moderadores de fóruns: o que vocês acham de usuários que utilizam IA para navegar automaticamente pelo fórum, ler os últimos comentários e fazer com que a IA escreva e publique uma resposta no tópico? Eles fazem isso para não precisarem participar ativamente do fórum, pois desejam alcançar um nível de confiança mais alto para acessar seções restritas do fórum.
Vocês fiscalizam ativamente esses usuários? Como vocês identificam se algo foi escrito por IA? Vocês fazem vista grossa?
Isso pode ficar ainda mais desonesto. Já vi posts em que uma conta fantasma cria um novo tópico com conteúdo gerado por IA e, pouco tempo depois, um novo usuário (presumivelmente controlado pelo mesmo ator) responde concordando e elogiando o autor do tópico.
Não vi esse comportamento, mas seria um banimento da minha parte. Se fossem membros em dia com suas obrigações, seria apenas um aviso, mas isso soa como se nunca tivessem contribuído.
Acho que ajuda ter uma política explícita sobre contribuições de LLMs.
bem, como você deve lidar com essa questão? Minha pergunta seria: quanto você valoriza seu conteúdo restrito por nível de confiança e quanto valoriza o acesso a esse conteúdo?
Se for conteúdo que você não quer que as pessoas “joguem o sistema” para obter acesso, eu tentaria descobrir como impedir esse tipo de comportamento.
A razão é que esse comportamento é muito comum. Veja o exemplo de Robert:
ah… isso acontece aqui… todos os dias
De qualquer forma
muitas vezes, é bastante óbvio para um moderador humano apenas lendo, mas isso leva tempo do moderador. Alguns administradores estão usando IA para pegar a IA (engraçado, né?)
Se você conseguir isolar os user-agents utilizados, ou se eles respeitarem padrões de controle, você pode considerar bloqueá-los, aplicar limitação de taxa (rate limiting) ou usar o llms.txt.
Isso só funciona se as automações se comportarem como cavalheiros.
Se regiões específicas forem um problema, também é possível usar geo-bloqueio.
Eu uso um agente de detecção de IA para triar novos usuários ou aqueles com baixo nível de confiança. Ele se mostrou cerca de 95%+ preciso.
Depende de quão espertos são os atores mal-intencionados, mas com um pouco de trabalho e testes, você pode ser mais esperto
Também já vimos isso com bastante frequência. Claro que não posso afirmar sobre as motivações, mas, pela minha experiência, isso é muito menos interessante do que tentar “ganhar confiança”. Acho que é apenas spam.
O spam agora também inclui conjuntos de dados para treinamento de IA e GEO — onde é vantajoso para eles apenas mencionar um produto, serviço ou empresa por toda a internet.
Às vezes, o objetivo é acumular confiança suficiente para incluir um link, mas suspeito que os links sejam secundários agora.
Até agora, as pistas têm sido bastante óbvias — minha “opinião sincera” é que as “costuras estruturais” ficam claramente visíveis. Coloco o tópico em espera e envio uma DM simpática (mas padronizada) ao usuário, dando as boas-vindas e pedindo para me responder para reativá-lo.
Como outra pessoa sugeriu, parece que você pode precisar reavaliar o valor do seu conteúdo restrito e o valor relativo das contribuições dos usuários para o fórum. As pessoas que não têm acesso ao conteúdo restrito possuem o conhecimento ou as habilidades necessárias para contribuir de forma significativa? Talvez você devesse alterar os requisitos para atingir um novo nível de confiança de modo que postar conteúdo inútil não ajude, e tornar isso claro de alguma forma para que as pessoas não sejam tentadas a fazer isso.
Antes da IA, os novos usuários eram capazes de contribuir de forma significativa e atingir o próximo nível de confiança?
