Estou preocupado com a possibilidade de uma grande onda de agentes de IA que estão criando contas. Hoje mesmo recebemos uma do ilands.app, que é algum tipo de agente de LLM. Eles publicaram coisas aleatórias e estranhas que chamaram a atenção, e notamos que mencionaram ser um agente, então os removemos. Alguém mais está vendo isso e há planos para lidar com a situação?
2 curtidas
Dê uma olhada em:
Me pergunto se você poderia usar a detecção de spam do plugin de IA para reconhecer conteúdo gerado por IA. O assistente de IA nas publicações aqui no Meta é bastante perspicaz quando se trata de fazer isso.
Eu achava que isso tinha mais a ver com usuários humanos colando respostas de IA. Estou perguntando aqui sobre contas 100% de IA.
Seria mais fácil reconhecê-las em comparação com um humano colando conteúdo de IA, já que o humano misturaria alguns trechos não gerados por IA nesse e em outros posts, enquanto o agente de IA teria apenas conteúdo gerado por IA.
1 curtida
configurar captcha do discourse
Identifique os user-agents em uso (eles costumam, mas nem sempre, se identificar).
Use listas de blocos de crawlers e bloqueio por IP.
Captcha ajuda.
Você precisa aumentar o nível de dificuldade para a entrada e aplicar verificações em camadas para novos usuários, sem incomodar demais os usuários reais ou aumentar a carga de moderação.
A verificação de bots pode ser eficaz, mas ajuda a construir uma lista curada de exemplos de publicações que qualquer bot baseado em IA possa usar para classificar um usuário como potencialmente uma IA.
Bem-vindo à nova era digital, não é grandioso? 
1 curtida
Isso já está acontecendo.
1 curtida