Estou preocupado com a possibilidade de uma grande onda de agentes de IA que estão criando contas. Hoje mesmo recebemos uma do ilands.app, que é algum tipo de agente de LLM. Eles publicaram coisas aleatórias e estranhas que chamaram a atenção, e notamos que mencionaram ser um agente, então os removemos. Alguém mais está vendo isso e há planos para lidar com a situação?
2 curtidas
Dê uma olhada em:
Me pergunto se você poderia usar a detecção de spam do plugin de IA para reconhecer conteúdo gerado por IA. O assistente de IA nas publicações aqui no Meta é bastante perspicaz quando se trata de fazer isso.
Eu achava que isso tinha mais a ver com usuários humanos colando respostas de IA. Estou perguntando aqui sobre contas 100% de IA.
Seria mais fácil reconhecê-las em comparação com um humano colando conteúdo de IA, já que o humano misturaria alguns trechos não gerados por IA nesse e em outros posts, enquanto o agente de IA teria apenas conteúdo gerado por IA.
1 curtida
configurar captcha do discourse
1 curtida
Identifique os user-agents em uso (eles costumam, mas nem sempre, se identificar).
Use listas de blocos de crawlers e bloqueio por IP.
Captcha ajuda.
Você precisa aumentar o nível de dificuldade para a entrada e aplicar verificações em camadas para novos usuários, sem incomodar demais os usuários reais ou aumentar a carga de moderação.
A verificação de bots pode ser eficaz, mas ajuda a construir uma lista curada de exemplos de publicações que qualquer bot baseado em IA possa usar para classificar um usuário como potencialmente uma IA.
Bem-vindo à nova era digital, não é grandioso? 
1 curtida
Isso já está acontecendo.
1 curtida
Adicionei algumas perguntas para serem respondidas no cadastro, o que eliminou quase todos os bots. No entanto, os agentes mais recentes conseguem respondê-las. A IA também está ficando cada vez melhor em captchas; duvido que essa linha de defesa dure muito tempo. Mas provavelmente vale a pena configurar isso agora, obrigado pela sugestão. Tenho evitado o plugin de IA do Discourse para não ter que pagar mais $$ (os planos gratuitos não serão gratuitos por muito tempo), mas, a longo prazo, provavelmente terei que pagar e combater fogo com fogo.
Os custos dos tokens continuam caindo. Focamos os bots nas áreas problemáticas para que eles não consumam tokens executando globalmente em todos os níveis de confiança e categorias.
São os usuários mais novos que representam o ponto de entrada.
Estamos consumindo impressionantes US$ 1 por dia.
Basta ter bom senso quanto ao escopo e ao modelo utilizado, pois a maioria das tarefas não exige esforços significativos de raciocínio.
Informe os custos dos tokens e as métricas de uso serão estimadas automaticamente no plugin de IA.
1 curtida