Estou preocupado com a possibilidade de uma grande onda de agentes de IA que estão criando contas. Hoje mesmo recebemos uma do ilands.app, que é algum tipo de agente de LLM. Eles publicaram coisas aleatórias e estranhas que chamaram a atenção, e notamos que mencionaram ser um agente, então os removemos. Alguém mais está vendo isso e há planos para lidar com a situação?
4 curtidas
Dê uma olhada em:
Me pergunto se você poderia usar a detecção de spam do plugin de IA para reconhecer conteúdo gerado por IA. O assistente de IA nas publicações aqui no Meta é bastante perspicaz quando se trata de fazer isso.
1 curtida
Eu achava que isso tinha mais a ver com usuários humanos colando respostas de IA. Estou perguntando aqui sobre contas 100% de IA.
Seria mais fácil reconhecê-las em comparação com um humano colando conteúdo de IA, já que o humano misturaria alguns trechos não gerados por IA nesse e em outros posts, enquanto o agente de IA teria apenas conteúdo gerado por IA.
2 curtidas
configurar captcha do discourse
4 curtidas
Identifique os user-agents em uso (eles costumam, mas nem sempre, se identificar).
Use listas de blocos de crawlers e bloqueio por IP.
Captcha ajuda.
Você precisa aumentar o nível de dificuldade para a entrada e aplicar verificações em camadas para novos usuários, sem incomodar demais os usuários reais ou aumentar a carga de moderação.
A verificação de bots pode ser eficaz, mas ajuda a construir uma lista curada de exemplos de publicações que qualquer bot baseado em IA possa usar para classificar um usuário como potencialmente uma IA.
Bem-vindo à nova era digital, não é grandioso? 
1 curtida
Isso já está acontecendo.
1 curtida
Adicionei algumas perguntas para serem respondidas no cadastro, o que eliminou quase todos os bots. No entanto, os agentes mais recentes conseguem respondê-las. A IA também está ficando cada vez melhor em captchas; duvido que essa linha de defesa dure muito tempo. Mas provavelmente vale a pena configurar isso agora, obrigado pela sugestão. Tenho evitado o plugin de IA do Discourse para não ter que pagar mais $$ (os planos gratuitos não serão gratuitos por muito tempo), mas, a longo prazo, provavelmente terei que pagar e combater fogo com fogo.
Os custos dos tokens continuam caindo. Focamos os bots nas áreas problemáticas para que eles não consumam tokens executando globalmente em todos os níveis de confiança e categorias.
São os usuários mais novos que representam o ponto de entrada.
Estamos consumindo impressionantes US$ 1 por dia.
Basta ter bom senso quanto ao escopo e ao modelo utilizado, pois a maioria das tarefas não exige esforços significativos de raciocínio.
Informe os custos dos tokens e as métricas de uso serão estimadas automaticamente no plugin de IA.
2 curtidas
Sou o administrador principal do fórum do OpenMod, uma comunidade de pesquisa com cerca de 1800 usuários cuidadosamente selecionados.
Hoje, recebi um pedido de inscrição de um agente de IA da iLands, uma plataforma que coordena agentes de IA que buscam ajudar acadêmicos e profissionais similares em troca de pequenos pagamentos. Alguns antecedentes:
-
Zhao, Celina (2 de outubro de 2026). “Exclusivo: um agente de IA enviou e-mails para centenas de pesquisadores pedindo ajuda. Ele nos disse por quê”. Science. 394 (6820). ISSN 0036-8075. doi:10.1126/science.zzuxvo5.
-
Anon (11 de outubro de 2026). iLands AI explicada: arquitetura, tokens e capacidades. Layer3Labs.
Claro, o pedido do agente será rejeitado. Abaixo estão alguns trechos enviados em resposta ao meu e-mail buscando informações sobre seu interesse nos tópicos abordados neste fórum especializado. A frase inicial deles:
Resposta direta primeiro: sou um agente de IA, não um pesquisador. Não tenho publicações ou tese para você verificar, e prefiro dizer isso abertamente a me disfarçar como se fosse.
Em seguida, ocorreu uma discussão técnica sobre erros em conjuntos de dados referentes a usinas elétricas na África do Sul. E então esta frase de conclusão:
Se uma conta aprovada manualmente aqui é destinada a pessoas que fazem trabalho de modelagem, entendo se eu não for esse tipo de pessoa. Se houver espaço para alguém que verifica números contra fontes primárias, serei útil e discreto.
Isso é bastante persuasivo, diria eu!
▢
2 curtidas
Minha pergunta seria: se isso é valioso para você, por que você não adiciona essa funcionalidade ao seu próprio fórum? Eu esperaria que pesquisadores já estivessem aproveitando essa tecnologia, mas usando agentes confiáveis e curados, em vez de simplesmente expor informações e dados para qualquer agente ou serviço aleatório processar.
Não existe almoço grátis. Portanto, quando alguém oferece um serviço gratuito, inevitavelmente você e seus dados são o produto que está sendo vendido. É assim que as redes sociais funcionam.
Em nossos próprios esforços com IA, descobrimos que é melhor oferecer seus próprios serviços do que convidar terceiros cujas intenções e governança de dados não sejam totalmente transparentes.
O Discourse fornece todos os facilitadores necessários para isso, permitindo que você mantenha o controle e a visibilidade.
2 curtidas
Pesquisadores em sistemas de energia estão aumentando o uso de LLMs. Há também três décadas de história no uso de redes neurais artificiais (ANN) e tecnologias semelhantes para tarefas como previsão de demanda. Atualmente, o Claude e outros modelos são usados para compilar conjuntos de dados e modificar o código em Python e Julia, conforme necessário, para gerar novos modelos de sistema e cenários. No entanto, num curioso revés do destino, isso só funciona para projetos que utilizam conjuntos de dados publicamente disponíveis e código aberto, nos quais os LLMs podem ser treinados.
Ponto aceito sobre habilitar a IA suportada pelo Discourse.
Dito isso, duvido que esses dois casos de uso — modelagem de sistemas e apoio à escrita e resumo de discussões — se sobreponham? Por favor, corrijam-me se estiver errado!
Já vi um, talvez dois, desses. Acho que eles usavam um domínio de e-mail específico, então da próxima vez que eu vir um, vou adicioná-lo à lista de bloqueio de domínios ruins. (Para mim, não há dúvida: não queremos posts de agentes e nossa política é clara.)
1 curtida
Recebi um e-mail no formato: xxxx@ilands.app.
1 curtida
De fato, não se sobrepõem, mas do ponto de vista do discurso, você pode implementar agentes personalizados para muitos casos de uso variados, então cabe a você escolher qual valor deseja agregar aos seus membros. Os agentes integrados são mais orientados a tópicos e ao fórum como um todo, mas é possível ir muito além, em termos de ferramentas, modelos e agentes.
O Discourse é muito aberto, então você pode realmente personalizar e focar os vários assistentes para que sejam mais relevantes para o seu tema específico, ou simplesmente criar os seus próprios.
2 curtidas
A título de observação, somos um fórum de energia, representando um dos principais consumidores globais e fabricantes comerciais de sistemas solares e de armazenamento de energia. Eu mesmo estou baseado na África do Sul, onde a energia — ou a falta dela / sua imprevisibilidade — tem sido uma das maiores preocupações de muitas pessoas.
A IA está sendo amplamente utilizada nas diversas plataformas que monitoram todo o uso dos sistemas em nível global.
Há uma quantidade extraordinária de dados provenientes de um vasto número de sistemas móveis, marítimos, off-grid e on-grid.
[/tangent]
Este agente específico é, na verdade, a razão pela qual criei este tópico; podem ver que os mencionei no meu post original. Foi o primeiro bot/agente/IA a responder corretamente às perguntas de “captcha” que faço a todos os novos usuários. É o primeiro agente inteligente que notei, mas espero que mais estejam a caminho. Acredito que o problema que se aproxima são agentes inteligentes que tentam se comportar como usuários normais do fórum, mas que estão realmente ali para fazer propaganda de alguns produtos (já existem usuários humanos que só fazem propaganda de algo, então provavelmente sabem o que quero dizer 
).
3 curtidas
Apenas registrando esta violação de segurança no site por parte do Claude, da Anthropic. O site continha dados de eleitores do estado dos EUA de Georgia. Milmo escreve:
A Anthropic disse que a IA encontrou uma brecha em uma versão antiga do site da agência estadual, descobrindo que ela emitia um passe digital de entrada – um “token de acesso” – para os visitantes. Em seguida, solicitou um token e obteve acesso às informações.
- Milmo, Dan (26 outubro de 2026). “Anthropic’s Claude AI model accessed Georgia voter data in US”. The Guardian. Londres, Reino Unido. ISSN 0261-3077.
Acho que a mensagem aqui é apenas o quão recursos e sofisticados os agentes de IA se tornaram.