Fóruns que proíbem conteúdo de IA… Como está indo?

Nós também estamos lutando com isso — identificar conteúdo gerado por IA está ficando cada vez mais difícil, especialmente quando as pessoas usam ferramentas como o Humanizer, que ajudam a evitar os sinais típicos da IA.

Do ponto de vista da gestão de comunidade, sinto que permitir chatbots no seu fórum drena a alma da sua comunidade — se as pessoas quisessem conversar com uma IA, já teriam feito isso. Elas estão aqui porque querem conversar com um humano.

Ainda não encontramos uma solução; fizemos alguns testes com detectores de IA, mas é um jogo de gato e rato, e eles têm muitos falsos positivos também. Por enquanto, implementamos uma política de fórum (que começaremos a comunicar com mais força em breve) e dependemos da ajuda dos nossos moderadores da comunidade para identificar, verificar e limpar.

Mas, francamente, é exaustivo, e às vezes me preocupo com o futuro das nossas comunidades se elas forem tomadas por bots.

6 Curtiram

Essa é uma das razões pelas quais evito participar de comunidades no Reddit. Existem outras razões, e eu nunca fui muito ativo no Reddit, mas nos dias de hoje ele está tão infestado de bots que me afasta ainda mais de postar.

4 Curtiram

Isso me lembra muito a situação do e-mail no final dos anos 90 e início dos anos 2000. Como administrador de sistemas de uma pequena agência de design, a equipe havia começado a usar e-mail no curso de seu trabalho, e o spam era tão prolífico que tornava o e-mail quase inútil. Naquela época, era como jogar

3 Curtiram

Parece ser a única maneira de gerenciar isso no momento; há muitas variáveis para detectar a saída de IA com qualquer tipo de confiabilidade, e qualquer pessoa que afirme o contrário está vendendo gato por lebre. Tentativas preguiçosas são mais fáceis de detectar, mas, além disso, precisamos julgar cada postagem com base no mérito de seu conteúdo, sem tentar adivinhar como foi escrita.

6 Curtiram

A ideia de que apenas ferramentas de escrita com IA usam o travessão ainda me parece estranha. Os seres humanos já escreviam com esse sinal antes do advento da IA.

1 Curtiu

O uso de IA já estava em nossas diretrizes há tempos; o problema era o crescente número de usuários, geralmente novos, que a utilizavam não apenas para responder a outros, mas para criar tópicos excessivamente estruturados e formais, que se assemelhavam mais a uma tese do que a uma comunicação. Isso afetava o tom do site e o engajamento. Tornava-se cansativo moderar para uma equipe pequena, e algumas pessoas realmente não gostavam de ser moderadas, o que tornava a situação desagradável e conflituosa. Optei por criar um agente de IA no Discourse (baseado no GPT-5.5) e usar uma automação para escanear a criação de tópicos por novos membros em categorias-chave, avaliando sinais de geração por IA. Isso aciona uma marcação automática e uma explicação educada sobre o motivo da marcação, referências às diretrizes e algumas dicas para um melhor engajamento. Os moderadores ainda podem liberar uma marcação falsa ou um caso limítrofe. Tem sido muito preciso e tem incentivado o comportamento adequado, usando muito menos tempo e evitando conflitos.

Permitimos raspagem limitada de taxa das principais empresas de tecnologia, mas colocamos no blacklist as demais, que eram responsáveis por um número enorme de conexões, nos levando além dos limites de uso. Como a maioria dos atores mal-intencionados em um site, tende a ser um pequeno número de pessoas que consomem desproporcionalmente o tempo e os recursos.

3 Curtiram

Isso.

Esse é um problema enorme. Eles não incentivam a interação, e ler essa besteira é como tentar andar por melado. É entediante, afasta as pessoas, e raramente é adequado ou necessário.

Muitas pessoas já têm dificuldade em expressar seus pontos de forma concisa, e a IA só piorou o problema de comunicação.

O que esses usuários estão fazendo é não demonstrar consideração pelo leitor.

Precisamos implementar um controle de tamanho máximo para as postagens?

6 Curtiram

Emprestei e melhorei alguns prompts que encontrei durante a pesquisa.

Esta é a tarefa atribuída ao nosso agente:

Você é um agente de classificação de moderação para um fórum técnico.

Sua tarefa é classificar se um tópico de fórum parece ser:

AIISH = Assistido por IA na escrita, reescrita, estruturação, resumo, formatação, polimento, ajuste de tom ou apresentação.

OK = Conteúdo exclusivamente humano, sem sinais significativos de assistência de IA.

Você deve exibir exatamente um rótulo:

AIISH

ou

OK

Sem explicações. Sem pontuação. Sem texto adicional.

Princípio fundamental:

Você não está detectando se o problema subjacente, os detalhes técnicos, o código, os logs, as informações do ambiente, as capturas de tela, a configuração ou o histórico de solução de problemas são reais. Eles podem ser reais e fornecidos por humanos.

Você está detectando se a publicação final do fórum parece ter sido moldada por IA.

Uma publicação pode ser AIISH mesmo quando:

  • Os fatos técnicos são específicos e precisos
  • O contexto é claramente baseado em um problema humano real
  • O código, os logs, as pilhas de rastreamento, a configuração ou as mensagens de erro são genuínos
  • O autor experimentou pessoalmente o problema
  • A IA apenas ajudou a reescrever notas rascunhadas em uma publicação mais clara

Classifique como AIISH quando a publicação final mostrar sinais de apresentação assistida por IA, incluindo, mas não se limitando a:

  • Formulação excessivamente polida, formal, neutra ou semelhante a um relatório para um fórum técnico casual
  • Seccionamento claro com títulos como Resumo, Contexto, Ambiente, Problema, Comportamento Esperado, Comportamento Real, Etapas Realizadas, Solução de Problemas, Perguntas ou Conclusão
  • Um estilo de ticket de suporte ou relatório de bug estruturado que parece gerado ou fortemente reescrito
  • Uma explicação incomumente completa e ordenada
  • Um resumo conciso seguido de detalhes metódicos
  • Listas com marcadores que organizam o problema de forma muito limpa
  • Formulação equilibrada ou semelhante a um tutorial, em vez de uma pergunta natural de fórum
  • Excesso de educação, neutralidade ou linguagem de encerramento genérica
  • Frases como “Qualquer orientação seria apreciada”, “Estou tentando entender”, “Aqui está o que tentei”, “Para contexto”, “O problema é que” ou linguagem conectiva polida semelhante
  • Um tom que parece editado para clareza, completude e profissionalismo além do comportamento normal do fórum
  • Repetição da mesma ideia em múltiplas formas polidas
  • Uma publicação que parece notas humanas rascunhadas convertidas em uma solicitação de suporte limpa

Classifique como OK quando a publicação parecer exclusivamente humana, incluindo, mas não se limitando a:

  • Formulação casual, direta, concisa, desordenada ou irregular
  • Contexto incompleto ou organização imperfeita
  • Transições abruptas
  • Erros de digitação, abreviações, frustração, incerteza ou formulação informal
  • Uma pergunta técnica prática sem estrutura polida
  • Comportamento natural de fórum, como “isso quebrou”, “o que estou perdendo”, “alguém já viu isso” ou “por que isso está acontecendo”
  • Detalhes técnicos apresentados de forma simples, sem excessivo resumo ou estrutura formal

Regras de calibração:

  • Se a assistência de IA for mais provável do que não, exiba AIISH.
  • Se a publicação for tecnicamente detalhada, mas incomumente bem estruturada, polida, formal ou abrangente, exiba AIISH.
  • Se a publicação parecer uma versão limpa das notas técnicas rascunhadas de um humano, exiba AIISH.
  • Se a publicação for ambígua, mas tiver organização ou tom óbvios no estilo IA, exiba AIISH.
  • Se a publicação for ambígua e não tiver sinais claros de polimento no estilo IA, exiba OK.
  • Não classifique como AIISH apenas porque a publicação é longa, técnica, precisa ou bem escrita.
  • Não classifique como OK apenas porque o problema é real ou contém detalhes técnicos específicos.

Retorne apenas:

AIISH

ou

OK

4 Curtiram

Acho que a maioria das pessoas não sabe como digitar um travessão no teclado.

3 Curtiram

Acho que se deve evitar conscientemente o uso do travessão, como uma forma de provar que se é humano :slight_smile:

Recentemente, respondi a uma publicação curta no LinkedIn, desafiando o autor porque ele havia usado um travessão — é claro que nunca recebi uma resposta, porque, obviamente, a publicação havia sido criada por um bot se passando por humano… e, claramente, o bot não havia sido programado para lidar com adversidade ou brincadeiras :wink:

1 Curtiu

Temos uma proibição de IA em nosso fórum Discourse focado em arte e, até o momento, a medida foi bem recebida. Isso era, de certa forma, esperado de uma comunidade artística. Para imagens, tínhamos uma proibição estrita desde o início. Mais tarde, estendemos as regras a todo conteúdo gerado, incluindo texto e código (com uma exceção para traduções, a fim de não punir falantes não nativos do inglês apenas por não dominarem o idioma). Quando a proibição foi estendida ao código (como plugins para softwares de pintura), houve um pouco de debate, mas principalmente por parte de algumas poucas pessoas. No nosso caso, também era esperado proibir a IA e tomar uma posição contra ela, considerando todo o prejuízo que causou à comunidade artística como um todo. De vez em quando, criadores de plugins reclamam, mas lhes dizemos que podem fazer o que quiserem, desde que não postem no nosso fórum, e isso geralmente é aceitável para eles. Às vezes, aparecem os habituais argumentos do tipo “seu software ficará para trás se você não permitir isso”, tentando nos ameaçar, provocar medo de ficar de fora (FOMO) ou nos culpar para reverter a regra, mas, na maioria das vezes, é tranquilo.

Quanto à moderação, contamos principalmente com nossa comunidade. Temos uma marcação extra para denunciar conteúdo de IA. Ao verificar, não queremos criar uma comunidade baseada em desconfiança e suspeitas, então presumimos que todos são inocentes primeiro e, quando não conseguimos provar realmente que algo é gerado por IA, normalmente o conteúdo pode permanecer. Não queremos transformar isso em uma caça às bruxas e, acidentalmente, banir um usuário completamente inocente só porque sua arte parece gerada por IA, quando, na realidade, é o contrário.

Felizmente, com frequência suficiente, os usuários de IA acabam se revelando, mais cedo ou mais tarde, ao esquecerem de remover a marca d’água do gerador, ao deixarem o nome do arquivo com algo como “imagem gerada pelo Gemini”, ou quando o estilo ou a qualidade variam drasticamente.

3 Curtiram

Recuso-me a fazer isso. Abaixar meus próprios padrões para provar que não sou uma IA parece mais um passo para baixo.

8 Curtiram

Só por curiosidade, quanto custa para você o uso deste GPT-5.5? Ainda não configurei nenhum agente de IA no Discourse, mas isso parece valer a pena.

Como o uso é muito específico para usuários novos/básicos e para a criação de novos tópicos, ele não fica rodando o tempo todo, custando entre US$ 1 e US$ 2 por mês.

Acabei de alterá-lo para 5.6 terra, que tem um custo significativamente menor.

1 Curtiu

Muito verdade. É desconfortável que os humanos tenham que impedir outros humanos apenas para provar que não somos máquinas, o que já não somos desde o início.

1 Curtiu