Discourse AI - Triagem de IA

Para isso existe uma resposta: IA é ruim nisso.
Você tem uma ideia um tanto romântica do que é IA, do que ela pode fazer ou de como um humano pode interagir com ela.

Mas existe uma função semissimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimimim *MIMIMIMIMIMIMIMIMIMIMIMIMIMIMIMIMIMIMIMIMIM.

  • AI-helper: Você pode tentar. Mas há um motivo pelo qual mesmo aqui há relativamente poucos títulos criados por IA.
    O que ela faz relativamente bem, novamente: revisão e tradução. Não é uma grande surpresa, porque são modelos de linguagem trabalhando com probabilidades. Mas mesmo assim, ela tem dificuldades quando deveria adivinhar a língua usada.
    Dar todos os poderes semânticos à IA levaria a mais trabalho humano no “background”. Eu vivo em um mundo de sonhos no sentido administrativo. Não tenho usuários problemáticos e não tenho spam. E ainda assim tenho falsos positivos — raramente, mas acontece. E ao tentar corrigir isso, " administradores ou usuários autorizados podem editá-lo e dar feedback à IA " é mais fácil de escrever do que fazer.
    Minha forma de escrever é às vezes difícil para a IA, que conhece o melhor inglês. Tento manter a estrutura do inglês correta, mas apenas como e em qual ordem devo usar lugares e tempos é algo que não consigo. Quando uma IA se depara com uma situação em que escrevo finlandês usando palavras em inglês, ela às vezes me corrige totalmente errado e, com bastante frequência, perde o contexto e o ponto.
    Quero dizer, quais são as possibilidades de uma IA quando ela recebe uma frase onde há apenas hieróglifos, ou seja, emoticons e reações? Ou quando um tópico é apenas um título? A classificação de tais itens em categorias e tags corretas é quase impossível para uma IA.
    IA funciona bem se sua taxa de sucesso for de 85-90%, e corrigir esses 10-15% restantes não custa muito. Isso é aceitável. Mas se um moderador cometer tantos erros, o administrador mudará a equipe de moderação bem rápido. Ao mesmo tempo, isso significa que de 1000 posts, 100-150 estarão na categoria errada com tags erradas e títulos após uma forte alucinação.
    O ChatGPT é uma ferramenta de IA mais cara do que qualquer um de nós usa em fóruns. Ele deu uma solução para uma pergunta sobre Varnish Cache. Parecia certo, mas não funcionou. Pedi ajuda ao ChatGPT em primeiro lugar apenas para economizar tempo, porque eu estava muito preguiçoso para escrever a estrutura if necessária sozinho.
    O motivo foi que o ChatGPT não conseguiu ver a diferença entre County-Code e Country-Code. Conversar com o ChatGPT e depois corrigir o problema levou mais tempo do que eu gastaria fazendo isso do zero sozinho.
    Por que eu o uso? Por causa dessa taxa de sucesso de 85%.
    Mas quando não consegue dizer quantas letras R existem na palavra “strawberry” (morango), gostaríamos de usá-la trabalhando com palavras e contextos — porque ela pode fazer isso na maioria das vezes. Mas quando falha, e faz um trabalho em massa… a correção pode e será bastante exigente, porque temos outras tecnologias também.
    IA bagunçou meus resumos e, ao mesmo tempo, traduz. Fácil deletar esses registros. Mas criar novos me custa 100 dólares. E se ela, e se fosse possível, colocasse todos os tópicos nas categorias erradas com tags erradas? Erro corrigível, mas custoso.
    As IAs ainda não chegaram lá, se é que chegarão, para que possam fazer “tudo”. Isso é mais ou menos ficção científica. Mas elas podem fazer alguns trabalhos, quando há limites e diretrizes bem estruturadas, relativamente bem. Mas lidar com a realidade nebulosa… não.
    Gosto da ideia de um fórum sem categorias, onde as tags são lógicas com base nas necessidades humanas de encontrar informações, e tudo é automatizado, embora.
2 curtidas

Usuários que produzirão conteúdo valioso para a comunidade conseguem ver essas áreas, mas membros novos geralmente não se preocupam com títulos, categorias ou tags. Em uma comunidade de Perguntas e Respostas, tudo o que se espera é fazer perguntas e obter respostas (por exemplo, como um bot de IA). Quero este pedido para usuários que são mais novatos e buscam respostas para suas perguntas urgentes, mas ao mesmo tempo, essas perguntas devem ser publicadas de forma geral. Quando a IA é usada, tais tópicos não beneficiam a comunidade e ficam em segundo plano. Seria mais útil enriquecer o conteúdo do site e tê-los em uso geral para as mesmas perguntas.

Eu também crio títulos e tags com IA e ela é muito bem-sucedida nesse aspecto. Tenho certeza de que, com um bom prompt, a IA dará bons resultados em termos de categorias e tags. Claro, isso não significa deixá-la assim, as autoridades podem verificar novamente tais tópicos e fazer os ajustes necessários, mas podemos economizar tempo dando o controle disso para a IA em primeiro lugar. Conteúdo que não está na categoria correta pode ser denunciado ou uma autoridade pode corrigi-lo quando o vir. O objetivo é facilitar esse trabalho.

Na verdade, posso fazer isso com um simples webhook. Um novo tópico é aberto, a página fornecida é pingada, a categoria correta (no site) e as tags são selecionadas com inteligência artificial, e o tópico é atualizado (com API). No entanto, seria lógico desenvolver um recurso que já existe.


Concordo com o que você escreveu, então vamos desenvolver a IA e executá-la como um agente e deixar a IA fazer sugestões sobre tópicos abertos ou editados. Por exemplo, categorias adequadas, tags, etc. para um tópico aberto. Se a única alteração a ser feita for aprová-la com um botão e o tópico for atualizado imediatamente. Se não, faça a edição e aprove-a rapidamente.

Isso provavelmente será um custo extra, mas pode ser uma boa ferramenta para administradores que desejam facilitar seu trabalho e não desistir do controle humano. Uma IA que monitora as atividades no fórum e informa o administrador ou as pessoas do grupo selecionado sobre elas. Hmmmm, não parece uma má ideia (um pouco fora do tópico, é claro)

Você conhece sua comunidade melhor do que eu. :person_shrugging:

Então, talvez a IA possa fazer isso enquanto o usuário está criando o tópico?

Eu geralmente faço isso executando uma página PHP simples que preparei quando tenho uma pergunta sobre a qual estou curioso. Por exemplo, quando estou curioso sobre algo como “o que é a proporção áurea”, eu a escrevo na página que criei e ela interage com a IA e adiciona o site (exceto a categoria). Em outras palavras, ela cria o título, a pergunta e as tags por si só. Isso mostra que a IA pode realmente ser bem-sucedida nesse aspecto.

ex: Profil - nuran-kilic - Soru Cevap

Talvez possamos ocultar esses campos (podemos colocar um botão simples para quem quiser editar) e permitir que o usuário crie um tópico rapidamente com apenas o campo de pergunta ou entrada de tópico. Podemos editar esses campos mais tarde ou podemos fazer isso nós mesmos com uma solicitação simples de websocket. Mas o Discourse faz coisas incríveis em IA, não nos surpreenderia se tivesse esse tipo de suporte.

Talvez eu possa voltar com um melhor planejamento e pensamento sem me desviar muito do assunto. Obrigado por ter paciência comigo :slight_smile:

Por que não ler o artigo da Wikipedia que permite que a IA crie uma resposta que não é tão boa?

1 curtida

Sucesso é uma questão de definição e não é a mesma coisa que a capacidade de fazer algo.

Para manter o tópico, mais ou menos, para mim, a taxa de sucesso para identificar spam é zero ou muito alta, dependendo da definição. É zero, porque tudo o que encontrou foram falsos positivos. É muito alta, porque todo o resto que não relatou como spam.

Em ambos os casos, tem a capacidade de fazer algo.

O mesmo acontecerá quando a IA classificar um tópico. E, esta é uma opinião pura, ela quase nunca escreve artigos bons o suficiente para serem publicados.

Estávamos fazendo isso antes da IA, mas o tópico aqui é a minha ideia de usar inteligência artificial de forma mais eficaz em sistemas de discourse. Você fez um ótimo trabalho, não é possível personalizá-lo para todos, é por isso que podemos criar um plugin. Farei uma pequena reclamação, estou tentando configurar o ambiente de desenvolvimento de discourse há 3 dias, seria ótimo se alguém da comunidade pudesse criar um bom guia de instalação sobre este assunto :slight_smile:

Da última vez que vi, os scripts nesses guias estavam desatualizados. Manter um ambiente de desenvolvimento atualizado não é fácil.

A maneira recomendada parece ser a versão de desenvolvimento com Docker, mas eu também não tive muita sorte com ela. Não está claro para mim como as pessoas conseguem.

1 curtida

Vou tentar, se conseguir compartilharei. Não consegui na nuvem, funciona e trava. Tentarei localmente (Windows). Eventualmente, com certeza reservarei um tempo para isso. Se alguém fizer antes de mim, eu adoraria :slight_smile:

Existe alguma maneira de priorizar uma lista de tópicos existentes em uma categoria específica?

Uma postagem foi dividida em um novo tópico: Ocultar postagens “ao vivo” quando a automação as oculta