Atualmente, através do plugin Discourse Automation, você pode gerar respostas para tópicos com base em palavras-chave que são detectadas. Essa opção está disponível como parte do script Auto Responder e pode ser configurada por meio da opção Lista de pares palavra/resposta. Além disso, você pode usar triagem de IA para fornecer respostas automáticas em tópicos com base em prompts de LLM, seus resultados e contexto da postagem.
A ideia de solicitação de recurso aqui é aplicar um toque de IA usando um LLM para decifrar o que está escrito por meio de prompts personalizáveis, em vez de depender de palavras-chave. O LLM pode então responder de forma inteligente, em vez de usar apenas respostas automáticas.
A interesse em algo assim é algo que gostaria de saber se outras pessoas têm, e para que você usaria isso. Exemplos de casos de uso são sempre bem-vindos!
Com certeza! Existem inúmeros casos de uso para isso. Pense em um bot de suporte básico: o usuário posta na categoria “Ajuda” porque não sabe como usar alguma funcionalidade do Discourse. Então, pode haver uma persona designada que responde automaticamente a cada novo tópico nessa categoria. Combinando isso com RAG, ferramentas e um detalhado engineering de prompts, você pode ser bastante criativo.
Hipoteticamente, cada categoria poderia ter seu próprio “bot especialista em categoria”.
A ideia é que você pode selecionar uma ferramenta para fazer a triagem, que por sua vez pode criar tópicos, curtir coisas, fazer o que você quiser. Espero continuar trabalhando nisso em breve.
Isso veio internamente como uma solicitação, então estamos explorando a ideia com base em exemplos e casos de uso da comunidade, nos quais Sam está trabalhando agora.
Um exemplo para mim seria incentivar os usuários a postar no lugar certo. Ou seja, se um tópico parecer incompatível com a categoria, em vez de fazer essa alteração automaticamente, talvez responder no tópico sugerindo outras categorias.
Nosso caso de uso para isso é que, quando um usuário publica uma pergunta no nosso Discourse, gostaríamos que a IA utilizasse nosso modelo treinado para fornecer uma primeira resposta ao primeiro post. Estamos tentando oferecer ao usuário uma resposta rápida e informada com IA, com acompanhamento nosso se necessário.
Eu realmente adoro a ideia de ter um especialista em IA por categoria.
Trabalharei na documentação amanhã. Temos o que eu chamaria de modo 1 e 2 implementados:
Ultra trivial, selecione o destino e responda incondicionalmente (categoria / tag / grupo de pm etc.)
Triagem + Respondedor, que permite que você faça a triagem e depois responda dinamicamente com a triagem de LLM
Também implementei o modo (3) mega sofisticado - que ainda está em andamento e desativado por enquanto.
Triagem usando ferramenta de IA
Isso está inacabado, mas quando concluído, permitirá coisas muito interessantes, como triagem usando um LLM e, em seguida, roteamento para a persona correta e outras coisas extremamente complicadas.
Pessoalmente, não gosto da ideia de respostas automáticas devido ao risco de incomodar demais nossos usuários (mas talvez sejamos mimados com uma taxa de resposta decente aos nossos novos tópicos de nossos usuários).
No entanto, gosto mais deste caso de uso:
Na verdade, já temos algo assim automatizado com uma API há anos, onde respondemos com uma resposta pronta após 24 horas sem respostas em um tópico. Ser capaz de ter essa resposta pronta aumentada com LLMs seria fantástico (desde que haja um botão para responder condicionalmente apenas em tópicos sem resposta após x horas).
Whispers (que é um modo que suportamos) é uma maneira de contornar isso, use-o para auxiliar moderadores.
Também acho que alguns fluxos sofisticados podem reduzir muito o risco aqui (terá que esperar por ferramentas)
Elabore uma resposta
Peça ao LLM para avaliar quanto valor a resposta agrega de 1 a 10
Se 8 ou superior, então poste a resposta
Adoro essa ideia, exigirá um novo tipo de gatilho de automação, terei que pensar sobre isso. Este tipo de “gatilho em tópicos na categoria X que não receberam resposta após um dia - verificar a cada 10 minutos” não é um gatilho que temos no momento… precisamos descobrir como adicioná-lo à automação.
Temos um gatilho de “tópico parado”, mas acho que ele não tem a capacidade de “ignorar” em “tem uma resposta”, podemos precisar expandi-lo.
Além disso, para integrações de API, uma ação de “apenas responda a este tópico com esta persona” seria incrível e muito, muito fácil de construir.
