Modelos de decisão TypeSafe Jev e outros do Sistema Um

Estou muito feliz em anunciar que agora temos suporte nativo para modelos de decisão. :confetti_ball:

Os modelos de decisão foram impulsionados e desenvolvidos inicialmente pela TypeSafe.ai e, desde então, foram implementados por inúmeros provedores, incluindo CloudFlare (clef), Open AI (decisions api) e muitos outros.

Eles permitem classificar textos e imagens respondendo a perguntas arbitrárias sobre as entradas rapidamente, com precisão e baixo custo.

Anteriormente, podíamos recorrer a modelos de linguagem para esse comportamento, mas o custo/velocidade e a precisão não eram tão bons.

Adicionamos suporte direto ao Discourse AI:


A nova aba (por enquanto) só é habilitada se você tiver o Discourse Workflows ativado (visto que é o único consumidor)

Uma vez que você configure um modelo de decisão, terá acesso a um novo modelo “Classify” nos workflows.


O novo recurso de inteligência pode ser usado em uma grande quantidade de workflows, pois permite classificar texto (e imagens) usando um classificador projetado por você.

  • Moderação automática - receba notificações quando as discussões esquentarem
  • Notifique membros específicos da equipe quando tópicos específicos forem discutidos
  • Etiquetagem e categorização automáticas
  • E muito mais

Divirtam-se e, por favor, compartilhem os workflows interessantes que vocês criarem.

26 curtidas

Acho isso ótimo para agentes de triagem de respostas; já estou nos meus primeiros testes para ver como funciona. Entendo que esses novos modelos para tomada de decisão são muito precisos e rápidos, e fico feliz que possamos tê-los no Discourse.

Me pergunto se há planos e/ou se é tecnicamente possível incorporá-los também aos agentes comuns, para desenvolver ‘Auxiliares Sêniores’ que primeiro classifiquem antes de delegar. Ou isso não faz sentido algum?

É provável que eu ainda não tenha entendido completamente o melhor caso de uso real deles, e talvez eu esteja pedindo algo fora do lugar.

2 curtidas

Acho que existem muitos usos possíveis aqui. Usá-los como um filtro para encontrar o agente ou subagente certo para responder é algo com certeza que quero explorar.

Como você imagina isso funcionando?

É assim que eu imagino, usando nosso setup como exemplo. Nosso agente principal tem cinco subagentes:

Subagente Selecionado quando
publicator um membro compartilha um texto para melhorar antes de publicar
links links soltos para rascunhar uma postagem
web coisas que mudam fora do fórum
base arquivo curado: discussões antigas, documentos, livros
at um gráfico compartilhado por um membro, revisado de acordo com nosso método público

Hoje, o LLM pai lê as descrições dos subagentes e escolhe um com spawn_agent. O gate tiraria essa decisão dele:

  1. Uma configuração de gate no agente, apontando para um modelo de decisão.
  2. As opções são as descrições dos subagentes que já existem, mais “responder você mesmo”. Nada novo para os administradores escreverem.
  3. Apenas os subagentes acessíveis pelo usuário atual são oferecidos.
  4. Acima de um limiar de confiança, o subagente é executado diretamente. Abaixo dele, o resultado chega ao LLM pai como uma dica e o LLM decide, como faz atualmente.
  5. Como os modelos de decisão classificam imagens, “membro compartilhou um gráfico” vem da própria imagem.

O mesmo gate, como uma pergunta de sim/não, também funcionaria como uma barreira antes da execução do LLM.

Somos uma comunidade educacional e não fornecemos sinais, alvos de preço ou conselhos de investimento, então “isso está pedindo um sinal de negociação?” → resposta fixa. Hoje, essa regra é uma linha em cada prompt, e os modelos se desviam dela sob pressão.

Se vocês chegarem a isso, ficaremos felizes em testar uma versão inicial no nosso fórum.