Robô de IA - Personas

[Discourse]

Este guia explica como configurar e gerenciar Personas para o Discourse AI - AI bot.

Nível de usuário necessário: Administrador

O bot Discourse AI inclui um sistema flexível para gerenciar Personas. Este guia abrange:

• Métodos de interação para Personas de IA
• Opções de configuração
• Configurações avançadas
• Comandos suportados
• Possibilidades de personalização

Saiba mais sobre o bot de IA e como ativá-lo neste guia.

O que são personas?

Personas são um recurso poderoso que permite personalizar o comportamento do motor de IA em seu fórum Discourse. Elas agem como uma ‘mensagem do sistema’ que orienta as respostas e interações da IA, ajudando a criar uma experiência de usuário mais personalizada e envolvente.

Por que usar personas?

Com personas, você pode adaptar o comportamento da IA para melhor se adequar ao contexto e tom do seu fórum. Se você deseja que a IA seja mais formal para um ambiente profissional, mais casual para um fórum comunitário, ou até mesmo incorporar um personagem específico para um jogo de RPG, as personas oferecem a flexibilidade para fazer isso.

Acesso específico por grupo a personas

Além disso, você pode configurá-lo de forma que determinados grupos de usuários tenham acesso a personas específicas. Isso significa que você pode ter diferentes comportamentos de IA para diferentes seções do seu fórum, aumentando ainda mais a diversidade e a riqueza das interações da sua comunidade.

Interagindo com Personas

As personas podem ser interagidas de várias maneiras:

1. Mensagem privada (PM)
2. Mensagem direta de chat (DM)
3. Menções em canais de chat
4. Menção em um tópico público via @nome_de_usuário_do_bot_exemplo

Administradores podem controlar quais métodos de interação são permitidos para cada persona.

Configuração

Para configurar Personas, navegue até discourse.example.com/admin/plugins/discourse-ai/ai-personas.

As principais opções de configuração incluem:

• Prompt do sistema: Direciona a conversa
• Suporte a visão: Habilite para LLMs com suporte a visão, ou seja, GPT-4 Turbo, Claude 3
• Modelo padrão: Necessário para personas mencionáveis
• Grupos permitidos: Defina permissões usando a segurança de grupo do Discourse
• Uploads: Indexe arquivos de texto para conhecimento adicional (usando RAG - Geração Aumentada por Recuperação)
• Comandos habilitados: Controle o acesso a comandos específicos
• Permitir chat: Habilite o chat via DM (requer plugin de chat, um modelo de linguagem grande (LLM) padrão e um usuário)

Aqui está uma visão de uma tela completa de configuração de persona de IA:

Opções avançadas de configuração

O editor de persona oferece várias opções avançadas:

• Temperatura e top_p (amostragem de núcleo): Controle a criatividade vs. previsibilidade
• Posts de contexto máximo: Limite o número de posts fornecidos ao LLM para histórico - menos posts reduzirão os custos, mas farão com que a IA “esqueça” o conteúdo mais antigo
• Opções de upload:
  • Tokens de fragmento: Controle a divisão de documentos
  • Tokens de sobreposição de fragmento: Defina a sobreposição entre fragmentos
  • Fragmentos de conversa de pesquisa: Número de fragmentos de documentos adicionados às consultas do usuário
  • LLM consolidado de perguntas: Escolha o LLM para determinar as perguntas do usuário

Pré-requisitos para suporte a upload

Para usar o suporte a upload:

1. Habilite a configuração ai_embeddings_enabled
2. Configure um ai_embeddings_model

O Discourse AI suporta vários modelos de embedding. Clientes hospedados têm acesso gratuito ao modelo bge-large-en.

Auto-hospedeiros ou pessoas que desejam mais opções podem auto-hospedar um modelo de embedding ou usar modelos da OpenAI, Google (Gemini) e outros.

Divisão de texto no Discourse AI

O Discourse usa um Divisor de Texto de Caractere Recursivo para manter parágrafos, linhas e palavras juntos ao dividir texto. Você pode controlar a divisão de texto usando o separador [[metadados SEUS METADADOS AQUI]]:

[[metadados sobre gatos]]
uma longa história sobre gatos
[[metadados sobre cachorros]]
uma longa história sobre cachorros

Este método evita a “contaminação de fragmentos”, garantindo que apenas dados relevantes sejam incluídos em cada fragmento.

Depuração de personas de IA

Para depurar sua persona:

1. Adicione usuários ao grupo especificado na configuração ai bot debugging enabled groups
2. Usuários neste grupo verão um botão de depuração de IA na parte inferior das postagens de IA
3. Clique no botão para acessar a janela modal da UI de depuração

Lembre-se: Se você fornecer informações vagas ou inúteis a um LLM, ele terá grande dificuldade em convertê-las em informações úteis.

Comandos suportados

O Discourse AI suporta vários comandos, incluindo:

• Categorias
• Tags
• Pesquisa
• Navegador Web
• Integração com GitHub (Pesquisar Código, Diff de Pull Request, Conteúdo de Arquivo)
  • Requer que a configuração ai bot github access token seja preenchida
• Pesquisar no Meta Discourse
• Selecionador Aleatório
• Ler
• Hora
• Pesquisa Google
  • Requer que as configurações ai google custom search api key e ai google custom search cx sejam preenchidas
• Geração de imagem via DALL-E
  • Requer uma chave open_ai
• Geração de imagem via Stable Diffusion
  • Requer que a configuração ai stability api key seja preenchida
  • A configuração ai stability engine controla o algoritmo de geração de imagem
• Schema
• Pesquisar Configurações
• Definir Contexto

Alguns comandos exigem configuração adicional ou chaves de API.

Suporte a ferramentas personalizadas

Você pode criar suas próprias ferramentas usando suporte a ferramentas personalizadas.

Personalizando personas do sistema

1. Crie uma nova persona
2. Copie e cole o prompt do sistema da persona que você deseja personalizar
3. Modifique conforme necessário
4. Opcionalmente, desabilite a persona do sistema original para evitar duplicação

Personalizando a pesquisa

Para personalizar a pesquisa para uma nova persona:

1. Crie uma nova persona
2. Adicione o comando “pesquisa”
3. Configure as opções de pesquisa, incluindo:
   • Consulta de pesquisa base
   • Número máximo de resultados de pesquisa
   • Opção de incluir tópicos privados
     
     

Isso permite que você delegue permissões de pesquisa, aumente o número de resultados ou restrinja a pesquisa a seções específicas do seu site.

[MachineScholar]

@Discourse

Ler

O que exatamente a ferramenta Ler faz?

Além disso, as menções em postagens estão atualmente quebradas de acordo com este relatório de bug.

[sam (Sam Saffron)]

[Untitled AI bot PM]

Em resumo, permite que o LLM leia tópicos e postagens no seu fórum.

[Jagster (Jakke Lehtonen)]

Basicamente, ele lê um tópico/postagem quando um URL, nome ou ID é fornecido e, caso contrário, ou ainda assim, ele usa embeds e o quê, quando, porquê e como depende do próprio modelo, prompt, etc.?

[sam (Sam Saffron)]

Oh, desculpe, estava respondendo a um post diferente

Ele usa o ID do tópico ou o ID do tópico + número do post para encontrar o markdown bruto de um tópico/post com algumas proteções para o comprimento máximo.

Não depende de incorporação.

[Jagster (Jakke Lehtonen)]

Um pouco fora do tópico, mas como não tenho nada a perguntar e vocês vão limpar esses tópicos de vez em quando, eu não me importo.

Títulos automáticos em Mensagens Privadas com IA agora estão no idioma correto. Não é grande coisa, mas seu valor psicológico é grande. Obrigado!

[jrgong]

Existe alguma maneira de adicionar usuários de Bot a um grupo? Basicamente, quero adicionar um flair de avatar a esses usuários, mas ao adicioná-los a um grupo, eles não aparecem.

[Jagster (Jakke Lehtonen)]

Eles não aparecem, mas ainda estão lá. Você pode ter certeza tentando adicionar uma pessoa de IA uma segunda vez. Ou você vê o grupo necessário nas configurações desses pseudo-usuários.

[MachineScholar]

Qual parte do repositório Discourse AI devo verificar se quero saber exatamente como as ferramentas do bot de IA funcionam?

[sam (Sam Saffron)]

Ferramenta, Playground e Bot são ótimas áreas para começar.

Veja este exemplo: Understanding Tools in Discourse AI System - AI Conversation - Discourse Meta

[MachineScholar]

Exatamente a resposta que eu estava procurando — obrigado, meu bom senhor! Para quem possa interessar: recomendo ler o código neste repositório para poder direcionar melhor seus prompts para as ferramentas da sua persona.

[jrgong]

Estou tentando buscar todas as postagens de um tópico através da ferramenta “Read”, mas ela fornece apenas um máximo de 100 postagens para o modelo LLM. Já defini “Max posts” para 999 nas configurações de persona, mas o problema persiste.

Pode haver alguma limitação de solicitação de API do lado do servidor causando o problema?

[jrgong]

@sam alguma ideia sobre isso, qual poderia ser a causa?

[MachineScholar]

Não verifiquei a base de código, mas suspeito que possa ser um limite rígido definido no próprio código. Posso perguntar o que você está tentando alcançar com isso? Esse é um fator chave aqui.

E talvez seja melhor usar a persona de Pesquisador do Fórum?

[jrgong]

Temos a categoria “journal/log” que frequentemente contém várias centenas de posts onde o proprietário do tópico relata o progresso de seu projeto ao longo de 4-5 meses.

Meu objetivo é buscar todos os posts dentro desse tópico, filtrá-los por autor = proprietário do tópico e criar um resumo.

[sam (Sam Saffron)]

Você tem que usar o pesquisador de fórum para isso, é o caso de uso exato para a persona

[jrgong]

@sam

Atualmente, não há opção para enviar imagens para o LLM de pesquisa. Isso será considerado em versões futuras.

@sam Eu adoraria, mas atualmente não suporta imagens. Isso está no roteiro ou não é uma prioridade no momento?

[sam (Sam Saffron)]

Claro que posso adicionar isso, não é uma mudança muito grande