Discourse AI - bot de IA

[Discourse]

Este guia explica como ativar e configurar o recurso de bot de IA do plugin Discourse AI.

Nível de usuário necessário: Administrador

O chatbot inteligente pode responder a todas as perguntas sobre sua comunidade Discourse e muito mais. O Bot de IA tem o poder de pesquisar em sua instância Discourse atual e além, com suporte de persona, para responder a qualquer tipo de pergunta que você possa ter.

<! –

– >

Funcionalidades

• Capacidade de escolher a persona específica do Bot de IA com a qual você deseja interagir
• Flexibilidade para selecionar o provedor de Modelo de Linguagem Grande (LLM)
• Várias pessoas podem interagir com o Bot de IA ao mesmo tempo dentro da mesma mensagem
• Títulos gerados por IA para mensagens privadas (PMs) com o Bot de IA
• Respostas são geradas continuamente através de streaming e podem ser interrompidas
• Ative o bot para um subconjunto específico de usuários ou grupos
• Acesso rápido ao bot de IA via ícone
• Visualize interações para fins de depuração
• Copie e compartilhe conversas do bot de IA

Personas

Um bot de IA que tenta fazer tudo eventualmente falhará devido ao esquecimento de contexto e limitações do LLM. É por isso que implementamos personas para ajudá-lo a ter uma melhor experiência, fornecendo as melhores respostas possíveis.

Guia completo de personas de IA disponível aqui. Você pode criar personas de IA personalizadas para o bot que sejam adaptadas às suas necessidades.

Dependendo da ajuda que você precisa, existem várias personas padrão predefinidas para escolher

• Auxiliar do Fórum: Bot de IA de propósito geral capaz de realizar várias tarefas. Pode pesquisar em sua instância Discourse atual e usar essas informações para construir respostas
  • ex: Quais são os posts principais sobre IA?
• Auxiliar de SQL: Bot de IA especializado em ajudar a criar consultas SQL nesta Instância Discourse (ciente do seu esquema de banco de dados atual)
  • ex: Escreva uma consulta para encontrar todas as mensagens do bot de IA de um cliente/usuário específico
• Artista: Bot de IA especializado em gerar imagens. Precisa de uma chave de API Stable Diffusion
  • ex: Desenhe-me uma imagem de um gato
• Explorador de Configurações: Bot de IA especializado em ajudar a explorar as configurações do site Discourse. (ciente do código-fonte do Discourse)
  • ex: Como ativo o Discourse AI no meu site Discourse?
• Pesquisador: Bot de IA com acesso ao Google e a capacidade de navegar em páginas da web para pesquisar informações para você. Precisa de uma chave de API do Google Custom Search.
  • ex: Quantas pernas um dinossauro tem?
• Criativo: Bot de IA sem integrações externas
  • ex: Crie 5 ideias para melhorar o engajamento da comunidade
• Auxiliar do GitHub: Bot de IA especializado em pesquisar repositórios do GitHub
  • ex: O que LINK_TO_PR faz?

<! –

Disponibilidade

Discourse AI está disponível em todos os nossos planos hospedados e vem pré-instalado na maioria dos planos. Se você for um cliente Enterprise, pode entrar em contato conosco para adicioná-lo ao seu site mediante solicitação.

Observe que este módulo também requer uma assinatura separada de um LLM (veja abaixo para mais detalhes).

Usuários auto-hospedados podem instalar o plugin a qualquer momento seguindo o guia de instalação de plugins.
– >

Ativando o Bot de IA

Pré-requisitos

Você deve configurar pelo menos um Modelo de Linguagem Grande (LLM) de um provedor.

Para começar, você pode configurá-los através da página de configurações do Discourse AI - Large Language Model (LLM).

• OpenAI
• Anthropic
• Azure OpenAI
• AWS Bedrock com acesso Anthropic
• Endpoints HuggingFace com modelo semelhante ao Llama2
• Auto-hospedagem de um LLM OpenSource
• Google Gemini
• Cohere

Opcionalmente, configure o seguinte para obter recursos extras:

• Stable Diffusion → Gerar imagens
• Google Custom Search → Pesquisar na internet por respostas através do Google

Configuração

1. Vá para as configurações Admin → Plugins → AI → aba Settings e certifique-se de que está ativado (discourse ai enabled)
2. Marque ai bot enabled para ativar o Bot de IA
3. Marque ai bot add to header para habilitar o acesso rápido através do ícone no canto superior direito
4. Recomendamos escolher o grupo de usuários através de ai bot allowed groups para permitir acesso específico ao Bot de IA.
5. Vá para a aba de configurações LLMs e marque a opção Allow AI Bot para o LLM apropriado que foi previamente configurado.

Monitoramento de discussões

Em alguns casos, você pode querer monitorar as discussões do bot para melhorar o desempenho de seus bots.

Se você planeja fazer isso, recomendamos ativar ai_bot_enable_chat_warning, isso mostrará um aviso aos usuários explicando que as conversas são monitoradas.

Em seguida, como administrador, adicione um link à sua barra lateral:

https://discourse.example.com/u/BOT_NAME/messages

BOT_NAME é o nome de usuário do bot que você deseja monitorar.

<! –

Configurações

As configurações mudarão com o tempo, então isso pode não refletir as configurações exatas ou necessárias disponíveis

• discourse-ai: ativar Discourse AI a partir dos plugins
• discourse_ai_enable: ativar o plugin Discourse AI
• ai_bot_allowed_groups: grupos com acesso ao chatbot
• ai_bot_add_to_header: ativar o ícone do bot no cabeçalho superior direito
• ai_bot_enabled_chatbots: modelos disponíveis que podem ser ativados para atuar como Bot de IA
• ai bot enabled chat commands: palavras-chave disponíveis para integrações GPT usadas para fornecer funcionalidade externa ao Bot de IA para a persona Auxiliar do Fórum (certos comandos podem estar disponíveis apenas se as chaves de API apropriadas forem adicionadas)
• ai_bot_enabled_personas: lista de personas disponíveis para o Bot de IA

Configurações do Provedor

• ai_openai_api_key: (opcional) ativando o uso de GPT 3.5 / 4 para Bot de IA
• ai openai gpt35 url: (opcional) para suporte Azure
• ai openai gpt4 url : (opcional) para suporte Azure
• ai openai gpt35 16k url: (opcional) para suporte Azure
• ai openai gpt4 32k url : (opcional) para suporte Azure
• ai_anthropic_api_key: (opcional) ativando o uso de Claude para Bot de IA
• ai_stability_api_key: (opcional) chave de API Stable Diffusion
• ai_google_custom_search_api_key: (opcional) chave de API Google custom search
• ai google custom search cx: (opcional) ID do mecanismo de pesquisa personalizado (CX) para a API Google custom search

– >

FAQ Técnico

Por que estou vendo usuários de bot como claude_bot, gpt3.5_bot, gpt4_bot, etc. sendo adicionados como administradores ao meu site?

• Esses usuários são necessários para o funcionamento do Bot de IA. Eles não fazem nada em segundo plano e são usados apenas ao interagir com o bot.

Onde edito as personas?

• Vá para discourse.example.com/admin/plugins/discourse-ai/ai-personas onde você pode controlar quais personas estão habilitadas e quem tem acesso a cada uma delas.

O Bot de IA é treinado nos dados da minha comunidade?

• O Bot de IA não é treinado em nenhum dado. Ele usa a técnica de Geração Aumentada por Recuperação (RAG) para obter resultados.

Ressalvas

• O bot de IA é uma área de muita experimentação e está mudando rapidamente
• O bot de IA nem sempre fornece resultados 100% precisos, portanto, certifique-se de verificar qualquer saída cuidadosamente
• Recomendamos ativar o bot para grupos de usuários específicos para ajudar a controlar os custos, pois os provedores terceirizados cobram por uso.