Discourse AI - Uso de IA

[Saif (Saif Murtaza)]

Este guia abrange a página de uso de IA, que faz parte do plugin Discourse AI.

Nível de usuário necessário: Administrador

A página de uso de IA foi projetada para que os administradores entendam como a comunidade está usando os recursos do Discourse AI ao longo do tempo. Isso pode ser útil em Estimating costs of using LLMs for Discourse AI.

Funcionalidades

• Horizonte de tempo: 24 horas, última semana e datas personalizadas
• Selecionável por funcionalidade do Discourse AI
• Selecionável por LLMs habilitados
• Visualização resumida
• Solicitações totais: Todas as solicitações feitas a LLMs através do Discourse
• Tokens totais: Todos os tokens usados ao solicitar um LLM
• Tokens de solicitação: Tokens usados quando o LLM está tentando entender o que você está dizendo
• Tokens de resposta: Tokens usados quando o LLM está respondendo à sua solicitação
• Tokens em cache: Tokens de solicitação processados anteriormente que o LLM usa para otimizar desempenho e custo
• Gráfico de barras interativo mostrando o uso de tokens
• Contagem de tokens e uso por funcionalidade do Discourse AI
• Contagem de tokens e uso por LLM

Habilitando o uso de IA

Pré-requisitos

Para que os dados sejam preenchidos, você deve configurar pelo menos um Modelo de Linguagem Grande (LLM) de um provedor e ter membros usando os recursos do Discourse AI.

Para começar, você pode configurar LLMs através da página Configurações do Discourse AI - Large Language Model (LLM).

• OpenAI
• Anthropic
• Azure OpenAI
• AWS Bedrock com acesso Anthropic
• Endpoints HuggingFace com modelo semelhante a Llama2
• Auto-hospedagem de um LLM OpenSource
• Google Gemini
• Cohere

Configuração

1. Vá para as configurações de Admin → Plugins → AI → aba Settings e certifique-se de que está habilitado (discourse ai enabled)
2. Dentro do plugin de IA, navegue até a aba Usage

FAQ Técnico

O que são tokens e como eles funcionam?

• Tokens são as unidades básicas que os LLMs usam para entender e gerar texto, o uso de dados pode afetar os custos. Confira Estimando custos de uso de LLMs para Discourse AI para saber mais.