Esta guía cubre la página de uso de IA, que forma parte del plugin Discourse AI.
Nivel de usuario requerido: Administrador
La página de uso de IA está diseñada para que los administradores comprendan cómo la comunidad está utilizando las funciones de Discourse AI a lo largo del tiempo. Esto puede ser útil en Estimating costs of using LLMs for Discourse AI.
Características
- Horizonte temporal: últimas 24 horas, última semana, último mes y rango de fechas personalizado
- Seleccionable por función de Discourse AI
- Seleccionable por LLM habilitados
- Vista previa del resumen
- Solicitudes totales: Todas las solicitudes realizadas a los LLM a través de Discourse
- Tokens totales: Todos los tokens utilizados al solicitar a un LLM
- Tokens de solicitud: Tokens utilizados cuando el LLM intenta comprender lo que está diciendo
- Tokens de respuesta: Tokens utilizados cuando el LLM responde a su solicitud
- Tokens leídos de la caché: Tokens de solicitud procesados previamente que el LLM reutiliza de la caché para optimizar el rendimiento y el coste
- Tokens escritos en caché: Tokens de solicitud que se escribieron en la caché para su posible reutilización futura
- Coste estimado: Coste acumulado de todos los tokens utilizados por los LLM basado en las métricas de coste especificadas añadidas a las configuraciones de LLM
- Gráfico de barras interactivo que muestra el uso de tokens
- Tokens, recuento de uso y coste estimado por función de Discourse AI
- Tokens, recuento de uso y coste estimado por LLM
- Tokens, recuento de uso y coste estimado por usuario
Habilitación del uso de IA
Requisitos previos
Para que se pueblen los datos, debe configurar al menos un Modelo de Lenguaje Grande (LLM) de un proveedor y tener miembros que utilicen las funciones de Discourse AI.
Para empezar, puede configurar LLM a través de la página de configuración de LLM de Discourse AI.
- OpenAI
- Anthropic
- Azure OpenAI
- AWS Bedrock
- Google Gemini
- Mistral
- Groq
- SambaNova
- Open Router
- Cohere
- HuggingFace
- vLLM / Autoalojamiento de un LLM de código abierto
Configuración
- Vaya a
Administrador→Plugins→AI→ pestañaConfiguracióny asegúrese de que esté habilitado (discourse ai enabled) - Dentro del plugin de IA, navegue a la pestaña
Uso
Preguntas frecuentes técnicas
¿Qué son los tokens y cómo funcionan?
- Los tokens son las unidades básicas que los LLM utilizan para comprender y generar texto; los datos de uso pueden afectar a los costes. Consulte Estimación de costes del uso de LLM para Discourse AI para obtener más información.