Discourse AI - Uso de IA

[Saif (Saif Murtaza)]

Esta guía cubre la página de uso de IA, que forma parte del plugin Discourse AI.

Nivel de usuario requerido: Administrador

La página de uso de IA está diseñada para que los administradores comprendan cómo la comunidad utiliza las funciones de Discourse AI a lo largo del tiempo. Esto puede ser útil en Estimating costs of using LLMs for Discourse AI.

Funciones

• Horizonte temporal: 24 horas, última semana y fechas personalizadas
• Seleccionable por función de Discourse AI
• Seleccionable por LLMs habilitados
• Vista previa del resumen
• Solicitudes totales: Todas las solicitudes realizadas a LLMs a través de Discourse
• Tokens totales: Todos los tokens utilizados al solicitar a un LLM
• Tokens de solicitud: Tokens utilizados cuando el LLM intenta comprender lo que dices
• Tokens de respuesta: Tokens utilizados cuando el LLM responde a tu solicitud
• Tokens en caché: Tokens de solicitud procesados previamente que el LLM utiliza para optimizar el rendimiento y el coste
• Gráfico de barras interactivo que muestra el uso de tokens
• Tokens y recuento de uso por función de Discourse AI
• Tokens y recuento de uso por LLM

Habilitar el uso de IA

Prerrequisitos

Para que los datos se rellenen, debes configurar al menos un Modelo de Lenguaje Grande (LLM) de un proveedor y tener miembros que utilicen las funciones de Discourse AI.

Para empezar, puedes configurar LLMs a través de la página de configuración de Discourse AI - Large Language Model (LLM).

• OpenAI
• Anthropic
• Azure OpenAI
• AWS Bedrock con acceso a Anthropic
• HuggingFace Endpoints con modelo tipo Llama2
• Autoalojamiento de un LLM de código abierto
• Google Gemini
• Cohere

Configuración

1. Ve a la configuración de Admin → Plugins → AI → pestaña Settings y asegúrate de que esté habilitada (discourse ai enabled)
2. Dentro del plugin AI, navega a la pestaña Usage

FAQ Técnica

¿Qué son los tokens y cómo funcionan?

• Los tokens son las unidades básicas que los LLMs utilizan para comprender y generar texto; el uso de datos puede afectar a los costes. Consulta Estimación de costes de uso de LLMs para Discourse AI para obtener más información.