Discourse AI - Uso de IA

:bookmark: Esta guía cubre la página de uso de IA, que forma parte del plugin Discourse AI.

:person_raising_hand: Nivel de usuario requerido: Administrador

La página de uso de IA está diseñada para que los administradores comprendan cómo la comunidad está utilizando las funciones de Discourse AI a lo largo del tiempo. Esto puede ser útil en Estimating costs of using LLMs for Discourse AI.

Características

  • Horizonte temporal: últimas 24 horas, última semana, último mes y rango de fechas personalizado
  • Seleccionable por función de Discourse AI
  • Seleccionable por LLM habilitados
  • Vista previa del resumen
    • Solicitudes totales: Todas las solicitudes realizadas a los LLM a través de Discourse
    • Tokens totales: Todos los tokens utilizados al solicitar a un LLM
    • Tokens de solicitud: Tokens utilizados cuando el LLM intenta comprender lo que está diciendo
    • Tokens de respuesta: Tokens utilizados cuando el LLM responde a su solicitud
    • Tokens leídos de la caché: Tokens de solicitud procesados previamente que el LLM reutiliza de la caché para optimizar el rendimiento y el coste
    • Tokens escritos en caché: Tokens de solicitud que se escribieron en la caché para su posible reutilización futura
    • Coste estimado: Coste acumulado de todos los tokens utilizados por los LLM basado en las métricas de coste especificadas añadidas a las configuraciones de LLM
  • Gráfico de barras interactivo que muestra el uso de tokens
  • Tokens, recuento de uso y coste estimado por función de Discourse AI
  • Tokens, recuento de uso y coste estimado por LLM
  • Tokens, recuento de uso y coste estimado por usuario

Habilitación del uso de IA

Requisitos previos

:information_source: Para que se pueblen los datos, debe configurar al menos un Modelo de Lenguaje Grande (LLM) de un proveedor y tener miembros que utilicen las funciones de Discourse AI.

Para empezar, puede configurar LLM a través de la página de configuración de LLM de Discourse AI.

Configuración

  1. Vaya a AdministradorPluginsAI → pestaña Configuración y asegúrese de que esté habilitado (discourse ai enabled)
  2. Dentro del plugin de IA, navegue a la pestaña Uso

Preguntas frecuentes técnicas

¿Qué son los tokens y cómo funcionan?

7 Me gusta