Prioridad/Gravedad:
Media
Plataforma:
Discourse b66fca70d0e3d12ef930398289fac5269cd240c7
Descripción:
El plugin oficial “Automatización” cuenta con un script llamado “Clasificar publicaciones usando IA”. Este script proporciona el contenido de una publicación al LLM y, a continuación, realiza acciones de clasificación configurables según el resultado.
Para mantener el uso del LLM dentro de la asignación de créditos proporcionada por el plan de alojamiento de Discourse (al utilizar el LLM alojado por CDCK) o dentro del presupuesto al utilizar un proveedor de LLM de terceros, es importante gestionar la cantidad de tokens requeridos para cada consulta. El script “Clasificar publicaciones usando IA” ofrece una configuración llamada “Tokens máx. de publicación” que permite establecer un límite sobre cuánto del contenido de la publicación se incluirá en la solicitud.
Si la publicación tiene imágenes adjuntas, la enorme cantidad de datos de imagen siempre se incluye en la solicitud, incluso cuando esto provoca que se exceda el límite de tokens de publicación establecido para la automatización mediante la configuración “Tokens máx. de publicación”.
Esto ocurre incluso cuando la opción “Visión habilitada” está desactivada en la configuración del personaje de IA utilizado por la automatización.
Esto provoca un gasto de tokens incontrolable.
En muchos casos de uso, solo los datos de texto de la publicación son de interés, en cuyo caso los datos de imagen que inflan el uso de tokens ni siquiera son útiles.
Pasos reproducibles:
- Si aún no tienes un personaje de IA personalizado adecuado, crea uno.
- Desactiva la opción “Visión habilitada” en la configuración del personaje.
- Si aún no está activado, habilita el plugin integrado “Automatización”.
- Navega a la página “Automatizaciones” del plugin (
/admin/plugins/automation/automation). - Haz clic en el botón “+ Añadir automatización”.
Se abrirá la página “Seleccionar un script”. - Selecciona el script “Clasificar publicaciones usando IA”.
Se abrirá la página de configuración de la automatización. - Configura la automatización según sea necesario para una prueba simple. No es necesario que la automatización realice ninguna acción, solo que genere consultas al LLM.
- Selecciona el personaje de IA que creaste en el paso 1 del menú Opciones de script > Personaje en la configuración de la automatización.
- Establece la configuración Opciones de script > Tokens máx. de publicación en
20en la configuración de la automatización. - Haz clic en el botón “Actualizar automatización” en la parte inferior de la página de configuración de la automatización.
Serás redirigido a la página “Automatizaciones”. - Establece el interruptor “Habilitar automatización” de la automatización recién creada en la posición “activada”.
- Redacta una publicación o mensaje directo que active la automatización. Añade una imagen a la publicación.
- Publica la publicación o mensaje.
- Navega a la página de administración del plugin “Data Explorer” (
/admin/plugins/explorer). - Haz clic en el botón “+” en la página.
Aparecerá un campo “Nombre de consulta…”. - Escribe
Get AI Audit Logsen el campo “Nombre de consulta…”. - Haz clic en el botón “+ Crear nuevo”.
Se creará una nueva consulta de Data Explorer. - Haz clic en el botón “Editar”.
Se abrirá el campo de edición de código de la consulta. - Reemplaza el contenido del código de consulta predeterminado con lo siguiente:
SELECT request_tokens, raw_request_payload FROM ai_api_audit_logs WHERE feature_name = 'llm_triage' - Haz clic en el botón “Ejecutar”.
El valor del campo request_tokensmostrado en el resultado de la consulta del Explorador de datos para la solicitud que generó la automatización después de ser activada por tu publicación supera con creces la cantidad que se esperaría que utilizara el “System prompt” (indicación del sistema) de la configuración de la persona AI y el límite máximo de 20 tokens para el contexto del texto de la publicación impuesto por la configuración de la automatización. - Haz clic en el botón ●●● a la derecha del valor del campo
raw_request_payloaden el resultado de la consulta del Explorador de datos.
Se abrirá un cuadro de diálogo que muestra el valor completo del campo.
Los datos de la imagen adjunta a la publicación se incluyeron mediante una clave messages[*].image_url en los datos de la solicitud.
Ejemplo:
{
"model": "Qwen/Qwen3-VL-30B-A3B-Instruct",
"max_tokens": 16384,
"messages": [
{
"role": "system",
"content": "Se te proporcionará un fragmento de texto y tu tarea será detectar la configuración regional del texto"