Depuración de las funciones de IA de Discourse: Cuando OpenAI responde pero el foro no

¡Gracias por desarrollar funciones de IA para Discourse! Creo que esta será una característica importante en el futuro.

Intenté usar el plugin de IA en nuestro foro autoalojado (tff-forum.de). Después de agregar la clave API de Open AI en el panel de administración y activar el modelo “gpt-3.5-turbo-16k” para las diferentes funciones, puedo ver los botones adicionales de IA en diferentes lugares del foro.

Cuando hago clic en uno de los botones, no obtengo nada o recibo el mensaje de error que se muestra en la siguiente captura de pantalla.

Puedo ver las solicitudes de API en el panel de uso de Open AI, pero parece que Discourse no está recibiendo la respuesta.

También probé los otros modelos (gpt-35, gpt-4, etc.). El resultado es siempre el mismo: las funciones no entregan ninguna respuesta.

El registro de errores de Discourse no muestra problemas relacionados con las funciones de IA.

¿Podrían proporcionar información adicional sobre cómo depurar o analizar el problema?

Por favor, pruebe la siguiente instrucción en su servidor.

1 me gusta

Gracias por el script para verificar la funcionalidad de la API de OpenAI.

Iniciamos el script en nuestro servidor y obtuvimos la siguiente respuesta de gpt:

...
 {
 "index": 0,
 "message": {
 "role": "assistant",
 "content": "In the heart of the coded rhyme,\nBehold, there’s a concept sublime.\nIt's recursion, an art, an ancient tradition,\nOf a function calling itself, that's the mission.\n\nA function so proud, will not heed the call,\nOf any other, it stands tall.\nIt opts to invoke itself anew,\nThus, weaving patterns that intrigue view.\n\nWhen it starts, you might suppose,\nWhere it ends, no one knows?\nBut fear, not the infinite loop,\nFor base case is our saving hoop.\n\nUpon reaching the base so divinely small,\nThe function at last does forestall.\nSo, it stops and does not bind,\nReturning what it's meant to find.\n\nWho would make such hearty appeal?\nAn elegant way to seal the deal.\nSolving mazes, or reversing strings,\nSee recursion spreading its wings.\n\nEach instance has its memory stack,\nTo trace its way, front to back.\nAnd as these instances grow,\nA tower of memory, they bestow.\n\nWhen done right, the harmony is pure,\nRecursion’s charm, quite the lure.\nIt’s elegance, it’s profound autonomy,\nA jewel in the crown of algorithms' ceremony.\n\nIt's a dance, it's a play, eternal reprise,\nIn the theater of codes, where recursion lies.\nBehold the beauty, behold the excursion,\nIn the vast realm of code, that's the recursion."
 },
 "logprobs": null,
 "finish_reason": "stop"
 }
 ],
 "usage": {
 "prompt_tokens": 39,
 "completion_tokens": 282,
 "total_tokens": 321
 },
 "system_fingerprint": null
}

Esta llamada parece funcionar. Pero cuando activo las funciones de IA de Discourse (por ejemplo, “asistente de IA del compositor”) utilizando la misma clave de API de OpenAI, obtengo una respuesta nula o el mensaje de error que se muestra en la primera publicación de este hilo.

¿Existen otras posibilidades para depurar las llamadas a la API de OpenAI?

¿Has actualizado a la última versión? Hemos movido la configuración del LLM a su propia área.

1 me gusta

Gracias por tu apoyo. Iniciamos una reconstrucción hoy y ahora las funciones basadas en la API de Open AI parecen funcionar.

Ahora he reconocido un nuevo problema. Después de la reconstrucción, ya no puedo cambiar el modelo de Open AI en la configuración de administración. La lista parece estar vacía, pero Discourse todavía usa mi última configuración “gpt-4o”.

image

¿Es este un problema ya conocido? ¿Crees que otra reconstrucción podría solucionarlo?

Lo siento, encontré la razón de mi problema. Como mencionaste, los LLM ahora tienen un área separada en la configuración de administración.

Después de definir los LLM de Open AI, ahora puedo seleccionar los modelos para las diferentes funciones de IA.

1 me gusta

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.