Hola pmusaraj,
Gracias por la respuesta. Solo para aclarar: no estoy utilizando el modelo de LLM más económico para ahorrar dinero. Lo estoy usando para probar cómo funciona la función de traducción en la práctica. La elección del modelo no es el punto.
El punto es que cuando Mistral devuelve un error 503, Discourse AI omite silenciosamente la traducción sin dar ninguna indicación al administrador, sin una cola de reintentos y sin ninguna forma de saber qué temas se pasaron por alto. Ese es el problema de experiencia de usuario que estoy planteando, no el costo de los tokens.
Entiendo que esto es de código abierto y que estás ayudando en la medida de lo posible. Lo aprecio. Pero decir “ajusta tus expectativas” es un poco desalentador para alguien que está probando activamente, reportando errores y tratando de ayudar a mejorar el producto.
Seguiré siguiendo este hilo y espero una solución.
Gracias,
Denis