Autoalojamiento de un LLM OpenSource para DiscourseAI

:sweat_smile:

El más cercano al modelo que elijas. Para Gemma, puedes elegir el de Gemini.

Aquí configuras el contexto máximo de tu implementación.

Por favor, no lo hagas. Ese modelo es muy, muy, muy, muy, muy antiguo. Es la peor opción que puedes tomar.

Ese modelo es de una generación anterior y tiene requisitos de prompt muy estrictos que no son compatibles con Discourse. Esperamos un LLM de uso general más estándar.

En esos tamaños, recomiendo usar Qwen 3.5 o Gemma 4.

3 Me gusta