¿Puedo agregar otros LLM?

Funciona con VLLM, puedes configurar un endpoint de VLLM y debería funcionar directamente.

6 Me gusta