Il fonctionne avec VLLM, vous pouvez simplement configurer un point de terminaison VLLM et cela devrait fonctionner immédiatement.
Il fonctionne avec VLLM, vous pouvez simplement configurer un point de terminaison VLLM et cela devrait fonctionner immédiatement.