Dépannage de l'ajout d'un nouveau LLM

[Lilly (Lillian Louis)]

Il y a un sujet à ce sujet ici

Can I add other LLM?

It works with VLLM, you can can just configure a VLLM endpoint and it should work out of the box.