새 LLM 추가 디버깅

[Lilly (Lillian)]

이 주제에 대해 여기 토론이 있습니다

다른 LLM을 추가할 수 있나요?

https://github.com/deepseek-ai/DeepSeek-LLM It works with VLLM, you can can just configure a VLLM endpoint and it should work out of the box.