他のLLMを追加できますか？

[sam (Sam Saffron)]

@oga

Deepseek

GitHub - deepseek-ai/DeepSeek-LLM: DeepSeek LLM: Let there be answers

VLLMで動作します。VLLMエンドポイントを設定すれば、すぐに動作するはずです。