Boas notícias! Sugiro gentilmente que você pesquise e leia, tudo o que você está procurando já está aqui 
Se você está fazendo auto-hospedagem, a configuração depende inteiramente de como você está fazendo isso e, especificamente, do que você está hospedando; Litellm é diferente de Ollama, Qwen ou HuggingFace.
Se seu endpoint for compatível com a Open API, basta escolher Open AI e definir suas credenciais/endpoint. Você pode ver os LLMs padrão criados como guia e/ou verificar a documentação específica para os modelos e seu proxy/provedor para evitar adivinhar suas configurações.