Хорошие новости! Искренне рекомендую вам поискать и прочитать — всё, что вы ищете, уже есть здесь 
Если вы используете собственный хостинг, конфигурация полностью зависит от того, как именно вы это делаете, и, в частности, от того, что именно вы размещаете: LiteLLM отличается от Ollama, Qwen или HuggingFace.
Если ваш конечный пункт совместим с Open API, просто выберите OpenAI и укажите свои учетные данные/адрес конечного пункта. Вы можете посмотреть предустановленные модели LLM в качестве руководства и/или ознакомиться с конкретной документацией по моделям и вашему прокси-серверу/провайдеру, чтобы не угадывать настройки.