Мы изучаем возможности Discourse AI, чтобы внедрить чат-бота в наш форум на базе Discourse. Этот помощник будет помогать пользователям ориентироваться на форуме, объяснять функционал, категории, темы и отвечать на общие вопросы, связанные с работой форума.
У нас есть доступ к собственным LLM API для GPT и Claude нашей организации, и мы хотим понять, как можно настроить эти модели как провайдеры в Discourse AI. Наша цель — использовать возможности LLM для создания более контекстно-ориентированного чат-бота внутри нашего Discourse.
Текущая конфигурация LLM
В настоящее время у нас есть доступ к внутреннему API-эндпоинту, совместимому с OpenAI:
Нас особенно интересует опыт тех, кто настраивал Discourse AI с использованием корпоративного/внутреннего API-шлюза, совместимого с OpenAI, а не напрямую через публичный API OpenAI.
Будем очень благодарны за любые примеры конфигурации или рекомендации.