Здравствуйте, команда и сообщество Discourse,
Прежде всего, спасибо за постоянную работу над Discourse AI. Функционал впечатляет и явно быстро развивается.
Я хотел бы предложить два улучшения UX/администрирования, которые значительно сократят время настройки и количество ошибок конфигурации для администраторов — особенно тех, кто управляет несколькими моделями/провайдерами или несколькими средами (тестовая/рабочая).
1) Автоматическое обнаружение моделей LLM для совместимых с OpenAI конечных точек
Сегодня при добавлении моделей LLM администраторам часто приходится вручную вставлять идентификатор модели для каждой записи. Для провайдеров и шлюзов, совместимых с OpenAI (например, собственные конечные точки, совместимые с OpenAI, или прокси-слои), было бы крайне полезно, если бы интерфейс мог по желанию получать список доступных моделей после ввода базового URL и API-ключа.
Предлагаемый UX
- Администратор вводит базовый URL и API-ключ
- Нажимает кнопку «Получить модели»
- Discourse вызывает
/v1/models(или аналогичный endpoint провайдера) - Интерфейс отображает выпадающий список или список с поиском
- Администратор выбирает одну или несколько моделей для добавления/настройки
Примечания
- Если конечная точка не поддерживает перечисление, интерфейс может корректно вернуться к ручному вводу идентификатора модели.
- Кнопка обновления и кэширование на короткое время были бы полезны, но не обязательны для первоначальной реализации.
2) Импорт/экспорт конфигурации Discourse AI
Область конфигурации Discourse AI обширна (подключения LLM, AI Bot, квоты, переключатели функций и т. д.). Хотя гибкость — это здорово, настройка путем переключения между множеством экранов может занимать много времени и быть подверженной ошибкам — особенно при попытке синхронизировать тестовую и рабочую среды.
Я хотел бы запросить возможность импорта/экспорта всей «конфигурации Discourse AI».
Предлагаемое поведение
- Экспорт всех настроек, связанных с Discourse AI, в один файл (предпочтительно JSON или YAML для кругового использования)
- Импорт файла для применения настроек в другую среду или восстановления известной рабочей конфигурации
- Предоставление предварительного просмотра/различий и валидации (неизвестные ключи, проверки типов) перед применением
Обработка секретов
- API-ключи могут быть исключены/замаскированы по умолчанию, с явным согласием на их отдельный экспорт при необходимости.
Опционально (желательно, но не обязательно)
- Экспорт в формате, удобном для электронных таблиц (CSV/XLSX) для массовой проверки/редактирования, при сохранении JSON/YAML в качестве основного, безпотерьного формата.
Почему это было бы полезно
- Более быстрое введение в курс дела и переконфигурация для администраторов
- Меньше ошибок из-за повторяющегося ручного ввода
- Лучшая синхронизация между средами (тестовая/рабочая)
- Упрощенный аудит и управление изменениями через различия/контроль версий
Вопросы:
- Существует ли уже рекомендуемый подход к «массовой конфигурации» (Admin API / консоль Rails), который можно было бы формализовать в рабочий процесс импорта/экспорта?
- Было бы ли обнаружение моделей приемлемым хотя бы для конечных точек, совместимых с OpenAI, где доступен
/v1/models?
Спасибо за рассмотрение этого запроса. Я с радостью предоставлю дополнительные детали, примеры рабочих процессов или скриншоты текущих шагов настройки, если это будет полезно.
С наилучшими пожеланиями,