Настройка языковых моделей OpenRouter

[sam (Sam Saffron)]

Это руководство объясняет, как настроить API-ключи для OpenRouter, чтобы включить функции Discourse AI, требующие ключей сторонних LLM.

Требуемый уровень доступа пользователя: Администратор

В этом руководстве мы настроим OpenRouter — сервис, предоставляющий доступ к нескольким большим языковым моделям через единый API.

Примечание: Вам потребуется тарифный план и настроенный API-ключ от OpenRouter.

Получение API-ключей

1. Перейдите на сайт OpenRouter.
2. Зарегистрируйте учетную запись.
3. Перейдите в панель управления, чтобы найти свой API-ключ.

Какие модели поддерживает OpenRouter в Discourse AI?

Discourse AI в настоящее время поддерживает все модели, доступные на OpenRouter. Следующие модели доступны в виде предустановленных шаблонов в один клик:

• DeepSeek V3.2 (до 163k токенов)
• Moonshot Kimi K2.5 (до 262k токенов)
• xAI Grok 4 Fast (до 131k токенов)
• MiniMax M2.5 (до 196k токенов)
• Z-AI GLM-5 (до 204k токенов)
• Arcee Trinity Large — бесплатно (до 128k токенов)

Любую другую модель, доступную на OpenRouter, можно настроить вручную.

Использование API-ключей для Discourse AI

1. Перейдите в Admin → Plugins → AI → вкладка LLMs.
2. Вы увидите модели OpenRouter, перечисленные как предустановленные шаблоны. Нажмите кнопку Set up рядом с моделью, которую хотите настроить. Это автоматически заполнит провайдера, ID модели, конечную точку и токенизатор — вам останется только ввести свой API-ключ.

Ручная настройка для других моделей

Чтобы использовать модель OpenRouter, которая не указана как предустановка:

1. Нажмите кнопку Set up на разделе “Manual configuration”.
2. Настройте следующие параметры:

• Provider: Выберите “OpenRouter”.
• Model ID: Введите ID модели (например, “deepseek/deepseek-v3.2”).
• API Key: Ваш API-ключ OpenRouter.
• Endpoint URL: https://openrouter.ai/api/v1/chat/completions.
• Tokenizer: Используйте OpenAiTokenizer.

Дополнительные параметры конфигурации

OpenRouter в Discourse AI поддерживает дополнительные параметры конфигурации:

1. Provider Order: Вы можете указать порядок пробования провайдеров (список через запятую).
   Пример: “Google, Amazon Bedrock”.

2. Provider Quantizations: Укажите предпочтения по квантованию (список через запятую).
   Пример: “fp16,fp8”.

3. Disable Streaming: Включите эту опцию, если хотите отключить потоковую выдачу ответов от модели.

Стоит ли отключать нативную поддержку инструментов?

Некоторые модели на OpenRouter не поддерживают нативные инструменты. В таких случаях следует отключить нативные инструменты, чтобы использовать инструменты на основе XML. Кроме того, производительность может варьироваться, поэтому стоит протестировать, какой вариант — XML или нативные инструменты — дает лучшие результаты для конкретной модели.

• Включите “Disable native tools”, чтобы использовать реализацию инструментов на основе XML.
• Оставьте отключенным, чтобы использовать нативную реализацию инструментов.