Отладка функций ИИ в Discourse: когда OpenAI отвечает, но форум — нет

Спасибо за разработку функций ИИ для Discourse! Я считаю, что это будет важной функцией в будущем.

Я попытался использовать плагин ИИ на нашем собственном форуме (tff-forum.de). После добавления ключа API Open AI в панели администратора и активации модели “gpt-3.5-turbo-16k” для различных функций я вижу дополнительные кнопки ИИ в разных местах форума.

При нажатии на одну из кнопок я либо ничего не получаю, либо получаю сообщение об ошибке, показанное на следующем скриншоте.

Я вижу запросы API в панели использования Open AI, но, похоже, Discourse не получает ответ.

Я также попробовал другие модели (gpt-35, gpt-4 и т. д.). Результат всегда одинаковый: функции не возвращают никакого ответа.

В журнале ошибок Discourse нет проблем, связанных с функциями ИИ.

Не могли бы вы предоставить дополнительную информацию о том, как отладить или проанализировать эту проблему?

Пожалуйста, попробуйте выполнить инструкцию ниже на вашем сервере.

Спасибо за скрипт для проверки функциональности API Open AI.

Мы запустили скрипт на нашем сервере и получили от GPT следующий ответ:

...
 {
 "index": 0,
 "message": {
 "role": "assistant",
 "content": "В сердце рифмованного кода,
Взгляните, есть возвышенная идея.
Это рекурсия — искусство, древняя традиция,
Когда функция вызывает сама себя — в этом суть.

Функция столь горда, что не слышит зовов,
Ни от кого, она стоит высоко.
Она предпочитает вновь вызывать саму себя,
Так ткут узоры, что завораживают взор.

Когда она начинается, вы, возможно, думаете,
Где она заканчивается — никто не знает?
Но не бойтесь бесконечного цикла,
Ведь базовый случай — наш спасительный круг.

Достигнув базы, столь божественно малой,
Функция наконец останавливается.
Так она прекращает и не связывает,
Возвращая то, что должна была найти.

Кто бы мог так искренне призывать?
Элегантный способ завершить дело.
Решая лабиринты или переворачивая строки,
Смотрите, как рекурсия расправляет крылья.

Каждый экземпляр имеет свой стек памяти,
Чтобы проследить путь от начала до конца.
И по мере роста этих экземпляров,
Они воздвигают башню памяти.

Когда всё сделано верно, гармония чиста,
Очарование рекурсии — великое притяжение.
Это элегантность, это глубокая автономия,
Жемчужина в короне церемонии алгоритмов.

Это танец, это игра, вечное повторение,
В театре кода, где обитает рекурсия.
Взгляните на красоту, взгляните на путешествие,
В огромном мире кода — это рекурсия."
 },
 "logprobs": null,
 "finish_reason": "stop"
 }
 ],
 "usage": {
 "prompt_tokens": 39,
 "completion_tokens": 282,
 "total_tokens": 321
 },
 "system_fingerprint": null
}

Этот вызов, похоже, работает. Но когда я активирую функции Discourse AI (например, “composer ai helper”) с использованием того же ключа API Open AI, я либо не получаю ответа, либо получаю сообщение об ошибке, показанное в первом посте этой ветки.

Есть ли другие способы отладки вызовов API Open AI?

Вы обновились до последней версии? Мы переместили конфигурацию LLM в отдельный раздел.

Спасибо за вашу поддержку. Сегодня мы начали пересборку, и теперь функции, основанные на API OpenAI, похоже, работают.

Однако я заметил новую проблему. После пересборки я больше не могу изменить модель OpenAI в настройках администратора. Список кажется пустым, но Discourse по-прежнему использует мою последнюю настройку «gpt-4o».

image

Это уже известная проблема? Как вы думаете, поможет ли ещё одна пересборка?

Извините, я нашёл причину моей проблемы. Как вы и упоминали, у LLM теперь есть отдельная область в настройках администратора.

После настройки LLM от Open AI я теперь могу выбирать модели для различных функций ИИ.