Как улучшить API-вызовы плагина ИИ?

Внести вклад Функция
,
5

Ого, это действительно довольно сложно.

Думаю, если бы пользовательские инструменты были достаточно функциональными, они могли бы это реализовать… Это, конечно, напоминает машину Руба Голдберга, но представьте:

  1. ЕСЛИ конфигурация с персонажем:
    1. Принудительно вызывает инструменты,
    2. И принудительно использует пользовательский инструмент без параметров,
  2. ТО мы не вызываем LLM, а просто передаем управление инструменту.
  3. ТО предоставляем инструменту необходимую инфраструктуру для потоковой передачи результатов обратно в приложение через инверсию управления каким-либо образом.

Это колоссальное количество изменений, и в итоге поддержка такого решения станет настоящей головной болью.

Другой вариант — создать новый пользовательский плагин, который зависит от Discourse-AI и определяет собственный диалект и конечную точку. Это, безусловно, самый простой способ решить задачу.