Резюме темы Discourse AI 🤖

Извините, последний вопрос по этой теме: так что если я хочу передать LLM более качественный и нюансированный промпт, я использую “system.tagging”, а не “prompt.tag”, верно?

На мой взгляд, лучше изменить prompt.tag, но не стесняйтесь экспериментировать.

Результаты с этими промптами были настолько хороши с самого начала (с GPT 4), что я не особо сосредотачивался на этом или много экспериментировал.

system.tagging может помочь вам изменить «стиль» или «характер» ответа (например, юмористический или театральный).

1 лайк

Я давно собирался добавить это, но результаты системы автоматической разметки на основе Completions были настолько хороши, что это не стало приоритетом.

Однако сегодня утром я добавил опцию автоматической разметки на основе классификации Embeddings:

Там появилось множество новых настроек — внимательно посмотрите :eye:

Приятного использования

Внимание: примерно 5 часов назад мой сайт снова стал неработоспособным из-за ошибки 500. Я не вносил никаких изменений, использовал GPT 4. Возможно, @RGJ выпустил обновление (но это маловероятно, так как я не видел заметки). Отключил плагин, и ошибка исчезла.

На данный момент я не вижу никаких проблем.

Не могли бы вы предоставить соответствующую ошибку из логов и подтвердить версию установленного плагина?

Единственная ошибка 500, связанная с ИИ, которую я получаю, началась вчера, и это (или была, я пока не исследовал глубже) автоматическая альтернатива. Почему я не стал копаться в этом глубже? Потому что ошибка 500 от OpenAI возникает очень часто.

Кажется, плагин на вашем сайте каким-то образом откатился к более старой версии. :sob:

@ncaming215 Приношу извинения, скорее всего, это наша ошибка. Я вернул версию 0.2.2 и сейчас выясню, что пошло не так. Пока @merefield не стоит беспокоиться.

2 лайка

Рады сообщить вам это объявление от OpenAI и подтвердить, что опции «Краткое содержание темы ИИ» были обновлены:

https://community.openai.com/t/introducing-gpt-4o-mini-in-the-api/871594?u=merefield

https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/

Это важное событие для функции «Краткое содержание темы ИИ», поскольку новая модель обладает:

  • Контекстным окном в 128 тысяч токенов (поэтому может обобщать множество сообщений!)
  • Стоимостью на 60% ниже, чем у GPT 3.5 Turbo!

Приятного использования!

1 лайк

Упс… Я забыл проверить часть кода.

Теперь проблема решена, и я также улучшил логирование:

Спасибо @Jagster за то, что поднял тревогу.

1 лайк

Когда я выполняю указанные выше действия, получаю эту ошибку:
image

Это инструкции для стандартной установки.

Похоже, вы пытаетесь войти в базу данных в контейнере «только для веба»? :thinking:

В вашем случае, возможно, потребуется войти в контейнер с данными.

Хорошая новость в том, что судя по этому, это может теперь быть не нужно (по крайней мере, для tests-passed), так как, как я полагаю, ядро наконец обновило расширение vector через их стандартный скрипт, поэтому вам, возможно, потребуется только полностью пересобрать систему.

2 лайка

Да. Спасибо.
(Да, у меня не двухконтейнерная настройка. Да, я на Tests-Passed).

1 лайк

Добавлена функция генерации миниатюр для этого плагина.

При желании она создаст изображение с кратким содержанием, которое автоматически будет добавлено в начало первого сообщения темы.

  • Необходимо включить эту функцию в настройках плагина.
  • При желании можно настроить автоматическое удаление предыдущего верхнего изображения при каждой генерации.
  • Вы можете отредактировать промпт по ссылке в настройках плагина, чтобы влиять на стиль и содержание (однако эти изменения будут применены ко всем последующим генерируемым изображениям).

Приятного использования :framed_picture:

2 лайка

Мой локально размещенный чат-бот подставляет слово slug вместо названия любой темы в ссылке.

Например, ожидаемая ссылка:

https://localhost/t/title-of-the-topic-concerned/2341/5

но чат-бот гиперссылает упоминания с URL вида:

https://localhost/t/slug/2341/5

Я пытался искать по термину slug, но не нашёл ничего, кроме упоминания slug в настройках: метод генерации slug, который установлен по умолчанию в значение ascii.

Заранее спасибо за любые подсказки!

У меня используется форма [Jagster](/t/-/11078/1). Я не думаю, что localhost меняет это поведение, но не могу сказать наверняка.

Но когда вы говорите о Chatbot, вы имеете в виду функцию сводки Discourse AI?

Извините, если я использую неправильную терминологию. У меня включен плагин ИИ в локальном экземпляре, и я общаюсь с ним как @chatbot. Как в чате, так и в ответах на темы ответы часто содержат ссылки на источники из других тем на этом экземпляре Discourse. Например, в теме:
image
или в сессии чата:
image

В обоих случаях гиперссылка URL сформирована некорректно: вместо названия темы подставляется slug.

Я спросил лишь потому, что вот что ещё существует:

С его помощью можно менять промпты. Однако при использовании Discourse AI мы не можем изменить промпт для сводки (на данный момент).

Впрочем, сводка от DAI создаёт ссылки прямо здесь. Именно поэтому вам нужен кто-то более опытный, чем я. Ведь ваши проблемы могут быть вызваны устаревшим плагином или установкой на localhost, и требуется специалист, который действительно понимает, что происходит.

Привет! :waving_hand:

Ни чат-бот, ни этот плагин не предназначены для корректной генерации ссылок при работе в локальной среде разработки.

Функциональность всегда ориентирована на продакшн, хотя, конечно, возможность тестирования в dev-среде — это приятный бонус.

Я с радостью приму качественный PR, если вы отправите его для улучшения поддержки ссылок на localhost.

1 лайк

Разве ссылка не должна работать именно так? Я ожидал, что она будет работать так же, как и ссылка с заголовком темы, поскольку Discourse опирается на идентификатор темы.

2 лайка

Возможно, не будет работать, так как отсутствует номер порта.

2 лайка