API-доступ к встраиванию(ям) для поста

Внести вклад Функция
1

Бот Discourse AI использует RAG (Retrieval Augmented Generation) для постов, поэтому, если бот включен, каждый пост должен иметь связанное с ним встраивание (embedding) — представление в векторном пространстве. Было бы удобно, если бы к этим встраиваниям можно было получить доступ через API.

По мере того как всё больше из нас начинает использовать ИИ в Discourse, у нас могут возникнуть потребности в функциях, которые в настоящее время недоступны. Поскольку ИИ обычно требует встраиваний постов, которые уже присутствуют на сайтах Discourse с активным ботом ИИ, логично использовать эти существующие встраивания вместо их дублирования.

Я надеялся, что бот Discourse AI уже мог бы получать доступ к внешним данным, но я не нашёл никакой информации об этой возможности. Поэтому я рассматриваю возможность создания кастомного GPT для ChatGPT Plus и хотел бы использовать уже существующие встраивания.

1 лайк
2

Даже если API недоступен для данного конкретного случая, вы всегда можете создать SQL-запрос с помощью Data Explorer (таблицы, начинающиеся с ai_, например, ai_topic_embeddings), и использовать API для получения результатов этого запроса.

3

Это уже поддерживается. Конечная точка:

https://SITENAME/discourse-ai/embeddings/semantic-search.json?hyde=false&q=YOURQUERY

Выполнит поиск по векторному сходству.

Это также теперь поддерживается с помощью кастомных инструментов ИИ.

4 лайка
RAG capacities of discourse-ai
4

Спасибо!

Здесь не хватает руководства о том, почему это важно, как строить запросы (которые, похоже, являются подсказками) и как это можно использовать для улучшения вашего форума на Discourse.

Кроме того, если изменить модель ИИ, например, с OpenAI GPT на Claude, то векторные представления (embeddings) будут другими, поэтому в руководстве следует отметить последствия таких изменений.

Я часто бываю на форуме Zulip (Lean) и явно скучаю по функциям ИИ, которые есть в Discourse. (Сравнительная таблица возможностей Zulip)

image

image

image означает, что такой функции не существует.

Снимаю шляпу перед сотрудниками Discourse за внедрение ИИ.

Насколько я помню, использование этой функции бесплатно, поскольку стоимость векторных представлений сейчас настолько низкая, что взимать плату за неё не имеет смысла. :wink: Очевидно, что сотрудникам Discourse стоит прояснить это утверждение, но я уверен, что многих может удивить ответ.

Из любопытства я попробовал использовать эту ссылку на сайте Discourse, где у меня уровень доверия 1 (базовый пользователь), и запрос сработал.

Поскольку эта функция, похоже, включена и доступна по умолчанию, у меня возникает мысль: полезна ли такая технология для незрячих людей, использующих интернет? Очевидно, что это выигрышный вариант для них, если они узнают об этом: тогда они или другие люди смогут использовать эту возможность для своей помощи.

Поэтому я упомянул об этом в теме для незрячих на форуме OpenAI.

1 лайк
5

Эта тема была автоматически закрыта через 3 дня. Новые ответы больше не принимаются.