Accès à l'API pour l'embedding(s) d'un post

Le bot Discourse AI utilise le RAG (Retrieval Augmented Generation) pour les publications, et par conséquent, si le bot a été activé, chaque publication devrait avoir une intégration associée, qui est une représentation dans un espace vectoriel. Il serait pratique de pouvoir accéder à ces intégrations via l’API.


Alors que de plus en plus d’entre nous commencent à utiliser l’IA dans Discourse, nous pourrions souhaiter des fonctionnalités qui ne sont pas actuellement disponibles. Comme une IA nécessite généralement des intégrations de publication, qui sont déjà présentes sur les sites Discourse avec le bot IA actif, il est logique d’utiliser ces intégrations existantes au lieu de les dupliquer.

J’espérais que le bot Discourse AI pourrait accéder à des données externes à l’heure actuelle, mais je n’ai trouvé aucune information à ce sujet. Par conséquent, j’explore la création d’un GPT personnalisé pour ChatGPT Plus et j’aimerais exploiter les intégrations préexistantes.

1 « J'aime »

Même lorsque l’API n’est pas disponible pour ce cas d’utilisation spécifique, vous pouvez toujours créer une requête SQL avec l’explorateur de données (les tables commençant par ai_ comme ai_topic_embeddings) et utiliser l’API pour obtenir les résultats de la requête.

Ceci est maintenant pris en charge. Le point de terminaison :

https://SITENAME/discourse-ai/embeddings/semantic-search.json?hyde=false&q=YOURQUERY

Effectuera une recherche de similarité vectorielle.

Ceci est également pris en charge maintenant en utilisant des outils d’IA personnalisés.

4 « J'aime »

Merci !

Cela pourrait bénéficier d’un tutoriel sur l’importance de cette fonctionnalité, comment construire des requêtes, qui semblent être une invite, et comment elle pourrait être utilisée pour améliorer son forum Discourse.

De plus, si l’on change le modèle d’IA, par exemple d’OpenAI GPT à Claude, les embeddings seront différents, donc les impacts d’un tel changement devraient être notés dans un tutoriel.

Je fréquente un forum Zulip (Lean) et je regrette vraiment les fonctionnalités d’IA que Discourse propose. (Matrice des fonctionnalités Zulip)

image

image

image signifie que la fonctionnalité n’existe pas.
Chapeau bas au personnel de Discourse pour l’intégration de l’IA.

Si ma mémoire est bonne, l’utilisation de ceci est gratuite car le coût des embeddings est si bas maintenant qu’il ne vaut pas la peine de facturer. :wink: Évidemment, le personnel de Discourse devra clarifier cette déclaration, mais je suis sûr que d’autres pourraient être surpris de la réponse.


Par curiosité, j’ai essayé l’URL sur un site Discourse où je ne suis qu’un utilisateur de niveau de confiance 1 (utilisateur de base) et la requête a fonctionné.

Étant donné que cela semble être activé et disponible par défaut, j’ai tendance à me demander si une telle technologie est bénéfique pour les aveugles qui essaient d’utiliser Internet, c’est évidemment une victoire pour eux lorsque les points sont connectés, c’est-à-dire s’ils en sont conscients, alors eux ou d’autres peuvent l’utiliser pour les aider.

J’ai donc noté cela dans un sujet pour les aveugles sur le forum OpenAI.

1 « J'aime »

Ce sujet a été automatiquement fermé après 3 jours. Les nouvelles réponses ne sont plus autorisées.