Est-il possible de faire de la recherche sémantique la recherche par défaut sur le site ? Combien coûtent ces appels ?

La recherche sémantique fonctionne vraiment bien et donne de meilleurs résultats que la recherche classique. Nous pouvons utiliser ce système de recherche sur tout le site, mais il n’est pas activé par défaut. Il doit être sélectionné lors de la recherche.

Est-il possible d’utiliser cette recherche par défaut ? Et cet appel a-t-il un coût ?

2 « J'aime »

Vous pouvez consulter le plugin Algolia pour Discourse. Je l’ai fait fonctionner sur quelques-uns de mes sites :

https://meta.discourse.org/search?q=algolia

1 « J'aime »

Nous retravaillons le fonctionnement de la recherche sémantique, et elle affichera ses résultats aux côtés des résultats de recherche par défaut, ce qui devrait répondre à vos besoins. Elle devrait être disponible dans quelques semaines.

10 « J'aime »

Nous venons de déployer la recherche sémantique intégrée à la recherche normale dans Discourse AI. Elle utilise maintenant HyDE pour obtenir de meilleurs résultats, alors faites-moi savoir comment cela se passe pour vous. Un changement majeur est que vous devez avoir à la fois le module d’intégration configuré ainsi qu’un service LLM (OpenAI, Anthropic ou Llama2).

Vous pouvez le tester ici sur Meta.

5 « J'aime »

Ça a l’air super. J’ai hâte de l’utiliser bientôt. Vous êtes tous géniaux.

1 « J'aime »

Après l’avoir un peu utilisé, voici quelques observations :

  • Les résultats sont différents de la recherche classique. Pas toujours meilleurs car parfois une recherche par mot-clé/pertinence semble réellement donner le meilleur résultat quand on connaît les mots-clés à rechercher, mais…
  • Il renvoie un ensemble de résultats plus large et ceux-ci sont parfois vraiment utiles.
  • Il est actuellement vraiment lent pour moi. Je me rends compte que c’est quelque peu inévitable car il y a une étape de génération LLM avant la récupération, donc je ne suis pas sûr que cela puisse être corrigé, mais il est bon de le savoir. Cela semble plus lent qu’un court appel à gpt-3.5…

Quelques points sur l’interface utilisateur :

  • Il n’est pas toujours évident dans les résultats renvoyés quelle partie est pertinente. Dans une application sur laquelle je travaille, je découpe les documents en petits morceaux avant de créer des embeddings (phrases/paragraphes), ce qui signifie que lors de la recherche/récupération, il est possible de colorer chaque phrase en fonction de la similarité sémantique. Ce serait un peu comme surligner les mots-clés de la recherche, mais cela ressemblerait à une carte thermique avec les parties sémantiquement similaires colorées en chaud et les dissemblables en froid.
  • Il est agaçant de devoir cliquer pour développer les résultats sémantiques.
  • Avez-vous pensé à des moyens de combiner les résultats par mots-clés et sémantiques ? Serait-il possible de choisir la « similarité » ou la « pertinence » comme ordre de tri pour l’ensemble des résultats ? De cette façon, si vous choisissiez la « similarité », vous pourriez commencer par présenter les résultats basés sur les mots-clés et insérer les documents récupérés par hyde dans la liste au fur et à mesure de leur arrivée.
  • Il serait vraiment intéressant (pour moi du moins) de pouvoir voir le document hypothétique utilisé pour effectuer la correspondance de similarité. Je peux imaginer vouloir parfois modifier ce document… et comme la similarité cosinus est relativement peu coûteuse (par rapport à l’appel de génération LLM), il serait toujours assez rapide dans l’interface utilisateur de mettre à jour les résultats au fur et à mesure que l’utilisateur met à jour sa requête/son document hypothétique.

Dans l’ensemble, c’est vraiment génial, merci ! Ce sera formidable lorsque cela sera implémenté de manière à ce que le chatbot puisse utiliser les résultats.

B

1 « J'aime »

Nous avons réussi à faire passer le temps de 45s à 7s cette semaine seulement grâce à des optimisations intelligentes, et nous l’utilisons pour remplir un cache afin que les recherches récurrentes soient instantanées.

Pour le moment, nous faisons un seul embedding par sujet. Nous prévoyons de faire des embeddings par message, et cela rendra cette recherche encore meilleure à l’avenir.

L’interface utilisateur actuelle est temporaire et n’a pas été réalisée par notre équipe de conception. Notre objectif était de la mettre en place et de laisser notre communauté jouer avec pour recueillir des commentaires sur les aspects fonctionnels de la fonctionnalité. Une interface appropriée suivra bientôt.

Cela ferait bouger les résultats lorsque vous les parcourez, ce qui est un grand non-non en matière d’UX. Notre objectif principal est de trouver un moyen de présenter les deux d’une manière qui soit utile et qui améliore l’expérience de recherche sans être agaçante.

Oui, c’est pourquoi nous avons fait en sorte que les deux se produisent sur le même écran et avec une seule saisie par rapport à ce que nous avions auparavant. L’intégration plus poussée des deux dépend du paradigme d’interface utilisateur que nous choisirons pour cet écran.

Sur votre propre instance, vous pouvez interroger les ai_api_audit_logs à cet effet. Par exemple, une recherche pour Discourse app freezing on iOS ici plus tôt a abouti au message hypothétique suivant :

Sujet : L’application Discourse se bloque sur iOS

Salut à tous, j’utilise l’application Discourse sur mon iPhone depuis quelques mois maintenant et dernièrement, elle se bloque assez souvent. L’application se bloque et devient non réactive, généralement lorsque j’essaie de charger de nouveaux messages ou de naviguer entre les catégories. Cela semble se produire plus fréquemment lorsque j’ai plusieurs sujets ouverts à la fois et que je bascule entre eux. Les indicateurs de chargement tournent indéfiniment et appuyer sur les boutons ne fait rien. Finalement, elle se recharge, mais cela devient assez ennuyeux. J’utilise la dernière version d’iOS 13.3 sur un iPhone 8 Plus. D’autres ont-ils rencontré ce problème récemment ? Les forums eux-mêmes se chargent bien dans un navigateur mobile, c’est juste l’application dédiée qui se comporte mal. J’ai essayé de forcer la fermeture et de rouvrir l’application plusieurs fois, mais cela ne semble pas résoudre le problème. Des suggestions d’autres utilisateurs de Discourse mobiles sur la façon de résoudre ces problèmes de blocage ? Je détesterais devoir arrêter d’utiliser l’application si elle continue de se bloquer. Merci d’avance pour toute aide ou conseil !

Depuis que nous avons apporté quelques ajustements à l’invite, je suis incroyablement surpris des résultats.

C’est une proposition intéressante, mais il est assez compliqué d’expliquer ce flux pour l’utilisateur moyen. Cela dit, j’aime beaucoup ce que Shopify a fait pour son interface d’administration où ils vous permettent de remplacer certaines recommandations de produits suggérées par l’IA. À terme, nous pourrions faire de même ici.

C’est déjà le cas depuis 2 jours. Le bot IA utilise 1/4 de ses résultats de recherche internes grâce à cette technique.

5 « J'aime »

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.