È possibile rendere la ricerca predefinita Ricerca semantica sul sito? Quanto costano queste chiamate?

La ricerca semantica funziona davvero bene e fornisce risultati migliori rispetto alla ricerca normale. Possiamo utilizzare questo sistema di ricerca in tutto il sito, ma non è disponibile per impostazione predefinita. Deve essere selezionato durante la ricerca.

È possibile utilizzare questa ricerca per impostazione predefinita? E questa chiamata ha un costo?

2 Mi Piace

Puoi dare un’occhiata al plugin Algolia per Discourse. L’ho fatto funzionare su alcuni dei miei siti:

https://meta.discourse.org/search?q=algolia

1 Mi Piace

Stiamo rinnovando il funzionamento della Ricerca Semantica, che mostrerà i suoi risultati insieme ai risultati della ricerca predefinita, il che dovrebbe soddisfare le tue esigenze. Dovrebbe essere disponibile tra un paio di settimane.

10 Mi Piace

Abbiamo appena rilasciato la ricerca semantica integrata nella ricerca normale in Discourse AI. Ora utilizza HyDE per ottenere risultati migliori, quindi fatemi sapere come va per voi. Un grande cambiamento è che dovete avere sia il modulo di embedding configurato sia un servizio LLM (OpenAI, Anthropic o Llama2).

Puoi testarlo qui su Meta.

5 Mi Piace

Sembra fantastico. Non vedo l’ora di usarlo presto. Siete tutti fantastici.

1 Mi Piace

Avendoci giocato un po’ ora, alcune osservazioni:

  • I risultati sono diversi dalla ricerca normale. Non sempre migliori perché a volte una ricerca per parole chiave/rilevanza sembra effettivamente ottenere il miglior risultato quando si conoscono le parole chiave da cercare, ma…
  • Restituisce un set di risultati più ampio e questi sono a volte davvero utili.
  • Attualmente è molto lento per me. Mi rendo conto che questo è in qualche modo inevitabile perché c’è un passaggio di generazione LLM prima del recupero, quindi non sono sicuro che questo possa essere risolto, ma vale la pena saperlo. Sembra più lento di una breve chiamata a gpt-3.5…

Alcuni punti dell’interfaccia utente:

  • Non è sempre ovvio nei risultati restituiti quale parte sia rilevante. In un’app su cui sto lavorando, divido i documenti in blocchi piuttosto piccoli prima di creare embedding (frasi/paragrafi) e questo significa che quando si cerca/recupera è possibile colorare ogni frase in base alla somiglianza semantica. Sarebbe un po’ come evidenziare le parole chiave della ricerca, ma apparirebbe un po’ come una mappa di calore con le parti semanticamente simili colorate di caldo e quelle dissimili di freddo.
  • È fastidioso dover cliccare per espandere i risultati semantici.
  • Avete pensato a modi per combinare i risultati basati su parole chiave e semantici? Sarebbe possibile scegliere ‘similarità’ o ‘rilevanza’ come ordine di ordinamento per il set di risultati? In questo modo, se si scegliesse ‘similarità’, si potrebbe iniziare presentando risultati basati su parole chiave e inserire documenti recuperati tramite hyde nella lista man mano che arrivano.
  • Sarebbe davvero interessante (almeno per me) poter vedere il documento ipotetico utilizzato per eseguire il matching di similarità. Posso immaginare di voler a volte modificare questo documento… e poiché la similarità del coseno è relativamente economica (rispetto alla chiamata di generazione LLM), sarebbe comunque abbastanza veloce nell’interfaccia utente aggiornare i risultati man mano che l’utente aggiorna la sua query/documento ipotetico.

Tutto sommato, è davvero fantastico, grazie! Sarà fantastico quando questo verrà implementato in modo che il chatbot possa utilizzare i risultati.

B

1 Mi Piace

Questa settimana siamo riusciti a farlo passare da 45s a 7s con alcune ottimizzazioni intelligenti e lo stiamo utilizzando per popolare una cache in modo che le ricerche ricorrenti siano istantanee.

Al momento facciamo un singolo embedding per argomento. Abbiamo in programma di fare embedding per post, e questo renderà la ricerca ancora migliore in futuro.

L’interfaccia utente attuale è temporanea e non è stata creata dal nostro team di progettazione. Il nostro obiettivo era quello di metterla a disposizione e lasciare che la nostra community la provasse per raccogliere feedback sugli aspetti funzionali della funzionalità. Un’interfaccia adeguata seguirà a breve.

Ciò farebbe muovere i risultati mentre li si scorre, il che è un grande no-no nell’UX. Il nostro obiettivo principale è trovare un modo per presentare entrambi in modo che siano utili e aggiungano all’esperienza di ricerca senza essere fastidiosi.

Sì, è per questo che abbiamo spostato entrambi perché accadano nella stessa schermata e con un singolo input rispetto a quello che avevamo prima. L’ulteriore integrazione di entrambi dipende dal paradigma dell’interfaccia utente che scegliamo per questa schermata.

Nella tua istanza puoi interrogare ai_api_audit_logs per questo. Ad esempio, una ricerca per Discourse app freezing on iOS qui in precedenza ha prodotto il seguente post ipotetico:

Oggetto: Discourse app che si blocca su iOS

Ciao a tutti, uso l’app Discourse sul mio iPhone da alcuni mesi ormai e ultimamente la sto riscontrando blocchi piuttosto frequenti. L’app si blocca e diventa non responsiva, di solito quando sto cercando di caricare nuovi post o navigare tra le categorie. Sembra accadere più frequentemente quando ho diversi argomenti aperti contemporaneamente e sto passando da uno all’altro. Gli indicatori di caricamento girano all’infinito e premere i pulsanti non fa nulla. Alla fine si ricarica, ma sta diventando piuttosto fastidioso. Sto usando l’ultima versione di iOS 13.3 su un iPhone 8 Plus. Qualcun altro ha riscontrato questo problema di recente? I forum stessi si caricano bene in un browser mobile, è solo l’app dedicata che si comporta in modo anomalo. Ho provato a chiudere forzatamente e riaprire l’app un paio di volte, ma ciò non sembra risolverlo. Qualsiasi suggerimento da altri utenti di Discourse mobile su come risolvere questi problemi di blocco? Odio dover smettere di usare l’app se continua a bloccarsi. Grazie in anticipo per qualsiasi aiuto o consiglio!

Dopo aver apportato alcune modifiche al prompt, sono incredibilmente sorpreso dai risultati.

Questa è una proposta interessante, ma è piuttosto complicato spiegare questo flusso per l’utente medio. Detto questo, mi piace molto quello che Shopify ha fatto per la loro interfaccia di amministrazione, dove consentono di sovrascrivere alcuni suggerimenti di prodotti consigliati dall’IA. Alla fine potremmo fare lo stesso qui.

Questo è già il caso da 2 giorni. Il Bot AI attinge 1/4 dei suoi risultati di ricerca interni utilizzando questa tecnica.

5 Mi Piace

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.