Il bot AI di Discourse utilizza RAG (Retrieval Augmented Generation) per i post e, pertanto, se il bot è stato abilitato, ogni post dovrebbe avere un embedding associato, che è una rappresentazione dello spazio vettoriale. Sarebbe comodo se questi embedding potessero essere accessibili tramite l’API.
Man mano che sempre più di noi inizieranno a utilizzare l’IA in Discourse, potremmo desiderare funzionalità non attualmente disponibili. Poiché un’IA richiede tipicamente embedding di post, che sono già presenti nei siti Discourse con il bot AI attivo, ha senso utilizzare questi embedding esistenti invece di duplicarli.
Speravo che il bot AI di Discourse potesse accedere a dati esterni ormai, ma non ho trovato alcuna informazione in merito a tale capacità. Pertanto, sto esplorando la creazione di un GPT personalizzato per ChatGPT Plus e vorrei sfruttare gli embedding preesistenti.
Anche quando l’API non è disponibile per questo specifico caso d’uso, è sempre possibile creare una query SQL con il data explorer (tabelle che iniziano con ai_ come ai_topic_embeddings) e utilizzare l’API per ottenere i risultati della query.
Questo potrebbe utilizzare un tutorial sul significato dell’importanza di questo, su come costruire query, che sembrano essere un prompt, e su come potrebbe essere utilizzato per migliorare il proprio forum Discourse.
Inoltre, se si cambia il modello AI, ad esempio da OpenAI GPT a Claude, gli embedding sarebbero diversi, quindi gli impatti di tale modifica dovrebbero essere annotati in un tutorial.
significa che la funzionalità non esiste.
Tanto di cappello allo staff di Discourse per l’integrazione con l’AI.
Se non ricordo male, l’uso di questo è gratuito perché il costo degli embedding è così basso ora che non vale la pena addebitarlo. Ovviamente lo staff di Discourse deve chiarire questa affermazione, ma sono sicuro che altri potrebbero essere sorpresi dalla risposta.
Per curiosità, ho provato l’URL su un sito Discourse dove sono solo un utente di Livello di Fiducia 1 (utente base) e la query ha funzionato.
Poiché questo sembra essere abilitato e disponibile per impostazione predefinita, nella mia mente tendo a considerare se tale tecnologia sia di beneficio per i non vedenti che cercano di utilizzare Internet, questa è ovviamente una vittoria per loro quando i punti vengono collegati, il che significa che se ne vengono a conoscenza, loro o altri possono utilizzarla per aiutarli.
Come tale, ho annotato questo in un argomento per i non vedenti sul forum OpenAI.