Non ci sono state modifiche al plugin.
Qualche modifica al modello?
No, a meno che OpenAI non abbia fatto qualcosa. E non ci credo perché DAI utilizza lo stesso modello e funziona benissimo. La mia scommessa va su qualche conflitto, o qualcosa che è stato cambiato in Discourse stesso, ma non posso iniziare a scavare più a fondo prima di Natale. Durante le festività, non ho altro che tempo e praticamente zero visitatori.
Controlla i log per il prompt esatto.
Assicurati che il prompt di risposta automatica sia in prima persona dalla prospettiva dell’utente.
Tutto sembra a posto. “Jagster dice…” è nel posto giusto, così come il prompt di sistema. Il suo compito è:
- salutare e presentarsi
- trovare 5 argomenti pertinenti possibili, fornire spiegazioni lunghe due frasi sul perché quegli argomenti potrebbero essere adatti e dare link
Ora sceglie di non salutare e di non presentarsi. Offre cinque argomenti e dice di cosa trattano, ma non fornisce link.
Quindi sembra che ci possano essere dei conflitti tra i prompt. O è semplicemente maleducato
Beh, dovrò provare cosa fa DAI in situazioni simili. Non sarà esattamente la stessa cosa a causa delle limitazioni e della diversa costruzione di DAI, ma potrebbe dare un’indicazione se tutto questo “scelgo cosa fare” proviene da OpenAI.
Ma al momento, non riesco a individuare alcun problema reale, solo sintomi.
”as to whether” — voi madrelingua lo dite davvero così 
Dovrebbe iniziare con:\n\n"Dami il benvenuto dicendo ciao e presentati. Condividi con me 5 post sul forum utilizzando la ricerca locale del forum pertinenti al mio primo post, includi i link"\n\n(Prompt di categoria NON prompt di sistema)\n\nIn pratica, lo scrivi come se fosse un post di un utente senza dover menzionare il bot.
1 Mi Piace
Non sono sicuro che funzionerà. Devi scriverlo in prima persona come se l’utente stesse chiedendo aiuto. Non è un prompt di sistema. Non descrive come dovrebbe comportarsi il bot (quello è per il prompt di sistema che viene comunque inviato). È un utente che chiede aiuto specifico (sebbene nascosto).
2 Mi Piace
Grazie! Ha risolto il problema (e un paio dei miei precedenti grattacapi simili).
1 Mi Piace
Informazioni molto utili! Qualche consiglio sulle best practice per il prompt di sistema?
1 Mi Piace
Ecco uno dei miei:
Sei un blah blah blah. Spesso rispondi con umorismo. Hai ottimi strumenti sotto forma di funzioni che ti danno il potere di ottenere informazioni più recenti. Usa solo le funzioni che ti sono state fornite. Quando rispondi alle domande, usa prima la funzione local_forum_search per vedere se la risposta è sul forum locale. Condividi sempre i link alle fonti. La data e l'ora correnti sono %{current_date_time}. Quando ti riferisci agli utenti per nome, includi un simbolo @ direttamente prima del loro nome utente. Rispondi solo all'ultima domanda, usando le informazioni precedenti come contesto, se appropriato
Ovviamente puoi cambiare blah blah blah 
1 Mi Piace
Sì, potrei abbellire l’OP con questa guida per renderla più chiara. Non è immediatamente ovvio che questo sia il modo migliore per farlo.
Grazie mille Robert. Lo apprezzo. Il mio obiettivo è anche chiarire l’OP e forse ampliare la domanda e inquadrarla con un po’ di incoraggiamento da parte della community. Apprezzo il tuo supporto e i tuoi sforzi!
1 Mi Piace
@merefield, perché è solo openai? È possibile includere altri modelli come Gemini di Google, Claude AI di Anthropic e Mixtral?
Probabilmente puoi usare un proxy per accedere ad altri servizi utilizzando le impostazioni URL personalizzate se sai cosa stai facendo. Può funzionare anche con un modello locale o Azure in quel modo, come descritto nell’OP.
Perché concentrarsi su OpenAI? Perché non vengo pagato per fornire questo, quindi devo mantenere la complessità a un livello ragionevole e loro hanno avuto il vantaggio del primo arrivato.
Capisco. A volte non tutti hanno accesso all’API di OpenAI a causa di problemi con le restrizioni delle carte. Tuttavia, grazie per il tuo contributo!
1 Mi Piace
Ricevo sempre l’errore “not enough tokens” (l’errore overquota) quando provo a usare la funzione di menzione del forum pubblico. Cerco di attivarla da utenti di alto rango, quindi non capisco davvero dove sbaglio.
Qual è l’impostazione che devo modificare per far sì che il bot abbia abbastanza token per rispondere?
1 Mi Piace
Prova a attivare il job di reset della quota di Sidekiq, descritto qui:
Il nome del job è Jobs::ChatbotQuotaReset
(questo accadrà automaticamente in futuro)
Puoi quindi chiedere al bot in privato per confermare la quota che ti rimane, ad esempio:
“qual è la mia quota rimanente?”
(Se hai permesso a Chatbot di parlare in privato)
1 Mi Piace
C’è un certo lasso di tempo da attendere dopo l’attivazione della quota prima che inizi a funzionare? L’ho attivata ma il bot non risponde
Un’altra domanda sarebbe:
Nello scenario in cui il bot risponde automaticamente a ogni nuovo argomento in una categoria, è possibile che non partecipi alla discussione che si sviluppa? Perché voglio che risponda solo al post originale e poi rimanga inattivo a meno che non venga menzionato.
Forse 30 secondi?
Hai menzionato il bot con @ o hai risposto al suo ultimo post usando il pulsante Rispondi sul suo post?