Accidenti, questo è davvero piuttosto avanzato.
Suppongo che se gli strumenti personalizzati avessero abbastanza ricchezza, potrebbero realizzare questo… sembra un po’ una macchina di Rube Goldberg, ma immagina.
- SE una configurazione con una persona:
- Forza le chiamate agli strumenti
- Ha uno strumento personalizzato forzato e NON ha parametri
- ALLORA non invochiamo alcun LLM e passiamo semplicemente il controllo allo strumento
- ALLORA diamo allo strumento abbastanza infrastruttura per inviare i risultati in streaming all’app tramite inversione di controllo in qualche modo
È una quantità di cambiamenti piuttosto sbalorditiva e sarebbe un vero incubo da mantenere.
Suppongo che un’alternativa sia definire un nuovo plugin personalizzato che dipenda da Discourse-AI e definisca il tuo dialetto e endpoint: è certamente il modo più semplice per procedere.