Possiamo modificare, cambiare e creare prompt di sistema, ma potremmo avere un accesso più generale a ogni prompt? Questi necessitano di essere ottimizzati di tanto in tanto.
La necessità speciale per quella richiesta sono le spiegazioni dell’IA. È positivo che consideri il contesto di un post, ma ora è davvero pigra — specialmente quelle basate su OpenAI. Copia per lo più ciò che è già scritto, ma dovrebbe espandere quella spiegazione mantenendo anche il contesto.
Ho un po’ paura che la funzionalità sia piuttosto hard-coded (e qualcosa provenga dall’ecosistema OpenAI), ma sarebbe possibile modificarla senza dover completamente rivoluzionare tutto ciò che è già stato creato?
Ciao @Falco ci sono aggiornamenti sul potenziale lasso di tempo per consentire la modifica dei prompt di sistema? Presumo che questo sarebbe Forum Helper e forse il prompt di sistema principale quando si abilita un LLM che credo non sia visibile
Questo è qualcosa di molto difficile da fare correttamente, poiché i prompt di sistema controllano non solo le istruzioni ma anche il formato di output previsto.
Se permettiamo agli utenti di personalizzare ora, ci stiamo iscrivendo a un costante bombardamento di utenti frustrati perché i nostri aggiornamenti romperanno il loro sito ogni volta che avremo bisogno di aggiornare il formato di output previsto che viene analizzato per funzionalità come riassunti, helper, ecc.
Un modo per aggirare questo problema è spostare tutto verso formati rigorosi, utilizzando Guidance / chiamate funzionali / output strutturati. Tuttavia, l’ecosistema sta solo ora raggiungendo il livello di maturità in cui ciò è disponibile nella maggior parte dei provider e nelle opzioni self-hosted. Questo è importante perché Discourse AI non blocca le community a OpenAI; consente alle persone di scegliere tra migliaia di LLM compatibili.
Tutto questo per dire che è qualcosa che vogliamo fare, ma non possiamo farlo in modo approssimativo. Ciò significa che abbiamo bisogno che l’intero ecosistema AI si metta al passo, e questo sta accadendo solo ora.
Apprezzo il feedback @Falco Per la maggior parte, le personas, che funzionano molto bene, offrono un’ottima flessibilità. Capisco perfettamente dal tuo punto di vista il non volere un mucchio di forum disordinati ovunque. Questo è in realtà prendersi cura del proprietario del forum. Penso che i prompt funzionino molto bene così come sono, ma sarebbe bello poterli influenzare un po’ con un po’ di contesto per la singola community. Fai questo o non fare quello, tipo. Non toccare i tuoi prompt di sistema perché funzionano benissimo così come sono, ma magari inserisci un po’ di contesto aggiuntivo da qualche parte lungo la linea.
