Questo è qualcosa di molto difficile da fare correttamente, poiché i prompt di sistema controllano non solo le istruzioni ma anche il formato di output previsto.
Se permettiamo agli utenti di personalizzare ora, ci stiamo iscrivendo a un costante bombardamento di utenti frustrati perché i nostri aggiornamenti romperanno il loro sito ogni volta che avremo bisogno di aggiornare il formato di output previsto che viene analizzato per funzionalità come riassunti, helper, ecc.
Un modo per aggirare questo problema è spostare tutto verso formati rigorosi, utilizzando Guidance / chiamate funzionali / output strutturati. Tuttavia, l’ecosistema sta solo ora raggiungendo il livello di maturità in cui ciò è disponibile nella maggior parte dei provider e nelle opzioni self-hosted. Questo è importante perché Discourse AI non blocca le community a OpenAI; consente alle persone di scegliere tra migliaia di LLM compatibili.
Tutto questo per dire che è qualcosa che vogliamo fare, ma non possiamo farlo in modo approssimativo. Ciò significa che abbiamo bisogno che l’intero ecosistema AI si metta al passo, e questo sta accadendo solo ora.