Credo che llama.cpp imponga lo schema selezionando solo token che vi conformano. Ho anche catturato una risposta con tcpdump e verificato che la risposta restituita sia JSON valido.
Conteniva spazi e interruzioni di riga all’esterno delle stringhe (ovvero era un JSON formattato), e queste interruzioni di riga sono state escape da Discourse, rendendolo non valido (l’ho verificato nella console Rails).
Sto usando la funzione di rilevamento dello spam, tra l’altro.