Tra l’altro, non abbiamo trovato i modelli di riepilogo esistenti sufficientemente validi per Discourse e siamo passati all’uso di LLM per questo. Se disponi di un server con sufficiente VRAM GPU, l’esecuzione di un LLM basato su Llama2 ti darà ottimi risultati per #ai-summarization e ai-helper. Ho aggiornato Discourse AI - Self-Hosted Guide con istruzioni di base su come eseguire tale LLM.
2 Mi Piace