Self-Hosting di un LLM OpenSource per DiscourseAI

:sweat_smile:

Il più vicino al modello che sceglierai. Per Gemma, puoi usare quello di Gemini.

Qui imposti il contesto massimo del tuo deployment.

Per favore, no. Quel modello è vecchio, vecchio, vecchio, vecchio, vecchio. È la scelta peggiore che tu possa fare.

Quel modello è di una generazione precedente e ha requisiti di prompt molto rigidi che non sono compatibili con Discourse. Ci aspettiamo un LLM più standard per uso generale.

Per quelle dimensioni, consiglio Qwen 3.5 o Gemma 4.

3 Mi Piace