O mais próximo do modelo que você escolher. Para o Gemma, você pode escolher o do Gemini.
Aqui você define o contexto máximo da sua implantação.
Por favor, não faça isso. Esse modelo é muito, muito, muito, muito, muito antigo. É a pior escolha que você pode fazer.
Esse modelo está uma geração atrás e tem requisitos de prompt muito rígidos que não são compatíveis com o Discourse. Esperamos um LLM de uso geral mais padrão.
Nesses tamanhos, recomendo o Qwen 3.5 ou o Gemma 4.