Se você estiver usando nosso LLM Hospedado do CDCK e tiver ficado sem créditos de IA, não se preocupe, você ainda tem algumas opções para manter seus recursos de IA funcionando sem problemas.
Por que isso acontece
Cada site Discourse vem pré-configurado com nosso modelo LLM Hospedado do CDCK, ao qual é alocado um saldo de crédito diário com base no seu plano de hospedagem. Assim que esses créditos são consumidos, quaisquer recursos de IA que dependam do LLM hospedado serão pausados até que os créditos sejam redefinidos no dia seguinte.
Opções
Atualize seu plano para mais créditos
A atualização aumenta seu pool de créditos imediatamente. Esta opção funciona melhor se você depende do LLM hospedado e deseja um uso previsível incluído em seu plano.
Se você deseja continuar usando o LLM Hospedado do CDCK com um limite maior, vá para Admin → Dashboard → Upgrade Plan (Painel de Administração → Atualizar Plano), para atualizar para um nível superior com uma alocação maior de créditos de IA.
Conecte-se a um provedor de LLM de terceiros
Usar seu próprio LLM significa que os créditos do CDCK não serão mais consumidos para esses recursos.
Se você deseja evitar totalmente os limites de crédito hospedados, pode trazer sua própria chave de API.
- Vá para Admin → Plugins → Discourse AI → LLMs (Administrador → Plugins → IA do Discourse → LLMs)
- Clique em \text{<kbd> :gear: Set up</kbd>} (Configurar) usando um modelo de LLM pré-configurado ou usando a opção de configuração manual.
- Preencha os detalhes do provedor, a chave da API e teste seu modelo preferido
- Atribua este modelo como seu LLM Padrão ou configure-o para os recursos específicos que você deseja potencializar.
Para mais informações sobre como configurar LLMs de terceiros no Discourse AI, consulte Discourse AI - Large Language Model (LLM) settings page (Página de configurações do Modelo de Linguagem Grande (LLM) do Discourse AI)
Reduza o uso definindo cotas por grupo
Os administradores podem limitar quantos tokens ou quantas vezes cada usuário em um grupo pode usar os recursos de IA. Esta opção é ideal se você deseja permanecer no seu nível atual, mas controlar o uso de forma mais rigorosa.
Onde configurar:
- Admin \rightarrow Plugins \rightarrow Discourse AI \rightarrow LLMs (Administrador \rightarrow Plugins \rightarrow IA do Discourse \rightarrow LLMs)
- Selecione \text{<kbd>Edit</kbd>} (Editar) no LLM Hospedado do CDCK
- Pressione o botão \text{<kbd>Add quota</kbd>} (Adicionar cota) para adicionar limites de token ou de uso por grupo
O que isso faz:
- Impõe um limite rígido sobre quantos tokens ou quantas solicitações cada usuário em um grupo pode fazer dentro de um período de tempo configurável (1 hora, 6 horas, 24 horas, 7 dias ou uma duração personalizada)
- Ajuda a evitar que usuários intensos consumam todo o pool de créditos
- Permite que você estique seus créditos existentes sem atualizar seu plano