Ficando sem créditos de IA? Opções disponíveis e próximos passos

Se você estiver usando nosso LLM Hospedado do CDCK e ficou sem créditos de IA, não se preocupe, você ainda tem algumas opções para manter seus recursos de IA funcionando sem problemas.

Por que isso acontece

Cada site Discourse vem pré-configurado com nosso modelo LLM Hospedado do CDCK, que recebe um saldo diário de créditos com base em seu plano de hospedagem. Assim que esses créditos são consumidos, quaisquer recursos de IA que dependam do LLM hospedado serão pausados até que os créditos sejam redefinidos no dia seguinte.

Opções

:up_arrow: Atualize seu plano para mais créditos

A atualização aumenta seu pool de créditos imediatamente. Esta opção funciona melhor se você depende do LLM hospedado e deseja um uso previsível incluído em seu plano.

Se você deseja continuar usando o LLM Hospedado do CDCK com um limite maior, vá para Admin → Dashboard → Upgrade Plan (Painel de Controle → Atualizar Plano), para fazer um upgrade para um nível superior com uma alocação maior de créditos de IA.

:repeat_button: Conecte-se a um provedor de LLM de terceiros

Usar seu próprio LLM significa que os créditos do CDCK não são mais consumidos para esses recursos.

Se você deseja evitar totalmente os limites de créditos hospedados, pode trazer sua própria chave de API.

  1. Vá para Admin → Plugins → Discourse AI → LLMs (Admin → Plugins → IA do Discourse → LLMs)
  2. Clique em :kbd: :gear: Set up (:engrenagem: Configurar) usando um modelo de LLM pré-configurado ou usando a opção de configuração manual.
  3. Preencha os detalhes do provedor, a chave de API e teste seu modelo preferido
  4. Atribua este modelo como seu LLM Padrão ou configure-o para os recursos específicos que você deseja potencializar.

Para mais informações sobre como configurar LLMs de terceiros no Discourse AI, consulte Discourse AI - Large Language Model (LLM) settings page (Discourse AI - Página de configurações do Modelo de Linguagem Grande (LLM))

:hourglass_not_done: Reduza o uso definindo cotas por usuário

Os administradores podem limitar quantos tokens cada usuário pode consumir com os recursos de IA. Esta opção é ideal se você deseja permanecer no seu nível atual, mas controlar o uso de forma mais rigorosa.

Onde configurar:

  • AdminPluginsAILLMs (Admin → Plugins → IA → LLMs)
  • Selecione :kbd:Edit (:editar:) no LLM Hospedado do CDCK
  • Pressione o botão :kbd:Add quotas (:adicionar cotas:) para adicionar limites de tokens por usuário ou por grupo

O que isso faz:

  • Define um limite rígido sobre o quanto cada usuário pode usar as ferramentas de IA por mês
  • Ajuda a evitar que usuários intensivos consumam todo o pool de créditos
  • Permite que você estenda seus créditos existentes sem atualizar seu plano
4 curtidas