Prioridade/Gravidade:
Média
Plataforma:
Discourse b66fca70d0e3d12ef930398289fac5269cd240c7
Descrição:
O plugin oficial “Automação” possui um script de “Triagem de publicações usando IA”. Este script fornece o conteúdo de uma publicação ao LLM e, em seguida, executa ações de triagem configuráveis dependendo do resultado.
Para manter o uso do LLM dentro da cota de créditos fornecida pelo plano de hospedagem do Discourse (ao usar o LLM hospedado pelo CDCK) ou dentro do orçamento ao usar um provedor de LLM de terceiros, é importante gerenciar o número de tokens necessários para cada consulta. O script de “Triagem de publicações usando IA” oferece uma configuração de “Tokens Máximos da Publicação” que permite definir um limite sobre quanto do conteúdo da publicação será incluído na solicitação.
Se a publicação tiver imagens anexadas, a enorme quantidade de dados de imagem é sempre incluída na solicitação, mesmo quando isso resulta em ultrapassar o limite de tokens da publicação definido para a automação por meio da configuração de “Tokens Máximos da Publicação”.
Isso ocorre mesmo quando a opção “Visão habilitada” está desativada na configuração da persona de IA usada pela automação.
Isso resulta em um gasto de tokens incontrolável.
Em muitos casos de uso, apenas os dados de texto da publicação são de interesse, caso em que os dados de imagem que inflacionam o uso de tokens nem mesmo têm valor.
Etapas reproduzíveis:
- Se você ainda não tiver uma persona de IA personalizada adequada, crie uma.
- Desative a opção “Visão habilitada” nas configurações da persona.
- Se ainda não estiver ativado, ative o plugin “Automação” integrado.
- Navegue até a página de “Automações” do plugin (
/admin/plugins/automation/automation). - Clique no botão “+ Adicionar automação”.
A página de “Selecionar um script” será aberta. - Selecione o script de “Triagem de publicações usando IA”.
A página de configuração da automação será aberta. - Configure a automação conforme necessário para um teste simples. Não é necessário que a automação resulte na execução de quaisquer ações, apenas que gere consultas ao LLM.
- Selecione a persona de IA que você criou na etapa 1 no menu Opções do script > Persona na configuração da automação.
- Defina a configuração Opções do script > Tokens Máximos da Publicação como
20na configuração da automação. - Clique no botão “Atualizar automação” na parte inferior da página de configuração da automação.
Você será retornado à página de “Automações”. - Defina a chave “Habilitar automação” da automação recém-criada para a posição “ligado”.
- Redija uma publicação ou mensagem direta que acionará a automação. Adicione uma imagem à publicação.
- Publique a publicação ou mensagem.
- Navegue até a página de administração do plugin “Data Explorer” (
/admin/plugins/explorer). - Clique no botão “+” na página.
Um campo de “Nome da consulta…” aparecerá. - Digite
Get AI Audit Logsno campo de “Nome da consulta…”. - Clique no botão “+ Criar Novo”.
Uma nova consulta do Data Explorer será criada. - Clique no botão “Editar”.
O campo de edição de código da consulta será aberto. - Substitua o conteúdo do código de consulta de exemplo pelo seguinte:
SELECT request_tokens, raw_request_payload FROM ai_api_audit_logs WHERE feature_name = 'llm_triage' - Clique no botão “Executar”.
O valor do campo request_tokensexibido no resultado da consulta do Data Explorer para a solicitação gerada pela automação após ser acionada pelo seu post excede significativamente o número que seria esperado para ser usado pelo “Prompt do sistema” da configuração da persona de IA e o limite máximo de 20 tokens de contexto de texto do post imposto pela configuração da automação. - Clique no botão ●●● à direita do valor do campo
raw_request_payloadno resultado da consulta do Data Explorer.
Uma caixa de diálogo será aberta mostrando o valor completo do campo.
Os dados da imagem anexada ao post foram incluídos por meio de uma chave messages[*].image_url nos dados da solicitação.
Exemplo:
{
"model": "Qwen/Qwen3-VL-30B-A3B-Instruct",
"max_tokens": 16384,
"messages": [
{
"role": "system",
"content": "Você receberá um trecho de texto e sua tarefa é detectar o locale do texto"