Obter tópicos relacionados usando o nível gratuito do Cloudflare Workers AI

[Discourse]

Visão Geral

Atualmente, oferecemos Tópicos Relacionados para todos os clientes hospedados pelo Discourse. Para aqueles que são auto-hospedados, eles precisariam configurar seus próprios Embeddings, que alimentam os Tópicos Relacionados.

Neste guia, exploraremos como obter Tópicos Relacionados gratuitamente usando Cloudflare Workers AI.

Pré-requisitos

Para que isso funcione, você precisará do seguinte:

• Discourse AI
• Habilitar Tópicos Relacionados
• Configurar Chaves de API para Cloudflare Workers AI

Além disso, os seguintes guias podem ser referenciados:

• Discourse AI - Guia Auto-Hospedado

Configuração

1. Assim que o Discourse AI estiver habilitado, você precisará habilitar os Tópicos Relacionados em sua instância do Discourse.

@Saif

Configuração

1. Vá para as configurações de Admin → Plugins → procure ou encontre discourse-ai e certifique-se de que está habilitado.
2. Habilite ai_embeddings_enabled para o módulo Embeddings necessário para o recurso Tópicos Relacionados.
3. Habilite ai_embeddings_semantic_related_topics_enabled para ativar o recurso Tópicos Relacionados.

Se estiver usando Cloudflare Workers AI

• Defina ai embeddings model como bge-large-en.

2. Siga Chaves de API para Cloudflare Workers AI para obter uma chave de trabalho inserida.

@Saif

Gerar a chave de API

1. Faça login no Cloudflare. Siga as instruções em sua documentação para obter uma chave de API e o ID da Conta.
2. Gere a chave de API e anote o ID da Conta.
3. Assim que a chave for gerada, armazene-a em um local seguro e copie-a.

Usando a chave de API para Discourse AI

1. Vá para as configurações de Admin na barra lateral ou perfil e depois em Plugins.
2. Procure ou encontre Discourse AI e clique em configurações.
3. Procure ou encontre ai_cloudflare_workers_api_token e insira sua chave copiada.
4. Procure ou encontre ai_cloudflare_workers_account_id e insira seu ID copiado.

3. Configure o plugin para respeitar os limites de taxa do nível gratuito do Cloudflare Workers AI:

cd /var/discourse
./launcher enter app
rails c
SiteSetting.ai_embeddings_backfill_batch_size = 20
exit
exit
exit

Observações

• Recomendamos verificar os detalhes de uso e preços para que você possa permanecer dentro dos limites e obter as informações mais atualizadas.

[packman (Chris McMahon)]

Habilitei isso, mas rapidamente atingi o limite diário de 10.000 neurônios com a proposta de usar um plano pago em vez disso. Isso é confuso, porque o plano mensal pago parece oferecer apenas 300.000 neurônios, ou 30 vezes a permissão gratuita diária de 10.000 neurônios. Eu poderia considerar pagar uma taxa para obter mais, mas não consigo ver por que é benéfico pagar extra apenas para obter exatamente o que já posso obter de graça!

Editar: Só para acrescentar que este não é um problema do Discourse… apenas uma pergunta sobre o uso do serviço Cloudflare com Discourse Ai.

[Ed_S]

@packman

não vejo por que é benéfico pagar a mais

A diferença com o plano pago, acho, é que você pode usar mais do que a franquia, mediante uma taxa de uso. Com o plano gratuito, você simplesmente não pode exceder a franquia.

[packman (Chris McMahon)]

Era o que eu estava assumindo. A página para a qual eles te direcionam para o plano pago não tem esse detalhe.

Pesquisei o restante das informações de preços no site da CF e eventualmente descobri que eles cobram US$ 0,011 / 1.000 Neurônios acima de 10.000 por dia. A cobrança de US$ 5/mês é simplesmente para permitir que você seja cobrado US$ 0,011 / 1.000 Neurônios - você não obtém nenhum extra gratuito pela taxa de US$ 5/mês.

[Isambard]

Se isso estiver correto, é simplesmente uma estratégia de precificação terrível!

[Saif (Saif Murtaza)]

Parece que o Workers AI não é mais gratuito, então estamos removendo este tópico