Obtener temas relacionados usando la capa gratuita de Cloudflare Workers AI

[Discourse]

Resumen

Actualmente ofrecemos Temas Relacionados a todos los clientes alojados por Discourse. Para aquellos que se autoalojan, necesitarían configurar sus propios Embeddings, que potencian los Temas Relacionados.

En esta guía exploraremos cómo obtener Temas Relacionados gratis usando Cloudflare Workers AI.

Requisitos previos

Para que esto funcione, necesitarás lo siguiente:

• Discourse AI
• Habilitar Temas Relacionados
• Configurar Claves API para Cloudflare Workers AI

Además, se pueden consultar las siguientes guías:

• Discourse AI - Guía de Autoalojamiento

Configuración

1. Una vez que Discourse AI esté habilitado, deberás habilitar Temas Relacionados en tu instancia de Discourse.

@Saif

Configuración

1. Ve a la configuración de Admin → Plugins → busca o encuentra discourse-ai y asegúrate de que esté habilitado.
2. Habilita ai_embeddings_enabled para el módulo Embeddings necesario para la función de Temas Relacionados.
3. Habilita ai_embeddings_semantic_related_topics_enabled para activar la función de Temas Relacionados.

Si usas Cloudflare Workers AI

• Establece ai embeddings model en bge-large-en.

2. Sigue Claves API para Cloudflare Workers AI para obtener una clave de trabajo introducida.

@Saif

Generar la clave API

1. Inicia sesión en Cloudflare. Sigue las instrucciones de su documentación para obtener una clave API y el ID de cuenta.
2. Genera la clave API y anota el ID de cuenta.
3. Una vez generada la clave, guárdala en un lugar seguro y cópiala.

Usar la clave API para Discourse AI

1. Ve a la configuración de Admin desde la barra lateral o el perfil y luego a Plugins.
2. Busca o encuentra Discourse AI y haz clic en configuración.
3. Busca o encuentra ai_cloudflare_workers_api_token e introduce tu clave copiada.
4. Busca o encuentra ai_cloudflare_workers_account_id e introduce tu ID copiado.

3. Configura el plugin para respetar los límites de frecuencia del nivel gratuito de Cloudflare Workers AI:

cd /var/discourse
./launcher enter app
rails c
SiteSetting.ai_embeddings_backfill_batch_size = 20
exit
exit
exit

Advertencias

• Recomendamos consultar los detalles de uso y precios para asegurarte de mantenerte dentro de los límites y obtener la información más actualizada.

[packman (Chris McMahon)]

He habilitado esto pero he alcanzado muy rápidamente el límite diario de 10.000 neuronas con la propuesta de que utilice un plan de pago en su lugar. Esto es confuso, porque el plan de pago mensual parece dar solo 300.000 neuronas, o 30 veces la asignación gratuita diaria de 10.000 neuronas. Podría considerar pagar una tarifa para obtener más, ¡pero no veo por qué es beneficioso pagar extra solo para obtener exactamente lo que ya puedo obtener gratis!

Edición: Solo para añadir que este no es un problema de Discourse… solo una pregunta sobre el uso del servicio Cloudflare con Discourse Ai.

[Ed_S]

@packman

no veo por qué es beneficioso pagar extra

La diferencia con el plan de pago, creo, es que puedes usar más de la asignación, por una tarifa de uso. Con el plan gratuito, simplemente no puedes exceder la asignación.

[packman (Chris McMahon)]

Eso es lo que estaba asumiendo. Sin embargo, la página a la que te enlazan para el plan de pago no tiene ese detalle.

Investigué el resto de la información de precios en el sitio de CF y finalmente encontré que cobran $0.011 / 1,000 Neuronas por encima de 10,000 por día. El cargo de $5/mes es simplemente para permitir que se te cobre $0.011 / 1,000 Neuronas; no obtienes nada extra gratis por la tarifa de $5/mes.

[Isambard]

¡Si eso es correcto, es simplemente una estrategia de precios terrible!

[Saif (Saif Murtaza)]

Parece que Workers AI ya no es gratuito, así que estamos eliminando este tema.