¿Cuánto gastas en la integración de OpenAI?

Pregunta para las personas que usan OpenAI para añadir funciones a su foro de Discourse: ¿cuánto están gastando en el acceso a la API?

Podría ser bueno tener el número como una proporción de sus costos de alojamiento: un foro más grande cuesta más alojar pero hará un mayor uso de la API. Un foro pequeño costará poco, en ambos casos.

Esta es solo una curiosidad de mi parte, pero podría ser una calibración útil para las personas que están pensando en añadir funciones de OpenAI.

4 Me gusta

He estado empezando a mirar cómo añadir IA esta noche. A menos que me esté perdiendo algo (muy posible), los costes para un pequeño foro que utiliza OpenAI a 0,01 de entrada y 0,03 de salida / 1k tokens parecen bastante triviales. Lo que me está atascando ahora es cómo se supone que me van a cobrar, dado que la cuenta no tiene detalles de pago. Obviamente me estoy perdiendo algo.

Instalaré el plugin y veré hasta dónde llego hacia la iluminación.

2 Me gusta

Foro muy pequeño y solo 8 usuarios usan Discourse AI diariamente y alrededor de 20 el chatbot. DAI crea pocas imágenes cada día y crea quizás 5 textos más largos y el chatbot responde a preguntas cortas. Mayormente DAI usa 3.5-turbo pero ahora 4 turbo, el chatbot está por debajo de 3.5-turbo-16k o cual sea el modelo exacto ahora.

Me cuesta bastante cerca de 50 USD al mes ahora. Para comparar los costos de VPS… unos 24 EUR y S3 algo así como 15 USD. Así que, en ese sentido, OpenAI es bastante caro y cometí un error cuando introduje los modelos GPT a mis usuarios activos :woozy_face:

Y realmente, realmente, realmente me gustaría tener restricciones de grupo sobre qué modelo pueden usar.

Para comunidades más grandes, GPT para todos puede ser realmente caro.

6 Me gusta

Actualmente, estoy revisando mis propios datos; gestiono un foro activo con casi 8.000 usuarios, de los cuales entre 2.000 y 3.000 están activos diariamente. Implementé esta función en agosto, habiendo invertido 24,00 , y sin embargo, según los gráficos, solo he utilizado 1,07 .

4 Me gusta

Entonces nadie lo usa. ¿Puedes adivinar por qué?

No estoy muy seguro de tener todo configurado, incluyendo el resumen y el filtro, etc. Supongo que soy el único que lo usa en el foro, aunque lo presenté específicamente allí, incluso con una prueba. Pero bueno, ahorraré mis centavos y me irá bien usándolo yo mismo :rofl:

1 me gusta

Para cuentas nuevas, dan algo así como 5 dólares de “crédito gratuito”.

2 Me gusta

Gracias. Probablemente me dure bastante tiempo. :slight_smile:

Jugaré un poco y lo descubriré a medida que avance. No es un elemento crítico, por lo que no debería ser perjudicial para nadie.

1 me gusta

A ustedes les podría interesar este cambio que he realizado, para ayudarles a gestionar costos, monetizar el acceso al bot, etc., permitiéndoles variar el modelo y tipo de bot por grupo:

https://meta.discourse.org/t/discourse-chatbot-now-smarter-than-chatgpt/256652/687?u=merefield

Gracias a @Aizada_M por hacer esta gran sugerencia.

5 Me gusta