Pregunta para las personas que usan OpenAI para añadir funciones a su foro de Discourse: ¿cuánto están gastando en el acceso a la API?
Podría ser bueno tener el número como una proporción de sus costos de alojamiento: un foro más grande cuesta más alojar pero hará un mayor uso de la API. Un foro pequeño costará poco, en ambos casos.
Esta es solo una curiosidad de mi parte, pero podría ser una calibración útil para las personas que están pensando en añadir funciones de OpenAI.
He estado empezando a mirar cómo añadir IA esta noche. A menos que me esté perdiendo algo (muy posible), los costes para un pequeño foro que utiliza OpenAI a 0,01 de entrada y 0,03 de salida / 1k tokens parecen bastante triviales. Lo que me está atascando ahora es cómo se supone que me van a cobrar, dado que la cuenta no tiene detalles de pago. Obviamente me estoy perdiendo algo.
Instalaré el plugin y veré hasta dónde llego hacia la iluminación.
Foro muy pequeño y solo 8 usuarios usan Discourse AI diariamente y alrededor de 20 el chatbot. DAI crea pocas imágenes cada día y crea quizás 5 textos más largos y el chatbot responde a preguntas cortas. Mayormente DAI usa 3.5-turbo pero ahora 4 turbo, el chatbot está por debajo de 3.5-turbo-16k o cual sea el modelo exacto ahora.
Me cuesta bastante cerca de 50 USD al mes ahora. Para comparar los costos de VPS… unos 24 EUR y S3 algo así como 15 USD. Así que, en ese sentido, OpenAI es bastante caro y cometí un error cuando introduje los modelos GPT a mis usuarios activos
Y realmente, realmente, realmente me gustaría tener restricciones de grupo sobre qué modelo pueden usar.
Para comunidades más grandes, GPT para todos puede ser realmente caro.
Actualmente, estoy revisando mis propios datos; gestiono un foro activo con casi 8.000 usuarios, de los cuales entre 2.000 y 3.000 están activos diariamente. Implementé esta función en agosto, habiendo invertido 24,00 , y sin embargo, según los gráficos, solo he utilizado 1,07 .
No estoy muy seguro de tener todo configurado, incluyendo el resumen y el filtro, etc. Supongo que soy el único que lo usa en el foro, aunque lo presenté específicamente allí, incluso con una prueba. Pero bueno, ahorraré mis centavos y me irá bien usándolo yo mismo
A ustedes les podría interesar este cambio que he realizado, para ayudarles a gestionar costos, monetizar el acceso al bot, etc., permitiéndoles variar el modelo y tipo de bot por grupo: