¿Hay alguna tarifa que pagar, o límites en el tamaño de las comunidades antes de que envíen demasiadas solicitudes y haya que pagar tarifas para mantenerlo operativo?
Me doy cuenta de que es un tema delicado, pero ¿los proveedores de servicios de IA están grabando las respuestas y, en caso afirmativo, hay alguna información sobre lo que hacen con los datos?
Algunos módulos utilizan API de pago (como chat gpt). Otros utilizan recursos de código abierto que puedes autoalojar. No hay ningún cargo por estos, excepto la potencia informática para ejecutarlos (y quizás alguien que los instale y gestione).
Gracias @pfaffman. He echado un vistazo y sería útil si pudiéramos iniciar una discusión al respecto, ya que no está claro cuántas solicitudes enviará cada uno, e imagino que las personas que los usan querrán saber cuánto costará si lo proporcionan a sus usuarios.
Entiendo que eso es complicado, ya que algunos de ellos tienen múltiples opciones para elegir. Simplemente no vi a nadie hablando de ello en absoluto.
ChatGPT 3 cuesta actualmente $0.002 por cada 1000 tokens o aproximadamente 750 palabras, según Google.
¿Alguien ha calculado cuántas llamadas a la API está haciendo un usuario promedio en su sitio a través de estos complementos?
No creo que haya mucho que adivinar. Hay muchas funciones diferentes de IA. Es imposible adivinar si los usuarios encontrarán que pueden usarlo y pasar todo el día jugando con él o qué. Tendrías que probarlo y estar muy atento a cuánto se usó y estar preparado para deshabilitarlo (o limitarlo a un conjunto más pequeño de usuarios) si te pasabas del presupuesto.
Creo que pagas por adelantado ChatGPT, así que podrías dejar que se agote hasta cero sin preocuparte por pasarte del presupuesto.
Algunos de los módulos se pueden autoalojar, por lo que no costarían nada más que el alojamiento de la VM.
Gracias. No es ideal, ya que estoy intentando presentar los costos para una propuesta de financiación, pero no parece haber una respuesta específica todavía, ya que las herramientas son muy nuevas.
En ese caso, por mi limitada experiencia viendo y revisando subvenciones para la NSF, solo pide tanto dinero como creas que puedes conseguir.
Puedes hacer algunos cálculos aproximados, así que empezarías con
(Quizás quieras obtener tus precios de ChatGPT para la propuesta )
Entonces, si una cosa de 750 palabras cuesta 0,0002 $, ¿cuántas de esas necesitas para hacer lo que sea que estés proponiendo? A menos que estés proponiendo “enciende ChatGPT en un foro y mira qué pasa”, entonces deberías tener una idea de lo que esperarías. Pero si solo estás haciendo algo exploratorio, entonces simplemente calcula cuánto dicen las directrices que puedes gastar en recursos informáticos (por ejemplo, presupuesto total menos personal y gastos generales) y usa ese número.