Question pour les personnes utilisant OpenAI pour ajouter des fonctionnalités à leur forum Discourse : combien dépensez-vous pour l’accès à l’API ?
Il pourrait être bon d’avoir le chiffre en proportion de vos coûts d’hébergement - un forum plus grand coûte plus cher à héberger mais utilisera davantage l’API. Un forum minuscule coûtera peu, dans les deux cas.
Ceci est juste par pure curiosité de ma part, mais cela pourrait être un étalonnage utile pour les personnes qui envisagent d’ajouter des fonctionnalités OpenAI.
Je viens de commencer à regarder comment ajouter l’IA ce soir. À moins que je ne rate quelque chose (ce qui est tout à fait possible), les coûts pour un petit forum utilisant OpenAI à 0,01 en entrée et 0,03 en sortie / 1k tokens semblent assez négligeables. Ce qui me bloque maintenant, c’est de savoir comment je suis censé être facturé étant donné que le compte n’a pas de détails de paiement. Je rate évidemment quelque chose.
J’installerai le plugin et verrai jusqu’où je parviens à atteindre l’illumination.
Forum très petit et seulement 8 utilisateurs utilisant quotidiennement Discourse AI et environ 20 pour le chatbot. DAI crée quelques images chaque jour et crée peut-être 5 textes plus longs et le chatbot répond à de courtes questions. La plupart du temps, DAI utilise 3.5-turbo mais maintenant 4 turbo, le chatbot est sous 3.5-turbo-16k ou quel était le modèle exact maintenant.
Cela me coûte près de 50 USD par mois maintenant. Pour comparer les coûts VPS… environ 24 EUR et S3 environ 15 USD. Donc, de ce point de vue, OpenAI est assez cher et j’ai fait une erreur lorsque j’ai présenté les modèles GPT à mes utilisateurs actifs
Et j’aimerais vraiment beaucoup obtenir des restrictions de groupe sur le modèle qu’ils peuvent utiliser.
Pour les plus grandes communautés, GPT gratuit pour tous peut être vraiment cher.
À l’heure actuelle, je consulte mes propres données ; je gère un forum actif avec près de 8 000 utilisateurs, dont environ 2 000 à 3 000 sont actifs quotidiennement. J’ai mis en œuvre cette fonctionnalité en août, ayant investi 24,00 , et pourtant, selon les graphiques, je n'ai utilisé que 1,07 .
Je ne suis pas trop sûr d’avoir tout configuré, y compris le résumé et le filtre, etc. Je suppose que je suis le seul à l’utiliser sur le forum, même si je l’ai spécifiquement présenté là-bas, même avec un test. Mais bon, économiser mes sous me sera très utile en l’utilisant
Vous pourriez être intéressé par ce changement que j’ai apporté, pour vous aider à gérer les coûts, monétiser l’accès au bot, etc. en vous permettant de faire varier le modèle et le type de bot par groupe :
