Y a-t-il des frais à payer, ou des limites à la taille des communautés avant qu’elles n’envoient trop de requêtes et que des frais ne doivent être payés pour qu’elles restent opérationnelles ?
Je réalise que c’est un sujet sensible, mais les fournisseurs de services d’IA enregistrent-ils les réponses et, si oui, y a-t-il des informations sur ce qu’ils font des données ?
Il y a quelque chose que vous pouvez vérifier dans askym mais vous voudrez probablement auto-héberger ou essayer d’utiliser leurs API pour garder vos données sécurisées par vous-même
Certains modules utilisent des API payantes (comme chat gpt). D’autres utilisent des ressources open source que vous pouvez auto-héberger. Il n’y a pas de frais pour ceux-ci, à l’exception de la puissance de calcul nécessaire pour les exécuter (et peut-être quelqu’un pour les installer et les gérer).
Merci @pfaffman. J’ai jeté un coup d’œil et il serait utile de lancer une discussion à ce sujet, car il n’est pas clair combien de requêtes chacun est susceptible d’envoyer, et j’imagine que les personnes utilisant ces derniers voudront savoir combien cela coûtera probablement s’ils le fournissent à leurs utilisateurs.
Je comprends que c’est délicat car certains d’entre eux ont plusieurs options parmi lesquelles choisir. Je n’ai juste vu personne en parler du tout.
ChatGPT 3 coûte actuellement 0,002 $ pour 1000 tokens, soit environ 750 mots, selon Google.
Quelqu’un a-t-il calculé combien d’appels API un utilisateur moyen sur son site effectue via ces plugins ?
Avec une foule de 10/50 personnes utilisant l’API, vous dépensez probablement 5 /10 par mois (ou beaucoup moins), mais cela dépend entièrement de l’utilisation spécifique.
Je ne pense pas qu’il y ait beaucoup de possibilités de deviner. Il existe de nombreuses fonctions d’IA différentes. Il est impossible de deviner si les utilisateurs trouveront qu’ils peuvent l’utiliser et passer toute la journée à jouer avec ou quoi que ce soit. Vous devriez l’essayer et surveiller de près son utilisation et être prêt à la désactiver (ou à la limiter à un plus petit ensemble d’utilisateurs) si vous dépassiez le budget.
Je pense que vous payez d’avance pour chatgpt, vous pourriez donc simplement le laisser descendre à zéro sans vous soucier de dépasser le budget.
Certains des modules peuvent être auto-hébergés, donc ceux-ci ne coûteraient rien de plus que l’hébergement de la VM.
Merci. Ce n’est pas idéal car j’essaie de soumettre des coûts pour une proposition de financement, mais il ne semble pas y avoir de réponse spécifique pour le moment, car les outils sont très récents.
Dans ce cas, d’après ma maigre expérience dans la consultation de subventions pour la NSF, demandez simplement autant d’argent que vous pensez pouvoir obtenir.
Vous pouvez faire quelques calculs approximatifs, donc vous commencerez par
(Vous pourriez vouloir obtenir vos prix de ChatGPT pour la proposition )
Donc, si une chose de 750 mots coûte 0,0002 $, combien en faut-il pour faire ce que vous proposez ? À moins que vous ne proposiez « allumer ChatGPT sur un forum et voir ce qui se passe », vous devriez avoir une idée de ce que vous attendez. Mais si vous faites simplement quelque chose d’exploratoire, vous déterminez combien les directives disent que vous pouvez dépenser pour les ressources informatiques (par exemple, budget total moins le personnel et les frais généraux) et vous utilisez ce nombre.