Domanda per chi utilizza OpenAI per aggiungere funzionalità al proprio forum Discourse: quanto state spendendo per l’accesso all’API?
Potrebbe essere utile avere il numero come proporzione dei costi di hosting: un forum più grande costa di più per l’hosting ma utilizzerà maggiormente l’API. Un forum minuscolo costerà poco, in entrambi i casi.
Questa è solo pura curiosità da parte mia, ma potrebbe essere una calibrazione utile per le persone che pensano di aggiungere funzionalità OpenAI.
Ho appena iniziato a guardare come aggiungere l’IA stasera. A meno che non mi stia sfuggendo qualcosa (molto possibile), i costi per un piccolo forum che utilizza OpenAI a $0,01 in e $0,03 out / 1k token sembrano piuttosto trascurabili. Quello che mi sta bloccando ora è come dovrei essere addebitato dato che l’account non ha dettagli di pagamento. Mi sta ovviamente sfuggendo qualcosa.
Installerò il plug-in e vedrò fino a che punto arriverò verso l’illuminazione.
Forum molto piccolo e solo 8 utenti che utilizzano quotidianamente Discourse AI e circa 20 il chatbot. DAI crea poche immagini ogni giorno e crea forse 5 testi più lunghi e il chatbot risponde a brevi domande. Principalmente DAI utilizza 3.5-turbo ma ora 4 turbo, il chatbot è inferiore a 3.5-turbo-16k o qual era il modello esatto ora.
Mi costa quasi 50 USD al mese ora. Per confrontare i costi VPS… circa 24 EUR e S3 circa 15 USD. Quindi, da quel punto di vista, OpenAI è piuttosto costoso e ho commesso un errore quando ho introdotto i modelli GPT ai miei utenti attivi 
E vorrei davvero, davvero, davvero molto ottenere restrizioni di gruppo su quale modello possono utilizzare.
Per le comunità più grandi, GPT gratuito per tutti può essere davvero costoso.
Al momento, sto esaminando i miei dati; gestisco un forum attivo con quasi 8.000 utenti, di cui circa 2.000-3.000 attivi quotidianamente. Ho implementato questa funzionalità ad agosto, avendo investito $24,00, eppure, secondo i grafici, ho utilizzato solo $1,07.
Quindi nessuno lo sta usando. Riesci a indovinare perché?
Non sono troppo sicuro di aver impostato tutto, inclusi riepilogo e filtro, ecc. Suppongo di essere l’unico a usarlo sul forum, anche se l’ho introdotto specificamente lì, anche con un test. Ma ehi, risparmiare i miei spiccioli mi aiuterà molto se lo userò da solo 
Per i nuovi account danno circa 5$ di “credito gratuito”.
Grazie. Probabilmente mi durerà un bel po’. 
Ci giocherò un po’ e capirò man mano. Non è un elemento critico, quindi non dovrebbe creare disagi a nessuno.
Potreste essere interessati a questa modifica che ho apportato, per aiutarvi a gestire i costi, monetizzare l’accesso al bot, ecc. consentendovi di variare il modello e il tipo di bot per gruppo:
https://meta.discourse.org/t/discourse-chatbot-now-smarter-than-chatgpt/256652/687?u=merefield
Grazie a @Aizada_M per questo ottimo suggerimento.
