Ci sono costi per l'utilizzo dell'AI?

È fantastico, non vedo l’ora di provarlo!

Ci sono costi da pagare o limiti alle dimensioni della community prima che inviino troppe richieste e debbano essere pagate delle commissioni per mantenerla operativa?

Mi rendo conto che è un argomento delicato, ma i fornitori di servizi AI stanno registrando le risposte e, in tal caso, ci sono informazioni su cosa stanno facendo con i dati?

1 Mi Piace

C’è qualcosa che puoi controllare in askym ma probabilmente vuoi auto-ospitare o provare a usare le loro API per mantenere i tuoi dati al sicuro da solo :slight_smile:

1 Mi Piace

È probabile che in futuro ci saranno costi API per uno di questi, o una politica di utilizzo corretto se un grande forum invia molte richieste?

1 Mi Piace

Alcuni moduli utilizzano API a pagamento (come chat gpt). Altri utilizzano risorse open source che puoi ospitare autonomamente. Non ci sono costi per questi, tranne la potenza del computer per eseguirli (e forse qualcuno che li installi e li gestisca).

2 Mi Piace

Grazie @pfaffman. Ho dato una piccola occhiata e sarebbe utile se potessimo avviare una discussione in merito, poiché non è chiaro quante richieste ciascuno invierà probabilmente, e immagino che le persone che li utilizzano vorranno sapere quanto probabilmente costerà se lo forniranno ai propri utenti.

Capisco che sia complicato poiché alcuni di essi hanno più opzioni tra cui scegliere. Semplicemente non ho visto nessuno parlarne affatto.

ChatGPT 3 costa attualmente $0,002 per 1000 token o circa 750 parole, secondo Google.

Qualcuno ha calcolato quante chiamate API sta effettuando un utente medio sul proprio sito tramite questi plugin?

1 Mi Piace

Con una folla di 10/50 persone che utilizzano l’API, probabilmente spendi $5/10 al mese (o molto meno), ma dipende totalmente dall’uso specifico.

2 Mi Piace

Non credo ci sia molto modo di indovinare. Ci sono molte funzioni AI diverse. È impossibile indovinare se gli utenti scopriranno di poterla usare e passeranno tutto il giorno a giocarci o cosa. Dovresti provarla e tenere d’occhio quanto viene utilizzata ed essere pronto a disattivarla (o limitarla a un gruppo più ristretto di utenti) se superi il budget.

Penso che tu paghi in anticipo ChatGPT, quindi potresti semplicemente lasciarlo andare fino a zero senza preoccuparti di superare il budget.

Alcuni dei moduli possono essere self-hosted, quindi non costerebbero nulla oltre all’hosting della VM.

2 Mi Piace

Grazie. Non è l’ideale dato che sto cercando di presentare i costi per una proposta di finanziamento, ma non sembra esserci una risposta specifica ancora dato che gli strumenti sono molto nuovi.

1 Mi Piace

In tal caso, dalla mia limitata esperienza nel vedere e rivedere le sovvenzioni per la NSF, chiedi quanti più soldi pensi di poter ottenere. :slight_smile:

Puoi fare alcune stime approssimative, quindi inizieresti con

(Potresti voler ottenere i tuoi prezzi da ChatGPT per la proposta :slight_smile: )

Quindi, se una cosa da 750 parole costa $0,0002, quante di queste ti servono per fare qualunque cosa tu stia proponendo? A meno che tu non stia proponendo “accendi chatGPT su un forum e vedi cosa succede”, allora dovresti avere un’idea di cosa ti aspetti. Ma se stai solo facendo qualcosa di esplorativo, allora calcola quanto le linee guida dicono che puoi spendere per le risorse computazionali (ad esempio, budget totale meno personale e spese generali) e usa quel numero. :person_shrugging:

4 Mi Piace

Grazie Jay. Linee guida molto vaghe, quindi dovrò fare delle stime e arrotondare un po’ per eccesso.

3 Mi Piace