Discourse AI - Selbstgehosteter Leitfaden

Okay, ich habe mich daran versucht:

Serviettenkalkulation:

ChatGPTv4 API

  • 0,0008 $ pro 100 Wörter
  • 1 Benutzer verwendet durchschnittlich etwa 100 Wörter (oder Tokens) pro Tag für jedes KI-Modul
  • Alle 6 KI-Module werden ausgeführt
    0,0008 * 6 = 0,0048

Gesamte monatliche Kosten pro Benutzer: 0,0048 * 30 = 0,144

Die minimalen Serveranforderungen für Self-Hosting liegen bei etwa:

  • 16 GB freier RAM, 32 bevorzugt
  • 3,5 GHz oder höherer CPU und 8 Kerne oder mehr
  • 100 GB SSD

Der kostengünstigste Server, der diese Anforderungen auf Digital Ocean erfüllt, ist:

  • 16 GB RAM
  • 8 Premium Intel vCPUs (über 3,5 GHz)
  • Bandbreite: 6.000 GiB
  • SSD: 2x 200 GiB
  • Monatliche Kosten: 244,00 $

Das Self-Hosting von ChatGPT4 wird also kostengünstiger sein als die Nutzung seines API-Dienstes, wenn Discourse etwa 2.000 aktive Benutzer pro Monat hat.

Mit einigen ziemlich wackeligen und großzügigen Rundungen. Klingt das ungefähr richtig @Falco

1 „Gefällt mir“