Discourse AI — руководство по самостоятельному размещению

Хорошо, я попытался это рассчитать:

Прикидочные оценки:

API ChatGPTv4

  • $0.0008 за 100 слов
  • 1 пользователь в среднем использует около 100 слов (или токенов) в день на каждом модуле ИИ
  • Запуск всех 6 модулей ИИ
    $0.0008 * 6 = $0.0048

Общая ежемесячная стоимость на одного пользователя: $0.0048 * 30 = $0.144

Минимальные требования к серверу для самостоятельного размещения составляют примерно:

  • 16 ГБ свободной оперативной памяти (предпочтительно 32 ГБ)
  • Процессор с частотой 3.5 ГГц или выше и 8 ядрами или более
  • 100 ГБ SSD

Сервер с наименьшей стоимостью, отвечающий этим требованиям в Digital Ocean:

  • 16 ГБ ОЗУ
  • 8 премиальных виртуальных ядер Intel (более 3.5 ГГц)
  • Пропускная способность: 6,000 ГиБ
  • SSD: 2 × 200 ГиБ
  • Ежемесячная стоимость: $244.00

Таким образом, самостоятельное размещение ChatGPT4 будет более экономически эффективным, чем использование его API-сервиса, когда в Discourse насчитывается около 2,000 активных пользователей в месяц.

С учетом довольно приблизительных и щедрых округлений. Звучит это примерно правильно, @Falco?

1 лайк