A un mínimo de $5 adicionales en costos de electricidad por mes para la GPU en reposo, aunque en realidad, el costo incremental para Discourse es cero ya que ya ejecuto el LLM para otros propósitos.
Pero, sin duda, sería más económico para foros pequeños y de bajo uso utilizar un LLM como servicio. Sin embargo, para la escala de la oferta alojada de Discourse, sospecho que podría tener sentido alojarlo internamente (y también desarrollar conocimientos en esta área que probablemente será importante).