Sobre el uso de recursos externos, ¿puedes ejecutar tu LLM localmente si quieres?:
¿Pero has hecho esto para algún proyecto?
¡Requiere que poseas o alquiles hardware particularmente impresionante!
Prueba los modelos de lenguaje más pequeños (que podrías considerar alojar) tú mismo y mira qué tan impresionado estás:
Tu experiencia puede variar, pero en mi opinión, necesitarías considerar alojar un modelo con al menos 70 mil millones de parámetros, lo que será bastante costoso de autoalojar.
Como referencia, se supone que GPT 3.5 es un modelo de 175 mil millones de parámetros y GPT 4 tiene casi 2 billones (dicen) 
Escribí este plugin:
Y tiene una función de etiquetado de IA. En mi experiencia, necesitas GPT 4 Turbo para que funcione bien (¡y funciona muy bien entonces!).
Si tuvieras la intención de autoalojar algo tan potente como esos, necesitarías bolsillos muy profundos.
Es por eso que el uso de una API externa de LLM sigue siendo una opción atractiva de pago por uso, especialmente porque solo pagas por las llamadas que realizas, no por una infraestructura costosa que pasa tiempo inactiva sin usarse.
Por supuesto, si la privacidad es una preocupación importante y suficiente, esto podría cambiar los cálculos.