¡Gracias por tu tema cuidadosamente pensado!
Te entiendo, en el fondo, algo que claramente se necesita a medio plazo es un concepto de “cuotas”.
Elige LLM → establece una cuota para el grupo (cuántos tokens se les permite por día, ya que todo se factura por tokens)
Esto te permite abrir funciones de IA, de forma segura, a grupos más grandes sin preocuparte por la quiebra.
Creo que llegaremos allí, pero aún no está programado.
Sin embargo, en el lado positivo, hemos hecho mucho trabajo recientemente para normalizar nuestras interfaces de LLM, por lo que será mucho más práctico y sencillo de construir de lo que era en el pasado.