L'aggiunta di più file persona aumenta i costi delle richieste LLM?

L’aumento dei costi è controllato tramite le seguenti due impostazioni in Persona:

  • Token di caricamento dei blocchi
  • Ricerca di blocchi di conversazione

Quando si utilizza una persona con file, verranno utilizzati

Token di caricamento dei blocchi * Blocchi di conversazione di ricerca

token aggiuntivi. È possibile modificare questi valori per controllare il rapporto costo/qualità.

3 Mi Piace