Cosa succede alle traduzioni quando cambia l'LLM?

[RBoy]

Se cambio il LLM, tutti i post vengono rtradotti?

Stavo utilizzando un LLM ospitato su Groq; era circa al 95% di completamento quando ho iniziato a ricevere errori. Dopo aver indagato, ho scoperto che Groq aveva deprecato il modello che stavo usando. Quindi ho configurato un nuovo modello su Groq e aggiornato i parametri del modello in Discourse.

Osservo che Discourse sta ora utilizzando milioni di token con il nuovo LLM per la traduzione ogni singolo giorno, ma la barra di avanzamento nella pagina di stato delle traduzioni non progredisce affatto (è ancora bloccata al 95%).

Quindi sto cercando di capire cosa succede quando cambiano i parametri del LLM: ricomincia le traduzioni da zero? Se è così, c’è qualche modo per impedirlo e riprendere semplicemente da dove si era interrotto?

[eisammy (Sammy)]

Dipende, ad esempio, se traduci usando un modello Gemini e poi passi a un altro, creerai una nuova cache di parole. Nella mia esperienza, preferisco mantenere tre rotte: due con lo stesso modello e ora ho attivato un Gemini Flash Lite per i nuovi contenuti, e finora nessun problema.

[Falco]

@RBoy

Quindi sto cercando di capire cosa succede quando cambiano i parametri dell’LLM? Riparte da zero con le traduzioni? Se è così, c’è un modo per evitare che lo faccia e riprendere semplicemente da dove si era interrotto?

Le traduzioni vecchie vengono mantenute; il nuovo LLM eseguirà traduzioni solo per ciò che non è stato ancora tradotto.