Que deviennent les traductions lorsque le LLM change ?

Soutien
1

Si je change le LLM, tous les messages sont-ils retraduits ?

J’utilisais un LLM hébergé sur Groq ; il était à environ 95 % d’achèvement lorsque j’ai commencé à rencontrer des erreurs. Après enquête, j’ai réalisé que Groq avait déprécié le modèle que j’utilisais. J’ai donc configuré un nouveau modèle sur Groq, puis mis à jour les paramètres du modèle dans Discourse.

Je constate que Discourse utilise désormais des millions de jetons chaque jour avec le LLM de traduction mis à jour, mais la barre de progression sur la page d’état des traductions n’avance pas du tout (elle reste bloquée à 95 %).

Je cherche donc à comprendre ce qui se passe lorsque les paramètres du LLM changent. Les traductions repartent-elles de zéro ? Si oui, existe-t-il un moyen d’empêcher cela et de reprendre là où on s’était arrêté ?

2

Cela dépend, par exemple, si vous traduisez en utilisant un modèle Gemini puis que vous passez à un autre, vous créerez un nouveau cache de mots. D’après mon expérience, je préfère maintenir trois routes : deux avec le même modèle, et j’ai maintenant activé un Gemini Flash Lite pour les nouveaux contenus, jusqu’ici sans problème.

3

Les anciennes traductions sont conservées ; le nouveau LLM ne traduira que ce qui n’a pas encore été traduit.