Was passiert mit Übersetzungen, wenn sich LLM ändert?

[RBoy]

Wenn ich das LLM ändere, werden dann alle Beiträge neu übersetzt?

Ich habe ein auf Groq gehostetes LLM verwendet, das etwa zu 95 % fertig war, als ich Fehler erhielt. Nach der Untersuchung stellte ich fest, dass Groq das von mir verwendete Modell veraltet hatte. Daraufhin habe ich ein neues Modell in Groq eingerichtet und die Modellparameter in Discourse aktualisiert.

Ich sehe, dass Discourse nun mit dem aktualisierten Übersetzungs-LLM täglich Millionen von Tokens verbraucht, aber die Fortschrittsanzeige auf der Übersetzungsstatusseite macht keinerlei Fortschritte (steckt immer noch bei 95 %).

Ich versuche also herauszufinden, was passiert, wenn sich die LLM-Parameter ändern. Startet es die Übersetzungen dann komplett von vorne? Falls ja, gibt es eine Möglichkeit, dies zu verhindern und einfach dort fortzufahren, wo es aufgehört hat?

[eisammy (Sammy)]

Das hängt davon ab. Wenn Sie beispielsweise mit einem Gemini-Modell übersetzen und dann zu einem anderen wechseln, erstellen Sie einen neuen Wortcache. In meiner Erfahrung bevorzuge ich drei Routen: zwei mit demselben Modell. Ich habe jetzt ein Gemini Flash Lite für neue Inhalte aktiviert, und bisher gab es keine Probleme.

[Falco]

@RBoy

Ich versuche also herauszufinden, was passiert, wenn sich die LLM-Parameter ändern? Beginnt es die Übersetzungen komplett von vorne? Wenn ja, gibt es eine Möglichkeit, das zu verhindern und einfach dort weiterzumachen, wo es aufgehört hat?

Ältere Übersetzungen werden beibehalten; das neue LLM führt nur Übersetzungen für den noch nicht übersetzten Teil durch.