Um weitere Informationen hinzuzufügen, habe ich Anzahl der Tokens für den Prompt gemäß der Empfehlung (64000, was 50 % des 128K-Kontextfensters entspricht) eingestellt. Aber ich bin mir nicht sicher, ob das eine Rolle spielt.
Um weitere Informationen hinzuzufügen, habe ich Anzahl der Tokens für den Prompt gemäß der Empfehlung (64000, was 50 % des 128K-Kontextfensters entspricht) eingestellt. Aber ich bin mir nicht sicher, ob das eine Rolle spielt.