HTML-Kommentare werden ebenfalls in der Zusammenfassung enthalten sein.
Da die Benutzer, die die Zusammenfassung ansehen, wahrscheinlich nicht in der Lage sein werden, die Kommentare zu sehen, halte ich es für am besten, die Kommentare von der Zusammenfassung auszuschließen.
3 „Gefällt mir“
Entschuldigung. Ich habe den Kommentar bemerkt, weil die Leistung des Modells gut ist.
Der Beitrag enthält ein Beispiel für einen HTML-Kommentar (), um das Problem zu veranschaulichen. はこん
Als #wontfix markiert, da ich nicht überzeugt bin, dass dies den Aufwand für zusätzliche Vorverarbeitung der Inhalte rechtfertigt.
Wenn es dich in deiner Instanz stört, kannst du die Eigenschaft des Zusammenfassungs-Agents ändern, um ihm zu befehlen, diese zu ignorieren.
5 „Gefällt mir“
Führt dieses Verhalten nicht zu einem versteckten Kanal, über den ein bösartiger Beitrag die Zusammenfassung beeinflussen könnte, ohne dass dies sichtbar wird?
3 „Gefällt mir“
Deshalb unterteilen LLMs Prompts in System- und Nutzereingaben, um zwischen sicheren und unsicheren Eingaben zu unterscheiden.
Aber ja, das ist eine Möglichkeit, insbesondere bei kleineren und älteren Modellen.
2 „Gefällt mir“
Aber wie ich es verstehe, ist das kein Mechanismus, sondern (im besten Fall) ein Einfluss. Deshalb gibt es immer wieder Jailbreaks. Es kommt also darauf an, welcher Text dem LLM angezeigt wird, wenn einem das Ergebnis wichtig ist.