Anche i commenti HTML saranno inclusi nel riepilogo.
Poiché gli utenti che visualizzano il riepilogo probabilmente non potranno vedere i commenti, penso che sia meglio escluderli dal riepilogo.
3 Mi Piace
Mi scusi. Ho notato il commento perché le prestazioni del modello sono buone.
Il post include un esempio di commento HTML () per illustrare il problema. はこん
Contrassegnato come #wontfix, dato che non sono convinto che valga la pena del compromesso di un preprocessing aggiuntivo dei contenuti.
Se ti crea problemi nella tua istanza, puoi modificare la proprietà summary agent per istruirlo a ignorarli.
5 Mi Piace
Non introduce questo comportamento un canale nascosto attraverso il quale un post malizioso potrebbe essere in grado di influenzare il riepilogo senza alcun segno visibile che lo stia facendo?
3 Mi Piace
Ecco perché gli LLM dividono i prompt in sistema e utente, così da distinguere tra input sicuri e non sicuri.
Ma sì, è una possibilità, specialmente tra i modelli più piccoli e più vecchi.
2 Mi Piace
Ma, per quanto ne sappia, tutto ciò non è un meccanismo, è (al meglio) un’influenza. Da qui i jailbreak incessanti. Quindi, importa davvero quale testo viene mostrato all’LLM, se ti preoccupi di quello che esce fuori.