Los comentarios de HTML también se incluirán en el resumen.
Dado que los usuarios que consulten el resumen probablemente no podrán ver los comentarios, creo que lo mejor sería excluirlos del resumen.
3 Me gusta
Perdón. Noté el comentario porque el rendimiento del modelo es bueno.
La publicación incluye un ejemplo de comentario HTML (<!-- Discourse es genial! > ) para ilustrar el problema. はこん
Marcado como #wontfix, ya que no estoy convencido de que valga la pena el compromiso de un procesamiento previo adicional.
Si te molesta en tu instancia, puedes cambiar la propiedad del agente de resumen para indicarle que ignore eso.
5 Me gusta
¿No introduce este comportamiento un canal oculto por el cual una publicación maliciosa podría influir en el resumen sin ningún signo visible de que lo está haciendo?
3 Me gusta
Esa es la razón por la que los LLMs dividen los prompts en sistema y usuario, para que haya diferenciación entre entradas seguras y no seguras.
Pero sí, esa es una posibilidad, especialmente entre modelos más pequeños y antiguos.
2 Me gusta
Pero según entiendo, nada de esto es un mecanismo, es (en el mejor de los casos) una influencia. De ahí los incesantes jailbreaks. Así que sí importa qué texto se le muestra al LLM, si te importa lo que sale.