É por isso que os LLMs dividem os prompts em sistema e usuário, para haver uma diferenciação entre entradas seguras e inseguras.
Mas sim, essa é uma possibilidade, especialmente entre modelos menores e mais antigos.
2 curtidas