Именно поэтому LLM разделяют промпты на системные и пользовательские, чтобы провести различие между безопасными и небезопасными вводимыми данными.
Но да, такая возможность существует, особенно среди более старых и небольших моделей.
2 лайка