Они не учатся. Это верно для моделей OpenAI, я не знаю про другие. Бот может использовать предоставленную информацию или нет — в зависимости от токенов, алгоритма и некоторых других мистических вещей.
Но мы можем направить его в нужном направлении. И всё же примерно после пяти ответов он уже забывает об этом.