Насколько я понимаю и что подтвердил в ходе тестирования, настройка recompress original jpg quality всегда приводит к ресемплингу изображения, если её значение ниже 100.
max image size kb запускает ресемплинг, если размер изображения превышает это значение, даже если предыдущая настройка установлена на 100. Оба этих процесса происходят на стороне сервера.
composer media optimization image enabled работает на стороне клиента и выполняет ресемплинг изображения ещё до его загрузки. Я отключил эту настройку, так как она удаляет метаданные; возможно, в вашем случае она также выполняет ресемплинг.