Parece que você está tentando resolver dois problemas ao mesmo tempo?
Desativar a compressão de imagem é feito alterando Administrador - Configurações - Arquivos - recompress original jpg quality para 100.
O outro problema é sobre o tamanho do arquivo de upload.
Você pode, por favor, postar o erro exato?
Funciona com essa configuração ativada?