Тестируете перенаправление через тестового пользователя или через свою учётную запись администратора? У администратора будет доступ к удалённой теме, поэтому он попадёт на неё, а обычный пользователь должен следовать перенаправлению, которое вы настроили в постоянных ссылках. 