As alterações feitas nos temas não são visíveis para usuários deslogados.
Passos para reproduzir:
Editar um tema:
Adicionar algum código a Common > After Header:
Salvar as alterações.
Visualização logado:
Visualização deslogado:
Não é porque este não é o tema padrão, como mostrado na primeira captura de tela?
Usuários não logados recebem o tema padrão.
Parece que eu não tinha marcado nenhum dos dois temas para serem ativados por padrão 
Obrigado @Falco 