Não, você precisa usar BBCode. Você pode aninhar, mas apenas se fizer sentido (não muito diferente do HTML). Pode haver alguns códigos não implementados.
Meu plugin Discourse Frotz usa aninhamento com sucesso para combinar fonte, cor e cor de fundo. Observe a letra ‘N’ vermelha na bússola na captura de tela.
Você precisará perguntar ao seu provedor de hospedagem se eles podem instalar esse plugin oficial.