Vários pedidos foram feitos aqui no Meta para que o Plugin de Matemática suportasse a tipografia de títulos. Aqui está apenas um exemplo. Como Falco aponta em sua resposta, no entanto:
Não suportamos a maioria das formatações em títulos, nem mesmo as mais simples, como negrito e itálico.
Para equações, elas podem facilmente quebrar a altura do post…
Compreendo e apoio totalmente a preferência do Discourse nesse aspecto. No entanto, como mantenedor de um fórum pequeno e puramente matemático, eu também gostaria de poder tipografar títulos matematicamente. Então, escrevi este pequeno componente de tema para fazer isso:
Notas
Como o nome sugere, este componente usa o KaTeX para tipografar os títulos. Não consegui fazer o MathJax funcionar corretamente, aparentemente devido a um conflito com a versão do MathJax presente no Plugin de Matemática. Há uma branch chamada add-mathjax, caso alguém queira tentar.
Como se trata de um componente de tema, e não de um plugin, minha impressão é que administradores de sites hospedados no Discourse também poderão utilizá-lo.