Acredito que a correção adequada aqui é não exigir o nome do grupo com inicial maiúscula nos parâmetros da URL. Isso foi feito via:
Note que navegar para /u/username/messages/group/groupname dispara uma requisição AJAX para /topics/private-messages-group/username/groupname, então o que @angus fez acima para depurar esse problema parece correto.
Obrigado por relatar esse problema, @RGJ 