Bem, embora eu não seja um especialista, estou pendente de compartilhar minhas últimas descobertas no Discourse. Principalmente baseadas em tentativa e erro 
Com prazer compartilharei essas informações após finalizá-las e quando eu tiver tempo para isso. O ponto do auto-hospedamento (self-hosting) é que cada servidor é gerenciado pessoalmente, portanto, as configurações de segurança variam de um servidor para outro.
No meu caso, uso o Nginx como proxy reverso; outros usam Nginx Proxy, Caddy, Traefik, e assim por diante. Além disso, alguns de nós preferem usar uma rede compartilhada do Docker, enquanto outros usam sua bridge nativa (para que todas as aplicações possam ver umas às outras).
A coisa mais importante ao hospedar o Livekit é definir os segredos (secrets), definir as permissões corretas e endurecer o template que o Docker usa, para limitar tudo o quanto for possível. Como é uma rede pública e o próprio projeto está em estágios iniciais de desenvolvimento, é melhor prevenir do que remediar.
Acho que eles oferecem um serviço em nuvem, mas o auto-hospedamento é muito mais do que um site (!)
O LiveKit é composto por várias camadas: serviços de API, roteamento para descoberta de nós, um RTC central que gerencia salas e participantes, processamento de multimídia (SFU) que lida com o encaminhamento RTP e streaming adaptativo, armazenamento para cache (como o Redis) e uma camada de infraestrutura que inclui telemetria e configuração.
Talvez alguém da equipe do Discourse ou um usuário mais experiente possa me corrigir se eu estiver errado, mas entendo que, neste caso, seria necessário (ou uma ferramenta semelhante) ter os subdomínios necessários para conectar.
De qualquer forma, você também poderia fazer isso internamente, mas, para certas ações, são necessários certificados e os gerados localmente nem sempre funcionam.