Dado que Docker en Windows es una VM de Linux, técnicamente podrías iniciar un contenedor Ubuntu genérico y luego seguir Instalar Discourse en Ubuntu o Debian para Desarrollo.
La persistencia sería un poco incómoda, pero dependiendo de tus necesidades es mejor que nada.