Necesitas tener acceso al servidor donde se está ejecutando Discourse. Si estás alojado en algún lugar, deberás pedirle a quien administre el servidor que haga esto por ti.
cd /var/discourse
./launcher enter app
rails c
SiteSetting.max_category_nesting = 3
exit
exit