É algo bem avançado de se fazer. Não recomendo.
Você pode dar uma olhada em Configurar o Discourse em um servidor com sites Apache existentes. Esse é o guia passo a passo que você procura, mas receio que os passos serão difíceis de entender se você acabou de começar com essas coisas.
Se você conseguir mover com sucesso seus servidores de hospedagem regular para seu próprio servidor, então poderá considerar tentar adicionar o Discourse à mistura.
Além disso, eu não tentaria sem pelo menos 4 GB de RAM.