Я рекомендую установить на поддомен по очевидным причинам. forum.example.com — это вполне приемлемый вариант для размещения форума на вашем сайте.
Вы также можете выбрать путь с подпапкой, как предложил @pfaffman выше, но в любом случае вам понадобится сервер, отличный от вашего аккаунта на HostGator.
Для установки и управления Discourse вам понадобится VPS с root-доступом.
Надеюсь, это поможет.