Eu tenho ambos no mesmo servidor e, portanto, o mesmo IP. Esse é o problema? Preciso de dois servidores para esse tipo de configuração? A documentação dizia que o forum.domain.com deveria ter o mesmo IP que o domain.com.
Existe uma maneira de fazer isso sem usar dois servidores? Meu cliente provavelmente não quer pagar para rodar um segundo servidor para o que ele considera ser um único site.