Espere, por que você instalou o nginx? A instalação padrão falhará se já houver algo no host usando a porta 80.
Em um novo droplet da Digital Ocean, não fiz nada que não estivesse no guia de instalação oficial, e funcionou bem. Deixei o instalador do Discourse instalar o docker para mim e tudo mais.
Tentar reproduzir isso está se mostrando complicado.