Você precisa ajustar a quantidade de workers e o buffer do banco de dados. Portanto, as opções que você precisaria ajustar seriam:
db_shared_buffersUNICORN_WORKERS
Aqui você pode ver as estimativas de uso por Unicorn
O Discourse consegue rodar com 512 MB de RAM; não é uma experiência ideal, mas é possível. Seu problema é que o Discourse avalia os recursos do servidor (como todo o nó) e planeja o uso de recursos para aproveitar o máximo possível, pois o Discourse parte do pressuposto de que rodará sozinho.