O meu é um fórum de futebol e já enfrentei desafios semelhantes.
Basicamente, o que percebi é que se trata de um problema de escalabilidade.
Os problemas começaram a surgir em diferentes níveis.
Digital Ocean
1 CPU e 1 GB = 30 a 40 usuários em situação de chat
2 CPUs e 2 GB = 70 a 80 usuários em situação de chat
4 CPUs e 8 GB = adequado para 120 usuários e 1.000 posts em 2 horas. Não atingi o limite.
Estou testando níveis de upgrade diferentes com a Hetzner (site espelho), por ser mais barata, mas as coisas não correram tão bem quanto esperado.
Minha experiência até agora é:
3 CPUs (chip AMD CPX 21) e 4 GB = com dificuldades com 20 usuários
2 CPUs (Intel) e 8 GB = sem problemas com 20 usuários.
Estou prestes a testar com 80 a 100 usuários simultâneos sob condições de partida.
Quando analisei o uso de CPU na Digital Ocean, mesmo sob estresse, o uso da CPU parecia bastante baixo, sempre abaixo de 50% em todos os níveis.
Quando analisei a CPU da Hetzner para o chip AMD, observei um uso mediano de CPU de cerca de 60%, mas a cada minuto ou mais ocorria um pico curto de até 300% de uso de CPU. Isso não pareceu ocorrer com o chip Intel.
O que isso significa, não sei. Suspeito que o monitoramento de CPU seja melhor na Hetzner (capturando picos curtos). Mas, no geral, o uso de CPU parece bem equilibrado. A Digital Ocean, à primeira vista, parece lidar melhor com picos, mas terei mais informações sobre a Hetzner após este fim de semana.