Você configurou os dois parâmetros ajustáveis do kernel? Eles afetarão a quantidade de memória virtual necessária.