Es ist immer ratsam, eine Swap-Partition zu haben. Es ist eine sehr gute Idee, dem Kernel die Überbelegung (Overcommit) zu erlauben. Dies kann Ihren Spitzenbedarf an Arbeitsspeicher erheblich reduzieren.
Klären Sie diese beiden Punkte und versuchen Sie es dann erneut. Für Overcommit siehe
Zur Diagnose könnte es hilfreich sein, dmesg auf OOM-Ereignisse zu überprüfen, was Sie im Nachhinein tun können, und außerdem vmstat zum Zeitpunkt des Stillstands auszuführen.