Может быть нехватка виртуальной памяти: попробуйте добавить оперативную память или добавить подкачку. (Ошибка при вилке с EAGAIN может быть нехваткой памяти)
Посмотрите на
free -h
vmstat 5 5
Есть два параметра ядра, которые могут повысить эффективность использования памяти
cat /proc/sys/vm/overcommit_memory
cat /sys/kernel/mm/transparent_hugepage/enabled