Você pode ter RAM disponível, mas ainda assim ficar sem swap. Eu acredito que isso poderia ser o que você está experimentando. Investigue com swap -s
.
Como uma segunda idéia, o problema pode ser devido ao fato de não haver memória suficiente contígua , embora pareça bastante estranho se o SO não puder encontrar 10 GB de memória livre contígua quando parecer para > 100 GB gratuitos.