O Qmail pode falhar se o Apache mantiver toda a memória disponível e o Qmail tentar bifurcar, o que deixaria de alocar a memória necessária. Isso pode fazer com que o processo pai também morra.
Do que eu vi no passado (E isso pode não ser verdade no seu caso) a alta utilização de memória no Apache também pode vir de scripts PHP ou CGI que o Apache executa. Verifique o uso de memória máxima em seu php.ini para ver se ele está definido para o valor sane. Tenha em mente que (até onde eu me lembro) um máximo de 64MB em php.ini é 64MB por script de execução, então se você tiver 10 threads do Apache que executam um script que usa o máximo de memória, isso pode causar problemas.
Existem algumas outras mensagens de falha de servidor que possuem boas informações nelas aqui:
Uso pesado de memória do Apache