Eu já vi o mesmo problema algumas vezes em nossos servidores. A questão que percebemos é que a memória RAM na máquina fica completamente cheia e nenhuma memória RAM fica no servidor, e o servidor fica bloqueado e não responde, mas ainda consegue fazer ping.
Uma vez que poucos processos liberam alguma RAM, tudo volta ao normal. Às vezes, tivemos que reiniciar a máquina para recuperá-la no estado funcional.
Para verificar o mesmo, você deve começar a monitorar sua máquina com o sar, que lhe dará uma idéia sobre o uso da RAM e a tendência, e você poderá obter uma prova se realmente é o problema.
Como alternativa, você também pode ter o comando top sendo executado em um console, para que você possa ter uma ideia dos recursos sendo usados quando o servidor trava. Essa será uma verificação rápida, mas você precisa estar na frente do console quando isso acontecer.