JP, Acredito que o seu comentário de que este é um servidor de teste de compilação / unidade automatizado que está executando menos que um código estável diz tudo. Meu palpite é que esse servidor precisa ser reinicializado com freqüência por causa do código instável em execução nele, provavelmente, tem vazamentos de memória que estão dando a você os sintomas que você está vendo. Os vazamentos de memória não serão listados em nenhuma das árvores de processo dos processos em execução, pois são a memória capturada por processos que não existem mais e ainda são alocados, mesmo que o processo associado a eles tenha desaparecido há muito tempo.
Obtenha uma janela de manutenção freqüente para permitir a reinicialização automática da máquina, talvez todas as noites, algumas vezes por semana ou semanalmente, dependendo da velocidade com que esse comportamento começa a exibir problemas de desempenho.
Temos servidores Oracle Application Servers no Windoze há algum tempo que precisavam ser reinicializados duas vezes ao dia. Nós expulsamos os usuários na hora do almoço, e no meio da noite todos os dias. Isso foi há alguns anos atrás, com o código de produção supostamente estável da Oracle.