Acabei de corrigir um problema semelhante em um dos nossos servidores. Por alguma razão, a VM que rodamos o Jenkins estava usando uma configuração de memória pequena e a partição de swap não estava sendo usada atualmente. Meu palpite é que, em algum momento, Java tenta alocar uma grande quantidade de memória e é morto pela tarefa OOM.
Depois de se certificar de que a partição virtual foi ativada através de uma entrada fstab, o problema desapareceu.
TLDR: você precisa de mais memória virtual ou física.