Se um processo iniciar a troca, ele é muito mal codificado e não libera RAM quando deveria ou seu servidor não tem RAM suficiente disponível para lidar com todas as tarefas que está executando atualmente e você deve expandir a capacidade de RAM.
Se essa não for realmente uma opção em termos de orçamento ou se a máquina já estiver com a capacidade máxima de RAM, você poderá agendar uma tarefa que elimine e reinicie o processo a cada hora (ou mais freqüente, se necessário). Note que isso deve ser realmente uma solução temporária e de último recurso, já que não é realmente uma solução, mas apenas uma alternativa.
Quanto ao núcleo da sua pergunta, não há como evitar uma troca de programa. É o comportamento básico do sistema operacional quando um processo fica sem memória física para evitar que a sua máquina falhe.