Você pode escrever um script para procurar por processos em execução em tty0 ou ttyS0 ou onde quer que seja um login de raiz prioritário e definir esses processos para uma prioridade de agendamento em tempo real. O script em si deve ser iniciado com uma prioridade em tempo real.
Obter acesso à memória durante uma tempestade de troca é uma tarefa mais difícil. Você pode usar cgroups do Linux. Você pode escrever um programa em C em vez de um script e usar o mlockall para bloquear sua memória na RAM. Então esse programa pode usar o ptrace para cutucar outros processos e forçá-los a chamar o mlockall. Você pode usar isso para obter um shell bash que não será afetado pelo swap.
A menos que você seja um programador ou encontre alguém que já tenha escrito isso (eu não), o cgroups é provavelmente uma maneira mais fácil de reservar alguma memória de alta prioridade.