Não, não tenho conhecimento de nenhuma solução que permita fazer isso. Não tenho certeza se isso é possível sem grandes mudanças arquitetônicas; afinal de contas, o sistema operacional geralmente decide, caso a caso, quais dados trocar e quais manter na RAM. Não está claro para mim que tal restrição seria mesmo prática; de qualquer forma, isso provavelmente exigiria mudanças profundas no sistema operacional.
Contra-pergunta: Por que você acha que isso é necessário? O subsistema de memória virtual de um sistema operacional moderno foi ajustado para oferecer o melhor desempenho possível. O que te faz acreditar que você pode fazer melhor?
Além disso:
Se você realmente está tendo problemas de memória, basta comprar mais RAM. 4GB vão para cerca de US $ 100, apenas comprá-lo é provavelmente mais eficaz do que gastar horas no ajuste fino do subsistema da VM ...