Tendo assistido a um sistema morrer lentamente devido a um vazamento de memória, posso confirmar que a memória livre é sempre necessária. O UNIX / Linux requer alguma memória livre para carregar programas. O Unix tende a fazer muita criação de processos e usa memória livre para carregar esses programas. Se você não tiver memória livre, a execução do processo será muito lenta, pois a memória precisará ser recuperada antes que o programa possa ser recarregado.
A memória compartilhada ajuda muito, pois muitos programas podem usar as mesmas páginas de memória somente leitura. No entanto, as páginas graváveis precisam ser alocadas em uma base por processo. Os buffers de disco também ajudam, pois o código necessário pode já estar na memória.
Para programas de longa duração, tudo bem se o código de inicialização e desligamento for paginado. Isto assume que as páginas de memória para este código não são compartilhadas pelo código que é usado ativamente. Alguns programas raramente usam código que pode ser trocado. Programas que são executados raramente também podem ser trocados com impacto mínimo.
Uma vez que você comece a trocar ativamente as páginas por dentro e por fora do desempenho da memória, será degradado severamente.