A resposta vinculada O how-do-you-empty-the-buffers-and-cache-on-linux-system mostra como liberar seus caches (pagecache, dentries e inodes). Você precisaria fazer essa atividade de liberação repetidamente, talvez do cron. Eu não sei se funcionaria do jeito que você quer em um container OpenVZ, porque o gerenciamento de memória do OpenVZ parece complexo (ou talvez não documentado bem o suficiente). Não pretendo criticar o OpenVZ; é uma ótima solução de virtualização e pode espremer vários sistemas em um servidor físico.
Cool, linux-ftools pode ajudá-lo a ver quantas páginas de cache estão sendo usadas por arquivo.
Você também pode experimentar o swappiness e defini-lo como 100 para troca agressiva.