Não se preocupe com isso. As otimizações de cache executadas no kernel do Linux e confiam em mim, quando for necessário armazenar os dados em cache, elas serão armazenadas em cache. Execute o sistema por alguns dias e veja o que acontece então.
Observe também que o sistema não possui poderes precognitivos e dificilmente pode armazenar em cache todo o seu disco rígido, assim, quando você executar um programa pela primeira vez, ele não será armazenado em cache.
Se você está com muita RAM livre em mãos e um aplicativo específico que depende de tempos de leitura e acesso ultrabaixos, sempre é possível construir um disco de RAM. Normalmente, dificilmente vale a pena um esforço.