In this case, is the free 8 GB utilized for someother purpose?
Se for possível, sim. Tornar a RAM livre é um custo puro para o sistema operacional - ela só precisa ser usada novamente para usá-la. A menos que o sistema operacional não tenha escolha, ele usará a RAM para outra finalidade. O uso mais comum são dados que foram recentemente lidos ou gravados no disco. Ao mantê-lo na memória, o sistema operacional evita o incômodo de ter que liberá-lo apenas para usá-lo novamente, e se os mesmos dados forem necessários, ele salvará uma operação de leitura de disco.
Now is it possible to add 5 new application servers each allocated 2 B JVM. In other words, what is the relation between RAM and JVM. Can the sum of JVM added exceed the RAM?
Claro. As JVMs estão alocando memória virtual, não memória física. O SO atribuirá memória física à memória virtual como necessário e eficiente. Sistemas operacionais modernos podem permitir que o consumo de memória virtual exceda significativamente a memória física. Isso pode ou não levar a um desempenho ruim, dependendo do tamanho do conjunto de trabalho - aproximadamente quanto da memória virtual é realmente acessada.