Quando a JVM é iniciada, é necessária alguma memória do sistema operacional. Essa é a quantidade de memória que você vê em ferramentas como ps e top.
Em seguida, seus aplicativos começam a usar essa memória: essa é a memória que você vê com seu código e ferramentas como jstat.
Então, se você quiser depurar o vazamento de memória dentro do seu aplicativo, não quer usar top ou ps.