A maneira usual de fazer isso é deixar o sistema rodar até que a utilização da troca seja evidentemente maior do que "deveria" ser. Depois que você puder ver o problema, execute top , classifique por Tamanho da memória virtual (às vezes chamado de Size ou VIRT no Linux - O cara com a maior diferença entre tamanho da VM e tamanho de residente ( RES ) é geralmente seu culpado.
A melhor maneira de saber com certeza é ter certeza de que é seguro e então matar o processo - Se o seu swap de repente liberar, você encontrou seu vazamento.