Eu usei o hprof antes do qual junto com o JRE. Ele faz o monitoramento HEAP e CPU. Eu costumo usá-lo para monitorar o uso da CPU e verificar qual segmento está tomando a maioria da CPU. link
Eu também usei o JProbe antes, que é um software comercial. link