Parece que você precisa de profilers de software, por exemplo: para memória eu uso o maciço valgrind com o linuxtools no eclipse.
Se você não está restrito pelo sistema / gpl tente o dtrace em solaris / sunos se não tentar systemtap (eclipse + linuxtools) ou gprof se você tiver código-fonte.