É um pouco difícil de responder sem mais detalhes específicos: tipo de aplicativo (E / S vs cálculo intensivo vs aplicativo em rede), processos adicionais em execução e assim por diante.
Mas eu colocaria algumas sugestões genéricas:
-) Use o oprofile para tentar entender onde o sistema (e a aplicação específica) está na maior parte do tempo. Esta ferramenta é muito poderosa, mesmo que demore um pouco para extrapolar sua saída para complicar os aplicativos.
-) Use ferramentas como iostat, iotop, pidstat, vmstat para tentar analisar se há afunilamentos na seção de E / S ou consumo de memória / paginação e assim por diante.