tudo depende ... do tamanho do seu conjunto de dados, padrão de uso.
Avalie a experiência do usuário final. defina um tempo de carregamento de página aceitável, teste a cada 5-10 minutos, traça gráficos. tudo depende do que sua empresa pode tolerar e quando se torna inaceitável.
habilite o slow_query no mysql, provavelmente você não quer ter mais de 5-10 consultas por dia que demore mais de 10 segundos. ou talvez você tenha algum relato noturno e possa tolerar isso?
provavelmente você quer gerar algumas estatísticas - por exemplo, com munin com o uso da cpu, iostats, carga do sistema, tráfego de rede, número de processess http, número de threads mysql, tempo de geração de páginas e ver como isso muda durante o dia / semana. você pode identificar o horário de pico com isso e pode ver como, por exemplo, adicionar mais memória / ajuste, o mysql altera o tempo de carregamento da sua página.
no seu caso, média de carregamento > 2 ou 3 significa que o sistema está sobrecarregado [mas isso é altamente discutível]
veja aqui para ver algumas dicas.