Eu diria começar com top
. Isso vai dizer quanta carga sua CPU está recebendo e quanta RAM você está usando; esses são seus dois limites reais para "recursos se esgotando". Você pode usar o Google Analytics ou um serviço semelhante para informar a que horas do dia recebe mais visitas e pode assistir top
para ter uma ideia de como seu servidor está funcionando no máximo.
Ajustar a configuração do software pode lhe dar algum espaço para respirar ( esta página tem um bom script para otimizar o MySQL quando é hora de fazer que) e uso judicioso de cache (por exemplo, memcached) você pode obter mais se o seu tráfego é realmente espinhoso, mas se você está atingindo limites de recursos em uma base semanal, é hora de comprar IMHO.