... por onde começar.
É normal que o seu site esteja realmente ocupado e você possa justificar o uso. No entanto, é provável que você tenha algumas consultas não-otimizadas e estruturas de tabela ruins que estão causando a maior parte da sua dor.
Eu provavelmente começaria a olhar para mysqladmin processlist
para ver quais consultas estão sendo executadas por mais tempo e começar a otimizar a partir daí.
Você também pode habilitar o log de consultas lentas no MySQL para obter uma ideia de longo prazo do que está acontecendo e quais consultas estão causando a dor.
Para consertar isso de forma abrangente, você realmente precisa colocar seu chapéu de DBA e ir de lá. Se você não tem o conhecimento ou as habilidades nessa área, talvez seja mais fácil obter um DBA com base em contrato para analisar isso e fornecer recomendações.
Infelizmente, a resolução abrangente requer tempo, conhecimento e experiência do conjunto de dados existente.