Não compre uma caixa maior
A veiculação da Web (ao contrário da veiculação de banco de dados) obtém muito mais benefícios da adição de vários servidores pequenos no lugar de um grande servidor - e, como você já está realizando várias sondagens longas sobre HTTP, isso é especialmente verdadeiro. Cada vez mais os problemas se tornam aqueles do número de conexões abertas, o número de processos em execução, o tamanho dos buffers de rede, a taxa na qual o sistema pode alternar contextos ...
Então, sair e gastar, digamos, US $ 4k em dois servidores proporcionará uma solução significativamente mais rápida do que gastar muito mais em um único servidor.
Existe um enorme benefício adicional - digamos que a disponibilidade do seu servidor é de 99% - assumindo que não há dependências compartilhadas, então a disponibilidade para 2 nós é de 100-100 * (0,01 * 0,01) = 99,99% - é quase uma centena de vezes mais confiável.
Embora seja possível que você possa acelerar o seu sistema atual de forma massiva ajustando-o, precisaríamos saber muito mais sobre a natureza da carga de trabalho e a configuração atual - e, mesmo assim, isso exigiria muito trabalho e testes para obter uma solução ideal - existem alguns bons livros sobre o assunto - leia alguns deles.
Tendo dito isso, às vezes, atualizar (ou adicionar de preferência) o hardware é a única solução - e muitas vezes pode ser a solução mais econômica antes de você ter esgotado o esforço de ajuste.