Depende da sua aplicação e tolerância para falhas.
Se você estiver executando um banco de dados oracle para uma empresa financeira, precisará de servidores caros com partes de hot-swap e redundância interna (fontes de alimentação, discos, até mesmo cpu e memória).
Se for um servidor web ou servidores de computação com armazenamento NAS, vá barato (no servidor, não no NAS), desde que você possa tolerar a perda de uma caixa sem muito impacto.
Não fique tão barato que você esteja constantemente substituindo hardware ruim.
A regra geral para mim tem sido usar o raid para proteger seus dados importantes baseados em disco, mas comprar hardware barato para computadores e web farms. Obtenha um bom balanceador de carga que possa detectar quando um servidor da Web não está respondendo e o marque off-line.
Experiências da vida real:
Ruim: Executar o oracle em hardware de commodity foi uma solução barata que conseguimos reunir muito rapidamente, mas um ventilador ruim da CPU causou uma falha no servidor que nos forçou a restaurar o Oracle da fita (ugh!).
Bom: Substituímos duas máquinas altamente redundantes de alta tecnologia por 70 servidores de montagem em rack. Fomos capazes de largar a manutenção nas duas máquinas e começamos a comprar apenas $ 2500 'spares'. Em cerca de dois anos, acho que usamos apenas cerca de seis das "peças de reposição" (o verdadeiro desafio era evitar a distribuição de peças para outros fins).