Você certamente pode reutilizar um ou ambos os arrays RAID. Você também pode reutilizar a memória RAM se comprar a placa de sistema correta.
Eu, pessoalmente, compraria um PC totalmente novo menos a RAM e os discos rígidos e apenas canibalizaria esses componentes. Ambos os Xeons consomem 80 watts, então há bastante calor no caso se você usar os dois. Isso significa grandes fãs ou resfriamento líquido.
Lembre-se, vários discos rígidos de classe de servidor (como o seu array RAID 5) também geram muito calor. Há algum benefício na idéia de apenas colocar o sistema em um armário e usar cabos longos como Wil mencionou, ou simplesmente colocar a coisa toda em um rack em um data center em algum lugar e controlar remotamente a partir de um PC silencioso de baixa potência como o Acer Revo . Você poderia continuar usando o mesmo monitor e teclado também.
Um amigo meu é consultor de informática fazendo trabalho e programação de DBA, e ele faz a maior parte de seu trabalho pelo Remote Desktop em seu servidor, usando qualquer PC disponível, de seu laptop a estações de trabalho em seus clientes.
Provavelmente não é adequado para jogos, no entanto.