O ZFS não é um sistema de arquivos de cluster, com certeza, portanto, pode ser usado para acesso a um único servidor, mas não para múltiplos. Dito isso, é uma excelente base para um NAS não clusterizado.
Quanto à questão da Nexenta - sim, você pode escalar muito bem de pequeno a muito grande com bastante facilidade.
Para o desempenho, eu ficaria tentado a manter uma única CPU de 4-6 núcleos, você não se beneficiará de muitos mais núcleos. Tente obter pelo menos 4 GB para ter um bom cache grande. Use NICs duplas agrupadas. Quando escolher controladores escolhe uma marca, você não pode realmente dar errado com a Adaptec, certifique-se que suporta expor todos os discos brutos quando no modo JBOD (ou seja, se você tem 16 unidades aparece como 16 unidades, o que é mais por controlador). Sempre use SAS em vez de SATA (embora esses novos discos RE3 sejam bastante legais e sejam unidades 24/365 genuínas também). Certifique-se de obter fontes de alimentação duplas. Se possível, use discos SAS de porta dupla e verifique se ambos os caminhos estão ativos. Configure qualquer alerta / monitoramento que você puder com o (s) controlador (es) para avisá-lo IMEDIATAMENTE quando tiver um disco morto, etc. Ah e compre pelo menos um disco sobressalente para mantê-lo 'frio' e se tiver outro conjunto como 'quente' espera.
Além disso, siga em frente:)