NexentaStor pode ser a melhor escolha do que você mencionou. Há um limite de armazenamento de 18 TB. Você pode configurar e apresentar volumes via iSCSI. O RAIDZ do ZFS é um RAID5 parecido com o RAID de paridade , mas se encaixa melhor no modelo de proteção de dados do ZFS.
Edit: Além disso, você não especificou quantos servidores ESXi você está tentando acomodar com esta unidade de armazenamento. Parece que você está tentando usar isso com um único host ESXi. Se for esse o caso, você pode ser mais bem servido usando discos locais e um controlador RAID de hardware em seu servidor ESXi do que adicionando uma solução de armazenamento compartilhado.