Definitivamente, vá com o OpenSolaris para o seu NAS. Muitas opções, e o ZFS não pode ser superado.
Para a virtualização, posso pensar em duas opções em primeiro lugar:
- Use o VirtualBox no OpenSolaris. Já percorreu um longo caminho, e lembro-me de ver algo sobre um utilitário de gerenciamento baseado na Web para gerenciar convidados sem cabeça. Ah, achei: VBoxWeb
- Se você precisar usar o VMWare, obtenha uma segunda caixa dedicada como um hipervisor da VM, use a caixa OpenSolaris como SAN e exporte o armazenamento da VM via iSCSI.
Eu sugeriria executar o armazenamento e o hipervisor como caixas físicas separadas de qualquer forma, caso contrário, o desempenho será prejudicado. O ZFS gosta de muita RAM.
O OpenSolaris ainda não tem uma instalação "mínima", mas eles estão trabalhando nisso: OpenSolaris 2009.06 JeOS Prototype . A abordagem que a maioria dos administradores tomou até agora foi apenas remover o que eles não queriam após a conclusão da instalação.