Você está executando o OpenSolaris como uma VM porque deseja o ZFS? Se assim for, há algumas opções para o Linux que você poderia tentar.
Uma possível opção já foi mencionada, que é o projeto ZFS FUSE. Eu usei isso em conjunto com o ESXi e descobri que ao combiná-lo com um alvo iSCSI, ele fica um pouco lento demais para um desempenho realmente bom. Para mim, a VMware reclamou muito sobre a latência crescente entre o servidor e o destino de armazenamento.
Sua outra opção é um projeto iniciado por um grupo no Lawrence Livermore National Labs. Eles estão no processo de portar o ZFS para os módulos nativos do kernel do Linux . Eu também usei isso depois de ter problemas com o equivalente do FUSE.
Eu tenho que dizer que não está completo, mas tinha todos os feauters que eu precisava (raid e dedup). Atualmente eles são até v0.6.0-RC9, que é baseado no ZFS pool v28 e no FS v5.
Não sei ao certo onde o OpenSolaris está atualmente na versão do ZFS.
O benefício de executar o ZFS como módulo de kernel nativo é que você pode acessar vdisks do ZFS como dispositivos de bloco nativo dentro do Linux, o que significa que você pode formatar o disco inteiro com o ZFS em vez de formatá-lo para poder armazenar a VM vdisk em cima disso. Desta forma, deve proporcionar um melhor desempenho.
Um aviso que encontrei depois de pouca pesquisa, O ZFS no Linux NÃO É BOOTABLE sem um pouco de trabalho . O link que eu incluí é para o Ubuntu no qual eu tive sucesso no passado.
Quanto ao que fazer com as VMs, você tem algumas opções, como mencionou. Eu pessoalmente executo um servidor ESXi e VMware Workstation . Isso realmente se resume ao que você planeja fazer com a VM, por exemplo, a Multimídia funcionará melhor no VMware Workstation.
A virtualização direta desses servidores de hospedagem funcionará melhor no ESXi, pois foi praticamente criada para esse propósito e, por isso, tem alguns requisitos de hardware exigentes. Nem tudo é suportado pelo ESXi.
Se você estiver usando a virtualização para alcançar um ambiente de desenvolvimento de várias plataformas, eu irei com a VMware Workstation apenas $ 199 e $ 80 de desconto se você for estudante.
Espero que isso ajude um pouco.