Eu não acho que você pode atualizar diretamente do Nexenta do Solaris 11 Express, já que eles têm diferentes usuários.
Reinstalar com o Solaris 11 Express e importar o pool deve funcionar. Eu não acho que a Nexenta tenha feito nenhuma alteração incompatível neste momento.
Tenha em atenção que actualizar o seu conjunto depois da instalação do Solaris 11 Express não lhe permitirá voltar à Nexenta (uma vez que não suporta versões mais recentes do conjunto do ZFS).